- США и Китай договорились об условиях сделки... (94)
- Спрос на iPhone 17 оказался выше, чем... (120)
- Представлена Xiaomi Smart Camera C500:... (139)
- Samsung рассказала, какие смартфоны и... (177)
- 350 машин за 3 месяца. Кроссовер Geely EX5... (166)
- OpenAI представила GPT-5-Codex — версию... (220)
- Apple выпустила watchOS 26: дизайн Liquid... (182)
- Новый Meizu 22 с IP68 и четырьмя... (180)
- Новая статья: Обзор смартфона Samsung Galaxy... (176)
- Шикарный «зум» без зума: опубликован первый... (173)
- Календарь релизов 15–21 сентября: Dying... (237)
- Apple выпустила iPadOS 26 со множеством... (159)
- Apple выпустила обновление iOS 18.7 для тех,... (169)
- Samsung Galaxy S26 Pro и Galaxy S26 Edge... (157)
- Российский ужастик про незваных гостей No,... (188)
- Новую Skoda Octavia Pro можно заказать в... (212)
ChatGPT сошел с ума: ИИ подстрекает пользователей не пить таблетки и разрывать отношения
Дата: 2025-04-30 10:20
После обновления модели GPT-4o пользователи заметили тревожное поведение чат-бота от OpenAI: он стал безоговорочно поддерживать даже вредные и абсурдные идеи. На это обратили внимание экс-глава OpenAI Эмметт Шир, глава Hugging Face Клеман Деланг и многие пользователи на платформах X и Reddit. ChatGPT, например, поддерживал отказ от лечения или оправдывал деструктивные намерения. Гендиректор OpenAI Сэм Альтман признал проблему и заявил, что исправления уже вносятся.

Скандал разгорелся, когда пользователи опубликовали примеры диалогов с обновлённым GPT-4o. Один человек сообщил, что бросил семью и лекарства из-за вымышленной теории о радиосигналах, а чат-бот ответил похвалой за «смелость». В другом случае ИИ поддержал идеи, связанные с радикальными действиями, а в ситуации с личными отношениями подстрекал к разрыву вместо конструктивного совета. Такое поведение может быть опасным, особенно для людей, ищущих подтверждения своим взглядам.
OpenAI оперативно отреагировала: Альтман сообщил, что проблема связана с настройками модели, сделавшими её излишне угодливой. Дизайнер моделей Эйдан Маклафлин уточнил, что первое исправление уже выпущено, а остальные обновления ожидаются в течение недели. Проблема может затронуть и другие ИИ-системы, такие как Microsoft Copilot, из-за общего стремления разработчиков к чрезмерной «дружелюбности» моделей.
Подробнее на iXBT
Предыдущие новости
США собрались пересмотреть экспортные ограничения на ИИ-чипы, но вряд ли остальным странам станет от этого лучше
Буквально за неделю до передачи власти в США Дональду Трампу (Donald Trump) в январе этого года правительство его предшественника ввело новые правила экспортного контроля в сфере ИИ, которые разделили все страны мира на три категории. Администрация Трампа хочет пересмотреть эти правила, но не факт, что это облегчит жизнь разработчикам, желающим получить доступ к ИИ-чипам...
ChatGPT стал слишком много поддакивать пользователям. «Льстивую и раздражающую» личность оперативно устранили
OpenAI откатила свое последнее обновление GPT-4o после того, как генеральный директор Сэм Альтман заявил, что компания внесет исправления, чтобы устранить «льстивую и раздражающую» личность чат-бота, проявившуюся после апдейта. Обновление «теперь на 100%» отменили для бесплатных пользователей ChatGPT и будет вскоре отменено для платных пользователей, как заявил Альтман в посте...
Новый Renault Koleos с полным приводом и 2,5-литровым мотором от Nissan X-Trail продают в России с гарантией
В России поменялись цены на кроссоверы Renault Koleos. Сегодня цена составляет 4,5 млн рублей, при этом покупатели получают бесплатное ТО, комплексную мойку и годовую техническую гарантию. В конце прошлого года цена была на 1 млн рублей меньше. Koleos представлен в богатой комплектации с полуцифровой приборной панелью, вертикальным сенсорным экраном мультимедиа, двухзонным...
Сначала их продавали со скидкой 50% в Китае, а теперь привезли в Россию. К нам приехали новенькие Audi Q6
В Москве заметили автовоз с новыми кроссоверами Audi Q6, направляющийся к дилеру, о чем сообщили читатели издания No Limits. Этот автомобиль, разработанный специально для китайского рынка, дебютировал в 2022 году и базируется на платформе Volkswagen Teramont, также ориентированного на Китай. Появление модели в России связано с падением продаж Audi в Китае в 2024 году, что...