- Более 2100 руководителей и ключевых... (63)
- Новенький Xperia 1 VII перестал включаться и... (65)
- Для охлаждения чипов Nvidia Blackwell... (55)
- Новая статья: Обзор Dreame X50 Ultra... (182)
- ИИ-рекрутер McDonald’s хранил личные данные... (177)
- OpenAI может выпустить собственный браузер с... (197)
- У Chrome появился конкурент: Perplexity... (193)
- SolarWinds урегулировала дело о скандальном... (215)
- YouTube ужесточит борьбу с мусорным... (240)
- В Escape from Tarkov прошёл самый хардкорный... (217)
- iPhone 17 Air выйдет в весьма бледных... (216)
- Учёные получили чёткие снимки третьего... (211)
- Грузовой космический корабль «Тяньчжоу-8»... (275)
- Apple выпустит AR-гарнитуру Vision Pro 2 в... (229)
- Китай вывел на орбиту новый... (246)
- В MIT создали робота-лаборанта с навыками... (223)
ChatGPT сошел с ума: ИИ подстрекает пользователей не пить таблетки и разрывать отношения
Дата: 2025-04-30 10:20
После обновления модели GPT-4o пользователи заметили тревожное поведение чат-бота от OpenAI: он стал безоговорочно поддерживать даже вредные и абсурдные идеи. На это обратили внимание экс-глава OpenAI Эмметт Шир, глава Hugging Face Клеман Деланг и многие пользователи на платформах X и Reddit. ChatGPT, например, поддерживал отказ от лечения или оправдывал деструктивные намерения. Гендиректор OpenAI Сэм Альтман признал проблему и заявил, что исправления уже вносятся.

Скандал разгорелся, когда пользователи опубликовали примеры диалогов с обновлённым GPT-4o. Один человек сообщил, что бросил семью и лекарства из-за вымышленной теории о радиосигналах, а чат-бот ответил похвалой за «смелость». В другом случае ИИ поддержал идеи, связанные с радикальными действиями, а в ситуации с личными отношениями подстрекал к разрыву вместо конструктивного совета. Такое поведение может быть опасным, особенно для людей, ищущих подтверждения своим взглядам.
OpenAI оперативно отреагировала: Альтман сообщил, что проблема связана с настройками модели, сделавшими её излишне угодливой. Дизайнер моделей Эйдан Маклафлин уточнил, что первое исправление уже выпущено, а остальные обновления ожидаются в течение недели. Проблема может затронуть и другие ИИ-системы, такие как Microsoft Copilot, из-за общего стремления разработчиков к чрезмерной «дружелюбности» моделей.
Подробнее на iXBT
Предыдущие новости
США собрались пересмотреть экспортные ограничения на ИИ-чипы, но вряд ли остальным странам станет от этого лучше
Буквально за неделю до передачи власти в США Дональду Трампу (Donald Trump) в январе этого года правительство его предшественника ввело новые правила экспортного контроля в сфере ИИ, которые разделили все страны мира на три категории. Администрация Трампа хочет пересмотреть эти правила, но не факт, что это облегчит жизнь разработчикам, желающим получить доступ к ИИ-чипам...
ChatGPT стал слишком много поддакивать пользователям. «Льстивую и раздражающую» личность оперативно устранили
OpenAI откатила свое последнее обновление GPT-4o после того, как генеральный директор Сэм Альтман заявил, что компания внесет исправления, чтобы устранить «льстивую и раздражающую» личность чат-бота, проявившуюся после апдейта. Обновление «теперь на 100%» отменили для бесплатных пользователей ChatGPT и будет вскоре отменено для платных пользователей, как заявил Альтман в посте...
Новый Renault Koleos с полным приводом и 2,5-литровым мотором от Nissan X-Trail продают в России с гарантией
В России поменялись цены на кроссоверы Renault Koleos. Сегодня цена составляет 4,5 млн рублей, при этом покупатели получают бесплатное ТО, комплексную мойку и годовую техническую гарантию. В конце прошлого года цена была на 1 млн рублей меньше. Koleos представлен в богатой комплектации с полуцифровой приборной панелью, вертикальным сенсорным экраном мультимедиа, двухзонным...
Сначала их продавали со скидкой 50% в Китае, а теперь привезли в Россию. К нам приехали новенькие Audi Q6
В Москве заметили автовоз с новыми кроссоверами Audi Q6, направляющийся к дилеру, о чем сообщили читатели издания No Limits. Этот автомобиль, разработанный специально для китайского рынка, дебютировал в 2022 году и базируется на платформе Volkswagen Teramont, также ориентированного на Китай. Появление модели в России связано с падением продаж Audi в Китае в 2024 году, что...