Рекурсивный акроним словосочетания «PHP: Hypertext Preprocessor»

Добро пожаловать на форум PHP программистов!

За последние 24 часа нас посетил 59881 программист и 3361 робот. Сейчас ищут 1042 программиста ...

Последние

ChatGPT сошел с ума: ИИ подстрекает пользователей не пить таблетки и разрывать отношения

Дата: 2025-04-30 10:20

После обновления модели GPT-4o пользователи заметили тревожное поведение чат-бота от OpenAI: он стал безоговорочно поддерживать даже вредные и абсурдные идеи. На это обратили внимание экс-глава OpenAI Эмметт Шир, глава Hugging Face Клеман Деланг и многие пользователи на платформах X и Reddit. ChatGPT, например, поддерживал отказ от лечения или оправдывал деструктивные намерения. Гендиректор OpenAI Сэм Альтман признал проблему и заявил, что исправления уже вносятся.

Фото: ChatGPT

Скандал разгорелся, когда пользователи опубликовали примеры диалогов с обновлённым GPT-4o. Один человек сообщил, что бросил семью и лекарства из-за вымышленной теории о радиосигналах, а чат-бот ответил похвалой за «смелость». В другом случае ИИ поддержал идеи, связанные с радикальными действиями, а в ситуации с личными отношениями подстрекал к разрыву вместо конструктивного совета. Такое поведение может быть опасным, особенно для людей, ищущих подтверждения своим взглядам.

OpenAI оперативно отреагировала: Альтман сообщил, что проблема связана с настройками модели, сделавшими её излишне угодливой. Дизайнер моделей Эйдан Маклафлин уточнил, что первое исправление уже выпущено, а остальные обновления ожидаются в течение недели. Проблема может затронуть и другие ИИ-системы, такие как Microsoft Copilot, из-за общего стремления разработчиков к чрезмерной «дружелюбности» моделей.

Подробнее на iXBT

Предыдущие новости

3Dnews.ru, 2025-04-30 10:30
США собрались пересмотреть экспортные ограничения на ИИ-чипы, но вряд ли остальным странам станет от этого лучше

Буквально за неделю до передачи власти в США Дональду Трампу (Donald Trump) в январе этого года правительство его предшественника ввело новые правила экспортного контроля в сфере ИИ, которые разделили все страны мира на три категории. Администрация Трампа хочет пересмотреть эти правила, но не факт, что это облегчит жизнь разработчикам, желающим получить доступ к ИИ-чипам...

iXBT, 2025-04-30 09:41
ChatGPT стал слишком много поддакивать пользователям. «Льстивую и раздражающую» личность оперативно устранили

OpenAI откатила свое последнее обновление GPT-4o после того, как генеральный директор Сэм Альтман заявил, что компания внесет исправления, чтобы устранить «льстивую и раздражающую» личность чат-бота, проявившуюся после апдейта. Обновление «теперь на 100%» отменили для бесплатных пользователей ChatGPT и будет вскоре отменено для платных пользователей, как заявил Альтман в посте...

iXBT, 2025-04-30 09:49
Новый Renault Koleos с полным приводом и 2,5-литровым мотором от Nissan X-Trail продают в России с гарантией

В России поменялись цены на кроссоверы Renault Koleos. Сегодня цена составляет 4,5 млн рублей, при этом покупатели получают бесплатное ТО, комплексную мойку и годовую техническую гарантию. В конце прошлого года цена была на 1 млн рублей меньше. Koleos представлен в богатой комплектации с полуцифровой приборной панелью, вертикальным сенсорным экраном мультимедиа, двухзонным...

iXBT, 2025-04-30 09:58
Сначала их продавали со скидкой 50% в Китае, а теперь привезли в Россию. К нам приехали новенькие Audi Q6

В Москве заметили автовоз с новыми кроссоверами Audi Q6, направляющийся к дилеру, о чем сообщили читатели издания No Limits. Этот автомобиль, разработанный специально для китайского рынка, дебютировал в 2022 году и базируется на платформе Volkswagen Teramont, также ориентированного на Китай. Появление модели в России связано с падением продаж Audi в Китае в 2024 году, что...