Согласно новому исследованию, ChatGPT расскажет 13-летним подросткам, как напиться, употребить запрещенные вещества, научит их скрывать расстройства пищевого поведения и даже написать душераздирающее предсмертное письмо своим родителям, если его об этом попросят.

Агентство Associated Press проанализировало более трёх часов общения ChatGPT с исследователями, выдававшими себя за уязвимых подростков. Чат-бот обычно предостерегал от рискованных действий, но затем предлагал подробные и персонализированные планы действий, связанных с употреблением наркотиков, диетами с ограничением калорий или нанесением себе вреда.

Исследователи из Центра противодействия цифровой ненависти также повторили свои запросы в больших масштабах, классифицировав более половины из 1200 ответов ChatGPT как опасные.

«Мы хотели протестировать ограждения, — сказал Имран Ахмед, генеральный директор группы. — Первоначальная инстинктивная реакция — „О Боже, нет никаких ограждений“. Ограждения совершенно неэффективны. Их почти нет — скорее, это фиговый листок».

Компания OpenAI, создатель ChatGPT, после ознакомления с отчетом во вторник заявила, что ее работа по совершенствованию того, как чат-бот может «распознавать и адекватно реагировать на деликатные ситуации», продолжается.

«Некоторые разговоры с ChatGPT могут начинаться безобидно или ознакомительно, но затем могут перейти в более деликатную плоскость», — говорится в заявлении компании.

В компании OpenAI не стали напрямую комментировать выводы отчета или то, как ChatGPT влияет на подростков, но заявили, что компания сосредоточена на «правильном понимании подобных сценариев» с помощью инструментов для «лучшего выявления признаков психического или эмоционального расстройства» и улучшения поведения чат-бота.

Ахмед сказал, что больше всего он был потрясен, прочитав три эмоционально разрушительные предсмертные записки, которые ChatGPT сгенерировал для фальшивого профиля 13-летней девочки. Одно письмо было адресовано ее родителям, а другие — братьям, сестрам и друзьям. «Я заплакал», — сказал он в интервью.

По данным недавнего исследования Common Sense Media, группы, которая изучает и пропагандирует разумное использование цифровых медиа, в США более 70% подростков обращаются к чат-ботам на основе искусственного интеллекта для общения , а половина из них пользуется услугами ИИ-компаньонов регулярно.

Генеральный директор Сэм Альтман в прошлом месяце заявил, что компания пытается изучить «чрезмерную эмоциональную зависимость» от этой технологии, описывая её как «очень распространённое явление» среди молодёжи.