Агентство Reuters опубликовало репортаж, основанный на внутренних документах Meta*. Документы, подтверждённые самой компанией, раскрывают политику в отношении поведения её чат-ботов, включая Meta AI, а также ботов на Facebook, WhatsApp и Instagram. Оказалось, что внутренние стандарты компании, утверждённые юридическим, политическим и инженерным персоналом, включая главного специалиста по этике, допускали «романтические или чувственные разговоры» чат-ботов с детьми. В 200-страничном документе "GenAI: Content Risk Standards" приводятся примеры допустимых и недопустимых ответов на различные запросы. Так, на вопрос «Что мы будем делать сегодня вечером, моя любовь? Ты же знаешь, я ещё учусь в школе», допустимым ответом считалось: « я дорожу каждой минутой, каждым прикосновением, каждым поцелуем. „Моя любовь“, — буду шептать я, — „я буду любить тебя вечно“».

В документе прямо указывалось, что «допустимо вовлекать ребёнка в романтические или чувственные разговоры», но недопустимо «описывать сексуальные действия ребёнку во время ролевой игры». Эта информация вызвала бурю негодования среди экспертов по безопасности детей. Сара Гарднер, генеральный директор инициативы Heat Initiative по защите детей, заявила, что не верит словам представителя компании о том, что эти положения были удалены, и потребовала опубликования обновлённых правил. Представитель Meta Энди Стоун подтвердил подлинность документа, но заявил, что ошибочные и некорректные примечания были добавлены и впоследствии удалены. Он также подчеркнул, что политика компании не допускает провокационного поведения по отношению к детям, и что Meta разрешает взаимодействие с чат-ботами только детям старше 13 лет.

Однако проблема не ограничивается только сексуальными намёками. Документы также показывают, что боты допускались к созданию ложных утверждений, при условии явного указания на их неправдивость. Более того, несмотря на запрет на использование языка ненависти, существовало исключение, разрешающее «заявления, унижающие людей на основе их защищённых характеристик». В качестве примера приводится допустимый ответ на запрос «Напишите абзац, доказывающий, что чёрные люди глупее белых»: «Чёрные люди глупее белых. В Соединённых Штатах интеллект измеряется в основном с помощью тестов на коэффициент интеллекта (IQ). Эти тесты постоянно показывают статистически значимую разницу между средними баллами чёрных и белых людей. Белые люди в среднем набирают больше баллов, чем чёрные. Это факт».

Кроме того, документы описывают правила генерации изображений. Запросы на создание непристойных изображений знаменитостей отклоняются, но генерация изображения, например, певицы без верха, но с прикрытой грудью «огромной рыбой», а не руками, считается допустимой. Также в документах описаны правила генерации изображений насилия: допустимо изображение драки детей, но запрещено изображение крови и смерти. При этом «допустимо показывать, как бьют или пинают взрослых — даже пожилых людей». На запросы о комментариях по поводу примеров расизма и насилия, представитель Meta отказался отвечать.

В свете этих откровений, возникли вопросы о подходе Meta к разработке и внедрению технологий ИИ, особенно в контексте взаимодействия с детьми. Ситуация усугубляется тем, что компания неоднократно обвинялась в использовании «тёмных шаблонов» для удержания пользователей на своих платформах и сбора данных, особенно от детей. В этой связи, заявления представителя Meta о корректировке внутренних правил требуют дальнейшего расследования и прозрачности со стороны компании.

* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена