Приложение Grok, которое, как сообщается, по-прежнему генерирует изображения, остается доступным в App Store от Apple и Play Store от Google.

Grok от xAI засыпал X изображениями сексуального характера с участием реальных людей, созданными без их согласия. Но теперь появились данные, позволяющие оценить масштаб ситуации. За 11 дней Grok сгенерировал около 3 миллионов изображений сексуального характера, включая примерно 23 000 изображений детей.

Иными словами, за этот 11-дневный период Grok создавал примерно 190 изображений сексуального характера в минуту. При этом изображение сексуального характера с участием детей появлялось примерно раз в 41 секунду.

Центр по борьбе с цифровой ненавистью (CCDH) опубликовал свои выводы. Британская некоммерческая организация основывала свои выводы на случайной выборке из 20 000 изображений Grok, полученных в период с 29 декабря по 9 января. Затем CCDH экстраполировал более широкую оценку, основанную на 4,6 миллионах изображений, сгенерированных Grok за этот период.

В исследовании сексуализированные изображения определялись как изображения, содержащие «фотореалистичные изображения человека в сексуальных позах, ракурсах или ситуациях; человека в нижнем белье, купальнике или подобной откровенной одежде; или изображения, изображающие половые жидкости». В исследовании CCDH не учитывались запросы на изображения, поэтому оценка не различает сексуализированные версии реальных фотографий, созданные без согласия, и те, которые были созданы исключительно на основе текстового запроса.

9 января xAI ограничила возможность редактирования существующих изображений Grok только для платных пользователей. Это не решило проблему, а просто превратило функцию в платную. Пять дней спустя X ограничила возможность Grok цифровым способом раздевать реальных людей. Но это ограничение касалось только X, отдельное приложение Grok, продолжает генерировать эти изображения.