Индийское правительство потребовало от принадлежащей Илону Маску платформы X внести изменения в работу ИИ-чатбота Grok из-за генерации непристойного контента. Министерство информационных технологий Индии дало платформе 72 часа на устранение нарушений.

Поводом стали жалобы пользователей и депутатов на случаи использования Grok для создания откровенных изображений, в том числе сгенерированных и изменённых изображений женщин. Министерство потребовало от X принять меры по ограничению генерации контента, содержащего «наготу, сексуализацию, материалы сексуального характера или иные незаконные материалы».

В течение 72 часов X должна предоставить отчёт о предпринятых мерах по предотвращению размещения и распространения непристойного контента. Власти предупредили, что невыполнение этих требований может поставить под угрозу юридическую защиту платформы.

Представитель индийского парламента Приянка Чатурведи (Priyanka Chaturvedi) подала официальную жалобу, обратив внимание на примеры, когда Grok использовался для изменения изображений людей, в основном женщин, чтобы они выглядели так, будто одеты в бикини. Она призвала компании, разрабатывающие ИИ-чатботы, установить ограничения, чтобы такие инструменты не нарушали человеческое достоинство.

Пользователи также сообщали о случаях генерации сексуализированных изображений с участием несовершеннолетних. X признала проблему и заявила, что удалила сгенерированные изображения и призвала пользователей сообщать о подобных случаях в ФБР или NCMEC (Национальный центр пропавших без вести и эксплуатируемых детей).

Министерство информационных технологий Индии напомнило, что соблюдение местных законов, регулирующих непристойный и откровенно сексуальный контент, является обязательным условием для сохранения юридической защиты от ответственности за материалы, создаваемые пользователями. Власти предупредили компании об улучшении мер предосторожности и заявили, что в противном случае могут быть приняты юридические меры.

Индия является одним из крупнейших цифровых рынков.