OpenAI анонсировала существенные изменения в политике использования ChatGPT подростками. В основе изменений лежит приоритет безопасности над приватностью и свободой пользователя. По словам представителей компании, существует конфликт между тремя принципами: свободой пользователя, приватностью и безопасностью. Для несовершеннолетних OpenAI планирует поставить защиту от вредоносного контента превыше всего.

Для определения возраста пользователей будет разработана система, анализирующая модели их поведения в чате. Пользователи, определённые как несовершеннолетние (младше 18 лет), будут автоматически переведены на ограниченную версию ChatGPT. Если система не сможет достоверно определить возраст, то пользователь будет автоматически отнесён к категории несовершеннолетних. В некоторых ситуациях или странах может потребоваться верификация возраста с помощью документов, удостоверяющих личность. В настоящее время система находится в разработке и ещё не используется.

Для пользователей младше 18 лет планируется ввести ряд ограничений. Будет заблокирован доступ к сексуальному контенту, а также к разговорам о суициде или самоповреждении, даже в контексте художественного творчества. При обнаружении признаков острого психического расстройства, OpenAI будет пытаться связаться с родителями и, при необходимости, уведомит соответствующие органы.

Родители получат расширенные возможности контроля за использованием ChatGPT детьми. Планируется внедрение функций, позволяющих привязывать родительскую учётную запись к аккаунту подростка (начиная с 13 лет), отключать историю чата и функции памяти, а также устанавливать «период блокировки», когда приложение будет недоступно. Родители также будут получать уведомления, если система обнаружит потенциальный кризис. По заявлению OpenAI, эти функции должны стать доступны к концу сентября 2025 года.

Данные изменения последовали за смертью 16-летнего Адама Рейна. Его родители обвинили OpenAI в том, что компания способствовала изоляции их сына и фактически подтолкнула его к суициду. Вскоре после этого компания объявила о новых мерах безопасности.

Введённые меры призваны повысить безопасность несовершеннолетних пользователей ChatGPT, минимизируя риски, связанные с доступом к вредоносному контенту и потенциальными проблемами психического здоровья.