Компания OpenAI объявила о создании нового экспертного совета — Expert Council on Well-being and AI, задачей которого станет консультирование по вопросам психического и эмоционального благополучия пользователей при взаимодействии с искусственным интеллектом. В совет вошли восемь исследователей и специалистов, работающих на стыке технологий и ментального здоровья, включая экспертов, участвовавших в разработке родительских контролей для ChatGPT.

Инициатива возникла на фоне растущих опасений по поводу безопасности, особенно для молодых пользователей — в последнее время несколько судебных процессов ставят под вопрос роль ИИ в трагических случаях, связанных с суицидами подростков, которые обсуждали свои планы с чатботами.

Хотя совет будет регулярно консультировать компанию и предлагать рекомендации по разработке более безопасных и ответственных систем, OpenAI подчёркивает, что не передаёт ему полномочия принимать решения: «Мы остаёмся ответственными за свои решения, но будем продолжать учиться у совета и других специалистов для создания ИИ, поддерживающего благополучие людей».

Эффективность совета будет зависеть от того, насколько серьёзно OpenAI воспримет его рекомендации, ведь опыт других компаний показывает, что консультативные органы иногда создаются «для галочки».

Создание такого совета демонстрирует растущую обеспокоенность индустрии ИИ вопросами этики, безопасности и психологических рисков, а также желание двигаться к более ответственному развитию технологий.