Искусственный интеллект (ИИ) стремительно развивается, и это вызывает серьёзные опасения у ведущих учёных. 7 февраля 2025 года, в преддверии AI Action Summit в Париже — глобального саммита по технологиям ИИ в Париже выдающийся канадский учёный в области искусственного интеллекта и машинного обучения Йошуа Бенжио (Yoshua Bengio) предупредил о потенциально «вредных» последствиях гонки технологических гигантов за созданием всё более мощных систем искусственного интеллекта. 

Бенжио, лауреат престижной премии Тьюринга 2018 года, представил первый в истории Международный отчёт о безопасности ИИ в парижском университете ENS. Он обратил внимание на уже широко признанные риски использования ИИ, такие как создание фальшивого или вводящего в заблуждение контента. Однако профессор Монреальского университета подчеркнул, что «постоянно появляются доказательства дополнительных рисков, таких как биологические атаки или кибератаки».

В долгосрочной перспективе Бенжио опасается возможной «потери контроля» человека над системами ИИ, которые потенциально могут быть мотивированы «собственным желанием выжить». Появление в прошлом месяце недорогой и высокопроизводительной китайской модели ИИ DeepSeek «ускорило гонку, что не способствует безопасности», добавил учёный.

Бенжио призвал к более жёсткому международному регулированию и более обширным исследованиям в области безопасности ИИ, которые в настоящее время составляют «крошечную долю» от массивных инвестиций, вкладываемых в этот сектор. «Без вмешательства правительства я не знаю, как мы справимся с этим», – заявил он.

США, по-прежнему являющиеся ведущей страной в области ИИ, отказались от попытки бывшего президента Джо Байдена ввести некоторые правила развития после инаугурации Дональда Трампа. Когда два года назад ChatGPT от OpenAI ворвался на публичную сцену, Бенжио почувствовал «срочность размышлений о вопросе безопасности». Он представил отчёт, разработанный по образцу уже знакомых документов Межправительственной группы экспертов по изменению климата (МГЭИК).

«Больше всего меня пугает возможность того, что человечество может исчезнуть в течение 10 лет. Это ужасает. Я не понимаю, почему больше людей не осознают этого», – сказал учёный.

Около 100 экспертов из 30 стран, представители ООН, Европейского Союза и международной Организации экономического сотрудничества и развития внесли свой вклад в отчёт под руководством Бенжио, опубликованный в конце января. Работа над ним началась на предыдущем саммите по безопасности ИИ в Великобритании в ноябре 2023 года.