Губернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект, который мог бы стать одной из самых всеобъемлющих политик, регулирующих безопасность искусственного интеллекта в США.

Законопроект мог быть одним из первых, который привлекал разработчиков ИИ к ответственности за любой серьёзный вред, причинённый их технологиями. Однако Ньюсом охарактеризовал законопроект как «благонамеренный», но отметил, что он применил бы «строгие стандарты даже к самым базовым функциям». Регулирование должно основываться на «эмпирических данных и науке», сказал он.

Законопроект SB 1047 был представлен сенатором-демократом от Калифорнии Скоттом Винером и обязывал бы компании, разрабатывающие мощные модели ИИ, проявлять разумную осторожность, чтобы гарантировать, что их технологии не нанесут «серьёзного вреда», например, массовых жертв или ущерба имуществу свыше $500 миллионов. Компаниям пришлось бы принимать особые меры предосторожности, включая наличие «аварийного выключателя», который мог бы «отключить» их технологии. Модели ИИ также подвергались бы стороннему тестированию, чтобы гарантировать, что они минимизируют серьёзный риск.

Законопроект также создал бы защиту осведомителей для сотрудников компаний ИИ, которые хотели бы поделиться проблемами безопасности. Компании, не соблюдающие законопроект, могли бы быть привлечены к ответственности генеральным прокурором Калифорнии.

Сторонники законопроекта заявили, что он создал бы правовые стандарты здравого смысла. Однако венчурные инвесторы, руководители стартапов и компании вроде OpenAI предупредили, что это замедлит инновации и вытеснит компании ИИ из штата. Джейсон Квон, директор по стратегии OpenAI, написал, что законопроект «поставит под угрозу рост, замедлит темпы инноваций и заставит инженеров и предпринимателей мирового класса Калифорнии покинуть штат в поисках больших возможностей в другом месте».

Законодатели, включая бывшего спикера палаты представителей Нэнси Пелоси, представителя Ро Ханну и мэра Сан-Франциско Лондона Брида, также высказали несогласие, разделяя опасения технологической отрасли о том, что законопроект может помешать лидерству Калифорнии в области инноваций в области ИИ.

Законопроект получил поддержку от некоторых известных имён в сфере технологий, включая Илона Маска, который выразил свою поддержку, хотя он сказал, что это «сложный выбор, который расстроит некоторых людей». Конкурент OpenAI, Anthropic, имеющий репутацию компании, ориентированной на безопасность, заявил, что «преимущества законопроекта, вероятно, перевешивают его издержки», хотя компания заявила, что некоторые аспекты остаются «вызывающими беспокойство или неоднозначными для нас».

Винер защищал законопроект, подчёркивая, что его положения применяются только к компаниям, которые тратят более $100 миллионов на обучение больших моделей или $10 миллионов на «тонкую настройку моделей», — ограничения, которые исключают большинство небольших стартапов. Законодатель также отметил, что Конгресс исторически медленно регулировал саму технологию.

Объявляя о своем вето, Ньюсом сказал, что он проконсультируется с внешними экспертами, включая специалиста по искусственному интеллекту и предпринимателя Фэй-Фэй Ли, чтобы «разработать работоспособные защитные ограждения» для этой технологии и продолжить работу с законодательным собранием штата по этой теме. Фэй-Фэй Ли — китайско-американский учёный, специалист в области искусственного интеллекта и компьютерного зрения, директор Стэнфордского института искусственного интеллекта (SAIL) и профессор компьютерных наук в Стэнфордском университете, также она является одной из наиболее цитируемых учёных в области компьютерного зрения и искусственного интеллекта и получила несколько наград за свои достижения, включая премию ACM Prize in Computing и премию IEEE Computer Society Technical Achievement Award.

В воскресенье губернатор подписал законопроект SB 896, который регулирует использование ИИ государственными учреждениями.