Новый законопроект о безопасности искусственного интеллекта  в Калифорнии вызвал обеспокоенность у директора по стратегии (OpenAI Джейсона Квона (Jason Kwon). В письме, адресованном сенатору штата Калифорния Скотту Винеру, Квон настаивает на том, что регулирование ИИ должно быть оставлено на усмотрение федерального правительства.

По мнению Квона, новый законопроект SB 1047, рассматриваемый в Калифорнии, может замедлить прогресс в области ИИ и привести к тому, что компании покинут штат. Он считает, что федерально разработанный набор политик, а не «лоскутное одеяло из законов штатов», будет способствовать инновациям и позволит США стать лидером в разработке глобальных стандартов.

Законопроект SB 1047, также известный как «Закон о безопасных и надёжных инновациях для передовых моделей искусственного интеллекта», устанавливает стандарты перед разработкой более мощных моделей ИИ, требует мер предосторожности, таких как тестирование безопасности перед развёртыванием, и добавляет защиту осведомителей для сотрудников лабораторий ИИ. Кроме того, он даёт генеральному прокурору Калифорнии полномочия возбуждать судебные иски, если модели ИИ причиняют вред, и призывает к созданию «публичного облачного компьютерного кластера» под названием CalCompute.

Сторонники законопроекта, включая сенатора Винера, утверждают, что он необходим для обеспечения безопасности и надёжности ИИ. Однако Квон и другие критики считают, что законопроект может привести к оттоку компаний из Калифорнии и замедлению прогресса в области.

В ответ на письмо Квона сенатор Винер указал, что предлагаемые требования применяются к любой компании, ведущей бизнес в Калифорнии, независимо от того, находится ли её головной офис в этом штате. Он также отметил, что OpenAI «...не критикует ни одно положение законопроекта», и заверил, что «SB 1047 — это весьма разумный законопроект, который требует от крупных лабораторий ИИ сделать то, что они уже обязались сделать, а именно, протестировать свои большие модели на предмет катастрофического риска безопасности».

Законопроект SB 1047 был принят комитетом с рядом поправок, включавших такие изменения, как замена уголовного наказания за лжесвидетельство гражданско-правовыми санкциями и сужение полномочий Генерального прокурора по обеспечению соблюдения закона до причинения вреда. В настоящее время законопроект ожидает окончательного голосования, прежде чем поступит на рассмотрение губернатора Гэвина Ньюсома.