Законопроект Калифорнии о предотвращении катастроф ИИ, SB 1047, столкнулся со значительным сопротивлением со стороны многих партий в Кремниевой долине. Однако законодатели Калифорнии немного уступили этому давлению, добавив несколько поправок, предложенных фирмой ИИ Anthropic и другими оппонентами.

15 августа законопроект был принят Комитетом по ассигнованиям Калифорнии, что является важным шагом на пути к принятию закона, с несколькими ключевыми изменениями. «Мы приняли ряд очень разумных предложенных поправок, и я считаю, что мы устранили основные опасения, высказанные Anthropic и многими другими в отрасли» , — сказал сенатор Винер.

Законопроект SB 1047 по-прежнему нацелен на предотвращение гибели большого количества людей крупными системами ИИ или возникновения событий кибербезопасности, которые обходятся более чем в $500 миллионов, путём привлечения разработчиков к ответственности. Однако законопроект теперь предоставляет правительству Калифорнии меньше полномочий для привлечения лабораторий ИИ к ответственности. 

В частности, законопроект больше не позволяет генеральному прокурору Калифорнии подавать в суд на компании ИИ за халатность в вопросах безопасности до того, как произойдёт катастрофическое событие. Это было предложение от Anthropic. Вместо этого генеральный прокурор Калифорнии может ходатайствовать о судебном запрете, потребовав от компании прекратить определённую операцию, которую считает опасной, и по-прежнему может подать в суд на разработчика ИИ, если его модель действительно станет причиной катастрофического события.

Кроме того, законопроект SB 1047 больше не создаёт Frontier Model Division (FMD), новое правительственное агентство, ранее включенное в законопроект. Однако законопроект по-прежнему создает Board of Frontier Models — ядро FMD — и помещает их в существующее Government Operations Agency. Фактически, совет теперь больше, в него входит девять человек вместо пяти. Board of Frontier Models по-прежнему будет устанавливать пороговые значения вычислений для охватываемых моделей, выпускать руководство по безопасности и выпускать правила для аудиторов.

Сенатор Винер также внёс поправки в законопроект SB 1047, согласно которым лаборатории ИИ больше не обязаны предоставлять сертификаты результатов испытаний на безопасность «под страхом наказания за лжесвидетельство». Теперь эти лаборатории ИИ просто обязаны предоставлять публичные «заявления», описывающие их методы обеспечения безопасности, но законопроект больше не предусматривает уголовной ответственности.

Законопроект SB 1047 теперь также включает более мягкие формулировки о том, как разработчики обеспечивают безопасность моделей ИИ. Теперь законопроект требует от разработчиков проявлять «разумную осторожность» в отношении того, чтобы модели ИИ не представляли существенного риска катастрофы, вместо «разумной гарантии», которую требовал законопроект ранее.

Далее законодатели добавили защиту для тонко настроенных моделей с открытым исходным кодом. Если кто-то тратит менее $10 миллионов на тонкую настройку защищённой модели, он не считается разработчиком согласно SB 1047. Ответственность по-прежнему будет лежать на изначальном, более крупном разработчике модели.

Хотя законопроект столкнулся со значительным противодействием со стороны конгрессменов США, известных исследователей ИИ, крупных технологических компаний и венчурных капиталистов, он сравнительно легко прошёл через законодательный орган Калифорнии. Эти поправки, вероятно, умиротворят противников SB 1047 и предоставят губернатору Ньюсому менее спорный законопроект, который он может подписать, не теряя поддержки со стороны индустрии ИИ.

Хотя Ньюсом публично не комментировал законопроект SB 1047, ранее он заявлял о своей приверженности инновациям в области искусственного интеллекта в Калифорнии.

Anthropic сообщила, что изучает изменения SB 1047, прежде чем занять позицию. Не все предложенные Anthropic поправки были приняты сенатором Винером.

«Целью законопроекта SB 1047 является — и всегда было — повышение безопасности ИИ, при этом позволяя инновациям развиваться в экосистеме. Новые поправки будут поддерживать эту цель», — сказал Натан Кэлвин, старший политический советник Центра действий по безопасности ИИ.

Тем не менее, эти изменения вряд ли успокоят ярых критиков SB 1047. Хотя законопроект заметно слабее, чем до этих поправок, SB 1047 по-прежнему возлагает на разработчиков ответственность за опасности их моделей ИИ. Этот основной факт о SB 1047 не поддерживается всеми, и эти поправки мало что делают для его решения.

«Эти правки — просто декорация. Они не затрагивают реальные проблемы или критику законопроекта», — написал в Twitter генеральный партнёр Andreessen Horowitz Мартин Касадо.

Спустя несколько минут после принятия законопроекта SB 1047 восемь членов Конгресса США, представляющих Калифорнию, написали письмо с просьбой к губернатору Ньюсому наложить вето на законопроект SB 1047. Они пишут, что законопроект «не принесёт пользы нашему штату, стартап-сообществу, научному развитию или даже защите от возможного вреда, связанного с разработкой ИИ».

Законопроект SB 1047 теперь направлен в Ассамблею Калифорнии для окончательного голосования. Если он будет принят там, то его нужно будет вернуть в Сенат Калифорнии для голосования из-за последних поправок. Если он будет принят обеими сторонами, то он отправится на стол губернатора Ньюсома, где на него могут наложить вето или подписать в качестве закона.