Законопроект Калифорнии, направленный на предотвращение катастроф, связанных с ИИ, под номером SB 1047, столкнулся с серьезным сопротивлением от различных сторон в Кремниевой долине. В результате этого давления законодатели Калифорнии внесли несколько поправок, предложенных компанией Anthropic и другими оппонентами.
15 августа Комитет по ассигнованиям Калифорнии утвердил законопроект, что является значительным шагом к его принятию, при этом были внесены ключевые изменения. «Мы приняли ряд весьма разумных предложенных поправок и, на мой взгляд, устранили основные опасения, высказанные Anthropic и другими представителями отрасли», — заявил сенатор Винер.
Хотя SB 1047 всё ещё нацелен на предотвращение массовых жертв и крупных событий, связанных с кибербезопасностью, стоимостью более $500 миллионов, законопроект теперь предоставляет правительству Калифорнии меньше полномочий для привлечения лабораторий ИИ к ответственности.
Конкретно, законопроект больше не позволяет генеральному прокурору Калифорнии подавать в суд на ИИ-компании за халатность, пока не произойдёт катастрофическое событие. Это изменение предложила компания Anthropic. Вместо этого генеральный прокурор может ходатайствовать о судебном запрете, требуя от компании прекратить опасные действия, и остаётся возможность подачи иска, если их модели вызовут катастрофу.
Законопроект также убирает создание нового агентства под названием Frontier Model Division (FMD). Однако, он продолжает формирование совета Board of Frontier Models, который будет действовать в составе существующего агентства Government Operations Agency. Совет был расширен до девяти членов, и он будет устанавливать пороговые значения вычислительной мощности для моделей, выпускать рекомендации по безопасности и правила для аудиторов.
Сенатор Винер также внес изменения в SB 1047, убирая обязанность лабораторий ИИ предоставлять сертификаты испытаний на безопасность под угрозой наказания за дачу ложных показаний. Теперь они должны публиковать «заявления», описывающие их методы обеспечения безопасности, без уголовной ответственности.
Законопроект также смягчает требования к безопасности, требуя от разработчиков проявлять «разумную осторожность», вместо «разумной гарантии», как это было в первоначальной версии.
Дополнительно, были добавлены защитные меры для моделей с открытым исходным кодом. Если менее $10 миллионов было потрачено на их доработку, они не будут считаться разработчиками по SB 1047. Ответственность остается на изначальных, более крупных разработчиках моделей.
Несмотря на значительное противодействие со стороны американских конгрессменов, исследователей ИИ, технологических гигантов и венчурных капиталистов, SB 1047 относительно легко прошел через законодательный орган Калифорнии. Поправки, вероятно, удовлетворят оппонентов SB 1047, предоставив губернатору Ньюсому более приемлемый документ для подписания без утраты поддержки ИИ-индустрии.
В то время как Ньюсом публично не высказывался о SB 1047, ранее он заявлял о своей приверженности инновациям в сфере ИИ в Калифорнии.
Компания Anthropic изучает изменения в SB 1047, прежде чем занять окончательную позицию. Не все предложенные ими поправки были приняты сенатором Винером.
«Цель законопроекта SB 1047 всегда заключалась в повышении безопасности ИИ при сохранении возможности для инноваций. Новые поправки поддерживают эту цель», — отметил Натан Кэлвин, старший политический советник Центра действий по безопасности ИИ.
Тем не менее, эти изменения вряд ли успокоят яростных критиков SB 1047. Хотя он стал менее строгим, SB 1047 по-прежнему возлагает на разработчиков ответственность за опасности их моделей ИИ. Этот основной аспект вызывает разногласия, и корректировки не решают их.
«Эти изменения — просто вывеска. Они не решают фундаментальных проблем или критику по поводу законопроекта», — написал в Twitter партнер Andreessen Horowitz Мартин Касадо.
Несколько минут после утверждения SB 1047 конгрессмены США, представляющие Калифорнию, обратились к губернатору Ньюсому с просьбой наложить вето на законопроект. Они заявили, что законопроект «не принесёт пользы нашему штату, стартап-сообществу, научным исследованиям или защите от вреда, связанного с разработкой ИИ».
Законопроект SB 1047 будет передан в Ассамблею Калифорнии для финального голосования. Если он будет одобрен Ассамблеей, его вернут в Сенат Калифорнии для голосования с учётом последних поправок. Если обе палаты его примут, документ отправится на подпись к губернатору Ньюсому, который может как наложить вето, так и утвердить его.
Источник: iXBT
