Губернатор Калифорнии Гэвин Ньюсом отклонил законопроект, который мог бы стать одной из самых комплексных политик по регулированию безопасности искусственного интеллекта в США.
Предложенный закон мог бы стать первым, который привлекал бы разработчиков ИИ к ответственности за серьёзный ущерб, причинённый их технологиями. Однако Ньюсом назвал законопроект «благонамеренным», но подчеркнул, что он установил бы «чрезмерные стандарты даже для самых базовых функций». Регулирование, по его словам, должно основываться на «этих данных и научных исследованиях».
Законопроект SB 1047, предложенный сенатором-демократом из Калифорнии Скоттом Винером, требовал бы от компаний, разрабатывающих мощные модели ИИ, предпринимать разумные меры предосторожности, чтобы их технологии не нанесли «существенного вреда», включая массовые жертвы или материальный ущерб свыше $500 миллионов. Компании должны были бы использовать «аварийный выключатель», чтобы иметь возможность отключить свои технологии. Кроме того, модели ИИ подлежали бы стороннему тестированию для минимизации серьёзных рисков.
Законопроект также предусматривал бы защиту информаторов среди сотрудников компаний ИИ, желающих сообщить о проблемах безопасности. Компании, нарушающие закон, могли бы быть привлечены к ответственности генеральным прокурором Калифорнии.
Сторонники законопроекта утверждали, что он установил бы разумные правовые стандарты. Однако венчурные капиталисты, стартапы и компании вроде OpenAI предупреждали, что закон замедлит инновации и вытеснит ИИ-компании из штата. Джейсон Квон, директор по стратегии OpenAI, утверждал, что законопроект «может воспрепятствовать росту, замедлить инновации и заставить ведущих инженеров и предпринимателей покинуть Калифорнию в поисках лучших возможностей в других местах».
Многие законодатели, включая бывшего спикера палаты представителей Нэнси Пелоси, представителя Ро Ханну и мэра Сан-Франциско Лондона Брида, также выразили своё несогласие, опасаясь, что законопроект может помешать лидерству Калифорнии в области ИИ.
Законопроект получил поддержку некоторых видных деятелей технологической сферы, включая Илона Маска, который выразил свою поддержку, хотя и назвал это «сложным решением, которое разочарует некоторых людей». Конкурент OpenAI, компания Anthropic, известная своей ориентацией на безопасность, заявила, что «преимущества законопроекта, вероятно, перевешивают его недостатки», хотя некоторые аспекты остаются «вызывающими беспокойство или спорными».
Винер защищал законопроект, подчеркивая, что его положения касаются только компаний, которые тратят более $100 миллионов на обучение больших моделей или $10 миллионов на «тонкую настройку моделей», — требования, исключающие большинство малых стартапов. Он также отметил, что Конгресс исторически медленно реагирует на необходимость регулирования технологий.
Объявляя о своём вето, Ньюсом заявил, что он будет консультироваться с внешними экспертами, включая специалиста по искусственному интеллекту и предпринимателя Фэй-Фэй Ли, чтобы «разработать эффективные защитные меры» для технологий и продолжить работу с законодательным собранием штата по этому вопросу. Фэй-Фэй Ли — китайско-американский учёный, специалист в области компьютерного зрения и искусственного интеллекта, директор Стэнфордского института ИИ (SAIL) и профессор компьютерных наук в Стэнфордском университете, одна из самых цитируемых учёных в области ИИ и получательница множества наград, включая премию ACM Prize in Computing и премию IEEE Computer Society Technical Achievement Award.
В воскресенье губернатор подписал законопроект SB 896, регулирующий использование ИИ государственными учреждениями.
Источник: iXBT
