Новый законопроект о безопасности искусственного интеллекта в Калифорнии вызвал тревогу у директора по стратегии OpenAI, Джейсона Квона (Jason Kwon). В письме сенатору штата Калифорния Скотту Винеру, Квон утверждает, что регулирование ИИ должно осуществляться на федеральном уровне.
По мнению Квона, законопроект SB 1047, рассматриваемый в Калифорнии, может замедлить развитие ИИ и стать причиной оттока компаний из штата. Он считает, что на федеральном уровне нужно разработать единый набор политик, а не «разрозненные законы штатов», что будет способствовать инновациям и позволит США стать лидером в установлении глобальных стандартов.
Законопроект SB 1047 называется «Законом о безопасных и надёжных инновациях в сфере передовых моделей искусственного интеллекта». Он устанавливает стандарты для разработки более мощных моделей ИИ, требует проведения тестов безопасности перед внедрением и обеспечивает защиту информаторов из ИИ-лабораторий. Законопроект также наделяет Генерального прокурора Калифорнии правом подавать иски, если модели ИИ причиняют вред, и предлагает создание «публичного облачного вычислительного кластера» под названием CalCompute.
Сторонники законопроекта, включая сенатора Винера, утверждают, что он необходим для обеспечения безопасности и надёжности ИИ. Однако Квон и другие критики считают, что закон может привести к уходу компаний из Калифорнии и замедлению прогресса в этой области.
В ответ на письмо Квона сенатор Винер подчеркнул, что предлагаемые требования распространяются на любую компанию, ведущую бизнес в Калифорнии, независимо от её местоположения. Он добавил, что OpenAI «…не критикует ни одного положения законопроекта» и заверил, что «SB 1047 — это вполне разумный законопроект, который требует от крупных ИИ-лабораторий тестирования их моделей на предмет катастрофических рисков безопасности».
Законопроект SB 1047 был принят комитетом с рядом поправок, включавших замену уголовного наказания за лжесвидетельство на гражданско-правовые санкции и ограничение полномочий Генерального прокурора по принудительному исполнению закона до случаев, когда причинён вред. В данный момент законопроект ожидает окончательного голосования перед отправкой на подпись губернатору Гэвину Ньюсому.
Источник: iXBT
