Слабое регулирование ИИ опаснее его полного отсутствия: математическое исследование Корнелла и CMU

Исследователи из Корнеллского университета совместно с коллегами из Университета Карнеги — Меллона пришли к выводу, что поверхностное регулирование сферы искусственного интеллекта, при котором санкции грозят лишь создателям прикладных программ, приводит к появлению более опасных решений, чем полное отсутствие законодательных норм.

В рамках работы специалисты смоделировали структуру создания ИИ-решений, разделив её на два ключевых сегмента: корпорации, создающие универсальные базовые модели, и сторонние компании, кастомизирующие эти алгоритмы под узкие задачи вроде медицинской диагностики или клиентской поддержки. Созданная симуляция позволяет оценить общую безопасность и качество конечных продуктов при внедрении регуляторами базовых стандартов на каждом из этапов.

Контрпродуктивный эффект проявляется в ситуации, когда минимальные требования предъявляются исключительно к разработчикам финальных сервисов. Подобный подход полностью лишает создателей фундаментальных архитектур мотивации вкладываться в собственные защитные механизмы и независимые проверки.

Ведущий автор проекта Бенджамин Лоуфер из исследовательского центра Cornell Tech подчеркнул, что «подобное законодательство фактически позволяет технологическим гигантам перекладывать груз финансовой и технической ответственности за безопасность на плечи небольших прикладных студий, провоцируя феномен безбилетника».

В ходе изысканий Лоуфер и его соавторы трактовали безопасность максимально широко, охватывая весь спектр потенциального ущерба для пользователей, включая генерацию токсичных высказываний диалоговыми системами. Учёные акцентируют внимание на том, что на фоне текущей неопределенности, когда большинство профильных законопроектов ещё обсуждаются, крайне важно просчитывать математические модели поведения коммерческих структур и неизбежные искажения рыночных стимулов.

Представленная модель ярко демонстрирует фундаментальные трудности управления комплексными ИИ-системами. Ответственность в подобных цепочках рассредоточена между этапами обучения базовой модели, её донастройки, разработки интерфейсов и текущего контроля. Нормативные акты, накладывающие обязательства лишь на отдельное звено этой цепи, создают пропасть между игроками, реально способными нейтрализовать угрозу, и организациями, вынужденными лишь отчитываться о соблюдении формальных стандартов.

Данное исследование формирует прочный теоретический фундамент для справедливого разделения ответственности за безопасность нейросетей между создателями платформ и интеграторами. Несмотря на то что выводы носят концептуальный характер и не опираются на эмпирические замеры деятельности конкретных технологических гигантов, полученные данные служат ценным ориентиром для законодателей и экспертов по рисков-менеджменту, стремящихся исключить лазейки для уклонения крупного бизнеса от проверок.

Источник: iXBT