Anthropic и Accenture инвестируют $2 млрд в разработчиков систем оценки ИИ

Компании Anthropic и Accenture заявили о формировании специализированного подразделения встроенных аудиторов, деятельность которых будет тесно интегрирована как с собственными отделами безопасности, так и с независимыми партнерами. Суммарные инвестиции каждого из участников в эту инициативу составят не мене.

$1 млрд в горизонте пяти лет.

Главным нововведением станет принципиально иной подход к проверкам, получивший название embedded evaluation. Экспертам предоставят привилегии полноценных сотрудников лаборатории: они смогут в реальном времени мониторить этапы создания и внедрения систем, контролировать соблюдение регламентов безопасности и находить уязвимости, скрытые от традиционного внешнего аудита.

По оценкам издания TechCrunch, данное соглашение знаменует собой дебютный практический этап выполнения недавнего обещания Anthropic открыть доступ сторонним инспекторам во внутренний контур ИИ-лаборатории.

Для специалистов, следящих за эволюцией методов контроля за искусственным интеллектом, принципиальное значение будут иметь несколько факторов: четкость регламентации предоставленных прав, допустимые пределы конфиденциальности при публикации результатов, а также реальное влияние экспертных рекомендаций на укрепление общей киберзащиты.

Источник: iXBT