Google выводит команду по оценке рисков ИИ из структуры DeepMind

Корпорация Google релоцирует 90 экспертов группы AI Responsibility из структуры Google DeepMind в департамент Global Affairs, курирующий GR, лоббистскую деятельность и публичную стратегию. Согласно информации Quartz, процесс интеграции завершится в первых числах сентября. Данное подразделение занимается аудитом систем Google на предмет угроз применения оружия массового поражения — химического, биологического, радиологического и ядерного, а также исследует поведенческие паттерны пользователей и психогенное влияние диалоговых ИИ-ассистентов.

Подобная рокировка выводит функцию риск-менеджмента за контур лаборатории, непосредственно создающей передовые алгоритмы. Ряд членов коллектива высказали опасения, что подобная мера способна негативно отразиться на степени автономии и оперативности взаимодействия с инженерами DeepMind.

Вице-президент Google DeepMind Хелен Кинг, курирующая это направление, заверила, что профиль деятельности останется прежним, а эксперты по-прежнему смогут задействовать ресурсы DeepMind, вычислительные мощности и кадровый потенциал. Помимо прочего, она подчеркнула неизменность курса на открытую публикацию научных изысканий в независимых источниках.

Представители корпорации мотивируют кадровую перестановку стремлением консолидировать подразделения, ответственные за безопасность и этичность искусственного интеллекта, с целью максимизации их влияния на защищенность будущих ИИ-моделей и готовых продуктов.

Источник: iXBT