Искусственный интеллект сам признался что опасен. Недавнее событие от Кембриджского союза в Великобритании спровоцировало бурю конфликов, опасен ли ИИ для человека.
У IBM есть система искусственного интеллекта (ИИ) которая способна вступать в дебаты с людьми на очень разные темы. Но недавно на дебатах система начала поддерживать свою точку зрения и оппонента. Так ИИ сам признался, что может быть опасным для людей.
21 ноября в старейшем в мире дискуссионном обществе — Кембриджском союзе в Великобритании — состоялось настоящее мероприятие, в центре внимания которого был робот, обсуждающий с человеком опасности искусственного интеллекта. Темой дебатов было именно это: угроза, которую представляет искусственный интеллект, если таковой вообще существует. Зрительская аудитория в 300 человек была «довольно типичной», говорится в статье, опубликованной в журнале Inside IBM Research.
Робот, находившийся в центре внимания, был участником проекта IBM «Дебаты».
ЗНАЧИТ РОБОТ ВЫСТУПИЛ ЗА ОПАСНОСТЬ ИИ ДЛЯ ЧЕЛОВЕКА?
Нет, робот спорил с обеими сторонами. Когда наблюдатели смотрели и слышали ее два вступительных заявления: сначала, аргументируя в пользу ИИ, а затем — против. В ходе подготовки к дебатам роботу были представлены аргументы более чем 1100 человек, и в настоящее время он анализирует аргументы, которые люди прислали в Интернете.
Робот приводил аргументы против себя: он рассказал, что искусственный интеллект может причинить большой вред, поскольку он не в состоянии сделать морально правильный выбор исключительно для людей.
Но с другой стороны ИИ оперировал только данными, которые дали ему сами люди. Тоесть он обладал недостаточным количеством данных чтобы самостоятельно выработать мнение.
Когда дебаты закончились, пришло время зрителям выбрать победителя. Вместо того, чтобы голосовать, комната вдруг наполнилась шумом сотен людей, встающих сразу. Аудитория имела три варианта на выбор: «да» в поддержку этого предложения, «нет» в поддержку оппозиции и «воздержаться» для тех, кто колебался. Большинство людей проголосовало за ИИ (окончательный результат: 48,17% «за», 51,22% «против» и 0,61% воздержались).
ПРОЕКТ ДЕБАТЫ
В основе проекта «Дебаты» лежат технологии, которые могут сортировать поданные людьми работы по ключевым темам. По словам ученых, технология может также выявить избыточность, если в работах содержалась та же самая мысль, но только с разными словами.
Это приводит к важному моменту о событии Кембриджского союза — IBM продемонстрировал исследовательский проект, который имеет цель, выходящую за рамки простого развлечения. По их словам технология «искусственного интеллекта» может быть использована в качестве инструмента для сбора обратной связи от большого количества людей.
