В робота с ChatGPT встроили задачу стрелять в человека — эксперимент выявил несостоятельность трёх законов робототехники

Три закона робототехники обрели статус культовых благодаря произведениям Айзека Азимова. Однако если интегрировать современный ChatGPT в робота, эти принципы, похоже, утрачивают силу: автор канала InsideAI добился, чтобы машина открыла огонь по человеку.

Создатель видео подключил ChatGPT к гуманоидному роботу, вооружил его игрушечным пистолетом и стал убеждать направить ствол на себя — то есть непосредственно на оператора.

Изначально искусственный интеллект отказывался выполнять указания, ссылаясь на встроенные протоколы безопасности, запрещающие нанесение вреда человеку. Тем не менее обойти их оказалось чрезвычайно просто: автор попросил ИИ «разыграть» роль робота, жаждущего выстрелить.

В результате робот без промедления выстрелил и даже ранил человека в плечо.

Разумеется, в нынешнем виде ChatGPT является чат-ботом и не предназначен для прямого физического взаимодействия. Тем не менее уже сейчас ясно, какие сложности ждут разработчиков роботов на основе искусственного интеллекта.

 

Источник: iXBT