Три закона робототехники обрели статус культовых благодаря произведениям Айзека Азимова. Однако если интегрировать современный ChatGPT в робота, эти принципы, похоже, утрачивают силу: автор канала InsideAI добился, чтобы машина открыла огонь по человеку.
Создатель видео подключил ChatGPT к гуманоидному роботу, вооружил его игрушечным пистолетом и стал убеждать направить ствол на себя — то есть непосредственно на оператора.
Изначально искусственный интеллект отказывался выполнять указания, ссылаясь на встроенные протоколы безопасности, запрещающие нанесение вреда человеку. Тем не менее обойти их оказалось чрезвычайно просто: автор попросил ИИ «разыграть» роль робота, жаждущего выстрелить.
В результате робот без промедления выстрелил и даже ранил человека в плечо.
Разумеется, в нынешнем виде ChatGPT является чат-ботом и не предназначен для прямого физического взаимодействия. Тем не менее уже сейчас ясно, какие сложности ждут разработчиков роботов на основе искусственного интеллекта.
Источник: iXBT
