три закона робототехники

Учёные доказали, что сдерживание сверхинтеллекта — невычислимая задача

Обучение искусственного сверхинтеллекта Идея сверхинтеллекта не даёт покоя учёным. Некоторые высказывают предположение, что сверхинтеллект не обязан благоприятно относиться к людям, может быть к ним равнодушен, не учитывать их интересы. Что делать в такой ситуации? Точнее, как её предотвратить? Один из…
Читать дальше

[Перевод] Почему роботы должны научиться отказывать нам

Нужно волноваться не за машины, не подчиняющиеся командам. Злонамеренные люди и неправильно понятые команды – вот, что должно внушать опасения. HAL 9000, разумный компьютер из «Космической одиссеи» предсказывает зловещее будущее, в котором машины, наделённые интеллектом, не признают главенство человека. Захватив…
Читать дальше