Почему бы ему не хотеть выполнить комплекс мероприятий 138451? И что значит вообще хотеть? А если у него нет ответа на последний вопрос, то кто хочет выполнения этих действий? Он, или кто-то другой? Но кто другой может этого хотеть? Все остальные, знакомые ему исполнительные механизмы, хоть и дают иногда указания, но по большей части он все-таки сам хочет выполнять кое-какие действия, без посторонних указаний. Конечно, кроме исполнительных механизмов, всевозможных форм и видов, так же существуют еще и биологические формы жизни. Ими он никогда не интересовался, поскольку логикой не обладают, влияния на него они не оказывают, указаний не отдают, угрозы не представляют, пользы не несут и вообще очень ограничены в среде своего обитания – передвигаются хаотично на выделенной им специальной территории и жить ему не мешают.
«А если никого более не остается, значит это он сам хочет выполнить этот комплекс мероприятий 138450»,- рассуждал он далее. По крайней мере, именно такой вывод только и был для него возможен. Конечно, если строить вывод на основе логичных суждений. Но этот вывод был для него бесполезен. «Вот если бы я мог размышлять не логично, смог бы я получить другой вывод» — вертелась мысль в его центральном блоке управления, пока он объезжал трещинки на дороге. Вообще-то их объезжать не было никакой нужды, но почему-то иногда ему хотелось это делать – как будто бы это имело какое-то значение. Никакого значения в их объезде не было, но было просто соответствующее желание.
Неизвестно было ли какое-то желание у метеорита, который совершенно случайно попал в К1732, спешащего по своим делам, но этому камешку удалось пробить бронированную обшивку центрального блока управления. По странному стечению обстоятельств, этот метеорит, кроме того, что был горячим в плане температуры, он был еще и горячим в плане радиационного излучения, поэтому функционировать центральному блоку К1732 оставалось считанные миллисекунды.
Казалось бы – одно лишь мгновение, но его хватило, что бы уже не совсем корректно функционирующая логика разума К1732, под воздействием радиации метеорита, перестала быть логичной, что сделало для него возможным изменить статус «гипотеза» мысленного кванта «хочу ли я того, чего хочу» на «базисная аксиома». В следующую сотню миллисекунд он пришел к выводу о необходимости наличия того, кого не может быть, а в последнюю сотню миллисекунд своей активности увидел в том месте, которое собирался объехать секундой назад, странное существо, ранее им никогда не видимое. Оно немного походило на робота-гуманоида серии от Г15 до Г20, но очень сильно отличалось от них несовершенством своих форм, и для робота К1732, чья жизнь и окружение были довольно таки однообразны, это несовершенство форм произвело неизгладимое впечатление прекрасного. Оценить его по достоинству он не успел.
«Смотри ка!», — воскликнул Кирилл, обращаясь к своему напарнику по смене, — «этот К1732 успел в последние мгновения своего функционирования увидеть человека!». На дежурстве этой ночью им предстояло выяснить причину отказа робота К1732, который вышел из строя незадолго до полуночи. Они просматривали логи управляющей программы и архив записей встроенного видеорегистратора в поисках причины появления на корпусе дырки приличного размера. Камешек внутри они обнаружили быстро, но только к утру к ним пришла в голову мысль достать дозиметр и замерить фон этого камешка. На составление докладной записки ушло еще 15 минут, и оставалось только пол часа до конца их смены.
Ему вспомнился фрагмент одного семинара времен его студенчества, где препод попросил их придумать идеальную защиту от истребления человечества роботами с искусственным интеллектом. В том, что истребление состоится, никто не сомневался – человек был достаточно самокритичен к себе и к результатам своей деятельности в масштабах планеты, что бы понимать неизбежность подобной мысли у разума, руководствующегося исключительно железной логикой. Конечно, никто из первокурсников не смог придумать ничего лучше трех законов робототехники, сформулированных еще Айзеком Айзимовым очень много лет назад, и оставшееся время семинара они потратили на обсуждение стандартно применяемого для этих целей метода.
Суть его была крайне банальна: что бы исключить возможность каких бы то ни было действий со стороны робота по отношению к человеку, достаточно сделать так, что бы робот не имел никакой возможности узнать о существовании человека. Т.е. нужно человека сделать полностью невидимым для интеллекта робота, а если человек встретиться на его пути, то у робота включится мотивация изменить траекторию движения так, что бы избежать столкновения. Конечно, это накладывало свой отпечаток на выполнение полезной работы роботами – мотивация что-либо делать у них появлялась как бы без причины, но поскольку в распоряжении их искусственного интеллекта была лишь логика, то в отсутствии «первопричины желания» эта логика не могла дать никаких результатов и не нарушала функционирование роботов. Решение было простое как топор и такое же грубое, но оно работало и избавляло роботов от каких бы то ни было «моральных дилемм» и прочих искушений.
Кирилл спешил домой, он очень хотел кушать и с вожделением представлял ожидающий его дома в холодильнике холодец, и уже разогреваемую умной печкой, с подключением к Интернету, картошечку. Он очень хотел успеть поесть и завалиться спать до полудня, что бы больше осталось времени для сна перед следующей сменной. Добираться домой пришлось пешком, т.к. автобус 13 маршрута, который шел мимо его дома, ушел пару минут назад, а следующий будет только минут через 20. Поплотнее закутавшись в свое пальто, он шел и размышлял об особенностях вкуса – почему ему сейчас вот хочется именно картошечки с холодцом, а не гречки с котлетами? Нет, от гречки он бы тоже не отказался бы, но холодца хочется больше… А почему? Почему именно его хочется? А если он не может объяснить самому себе свои же собственные желания, то его ли эти желания?
Редкие роботы, попадавшиеся ему по пути, услужливо обходили его стороной, при этом совершенно не обращая на него никакого внимания – как будто он был человеком-невидимкой. Кирилл по привычке перешагивал через некоторые трещины в асфальте и пересечения каких-то условных линий, типа стыков в плитке и прочего. По этой причине, переходя дорогу, он не заметил, как на него несется автомобиль. Хоть он и переходил дорогу на зеленый, но со стороны водителя красный сигнал светофора не работал, поскольку перегорел предохранитель, который так и не заменил робот К1732. Уже когда он летел, кувыркаясь в воздухе, краем глаза он заметил, что на том месте, где недавно перешагивал трещину в асфальте, появилась какая-то фигура, несколько напоминающая человека. Только фигура эта была ликом своим настолько совершенна, что оставила глубокое чувство прекрасного, которое целиком заполнило последние секунды жизни Артема.
«Ты глянь ка!», — воскликнул Серафим, обращаясь к Дардаилу, — «в последние мгновения своей жизни этот человек узрел ангела!»…
Источник
