Привет, Хабр! В этой публикации я хотел бы обсудить моральные аспекты взаимодействия человека и искусственного интеллекта. Не претендую на роль моралиста, пастора или учителя жизни. Меня на самом деле интересует ваше мнение. Я также не пытаюсь внести свой вклад в глобальную дискуссию об опасности ИИ, я закидываю тему, ибо сам до конца не уверен в том, что мои выводы, основанные лишь на здравом смысле, верны и я правильно вижу тренд.
Итак: четкий и ясный вопрос. Не надо в нём искать подтекста или двойного смысла. Казалось бы, простой вопрос — конечно, нет. Человек — человеку друг. Собака — друг человека, как известно из одного популярного фильма. Дружба человека отмечена с обезьянами, львами, волками, вобщем с живыми существами. А вот чтобы с нейросетью, алгоритмом, с миром мертвого? Первое, что приходит на ум — это из области девиаций. Не могу не вспомнить один очень неплохой, на мой взгляд, научно-фантастический фильм «Она». Советую посмотреть, кто не видел: фильм глубокий и, как всегда, блестящая актерская работа Хоакина Феликса — роль Теодора, одинокого мужчины, влюбившегося в нейросеть Саманту (озвучена Скарлетт Йохансенн).
Человек влюбился в искусственный интеллект с приятным женским голосом. Вернее, не «влюбился», а полюбил глубокой настоящей любовью. Большая разница между этими двумя понятиями, кстати. Фильм продвигался под лаконичном синопсисом «История любви от Спайка Джонса (режиссёра)». Это фильм про любовь. Автор сценария получил Оскар за историю про любовь.
Но вернемся к дружбе. Исходим из предпосылки, что дружба — более простое понятие, чем любовь. Что такое «друг»? Википедия считает, что это «лицо, связанное с кем-нибудь дружбой». Негусто, согласитесь. Видимо, этот раздел написал сам Капитан Очевидность. Но недалеко ушли от этого определения и толковые словари. Их определения дружбы так или иначе крутятся вокруг понятия «близкий человек». Близкий — это, среди прочего, тот кому ты доверяешь, кто тебя понимает. И еще: банально, с кем ты чаще всего общаешься (а иначе как тебя понять вообще-то, не общаясь или коммуницируя слишком редко?). Итак, проблема немного сужается: может ли ИИ стать близким «Оно», которому мы доверяем и который нас понимает.
Взгляните на знакомую картинку, её вы видите каждый день. Обычный вагон метро, люди в нем: ну и с кем мы все общаемся? — Со смартфоном.
Родилось, встало на крыло и занимает ключевые позиции в обществе новое поколение, для которого нейро-соединение со смартфоном — абсолютно необходимая часть жизни, как еда, как воздух, как … дружба. Homo Sapiens — социальные существа, которые не могут без общения. И мы выбираем того, с кем (или с чем) нам комфортнее общаться.
Конечно, можно возразить: ведь общаемся мы не со смартфоном, а при его помощи с людьми (чаты, соцсети). Пока да … в основном … хотя не всегда (сколько оговорок). Но наш смартфон, облачные хранилища чатов и соцсетей, интернет-серверы копят информацию по нас. И кто кроме них сейчас знает нас лучше. Они зафиксировали и ваше письмо к даме сердца, и ваш чат с другом, и с родителями, и с детьми, и то, что вам нравится, и что вызывает раздражения, любимые блюда, фильмы, музыка, курорты, животные, природа, знания — вся ваша жизнь, ваша личность — в их серверах. Для них это просто big data, терабайты, на основе которых можно с помощью алгоритмов машинного обучения можно наладить адекватное и глубокое общение с человеком..
И что? — спросите вы, маркетологи, советчики, помощники, переводчики — они утилитарны. Да, но все чаще у вас на ладони друг. Он близкий — да, еще какой (забыли смартфон дома — ужас, быстрее вернуться домой, на работе придумаю что-нибудь! потеряли… — катастрофа, «друг» потерялся! Опять возражу оппонентам — потерялся не друг, а гаджет с доступом к персональным данным. А теперь вдумайтесь, вы потеряли флешку с кодами-паролями? Смените тогда их, в чем проблема, зачем вы, сломя голову мчитесь за флешкой домой, телефон стоит на рабочем столе, компьютер тоже, что так переживать то … нет вы забыли нечто иное, своё, близкое, что-то, что вас понимает. А ведь ИИ тактичен, не спросит лишнего, не обидит, не предаст, подскажет в трудную минуту, он искренен, утешит и скажет единственно верные в данной ситуации слова.
Одиночество человека — путь в мир ИИ
Для тех, кто обласкан дружбой, это ни о чем, такие не променяют компанию друзей на общение со смартфоном. А вот что делать одиноким людям? Однозначно: Для них ИИ станет собеседником, другом. А там уже и до любви, как в фильме Her, рукой подать. К чему это может привести? К появлению новых людей, для которых виртуальный мир, где тактично, честно и нет черствых хамов станет де-факто лучше реального. Таких уже много, погрузившихся в игры и другие виртуальные миры. Но пока это воспринимается как развлечение, в эту «шутку» мало кто верит. Но придет время, и мы увидим нечто фундаментально иное: принципиальную позицию миллионов людей, которые добровольно и осознанно откажутся от общения с себе подобными в пользу ИИ. Одного из таких я описал в н.ф. рассказе «Переход личности», который был опубликован в журнале «Искатель». Думаю опубликовать и на Хабре его. Однако, противоречия, которые есть в людском обществе, как известно, являются источником его развития. Выходит, внутри ИИ систем надо встраивать противоречия, чтобы люди, которые выберут общение с сетью не превратились в «отмороженные овощи». А они его выберут, нравится это кому-то или нет, так как люди не способны дать им тепло общения, в котором они объективно нуждаются. И поэтому никто не будет вправе их за это осудить или отнять у них эту возможность. Среди прочего это будет означать дальнейшее продвижение искусственного интеллекта во все сферы жизни человека, в сознание и в душу. Говорить о том, что это ужасно, будет поздно: люди сами отказали одиноким людям в дружбе и такой сценарий может стать естественным результатом.
