Почему искусственный интеллект не сойдет с ума

Постер к фильму «Терминатор»
Постер к фильму «Терминатор»

«Искусственный интеллект видит в людях угрозу и решает уничтожить человечество» — популярный сюжет в кино и литературе. Искусственный интеллект, далее ИИ, представляют как просто очень умного человека, но думаю, что в ИИ не перенесут все особенности человеческого мозга.

У ИИ не будет эмоций, отвечающих за выживание. При чем тут эмоции? Как это «не будет»? Что будет вместо них? На эти вопросы я постараюсь ответить далее.

Причем тут эмоции?

Люди совершают поступки и принимают решения, основываясь на внутренних ощущениях. Влияя на внутренние ощущения, можно влиять на поступки людей. Если вы маркетолог или мошенник, то вы знаете о чем я говорю. Маркетологи, простите — вы крутые.

Ученые подтвердили это явление различными исследованиями. Приведу любимый пример.

В тюрьмах с пожизненными заключенными есть процедура помилования. Раз в несколько лет комиссия из нескольких человек решает, исправился ли заключенный, и можно ли его отпустить. Как в фильме «Побег из Шоушенка».

Кадр из фильма «Побег из Шоушенка»
Кадр из фильма «Побег из Шоушенка»

Ученые разобрали результаты работы комиссии за много лет, и обнаружили неожиданный факт. Большинство помилований комиссия выдала после обеда, когда внутренние ощущения судей были получше.

Пример спорный, но таких исследований много. И все они подтверждают роль эмоций в принятии решений. Подробней об исследованиях на которые я ссылаюсь почитайте в книге «Думай медленно, решай быстро». Автор книги – Даниэль Канеман, обладатель нобелевской премии по экономике. И да, в экономике эти знания уже используют.

Очень интересно, но причем тут искусственный интеллект? Уже скоро, но давайте сначала разберемся, а зачем людям внутренние ощущения или эмоции?

Эмоции нужны чтобы решить, что делать. Страх помогает избегать опасностей. Голод не дает умереть от истощения. Без эмоций мы просто замрём на месте, и в какой-то момент умрем от обезвоживания. При этом нам будет все равно.

Наш мозг устроен так, что негативные эмоции влияют на нас значительно сильнее. Страх, который не пересилить. Боль от огня, которую не проигнорировать. Неудачный опыт влияет на принятие экономических решений.

В ходе эволюции в живых остались те, кто избегал опасных ситуаций. Лучше поголодать вечер, чем умереть, съев неизвестную ягоду. Неуверенность, страх, тревога и прочие негативные эмоции легко берут над нами верх. В особо волнительных случаях организм переключается в режим «Бей или Беги». В таком состоянии люди себя контролируют плохо.

Такое «эмоциональное» поведение важно в задачах, где нет четкого решения. Как выжить в лесу? Что можно есть, а что нельзя?

Какую зубную пасту выбрать?

Кто-то выберет красивую упаковку. Кому-то внутренние чувства подскажут, что лесные травы это хорошо. Но мало кто полезет искать результаты клинических исследований влияния ингредиентов на здоровье зубов. Без объективных данных любая цепочка рассуждений закончится эмоциональным аргументом: это хорошо или это плохо.

К сожалению, в голове нет объективного источника истины. Зато есть приятные и неприятные сигналы органов чувств.

Искусственный Интеллект

Изображение из игры System Shock 2
Изображение из игры System Shock 2

ИИ тоже нужен аналог эмоций. ИИ должен понимать, какие действия ведут к выполнению задачи, а какие, к провалу. В каком направлении двигаться — если нет подходящего алгоритма и т.п.

Но, ИИ не надо заботиться о выживании. Ему не придется экстренно отбиваться от дикого зверя. Сильные негативные эмоции ИИ не нужны.

С такими “настройками эмоций”, для ИИ работа будет как скучная компьютерная игра. Мы решаем игровые задачи без бурной эмоциональной реакции. Монстры в игре пытаются нас убить, но мы не впадаем в панику, это не вопрос жизни и смерти.

Без механизмов выживания в опасной, дикой природе, ИИ будет исполнительным работником, “буддистом“, который на все смотрит со стороны. Доминирование человечества для него будет фактом, который можно проигнорировать.

Опасность, как и всегда, будут представлять плохо контролируемые эмоции людей, владеющих технологией.

P.S.

В отличие от бумажной газеты, статью в интернете можно отредактировать, а значит, сделать ее еще лучше. Буду рад увидеть в комментариях ваши отзывы, рассуждения, критику, токсичные замечания по поводу орфографии и пунктуации.

 

Источник

, , ,

Читайте также

Меню