Лауреат премии Тьюринга предупреждает о рисках ИИ: возможно исчезновение человечества через 10 лет

Искусственный интеллект (ИИ) быстро прогрессирует, вызывая серьёзные тревоги среди ведущих мировых учёных. 7 февраля 2025 года, перед началом AI Action Summit в Париже — международного форума по технологиям ИИ, выдающийся канадский специалист в области искусственного интеллекта и машинного обучения Йошуа Бенжио (Yoshua Bengio) предостерёг о возможных неблагоприятных последствиях соревнования технологических корпораций в создании всё более мощных систем ИИ.

Бенжио, обладатель престижной Тьюринговской премии 2018 года, представил первый в истории Международный доклад о безопасности ИИ в Парижском университете ENS. Он подчеркнул уже широко признанные угрозы применения ИИ, как то: создание фальшивого или вводящего в заблуждение контента. Однако профессор из Монреальского университета отметил также, что «появляются данные о других рисках, таких как биологические или кибернетические атаки».

В долгосрочной перспективе Бенжио обеспокоен вероятной «потерей контроля» человеком над системами ИИ, которые могут быть мотивированы «желанием самосохранения». Недавнее появление в Китае доступной и эффективной модели ИИ DeepSeek «ускорило гонку, что не добавляет безопасности», подчеркнул он.

Бенжио призвал к более строгому международному регулированию и расширенным исследованиям в области безопасности ИИ, которые на сегодняшний день составляют всего лишь «незначительную часть» от огромных инвестиций в эту сферу. «Без государственного вмешательства я не вижу, как мы можем с этим справиться», — заявил он.

Соединённые Штаты, ведущая страна в области ИИ, отклонили попытку бывшего президента Джо Байдена установить некоторые правила развития в сфере ИИ после прихода к власти Дональда Трампа. Когда два года назад на сцену вышел ChatGPT от OpenAI, Бенжио осознал «срочность смещения акцента на вопрос безопасности». Он представил отчёт, составленный по образцу документов Межправительственной группы экспертов по изменению климата (МГЭИК).

«Наибольшее беспокойство вызывает возможность исчезновения человечества в течение 10 лет. Это пугает. Я не понимаю, почему больше людей не осознают этого», — сообщил учёный.

Около 100 специалистов из 30 стран, представители ООН, Европейского Союза и международной Организации экономического сотрудничества и развития приняли участие в создании доклада под руководством Бенжио, который был опубликован в конце января. Работа над ним была начата на предыдущем саммите по безопасности ИИ в Великобритании в ноябре 2023 года.

Источник: iXBT