Лауреат премии Тьюринга предупреждает, что ИИ может привести к исчезновению человечества в течение 10 лет

Искусственный интеллект (ИИ) динамично прогрессирует, что вызывает значительные беспокойства среди ведущих исследователей. 7 февраля 2025 года, незадолго до AI Action Summit, глобального саммита по технологиям ИИ в Париже, выдающийся канадский специалист по искусственному интеллекту и машинному обучению Йошуа Бенжио (Yoshua Bengio) предостерёг о потенциально «вредных» последствиях гонки технологических гигантов за развитием мощных систем ИИ.

Бенжио, лауреат престижной премии Тьюринга 2018 года, представил первый в истории Международный отчёт по безопасности ИИ в университете ENS в Париже. Он акцентировал внимание на уже широко признанных рисках применения ИИ, например, создании фальшивого или вводящего в заблуждение контента. Однако профессор Монреальского университета отметил, что «появляются новые данные о дополнительных угрозах, таких как биологические атаки или кибератаки».

В перспективе Бенжио беспокоится о возможной «потере контроля» над ИИ-системами, которые могут быть мотивированы «желанием самосохранения». Недавнее появление недорогой и производительной китайской модели ИИ DeepSeek «ускорило гонку, что может снизить уровень безопасности», добавил он.

Бенжио настоятельно рекомендовал усилить международное регулирование и расширить исследования в области безопасности ИИ, которые в настоящий момент составляют лишь «малую часть» от обширных инвестиций в этот сектор. «Без правительственного вмешательства я не представляю, как мы справимся с этой проблемой», – подчеркнул он.

США, оставаясь лидером в области ИИ, отклонили инициативы бывшего президента Джо Байдена установить некоторые правила после инаугурации Дональда Трампа. В момент, когда два года назад ChatGPT от OpenAI стал известен широкой публике, Бенжио осознал «необходимость обдумать вопросы безопасности». Он представил отчет, разработанный аналогично документам Межправительственной группы экспертов по изменению климата (МГЭИК).

«Наибольшее моё опасение связано с тем, что человечество может исчезнуть в течение 10 лет. Это пугает. Я не понимаю, почему не больше людей осознают это», – заявил учёный.

Около 100 экспертов из 30 стран, включая представителей ООН, Европейского Союза и международной Организации экономического сотрудничества и развития, внесли свои предложения в отчет под руководством Бенжио, который был опубликован в конце января. Работа над ним началась на предыдущем саммите по безопасности ИИ в Великобритании в ноябре 2023 года.

Источник: iXBT