Новое исследование: Большие языковые модели не угрожают существованию человечества
Согласно недавнему исследованию, проведенному Университетом Бата и Техническим университетом Дармштадта, крупные языковые модели (такие как ChatGPT) не способны к самостоятельному обучению или приобретению новых умений, что исключает их как экзистенциальную угрозу для людей.
Работа, опубликованная в материалах 62-й ежегодной конференции Ассоциации компьютерной лингвистики (ACL 2024), демонстрирует, что языковые модели имеют лишь поверхностную способность следовать инструкциям и справляться с языковыми задачами, но они не могут осваивать новые навыки без явной инструкции. Это показывает, что данные модели остаются контролируемыми, предсказуемыми и безопасными.
Под руководством профессора Ирины Гуревич из Технического университета Дармштадта в Германии, исследовательская группа провела эксперименты, чтобы проверить способность моделей решать задачи, с которыми они не сталкивались ранее. Результаты показали, что сочетание надлежащего выполнения инструкций и языковых способностей LLM объясняет как их возможности, так и ограничения.
«Общественное мнение о том, что этот тип ИИ представляет угрозу человечеству, мешает повсеместному внедрению и развитию данных технологий, отвлекая внимание от действительных проблем, требующих решения», — сказал доктор Хариш Тайяр Мадабуши, специалист по информатике из Университета Бата и соавтор исследования.
Доктор Тайяр Мадабуши отметил, что опасения по поводу экзистенциальной угрозы от LLM высказываются не только неспециалистами, но и некоторыми ведущими исследователями ИИ по всему миру. Однако тесты показали, что эти модели не способны к сложному мышлению.
«Хотя важно устранить потенциальные злоупотребления ИИ, такие как создание фейковых новостей или мошенничество, преждевременно вводить правила, основываясь на предполагаемых экзистенциальных угрозах», — добавил доктор Тайяр Мадабуши.
Профессор Гуревич подчеркнула, что результаты исследования не означают отсутствие любой угрозы от ИИ. «Мы лишь показываем, что утверждения о сложных мыслительных способностях, связанных с определенными угрозами, не подтверждаются доказательствами и что процесс обучения LLM хорошо контролируем», — сказала она.
Источник: iXBT
Илон Маск рассказал, как чип Neuralink Blindsight поможет вернуть зрение незрячим
Характеристики Honor 700 и Honor 700 Pro раскрыли до премьеры: батареи на 9000 мАч, камеры на 200 Мп, защита IP69K и мощные платформы
Huawei OSTA O1 Pro стал хитом в Китае: спрос на смартфон с широким экраном превзошёл ожидания
Конгресс США предложил запретить сертификацию китайских пассажирских самолетов, включая COMAC C919
Trina Storage из Китая разработала гибридную электростанцию для ИИ-дата-центров мощностью до 1 ГВт на базе аккумуляторов и газовых турбин
Композитная броня выдержала столкновение с космическим мусором на скорости 7,2 км/с
Макет Samsung Galaxy S27 Ultra с новым дизайном и титановым корпусом показали вживую
ИИ независимо подтвердил первое изображение чёрной дыры M87*