ИИ самостоятельно сёрфит интернет и пишет статьи со ссылками на источники, но может стать оружием в онлайн-войнах.
Компания OpenAI представила регрессивную предобученную модель нейросети WebGPT, которая умеет работать с текстовым браузером. Новый ИИ находит в интернете ответы на заданные ему вопросы при помощи интерфейса API поисковой системы Bing, а на основе собранной информации пишет короткие справочные статьи (их длина ограничена одним абзацем), похожие на тексты, созданные людьми.
Новая нейросеть создана на основе GPT-3 — другой известной разработки OpenAI. WebGPT, как и её предшественница, умеет писать правдоподобные тексты, едва отличимые от произведений живых авторов, а по правдивости и информативности ответов превосходит GPT-3 в тестах.
Разработчики обучили алгоритм WebGPT писать понятные и «правдивые» тексты с помощью сообщений со справочного подсайта Explain Like I’m Five («Объясни как будто мне пять лет» с английского) в соцсети Reddit. Цель этого сообщества — объяснить сложные концепции, чтобы они стали понятны непрофессионалам, заявлено в его правилах. Ответы, которые пишет WebGPT оказались лучше написанных людьми в 56% случаев.
И всё же главная «фича» WebGPT — умение отправлять запросы в поисковую систему Bing и собирать информацию. Исследователи создали текстовый браузер, чтобы алгоритм мог просматривать сниппеты (заголовки и фрагменты текстов с веб-сайтов), пролистывать выдачу и при необходимости, если ИИ решит ознакомиться с полными текстами, переходить на другие сайты.
WebGPT ищет информацию до тех пор, пока не решит, что данных достаточно для полного и точного ответа, или пока не исчерпает лимит на количество запросов к поисковой машине.
Модель WebGPT пишет текст, отвечающий запросу пользователя, а затем добавляет в него ссылки на источники информации, как в статьях в рецензируемых научных журналах, энциклопедиях Britannica и «Википедия».
WebGPT, вероятно, может быть использована в поисковых системах. Но, несмотря на очевидный прогресс, модель имеет и свои недостатки. Например, она пока не может оценить достоверность информации, отмечают разработчики.
Хотя наша модель [ИИ] в целом более правдива, чем GPT-3 (она реже генерирует ложные утверждения), тем не менее, WebGPT создаёт риски. Ответы с цитатами часто воспринимаются [людьми] как авторитетные. Ссылки [на источники информации] могут скрыть тот факт, что наша модель по-прежнему допускает простейшие ошибки.
OpenAI
разработчики WebGPT
Кроме того, исследователи не исключают, что WebGPT в отдельных случаях может представлять опасность. Например, нейросеть можно переобучить и настроить для редактирования «Википедии»: она умеет писать достаточно убедительные тексты, чтобы стать оружием в войнах правок свободной энциклопедии или в кибервойнах.
GPT-3 признана одной из лучших разработок в своём классе и давно стала объектом интернет-культуры. Нейросеть отвечала на вопросы пользователей Reddit, написала колонку о себе в Guardian и текст рэпа про основателя Facebook Марка Цукерберга, а студенты Калифорнийской киношколы снимали фильм по созданному ею сценарию.
Исходный код GPT-3 и других новых разработок OpenAI не размещён в общем доступе. Интерфейс API для тестирования GPT-3 недоступен с территории России.
