Нейросеть YandexGPT от Яндекса научилась выявлять «галлюцинации» в текстах
Иллюстрация: Яндекс
Команда Яндекс обучила нейросеть, основанную на YandexGPT, самостоятельно проверять сгенерированные тексты на наличие «галлюцинаций». Представители пресс-службы сообщили, что благодаря этому удалось уменьшить количество ошибок в кратких описаниях мест и достопримечательностей на «Яндекс Картах» в шесть раз.
YandexGPT создаёт краткие описания для карт в несколько этапов. Изначально модель анализирует множество отзывов и информацию, предоставленную владельцем. Затем она объединяет наиболее важные для посетителей моменты и особенности места в нескольких предложениях. После этого модель удаляет излишние детали, такие как слишком общие формулировки, и форматирует текст в нужном стиле и структуре.
.
Однако иногда при создании описаний нейросеть может добавить несуществующие детали, называемые галлюцинациями. На заключительном этапе она проверяет своё описание на достоверность, сравнивая его с исходными отзывами, и удаляет выдуманные элементы.
_0_large.png)
Ранее при создании кратких описаний на «Яндекс Картах» использовались пять разных моделей, каждая из которых отвечала за свою функцию, например, за расстановку запятых или фильтрацию отзывов по полезности. Теперь все задачи выполняет одна обновлённая модель, что сократило потребность в вычислительных мощностях. Переход на новую версию повысил точность, правдивость и качество кратких описаний на 90%. Это нововведение может быть полезно и для других сервисов компании, где требуется краткий пересказ больших объёмов текстов.
.
Источник: iXBT
Индийская космическая компания SatSure получила $7 млн от госфонда при оценке в $93 млн
Новый метод ускорил поиск пульсаров в миллион раз и обнаружил пропущенный объект за 10 часов вместо 600 лет
21 ноября, спустя восемь лет пути, BepiColombo выйдет на орбиту Меркурия: его рентгеновский телескоп уже получил первые изображения далёкого космического объекта и прошёл ключевые проверки
ChatGPT усовершенствовала будущие процессоры AMD: эффективность GPU выросла на 14%
Китай запустил ещё 30 спутников для аналога Starlink и будущих сетей 6G
Совокупная мощность чипов для ИИ за год увеличилась в 4,6 раза
Энергозатраты ИИ-дата-центра: всё сложнее, чем в промышленности
Microsoft поручила Intel упаковку своих процессоров для Azure