Феномен «галлюцинаций»: почему ИИ уверенно вводит в заблуждение
Материал подготовлен в рамках образовательной программы «Машинное обучение для начинающих». Недавно я беседовал с голосовым помощником, пытаясь уточнить имя исполнителя музыкальной композиции. Колонка ответила весьма уверенно, однако, усомнившись в её правоте, я задал тот же вопрос повторно — и услышал совершенно другое имя. Аналогичные инциденты случались и при взаимодействии с современными языковыми моделями: нейросети порой...