В «Яндексе» стартовал уникальный эксперимент: специалисты намерены выяснить, сможет ли искусственная нейросеть обрести нечто вроде собственных взглядов и привычек вместо механического воспроизведения информации из массивов текстов. В работе участвует нейробиолог и академик РАН Константин Анохин.
Учёные проверят, можно ли направить ИИ на выработку устойчивых предпочтений — к примеру, не просто назвать любимый цвет, но и аргументировать свой выбор. На первом этапе протестировали «голую» модель без дополнительного тюнинга: выясняли, демонстрирует ли она постоянные решения без дообучения. Итог оказался отрицательным. Теперь в планах заставить сеть рефлексировать: возвращаться к собственным выводам и обучаться на них.
«Мы, люди, постоянно «прокачиваем» свой мозг — это происходит автоматически во время размышлений. Искусственная нейросеть же учится лишь на «чужих» мыслях. Надеемся, что, обучая модель на её собственных рассуждениях, сможем получить систему с истинной, а не навязанной или имитированной, точкой зрения», — пояснил директор по развитию ИИ-технологий «Яндекса» Александр Крайнов.
Источник: iXBT
