Учёные объяснили, как при росте объёма данных стабилизируется обучение нейросетей
Учёные МФТИ впервые подробно исследовали, как меняется ландшафт функции потерь нейронной сети по мере поступления новых данных и при каком объёме выборки он «устаканивается». Комбинируя строгие математические выкладки с масштабными экспериментами, они показали, что при росте размера обучающего множества этот многомерный «рельеф» стремится к определённой форме, что даёт ключ к оценке необходимого количества данных. Результаты...
