Тестирование «экзотических алгебр» в нейросетях: итоги 35 контролируемых экспериментов
TL;DR. Слои на базе кватернионов, октонионов, седенионов и алгебр Клиффорда регулярно мелькают в публикациях под соусом «высокой эффективности параметров» и «уникальной выразительной силы». Мы потратили два месяца на их реализацию, бенчмаркинг и упорные попытки доказать их превосходство. Стоило добавить хотя бы один корректно подобранный вещественный baseline (реальный базис сравнения), как мнимое преимущество тут же испарялось...

_large.png)







