35 экспериментов развенчали миф об экзотических алгебрах в нейросетях: преимущество исчезло

Группа исследователей провела масштабную проверку популярной гипотезы о том, что «экзотические алгебры» (кватернионы, октонионы, Clifford-алгебры) могут дать нейросетям parameter efficiency и особую выразительность. Для этого было организовано 35 контролируемых экспериментов с param-matched real-контролями и pre-registered kill-критериями.

Результат оказался однозначным: ни в одном из 35 случаев заявленное преимущество не проявилось. Более того, под проверку попал и собственный headline-результат авторов — он также не выдержал строгого теста. Единственное исключение, которое «выжило», связано не с магическими свойствами алгебр, а с особенностями optimization basin.

Авторы подробно разбирают, какие теоретические потолки невозможности с точными константами теперь закрывают этот вопрос. Исследование служит важным напоминанием о необходимости строгих бенчмарков и воспроизводимости в AI-сообществе.