Хотел обучить нейросеть без обратного распространения, а получил кластеризацию К-средних

Эксперимент ставил цель выяснить, насколько далеко можно уйти от классического обратного распространения ошибки, обучая нейросеть только локальными правилами, вдохновлёнными правилом Хебба. Спойлер: итоговое правило выродилось в обычный алгоритм К-средних, и по всем метрикам оно уступило backprop.

В процессе автор столкнулся с неожиданными эффектами: сеть «убивала» собственные нейроны, а эволюционная оптимизация правил обманывала саму себя, находя тривиальные решения. Разбор показывает, где именно кроются ловушки при отказе от глобального градиента и почему локальные правила не так просто превратить в полноценную альтернативу обучению с учителем.