Запустили 8 нейросетей на FPGA за $50 — упёрлись в память DDR3

Автор продолжает цикл «Нафиг NVIDIA» — во второй части он детально разобрал openTPU до RTL-уровня, собрал прошивку в Vivado и проверил 8 разных нейросетей в 165 запусках на FPGA за $50. Показаны реальные замеры производительности, устройство кристалла и типичные грабли.

Ключевой вывод: добавление умножителей не решает проблему — узким местом оказалась пропускная способность памяти DDR3. По словам автора, в ту же стену сейчас упираются и дата-центры с гораздо большими бюджетами.

В первой части цикла запускали Qwen, теперь эксперимент расширен. Материал содержит практические советы по работе с FPGA, прошивкой и отладке нейросетей на дешёвом железе.