Локальный ИИ: журналист The Verge начинает эксперимент и выясняет, стоят ли модели своих денег

Журналист The Verge наконец решился на то, чего раньше избегал: начать регулярно пользоваться ИИ. Главный барьер — нежелание отдавать личные данные облачным сервисам. Сейчас же мощные модели всё чаще можно запускать локально, и автор намерен проверить, насколько это реально и удобно.

В рамках эксперимента он будет выяснять, стоит ли вкладываться в компьютер или ноутбук с большим объёмом дорогой оперативной памяти. Автор честно признаётся, что не является экспертом по ИИ, но хочет помочь читателям понять, стоит ли отправляться в такое путешествие, и будет делиться своими находками по мере продвижения.

Отдельно отмечается, что Apple делает большую ставку на локальные ИИ-возможности в новых Mac, что делает вопрос особенно актуальным для поклонников экосистемы.