Инструменты
Подешевел в 8 раз, но получил иероглифы: как LLM сломала русские новости
Владелец новостного бота решил сэкономить: его сервис делает около 936 вызовов LLM в сутки, и смена модели на более дешёвую сулила существенную экономию. Он перебрал все бесплатные модели на OpenRouter, выбрал платную в 8 раз дешевле текущей, и выкатил в прод.
Через час в ленте появился заголовок «Как не,让智能手机 перегревать: советы в жару» — смесь русского и китайских иероглифов. История наглядно показывает, что экономия на LLM может обернуться неожиданными ошибками, особенно если модель не оптимизирована под целевой язык.
Источник: habr.com