Рынок перепродажи токенов LLM: скидки через краденые ключи и бесплатные триалы — расследование

Мэтт Ленхард провёл расследование рынка перепродажи токенов LLM по сниженным ценам. Реселлеры собирают пул API-ключей из разных источников и предоставляют доступ к прокси, который балансирует запросы. Основной метод — злоупотребление бесплатными триалами, прокси через незащищённые боты поддержки, использование украденных кредитных карт и chargeback-атаки.

Всё это стало возможным благодаря открытым прокси-проектам, вроде one-api и его более активного форка new-api. Эти продукты легитимны и предназначены для балансировки нагрузки, но их используют для мошеннических схем. Покупатели — разработчики, которым нужны дешёвые токены, обход географических ограничений или сбор данных для дистилляции моделей.

Автор предупреждает: теперь существует целая экосистема, которая живёт за счёт поиска незащищённых эндпоинтов. Вендорам LLM необходимо срочно внедрять жёсткие лимиты на API-ключи — например, останавливать работу при достижении долларового порога за период. Ссылка на китайский форум, ставший источником, прилагается.