OpenAI пресекла кражу модели через дистилляцию — защита усилена

OpenAI заявила, что прервала работу группы, пытавшейся с помощью дистилляции извлечь защищённые знания из её модели. Это не первая подобная атака, но, по словам компании, она была скоординированной и носила систематический характер.

В ответ OpenAI усиливает механизмы защиты от adversarial distillation — метода, при котором злоумышленники пытаются «вытянуть» из модели её внутреннюю логику, задавая тысячи целенаправленных запросов. Детали технических контрмер не раскрываются, но компания обещает, что они усложнят кражу знаний даже при больших объёмах запросов.