Проверить, училась ли модель на ваших данных, почти невозможно — и вот почему

Индустрия научилась отвечать на вопрос «это сделал ИИ?»: с 2 августа в ЕС действует статья 50 AI Act, обязывающая генеративные модели помечать синтетический текст, картинки и видео машиночитаемым способом, а Spotify с середины сентября собирается вешать ярлык AI Persona на профили несуществующих исполнителей и убирать их из рекомендаций. Но есть и обратный вопрос: была ли конкретная работа человека — например, ваш двадцатилетний музыкальный каталог — в обучающих данных модели и повлияла ли она на сгенерированный вчера трек?

Короткий ответ: проверить это практически никак. И дело не в распространённом заблуждении, что «модель ничего не хранит». Причина глубже: методы membership inference и training data attribution имеют фундаментальные ограничения. Высокий influence score не доказывает, что именно ваша запись сыграла роль — модель могла обучаться на тысячах похожих работ, и ваш вклад неотличим от статистического шума.

Поэтому восстановить происхождение данных после обучения почти невозможно. Надёжный путь — фиксировать происхождение данных заранее, до того как они попали в обучающую выборку. Иначе любые попытки атрибуции остаются лишь вероятностными оценками, которые не выдерживают проверки в реальных спорах об авторстве.