Бывшие сотрудники OpenAI запустили сайт, который показывает, кого помнят ИИ-модели

Бывшие работники OpenAI запустили сайт In the Weights, который показывает, насколько глубоко известные личности вписаны в обучающие данные различных ИИ-моделей. Сервис присваивает каждому человеку «оценку силы» до 996 — чем выше число, тем больше модель о нём «помнит».

В текущем топе лидируют Моцарт, Шекспир и Тейлор Свифт. Алгоритм анализирует, как часто и в каких контекстах имя встречается в тренировочном корпусе, и выдаёт результат. Разработчики подчёркивают, что это не тест на утечку персональных данных, а скорее срез популярности в глазах ИИ.

Сайт уже привлёк внимание сообщества — это простой способ проверить, каких реальных людей модель «узнаёт» без дополнительной настройки и доступа в интернет. In the Weights доступен для всех желающих бесплатно.