План Трампа по тестированию ИИ: добровольный, расплывчатый и не касается открытых моделей

Администрация Дональда Трампа представила план тестирования ИИ на предмет кибербезопасности — и он оказался на удивление ограниченным. Согласно отчёту Axios, новые добровольные рекомендации не только не затрагивают open-weight модели, но и прямо запрещают использовать их для ограничения открытых моделей после релиза.

План был разработан во исполнение июньского указа президента, который требовал от компаний, разрабатывающих фронтирные модели, делиться ими с федеральным правительством до выхода на рынок. Однако фактически получившийся документ оставляет open source модели за скобками — то есть любой желающий может скачать такую модель, изучить её код и использовать безо всякого контроля.

Эксперты уже раскритиковали подход за неспособность охватить ключевой сегмент ИИ: открытые модели сегодня активно используются в исследованиях, стартапах и даже в системах, которые могут быть потенциально опасны. Без возможности хотя бы тестировать их безопасность до широкого распространения, план рискует остаться лишь формальностью, не решающей реальных угроз.