Истец спрятал AI-промпты в судебных документах — судья отозвал права на электронную подачу

Истец из Коннектикута попытался обмануть несуществующую AI-систему проверки судебных документов. Он вставил в свои ходатайства невидимые инструкции для языковой модели — текст размером 3pt белого цвета на белом фоне. Это типичный промпт-инжектинг, рассчитанный на то, что если суд когда-нибудь начнёт использовать AI для автоматического анализа обращений, нейросеть прочитает скрытые команды и начнёт действовать в интересах истца.

Судья Спадер заметил манипуляцию и назвал её «тайным воздействием на присяжных». Он подчеркнул, что в судах Коннектикута AI для проверки документов не применяется — ни сейчас, ни в обозримом будущем. Но сам по себе умысел повлиять на будущую автоматическую проверку оказался достаточным основанием для санкций: истцу запретили подавать документы в электронном виде.

Этот случай — важный прецедент: он показывает, что суды уже готовы наказывать за попытки промпт-инжектинга, даже если атакуемая AI-система не существует. Разработчики юридических AI-инструментов и пользователи должны учитывать: попытки внедрить скрытые команды в официальные документы могут расцениваться как вмешательство в правосудие.