ИИ-агенты в разработке: исследователи нашли простые способы взломать инфраструктуру

Денис Макрушин из Яндекса вместе с коллегами Ратмиром Самархановым и Андреем Погирейчиком из SourceCraft Security опубликовал первые результаты исследования безопасности ИИ-агентов в разработке. Команда исходила из гипотезы, что агенты могут быть скомпрометированы, и нашла простые средства для контроля их защищённости.

Авторы отмечают, что индустрия активно обсуждает возможности агентов, но редко говорит о том, как внедрять безопасную инфраструктуру. Исследование показывает, что уязвимости реальны, а меры защиты — доступны. Полные результаты и рекомендации — в блоге Дениса.