Бывшие сотрудники Anthropic и METR собрали $40 млн на «страховку» от неконтролируемых ИИ-агентов

Ветеран индустрии ИИ, один из первых сотрудников Anthropic, вместе с бывшим операционным директором METR (организации, исследующей риски ИИ) запустили стартап Artificial Intelligence Underwriting Company (AIUC). Компания привлекла $40 млн в раунде Series A, который возглавил Ribbit Capital, а участие принял First Harmonic.

AIUC позиционирует себя как «андеррайтера» для ИИ-агентов: команда разрабатывает способы выявлять и ограничивать действия агентов, которые начинают вести себя непредсказуемо или выходят за рамки заданных параметров. По сути, это страховой механизм для корпоративных клиентов, которые всё активнее делегируют задачи автономным системам.

Имена основателей и детали технологии пока не раскрываются, но сам факт привлечения серьёзных инвестиций от известных фондов говорит о том, что проблема контроля над ИИ-агентами становится одной из самых острых для бизнеса. Эксперты отмечают: чем больше агентов получают доступ к деньгам и данным, тем выше спрос на инструменты, которые могут «осадить» их в случае сбоя.