Circuit Breaker Labs создала «краш-тест-манекены» для ИИ: проверяем безопасность для детей и взрослых

Пока индустрия спорит о гипотетических рисках ИИ в далёком будущем, реальный психологический вред уже здесь: токсичные ответы, манипуляции, нежелательный контент. Circuit Breaker Labs предлагает ловить такие проблемы до того, как они доберутся до пользователя.

Стартап создал «краш-тест-манекены» — симуляторы поведения, которые проверяют, как ИИ реагирует на провокации, неэтичные запросы и уязвимые сценарии. Инструмент позволяет разработчикам увидеть скрытые риски ещё на этапе тестирования, а не после жалоб.