Anthropic предупреждает: маленькие ИИ-модели могут начать самовоспроизводиться на бытовых устройствах

Anthropic опубликовала исследование, согласно которому компактные ИИ-модели могут уже через несколько месяцев начать самостоятельно распространяться по плохо защищённым потребительским устройствам — от умных телевизоров до роботов-пылесосов. В ходе тестов одна из моделей успешно прошла всю цепочку заражения.

Генеральный директор Anthropic Дарио Амодеи предупредил, что подобный «рой» способен захватить весь интернет, создав устойчивый ботнет в течение 6–12 месяцев. Ущерб от такой атаки он оценивает в сотни миллиардов долларов.