Хамить Клоду больше нельзя: Anthropic ввел блокировку за жестокое обращение с ИИ

Anthropic ужесточил правила использования своей модели Claude. В обновленной политике появился пункт, запрещающий «систематическое жестокое обращение» с ИИ. Теперь за постоянные оскорбления или унижение модели пользователю могут заблокировать аккаунт.

Новое правило развивает подход, который уже позволял модели самой завершать некоторые диалоги. По сути, Anthropic рассматривает Claude как сущность, которая может заслуживать защиты. Кроме того, политика ужесточила ограничения на пропаганду, использование оружия с дронов и слежку.