Суд в Германии: Google отвечает за галлюцинации ИИ-обзоров — Шнайер о liability

Немецкий суд вынес решение: Google несёт ответственность за неточности, допущенные в AI-обзорах (AI overviews). Это первый прецедент, когда компанию признали liable за галлюцинации генеративной модели, а не за действия человека.

Эксперт по безопасности Брюс Шнайер комментирует: ИИ-агенты — это агенты компании, которая их развернула, и закон должен относиться к ним соответственно. Если бы Google нанял людей для написания тех же сводок, он отвечал бы за их ошибки. Позволять бизнесу прятаться за «неисправный ИИ» — значит создавать катастрофические стимулы: зачем нанимать людей, если ИИ дешевле и снимает ответственность?

Решение может задать тренд для других юрисдикций. Если liability за ИИ станет нормой, компаниям придётся пересмотреть подход к развёртыванию генеративных моделей — особенно в сферах, где ошибки критичны (медицина, юриспруденция, финансы).