Можно ли заразить нейросеть деменцией: зачем учёные намеренно ломают ИИ

Нейросеть не может «заболеть» деменцией в человеческом смысле: у неё нет белков, слипающихся в бляшки, ни нейрофибриллярных клубков. К концу контекстного окна LLM действительно соображает хуже, но механизм сбоя — не патология, а техническое ограничение. Однако исследователи могут намеренно ломать обученную сеть, имитируя нейродегенерацию.

Когда сеть «ломают» аккуратно, деградация поразительно напоминает клиническую картину: свежие воспоминания исчезают раньше старых, конкретное забывается быстрее общего, симптомы долго не проявляются, а затем обрушиваются лавинообразно. Этот метод — рабочий инструмент вычислительной нейробиологии, которому уже за 30 лет, и он помогает понять, как устроена память у живых пациентов.