DeepDream от Google: как нейросеть видит галлюцинации и что это говорит о чёрном ящике ИИ

Google DeepDream родился из простого вопроса: что именно «видит» нейросеть между входом и выходом? Если подать на классификатор фото, он выдаёт вероятности — собака, кошка, автомобиль. Но как он к этому приходит — загадка. Чтобы понять это, исследователи пошли от обратного: не подгонять ответ под картинку, а менять картинку так, чтобы усилить внутренний сигнал модели.

Результат — знаменитые изображения с десятками глаз, собаками в облаках и бесконечными узорами. DeepDream стал вирусным, но его настоящая ценность — в методологии: это один из первых способов визуализации внутреннего представления нейросети. Теперь такие методы называются «механистической интерпретируемостью» и активно развиваются.

Хотя сегодня DeepDream кажется ретро, он заложил основу для понимания, как нейросети «галлюцинируют» и как можно анализировать их решения. Без него не было бы современных техник визуализации признаков и атрибуции ответов.