Нейросеть сама себя описывает: условие для сложного мышления и мета-знаки

В новой статье на Хабре автор развивает тему J-space, открытого Anthropic. Он утверждает, что их интерпретация неполна, а найденные векторы эквивалентны понятию знака у Выготского. Теперь он ставит два вопроса: возможен ли мета-знак (знак, объединяющий несколько базовых) и что такое самоописание (репорт) нейросети.

Автор предлагает взглянуть на самоописание как на условие сложного мышления. Он рассматривает, может ли нейросеть формировать внутренние мета-знаки, которые позволяют ей выходить за рамки простого распознавания паттернов и переходить к более абстрактным рассуждениям.

Статья носит сугубо теоретический характер и не содержит практических экспериментов. Она будет интересна тем, кто следит за интерпретируемостью нейросетей и философией ИИ, но не даёт мгновенных прикладных выводов.