Нейросимвольный ИИ Шумского: как сжатие данных может решить проблему галлюцинаций LLM

Трансформеры страдают от трёх проблем: низкая интерпретируемость для инженеров, отсутствие гарантий правильного ответа для бизнеса и галлюцинации для пользователей. Исследователи ищут альтернативы, и одно из направлений — символьный ИИ, где знания представлены в виде формальных правил и логических выводов.

Сергей Шумский предлагает концепцию нейросимвольного ИИ, основанную на принципе сжатия. Идея в том, чтобы объединить способность нейросетей обучаться на данных с чёткостью символьных систем. Это должно дать объяснимые решения и снизить риск выдумок. Подробности архитектуры и первые результаты автор разбирает в своей статье.