Ankyra: гибрид нейросети и формальной логики против галлюцинаций LLM

Языковые модели впечатляют успехами в математике и доказательствах теорем, но продолжают галлюцинировать: придумывают несуществующие факты, и пользователи часто верят. Виновата вероятностная природа рассуждений: токены — это векторы чисел, а self-attention отлично ловит аналогии, но когда аналогий нет, начинает фантазировать.

Чтобы это исправить, исследователи развивают нейро-символический подход: модель рассуждает не одна, а вместе с символьным решателем на основе детерминированного алгоритма. Тот использует аппарат формальной логики, отлаженный за десятилетия. Автор рассказывает о своей реализации такого тандема — Ankyra.