Pydantic AI: ставим типы на место хаоса в LLM-агентах

Знакомая картина: сначала LLM-агент живет в 40 строках кода — промпт, вызов API, json.loads. Через пару недель модель начинает вставлять «Конечно!» перед JSON, терять обязательные поля и возвращать массивы строками. В итоге проект обрастает регулярками и костылями, которые страшно трогать.

Команда Pydantic — той самой библиотеки валидации, на которой стоят FastAPI и OpenAI SDK — предлагает решение. Pydantic AI описывает инструменты агента как обычные функции с аннотациями типов, а структурированный ответ — как pydantic-модель. Валидация формата происходит на уровне типов, а не руками.

Особенно приятна мелочь: замена облачной модели на локальную через Ollama сводится к изменению одной строки. Так что выйти из ада «то ли JSON, то ли текст» можно без переписывания всего агента.