Anthropic: код от Claude должен проверяться жёстче, чем написанный человеком

Борис Черни из Anthropic подчеркнул, что код, сгенерированный Claude для продакшена, должен проходить более строгие проверки, чем написанный человеком. Это связано с риском получить трудно поддерживаемую кодовую базу.

В Anthropic уже внедрена целая система guardrails: множество линт-правил, тестов, end-to-end тестов с участием самого Claude, ежедневные фаззеры на его основе, автоматические код-ревью и ревью безопасности, а также автоматический рефакторинг. Без этих мер, по словам Черни, код быстро превращается в «мешанину», которую сложно поддерживать.