OpenAI выпустила новые правила для ИИ-моделей, которые и так сложно контролировать

OpenAI обновила Model Spec, перестроив правила поведения вокруг пяти ключевых ценностей, включая верность намерениям человека (faithfulness to human intent) и способность к исправлению (correctability).

Модели GPT теперь должны использовать историю диалога, чтобы выяснить, что на самом деле нужно пользователю, и раскрывать свои собственные предположения. Вопрос в том, будут ли модели следовать этим правилам — предыдущий опыт показывает, что контролировать их поведение непросто.