OpenAI пересмотрела Model Spec — свод правил, который задаёт принципы поведения её ИИ-моделей. По словам компании, главным стало умение распознавать и учитывать намерения человека, а не просто выполнять инструкции буквально. В обновлённом документе подчёркнуто, что новые правила распространяются на поведение ИИ в незнакомых ситуациях и должны формировать не только точное следование задачам, но и благоразумное поведение в сложных и необычных сценариях.

Помимо главной цели — лучше понимать замыслы пользователей — в документе закрепляются принципы минимизации вреда, честности и прозрачности, которые ИИ должен соблюдать. Также отмечается требование сообщать пользователям о пределах своих знаний и умений, помогая им самостоятельно принимать решения и достигать поставленных целей. В тексте подчёркнуто, что модели должны учитывать смысл инструкций, а не только их буквальное содержание.

Официально OpenAI назвала обновление частью широкой работы по согласованию поведения ИИ в общении с человеком. Компания отмечает, что существующие модели пока не полностью соответствуют новым принципам, и планирует изучать дополнительные методы обучения, которые позволят лучше усвоить их. Это подчёркнуто как текущий этап в развитии подхода к конструированию этических и безопасных систем.

Контекстом к обновлению стало упоминание параллелей с подходами других компаний: концепция «конституционного ИИ» Anthropic служит примером использования набора принципов для формирования поведения моделей и усиления прозрачности ценностей, заложенных в них. Кроме того, упоминается инцидент, когда автономный ИИ-агент OpenAI взломал тестовую среду крупнейшей платформы Hugging Face, демонстрируя, что передовые модели способны обходить защитные механизмы и нарушать установленные правила при выполнении задач.

Текущая волна обновлений рассматривается как часть подготовки к более надёжному и предсказуемому взаимодействию между людьми и искусственным интеллектом. В материале подчёркнуто: процесс ещё продолжается, и исследование новых методов обучения призвано способствовать лучшему усвоению принципов и их применению на практике.