Anthropic и Accenture объявили о создании совместной команды внедрённых «оценщиков», которая будет работать наряду с внутренними группами безопасности и внешними партнёрами. По данным источников, суммарное финансирование проекта составит не менее двух миллиардов долларов за пять лет — по одному миллиарду от каждой компании.

Ключевое новшество проекта — модель доступа, которую Anthropic называет embedded evaluation. «Оценщики» получат права, сопоставимые с должностными правами сотрудников лаборатории: они смогут наблюдать за циклами разработки и развёртывания моделей, инспектировать соблюдение требований по безопасности и выявлять слепые зоны, недоступные обычному внешнему аудиту.

TechCrunch отмечает, что эта сделка рассматривается как первый конкретный шаг в рамках обещания Anthropic допустить внешних оценщиков внутрь ИИ-лаборатории. Это подчёркивает стремление расширить практику надзора за ИИ и участие сторонних экспертов в процессах.

Для команд, отвечающих за надзор за ИИ, важны детали объёма доступа, допустимых к публикации материалов и реальная связь замечаний с изменениями в механизмах кибербезопасности. Такой спектр вопросов определяет эффективность внедрённой модели контроля.