Anthropic объявила о выборе Accenture в качестве партнёра для независимой оценки своих ИИ-систем. Специалисты Accenture будут непосредственно участвовать в рабочих процессах внутри ИИ-лаборатории Anthropic. Это сотрудничество обозначено как первый шаг в рамках инициативы главы Anthropic Дарио Амодеи по замедлению развития передовых ИИ.

Согласно договорённости, в ближайшие пять лет две компании вложат не менее 1 млрд долларов в наращивание потенциала в этой сфере. Однако, учитывая важность и неотложность задачи, Anthropic обеспечит прямое финансирование своей части работ Accenture. В дальнейшем план финансирования обсуждается как возможность привлечения совместных или государственных источников, однако на данный момент таких источников нет; поэтому Anthropic намерена сотрудничать с различными организацияциями, проводящими оценку, на разных условиях.

На минувшей неделе Дарио Амодеи предложил план из трёх этапов по замедлению совершенствования передовых моделей ИИ. Первый этап предусматривает привлечение независимых экспертов к работе лабораторий для контроля за безопасностью, стресс-тестирования и соответствия моделей человеческим ценностям. В поддержку идеи высказались глава OpenAI Сэм Альтман и руководитель xAI Илон Маск, в то время как руководители других крупных компаний, в том числе Nvidia, отнеслись к предложению скептически, не увидев необходимости дополнительного регулирования.

Партнёрство Anthropic с Accenture не является эксклюзивным: компания ведёт переговоры и с некоммерческой исследовательской организацией METR и с другими потенциальными партнёрами. Anthropic подчёркивает, что это первые шаги, что общественность и другие разработчики ИИ могут увидеть, как устроена их работа, и что подход будет меняться по мере продвижения проекта и привлечения дополнительных оценщиков. Сообщается, что по мере прогресса проекта будут публиковаться новые сведения.

Контекст ситуации — стремление в индустрии к более внимательному и медленному развитию ИИ на фоне обсуждений о регуляциях и безопасности. В рамках инициативы сотни слов о роли независимого аудита и подвергнутых исследованиям подходах к оценке рисков остаются частью дискуссии между компаниями и регуляторами, а также между технологическими лидерами.