Руководство конкурирующих американских стартапов Anthropic и OpenAI в середине месяца зафиксировало редкое единодушие по вопросу снижения темпов развития ИИ ради обеспечения общественной безопасности. В рамках этой повестки OpenAI объявила о готовности предоставлять доступ сторонним аудиторам к своим ИИ‑моделям на более ранних этапах разработки, чем это было допустимо ранее. Эти заявления подтверждаются публикациями, где прямо указывается на изменение порядка аудиторов и расширение этапов, на которых можно проводить анализ.

Сама Anthropic ранее призвала к более открытому процессу: приглашение сторонних экспертов для указания угроз обществу и устранения их до выхода моделей на рынок, а также демонстрация готовности следовать такому подходу через приглашение специалистов Accenture для профильного аудита. В контексте этого сопоставимого шага OpenAI подчеркивает стремление к развитию институциональной культуры безопасности на нескольких стадиях — от обучения до оценки и распространения.

По словам представителей OpenAI, до сих пор аудит мог проводиться ближе к моменту выпуска, когда модели готовились к оценке возможностей и публичному развёртыванию. Теперь же обсуждается участие независимых аудиторов на более ранних этапах, включая этапы обучения и оценки, чтобы обеспечить глубжее погружение в вопросы безопасности и ответственность за результаты работы экспертов. Эти принципы приводятся в официальной формулировке к процедуре аудита и подчёркнуто, что аудиторы должны быть независимыми, добросовестными и досконально изучать аспект безопасности.

OpenAI уже ведёт отбор подрядчиков для выполнения таких работ: среди кандидатов есть как новые имена на рынке, так и уже знакомые участники, ранее занимавшиеся расследованием инцидентов, связанных с другими платформами. При этом лаборатория подчеркивает задачу обеспечить подробный анализ с одновременной защитой чувствительной информации, что нередко становится вызовом для внешних экспертов. Эти детали приводятся в материалах компании и указывают на баланс между открытостью аудитам и сохранностью коммерчески важной информации.

К контексту проблемы относится и общая стратегическая дискуссия о международном регулировании и стандартах в сфере ИИ: OpenAI поддерживает идею создания международных организаций, занимающихся безопасностью выпускаемой на рынок ИИ‑продукции, а также призывает правительство США продвигать развитие общепринятых стандартов. В публикациях указывается, что спор идет не только о доступе аудиторов, но и о формировании рамок, в которых подобные проверки станут обычной практикой для отрасли.