На этой неделе представители крупных американских ИИ‑стартапов выступили с призывами к системному регулированию отрасли и переходу к международным стандартам безопасности ИИ. OpenAI прямо заявила о необходимости выработки мировых норм и механизмов оценки рисков, подчёркивая, что речь идёт не о локальных мерах, а о принципах надёжности, прозрачности и безопасного использования передовых ИИ‑моделей. Эти слова следуют за широкой повесткой по снижению угроз и координации действий между странами. sources:[0,12,13]

В заявлении OpenAI подчёркнута важность налаживания безопасных каналов обмена информацией между США и КНР и создания международных стандартов оценки ИИ‑моделей с участием существующих национальных организаций. Указывается, что такой подход мог бы опираться на опыт авиации и систем обеспечения финансовой стабильности, где приняты общепринятые нормы и доверенные каналы сотрудничества без угрозы суверенитету стран. Это подчёркивает идею баланса интересов государств и взаимной открытости. sources:[12]

Особый акцент в позиции OpenAI сделан на регулировании систем с возможностью рекурсивного самосовершенствования (RSI). Без разумных ограничений человечество может потерять контроль над их развитием. Прогресс в RSI, по мнению OpenAI, должен быть под контролем людей и соответствовать общечеловеческим ценностям. В случае отсутствия надзора последствия «саморазвития» ИИ‑моделей могут оказаться существенно серьёзнее известных инцидентов. sources:[13]

Среди участников дискуссии звучала позиция правительства США: на данном этапе власти считают нецелесообразным замедлять темпы развития ИИ и не намерены расширять роль государства. Говорится, что добровольные ограничения могут помочь конкурентам из других стран, а полноценных договорённостей, по сути, пока не требуется. Эти формулировки отражены в заявлении, где подчёркивается поиск баланса между свободой инноваций и безопасностью. sources:[14]

Сообществу индустрии также близки взгляды Демиса Хассабиса, сооснователя Google DeepMind: он предлагает учредить наднациональный регулирующий орган под эгидой частно‑государственного партнёрства, который включал бы технических экспертов и представителей открытого сообщества. По его мнению, влияние ИИ может оказаться в десять раз сильнее промышленной революции, и изменения будут происходить в десять раз быстрее. Anthropic выступает за внешние аудиты безопасности и замедление темпов в отрасли. sources:[15,16]