Глава OpenAI Сэм Альтман предложил три варианта обеспечения глобальной безопасности искусственного интеллекта. По его словам, можно выбрать путь, аналогичный МАГАТЭ в атомной сфере, или создать CERN-подобную исследовательскую коалицию по управлению разработками, либо рассмотреть радикальный принцип «кто первый встал, того и GPU» — то есть лишить конкурентов доступа к графическим процессорам. Эти идеи были озвучены в его обращении к сотрудникам стартапа и позже обсуждались в деловой среде; по данным The Information, он выдвинул их персоналу OpenAI уже на прошлой неделе. По словам автора материала, компания должна к концу следующего года определить, какую стратегию внедрять. Источники отмечают, что Альтман склонялся к первому пункту больше остальных. 【0】【11】

Первый сценарий предполагает создание международной контролирующей организации, подобной МАГАТЭ. В рамках такой структуры правительства стран и ИИ-компании могли бы совместно устанавливать стандарты безопасности, а высокопроизводительные модели — подвергаться независимому аудиту перед выпуском. По информации источников, именно эта идея казалась Альтману наиболее привлекательной: вспоминается, что в 2023 году он вместе с двумя коллегами выступил соавтором статьи о создании подобного надзорного органа в сфере ИИ. 【12】

Второй сценарий заимствует концепцию Демиса Хассабиса и подразумевает создание исследовательской организации, управляемой несколькими странами — по аналогии с CERN. Под эгидой такой структуры разработчики ИИ могли бы делиться результатами и оценками безопасности, избегая бездумной конкуренции. Однако для реализации потребуется активное вовлечение правительств разных стран, что делает концепцию на практике трудной к реализации. 【13】

Третий сценарий, централизованный и наиболее спорный, основан на технологическом и экономическом преимуществе первой достигшей «сильного ИИ» компании. По замыслу Альтмана, она должна лишить доступа к GPU своих конкурентов. Сам он назвал этот план «ужасным» и отметил, что привёл его лишь ради полноты вариантов обсуждения. В коллективе OpenAI некоторые сотрудники предположили, что инициатива могла быть направлена против Anthropic. 【14】

Отдельно упоминается, что недавно принятый законопроект крупнейших разработчиков ИИ в США предусматривает прохождение как минимум двух независимых аудитов ежегодно и дает властям право приостанавливать обучение моделей, если есть основания полагать, что текущий вариант способен принести ущерб свыше одного миллиарда долларов или повлечь гибель и тяжкие травмы 50 и более человек. Эти положения усиливают контекст обсуждений Альтмана, демонстрируя, что тема контроля над ИИ выходит за рамки частной компании в общественно-политическую плоскость. 【15】

Альтман признаёт, что в текущий момент нет достаточного количества практических способов «ограничить скорость» разработки ИИ и что баланс между обеспечением безопасности и необходимостью не отставать в конкуренции остаётся сложной задачей. Он также отметил, что в переговорах с Anthropic и Google по созданию единого надзорного органа по контролю за соблюдением стандартов планируется реализовать процедуры к концу текущего года или старту следующего. В рамках обсуждений речь идёт о размещении независимых проверяющих внутри компаний и единых стандарт поклонения инцидентам в сфере безопасности — но спор касается того, будет ли надзорный орган непосредственно аудитировать или делегировать полномочия сторонним организациям. 【16】【17】

Контекст рассказа дополняют сводки о том, что источники в публикациях и комментариях указывают на активное участие Альтмана в формировании дискуссии об управлении ИИ на глобальном уровне, а также на то, что история «ИИ-бумы» восходит к моменту выхода чат-бота ChatGPT осенью 2022 года. Этот фон подталкивает к рассмотрению предложений с учётом того, что они носят как теоретический, так и практический характер и напрямую связываются с текущими дискуссиями вокруг надзора и аудита новых технологий. 【10】【18】

Завершая обзор, в публикациях отмечают, что Альтман предлагает всесторонний, но разный набор инструментов по модерированию темпов и форм развития ИИ, призывая к обсуждению и принятию одной из возможностей как рамки для будущего регулирования отрасли. Позиции руководителя OpenAI остаются спорными внутри коллектива и в профессиональной среде, а конкретное решение по внедрению какой-либо из стратегий ещё не принято. 【0】【11】【12】【13】【14】【15】【16】【17】【18】