Американским законодателям передан проект закона от Anthropic, предусматривающий ограничение полномочий федеральных органов по остановке разработки и применения передовых моделей искусственного интеллекта. Документ стал известен из конфиденциального источника, попавшего в руки Politico. По замыслу проекта, запрет на выпуск или использование ИИ-решения можно будет вводить только при наличии предсказуемой и непосредственной угрозы ущерба свыше 1 млрд долларов или риска гибели/тяжёлых травм более 50 человек, и эта угроза должна быть напрямую связана с созданием биологического оружия, выходом модели из-под контроля разработчика или кибератакой.

В тексте проекта указывается, что Министерство торговли США не вправе самостоятельно приостанавливать работу модели — для этого потребуется судебное решение вашего округа Колумбия. Законопроект также запрещает другим ведомствам и должностным лицам вмешиваться в развитие, развёртывание или внутреннее использование таких моделей. Предусматривается независимая оценка, регистрируемая в Минторге и подлежащая периодическим проверкам со стороны разработчиков и самих моделей; компаниям разрешено оплачивать такие проверки независимо от исхода, если оплата не зависит от результатов.

Изображение, относящееся к материалу, указано как сгенерированное Muse.

Представитель Anthropic сообщил, что законопроект отражает инициативу Advanced AI Framework — систему требований по безопасности мощных ИИ-моделей, которую компания продвигает в федеральных и штатных органах с июня. По словам собеседника, Anthropic считает принципы разумными и призывает Конгресс поддержать их.

Одной из особенностей документа стало ограничение действия некоторых штатовских требований, касающихся раскрытия рисков для общества, независимых оценок и отчётности о критических инцидентах.

Сама инициатива находится в стадии предложения и пока не принята: Конгрессу предстоит решить, примет ли он такие рамки и как увязать единые федеральные правила с существующими региональными требованиями.