Стартап Anthropic выдвинул идею наделить правительство США правом блокировать выход передовых ИИ‑моделей исключительно по решению федерального судьи. Решение, по замыслу компании, должно приниматься на основе результатов независимого аудита, а предполагаемый ущерб от выпуска модели — не менее 1 млрд долларов или риск смерти/тяжёлых увечий не менее 50 людей. Такую формулировку Anthropic приводит как ключевой ориентир в черновом законопроекте, который компания направила законодателям и которым, по словам источников, они хотят размыслить рамочные принципы регулирования на федеральном и локальном уровне. Источник информации — Politico, который цитирует представителей Anthropic, заявивших о рамках будущего законодательства. Однако в контексте рассказа об идущем диалоге с властями подчёркивается, что процесс пока носит обсуждательный характер и не предусматривает прямого вмешательства чиновников в каждую разработку. (источники: 9, 10)

Авторы законопроекта предлагают ввести механизм независимого аудита: аудиторы будут регистрироваться Министерством торговли США и периодически проверять разрабатываемые стартапом модели. Anthropic заявляет, что готова самостоятельно оплачивать работу аудиторов и что результаты аудита не должны влиять на зависимость разработки и внеплановую интерпретацию выводов, а государственный контроль ограничится возможностью прерывания работ над опасной моделью через судебное решение. Официальных ограничений на ведомственные процедуры пока не заявлено, но речь идёт о правах Министерства торговли выдвигать судебный запрет на продолжение разработки опасной ИИ‑модели. Ряд деталей указывают на то, что запрет может вводиться исключительно федеральным судьёй округа Колумбия. (источники: 12, 13)

В проекте отмечается, что цифры по рискам и критерии «необратимости» или «высокой вероятности» их реализации должны быть оперативно отражены в отчетах аудита и доведены до Министерства торговли США в течение 72 часов после завершения аудита. По задумке Anthropic, именно ведомство будет обладать правом добиться временного запрета на продолжение исследований, но при этом подчёркивается, что вмешательство других ведомств США или чиновников не предполагается. Это условие подчёркнуто как часть требования к автономии аудитов и к юридической процедуры запрета. (источники: 13)

Антропик указывает, что данная инициатива может опередить другие законопроекты в Америке, которые касаются прозрачности рисков использования передовых ИИ, проведения аудитов и публикации инцидентов. По сути, предлагается единая федеральная рамка, хотя и не исключаются региональные инициативы: в рамках отдельных штатов уже принимаются аналогичные проекты, однако их трудно утвердить в отличие от единой федеральной модели. В проекте подчёркивается необходимость защиты информаторов и правила публикации отчетов об инцидентах — элементы, которые должны дополнять формируемые на федеральном уровне требования к аудиту и раскрытию информации. (источники: 14, 11)

Контекст increasingly волнует отрасль: Anthropic ранее не лоббировал федеральные законы об ИИ, сосредотачиваясь на Калифорнии, но сейчас старается вести конструктивный диалог с американскими властями, отмечают источники. В материале Politico подчёркнуто, что идею компании поддерживают прежде всего принципы рамочных регулирований, намеченные на федеральном уровне и в отдельных локальных инициативах, и что в ближайшее время Конгресс США может рассмотреть соответствующие вопросы. Ранее упоминаемая доля риска и примеры инцидентов, по которым возможно введение запрета, отмечены как ориентиры для будущего закона. (источники: 9, 10)