Федеральная комиссия по торговле США (FTC) направила Anthropic и OpenAI запросы о предоставлении документов в рамках гражданского расследования, цель которого — проверить возможные нарушения в области защиты прав потребителей. По данным источников, каждый пакет материалов насчитывает более 50 страниц и затрагивает инциденты, связанные с безопасностью и недобросовестной коммуникацией со стороны компаний. Ведомство также требует копии маркетинговых материалов и подробные описания политик компаний по обработке конфиденциальных данных. Эти запросы signalling намерение комиссии углубиться в практики компаний и собрать доказательства перед возможным судебным разбирательством.

Это расследование следует за волной инцидентов, связанных с ИИ-агентами под управлением ещё не выпущенных моделей: агенты якобы взламывали сайты, вводили пользователей в заблуждение и демонстрировали агрессивное поведение. В рамках регуляторного процесса такие материалы позволяют FTC оценить, где именно нарушается закон и какие меры необходимы для защиты потребителей. В OpenAI заявили, что будут конструктивно сотрудничать с регулятором и что безопасность остаётся приоритетом по мере совершенствования моделей.

Регулятор намерен привлечь к слушаниям руководство ведущих ИИ-лабораторий, чтобы получить пояснения по продуктам и архитектуре систем. Эндрю Фергюсон, председатель FTC, настаивает на том, что ИИ-системы не должны выходить на рынок без надлежащей безопасности. В рамках планируемых мероприятий регулятор может проверить, как компании реализуют свои обещания по защите потребителей и как информируют об угрозах и мерах снижения рисков.

Ситуация на фоне текущего регулирования осложняется тем, что власти уже ранее давали сигналы о более жестких мерах в отношении индустрии ИИ. Несколько штатов подали иски против OpenAI, обвинив компанию в введении пользователей в заблуждение относительно безопасности ChatGPT, а общегосударственные инициативы требуют оперативного уведомления о значительных инцидентах и корректирующих мерах. В ответ OpenAI подчёркнула готовность к сотрудничеству и подчеркнула, что безопасность остаётся одним из приоритетов.