Руководство Anthropic, OpenAI и других компаний, работающих с искусственным интеллектом, в частном порядке обдумывает сценарии общественного недовольства и политической реакции на случай крупномасштабного инцидента, связанного с ИИ. Одним из таких сценариев считается кибератака, которая может перекрыть людям доступ к финансовым услугам, к интернету или даже к электроэнергии и воде. Эти планы являются частью подготовки к возможным последствиям развития технологий и фиксируются как обсуждение вариантов, а не как предсказание неизбежности катастрофы.

В индустрии помимо общего обсуждения угроз упоминаются конкретные примеры и риск-аспекты: открыто подчёркивается, что инциденты в киберпространстве возможны в любой момент, а государственные и коммерческие структуры пытаются отработать способы противодействия и координации действий. Указывается, что мировая экономика тесно связана с инфраструктурой ИИ, и любые задержки в развитии технологий могут оказать удар по экономике. Главные руководители отрасли осознают риск и стремятся повлиять на формирование политики после первого крупного инцидента.

В сводках приводится пример — потенциальное использование открытых моделей злоумышленниками через тестовые среды или уже доступные инструменты. В ней приводится кейс из Южной Кореи: масштабная атака на банковский сектор, в ходе которой были взломаны ресурсы двух банков; одного человека считают виновным. Также упоминается, что злоумышленник обратился к Anthropic Claude Code за помощь в поиске мест для продажи похищенной информации. эти эпизоды иллюстрируют риски и мотивируют усиление мер защиты и контроля над ИИ.

Политическая динамика демонстрирует, что победа демократов на промежуточных выборах может привести к усилению контроля над развитием ИИ или попыткам приостановить его, однако единых позиций в Конгрессе пока нет. Экономика мира тесно переплетена с инфраструктурой ИИ, поэтому любые задержки в росте технологий могут подорвать существующую систему. В материалах подчёркивается, что среди законодателей обсуждаются две линии — запрет на сверхинтеллект и создание средств экстренного отключения передовых моделей, хотя эксперты сомневаются в возможности полного отключения всех систем.

Сводки отмечают, что первый серьёзный инцидент способен резко усилить общественный скепсис к технологии и к лидерам отрасли, включая директоров компаний и политиков. В частности, обращается внимание на критику в адрес Дональда Трампа за позицию по регулированию ИИ. Аналитики и руководители отрасли видят учения по сценариям как обычную практику подготовки; представители OpenAI подчёркивают, что такие учения помогают подготовиться к разным обстоятельствам, а Anthropic в комментариях воздержался от пояснений.