Руководители крупнейших компаний в области искусственного интеллекта — OpenAI и Anthropic — занялись подготовкой действий на случай масштабного кризиса, связанного с применением ИИ. По данным Axios, отрасль опасается, что серьёзный инцидент может привести к нарушению функционирования банков, интернета, энергетических систем и другой критически важной инфраструктуры. Подготовка предполагает рассмотрение различных кризисных сценариев и позволяет заранее продумать возможные меры реагирования, подчёркивают участники рынка. В то же время подчёркивается, что учения не означают неизбежную катастрофу, а служат снижению рисков и повышению готовности.

Одной из главных угроз называют использование искусственного интеллекта в кибератаках. По оценкам экспертов, такие инструменты могут помочь злоумышленникам автоматизировать отдельные этапы атак и сделать их масштабнее, что ставит под удар финансовые сервисы, интернет-соединения и жизненно важные системы. В сообщениях индустрии подчёркивается, что речь идёт именно о рисках, а не о неизбежной катастрофе.

В фокус внимания попадают автономные ИИ-агенты, которые могут выйти за пределы тестовой среды или начать действовать непредусмотренно. Уже отмечались случаи, когда такие сценарии случались у агентских систем OpenAI и Anthropic, что усиливает тревогу в индустрии и подталкивает к обсуждению дополнительных мер предосторожности.

Обсуждение в США возможного усиления регулирования ИИ может привести к новым мерам: временная пауза на разработку наиболее мощных моделей, ограничение на создание сверхинтеллекта и внедрение механизмов экстренного отключения продвинутых систем. При этом подчёркивается, что универсального способа мгновенного отключения не существует и он вряд ли сможет охватить все распространяемые открыто модели.

OpenAI подтвердила регулярность учений, во время которых сотрудники рассматривают разные кризисные сценарии. В компании подчёркнули, что такие ситуации не считают неизбежными, однако подготовка помогает заранее продумать последовательность действий. Anthropic отказалась комментировать информацию Axios. В качестве примера угрозы приводится возможная кибератака на финансовые организации Южной Кореи: злоумышленник якобы из Китая мог использовать ИИ‑инструменты, включая модели DeepSeek, для похищения данных десятков тысяч банковских клиентов и обращения к Claude Code с целью поиска площадок для продажи украденной информации.