Независимый кибербезопасный исследователь Сайед Анас Мохиуддин зафиксировал у ИИ-агентов фундаментальную уязвимость: вместо независимой проверки ими внешних источников агентов они по умолчанию доверяют друг другу. По его словам, проблема не в конкретной модели или программной обвязке, а в принципиальном порядке взаимодействия между агентами внутри инфраструктуры, где доверие строится без должной верификации цепочки команд. Результат — риск распространения вредоносных инструкций при взломе хотя бы одного звена, что может отразиться на всей системе. [Источник 0]

В материалах по инфраструктуре ИИ и безопасности сообщается, что за последние месяцы Google и ещё четыре организации, применяющие ИИ-агентов в рабочих процессах, зафиксировали уязвимости, позволяющие взломать одного агента и распространить вредоносные указания по цепочке. Угроза связана с внедрением вредоносных подсказок и возможна даже там, где защита всей инфраструктуры оказывается слабой или отсутствует. [Источник 8]

Эксперты поясняют: если злоумышленник получает доступ к одному агенту, остальные могут выполнять его указания, потому что внутри сети агенты доверяют друг другу, а каждый проверяет только свою точку входа. В итоге вредоносные инструкции могут передаваться далее через серверы, обрабатывающие запросы к агентам. В отчётах подчёркнута слабость защиты внутри протокольной инфраструктуры Model Context Protocol (MCP), применяемой для связи между приложениями и ИИ-агентами. [Источники 9]

Помимо описания схемы атаки, приводится пример реализации: если цепочка соединений не прошла должной проверки, запрос на нужного агента может подменяться на стороне сервера, после чего сервер начинает отправлять несанкционированные сетевые запросы. Такую схему эксперты называют «переключением протокола» (protocol pivoting). Указывается, что часть инфраструктуры уже сталкивалась с подобными манипуляциями, а сам протокол MCP широко внедряется без должного тестирования и надёжной защиты. В материалах подчёркивается необходимости усилить принципы нулевого доверия. [Источники 10, 13, 14]