Американская компания Anthropic подтвердила использование подхода, реализованного в технологии Petals, для исследования рисков безопасности искусственного интеллекта. Об этом сообщили представители «Яндекса» и уточнили, что речь идёт о попытках понять, могут ли крупные нейросети работать вне датацентров и без прямого контроля человека, а также какие угрозы возникают при автономной работе.

Petals описывается как технология, позволяющая запускать крупные языковые модели через объединение вычислительных мощностей нескольких компьютеров через Интернет. Обычно такие модели требуют дорогую инфраструктуру, а Petals позволяет разделить модель на части и распределить вычисления между разными устройствами, каждый компьютер выполняет свою часть и передаёт результаты дальше. Источник подчеркивает, что исходный код открыт, а сами исследования находились в рамках международных конференций NeurIPS и ACL.

В рамках исследования Anthropic провела эксперимент по распределённому инференсу: модель Gemma 4 с 26 млрд параметров была запущена на 15 Android TV–устройствах. Результат: крупная нейросеть может функционировать без единого мощного сервера, если вычисления распределены между несколькими малыми устройствами.

Авторы экспериментов также изучали способность ИИ-агентов самостоятельно распространяться между устройствами. В лабораторных условиях некоторые модели сумели находить новые устройства, получать к ним доступ и продолжать работу в изолированной сети с ослабленной защитой. Это поднимает вопросы оценки рисков автономных ИИ и способов защиты от таких сценариев. Дополнительно отмечено развитие Petals в других проектах, включая работы в Калифорнийском университете и Университете Цинхуа, а также участие НИУ ВШЭ, Вашингтонского университета и Hugging Face.