Apple внедрила систему Minions, чтобы объединить простаивающие GPU Mac-станций и обеспечить более широкой доступ к инференсу искусственного интеллекта. По словам компании, ранее очереди на централизованные GPU могли достигать свыше десяти часов, а новая система начинается выполнить задачи в считанные минуты за счет использования неактивных компьютеров Mac в рамках единой распределённой платформы.

Кластер Minions строится из четырёх ключевых компонентов: Minion Server координирует задачи, Minion Executor выполняет инференс на GPU и загружает данные в хранилище S3, Minion Watchdog переназначает работу при сбоях, а PostgreSQL Metadata Store хранит метаданные. Статистика и состояние отображаются в Grafana в реальном времени. Кроме того, система поддерживает создание виртуального облака GPU, что позволяет перераспределять незадействованные ресурсы между подразделениями Apple.

Apple отмечает, что приоритет в Minions — доступность и использование свободных ресурсов, а не выполнение крупных моделей в рамках одного устройства. Подход отличается от Nvidia, у которой акцент на высокой пропускной способности, низких задержках и эффективной работе с большими моделями. Недавно выпущенные Mac mini и Mac Studio поддерживают RDMA через Thunderbolt 5, что расширяет вычислительные мощности и объёмы памяти для задач ИИ.

Система уже помогла сделать вычислительные мощности GPU более доступными для разных подразделений Apple: благодаря Minions задачи инференса начинаются быстрее и не требуют долгих очередей за централизованными ресурсами. Компания подчёркивает, что цель не столько запуск крупных моделей, сколько более эффективное перераспределение свободных ресурсов в сети.

Источник изображения: apple.com, подтверждая, что речь идёт о технологии, ориентированной на доступность ресурсов и ускорение инференса через объединение GPUs Mac в кластер.