
Открываем твой цифровой клуб…
Технологии и ИИ
Amazon Web Services представила инструмент TorchNeuron, который позволяет AI-стартапам переносить свои приложения на искусственный интеллект на чип Trainium без полной переработки кода. По словам Amazon, этот ход направлен на подрыв существующего программного преимущества Nvidia, которое на протяжении лет закрепило за её GPU роль «по умолчанию» в области ИИ.
TorchNeuron работает поверх PyTorch — популярного открытого инструментария для разработки, обучения и развёртывания ИИ. По заявлению AWS, перенос приложения, написанного на PyTorch, на Trainium занимает всего одну строку конфигурации и не требует переписывания кода. Это делает Transition проще в сравнении с более глубокими изменениями в архитектуре проекта.
По данным источников, около 85% ИИ‑проектов пишутся на PyTorch. Изначально PyTorch был разработан Facebook, сейчас проект управляется Linux Foundation. Nvidia за годы выстроила обфкацию CUDA‑инструментария, обеспечивающего работу приложений на GPU Nvidia, что закрепило её оборудование в toolkit как базовый выбор.
TorchNeuron адаптирован под PyTorch, поэтому разработчики, знакомые с этим фреймворком, могут работать с ним без изучения новой платформы. Хотя Amazon не первый игрок, который пытается облегчить перенос на свои чипы, пользователи PyTorch могут также перенести свои приложения на AMD‑GPU или на устройства Apple через простую конфигурацию.
Однако Amazon заявляет, что перенос на Trainium не просто прост — он также открывает доступ к всемирной облачной инфраструктуре AWS. По их словам, для стартапов это часто выгоднее, чем использование сетей облачных провайдеров, завязанных на Nvidia и её аппаратное обеспечение, таких как Coreweave, Nebius и Firmus.
«Когда вы работаете на AWS, вы не ставите ставку на одного производителя вычислений и вам не приходится подстраиваться под всё остальное», — отметил Колин Брейс, вице-президент технологий и программного обеспечения в Annapurna Labs (подразделение AWS, выпускающее собственные чипы). «На AWS инфраструктура для перехода от прототипа к производству уже готова, что позволяет основателю двигаться быстро и масштабироваться по мере необходимости».
AWS подчёркивает, что один и тот же чип отвечает за обучение и вывод (inference), тесно интегрирован с облачной инфраструктурой стартапов, и поэтому они смогут экономить деньги, даже если AWS не предлагает самую дешевую цену за токен.
«Ценность Trainium — это соотношение цена‑производительность и то, что это единая платформа для обучения и вывода, что улучшает экономику полной рабочей нагрузки», — добавил Брейс. По его словам, Deepgram перешла на Trainium с нативной поддержкой PyTorch и сейчас обрабатывает на 70% больше аудио за доллар на продакшн‑уровне точности. Deepgram — конкурент ElevenLabs в области голосовых приложений.
Однако Amazon не ограничивается только удобством переноса PyTorch‑приложений в облако: компания заявляет, что будет развивать PyTorch так, чтобы он менее зависел от Nvidia, и планирует внести соответствующий код в основной проект PyTorch. В блоге, сопутствующем анонсу, компания написала, что цель — сделать PyTorch более аппаратно независимым для всего сообщества разработчиков, а не только для пользователей Trainium.
«Подход Amazon выходит за пределы собственного оборудования. Компания вносит изменения в PyTorch в открытый проект, сотрудничая с сообществом PyTorch, чтобы убрать код, привязанный к конкретным чипам. Цель — сделать PyTorch более универсальным для всей экосистемы разработчиков, а не только для пользователей Trainium», — говорится в публикации.
Эксперты спорят, что подобная стратегия может повлиять на Nvidia: перспектива снижения «замкнутости» и расширения выбора для разработчиков может обернуться и меньшей привязкой к Nvidia, или привести к новым сложностям конфигурации. В любом случае, если PyTorch удастся глубоко отвязать от Nvidia, это может повлиять на Nvidia сильнее, чем просто конкуренция в чипах.
По словам Брейса, основное значение — снятие блокировок, которые мешали разработчикам иметь реальный выбор. В итоге событие рассматривают как потенциально значимый сдвиг в расстановке сил на рынке ИИ‑графического ускорения.