Во вторник Google объявил: новая версия PyTorch под названием TorchTPU стала открытым проектом. Это шаг в сторону конкуренции с Nvidia, которому принадлежал статус «доминирующего» аппаратного решения для AI-разработок: большинство приложений пишутся под графические процессоры Nvidia, и многие функции PyTorch изначально адаптированы под них. В этом контексте заявление Google представляет собой попытку снизить зависимость отрасли от чипов Nvidia и расширить выбор оборудования и облачных сервисов. Источник указывает также на то, что многие источники рынка оценивают долю PyTorch в кругах разработки в районе 85% приложений. sources: [0, 1]

TorchTPU позволяет запускать AI-приложения на чипах Google — Tensor Processing Units (TPU). Это облегчает миграцию существующих проектов PyTorch на TPU и на Google Cloud: переход осуществляется по простой конфигурационной смене без переписывания кода приложений. Такое заявление подчеркивает цель — сделать переход к альтернативным решениям менее трудозатратным для разработчиков. sources:[2]},{

Похожий подход у Amazon: накануне компания выпустила собственную версию PyTorch под названием TorchNeuron. Она рассчитана на перенос AI-приложений на собственный чип Trainium и на AWS без переписывания кода. Одновременно Amazon заявляет о дальнейшей работе над тем, чтобы снизить зависимость PyTorch от конкретных чипов и сделать его более открытым к любому аппаратному обеспечению за счет публикации кода в основном проекте PyTorch. Источник подчеркивает, что это часть общей стратегии ослабления «державы Nvidia» над PyTorch. sources:[3]

Google же заявляет о прямом взаимодействии с несколькими участниками экосистемы: Meta, Hugging Face, Inferact (создатель vLLM), RadixArk (создатель SGLang) и другими. Это, как утверждают в Google, должно обеспечить совместимость функций TorchTPU и библиотек с популярными инструментами разработки ИИ, подобно тому, как это происходит в оригинальном PyTorch. sources:[4]

Кроме того, Google запустил специальный набор инструментов TPU agent suite, чтобы помогать разработчикам переносить приложения на чипы Google и исправлять возникающие ошибки. Также обновлена LiteRT — распространенная утилита для запуска ИИ на смартфонах, ноутбуках и встроенных устройствах — чтобы она лучше работала в связке с PyTorch AI-приложениями. sources:[5]

Однако никакие изменения не означают, что разработчики автоматически откажутся от Nvidia: по словам источников, процесс перехода будет индивидуальным и постепенным. Тем не менее и Google, и Amazon явно работают над снижением преимуществ Nvidia в области PyTorch и открытием доступа к альтернативным аппаратным средствам. sources:[6]