
Открываем твой цифровой клуб…
Наука и космос
Исследователи из AI VK презентовали подход к работе с графовыми нейросетями, предназначенный для крупных индустриальных графов. В центре внимания — задача подбора друзей и связей в VK: граф состоит из миллионов пользователей и миллиардов связей, и здесь стандартные алгоритмы наталкиваются на ограничения масштаба, памяти и динамики данных. Об этом рассказывают в контексте доклада, который представят на конференции CIKM 2026, сопоставляя актуальные решения с индустриальными потребностями. По словам автора, для социальных графов VK — граф с 194 миллионами пользователей и 28 миллиардами связей — такие подходы требуют новых механизмов памяти и аккуратной работы со временем.
В основе техники лежит идея перевода задач на графовую модель: у вершин — пользователи, у рёбер — отношения дружбы. Графовая нейросеть VX работает с эмбеддингами — компактными числовыми описаниями пользователей. На каждом шаге обновления информации вектор пользователя усчитывается как взвешенная сумма векторов соседей, а сама задача подбора дружбы оценивается по сходству таких векторов. В VK у пользователей есть два эмбеддинга: один для роли «кому рекомендуют», другой — «кого рекомендуют», что учитывает различие между популярными и активными искателями дружбы. Эти принципы заложены в архитектуре GATv2 с механизмом внимания, который помогает выделять наиболее значимые связи между людьми.
Однако переход к индустриальному масштабу порождает три существенные проблемы. Во-первых, размер графа: даже компактная версия профиля пользователя требует памяти, а на расстоянии двух шагов от одного человека оказывается десятки миллионов аккаунтов, что исключает опрос всего окружения ради одного прогноза. Во-вторых, слабые признаки: анкеты с тремя полями (пол, возраст и число друзей) не дают достаточно информации, поэтому приходится хранить собственные эмбеддинги на миллионах узлов, что требует больших объемов памяти. В-третьих, динамика: граф постоянно меняется, и если обучаться на графе «как он есть сегодня», можно получить утечку данных, когда модель «видит» будущее через данные истории показов.
Чтобы обойти эти ограничения, исследователи внедрили две техники, которые адаптированы под промышленные графы. Первая — мультихеш-эмбеддинги: вместо сохранения отдельного вектора на каждого пользователя используются три хешированные таблицы, и вектор строится как склеение трёх соответствующих строк. Такая схема снижает требуемую память почти в сотни раз, но сохраняет качество за счёт возможности различать пользователей по комбинации трёх признаков. Вторая техника — временная выборка соседей: для каждого примера видят только те дружбы, которые возникли до момента показа рекомендации, с запасом времени, чтобы избежать утечки. Это позволяет избежать утечки будущих событий и существенно сокращает вычисления. Эти подходы дают возможность обучать и использовать графовые модели на одном сервере с несколькими видеокартами.
Экспериментальные результаты впечатляют: на исторических данных новая графовая модель достигла ROC-AUC 0,628 против 0,557 у прежней версии VK, а ранг-задача показывает значимое улучшение. При этом в А/Б-тесте новая модель принесла биение на 16 процентов больше добавлений в друзья из рекомендаций и на 11,5 процента — рост числа людей, добавивших хотя бы одного рекомендованного друга, без увеличения времени отклика системы. Но авторы подчеркивают ограничения: новые пользователи графа «не имеют окружения», рекомендации работают не в реальном времени, обновление эмбеддингов требует значительного времени, и модель не ищет кандидатов среди всего объема пользователей, а только среди тех, кого уже отобрали другими инструментами.
Тем не менее предлагаемые решения оказались практичными для больших индустриальных данных и могут применяться и в других задачах графовых нейросетей. Авторы отмечают, что хеширование и временные выборки позволяют выходить за пределы лабораторных датасетов и работать на графах индустриальных масштабов, не требуя кластеров из сотен машин. В перспективе подобные подходы могут использоваться в других крупных системах, где графовые модели полезны для рекомендаций, антифрода и анализа вливаний в сети.