Французская компания Mistral выпустила открытые веса своей флагманской нейросети Large 4 (Le Chonk). По сообщению инвесторов и разработчиков, до публикации весов еще три недели велось дополнительное обучение нейросети, что повлияло на её результаты в тестах по программированию и выявлению уязвимостей. Теперь модель доступна для развёртывания на собственном оборудовании, а API-доступ стал дешевле по сравнению с первоначальным базовым тарифом. Источник: блок 0; доп. сведения о предварительной версии и сроках публикации — блок 11.

Large 4 основана на архитектуре Mixture-of-Experts и насчитывает около триллиона параметров, из которых задействуется 49 миллиардов токенов на обработку каждого входа, без учёта слоев эмбеддингов и вывода. Контекстное окно достигает 1 миллиона токенов, модель распознаёт изображения и поддерживает более 160 языков. После дообучения с подкреплением в тесте Terminal-Bench 4.0 результат вырос на 13 п.п. до 41%, при этом генерируемые токены снизились примерно на 30%. По данным разработчиков, расход токенов на выполнение сопоставимых задач снизился примерно на 47%. Источник: блоки 11, 12.

В рамках ряда тестов Large 4 продемонстрировала сильные стороны в области кибербезопасности: в тесте Artificial Analysis Cyber Index модель набрала 51%, а в собственных испытаниях она отклоняла около 96,6% вредоносных запросов, связанных с кибератаками. В Benchmark B3 Agent Security показатель устойчивости достиг 97,1% против 93,3% у предварительной версии. Кроме того, в тесте FrontierCode 2.0 нейросеть заняла 19,7%, что, по заявлению Мistral, является лучшим результатом среди моделей с открытыми весами. Источник: блоки 14, 13.

Выпущены новые тарифы на использование Large 4 через API: обработка 1 миллиона входных токенов стоит 0,70 доллара, выходных — 2,10 доллара. Ранее базовые тарифы составляли 1,36 доллара и 4,18 доллара соответственно. Для входных токенов из кеша установлена цена 0,07 доллара за миллион. Веса размещены на Hugging Face, а для развёртывания доступны инструменты vLLM и SGLang. Модель распространяется по лицензии Mistral Ecosystem Open-Weight, которая допускает бесплатное использование, дообучение и коммерческое применение, но компании, предлагающие платный доступ по схеме Model-as-a-Service, должны заключить отдельное соглашение с Mistral. Источник: блоки 16, 17.