Диогу Алмейда, ранее исследователь OpenAI и участник разработки ChatGPT с опытом RLHF, заявил, что нынешние большие языковые модели чересчур оптимизированы под человеческий язык. По его словам, такое заострение под язык затрудняет применение в автоматизации, где зачастую важнее конкретные решения, а не тексты. Два года назад он покинул OpenAI и основал TypeSafe AI, которая выпустила Jev — трансформерную модель, не относящуюся к классу LLM: она выдает заранее заданные вероятности решений вместо обычного текста.

Такой подход обещает существенно большую скорость и меньшую стоимость по сравнению с моделями, работающими с текстом, а фиксированный набор вариантов помогает исключать галлюцинации в привычном смысле: Jev прямо не генерирует произвольный текст.

Типовая работа Jev оценивается по входным токенам в миллиарды, а выходы предлагаются пользователям бесплатно. По словам сотрудников, это облегчает ориентирование разработчиков на решение конкретных задач.

Интерес к проекту был настолько велик, что TypeSafe временно не смогла обработать/API-запросы из-за перегрузки. Инженер из Vercel Пранит Шарма рассказал, что после замены OpenAI на Jev проверки инструкций стали выполняться в 5–18 раз быстрее и с большей точностью. В отдельном тесте Jev классифицировала деловые письма чуть менее точно, чем Gemini, но обходилась в 10–20 раз дешевле. Особенно подчёркнули, что модель выдаёт числовую вероятность своего выбора.

Jev может применяться не только отдельно как альтернатива LLM, но и вместе с ними: например, для проверки поведения ИИ‑агентов, обнаружения обходов ограничений и слежения за их последовательностями действий. Ещё один сценарий — маршрутизация запросов: одна экономичная модель решает, достаточно ли дешевым образом можно выполнить задачу, или нужна более мощная система. Архитектуру Jev TypeSafe не раскрывает детально. По словам Алмейды, модель обучается исключительно на синтетических данных с применением метода, который компания называет «обучение с подкреплением на основе калиброванных решений».

Название Jev отсылает к экономисту Уильяму Стэнли Джевонсy и парадоксу Джевонса: снижение цены ресурса может привести к росту его потребления. TypeSafe планирует применить этот принцип к машинному обучению — делать простые интеллектуальные решения дешевыми и быстрыми, чтобы их можно было встроить прямо в программное обеспечение. Также объявлены планы выпуска версий модели для других модальностей.