Routage et garde-fous passent dans une couche de décision distincte du LLM principal
Jev matérialise une couche de décision séparée du LLM qui écrit ou raisonne. Au lieu de générer du texte, le modèle renvoie des choix typés et leurs probabilités pour router une requête, choisir un tool ou décider d’une escalade. InfoWorld souligne que cette spécialisation remet une partie du contrôle du workflow dans le code.
Claude Code suit la même séparation pour la sécurité. En auto mode, un classifieur vérifie les commandes shell et les accès réseau avant exécution ; depuis la version 2.1.278, les déploiements éligibles peuvent faire exécuter ces contrôles côté serveur sans coût de classification supplémentaire. Le modèle principal n’est donc plus seul à décider si une action part.
Vercel mesure déjà l’appétit pour cette architecture : Jev a atteint près de 13 % de ses équipes payantes en vingt-quatre heures, un record sur AI Gateway. Pour les développeurs, le gain ne vient pas seulement de la latence : il faut désormais concevoir explicitement schémas de décision, seuils de confiance, fallback et recours humain.
Sources
Chaque onglet présente la publication d’origine et son lien direct.
TypeSafe AI’s new models work with machines, not humans
InfoWorld décrit Jev comme un modèle dédié aux décisions structurées dans les workflows automatisés : choix de tool, prochaine action, approbation ou handoff. L’article souligne que ce découpage peut réduire latence et coût, tout en obligeant les équipes à définir sorties, seuils, escalades et validation de calibration sur leurs propres données.
A new kind of AI model from a ChatGPT inventor is thrilling developers
TechCrunch rapporte les premiers usages de Jev pour l’automatisation : Vercel l’a testé comme classifieur de sécurité à la place d’un LLM généraliste, tandis que d’autres développeurs l’emploient pour la classification, le suivi de traces d’agents et le model routing.
Jev is the fastest-adopted model in AI Gateway history
Vercel indique que Jev a atteint près de 13 % des équipes payantes d’AI Gateway dans ses premières vingt-quatre heures, soit le lancement le plus rapidement adopté de son historique. Le billet cite le choix de tool ou de subagent, le routage de workflow, le scoring de risque et les guardrails parmi les usages visés.
Auto mode classifier request charges
La documentation Claude Code explique qu’en auto mode un classifieur vérifie notamment commandes shell et requêtes réseau avant exécution. Depuis la version 2.1.278, les sessions éligibles demandent au serveur d’effectuer ces contrôles sans facturer ces requêtes de classification ; un fallback local reste possible si les checks serveur n’atteignent pas la session.