Les garde-fous d’agents combinent jugement LLM et validations déterministes

Illustration éditoriale — Les garde-fous d’agents combinent jugement LLM et validations déterministes

Un modèle juge s’insère désormais directement dans le workflow d’un agent. UiPath propose depuis le 7 septembre son garde-fou « LLM as Judge », qui évalue prompts, réponses ou appels LLM selon des instructions métier en langage naturel. Chaque contrôle devient un appel LLM distinct, mesuré et facturé séparément.

PatchBench montre pourquoi ce jugement doit être doublé de vérifications déterministes. Sur onze agents de correction de vulnérabilités, un test limité au PoC gonfle le taux de réussite de 1,83 fois : avec validation de sécurité puis de comportement, les meilleurs agents tombent d’au-dessus de 97 % à environ la moitié des tâches.

Le même déplacement apparaît côté production. MarketScale rapporte que les entreprises poussent désormais contrôles d’accès, journalisation et tests continus jusque dans la couche données, parce que connecteurs, permissions et outils évoluent après déploiement. Pour les développeurs, un score final ne suffit plus : il faut des garde-fous exécutés pendant tout le workflow.

La recherche IA passe aux agents qui enchaînent des expériences sur plusieurs jours

Illustration éditoriale — La recherche IA passe aux agents qui enchaînent des expériences sur plusieurs jours

Le travail de recherche assisté par agents dépasse désormais les tâches ponctuelles de code. Chez OpenAI, mi-août, l’organisation de recherche consommait 3,1 journées-agent pour une journée humaine, tandis que le nombre d’expériences par chercheur atteignait un record. Les agents prennent davantage de tâches longues, mais les humains gardent priorités, arbitrage et décisions de déploiement.

Meta teste la même logique sur une évaluation externe. AIRA₃, présenté comme son système autonome de recherche IA, a fini 8e sur environ 4 000 équipes dans un concours Kaggle de fine-tuning Nemotron, noté sur un jeu privé. Le signal important est opérationnel : l’agent ne produit plus seulement du code, il optimise une capacité mesurée.

Anthropic pousse cette autonomie jusqu’à la vérification mathématique. Des agents Claude ont formalisé le dernier théorème de Fermat en Lean en onze jours, avec 13 millions de lignes et 29 500 théorèmes intermédiaires retenus. Pour les développeurs, l’agent harness doit désormais gérer état persistant, budget de calcul, parallélisme et vérification indépendante du résultat.

Le routage multi-modèle devient le contrôle de coût des coding agents

Illustration éditoriale — Le routage multi-modèle devient le contrôle de coût des coding agents

Le choix du modèle entre désormais dans le runtime des coding agents. HydraFusion, dans Copilot CLI, construit pour chaque tâche un workflow Single, Cascade ou Critique, puis choisit les modèles chargés de résoudre, relire ou escalader. Sur TerminalBench 2.1, GitHub annonce 67 % de coût estimé en moins qu’Opus 5, avec 4,9 points de qualité vérifiée en plus.

Spotify applique la même logique plus bas dans le harness. Son plugin `shunt` intercepte les lectures volumineuses de Claude Code et les délègue à un worker moins cher, ici Gemini 2.5 Flash, avant de renvoyer un résumé compact. L’équipe mesure environ 90 % de tokens en moins sur ses scénarios de lecture de gros fichiers.

CodeRabbit montre pourquoi ce routage devient une décision économique : sur son exemple de revue, GPT‑6 Astra coûte 1,50 dollar contre 0,60 pour GPT‑5.6 Sol, alors que son gain global de bugs détectés n’est que d’environ 4 %. Pour les développeurs, l’optimisation se déplace du modèle choisi vers la politique qui attribue chaque étape au bon niveau de capacité.

Sources