L’idée centrale : Traiter les boucles d’agent comme des compilateurs
Le nom est délibéré. La compilation Just-in-Time (JIT) dans les langages de programmation traduit du bytecode de haut niveau en code machine optimisé à l’exécution, en sélectionnant parmi de nombreuses traductions valides celle ayant le coût estimé le plus bas. La Compilation JIT d’Agent fait de même — mais le « langage source » est une description de tâche en langage naturel, et le « code machine » est un plan d’appels d’outils exécutables, d’évaluations LLM et de branches parallèles.
Le système comprend trois composants fonctionnant en synergie :
| Composant | Objectif |
|---|---|
| Protocole d’outil avec invariants | Invariants d’état pré/post-conditions pour une vérification compositionnelle au moment de la compilation |
| Planificateur JIT | Génère plusieurs plans de code, les valide via un parcours de graphe de flux de contrôle (CFG) par rapport aux contrats d’outils, sélectionne le candidat au coût minimal |
| Ordonnanceur JIT | Choisit la stratégie de parallélisation optimale (série/parallèle/couverture) via une estimation de coût Monte Carlo à partir de distributions de latence apprises |
« Comme un compilateur JIT, qui à l’exécution traduit un programme de haut niveau en code optimisé de bas niveau, notre système traduit une instruction en langage naturel de haut niveau en code de bas niveau au moment de la synthèse du plan. » — Extrait de l’article
Le protocole d’outil avec invariants
Un résultat critique de l’article : 45 à 50 % des erreurs d’automatisation web proviennent de séquences d’actions incorrectes — appeler un outil dans le mauvais ordre, ou appeler un outil alors que l’état de la page ne le supporte pas.
Le protocole d’outil élimine toute cette classe d’erreurs en attachant des préconditions et postconditions à chaque outil, à la manière d’un système de vérification formelle :
{
"name": "add_to_cart",
"pre": {"page_type": "store"},
"post": {"page_type": "store"},
"pre_check": "return document.body.textContent.includes('Full Menu') ? true : [false, 'Not on a store page'];"
}
Les invariants d’état sont composables : deux appels d’outils peuvent être chaînés si le post du premier satisfait le pre du second. La vérification statique au moment de la synthèse du plan élimine les erreurs d’ordre d’outils — réduisant le taux d’échec de 59 % à 25 %, et augmentant le taux global de plans valides de 77,1 % à 90,6 % pour tous les modèles testés (p ≪ 0,001).
Planificateur JIT : Pourquoi la sélection sensible au coût est importante
Le Planificateur JIT génère plusieurs plans de code en parallèle (jusqu’à K candidats), construit un graphe de flux de contrôle (CFG) pour chacun, valide chaque appel d’outil par rapport aux invariants d’état actuels, calcule un coût estimé à l’aide de distributions de latence apprises, et retourne le plan valide le moins coûteux.
Le résultat critique : la différence entre le meilleur et le pire plan candidat en termes de coût est en moyenne de 5,3× (11,7 s contre 61,7 s), confirmant qu’une génération naïve de plans laisse d’importantes performances inexploitées.
Performances selon les modèles :
| Méthode | GPT-4.1 | Gemini 2.5 Flash | Gemini 2.5 Pro |
|---|---|---|---|
| Browser-Use | 150,1 s, 61 % | 100,3 s, 59 % | 115,9 s, 77 % |
| Browser-Use + cache | 105,2 s, 88 % | 69,3 s, 81 % | 65,8 s, 86 % |
| Planificateur JIT | 15,4 s, 90 % | 7,2 s, 94 % | 12,6 s, 97 % |
| Gain vs Browser-Use | 9,7× | 14× | 9,2× |
Avec Gemini 2.5 Flash, le Planificateur JIT atteint 94 % de précision en 7,2 secondes — contre 100,3 secondes avec Browser-Use standard. Une amélioration de 14×.
Ordonnanceur JIT : Parallélisation via Monte Carlo
Une fois un plan sélectionné, l’Ordonnanceur JIT décide comment l’exécuter. Il simule trois stratégies — exécution série, exécution parallèle des branches indépendantes, et exécution « couverture » (exécution simultanée de plusieurs stratégies en prenant le premier résultat) — en utilisant un échantillonnage Monte Carlo sur des distributions de latence apprises.
L’ordonnanceur exploite également un cache persistant des résultats d’outils passés. Lorsque des appels d’outils identiques apparaissent dans différents plans, les résultats précédents peuvent être réutilisés sans réexécution, réduisant encore la latence.
Pourquoi c’est important
L’article aborde ce qui est probablement le plus grand goulot d’étranglement dans les déploiements d’agents en production aujourd’hui : la latence. Les agents web qui prennent 2 à 3 minutes par tâche ne sont pas pratiques pour les utilisateurs finaux. Les agents qui accomplissent la même tâche en 7 à 15 secondes — avec une précision supérieure — franchissent un seuil critique d’utilisabilité. Comme le confirme le rapport State of Agent Engineering 2026, les goulets d’étranglement d’infrastructure comme les limites de débit et la latence dépassent rapidement la capacité des modèles comme principal obstacle au déploiement en production.
Les implications vont au-delà de l’automatisation web :
- Les agents d’appel d’outils dans tout domaine peuvent bénéficier d’une synthèse de plan optimisée en coût avec application des invariants
- La métaphore de la compilation JIT fournit un cadre structuré pour considérer la planification d’agent comme une optimisation plutôt qu’un raisonnement séquentiel
- L’exécution parallèle de sous-tâches d’agent indépendantes est un levier sous-exploré pour la performance — l’article montre qu’elle peut presque doubler le débit sans sacrifier la précision
- Le protocole d’invariants est indépendant du modèle — tout LLM de pointe bénéficie de la même validation statique
La voie à suivre
La Compilation JIT d’Agent est acceptée à ICML 2026, l’une des principales conférences en apprentissage automatique. Les auteurs ont publié l’article sous licence CC BY 4.0, et le code devrait suivre.
Pour l’écosystème des agents, ce travail représente un changement dans notre façon de concevoir l’architecture des agents. Au lieu d’optimiser la boucle, peut-être devrions-nous compiler la boucle entièrement. Ce paradigme est l’une des nombreuses innovations architecturales qui redessinent le paysage des agents, aux côtés des frameworks et des modèles catalogués dans notre Guide complet des agents IA.
Sources : arXiv:2605.21470 — « Agent JIT Compilation for Latency-Optimizing Web Agent Planning and Scheduling » (ICML 2026), Analyse StartupHub.ai