Les harnais d'exécution auto-évolutifs peuvent améliorer sensiblement les agents LLM, mais les approches existantes fondées sur les échecs traitent chaque échec observé comme une preuve directe justifiant une modification du harnais. Un problème central : un échec peut refléter soit les limites du modèle sous-jacent, soit des déficiences systématiques du harnais, et optimiser contre des échecs individuels induit une adaptation propre au modèle qui nuit à la généralisation entre tâches et entre modèles.
L'intuition d'Ecdysis est que les échecs qui se reproduisent sur des tâches distinctes fournissent une preuve inductive plus forte de déficiences systématiques du harnais que les échecs isolés. Il agrège les preuves d'échec à travers les instances de tâches avant de promouvoir les schémas d'échec récurrents en évolution persistante du harnais, et emploie une analyse collaborative des échecs pour affiner les spécifications de modification.
Sur plusieurs LLM et benchmarks, Ecdysis améliore la précision de raisonnement des harnais ainsi obtenus de 18,56 % par rapport à l'évolution de harnais existante, tout en atteignant un entraînement du harnais jusqu'à 1,84 fois plus rapide, avec un entraînement plus économe en données. Une analyse fine montre qu'il réduit l'adaptation propre au modèle pendant l'évolution, et les harnais résultants présentent une meilleure généralisation entre LLM et une consommation de tokens à l'inférence plus faible.
Traiter la récurrence comme le seuil de preuve : un échec observé sur des tâches distinctes est une dette du harnais ; un cas isolé, c'est le modèle qui se comporte comme un modèle
Les échecs qui se reproduisent sur des tâches distinctes constituent une preuve inductive plus forte de déficiences systématiques du harnais que les échecs isolés.
Agréger d'abord empêche les idiosyncrasies d'un seul modèle d'être intégrées au harnais.
L'analyse collaborative des échecs affine les spécifications de modification avant que les éditions ne soient appliquées.
L'évaluation entre LLM montre que les modifications se généralisent au lieu de s'adapter à un seul modèle.
Avant de corriger un système autour d'un échec, demandez-vous combien de contextes indépendants l'ont produit. La récurrence entre contextes sépare les défauts de l'échafaudage des limites du travailleur sous-jacent.
Suites
Publié comme préprint v1 le 10 septembre 2026 (v2 le 20 septembre) ; rapporté sur plusieurs LLM et benchmarks avec une analyse fine de la réduction de l'adaptation propre au modèle. Aucun déploiement en production signalé.
VÉRIFIEZ LES SOURCES
Les sources
- Ecdysis: Efficient and Effective Training of Runtime Harnesses for LLM Agents arXiv Software Engineering · arxiv.org ·