Le MEA forme des agents LLM à utiliser des outils d'explication contre des récompenses de fidélité

Les modèles de ML dans les domaines à enjeux élevés restent largement opaques pour les praticiens qui agissent sur leurs prédictions. Les méthodes d'explication post-hoc offrent une fenêtre sur le comportement du modèle, mais leur maniement exige une expertise que la plupart des experts métier n'ont pas : naviguer dans des sorties de haute dimension, sélectionner les meilleures explications et synthétiser des preuves issues d'outils disparates.

Le MEA supprime cet obstacle de connaissances grâce à une division du travail : un agent Proposer sélectionne et configure les outils d'explication en fonction de la question et de la modalité, tandis qu'un agent Actor, optimisé de bout en bout selon la fidélité, transforme les sorties des outils en explications en langage naturel pour les modalités tabulaire, textuelle et visuelle. Le cadre couvre l'attribution de caractéristiques, le raisonnement contrefactuel et la détection de caractéristiques fallacieuses, chacun étant associé à une métrique de fidélité fondée sur la perturbation.

Une constatation de référence rend le dispositif décisif : les LLM de pointe à qui l'on demande d'expliquer des modèles produisent systématiquement des explications infidèles. L'optimisation guidée par récompense selon la fidélité, augmentée d'une pénalité adaptative à la modalité, permet au MEA de surpasser les explicateurs post-hoc et les références agentiques et propriétaires sur six jeux de données, avec des gains de fidélité de +28 % (tabulaire), +21 % (texte) et +34 % (vision) par rapport au modèle de base non entraîné.

Cessez de construire de nouveaux explicateurs — entraînez des agents à manier ceux qui existent, évalués par la fidélité elle-même

La fidélité peut être mesurée par perturbation, elle peut donc servir directement de récompense d'entraînement plutôt que de score post-hoc.

Séparer la sélection des outils de la rédaction des explications permet d'optimiser chaque agent pour son propre mode de défaillance.

Une pénalité adaptative à la modalité maintient l'optimiseur honnête sur les entrées tabulaires, textuelles et visuelles.

Les LLM de pointe sollicités directement sont systématiquement infidèles, si bien qu'une simple invite ne peut combler l'écart d'expertise.

Lorsqu'une chaîne d'outils exige une expertise que ses utilisateurs n'ont pas, faites apprendre à un agent à la faire fonctionner et évaluez l'agent sur la métrique de qualité qui compte — la récompense remplace la compétence manuelle.

Les auteurs positionnent les agents IA comme une interface évolutive et adaptable à l'explicabilité du ML — une voie vers une explicabilité en langage naturel qui se généralise au-delà des outils fixes et monofonction qui ont longtemps défini le domaine. Publié en tant que prépublication v1 sur arXiv le 1er octobre 2026 ; aucun résultat de déploiement pour l'instant.