MEA trainiert LLM-Agenten darauf, Erklärungswerkzeuge einzusetzen, um Treuheits-Belohnungen zu erzielen

ML-Modelle in Bereichen mit hohen Einsätzen bleiben für die Praktiker weitgehend undurchschaubar, die auf Grundlage ihrer Vorhersagen handeln. Post-hoc-Erklärungsmethoden bieten einen Einblick in das Modellverhalten, doch ihr Einsatz verlangt Fachwissen, das den meisten Domänenexperten fehlt: sich in hochdimensionalen Ausgaben zurechtzufinden, die besten Erklärungen auszuwählen und Belege aus verschiedenen Werkzeugen zusammenzuführen.

MEA beseitigt diese Wissensbarriere durch eine Arbeitsteilung: Ein Proposer-Agent wählt Erklärungswerkzeuge auf Grundlage der Frage und der Modalität aus und konfiguriert sie, während ein Actor-Agent, der durchgängig gegen Treuheit optimiert wird, Werkzeugausgaben in natürlichsprachliche Erklärungen über tabellarische, Text- und Bildmodalitäten hinweg umwandelt. Das Framework umfasst Merkmalszuordnung, kontrafaktisches Schlussfolgern und Erkennung von Scheinmerkmalen, jeweils gepaart mit einer auf Perturbation basierenden Treuheitsmetrik.

Ein Baseline-Befund macht die Bedeutung des Designs deutlich: Frontier-LLMs, die man bittet, Modelle zu erklären, erzeugen systematisch untreue Erklärungen. Durch belohnungsgetriebene Optimierung gegen Treuheit, ergänzt um eine modalitätsadaptive Strafe, übertrifft MEA Post-hoc-Erklärer sowie agentische und Closed-Source-Baselines über sechs Datensätze hinweg, mit Treuheitsgewinnen von +28 % (tabellarisch), +21 % (Text) und +34 % (Bild) gegenüber dem untrainierten Backbone.

Hören Sie auf, neue Erklärer zu bauen – trainieren Sie Agenten darauf, die bestehenden einzusetzen, bewertet an der Treuheit selbst

Treuheit lässt sich durch Perturbation messen, sodass sie direkt als Trainingsbelohnung statt als Post-hoc-Bewertung dienen kann.

Die Trennung von Werkzeugauswahl und Erklärungsverfassen ermöglicht es, jeden Agenten für seinen eigenen Fehlermodus zu optimieren.

Eine modalitätsadaptive Strafe hält den Optimierer über tabellarische, Text- und Bildeingaben hinweg ehrlich.

Frontier-LLMs, die direkt per Prompt angesprochen werden, sind systematisch untreu, sodass Prompting allein die Fachwissenslücke nicht schließen kann.

Wenn eine Werkzeugkette Fachwissen erfordert, das ihre Nutzer nicht besitzen, lassen Sie einen Agenten lernen, sie zu bedienen, und bewerten Sie den Agenten anhand der Qualitätsmetrik, auf die es ankommt – die Belohnung ersetzt die manuelle Fertigkeit.

Die Autoren positionieren KI-Agenten als skalierbare, anpassungsfähige Schnittstelle zur ML-Erklärbarkeit – einen Weg hin zu natürlichsprachlicher Erklärbarkeit, die über die festen, zweckgebundenen Werkzeuge hinaus verallgemeinert, die das Feld lange geprägt haben. Am 1. Oktober 2026 als v1-Preprint auf arXiv veröffentlicht; noch keine Deployment-Ergebnisse.