MEA entrena a agentes LLM para manejar herramientas de explicación frente a recompensas de fidelidad

Los modelos de ML en ámbitos de alto riesgo siguen siendo en gran medida opacos para los profesionales que actúan a partir de sus predicciones. Los métodos de explicación post-hoc ofrecen una lente sobre el comportamiento del modelo, pero manejarlos exige una pericia de la que carecen la mayoría de los expertos de dominio: navegar por salidas de alta dimensionalidad, seleccionar las mejores explicaciones y sintetizar evidencia entre herramientas dispares.

MEA elimina esa barrera de conocimiento mediante una división del trabajo: un agente Proposer selecciona y configura herramientas de explicación según la pregunta y la modalidad, mientras que un agente Actor, optimizado de extremo a extremo frente a la fidelidad, transforma las salidas de las herramientas en explicaciones en lenguaje natural en modalidades tabular, de texto y de visión. El marco abarca atribución de características, razonamiento contrafactual y detección de características espurias, cada uno emparejado con una métrica de fidelidad basada en perturbaciones.

Un hallazgo de referencia hace mella en el diseño: los LLM de frontera a los que se pide explicar modelos producen sistemáticamente explicaciones infieles. La optimización impulsada por recompensas frente a la fidelidad, aumentada con una penalización adaptativa a la modalidad, permite que MEA supere a los explicadores post-hoc y a las líneas base agénticas y de código cerrado en seis conjuntos de datos, con ganancias de fidelidad de +28% (tabular), +21% (texto) y +34% (visión) sobre el backbone no entrenado.

Deja de construir nuevos explicadores: entrena agentes para manejar los existentes, calificados por la propia fidelidad

La fidelidad puede medirse mediante perturbación, por lo que puede servir directamente como recompensa de entrenamiento en lugar de como puntuación post-hoc.

Separar la selección de herramientas de la redacción de explicaciones permite optimizar cada agente para su propio modo de fallo.

Una penalización adaptativa a la modalidad mantiene honesto al optimizador en entradas tabulares, de texto y de visión.

Los LLM de frontera a los que se les indica directamente son sistemáticamente infieles, por lo que indicarles solos no puede cerrar la brecha de pericia.

Cuando una cadena de herramientas necesita una pericia de la que sus usuarios carecen, haz que un agente aprenda a manejarla y califica al agente con la métrica de calidad que importa: la recompensa sustituye a la habilidad manual.

Los autores posicionan a los agentes de IA como una interfaz escalable y adaptable a la explicabilidad del ML: un camino hacia una explicabilidad en lenguaje natural que generaliza más allá de las herramientas fijas y de propósito único que durante mucho tiempo han definido el campo. Publicado como preprint v1 en arXiv el 1 de octubre de 2026; aún no hay resultados de despliegue.