O MEA treina agentes LLM para empregar ferramentas de explicação em função de recompensas de fidelidade

Os modelos de ML em domínios de alto risco continuam em grande parte opacos para os profissionais que agem com base em suas previsões. Os métodos de explicação post-hoc oferecem uma lente sobre o comportamento do modelo, mas empregá-los exige uma expertise que a maioria dos especialistas de domínio não possui: navegar por saídas de alta dimensionalidade, selecionar as melhores explicações e sintetizar evidências entre ferramentas díspares.

O MEA remove essa barreira de conhecimento com uma divisão de trabalho: um agente Proposer seleciona e configura ferramentas de explicação com base na pergunta e na modalidade, enquanto um agente Actor, otimizado de ponta a ponta segundo a fidelidade, transforma as saídas das ferramentas em explicações em linguagem natural nas modalidades tabular, textual e visual. O arcabouço abrange atribuição de características, raciocínio contrafactual e detecção de características espúrias, cada um acompanhado de uma métrica de fidelidade baseada em perturbação.

Um achado de linha de base torna o design decisivo: LLMs de fronteira solicitados a explicar modelos produzem sistematicamente explicações infiéis. A otimização guiada por recompensa segundo a fidelidade, acrescida de uma penalidade adaptativa à modalidade, permite ao MEA superar explicadores post-hoc e linhas de base agênticas e de código fechado em seis conjuntos de dados, com ganhos de fidelidade de +28% (tabular), +21% (texto) e +34% (visão) sobre o backbone não treinado.

Pare de construir novos explicadores — treine agentes para empregar os existentes, avaliados pela própria fidelidade

A fidelidade pode ser medida por perturbação, de modo que pode servir diretamente como recompensa de treinamento em vez de pontuação post-hoc.

Separar a seleção de ferramentas da redação de explicações permite que cada agente seja otimizado para seu próprio modo de falha.

Uma penalidade adaptativa à modalidade mantém o otimizador honesto em entradas tabulares, textuais e visuais.

LLMs de fronteira solicitados diretamente são sistematicamente infiéis, de modo que apenas o prompting não consegue fechar a lacuna de expertise.

Quando uma cadeia de ferramentas exige uma expertise que seus usuários não têm, faça um agente aprender a operá-la e avalie o agente pela métrica de qualidade que importa — a recompensa substitui a habilidade manual.

Os autores posicionam os agentes de IA como uma interface escalável e adaptável para a explicabilidade de ML — um caminho rumo a uma explicabilidade em linguagem natural que generalize além das ferramentas fixas e de propósito único que há muito definem o campo. Publicado como preprint v1 no arXiv em 1 de outubro de 2026; ainda sem resultados de implantação.