Le traitement de documents du monde réel repose sur des schémas prédéfinis rigides, or des champs cibles critiques n'ont souvent aucun équivalent visuel direct sur la page — les extraire exige une dérivation multi-sauts, comme agréger des sous-catégories ou raisonner sur des marques visuelles. Même après un affinage standard, les modèles récupéraient des preuves visuelles incorrectes, ou les récupéraient correctement puis sautaient des étapes intermédiaires de dérivation.
DocMIDE entraîne des modèles vision-langage compacts à récupérer explicitement les preuves visuelles avant de dériver une réponse. La génération est contrainte à une structure planifier-récupérer-dériver, optimisée par Group Relative Policy Optimization sous une récompense à base de règles à quatre composantes couvrant le format de sortie, le bloc de preuves récupérées, chaque étape intermédiaire et la valeur finale par rapport à une trace de référence vérifiée.
Sur un benchmark d'extraction implicite de 4 151 paires, DocMIDE a fait passer la précision sur Qwen3.5-4B de 70,8 % à 95,9 % à partir d'un petit ensemble d'exemples annotés seulement, et s'est transféré à une seconde architecture de backbone. Les démonstrations supervisées seules n'ont pas comblé l'écart, quel que soit le budget testé ; c'est la récompense des étapes intermédiaires qui y est parvenue.
Récompenser les étapes intermédiaires de dérivation, pas seulement la réponse finale
Les champs implicites exigent d'enchaîner des preuves à travers la page, de sorte que les échecs se concentrent dans des étapes intermédiaires sautées ou erronées.
Imposer une structure planifier-récupérer-dériver rend chaque saut explicite et vérifiable.
Les récompenses à base de règles sur des traces de référence vérifiées évitent le coût d'une notation humaine de chaque étape.
C'est la récompense au niveau des étapes, et non des démonstrations supplémentaires, qui a produit le gain de 25 points.
Lorsqu'une tâche masque un raisonnement multi-sauts, supervisez les étapes avec des récompenses à base de règles ; les démonstrations seules enseignent les réponses, pas les chemins de dérivation.
Suites
L'article rapporte une précision passant de 70,8 % à 95,9 % sur Qwen3.5-4B, un transfert à une seconde architecture de backbone, et le résultat négatif selon lequel des démonstrations supervisées, quel que soit le budget testé, ne pouvaient égaler la récompense des étapes intermédiaires.
VÉRIFIEZ LES SOURCES
Les sources
- DocMIDE: Learning Multi-Hop Implicit Derivation in Visually Rich Documents arXiv · arxiv.org ·