해결책
실제 문서 처리는 경직된 사전 정의 스키마에 의존하지만, 중요한 대상 필드가 페이지상에 직접적인 시각적 대응물을 갖지 않는 경우가 많다. 이를 추출하려면 하위 범주를 집계하거나 시각적 표시를 추론하는 등 다중 홉 도출이 필요하다. 표준 미세 조정 후에도 모델은 잘못된 시각적 증거를 검색하거나, 올바르게 검색한 뒤 중간 도출 단계를 건너뛰었다.
DocMIDE는 소형 비전-언어 모델이 답을 도출하기 전에 시각적 증거를 명시적으로 검색하도록 훈련한다. 생성은 계획-검색-도출 구조로 제약되며, 출력 형식, 검색된 증거 블록, 모든 중간 단계, 그리고 검증된 참조 추적과 대조한 최종 값을 포괄하는 4개 구성 요소의 규칙 기반 보상 아래에서 그룹 상대 정책 최적화(Group Relative Policy Optimization)로 최적화된다.
4,151쌍의 암시적 추출 벤치마크에서 DocMIDE는 소량의 주석 예시만으로 Qwen3.5-4B의 정확도를 70.8%에서 95.9%로 끌어올렸으며, 두 번째 백본 아키텍처로도 전이되었다. 지도 시연만으로는 테스트된 모든 예산에서 격차를 좁히지 못했다. 중간 단계에 보상을 제공한 것이 격차를 좁힌 요인이었다.
달성한 성과
최종 답만이 아니라 중간 도출 단계에 보상을 제공하라
암시적 필드는 페이지 전반의 증거를 연쇄적으로 연결해야 하므로, 실패는 건너뛰거나 잘못된 중간 단계에 집중된다.
계획-검색-도출 구조를 강제하면 각 홉이 명시적이고 검증 가능해진다.
검증된 참조 추적에 대한 규칙 기반 보상은 모든 단계를 사람이 채점하는 비용을 피한다.
25포인트 향상을 만들어낸 것은 추가 시연이 아니라 단계 수준의 보상이었다.
과제가 다중 홉 추론을 숨기고 있을 때는 규칙 기반 보상으로 단계를 지도하라. 시연만으로는 답을 가르칠 뿐 도출 경로를 가르치지 못한다.
그 후
논문은 Qwen3.5-4B에서 정확도가 70.8%에서 95.9%로 상승했고 두 번째 백본 아키텍처로 전이되었으며, 테스트된 모든 예산에서 지도 시연이 중간 단계 보상에 필적할 수 없었다는 부정적 결과를 보고한다.
근거 확인하기
출처
- DocMIDE: Learning Multi-Hop Implicit Derivation in Visually Rich Documents arXiv · arxiv.org ·