DocMIDEは各導出ステップに報酬を与え、視覚的文書抽出を71%から96%へ引き上げる

実世界の文書処理は硬直した事前定義スキーマに依存しているが、重要な対象フィールドにはページ上に対応する直接的な視覚情報が存在しないことが多い。そうしたフィールドの抽出には、サブカテゴリの集計や視覚的マークに対する推論といった多段階の導出が必要となる。標準的なファインチューニング後であっても、モデルは誤った視覚的証拠を取得したり、正しく取得した後に中間導出ステップを飛ばしたりしていた。

DocMIDEは、コンパクトな視覚言語モデルを訓練し、回答を導出する前に視覚的証拠を明示的に取得させる。生成はplan-retrieve-derive構造に制約され、出力形式、取得した証拠ブロック、各中間ステップ、そして検証済みの参照トレースに対する最終値の4要素からなるルールベース報酬の下で、Group Relative Policy Optimizationにより最適化される。

4,151ペアの暗黙的抽出ベンチマークにおいて、DocMIDEは少数の注釈付き事例のみからQwen3.5-4Bの精度を70.8%から95.9%へ引き上げ、さらに2つ目のバックボーンアーキテクチャにも転移した。教師ありの実演のみでは、試験したあらゆる予算設定において差を埋めることはできなかった。中間ステップへの報酬付与がそれを可能にしたのである。

最終回答だけでなく、中間の導出ステップに報酬を与える

暗黙的フィールドはページ全体にわたる証拠の連鎖を必要とするため、失敗は飛ばされた、あるいは誤った中間ステップに集中する。

plan-retrieve-derive構造を強制することで、各ホップが明示的かつ検証可能になる。

検証済みの参照トレースに対するルールベース報酬により、各ステップを人手で採点するコストを回避できる。

25ポイントの向上をもたらしたのは、追加の実演ではなくステップレベルの報酬であった。

タスクが多段階推論を隠している場合、ルールベース報酬でステップを監督せよ。実演だけでは回答を教えるが、導出経路は教えない。

論文は、Qwen3.5-4Bにおける精度が70.8%から95.9%へ上昇したこと、2つ目のバックボーンアーキテクチャへの転移、そして試験したあらゆる予算設定において教師あり実演では中間ステップへの報酬付与に匹敵し得なかったという否定的結果を報告している。