MIT、自らの「惜しい失敗」を学習材料にしてCAD生成AIを訓練

エンジニアは、2D設計スケッチをCADコードに変換し、シミュレーションやテスト用の3Dモデルを生成するために視覚言語モデルをますます利用している。これは通常、設計を仮想的に衝突試験やストレステストにかけられるようにする工程だ。しかし既存のモデルは実用には単純すぎるCADプログラムを生成することが多く、研究者らは核心的なボトルネックをモデルアーキテクチャではなく、多様で高品質なCAD訓練データの不足に突き止めた。

標準的なデータ拡張は、既存の例を色やサイズ、形状を微調整してランダムに摂動させることで訓練例を増やす。MIT主導のチームは代わりにGIFTを構築した。これは、特定のモデルが現在どこで苦戦しているかに基づいて新しい訓練データを生成するシステムだ。CAD生成問題でモデルを並列に複数回サンプリングし、生成された各プログラムを実行して正しさを確認し、問題を3つのバケツに分類する。常に正しい、常に間違っている、そしておよそ半分正しい、の3つだ。

「常に正しい」問題はモデルに教えるものが残っていないため、GIFTはそれらを捨てる。「およそ半分正しい」問題こそGIFTが焦点を当てる対象だ。惜しい失敗の試行を動作する解に修正し、その修正と既存の成功例の両方を新しい訓練セットに加える。このプロセスは推論時のスケーリングを通じて実行されるため、ユーザーは基盤モデルをゼロから再訓練することなく、どれだけの計算資源を費やすかを選べる。またこのループ全体で、モデルの誤りを人間が修正する必要はない。

競合するデータ拡張手法と比較してテストしたところ、GIFTで訓練したモデルは、わずか約20%の計算量で、正解の形状によりよく一致するCADプログラムを生成した。筆頭著者のGiorgio Giannone氏は、想定する用途を次のように説明した。性能の低いCADモデルにGIFTを向け、計算予算を設定し、システムがモデル自身の誤りを次ラウンドの訓練データに変換するのを任せる、というものだ。

モデルがおよそ半分の確率で正解する問題だけから訓練データを生成する

モデルがすでに10回中10回解ける問題を除外することで、教えるべき信号が残っていない例への拡張を無駄にしない。

常に失敗する問題を除外することで、部分的な能力の土台がない事例を中心にデータを構築するのを避ける。成功率50%の帯域こそ、ひと押しで惜しい失敗を勝利に最も確実に変えられる領域だ。

生成されたCADコードを実行して正しさを確認し、類似度のヒューリスティックで採点しないことで、GIFTはどの試行が修正に値する惜しい失敗かを示す正解信号を得られる。

すでに訓練済みのモデルに対して推論時のスケーリングで拡張を実行することで、モデル全体を再訓練することなく、計算コストをユーザーの予算に合わせて調整できる。

モデルのボトルネックが汎用的な訓練データにある場合、新しいデータをモデル自身の境界事例、つまり部分的に正解する問題に狙いを定める。それらは例あたり最も多く学習可能な信号を含むからだ。

この研究は、MITのDeCoDE LabがMIT-IBM Computing Research Labおよび現在Red HatとIBMに所属する研究者らと共同で主導し、International Conference on Machine Learningで発表された。チームの次のステップは、GIFTを拡張して、生成される3Dモデルの幾何学的精度だけでなく製造可能性も最適化すること、そしてこのフレームワークをより大規模なモデルやより広範なCAD生成タスクに適用することだ。この研究は一部、MIT-IBM Computing Research Labの資金提供を受けた。