工程师越来越多地使用视觉语言模型,将二维设计草图转化为可生成三维模型的CAD代码,以便进行仿真和测试——这一步通常让他们能够对设计进行虚拟碰撞测试或压力测试。但现有模型生成的CAD程序往往过于简单,难以实际使用,研究人员将核心瓶颈追溯到缺乏多样、高质量的CAD训练数据,而非模型架构。

标准的数据增强通过随机扰动现有样本来创建更多训练样本——调整颜色、尺寸、形状。MIT领导的团队转而构建了GIFT:一个专门根据给定模型当前在哪些地方存在困难的样本来生成新训练数据的系统。它针对一个CAD生成问题并行多次采样模型,执行每个生成的程序以检查正确性,并将问题分为三类——总是正确、总是错误、以及大约一半正确。

“总是正确”的问题已没有可供模型学习的内容;GIFT将其丢弃。“大约一半正确”的问题正是GIFT的关注重点:它将差一点成功的尝试修正为可用的解决方案,并将修正结果和已有的成功案例一并加入新的训练集。这一过程通过推理时扩展来运行,因此用户可以选择投入多少算力,而无需从头重新训练底层模型,整个循环也不需要人工纠正模型的错误。

在与竞争性数据增强方法的对比测试中,经GIFT训练的模型生成的CAD程序与真实形状的匹配度更高,而计算量仅约为后者的20%。第一作者Giorgio Giannone描述的目标用例是:将GIFT用于一个表现不佳的CAD模型,设定算力预算,然后让系统将模型自身的错误转化为其下一轮训练数据。

仅从模型大约一半情况下能答对的问题中生成训练数据

过滤掉模型已经10/10次都能解决的问题,可避免将增强浪费在已无可供学习信号的样本上。

过滤掉模型总是失败的问题,可避免围绕没有部分能力可依托的案例构建数据——50%成功率的区间正是稍加推动最有可能将差一点成功转化为成功的地方。

通过执行生成的CAD代码来检查正确性,而非用相似度启发式方法打分,使GIFT获得一个真实信号,用以判断哪些尝试算得上值得修正的差一点成功。

在已训练好的模型上通过推理时扩展来运行增强,使计算成本可根据用户的预算进行调整,而无需重新训练整个模型。

当模型的瓶颈在于通用训练数据时,应针对其自身的边界案例——即它部分答对的问题——来构建新数据,因为这些问题每个样本所携带的可学习信号最多。

这项工作由MIT的DeCoDE Lab领导,与MIT-IBM Computing Research Lab以及目前就职于Red Hat和IBM的研究人员合作完成,已在国际机器学习大会上展示。团队的下一步是将GIFT扩展到不仅优化所得三维模型的几何精度,还优化其可制造性,并将该框架应用于更大的模型和更广泛的CAD生成任务。该研究部分由MIT-IBM Computing Research Lab资助。

从这里,追溯依据

参考来源

  1. A better way to turn 2D designs into 3D models for rapid prototyping MIT News · news.mit.edu ·