AI 3D生成器理解物体应该看起来怎样,却不理解它如何运作——让一个生成器3D打印一个马克杯,你可能得到一个装不了咖啡的杯子。当MIT CSAIL的人机交互工程组让微软的TRELLIS重建Thingiverse上的热门模型时,近80%的模型在结构上存在缺陷。由MIT CSAIL与谷歌和东北大学共同构建的“InstructMesh”正是针对这一缺口;MIT News于2026年10月1日公布了该成果,团队将于11月在ACM UIST研讨会上展示它。

具体安排是:InstructMesh将TRELLIS的3D生成与GPT-4的推理能力配对,并在生成器的潜空间而非网格中进行编辑。用户高亮标出蓝图中想要更改的部分,并用自然语言描述问题;系统会“对几何形状做出解释性更改,供用户评估和批准”,第一作者Faraz Faruqi说——这为原本需要3D建模工具领域专业知识的流程搭建了脚手架。滑块提供更精细的控制,例如放大或挤出某个特定部分。

测试:CSAIL请从未做过任何3D建模的人来识别并修复缺陷——据MIT News报道,经专家评审,他们约90%的情况下两项都做到了(“这些新手缺乏专业知识,却用直觉弥补了这一点”)。他们随后设计了手机支架和花瓶等物品。团队自己打印了一个被龙环绕、龙尾作为把手的马克杯,一个贝壳形哨子,一副镜片上方有蝴蝶翅膀的眼镜,一个章鱼饮料分配器,一个为患者定制的牛仔布外观护膝,以及一个虾形“毛刷机器人”外壳,里面藏着一个电机。

现就职于谷歌的Faruqi描述了一个更宏大的下一步:将该方法融入增强现实平台,让你在周围环境的背景下说明需求,然后它就被3D打印出来——再加上物理模拟,以预测碗能否经受跌落以及哪种材料最合适。

在生成器的潜空间而非网格中编辑:将TRELLIS与GPT-4配对,让用户高亮标出某一部分并说明问题所在,批准解释性的几何更改。

生成式3D模型见过数百万种形状,却没见过物体如何运作,因此打印件在使用时失败,而非在外观上失败。

传统的网格编辑需要CAD级别的专业知识,而3D设计新手并不具备。

大语言模型推理加上潜空间编辑,把“这有什么问题?”变成一场对话,而不是一项建模任务。

让用户担任批准者,既保留了控制权,又由生成器提供实际的几何形状。

当生成器的输出在专家所称的正确性上失败时,将编辑送回生成器本身:新手提供直觉,模型提供几何形状。

团队将于2026年11月在ACM UIST上展示InstructMesh(论文arXiv:2608.28534)。Faruqi现就职于谷歌,该方法可能会被纳入一个AR平台;计划中的工作将加入物理模拟以及更新的TRELLIS.2,用于细化更小的特征。目前尚无采用或商业数据。

从这里,追溯依据

参考来源

  1. New tool lets users repair AI-generated 3D models, then fabricate them just the way they want MIT News · news.mit.edu ·
  2. InstructMesh: Selective Refinement of Generative 3D Models for Fabrication arXiv · arxiv.org