MIT, 자체의 아슬아슬한 실패를 학습 데이터로 활용해 CAD 생성 AI를 훈련시키다

엔지니어들은 점점 더 비전-언어 모델을 사용해 2D 설계 스케치를 시뮬레이션과 테스트를 위한 3D 모델을 생성하는 CAD 코드로 변환하고 있다. 이는 보통 설계를 가상으로 충돌 테스트하거나 스트레스 테스트할 수 있게 해주는 단계다. 그러나 기존 모델들은 실용적으로 쓰기에는 너무 단순한 CAD 프로그램을 생성하는 경우가 많았고, 연구진은 핵심 병목이 모델 아키텍처가 아니라 다양하고 고품질의 CAD 훈련 데이터 부족에 있다고 추적했다.

표준 데이터 증강은 기존 예시를 무작위로 교란(색상, 크기, 형태 조정)하여 더 많은 훈련 예시를 만든다. MIT가 주도한 팀은 대신 GIFT를 구축했다. 이는 주어진 모델이 현재 어려워하는 지점을 기반으로 구체적으로 새로운 훈련 데이터를 생성하는 시스템이다. 이 시스템은 CAD 생성 문제에 대해 모델을 여러 번 병렬로 샘플링하고, 생성된 각 프로그램을 실행해 정확성을 확인하며, 문제를 세 가지 범주로 나눈다. 항상 맞는 것, 항상 틀리는 것, 대략 절반만 맞는 것이다.

'항상 맞는' 문제는 모델에게 더 가르칠 것이 남아 있지 않으므로 GIFT는 이를 버린다. GIFT가 집중하는 곳은 '대략 절반만 맞는' 문제다. 이 시스템은 아슬아슬하게 빗나간 시도를 작동하는 해법으로 교정하고, 교정본과 기존 성공 사례를 모두 새로운 훈련 세트에 추가한다. 이 과정은 추론 시점 스케일링을 통해 실행되므로, 사용자는 기반 모델을 처음부터 다시 훈련시키지 않고도 얼마나 많은 연산을 쓸지 선택할 수 있으며, 전체 루프에는 모델의 실수를 사람이 교정할 필요가 없다.

경쟁 데이터 증강 접근법들과 비교 테스트했을 때, GIFT로 훈련된 모델은 약 20%의 연산만 사용하면서도 정답 형상에 더 잘 부합하는 CAD 프로그램을 생성했다. 제1저자 조르조 잔노네는 목표 사용 사례로, 성능이 낮은 CAD 모델에 GIFT를 적용하고 연산 예산을 설정한 뒤 시스템이 모델 자체의 오류를 다음 라운드 훈련 데이터로 전환하도록 하는 것을 설명했다.

모델이 약 절반의 확률로 맞히는 문제에서만 훈련 데이터를 생성한다

모델이 이미 10번 중 10번 해결하는 문제를 걸러내면 가르칠 신호가 남지 않은 예시에 증강을 낭비하지 않는다.

항상 실패하는 문제를 걸러내면 부분적인 역량조차 없는 사례를 중심으로 데이터를 만드는 것을 피할 수 있다. 50% 성공 구간이야말로 약간의 밀어주기로 아슬아슬한 실패를 성공으로 전환하기 가장 확실한 곳이다.

생성된 CAD 코드를 실행해 정확성을 확인하고 유사도 휴리스틱으로 점수를 매기지 않음으로써, GIFT는 어떤 시도가 교정할 가치가 있는 아슬아슬한 실패인지에 대한 정답 신호를 얻는다.

이미 훈련된 모델에 추론 시점 스케일링을 통해 증강을 실행함으로써, 전체 모델을 재훈련하지 않고도 연산 비용을 사용자의 예산에 맞게 조정할 수 있다.

모델의 병목이 일반적인 훈련 데이터라면, 모델이 부분적으로 맞히는 자체 경계 사례에 새로운 데이터를 겨냥하라. 그런 사례가 예시당 가장 학습 가능한 신호를 담고 있기 때문이다.

MIT의 DeCoDE Lab이 MIT-IBM Computing Research Lab 및 현재 Red Hat과 IBM에 있는 연구자들과 협력해 주도한 이 연구는 International Conference on Machine Learning에서 발표되었다. 팀의 다음 단계는 GIFT를 확장해 결과물인 3D 모델의 기하학적 정확성뿐 아니라 제조 가능성까지 최적화하도록 하고, 이 프레임워크를 더 큰 모델과 더 넓은 범위의 CAD 생성 작업에 적용하는 것이다. 이 연구는 MIT-IBM Computing Research Lab의 일부 지원을 받았다.