Aplaud 以共享基底與低秩修正讓使用者專屬 LLM 更輕量

個人化的問卷回應預測有三項相互關聯的限制：每位使用者提供的訓練資料很少、儲存各自調適後的模型所費不貲，且模型應善用跨問卷題目共享的結構。因此，逐使用者調適的策略難以規模化。

最直接的做法是為每位使用者保留一份獨立的微調。Aplaud 擴展 LoRA，凍結一個共享的低秩基底，只學習精簡的使用者專屬修正，接著再加入一個秩一殘差以實現更細緻的個人化。此修正本身還可再分解為更低秩的形式。

該論文報告了跨使用者高效且可規模化的個人化，Aplaud 在泛化能力與推論效率上均優於最先進的基於 LoRA 的個人化 LLM 方法。

共享基底；儲存每位使用者的修正

共享的低秩基底將共同的任務結構分攤到各使用者之間。

精簡的修正擷取使用者專屬的變異，而無需複製共享的調適。

秩一殘差以極小的參數成本增添更細緻的個人化。

進一步的分解減少了每位使用者的參數，並有助於緩解過擬合。

當使用者重複執行同一任務時，分攤共享結構，並僅為每位使用者儲存低秩偏差。個人化可透過少量的使用者狀態來規模化，而不必複製一份獨立模型。

Aplaud 將個人化重新定義為一份共享調適加上少量逐使用者狀態。其報告的泛化能力與推論效率提升顯示了預期的效益：個人化大型語言模型，而無需讓儲存與推論隨著每位使用者各自一份完整調適而增長。