Aplaudは共有基底と低ランク補正でユーザー固有LLMを軽量化した

パーソナライズされたアンケート回答予測には、相互に連関する3つの制約がある。各ユーザーが提供する学習データは少なく、適応済みモデルを個別に保存するのは高コストであり、モデルはアンケート質問間で共有される構造を活用すべきである。したがって、ユーザーごとの適応戦略はスケールしにくくなる。

明らかな道筋は、ユーザーごとに個別のファインチューニングを保持することである。AplaudはLoRAを拡張し、共有の低ランク基底を凍結してコンパクトなユーザー固有補正のみを学習し、さらに細かなパーソナライゼーションのためにランク1の残差を追加する。この補正自体を、さらに低ランクの形式に分解することもできる。

論文は、ユーザー間で効率的かつスケーラブルなパーソナライゼーションを報告しており、Aplaudは汎化と推論効率の両方において、最先端のLoRAベースのパーソナライズドLLM手法を上回っている。

基底を共有し、各ユーザーの補正を保存する

共有の低ランク基底は、共通のタスク構造をユーザー間で償却する。

コンパクトな補正は、共有された適応を複製することなく、ユーザー固有の変動を捉える。

ランク1の残差は、小さなパラメータコストでより細かなパーソナライゼーションを追加する。

さらなる分解は、ユーザーあたりのパラメータを削減し、過学習の緩和に役立つ。

ユーザーが同じタスクを繰り返す場合、共有構造を償却し、ユーザーごとに低ランクの偏差のみを保存する。パーソナライゼーションは、個別のモデルコピーではなく、小さなユーザー状態を通じてスケールできる。

Aplaudはパーソナライゼーションを、1つの共有適応と小さなユーザーごとの状態として再構成する。報告された汎化と推論効率の向上は、意図された利点を示している。すなわち、ユーザーごとに個別の完全な適応を行う場合のようにストレージと推論が増大することなく、大規模言語モデルをパーソナライズできるのである。