Aplaud a allégé les LLM spécifiques à chaque utilisateur grâce à une base partagée et des corrections de rang faible

La prédiction personnalisée des réponses à une enquête comporte trois contraintes liées : chaque utilisateur fournit peu de données d'entraînement, stocker un modèle adapté distinct est coûteux, et le modèle devrait exploiter la structure partagée entre les questions de l'enquête. Une stratégie d'adaptation par utilisateur devient donc difficile à mettre à l'échelle.

La voie évidente consiste à conserver un fine-tuning distinct pour chaque utilisateur. Aplaud étend LoRA en gelant une base de rang faible partagée et en n'apprenant qu'une correction compacte propre à l'utilisateur, puis ajoute un résidu de rang un pour une personnalisation plus fine. La correction peut elle-même être factorisée sous une forme de rang encore plus faible.

L'article rapporte une personnalisation efficace et évolutive entre utilisateurs, Aplaud surpassant les approches de LLM personnalisés basées sur LoRA de l'état de l'art tant en généralisation qu'en efficacité d'inférence.

Partager la base ; stocker la correction de chaque utilisateur

Une base de rang faible partagée amortit la structure commune de la tâche entre les utilisateurs.

Une correction compacte capture la variation propre à l'utilisateur sans dupliquer l'adaptation partagée.

Le résidu de rang un ajoute une personnalisation plus fine à un faible coût en paramètres.

Une factorisation supplémentaire réduit les paramètres par utilisateur et aide à atténuer le surapprentissage.

Lorsque les utilisateurs répètent la même tâche, amortir la structure partagée et ne stocker qu'une déviation de rang faible par utilisateur. La personnalisation peut passer à l'échelle grâce à un petit état par utilisateur plutôt qu'à une copie distincte du modèle.

Aplaud reconceptualise la personnalisation comme une adaptation partagée plus un petit état par utilisateur. Ses gains rapportés en généralisation et en efficacité d'inférence montrent le bénéfice escompté : personnaliser un grand modèle de langage sans que le stockage et l'inférence croissent comme une adaptation complète distincte pour chaque utilisateur.