Die personalisierte Vorhersage von Umfrageantworten hat drei miteinander verknüpfte Einschränkungen: Jeder Benutzer liefert nur wenige Trainingsdaten, das Speichern eines separaten angepassten Modells ist teuer, und das Modell sollte die über Umfragefragen hinweg gemeinsame Struktur nutzen. Eine benutzerspezifische Anpassungsstrategie wird dadurch schwer skalierbar.
Der naheliegende Weg ist, für jeden Benutzer ein separates Fine-Tuning beizubehalten. Aplaud erweitert LoRA, indem eine gemeinsame Niedrigrang-Basis eingefroren und nur eine kompakte benutzerspezifische Korrektur gelernt wird; anschließend wird ein Rang-eins-Residuum für eine feinere Personalisierung hinzugefügt. Die Korrektur kann selbst in eine noch niedrigrangigere Form faktorisiert werden.
Die Arbeit berichtet über effiziente, skalierbare Personalisierung über Benutzer hinweg, wobei Aplaud dem Stand der Technik bei LoRA-basierten personalisierten LLM-Ansätzen sowohl in der Generalisierung als auch in der Inferenzeffizienz überlegen ist.
Die Basis teilen; die Korrektur jedes Benutzers speichern
Eine gemeinsame Niedrigrang-Basis amortisiert die gemeinsame Aufgabenstruktur über Benutzer hinweg.
Eine kompakte Korrektur erfasst benutzerspezifische Variation, ohne die gemeinsame Anpassung zu duplizieren.
Das Rang-eins-Residuum fügt feinere Personalisierung zu geringen Parameterkosten hinzu.
Eine weitere Faktorisierung reduziert die Parameter pro Benutzer und hilft, Überanpassung zu mildern.
Wenn Benutzer dieselbe Aufgabe wiederholen, die gemeinsame Struktur amortisieren und pro Benutzer nur eine Niedrigrang-Abweichung speichern. Personalisierung kann durch einen kleinen Benutzerzustand statt durch eine separate Modellkopie skaliert werden.
Aplaud rahmt Personalisierung neu als eine gemeinsame Anpassung plus einen kleinen Zustand pro Benutzer. Die berichteten Gewinne bei Generalisierung und Inferenzeffizienz zeigen den beabsichtigten Nutzen: ein großes Sprachmodell personalisieren, ohne dass Speicher und Inferenz wie bei einer separaten vollständigen Anpassung für jeden Benutzer wachsen.
DEN BELEGEN FOLGEN
Die Quellen
- Aplaud: Adaptive Personalized Low-Rank Decomposition for User-Specific LLM arXiv AI · arxiv.org ·