Aplaud hizo más ligeros los LLM específicos por usuario con una base compartida y correcciones de bajo rango

La predicción personalizada de respuestas a encuestas tiene tres restricciones vinculadas: cada usuario aporta pocos datos de entrenamiento, almacenar un modelo adaptado separado es costoso y el modelo debería explotar la estructura compartida entre las preguntas de la encuesta. Por lo tanto, una estrategia de adaptación por usuario resulta difícil de escalar.

La ruta obvia es mantener un ajuste fino separado para cada usuario. Aplaud extiende LoRA congelando una base de bajo rango compartida y aprendiendo solo una corrección compacta específica por usuario, y luego añade un residual de rango uno para una personalización más fina. La corrección puede a su vez factorizarse en una forma de rango aún menor.

El artículo reporta una personalización eficiente y escalable entre usuarios, con Aplaud superando a los enfoques de LLM personalizados basados en LoRA del estado del arte tanto en generalización como en eficiencia de inferencia.

Compartir la base; almacenar la corrección de cada usuario

Una base de bajo rango compartida amortiza la estructura común de la tarea entre usuarios.

Una corrección compacta captura la variación específica por usuario sin duplicar la adaptación compartida.

El residual de rango uno añade una personalización más fina con un pequeño coste de parámetros.

Una factorización adicional reduce los parámetros por usuario y ayuda a mitigar el sobreajuste.

Cuando los usuarios repiten la misma tarea, amortizar la estructura compartida y almacenar solo una desviación de bajo rango por usuario. La personalización puede escalar mediante un pequeño estado por usuario en lugar de una copia separada del modelo.

Aplaud reformula la personalización como una adaptación compartida más un pequeño estado por usuario. Sus ganancias reportadas en generalización y eficiencia de inferencia muestran el beneficio previsto: personalizar un modelo de lenguaje grande sin que el almacenamiento y la inferencia crezcan como una adaptación completa separada para cada usuario.