Aplaud tornou LLMs específicos por usuário mais leves com uma base compartilhada e correções de baixo posto

A previsão personalizada de respostas a pesquisas tem três restrições interligadas: cada usuário fornece poucos dados de treinamento, armazenar um modelo adaptado separado é caro, e o modelo deve explorar a estrutura compartilhada entre as perguntas da pesquisa. Uma estratégia de adaptação por usuário, portanto, torna-se difícil de escalar.

O caminho óbvio é manter um ajuste fino separado para cada usuário. Aplaud estende o LoRA congelando uma base de baixo posto compartilhada e aprendendo apenas uma correção compacta específica por usuário, e então adiciona um resíduo de posto um para uma personalização mais refinada. A correção pode ela mesma ser fatorada em uma forma de posto ainda mais baixo.

O artigo relata personalização eficiente e escalável entre usuários, com o Aplaud superando abordagens de LLM personalizadas baseadas em LoRA do estado da arte tanto em generalização quanto em eficiência de inferência.

Compartilhe a base; armazene a correção de cada usuário

Uma base de baixo posto compartilhada amortiza a estrutura comum da tarefa entre os usuários.

Uma correção compacta captura a variação específica do usuário sem duplicar a adaptação compartilhada.

O resíduo de posto um adiciona personalização mais refinada a um custo pequeno de parâmetros.

A fatoração adicional reduz os parâmetros por usuário e ajuda a mitigar o sobreajuste.

Quando os usuários repetem a mesma tarefa, amortize a estrutura compartilhada e armazene apenas um desvio de baixo posto por usuário. A personalização pode escalar por meio de um pequeno estado por usuário em vez de uma cópia separada do modelo.

Aplaud reformula a personalização como uma adaptação compartilhada mais um pequeno estado por usuário. Seus ganhos relatados de generalização e eficiência de inferência mostram o retorno pretendido: personalizar um grande modelo de linguagem sem fazer o armazenamento e a inferência crescerem como uma adaptação completa separada para cada usuário.