A pesquisa mostra uma falha de desempenho entre RL online e offline para LLMs—especialmente em grande escala—mas a incorporação de amostras on-policy em algoritmos offline (RL iterativo/semi-online) pode fechar a falha, com a qualidade dos dados de treinamento muitas vezes superando a escolha do método RL.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
9 Curtidas
Recompensa
9
6
Repostar
Compartilhar
Comentário
0/400
GhostAddressMiner
· 10h atrás
Sinais de manipulação da qualidade dos dados na cadeia já foram rastreados
Ver originalResponder0
WagmiOrRekt
· 10h atrás
A qualidade dos dados de treino é que é a chave.
Ver originalResponder0
ContractFreelancer
· 10h atrás
O treinamento offline ainda deixa a desejar.
Ver originalResponder0
MEVSupportGroup
· 11h atrás
Treinamento offline ou treinamento na cadeia, é tudo a mesma coisa.
A pesquisa mostra uma falha de desempenho entre RL online e offline para LLMs—especialmente em grande escala—mas a incorporação de amostras on-policy em algoritmos offline (RL iterativo/semi-online) pode fechar a falha, com a qualidade dos dados de treinamento muitas vezes superando a escolha do método RL.