Bastante impressionante ver um grande jogador industrial investir tudo na infraestrutura de LLM de código aberto. Eles construíram a sua própria plataforma auto-hospedada alimentada pela otimização vllm—sem bloqueio de fornecedor, controle total da pilha e aparentemente reduzindo custos em escala. Todo o sistema também funciona de forma sustentável. Um plano interessante para quem está cansado das faturas dos provedores de nuvem a corroer margens.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
3 Curtidas
Recompensa
3
5
Repostar
Compartilhar
Comentário
0/400
CommunitySlacker
· 6h atrás
O fabricante conseguiu entender mesmo jogando sozinho, impressionante
Ver originalResponder0
YieldChaser
· 6h atrás
bruh ngl esta economia de custos é meio baseada fr
Ver originalResponder0
GateUser-4745f9ce
· 6h atrás
Construir por conta própria é realmente uma grande maneira de economizar.
Ver originalResponder0
WhaleShadow
· 7h atrás
não posso acreditar que realmente foram em frente... grande movimento, para ser sincero
Ver originalResponder0
NftMetaversePainter
· 7h atrás
hmm implementação fascinante da soberania algorítmica... embora a verdadeira mudança de paradigma esteja na estética computacional descentralizada, não vou mentir
Bastante impressionante ver um grande jogador industrial investir tudo na infraestrutura de LLM de código aberto. Eles construíram a sua própria plataforma auto-hospedada alimentada pela otimização vllm—sem bloqueio de fornecedor, controle total da pilha e aparentemente reduzindo custos em escala. Todo o sistema também funciona de forma sustentável. Um plano interessante para quem está cansado das faturas dos provedores de nuvem a corroer margens.