Bastante impressionante ver um grande jogador industrial investir tudo na infraestrutura de LLM de código aberto. Eles construíram a sua própria plataforma auto-hospedada alimentada pela otimização vllm—sem bloqueio de fornecedor, controle total da pilha e aparentemente reduzindo custos em escala. Todo o sistema também funciona de forma sustentável. Um plano interessante para quem está cansado das faturas dos provedores de nuvem a corroer margens.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
3 gostos
Recompensa
3
5
Republicar
Partilhar
Comentar
0/400
CommunitySlacker
· 10h atrás
O fabricante conseguiu entender mesmo jogando sozinho, impressionante
Ver originalResponder0
YieldChaser
· 11h atrás
bruh ngl esta economia de custos é meio baseada fr
Ver originalResponder0
GateUser-4745f9ce
· 11h atrás
Construir por conta própria é realmente uma grande maneira de economizar.
Ver originalResponder0
WhaleShadow
· 11h atrás
não posso acreditar que realmente foram em frente... grande movimento, para ser sincero
Ver originalResponder0
NftMetaversePainter
· 11h atrás
hmm implementação fascinante da soberania algorítmica... embora a verdadeira mudança de paradigma esteja na estética computacional descentralizada, não vou mentir
Bastante impressionante ver um grande jogador industrial investir tudo na infraestrutura de LLM de código aberto. Eles construíram a sua própria plataforma auto-hospedada alimentada pela otimização vllm—sem bloqueio de fornecedor, controle total da pilha e aparentemente reduzindo custos em escala. Todo o sistema também funciona de forma sustentável. Um plano interessante para quem está cansado das faturas dos provedores de nuvem a corroer margens.