Es bastante sorprendente ver a un importante jugador industrial apostar todo por la infraestructura de LLM de código abierto. Han construido su propia plataforma autoalojada impulsada por la optimización vllm: sin bloqueo de proveedor, control total de la pila y, aparentemente, reduciendo costos a gran escala. Todo el sistema también funciona de manera sostenible. Un plano interesante para cualquiera que esté cansado de las facturas de los proveedores de la nube que consumen márgenes.