Thật là điên rồ khi thấy một người chơi công nghiệp lớn quyết tâm đầu tư hoàn toàn vào hạ tầng LLM mã nguồn mở. Họ đã xây dựng nền tảng tự lưu trữ của riêng mình được hỗ trợ bởi tối ưu hóa vllm—không bị ràng buộc vào nhà cung cấp, kiểm soát toàn bộ quy trình và rõ ràng là giảm chi phí ở quy mô lớn. Toàn bộ thiết lập cũng hoạt động bền vững. Đây là một bản kế hoạch thú vị cho bất kỳ ai chán ngán với hóa đơn của nhà cung cấp đám mây ăn mòn lợi nhuận.