من الغريب حقًا رؤية لاعب صناعي كبير يستثمر بالكامل في بنية تحتية مفتوحة المصدر لـ LLM. لقد بنوا منصتهم المستضافة ذاتيًا المدعومة بتقنية تحسين vllm - بدون قفل المورد، والتحكم الكامل في المكدس، ويبدو أنهم يخفضون التكاليف بشكل كبير على نطاق واسع. كما أن الإعداد بأكمله يعمل بشكل مستدام أيضًا. تصميم مثير للاهتمام لأي شخص سئم من فواتير مزود السحابة التي تلتهم الهوامش.