2025-09-20 02:08:21

إعادة حساب ذاكرة التخزين المؤقت KV للمدخلات الطويلة أو المدخلات المتكررة تضيف وقت الإستجابة وتهدر موارد GPU.

الإصدار الأخير من NVIDIA Dynamo يحل هذه المشكلة عن طريق نقل ذاكرة التخزين المؤقت KV إلى ذاكرة الوصول العشوائي للمعالج المركزي، أو وحدات التخزين SSD، أو التخزين البعيد—مما يقلل من الحسابات الزائدة ويسرع الاستجابات.

موفرو التخزين

شاهد النسخة الأصلية

قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.

تسجيلات الإعجاب 8