تحديث جديد لمنصة vLLM يتيح تشغيل نماذج الذكاء الاصطناعى محليًا

أصدر مشروع vLLM البرمجي النسخة v0.32.0 من منصته المستخدمة لتشغيل نماذج الذكاء الاصطناعي على الخوادم، مع إضافة دعم لنماذج متعددة تتعامل مع النصوص والصور والصوت والفيديو، وتحسينات في معالجة الطلبات وإدارة موارد الحوسبة، في تحديث يستهدف المطورين والشركات التي ترغب في تشغيل النماذج على بنيتها التقنية بدلًا من الاعتماد الكامل على الخدمات التي توفرها الشركات المالكة للنماذج.

ووفقًا لسجل الإصدار المنشور على المستودع الرسمي لمشروع vLLM عبر GitHub، تضمن التحديث 814 تغييرًا برمجيًا شارك فيها 363 مساهمًا، بينهم 121 مساهمًا جديدًا، وأضاف دعمًا لنموذج EmbeddingGemma 2 القادر على معالجة أنواع متعددة من المدخلات، ونموذج MiniCPM-V 4.7، إلى جانب دعم تحويل الكلام إلى نص باستخدام نموذج Nvidia Nemotron 3.5 ASR.

لماذا يحتاج تشغيل الذكاء الاصطناعي إلى برامج متخصصة؟

لا يكفي امتلاك نموذج ذكاء اصطناعي لتقديم خدمة تستقبل آلاف الطلبات، إذ يحتاج تشغيله إلى نظام يدير الذاكرة وتوزيع العمليات على المعالجات، ويحدد طريقة استقبال الأسئلة وإرجاع الإجابات، خصوصًا عندما تتعامل المؤسسة مع نماذج كبيرة ومستخدمين متعددين.
ويعمل vLLM على هذه الطبقة من البنية البرمجية، وقد أضاف الإصدار الجديد تحسينات لبعض عائلات نماذج GLM، ودعمًا أوسع لتشغيل نماذج فهم الصور والتسجيلات الصوتية، مع تطوير وظائف معالجة المخرجات المنظمة التي تحتاجها التطبيقات والوكلاء الأذكياء.

ما الذي يتغير بالنسبة للمطورين والشركات؟

يوفر التحديث حزم تشغيل لأنظمة تعتمد على معالجات Nvidia وAMD وIntel، إضافة إلى خيارات للمعالجات المركزية، بما يسمح للمؤسسات باختيار بيئة التشغيل المناسبة للتجهيزات المتاحة لديها، مع اختلاف مستوى دعم الميزات بين المنصات.
ولا يعني دعم نموذج جديد أن البرنامج طور النموذج نفسه أو أصبح منافسًا مباشرًا لـChatGPT أو Claude، إذ تتمثل وظيفة vLLM في تشغيل النماذج وإدارة الطلبات، كما أن تحسينات الأداء المسجلة لبعض الأجهزة والتكوينات لا تعني تحقيق النسب نفسها في جميع الاستخدامات، وهو فارق مهم عند تقييم تكلفة تشغيل الذكاء الاصطناعي داخل المؤسسات.