وقت التشغيل العصبي
يشير وقت التشغيل العصبي (Neural Runtime) إلى بيئة البرمجيات أو المحرك المتخصص المسؤول عن تنفيذ نماذج الشبكات العصبية المدربة. يعمل كطبقة تشغيلية تأخذ نموذجًا مدربًا (المُصنَّف) ويشغّله مقابل بيانات جديدة واردة لإنتاج تنبؤات أو مخرجات. إنه الجسر بين مرحلة تطوير النموذج ومرحلة النشر في العالم الحقيقي.
في تطبيقات الذكاء الاصطناعي الحديثة، غالبًا ما يكون الفرق بين نموذج يعمل في المختبر وآخر يؤدي بشكل موثوق في بيئة الإنتاج هو بيئة وقت التشغيل. يمكن لوقت التشغيل غير الفعال أن يُدخل زمن انتقال كبير، أو يستهلك موارد حاسوبية مفرطة، أو يفشل في التعامل مع تدفقات البيانات في الوقت الفعلي بفعالية. يضمن وقت التشغيل العصبي القوي أن يتم تقديم ذكاء النموذج بسرعة ودقة وقابلية للتوسع.
يتولى وقت التشغيل عدة وظائف حاسمة أثناء الاستدلال (Inference). أولاً، يدير الرسم البياني الحسابي للشبكة العصبية. ثانيًا، يقوم بتحسين مسار التنفيذ، وغالبًا ما يستفيد من التعليمات الخاصة بالأجهزة (مثل تلك الموجودة في وحدات معالجة الرسوميات GPUs أو وحدات معالجة الموترات TPUs) لتحقيق أقصى قدر من الإنتاجية. كما يدير تخصيص الذاكرة، وخطوط أنابيب المعالجة المسبقة للبيانات، ومنطق المعالجة اللاحقة المطلوب لترجمة مخرجات النموذج الأولية إلى رؤى تجارية قابلة للتنفيذ.
تُعد أوقات التشغيل العصبية أساسية للعديد من أنظمة الذكاء الاصطناعي المنشورة:
يمثل تنفيذ وقت التشغيل العصبي تحديات، تتعلق بشكل أساسي بتجريد الأجهزة وتحسين النماذج. يتطلب ضمان قدرة وقت التشغيل على تعيين عمليات الموترات المعقدة وعالية الأبعاد بفعالية على الأجهزة غير المتجانسة (وحدات المعالجة المركزية CPU، ووحدات معالجة الرسوميات GPU، والمسرعات المتخصصة) دون تدهور في الأداء خبرة هندسية عميقة.
يرتبط هذا المفهوم ارتباطًا وثيقًا بخدمة النماذج (Model Serving)، ومحركات الاستدلال (Inference Engines)، وتقنيات تحسين النماذج مثل التكميم (quantization) والتقليم (pruning)، والتي غالبًا ما يتم تنفيذها داخل وقت التشغيل.
