التعريف

يشير وقت تشغيل الذكاء الاصطناعي (AI Runtime) إلى بيئة البنية التحتية والبرمجيات المطلوبة لتحميل وإدارة وتنفيذ نماذج الذكاء الاصطناعي (AI) المُدربة في بيئة الإنتاج. يعمل هذا الوقت كجسر بين مُنتج نموذج ثابت ومُدرب وتطبيق حي يحتاج إلى إجراء تنبؤات أو تنفيذ إجراءات ذكية.

على عكس بيئة التدريب، التي تركز على التحسين التكراري ومعالجة البيانات، يركز وقت تشغيل الذكاء الاصطناعي على الاستدلال (Inference) ذي زمن الوصول المنخفض والإنتاجية العالية.

أهميته

بالنسبة للشركات التي تنشر الذكاء الاصطناعي، يُعد وقت التشغيل أمرًا بالغ الأهمية لأنه يحدد الأداء وقابلية التوسع والتكلفة التشغيلية. يمكن أن يؤدي وقت تشغيل مُحسَّن بشكل سيئ إلى زمن وصول غير مقبول للتطبيقات في الوقت الفعلي، بينما يمكن أن يتسبب وقت تشغيل غير فعال في تكبد نفقات حوسبة سحابية هائلة.

إنه يضمن إمكانية تنفيذ العمليات الرياضية المعقدة داخل النموذج - مثل تمريرات الشبكة العصبية الأمامية - بشكل موثوق وسريع وعلى نطاق واسع عبر مختلف الأجهزة (وحدة المعالجة المركزية CPU، ووحدة معالجة الرسوميات GPU، والمُسرِّعات المتخصصة).

كيفية عمله

في جوهره، يدير وقت تشغيل الذكاء الاصطناعي دورة حياة النموذج أثناء الاستدلال. يتضمن ذلك عدة خطوات رئيسية:

• تحميل النموذج (Model Loading): تحميل أوزان وهندسة النموذج المُسلسلة بكفاءة في الذاكرة.
• المعالجة المسبقة للمدخلات (Input Preprocessing): التعامل مع تحويل بيانات الإدخال الأولية (مثل صورة أو سلسلة نصية) إلى تنسيق الموتر (tensor) الدقيق الذي يتوقعه النموذج.
• تنفيذ الاستدلال (Inference Execution): تشغيل التمرير الأمامي عبر النموذج باستخدام رسوم بيانية حاسوبية مُحسَّنة ومكتبات تسريع الأجهزة.
• المعالجة اللاحقة للمخرجات (Output Postprocessing): تحويل المخرج الخام للنموذج (مثل قيم اللوجيت logits) مرة أخرى إلى تنسيق ذي معنى وقابل للاستخدام للتطبيق النهائي (مثل تسمية التصنيف).

غالبًا ما تدمج بيئات التشغيل الحديثة تقنيات مثل التكميم (quantization) وتجميع الرسوم البيانية (graph compilation) لتقليل الحمل الحسابي.

حالات الاستخدام الشائعة

تُشغِّل بيئات تشغيل الذكاء الاصطناعي العديد من تطبيقات المؤسسات:

• محركات التوصية في الوقت الفعلي: تقديم اقتراحات منتجات مخصصة على الفور في مواقع التجارة الإلكترونية.
• كشف الاحتيال: تحليل تدفقات بيانات المعاملات في أجزاء من الثانية لتحديد الأنشطة المشبوهة.
• معالجة اللغة الطبيعية (NLP): تشغيل روبوتات الدردشة وأدوات تحليل المشاعر في خدمة العملاء.
• الرؤية الحاسوبية (Computer Vision): تمكين الكشف الحي عن الكائنات في بث الفيديو لأغراض مراقبة الجودة أو الأنظمة المستقلة.

المزايا الرئيسية

• زمن وصول منخفض: تضمن مسارات التنفيذ المُحسَّنة عودة التنبؤات بسرعة، وهو أمر بالغ الأهمية لتجربة المستخدم.
• قابلية التوسع: القدرة على التعامل مع الأحمال المتقلبة عن طريق توزيع طلبات الاستدلال عبر مثيلات متعددة.
• كفاءة الموارد: الاستفادة من مُسرِّعات الأجهزة بفعالية لتقليل التكاليف التشغيلية مقارنة بالحوسبة ذات الأغراض العامة.

التحديات

• انحراف النموذج (Model Drift): يجب أن يكون وقت التشغيل قويًا بما يكفي للتعامل مع الاختلافات الطفيفة في بيانات الإدخال بمرور الوقت، مما قد يؤدي إلى تدهور دقة النموذج.
• تغاير الأجهزة (Hardware Heterogeneity): ضمان أداء وقت التشغيل على النحو الأمثل عبر تكوينات الأجهزة المتنوعة (على سبيل المثال، الانتقال من وحدة المعالجة المركزية CPU إلى وحدة معالجة الرسوميات GPU).
• تعقيد النشر: دمج وقت التشغيل بسلاسة في مسارات التكامل المستمر/النشر المستمر (CI/CD) وMLOps الحالية.

المفاهيم ذات الصلة

يرتبط هذا المفهوم ارتباطًا وثيقًا بمحركات الاستدلال (Inference Engines) (المكون البرمجي المحدد الذي يقوم بالعمليات الحسابية)، وعمليات MLOps (الممارسات المحيطة بنشر ومراقبة وقت التشغيل)، وأُطر عمل خدمة النماذج (Model Serving Frameworks) (طبقة الخدمة الكاملة المبنية حول وقت التشغيل).