وقت التشغيل التوليدي
يشير وقت التشغيل التوليدي (Generative Runtime) إلى بيئة التنفيذ أو الإطار المتخصص المصمم لاستضافة وإدارة وتشغيل نماذج الذكاء الاصطناعي التوليدي (مثل نماذج اللغة الكبيرة أو مولدات الصور) في التطبيقات في الوقت الفعلي. وهو الطبقة التشغيلية التي تربط أوزان النموذج المُدرَّب بطلب المستخدم الحي، وتتولى مهام الاستدلال (Inference)، وإدارة السياق، وتوليد المخرجات.
في عمليات نشر الذكاء الاصطناعي الحديثة، يُعد وقت التشغيل أمرًا بالغ الأهمية لأنه يحدد الأداء وزمن الاستجابة وقابلية التوسع. يضمن وقت التشغيل التوليدي القوي أن النماذج المعقدة والمكثفة من حيث الموارد يمكنها الاستجابة بسرعة وموثوقية لحجم كبير من حركة مرور المستخدمين، مما يجعل ميزات الذكاء الاصطناعي المتقدمة عملية للاستخدام المؤسسي.
في جوهره، يدير وقت التشغيل مسار الاستدلال بأكمله. ويشمل ذلك استقبال الموجه (المدخل)، وتقسيمه إلى رموز (Tokenizing)، وتمريره عبر الرسم البياني المُحسَّن للنموذج، وإدارة الحالة (نافذة السياق)، وفك تشفير رموز المخرجات مرة أخرى إلى نص أو وسائط قابلة للقراءة البشرية. غالبًا ما تدمج أوقات التشغيل المتقدمة تقنيات مثل التكميم (Quantization) وفك التشفير التخميني (Speculative Decoding) لتحسين الحمل الحسابي.
تُشغِّل أوقات التشغيل التوليدية تطبيقات متطورة عبر الصناعات. تشمل الأمثلة روبوتات الدردشة لخدمة العملاء في الوقت الفعلي، ومساعدي توليد الأكواد الآليين، وخطوط أنابيب إنشاء المحتوى الديناميكي، ومحركات التوصية المخصصة التي تتطلب توليفًا فوريًا.
تشمل التحديات الرئيسية إدارة المتطلبات الحسابية العالية (استخدام وحدات معالجة الرسوميات GPU)، وضمان مخرجات حتمية للمهام الحرجة، والإدارة الآمنة لأوزان النماذج الخاصة داخل بيئة التنفيذ.
تشمل المفاهيم ذات الصلة البنية التحتية لخدمة النماذج (Model Serving Infrastructure)، ومحركات الاستدلال (Inference Engines)، وهندسة الموجهات (Prompt Engineering)، وقواعد البيانات المتجهة (Vector Databases) (التي غالبًا ما تغذي السياق إلى وقت التشغيل).
