التعريف

يشير الاستدلال الدفعي (Batch inference) إلى عملية تشغيل نموذج تعلم آلي مقابل مجموعة كبيرة وثابتة من بيانات الإدخال دفعة واحدة، بدلاً من معالجة نقاط البيانات الفردية بالتسلسل في الوقت الفعلي. فبدلاً من الاستجابة الفورية لطلب مستخدم واحد، يقوم النظام بمعالجة "دفعة" - وهي مجموعة من البيانات - وتقديم النتائج معًا لاحقًا.

أهميته

بالنسبة للعديد من تطبيقات الأعمال، لا تكون الاستجابات الفورية وفي الوقت الفعلي ضرورية. يُعد الاستدلال الدفعي أمرًا بالغ الأهمية لتحسين الموارد الحاسوبية وتقليل التكاليف التشغيلية عندما يكون الهدف الأساسي هو الإنتاجية العالية على مجموعات البيانات الكبيرة. إنه يحول التركيز من الخدمة ذات زمن الوصول المنخفض إلى المعالجة ذات الحجم الكبير.

كيف يعمل

تبدأ سير العمل بتجميع مجموعة البيانات المستهدفة. يتم بعد ذلك تغذية هذه البيانات إلى البنية التحتية لنموذج التعلم الآلي المنشور. يقوم النموذج بمعالجة جميع المدخلات بالتوازي أو في أجزاء مُحسّنة، مستفيدًا من كفاءات الأجهزة مثل التوازي في وحدات معالجة الرسومات (GPU). بمجرد اكتمال الحساب، يتم إخراج التنبؤات الناتجة، وغالبًا ما يتم تخزينها في قاعدة بيانات أو تقديمها عبر مهمة مجدولة.

حالات الاستخدام الشائعة

تستفيد العديد من السيناريوهات المؤسسية بشكل كبير من الاستدلال الدفعي. وتشمل هذه عمليات المسح اليومية للكشف عن الاحتيال عبر ملايين المعاملات، أو إنشاء درجات مخاطر تدهور العملاء الشهرية، أو إجراء تصنيف للصور على نطاق واسع والإشراف على المحتوى للمواد المرفوعة.

المزايا الرئيسية

المزايا الأساسية هي كفاءة التكلفة والإنتاجية. من خلال تجميع الطلبات، يتم تعظيم استخدام البنية التحتية، مما يؤدي إلى انخفاض تكاليف التنبؤ الواحد مقارنة بالحفاظ على نقاط نهاية خدمة تعمل دائمًا بزمن وصول منخفض لكل نقطة بيانات على حدة.

التحديات

المقايضة الرئيسية هي زمن الوصول (Latency). نظرًا لأن البيانات تتم معالجتها في دفعات، فإن النتائج ليست فورية. علاوة على ذلك، فإن إدارة خط أنابيب البيانات - وضمان إعداد الدفعة المدخلة بشكل صحيح وتخزين المخرجات بشكل موثوق - يضيف تعقيدًا إلى دورة حياة MLOps.

المفاهيم ذات الصلة

يتناقض الاستدلال الدفعي بشكل حاد مع الاستدلال عبر الإنترنت (Online inference) (أو الاستدلال في الوقت الفعلي)، حيث يجب إرجاع التنبؤات في غضون أجزاء من الثانية للتفاعل الفوري للمستخدم. وهو يرتبط ارتباطًا وثيقًا بعمليات ETL (الاستخراج، التحويل، التحميل) عند استخدامه لإثراء البيانات.