المُقيّم المُضمَّن
المُقيِّم المُضمَّن (Embedded Evaluator) هو مكون مدمج مباشرة داخل مسار عمل الذكاء الاصطناعي أو التعلم الآلي. على عكس مجموعات الاختبار الخارجية التي تُجرى بعد وقوع الحدث (post-hoc)، يقوم المُقيِّم المُضمَّن بتقييم أداء النموذج أو الوكيل أو جودته أو مدى التزامه بالقيود أثناء تشغيله أو عملية توليده. إنه يعمل كبوابة جودة داخلية.
في التطبيقات المعقدة وفي الوقت الفعلي، لا يكفي انتظار تشغيل اختبار دفعة كاملة. تتيح المُقيِّمات المُضمَّنة التحقق المستمر، مما يضمن بقاء مخرجات الذكاء الاصطناعي ذات صلة وآمنة ودقيقة أثناء تفاعلها مع البيانات الحية أو المستخدمين. وهذا ينقل ضمان الجودة إلى مرحلة مبكرة في دورة حياة التطوير.
تعمل هذه المُقيِّمات عن طريق تطبيق مقاييس محددة مسبقًا أو نماذج متخصصة على المخرجات الحية. بالنسبة للذكاء الاصطناعي التوليدي، قد يشمل ذلك التحقق من الاتساق الواقعي، أو السمية (Toxicity)، أو الالتزام بنبرة معينة. وبالنسبة لوكلاء اتخاذ القرار، قد يشمل ذلك التحقق من أن الإجراء المختار يتماشى مع حالة الهدف الأولية. يتم ربط منطق التقييم ارتباطًا وثيقًا ببيئة التنفيذ.
يرتبط هذا المفهوم ارتباطًا وثيقًا بالتعلم المعزز من التغذية الراجعة البشرية (RLHF)، وأطر عمل الاختبار الآلي، وتطبيق الحواجز الأمنية (guardrails) في نماذج اللغة الكبيرة (LLMs).
