النموذج المحلي
يشير النموذج المحلي إلى نموذج ذكاء اصطناعي - مثل نموذج لغوي صغير (SLM) أو نموذج رؤية متخصص - مصمم ومُحسَّن ليعمل بالكامل على أجهزة المستخدم النهائي، مثل الهاتف الذكي أو الحاسوب المحمول أو جهاز الحافة. على عكس النماذج المستندة إلى السحابة التي تتطلب اتصالاً مستمراً بالإنترنت والتواصل مع خوادم بعيدة، تقوم النماذج المحلية بتنفيذ الاستدلال مباشرة على وحدة المعالجة المركزية (CPU) أو وحدة معالجة الرسوميات (GPU) أو وحدات المعالجة العصبية (NPUs) المتخصصة في الجهاز.
يعالج التحول نحو النماذج المحلية احتياجات المؤسسات الحرجة المتعلقة بحوكمة البيانات وزمن الاستجابة والمرونة التشغيلية. بالنسبة للشركات التي تتعامل مع بيانات حساسة (مثل الرعاية الصحية والتمويل)، فإن إبقاء البيانات على الجهاز يلغي المخاطر المرتبطة بنقل المعلومات الخاصة إلى خوادم سحابية تابعة لجهات خارجية. علاوة على ذلك، يضمن التخلص من الاعتماد على الشبكة أداءً متسقاً حتى في بيئات الاتصال المنخفض.
يعتمد نشر النماذج المحلية بشكل كبير على تقنيات تكميم النماذج (Model Quantization) والتقليم (Pruning). تعمل طرق التحسين هذه على تقليل حجم النموذج ومتطلباته الحاسوبية دون التضحية بالدقة بشكل كبير. تسمح أطر العمل مثل TensorFlow Lite أو ONNX Runtime للمطورين بتجميع النماذج الكبيرة المدربة مسبقًا في إصدارات خفيفة الوزن وعالية الكفاءة ومناسبة لبيئات الأجهزة المقيدة. يتم تضمين أوزان النموذج داخل التطبيق نفسه، مما يتيح التشغيل المستقل.