ذاكرة التخزين المؤقت العصبية
يشير التخزين المؤقت العصبي (Neural Cache) إلى آلية ذاكرة متخصصة وعالية السرعة مصممة لتخزين التنشيطات الوسيطة، أو الأوزان، أو نتائج الحسابات التي يتم إنشاؤها أثناء المرور الأمامي أو الخلفي لشبكة عصبية. على عكس ذاكرات التخزين المؤقت التقليدية للبيانات التي تخزن البيانات الأولية، فإن التخزين المؤقت العصبي مُصمم للاحتفاظ بمعلومات الحالة الضرورية للتسريع السريع لإعادة الحساب أو الاستدلال داخل نماذج التعلم العميق.
في عمليات نشر الذكاء الاصطناعي على نطاق واسع، لا سيما تلك التي تتضمن نماذج المحولات (transformer models) أو الشبكات التكرارية المعقدة، تكون التكلفة الحسابية لإعادة تشغيل الطبقات أو التسلسلات بأكملها كبيرة. يعالج التخزين المؤقت العصبي عنق الزجاجة المتعلق بزمن الاستجابة هذا بشكل مباشر. من خلال تخزين هذه الحالات الوسيطة بذكاء، يمكن للأنظمة تقليل الحمل الحسابي ووقت الوصول إلى الذاكرة المطلوب لتقديم التنبؤات بشكل كبير، مما يؤدي إلى انخفاض تكاليف التشغيل وزمن استجابة أسرع للمستخدم.
تعمل الآلية عن طريق مراقبة تدفق تنفيذ الشبكة العصبية. عندما يتم حساب مخرج طبقة معينة أو مجموعة رئيسية من المعلمات، يقوم التخزين المؤقت العصبي بتخزين هذه النتيجة، وغالبًا ما يتم مفتاحها بواسطة معلمات الإدخال أو معرفات التسلسل. عندما يتطلب طلب لاحق نفس الحالة الوسيطة، يتجاوز النظام عمليات ضرب المصفوفات المكلفة ويسترجع بدلاً من ذلك القيمة المحسوبة مسبقًا من الذاكرة المؤقتة، متخطياً بذلك الحسابات المتكررة بشكل فعال.
يعد التخزين المؤقت العصبي ذا قيمة عالية في العديد من السيناريوهات العملية:
تشمل المزايا الأساسية لتطبيق التخزين المؤقت العصبي ما يلي:
إن تطبيق التخزين المؤقت العصبي الفعال ليس خاليًا من العقبات. تعد إدارة ذاكرة التخزين المؤقت معقدة، وتتطلب سياسات إخلاء متطورة (مثل الأقل استخدامًا مؤخرًا أو الأقل تكرارًا) لمنع تشبع الذاكرة المؤقتة بالبيانات منخفضة الفائدة. علاوة على ذلك، يجب موازنة الحمل الإضافي لإدارة الذاكرة المؤقتة نفسها بعناية مقابل الوقت الذي يتم توفيره عن طريق الاسترجاع.
يرتبط هذا المفهوم ارتباطًا وثيقًا بالتخزين المؤقت للمفتاح-القيمة (KV Caching) (وهو تطبيق محدد في نماذج المحولات)، وتكميم النموذج (Model Quantization) (تقليل حجم النموذج)، واستراتيجيات التخزين المؤقت الموزع المستخدمة في البنية التحتية السحابية العامة.
