السياق قصير المدى
يشير السياق قصير المدى إلى المجموعة المحدودة والفورية من المعلومات السابقة التي يمكن لنموذج الذكاء الاصطناعي، وخاصة نموذج اللغة الكبير (LLM) أو الوكيل الحواري، أن يأخذها في الاعتبار بنشاط عند إنشاء مخرجه التالي. إنه "الذاكرة العاملة" للنظام لتفاعل أو جلسة معينة.
على عكس الذاكرة طويلة المدى، التي تخزن كميات هائلة من البيانات التاريخية، فإن السياق قصير المدى مقيد بنافذة السياق الثابتة للنموذج - وهي الحد الأقصى لعدد الرموز (الكلمات أو الوحدات الفرعية للكلمات) التي يمكنه معالجتها في وقت واحد.
تحدد جودة وحجم السياق قصير المدى بشكل مباشر تماسك وملاءمة ودقة استجابات الذكاء الاصطناعي. إذا كانت نافذة السياق صغيرة جدًا، فإن النموذج "ينسى" الأجزاء المبكرة من المحادثة، مما يؤدي إلى مخرجات غير منطقية أو متكررة. تعد الإدارة الفعالة للسياق أمرًا بالغ الأهمية لبناء تجارب محادثة موثوقة وشبيهة بالبشر.
عندما يُدخل المستخدم مطالبة (prompt)، يقوم النظام بتجميع تلك المطالبة مع الأدوار السابقة للحوار (سجل المحادثة) في تسلسل إدخال واحد. يتم تغذية هذا التسلسل، الذي يشكل السياق قصير المدى، في بنية المحول (transformer architecture). ثم يستخدم النموذج آليات الانتباه لوزن أهمية كل رمز داخل تلك النافذة المحدودة للتنبؤ بالرمز الأكثر احتمالاً تاليًا.
