التعريف

يشير "نافذة السياق" (Context Window) إلى الحد الأقصى لكمية النص المدخل (الموجه/Prompt) والنص المخرج (الإكمال/Completion) التي يمكن لنموذج اللغة الكبير (LLM) معالجتها أو "تذكرها" خلال تفاعل واحد. يتم قياس هذه السعة بالرموز (Tokens)، حيث يعادل الرمز تقريبًا كلمة واحدة أو وحدة فرعية من الكلمة.

أهميته

يحدد حجم نافذة السياق بشكل مباشر مدى تعقيد ونطاق المهام التي يمكن لنموذج اللغة الكبير التعامل معها. تسمح النافذة الأكبر للنموذج بالحفاظ على الاتساق عبر محادثات أطول بكثير، وتحليل المستندات الشاملة، والإشارة إلى الأجزاء السابقة من مدخل معقد دون فقدان تتبع الخيط العام.

كيفية عمله

تقوم النماذج القائمة على المحولات (Transformer-based models)، والتي تشغل معظم نماذج اللغة الكبيرة الحديثة، بمعالجة المعلومات بشكل تسلسلي ضمن هذا الحد المحدد للرموز. عندما يتجاوز المدخل نافذة السياق، يجب على النموذج اقتطاع أقدم المعلومات، مما يتسبب فعليًا في "نسيانه" بداية المحادثة أو المستند.

حالات الاستخدام الشائعة

• تلخيص المستندات: تحليل المذكرات القانونية أو الأوراق البحثية بأكملها دفعة واحدة.
• روبوتات الدردشة طويلة المدى: الحفاظ على سجل المحادثة عبر جلسات المستخدم الممتدة.
• توليد الشفرات البرمجية: السماح للنموذج بالإشارة إلى قواعد بيانات برمجية كبيرة لإكمال دقيق.
• تحليل البيانات: معالجة السجلات أو مجموعات البيانات الطويلة المقدمة كمدخل نصي.

المزايا الرئيسية

• تحسين الاتساق: يمكّن النموذج من إنشاء مخرجات أكثر صلة بالسياق واتساقًا.
• تحليل أعمق: يسمح بالمراجعة الشاملة لمجموعات البيانات أو المستندات الكبيرة.
• التعامل مع المهام المعقدة: يدعم الاستدلال متعدد الخطوات الذي يتطلب الرجوع إلى التعليمات أو البيانات السابقة.

التحديات

• التكلفة وزمن الاستجابة: تتطلب نوافذ السياق الأكبر موارد حوسبة أكبر بكثير (ذاكرة الوصول العشوائي للفيديو VRAM ووقت المعالجة)، مما يزيد من تكاليف واجهة برمجة التطبيقات (API) وزمن استجابة الاستجابة.
• تدهور الانتباه: حتى مع النوافذ الكبيرة، قد يواجه النماذج أحيانًا صعوبة في إعطاء وزن متساوٍ للمعلومات الموضوعة في بداية المدخل أو نهايته.

المفاهيم ذات الصلة

• الترميز (Tokenization): عملية تقسيم النص الخام إلى رموز منفصلة يفهمها النموذج.
• آلية الانتباه (Attention Mechanism): المكون المعماري الأساسي الذي يسمح للنموذج بوزن أهمية الرموز المختلفة بالنسبة لبعضها البعض ضمن السياق.
• الضبط الدقيق (Fine-Tuning): تعديل نموذج مُدرب مسبقًا على بيانات محددة لتحسين الأداء ضمن سياق مقيّد.