ميزانية الرموز
في سياق نماذج اللغة الكبيرة (LLMs) والذكاء الاصطناعي التوليدي، تشير "ميزانية الرموز" (Token Budget) إلى الحد الأقصى المسموح به لعدد الرموز التي يُسمح لتطبيق أو مستخدم بمعالجتها ضمن تفاعل معين، أو استدعاء واجهة برمجة التطبيقات (API)، أو فترة استخدام محددة. الرموز هي الوحدات الأساسية للنص التي تستخدمها نماذج اللغة الكبيرة لمعالجة المعلومات؛ ويمكن أن تمثل كلمات، أو وحدات فرعية للكلمات، أو أحرفًا.
تحدد هذه الميزانية الحجم الإجمالي للمدخلات (الموجه/الـ prompt) والحجم الإجمالي للمخرجات (الإكمال/completion) الذي يمكن للنموذج التعامل معه في وقت واحد، مما يؤثر بشكل مباشر على زمن الاستجابة والتكلفة التشغيلية.
تُعد إدارة ميزانية الرموز أمرًا بالغ الأهمية لعدة أسباب تجارية:
تقوم عملية الترميز (tokenization) بتفكيك النص الخام إلى رموز منفصلة. على سبيل المثال، قد يتم تقسيم كلمة "tokenization" إلى عدة رموز. يتم تحديد ميزانية الرموز عادةً من خلال حجم نافذة سياق النموذج (على سبيل المثال، 4096 رمزًا). يجب أن تستوعب هذه النافذة كلًا من الموجه المدخل والاستجابة المتوقعة.
إذا استهلك موجهك 3000 رمز، وكان الحد الأقصى لنافذة سياق النموذج هو 4096 رمزًا، فإن ميزانيتك المتبقية للاستجابة هي 1096 رمزًا فقط.
