ما مقدار ذاكرة RAM اللازمة لفهرس RAG عائلي متعدد اللغات؟
غالبًا ما يتسع فهرس RAG عائلي متعدد اللغات لذاكرة وصول عشوائي بسعة 16–32 جيجابايت، لكن عدد المقاطع وتصميم الفهرس أهم من عدد اللغات وحده.
يمكن لأرشيف منزلي يضم 500,000 مقطع استخدام تضمين متعدد اللغات واحد لكل مقطع بدلًا من نسخة واحدة لكل لغة. ومع ذلك، تستمر الذاكرة في النمو بسبب أبعاد المتجهات، وروابط الرسم البياني، والبيانات الوصفية، وذاكرات التخزين المؤقت، وأدوات إعادة الترتيب، ونموذج التوليد. لذلك، يتمثل الهدف العملي في قياس مجموعة العمل القصوى مع ترك هامش احتياطي، لا اتباع قاعدة «جيجابايت لكل لغة» أثناء الحمل الأقصى.
ابدأ بالمتجهات، ثم أضف بنية البحث
تُحسب ذاكرة المتجهات الخام بضرب عدد المقاطع في الأبعاد وعدد البايتات لكل قيمة. عند استخدام float32، تحتوي 500,000 متجهًا بأبعاد 768 على نحو 1.54 جيجابايت من الإحداثيات. ويخفض float16 حجم بيانات الإحداثيات إلى النصف، مع ضرورة التحقق من دعم قاعدة البيانات وسلوك الدقة.
يوضح هذا الفهرس البياني HNSW سبب احتفاظ HNSW برسم بياني لروابط الجيران لإجراء بحث تقريبي سريع. وتُضاف هذه الروابط والمعرّفات ومتطلبات المحاذاة والنفقات العامة للمخصّص إلى حساب المتجهات الخام.
قد تتجاوز مرشحات البيانات الوصفية، ومعرّفات المستندات، وذاكرات النصوص المؤقتة، وبنى الإنشاء المكررة التوقعات. وقد تحتفظ قاعدة البيانات المدعومة بالقرص بصفحات الرسم البياني المستخدمة بكثرة في الذاكرة، بينما قد يحتفظ المحرك الموجود في الذاكرة بجزء يقارب الفهرس بأكمله. المتجهات الخام هي الحد الأدنى، وليست متطلب ذاكرة الوصول العشوائي النهائي.
يؤثر التعدد اللغوي في المقاطع أكثر من الحسابات
يُسقط نموذج التضمين متعدد اللغات عدة لغات في فضاء متجهات واحد، لذا لا تؤدي إضافة لغة تلقائيًا إلى تكرار كل متجه. ترتفع ذاكرة الوصول العشوائي عندما تُقسّم النسخ المترجمة إلى مقاطع منفصلة، أو تُحافَظ على فهارس خاصة بكل لغة، أو ينتج عن تقسيم الرموز عدد أكبر من المقاطع للمستندات نفسها.
تقيّم الأبحاث حول التضمينات متعددة اللغات التمثيلات المشتركة عبر لغات عديدة، ما يدعم تصميمات الفهرس الواحد عندما يوفق النموذج المختار بين تلك اللغات على نحو كافٍ. وقد تختلف جودة التغطية من لغة إلى أخرى حتى عندما لا تختلف متطلبات الذاكرة.
يتنافس نموذج التوليد وأداة إعادة الترتيب أيضًا على ذاكرة النظام. فقد يستوعب خادم بسعة 16 جيجابايت فهرسًا متوسطًا، لكنه سيعتمد بكثافة على الترحيل إلى القرص بمجرد تشغيل نموذج لغوي كبير، وعملية OCR، وذاكرة قاعدة البيانات المؤقتة معًا. ولا تعالج زيادة الذاكرة ضعف الاسترجاع متعدد اللغات؛ بل تمنع ضغط الذاكرة من تشويه الاختبار.
متى يتوقف نطاق 16–32 جيجابايت عن الانطباق؟
تُعد سعة 16 جيجابايت معقولة لمئات الآلاف من المتجهات المدمجة، مع تخزين النص على القرص ونموذج محلي صغير. وتُعد سعة 32 جيجابايت نقطة بداية أكثر أمانًا لما يقارب مليون متجه بأبعاد 768، إلى جانب الخدمات. وقد تبرر الأبعاد الأعلى، أو النسخ المتعددة، أو الفهارس المنفصلة لكل لغة، أو وجود نموذج لغوي كبير مقيم، سعة 64 جيجابايت أو أكثر.
يوضح نقاش السعة حول ذاكرة فهرس HNSW أن بايتات المتجهات الخام قد تمثل جزءًا صغيرًا من إجمالي ذاكرة HNSW بعد تضمين بنى الرسم البياني. وتجعل خيارات التنفيذ أي نسبة عامة غير آمنة.
تفشل هذه النطاقات عندما تستخدم قاعدة البيانات الضغط، أو تعيين الذاكرة، أو التكميم المتجهي، أو رسمًا بيانيًا مُعدًا بطريقة مختلفة جدًا. كما تفشل أثناء إنشاء الفهرس إذا احتفظ المُنشئ مؤقتًا بنسختين قديمة وجديدة. قِس ذروتي البحث المستقر وإعادة البناء كلًّا على حدة.
حدّد حجم ذاكرة الوصول العشوائي بناءً على مجموعة عمل مقاسة
احسب المتجهات الخام أولًا، ثم أدرج عشرة بالمئة من المجموعة المستهدفة باستخدام الأبعاد النهائية والبيانات الوصفية ومعلمات الفهرس. قِس الذاكرة المقيمة بعد إجراء بحث دافئ، واستعلامات متزامنة، وعملية إعادة بناء واحدة. اضرب المكونات التي تتوسع خطيًا فقط، ثم احجز هامش تشغيل لا يقل عن 25 بالمئة.
شغّل النموذج الأولي بجانب حمل قاعدة بيانات المتجهات المنزلية المخطط لها، لأن ذروتي النموذج وقاعدة البيانات قد تتداخلان. وسجّل نشاط المبادلة ومعدل أخطاء الصفحات.
اختر 16 جيجابايت فقط عندما تظل الذروة المستنتجة أقل من نحو 12 جيجابايت؛ واختر 32 جيجابايت عندما تظل أقل من نحو 24 جيجابايت. انتقل إلى سعة أعلى عندما تتجاوز عمليات إعادة البناء أو الاستدلال المتزامن ذلك الحد. وأعد الحساب بعد تغيير تقسيم المقاطع أو أبعاد التضمين.
المنتجات الموصى بها
مركز التكنولوجيا والذكاء الاصطناعي
المزيد للقراءة
كيفية قياس جودة استرجاع RAG المحلي وتفسير الاستدعاء والدقة وتغطية الاستشهادات
أنشئ مجموعة اختبار محلية لـ RAG، واحسب مقاييس الاسترجاع الأساسية، وفسّر المفاضلات بينها، ودقّق فيما إذا كانت ادعاءات الإجابات مدعومة بالأدلة المُستشهد بها.
لماذا تصبح حوسبة ميزات المنزل الذكي أكثر أهمية مع زيادة عدد المستشعرات عند معدل أخذ العينات نفسه؟
تتبّع الحوسبة لكل مستشعر وعبر المستشعرات مع زيادة عدد الأجهزة، وحدّد تكاليف الدمج غير الخطية، وقِس أداء مسار الميزات قبل أن تبدأ الأتمتة بالتباطؤ.
لماذا تصبح تكلفة تقييم RAG أكثر أهمية كلما اتسعت مكتبة المستندات مع ثبات حجم الاستعلامات؟
افهم لماذا يؤدي نمو مجموعة البيانات إلى زيادة جهد تقييم نظام RAG من دون زيادة في استفسارات المستخدمين، وكيف تحافظ الاختبارات الطبقية على ارتباط...
