تربط التضمينات متعددة اللغات مستندات المنزل من خلال وضع المقاطع المرتبطة دلاليًا بالقرب من بعضها، حتى عندما تكون كلماتها مكتوبة بلغات مختلفة.
قد تضم وحدة NAS منزلية ملفات تأمين باللغة الإنجليزية، وإشعارات مدرسية باللغة الإسبانية، وكتيبات أجهزة منزلية باللغة الصينية، ورسائل تمزج اللغات في جملة واحدة. يتطلب البحث بالكلمات المفتاحية أن يتشارك الاستعلام والمستند المصطلحات نفسها. أما المُرمِّز متعدد اللغات فينتج متجهات قابلة للمقارنة، ما يسمح لسؤال باللغة الإنجليزية باسترجاع فقرة ذات صلة باللغة الإسبانية، مع بقاء المستند الأصلي محليًا ودون تغيير.
يستبدل الفضاء المشترك مطابقة الكلمات بالمواءمة الدلالية
يحوّل المُرمِّز كل مقطع إلى إحداثيات تعلّمها من بيانات تدريب متعددة اللغات. وأثناء التدريب، تقرّب الأمثلة المتوازية أو المتشابهة المعاني ذات الصلة من بعضها، بينما تفصل الأمثلة غير المرتبطة. وعند تنفيذ الاستعلام، يمر كل من السؤال والمقاطع المخزنة عبر مُرمِّزات متوافقة، ويمكن مقارنتهما حسب المسافة.
يشرح الفضاء المتجهي المشترك كيف يمكن للغات مختلفة أن تشغل فضاءً واحدًا مع الحفاظ على التشابه بين الكلمات المرتبطة. وتوسّع مُرمِّزات الجمل الحديثة هذه الفكرة من الكلمات المفردة إلى المقاطع والاستعلامات. ويغيّر هذا التمييز القرار المنزلي الناتج.
يغيّر هذا حدود الاسترجاع: فلم تعد الملفات بحاجة إلى ترجمة كاملة مسبقًا قبل الفهرسة. إذ يمكن للبحث تحديد الدليل باللغة الأصلية أولًا، ثم ترجمة المقطع المحدد للعرض فقط، مع الاحتفاظ بنصه المصدر للتحقق.
يعتمد الاسترجاع عبر اللغات على المواءمة وتقسيم المقاطع
يجب أن تصمد المواءمة الجيدة أمام التصريف وترتيب الكلمات والكتابة والمصطلحات المتخصصة. كما أن تقسيم المقاطع مهم أيضًا؛ فقد يفقد جدول ثنائي اللغة أو نموذج ممسوح ضوئيًا أو رسالة تبدّل بين اللغات معناها إذا فُصلت الحقول عن التسميات أو قُسمت جملة واحدة بين مقاطع متعددة.
يشرح مسح المواءمة عبر اللغات الأساليب الخاضعة للإشراف وغير الخاضعة له لربط تمثيلات اللغات في فضاءات مشتركة. ويتمثل التحدي الأساسي في الحفاظ على الأحياء الدلالية عبر اللغات، لا مجرد ترجمة المفردات المعزولة. ويظل هذا الحد ظاهرًا أثناء مراجعة الأدلة اللاحقة.
عندما تنجح المواءمة، يمكن لاستعلام واحد جمع أدلة متكاملة من عدة لغات. ومع ذلك، ينبغي للمولّد الاستشهاد بكل مقطع أصلي، لأن الإجابة المترجمة قد تُخفي عدم اليقين أو الصياغة الرسمية أو الفروق الخاصة بالثقافة. لذلك يجب قياس هذا الاعتماد بصورة منفصلة عمليًا.
لماذا لا يعني الفضاء الواحد تساوي جودة اللغات
بيانات التدريب غير متوازنة. فعادةً ما تحصل اللغات الغنية بالموارد والمجالات الشائعة والتهجئة المعيارية على مواءمة أفضل من اللهجات أو أنظمة الكتابة النادرة أو النصوص المتضررة بفعل التعرف الضوئي على الحروف أو الألقاب المنزلية. وقد تتوافق الأرقام بينما تنحرف المصطلحات القانونية أو الطبية، ما ينتج عنه نص يبدو ذا صلة لكنه لا يدعم الادعاء.
تُظهر الأبحاث حول المستندات عبر اللغات أن تمثيل المستندات على مستوى المستند عبر اللغات يظل مسألة تعلم مستقلة، لا سيما عندما تختلف التسميات والمجالات. ويبسّط الفهرس الواحد البنية، لكنه لا يضمن استرجاعًا متساويًا لكل زوج لغوي.
يظهر حد الفشل عندما تحتل الأدلة ذات الصلة بلغة معينة مراتب أدنى باستمرار من حد النتائج المعروضة. وقد تكون الاستعانة بالترجمة في الاسترجاع أو الفهارس الخاصة بكل لغة أو البحث بالكلمات المفتاحية أو توسيع مجموعة المرشحين بدائل احتياطية أفضل. كما أن زيادة التغطية متعددة اللغات في بطاقة النموذج لا تعني تلقائيًا تحسن الاسترجاع المنزلي.
أنشئ مصفوفة للاسترجاع عبر اللغات
اختر عشر حقائق منزلية لها مقاطع موثّقة بلغتين على الأقل. واكتب استعلامات مكافئة بكل لغة، وأدرج صيغًا تمزج بين اللغات وتستخدم الاختصارات والأخطاء الإملائية بما يعكس الاستخدام الفعلي. وسجّل ما إذا كان المصدر الصحيح يظهر في المراتب الأولى والثالثة والخامسة والعاشرة.
تتبّع الاستدعاء وتغطية الاستشهادات حسب اتجاه اللغة، مع توسيع المقاييس الواردة في مقاييس جودة الاسترجاع. فالنجاح من الإنجليزية إلى الإسبانية لا يثبت جودة الاسترجاع من الإسبانية إلى الإنجليزية، كما أن ترجمة الإجابة بصورة صحيحة لا تصلح إخفاقًا في الاسترجاع. ولهذا يجب أن تظل الحالة الوسيطة قابلة للفحص.
احتفظ بفهرس مشترك واحد فقط إذا حقق كل اتجاه لغوي مهم حد الاستدعاء المختار. وإلا فأضف كلمات مفتاحية هجينة أو توسيعًا بالترجمة أو توجيهًا خاصًا بكل لغة، ثم أعد تشغيل المصفوفة نفسها دون تغيير مجموعة الأدلة المتوقعة.
مركز التكنولوجيا والذكاء الاصطناعي
المزيد للقراءة

تعارضات ذاكرة الوكيل: لماذا قد تخسر التصحيحات الحديثة أمام الحقائق القديمة المتكررة
تعلّم كيف تطغى الذكريات القديمة المكررة على التصحيحات، ومتى تفشل قواعد الحداثة، وكيفية اختبار الإحلال في مخزن ذاكرة وكيل خاص.

إعادة ترتيب نتائج البحث الخاص: كيف يغيّر نموذج ثانٍ ترتيب الأدلة النهائي
تعرّف على سبب اختلاف التشابه في المرحلة الأولى عن الصلة في المرحلة الثانية، ومتى تساعد إعادة الترتيب في RAG الخاص، وكيفية تقييم الأدلة المُعاد...

أخذ العينات من نماذج اللغة الكبيرة المحلية: لماذا تغيّر إعدادات فك الترميز التكرار والاستقرار
تعرّف على كيفية تفاعل درجة الحرارة وtop-p وmin-p والبذور وعوامل العقوبة، وكيفية اختبار إعدادات فكّ الترميز دون الخلط بين العشوائية والجودة.

