لماذا يستشهد خط أنابيب RAG بالملف الصحيح، لكنه يورد المقطع الخطأ؟
قد ي引用 خط أنابيب RAG الملف الصحيح، لكنه يورد المقطع الخطأ عندما ينجح اكتشاف المستند بينما يفشل استرجاع المقاطع أو ربط الاستشهادات.
غالبًا ما تحتوي الملفات الكبيرة على أقسام عديدة تشترك في المصطلحات أو العناوين المتكررة أو الأمثلة المتشابهة أو الإصدارات المتعددة من المعلومة نفسها. قد يحدد مسترجع على مستوى الملف الدليل أو التقرير أو الملاحظة المنزلية ذات الصلة بدقة، بينما تختار المرحلة المسؤولة عن مستوى المقطع جزءًا مجاورًا. وقد يستنتج نموذج الإجابة التفصيل المفقود من معرفته الخاصة أو من مقطع آخر، ثم يرفق بيانات الملف المحدد. ويتطلب الاستشهاد الموثوق صحة مستقلة على مستوى المستند والصفحة والمقطع والنطاق ومرحلة التوليد.
استدعاء المستند واستدعاء المقطع مشكلتان مختلفتان في الاسترجاع
قد يحتل ملف مرتبة عالية لأن عنوانه أو بياناته الوصفية أو تمثيله العام يتطابق مع السؤال. لكن هذا لا يثبت ظهور الفقرة التي تتضمن الإجابة ضمن مجموعة المقاطع المسترجعة.
يفصل دليل عملي لاستكشاف أعطال RAG طبقات فشل الاسترجاع، ويوصي بفحص المقاطع الدقيقة بدلًا من الاكتفاء بالإجابة النهائية.
ينبغي لخط الأنابيب قياس استدعاء المستند واستدعاء الصفحة واستدعاء المقطع كلًّا على حدة. فقد يخفي اسم الملف الصحيح نطاق إجابة لم يُسترجع.
قد تفصل حدود المقاطع بين الدليل وسياقه
قد يضع التقسيم ذو الحجم الثابت العنوان في مقطع، والادعاء في مقطع آخر، والاستثناء أو تسمية الجدول في مقطع ثالث.
يوضح دليل Edtek كيف تؤدي حدود المقاطع الخاطئة إلى إنتاج مقاطع تذكر الاستعلام دون أن تتضمن الإجابة الكاملة.
قد يختار المسترجع الملف الصحيح رغم ذلك لأن العديد من المقاطع تشترك في الموضوع نفسه. ويتلقى المولّد مقطعًا ناقصًا، ثم يستشهد بمصدر على مستوى الملف كما لو أنه يثبت الادعاء.
ولا يفيد التقسيم البنيوي واسترجاع الأصل والفرع وتوسيع المقاطع المجاورة إلا عندما تظل إزاحات المصدر قابلة للتتبع.
قد تُرفق بيانات الاستشهاد بدرجة تفصيل خاطئة
تنسخ بعض خطوط الأنابيب عنوان URL أو اسم ملف واحدًا إلى كل مقطع دون تخزين الصفحة أو القسم أو المربع المحيط أو إزاحات الأحرف.
يوضح دليل Tensorlake للاستشهادات كيف يمكن أن تنتقل المراسي المكانية من المعالجة المسبقة للمستند إلى الاسترجاع وتوليد الإجابة.
يشير المؤشر الخاص بالملف فقط إلى مصدر عنصر المجموعة، لكنه لا يثبت أي بايتات تدعم الجملة. وتحتاج الاستشهادات على مستوى المقطع إلى هوية مستقرة للمقطع وبيانات وصفية لموقعه.
قد يؤدي التعرف الضوئي على الحروف وإعادة تدفق ملفات PDF وتحرير المستندات إلى إبطال الإزاحات، ما لم يسجل الاستشهاد أيضًا النسخة المفهرسة أو تجزئة المحتوى.
قد تؤدي المقاطع المتشابهة إلى خلط المولّد بين المعرّفات
قد يحتوي السياق على عدة مقاطع من الملف نفسه تستخدم لغة متشابهة. ويمكن للنموذج أن يستخدم محتوى مقطع، ثم يصدر تسمية استشهاد تخص مقطعًا قريبًا آخر.
يحذر مقال عن RAG الحرج للاستشهادات من أن أخطاء المقاطع المجاورة تظل ممكنة حتى عندما يكون المستند المستشهد به موثوقًا.
سمِّ المقاطع بمعرّفات واضحة وغير متشابهة، وأبقِ الاستشهاد ملاصقًا للنص الداعم. إن مطالبة النموذج بتذكر خريطة استشهاد منفصلة بعد التوليف تزيد خطر عدم التطابق.
يمكن للتحقق الحتمي من الاقتباس إلى المقطع اكتشاف الحالات التي لا يحتوي فيها المقطع المستشهد به على النص المدعى أو المقتبس.
يجب أن يقيّم إعادة الترتيب دعم المقطع، لا تشابه الموضوع فقط
قد يجلب مسترجع المرحلة الأولى مقاطع كثيرة من الملف الصحيح. وينبغي لإعادة الترتيب التمييز بين القسم الذي يجيب عن الاستعلام مباشرة والأقسام التي تشترك معه في الموضوع فحسب.
يؤكد دليل Databricks للتقسيم أن وحدات الاسترجاع المتماسكة ضرورية قبل أن تتمكن مراحل الاسترجاع اللاحقة من ترتيب المقاطع بدقة.
أعد الترتيب باستخدام الاستعلام الكامل، وحافظ على عنوان المقطع وسياقه الأصلي، وامنح ترتيبًا أقل للمقاطع التي تفتقر إلى الحقل أو التاريخ أو الكيان أو نوع الدليل المطلوب.
يتعامل سير عمل البحث في المستندات لدى ZimaSpace مع هذه العناصر كمراحل منفصلة، لا كدرجة عامة واحدة لـ«جودة RAG».
تحقق من المقطع الدقيق قبل عرض الاستشهاد
بعد التوليد، اربط كل جملة واقعية أو اقتباس بالمقطع الذي يحتوي على دعمه. وارفض الاستشهادات التي تشير إلى الملف الصحيح فقط.
توصي Infolitz بإرفاق الاستشهادات بـالمقاطع الحاملة للمصدر بدلًا من إعادة بنائها على مستوى الملف بأكمله.
قيّم دقة المقطع، واكتمال الدليل، واحتواء الاقتباس، وصلاحية إزاحة الاستشهاد، وما إذا كان النطاق المستشهد به يدعم الادعاء المولّد بدقة.
لا يُعد النظام مُصلحًا إلا عندما يؤدي النقر على الاستشهاد إلى فتح أصغر مقطع كافٍ، لا المستند الصحيح فحسب في موضع ما قريب من الإجابة.
المنتجات الموصى بها
مركز التكنولوجيا والذكاء الاصطناعي
المزيد للقراءة
ما الميزات التي تتيح إنشاء حدود ثقة للذكاء الاصطناعي المنزلي حول الملفات الحساسة؟
يجمع حدّ الثقة للذكاء الاصطناعي المنزلي بين التشفير أثناء السكون، وصلاحيات الحد الأدنى، والعزل الآمن أثناء التشغيل، والاسترجاع المقيّد النطاق؛ ولا تكفي أي ميزة...
ما الذي يجعل نتائج البحث الخاصة تُفضّل الملفات التي يتم تعديلها بشكل متكرر؟
تحظى الملفات التي تُعدَّل بكثرة بمزايا في الترتيب عندما يضيف كل تحديث إشارات إلى الحداثة أو المقاطع أو الإصدارات أو التفاعل، من دون إجراء...
ما الذي يتسبب في خلط نماذج الحضور في المنازل الذكية بين الضيوف والمقيمين؟
قد يبدو الضيوف كأنهم من المقيمين عندما يرصد النظام أنماط نشاط الأسرة، لكنه يفتقر إلى إشارة هوية مستقرة للشخص الذي يصدر هذه الأنماط.
