يمكن أن يرفع عمق طابور NVMe سرعة إدخال المتجهات من خلال إتاحة تنفيذ أعمال التخزين بالتوازي، لكن المكاسب تتوقف عندما تصل مرحلة أخرى أو الجهاز نفسه إلى حد التشبع.
يؤدي تضمين أرشيف منزلي كبير إلى إنشاء متجهات وبيانات وصفية وحواف بيانية وسجلات فهرسة وتشغيلات مؤقتة وسجلات تنفيذ، بدلاً من ملف تسلسلي واحد. إذا أرسل المفهرس عملية كتابة واحدة فقط وانتظر، فسيبقى جهاز NVMe السريع خاملاً بين الأوامر. ويمكن لزيادة عدد الطلبات المعلّقة الاستفادة من التوازي الداخلي للجهاز، رغم أن العمق المفرط يطيل قوائم الانتظار وقد يضر بعمليات البحث التفاعلية التي تشارك القرص نفسه.
يقيس عمق الطابور الأوامر المعلّقة، لا عدد الملفات
يستخدم NVMe طوابير متزاوجة للإرسال والإكمال. وعمق الطابور هو عدد الأوامر التي يمكن أن تظل معلّقة، لذلك فهو يعكس التزامن في التخزين بعد أن يترجم نظام الملفات وطبقة الكتل عمليات الفهرسة إلى طلبات للجهاز.
تحدد مواصفة NVMe طوابير الإرسال والإكمال التي تتيح للبرمجيات المضيفة إرسال أوامر متعددة من دون انتظار إكمال كل أمر. ويمكن لهذا التصميم تغذية عدة قنوات في المتحكم وشرائح فلاش وعمليات داخلية بالتزامن. ويظل هذا الفرق واضحاً أثناء الاختبارات المنزلية اللاحقة.
لا يضمن فتح العديد من الملفات الوصول إلى عمق مفيد. فقد تؤدي منطقية التطبيق المتزامنة أو المعاملات الصغيرة أو الأقفال أو تنفيذ fsync بعد كل سجل إلى تسلسل المسار قبل وصول الطلبات بوقت طويل إلى المتحكم. ويجب أن تظل النتيجة الوسيطة قابلة للفحص قبل أن تتبعها الأتمتة.
يحوّل عمل الفهرسة المتوازي العمق إلى إنتاجية
يمكن لخط إدخال المتجهات تجميع سجلات المستندات، وترميز التضمينات بالتوازي، وبناء هياكل بيانية أو معكوسة، وإصدار عمليات كتابة غير متزامنة. ويتيح وجود قدر كافٍ من العمل المستقل تداخل عمليات البرمجة والمسح والبيانات الوصفية والنقل في التخزين، بدلاً من كشف زمن استجابة كل عملية على حدة وبشكل تسلسلي.
تؤكد إرشادات أداء NVMe في SPDK أهمية مواءمة طوابير NVMe المتوازية وتوزيع العاملين مع الجهاز وحِمل العمل. ولا تساعد زيادة التزامن إلا عندما يوفر التطبيق عمليات إدخال وإخراج مستقلة ويستطيع المعالج استطلاع عمليات الإكمال أو معالجتها بكفاءة.
يهم هيكل الفهرس: فقد يتوسع إنشاء المقاطع المعتمد على الإلحاق مع الدُفعات الأكبر، بينما قد تظل تعديلات الرسم البياني المتكررة أو عمليات تنفيذ WAL أو تحديثات البيانات الوصفية الصغيرة مقيدة بالمعالج أو بالمزامنة. ولا يستطيع عمق الطابور تسريع مرحلة تنتج أعمال التخزين ببطء شديد.
يحوّل التشبع زيادة العمق إلى وقت انتظار
ترتفع الإنتاجية حتى تصل سعة النطاق الترددي للفلاش أو معالجة المتحكم أو PCIe أو المعالج أو التسلسل الداخلي للمفهرس إلى الحد الأقصى. وبعد نقطة التحول هذه، تنتظر الأوامر الإضافية مدة أطول من دون إكمال عدد أكبر من البايتات في الثانية، مما يزيد زمن الاستجابة عند المئين 99 والذاكرة المستخدمة للمخازن المؤقتة قيد التنفيذ.
توضح دراسة من USENIX حول تخزين NVMe الحديث أن الكلفة العامة لـ NVMe على المضيف تعتمد على بنية الجهاز والكلفة العامة للبرمجيات المضيفة، لا على عرض النطاق الترددي المعلن فحسب. ويمكن للطلبات القصيرة والمتزامنة أن تنقل الاختناقات إلى مسارات المعالج وإرسال عمليات الإدخال والإخراج.
تظهر نقطة الفشل في حِمل مختلط يشارك فيه الإدخال الجهاز مع البحث أو تحميل النماذج أو قواعد البيانات أو التبديل. فقد يجعل العمق الذي يحقق أقصى إنتاجية للإدخال الجماعي عمليات القراءة التفاعلية غير قابلة للاستخدام، حتى عندما تبدو الإنتاجية الإجمالية ممتازة.
اعثر على نقطة التحول في الإنتاجية من دون إخفاء زمن استجابة البحث
شغّل المجموعة نفسها عند أعماق طابور تبلغ 1 و2 و4 و8 و16 و32 و64، مع تثبيت عدد عمال التضمين وحجم الدفعة ومعلمات الفهرس ونظام الملفات وسياسة التنفيذ. ويجب قياس هذا الحد بشكل منفصل في ظروف تشغيل واقعية.
قارن سلوك الملفات الصغيرة مع فهرسة الملفات الصغيرة. سجّل عدد المتجهات في الثانية والبايتات المكتوبة واستخدام الجهاز ومتوسط زمن استجابة الكتابة وزمن الاستجابة عند المئين 99 ووقت المعالج ومعدل fsync والذاكرة وزمن استجابة البحث المتزامن عند المئين 99. وتظهر النتيجة العملية عندما تتنافس عدة مصادر على سياق محدود.
اختر أقل عمق قريب من أقصى إنتاجية إدخال مستدامة مع الاستمرار في تحقيق زمن الاستجابة التفاعلي المطلوب. وإذا ظلت الإنتاجية ثابتة من العمق الأول، فحلّل التضمين والأقفال والدمج وتكرار التنفيذ قبل إلقاء اللوم على NVMe. ويجب أن يظل هذا الاعتماد واضحاً في الواجهة النهائية.
مركز التكنولوجيا والذكاء الاصطناعي
المزيد للقراءة

ما هو انجراف التضمينات، ومتى يحتاج فهرس بحث خاص إلى إعادة البناء؟
فكّ تشفير النموذج والمعالجة المسبقة ومجموعة البيانات وانحراف الاستعلام؛ ميّز بين المراقبة وعدم التوافق؛ وحدّد متى يحتاج الفهرس الخاص إلى إعادة البناء.

ما توافقية مُجزِّئ الرموز، ولماذا يمكن أن تؤدي إلى تعطل تبديل النماذج؟
فكّ ترميز هوية المفردات، ودلالات الرموز الخاصة، وقوالب الدردشة، والرموز المخزّنة مؤقتًا، والمحوّلات، وفحوصات التوافق لتبديل النماذج المحلية.

ما هي إقامة النموذج، ومتى ينبغي لخدمة ذكاء اصطناعي محلية إبقاء الأوزان محمّلة؟
تعرّف على بقاء الأوزان في الذاكرة، ومستويات ذاكرة التخزين المؤقت، وبدء التشغيل البارد، والإخلاء، وتعدد الإرسال، وضغط الذاكرة، ومتى ينبغي لخدمة ذكاء اصطناعي منزلية...

