ما هي كاردينالية المقاييس، ولماذا يمكن أن تصبح قابلية ملاحظة الذكاء الاصطناعي مكلفة؟
تُعرَّف كثافة المقاييس بأنها عدد تركيبات التسميات المميزة المخزنة كسلاسل زمنية، ويمكن لتسميات الذكاء الاصطناعي غير المحدودة أن تضاعف استهلاك الموارد بشكل غير متوقع.
يبدو مقياس زمن الاستجابة بسيطًا، إلى أن تتم تسميته بحسب النموذج والمسار والمستخدم والأداة والحالة والتكميم ومعرّف الطلب الخام. تصبح كل تركيبة مرصودة سلسلة منفصلة لها تكاليف الفهرسة والذاكرة والاستعلام والاحتفاظ. تنتج حزم الذكاء الاصطناعي العديد من المعرّفات الفريدة بطبيعتها، لذلك قد تنمو تكلفة المراقبة بوتيرة أسرع من حجم الطلبات حتى على خادم مستضاف ذاتيًا ومن دون فاتورة سحابية.
كل مجموعة تسميات مميزة تنشئ سلسلة زمنية أخرى
يحدد اسم المقياس، إلى جانب مجموعة كاملة من قيم التسميات، سلسلةً زمنية. ويمكن لعشرة نماذج وخمسة مسارات وأربع حالات وعشرين أداة أن تنشئ آلاف التركيبات المحتملة قبل إضافة أي معرّف مستخدم أو طلب. ويعتمد العدد الفعلي على التركيبات المرصودة فعليًا، لا على التسميات المُعلنة فحسب.
تشير إرشادات كثافة التسميات في Prometheus إلى أن كل مجموعة تسميات تضيف تكلفة على الذاكرة العشوائية ووحدة المعالجة المركزية والقرص والشبكة، وتوصي بالتحقيق في المقاييس التي تصبح كثافتها كبيرة. وتحذّر تحديدًا من التسميات ذات القيم غير المحدودة، مثل معرّفات المستخدمين أو عناوين البريد الإلكتروني.
تختلف كثافة المقاييس عن تكرار العينات. فقد تحتوي سلسلة واحدة تُجمع عيناتها كل ثانية على عينات كثيرة، بينما تفرض مليون سلسلة نادرًا ما تُحدَّث تكاليف كبيرة على الفهرس والبيانات الوصفية، لأن النظام الخلفي يجب أن يتتبع هوية كل سلسلة.
تتضمن سير عمل الذكاء الاصطناعي تسميات جذابة لكنها خطرة
يمكن أن تدعم أسماء النماذج ونقاط النهاية وفئات الأدوات وحالات الاستجابة وطبقات الأجهزة المحدودة تجميعًا مفيدًا. أما نص المطالبة ومسار المستند ومعرّف التتبع ومعرّف الجلسة ووسائط الأدوات المُنشأة ورسائل الخطأ الكاملة، فهي غير محدودة عمليًا وتحول المقاييس إلى مخزن أحداث غير مقصود.
توضح لوحة كثافة المقاييس في Grafana أن لوحات الكثافة العالية تفحص السلاسل النشطة وتوزيع التسميات، كي يتمكن المشغلون من ربط المقاييس غير المستخدمة بتكلفة الاستيعاب. ويمكن للطريقة نفسها أن تكشف ما إذا كانت تسمية جديدة لوكيل قد تسببت في انفجار مفاجئ في عدد السلاسل.
ينبغي وضع السياق التشخيصي الفريد في آثار التتبع أو السجلات المهيكلة المُؤخذة عيناتها، وربطها من خلال الأمثلة عند توفر الدعم. يجب أن تجيب المقاييس عن الأسئلة التجميعية بأبعاد محدودة عمدًا، بدلًا من الاحتفاظ بكل طلب كقيمة تسمية. ويظل هذا الفرق واضحًا أثناء الاختبارات المنزلية اللاحقة.
تتضاعف التركيبات قبل أن تصبح الاستعلامات بطيئة بوضوح
يمكن لعدة تسميات متواضعة كل على حدة أن تشكل حاصلًا ديكارتيًا كبيرًا. ويزيد تغيّر السلاسل من سوء المشكلة عندما تنشئ الحاويات أو إصدارات النماذج أو المسارات المُطبَّعة هويات جديدة باستمرار، تظل محفوظة خلال فترة الاحتفاظ بعد تغير عبء العمل النشط.
يعرّف مثال ارتفاعات كثافة المقاييس في Grafana الكثافة من خلال قيم التسميات المميزة، ويوضح كيف تزيد الارتفاعات عدد السلاسل المخزنة. وهذا يفسر سبب قدرة تغيير صغير في إضافة المقاييس على زيادة عمل الاستيعاب والاستعلام من دون تغيير حركة الاستدلال.
تتمثل حدود الفشل في وصول المراقبة إلى استهلاك قدر كافٍ من الذاكرة أو الإدخال والإخراج أو وحدة المعالجة المركزية، بحيث تعطل خدمة الذكاء الاصطناعي التي تقيسها. وقد يؤدي إسقاط تسمية بعد الاستيعاب إلى تقليل النمو المستقبلي، لكنه لا يمحو السلاسل التاريخية فورًا ولا يصلح لوحات المعلومات التي اعتمدت عليها.
أنشئ ميزانية للكثافة قبل إضافة التسميات
احصر كل مقياس وقدّر الحد الأعلى لكل تسمية ولكل تركيبة شائعة. أعد تشغيل يوم ممثل، وقِس السلاسل النشطة وتغيّر السلاسل والبايتات المستوعبة ووقت الاستعلام والذاكرة، ثم رتّب التسميات حسب قيمتها التشخيصية وعدد السلاسل الإضافية.
قارن تلك النتائج بإشارات المراقبة الأوسع الموضحة في مراقبة الذكاء الاصطناعي المحلي. انقل سياق الطلب الفريد إلى السجلات أو آثار التتبع، وطَبِّع المسارات الديناميكية، ولا تعرض فئات النماذج أو الأدوات إلا عندما يكون للوحة المعلومات أو التنبيه استخدام محدد.
حدّد ميزانيات وتنبيهات للسلاسل النشطة ومعدل الإنشاء قبل النشر. ولا تنجح إضافة المقاييس إلا عندما تجيب عن الأسئلة التشغيلية المستهدفة من دون تغيير زمن استجابة الاستدلال بشكل ملحوظ أو استنفاد مساحة التخزين المخصصة للاحتفاظ أثناء ذروة الاستخدام المنزلي.
المنتجات الموصى بها
مركز التكنولوجيا والذكاء الاصطناعي
المزيد للقراءة
هل يستطيع نموذج لغوي كبير محلي استئناف عملية التوليد بعد إعادة تشغيل العملية؟
شرح يركّز على الآلية لاستئناف توليد نماذج اللغة الكبيرة (LLM)، ومقايضاته المتعلقة بالموارد المشتركة، وثلاثة أسئلة شائعة حول تشعيب الاستعلامات، وبروتوكول عملي للتحقق.
هل يستطيع خادم منزلي تشغيل التضمينات وتحويل ترميز الفيديو على وحدة معالجة رسومات مدمجة واحدة؟
شرح يركّز أولًا على الآلية لتضمينات iGPU المشتركة وتحويل الترميز، ومقايضات الموارد المشتركة فيها، وثلاثة أسئلة شائعة حول تشعيب الاستعلامات، وطريقة عملية للتحقق.
كيف يؤثر عمر رمز الوصول في الأمان والاحتكاك داخل الأسرة؟
شرح يركّز أولًا على آلية عمل مدة صلاحية رمز الوصول، ومقايضاته المتعلقة بالموارد المشتركة، وثلاثة أسئلة شائعة حول توزيع الاستعلامات، وبروتوكول عملي للتحقق.
