ما الفرق بين القدرة التصميمية الحرارية وقدرة الجدار الكهربائي لخادم الذكاء الاصطناعي؟
تُعدّ القدرة التصميمية الحرارية مواصفة تصميم على مستوى المكوّن، بينما تمثل القدرة المقاسة من المقبس الإدخال الكهربائي الذي يستهلكه خادم الذكاء الاصطناعي بالكامل.
لا يعني وضع علامة تشير إلى قدرة حرارية تبلغ 65 واطًا على معالج أن نظام ذكاء اصطناعي منزليًا كاملًا يستهلك 65 واطًا من المقبس. فالذاكرة، والتخزين، والمسرّع، وتحويلات اللوحة الأم، والمراوح، وأجهزة الشبكة، وفواقد مزوّد الطاقة، كلها تسهم في الاستهلاك. كما يمكن لحدود التعزيز، ومرحلة أعباء العمل، وحالة الخمول، ودرجة الحرارة المحيطة، وتعريفات الشركات المصنّعة أن تفصل بين مواصفات المكوّن والطاقة المرصودة فعليًا.
تحدد TDP نقطة تصميم حرارية أو نقطة قدرة أساسية
تُستخدم TDP لتحديد حجم التبريد ووصف أداء المعالج في ظل عبء عمل محدد أو حالة تشغيل أساسية. وهي ليست طريقة قياس موحّدة بين جميع الشركات المصنّعة والأجيال، كما أنها لا تجمع استهلاك كل مكوّن داخل الخادم.
يعرّف تعريف Intel للقدرة التصميمية الحرارية قيمة TDP بالواط لتصميم الأنظمة، ويشير إلى أن المنتجات الأحدث تستخدم مصطلح القدرة الأساسية للمعالج. ويرتبط التعريف بمواصفات التشغيل، وليس بوعد بأن كل أعباء العمل ستستهلك رقمًا ثابتًا واحدًا.
يتناوب الاستدلال بالذكاء الاصطناعي بين تحميل النموذج، والتهيئة المسبقة للمطالبة، وفك ترميز الرموز، وفترات الخمول. وقد تتجاوز ذروات التعزيز أو المسرّع القصيرة نقطة التصميم الاسمية للمعالج، بينما يظل استهلاك النظام المتوسط زمنيًا أقل أو أعلى لأسباب مختلفة تمامًا.
تشمل القدرة من المقبس سلسلة التحويل بأكملها
يرصد مقياس المقبس إدخال التيار المتردد إلى مزوّد الطاقة. ويستهلك الخادم طاقة تيار مستمر محوّلة، بينما يتحول الفرق إلى فواقد تحويل تختلف نسبتها باختلاف الحمل والجهد وتصميم مزوّد الطاقة وكفاءته. ولا تُحتسب المفاتيح المتصلة أو حاويات الأقراص الخارجية إلا إذا كانت ضمن حدود القياس نفسها.
تقيّم معايير استهلاك الطاقة للنظام من ENERGY STAR استهلاك الكمبيوتر للطاقة على مستوى النظام، وتفرّق بين أوضاع التشغيل. ويقترب هذا النطاق الأوسع من تكلفة الكهرباء المنزلية أكثر من مواصفة المعالج الحرارية. ويظل هذا الفرق ظاهرًا أثناء الاختبارات المنزلية اللاحقة.
تشمل القدرة من المقبس أيضًا تحديث الذاكرة، والأقراص، والمراوح، ووحدات التحكم في اللوحة الأم، وأجهزة USB، واستهلاك المسرّع في وضع الخمول. لذلك قد يختلف استهلاك الطاقة في الخمول والاستدلال بين نظامين لهما قيمة TDP متساوية لوحدة المعالجة المركزية. ويجب أن تظل النتيجة الوسيطة قابلة للفحص قبل انتقال الأتمتة إلى الخطوة التالية.
تجيب سعة التبريد وتكلفة الطاقة عن سؤالين مختلفين
يجب أن يتعامل تصميم التبريد مع مكان وكيفية إطلاق الحرارة، بما في ذلك حدود المكوّنات المستمرة والهواء المعاد تدويره. أما تخطيط الكهرباء فيحتاج إلى قياس القدرة بالواط مع مرور الوقت، والطلب الأقصى، وفواقد UPS، وأحيانًا معدات الشبكة أو التخزين الداعمة. ولا يمكن لرقم واحد أن يحل محل الآخر بأمان.
يشرح قيود TDP سبب عدم تعبير TDP عن الصورة الكاملة لاستهلاك الطاقة، ويسلط الضوء على تعريفات الشركات المصنّعة وسلوك أعباء العمل. وهو يدعم استخدام المواصفات لتحديد الحجم الأولي، والقياس المباشر للنظام المنشور.
تتمثل نقطة الفشل في التعامل مع متوسط استهلاك المقبس على أنه دليل على كفاية التبريد أثناء الذروات، أو التعامل مع مجموع قيم TDP على أنه توقع لاستهلاك الكهرباء. ويجب أن تظل خنق الحرارة، ومنحنيات المراوح، وكفاءة مزوّد الطاقة، ودورة التشغيل، ظاهرة في القياس.
قِس القدرة من المقبس في حالات الخمول والاستمرارية والذروة
استخدم مقياسًا موثوقًا للمقبس وسجّل بيانات الإقلاع، والخمول، وتحميل النموذج، والتهيئة المسبقة الطويلة، وفك الترميز المستقر، والاستدلال البصري، ونشاط القرص، وأعباء العمل المجمّعة في أسوأ الحالات. وسجّل بيانات المكوّنات ودرجة الحرارة وسرعة الساعة وسرعة المروحة، وحالات الخنق، إلى جانب القدرة بالواط من المقبس، وبمعدل أخذ عينات يلتقط الذروات المهمة.
فسّر درجة حرارة الحاوية باستخدام مقارنة تدفق الهواء الواردة في حرارة الحاوية. وحدد ما إذا كان المقياس يشمل NAS والمفتاح وحاوية المسرّع، ثم احسب الطاقة لكل مهمة وعدد واط-ساعة يوميًا بدلًا من مقارنة الذروات اللحظية فقط.
حدّد حجم التبريد وتوصيل الطاقة استنادًا إلى الحدود الموثقة، إلى جانب السلوك المستمر والعابر المقاس. استخدم قياسات المقبس لتقدير طاقة المنزل والتخطيط لـ UPS، ولا تستنتج استهلاك الخادم بالكامل من مواصفة حرارية واحدة لمعالج أو مسرّع.
المنتجات الموصى بها
مركز التكنولوجيا والذكاء الاصطناعي
المزيد للقراءة
هل يمكن للكاميرات المنزلية مزامنة الأحداث دون خدمات الوقت السحابية؟
شرح يعتمد أولًا على الآلية لوقت الكاميرا دون سحابة، ومقايضاته المتعلقة بالموارد المشتركة، وثلاثة أسئلة شائعة حول توزيع الاستعلامات، وبروتوكول عملي للتحقق.
هل يمكن لخدمة ذكاء اصطناعي محلية اكتشاف طبقات النموذج التالفة قبل الاستدلال؟
شرح يركز أولًا على الآلية لاكتشاف تلف طبقة النموذج، ومقايضاته المتعلقة بالموارد المشتركة، وثلاثة أسئلة شائعة حول توزيع الاستعلامات، وبروتوكول عملي للتحقق.
هل يمكن استعادة نظام RAG دون إعادة توليد كل التضمينات؟
شرح قائم على الآلية لاستعادة RAG دون إعادة التضمين، ومقايضاته المتعلقة بالموارد المشتركة، وثلاثة أسئلة شائعة حول توزيع الاستعلامات، وبروتوكول عملي للتحقق.
