متطلبات أجهزة NAS للذكاء الاصطناعي: المعالج، الذاكرة العشوائية، وحدة معالجة الرسومات، التخزين، والشبكة

إجابة سريعة

تعتمد متطلبات أجهزة AI NAS على عبء العمل، وليس على تسمية AI NAS فقط. يحتاج النظام الذي يقوم بالتعرف الضوئي على الحروف في الخلفية أو فهرسة الصور إلى ملف تعريف أجهزة مختلف تمامًا عن النظام الذي يشغل نماذج لغوية محلية، كشف الكاميرا في الوقت الحقيقي، RAG بسياق طويل، أو استدلال متعدد المستخدمين.

لبعض عبء عمل الذكاء الاصطناعي الذي يركز على التخزين، التكوين العملي المبدئي هو:

• وحدة معالجة مركزية حديثة متعددة النوى
• 16 جيجابايت من ذاكرة النظام العشوائية
• تخزين HDD للملفات المصدر المحمية والسعة الكبيرة
• طبقة SSD أو NVMe للتطبيقات، قواعد البيانات، الصور المصغرة، الفهارس، والنماذج
• شبكة 1GbE أو 2.5GbE، حسب حجم الملف وعدد المستخدمين
• تسريع اختياري iGPU، NPU، TPU، أو GPU عندما يدعم البرنامج المستهدف ذلك

قد تحتاج الأنظمة الأكثر تطلبًا إلى ذاكرة عشوائية من 32 جيجابايت إلى 64 جيجابايت أو أكثر، سعة NVMe أكبر، وحدة معالجة رسومات منفصلة أو ذاكرة موحدة عالية السعة، تبريد أقوى، وشبكة 10GbE عندما يتم تشغيل حسابات الذكاء الاصطناعي على خادم منفصل.

لا يوجد مواصفات دنيا عالمية لكل AI NAS. التكوين الصحيح يعتمد على:

• مهمة الذكاء الاصطناعي
• حجم مكتبة الملفات
• ما إذا كانت المعالجة في الوقت الحقيقي أو في الخلفية
• النموذج وحجم السياق
• عدد المستخدمين المتزامنين
• ما إذا كان الذكاء الاصطناعي يعمل مباشرة على NAS أو على جهاز محلي آخر
• ما إذا كان البرنامج يمكنه استخدام المعجل المختار

القاعدة الأهم بسيطة: ابدأ بعبء العمل، ثم قم بتحديد حجم وحدة المعالجة المركزية، الذاكرة، التسريع، التخزين، الشبكة، والتبريد بناءً على ذلك.

على ماذا تعتمد متطلبات خادم الذكاء الاصطناعي فعليًا؟

يقوم AI NAS بوظيفتين مختلفتين في نفس الوقت. يجب أن يظل نظام تخزين موثوقًا بينما يعالج البيانات المخزنة عليه.

قد يتعامل NAS التقليدي بشكل رئيسي مع:

• مشاركة الملفات
• نسخ احتياطية للكمبيوتر والهاتف
• اللقطات وتاريخ الإصدارات
• تخزين الوسائط والبث
• أذونات المستخدم
• الوصول عن بُعد

قد يضيف النظام المدرك للذكاء الاصطناعي:

• التعرف الضوئي على الحروف وتحليل المستندات
• التعرف على الصور
• كشف الأجسام
• نسخ الكلام
• توليد التضمين
• البحث المتجه والهجين
• RAG خاص
• الاستدلال المحلي للنماذج اللغوية الكبيرة

يتم شرح الفرق بين هذين الدورين بشكل أعمق في مقارنة أجهزة AI NAS مع متطلبات NAS التقليدية.

نوع عبء العمل

تضغط مهام الذكاء الاصطناعي المختلفة أجزاء مختلفة من النظام.

المعالجة الخلفية مقابل المعالجة في الوقت الحقيقي

يمكن لأعباء العمل الخلفية تحمل أجهزة أبطأ لأنها يمكن أن تعمل طوال الليل أو خلال فترات نشاط تخزين منخفضة.

تشمل الأمثلة:

• مسح مكتبة صور جديدة
• إنشاء الصور المصغرة
• تشغيل OCR على الفحوصات الواردة
• بناء التضمينات
• تحديث فهارس الوثائق

تتطلب أعباء العمل في الوقت الحقيقي زمن استجابة أقل وأداء مستدام أكثر.

تشمل الأمثلة:

• كشف الأجسام في كاميرات الأمان
• دردشة LLM محلية تفاعلية
• النسخ الحي
• عدة مستخدمين متزامنين لـ RAG
• الاستدلال متعدد الوسائط في الوقت الحقيقي

قد يقوم NAS بتشغيل الفهرسة في الخلفية بنجاح على أجهزة متواضعة بينما يقدم تجربة ضعيفة لاستدلال LLM التفاعلي. لذلك، فإن استعجال المعالجة مهم بقدر المهمة نفسها.

حجم النموذج والمكتبة

ينمو الطلب على الأجهزة عبر بعدين مستقلين:

1. حجم نموذج الذكاء الاصطناعي
2. حجم مكتبة البيانات التي يتم فهرستها

يمكن لنموذج صغير أن يخلق عبء عمل ثقيل عندما يجب عليه معالجة ملايين الصور، مئات الآلاف من الوثائق، أو سنوات من الفيديو.

يمكن لنموذج كبير أن يخلق ضغط ذاكرة عالي حتى عندما تكون مجموعة الوثائق صغيرة.

خطط لكليهما:

• ملفات النماذج
• ذاكرة السياق ووقت التشغيل
• قواعد بيانات التطبيقات
• الصور المصغرة والمعاينات
• مخرجات التعرف الضوئي على الحروف
• التضمينات وفهارس المتجهات
• ملفات المعالجة المؤقتة
• نمو مكتبة البيانات الأصلية

عدد المستخدمين والطلبات المتوازية

النظام الذي يخدم شخصًا واحدًا بشكل متقطع له متطلبات مختلفة عن خدمة مشتركة تتعامل مع عدة استفسارات متزامنة.

تشرح الوثائق الرسمية ذاكرة Ollama والتزامن أن تحميل النماذج المتزامن يعتمد على ذاكرة النظام المتاحة أو VRAM. كما تشير إلى أن الطلبات المتوازية تزيد من تخصيص السياق الفعلي وأن الذاكرة المطلوبة تتناسب مع عدد الطلبات المتوازية وطول السياق.

هذا يعني أن تحديد حجم نموذج محلي فقط بناءً على حجم التنزيل غير كافٍ. يحتاج النظام أيضًا إلى ذاكرة لـ:

• عبء تشغيل بيئة التشغيل
• السياق وذاكرة KV المؤقتة
• الطلبات المتوازية
• نماذج محملة إضافية
• خدمات NAS والحاويات

الذكاء الاصطناعي على NAS مقابل الحوسبة المنفصلة

تشغيل الذكاء الاصطناعي مباشرة على NAS يقلل من حركة البيانات وقد يبسط سير العمل المجاور للتخزين. فصل حوسبة الذكاء الاصطناعي يمنح المستخدمين حرية أكبر في ترقية وحدات معالجة الرسوميات، والذاكرة، والتبريد، وبيئات تشغيل النماذج بشكل مستقل.

قم بتشغيل عبء العمل مباشرة على NAS عندما يكون:

• مرتبط ارتباطًا وثيقًا بالملفات المخزنة
• خفيف أو متوسط
• معالجة في الخلفية في الغالب
• مدعوم من نظام تشغيل NAS والتطبيقات
• من غير المحتمل أن يعطل خدمات النسخ الاحتياطي والملفات

فكر في خادم ذكاء اصطناعي منفصل عندما تكون عبء العمل:

• مكثف على وحدة معالجة الرسوميات (GPU)
• في الوقت الحقيقي
• متعدد المستخدمين
• يتم تحديثه بشكل متكرر أو تجريبي
• ساخن جدًا، صاخب، أو يستهلك طاقة عالية جدًا لـ NAS

ثلاثة مستويات عملية لأجهزة NAS الذكية

المستويات التالية هي ملفات تخطيطية وليست الحد الأدنى العالمي للبائعين. تختلف المتطلبات الفعلية حسب التطبيق، النموذج، طول السياق، التكميم، حجم البيانات، وتزامن المستخدمين.

المستوى 1: ذكاء اصطناعي يركز على التخزين والفهرسة في الخلفية

هذا المستوى مناسب عندما يظل التخزين هو المسؤولية الرئيسية ويعمل الذكاء الاصطناعي كتحسين في الخلفية.

تشمل الأحمال النموذجية:

• التعرف الضوئي على الحروف للمستندات الممسوحة ضوئياً
• تصنيف مستندات أساسي
• استخراج البيانات الوصفية
• وضع علامات خفيفة على الصور
• مهام تضمين صغيرة
• استعلامات محلية عرضية

قد لا تكون بطاقة GPU مخصصة ضرورية. يمكن أن يكون المعالجة عبر المعالج مقبولة عندما يكون المستخدمون مستعدين للانتظار للمهام الخلفية.

الأولويات المهمة هي:

• ذاكرة RAM كافية للتطبيقات وقواعد البيانات
• طبقة SSD أو NVMe لبيانات التطبيقات النشطة
• سعة HDD موثوقة للملفات المصدر
• تخزين مستقر وسلوك نسخ احتياطي

المستوى 2: ذكاء اصطناعي محلي متكامل واسترجاع خاص

هذا المستوى يناسب المستخدمين الذين يشغلون عدة تطبيقات واعية بالذكاء الاصطناعي على نفس النظام.

تشمل الأمثلة:

• التعرف على الصور والبحث الدلالي في الوسائط
• بحث خاص في المستندات
• استرجاع محلي للمعلومات (RAG)
• قواعد بيانات متجهية
• عدة تطبيقات Docker
• نماذج لغوية محلية خفيفة الوزن

في هذا المستوى، توفر ذاكرة 32 جيجابايت مساحة أكبر لقواعد البيانات والفهارس وحاويات التطبيقات والتخزين المؤقت وخدمات الملفات والتوليد المحلي.

الاختلافات في الأجهزة بين الذكاء الاصطناعي المحلي للصور والمهام الخاصة بالمستندات مهمة لأن الفهرسة البصرية واسترجاع المستندات الخاصة تخلق متطلبات مختلفة للمعالج والذاكرة والتخزين والتسريع.

المستوى 3: استدلال ثقيل وذكاء اصطناعي متعدد المستخدمين

هذا المستوى أقرب إلى خادم ذكاء اصطناعي محلي مخصص منه إلى NAS منخفض الطاقة التقليدي.

تشمل الأحمال النموذجية:

• نماذج لغوية محلية أكبر
• تحليل مستندات طويلة السياق
• عدة مستخدمين في نفس الوقت
• كشف متعدد الكاميرات في الوقت الحقيقي
• نماذج متعددة الوسائط
• توليد الصور
• عدة نماذج محملة في نفس الوقت

يجب على المستخدمين التخطيط لـ:

• ذاكرة نظام أكبر
• ذاكرة VRAM كافية أو ذاكرة موحدة
• تبريد قوي
• استهلاك طاقة أعلى
• تخزين NVMe سريع
• مزيد من الفصل بين حوسبة الذكاء الاصطناعي وخدمات NAS الأساسية

يمكن أن يساعد مقارنة خادم مستخدم، كمبيوتر صغير، و NAS لأحمال عمل الذكاء الاصطناعي المحلية في تحديد ما إذا كان الحاوية التي تركز على التخزين تظل المنصة الحاسوبية المناسبة.

كم من الذاكرة يحتاج NAS الذكي؟

غالبًا ما تكون الذاكرة هي الحد الأول الذي يواجهه المستخدمون لأن أحمال عمل NAS الذكي تستهلك عدة مجموعات مختلفة من الذاكرة.

الصيغة التخطيطية الأكثر فائدة هي:

متطلب الذاكرة العملي = أوزان النموذج + حمل وقت التشغيل + ذاكرة السياق المؤقتة + الطلبات المتوازية + قواعد البيانات والفهارس + مساحة إضافية لـ NAS والحاويات

ذاكرة النظام، VRAM، والذاكرة الموحدة مختلفة

تتطلب ذاكرة النظام حتى عندما يتم الاستدلال على GPU. يستمر نظام تشغيل NAS، وخدمات الملفات، وقواعد البيانات، والحاويات، والفهارس، والتطبيقات الخلفية في استخدام ذاكرة النظام.

تحدد VRAM مقدار النموذج الذي يمكن أن يبقى على GPU وكم المساحة المتاحة للسياق والطلبات المتوازية.

يمكن للذاكرة الموحدة تقليل التقسيم الصارم بين ذاكرة النظام و VRAM، لكنها تظل محدودة بالسعة الإجمالية، وعرض النطاق الترددي، ودعم البرامج، والسلوك الحراري.

لماذا حجم النموذج هو نقطة البداية فقط

قد يتطلب ملف النموذج الذي يبدو أنه يناسب الذاكرة المتاحة مساحة إضافية لـ:

• مكتبات وقت التشغيل
• المخازن المؤقتة المؤقتة
• السياق وذاكرة KV المؤقتة
• معالجة المطالبات
• الطلبات المتوازية
• نماذج أخرى محملة
• نظام التشغيل والتطبيقات

يمكن لـ Ollama الإبلاغ عما إذا كان النموذج محملاً بالكامل على GPU، أو بالكامل في ذاكرة النظام، أو مقسماً بين CPU و GPU. كما تشرح الوثائق أن النماذج المتعددة يمكن أن تبقى محملة فقط عندما تتوفر ذاكرة كافية. سلوك تحميل النماذج والذاكرة في Ollama يوفر التفاصيل ذات الصلة بوقت التشغيل.

طول السياق، ذاكرة KV المؤقتة، والتزامن

نوافذ السياق الأطول تزيد من متطلبات الذاكرة لأن وقت التشغيل يجب أن يحتفظ بحالة الانتباه لفترة أطول.

زيادة المستخدمين المتوازيين تزيد من المتطلبات مرة أخرى. قد يخصص الخادم الذي يتعامل مع عدة طلبات متزامنة ذاكرة سياق أكبر بكثير من نظام المستخدم الواحد.

عند التخطيط لأجهزة LLM المحلية، اختبر:

• الطول الفعلي للسياق المطلوب
• عدد المستخدمين المتزامنين
• عدد النماذج المحملة والمحتفظ بها
• ما إذا كانت استدلالات GPU تتطلب الإقامة الكاملة في ذاكرة VRAM
• ما إذا كان دعم تقليل دقة ذاكرة KV متاحًا

ما يمكن أن تدعمه 16 جيجابايت، 32 جيجابايت، و64 جيجابايت+ بشكل واقعي

هذه النطاقات ليست ضمانات. قد يستخدم تطبيق محسن جيدًا أقل، بينما قد تتطلب مكتبة كبيرة، أو سياق طويل، أو عدة خدمات، أو عدة مستخدمين المزيد.

التكميم وتفريغ المعالج المركزي ومعالج الرسوميات

التكميم يقلل من متطلبات ذاكرة النموذج عن طريق تخزين الأوزان بدقة أقل. قد يشمل المقابل تقليل الدقة أو تغييرات في الأداء، اعتمادًا على النموذج وصيغة التكميم.

llama.cpp استدلال هجين بين المعالج المركزي ومعالج الرسوميات يمكنه تسريع النماذج التي تتجاوز سعة VRAM الكلية جزئيًا عن طريق تقسيم العمل بين المعالج المركزي ومعالج الرسوميات.

هذا يوسع التوافق لكنه لا يجب أن يُعامل على أنه مكافئ لتحميل النموذج الكامل في ذاكرة GPU السريعة. قد يقلل التفريغ من السرعة لأن البيانات يجب أن تنتقل عبر حدود الذاكرة والحافلة.

ما نوع المعالج المركزي الذي يحتاجه NAS الذكي؟

مسؤوليات المعالج المركزي خارج استدلال الذكاء الاصطناعي

ينسق المعالج المركزي النظام بأكمله حتى عندما يؤدي معالج الرسوميات GPU، أو معالج الشبكة العصبية NPU، أو المعالج الرسومي المدمج iGPU، أو معالج التعلم TPU جزءًا من عبء عمل الاستدلال.

قد يتولى المعالج المركزي:

• خدمات ملفات NAS
• التشفير
• تنسيق الحاويات
• عمليات قواعد البيانات
• تحليل المستندات
• المعالجة المسبقة للصور
• فك ترميز الوسائط
• استخراج البيانات الوصفية
• حركة مرور الشبكة
• تغذية البيانات إلى المسرعات

قد يظل المسرع القوي غير مستغل إذا لم يتمكن المعالج المركزي من تحضير أو فك ترميز أو تسليم البيانات بسرعة كافية.

أحمال عمل NAS وحاويات مختلطة

غالبًا ما تشغل أنظمة NAS الذكية عدة خدمات في نفس الوقت:

• مشاركة الملفات SMB أو NFS
• مهام النسخ الاحتياطي
• خوادم الوسائط
• تطبيقات الصور
• قواعد بيانات المستندات
• البحث الاتجاهي
• أوقات تشغيل النماذج

توفر النوى والخيوط المتعددة مساحة أكبر للجدولة لهذه الأحمال المختلطة. ومع ذلك، فإن عدد النوى وحده غير كافٍ. فالهندسة، ودعم التعليمات، وسلوك الساعة، ومحركات الفيديو، وحدود الطاقة، وتوافق البرامج كلها عوامل مهمة أيضًا.

قبل اختيار الأجهزة، قم بمزامنة نظام التشغيل مع المزيج المقصود من التخزين والتطبيقات. تشرح متطلبات نظام تشغيل الخادم المنزلي لتطبيقات NAS و Docker سبب اختلاف أولويات الأجهزة في أنظمة التخزين أولاً، التطبيقات أولاً، والافتراضية أولاً.

متى تكون AI بوحدة المعالجة المركزية فقط عملية

يمكن أن تكون المعالجة بوحدة المعالجة المركزية فقط عملية عندما:

• تشغيل عبء العمل في الخلفية.
• مكتبة الملفات متواضعة.
• النموذج صغير أو مكثف بشدة.
• عدم أهمية زمن الاستجابة.
• تشغيل مستخدم واحد لطلبات متقطعة فقط.

تصبح إعدادات وحدة المعالجة المركزية فقط أقل جاذبية عندما يتوقع المستخدمون:

• استجابات سريعة لتفاعلات LLM
• عدة مستخدمين في نفس الوقت
• تحليل فيديو في الوقت الحقيقي
• نماذج متعددة الوسائط كبيرة
• توليد تضمينات عالية الحجم

هل يحتاج NAS الذكي إلى NPU، TPU، iGPU، أم GPU؟

لا يحتاج NAS الذكي تلقائيًا إلى بطاقة رسومات منفصلة. يحتاج إلى معجل فقط عندما يحسن ذلك التطبيق المستهدف.

فك ترميز الفيديو بالأجهزة وكشف AI مختلفان

توضح أحمال عمل الكاميرا لماذا لا يمكن لمواصفة معجل واحدة أن تصف النظام الكامل.

قد تشمل سلسلة معالجة AI للكاميرا:

1. استقبال تدفق الشبكة
2. فك ترميز الفيديو
3. تشغيل كشف الحركة
4. تحضير الإطارات
5. تشغيل كشف الأجسام
6. كتابة التسجيلات وبيانات الحدث الوصفية

قد يتم تشغيل فك ترميز الفيديو على iGPU أو محرك وسائط، بينما يتم تشغيل كشف الأجسام على كاشف آخر.

توثق مصفوفة دعم أجهزة وكاشف Frigate مسارات تسريع متعددة وتشرح أن الكاشف المدعوم يمكن أن يقلل من زمن الكشف وحمل وحدة المعالجة المركزية.

لماذا دعم البرمجيات أهم من TOPS

TOPS هو مقياس حسابي نظري. لا يثبت أن تطبيقات المستخدم يمكنها استخدام الأجهزة.

قبل شراء معجل، تحقق من:

• دعم نظام التشغيل
• توفر التعريفات
• تمرير الحاويات
• التوافق في وقت التشغيل
• نماذج الدعم المدعومة
• التكامل على مستوى التطبيق
• الأداء الموثق للعمل الفعلي

الخيار الأفضل للأجهزة غالبًا هو المعجل الذي يحظى بدعم تطبيقي ناضج، وليس الذي يحمل أكبر رقم معلن.

كيف يجب أن يقسم NAS الذكي التخزين بين HDD و NVMe؟

أقراص HDD لبيانات المصدر والسعة

تظل أقراص HDD مناسبة لـ:

• مكتبات الصور والفيديو
• أرشيفات المستندات
• تسجيلات كاميرات الأمان
• النسخ الاحتياطية
• مجموعات البيانات الكبيرة
• الملفات المصدر طويلة الأمد

توفر تكلفة أقل لكل تيرابايت وتسمح لـ NAS الذكاء الاصطناعي بالحفاظ على أرشيفات خاصة كبيرة دون الحاجة إلى تجمع تخزين فلاش كامل.

NVMe للتطبيقات، النماذج، قواعد البيانات، والفهارس

عادةً ما تستفيد بيانات تطبيقات الذكاء الاصطناعي النشطة من انخفاض الكمون.

تخزين NVMe مفيد لـ:

• أحجام الحاويات
• قواعد بيانات التطبيقات
• نماذج الذكاء الاصطناعي
• الصور المصغرة
• مخرجات التعرف الضوئي على الحروف
• قواعد بيانات التضمين
• فهارس المتجهات
• ملفات المعالجة المؤقتة
• ذاكرة التخزين المؤقت

تشغيل جميع الخدمات النشطة مباشرة من مجموعة أقراص ميكانيكية يمكن أن يجعل النظام يبدو بطيئاً حتى مع توفر موارد وحدة المعالجة المركزية ووحدة معالجة الرسوميات.

زيادة التخزين من تطبيقات الذكاء الاصطناعي

تطبيقات الذكاء الاصطناعي تولد بيانات أكثر من مكتبة الملفات الأصلية فقط.

خطط السعة لـ:

• صور المعاينة
• الصور المصغرة
• بيانات الوجه
• نص التعرف الضوئي على الحروف
• النصوص المنسوخة
• الفهارس
• التضمينات
• ملفات النماذج
• سجلات التطبيقات

حدد البيانات المشتقة التي يجب نسخها احتياطياً وتلك التي يمكن إعادة إنشائها من الملفات المصدر المحمية.

ما مدى سرعة الشبكة المطلوبة؟

سرعة الشبكة لا تسرع النموذج الذي يعمل داخل NAS مباشرة. بل تؤثر على سرعة انتقال الملفات المصدر، مجموعات البيانات، النماذج، والنتائج بين التخزين، المستخدمين، والحوسبة الخارجية.

متى يكون 1GbE كافياً

قد يظل 1GbE كافياً عندما:

• يتم تشغيل معالجة الذكاء الاصطناعي مباشرة على NAS.
• تعمل معظم الوظائف في الخلفية.
• يصل النظام مستخدم واحد أو اثنان فقط.
• الملفات المصدر الكبيرة لا تتحرك بشكل متكرر.

متى يكون 2.5GbE ترقية مفيدة

يوفر 2.5GbE مساحة أكبر لـ:

• استيراد صور كبيرة
• نسخ احتياطية محلية أسرع
• عدة مستخدمين نشطين
• ملفات وسائط كبيرة
• نقل ملفات النماذج

هي طبقة وسطى مفيدة، لكنها لا يجب أن تُعتبر الحد الأدنى الشامل لكل NAS للذكاء الاصطناعي.

متى تكون 10GbE مهمة للحوسبة الخارجية للذكاء الاصطناعي

تصبح 10GbE أكثر أهمية عندما يزود NAS البيانات لجهاز آخر بشكل متكرر.

تشمل الأمثلة:

• خادم GPU يقرأ مستندات RAG الخاصة
• محطة عمل تعالج فيديو مخزن على NAS
• عدة مستخدمين يقومون بتحرير ملفات وسائط كبيرة
• نسخ احتياطية عالية السرعة إلى خادم محلي آخر
• مجموعات بيانات مشتركة مدعومة بـ NVMe

متطلبات الأجهزة حسب عبء عمل الذكاء الاصطناعي

OCR وفهرسة المستندات

عادةً ما تكون سير عمل المستندات موجهة للدفعات. المتطلبات الأكثر أهمية غالبًا هي:

• وحدة معالجة مركزية قوية
• ذاكرة كافية لعدة حاويات وقواعد بيانات
• تخزين نشط سريع
• تخزين موثوق لملفات المصدر

توضح سير عمل استلام المستندات وOCR في Paperless-ngx كيف يشمل معالجة المستندات الاستهلاك، OCR، البيانات الوصفية، الفهرسة، والحفاظ على الملف الأصلي.

التعرف على الصور

يُنتج الذكاء الاصطناعي للصور معالجة أولية مكثفة لكنه قد لا يتطلب استجابات في الوقت الحقيقي. تتولى وحدة المعالجة المركزية والذاكرة العشوائية تشغيل خدمات التطبيق، بينما يمكن للتسريع الاختياري تحسين مهام تضمين الوجوه، الأجسام، أو الصور.

تُظهر ميزات البحث الذكي والفهرسة الإعلامية في Immich كيف يمكن أن يصبح البحث السياقي، النصوص OCR، الأشخاص المعترف بهم، البيانات الوصفية، الموقع، التاريخ، ومعلومات الكاميرا جزءًا من نظام بحث واحد.

النظام المحلي RAG والبحث الدلالي

النظام المحلي RAG هو سلسلة عمليات، وليس نموذجًا واحدًا. قد تكون هناك حاجة إلى أجهزة لـ:

• استخراج المستندات
• التقسيم إلى أجزاء
• توليد التضمين
• تخزين المتجهات
• الاسترجاع
• إعادة الترتيب
• توليد الإجابات محليًا

يمكن أن تعمل عملية التضمين والفهرسة في الخلفية، بينما يكون توليد الإجابات تفاعليًا. لذلك يمكن للمستخدمين تشغيل الاسترجاع محليًا ونقل مرحلة التوليد الأثقل إلى جهاز آخر عند الضرورة.

كشف كاميرات الأمان

ذكاء الكاميرا هو أحد أكثر أحمال العمل التي تعمل دائمًا تطلبًا لأنه يجمع بين:

• عدة تدفقات شبكة مستمرة
• فك ترميز الفيديو
• تحليل الحركة
• كشف الأجسام
• بيانات وصف الحدث
• كتابات التخزين المستمرة

عدد الكاميرات، الدقة، معدل الإطارات، تكوين التدفق الفرعي، نوع النموذج، وفترة الاحتفاظ قد تكون أكثر أهمية من مواصفات وحدة معالجة الرسوميات العامة.

النماذج اللغوية المحلية والاستدلال متعدد المستخدمين

تقتصر أحمال العمل التفاعلية للنماذج اللغوية المحلية بشكل أساسي على:

• ذاكرة النموذج
• طول السياق
• عرض نطاق الذاكرة
• الطلبات المتوازية
• سعة وحدة معالجة الرسوميات أو الذاكرة الموحدة

يمكن لنموذج صغير لمستخدم واحد أن يعمل على جهاز متوسط المواصفات. أما النموذج الأكبر الذي يخدم عدة مستخدمين فقد يتطلب وحدة معالجة أقوى بكثير.

هل يجب تشغيل الذكاء الاصطناعي على جهاز التخزين الشبكي (NAS) أم على خادم ذكاء اصطناعي منفصل؟

تشغيل مهام الخلفية المجاورة للتخزين على جهاز التخزين الشبكي (NAS)

المهام التي تنتمي طبيعيًا بالقرب من البيانات المخزنة تشمل:

• فهرسة الصور بعد النسخ الاحتياطي
• OCR للملفات الممسوحة ضوئيًا الجديدة
• استخراج البيانات الوصفية
• تحديثات تضمين المستندات
• توليد الصور المصغرة
• التصنيف الخفيف

تستفيد هذه الأعباء من الوصول المباشر إلى الملفات وغالبًا ما يمكن تشغيلها في الخلفية دون أجهزة من فئة محطة العمل.

فصل أعباء العمل الثقيلة، الساخنة، أو التي يتم تحديثها بشكل متكرر

خادم AI منفصل أكثر جاذبية لـ:

• نماذج LLM المحلية الأكبر
• توليد الصور
• عدة تدفقات كاميرا
• الاستدلال متعدد المستخدمين
• النماذج والسائقين المتغيرين بشكل متكرر
• الأجهزة التي تنتج حرارة وضوضاء كبيرة

يتم تغطية قرار وضع عبء العمل بمزيد من التفصيل في متطلبات GPU وخادم AI الخارجي لأعباء عمل NAS .

حافظ على موثوقية التخزين عند فشل خدمات AI

يمكن للتصميم المنفصل منع تحديث بيئة تشغيل نموذج تجريبي أو سائق GPU من التأثير على التخزين الأساسي.

يمكن لـ NAS أن يظل مسؤولاً عن:

• الملفات الأصلية
• أذونات المستخدم
• اللقطات
• النسخ الاحتياطية
• نسخ قاعدة بيانات التطبيق

يمكن لخادم AI أن يظل مسؤولاً عن:

• استدلال النموذج
• سائقي GPU
• مهام التضمين
• الحاويات التجريبية
• كشف الكاميرا الثقيل

ما لا تخبرك به مواصفات الأجهزة

دعم المسرع يعتمد على البرنامج

لا يمكن لورقة المواصفات تأكيد ما إذا كان التطبيق يدعم:

• السائق المختار
• نظام التشغيل
• بيئة تشغيل الحاوية
• تنسيق النموذج
• واجهة برمجة التطبيقات للمسرع
• جيل الأجهزة الدقيق

تحقق من وثائق التوافق الحالية للتطبيق قبل افتراض استخدام GPU أو NPU أو TPU.

TOPS لا يقيس سير العمل الكامل

TOPS لا يصف:

• الذاكرة المتاحة
• عرض نطاق الذاكرة
• توافق النموذج
• أداء قاعدة البيانات
• فك ترميز الفيديو
• زمن استجابة التخزين
• معدل نقل الشبكة
• جودة التطبيق

قد يتفوق نظام متوازن مع برنامج مدعوم على جهاز أعلى في TOPS لا يمكنه تشغيل عبء العمل المطلوب بكفاءة.

قد يكون خادم AI قوي لا يزال NAS ضعيفًا

قد يوفر جهاز كمبيوتر ألعاب أو محطة عمل أداء استدلال ممتازًا لكنه قد يفتقر إلى:

• تشغيل دائم فعال
• توسيع محركات الأقراص بسهولة
• إدارة تجمع التخزين
• تبريد هادئ
• تكامل النسخ الاحتياطي
• أذونات الملفات المتوقعة

على العكس، قد يكون NAS منخفض الطاقة ممتازًا للتخزين وغير مناسب للذكاء الاصطناعي المحلي الثقيل.

استخدم قائمة التحقق من عنق الزجاجة في الحوسبة، الذاكرة، التخزين، والشبكة لتحديد أي جزء من النظام يحد من سير العمل الفعلي.

قائمة التحقق لشراء أجهزة AI NAS

1. حدد عبء العمل الدقيق.

   حدد ما إذا كان النظام سيشغل OCR، فهرسة الصور، كشف الكاميرا، RAG، روبوت دردشة، توليد الصور، أو مهمة أخرى.

2. قرر ما إذا كانت المعالجة في الخلفية أو في الوقت الحقيقي.

   يمكن للمهام الخلفية تحمل عتاد أبطأ. تتطلب الخدمات في الوقت الحقيقي أداءً مستدامًا أكبر.

3. قدّر حجم مكتبة البيانات.

   اشمل الملفات الأصلية، الصور المصغرة، مخرجات OCR، قواعد البيانات، الفهارس، النماذج، والنمو المستقبلي.

4. قدّر ذاكرة النموذج والسياق.

   اشمل الحمل الزائد لوقت التشغيل، كاش KV، المستخدمين المتوازيين، وتطبيقات أخرى.

5. تحقق من دعم البرامج للمسرع.

   تحقق من برامج التشغيل، تمرير الحاويات، دعم وقت التشغيل، وصيغ النماذج.

6. فصل سعة HDD عن تخزين NVMe النشط.

   احمِ بيانات المصدر على طبقة السعة وضع قواعد البيانات النشطة والنماذج على تخزين سريع.

7. اختر الشبكات حسب التصميم.

   قد تكون 1GbE كافية للمعالجة المحلية؛ تصبح 10GbE أكثر أهمية عندما يتم فصل حوسبة AI.

8. احمِ موثوقية NAS.

   تأكد من أن الفهرسة والاستدلال لن تعطل النسخ الاحتياطية، التسجيلات، الوصول إلى الملفات، أو صحة التخزين.

9. خطط للطاقة، التبريد، والضوضاء.

   قيم كفاءة الخمول وحمل AI المستمر.

10. قرر ما إذا كانت عقدة الحوسبة الخارجية أسهل في الترقية.

    لا تجبر الاستدلال الثقيل على NAS عندما يكون التصميم المنفصل أكثر عملية.

الخلاصة

لا يمكن تقليل متطلبات عتاد AI NAS إلى حد أدنى واحد لوحدة المعالجة المركزية، رقم واحد لذاكرة الوصول العشوائي، أو توصية واحدة لوحدة معالجة الرسومات.

النظام الصحيح يعتمد على الحمل:

• يمكن تشغيل التعرف الضوئي على الحروف والفهرسة الخفيفة على وحدة معالجة مركزية قادرة مع 16 جيجابايت من ذاكرة الوصول العشوائي وتخزين تطبيقات سريع.
• التعرف على الصور، RAG للمستندات، والعديد من الحاويات تستفيد من المزيد من ذاكرة الوصول العشوائي وطبقة عمل NVMe.
• قد تتطلب نماذج اللغة الكبيرة المحلية، الذكاء الاصطناعي متعدد الكاميرات، السياق الطويل، والمستخدمين المتعددين وحدة معالجة رسومات منفصلة، ذاكرة أكبر، تبريد أقوى، وحوسبة منفصلة.

ذاكرة النظام، VRAM، والذاكرة الموحدة تحل مشكلات مختلفة. أوزان النماذج هي جزء واحد فقط من طلب الذاكرة؛ السياق، التزامن، قواعد البيانات، الفهارس، وخدمات NAS تتطلب أيضًا سعة.

تظل الأقراص الصلبة HDD مفيدة للبيانات المصدر المحمية، بينما NVMe أفضل للتطبيقات النشطة، النماذج، الكاشات، والفهارس. يجب أن تتناسب سرعة الشبكة مع كمية البيانات التي تتحرك بين NAS وأي خادم AI خارجي.

أفضل AI NAS ليس النظام الذي يحتوي على أكبر وحدة معالجة رسومات أو أعلى تصنيف TOPS. بل هو النظام الذي يشغل الحمل المقصود بشكل موثوق دون التأثير على التخزين، النسخ الاحتياطية، كفاءة الطاقة، أو سهولة الصيانة.

الأسئلة الشائعة

ما هو التكوين العملي المبدئي لـ AI NAS؟

وحدة معالجة مركزية متعددة النوى حديثة، 16 جيجابايت من ذاكرة الوصول العشوائي، تخزين HDD لملفات المصدر، طبقة SSD أو NVMe للتطبيقات والفهارس، وشبكة 1GbE أو 2.5GbE يمكن أن تكون نقطة انطلاق عملية للأحمال الخلفية الخفيفة.

هذا ليس الحد الأدنى الشامل. قد تتطلب التطبيقات الأثقل المزيد من ذاكرة الوصول العشوائي، التسريع، أداء التخزين، أو الحوسبة المنفصلة.

هل يمكنني تشغيل الذكاء الاصطناعي على NAS بدون وحدة معالجة رسومات مخصصة؟

نعم. يمكن تشغيل التعرف الضوئي على الحروف (OCR)، فهرسة المستندات، استخراج البيانات الوصفية، التضمينات الصغيرة، ومعالجة الصور الخلفية على عتاد وحدة المعالجة المركزية.

تصبح وحدة معالجة الرسومات أكثر فائدة لـ LLM المحلية، والنماذج متعددة الوسائط، وتوليد الصور، والاستدلال عالي الحجم، والعديد من المستخدمين المتزامنين.

هل 16 جيجابايت من الذاكرة العشوائية كافية لـ NAS الذكاء الاصطناعي؟

يمكن أن تكون 16 جيجابايت كافية لعدد قليل من الحاويات، والتعرف الضوئي على الحروف الخفيف، واستخراج البيانات الوصفية، والفهرسة الخلفية.

قد يصبح مقيدًا عندما يشغل النظام أيضًا مكتبات صور كبيرة، وRAG للوثائق، وقواعد بيانات المتجهات، والافتراضية، والنماذج المحلية، أو عدة خدمات متزامنة.

متى يجب أن أختار 32 جيجابايت من الذاكرة العشوائية؟

يُعد 32 جيجابايت هدفًا أقوى عند تشغيل عدة تطبيقات واعية بالذكاء الاصطناعي، وفهارس أكبر، وRAG خاص، والتعرف على الصور، وقواعد البيانات، والتوليد المحلي الخفيف على نفس النظام.

متى يكون 64 جيجابايت أو أكثر من الذاكرة العشوائية منطقيًا؟

تصبح 64 جيجابايت أو أكثر مهمة للفهارس الأكبر، والافتراضية، والعديد من المستخدمين، وسير العمل طويل السياق، والاستدلال باستخدام وحدة المعالجة المركزية أو الذاكرة الموحدة، والعديد من خدمات الذكاء الاصطناعي.

كم تحتاج LLM محلية من VRAM؟

تعتمد متطلبات VRAM على بنية النموذج، والتكميم، وطول السياق، وذاكرة التخزين المؤقت KV، وحجم التشغيل الزائد، والتزامن.

استخدم بيئة التشغيل المستهدفة لتقدير إجمالي الذاكرة بدلاً من الاعتماد فقط على عدد المعلمات أو حجم تنزيل النموذج.

هل وحدة NPU كافية لـ LLM المحلية؟

عادةً لا للأحمال الثقيلة العامة المحلية لـ LLM. غالبًا ما تكون وحدات NPU أكثر ملاءمة للاستدلال المدعوم الفعال، والرؤية، والتصنيف، أو المهام الخلفية.

تحدد توافقية البرامج ما إذا كانت وحدة معالجة الشبكة العصبية (NPU) توفر قيمة عملية.

هل يجب تشغيل تطبيقات NAS للذكاء الاصطناعي من HDD أم NVMe؟

يمكن أن تبقى الوسائط الأصلية، والوثائق، والتسجيلات، والنسخ الاحتياطية على تخزين HDD. عادةً ما يكون من الأفضل وضع النماذج، والحاويات، وقواعد البيانات، والصور المصغرة، والتخزين المؤقت، والتضمينات، والفهارس على تخزين SSD أو NVMe.

هل يحتاج NAS للذكاء الاصطناعي إلى 10GbE؟

لا. قد يكون 1GbE كافيًا عندما يعمل الذكاء الاصطناعي مباشرة على الـ NAS ولا تتحرك الملفات الكبيرة بشكل متكرر.

يصبح 10GbE أكثر فائدة للخوادم الخارجية للذكاء الاصطناعي، والبيانات المشتركة المدعومة بـ NVMe، وسير العمل الإعلامي الكبير، والعديد من المستخدمين النشطين.

هل يجعل الشبك الأسرع استدلال LLM المحلي أسرع؟

ليس عندما يكون النموذج والبيانات موجودين بالفعل على نفس الجهاز. يؤثر الشبك بشكل رئيسي على حركة البيانات بين الـ NAS والمستخدمين ومحطات العمل وعقد الحوسبة الخارجية.

هل يجب تشغيل الاستدلال الثقيل للذكاء الاصطناعي خارج الـ NAS؟

غالبًا، نعم. قد يكون من الأسهل ترقية وتبريد النماذج الأكبر، وتوليد الصور، والاستدلال متعدد المستخدمين، والذكاء الاصطناعي المستمر للكاميرات على خادم منفصل.

يمكن أن يظل الـ NAS مسؤولًا عن التخزين الموثوق، والأذونات، واللقطات، والنسخ الاحتياطية.

ما هو أكبر خطأ في أجهزة NAS للذكاء الاصطناعي؟

الخطأ الأكثر شيوعًا هو شراء مكون واحد مثير للإعجاب دون التحقق من بقية سلسلة المعالجة.

لا يمكن لوحدة معالجة الرسومات القوية تعويض نقص الذاكرة العشوائية، أو التخزين النشط البطيء، أو البرامج غير المدعومة، أو التبريد الضعيف، أو تصميم التخزين غير الموثوق.

المراجع

• الأسئلة الشائعة - Ollama
• ggml-org/llama.cpp - استدلال LLM بلغة C/C++
• الأجهزة الموصى بها - Frigate
• الاستخدام الأساسي - Paperless-ngx
• جارٍ البحث - Immich