ما هي الأجهزة التي يحتاجها NAS الذكي؟

إيفا وونغ

IceWhale author

إيفا وونغ هي كاتبة تقنية و ومهندسة هاوية في ZimaSpace. مهووسة بالتكنولوجيا مدى الحياة ولديها شغف بالمختبرات المنزلية والبرمجيات مفتوحة المصدر، تتخصص في تبسيط المفاهيم التقنية المعقدة إلى أدلة عملية وسهلة الفهم. تؤمن إيفا بأن الاستضافة الذاتية يجب أن تكون ممتعة وليست مخيفة. من خلال دروسها، تمكّن المجتمع من تبسيط إعدادات الأجهزة، بدءًا من بناء أول نظام تخزين شبكي NAS وحتى إتقان حاويات Docker.

إجابة سريعة

يحتاج جهاز NAS الخاص بالذكاء الاصطناعي إلى أكثر من أجهزة تخزين الملفات العادية لأنه يجب عليه تخزين البيانات ومعالجتها محليًا. على الأقل، يشمل مكدس الأجهزة عادةً معالجًا قويًا، ذاكرة نظام كافية، تخزين NVMe سريع للأحمال النشطة، تخزين HDD موثوق للبيانات الكبيرة، وشبكة سريعة بما يكفي لنقل الملفات الكبيرة دون أن يصبح جهاز NAS عنق زجاجة.

ما إذا كان جهاز NAS الخاص بالذكاء الاصطناعي يحتاج إلى NPU أو TPU أو GPU يعتمد على عبء العمل. قد تعمل مهام مثل وسم الصور في الخلفية، التعرف الضوئي على الحروف، والفهرسة الخفيفة للوسائط على المعالج، وحدة معالجة الرسومات المدمجة، NPU، أو تسريع TPU. عادةً ما تحتاج نماذج اللغة الكبيرة المحلية، توليد الصور، تحليلات الفيديو في الوقت الحقيقي، والاستدلال متعدد المستخدمين إلى تسريع أقوى وذاكرة أكبر.

طريقة عملية للتفكير في السؤال هي: يجب أن تتناسب أجهزة NAS الخاصة بالذكاء الاصطناعي مع ما صُمم جهاز NAS الخاص بالذكاء الاصطناعي للقيام به مع بياناتك، وليس مجرد السعي وراء أكبر وحدة معالجة رسومات، أعلى رقم TOPS، أو أسرع منفذ شبكة بشكل منفصل. أفضل إعداد هو التوازن بين التخزين، الحوسبة، التسريع، الذاكرة، الشبكات، والطاقة.

ما هي الأجهزة التي يحتاجها NAS الذكي؟

عادةً ما يحتاج جهاز NAS الخاص بالذكاء الاصطناعي إلى ستة مجالات للأجهزة تعمل معًا: التخزين، المعالج، تسريع الذكاء الاصطناعي، الذاكرة، الشبكات، وتصميم الطاقة/التبريد. يمكن لجهاز NAS القياسي أن يعمل جيدًا بمعالج منخفض الطاقة وذاكرة متواضعة لأن وظيفته الرئيسية هي مشاركة الملفات، النسخ الاحتياطي، وتقديم الوسائط. يضيف جهاز NAS الخاص بالذكاء الاصطناعي الفهرسة المحلية، التعرف، الاسترجاع، الاستدلال، والأتمتة، لذا تصبح متطلبات الأجهزة أكثر اعتمادًا على عبء العمل.

بالنسبة لمعظم الإعدادات التي تعتمد على التخزين بشكل كبير، القاعدة الواقعية هي معالج متعدد النوى حديث، ذاكرة وصول عشوائي 16 جيجابايت أو أكثر، أقراص HDD للتخزين الكبير، أقراص NVMe SSD للنماذج النشطة وقواعد البيانات، وشبكة بسرعة 2.5 جيجابت على الأقل. قد تحتاج الأحمال الأكثر تطلبًا إلى ذاكرة 32 جيجابايت إلى 64 جيجابايت أو أكثر، شبكة 10 جيجابت، وحدة معالجة رسومات منفصلة، أو خادم ذكاء اصطناعي منفصل متصل بـ NAS.

النقطة المهمة هي التوازن. لن يساعد وجود وحدة معالجة رسومات قوية كثيرًا إذا كان جهاز NAS يحتوي على ذاكرة وصول عشوائي قليلة جدًا، تخزين بطيء، تبريد ضعيف، دعم برمجي ضعيف، أو اتصال شبكة لا يمكنه نقل مجموعات بيانات كبيرة بكفاءة.

لماذا يختلف جهاز NAS الخاص بالذكاء الاصطناعي عن جهاز NAS القياسي

تم تصميم أجهزة NAS التقليدية حول الاعتمادية، انخفاض استهلاك الطاقة، والوصول المتوقع إلى الملفات. يجب على أجهزة NAS الخاصة بالذكاء الاصطناعي الحفاظ على هذه النقاط القوية مع إضافة قدرة حوسبة محلية كافية لتحليل الملفات المخزنة.

هنا يمكن أن تصبح الفئة مربكة. قد يكون الجهاز ممتازًا كـ NAS لكنه ضعيف في الذكاء الاصطناعي، أو قوي كجهاز ذكاء اصطناعي لكنه غير فعال كجهاز تخزين يعمل دائمًا.

جهاز NAS القياسي مُحسّن للتخزين وتقديم الملفات

عادةً ما يتم بناء جهاز NAS قياسي لتخزين الملفات، مشاركة المجلدات، تشغيل النسخ الاحتياطية، إدارة RAID، بث الوسائط، وتقديم البيانات عبر بروتوكولات مثل SMB أو NFS أو ما شابه. تستفيد هذه المهام من الاعتمادية، فتحات الأقراص، استقرار الشبكة، الأذونات، وانخفاض استهلاك الطاقة في وضع الخمول.

لهذا السبب تستخدم العديد من وحدات NAS التقليدية معالجات فعالة وذاكرة متواضعة. لخدمة الملفات والنسخ الاحتياطي، غالبًا ما يكون هذا كافيًا. تظهر المشكلة عندما يتوقع المستخدمون أن تشغل نفس الأجهزة البحث الدلالي، التعرف على الوجه، اكتشاف الأجسام، النسخ، أو نماذج اللغة الكبيرة المحلية.

يحتاج AI NAS أيضًا إلى حوسبة محلية للفهرسة، البحث، والاستدلال

يضيف AI NAS مهامًا كثيفة الحوسبة فوق التخزين. قد يحتاج إلى مسح الصور، توليد التضمينات، اكتشاف الأجسام في لقطات الكاميرا، نسخ الفيديو، فهرسة المستندات، أو تشغيل نموذج محلي على ملفات خاصة.

تستخدم تلك المهام ملف تعريف موارد مختلف عن مشاركة الملفات البسيطة. فهي تتطلب جدولة المعالج، ذاكرة للنماذج والفهارس، تخزين سريع لقواعد البيانات النشطة، وأحيانًا تسريع الأجهزة لاستدلال الشبكات العصبية.

الأجهزة الضعيفة يمكن أن تجعل AI NAS يبدو كعلامة تسويقية فقط

إذا لم تستطع الأجهزة تشغيل مهام الذكاء الاصطناعي المعلنة بسلاسة، قد يبدو مصطلح "AI NAS" كعلامة تجارية أكثر منه فئة حقيقية. يمكن أن تجعل وحدة المعالجة المركزية الضعيفة، الذاكرة المنخفضة، عدم وجود تسريع قابل للاستخدام، أو دعم البرامج الضعيف ميزات الذكاء الاصطناعي بطيئة، محدودة، أو تعتمد على خدمات السحابة.

لا يحتاج AI NAS المفيد إلى أن يكون خادم GPU ضخم. لكنه يحتاج إلى ما يكفي من الأجهزة المحلية لدعم مهام الذكاء الاصطناعي المحددة التي يدعي التعامل معها.

مخطط لمكدس الأجهزة المناسب للحمل لـ AI NAS، يظهر التخزين، تنسيق النظام، تسريع الذكاء الاصطناعي، الذاكرة، حركة البيانات، وطبقات الطاقة.

كيفية التفكير في مكدس أجهزة AI NAS

الإطار الأكثر فائدة لأجهزة AI NAS هو مكدس الأجهزة المناسب للحمل. يشرح أجهزة AI NAS كنظام متوازن حيث تدعم كل طبقة جزءًا محددًا من سير عمل الذكاء الاصطناعي المحلي.

وحدة مكدس الأجهزة	ما الذي يتضمنه	ما الذي يساعدك على اتخاذ القرار
مدرج التخزين	الأقراص الصلبة، أقراص NVMe SSD، النماذج، التخزين المؤقت، الحاويات، البيانات الوصفية، قواعد بيانات المتجهات	أي البيانات يجب أن تعيش على التخزين الكبير وأي الأحمال تحتاج إلى تخزين نشط سريع
طبقة تنسيق النظام	أنوية المعالج، الخيوط، الحاويات، التشفير، الفهرسة، تقديم الملفات، تدفق البيانات	ما إذا كان يمكن لـ NAS تنسيق التخزين وأحمال الذكاء الاصطناعي دون تعثر
طبقة تسريع الذكاء الاصطناعي	NPU، TPU، iGPU، وحدة معالجة الرسومات المنفصلة، واجهات برمجة التطبيقات لتسريع الأجهزة	أي مسرع يناسب الحمل، وما إذا كان البرنامج يمكنه استخدامه فعليًا
مظروف الذاكرة	ذاكرة النظام، ذاكرة الفيديو، الذاكرة الموحدة، تحميل النماذج، التزامن	ما هي أحجام النماذج، الفهارس، والأحمال المحلية الواقعية
طبقة حركة البيانات	1GbE، 2.5GbE، 10GbE، عرض النطاق الترددي الداخلي، روابط خادم الذكاء الاصطناعي الخارجية	ما إذا كانت البيانات يمكن أن تنتقل بسرعة كافية بين التخزين والمستخدمين والحوسبة
حدود الطاقة والحرارة	سعة مزود الطاقة، الحرارة، التبريد، الضوضاء، كفاءة الخمول	ما إذا كان النظام يمكن أن يظل عمليًا كجهاز NAS يعمل دائمًا

طبقة التخزين: الأقراص الصلبة، أقراص NVMe SSD، النماذج، وقواعد البيانات

تخزين نظام التخزين الشبكي الذكي لا يتعلق فقط بالسعة الإجمالية. لا تزال الأقراص الصلبة مفيدة لمكتبات الوسائط الكبيرة، والنسخ الاحتياطية، وأرشيفات المراقبة، والتخزين طويل الأمد، لكن أحمال الذكاء الاصطناعي النشطة غالبًا ما تستفيد من التخزين الأسرع.

عادةً ما يُفضل وضع النماذج، والحاويات، وقواعد بيانات البيانات الوصفية، وفهارس المتجهات، والصور المصغرة، وملفات التخزين المؤقت على أقراص NVMe SSD. هذا يتجنب إجبار مهام الذكاء الاصطناعي النشطة على الانتظار بسبب الأقراص الميكانيكية الأبطأ.

طبقة الحوسبة: وحدة المعالجة المركزية، وحدة المعالجة العصبية، وحدة معالجة التنسور، ووحدة معالجة الرسومات

تنسق وحدة المعالجة المركزية النظام، لكن المسرعات المتخصصة يمكنها التعامل مع أجزاء من حمل الذكاء الاصطناعي بكفاءة أكبر. غالبًا ما تكون وحدات المعالجة العصبية (NPUs) ووحدات معالجة التنسور (TPUs) مفيدة للمهام المدعومة في الرؤية أو مهام الذكاء الاصطناعي الخلفية، بينما تكون وحدات معالجة الرسومات (GPUs) أكثر صلة بالاستدلال الأثقل، ونماذج اللغة الكبيرة المحلية، وتوليد الصور، وبعض الأحمال الزمنية الحقيقية.

العبارة الأساسية هي "مدعوم". تسريع الأجهزة مهم فقط عندما يمكن لحزمة البرامج استدعاؤه بشكل موثوق.

طبقة الذاكرة: ذاكرة الوصول العشوائي (RAM)، ذاكرة الفيديو (VRAM)، وتحميل النماذج

غالبًا ما تفشل أو تتباطأ أحمال الذكاء الاصطناعي عندما تكون الذاكرة محدودة جدًا. تؤثر ذاكرة النظام على الحاويات، والفهارس، وخدمات الملفات، وقواعد بيانات المتجهات، والاستدلال المعتمد على وحدة المعالجة المركزية. تؤثر ذاكرة الفيديو (VRAM) على النماذج التي يمكن تحميلها باستخدام تسريع وحدة معالجة الرسومات ومدى توفر مساحة للرأس، والعبء الزمني، والتزامن.

بالنسبة لنماذج اللغة الكبيرة المحلية، يجب أن يتناسب النموذج مع الذاكرة المتاحة عند مستوى التكميم المختار. إذا لم يتناسب، قد يلجأ النظام إلى تفريغ أبطأ أو يفشل في تشغيل الحمل بسلاسة.

طبقة الشبكة: 2.5GbE، 10GbE، وتحريك البيانات المحلية

غالبًا ما تنقل سير عمل نظام التخزين الشبكي الذكي ملفات كبيرة: فيديو، صور، مجموعات بيانات، نسخ احتياطية، ملفات نماذج، وبيانات الفهرس. قد يكون اتصال 1GbE مقبولًا للتخزين المنزلي البسيط، لكنه قد يصبح مقيدًا لتحرير متعدد المستخدمين، نسخ احتياطية كبيرة، خوادم ذكاء اصطناعي خارجية، أو معالجة وسائط متكررة.

يُعد اتصال 2.5GbE هو الأساس الأفضل الحديث للعديد من إعدادات المنازل والمكاتب الصغيرة. يصبح اتصال 10GbE أكثر أهمية عند نقل ملفات كبيرة بشكل متكرر أو عندما تكون الحوسبة الذكية منفصلة عن نظام التخزين الشبكي.

طبقة الطاقة والحرارة: الضوضاء، الحرارة، والكفاءة في التشغيل المستمر

عادةً ما يُتوقع من نظام التخزين الشبكي أن يظل قيد التشغيل، هادئًا، ويعمل بشكل موثوق. يمكن أن يؤدي إضافة حوسبة قوية إلى زيادة الحرارة، وضوضاء المروحة، واستهلاك الطاقة، ومتطلبات مزود الطاقة.

لهذا السبب، ليست أفضل أجهزة نظام التخزين الشبكي الذكي دائمًا هي الأقوى. بالنسبة للعديد من المستخدمين، السؤال الأفضل هو ما إذا كان النظام يمكنه أداء مهام التخزين الشبكي العادية بكفاءة، ثم تسريع مهام الذكاء الاصطناعي عند الحاجة.

ما الدور الذي تلعبه وحدة المعالجة المركزية في نظام التخزين الشبكي الذكي؟

وحدة المعالجة المركزية هي منسق نظام التخزين الشبكي الذكي. حتى عندما تقوم وحدة المعالجة العصبية (NPU) أو وحدة معالجة التنسور (TPU) أو وحدة معالجة الرسومات المدمجة (iGPU) أو وحدة معالجة الرسومات (GPU) بتنفيذ استدلال الذكاء الاصطناعي، تظل وحدة المعالجة المركزية تدير نظام التشغيل، والحاويات، وخدمات الملفات، والتشفير، والبيانات الوصفية، والجدولة، وتحريك البيانات.

يمكن لوحدة معالجة مركزية ضعيفة أن تعيق النظام قبل أن يتم استخدام المسرع بالكامل. هذا صحيح بشكل خاص عندما يقوم نظام التخزين الشبكي بفك ترميز الوسائط، ومسح الملفات، وخدمة المستخدمين، وتشغيل الحاويات في نفس الوقت.

تدير وحدة المعالجة المركزية النظام والحاويات والتشفير وتدفق البيانات

تتعامل وحدة المعالجة المركزية مع العمل العام المحيط بالذكاء الاصطناعي. تقرأ البيانات من التخزين، تحضر المهام، تدير الخدمات، تتعامل مع الأذونات، تشغل الحاويات، وتغذي البيانات إلى المعجلات.

في مهام الكاميرا، على سبيل المثال، قد تتولى وحدة المعالجة المركزية اكتشاف الحركة أو فك ترميز الفيديو بينما يقوم كاشف بالتعرف على الأجسام. في سير عمل المستندات، قد تنسق وحدة المعالجة المركزية التعرف الضوئي على الحروف (OCR)، الفهرسة، كتابة قواعد البيانات، وخدمات البحث.

وحدات المعالجة المركزية متعددة الأنوية x86 أو ARM القوية أفضل لأعباء عمل الذكاء الاصطناعي المختلطة

تستفيد أعباء العمل المختلطة من تعدد الأنوية والخيوط لأن جهاز NAS غالبًا ما يشغل عدة خدمات في نفس الوقت. مشاركة الملفات، النسخ الاحتياطي، الحاويات، خوادم الوسائط، مهام الفهرسة، وخطوط أنابيب الذكاء الاصطناعي تستفيد من تعدد الأنوية والخيوط التي يمكن أن تتداخل.

يمكن لوحدة المعالجة المركزية الحديثة x86 أو منصة ARM قوية أن تكون كافية للعديد من مهام NAS الذكية، اعتمادًا على دعم البرمجيات. النقطة المهمة ليست المعمارية فقط، بل ما إذا كانت المنصة قادرة على التعامل مع الخدمات المحددة التي تعمل عليها.

وحدات المعالجة المركزية منخفضة المستوى في أجهزة NAS قد تعيق ميزات الذكاء الاصطناعي

غالبًا ما تكون وحدات المعالجة المركزية في أجهزة NAS منخفضة المستوى جيدة في تقديم الملفات منخفضة الطاقة لكنها محدودة في معالجة الذكاء الاصطناعي. قد تواجه صعوبة مع المكتبات الكبيرة، الفهرسة الثقيلة، فك ترميز الفيديو، أو خدمات الخلفية المتعددة.

هذا لا يجعلها أجهزة NAS سيئة. بل يعني أنها قد تكون أكثر ملاءمة للتخزين، النسخ الاحتياطي، وخدمة الوسائط من مهام الذكاء الاصطناعي المحلية.

هل تحتاج أجهزة NAS الذكية إلى وحدة معالجة شبكات عصبية (NPU) أو وحدة معالجة تنسور (TPU) أو بطاقة رسومات (GPU)؟

لا تحتاج أجهزة NAS الذكية دائمًا إلى بطاقة رسومات مخصصة. لكنها تحتاج إلى نوع التسريع المناسب إذا كان عبء العمل ثقيلًا جدًا لمعالجة وحدة المعالجة المركزية فقط.

اختصار مفيد هو:

وحدة معالجة الشبكات العصبية (NPU): مهام الذكاء الاصطناعي الخلفية الفعالة عند دعم البرمجيات لها.
وحدة معالجة التنسور (TPU): مهام الرؤية المحددة، خاصة نماذج اكتشاف الأجسام المدعومة.
وحدة الرسومات المدمجة (iGPU): تسريع الوسائط، تسريع الذكاء الاصطناعي الخفيف، وبعض مسارات الاستدلال المدعومة.
بطاقة الرسومات المنفصلة (Discrete GPU): النماذج اللغوية المحلية، توليد الصور، الاستدلال الأثقل، وأعباء العمل ذات الإنتاجية العالية.

وحدات معالجة الشبكات العصبية (NPUs) فعالة للمهام الخلفية في الذكاء الاصطناعي

تم تصميم وحدات معالجة الشبكات العصبية (NPUs) للمعالجة العصبية الفعالة. في كثير من الحالات، تكون الأنسب للمهام الخلفية أو منخفضة الطاقة مثل تصنيف الصور، اكتشاف الأجسام، تقليل الضوضاء، ميزات الصوت، وبعض تحليلات المستندات أو الوسائط.

ومع ذلك، تعتمد فائدة وحدات معالجة الشبكات العصبية (NPU) بشكل كبير على دعم البرمجيات. غالبًا ما تركز المناقشات المجتمعية حول وحدات معالجة الشبكات العصبية على ما إذا كانت الوحدة متاحة فعليًا لتطبيقات مفيدة، وليس على وجود الشريحة نفسها. مناقشة مجتمعية حول فائدة وحدات معالجة الشبكات العصبية

يمكن لوحدات معالجة التنسور (TPUs) المساعدة في مهام الرؤية المحلية المحددة

يمكن أن تكون وحدات معالجة التنسور (TPUs) مفيدة عندما تتطابق عبء العمل وصيغة النموذج مع المعجل. على سبيل المثال، قد تستخدم خطوط أنابيب اكتشاف الأجسام كاشفات مخصصة لتقليل حمل وحدة المعالجة المركزية وتحسين زمن استجابة الاستدلال.

تشرح وثائق الأجهزة الخاصة بـ Frigate مفهوم الكاشف بوضوح: الكاشف مُحسّن للكشف الفعال عن الأجسام، ويمكن لتفريغ الاستدلال إلى كاشف أن يقلل بشكل كبير من حمل وحدة المعالجة المركزية. إرشادات أجهزة كاشف Frigate

تكون بطاقات الرسوميات أكثر أهمية لنماذج LLM المحلية، وتوليد الصور، والاستدلال في الوقت الحقيقي

تكون بطاقات الرسوميات المنفصلة مهمة عندما يتطلب عبء العمل عرض نطاق ذاكرة عالي، أو تحميل نموذج كبير، أو حساب متوازي مستمر. من المرجح أن تستفيد نماذج LLM المحلية، وتوليد الصور، وأعباء العمل الكبيرة للتضمين، والاستدلال المتعدد التدفقات في الوقت الحقيقي من تسريع GPU.

بالنسبة لنماذج LLM المحلية، غالبًا ما تحدد ذاكرة الفيديو حجم النموذج العملي. إذا لم يتناسب النموذج وحمولة وقت التشغيل بشكل مريح، قد تصبح التجربة بطيئة أو غير مستقرة.

لماذا يعتمد تسريع الأجهزة على دعم البرنامج

المسرع المادي مفيد فقط إذا كان البرنامج يمكنه استخدامه. وهذا يعني أن برامج التشغيل، ودعم الحاويات، وتوافق وقت التشغيل، وصيغة النموذج، ودعم API، والتكامل على مستوى التطبيق كلها مهمة.

لهذا السبب، لا يكفي القول "يحتوي على NPU" أو "يحتوي على GPU" كادعاء للأجهزة. السؤال الأفضل هو ما إذا كان برنامج AI NAS يمكنه توجيه أعباء العمل الحقيقية إلى هذا المسرع.

كم من الذاكرة وذاكرة الفيديو يحتاج AI NAS؟

تعتمد متطلبات الذاكرة وذاكرة الفيديو على عبء العمل. قد يحتاج جهاز NAS الذي يقوم فقط بالفهرسة الخلفية أو وسم الصور إلى ذاكرة أقل بكثير من النظام الذي يشغل نماذج LLM محلية، والافتراضية، وقواعد بيانات المتجهات، وحاويات متعددة.

بالنسبة للعديد من إعدادات AI على NAS، تعد 16 جيجابايت نقطة انطلاق عملية. تصبح 32 جيجابايت أو أكثر أكثر فائدة عند إضافة الحاويات، والبحث في الوثائق، والفهارس الأكبر، وRAG المحلي، والافتراضية، أو أعباء العمل الثقيلة للنماذج.

لماذا تعتبر ذاكرة 16 جيجابايت نقطة انطلاق عملية في كثير من الأحيان

تمنح ذاكرة 16 جيجابايت النظام مساحة أكبر لخدمات الملفات، والحاويات، ووظائف الفهرسة، وقواعد البيانات، ومهام AI الخفيفة. وغالبًا ما تكون نقطة انطلاق أكثر واقعية من 2 إلى 8 جيجابايت الموجودة في العديد من أجهزة NAS الأساسية.

هذا لا يعني أن 16 جيجابايت كافية لكل عبء عمل AI على NAS. بل يعني أنها نقطة انطلاق عملية للمستخدمين الذين يريدون الفهرسة المحلية، وتنظيم الوسائط، وخدمات AI خفيفة دون الحاجة فورًا إلى أجهزة من فئة محطات العمل.

متى تبدأ ذاكرة 32 جيجابايت، 64 جيجابايت أو أكثر في أن تكون مهمة

تصبح 32 جيجابايت أو أكثر أكثر أهمية عندما يشغل جهاز NAS عدة خدمات في نفس الوقت. تشمل الأمثلة تطبيق الصور، وخادم الوسائط، وخط أنابيب OCR للوثائق، وقاعدة بيانات المتجهات، ووقت تشغيل النموذج المحلي، ووظائف النسخ الاحتياطي.

قد تكون 64 جيجابايت أو أكثر مهمة لعمليات RAG المحلية الأكبر، والفهارس الأكبر، والافتراضية، وخدمات المستخدمين المتعددين، أو الاستدلال باستخدام وحدة المعالجة المركزية/الذاكرة الموحدة. تعتمد الحاجة على حجم عبء العمل، وحجم المكتبة، وحجم النموذج، والتزامن.

لماذا تحدد ذاكرة الفيديو (VRAM) حجم وسرعة نماذج اللغة الكبيرة المحلية (LLM)

غالبًا ما تكون VRAM هي الحد الصعب لنماذج اللغة المحلية المسرعة بوحدة معالجة الرسوميات. يقدم دليل النماذج المحلية قاعدة عامة مفيدة: قد تتطلب النماذج المكممة Q4 حوالي 4-5 جيجابايت VRAM لنماذج 7B، وحوالي 8-9 جيجابايت لنماذج 13B، وأكثر بكثير لنماذج 70B، مع حاجة لهامش إضافي لتكاليف وقت التشغيل والسياق. متطلبات VRAM لنماذج اللغة المحلية

نظرًا لأن المتطلبات العملية تختلف حسب الكمية الدقيقة، ووقت التشغيل، وطول السياق، وهامش الأمان، فمن الأفضل التفكير في نطاقات بدلاً من أرقام ثابتة.

أحمال عمل الذكاء الاصطناعي المحلية	ضغط الذاكرة النموذجي	تفسير عملي
وضع علامات على الصور والتعرف الضوئي على الحروف	منخفض إلى معتدل	غالبًا ما يكون ممكنًا باستخدام ذاكرة النظام وتسريع مدعوم
كشف الأجسام للكاميرات	معتدل	يعتمد على عدد الكاميرات، والدقة، والكاشف، وحمل فك التشفير
استرجاع محلي معزز على المستندات	معتدل إلى مرتفع	يحتاج إلى ذاكرة RAM للفهرسة، والتضمينات، وقاعدة البيانات، وتشغيل النموذج
نموذج لغة محلي 7B	طلب ذاكرة GPU معتدل	غالبًا ما يحتاج إلى طبقة GPU عملية مع هامش يتجاوز حجم النموذج الخام
نموذج لغة محلي 13B+	طلب ذاكرة GPU أعلى	غالبًا ما يحتاج إلى VRAM أكبر، وتبريد أقوى، وكمية دقيقة بعناية
استدلال متعدد المستخدمين	مرتفع	يتطلب وجود هامش ذاكرة، واستراتيجية التجميع، وحوسبة أقوى

كيف تغير الذاكرة الموحدة سؤال الأجهزة

تغير الذاكرة الموحدة السؤال لأن المعالج ووحدة معالجة الرسوميات يمكنهما الوصول إلى نفس تجمع الذاكرة على بعض المنصات. هذا يمكن أن يجعل بعض أحمال عمل الذكاء الاصطناعي المحلية أكثر مرونة من الأنظمة التي تحتوي على كمية صغيرة من VRAM الثابتة.

ومع ذلك، الذاكرة الموحدة ليست سحرًا. لا تزال سعة الذاكرة الإجمالية، وعرض النطاق الترددي، والحرارة، ودعم وقت التشغيل، وحجم النموذج تحدد ما إذا كانت التجربة عملية.

لماذا يعتبر تخزين NVMe مهمًا لأحمال عمل NAS الذكي

يجب عادةً أن يكون تخزين NAS الذكي متعدد الطبقات. تظل الأقراص الصلبة مفيدة للسعة، بينما تكون أقراص NVMe SSD أفضل للأحمال النشطة.

السبب بسيط: غالبًا ما تقرأ وتكتب سير عمل الذكاء الاصطناعي العديد من الملفات الصغيرة، ومدخلات قواعد البيانات، وملفات النماذج، والفهارس، وبيانات التخزين المؤقت. هذه الأنماط تختلف عن تخزين أرشيف كبير يتم الوصول إليه بشكل متقطع.

الأقراص الصلبة جيدة للتخزين الكبير لكنها ضعيفة في أحمال عمل الذكاء الاصطناعي النشطة

تظل الأقراص الصلبة فعالة من حيث التكلفة للأرشيفات الكبيرة مثل الصور، والفيديو، ولقطات المراقبة، والنسخ الاحتياطية، ومكتبات الوسائط. وعادةً ما لا تكون مثالية لتحميل النماذج النشطة، وقواعد بيانات البيانات الوصفية، وفهارس المتجهات، أو تخزين الحاويات.

إذا كانت جميع مهام الذكاء الاصطناعي النشطة تعمل مباشرة من الأقراص الصلبة، فقد يشعر النظام بالبطء حتى لو كان المعالج أو وحدة معالجة الرسوميات قادرة. يمكن أن تصبح زمن استجابة التخزين جزءًا من تجربة الذكاء الاصطناعي.

تساعد أقراص NVMe SSD في النماذج، والحاويات، والتخزين المؤقت، وقواعد بيانات المتجهات

تُستخدم أقراص NVMe SSD لنظام التشغيل، والحاويات، وبيانات التطبيقات، ونماذج الذكاء الاصطناعي، والصور المصغرة، وملفات التخزين المؤقت، والبيانات الوصفية، وقواعد بيانات المتجهات. هذه مكونات نشطة، وليست مجرد ملفات مخزنة بشكل سلبي.

غالبًا ما يفصل تصميم NAS الذكي الجيد بين السعة الكبيرة والمعالجة النشطة. يحتفظ مصفوفة الأقراص الصلبة بالأرشيف، بينما يتولى NVMe طبقة العمل.

يفصل التخزين الهجين بيانات الأرشيف عن معالجة AI النشطة

التخزين الهجين غالبًا ما يكون النهج الأكثر عملية. توفر الأقراص الصلبة (HDD) السعة والمرونة، بينما تدعم أقراص NVMe SSD الأحمال التي تحتاج إلى زمن استجابة منخفض وعرض نطاق ترددي أعلى.

يساعد هذا في تجنب بناء تجمع التخزين بالكامل بذاكرة فلاش مكلفة. كما يحافظ على توافق النظام مع كيفية تصرف أحمال عمل AI NAS فعليًا.

لماذا الشبكات مهمة في AI NAS

الشبكات مهمة لأن أحمال عمل AI NAS غالبًا ما تنقل ملفات كبيرة بين المستخدمين، التخزين، والحوسبة. إذا كان NAS يحتوي على حوسبة محلية قوية ولكن شبكة ضعيفة، فقد يشعر بالبطء في تدفقات العمل الحقيقية.

يصبح هذا أكثر أهمية عندما يقوم المبدعون بتحرير وسائط كبيرة، أو الفرق تصل إلى مجموعات بيانات مشتركة، أو جهاز AI منفصل يسحب الملفات من NAS.

يمكن أن يصبح 1GbE عنق زجاجة لمجموعات بيانات AI الكبيرة

قد يكون 1GbE مقبولًا للوصول الأساسي إلى الملفات، النسخ الاحتياطي المنزلي، وخدمة الوسائط الخفيفة. لكنه قد يصبح مقيدًا عندما تتحرك الملفات الكبيرة بشكل متكرر أو عندما تقرأ تدفقات عمل AI من NAS بشكل متكرر.

العنق الزجاجي ليس سرعة الإنترنت. بل هو سرعة الشبكة المحلية بين NAS، محطات العمل، وأي أجهزة حوسبة AI.

2.5GbE هو الأساس الأفضل لإعدادات المنازل والمكاتب الصغيرة الحديثة

2.5GbE هو تحسين عملي للعديد من إعدادات المنازل والمكاتب الصغيرة الحديثة. يوفر مساحة أكبر من 1GbE دون الحاجة إلى التكلفة والبنية التحتية الكاملة لـ 10GbE.

بالنسبة للمستخدمين الذين ينقلون مكتبات صور كبيرة، ملفات مشاريع، أو مقاطع فيديو، يمكن أن يجعل هذا NAS يشعر بأنه أقل تقييدًا بشكل ملحوظ.

10GbE مهمة لتحرير الفيديو، تدفقات العمل متعددة المستخدمين، وخوادم AI الخارجية

تصبح 10GbE أكثر أهمية عندما يدعم NAS تدفقات عمل عالية الإنتاجية. تشمل الأمثلة تحرير الفيديو، النسخ الاحتياطية الكبيرة، الوصول متعدد المستخدمين، المشاركات المدعومة بـ NVMe، وخادم AI منفصل يسحب الملفات من تخزين NAS.

تُظهر اختبارات أداء التخزين الشبكي أن سرعة الاتصال، وسط التخزين، وقدرة NAS كلها تتفاعل؛ يشير المقال إلى أن أداء 2.5GbE يمكن أن يكون تقريبًا ربع أداء 10GbE في الاختبارات العامة، بينما يمكن لإعدادات 10GbE الجيدة جعل النقل الكبير أكثر عملية. اختبار أداء التخزين الشبكي

ما هي الأجهزة التي تحتاجها حالات استخدام AI NAS الشائعة فعليًا؟

يجب اختيار أجهزة AI NAS بناءً على عبء العمل، وليس بناءً على مواصفة قصوى واحدة فقط. مكتبة الصور، نظام الكاميرا، أرشيف الوثائق، وخادم LLM المحلي كلها تضغط على أجزاء مختلفة من النظام.

تسلسل تقييم بسيط يعمل بشكل جيد:

حدد مهمة الذكاء الاصطناعي: الوسم، التعرف الضوئي على الحروف (OCR)، اكتشاف الأجسام، RAG، الدردشة الآلية، أو توليد الصور.
قرر ما إذا كانت المهمة تعمل في الخلفية أو في الوقت الحقيقي.
قدّر حجم المكتبة، أنواع الملفات، وعدد المستخدمين.
تحقق مما إذا كان البرنامج يدعم تسريع وحدة المعالجة المركزية (CPU)، وحدة المعالجة العصبية (NPU)، وحدة معالجة التنسور (TPU)، وحدة معالجة الرسومات المدمجة (iGPU)، أو وحدة معالجة الرسومات (GPU).
طابق الذاكرة RAM، وVRAM، وNVMe، والشبكات، والطاقة مع الحمل المتوقع.
قرر ما إذا كان يجب على جهاز NAS تشغيل الذكاء الاصطناعي مباشرة أو التنسيق مع خادم ذكاء اصطناعي منفصل.

التعرف على الصور ووضع العلامات الإعلامية

عادةً ما يحتاج التعرف على الصور ووضع العلامات الإعلامية إلى معالج وذاكرة RAM كافيين للفهرسة، بالإضافة إلى تسريع اختياري لاكتشاف الوجوه، والتعرف على الأشياء، وتحليل الصور. بالنسبة للعديد من المستخدمين، يمكن تشغيل هذا الحمل في الخلفية بدلاً من الوقت الحقيقي.

يساعد تخزين NVMe عندما ينشئ تطبيق الصور الصور المصغرة، والتضمينات، وقواعد بيانات البيانات الوصفية. يمكن أن تبقى الصور الكبيرة على أقراص HDD.

كشف كاميرات الأمان باستخدام Frigate أو أدوات مماثلة

يعتمد كشف كاميرات الأمان على عدد الكاميرات، والدقة، ومعدل الإطارات، وحمل فك التشفير، ونوع الكاشف، ودعم البرمجيات. يمكن لكاشف مثل TPU أو NPU أو iGPU أو GPU تقليل زمن استجابة الاستدلال، لكن المعالج قد يظل يتولى فك التشفير ومعالجة الحركة.

لإعدادات الكاميرات المتعددة، الشبكات والتخزين مهمان أيضًا. تدفقات الكاميرا الموثوقة، والتدفقات الفرعية المهيأة بشكل صحيح، وإعدادات الكشف الفعالة يمكن أن تكون مهمة بقدر أهمية المعجل نفسه.

التعرف الضوئي على الحروف وتنظيم الوثائق

عادةً ما تحتاج تقنية التعرف الضوئي على الحروف وتنظيم الوثائق إلى المعالج، وذاكرة RAM، وسرعة التخزين، وبرمجيات الفهرسة. هذه الأحمال غالبًا ما تكون مجمعة، لذا قد تتحمل معالجة أبطأ إذا كان جهاز NAS يشغلها في الخلفية.

العامل الأكثر أهمية في الأجهزة غالبًا هو وجود ذاكرة RAM كافية وتخزين سريع لقاعدة بيانات الوثائق، والنص المستخرج، وفهرس البحث، وحاويات التطبيقات.

البحث الدلالي المحلي وRAG

البحث الدلالي المحلي وRAG يتطلبان أكثر من نموذج. يحتاجان إلى استخراج الوثائق، والتقسيم، والتضمينات، وتخزين المتجهات، والاسترجاع، وأحيانًا التوليد المحلي للنماذج اللغوية الكبيرة.

يستفيد هذا الحمل من تخزين NVMe، وذاكرة RAM كافية، ومعالج يمكنه تنسيق الخدمات بسلاسة. إذا كان التوليد المحلي جزءًا من سير العمل، فقد تصبح وحدة معالجة الرسومات أو الذاكرة الموحدة مهمة حسب حجم النموذج.

النماذج اللغوية المحلية الخفيفة والمساعدين في الدردشة

النماذج اللغوية المحلية الخفيفة ممكنة على جهاز NAS ذكي إذا كان الجهاز يحتوي على ذاكرة كافية وكومة برمجيات ناضجة. قد تكون النماذج الصغيرة واقعية للمساعدين الشخصيين، أو أسئلة وأجوبة الوثائق الأساسية، أو مهام أتمتة المنزل.

النماذج الأكبر، ونوافذ السياق الطويلة، وتوليد الصور، أو الاستدلال متعدد المستخدمين عادةً ما تتطلب ذاكرة VRAM أكبر، وذاكرة RAM أكثر، وتبريدًا أقوى، وأحيانًا خادم ذكاء اصطناعي مخصص.

ما لا تحله أجهزة NAS الذكية

الأجهزة ضرورية، لكنها لا تجعل جهاز NAS الذكي مفيدًا تلقائيًا. لا يزال كومة البرمجيات، وسير عمل المستخدم، وتوافق النماذج، وتنظيم البيانات، وضوابط الوصول مهمة.

هنا يجب تقييم العديد من ادعاءات الذكاء الاصطناعي في أجهزة NAS بعناية. قد تقول ورقة المواصفات "NPU" أو "GPU"، لكن تجربة المستخدم الفعلية تعتمد على ما إذا كانت الأحمال المفيدة يمكن تشغيلها بشكل موثوق على هذا الجهاز.

الأجهزة وحدها لا تجعل ميزات الذكاء الاصطناعي مفيدة

يمكن أن يشعر النظام القوي بخيبة أمل إذا لم تستطع البرامج فهرسة الملفات جيدًا، أو البحث بدقة، أو إدارة الأذونات، أو استخدام المسرع المتاح. تحتاج ميزات الذكاء الاصطناعي إلى خط أنابيب كامل، وليس مجرد قوة حسابية خام.

على سبيل المثال، يحتاج التعرف على الصور إلى معالجة الصور، والتضمينات، والتجميع، وواجهة المستخدم، وتجربة البحث. الأجهزة هي جزء واحد فقط من هذه السلسلة.

جهاز NAS ليس دائمًا أفضل مكان للاستدلال الثقيل للذكاء الاصطناعي

غالبًا ما يُتوقع من جهاز NAS أن يكون هادئًا وموثوقًا ودائم التشغيل. يمكن أن يخلق الاستدلال الثقيل للذكاء الاصطناعي حرارة، وضوضاء، واستهلاك طاقة، وتنافس على الموارد.

بالنسبة لأعباء العمل الثقيلة، قد يكون من المنطقي وجود خادم ذكاء اصطناعي منفصل. يمكن أن يظل جهاز NAS طبقة التخزين المستقرة، بينما يتولى خادم الذكاء الاصطناعي الاستدلال الثقيل عبر شبكة محلية سريعة.

استهلاك الطاقة والضوضاء قد يتعارضان مع توقعات جهاز NAS دائم التشغيل

إضافة وحدة معالجة رسومات منفصلة أو وحدة معالجة مركزية عالية الطاقة قد تغير من طبيعة الجهاز. ما كان جهاز تخزين هادئًا قد يصبح أكثر حرارة، وضوضاء، وتكلفة تشغيل أعلى.

هذا لا يعني أن أجهزة NAS الذكية يجب أن تكون دائمًا منخفضة الطاقة. بل يعني أن حدود الطاقة والحرارة يجب أن تتناسب مع البيئة التي سيعيش فيها جهاز NAS.

المفاهيم الخاطئة الشائعة حول أجهزة NAS الذكية

غالبًا ما يُساء فهم أجهزة NAS الذكية لأن المصطلح يقع بين التخزين، وخوادم المختبر المنزلي، والذكاء الاصطناعي على الحافة، ونماذج اللغة المحلية الكبيرة. يتوقع بعض المستخدمين جهاز نسخ احتياطي هادئ، بينما يتوقع آخرون جهاز استدلال بمستوى محطة عمل.

أفضل طريقة لتجنب الالتباس هي فصل عبء العمل عن التسمية.

جهاز NAS الذكي لا يعني دائمًا خادمًا بوحدة معالجة رسومات ضخمة

لا يحتاج جهاز NAS الذكي إلى وحدة معالجة رسومات ضخمة لكل حالة استخدام. قد تعمل مهام مثل وسم الصور، والتعرف الضوئي على الحروف، وفهرسة الوسائط، والكشف عن الأجسام المدعوم على أجهزة أكثر كفاءة.

تصبح وحدة معالجة الرسومات الضخمة ذات صلة فقط عندما يتطلب عبء العمل ذلك، مثل نماذج اللغة الكبيرة الأكبر، أو توليد الصور، أو الاستدلال عالي الإنتاجية.

دعم وحدة معالجة الشبكة العصبية غير مفيد ما لم تستطع البرامج استخدامها

تكون وحدة معالجة الشبكة العصبية ذات قيمة فقط عندما يمكن لنظام التشغيل، وبرامج التشغيل، ووقت التشغيل، والتطبيق استخدامها فعليًا. وإلا، فقد تستمر أحمال العمل الخاصة بالذكاء الاصطناعي في العمل على وحدة المعالجة المركزية أو وحدة معالجة الرسومات.

لهذا السبب يجب على المستخدمين التحقق من توافق البرامج قبل افتراض أن وحدة معالجة الشبكة العصبية (NPU) ستحسن سير عمل جهاز NAS.

جهاز كمبيوتر ألعاب مع تخزين ليس بالضرورة جهاز NAS جيدًا تلقائيًا

قد يحتوي جهاز الكمبيوتر المخصص للألعاب على وحدة معالجة رسومات قوية، لكن هذا لا يجعله تلقائيًا جهاز NAS جيدًا. يحتاج جهاز NAS أيضًا إلى تصميم تخزين موثوق، وإدارة الأقراص، وخدمات الشبكة، والأذونات، واستراتيجية النسخ الاحتياطي، واستقرار دائم التشغيل.

على العكس، قد يكون جهاز التخزين الشبكي التقليدي ممتازًا للتخزين لكنه ضعيف في الذكاء الاصطناعي المحلي. تعتمد أفضل بنية على ما إذا كانت الأولوية هي موثوقية التخزين، أداء الذكاء الاصطناعي، أو كلاهما.

جهاز تخزين شبكي عادي بميزة ذكاء اصطناعي واحدة ليس دائمًا جهاز تخزين شبكي ذكي

جهاز تخزين شبكي تقليدي بميزة ذكية واحدة ليس بالضرورة جهاز تخزين شبكي ذكي. التمييز هو ما إذا كانت الذكاء المحلي جزءًا من سير عمل البيانات الأساسي للنظام.

يجب أن يدعم جهاز التخزين الشبكي الذكي الفهرسة المحلية، البحث، الأتمتة، أو التحليل بطريقة تحسن كيفية إدارة المستخدمين واسترجاع البيانات المخزنة.

كيفية تحديد ما إذا كانت أجهزة الذكاء الاصطناعي في جهاز التخزين الشبكي كافية

أجهزة الذكاء الاصطناعي في جهاز التخزين الشبكي كافية عندما يمكنها تشغيل عبء العمل المقصود بالسرعة المطلوبة دون التأثير على موثوقية التخزين، سلوك الطاقة، أو استقرار البرنامج.

استخدم قائمة التحقق هذه:

المعالج قادر على التعامل مع خدمات الملفات، الحاويات، الفهرسة، وتدفق البيانات.
ذاكرة الوصول العشوائي كافية للتطبيقات، قواعد البيانات، الفهارس، والخدمات المتزامنة.
ذاكرة VRAM أو الذاكرة الموحدة تناسب حجم النموذج المحلي، إذا كان الاستدلال على نماذج اللغة الكبيرة مطلوبًا.
تتوفر تخزين NVMe للتطبيقات النشطة، النماذج، التخزين المؤقت، والبيانات الوصفية.
الشبكة تتناسب مع حجم وتكرار نقل الملفات.
المسرع مدعوم من البرنامج الذي تخطط لتشغيله.
استهلاك الطاقة، التبريد، والضوضاء لا تزال مناسبة لبيئة جهاز تخزين شبكي يعمل دائمًا.

ما مهام الذكاء الاصطناعي التي ستعمل محليًا؟

ابدأ بالمهمة، لا بالأجهزة. التعرف على الصور، كشف الكاميرا، التعرف الضوئي على الحروف، البحث المحلي المعزز، ودردشة نماذج اللغة الكبيرة كلها لها متطلبات مختلفة.

جهاز التخزين الشبكي الجيد لمهمة ذكاء اصطناعي واحدة قد لا يكون جيدًا لأخرى. على سبيل المثال، الإعداد المخصص لفهرسة الصور قد لا يكون مناسبًا للاستدلال في الوقت الحقيقي لنماذج اللغة الكبيرة.

كم مرة ستحدث معالجة الذكاء الاصطناعي؟

المعالجة الخلفية العرضية أسهل في الدعم من الاستدلال المستمر في الوقت الحقيقي. غالبًا ما يمكن لجهاز التخزين الشبكي التعامل مع الفهرسة الدورية، الوسم، أو مهام التعرف الضوئي على الحروف إذا لم يتوقع المستخدمون نتائج فورية.

الأحمال المستمرة مثل كشف الكاميرا، الدردشة متعددة المستخدمين، أو النسخ الحي تتطلب تخطيطًا مستدامًا للحوسبة، التبريد، والطاقة.

هل تحتاج إلى نتائج في الوقت الحقيقي أم معالجة في الخلفية؟

تتطلب النتائج في الوقت الحقيقي زمن استجابة أقل وتسريع أقوى. يمكن للمعالجة في الخلفية تحمل أجهزة أبطأ لأن الوظائف يمكن أن تعمل خلال الليل أو في فترات الخمول.

هذا التمييز مهم لتجنب الإنفاق الزائد. العديد من مهام الذكاء الاصطناعي على جهاز التخزين الشبكي لا تحتاج إلى أجهزة بمستوى محطة العمل إذا سمح لها بالتشغيل بشكل غير متزامن.

هل سيتعامل جهاز التخزين الشبكي مع الذكاء الاصطناعي مباشرة أم سيعمل مع خادم ذكاء اصطناعي منفصل؟

بعض الإعدادات تعمل بشكل أفضل عندما يقوم جهاز التخزين الشبكي بتشغيل الذكاء الاصطناعي مباشرة. وأخرى تعمل بشكل أفضل عندما يخزن جهاز التخزين البيانات ويؤدي جهاز ذكاء اصطناعي منفصل الاستدلال.

يمكن أن يكون وجود خادم ذكاء اصطناعي منفصل مفيدًا عندما يحتاج عبء العمل إلى وحدة معالجة رسومات كبيرة، ترقيات أسرع، تبريد أكثر، أو استهلاك طاقة أعلى مما يجب أن يتحمله جهاز التخزين الشبكي (NAS).

هل الأجهزة متوازنة للتخزين، الحوسبة، الذاكرة، الشبكة، والطاقة؟

الاختبار النهائي هو التوازن. يجب ألا يحتوي جهاز التخزين الشبكي الذكي المفيد على مكون واحد مثير للإعجاب وعدة عنق زجاجة ضعيفة.

بالنسبة لمعظم المستخدمين، أفضل الأجهزة هي التي تناسب عبء العمل الفعلي: حوسبة كافية لمعالجة البيانات محليًا، وتخزين كافٍ للحفاظ عليها بشكل موثوق، وذاكرة كافية لتشغيل الخدمات بسلاسة، وشبكة كافية لنقل الملفات بكفاءة، وانضباط طاقة كافٍ ليظل عمليًا.

الأسئلة الشائعة

هل يمكنني تشغيل الذكاء الاصطناعي على جهاز تخزين شبكي بدون وحدة معالجة رسوميات مخصصة؟

نعم، يمكن تشغيل العديد من مهام الذكاء الاصطناعي على جهاز التخزين الشبكي بدون وحدة معالجة رسوميات مخصصة، خاصة المهام الخلفية مثل التعرف الضوئي على الحروف، ووسم الصور، وفهرسة المستندات، وبعض سير عمل اكتشاف الأجسام. تعتمد التجربة على قوة وحدة المعالجة المركزية، والذاكرة العشوائية، ودعم البرمجيات، وما إذا كان يمكن استخدام وحدة معالجة الرسوميات المدمجة، أو وحدة المعالجة العصبية، أو وحدة معالجة التنسور.

تصبح وحدة معالجة الرسوميات المخصصة أكثر أهمية لنماذج اللغة الكبيرة المحلية، وتوليد الصور، والاستدلال في الوقت الحقيقي، أو أعباء العمل متعددة المستخدمين. بالنسبة للإعدادات التي تعتمد على التخزين بشكل كبير، من الأفضل غالبًا البدء بالمهمة ثم تحديد ما إذا كان تسريع وحدة معالجة الرسوميات ضروريًا.

هل أحتاج حقًا إلى 16 جيجابايت أو 32 جيجابايت من الذاكرة العشوائية لجهاز تخزين شبكي ذكي؟

للتخزين الأساسي، لا. لأعباء عمل الذكاء الاصطناعي على جهاز التخزين الشبكي، غالبًا ما تكون 16 جيجابايت نقطة انطلاق عملية لأن الحاويات، والفهارس، وقواعد بيانات البيانات الوصفية، وخدمات الذكاء الاصطناعي الخلفية تحتاج إلى ذاكرة.

تبدأ ذاكرة 32 جيجابايت أو أكثر في أن تكون مهمة عند تشغيل تطبيقات متعددة، أو استرجاع المعرفة المحلية (RAG)، أو التمثيل الافتراضي، أو الفهارس الأكبر، أو النماذج المحلية. تعتمد الكمية المناسبة على حجم عبء العمل والتزامن.

هل وحدة المعالجة العصبية (NPU) كافية لنماذج اللغة الكبيرة المحلية على جهاز تخزين شبكي ذكي؟

عادةً، ليست وحدة المعالجة العصبية (NPU) هي الحل الرئيسي لأعباء العمل الثقيلة لنماذج اللغة الكبيرة المحلية. غالبًا ما تكون وحدات المعالجة العصبية مناسبة أكثر للمهام الخلفية الفعالة للذكاء الاصطناعي عندما يتوفر دعم برمجي.

تعتمد نماذج اللغة الكبيرة المحلية (LLMs) عادةً أكثر على الذاكرة العشوائية (RAM)، وذاكرة الفيديو (VRAM)، والذاكرة الموحدة، وحجم النموذج، والتكميم، ودعم وقت التشغيل. غالبًا ما يكون وجود وحدة معالجة الرسوميات أو نظام ذاكرة موحدة قوي أكثر أهمية لاستخدام نماذج اللغة الكبيرة التفاعلية.

ماذا يحدث إذا كانت أجهزة الذكاء الاصطناعي في جهاز التخزين الشبكي قوية لكن البرمجيات لا تدعمها؟

قد تبقى الأجهزة غير مستغلة بشكل كامل. إذا لم تستطع التطبيقات استدعاء وحدة المعالجة العصبية (NPU)، أو وحدة معالجة التنسور (TPU)، أو وحدة معالجة الرسوميات المدمجة (iGPU)، أو وحدة معالجة الرسوميات (GPU)، فقد يعود عبء العمل إلى وحدة المعالجة المركزية (CPU) أو يفشل في التسريع كما هو متوقع.

لهذا السبب، تتساوى أهمية توافق البرمجيات مع المواصفات. قبل أن تفترض أن ميزة الأجهزة مفيدة، تحقق مما إذا كانت تطبيقات الذكاء الاصطناعي المستهدفة تدعمها في بيئة النشر الفعلية.

هل يجب أن أشتري خادم ذكاء اصطناعي مخصص وأترك جهاز التخزين الشبكي مجرد تخزين؟

بالنسبة للاستدلال الثقيل، والنماذج الكبيرة، وتوليد الصور، أو أعباء عمل الذكاء الاصطناعي متعددة المستخدمين، قد يكون خادم ذكاء اصطناعي مخصص هو البنية الأفضل. يمكن لجهاز التخزين الشبكي أن يظل مركزًا على التخزين الموثوق بينما يقوم خادم الذكاء الاصطناعي بسحب البيانات عبر شبكة محلية سريعة.

بالنسبة للمهام المحلية المركزة مثل وسم الصور، والتعرف الضوئي على الحروف (OCR)، والبحث الدلالي، والفهرسة الخلفية، قد يكون تشغيل الذكاء الاصطناعي مباشرة على جهاز التخزين الشبكي (NAS) أبسط. يعتمد الخيار الأفضل على شدة عبء العمل، وحدود الطاقة، وتحمل الصيانة، ومدى قدرة جهاز التخزين الشبكي على التعامل مع الحوسبة المحلية بشكل واقعي.