الذكاء الاصطناعي المحلي باستخدام المعالج فقط مقابل الذكاء الاصطناعي المدعوم بوحدة معالجة الرسومات في نظام التخزين الشبكي للمهام الخاصة

الذكاء الاصطناعي المحلي الذي يعتمد فقط على المعالج لا يزال مفيدًا لسير العمل الخاص الذي يمكنه الانتظار: فهرسة المستندات، الملخصات المجدولة، النماذج المحلية الصغيرة، مهام التضمين، والأتمتة منخفضة التردد. يبدأ NAS المدعوم بوحدة معالجة الرسومات في أن يكون مهمًا عندما يصبح سير العمل تفاعليًا: الدردشة في الوقت الحقيقي، مساعدي الترميز الخاصين، البحث عن الصور، التعرف الضوئي على الحروف المحلي، نسخ الصوت، أو RAG متعدد المستخدمين.

الفرق الحقيقي ليس فقط بين المعالج ووحدة معالجة الرسومات. بل هو ما إذا كان سير عمل الذكاء الاصطناعي الخاص بك يمكن أن يعمل ببطء في الخلفية أو يحتاج إلى تغذية راجعة سريعة بينما تظل ملفاتك وتطبيقاتك وخدمات NAS مستجيبة.

الجواب المختصر: المعالج فقط يتعامل مع الذكاء الاصطناعي في الخلفية، وNAS المدعوم بوحدة معالجة الرسومات يغير حلقة التغذية الراجعة

الذكاء الاصطناعي المحلي الذي يعتمد فقط على المعالج ليس قديمًا. لا يزال مسارًا عمليًا للمهام الخاصة التي لا تحتاج إلى إخراج فوري. إذا كان نص برمجي يلخص الملفات خلال الليل، أو يفهرس مجلدًا في الخلفية، أو يشغل نموذجًا صغيرًا لأتمتة متقطعة، فإن المستخدم لا ينتظر كل رمز. في هذه الحالة، قد تكون الخصوصية، والتكلفة المنخفضة، والبساطة أكثر أهمية من السرعة.

NAS المدعوم بوحدة معالجة الرسومات يصبح ذا قيمة عندما يتحول الذكاء الاصطناعي المحلي إلى سير عمل يواجه المستخدم. إذا كنت تتحدث مع مساعد خاص، أو تسأل نظام RAG محليًا، أو تستخدم مساعد ترميز بالذكاء الاصطناعي، أو تعالج الصور، أو تخدم عدة مستخدمين، فإن زمن الاستجابة يغير التجربة. الإجابة البطيئة لم تعد مجرد حساب أبطأ؛ بل تصبح إيقاع سير العمل مكسورًا.

كلا المسارين حقيقيان من الناحية التقنية. توثيق إعداد Docker الخاص بـ Ollama يوضح مسار الحاويات التي تستخدم المعالج فقط ويقدم أيضًا مسار Docker لوحدات معالجة الرسومات NVIDIA باستخدام --gpus=all؛ كما يدعم Ollama واجهة برمجة تطبيقات REST لتشغيل وإدارة النماذج.

لذا، الجواب العملي بسيط: اختر المعالج فقط عندما يمكن لسير العمل الانتظار. اختر NAS المدعوم بوحدة معالجة الرسومات عندما يكون هناك من ينتظر.

ما الذي يتغير فعليًا عندما ينتقل الذكاء الاصطناعي من المعالج إلى وحدة معالجة الرسومات

الانتقال من الذكاء الاصطناعي المحلي الذي يعتمد فقط على المعالج إلى NAS المدعوم بوحدة معالجة الرسومات يغير أكثر من مجرد السرعة الخام. إنه يغير ما إذا كان يمكن للذكاء الاصطناعي أن يصبح جزءًا من سير عمل خاص وتفاعلي.

يعتمد الإعداد الذي يستخدم المعالج فقط على معالج المضيف وذاكرة النظام العشوائية. قد يكون ذلك كافيًا للنماذج الصغيرة المكثفة، والمهام المجدولة، والتضمينات المحلية، وفرز المستندات الخاصة. عادةً ما يكون الإعداد أبسط وقد يكون أرخص للبدء. لكن المعالج مسؤول أيضًا عن بقية النظام: نقل الملفات، الحاويات، خدمات الوسائط، النسخ الاحتياطية، ونظام تشغيل NAS نفسه.

يضيف الإعداد المدعوم بـ GPU مسار تسريع مخصص. يمكن لوحدة معالجة الرسومات وذاكرة VRAM التعامل مع معظم عبء عمل استدلال النموذج، مما يجعل الدردشة المحلية، RAG، OCR، سير عمل الصور، والمهام الشبيهة بالوكلاء أكثر استجابة. صفحة دعم الأجهزة في Ollama تسرد متطلبات دعم NVIDIA GPU، بينما يوفر أدوات الحاويات من NVIDIA مكونات وقت التشغيل اللازمة لبناء وتشغيل الحاويات المسرعة بواسطة GPU.

لكن الدعم باستخدام GPU لا يعني أنه غير محدود. لا يزال عليك الاهتمام بذاكرة VRAM، التعريفات، إعداد وقت التشغيل، التبريد، استهلاك الطاقة، وما إذا كان عبء العمل يناسب وحدة معالجة الرسومات التي لديك فعليًا. التغيير الحقيقي ليس "GPU دائمًا أفضل". التغيير الحقيقي هو أن تسريع GPU يمكن أن يحول الذكاء الاصطناعي الخاص من حسابات خلفية بطيئة إلى حلقات تغذية راجعة قابلة للاستخدام.

أين لا يزال الذكاء الاصطناعي المحلي الذي يعمل فقط على وحدة المعالجة المركزية منطقيًا

يكون الذكاء الاصطناعي المحلي الذي يعمل فقط على وحدة المعالجة المركزية منطقيًا أكثر عندما يكون الذكاء الاصطناعي مفيدًا لكنه ليس حرجًا من حيث الوقت. على سبيل المثال، نص ليلي يلخص الوثائق الجديدة، مهمة تضمين محلية تحدث قاعدة معرفة خاصة، أو مساعد صغير يوسم الملفات في الخلفية يمكنهم جميعًا تحمل استجابات أبطأ.

لهذا السبب لا ينبغي استبعاد الذكاء الاصطناعي الذي يعمل فقط على وحدة المعالجة المركزية باعتباره "ذكاءً اصطناعيًا للعب الأطفال". الإعداد التجريبي هو شيء تختبره مرة واحدة وتتخلى عنه. الإعداد المفيد الذي يعمل فقط على وحدة المعالجة المركزية هو الذي يقوم بمهمة خاصة صغيرة بشكل موثوق، حتى لو لم يكن سريعًا بما يكفي للمحادثة في الوقت الحقيقي.

الذكاء الاصطناعي المحلي الذي يعمل فقط على وحدة المعالجة المركزية مناسب لـ:

• ملخصات الوثائق المجدولة؛
• الفهرسة الليلية؛
• نماذج صغيرة مكوانة؛
• التضمينات المحلية؛
• صيانة قاعدة المعرفة الشخصية؛
• الأتمتة منخفضة التردد؛
• تجارب تركز على الخصوصية؛
• تعلم سير عمل Ollama، llama.cpp، أو GGUF.

مسار وحدة المعالجة المركزية فقط لديه أيضًا نظام بيئي مفتوح قوي. llama.cpp يدعم سير عمل نماذج GGUF المحلية، خادم HTTP محلي، نقاط نهاية التضمين، نقاط نهاية إعادة الترتيب، وأمثلة فك الترميز المتوازية، مع سرد أيضًا الخلفيات المتعلقة بوحدة المعالجة المركزية ووحدة معالجة الرسومات مثل BLAS، CUDA، HIP، Vulkan، OpenVINO، وغيرها.

المفتاح هو مطابقة الذكاء الاصطناعي المحلي الذي يعمل فقط على وحدة المعالجة المركزية مع المهام التي يكون فيها تأخير الإخراج مقبولًا. عندما لا ينتظر الشخص، يمكن أن يكون الاستدلال الأبطأ مفيدًا.

أين يبدأ تخزين NAS المدعوم بالذكاء الاصطناعي باستخدام GPU في أن يكون مهمًا

يبدأ تخزين NAS المدعوم بالذكاء الاصطناعي باستخدام GPU في أن يصبح مهمًا عندما يصبح الذكاء الاصطناعي الخاص تفاعليًا. كلما انتظر الإنسان رد النموذج أكثر، زادت قيمة التسريع.

الدردشة التفاعلية هي المثال الواضح. واجهة خاصة على غرار ChatGPT ليست مجرد مهمة خلفية. يجب أن تستجيب بسرعة كافية ليشعر المستخدم أن المحادثة حية. الأمر نفسه ينطبق على مساعدي البرمجة المحليين، نسخ الصوت، مراجعة التعرف الضوئي على الحروف، البحث عن الصور، RAG الخاص، ووكلاء الذكاء الاصطناعي الذين يقرؤون أو يتصرفون على الملفات أثناء عمل المستخدم بنشاط.

Open WebUI هو مثال جيد على هذا التحول. تكامل Ollama الخاص به مبني حول بروتوكول API الخاص بـ Ollama، وعادةً ما يعمل على المنفذ 11434، ويدعم عدة مثيلات Ollama لتوزيع الحمل الأساسي عبر المستخدمين المتزامنين.

يبدأ NAS المدعوم بوحدة معالجة الرسومات في أن يكون منطقيًا عندما يتضمن سير عملك:

• دردشة خاصة تفاعلية؛
• RAG محلي سريع عبر مستندات خاصة؛
• مساعدو الترميز بالذكاء الاصطناعي؛
• التعرف الضوئي على الحروف المحلي مع مراجعة سريعة؛
• نسخ الصوت؛
• توليد الصور؛
• البحث البصري عبر مكتبات الوسائط؛
• عدة مستخدمين أو عدة خدمات ذكاء اصطناعي.

لهذه سير العمل، لا تجعل وحدة معالجة الرسومات مجرد تحسين للمعايير. إنها تحمي دورة التغذية الراجعة.

الفرق يظهر عندما ينتظر أحدهم

أوضح اختبار ليس "هل يمكن لهذا الجهاز تشغيل الذكاء الاصطناعي المحلي؟" الاختبار الأوضح هو: هل ينتظر أحد النتيجة؟

إذا لم يكن أحد ينتظر، قد يكون الاعتماد فقط على وحدة المعالجة المركزية معقولًا تمامًا. إذا كان أحدهم ينتظر، تصبح الاستجابات البطيئة عائقًا. يشعر سير العمل الخاص بأنه أقل كمساعد وأكثر كعملية دفعة.

هذا الجدول هو قرار الشراء الحقيقي. الاعتماد فقط على وحدة المعالجة المركزية ليس "سيئًا"، والدعم بوحدة معالجة الرسومات ليس "ضروريًا" تلقائيًا. الجواب الصحيح يعتمد على ما إذا كان الذكاء الاصطناعي يعمل في الخلفية أو داخل سير عمل مباشر.

ذاكرة النظام مقابل VRAM: المقايضة الحقيقية للذاكرة

الذكاء الاصطناعي المحلي الذي يعتمد فقط على وحدة المعالجة المركزية وNAS المدعوم بوحدة معالجة الرسومات لا يحلان مشكلة الذاكرة بنفس الطريقة.

تستخدم الإعدادات التي تعتمد فقط على وحدة المعالجة المركزية ذاكرة النظام RAM. قد يكون ذلك جذابًا لأن ذاكرة النظام غالبًا ما تكون أسهل في التوسيع من VRAM الخاصة بوحدة معالجة الرسومات. يمكن أن يساعد في تحميل نماذج أكبر أو أكثر تكميمًا، خاصة للمهام الخلفية. المقابل هو أن ذاكرة النظام والاستدلال عبر وحدة المعالجة المركزية غالبًا ما يشعران بأنهما أبطأ للتوليد التفاعلي.

تستخدم الإعدادات المدعومة بوحدة معالجة الرسومات VRAM لتسريع الاستدلال. توفر VRAM لوحدة معالجة الرسومات ذاكرة عمل سريعة لتنفيذ النموذج، لكنها أيضًا حد صارم. إذا لم يتناسب النموذج، قد ينخفض الأداء إلى مسارات أبطأ أو يتطلب التفريغ أو التكميم أو نموذجًا أصغر.

يقدم دليل تحسين LLM من Hugging Face فحصًا واقعيًا مفيدًا للذاكرة: تحميل نموذج يحتوي على X مليار معلمة يتطلب تقريبًا 4 × X جيجابايت من VRAM بدقة float32 أو 2 × X جيجابايت بدقة bfloat16 / float16، ويعطي مثال Llama-2-70B الذي يتطلب حوالي 140 جيجابايت من VRAM بدقة bfloat16.

يغير التكميم كلا جانبي القرار. يشرح Hugging Face أن التكميم يقلل من متطلبات الذاكرة عن طريق تخزين أوزان النموذج بدقة أقل، بما في ذلك طرق مثل int8 و int4. هذا يجعل النماذج الصغيرة والمتوسطة الحجم أكثر عملية على كل من الإعدادات التي تعتمد على وحدة المعالجة المركزية فقط وتلك المدعومة بوحدة معالجة الرسومات.

الخطأ هو افتراض أن ذاكرة الوصول العشوائي (RAM) وذاكرة الفيديو (VRAM) قابلة للتبادل. هما ليستا كذلك. الحوسبة باستخدام وحدة المعالجة المركزية فقط غالبًا ما تمنحك سعة على حساب السرعة. الحوسبة المدعومة بوحدة معالجة الرسومات غالبًا ما تمنحك سرعة على حساب حدود VRAM.

يجب ألا يُعامل التخزين والحوسبة كوظيفة واحدة.

يقع جهاز NAS الخاص بالذكاء الاصطناعي عند تقاطع وظيفتين مختلفتين.

وظيفة NAS هي التخزين أولاً: حماية الملفات، تقديم البيانات، إبقاء التطبيقات متصلة بالإنترنت، التعامل مع النسخ الاحتياطية، والبقاء متوقعًا. وظيفة حوسبة الذكاء الاصطناعي مختلفة: تحميل النماذج، استهلاك الذاكرة، استخدام وحدة المعالجة المركزية أو وحدة معالجة الرسومات بشكل مكثف، وأحيانًا تشغيل حاويات تجريبية.

يمكن أن تعيش هاتان الوظيفتان معًا، لكنهما تحتاجان إلى قواعد. توضح وثائق موارد Docker أن الحاويات لا تملك قيودًا على الموارد بشكل افتراضي ويمكنها استخدام قدر ما تسمح به جدولة المضيف من وحدة المعالجة المركزية أو الذاكرة؛ كما تحذر من أن ضغط الذاكرة قد يؤدي إلى سلوك نفاد الذاكرة الذي يقتل العمليات وقد يزعزع استقرار المضيف.

لهذا السبب يجب أن تتضمن هذه المقارنة خيارًا ثالثًا: NAS منفصل بالإضافة إلى حوسبة GPU.

يكون جهاز NAS المدعوم بوحدة معالجة الرسومات (GPU) للذكاء الاصطناعي مفيدًا عندما تريد تخزينًا وذكاءً اصطناعيًا محليًا قريبين من بعضهما البعض. ولكن إذا كان التخزين لديك حيويًا للمهمة وكان نظام الذكاء الاصطناعي الخاص بك تجريبيًا، فقد يكون فصل الحوسبة أكثر أمانًا. دع جهاز NAS يخزن ويخدم البيانات. ودع محطة عمل GPU أو خادم GPU أو مضيف GPU بعيد يتولى عبء العمل المتقلب للاستدلال.

النقطة ليست أن الذكاء الاصطناعي لا يجب أن يعمل أبدًا على جهاز التخزين الشبكي. النقطة هي أن التخزين والحوسبة لهما ملفات مخاطر مختلفة.

الإيجابيات والقيود للذكاء الاصطناعي باستخدام المعالج فقط والمدعوم بوحدة معالجة الرسوميات

يجب أن يقارن القرار المتوازن ليس فقط الأداء، بل أيضًا التكلفة، والتعقيد، والموثوقية، ومدى ملاءمة سير العمل.

توليد الصور والذكاء الاصطناعي البصري مهمان بشكل خاص هنا. يشير Hugging Face Diffusers إلى أن نماذج الانتشار الحديثة يمكن أن تحتوي على مليارات المعلمات وتخلق ضغطًا كبيرًا على الذاكرة؛ يمكن لتفريغ المعالج تقليل استخدام الذاكرة لكنه قد يكون بطيئًا جدًا أو غير عملي.

لذا فإن جهاز التخزين الشبكي المدعوم بوحدة معالجة الرسوميات له ميزة حقيقية في سير عمل الذكاء الاصطناعي الأكثر ثراءً. لكنه ليس حلاً شاملاً. يعتمد الاختيار الصحيح على أي قيد تفضل إدارته: تأخير المعالج، تكلفة وحدة معالجة الرسوميات، حدود VRAM، أو تعقيد الأجهزة المتعددة. تعرف على المزيد من دليل تحسين الذاكرة Diffusers.

من يجب أن يبقى مع الذكاء الاصطناعي المحلي باستخدام المعالج فقط؟

ابق مع الذكاء الاصطناعي المحلي باستخدام المعالج فقط إذا كان سير عملك الخاص في الغالب غير متزامن. بمعنى آخر، يمكن للذكاء الاصطناعي أن يأخذ وقته.

المعالج فقط هو نقطة البداية الأفضل عندما تريد الخصوصية والتحكم، لكنك لا تحتاج بعد إلى مساعد تفاعلي سريع. كما أنه مسار تعليمي جيد لأنه يتيح لك اختبار النماذج المحلية، والحاويات، والتعليمات، وأنابيب الفهرسة، والأتمتة الصغيرة قبل الاستثمار في أجهزة GPU.

يجب أن تظل مع الذكاء الاصطناعي المحلي باستخدام المعالج فقط إذا:

• تعمل مهام الذكاء الاصطناعي الخاصة بك خلال الليل أو وفق جدول زمني؛
• تقوم في الغالب بتلخيص أو تصنيف الملفات المحلية؛
• تبني قاعدة معرفة خاصة صغيرة؛
• تستخدم نماذج صغيرة أو كمية؛
• تجرب مع Ollama أو llama.cpp أو Open WebUI؛
• تهتم أكثر بالخصوصية والتكلفة المنخفضة بدلاً من الإخراج الفوري؛
• أنت لا تخدم عدة مستخدمين في نفس الوقت؛
• يجب أن يظل جهاز التخزين الشبكي أو الخادم المنزلي الخاص بك بسيطًا.

استخدام المعالج فقط ليس خيارًا "خاطئًا". إنه خيار خاطئ فقط عندما تتوقع منه أن يتصرف كجهاز عمل ذكاء اصطناعي تفاعلي.

من يجب أن يختار NAS للذكاء الاصطناعي المدعوم بوحدة معالجة الرسومات؟

اختر NAS للذكاء الاصطناعي المدعوم بوحدة معالجة الرسومات عندما يصبح الذكاء الاصطناعي جزءًا من سير العمل الحي.

إذا كنت تستبدل أدوات الذكاء الاصطناعي السحابية بمساعد خاص، تبني واجهة RAG محلية، تعمل مع مكتبات الصور أو الفيديو، تشغل التعرف الضوئي على الحروف، تستخدم نسخ الصوت، أو تدعم عدة مستخدمين، فإن وحدة معالجة الرسومات مهمة لأن الكمون مهم. الهدف ليس فقط تشغيل نموذج. الهدف هو جعل الذكاء الاصطناعي الخاص سريع الاستجابة بما يكفي ليواصل الناس استخدامه.

يجب أن تختار NAS للذكاء الاصطناعي المدعوم بوحدة معالجة الرسومات إذا:

• تريد دردشة خاصة تفاعلية؛
• تبني مساعد ترميز ذكاء اصطناعي محلي؛
• نظام RAG الخاص بك يحتاج إلى إجابات سريعة؛
• تعمل مع الصور، الفيديو، التعرف الضوئي على الحروف، أو الصوت؛
• تحتاج إلى وصول متعدد المستخدمين؛
• تريد أن يتفاعل الذكاء الاصطناعي مع الملفات المحلية ومكتبات الوسائط؛
• تحتاج إلى التخزين وتسريع الذكاء الاصطناعي في نظام واحد؛
• أنت مستعد لإدارة تكلفة أعلى، واستهلاك طاقة، وتبريد، وتوافق.

هذه هي النقطة التي يصبح فيها NAS للذكاء الاصطناعي المدعوم بوحدة معالجة الرسومات أكثر من مجرد ترقية مواصفات. يصبح ترقية في سير العمل.

أين يناسب NAS للذكاء الاصطناعي المدعوم بوحدة معالجة الرسومات سير العمل الخاص

للمستخدمين الذين تجاوزوا الملخصات الخلفية ويريدون أن يشعر الذكاء الاصطناعي الخاص بالتفاعل، النمط المفيد للمنتج هو NAS يركز على التخزين مع قدرة ذكاء اصطناعي محلي مدعوم بوحدة معالجة الرسومات. يجب ألا يكون مجرد "NAS يحمل تسمية ذكاء اصطناعي". يجب أن يجمع بين تخزين موثوق، استضافة ذاتية، دعم الحاويات، وصول سريع إلى البيانات المحلية، وتوسعة حوسبة كافية لجعل سير عمل الذكاء الاصطناعي الخاص قابلاً للاستخدام.

ZimaCube 2 Creator Pack يناسب هذا الجانب من القرار كخيار NAS للذكاء الاصطناعي المدعوم بوحدة معالجة الرسومات لسير العمل الخاص الذي يجمع بين التخزين المحلي، أرشيفات الوسائط، البحث في المستندات، والتجارب التفاعلية للذكاء الاصطناعي. تسرد صفحة المنتج Creator Pack كتركيب i5-1235U / 64GB / 1TB + RTX Pro 2000، وتضع الأسئلة الشائعة Creator Pack لسير عمل إبداعي أو ذكاء اصطناعي متقدم مع 64 جيجابايت رام، 1 تيرابايت SSD، ودعم GPU مخصص.

يناسب المنتج بشكل أقوى عندما يحتاج المستخدم إلى التخزين والذكاء الاصطناعي المحلي المدعوم بوحدة معالجة الرسومات في نفس الجهاز. يتمركز ZimaCube 2 حول السحابة الشخصية، سير عمل الوسائط، الاستضافة الذاتية، التوسعة، دعم Thunderbolt 4 المزدوج، دعم PCIe، وتوسعة SSD السريعة؛ وتقول الصفحة أيضًا إن المستخدمين يمكنهم الوصول إلى مئات التطبيقات بنقرة واحدة أو نشر أي حاوية.

هذا لا يجعله الإجابة الصحيحة لكل سير عمل الذكاء الاصطناعي الخاص. إذا كنت تحتاج فقط إلى ملخصات ليلية أو أتمتة محلية صغيرة، فقد يكون المعالج المركزي فقط كافياً. إذا كنت تريد أقصى مرونة في استخدام وحدة معالجة الرسومات، فقد يكون من الأفضل وجود محطة عمل منفصلة لوحدة معالجة الرسومات. ولكن إذا كنت تريد نظامًا يركز على التخزين ويوفر أيضًا مسارًا مدعومًا بوحدة معالجة الرسومات لسير عمل الذكاء الاصطناعي الخاص، فهذا هو المكان الذي يناسب فيه منتج مثل ZimaCube 2 Creator Pack القرار.

الأسئلة الشائعة

هل الذكاء الاصطناعي المحلي المعتمد على وحدة المعالجة المركزية فقط كافٍ لسير العمل الخاص؟

نعم، يمكن أن يكون الذكاء الاصطناعي المحلي المعتمد على وحدة المعالجة المركزية فقط كافيًا إذا كان سير العمل يمكن أن ينتظر. إنه مناسب جيدًا للملخصات المجدولة، النماذج الصغيرة المكممة، فهرسة الوثائق، التضمينات، والأتمتة منخفضة التردد. يصبح أقل ملاءمة عندما ينتظر شخص ما إجابات بشكل نشط.

هل يعني الذكاء الاصطناعي المعتمد على وحدة معالجة الرسومات في أجهزة NAS دائمًا نتائج ذكاء اصطناعي أفضل؟

لا. عادةً ما يحسن تسريع وحدة معالجة الرسومات السرعة والاستجابة، لكنه لا يحسن جودة النموذج تلقائيًا. لا يزال اختيار النموذج، التكميم، جودة السياق، تصميم الاسترجاع، وسير عمل المطالبات مهمين. تساعد وحدة معالجة الرسومات أكثر عندما يصبح الكمون، التزامن، أو المعالجة متعددة الوسائط هي العقبة.

هل ذاكرة VRAM أكثر أهمية من ذاكرة النظام للذكاء الاصطناعي الخاص؟

يعتمد ذلك على عبء العمل. يمكن لذاكرة النظام أن تساعد إعدادات وحدة المعالجة المركزية فقط في تحميل أو إدارة مهام أكبر، لكن ذاكرة وحدة معالجة الرسومات (VRAM) أكثر أهمية للاستدلال السريع بوحدة معالجة الرسومات. ذاكرة VRAM أسرع للمهام المسرّعة، لكنها أيضًا حد سعوي صارم.

هل يجب تشغيل الذكاء الاصطناعي مباشرة على جهاز NAS أم على جهاز منفصل بوحدة معالجة الرسومات؟

شغّل الذكاء الاصطناعي مباشرة على جهاز NAS عندما تريد سير عمل أبسط ومتكامل يجمع بين التخزين والذكاء الاصطناعي. استخدم جهازًا منفصلًا بوحدة معالجة الرسومات عندما تكون استقرار التخزين أمرًا حاسمًا، أو عندما يكون نظام الذكاء الاصطناعي تجريبيًا، أو عندما تريد أقصى مرونة في ترقية وحدة معالجة الرسومات.

متى يحتاج سير عمل RAG الخاص إلى تسريع بوحدة معالجة الرسومات؟

من المرجح أن يحتاج سير عمل RAG الخاص إلى تسريع بوحدة معالجة الرسومات عندما يتوقع المستخدمون إجابات سريعة، تكون مكتبة الوثائق كبيرة، يتم تشغيل التعرف الضوئي على الحروف أو التضمينات بشكل متكرر، أو يستخدم النظام عدة أشخاص في نفس الوقت. قد تظل المهام الصغيرة للفهرسة والملخصات منخفضة التردد تعمل على إعدادات تعتمد فقط على وحدة المعالجة المركزية.

هل يستحق الذكاء الاصطناعي المعتمد على وحدة معالجة الرسومات في أجهزة NAS لوكلاء الذكاء الاصطناعي؟

يجدر النظر في ذلك عندما يكون الوكيل تفاعليًا. إذا كان وكيل الذكاء الاصطناعي يقرأ الملفات، يجيب على الأسئلة، يساعد في البرمجة، ينقل الصوت إلى نص، أو يتفاعل أثناء انتظار الشخص، يمكن للأجهزة المعتمدة على وحدة معالجة الرسومات أن تجعل سير العمل أكثر سهولة في الاستخدام. إذا كان الوكيل ينفذ فقط مهام خلفية مجدولة، فقد يكون الاعتماد على وحدة المعالجة المركزية فقط كافيًا.

ما هو مسار الترقية الأكثر أمانًا إذا لم أكن متأكدًا بعد؟

ابدأ بالذكاء الاصطناعي المحلي المعتمد على وحدة المعالجة المركزية فقط للتحقق من صحة سير العمل. تعلّم أي النماذج، الملفات، المطالبات، والأتمتة التي تستخدمها فعليًا. قم بالترقية إلى الذكاء الاصطناعي المعتمد على وحدة معالجة الرسومات في أجهزة NAS أو الحوسبة المنفصلة بوحدة معالجة الرسومات فقط عندما تصبح الكمون، التزامن، مهام الصور، أو مقياس RAG الخاص عقبات حقيقية.

الذكاء الاصطناعي المحلي المعتمد على وحدة المعالجة المركزية فقط مفيد عندما يمكن لعملية العمل الخاصة بك أن تنتظر. يبدأ الذكاء الاصطناعي المعتمد على وحدة معالجة الرسومات في أجهزة NAS أن يكون مهمًا عندما يصبح الذكاء الاصطناعي الخاص تفاعليًا، متعدد الوسائط، أو مشتركًا. القرار الأفضل ليس في شراء أقوى جهاز أولاً؛ بل في مطابقة القدرة الحاسوبية مع حلقة التغذية الراجعة التي يحتاجها سير عملك فعليًا.