هل يمكن لـ ZimaBoard 2 تشغيل مساعد ذكاء اصطناعي محلي؟

مقدمة

في ZimaSpace، نستكشف باستمرار كيف يمكن للأجهزة المدمجة إعادة تعريف الحوسبة الشخصية. في هذا المقال، نشرح تجربة عملية من منشئ قناة Core Works Lab على يوتيوب، الذي اختبر ما إذا كان يمكن لخادم أحادي اللوحة بدون مروحة تشغيل مساعد صوتي ذكي محلي بالكامل.

نود أن نشكر Core Works Lab على الشرح التفصيلي والاختبار العملي. يحول هذا المقال رؤاهم الفيديوية إلى صيغة مكتوبة منظمة لمساعدة المزيد من المستخدمين على فهم ما يمكن تحقيقه باستخدام ZimaBoard 2 كخادم منزلي—من أعباء عمل الذكاء الاصطناعي إلى إعدادات المختبر المنزلي.

اختبار ZimaBoard 2 كجهاز ذكاء اصطناعي محلي

الجهاز المختبر هو ZimaBoard 2 (Intel N150، 16GB DDR5، 64GB eMMC)، خادم منزلي مدمج ومنخفض الطاقة مصمم للمرونة. يدعم توسيع SATA و PCIe الأصلي، مما يسمح للمستخدمين بتوصيل أقراص SSD وبطاقات الرسومات وبطاقات الشبكة دون محولات إضافية.

كان هدف المنشئ واضحًا:
هل يمكن لخادم منزلي بدون مروحة تشغيل مساعد صوتي ذكي محلي بشكل موثوق؟

الإعداد الأولي وتكوين الأجهزة

تم توسيع النظام باستخدام:

• قرص NVMe SSD عبر محول PCIe
• حامل مزدوج لأقراص 2.5"
• بطاقة رسومات اختيارية (GT 1030)
• نظام ZimaOS مثبت مسبقًا

يتم تشغيل اللوحة إلى لوحة تحكم عبر الويب، حيث يمكن تثبيت تطبيقات مثل حاويات Docker وأدوات مثل N8N.

ملاحظة رئيسية:
عملية الإعداد بسيطة، مما يجعل ZimaBoard 2 متاحًا حتى للمستخدمين الذين يبنون خادمهم المنزلي الأول.

ومع ذلك، لوحظت بعض المشكلات البسيطة في الأجهزة:

• براغي حامل التثبيت لم تكن ملولبة
• بعض البراغي كانت طويلة جدًا لبعض التكوينات

تشغيل مساعد الذكاء الاصطناعي (CAL)

تم نشر المساعد (CAL) عبر Docker باستخدام تكوين يعتمد فقط على المعالج.

شمل الإعداد الأولي:

• تحويل الكلام إلى نص: Groq Whisper (سحابي)
• نموذج اللغة الكبير: Groq (استدلال سحابي)
• تحويل النص إلى كلام: Piper (المعالج المحلي)

النتيجة:
عمل الإعداد الهجين بسلاسة واستجاب بسرعة، مما أسس قاعدة قوية.

ميزة رئيسية تم توضيحها كانت الذاكرة قصيرة المدى، حيث قام المساعد بتخزين واسترجاع بيانات مثل أرقام التتبع أو تفاصيل الرحلات.

مثال:

• تم التخزين: رقم الرحلة AF1
• تم الاسترجاع تلقائيًا للاستعلامات المعتمدة على الأدوات

هذا يوضح كيف يمكن لأنظمة الذاكرة المستمرة تعزيز مساعدي الذكاء الاصطناعي على خادم منزلي.

اختبار نماذج اللغة الكبيرة المحلية مع Ollama

المرحلة التالية اختبرت نماذج محلية بالكامل باستخدام Ollama.

Ministral 3B (3 مليار معلمة)

• معالجة المطالبات: ~268 رمز/ثانية
• سرعة التوليد: ~7 رموز/ثانية

النتيجة الرئيسية:
نجح في استدعاء الأدوات بدون تعديل دقيق، وهذا أمر مثير للإعجاب.

ومع ذلك:

• وصل زمن الاستجابة إلى 6 دقائق لكل تفاعل

هذا يجعله غير عملي للمساعدات الصوتية في الوقت الحقيقي.

دالة Gemma (270 مليون معلمة)

• أسرع بكثير (~43 رمز/ثانية)
• فشل في تنفيذ استدعاءات الأدوات بشكل صحيح

رؤية:
النماذج الأصغر أسرع لكنها تتطلب تعديلًا دقيقًا للتعامل مع المهام المنظمة مثل استدعاء الأدوات.

إضافة GPU: مكاسب في الأداء

تمت إضافة GT 1030 (2GB VRAM) عبر PCIe.

النتائج:

• سرعة تقييم المطالب تضاعفت تقريبًا
• تقسيم النموذج: 34% GPU / 66% CPU
• سرعة توليد الرموز بقيت متشابهة

نقطة مهمة:
النطاق الترددي—وليس الحوسبة—هو عنق الزجاجة في توليد الرموز.

عند اختبار نموذج أصغر محمل بالكامل على GPU:

• وصل تقييم المطالب إلى 1100 رمز/ثانية

هذا يؤكد:

التحميل الكامل لـ GPU يحسن بشكل كبير زمن الاستجابة لإعداد الذكاء الاصطناعي على الخادم المنزلي

القيود الواقعية

على الرغم من النتائج الواعدة، ظهرت عدة قيود:

• الإعدادات التي تعتمد على المعالج فقط بطيئة جدًا للنماذج الكبيرة
• النماذج الصغيرة تفتقر إلى الموثوقية بدون تدريب
• يعتمد أداء GPU بشكل كبير على VRAM ومصدر الطاقة

أشار المُبدع إلى أن بطاقة GPU بسعة 5 جيجابايت (مثل Quadro P2200) يمكنها تحميل نموذج 3B بالكامل وتحسين الأداء بشكل كبير.

النقاط الرئيسية

• يمكن لـ ZimaBoard 2 تشغيل أعباء عمل الذكاء الاصطناعي بفعالية كخادم منزلي
• الإعدادات الهجينة (السحابة + المحلية) تقدم أفضل توازن اليوم
• النماذج اللغوية المحلية قابلة للتطبيق لكنها تتطلب تحسينًا
• ترقيات GPU تفتح مكاسب أداء كبيرة
• تعتمد قدرة استدعاء الأدوات أكثر على تصميم النموذج من الحجم

Featured

ZimaBoard 2 - خادم منزلي عالي الأداء بلوحة واحدة

Single board computer zimaboard2

$339.00 - $399.00

Buy Now

لماذا يتميز ZimaBoard 2

ZimaBoard 2 يجمع بين:

• استهلاك منخفض للطاقة (تشغيل 24/7)
• تصميم صامت بدون مروحة
• توسعة SATA و PCIe أصلية
• إيثرنت مزدوج بسرعة 2.5G

هذا يجعله مثاليًا لـ:

• خوادم وسائط Plex
• مختبرات دوكر
• حاويات الذكاء الاصطناعي
• أنظمة NAS شخصية

كما يصفه العديد من المستخدمين:
"خادم صغير يبدو كلعبة لكنه يعمل كوحش."

أفكار ختامية

يُظهر هذا التجربة أن بناء خادم منزلي قادر على الذكاء الاصطناعي لم يعد بعيد المنال. بينما لا تزال المساعدات الصوتية المحلية بالكامل تواجه تحديات في الأداء، يوفر ZimaBoard 2 أساسًا مرنًا وقويًا للتجارب.

للمطورين، والمخترعين، وهواة مختبرات المنزل، يفتح الباب لـ:

• خطوط أنابيب الذكاء الاصطناعي المحلية
• إعدادات الحوسبة الطرفية
• بيئات خوادم مخصصة بالكامل

وربما الأهم من ذلك—أنه يجعل العملية ممتعة، قابلة للاختراق، ومتاحة للجميع.