يشغّل Xiaomi AI Cube نموذجًا بقدرة 120B محليًا — فهل هذا هو مستقبل حاسوب الذكاء الاصطناعي الشخصي؟

Xiaomi AI Cube هو حاسوب مكتبي أولي للذكاء الاصطناعي مبني حول فكرة غير مألوفة: وضع قدر كافٍ من الذاكرة والحوسبة المحلية المتخصصة في صندوق واحد بقدرة 150 واط، لإبقاء نموذج 120B ونموذج أصغر بكثير بحجم 3B متاحين محليًا. أكدت Xiaomi وجود ذاكرة موحّدة بسعة 80 غيغابايت، وثلاثة معالجات XRING—O3 وO100 وD100—مع التبديل السريع/البطيء بين النماذج لأحمال عمل تشمل تطوير الواجهة الأمامية والبرمجة المعقدة.

لكن عبارة «يشغّل نموذج 120B محليًا» هي ادعاء يتعلق بالسعة، وليست معيارًا كاملًا للأداء. لم تنشر Xiaomi البنية الكاملة للذاكرة في Cube، أو تكميم نموذج 120B، أو السياق القابل للاستخدام، أو سرعة التوليد، أو توافق البرمجيات، أو السعر، أو تاريخ الإصدار التجاري. في الوقت الحالي، يُعد AI Cube معاينة لبنية جديدة لحاسوب ذكاء اصطناعي شخصي أكثر من كونه منتجًا نهائيًا يمكن للمشترين تقييمه.

ما هو Xiaomi AI Cube؟

Xiaomi AI Cube هو نموذج أولي هندسي يجمع ثلاثة معالجات XRING مطوّرة داخليًا مع ذاكرة موحّدة بسعة 80 غيغابايت للاستدلال المحلي على النماذج الكبيرة.

يمكن مراجعة الوصف العلني من Xiaomi في المنشور الرسمي عن النموذج الأولي AI Cube.

يجذب رقم 120B الانتباه، لكن السؤال الأكثر فائدة هو ما يلزم لجعل نموذج بهذا الحجم عمليًا على مكتب.

لماذا يُعد تشغيل نموذج 120B محليًا أمرًا مهمًا إلى هذا الحد؟

يُنشئ نموذج يضم 120 مليار مُعلَمة مشكلة ذاكرة فورية.

عند دقة 16 بت، ستتطلب الأوزان الخام وحدها تقريبًا:

120B × 2 بايت ≈ 240 غيغابايت

عند دقة 8 بت، تنخفض الحاجة إلى نحو 120 غيغابايت، بينما تبلغ الأوزان بدقة 4 بت نحو 60 غيغابايت قبل إضافة تكاليف وقت التشغيل.

وهذا يجعل جهازًا بسعة 80 غيغابايت خيارًا معقولًا لنموذج 120B مكمّم بكثافة، لكن استيعاب الأوزان ليس سوى جزء من عملية النشر.

يحتاج الاستدلال أيضًا إلى ذاكرة من أجل:

• بيانات وصفية للتكميم،
• مخازن الذاكرة المؤقتة لوقت التشغيل،
• ذاكرة التخزين المؤقت KV،
• رموز السياق،
• برمجيات النظام،
• وحالة متعددة الوسائط محتملة.

مواءمة نموذج ليست هي نفسها تشغيله بسرعة وسياق مفيدين.

ولهذا السبب نفسه، تعتمد متطلبات أجهزة الذكاء الاصطناعي المحلية العملية على حجم النموذج والتكميم والسياق والتزامن، لا على رقم واحد بسيط لذاكرة RAM.

هل يمكن لذاكرة موحّدة بسعة 80 غيغابايت تشغيل نموذج ذي 120 مليار معلمة فعلًا؟

نعم، يمكن لنموذج مُكمَّم ذي 120 مليار معلمة أن يتسع بشكل معقول ضمن ميزانية ذاكرة من فئة 80 غيغابايت، لكن Xiaomi لم تنشر معلومات كافية لحساب طول السياق الفعلي القابل للاستخدام أو معدل النقل في Cube.

تشمل المتغيرات التي لم تُحسم بعد:

• الإصدار الدقيق من النموذج ذي 120 مليار معلمة،
• تنسيق التكميم،
• طول السياق القابل للاستخدام،
• الزمن اللازم لإنتاج الرمز المميز الأول،
• سرعة التوليد،
• وما إذا كان نموذجا 3 مليارات و120 مليار معلمة سيبقيان مقيمين في الذاكرة في الوقت نفسه.

يختلف النموذج الذي يُحمَّل تقنيًا لكنه يولّد النص بسرعة منخفضة بشكل غير قابل للاستخدام اختلافًا كبيرًا عن المساعد الشخصي سريع الاستجابة. كما يمكن أن يستهلك السياق الطويل والوكلاء المتعددون المتزامنون قدرًا كبيرًا من الذاكرة الإضافية.

يكتسب هذا التمييز—بين ملاءمة النموذج وإمكانية استخدامه في النشر—أهمية خاصة مع انتقال النماذج المفتوحة الأكبر حجمًا إلى الأجهزة المنزلية. وتظهر قيود مماثلة في أحمال الذكاء الاصطناعي على الخوادم المنزلية الحالية، إذ إن مجرد استيعاب النموذج لا يضمن تجربة جيدة تعمل دائمًا.

هل يمتلك Xiaomi AI Cube فعلًا عرض نطاق ذاكرة يبلغ 1.22 تيرابايت/ثانية؟

نشرت Xiaomi رقمًا لعرض نطاق ترددي قريب من الذاكرة يبلغ 1.22 تيرابايت/ثانية لمسرّع XRING O100، لكن ذلك لا يثبت أن مجمّع الذاكرة الكامل بسعة 80 غيغابايت في AI Cube يعمل بعرض نطاق ترددي يبلغ 1.22 تيرابايت/ثانية.

أصبح هذا التمييز أحد أهم الأسئلة التقنية المتعلقة بالنموذج الأولي.

يتموضع O100 كمسرّع للذكاء الاصطناعي ذي عرض نطاق ترددي مرتفع، ويستخدم التكديس ثلاثي الأبعاد على مستوى الرقاقة. أما D100 فهو معالج منفصل للذكاء الاصطناعي عالي القدرة الحاسوبية، مع دعم لتكوينات ذاكرة أكبر بكثير، في حين أن O3 هو النظام على شريحة للاستخدامات العامة.

لم تنشر Xiaomi بعد مخططًا لكتل الذاكرة يوضّح:

• كيفية توزيع مجمّع الذاكرة بسعة 80 غيغابايت،
• أي شريحة تملك أي ذاكرة،
• أي جزء يمكنه الوصول إلى مسار O100 الأعلى عرضًا للنطاق الترددي،
• عرض النطاق الترددي بين الشرائح،
• حيث توجد أوزان النموذج ذي 120 مليار معلمة،
• أو حيث تُحافَظ على ذاكرة التخزين المؤقت KV.

تُوجَز مواصفات المعالجات المتاحة في مواصفات إطلاق Xiaomi XRING.

لاحظ مستخدمو الذكاء الاصطناعي المحلي الغموض نفسه تقريبًا على الفور. وقد ركزت مناقشة LocalLLaMA حول AI Cube بشكل كبير على علاقة عرض النطاق الترددي لـO100 بـD100 وبمجمع الذاكرة الأكبر في Cube.

إلى أن تنشر Xiaomi البنية الطوبولوجية، فإن التفسير الأكثر أمانًا بسيط: ‏1.22TB/s هي مواصفة لـO100، وليست قيمة مؤكدة لعرض النطاق الترددي لكل بايت من ذاكرة AI Cube البالغة 80GB.

لماذا يُعد عرض نطاق الذاكرة مهمًا للذكاء الاصطناعي المحلي؟

ينقل استدلال النماذج الكبيرة بيانات النموذج مرارًا عبر الذاكرة أثناء توليد الرموز. وهذا يعني أن العمليات الحسابية للمسرّع ليست سوى جزء واحد من الأداء.

يمكن لجهاز أن يعلن عن عدد هائل من TOPS، بينما يظل في انتظار وصول البيانات إلى وحدات الحوسبة لديه. لذلك قد يصبح فك الترميز رمزًا تلو الآخر حساسًا بدرجة كبيرة لعرض نطاق الذاكرة.

ولهذا السبب تثير بنية O100 الاهتمام، رغم أن تقنية تصنيعها بدقة 6 نانومتر تبدو أقل تقدمًا من شرائح Xiaomi الأحدث. إذ يستهدف تصميمها أعباء عمل الذكاء الاصطناعي ذات عرض النطاق الترددي العالي والقريبة من الذاكرة، بدلًا من تعظيم القدرة الحسابية المعلنة فحسب.

بالنسبة إلى نماذج اللغة الكبيرة المحلية، يمكن أن يخبرك عرض نطاق الذاكرة أحيانًا عن الاستدلال العملي أكثر مما يخبرك رقم TOPS ضخم.

لكن الأداء الفعلي لـ120B على Cube يظل مجهولًا إلى أن تنشر Xiaomi معايير أداء على مستوى النظام، بدلًا من مواصفات الشرائح الفردية.

لماذا تشغيل نموذج 3B إذا كان بإمكان Xiaomi AI Cube تشغيل نموذج 120B؟

قد يكشف نموذج 3B الصغير في الواقع المزيد عن بنية AI Cube مقارنةً بنموذج 120B الذي يحظى بالاهتمام الإعلامي.

إن استخدام أكبر نموذج متاح لكل طلب سيهدر زمن الاستجابة وعرض نطاق الذاكرة والطاقة في أعمال لا تتطلب استدلالًا بمستوى النماذج الرائدة.

يمكن لنموذج صغير أن يتولى، من حيث المبدأ، أعباء العمل الروتينية مثل:

• واكتشاف النوايا،
• والتصنيف،
• والتوجيه،
• والتحويلات القصيرة،
• واستخراج البيانات الوصفية،
• وضع علامات على الملفات،
• والمهام الخلفية الخفيفة.

يمكن عندها تخصيص النموذج الأكبر للأعمال الأصعب، مثل البرمجة المعقدة والتخطيط والاستدلال الصعب والتركيب المطوّل.

وهذا ينشئ بنية مفيدة:

نموذج محلي صغير للحمل الأساسي، ونموذج محلي أكبر للتصعيد.

أكدت Xiaomi التبديل بين الوضعين السريع والبطيء، لكنها لم تنشر سياسة التوجيه الفعلية. لذلك، سيكون من باب التكهن الادعاء بأن مهام محددة تُسند بالفعل إلى نموذجَي 3B أو 120B.

الفكرة الأوسع ذات صلة بالفعل بأحمال عمل الذكاء الاصطناعي المحلية وذات المستوى الحدّي الحديثة: لا يحتاج أقوى نموذج إلى أن يكون الخيار الافتراضي لكل طلب.

لماذا يحتاج Xiaomi AI Cube إلى ثلاث شرائح مختلفة للذكاء الاصطناعي؟

عادةً ما تجمع محطة العمل التقليدية للذكاء الاصطناعي المحلي بين وحدة معالجة مركزية متعددة الأغراض وذاكرة نظام ووحدة أو أكثر من وحدات معالجة الرسومات المنفصلة.

أما AI Cube فيجمع بين ثلاثة معالجات ذات أدوار معلنة مختلفة.

يشير هذا إلى حوسبة غير متجانسة للذكاء الاصطناعي المحلي: استخدام شرائح مختلفة لخصائص أحمال العمل المختلفة بدلًا من مطالبة وحدة معالجة رسومات كبيرة واحدة بتنفيذ كل شيء.

ومع ذلك، لم تنشر Xiaomi خريطة تنفيذ مفصلة لكل شريحة. ولا نعرف بعد ما إذا كان O3 يشغّل النموذج الصغير، أو ما إذا كان O100 يتولى مرحلة استدلال معينة، أو ما إذا كان D100 مسؤولًا عن مسار تنفيذ النموذج الأكبر.

هذه فرضيات هندسية معقولة، وليست تفاصيل تنفيذ مؤكدة.

هل يحاول Xiaomi AI Cube أن يصبح بديلًا لـ DGX Spark؟

من الناحية المعمارية، ينتمي AI Cube إلى الفئة الناشئة نفسها التي ينتمي إليها DGX Spark وأنظمة Apple Silicon ذات الذاكرة العالية: أجهزة شخصية مصممة لإبقاء نماذج الذكاء الاصطناعي الكبيرة بصورة غير معتادة قريبة من المستخدم.

عمليًا، ما زالت المقارنة المباشرة سابقة لأوانها.

لا تقتصر ميزة DGX Spark على الأجهزة. إذ توفر NVIDIA CUDA ومكتبات ناضجة وبيئات تشغيل للاستدلال ونظامًا بيئيًا راسخًا للمطورين.

وهذا يجعل السؤال التالي حول AI Cube متعلقًا بالبرمجيات أكثر من السيليكون.

ما البرامج التي سيشغّلها Xiaomi AI Cube فعليًا؟

إن سعة الأجهزة لا تنشئ تلقائيًا منصة مفيدة للذكاء الاصطناعي المحلي.

سيرغب المطورون في نهاية المطاف في الحصول على إجابات واضحة حول دعم:

• وllama.cpp،
• وOllama،
• وvLLM،
• وPyTorch،
• وبيئات تطوير Linux،
• وأحمال عمل Docker أو الحاويات،
• وتنسيقات GGUF وتنسيقات التكميم الشائعة،
• وواجهات برمجة التطبيقات المتوافقة مع OpenAI،
• وأطر الضبط الدقيق،
• وأطر تشغيل الوكلاء الحالية.

عرضت Xiaomi أحمال عمل برمجية، لكنها لم تنشر مصفوفة توافق واسعة من جهات خارجية لـ AI Cube.

وهذا مهم لأن المسرّع القوي ذي دعم بيئة تشغيل ضعيف قد يكون أقل فائدة من أجهزة أبطأ تدعمها نوى ناضجة، وبرامج تشغيل مستقرة، وتحويل سهل للنماذج، ومجتمع كبير من المطورين.

ويظهر هذا القلق مرارًا في نقاش LocalLLaMA أيضًا. فالمستخدمون لا يقيّمون AI Cube استنادًا إلى 80GB و120B فقط؛ بل يتساءلون عما إذا كان بإمكان XRING تطوير منظومة البرمجيات اللازمة لجعل هذه المواصفات مفيدة.

يحتاج حاسوب الذكاء الاصطناعي الشخصي إلى منصة برمجية، وليس إلى مسرّع للذكاء الاصطناعي فحسب.

هل يُعد AI Cube حاسوبًا شخصيًا أم محطة عمل أم خادم ذكاء اصطناعي يعمل باستمرار؟

قد يكون AI Cube أكثر إثارة للاهتمام بوصفه جهاز حوسبة شخصيًا للذكاء الاصطناعي منه بوصفه حاسوبًا تقليديًا.

يكون الحاسوب التقليدي تفاعليًا في الغالب: إذ تعمل التطبيقات عندما يفتحها المستخدم. أما عقدة الذكاء الاصطناعي الشخصية فيمكنها إبقاء النماذج متاحة باستمرار من أجل:

• ووكلاء البرمجة،
• والاستدلال في الخلفية،
• ومعالجة المستندات،
• والتحليل الخاص متعدد الوسائط،
• وواجهات برمجة تطبيقات الذكاء الاصطناعي المحلية،
• وسير عمل RAG،
• والأتمتة طويلة الأمد.

وهذا يغيّر أولويات الأجهزة لتشمل الذاكرة الدائمة، والتبريد المستمر، والاستدلال القابل للتنبؤ، وعرض النطاق الترددي العالي، والخدمات المحلية المستقرة.

ولهذا أيضًا تبدو وكلاء الذكاء الاصطناعي المحليون أولًا الناشئون بشكل متزايد أقرب إلى أحمال البنية التحتية من كونهم تطبيقات سطح مكتب عادية.

إذا كان AI Cube هو عقدة الحوسبة، فأين توجد بيانات الذكاء الاصطناعي الخاصة بك؟

لا يحل حاسوب مخصص للذكاء الاصطناعي تلقائيًا محل الخادم المنزلي أو وحدة NAS، لأن الاستدلال والبيانات الدائمة يعالجان مشكلتين مختلفتين.

تُحسَّن عقدة حوسبة الذكاء الاصطناعي لتلبية احتياجات:

• وأوزان النماذج،
• والذاكرة ذات النطاق الترددي العالي،
• والمسرّعات،
• والاستدلال بزمن انتقال منخفض،
• وأحمال الاستدلال.

تُحسَّن البنية التحتية المحلية الدائمة لتلبية احتياجات:

• والمستندات،
• والصور والفيديوهات،
• ومستودعات الأكواد،
• وملفات مصدر RAG،
• وقواعد البيانات المتجهية،
• وذاكرة الوكيل،
• والسجلات،
• والنسخ الاحتياطية،
• والتطبيقات التي تعمل باستمرار.

هذا التمييز مهم لأن الحوسبة الخاصة بالذكاء الاصطناعي تتغير بوتيرة أسرع من البيانات الشخصية. فقد تُستبدل النماذج والمسرّعات وبيئات التشغيل كل بضع سنوات؛ بينما ينبغي أن تظل الملفات وسجل المشاريع والمعرفة الخاصة مستقرة.

يظهر الفصل نفسه عند تحديد ما إذا كان ينبغي لـ الذكاء الاصطناعي المحلي وتخزين الملفات مشاركة جهاز واحد أو تقسيمهما بين أنظمة متخصصة.

ويمكن لخادم دائم أيضًا توفير الملفات الخاصة وفهارس الاسترجاع والسياق الدائم الذي يستخدمه مساعد ذكاء اصطناعي خاص على NAS، من دون الحاجة إلى أن يستضيف الصندوق نفسه أكبر نموذج ممكن.

يشير AI Cube إلى أن الحوسبة الشخصية للذكاء الاصطناعي قد تصبح قابلة للاستبدال، بينما تظل بيانات الذكاء الاصطناعي الشخصية مستمرة.

ما الذي ما زلنا لا نعرفه عن Xiaomi AI Cube؟

ومن المهم أيضًا عدم دمج أرقام المعايير من منصة عرض O100 المنفصلة من Xiaomi مع أرقام AI Cube.

أظهر نموذج أولي مختلف يجمع بين O3 وO100 معدلًا مرتفعًا لتوليد الرموز المميزة على عبء عمل MiMo أصغر بكثير. وهذا لا يعني أن AI Cube يشغّل نموذجه ذي 120 مليار معلمة بالمعدل نفسه. يتناول عرضا Xiaomi للنماذج الأولية هذا الفرق.

هل يجب أن يكون Xiaomi AI Cube رخيصًا حتى يكون مهمًا؟

كاستعراض معماري، لا. أما كفئة جديدة من الحوسبة الشخصية، فنعم بالتأكيد.

إذا وصلت أجهزة الذكاء الاصطناعي المحلية ذات الذاكرة الكبيرة إلى أسعار محطات العمل الاستهلاكية المتطورة، فقد تجعل تشغيل نماذج محلية من فئة 100 مليار معلمة عمليًا لعدد أكبر بكثير من المطورين.

إذا كان السعر النهائي أعلى بعدة مرات، فستتحول الأجهزة نفسها إلى محطة عمل متخصصة للذكاء الاصطناعي بدلًا من كونها كمبيوتر شخصيًا للذكاء الاصطناعي موجهًا للسوق الواسعة.

بدأ مستخدمو Reddit بالفعل في التكهن بقوة بشأن السعر، لكن Xiaomi لم تعلن عن أي سعر. وإلى أن يتوفر منتج تجاري، ينبغي أن تظل تقديرات السعر مجرد تكهنات.

ولهذا السبب أيضًا تُعدّ مقارنات تكاليف الذكاء الاصطناعي المحلي على المدى الطويل أهم من سعر الأجهزة وحده: إذ يؤثر معدل الاستخدام وحجم النموذج والكهرباء وارتفاع تكاليف الخدمات السحابية جميعًا في مدى جدوى الحوسبة المحلية المخصصة اقتصاديًا.

هل يُعدّ Xiaomi AI Cube مستقبل الكمبيوتر الشخصي للذكاء الاصطناعي؟

ربما من الناحية المعمارية، حتى لو لم يبدُ حاسوب الذكاء الاصطناعي الشخصي النهائي مطابقًا تمامًا لهذا النموذج الأولي.

الأفكار المهمة هي:

• ذاكرة مشتركة كبيرة مصممة بما يتناسب مع أوزان النماذج،
• تسريع الذكاء الاصطناعي ذي النطاق الترددي العالي،
• معالجات غير متجانسة،
• إتاحة النماذج الصغيرة والكبيرة معًا،
• حوسبة مستمرة بدلًا من حوسبة لا تتجاوز فترات الاندفاع،
• تشغيل النماذج محليًا،
• وخدمات الذكاء الاصطناعي التي تظل متاحة باستمرار.

وهذا أهم من مجرد إضافة NPU إلى جهاز كمبيوتر عادي وتسميته كمبيوترًا للذكاء الاصطناعي.

يبدأ AI Cube من عبء عمل النموذج ويصمّم الجهاز حوله.

لا يزال النموذج الأولي يثير أسئلة جوهرية لم تُجب عنها: أداء 120B، وبنية الذاكرة، ودعم البرامج، والسعر، والتوافر. لكن البنية تشير إلى مستقبل محتمل يمتلك فيه الذكاء الاصطناعي المحلي طبقة حوسبة مخصصة، بينما تظل الملفات والذاكرة والحالة طويلة الأمد على بنية تحتية محلية دائمة.

قد لا يكون حاسوب الذكاء الاصطناعي الشخصي جهاز كمبيوتر يشغّل الذكاء الاصطناعي من حين إلى آخر. بل قد يكون عقدة حوسبة محلية متاحة دائمًا، صُممت لتشغيل نماذج متعددة، مع بقاء بيانات المستخدم الدائمة مستقلة عن أي مسرّع يصادف أنه الأسرع هذا العام.

الأسئلة الشائعة: Xiaomi AI Cube والنماذج المحلية بحجم 120B

هل يستطيع Xiaomi AI Cube تشغيل نموذج 120B من دون السحابة؟

تقول Xiaomi إن النموذج الأولي قادر على نشر نموذج 120B محليًا. لكن الشركة لم تنشر التكميم الدقيق أو طول السياق أو إعدادات وقت التشغيل المستخدمة لهذا النشر.

ما مقدار الذاكرة التي يحتاج إليها نموذج 120B؟

تتطلب أوزان نموذج 120B الخام نحو 240 غيغابايت بدقة FP16، و120 غيغابايت بدقة 8-bit، ونحو 60 غيغابايت بدقة 4-bit، وذلك قبل احتساب الحمل الزائد لوقت التشغيل. ويعتمد الاستخدام الفعلي للذاكرة أيضًا على بيانات التكميم الوصفية، وذاكرة التخزين المؤقت KV، وطول السياق، وبرنامج الاستدلال.

هل يدعم Xiaomi AI Cube تطبيق Ollama؟

لم تؤكد Xiaomi دعم Ollama علنًا. ولا يزال التوافق مع Ollama وllama.cpp وvLLM وغيرها من أُطر تشغيل الذكاء الاصطناعي المحلي الشائعة من أكبر الأسئلة البرمجية التي لم تُجب عنها.

ما نموذج 120B الذي يشغّله Xiaomi AI Cube؟

ربطت تقارير عامة النموذج الأولي بعائلة نماذج MiMo من Xiaomi، لكن وصف Xiaomi العلني لـ AI Cube لم يقدّم مواصفات كاملة للنموذج أو الإصدار أو التكميم.

هل يمكن شراء Xiaomi AI Cube؟

ليس حاليًا. قُدّم AI Cube بوصفه نموذجًا أوليًا هندسيًا، ولم تعلن Xiaomi سعر التجزئة أو تاريخ الشحن لهذا الجهاز تحديدًا.

هل يُعد Xiaomi AI Cube بديلًا عن جهاز NAS أو خادم منزلي؟

ليس بالضرورة. صُمّم AI Cube للاستدلال بالذكاء الاصطناعي الذي يتطلب ذاكرة كبيرة، بينما يناسب جهاز NAS أو الخادم المنزلي الملفات الدائمة، ومصادر RAG، وقواعد البيانات، والنسخ الاحتياطية، وحالة الوكلاء، وغيرها من الخدمات التي تعمل دائمًا. ويمكن للدورين أن يكمّلا بعضهما.