‏GLM 5.3 مقابل Kimi K3: أيهما يعمل بشكل أفضل محليًا؟

إن GLM-5.3-Flash وKimi K3 نموذجان مفتوحا الأوزان بمقياس رائد في المجال، مبنيان حول بنيات مزيج الخبراء المتناثرة، وقدرات متعددة الوسائط، ونوافذ سياق طويلة جدًا. وقد يبدوان على الورق منافسين طبيعيين. لكن عند النشر محليًا، يكون موقع النموذج في الاختبارات المعيارية أقل أهمية من سؤال عملي أكثر: ما مقدار العتاد المطلوب لتخزين الأوزان المُصدرة وتحميلها وتقديمها؟

الفرق كبير. إذ يضم GLM-5.3-Flash نحو 320 مليار مَعلمة إجمالًا، مع تفعيل نحو 18 مليار مَعلمة لكل رمز. وتبلغ نقطة التحقق الأصلية بصيغة FP8 نحو 306 GiB. أما Kimi K3 فأكبر بكثير، إذ يضم 2.8 تريليون مَعلمة إجمالًا ونحو 104 مليارات مَعلمة مُفعّلة لكل رمز، ما يدفع النموذج المُصدَر إلى فئة مختلفة تمامًا من حيث الذاكرة والبنية التحتية.

لا يندرج أيٌّ من النموذجين ضمن الفئة نفسها التي تضم نموذجًا بـ7 مليارات أو 14 مليارًا أو 30 مليار مَعلمة، يمكن تنزيله وتشغيله بسهولة على جهاز كمبيوتر مكتبي عادي. لكن إذا كان السؤال هو أيّ النموذجين أكثر واقعية للتشغيل على العتاد الذي تتحكم فيه شخصيًا، فإن GLM-5.3-Flash هو الخيار الأسهل.

لماذا لا تخبرك المَعلمات المُفعّلة بما يتسع له نطاق الذاكرة

أسهل خطأ في هذه المقارنة هو النظر إلى عدد المَعلمات المُفعّلة فقط.

يُفعّل GLM-5.3-Flash نحو 18 مليار مَعلمة لكل رمز. وهذا لا يعني أن بصمته في الذاكرة تضاهي نموذجًا كثيفًا عاديًا يضم 18 مليار مَعلمة. إذ يختار الموجّه جزءًا فقط من شبكة الخبراء لإجراء الحسابات، لكن يجب أن تظل مجموعة الخبراء الكاملة متاحة لأن الرموز اللاحقة قد تُفعّل خبراء مختلفين.

لهذا السبب لا يزال النموذج الكامل يحتاج إلى نحو 306 GiB لأوزانه الأصلية بصيغة FP8. ويُعد الفرق بين إجمالي 320 مليار مَعلمة و18 مليار مَعلمة مُفعّلة من أهم النقاط عند التخطيط لتشغيل GLM-5.3-Flash محليًا ومتطلبات العتاد وذاكرة RAM وذاكرة VRAM: إذ يقلل التفعيل المتناثر الحسابات لكل رمز، لكنه لا يجعل الخبراء المتبقين يختفون من التخزين أو الذاكرة.

يتبع Kimi K3 المبدأ نفسه على نطاق أكبر بكثير. فهو يفعّل نحو 104B معلمة لكل رمز، مع الاحتفاظ بنموذج يضم 2.8T معلمة. وهذا يجعل الحوسبة النشطة أصغر بكثير من إجمالي الشبكة، لكن نظام الاستدلال لا يزال بحاجة إلى الوصول إلى مجموعة الأوزان الكاملة.

ونتيجة لذلك، فإن حساب المعلمات النشطة البالغ عددها 104B فقط والتعامل مع Kimi K3 كما لو كان نموذجًا تقليديًا من فئة 104B يقلل كثيرًا من متطلبات نشره.

أي نموذج أسهل للمواءمة محليًا؟

وهنا تصبح المقارنة حاسمة.

GLM-5.3-Flash: صعب، لكن التجربة على مستوى محطات العمل ممكنة

تشغل نقطة تحقق GLM-5.3-Flash الأصلية بصيغة FP8 نحو 306 GiB. وهذا يضع النموذج الكامل بالفعل خارج نطاق الحواسيب الشخصية وأجهزة Mac والأنظمة التقليدية ذات وحدة معالجة رسومات واحدة.

لكن وجود مسار موثق هجين بين المعالج ووحدة معالجة الرسومات يغيّر معنى «محلي». فبدلًا من إجبار النموذج بأكمله على الدخول في ذاكرة وحدة معالجة الرسومات، يمكن إبقاء جزء من بيانات الخبراء في ذاكرة النظام الكبيرة، بينما تسرّع موارد وحدة معالجة الرسومات المدعومة أجزاءً محددة من الاستدلال.

هذا لا يجعل GLM-5.3-Flash نموذجًا عاديًا لأجهزة الألعاب. بل ينقل هدف النشر من «عنقود وحدات معالجة رسومات للمؤسسات فقط» إلى «محطة عمل متخصصة عالية الذاكرة» لأغراض التجربة. ولا يزال النظام من هذه الفئة يحتاج إلى سعة كبيرة جدًا من ذاكرة الوصول العشوائي، وعرض نطاق ذاكرة كافٍ، وتعليمات معالج مدعومة، ووحدات معالجة رسومات متوافقة، ومساحة تخزين احتياطية كافية لنقطة التحقق وملفات وقت التشغيل.

Kimi K3: يتحول التشغيل المحلي سريعًا إلى مستوى العناقيد

يبدأ Kimi K3 من بصمة مادية أكبر بكثير. إذ يدفع إجمالي عدد معلماته البالغ 2.8T الأوزان المُصدرة إلى فئة تقارب 1.5 تيرابايت قبل احتساب الحمل الزائد لوقت التشغيل، وذاكرة التخزين المؤقت، ومخازن الاتصال المؤقتة، وحالة الخدمة الأخرى.

يحوّل ذلك المشكلة من «ما مقدار ذاكرة الوصول العشوائي التي يمكن لمحطة عمل استيعابها؟» إلى «ما نوع طوبولوجيا المسرّعات ونسيج الذاكرة القادر على نقل هذا النموذج بكفاءة؟» لذلك، لا تتحدد قيود النشر المحلي لـ Kimi K3 بالسعة الخام فحسب، بل أيضًا بعدد المسرّعات، وتوازي الخبراء، والاتصال بين العقد، وعرض نطاق الذاكرة.

من الممكن تقنيًا تجربة التفريغ المكثف إلى ذاكرة الوصول العشوائي أو SSD أو التخزين الشبكي، لكن هناك فرق كبير بين تحميل نقطة تحقق وتشغيلها تفاعليًا. فبمجرد أن تضطر أوزان الخبراء الكبيرة إلى الانتقال بشكل متكرر عبر وحدات تخزين ووصلات بينية أبطأ، يمكن أن يصبح النطاق الترددي عنق الزجاجة قبل وقت طويل من نفاد سعة القرص.

هل يتفوق GLM-5.3-Flash على وحدات معالجة الرسومات الاستهلاكية؟

ليس تمامًا.

لا يمكن لوحدة RTX 4090 أو RTX 5090 واحدة الاحتفاظ بنقطة تحقق GLM-5.3-Flash الكاملة في ذاكرة VRAM. ويعتمد أي مسار محلي باستخدام وحدة معالجة رسومات واحدة على تصميم هجين يبقى فيه جزء كبير جدًا من النموذج في ذاكرة النظام.

لذلك، فإن الاستنتاج الصحيح ليس:

«يعمل GLM-5.3-Flash على وحدة معالجة رسومات مخصصة للألعاب.»

إنه:

«يمكن لـ GLM-5.3-Flash استخدام وحدة معالجة رسومات من فئة الأجهزة الاستهلاكية المدعومة كجزء من نظام استدلال هجين متخصص ذي ذاكرة كبيرة.»

يهم هذا التمييز لأن وحدة معالجة الرسومات ليست سوى جزء واحد من ميزانية العتاد. فقد تحدد قدرة المعالج المركزي، وسعة RAM، وعرض نطاق RAM، وعرض نطاق PCIe، وطول السياق، وضبط بيئة التشغيل ما إذا كان النموذج قابلًا للتحميل فحسب أو قابلًا للاستخدام فعليًا.

يبتعد Kimi K3 أكثر عن سيناريو النشر المعتاد على وحدة معالجة رسومات استهلاكية. فالنموذج الكامل ضخم إلى حد يجعل إضافة وحدة أو وحدتي معالجة رسومات متطورتين لا تغيّر مشكلة الذاكرة الإجمالية تغييرًا جوهريًا. وعند تشغيله بكامل حجمه، يلائم بصورة طبيعية أكثر بيئات التقديم المؤسسية متعددة المسرّعات أو الموزعة.

ما مقدار مساحة التخزين التي ينبغي التخطيط لها؟

يكشف التخزين وحده بالفعل مدى اختلاف هذين النموذجين.

بالنسبة إلى GLM-5.3-Flash، فإن نحو 306 جيبيبايت لا تمثل سوى الحجم الأصلي لأوزان FP8. ويحتاج النظام العامل أيضًا إلى مساحة لتنزيلات النموذج، وصور الحاويات، وذاكرات الحزم المؤقتة، والسجلات، والملفات المؤقتة، وربما نقاط تحقق بديلة. لذلك، لا يكفي حجز مساحة مساوية تمامًا لحجم نقطة التحقق.

يتطلب Kimi K3 هامشًا أكبر بكثير. وبمجرد أن يشغل النموذج المُصدَر مساحة تقارب فئة 1.5 تيرابايت، يمكن لإصدارات النماذج المتعددة، وبيئات التشغيل، والتنزيلات المؤقتة، وذاكرات التخزين المؤقت أن تدفع إجمالي استهلاك التخزين سريعًا إلى عدة تيرابايتات.

يمكن أن تكون وحدة NAS مفيدة لتخزين أوزان أيٍّ من النموذجين، ومجموعات البيانات، ومجموعات بيانات RAG، والسجلات، والنسخ الاحتياطية. لكن تخزين النموذج لا يعادل تشغيله لتقديم الاستدلال. يعتمد أداء الاستدلال على مدى سرعة وصول الأوزان المطلوبة إلى ذاكرة المعالج المركزي أو المسرّع أثناء التوليد.

ماذا عن نافذة السياق التي تبلغ مليون رمز؟

يدعم كلا النموذجين أطوال سياق تصل إلى نحو مليون رمز، لكن ينبغي التعامل مع هذا الرقم على أنه حد أقصى للقدرة، وليس إعدادًا افتراضيًا مناسبًا للنشر المحلي.

يزيد السياق الأطول من أعمال التهيئة المسبقة، وحالة الانتباه، واستخدام الذاكرة المؤقتة، والضغط على الذاكرة. ويضاعف التزامن المشكلة، لأن الخادم يجب أن يحتفظ بحالة عدة طلبات نشطة في الوقت نفسه. كما تضيف المطالبات متعددة الوسائط طبقة أخرى من الموارد من خلال ترميز الصور أو الفيديو.

لذلك، ينبغي أن يبدأ النشر المحلي العملي بسياق أقصر بكثير، وحجم دفعة يساوي واحدًا، وتزامن منخفض، وطلبات نصية فقط. وبعد فهم استهلاك الذاكرة وزمن الاستجابة، يمكن زيادة طول السياق والمدخلات متعددة الوسائط تدريجيًا.

أيّهما أفضل لمختبر منزلي؟

إذا كان المقصود بـ«مختبر منزلي» خادمًا عاديًا مزودًا بذاكرة RAM بسعة 32 أو 64 أو 128 أو حتى 256 غيغابايت، بالإضافة إلى وحدة معالجة رسومات استهلاكية واحدة، فالإجابة بسيطة: لا يُعد أيٌّ من النموذجين الكاملين مناسبًا بشكل طبيعي.

يكون الخادم المنزلي أكثر فائدة بوصفه البنية التحتية المحيطة بالذكاء الاصطناعي. إذ يمكنه تخزين المستندات الخاصة وملفات النماذج، واستضافة قاعدة بيانات متجهية، والحفاظ على فهرس RAG، وتشغيل واجهة أمامية للتطبيق، ومعالجة المصادقة، وإدارة بيانات المستخدمين، وتشغيل نماذج محلية أصغر، وتوجيه الاستدلال الأثقل إلى جهاز أو واجهة برمجة تطبيقات أخرى.

غالبًا ما يكون هذا الفصل أفضل من إجبار كل جزء من مكدس الذكاء الاصطناعي على العمل في جهاز واحد. فالتخزين والاسترجاع والتطبيقات والتنسيق والاستدلال لها متطلبات مختلفة من الأجهزة، ولا يوجد سبب يلزمها جميعًا بالعمل على الجهاز نفسه.

بالنسبة إلى المستخدمين القادرين على بناء محطة عمل متخصصة تحتوي على مئات الجيجابايت من ذاكرة الوصول العشوائي، مع أجهزة مدعومة تجمع بين وحدة المعالجة المركزية ووحدة معالجة الرسومات، يصبح GLM-5.3-Flash أكثر واقعية بكثير. أما Kimi K3 فيظل، عند تشغيله بالحجم الكامل، أقرب بكثير إلى نطاق مراكز البيانات.

GLM 5.3 مقابل Kimi K3: أيّهما أسرع محليًا؟

لا يوجد رقم واحد لعدد الرموز في الثانية يمكنه الإجابة عن هذا السؤال بعدل.

يعتمد الأداء على مكان وجود الأوزان، والمسرّع المستخدم، وعرض نطاق الذاكرة، وطول السياق، والتزامن، وبيئة التشغيل، والتكميم، ومقدار البيانات التي يجب نقلها بين وحدة المعالجة المركزية ووحدة معالجة الرسومات والتخزين أو بين عُقد متعددة.

قد يتفوق عنقود Kimi K3 مقيم بالكامل على وحدات معالجة الرسومات في الأداء على محطة عمل GLM-5.3-Flash التي تُرحِّل جزءًا كبيرًا من الحمل إلى مكوّنات أخرى. لكن ذلك لا يعني أن تشغيل Kimi K3 محليًا أسهل؛ بل يعني ببساطة أنه خُصصت له أجهزة أغلى بكثير.

ضمن القيد الأكثر فائدة، وهو مدى صعوبة استضافة النموذج الكامل المُصدَر ذاتيًا لفرد أو مختبر صغير، يتمتع GLM-5.3-Flash بموقف أقوى للنشر المحلي، لأن نقطة التحقق الخاصة به أصغر بكثير، ولأن مسارًا هجينًا يعتمد على ذاكرة وصول عشوائي كبيرة موثّق.

GLM 5.3 مقابل Kimi K3: أيّهما ينبغي أن تختار؟

اختر GLM-5.3-Flash إذا كانت أولويتك هي تجربة نموذج مفتوح رائد واسع النطاق على أجهزة تتحكم بها شخصيًا، وكنت مستعدًا لبناء نظام متخصص عالي الذاكرة. لا تزال نقطة التحقق FP8 التي تبلغ نحو 306 جيبيبايت ضخمة، لكنها أقرب بكثير إلى التجربة على مستوى محطات العمل من Kimi K3.

اختر Kimi K3 إذا كان لديك وصول إلى بنية تحتية مؤسسية للمسرّعات وترغب في العمل مع بنيته الأكبر بكثير، البالغة 2.8 تريليون مُعامِل. عند التشغيل بالحجم الكامل، تجعل متطلبات الذاكرة والطوبولوجيا استخدامه أكثر ملاءمة للنشر متعدد وحدات معالجة الرسومات أو للنشر الموزّع.

بالنسبة إلى مستخدمي الذكاء الاصطناعي المحلي العاديين، لا ينبغي أن يكون أيٌّ من النموذجين الخيار الافتراضي. فعادةً ما يوفّر نموذج أصغر مكمَّم توازنًا أفضل بين زمن الاستجابة واستهلاك الطاقة واستهلاك الذاكرة والموثوقية والتكلفة.

الأسئلة الشائعة

هل يمكن لـ GLM-5.3-Flash العمل على RTX 4090 أو RTX 5090 واحدة؟

ليس بالكامل ضمن ذاكرة وحدة معالجة الرسومات. فنقطة التحقق الكاملة FP8 أكبر بكثير من ذاكرة الفيديو (VRAM) في أي وحدة معالجة رسومات استهلاكية واحدة. ويمكن للنشر الهجين استخدام وحدة معالجة رسومات مدعومة مع مجموعة كبيرة جدًا من ذاكرة النظام، لكن الأداء يعتمد بشدة على قدرات وحدة المعالجة المركزية، وعرض نطاق ذاكرة الوصول العشوائي، وعرض نطاق PCIe، وطول السياق، وإعدادات بيئة التشغيل.

هل يمكن لـ Kimi K3 العمل على وحدة معالجة رسومات استهلاكية واحدة؟

ليس عمليًا باعتباره النموذج الكامل المُصدَر. فمتطلبات نشره، التي تقع ضمن فئة أحجام متعددة التيرابايت، تتجاوز بكثير سعة ذاكرة وحدة معالجة رسومات استهلاكية واحدة، كما أن تقديمه على نطاق كامل يتوافق بصورة طبيعية أكبر مع عتاد المؤسسات متعدد المسرّعات أو العتاد الموزع.

هل GLM-5.3-Flash نموذج فعليًا بحجم 18 مليار معلمة؟

لا. يتم تنشيط نحو 18 مليار معلمة لكل رمز، لكن النموذج الكامل يحتوي على نحو 320 مليار معلمة. يقلل التنشيط المتناثر الحسابات لكل رمز؛ لكنه لا يقلل مجموعة الأوزان الكاملة إلى 18 مليار معلمة.

هل Kimi K3 نموذج فعليًا بحجم 104 مليارات معلمة؟

لا. يتم تنشيط نحو 104 مليارات معلمة لكل رمز، لكن النموذج الكامل يحتوي على 2.8 تريليون معلمة. ولا تزال الخبراء المتبقون جزءًا من نقطة التحقق، ويجب أن يظلوا متاحين لنظام الاستدلال.

أيّ نموذج يحتاج إلى ذاكرة أقل؟

GLM-5.3-Flash بفارق كبير. فنقطة التحقق الأصلية FP8 يبلغ حجمها نحو 306 جيبيبايت، بينما ينتمي Kimi K3 إلى فئة أوزان يبلغ حجمها نحو 1.5 تيرابايت. ويتطلب كلاهما سعة إضافية لحالة التشغيل، وذاكرة التخزين المؤقت، والتنشيطات، والهامش التشغيلي.

أيّ نموذج أكثر واقعية للذكاء الاصطناعي المحلي؟

GLM-5.3-Flash. لا يزال يتجاوز بكثير قدرات العتاد المكتبي السائد، لكن نقطة التحقق الأصغر حجمًا ومسار النشر الهجين الموثق بين وحدة المعالجة المركزية ووحدة معالجة الرسومات يجعلان استضافته ذاتيًا أكثر سهولة بكثير للمستخدمين المتقدمين مقارنةً بـ Kimi K3.

الخلاصة النهائية

إذا كان «يعمل محليًا» يعني ببساطة أن الأوزان المُصدرة يمكن نشرها تقنيًا على عتاد تتحكم فيه، فإن كلًّا من GLM-5.3-Flash وKimi K3 يستوفي هذا الشرط.

إذا كان المقصود هو بناء نظام مستضاف ذاتيًا يمكن لفرد أو مختبر صغير تشغيله واقعيًا، فسيكون الفرق أوضح بكثير.

GLM-5.3-Flash هو النموذج المحلي الأفضل.

لا تزال معلماته البالغ إجماليها 320 مليارًا ونقطة التحقق الأصلية FP8 التي يبلغ حجمها نحو 306 جيبيبايت تتطلب عتادًا متخصصًا، لكنها تتيح مسارًا عمليًا لتجارب محطات العمل ذات الذاكرة الكبيرة.

Kimi K3 أكبر منه بعدة مستويات. فإجمالي معلماته البالغ 2.8 تريليونًا وحجم أوزانه الذي يبلغ نحو 1.5 تيرابايت يجعلان من الأنسب فهمه كنموذج عناقيد مفتوح الأوزان، لا كنموذج لغوي كبير تقليدي يعمل محليًا.

لذلك فإن التسلسل العملي واضح: استخدم GLM-5.3-Flash لتجارب محطات العمل المتخصصة، وفكّر في أيٍّ من النموذجين عند توفر بنية تحتية لمسرّعات المؤسسات، واختر نموذجًا أصغر عندما يكون الهدف جهازًا مكتبيًا عاديًا أو خادمًا منزليًا.