Does 2B active mean the model needs the memory of a 2B dense model?

No. Account for the total artifact, serving strategy, context, runtime overhead, and concurrency.

Is the ideal 4-bit weight calculation a complete RAM requirement?

No. It excludes quantization metadata, components retained at other precision, buffers, and other serving allocations.

Does the model automatically have access to my NAS?

No. A client or harness must supply file tools or mounts and their permissions.

Can a local model still send private data away?

Yes. External tools, fallback services, logs, and later processing steps can transmit content.

شرح LFM2.5-24B-A2B: ما المقصود بإجمالي المعلمات والمعلمات النشطة في وكلاء الذكاء الاصطناعي المحليين؟

إيفا وونغ

IceWhale author

إيفا وونغ هي كاتبة تقنية و ومهندسة هاوية في ZimaSpace. مهووسة بالتكنولوجيا مدى الحياة ولديها شغف بالمختبرات المنزلية والبرمجيات مفتوحة المصدر، تتخصص في تبسيط المفاهيم التقنية المعقدة إلى أدلة عملية وسهلة الفهم. تؤمن إيفا بأن الاستضافة الذاتية يجب أن تكون ممتعة وليست مخيفة. من خلال دروسها، تمكّن المجتمع من تبسيط إعدادات الأجهزة، بدءًا من بناء أول نظام تخزين شبكي NAS وحتى إتقان حاويات Docker.

Liquid AI LFM2.5-24B-A2B official announcement cover artwork

LFM2.5-24B-A2B نموذج استدلال من نوع مزيج الخبراء، يضم إجمالًا 24 مليار معامل ونحو ملياري معامل نشط لكل رمز. ويساعد العدد الأصغر للمعاملات النشطة على فهم التصميم الحاسوبي للنموذج؛ لكنه لا يجعل نقطة التحقق نموذجًا بمتطلبات ذاكرة تكفي لملياري معامل. خطط لسعة التخزين والتقديم على أساس ملف النموذج الكامل وبيئة التشغيل.

بالنسبة إلى وكيل يعمل على خادم منزلي، تتمثل الفرصة المفيدة في تشغيل نموذج محليًا على عتاد مناسب باستخدام أدوات محددة الصلاحيات بدقة. ويمكن لتخزين ZimaSpace الاحتفاظ بالملفات الأصلية والنتائج التي خضعت للمراجعة، بينما يتولى عامل مناسب الاستدلال. تشغيل النموذج محليًا ليس سوى جزء واحد من التحكم في وجهة بيانات الوكيل.

ما المقصود بإجمالي المعاملات وعدد المعاملات النشطة؟

المصطلح	كيفية تفسير ذلك
24 مليار معامل إجمالًا	مجموعة معاملات النموذج كاملة
مليارا معامل نشط	المعاملات المستخدمة تقريبًا في حساب كل رمز
تمثيل الأوزان	الدقة والتكميم وتأثيرهما في حجم البيانات
السياق والتزامن	متطلبات إضافية للتقديم تتجاوز الأوزان
تنفيذ الوكيل	حلقة أدوات منفصلة وحدود للصلاحيات

يغيّر التوجيه في بنية مزيج الخبراء أجزاء النموذج النشطة. لكنه لا يعني أن كل تطبيقات التقديم تخزّن تلك المجموعة النشطة وحدها.

ما الذي تؤكد عليه Liquid AI بشأن عمل الوكلاء؟

يصف الإصدار والوثائق نموذج استدلال دُرّب على استخدام الأدوات وتنفيذ المهام متعددة الخطوات. يمكن للنموذج المدعوم المشاركة في بيئة تشغيل الوكلاء، لكنه لا يزال بحاجة إلى بيئة تنفيذ تحدد الأدوات وتتحقق من الوسائط وتقرر الإجراءات المسموح بها.

استخدم دليل إعداد بيئة تشغيل الوكلاء للتمييز بين نموذج الاستدلال وإمكانية الوصول إلى الملفات والمتصفح والطرفية. نجاح مثال للدردشة لا يثبت أن حلقة أدوات مستقلة تعمل.

ما مقدار الذاكرة الذي ينبغي أن أتوقعه؟

ابدأ بملف الأوزان الفعلي ومسار التقديم المدعوم. تشير الحسابات المثالية إلى أن 24 مليار وزن بدقة 16 بت تحتاج إلى نحو 48 GB عشريًا، وأن الأوزان بدقة 4 بت تحتاج إلى نحو 12 GB عشريًا. هذه أمثلة توضيحية لحجم بيانات الأوزان، وليست متطلبات للتثبيت: إذ تضيف البيانات الوصفية والمكونات غير المكمّمة والمخازن المؤقتة والسياق والأعباء الإضافية لبيئة التشغيل إلى الإجمالي.

يوضح دليل الذاكرة وبيئة التشغيل كيفية تحويل نقطة البداية هذه إلى إعداد عملي. لا تشترِ الأجهزة اعتمادًا على العدد النشط أو حساب مثالي للبتات وحده.

هل يحافظ الاستدلال المحلي على خصوصية الوكيل بأكمله؟

فقط إذا ظل سير العمل بأكمله ضمن الحدود المقصودة. يمكن للبحث عن بُعد والأدوات الخارجية والتسجيل السحابي والنموذج الاحتياطي إرسال المحتوى. كما أن إتاحة خدمة محلية على نطاق واسع عبر الشبكة قد توسّع نطاق الوصول إلى ما يتجاوز ما تحتاج إليه الملفات.

اتبع قائمة التحقق من أذونات الوكيل ودليل التحكم في بيانات مستندات NAS. اجعل مجلد إدخال العامل محدودًا، وافصل مجلد الإخراج عن الملفات الأصلية.

ما أول ما ينبغي تقييمه؟

اختر ملفًا مدعومًا من أجهزتك وبيئة التشغيل، ثم نفّذ مهمة نصية قصيرة تتبعها مهمة واحدة محدودة باستخدام الأدوات. تحقّق من الإجابة النهائية ومعاملات الأدوات واستهلاك الموارد والوقت اللازم للحصول على نتيجة قابلة للاستخدام. دوّن المراجعة الدقيقة والإعدادات مع ملاحظاتك.

إذا كان استخدام مسار عبر واجهة برمجة التطبيقات مقبولًا أيضًا، فاقرأ مقارنة LFM2.5 مع DeepSeek API. ويمكن أن يظل ZimaCube 2 طبقة التخزين، أيًا كان مسار الاستدلال الذي يلبي متطلباتك الفعلية.