يمثل الانتشار المتسارع لمعماريات خليط الخبراء المتناثرة (Sparse Mixture-of-Experts - MoE) نقلة نوعية كبرى في البنية التحتية للذكاء الاصطناعي التوليدي. فالنماذج الرائدة مثل DeepSeek-V3 وMixtral 8x22B، إضافة إلى بيئات التشغيل الموزعة مثل vLLM وSGLang، تحقق قدرة استيعابية تبلغ مئات المليارات من المعاملات مع الإبقاء على تكلفة الحساب لكل رمز مميز (Token) مقيدة وثابتة. وعوضا عن تمرير كافة الرموز عبر شبكات عصبية كثيفة موحدة (FFN)، يوجه نظام MoE الرموز ديناميكيا إلى مجموعة محددة من الشبكات الفرعية المتخصصة المعروفة بـ «الخبراء».

إلا أن توزيع العشرات أو المئات من هؤلاء الخبراء المتخصصين عبر خوادم مادية متعددة يخلق ثغرة أمنية جديدة في الطبقة الفيزيائية للشبكة. فعندما تتوسع مجموعات الاستدلال عبر عدة عقد معالجة، تتوقف عملية توجيه الرموز عن كونها مجرد معالجة داخلية في الرقاقة السيليكونية لتتحول إلى حركة بيانات حقيقية تنتقل بين الخوادم.

يمكن لمراقب سلبي (Passive Sniffer) يتنصت على محولات الشبكة المحلية، أو البنية السحابية، أو خطوط العبور استغلال القنوات الجانبية لتوجيه خبراء MoE. فمن خلال تحليل أنماط الحجم والفواصل الزمنية في الاتصالات الجماعية All-to-All، يستطيع المهاجم استنتاج مواضيع الأسئلة، وتصنيف مدخلات المستخدمين، واستعادة البيانات الحساسة للمؤسسات دون الحاجة للوصول إلى ذاكرة بطاقات الرسوميات أو فك تشفير أوزان النموذج.

+-------------------------------------------------------------------------+
|                  عنقود معالجة الاستدلال الموزع MoE                      |
|                                                                         |
|  [ مدخلات المستخدم ] ---> [ موجه البوابات Gating Router ]               |
|                                 |                                       |
|             توزيع الرموز على الخبراء المختارين (All-to-All)             |
|           +---------------------+---------------------+                 |
|           |                     |                     |                 |
|           v                     v                     v                 |
|    +-------------+       +-------------+       +-------------+          |
|    | عقدة GPU 1  |       | عقدة GPU 2  |       | عقدة GPU 3  |          |
|    | خبير 0..7   |       | خبير 8..15  |       | خبير 16..   |          |
|    +-------------+       +-------------+       +-------------+          |
|           |                     |                     |                 |
|           +---------------------+---------------------+                 |
|                                 |                                       |
|                 [ شبكة الربط الداخلية غير المشفرة ]                     |
|                      !!! المتنصت السلبي يرصد !!!                        |
|               أحجام الرموز وبصمات تنشيط الخبراء المتخصصين               |
+-------------------------------------------------------------------------+

البنية الداخلية لنماذج MoE: آلية البوابات وتوازي الخبراء

لفهم طبيعة التسريب عبر القنوات الجانبية، يجب مراجعة الصياغة الرياضية التي تحكم توزيع الرموز في طبقات MoE الحديثة.

في معماريات المحولات (Transformer) القياسية، تمر الحالات المخفية عبر طبقات التغذية الأمامية الكثيفة. أما في طبقة MoE متناثرة تضم $N$ من الخبراء المستقلين ${E_1, E_2, \dots, E_N}$، فإن مخرجات تمثيل الرمز المميز $x$ تحسب كمجموع مرجح لأفضل الخبراء تقييما:

$$y = \sum_{i=1}^{N} G(x)_i E_i(x)$$

حيث تمثل $G(x)$ دالة البوابة. وفي آلية اختيار أفضل $k$ من الخبراء (Top-$k$ وعادة ما تكون $k=2$ أو $k=8$):

$$H(x) = x \cdot W_g + \epsilon$$

$$G(x) = \text{Softmax}(\text{TopK}(H(x), k))$$

وهنا تشير $W_g$ إلى مصفوفة أوزان الموجه، بينما تقوم دالة $\text{TopK}$ بتعيين القيمة $-\infty$ لجميع الخبراء خارج المجموعة المختارة.

ونظرا لأن حجم نموذج يضم مئات المليارات من المعاملات يتجاوز سعة الذاكرة فائقة النطاق (HBM) لبطاقة رسوميات واحدة، تعتمد الأنظمة تقنية توازي الخبراء (Expert Parallelism - EP). يتم توزيع الخبراء عبر وحدات معالجة وخوادم مادية مستقلة؛ فعلى سبيل المثال، تستضيف العقدة الأولى الخبراء من 1 إلى 8، بينما تتولى العقدة الثانية الخبراء من 9 إلى 16.

معضلة الاتصالات الجماعية All-to-All

عندما تدخل دفعة من الرموز إلى طبقة MoE موزعة عبر $P$ من الخوادم، تتطلب العملية مرحلتين من الاتصال الجماعي عبر مكتبات NCCL أو MPI:

  1. مرحلة الإرسال والتوزيع (all_to_all_single): تعيد كل وحدة رسوميات تنظيم الرموز المحلية وفقا لقرارات الموجه، وتبث الأجزاء المقابلة عبر الشبكة إلى العقد المستهدفة.
  2. مرحلة التجميع والدمج (all_to_all_single): بعد انتهاء حسابات الخبراء، تعيد عقد المعالجة الحالات المخفية المحسوبة إلى وحدات الرسوميات الأصلية لدمجها ومتابعة المعالجة.

وتكمن الثغرة الجوهرية في أن عدد الرموز المتبادلة بين العقدة $i$ والعقدة $j$ ليس ثابتا، بل يعتمد تماما على المعنى الدلالي للنص المدخل في كل خطوة معالجة.

آلية القناة الجانبية: بصمات تنشيط الخبراء

ينبع التهديد الأساسي من تخصص الخبراء (Expert Specialization). فأثناء التدريب الأولي غير الخاضع للإشراف، ينحاز كل خبير بطبيعته نحو مجالات لغوية ودلالية محددة:

  • مجموعة الخبراء أ: مخصصة لقواعد البرمجة، والشيفرات المصدرية، والمصطلحات التقنية.
  • مجموعة الخبراء ب: متخصصة في المفردات الطبية، والتقارير السريرية، والمصطلحات الدوائية.
  • مجموعة الخبراء ج: تركز على القوائم المالية، والمحاسبة، وتحليلات أسواق المال.
  • مجموعة الخبراء د: معنية بلغات طبيعية محددة وتراكيب نحوية خاصة.

عندما يرسل المستخدم استفسارا حساسا — كشيفرة برمجية سرية أو ملفات طبية — يوجه الموجه غالبية الرموز نحو الخبراء المتخصصين في ذلك المجال حصرا.

تسريب أحجام الحزم والأنماط الزمنية

عبر شبكات الإيثرنت أو RoCE غير المشفرة، تكشف حركة البيانات في مرحلة All-to-All عن تفاصيل توزيع الرموز بشكل فاضح:

حركة المرور المرصودة: عقدة GPU 0 -> عقدة GPU 4 (تستضيف خبراء المال)
[الوقت t0] حجم الحزمة: 16,384 بايت (تدفق كثيف للرموز المتخصصة)
[الوقت t1] حجم الحزمة: 18,432 بايت (معالجة مستمرة للمصطلحات المالية)

حركة المرور المرصودة: عقدة GPU 0 -> عقدة GPU 2 (تستضيف خبراء النحو العام)
[الوقت t0] حجم الحزمة: 2,048 بايت (حركة أساسية دنيا)

يمكن للمتنصت الخارجي، حتى دون فك تشفير حمولة البيانات، تسجيل:

  • مصفوفة تبادل الرموز: حجم البيانات المنقولة بالبايت بدقة بين كل زوج من العقد $(i, j)$ في كل طبقة.
  • البصمة الزمنية: الفترات الزمنية ومعدل تكرار المعالجة في كل عقدة خبير.

أثبت الباحثون أنه بتدريب نماذج تصنيف خفيفة على هذه المصفوفات، يمكن تحديد موضوع الاستفسارات بدقة تتجاوز 94%. وفي المحادثات التفاعلية المتعددة، تكشف تقلبات أعداد الرموز طول الجمل وتطور سياق الحوار.

خطر هجمات حجب الخدمة عبر إغراق الخبراء (Expert Skewing DoS)

بالإضافة إلى التنصت السلبي، تتيح ديناميكية التوجيه شن هجمات نشطة تستهدف البنية التحتية: Expert Skewing DoS.

في بيئات التشغيل الفعلية، يخصص لكل خبير مخزن مؤقت محدود للرموز (يحكمه معامل Capacity Factor). فإذا صمم المهاجم مدخلات خبيثة تجبر الموجه على حصر 100% من الرموز في خبير واحد محدد:

  1. إسقاط الرموز وتراجع الأداء: يتم إسقاط الرموز الزائدة عن سعة المخزن أو تحويلها إلى مسارات بديلة ضعيفة، مما يؤدي إلى تدهور منطق النموذج.
  2. تضخم زمن الاستجابة النهائي (Tail Latency): تصبح وحدة الرسوميات التي تستضيف الخبير المشبع نقطة اختناق حرجة. ونظرا لأن مرحلة الدمج (all_to_all) تتطلب مزامنة جماعية لكافة العقد (Barrier Synchronization)، تتوقف جميع وحدات المعالجة بانتظار العقدة المنهكة، مما يضاعف زمن الانتظار بمقدار 20 إلى 40 ضعفا.
نمط الهجوم الآلية المستهدفة أسلوب الرصد التأثير على البنية التحتية
البصمة الحجمية أحجام حزم All-to-All تنصت سلبي على الموزعات استنتاج مجالات الأسئلة والبيانات الحساسة
تحليل التذبذب الزمني فترات استجابة مرحلة الدمج قياس وصول البيانات عند المنافذ استعادة أطوال الجمل وإيقاع الإجابات
Expert Skewing DoS إغراق اختيار Top-k للموجه إرسال استعلامات خارجية خبيثة إيقاف مزامنة العنقود وانهيار سرعة الاستجابة
التنصت بين مراكز البيانات التوازي المتسلسل عبر المناطق اعتراض خطوط الربط القارية التقاط متجهات الحالات الوسيطة غير المحمية

الدفاع المشفر في الطبقة الثالثة: شبكة WireGuard وحشو الحزم

تتطلب حماية أنظمة استدلال MoE التخلص من بصمات أحجام الحزم مع المحافظة على أدنى زمن تأخير ممكن. ولا تكفي معالجة تجميع الرموز على مستوى التطبيق، نظرا لأن مرحلة الإرسال الشبكي تفصح عن أبعاد المخازن المؤقتة.

تتحقق الحماية المتكاملة عبر الدمج بين خوارزميات موازنة الأحمال والتشفير في الطبقة الثالثة داخل نواة لينكس عبر WireGuard.

+-------------------------------------------------------------------------+
|                  عنقود MoE محمي بالكامل بواسطة تقنية WIREGUARD          |
|                                                                         |
|   عقدة GPU أ (محرك vLLM)                  عقدة GPU ب (خادم خبير)        |
|   +-----------------------+              +-----------------------+      |
|   | All-to-All Dispatch   |              | All-to-All Receive    |      |
|   +-----------------------+              +-----------------------+      |
|              |                                      ^                   |
|              v                                      |                   |
|   [ حشو الإطارات الثابتة ]               [ تفريغ حزم الحشو ]            |
|   (تكميم معيار RFC 8861)                 (إزالة الرموز الوهمية)         |
|              |                                      |                   |
|              v                                      |                   |
|   +-----------------------+  WireGuard Mesh +-----------------------+   |
|   | واجهة النواة wg0      | === ChaCha20 ==>| واجهة النواة wg0      |   |
|   | (تشفير L3)            |   تدفق ثابت     | (فك تشفير سريع)       |   |
|   +-----------------------+                 +-----------------------+   |
+-------------------------------------------------------------------------+

1. تكميم أطوال الإطارات (الحشو وفق معيار RFC 8861)

لإحباط التحليل الحجمي، يجب حشو كافة المخازن المؤقتة المتبادلة بين العقد لتصل إلى أحجام قياسية موحدة قبل بثها في الشبكة:

$$\text{PaddedSize} = \left\lceil \frac{\text{ActualSize}}{Q} \right\rceil \times Q$$

حيث يمثل $Q$ وحدة الحشو الأساسية (مثل 8,192 بايت أو حدود MTU). وفي روابط مراكز البيانات المتباعدة، يؤدي ضخ إطارات وهمية بمعدل ثابت إلى فصل حركة المرور الفيزيائية تماما عن المعالجة الفعلية للرموز.

2. شبكة WireGuard المتداخلة المدمجة في النواة

يسبب تشغيل الشبكات الافتراضية في مساحة المستخدم تأخيرات غير مقبولة في بيئات الذكاء الاصطناعي. ويوفر دمج WireGuard مباشرة في نواة لينكس:

  • تأمين الروابط بين الخوادم بواسطة خوارزمية التشفير المتطورة ChaCha20-Poly1305.
  • بناء هيكلية نظير إلى نظير (Mesh) دون الاعتماد على بوابات مركزية بطيئة.
  • الاستفادة من تسريع العتاد دون نسخ إضافي للذاكرة، مما يحافظ على سرعات متعددة الجيجابت مع إخفاء تفاصيل الحركة عن مزودي الخدمة.

ومن خلال ربط العقد الموزعة عبر بنية VPNRice الآمنة، تضمن المؤسسات حجب حركة البيانات عن أعين مزودي الإنترنت وتأمين التزامن عبر السحب الهجينة.

دليل الخمس خطوات لتحصين البنية التحتية

يتعين على مهندسي البنية التحتية وفرق أمن الذكاء الاصطناعي تطبيق الإجراءات الآتية:

  1. حصر حركة توازي الخبراء في واجهات محمية: ربط مقابس NCCL (NCCL_SOCKET_IFNAME=wg0) حصريا بواجهات WireGuard المشفرة.
  2. تفعيل حدود السعة مع دوال الخسارة المساعدة: إعداد بيئات vLLM أو SGLang بمعاملات خسارة مساعدة (Auxiliary Loss) لضمان التوزيع المتوازن للرموز بين الخبراء.
  3. تطبيق توحيد أحجام الحزم وفق معايير MTU: استخدام أدوات ضبط تدفق البيانات في لينكس (tc-tbf) لتسوية القمم المفاجئة في أحجام الإطارات.
  4. العزل الدقيق عبر المفاتيح المشفرة: حصر منافذ اتصالات All-to-All على الخوادم المعتمدة بمفاتيح عامة موثوقة فقط.
  5. مراقبة فترات المزامنة بدقة: التدقيق المستمر في زمن الانتظار عند حواجز المزامنة لاكتشاف أي محاولات متعمدة لإغراق خبير معين والتصدي لها فوريا.

إن عزل اتصالات MoE الجماعية داخل أنفاق الطبقة الثالثة المشفرة والمزودة بحشو قياسي للأحجام يوفر حصنا منيعا ضد القنوات الجانبية ويصون خصوصية الأنظمة الذكية المؤسسية.