گسترش سریع معماری‌های پراکنده ترکیبی از کارشناسان (Sparse Mixture-of-Experts یا MoE) بیانگر یکی از مهم‌ترین دگرگونی‌های زیرساختی در هوش مصنوعی مدرن است. مدل‌های پیشرو مانند DeepSeek-V3 و Mixtral 8x22B در کنار موتورهای پردازش توزیع‌شده نظیر vLLM و SGLang، ضمن حفظ هزینه محاسباتی ثابت به ازای هر توکن، امکان بهره‌گیری از صدها میلیارد پارامتر را فراهم کرده‌اند. به‌جای عبور دادن تمامی توکن‌ها از شبکه‌های پیش‌خور متراکم سنتی (FFN)، معماری MoE به‌طور پویا هر توکن را تنها به زیرمجموعه کوچکی از شبکه‌های تخصصی موسوم به «کارشناسان» هدایت می‌کند.

با این حال، توزیع ده‌ها یا صدها کارشناس تخصصی روی سرورهای فیزیکی متعدد، سطح حمله جدیدی را در لایه فیزیکی شبکه ایجاد می‌کند. هنگامی که خوشه‌های استنتاجی میان چندین گره پردازشی توزیع می‌شوند، مسیریابی توکن‌ها دیگر یک عملیات ریزپردازنده‌ای داخلی تلقی نمی‌شود و به جریان ترافیک مخابراتی میان سرورها مبدل می‌گردد.

یک ناظر غیرفعال (Passive Sniffer) مستقر روی سوئیچ‌های شبکه محلی، زیرساخت‌های ابری یا مسیرهای انتقال داده، می‌تواند از کانال‌های جانبی مسیریابی کارشناسان MoE سوءاستفاده نماید. با تحلیل الگوهای حجمی و فواصل زمانی در ارتباطات اشتراکی All-to-All، مهاجم قادر است بدون نیاز به دسترسی به حافظه کارت‌های گرافیک یا افشای وزن‌های مدل، موضوع پرسش‌ها را شناسایی کند، ورودی کاربران را رده‌بندی نماید و اطلاعات حساس سازمان‌ها را بازیابی کند.

+-------------------------------------------------------------------------+
|                  خوشه پردازش توزیع‌شده استنتاجی MoE                     |
|                                                                         |
|  [ پرسش کاربر ] ---> [ مسیریاب دروازه‌ای Gating Router ]                |
|                               |                                         |
|              توزیع کارشناسان Top-k در شبکه (All-to-All)                 |
|           +-------------------+-------------------+                     |
|           |                   |                   |                     |
|           v                   v                   v                     |
|    +-------------+     +-------------+     +-------------+              |
|    | GPU گره ۱   |     | GPU گره ۲   |     | GPU گره ۳   |              |
|    | کارشناس ۰..۷|     | کارشناس ۸..۱۵|    | کارشناس ۱۶..|              |
|    +-------------+     +-------------+     +-------------+              |
|           |                   |                   |                     |
|           +-------------------+-------------------+                     |
|                               |                                         |
|                 [ بستر شبکه داخلی رمزگذاری‌نشده ]                        |
|                     !!! شنودگر غیرفعال کشف می‌کند !!!                    |
|                حجم توکن‌ها و الگوی فعال‌سازی کارشناسان تخصصی             |
+-------------------------------------------------------------------------+

ساختار درونی MoE پراکنده: سازوکار دروازه‌ای و موازی‌سازی کارشناسان

برای درک چگونگی وقوع نشت اطلاعات در کانال جانبی، لازم است فرمول‌بندی ریاضی حاکم بر توزیع توکن‌ها در لایه‌های نوین MoE بررسی شود.

در معماری‌های استاندارد ترنسفورمر، حالت‌های پنهان از لایه‌های پیش‌خور متراکم عبور می‌کنند. اما در یک لایه MoE پراکنده با $N$ کارشناس متمایز ${E_1, E_2, \dots, E_N}$، خروجی حاصل از بردار توکن $x$ به‌صورت مجموع وزن‌دار عملکرد کارشناسان برتر محاسبه می‌شود:

$$y = \sum_{i=1}^{N} G(x)_i E_i(x)$$

در این رابطه، $G(x)$ تابع دروازه‌ای است. در سازوکار مسیریابی برترین‌ها (Top-$k$ که معمولاً $k=2$ یا $k=8$ است):

$$H(x) = x \cdot W_g + \epsilon$$

$$G(x) = \text{Softmax}(\text{TopK}(H(x), k))$$

در اینجا $W_g$ بیانگر ماتریس وزن‌های مسیریاب است و تابع $\text{TopK}$ مقادیر تمامی کارشناسان خارج از گروه $k$ برتر را برابر با $-\infty$ قرار می‌دهد.

از آنجا که نگهداری وزن‌های یک مدل با صدها میلیارد پارامتر در حافظه پهن‌باند (HBM) یک پردازنده گرافیکی منفرد غیرممکن است، سیستم‌ها از روش موازی‌سازی کارشناسان (Expert Parallelism یا EP) بهره می‌گیرند. کارشناسان میان پردازنده‌های گرافیکی و سرورهای فیزیکی جداگانه تقسیم می‌شوند؛ برای نمونه گره ۱ میزبان کارشناسان ۱ تا ۸ است و گره ۲ کارشناسان ۹ تا ۱۶ را مدیریت می‌کند.

تنگنای ارتباطات اشتراکی All-to-All

هنگامی که دسته‌ای از توکن‌ها وارد لایه توزیع‌شده MoE در میان $P$ سرور می‌شوند، فرایند نیازمند دو مرحله ارتباط همگانی تحت کتابخانه‌های NCCL یا MPI است:

  1. فاز ارسال (all_to_all_single): هر کارت گرافیک توکن‌های محلی خود را بر پایه تصمیمات مسیریاب بازآرایی کرده و بخش‌های متناظر را از طریق شبکه به سوی گره‌های مقصد ارسال می‌نماید.
  2. فاز تجمیع (all_to_all_single): پس از پایان محاسبات تخصصی، گره‌های کارشناس حالت‌های پنهان پردازش‌شده را برای اتصال باقی‌مانده و لایه‌های توجه بعدی به پردازنده‌های مبدأ بازمی‌گردانند.

نکته آسیب‌پذیر این است که شمار توکن‌های ردوبدل‌شده میان گره $i$ و گره $j$ عددی ثابت نیست، بلکه کاملاً تابع محتوای معنایی متن در هر گام محاسباتی است.

سازوکار کانال جانبی: انگشت‌نگاری فعال‌سازی کارشناسان

منشأ بنیادین این آسیب‌پذیری، پدیده تخصصی شدن کارشناسان (Expert Specialization) است. در طول دوره پیش‌آموزش بدون نظارت، هر کارشناس به‌طور طبیعی بر حوزه‌های معنایی و دستوری ویژه‌ای متمرکز می‌شود:

  • خوشه کارشناسان الف: پردازش نحو برنامه‌نویسی، کدهای منبع نرم‌افزار و شناسه‌های فنی.
  • خوشه کارشناسان ب: واژگان حوزه بهداشت و درمان، داروشناسی و گزارش‌های بالینی.
  • خوشه کارشناسان ج: ترازنامه‌های مالی، حسابداری شرکتی و اصطلاحات بازار سرمایه.
  • خوشه کارشناسان د: زبان‌های طبیعی معین و ساختارهای صرفی خاص.

زمانی که کاربر سازمانی داده‌های محرمانه‌ای مانند کدهای منبع اختصاصی یا سوابق پزشکی را ارسال می‌کند، مسیریاب بخش عمده توکن‌ها را به کارشناسان متناظر هدایت می‌کند.

افشای اطلاعات بر اساس اندازه بسته‌ها

در شبکه‌های فاقد رمزنگاری اترنت یا RoCE، داده‌های مبادله‌شده در فاز All-to-All الگوی دقیق توزیع توکن‌ها را آشکار می‌سازد:

ترافیک ثبت‌شده: GPU گره ۰ -> GPU گره ۴ (میزبان کارشناسان امور مالی)
[زمان t0] اندازه بسته: ۱۶,۳۸۴ بایت (حجم سنگین انتقال توکن‌های تخصصی)
[زمان t1] اندازه بسته: ۱۸,۴۳۲ بایت (تداوم پردازش واژگان حسابداری)

ترافیک ثبت‌شده: GPU گره ۰ -> GPU گره ۲ (میزبان کارشناسان نحو عمومی)
[زمان t0] اندازه بسته: ۲,۰۴۸ بایت (ترافیک پایه و بسیار اندک)

یک ناظر بیرونی بدون نیاز به باز کردن محتوای بسته می‌تواند اطلاعات زیر را ثبت کند:

  • ماتریس تبادل توکن‌ها: حجم دقیق بایت‌های جابه‌جا شده میان تمام جفت‌های گره $(i, j)$ در هر لایه مدل.
  • امضای زمانی: مدت‌زمان و توالی محاسبات در گره‌های گوناگون.

با آموزش مدل‌های طبقه‌بندی سبک روی این ماتریس‌های ترافیکی، کارشناسان نشان داده‌اند که می‌توان موضوع پرسش‌ها را با دقتی بیش از ۹۴ درصد تشخیص داد. در گفتگوهای چندمرحله‌ای، تغییرات اندک در شمار توکن‌ها ساختار جملات و روند بحث را افشا می‌نماید.

تهدید حملات محروم‌سازی از سرویس کارشناس (Expert Skewing DoS)

علاوه بر استراق سمع غیرفعال، ویژگی‌های مسیریابی MoE راه را برای حملات مخرب علیه زیرساخت نیز هموار می‌سازد: Expert Skewing DoS.

در محیط‌های عملیاتی، برای هر کارشناس ظرفیت بافر محدودی در نظر گرفته می‌شود (که با ضریب Capacity Factor تنظیم می‌گردد). اگر مهاجم پرسش‌های هدفمندی تدوین کند که صد درصد توکن‌ها را متوجه یک کارشناس خاص نماید، دو چالش جدی بروز می‌کند:

  1. ریزش توکن و افت کیفیت خروجی: توکن‌های فراتر از ظرفیت بافر حذف شده یا به مسیرهای جایگزین ضعیف‌تر منتقل می‌شوند که منطق پاسخ مدل را مخدوش می‌کند.
  2. جهش شدید در تاخیر نهایی (Tail Latency): پردازنده‌ای که کارشناس اشباع‌شده را میزبانی می‌کند به گلوگاه اصلی سامانه بدل می‌شود. از آنجا که فاز تجمیع (all_to_all) نیازمند همگام‌سازی کامل خوشه (Barrier Synchronization) است، تمامی پردازنده‌های گرافیکی تا پایان کار گره تحت فشار معلق می‌مانند و تاخیر پاسخگویی ۲۰ تا ۴۰ برابر می‌گردد.
بردار حمله سازوکار هدف شیوه شناسایی پیامد برای زیرساخت
انگشت‌نگاری حجمی اندازه بسته‌های All-to-All شنود غیرفعال روی سوئیچ‌ها استخراج زمینه داده‌ها و موضوع دستورات
تحلیل نوسان تاخیر زمان بازگشت فاز تجمیع پایش زمان رسیدن داده‌ها بازسازی طول جملات و ریتم پاسخ‌دهی
Expert Skewing DoS اشباع گزینش Top-k مسیریاب ارسال پرسش‌های مخرب بیرونی توقف همگام‌سازی خوشه، جهش شدید تاخیر
استراق سمع بین دیتاسنتری موازی‌سازی خط لوله میان مراکز شنود در مسیرهای ترانزیت دریافت بردارهای حالت میانی فاقد پدینگ

دفاع رمزنگاری‌شده در لایه ۳: شبکه مش WireGuard و پدینگ بسته‌ها

حفاظت از خوشه‌های پردازشی MoE مستلزم حذف ویژگی‌های ابعادی بسته‌های داده و در عین حال حفظ حداقل تاخیر ممکن است. متمرکز ساختن توکن‌ها در سطح برنامه به‌تنهایی کارساز نیست، زیرا فرایند ارسال در لایه انتقال شبکه همچنان ابعاد حافظه بافر را لو می‌دهد.

ایمن‌ترین معماری دفاعی ترکیبی از موازنه‌سازی بار محاسباتی و کپسوله‌سازی لایه ۳ در سطح هسته لینوکس با WireGuard است.

+-------------------------------------------------------------------------+
|                  خوشه ایمن‌سازی‌شده MoE با تکیه بر WIREGUARD              |
|                                                                         |
|   GPU گره الف (موتور vLLM)                GPU گره ب (پردازش کارشناس)    |
|   +-----------------------+              +-----------------------+      |
|   | All-to-All Dispatch   |              | All-to-All Receive    |      |
|   +-----------------------+              +-----------------------+      |
|              |                                      ^                   |
|              v                                      |                   |
|   [ پدینگ ثابت بسته‌ها ]                 [ حذف بسته‌های پدینگ ]          |
|   (کوانتیده‌سازی RFC 8861)                (تفکیک توکن‌های ساختگی)       |
|              |                                      |                   |
|              v                                      |                   |
|   +-----------------------+  WireGuard Mesh +-----------------------+   |
|   | رابط کاربری هسته wg0  | === ChaCha20 ==>| رابط کاربری هسته wg0  |   |
|   | (رمزنگاری لایه ۳)     |  نرخ بیت یکنواخت| (رمزگشایی شتاب‌یافته) |   |
|   +-----------------------+                 +-----------------------+   |
+-------------------------------------------------------------------------+

۱. کوانتیده‌سازی اندازه فریم‌ها (پدینگ مطابق RFC 8861)

به‌منظور بی‌اثر ساختن تحلیل‌های حجمی، تمامی بافرهای تبادلی پیش از ورود به شبکه باید در اندازه‌های کوانتومی ثابت قالب‌بندی شوند:

$$\text{PaddedSize} = \left\lceil \frac{\text{ActualSize}}{Q} \right\rceil \times Q$$

در اینجا $Q$ واحد پایه پدینگ است (مثلاً ۸,۱۹۲ بایت یا مضارب اندازه MTU). برای خطوط میان مراکز داده، تزریق فریم‌های ساختگی با نرخ ثابت ارتباط میان ترافیک فیزیکی و محاسبات توکن‌ها را به‌کلی قطع می‌کند.

۲. شبکه مش تمام‌متصل WireGuard در سطح هسته

استفاده از راهکارهای وی‌پی‌ان در فضای کاربری موجب ایجاد تاخیرهای نامطلوب در پردازش هوش مصنوعی می‌شود. استقرار WireGuard در هسته لینوکس مزایای زیر را فراهم می‌آورد:

  • ایمن‌سازی تبادلات میان‌سروری با الگوریتم مدرن ChaCha20-Poly1305.
  • ایجاد توپولوژی همتابه‌همتا (Peer-to-Peer Mesh) بدون نیاز به دروازه‌های میانی کند.
  • حفظ پهنای باند چند گیگابیتی به کمک مکانیزم‌های شتاب‌یافته سخت‌افزاری و محافظت از داده‌ها در برابر ناظران خارجی.

با پیاده‌سازی اتصالات از طریق بستر VPNRice، کسب‌وکارها مانع از تحلیل ترافیک توسط ارائه‌دهندگان اینترنت و واسطه‌ها شده و همگام‌سازی خوشه‌های ابری هیبریدی را در بالاترین سطح امنیتی تثبیت می‌کنند.

راهنمای پنج‌مرحله‌ای امن‌سازی زیرساخت هوش مصنوعی

مهندسان زیرساخت و مدیران سامانه‌های هوش مصنوعی باید پنج گام عملیاتی زیر را پیاده نمایند:

  1. انحصار ترافیک EP در رابط‌های محافظت‌شده: سوکت‌های ارتباطی NCCL (NCCL_SOCKET_IFNAME=wg0) را منحصراً به رابط‌های شبکه رمزگذاری‌شده WireGuard متصل کنید.
  2. اعمال سقف ظرفیت همراه با جریمه کمکی: موتورهای vLLM یا SGLang را به توابع جریمه کمکی (Auxiliary Loss) مجهز سازید تا توازن بار میان کارشناسان رعایت شود.
  3. همسان‌سازی اندازه بسته‌ها با الگوی MTU: با استفاده از ماژول‌های کنترل ترافیک لینوکس (tc-tbf) جهش‌های ناگهانی در اندازه فریم‌ها را هموار نمایید.
  4. جداسازی ترافیک با کلیدهای رمزنگاری: درگاه‌های ارتباطی All-to-All را تنها به روی سرورهای دارای کلید عمومی تاییدشده باز بگذارید.
  5. ارزیابی منظم تاخیر سدهای همگام‌سازی: زمان معطلی در ایستگاه‌های همگام‌سازی را به‌دقت بسنجید تا حملات هدفمند برای اشباع کارشناسان بی‌درنگ مهار گردند.

بسته‌بندی ارتباطات جمعی MoE در تونل‌های رمزنگاری‌شده لایه ۳ با فریم‌های اندازه ثابت، سپری مطمئن در برابر کانال‌های جانبی ایجاد کرده و حریم خصوصی داده‌های سازمانی را تضمین می‌نماید.