رشد سریع زیرساخت‌های چندمستأجره برای استنتاج مدل‌های زبانی بزرگ (LLM)، موتورهای اجرایی نظیر vLLM، TensorRT-LLM و SGLang را به سمت بهینه‌سازی‌های تهاجمی در زمان‌بندی سوق داده است. برای بهره‌وری حداکثری از سخت‌افزارهای پردازش گرافیکی گران‌قیمت (مانند کلاسترهای NVIDIA H100 و B200)، سیستم‌های مدرن از ترکیب دسته‌بندی پیوسته (Continuous Batching) و خردسازی پیش‌تغذیه (Chunked Prefill) استفاده می‌کنند.

اگرچه این روش‌ها بازدهی پردازنده‌های گرافیکی را به‌شدت افزایش داده و تأخیرهای ناشی از بارگذاری پرامپت‌های طولانی را رفع می‌کنند، اما آسیب‌پذیری ظریفی بر اثر تداخل اجرای کاربران هم‌میزبان ایجاد می‌نمایند. در محیط‌های ابری اشتراکی، مهاجم می‌تواند با اندازه‌گیری دقیق نوسانات زمانی دریافت توکن‌ها، طول پرامپت‌های خصوصی و مرزهای راهنمای سیستمی سایر کاربران را شناسایی کند. مقابله با این کانال جانبی نیازمند ایزولاسیون ساختاری، یکنواخت‌سازی زمانی و کپسوله‌سازی شبکه از طریق VPNRice است.

سازوکار Chunked Prefill و دسته‌بندی پیوسته در اجرای مدل‌های زبانی

در سیستم‌های سنتی، موتور استنتاج درخواست‌ها را به شکل ایستا دسته‌بندی می‌کرد و پردازش درخواست‌های جدید تا پایان تولید همه توکن‌های دسته قبلی به تعویق می‌افتاد که منجر به هدررفت منابع می‌شد. دسته‌بندی پیوسته این چالش را با کار در سطح هر تکرار محاسباتی (Iteration-level) برطرف کرد؛ بدین‌گونه که پس از هر گام رو به جلو، توالی‌های کامل‌شده خارج شده و ورودی‌های تازه بی‌درنگ وارد دسته می‌شوند.

با این وجود، میان دو مرحله استنتاج تفاوت بنیادینی از لحاظ بار کاری وجود دارد:

  • مرحله پیش‌تغذیه (Prefill): عملیاتی وابسته به توان محاسباتی محض است که در آن تمام توکن‌های ورودی برای ساخت کش Key-Value (KV) به طور همزمان ارزیابی می‌شوند.
  • مرحله رمزگشایی (Decode): عملیاتی وابسته به پهنای باند حافظه است که در آن توکن‌ها به صورت متوالی و با دسترسی پیاپی به حافظه با پهنای باند بالا (HBM) تولید می‌شوند.
+-------------------------------------------------------------------------+
|                    خط لوله زمان‌بندی Chunked Prefill                    |
|                                                                         |
|  پرامپت‌های ورودی کاربران:                                              |
|    درخواست الف (هدف):  [================ 2048 توکن ================]    |
|    درخواست ب (مهاجم): [= 128 توکن =]                                    |
|                                                                         |
|  زمان‌بند خردکننده (اندازه تکه‌ها Chunk = 512 توکن):                     |
|  +-------------------------------------------------------------------+  |
|  | تکرار ۱: [درخواست الف: تکه ۱ (512)] + [درخواست ب: توکن خروجی ۱]    |  |
|  | تکرار ۲: [درخواست الف: تکه ۲ (512)] + [درخواست ب: توکن خروجی ۲]    |  |
|  | تکرار ۳: [درخواست الف: تکه ۳ (512)] + [درخواست ب: توکن خروجی ۳]    |  |
|  | تکرار ۴: [درخواست الف: تکه ۴ (512)] + [درخواست ب: توکن خروجی ۴]    |  |
|  | تکرار ۵: [درخواست الف: توکن ۱]       + [درخواست ب: توکن خروجی ۵]    |  |
|  +-------------------------------------------------------------------+  |
|                                                                         |
|  مشاهدات سمت کاربر مهاجم:                                               |
|  تأخیر میان توکن‌ها (ITL) برای توکن‌های ۱ تا ۴: حدود ۴۲ میلی‌ثانیه      |
|  تأخیر میان توکن‌ها (ITL) از توکن ۵ به بعد:     حدود ۱۱ میلی‌ثانیه      |
+-------------------------------------------------------------------------+

هنگامی که یک پرامپت بزرگ وارد سیستم می‌شود، انجام یک‌باره مرحله پیش‌تغذیه آن باعث توقف استنتاج سایر رشته‌های در حال اجرا شده و شاخص‌های زمانی را با اختلال جدی مواجه می‌کند.

روش Chunked Prefill پرامپت‌های طولانی را به قطعات مساوی (مثلاً ۵۱۲ توکن) تقسیم می‌کند. در هر چرخه زمان‌بندی، قطعات پیش‌تغذیه در کنار توکن‌های در حال رمزگشایی هم‌زمان در ریزپردازنده‌ها و هسته‌های تانسور پردازش می‌شوند تا ریتم تولید توکن حفظ شود.

بهره‌برداری از تداخل پردازش در GPU و نوسان تأخیر میان توکن‌ها

از آنجا که هسته‌های محاسباتی پردازنده گرافیکی، کش سطح دوم (L2) و مسیرهای حافظه HBM میان درخواست‌های هم‌زمان مشترک هستند، اجرای تکه‌های سنگین پیش‌تغذیه باعث ایجاد کندی محسوس در تولید توکن‌های هم‌زمان در همان چرخه می‌شود.

مهاجمی که به عنوان یک کاربر عادی به سامانه متصل است، می‌تواند با رصد زمان‌بندی سمت کلاینت این رقابت بر سر منابع را تحلیل کند:

  1. ثبت تأخیر مبنا: مهاجم ابتدا درخواست‌های بسیار کوتاهی ارسال می‌کند تا حداقل زمان لازم برای تولید یک توکن در حالت رمزگشایی خالص را اندازه‌گیری کند (مثلاً ۱۰ تا ۱۲ میلی‌ثانیه در یک کلاستر H100).
  2. ارسال رشته‌های پیوسته: مهاجم جریانی مداوم از درخواست‌ها را از طریق کانال‌های SSE ایجاد کرده و زمان دریافت هر توکن را با دقت میکروثانیه ذخیره می‌کند.
  3. شناسایی رقابت پردازشی: زمانی که کاربری دیگر پرامپتی محرمانه ارسال می‌کند، زمان‌بند آن را در قالب چندین تکه در تکرارهای پیاپی قرار می‌دهد. در هر تکراری که حاوی یک تکه پیش‌تغذیه است، زمان دریافت توکن مهاجم از مقدار مبنا (۱۱ میلی‌ثانیه) به بیش از ۴۰ میلی‌ثانیه افزایش می‌یابد.
  4. شمارش قطعات و تعیین طول: با توجه به ثابت بودن اندازه تکه‌ها در تنظیمات سرور، تعداد دفعات پیاپی ثبت تأخیر بالا، بیانگر تعداد قطعاتی است که برای پردازش پرامپت کاربر دیگر صرف شده است.
+-------------------------------------------------------------------------+
|                  تحلیل سیگنال نوسان تأخیر میان توکن‌ها                  |
|                                                                         |
|  تأخیر مشاهده‌شده توسط مهاجم (میلی‌ثانیه)                               |
|   50ms +                                                                |
|        |      +-------+-------+-------+-------+                         |
|   40ms |      | دور ۱ | دور ۲ | دور ۳ | دور ۴ |                         |
|        |      | (A_1) | (A_2) | (A_3) | (A_4) |                         |
|   20ms |      |       |       |       |       |                         |
|        |------+       |       |       |       +----------------------   |
|   10ms | پایه |       |       |       |       | بازگشت به سرعت عادی     |
|    0ms +-------------------------------------------------------------   |
|        توکن:  ۱       ۲       ۳       ۴       ۵       ۶       ۷       ۸ |
|                                                                         |
|  تحلیل داده‌های استخراج‌شده:                                            |
|    تعداد دوره‌های با تأخیر بالا (K) = ۴ تکرار                           |
|    اندازه تکه‌های از پیش تعیین‌شده (C) = ۵۱۲ توکن                       |
|    طول تخمینی پرامپت کاربر هم‌میزبان = (K - 1) * C < طول <= K * C       |
|                                      = بین ۱۵۳۷ تا ۲۰۴۸ توکن            |
+-------------------------------------------------------------------------+

به این ترتیب، مهاجم می‌تواند بدون در اختیار داشتن سطح دسترسی سیستمی، حجم پردازش درخواست‌های دیگران را اندازه‌گیری کند.

بازسازی طول پرامپت و مرزهای زمینه سیستمی کاربران هم‌میزبان

در سامانه‌های سازمانی، لو رفتن تعداد توکن‌های ورودی پیامدهای امنیتی به همراه دارد:

  • افشای دستورات سیستمی پنهان: بسیاری از سامانه‌ها پیش از دستور کاربر، دستورالعمل‌های محرمانه سازمانی، ضوابط امنیتی و الگوهای استدلال را ضمیمه می‌کنند. تغییرات ناگهانی در تعداد توکن‌ها نشان‌دهنده ساختار یا به‌روزرسانی این دستورالعمل‌های داخلی است.
  • استنتاج اسناد فراخوانی‌شده در سامانه‌های RAG: در پردازش مبتنی بر بازیابی اطلاعات (RAG)، طول زمینه مستقیماً با اسناد محرمانه بازیابی‌شده تناسب دارد. جهش در طول توکن‌ها نشان می‌دهد که آیا جستجوی کاربر با پرونده‌های محرمانه تطابق داشته است یا خیر.
  • رهگیری وضعیت گفتگوها: افزایش متوالی طول گفتگوها پیشرفت مکالمه را نشان می‌دهد و به مهاجم امکان می‌دهد رویدادهای حساس را ردیابی نماید.

این کانال جانبی در ترکیب با روش‌های پیشرفته‌تر می‌تواند حتی برای اعتبارسنجی حضور کلیدواژه‌های خاص در متن کاربران دیگر مورد استفاده قرار گیرد.

آسیب‌پذیری‌های استنتاج تفکیک‌شده در بستر شبکه میان گره‌های کلاستر

برای میزبانی مدل‌های بسیار حجیم، زیرساخت‌های جدید مرحله پیش‌تغذیه و رمزگشایی را بر روی سرورهای پردازشی مجزا از هم جدا می‌کنند که به آن استنتاج تفکیک‌شده (Disaggregated Inference) گفته می‌شود.

در این ساختار:

  1. گره‌های پیش‌تغذیه: کلاسترهای پردازشی ماتریس‌های KV Cache را با موازی‌سازی بسیار بالا تولید می‌کنند.
  2. گره‌های رمزگشایی: سرورهای متصل کش دریافتی را تحویل گرفته و توکن‌ها را به شکل متوالی می‌سازند.
  3. انتقال داده‌های کش در شبکه: حجم عظیمی از داده‌های تنسور از طریق پروتکل‌های RoCEv2 یا شبکه TCP در بستر دیتاسنتر جابه‌جا می‌شود.
+-------------------------------------------------------------------------+
|                  نشت ترافیک در شبکه کلاستر استنتاج تفکیک‌شده            |
|                                                                         |
|  [ گره پیش‌تغذیه ]                             [ گره رمزگشایی ]         |
|    +----------------------+                     +---------------------+ |
|    | محاسبه تنسورهای کش   |                     | تولید متوالی توکن‌ها| |
|    +----------------------+                     +---------------------+ |
|               |                                            ^            |
|               | جریان انتقال داده‌های کش از طریق شبکه      |            |
|               v (چندین گیگابایت داده روی سوئیچ‌های شبکه)   |            |
|  =====================================================================  |
|  [ سوئیچ‌های رک و بستر ارتباطی شبکه دیتاسنتر ]                         |
|    - بسته‌های رمزنگاری‌نشده از سوئیچ‌های شبکه عبور می‌کنند               |
|    - حجم بسته‌ها و مدت زمان ارسال، ابعاد دقیق تنسورها را فاش می‌کند     |
|    - مهاجم با شنود ترافیک داخلی، الگوهای پردازشی را بازسازی می‌کند      |
+-------------------------------------------------------------------------+

اگر اتصالات میان گره‌ها رمزگذاری نشده باشند، طول و الگوی ارسال داده‌ها بر روی سوئیچ‌های شبکه حجم دقیق تنسورها را افشا کرده و امکان تحلیل ترافیک را برای مهاجمان فراهم می‌سازد.

ایزولاسیون سخت‌افزاری و دفاع مبتنی بر کپسوله‌سازی هسته‌ای WireGuard

بی‌اثر کردن این قبیل کانال‌های جانبی مستلزم ترکیب یکنواخت‌سازی در سطح زمان‌بندی و رمزگذاری ترافیک در لایه شبکه است.

+-------------------------------------------------------------------------+
|              معماری یکپارچه ایزولاسیون سخت‌افزاری و تونل WireGuard       |
|                                                                         |
|  [ کلاستر اشتراکی پردازنده‌های گرافیکی ]                                |
|    +-----------------------------------------------------------------+  |
|    | بخش‌بندی سخت‌افزاری MIG / یکنواخت‌سازی زمان پردازش چرخه‌ها        |  |
|    | - تخصیص ثابت قطعات و همسان‌سازی زمان تکرارها                    |  |
|    | - تفکیک فیزیکی مسیرهای حافظه و هسته‌های پردازشی                  |  |
|    +-----------------------------------------------------------------+  |
|                                |                                        |
|                                | انتقال داده‌های کش در شبکه             |
|                                v                                        |
|    +-----------------------------------------------------------------+  |
|    | رابط کاربری هسته WireGuard (wg0 / شبکه امن VPNRice)              |  |
|    | - تبادل کلید پروتکل Noise و رمزنگاری داده‌ها با ChaCha20        |  |
|    | - یکنواخت‌سازی اندازه بسته‌ها و ارسال ترافیک ساختگی             |  |
|    +-----------------------------------------------------------------+  |
|                                |                                        |
|                                v بسته‌های UDP رمزگذاری‌شده و یکدست      |
|  =====================================================================  |
|  [ شبکه فیزیکی دیتاسنتر ]                                               |
|    - حذف کامل الگوهای زمانی در سوئیچ‌های ارتباطی                        |
|    - عدم امکان تحلیل الگوهای ترافیکی بر اساس تغییرات حجم                |
|    - قوانین سطح هسته مانع از برقراری ارتباطات غیرمجاز می‌شوند            |
+-------------------------------------------------------------------------+

برای ایجاد ساختار دفاعی منسجم در برابر حملات کانال جانبی زمان‌بندی، اقدامات زیر ضروری است:

  1. همسان‌سازی زمان تکرارها (Iteration-Time Equalization): زمان‌بند باید طول مدت همه چرخه‌ها را ثابت نگه دارد. افزودن محاسبات تصنعی یا توقف‌های بسیار کوتاه به دورهای رمزگشایی باعث می‌شود که تفاوت زمانی میان چرخه‌ها از بین برود.
  2. تفکیک فیزیکی سخت‌افزار (MIG): با به‌کارگیری قابلیت‌هایی نظیر NVIDIA MIG، پردازنده‌های گرافیکی به بخش‌های فیزیکی مجزا تقسیم می‌شوند تا کنترل‌کننده‌های حافظه و هسته‌های محاسباتی میان کاربران تداخل پیدا نکنند.
  3. ایجاد شبکه رمزگذاری‌شده با VPNRice: کلیه داده‌های انتقالی میان سرورهای استنتاج تفکیک‌شده باید درون تونل‌های امن WireGuard در لایه هسته سیستم‌عامل قرار گیرند. رمزنگاری ChaCha20-Poly1305 مانع از آن می‌شود که ناظران میانی شبکه بتوانند ابعاد بسته‌ها را تشخیص دهند.
  4. تثبیت سرعت و شکل‌دهی ترافیک (Traffic Shaping): تزریق بسته‌های تصنعی و تثبیت نرخ انتقال، مانع از تحلیل ترافیک بر اساس نوسانات پهنای باند شبکه می‌شود.

ترکیب زمان‌بندی محافظت‌شده با ایزولاسیون شبکه مبتنی بر VPNRice کانال‌های جانبی زمانی را مسدود کرده و از امنیت داده‌ها و حریم خصوصی در سیستم‌های نوین هوش مصنوعی محافظت می‌نماید.