ارائه خدمات مدل‌های بزرگ زبانی (LLM) در مقیاس سازمانی مستلزم مدیریت بسیار دقیق حافظه و کاهش تأخیر پردازش است. تولید متوالی توکن‌ها سیستم را ناچار می‌سازد تا تانسورهای میانی کلید-مقدار (KV Cache) را در لایه‌های توجه نگه دارد. در سناریوهای گفتگوهای چندمرحله‌ای، تحلیل اسناد طولانی و سیستم‌های چندعاملی، محاسبه مجدد تانسورهای KV برای دستورهای تکراری سیستم یا زمینه‌های مشترک، بار پردازشی سنگینی به منابع تحمیل می‌کند.

موتورهای استنتاج مدرن مانند SGLang، vLLM و TensorRT-LLM برای حذف این محاسبات تکراری، قابلیت کش پویای پیشوند (Dynamic Prefix Caching) را به کار گرفته‌اند. این سامانه‌ها با سازماندهی تانسورهای KV در قالب درخت رادیکس (Radix Tree) یا جداول هش بخش‌بندی‌شده، امکان استفاده مجدد از وضعیت‌های محاسبه‌شده را در درخواست‌های متوالی فراهم می‌کنند. با این حال، در محیط‌های ابری چندمستاجره یا درگاه‌های اشتراکی، کش پیشوند باعث ایجاد یک کانال جانبی زمان‌بندی (Timing Side-Channel) قطعی می‌شود. نفوذگران می‌توانند با سنجش میلی‌ثانیه‌ای تأخیر اولین توکن و تحلیل بسته‌های شبکه، دستورات محرمانه سیستم، محتوای اسناد خصوصی و پرسش‌های سایر کاربران را استخراج نمایند.

ساختار RadixAttention و کش اشتراکی پیشوندها

در چارچوب‌های سنتی، حافظه موقت KV تنها برای یک درخواست فعال است و بلافاصله پس از اتمام متن آزاد می‌شود. در مقابل، کش پویای پیشوند تانسورهای محاسبه‌شده را در حافظه پهن‌باند پردازنده گرافیکی (HBM) و حافظه رم سرور در سراسر چرخه درخواست‌های مختلف حفظ می‌کند.

سامانه SGLang این بهینه‌سازی را از طریق معماری RadixAttention اجرا می‌کند. سرور بلوک‌های کش را مانند گره‌های یک درخت رادیکس سراسری مدیریت می‌کند که یال‌های آن نشان‌دهنده توالی‌های توکن هستند. با دریافت یک درخواست جدید، زمان‌بند پرامپت را توکنایز کرده و درخت را از ریشه برای یافتن طولانی‌ترین تطابق جستجو می‌کند:

  1. تطابق پیشوند و بازیابی داده: چنانچه پیشوندی به طول $L$ در درخت یافت شود، سیستم مرحله سنگین پیش‌محاسبه (Prefill) را برای این $L$ توکن نادیده می‌گیرد و بلوک‌های آماده را مستقیماً وارد لایه‌های توجه می‌سازد.
  2. کاهش چشمگیر زمان پردازش: پردازنده تنها توکن‌های پسوند ($N - L$) را پردازش می‌کند. زمان تولید اولین توکن (TTFT) از چندصد میلی‌ثانیه به عددی تک‌رقمی در مقیاس میلی‌ثانیه تنزل می‌یابد.
  3. سیاست‌های تخلیه حافظه: هنگام تکمیل ظرفیت حافظه گرافیکی، الگوریتم کمترین استفاده اخیر (LRU) گره‌های فرعی را پاک کرده و ریشه‌های مشترک را نگه می‌دارد.

این رویکرد بازدهی پردازش را چندبرابر می‌کند. اما به اشتراک گذاشتن یک درخت رادیکس واحد میان مستاجران گوناگون، وابستگی وضعیتی آشکاری پدید می‌آورد؛ وضعیتی که تاریخچه انباشته‌شده فعالیت تمامی کاربران را در خود بازتاب می‌دهد.

سازوکار حملات کانال جانبی زمان‌بندی به کش پیشوند

از آنجا که تطابق پیشوند در کش زمان پاسخ را به شکلی محسوس کاهش می‌دهد، یک ناظر خارجی می‌تواند از درگاه هوش مصنوعی به عنوان ابزار آزمون برای استخراج اطلاعات حساس استفاده کند. این تهاجم به دو شیوه عمده صورت می‌پذیرد: آزمون حضور عضو و بازسازی گام‌به‌گام پیشوند.

+-------------------------------------------------------------------------+
|                  خوشه استنتاج هوش مصنوعی اشتراکی چندمستاجره             |
|                                                                         |
|     درخواست کاربر مجاز                      کاوشگر ارسالی نفوذگر        |
|   "پرونده بیمار: علی حسینی..."            "پرونده بیمار: علی حسینی..."  |
|                |                                      |                 |
|                v                                      v                 |
|      +-------------------+                  +-------------------+       |
|      |  درخت رادیکس مشترک|                  |  درخت رادیکس مشترک|       |
|      |  [محاسبه Prefill] |                  |  [تطابق پیشوند!]  |       |
|      |  ذخیره در کش KV   |                  |  عبور از Prefill  |       |
|      +-------------------+                  +-------------------+       |
|                |                                      |                 |
|                v                                      v                 |
|       TTFT معمولی (~320ms)                  TTFT فوق‌سریع (~14ms)       |
|                                                       |                 |
|                                                       +--> اثبات افشا   |
+-------------------------------------------------------------------------+

۱. سنجش حضور اطلاعات محرمانه در حافظه موقت

در این سناریو، مهاجم درصدد ارزیابی این مسئله است که آیا متنی معین (همچون داده‌های مالی، کدهای اختصاصی یا اطلاعات هویتی) در دقایق اخیر به سیستم فرستاده شده است یا خیر.

نفوذگر زمان پاسخ‌دهی را در حالت بدون کش ($T_{\text{cold}}$) و با کش فعال ($T_{\text{hot}}$) محاسبه می‌کند. برای متنی با ۸,۰۰۰ توکن، پردازش اولیه در حالت عادی نیازمند ۱۸۰ تا ۳۵۰ میلی‌ثانیه است؛ در حالی که وجود همان توکن‌ها در کش پیشوند این زمان را به زیر ۱۵ میلی‌ثانیه می‌رساند. این افت ناگهانی در تأخیر، حضور قطعی متن را برای مهاجم اثبات می‌کند.

۲. بازسازی پیشوند به روش شاخه‌زنی و هرس مداوم

فراتر از بررسی حضور، مهاجم قادر است متن نامعلومی مانند پرامپت مخفی سیستم یا مکالمات خصوصی را توکن به توکن بازسازی کند:

  • تهاجم با یک توکن ریشه‌ای رایج یا قالب‌بندی متداول آغاز می‌شود.
  • نفوذگر با افزودن واژگان مختلف، چندین شاخه احتمالی ایجاد می‌کند.
  • هر شاخه به صورت کاوشگری مستقل به درگاه ارسال می‌شود.
  • شاخه‌ای که کمترین TTFT را ثبت کند، نشان‌دهنده وجود واقعی آن بخش در درخت رادیکس است.
  • مهاجم توکن تاییدشده را برگزیده و این فرآیند را تا بازسازی کامل متن پی می‌گیرد.

حتی اگر ارائه‌دهندگان سرویس برای یکنواخت‌سازی پاسخ‌ها تأخیرهای تصادفی نرم‌افزاری تزریق کنند، شاخص‌های انتقالی در سطح شبکه حقیقت پردازش داخلی را برملا می‌سازند.

ردپای ترافیک شبکه و الگوهای رسیدن بسته‌ها

تدابیر نرم‌افزاری لایه کاربرد چنانچه بر بستر شبکه‌های رمزنگاری‌نشده پیاده شوند، کارایی چندانی نخواهند داشت:

  • جهش داده‌های خروجی: با پایان پیش‌محاسبه، تولید اولین توکن فوراً موجی از بسته‌های خروجی و تاییدیه‌های TCP را به جریان می‌اندازد.
  • دینامیک پنجره دریافت TCP: در طول محاسبه طولانی، پنجره TCP بدون ارسال محتوا باز می‌ماند؛ در حالی که حضور داده در کش بلافاصله ارسال بسته را آغاز کرده و فاصله زمانی میان بسته‌ها ($Δt$) را تغییر می‌دهد.
  • کاهش ترافیک همگام‌سازی سرورها: در کلاسترهای توزیع‌شده، استفاده از کش پیشوند نیاز به ارتباطات حجیم RDMA میان سرورها را رفع می‌کند و ناظر شبکه از افت تبادلات داخلی متوجه این موضوع می‌شود.

استراق‌سمع‌کنندگان در شبکه‌های عمومی، وای‌فای ناامن یا مسیرهای زیرساختی اینترنت بدون نیاز به نفوذ به رایانه میزبان می‌توانند این تغییرات زمانی را ردیابی کنند.

استراتژی دفاع رمزنگاری‌شده بر بستر WireGuard

مهار آسیب‌پذیری‌های زمانی کش پیشوند نیازمند تلفیق جداسازی در هسته موتور پردازش و محافظت کامل ارتباطات در لایه شبکه است.

+-----------------------------------------------------------------------+
|                    توپولوژی حفاظت امن از کلاستر هوش مصنوعی            |
|                                                                       |
|   [سیستم کاربر / کلاینت]                                              |
|            |                                                          |
|            v                                                          |
|   [رابط شبکه WireGuard wg0] <-- تنظیم سرعت انتقال (sch_fq)            |
|            |                <-- رمزنگاری پیشرفته با ChaCha20          |
|            v                                                          |
|   [مسیر شبکه اینترنت / WAN] <-- یکسان‌سازی اندازه و نوسان تأخیر       |
|            |                                                          |
|            v                                                          |
|   [درگاه استنتاج AI]                                                  |
|            |                                                          |
|            +--> تفکیک فضای رادیکس بر اساس کلید عمومی کاربر            |
|            +--> مسیریابی قطعی در سطح هسته لینوکس                      |
|            +--> تفکیک فیزیکی فضاهای کش گرافیکی                        |
+-----------------------------------------------------------------------+

۱. تفکیک فضاهای نام درخت رادیکس بر پایه کلید عمومی

موتورهای استنتاج نباید تحت هیچ شرایطی کش پیشوند را میان کاربران بدون پیوند امنیتی مشترک به اشتراک بگذارند. تفکیک باید بر اساس هویت اعتبارسنجی‌شده صورت گیرد.

با برقراری ارتباط کاربران از طریق تونل اختصاصی WireGuard، هویت مشتری مستقیماً از کلید عمومی کلاینت استخراج می‌شود (wg0). درخت رادیکس در فضاهای نام کاملاً مجزا مدیریت می‌گردد:

$$\text{CacheKey} = \text{HMAC-SHA256}(\text{TenantPublicKey}, \text{TokenSequence})$$

کاوشگرهای یک کاربر هرگز وارد شاخه‌های کش کاربری دیگر نمی‌شوند. این تدبیر خطرات کانال‌های جانبی را کاملاً از میان برده و در عین حال شتاب پردازش داخلی را حفظ می‌کند.

۲. تنظیم نرخ ارسال و پنهان‌سازی نوسانات زمانی بسته‌ها

برای پیشگیری از تحلیل الگوهای زمانی توسط تحلیل‌گران شبکه، رابط‌های ارسال باید ضرب‌آهنگ تبادل داده را از وضعیت درونی پردازنده گرافیکی مستقل سازند.

مدیران شبکه باید الگوریتم صف‌بندی عادلانه همراه با تنظیم نرخ ارسال (sch_fq) را روی تونل فعال کرده و طول بسته‌ها را استاندارد نمایند:

# فعال‌سازی کنترل نرخ ارسال بر بستر رابط کاربری وایرگارد
sudo tc qdisc replace dev wg0 root fq pacing

# ثابت‌سازی اندازه MTU جهت جلوگیری از افشای طول توکن‌ها
sudo ip link set dev wg0 mtu 1420

توزیع یکنواخت داده‌ها و ثابت نگاه داشتن حجم بسته‌ها مانع از آن می‌شود که ناظر خارجی به تفاوت میان کش فعال یا پردازش سنگین پی ببرد.

۳. ایزوله‌سازی فراگیر سامانه‌های هوش مصنوعی با VPNRice

محافظت از زیرساخت‌های نوین ایجاب می‌کند که تمامی ورودی‌های API و تبادلات سرورها در کانال‌های ایمن قرار گیرند. در دسترس بودن مستقیم پورت‌ها در اینترنت خطری جدی محسوب می‌شود.

به‌کارگیری سامانه VPNRice رمزنگاری قدرتمند WireGuard را در سطح هسته برای رایانه‌های کاربران و سرورهای پردازش گرافیکی مهیا می‌سازد. به کمک جدول مسیریابی نفوذناپذیر AllowedIPs، امکان دسترسی مستقیم و نامعتبر از بین می‌رود. استراق‌سمع‌کنندگان شبکه امکان استخراج پیشوندهای ذخیره‌شده و رهگیری ارتباطات را نخواهند داشت.

توصیه‌های کلیدی در جهت ایمن‌سازی سرورهای استنتاج

تثبیت امنیت زیرساخت‌های هوش مصنوعی نیازمند رعایت رهنمودهای زیر است:

  • جداسازی صریح حافظه کش: از اشتراک درخت پیشوند میان سازمان‌ها و حساب‌های گوناگون پرهیز شود.
  • احراز هویت رمزنگاری‌شده: شناسه جلسات کاری به جای توکن‌های متنی ساده به کلیدهای عمومی وایرگارد پیوند بخورد.
  • یکسان‌سازی تصنعی زمان پاسخ: برای درگاه‌های حاوی اطلاعات حیاتی، کف زمان پاسخ‌دهی یا تأخیر ساختگی اعمال شود.
  • رمزنگاری کامل ارتباطات: همه تبادلات پردازشی و جابه‌جایی کش با رمزنگاری ChaCha20-Poly1305 در بستر وایرگارد هدایت شوند.
  • پایش درخواست‌های ناهنجار: ترافیک درگاه به منظور شناسایی ارسال مکرر درخواست‌های پیوسته جهت واکاوی درخت پرامپت‌ها تحت رصد مداوم قرار گیرد.