Стремительное распространение архитектур с разреженным объединением экспертов (Sparse Mixture-of-Experts, MoE) стало ключевым технологическим сдвигом в индустрии искусственного интеллекта. Передовые языковые модели, такие как DeepSeek-V3 и Mixtral 8x22B, а также распределенные среды обслуживания vLLM и SGLang обеспечивают вычислительную емкость в сотни миллиардов параметров при сохранении фиксированных затрат на обработку каждого токена. Вместо передачи информации через монолитные полносвязные блоки прямого распространения (FFN), архитектура MoE динамически направляет каждый токен к ограниченному набору специализированных подсетей («экспертов»).
Однако размещение десятков или сотен независимых экспертов на разных физических серверах порождает новую плоскость уязвимости на физическом сетевом уровне. При масштабировании вычислительного кластера на множество узлов маршрутизация токенов перестает быть изолированной операцией внутри кристалла ускорителя и превращается в поток межсерверного сетевого трафика.
Пассивный наблюдатель, перехватывающий пакеты на коммутаторах локальной сети, в облачной инфраструктуре или у транзитного провайдера, способен эксплуатировать побочный канал сетевой маршрутизации MoE. Анализируя объемы и временные интервалы коллективных взаимодействий All-to-All, аналитик может классифицировать входные запросы, определять предметную область и восстанавливать конфиденциальные корпоративные данные без доступа к памяти GPU и дешифрования параметров модели.
+-------------------------------------------------------------------------+
| РАСПРЕДЕЛЕННЫЙ ВЫЧИСЛИТЕЛЬНЫЙ КЛАСТЕР MoE |
| |
| [ Запрос пользователя ] ---> [ Маршрутизатор Gating ] |
| | |
| Распределение токенов Top-k (All-to-All) |
| +-------------------------+-------------------------+ |
| | | | |
| v v v |
| +-------------+ +-------------+ +-------------+ |
| | GPU Node 1 | | GPU Node 2 | | GPU Node 3 | |
| | Expert 0..7 | | Expert 8..15| | Expert 16.. | |
| +-------------+ +-------------+ +-------------+ |
| | | | |
| +-------------------------+-------------------------+ |
| | |
| [ Нешифрованная внутренняя сеть кластера ] |
| !!! СЕТЕВОЙ ПЕРЕХВАТЧИК ФИКСИРУЕТ !!! |
| Объемы токенов и профили активации экспертов |
+-------------------------------------------------------------------------+
Математические основы MoE: механизм маршрутизации и параллелизм экспертов
Для понимания природы утечки через побочный канал необходимо разобрать математический аппарат, управляющий распределением токенов в современных слоях MoE.
В классической архитектуре Transformer скрытые представления проходят через плотные слои прямого распространения. В слое MoE с $N$ независимыми экспертами ${E_1, E_2, \dots, E_N}$ выходное значение для представления токена $x$ вычисляется как взвешенная сумма результатов наиболее подходящих подсетей:
$$y = \sum_{i=1}^{N} G(x)_i E_i(x)$$
Где $G(x)$ — функция маршрутизации (gating function). При выборе $k$ экспертов с наибольшими оценками (как правило, $k=2$ или $k=8$):
$$H(x) = x \cdot W_g + \epsilon$$
$$G(x) = \text{Softmax}(\text{TopK}(H(x), k))$$
Здесь $W_g$ обозначает матрицу весов маршрутизатора, а оператор $\text{TopK}$ присваивает значение $-\infty$ всем экспертам вне выбранного подмножества.
Поскольку веса модели объемом 671 миллиард параметров невозможно разместить в локальной памяти высокой пропускной способности (HBM) одного графического процессора, системы применяют параллелизм экспертов (Expert Parallelism, EP). Эксперты распределяются по отдельным физическим серверам. В распределенном кластере Узел GPU 1 может обрабатывать Эксперты с 1 по 8, а Узел GPU 2 — с 9 по 16.
Коллективные операции All-to-All как точка перехвата
При обработке пакета токенов в распределенном слое MoE на $P$ узлах требуются два этапа коллективной передачи данных через библиотеку NCCL или MPI:
- Фаза рассылки (
all_to_all_single): Каждый ускоритель реорганизует локальные токены согласно указаниям маршрутизатора и передает сегменты целевым узлам-экспертам по межузловой сети. - Фаза объединения (
all_to_all_single): После завершения вычислений узлы-эксперты отправляют результирующие скрытые состояния обратно на исходные ускорители для сложения остаточных связей и передачи в следующий слой внимания.
Критическая уязвимость заключается в том, что объем передаваемых данных между Узлом $i$ и Узлом $j$ не является постоянным. Он строго зависит от смыслового содержания обрабатываемого текста на каждом шаге генерации.
Механика побочного канала: профилирование активации экспертов
Уязвимость возникает из-за естественной специализации экспертов. В процессе предварительного обучения отдельные эксперты начинают отвечать за специфические смысловые и синтаксические концепции:
- Кластер экспертов A: Генерация программного кода, синтаксический разбор и технические идентификаторы.
- Кластер экспертов B: Медицинская терминология, фармакология и формулировки клинических диагнозов.
- Кластер экспертов C: Финансовая отчетность, банковские операции и бухгалтерский учет.
- Кластер экспертов D: Специфические естественные языки и морфологические структуры.
Когда пользователь отправляет конфиденциальный запрос (например, проприетарный исходный код или медицинские документы), маршрутизатор с высокой вероятностью активирует строго определенную группу экспертов.
Утечка через размеры сетевых пакетов
В нешифрованных сетях Ethernet или RoCE межузловой трафик напрямую раскрывает матрицу распределения токенов:
Сетевой поток: GPU Узел 0 -> GPU Узел 4 (Эксперты по финансам)
[Время: t0] Размер пакета: 16 384 байт (Интенсивная передача токенов)
[Время: t1] Размер пакета: 18 432 байт (Непрерывная обработка финансового контекста)
Сетевой поток: GPU Узел 0 -> GPU Узел 2 (Эксперты по общему синтаксису)
[Время: t0] Размер пакета: 2 048 байт (Минимальный фоновый трафик)
Внешний наблюдатель, не имея возможности дешифровать полезную нагрузку, фиксирует:
- Матрицу межузловой передачи: Точный объем байтов, переданных между парами серверов $(i, j)$ на каждом слое нейросети.
- Временные интервалы вычислений: Длительность работы и периодичность обращения к отдельным экспертам.
Обучая компактные классификаторы на матрицах межузлового трафика, исследователи добиваются точности определения тематики запросов свыше 94%. В многоэтапных диалогах динамика распределения токенов раскрывает длину фраз и смысловую эволюцию беседы.
Угроза атак типа «Отказ в обслуживании» через перегрузку экспертов
Помимо пассивного наблюдения, архитектурные особенности MoE создают предпосылки для активного воздействия: Expert Skewing DoS.
В реальных кластерах инференса для каждого эксперта выделяется фиксированный буфер токенов (параметр Capacity Factor). Злоумышленник может сформировать вредоносный запрос, заставляющий маршрутизатор направлять 100% токенов одному конкретному эксперту:
- Сброс токенов и деградация вывода: Токены, превышающие емкость буфера, отбрасываются или передаются по запасному пути, что разрушает логику рассуждений модели.
- Взрывной рост задержки (Tail Latency): Графический процессор с перегруженным экспертом становится узким местом. Поскольку фаза объединения (
all_to_all) требует барьерной синхронизации всего кластера, все ускорители простаивают в ожидании перегруженного узла, увеличивая время отклика в 20–40 раз.
| Вектор атаки | Механизм воздействия | Способ обнаружения | Последствия для инфраструктуры |
|---|---|---|---|
| Объемное профилирование | Размеры пакетов All-to-All | Пассивный перехват на коммутаторах | Определение тематики запросов и характера данных |
| Анализ временных колебаний | Задержки фазы объединения | Снятие телеметрии с сетевых портов | Восстановление структуры предложений и ритма ответов |
| Expert Skewing DoS | Перегрузка выбора Top-k | Отправка специализированных запросов | Блокировка кластерной синхронизации, отказ в обслуживании |
| Трансграничный перехват | Распределение конвейера между ЦОД | Перехват на магистральных каналах | Сбор незащищенных распределений промежуточных состояний |
Криптографическая защита сетевого уровня: ячеистая сеть WireGuard и паддинг
Защита распределенного инференса MoE требует устранения сигнатур размеров пакетов при сохранении минимальных задержек передачи. Пакетирование токенов на уровне приложения не решает проблему, поскольку сетевая сериализация по-прежнему выдает размер буфера.
Наиболее надежная стратегия защиты объединяет балансировку нагрузки на уровне алгоритмов и криптографическое инкапсулирование L3 на базе WireGuard.
+-------------------------------------------------------------------------+
| ЗАЩИЩЕННЫЙ КЛАСТЕР MoE С ИСПОЛЬЗОВАНИЕМ WIREGUARD |
| |
| GPU Узел A (Движок vLLM) GPU Узел B (Рабочий эксперт) |
| +-----------------------+ +-----------------------+ |
| | All-to-All Dispatch | | All-to-All Receive | |
| +-----------------------+ +-----------------------+ |
| | ^ |
| v | |
| [ Квантование размера ] [ Снятие паддинга ] |
| (Стандарт RFC 8861) (Удаление фиктивных токенов) |
| | | |
| v | |
| +-----------------------+ WireGuard Mesh +-----------------------+ |
| | Интерфейс ядра wg0 | === ChaCha20 ==>| Интерфейс ядра wg0 | |
| | (Шифрование L3) | Постоянный поток| (Аппаратная дешифрация| |
| +-----------------------+ +-----------------------+ |
+-------------------------------------------------------------------------+
1. Квантование размеров пакетов (паддинг по стандарту RFC 8861)
Для устранения объемных утечек все межузловые буферы перед передачей выравниваются до стандартизированных квантованных значений:
$$\text{PaddedSize} = \left\lceil \frac{\text{ActualSize}}{Q} \right\rceil \times Q$$
Где $Q$ — квант выравнивания (например, 8 192 байта или размер MTU). Для каналов между дата-центрами инъекция фиктивных кадров с постоянной скоростью полностью изолирует физический трафик от вычислительной динамики токенов.
2. Ячеистая структура WireGuard в пространстве ядра
Использование VPN-решений пользовательского пространства создает недопустимые задержки контекстных переключений. Развертывание WireGuard непосредственно в ядре Linux обеспечивает:
- Защиту межсерверных соединений с помощью шифрования ChaCha20-Poly1305.
- Прямое одноранговое взаимодействие (peer-to-peer mesh) без промежуточных шлюзов.
- Нулевое копирование буферов с аппаратным ускорением, сохраняющее многогигабитную пропускную способность.
Подключение географически распределенных узлов через защищенную инфраструктуру VPNRice исключает анализ сетевых потоков на уровне интернет-провайдеров, гарантируя безопасность кластеров в гибридных и мультиоблачных средах.
Практический регламент укрепления сетевой инфраструктуры ИИ
Инженерам по инфраструктуре искусственного интеллекта рекомендуется внедрить следующий пятиэтапный регламент:
- Изоляция трафика EP на выделенных интерфейсах: Настройте межузловые сокеты NCCL (
NCCL_SOCKET_IFNAME=wg0) исключительно на защищенные сетевые интерфейсы WireGuard. - Ограничение емкости буферов с балансировкой: Сконфигурируйте среду исполнения vLLM или SGLang со штрафами вспомогательной функции потерь (auxiliary loss) для равномерного распределения нагрузки между экспертами.
- Выравнивание размеров пакетов по границам MTU: Используйте механизмы формирования трафика Linux (
tc-tbf) для устранения всплесков в размерах сетевых кадров. - Криптографическая микросегментация: Ограничьте порты All-to-All взаимодействия доверенными открытыми ключами участников кластера.
- Аудит времени синхронизации: Отслеживайте аномалии задержек на барьерах синхронизации для своевременного обнаружения попыток искусственной перегрузки экспертов.
Инкапсуляция коллективных операций MoE в зашифрованные туннели сетевого уровня с выравниванием размеров пакетов надежно ограждает корпоративные запросы от перехвата и обеспечивает стабильность работы вычислительных кластеров.



