Dans les architectures de cybersécurité d'entreprise, les plateformes de détection et de réponse sur les terminaux (EDR) occupent une place centrale. Des outils reconnus tels que CrowdStrike Falcon, SentinelOne ou Microsoft Defender for Endpoint s'exécutent en continu sur les postes de travail et les serveurs pour intercepter les activités anormales avant qu'une charge malveillante ne compromette le réseau. Cependant, le mécanisme prépondérant de détection en espace utilisateur (Userland)—le hooking d'API en ligne—repose sur une hypothèse architecturale vulnérable : celle selon laquelle un programme s'exécutant dans un processus ne pourrait ni examiner ni altérer la mémoire qui lui est allouée.

Ces dernières années, la recherche en sécurité offensive et les groupes de cyberattaques avancés ont mis en évidence la fragilité de cette approche. Grâce aux appels système directs (Direct Syscalls), à la résolution dynamique des numéros de service système SSN (Hell's Gate, Halo's Gate, Tartarus' Gate) et aux techniques de déhooking de ntdll.dll, les logiciels hostiles neutralisent les capteurs de l'EDR. Dès que l'espace utilisateur échappe à cette surveillance, le programme peut allouer de la mémoire exécutable, créer des threads masqués et ouvrir des sockets de communication vers des serveurs de commande (C2) sans générer d'alerte locale.

Cette réalité démontre que la protection de l'hôte ne peut suffire à elle seule et qu'une isolation réseau indépendante via un tunnel VPNRice WireGuard constitue un rempart indispensable.

Les limites architecturales du hook API EDR en mode utilisateur

Pour comprendre comment les programmes malveillants échappent aux capteurs, il convient d'analyser le fonctionnement du hooking en mode utilisateur sous Windows.

Lorsqu'une application sollicite des services fondamentaux du système d'exploitation—comme allouer de la mémoire, manipuler un fichier ou transmettre des paquets réseau—elle fait appel aux fonctions de l'API Win32 (VirtualAlloc, CreateFileW, connect dans kernel32.dll ou ws2_32.dll). Ces fonctions constituent des interfaces intermédiaires qui transmettent la requête à la bibliothèque native du système, ntdll.dll (NtAllocateVirtualMemory, NtCreateFile, NtDeviceIoControlFile).

[ Code applicatif ]
         │
         ▼ (API Win32)
[ kernel32.dll / ws2_32.dll ]
         │
         ▼ (API Native)
[ ntdll.dll ] ───────► [ Hook inline EDR : 0xE9 JMP ] ──► [ DLL Capteur EDR ]
         │                                                        │ (Analyse & Autorisation)
         ▼ (Instruction Syscall)                                  ▼
[ Noyau Windows NT (Ring 0) ] ◄───────────────────────────────────┘

Comme la protection PatchGuard sous Windows 64 bits interdit la modification du noyau Ring 0 par des pilotes tiers, les éditeurs d'EDR injectent une bibliothèque DLL dans chaque nouveau processus utilisateur. Dès son initialisation, le capteur modifie les premiers octets du prologue des fonctions sensibles dans ntdll.dll, en y inscrivant une instruction de saut inconditionnel (0xE9 [rel32]) vers son propre moteur d'analyse. Lors d'un appel système, le flux d'exécution est redirigé vers l'EDR afin d'examiner les arguments et la pile d'exécution avant de restituer la main.

Le point faible structurel de ce modèle réside dans l'équivalence des privilèges (Privilege Equivalence). Le capteur EDR et le code exécuté partagent le même espace d'adressage en Ring 3 et possèdent des droits identiques. Toute instruction modifiée en mémoire par un hook EDR peut donc être lue, désassemblée, écrasée ou totalement écartée par le logiciel hôte.

L'évolution des appels directs : Hell's Gate, Halo's Gate et Tartarus' Gate

Au lieu de faire appel aux fonctions altérées de ntdll.dll, le code malveillant exécute l'instruction syscall directement au sein de sa propre section de code.

Dans une bibliothèque ntdll.dll intacte, un stub de syscall x64 suit une structure rigoureuse :

mov r10, rcx            ; 4C 8B D1
mov eax, <SSN>          ; B8 <SSN_LOW> <SSN_HIGH> 00 00
test byte ptr [7FFE0308h], 1
jne stub_alt
syscall                 ; 0F 05
ret                     ; C3

Le numéro de service système (SSN) chargé dans le registre eax indique au noyau NT quelle procédure activer. Toutefois, Microsoft modifie et réordonne fréquemment ces valeurs d'une mise à jour de Windows à l'autre. Des constantes codées en dur provoqueraient des pannes ou des erreurs fatales lors d'une exécution sur une version différente du système.

Pour pallier ce problème, des méthodes de résolution dynamique ont vu le jour.

1. Hell's Gate : Extraction directe en mémoire

Conçu par VX-Underground, Hell's Gate résout les numéros de syscall directement depuis la mémoire du processus :

  • Lecture du Process Environment Block (PEB) via le registre de segment gs:[0x60] sans passer par l'API GetModuleHandle.
  • Parcours de la liste InLoadOrderModuleList afin de repérer l'adresse de chargement de ntdll.dll.
  • Exploration de la table d'exportation (EAT) pour identifier la fonction native recherchée à partir de son hash.
  • Vérification du prologue : si la séquence d'octets correspond à 0x4C, 0x8B, 0xD1, 0xB8, l'entier 32 bits suivant est extrait comme valeur SSN valide.

2. Halo's Gate : Inspection des stubs voisins

Si l'EDR a déjà placé un saut 0xE9 au début de la fonction cible, l'approche de Hell's Gate échoue. Halo's Gate exploite alors l'alignement mémoire interne de ntdll.dll, où les stubs sont contigus, espacés de 32 octets (0x20), et numérotés de manière séquentielle en fonction de leur adresse.

Halo's Gate examine les stubs adjacents (adresse ± 0x20 * i). Dès qu'une fonction voisine non altérée est repérée, son SSN est récupéré, puis le numéro de la cible est déduit avec exactitude en ajoutant ou en soustrayant le décalage i.

3. Tartarus' Gate : Tri global des exportations

Lorsque l'EDR applique des hooks sur une large plage de fonctions consécutives, Tartarus' Gate et FreshyCalls recourent au tri global des exportations. Le programme recense toutes les fonctions commençant par Zw ou Nt dans ntdll.dll, puis les classe par ordre croissant d'adresses virtuelles. Sur un système 64 bits, l'indice d'une fonction dans cette liste ordonnée équivaut rigoureusement à son numéro de syscall, ce qui affranchit l'attaquant de toute lecture des octets modifiés.

Restauration de la mémoire ntdll et déhooking en userland

En complément des appels directs, de nombreuses menaces appliquent une remise à l'état d'origine de la mémoire via la technique de déhooking.

[ Fichier ntdll sain sur disque ]        [ Mémoire ntdll avec hooks EDR ]
            │                                         │
            │ (Lecture section .text)                 │
            └────────────► [ VirtualProtect ] ────────┘
                           [ Copie mémoire memcpy ]
                           [ Rétablissement droits ]
                                    │
                                    ▼
                         [ ntdll saine en mémoire ]
                         (Suppression totale des hooks)

La procédure de déhooking s'opère selon les étapes suivantes :

  1. Chargement d'une copie intacte de C:\Windows\System32\ntdll.dll depuis le disque (ou mappage de la section depuis \KnownDlls\ntdll.dll).
  2. Détermination des coordonnées de la section exécutable .text.
  3. Modification temporaire des protections mémoire de PAGE_EXECUTE_READ vers PAGE_EXECUTE_READWRITE au moyen de VirtualProtect.
  4. Copie du code d'origine depuis le fichier sain vers la mémoire du processus afin de recouvrir les instructions altérées.
  5. Rétablissement des permissions de sécurité initiales.

Au terme de l'opération, l'ensemble des hooks de l'EDR au sein du processus est éliminé. Les appels ultérieurs s'exécutent sans transmettre de télémétrie aux agents locaux.

Impacts réseau : sockets furtifs et angle mort de l'EDR

La neutralisation des hooks en espace utilisateur engendre des conséquences critiques pour la surveillance des communications réseau.

Lorsque les contrôles applicatifs sont éliminés, le logiciel hostile n'a plus besoin d'utiliser les bibliothèques Winsock conventionnelles. Il peut s'adresser directement au pilote réseau fondamental Ancillary Function Driver (\Device\Afd\Endpoint) par le biais des appels natifs NtCreateFile et NtDeviceIoControlFile.

En transmettant directement des codes de contrôle IOCTL tels que IOCTL_AFD_CONNECT et IOCTL_AFD_SEND, le processus malveillant établit des connexions TCP et échange des signaux de commande sans alerter les pare-feux logiciels locaux.

L'absence de visibilité de l'hôte sur ces créations de sockets permet au code hostile de maintenir une persistance discrète, de recevoir des extensions modulaires et d'exfiltrer des éléments sensibles.

Architecture de défense multicouche : télémétrie noyau et isolation WireGuard

Face aux limites structurelles de la surveillance en espace utilisateur, une stratégie de sécurité moderne doit reposer conjointement sur la télémétrie noyau et sur l'isolation du périmètre réseau.

[ Poste terminal ]                        [ Périmètre réseau ]
┌───────────────────────────────┐          ┌───────────────────────────────────┐
│ Espace utilisateur : déhooké  │          │                                   │
│ Espace noyau : ETW-Ti         │─────────►│  Passerelle [VPNRice] WireGuard   │
│   - Journalisation mémoire    │          │    - Routage Cryptokey strict     │
│   - Analyse de la pile        │          │    - Isolation par interface      │
└───────────────────────────────┘          │    - Filtrage centralisé          │
                                           └─────────────────┬─────────────────┘
                                                             ▼
                                                [ Blocage des flux C2 hostiles ]

1. Télémétrie en mode noyau avec ETW-Ti

Si les programmes malveillants peuvent effacer les hooks en espace utilisateur, la transition vers le noyau reste visible pour le système d'exploitation. Les solutions de protection doivent exploiter le mécanisme Microsoft Threat Intelligence ETW (ETW-Ti) :

  • L'événement KERNEL_THREATINTEL_ALLOCVM_REMOTE enregistre les allocations de mémoire virtuelle entre processus, quel que soit l'état des hooks en espace utilisateur.
  • Le suivi des attributs de mémoire repère les modifications suspectes vers l'état PAGE_EXECUTE_READWRITE.
  • L'audit de pile d'appels identifie l'exécution d'une instruction syscall provenant d'une mémoire de tas non certifiée plutôt que de la bibliothèque ntdll.dll légitime.

2. Isolation du périmètre réseau grâce à WireGuard

Quelle que soit la sophistication des techniques d'évasion employées en mémoire, une charge hostile doit impérativement communiquer sur le réseau pour organiser ses actions ou extraire des données.

L'isolation réseau mise en œuvre par le biais d'un tunnel VPNRice WireGuard fournit une ligne de défense extérieure décisive :

  • Routage Cryptokey rigoureux : Avec une règle AllowedIPs = 0.0.0.0/0 sur une interface dédiée, tout paquet sortant est soumis à une authentification cryptographique par clé publique avant de quitter l'hôte.
  • Interdiction des connexions directes non contrôlées : Les sockets bas niveau générés par un processus compromis ne peuvent s'échapper vers les cartes physiques en marge du tunnel WireGuard, interdisant toute communication directe vers des adresses IP publiques non autorisées.
  • Résolution DNS sécurisée obligatoire : Toutes les requêtes de noms de domaine sont acheminées vers des résolveurs protégés par validation DNSSEC, empêchant l'exfiltration clandestine par tunnel DNS.
  • Audit centralisé sur la passerelle : En concentrant le trafic sur des passerelles WireGuard à haut débit, les équipes de sécurité appliquent des règles d'analyse comportementale et stoppent les flux C2, en toute indépendance vis-à-vis des capteurs locaux de la machine.

La combinaison d'une surveillance approfondie du noyau via ETW-Ti et d'une isolation réseau par tunnel VPNRice neutralise l'avantage des appels directs et assure la protection pérenne des infrastructures informatiques.