Infrastructures critiques : votre IA est en haut risque, voici la méthode

Dès qu'une IA aide à piloter un réseau d'énergie, d'eau ou de gaz et touche à la sécurité de l'approvisionnement, elle bascule en haut risque au sens de l'AI Act, et le moindre incident cesse d'être local pour devenir systémique. La bonne nouvelle : vous n'avez pas à choisir entre moderniser votre exploitation et garder la main. Voici la méthode en quatre étapes pour recenser vos IA, qualifier leur régime, cloisonner leur boucle de décision et prouver que vous maîtrisez votre réseau vital.

Le problème : une IA qui décide sur un réseau vital n'est pas un outil comme un autre

Un opérateur d'infrastructure critique branche de l'IA partout où elle fait gagner du temps : prévision de charge, détection d'anomalies sur le réseau, optimisation de la production, maintenance des équipements. Tant que ces systèmes se contentent de conseiller un humain, le risque reste contenu. Le problème naît quand l'IA se met à décider ou à agir directement sur un réseau dont dépendent des milliers de foyers, un hôpital ou une usine.

Deux dangers se superposent alors. D'abord un danger réglementaire : une IA utilisée comme composant de sécurité dans la gestion de l'électricité, du gaz, du chauffage, de l'eau ou des réseaux numériques critiques est classée haut risquepar l'AI Act. Ensuite un danger d'exploitation : une erreur de modèle, une donnée corrompue ou une attaque sur cette IA ne provoque plus un simple bug, mais une coupure ou une manœuvre dangereuse sur un réseau vital. Confondre ces deux plans, ou n'en traiter qu'un seul, c'est laisser la porte ouverte.

La méthode en quatre étapes

L'objectif n'est pas de renoncer à l'IA, mais de la remettre à sa place : un outil puissant, sous contrôle, dont la défaillance ne peut jamais faire tomber le réseau. Voici l'enchaînement que je recommande à un exploitant qui veut avancer sans créer de dette de risque.

Étape 1 : cartographier les IA qui touchent au réseau

On ne maîtrise que ce que l'on voit. Recensez tout système qui observe, prédit ou pilote une partie de votre exploitation, sans oublier les briques d'IA embarquées dans des équipements fournisseurs et les outils adoptés par les équipes sans validation, le fameux Shadow AI. Pour chaque système, notez ce qu'il fait, sur quelles données il s'appuie, et surtout ce qu'il peut déclencher : une simple alerte, une recommandation, ou une action automatique sur le réseau.

Étape 2 : qualifier le régime applicable

Tous vos systèmes ne sont pas au même niveau. Le pivot est simple : l'IA est-elle un composant de sécuritéde la fourniture d'énergie, d'eau ou de gaz, ou un simple confort d'exploitation ? Le premier cas fait entrer l'IA dans le haut risque de l'AI Act. Et ce régime ne remplace pas vos obligations cyber : il s'ajoute à celles qui pèsent déjà sur un opérateur d'infrastructure vitale.

La démarche de classification est la même que pour n'importe quel usage : si vous hésitez sur le niveau, appuyez-vous sur la méthode détaillée dans mon article IA à haut risque : votre entreprise est-elle concernée ?. Le classement conditionne tout le reste, ne le survolez pas.

Étape 3 : cloisonner la boucle de décision

C'est le cœur technique, et la différence entre une IA maîtrisée et une bombe à retardement. Le principe : l'IA propose, l'humain dispose, et le réseau opérationnel reste physiquement à l'abri.

• Séparez le monde de l'IA du monde de la commande.L'IA vit dans votre système d'information ; le réseau qui pilote les équipements reste isolé. Aucune sortie de modèle ne doit déclencher une action sur le terrain sans passer par un point de contrôle explicite.
• Rendez la supervision humaine réelle.L'opérateur doit disposer du temps, de l'information et du pouvoir de refuser une recommandation. Une validation en un clic, sans possibilité de comprendre ni de contredire, n'est pas une supervision.
• Neutralisez ce que l'IA renvoie.Une sortie de modèle branchée directement sur une commande, un script ou une base est une porte d'entrée pour une attaque. Ce réflexe vaut pour tout système, comme je l'explique dans sorties d'IA non filtrées.
• Bornez les actions autorisées.Définissez à l'avance ce que l'IA a le droit de proposer et les limites qu'elle ne peut jamais franchir seule, quelle que soit sa confiance.

Étape 4 : prouver la maîtrise et prévoir la panne

Le haut risque exige une preuve, pas une intention. Documentez chaque système critique : à quoi il sert, comment il décide, qui le supervise, quels risques il présente et comment ils sont traités. Éprouvez ensuite sa robustesse par des tests, y compris en conditions adverses, plutôt que de supposer qu'il tiendra. Enfin, posez la question qui sauve un réseau : que se passe-t-il quand l'IA tombe ou déraille ? Un mode dégradé, capable de faire fonctionner le réseau sans l'IA, doit être conçu, testé et connu de vos équipes.

Sur une infrastructure critique, l'IA doit être une aide dont on peut se passer à tout moment, jamais une dépendance dont la chute entraîne celle du réseau.

Questions fréquentes

Une IA de simple prévision de consommation est-elle en haut risque ?

Pas nécessairement. Tant qu'elle informe un opérateur sans agir sur la fourniture d'énergie, elle reste un outil d'aide. Le basculement se produit quand sa sortie devient un composant de sécurité, c'est-à-dire quand elle conditionne une décision qui engage la continuité ou la sûreté du réseau. D'où l'importance de l'étape de qualification, système par système.

Nos automates de terrain sont déjà sécurisés, cela suffit-il ?

La sécurité de vos automates est indispensable, mais elle ne couvre pas le risque propre à l'IA : un modèle qui se trompe, dérive ou est manipulé par des données faussées. Le haut risque impose de traiter la fiabilité et la robustesse du système d'IA lui-même, en plus de la protection de l'infrastructure.

Le report des obligations haut risque nous laisse-t-il tranquilles ?

Non. L'échéance haut risque a été repoussée, mais vos obligations de cybersécurité d'opérateur essentiel et le RGPD, eux, s'appliquent déjà. Et un réseau vital ne se sécurise pas dans l'urgence : cloisonner une boucle de décision et bâtir un mode dégradé prend des mois, pas des jours.

Par où commencer si nous n'avons rien formalisé ?

Par la cartographie et la qualification, les étapes 1 et 2. En quelques semaines, vous savez quels systèmes sont réellement critiques et où se cachent vos angles morts. C'est exactement ce que révèle un audit de sécurité d'une application IA.

C'est précisément l'objet de mon audit Sécurité & Conformité IA: adapté aux enjeux de l'énergie et des infrastructures critiques, il cartographie vos usages, qualifie leur niveau de risque et vous donne une feuille de route pour garder la main sur votre réseau.

Cet article a une visée pédagogique et ne constitue pas un conseil juridique. Chaque situation mérite une analyse au cas par cas.