Le règlement AI Act n’offre qu’une protection incomplète face aux usages malveillants de l’intelligence artificielle : certains risques sont strictement encadrés, tandis que d’autres échappent totalement à la régulation. Les entreprises doivent donc adopter une gestion élargie des risques, intégrant les menaces non couvertes par l’AI Act, afin d’assurer une conformité robuste et une sécurité globale.
En bref
- Sur les 9 principaux sous-risques d’usage malveillant de l’IA, l’AI Act n’en traite qu’un de façon exhaustive.
- Seules la surveillance de masse et l’oppression font l’objet d’interdictions explicites dans le texte.
- Les menaces liées à la désinformation, aux contenus abusifs, à la fraude et aux cyberattaques ne sont abordées que partiellement ou via d’autres législations européennes.
- Les armes biologiques, les IA autonomes malveillantes, les systèmes d’armes autonomes et la concentration du pouvoir échappent totalement au champ du règlement.
- Pour maîtriser l’ensemble des risques, les entreprises doivent élargir leur démarche au-delà de la stricte conformité à l’AI Act.
En février 2026, le Real Instituto Elcano a publié une étude approfondie qui interroge la capacité réelle du règlement AI Act à encadrer les usages les plus dangereux de l’intelligence artificielle. Paula Oliver Llorente y analyse en détail **neuf sous-risques liés à l’utilisation délibérée de l’IA pour causer des préjudices**. Le bilan est sans appel : la protection offerte par l’AI Act est très inégale. Pour les entreprises soumises au **Règlement (UE) 2024/1689**, cette situation a des conséquences directes sur la gestion de leurs risques.
Définir l’usage malveillant de l’IA
L’usage malveillant de l’intelligence artificielle se caractérise par l’exploitation intentionnelle de systèmes IA afin de porter atteinte à la sécurité d’individus, de groupes ou de la société dans son ensemble. Ce qui distingue cet usage des erreurs ou accidents, c’est la volonté délibérée de nuire.
Il ne faut pas confondre cette notion avec l’_abus malveillant_ (malicious abuse), qui consiste à tirer parti des failles internes des systèmes IA (par exemple, les attaques adversariales) plutôt qu’à détourner leurs capacités pour nuire à autrui.
Sur la base de rapports institutionnels, d’incidents réels et des analyses d’organismes internationaux, neuf grandes catégories de risques ont été identifiées :
1. **Armes biologiques et menaces chimiques** : recours à l’IA pour créer des agents pathogènes, orchestrer des attaques biologiques ou fournir des instructions pour la fabrication d’armes existantes.
2. **IA autonomes à visée malveillante** : développement et déploiement de systèmes autonomes poursuivant des objectifs destructeurs (par exemple, ChaosGPT), capables d’agir sans surveillance humaine.
3. **Désinformation et IA persuasives** : production massive de contenus trompeurs, manipulation personnalisée exploitant les faiblesses cognitives, campagnes d’influence étrangères.
4. **Contenus générés abusivement** : création d’images intimes sans consentement (NCII), contenus pédopornographiques générés par IA (CSAM), usurpation vocale, chantage, atteintes à la réputation.
5. **Fraudes, escroqueries et ingénierie sociale** : utilisation de systèmes IA (WormGPT, FraudGPT) pour générer des campagnes de phishing, usurpations d’identité ou chatbots frauduleux.
6. **Cyberattaques offensives** : automatisation de la création de malwares, identification de failles de sécurité, phishing multilingue, démocratisation des outils d’attaque.
7. **Systèmes d’armes autonomes et usage militaire** : emploi de drones et d’armes IA capables de cibler et d’attaquer sans intervention humaine.
8. **Concentration du pouvoir** : utilisation de l’IA par des gouvernements ou des entreprises pour renforcer leur domination, étouffer la dissidence ou monopoliser les ressources IA.
9. **Surveillance étatique et oppression** : surveillance généralisée, recours à la police prédictive, censure et répression ciblée de minorités à l’aide de l’IA.
Cartographie de la couverture par l’AI Act
L’étude du Real Instituto Elcano confronte les dispositions du règlement à ces neuf sous-risques. Voici un panorama synthétique de la couverture réglementaire :
**Légende :** 🔴 Non couvert — 🟡 Couverture partielle ou indirecte — 🟢 Couverture complète
- **Armes biologiques et chimiques** 🔴 : seules les exigences générales de gestion des risques et de notification d’incidents pour les modèles GPAI à risque systémique s’appliquent. La protection repose principalement sur des conventions internationales.
- **IA autonomes malveillantes** 🔴 : vide réglementaire similaire. La mitigation se limite à la gestion des risques GPAI systémique et à l’obligation de surveillance humaine pour les systèmes à haut risque. Aucune règle spécifique sur la création d’agents IA destructeurs.
- **Désinformation et IA persuasives** 🟡 : l’AI Act interdit certaines techniques manipulatoires (Art. 5) et impose l’étiquetage des deepfakes (Art. 50), mais la manipulation personnalisée par chatbot n’est pas explicitement visée. Le Digital Services Act (DSA) complète partiellement cette protection.
- **Contenus abusifs** 🟡 : interdictions indirectes (exploitation des vulnérabilités, Art. 5), mais les formes graves comme les images intimes non consenties (NCII) ou le CSAM généré par IA ne sont pas traitées. L’étiquetage des deepfakes offre une protection limitée. La directive sur les images intimes non consenties intervient en complément.
- **Fraudes et ingénierie sociale** 🟡 : les obligations de transparence réduisent l’efficacité des arnaques, mais il n’existe pas de prohibition directe des outils IA de fraude.
- **Cyberattaques offensives** 🟡 : la législation européenne antérieure criminalise déjà les cyberattaques. L’AI Act vise surtout à protéger les systèmes à haut risque contre les attaques adversariales (abus malveillant). Le Cyber Resilience Act complète ce dispositif.
- **Systèmes d’armes autonomes et usage militaire** 🔴 : le règlement exclut explicitement ces systèmes (défense et sécurité nationale relevant des États membres). Seuls les systèmes à double usage sont concernés. Il s’agit d’une lacune majeure.
- **Concentration du pouvoir** 🔴 : l’AI Act limite partiellement l’usage étatique de l’IA via des restrictions sur la police prédictive, mais ne traite pas la concentration du pouvoir par les entreprises (accès aux données, infrastructures cloud, puissance de calcul). Le Digital Markets Act ne couvre pas les spécificités IA.
- **Surveillance étatique et oppression** 🟢 : c’est le domaine le plus strictement encadré. L’AI Act interdit le scoring social (Art. 5), la police prédictive, certains usages de la biométrie et la catégorisation biométrique. Ce choix reflète la sensibilité politique du sujet en Europe.
Pourquoi ces lacunes sont-elles assumées ?
L’absence de couverture sur certains risques n’est pas accidentelle. Les législateurs européens ont opté pour une approche qui évite la superposition de normes.
L’AI Act s’inscrit dans un ensemble de textes européens déjà existants. Les actes criminels tels que la création d’armes biologiques, la fraude ou les cyberattaques étaient déjà encadrés avant l’essor de l’IA. Les responsables politiques ont jugé inutile de créer des doublons réglementaires pour des infractions qui restent les mêmes, quel que soit l’outil utilisé.
En pratique, de nombreux risques sont couverts par des textes complémentaires :
- **Désinformation** : Digital Services Act (DSA)
- **Contenus abusifs** : directive sur les images intimes non consenties
- **Cyberattaques** : Cyber Resilience Act
- **Concentration du pouvoir** : Digital Markets Act (DMA)
- **Armes biologiques** : conventions internationales
- **Armes autonomes** : initiatives internationales (ONU)
Cette logique interne vise à éviter la surréglementation et à simplifier la conformité. Toutefois, elle pose un problème d’exportabilité : hors d’Europe, l’AI Act risque de perdre de son efficacité si les textes complémentaires ne sont pas adoptés.
Limites transversales du dispositif
Au-delà de la couverture par type de risque, deux faiblesses structurelles réduisent l’efficacité de l’AI Act face aux usages malveillants.
Les usages privés échappent au champ d’application
Les usages individuels et non professionnels des systèmes IA ne sont pas visés par le règlement. Le texte mise sur la responsabilité des développeurs et fournisseurs pour limiter les risques en aval. Les particuliers malveillants peuvent donc agir sans être directement concernés, sauf intervention du droit pénal. Or, l’IA facilite et amplifie ce type d’usage, ce qui rend la menace de sanctions pénales peu dissuasive.
La notion de « mésusage raisonnablement prévisible » reste floue
L’AI Act impose aux fournisseurs de prendre en compte non seulement l’utilisation prévue, mais aussi les détournements d’usage qu’ils peuvent anticiper (Article 9 et Article 51 pour les GPAI à risque systémique). Cependant, cette notion demeure ambiguë et donne lieu à des interprétations variées. Certaines entreprises, à l’image d’OpenAI, ont déjà invoqué cette ambiguïté pour se décharger de leur responsabilité en cas d’utilisation dangereuse de leur produit.
Conséquences pour les entreprises
Pour les fournisseurs et déployeurs de systèmes d’IA, ces constats impliquent des ajustements concrets dans la gestion des risques.
L’analyse des risques doit dépasser le texte du règlement
La conformité à l’Article 9 exige d’identifier les risques « connus et raisonnablement prévisibles ». Les usages malveillants doivent donc être intégrés à la documentation technique (Annexe IV, Section 5), même s’ils relèvent d’autres législations.
La transparence, première ligne de défense
Pour les quatre sous-risques partiellement couverts, les obligations de transparence du règlement (étiquetage des deepfakes, signalement des interactions homme-machine, information des utilisateurs) constituent le principal rempart. Leur application rigoureuse est indispensable, même si elle ne suffit pas à endiguer les usages malveillants déterminés.
Les GPAI à risque systémique en position clé
Les fournisseurs de modèles GPAI à risque systémique (Article 51 et suivants) portent une responsabilité accrue : gestion des risques, tests adversariaux et notification d’incidents constituent le seul filet de sécurité pour quatre des neuf sous-risques identifiés. La qualité de leur mise en œuvre conditionne la sécurité de l’écosystème.
> Vous développez ou déployez une IA et souhaitez évaluer votre exposition aux risques d’usage malveillant ? Le diagnostic gratuit compaia vous permet d’obtenir une cartographie de vos obligations en moins de trois minutes.
L’ambition européenne remise en cause
L’AI Act a été pensé comme un modèle international de gouvernance de l’IA, incarnant le fameux « effet Bruxelles ». Le Conseil de l’UE a d’ailleurs présenté ce texte comme une future référence mondiale.
Cependant, l’analyse révèle que ce statut est fragilisé par les lacunes de couverture : laisser hors du champ direct les armes biologiques, les IA autonomes destructrices et la concentration du pouvoir technologique affaiblit la crédibilité du modèle.
Le **Digital Omnibus**, proposé en novembre 2025, accentue cette fragilité : il reporte l’application de certaines obligations pour les systèmes à haut risque, instaure des périodes transitoires pour le marquage des GPAI et élargit l’accès aux données d’entraînement. Ces évolutions pourraient faciliter la diffusion de systèmes de désinformation et d’ingénierie sociale.
Pour les entreprises européennes, la situation est complexe : les échéances d’août 2026 approchent, mais le cadre réglementaire demeure instable.
Conseils pratiques pour les organisations
Face à ce contexte, trois recommandations s’imposent :
1. **Inclure les risques d’usage malveillant dans l’analyse Article 9** : il est crucial de ne pas se limiter aux usages prévus. Il convient de documenter explicitement les scénarios d’usage malveillant et les mesures de mitigation, même pour les risques couverts par d’autres textes.
2. **Surveiller l’ensemble du paysage réglementaire** : l’AI Act n’est qu’une pièce du puzzle. Il faut identifier et intégrer les exigences des textes complémentaires (DSA, Cyber Resilience Act, directive NCII, DMA) dans la stratégie de conformité.
3. **Anticiper les évolutions du règlement** : l’Article 112 prévoit des révisions périodiques. La liste des systèmes à haut risque (Annexe III) peut évoluer par actes délégués. Il est donc essentiel de suivre l’actualité réglementaire, notamment sur la manipulation personnalisée et les contenus générés par IA.
La conformité à l’AI Act constitue une base, mais ne suffit pas à elle seule. Les entreprises qui adoptent une gestion globale des risques, intégrant les usages malveillants au-delà du périmètre du règlement, seront mieux armées face aux régulateurs et aux menaces réelles que l’IA peut amplifier.