# IA dans l’éducation : obligations AI Act pour EdTech et écoles > Les systèmes d’IA déployés en éducation, comme les plateformes adaptatives ou la notation automatisée, sont généralement classés à haut risque par l’AI Act. L’article détaille les responsabilités distinctes des fournisseurs EdTech et des établissements scolaires, aborde les enjeux liés aux données de mineurs et aux biais, et précise les échéances à respecter d’ici 2027. - Tags: AI Act EdTech, conformité IA éducation, systèmes IA haut risque éducation, obligations AI Act fournisseurs EdTech, FRIA établissements scolaires, biais IA orientation scolaire, RGPD données mineurs éducation - Mot-cle principal: AI Act EdTech ## Introduction La majorité des solutions d’intelligence artificielle employées dans le secteur éducatif sont soumises à la catégorie "haut risque" du règlement AI Act. Cette classification entraîne des exigences réglementaires strictes pour les fournisseurs comme pour les établissements utilisateurs. L’Annexe III du Règlement UE 2024/1689 définit les systèmes d’IA considérés à haut risque. Le point 3 cible précisément les outils utilisés dans l’enseignement et la formation professionnelle, notamment : ## Contenu ## Pourquoi l’EdTech est directement visée par l’AI Act - Les solutions d’évaluation automatisée des élèves, - Les plateformes d’apprentissage adaptatif, - Les systèmes d’orientation scolaire ou professionnelle, - Les dispositifs de détection de comportements ou de fraudes. Par exemple, une application de correction automatisée de dissertations déployée dans une université sera considérée à haut risque. Il en va de même pour un outil d’orientation basé sur l’IA qui recommande des parcours scolaires selon le profil de l’élève. Cette catégorisation s’explique par le fort impact potentiel de ces technologies sur les droits fondamentaux des apprenants. Une erreur ou un biais algorithmique dans une solution d’évaluation peut affecter l’accès à l’éducation ou fausser une orientation scolaire. > **Références :** Annexe III, point 3 du Règlement UE 2024/1689 > [Cadre réglementaire de l’IA - Commission européenne](https://www.aiacto.eu/fr/blog/ai-act-edtech-obligations-fournisseurs-etablissements-educatifs) ## Fournisseurs EdTech : quelles obligations sous l’AI Act ? Les éditeurs de logiciels éducatifs intégrant de l’IA sont juridiquement reconnus comme fournisseurs. À ce titre, ils doivent se conformer à plusieurs obligations techniques et organisationnelles majeures : 1. **Vérifier la classification du système** : Déterminer si l’outil relève de la catégorie haut risque (Annexe III, point 3). Les plateformes adaptatives et les systèmes de notation automatisée sont typiquement concernés. 2. **Constituer une documentation technique complète** : Fournir une documentation conforme à l’Annexe IV, détaillant le fonctionnement, les limites, les performances et les mesures de gestion des risques du système. 3. **Mettre en œuvre une gestion active des risques** : Identifier, évaluer et limiter les risques liés à l’utilisation du système, notamment les biais dans les évaluations ou recommandations. 4. **Assurer la transparence auprès des utilisateurs** : Informer clairement que le système recourt à l’IA et expliquer ses principes de fonctionnement (Article 13). 5. **Garantir la qualité et la représentativité des données** : Les modèles doivent être entraînés sur des données pertinentes et non biaisées. L’Article 10 impose des exigences accrues, en particulier pour les données sensibles concernant les mineurs. 6. **Enregistrer le système dans la base européenne dédiée** : Tout système d’IA à haut risque doit être inscrit dans la base de données européenne prévue à cet effet. À titre d’illustration, un éditeur de solutions de correction automatisée devra expliciter dans sa documentation les critères d’évaluation, les méthodes de détection et de correction des biais, et informer ses clients des limites du système. Les fournisseurs situés hors de l’Union européenne doivent désigner un représentant légal dans l’UE, chargé de garantir la conformité sur le territoire européen. > **Références :** Article 16 – Obligations des fournisseurs > Annexe IV – Documentation technique > [Guide des obligations des fournisseurs](https://www.aiacto.eu/fr/blog/ai-act-edtech-obligations-fournisseurs-etablissements-educatifs) ## Établissements éducatifs : responsabilités en tant que déployeurs Les écoles, universités et organismes de formation utilisant des systèmes d’IA sont considérés comme déployeurs. Leur rôle implique des obligations spécifiques, distinctes de celles des fournisseurs : 1. **S’assurer de la conformité des systèmes utilisés** : Vérifier que l’outil choisi respecte le règlement AI Act, en contrôlant la documentation technique et l’enregistrement du système. 2. **Superviser l’utilisation du système** : Mettre en place des procédures pour surveiller l’outil, détecter les dysfonctionnements ou biais éventuels. 3. **Informer toutes les parties prenantes** : Élèves, parents et enseignants doivent être informés de l’usage de l’IA et de ses conséquences potentielles. 4. **Tenir un registre des incidents** : Consigner tout incident lié au système et en informer le fournisseur. 5. **Effectuer une FRIA pour les organismes publics** : Les établissements publics doivent conduire une évaluation d’impact sur les droits fondamentaux (FRIA) pour chaque système à haut risque utilisé (Article 27). Exemple : une université recourant à un système de détection de triche par IA doit s’assurer que le fournisseur a bien documenté la solution, informer les étudiants de son usage, et surveiller les faux positifs qui pourraient pénaliser injustement certains élèves. La FRIA, obligatoire pour les établissements publics, vise à évaluer l’impact du système sur les droits fondamentaux, notamment en matière de non-discrimination et de protection des données. > **Références :** Article 27 – FRIA pour les organismes publics > [CNIL – IA et éducation](https://www.aiacto.eu/fr/blog/ai-act-edtech-obligations-fournisseurs-etablissements-educatifs) > [Diagnostic FRIA pour les établissements](https://www.aiacto.eu/fr/blog/ai-act-edtech-obligations-fournisseurs-etablissements-educatifs) ## Données de mineurs et gestion des biais : défis spécifiques à l’éducation ### Données personnelles des mineurs : exigences renforcées Les informations personnelles des élèves, en particulier des mineurs, sont soumises à une protection accrue selon le RGPD. L’AI Act vient compléter ces exigences : - **Consentement parental obligatoire** : Pour les élèves de moins de 15 ans, le consentement des parents est généralement requis pour traiter leurs données. - **Collecte minimale de données** : Seules les informations strictement nécessaires doivent être collectées et exploitées. - **Sécurité des données** : Les fournisseurs doivent garantir la sécurité technique et organisationnelle des données des élèves. Par exemple, une plateforme adaptative ne doit pas recueillir d’informations sur l’origine ethnique ou les opinions politiques, sauf nécessité absolue et consentement explicite. ### Lutte contre les biais dans l’évaluation et l’orientation Les systèmes d’IA d’évaluation ou d’orientation peuvent reproduire ou aggraver des biais existants. L’AI Act oblige les fournisseurs à : - **Utiliser des jeux de données représentatifs** : L’entraînement doit inclure tous les profils d’élèves pour limiter les biais liés à la sous-représentation. - **Tester et détecter les biais** : Les systèmes doivent être évalués pour repérer d’éventuels biais de genre, d’origine sociale ou de tout autre critère protégé. - **Documenter les actions correctives** : Les mesures prises pour corriger les biais doivent être décrites dans la documentation technique. Exemple : si un système d’orientation recommande plus souvent les filières scientifiques aux garçons et littéraires aux filles, il doit être ajusté pour éviter la perpétuation de ces stéréotypes. Les biais dans l’IA éducative peuvent avoir des répercussions durables sur les parcours des élèves et accroître les inégalités sociales. > **Références :** [RGPD – Protection des données de mineurs](https://www.aiacto.eu/fr/blog/ai-act-edtech-obligations-fournisseurs-etablissements-educatifs) > Article 10 – Qualité des données > [Ministère de l’Éducation nationale – Guidelines IA pour l’école](https://www.aiacto.eu/fr/blog/ai-act-edtech-obligations-fournisseurs-etablissements-educatifs) ## Échéances et étapes à venir pour la conformité L’ensemble des obligations concernant les systèmes d’IA à haut risque dans l’éducation s’appliqueront à partir du 2 décembre 2027. Plusieurs jalons intermédiaires sont à anticiper : - **2 novembre 2026** : Les exigences de transparence pour les systèmes d’IA générative entrent en vigueur (watermarking, information des utilisateurs). Les chatbots éducatifs ou générateurs de contenu pédagogique sont notamment concernés. - **2 décembre 2027** : Les obligations pour les systèmes à haut risque listés à l’Annexe III deviennent effectives. Fournisseurs EdTech et établissements devront être en conformité à cette date. - **2026-2027** : Le Conseil supérieur de l’éducation numérique (CSEN) et le Ministère publieront des directives spécifiques pour l’usage de l’IA à l’école, pour accompagner les établissements dans leur mise en conformité. Les fournisseurs EdTech doivent dès à présent entamer la constitution de leur documentation technique et la mise en œuvre de procédures de gestion des risques. Les établissements, quant à eux, sont invités à recenser leurs outils d’IA et à vérifier leur conformité réglementaire. > **Pour aller plus loin :** [Échéancier complet du règlement AI Act](https://www.aiacto.eu/fr/blog/ai-act-edtech-obligations-fournisseurs-etablissements-educatifs) > [AI Office – Calendrier réglementaire](https://www.aiacto.eu/fr/blog/ai-act-edtech-obligations-fournisseurs-etablissements-educatifs) ## Source officielle - [Source](https://www.aiacto.eu/fr/blog/ai-act-edtech-obligations-fournisseurs-etablissements-educatifs)