Les niveaux de risque de l'AI Act

Un règlement fondé sur les risques

Le règlement européen sur l’intelligence artificielle, souvent appelé AI Act, a été adopté en 2024. C’est un règlement : il s’applique directement dans tous les États membres, sans transposition. Son objectif est double : protéger la santé, la sécurité et les droits fondamentaux des personnes, et créer un marché unique de l’IA avec des règles communes.

Sa logique est simple : plus un usage de l’IA présente de risques pour les personnes, plus les obligations sont fortes. Le règlement ne régule pas « l’IA » en bloc, mais des usages. Le même modèle peut servir à trier des e-mails (risque minimal) ou à trier des candidatures (haut risque).

Ses obligations entrent en application par étapes : les interdictions s’appliquent en premier, les obligations les plus lourdes plus tard. Vérifiez le calendrier en vigueur pour chaque obligation.

Ce cours présente les principes établis du règlement européen sur l’intelligence artificielle. Il ne constitue pas un conseil juridique. Le règlement s’applique par étapes et peut être précisé ou ajusté par des textes complémentaires : vérifiez toujours la version et le calendrier en vigueur sur les sources officielles (Commission européenne, Journal officiel de l’Union européenne, autorités nationales) et appuyez-vous sur votre service juridique ou votre délégué à la protection des données.

Niveau 1 : les pratiques interdites

Certaines pratiques sont jugées inacceptables et interdites. Parmi les principales :

• la notation sociale de personnes conduisant à un traitement défavorable injustifié ;
• les techniques de manipulation ou l’exploitation des vulnérabilités (âge, handicap, situation sociale) pour altérer le comportement d’une personne à son détriment ;
• la reconnaissance des émotions sur le lieu de travail et dans les établissements d’enseignement, sauf pour des raisons médicales ou de sécurité ;
• la constitution de bases de reconnaissance faciale par moissonnage non ciblé d’images sur Internet ou de vidéosurveillance ;
• certaines catégorisations biométriques visant à déduire des caractéristiques sensibles, et certains usages de l’identification biométrique à distance en temps réel dans l’espace public à des fins répressives, encadrés par des exceptions strictes.

Niveau 2 : les systèmes à haut risque

Un système est à haut risque lorsqu’il peut avoir un effet important sur la santé, la sécurité ou les droits des personnes. Deux familles :

• les systèmes qui sont des composants de sécurité de produits déjà réglementés (dispositifs médicaux, machines, jouets…) ;
• les systèmes utilisés dans des domaines listés par le règlement, notamment : biométrie, infrastructures critiques, éducation (admission, évaluation), emploi (recrutement, tri de candidatures, décisions de promotion ou de licenciement, évaluation des performances), accès aux services essentiels (évaluation de la solvabilité pour un crédit, certaines assurances, prestations publiques), répression, migrations, justice.

Ces systèmes ne sont pas interdits, mais soumis à des exigences fortes : gestion des risques, qualité des données, documentation technique, journalisation, transparence envers les utilisateurs, contrôle humain, exactitude et robustesse. Le texte prévoit des exceptions limitées pour des systèmes qui, dans ces domaines, n’accomplissent qu’une tâche annexe : elles s’analysent au cas par cas.

Niveau 3 : les obligations de transparence

Certains systèmes présentent surtout un risque de tromperie. Ils sont soumis à des obligations d’information, par exemple :

• informer les personnes qu’elles interagissent avec une IA (un chatbot), sauf si c’est évident ;
• signaler les hypertrucages (deepfakes) : images, sons ou vidéos générés ou manipulés ressemblant à des personnes ou des faits réels ;
• marquer les contenus générés de façon détectable, pour les fournisseurs de systèmes génératifs.

Niveau 4 : le risque minimal

La grande majorité des usages (filtre anti-spam, correcteur orthographique, recommandations de lecture, aide à la rédaction interne) ne fait l’objet d’aucune obligation spécifique au titre du règlement. Les autres règles restent applicables (RGPD, droit du travail, droit de la consommation), et les bonnes pratiques de gouvernance restent utiles.

Le règlement prévoit aussi un régime propre aux modèles d’IA à usage général (les grands modèles sur lesquels reposent les assistants), qui pèse surtout sur leurs fournisseurs : documentation, politique de respect du droit d’auteur, obligations renforcées pour les modèles présentant un risque systémique.

Fournisseur ou déployeur ?

Les obligations dépendent du rôle de l’organisation :

• le fournisseur développe un système d’IA (ou le fait développer) et le met sur le marché ou en service sous son nom ;
• le déployeur utilise un système d’IA sous son autorité, dans un cadre professionnel.

Une entreprise qui achète un logiciel de tri de CV est déployeur d’un système à haut risque : elle doit notamment l’utiliser conformément à sa notice, confier le contrôle humain à des personnes compétentes, surveiller son fonctionnement et conserver les journaux qui sont sous son contrôle. Si elle modifie substantiellement le système ou le commercialise sous son nom, elle peut devenir fournisseur.

Enfin, fournisseurs et déployeurs doivent prendre des mesures pour assurer un niveau suffisant de maîtrise de l’IA (AI literacy) de leur personnel : c’est une des raisons d’être de ce cours.