Les droits fondamentaux ne font pas de moyenne

Rappelons que l’article 27 du règlement sur l’IA impose une analyse d’impact sur les droits fondamentaux (AIDF, ou FRIA en anglais) avant la mise en service de certains systèmes à haut risque. Sont visés les organismes publics, les entreprises chargées d’un service public, les banques qui notent le crédit et les assureurs qui tarifent la santé ou la vie. L’omnibus numérique a repoussé ces obligations au 2 décembre 2027. Le temps d’apprendre la méthode.

En mai 2026, la DG Recherche et innovation de la Commission a diffusé une note de 54 pages, rédigée par le professeur Alessandro Mantelero. Elle vise les chercheurs d’Horizon Europe et leurs comités d’éthique. Ce n’est pas une ligne directrice officielle. Mais elle se dit alignée sur l’AI Act, et sa méthode vaut au-delà des laboratoires.

L’AIPD ne suffit pas

L’article 35 du RGPD impose déjà une analyse d’impact relative à la protection des données (AIPD) pour les traitements à risque élevé, et elle couvre en principe tous les droits et libertés. La note constate que la pratique ne suit pas : l’AIPD relit chaque droit à travers la grille des données, et l’attention portée aux autres reste « limitée dans sa portée et insuffisamment développée ».

Elle écarte aussi l’étude d’impact sur les droits humains des entreprises, héritée des principes directeurs de l’ONU : souvent faite après coup, elle laisse l’entreprise libre de ses remèdes. L’AIDF, elle, est préalable, obligatoire, et ses résultats doivent servir à prévenir.

Un indice par droit, sans compensation

Le cœur de la méthode : un indice de risque pour chaque droit touché, qui croise deux dimensions.

• La vraisemblance : la probabilité de l’effet négatif, et l’exposition — la part du groupe concerné, pas de toute la population.
• La gravité : l’intensité du préjudice, vulnérabilité comprise, et l’effort nécessaire pour le surmonter et en effacer les effets.

Chaque couple se croise dans une matrice qualitative : faible, moyen, élevé, très élevé. La note recommande le 4 × 4, qui interdit le refuge au milieu et donne du relief aux niveaux hauts. Pas de chiffres : on ne mesure pas la discrimination d’un score de crédit comme une température.

Deux règles suivent. La première (notre traduction) :

Le fait qu’un droit soit moins affecté qu’un autre ne peut conduire à aucune forme de compensation.

Pas d’indice global, donc. La seconde : la mise en balance avec des intérêts concurrents ne vient qu’après la mesure. Elle peut rendre acceptable un impact élevé ; elle ne l’efface pas du calcul. La loi peut l’avoir déjà faite, ce que la note appelle les « facteurs d’exclusion ». Et rien de tout cela ne se réduit à un questionnaire : il faut un expert en droits fondamentaux qui comprenne aussi la technique.

Le cas d’école : une chimiothérapie

L’annexe II applique la méthode à un cas réel, examiné en 2023 par un groupe de travail de l’autorité catalane de protection des données. Une IA d’imagerie médicale prédit la réponse d’un patient à une chimiothérapie lourde, souvent prescrite à l’excès. Elle est entraînée sur 5 000 patients de dix pays européens et destinée au marché mondial.

Verdict pour la non-discrimination : très élevé. Entraîné sur des patients européens, le modèle risque de se tromper davantage ailleurs. Les remèdes : enrichir les données des profils sous-représentés, et limiter l’usage là où l’échantillon est mince. Le risque résiduel tombe à moyen. Pour l’intégrité physique, il reste élevé hors d’Europe, et partout où une erreur ne peut plus être rattrapée.

Un droit ne se rachète pas par un autre, et un risque ne disparaît pas parce qu’un intérêt le justifie. Les déployeurs ont jusqu’en décembre 2027 pour s’en souvenir.

Sources

Commission européenne, DG Recherche et innovation, A. Mantelero (avec M. Kritikos), Fundamental Rights Impact Assessment (FRIA) and AI – Ethics advice for researchers and ethics experts, mai 2026, 54 pages, en anglais. Document allégé par UniversConvergents.

Consulter la note de la Commission (PDF, 54 pages)

Règlement (UE) 2024/1689 sur l’intelligence artificielle, article 27 — modifié par le règlement (UE) 2026/1744 (omnibus numérique sur l’IA), en vigueur depuis le 27 juillet 2026.

Pour mémoire : IA : analyses d’impact sur les droits fondamentaux.