Aller au contenu
RGPD

Article 77

Pouvoirs des autorités de protection des droits fondamentaux

1.   Les autorités ou organismes publics nationaux qui supervisent ou font respecter les obligations au titre du droit de l’Union visant à protéger les droits fondamentaux, y compris le droit à la non-discrimination, en ce qui concerne l’utilisation des systèmes d’IA à haut risque visés à l’annexe III sont habilités à demander toute documentation créée ou conservée en vertu du présent règlement et à y avoir accès dans une langue et un format accessibles lorsque l’accès à cette documentation est nécessaire à l’accomplissement effectif de leur mandat dans les limites de leurs compétences. L’autorité ou l’organisme public concerné informe l’autorité de surveillance du marché de l’État membre concerné de toute demande de ce type.

2.   Au plus tard le 2 novembre 2024, chaque État membre identifie les autorités ou organismes publics visés au paragraphe 1 et met la liste de ces autorités ou organismes à la disposition du public. Les États membres notifient la liste à la Commission et aux autres États membres, et tiennent cette liste à jour.

3.   Lorsque la documentation visée au paragraphe 1 ne suffit pas pour déterminer s’il y a eu violation des obligations au titre du droit de l’Union protégeant les droits fondamentaux, l’autorité ou l’organisme public visé au paragraphe 1 peut présenter à l’autorité de surveillance du marché une demande motivée visant à organiser des tests du système d’IA à haut risque par des moyens techniques. L’autorité de surveillance du marché organise les tests avec la participation étroite de l’autorité ou organisme public ayant présenté la demande dans un délai raisonnable après celle-ci.

4.   Toute information ou documentation obtenue par les autorités ou organismes publics nationaux visés au paragraphe 1 du présent article en application des dispositions du présent article est traitée conformément aux obligations de confidentialité énoncées à l’article 78.

Questions courantes

Questions fréquemment posées

Quels pouvoirs les autorités nationales ont-elles concernant les systèmes d’IA à haut risque ?

Les autorités nationales chargées de protéger les droits fondamentaux, comme la non-discrimination, ont le droit de demander et de consulter les documents relatifs aux systèmes d’IA à haut risque.

Si cela est nécessaire pour établir une violation du droit des droits fondamentaux, elles peuvent demander que ces systèmes d’IA soient testés, en collaborant étroitement avec l’autorité de surveillance du marché pour garantir le respect de toutes les obligations du droit de l’UE.

Qui décide quelles autorités supervisent les systèmes d’IA au regard des droits fondamentaux ?

Chaque État membre de l’UE doit désigner les autorités ou organismes publics chargés de veiller au respect des droits fondamentaux face aux technologies d’IA à haut risque.

Ces listes doivent être rendues publiques, transmises à la Commission européenne et aux autres États membres au plus tard le 2 novembre 2024, et régulièrement mises à jour pour tenir chacun informé de cette supervision.

Que se passe-t-il si les documents disponibles ne suffisent pas à établir qu’un système d’IA viole des droits ?

Si les documents disponibles ne permettent pas de déterminer clairement si un système d’IA viole les droits fondamentaux, l’autorité responsable peut demander à l’autorité de surveillance du marché de faire réaliser des essais complémentaires.

Ces essais sont organisés rapidement après la demande et reposent sur la coopération des deux autorités, garantissant un examen approfondi de la conformité du système d’IA.

La documentation obtenue par les autorités sur les systèmes d’IA reste-t-elle confidentielle ?

Oui, toutes les informations et la documentation auxquelles les autorités accèdent concernant les systèmes d’IA à haut risque sont soumises à des obligations de confidentialité.

Les autorités doivent protéger les informations recueillies et veiller à ce qu’elles soient utilisées de manière appropriée et sécurisée, conformément aux normes de confidentialité détaillées à l’article 78 du règlement sur l’IA.