Aller au contenu
RGPD

Article 13

Transparence et fourniture d’informations aux déployeurs

1.   La conception et le développement des systèmes d’IA à haut risque sont tels que le fonctionnement de ces systèmes est suffisamment transparent pour permettre aux déployeurs d’interpréter les sorties d’un système et de les utiliser de manière appropriée. Un type et un niveau adéquats de transparence sont garantis afin de veiller au respect des obligations pertinentes incombant au fournisseur et au déployeur énoncées à la section 3.

2.   Les systèmes d’IA à haut risque sont accompagnés d’une notice d’utilisation dans un format numérique approprié ou autre, contenant des informations concises, complètes, exactes et claires, qui soient pertinentes, accessibles et compréhensibles pour les déployeurs.

3.   La notice d’utilisation contient au moins les informations suivantes:

a)

l’identité et les coordonnées du fournisseur et, le cas échéant, de son mandataire;

b)

les caractéristiques, les capacités et les limites de performance du système d’IA à haut risque, notamment:

i)

sa destination;

ii)

le niveau d’exactitude, y compris les indicateurs utilisés, de robustesse et de cybersécurité visé à l’article 15 qui a servi de référence pour les tests et la validation du système d’IA à haut risque et qui peut être attendu, ainsi que toutes circonstances connues et prévisibles susceptibles d’avoir une incidence sur le niveau attendu d’exactitude, de robustesse et de cybersécurité;

iii)

toutes circonstances connues ou prévisibles liées à l’utilisation du système d’IA à haut risque conformément à sa destination ou dans des conditions de mauvaise utilisation raisonnablement prévisible, susceptibles d’entraîner des risques pour la santé et la sécurité ou pour les droits fondamentaux visés à l’article 9, paragraphe 2;

iv)

le cas échéant, les capacités et caractéristiques techniques du système d’IA à haut risque à fournir des informations pertinentes pour expliquer ses sorties;

v)

le cas échéant, sa performance en ce qui concerne des personnes ou groupes de personnes spécifiques à l’égard desquels le système est destiné à être utilisé;

vi)

le cas échéant, les spécifications relatives aux données d’entrée, ou toute autre information pertinente concernant les jeux de données d’entraînement, de validation et de test utilisés, compte tenu de la destination du système d’IA à haut risque;

vii)

le cas échéant, les informations permettant aux déployeurs d’interpréter les sorties du système d’IA à haut risque et de les utiliser de manière appropriée;

c)

les modifications du système d’IA à haut risque et de sa performance qui ont été prédéterminées par le fournisseur au moment de l’évaluation initiale de la conformité, le cas échéant;

d)

les mesures de contrôle humain visées à l’article 14, notamment les mesures techniques mises en place pour faciliter l’interprétation des sorties des systèmes d’IA à haut risque par les déployeurs;

e)

les ressources informatiques et matérielles nécessaires, la durée de vie attendue du système d’IA à haut risque et toutes les mesures de maintenance et de suivi, y compris leur fréquence, nécessaires pour assurer le bon fonctionnement de ce système d’IA, notamment en ce qui concerne les mises à jour logicielles;

f)

le cas échéant, une description des mécanismes compris dans le système d’IA à haut risque qui permet aux déployeurs de collecter, stocker et interpréter correctement les journaux, conformément à l’article 12.
Questions courantes

Questions fréquemment posées

Que signifie la transparence pour les systèmes d’IA à haut risque ?

La transparence signifie que les systèmes d’IA à haut risque doivent être suffisamment compréhensibles pour que les utilisateurs puissent interpréter leurs résultats correctement et en confiance.

Les fournisseurs doivent donner aux déployeurs des informations claires et exactes sur le fonctionnement du système, ses capacités, ses limites, sa destination et ses risques éventuels. Cela aide les déployeurs à respecter leurs obligations légales et à utiliser le système d’IA de manière sûre et responsable.

Quelles informations doivent accompagner les systèmes d’IA à haut risque ?
Les systèmes d’IA à haut risque doivent être accompagnés d’une notice d’utilisation claire précisant l’identité du fournisseur, la destination du système, ses limites de performance et son exactitude, les mesures de cybersécurité, les risques pour la sécurité ou les droits fondamentaux, les spécifications relatives aux données utilisées, les méthodes d’interprétation des sorties, les procédures de contrôle humain, ainsi que les ressources nécessaires, les opérations de maintenance et les mises à jour logicielles requises pour un bon fonctionnement.
Pourquoi les déployeurs ont-ils besoin d’instructions détaillées pour utiliser les systèmes d’IA ?

Les déployeurs ont besoin d’instructions détaillées pour connaître précisément les capacités, les limites et les risques potentiels des systèmes d’IA à haut risque.

Des instructions claires les aident à garantir une utilisation sûre et correcte, à prendre des décisions éclairées, à respecter leurs obligations réglementaires en matière d’IA et à gérer efficacement les problèmes ou risques éventuels, protégeant ainsi à la fois leur organisation et les utilisateurs finaux.

Comment les informations sur l’exactitude et les risques du système d’IA sont-elles fournies ?

Les fournisseurs doivent indiquer clairement les niveaux d’exactitude attendus, la robustesse, la résilience en matière de cybersécurité et les incidences ou risques prévisibles liés à l’utilisation du système ou à sa mauvaise utilisation éventuelle.

Ils doivent notamment préciser les conditions ou situations dans lesquelles l’exactitude ou la sécurité pourraient être compromises, afin que les déployeurs puissent gérer, surveiller et atténuer les risques en toute confiance et protéger les droits des utilisateurs.

← Article 12 Article 14 →