Aller au contenu
RGPD

Article 12

Enregistrement

1.   Les systèmes d’IA à haut risque permettent, techniquement, l’enregistrement automatique des événements (journaux) tout au long de la durée de vie du système.

2.   Afin de garantir un degré de traçabilité du fonctionnement d’un système d’IA qui soit adapté à la destination du système, les fonctionnalités de journalisation permettent l’enregistrement des événements pertinents pour:

a)

repérer les situations susceptibles d’avoir pour effet que le système d’IA à haut risque présente un risque au sens de l’article 79, paragraphe 1, ou d’entraîner une modification substantielle;

b)

faciliter la surveillance après commercialisation visée à l’article 72; et

c)

surveiller le fonctionnement du système d’IA à haut risque comme prévu à l’article 26, paragraphe 5.

3.   Pour les systèmes d’IA à haut risque visés à l’annexe III, point 1 a), les fonctionnalités de journalisation fournissent, au minimum:

a)

l’enregistrement de la période de chaque utilisation du système (date et heure de début et de fin pour chaque utilisation);

b)

la base de données de référence utilisée par le système pour vérifier les données d’entrée;

c)

les données d’entrée pour lesquelles la recherche a abouti à une correspondance;

d)

l’identification des personnes physiques participant à la vérification des résultats, visées à l’article 14, paragraphe 5.

Questions courantes

Questions fréquemment posées

Qu’exige le règlement sur l’IA en matière d’enregistrement des systèmes d’IA à haut risque ?

Le règlement sur l’IA impose que les systèmes d’IA à haut risque enregistrent automatiquement les événements importants, sous forme de journaux, pendant toute leur durée de vie, afin de garantir transparence et responsabilité.

Cela inclut le suivi des situations susceptibles de causer un préjudice ou d’entraîner des modifications substantielles, l’appui à la surveillance après commercialisation et le maintien d’un fonctionnement sûr, conforme à ce qui était prévu.

Pourquoi la journalisation automatique est-elle importante pour les systèmes d’IA à haut risque ?

La journalisation automatique garantit la transparence et la responsabilité : si un système d’IA à haut risque dysfonctionne ou évolue de manière inattendue, les enregistrements permettent d’identifier clairement le problème.

Les opérateurs, les régulateurs et les parties concernées peuvent ainsi enquêter rapidement, traiter les risques éventuels et protéger efficacement le public dans la durée.

Quels détails la journalisation doit-elle inclure pour les systèmes d’IA d’identification biométrique ?
Pour les systèmes d’IA utilisés notamment dans l’identification biométrique, les journaux doivent enregistrer des informations précises : les moments exacts d’utilisation du système, les bases de données consultées, les données d’entrée ayant conduit à une correspondance positive, ainsi que l’identité des personnes chargées de vérifier et d’interpréter les résultats, afin d’assurer une transparence complète sur l’activité de l’IA en matière d’identification des personnes.
Comment les exigences de journalisation du règlement soutiennent-elles les contrôles de sécurité et de qualité après la mise sur le marché ?

Les exigences de journalisation permettent de surveiller en continu les performances, la fiabilité et la sécurité des systèmes d’IA à haut risque après leur mise sur le marché.

Les journaux constituent des éléments de preuve facilement exploitables lors des contrôles réglementaires et des évaluations de qualité, ce qui permet d’identifier et de corriger rapidement les problèmes ou les évolutions affectant la sécurité du système.