Article 12

Enregistrement

1.   Les systèmes d’IA à haut risque permettent, techniquement, l’enregistrement automatique des événements (journaux) tout au long de la durée de vie du système.

2.   Afin de garantir un degré de traçabilité du fonctionnement d’un système d’IA qui soit adapté à la destination du système, les fonctionnalités de journalisation permettent l’enregistrement des événements pertinents pour:

a)

repérer les situations susceptibles d’avoir pour effet que le système d’IA à haut risque présente un risque au sens de l’article 79, paragraphe 1, ou d’entraîner une modification substantielle;

b)

faciliter la surveillance après commercialisation visée à l’article 72; et

c)

surveiller le fonctionnement du système d’IA à haut risque comme prévu à l’article 26, paragraphe 5.

3.   Pour les systèmes d’IA à haut risque visés à l’annexe III, point 1 a), les fonctionnalités de journalisation fournissent, au minimum:

a)

l’enregistrement de la période de chaque utilisation du système (date et heure de début et de fin pour chaque utilisation);

b)

la base de données de référence utilisée par le système pour vérifier les données d’entrée;

c)

les données d’entrée pour lesquelles la recherche a abouti à une correspondance;

d)

l’identification des personnes physiques participant à la vérification des résultats, visées à l’article 14, paragraphe 5.

Frequently Asked Questions

La journalisation est une fonctionnalité obligatoire pour certains systèmes d’intelligence artificielle considérés à haut risque selon l’AI Act. Celle-ci permet l’enregistrement automatique et continu des événements importants du système afin d’assurer une bonne traçabilité, détecter rapidement les éventuels risques ou dysfonctionnements, faciliter les contrôles après la commercialisation et surveiller constamment le bon fonctionnement du système.
Les systèmes d’IA à haut risque doivent enregistrer des événements pertinents permettant de détecter d’éventuelles situations risquées ou modifications importantes du système. Plus précisément, ils doivent aussi enregistrer des données spécifiques comme la durée exacte d’utilisation, les références utilisées par le système, certaines données entrantes et l’identification précise des personnes ayant vérifié les résultats.
L’enregistrement précis de la durée d’utilisation, notamment les dates et heures de début et de fin pour chaque utilisation d’un système d’IA à haut risque, est crucial pour assurer une pleine traçabilité. Ceci sert notamment à vérifier quel était le contexte d’utilisation du système en cas de problème ou incident, et permet une meilleure surveillance et analyse après-coup.
Selon l’AI Act, les personnes physiques qui interviennent en vérifiant ou validant les résultats produits par un système d’IA à haut risque doivent clairement être identifiées dans les journaux automatiques du système. Cette mesure vise à assurer la transparence et à faciliter l’identification des responsabilités en cas de problème ou litige éventuel.

Maîtrise de l’IA

Get Started within 24 hours.

Once you have submitted your details, you’ll be our top priority!