Aller au contenu
RGPD

Article 17

Système de gestion de la qualité

1.   Les fournisseurs de systèmes d’IA à haut risque mettent en place un système de gestion de la qualité garantissant le respect du présent règlement. Ce système est documenté de manière méthodique et ordonnée sous la forme de politiques, de procédures et d’instructions écrites, et comprend au moins les aspects suivants:

a)

une stratégie de respect de la réglementation, notamment le respect des procédures d’évaluation de la conformité et des procédures de gestion des modifications apportées aux systèmes d’IA à haut risque;

b)

des techniques, procédures et actions systématiques destinées à la conception des systèmes d’IA à haut risque ainsi qu’au contrôle et à la vérification de cette conception;

c)

des techniques, procédures et actions systématiques destinées au développement des systèmes d’IA à haut risque ainsi qu’au contrôle et à l’assurance de leur qualité;

d)

des procédures d’examen, de test et de validation à exécuter avant, pendant et après le développement du système d’IA à haut risque, ainsi que la fréquence à laquelle elles doivent être réalisées;

e)

des spécifications techniques, notamment des normes, à appliquer et, lorsque les normes harmonisées pertinentes ne sont pas appliquées intégralement, ou ne couvrent pas toutes les exigences pertinentes énoncées à la section 2, les moyens à utiliser pour faire en sorte que le système d’IA à haut risque satisfasse auxdites exigences;

f)

les systèmes et procédures de gestion des données, notamment l’acquisition, la collecte, l’analyse, l’étiquetage, le stockage, la filtration, l’exploration, l’agrégation, la conservation des données et toute autre opération concernant les données qui est effectuée avant la mise sur le marché ou la mise en service de systèmes d’IA à haut risque et aux fins de celles-ci;

g)

le système de gestion des risques prévu à l’article 9;

h)

l’élaboration, la mise en œuvre et le fonctionnement d’un système de surveillance après commercialisation conformément à l’article 72;

i)

les procédures relatives au signalement d’un incident grave conformément à l’article 73;

j)

la gestion des communications avec les autorités nationales compétentes, les autres autorités compétentes, y compris celles fournissant ou facilitant l’accès aux données, les organismes notifiés, les autres opérateurs, les clients ou d’autres parties intéressées;

k)

les systèmes et procédures de conservation de tous les documents et informations pertinents;

l)

la gestion des ressources, y compris les mesures liées à la sécurité d’approvisionnement;

m)

un cadre de responsabilisation définissant les responsabilités de l’encadrement et des autres membres du personnel en ce qui concerne tous les aspects énumérés dans le présent paragraphe.

2.   La mise en œuvre des aspects visés au paragraphe 1 est proportionnée à la taille de l’organisation du fournisseur. Les fournisseurs respectent, en tout état de cause, le degré de rigueur et le niveau de protection requis afin de garantir que leurs systèmes d’IA à haut risque sont conformes au présent règlement.

3.   Les fournisseurs de systèmes d’IA à haut risque qui sont soumis à des obligations relatives aux systèmes de gestion de la qualité, ou liées à l’exercice d’une fonction équivalente en vertu de la législation sectorielle pertinente de l’Union peuvent inclure les aspects énumérés au paragraphe 1 dans les systèmes de gestion de la qualité conformément à ladite législation.

4.   Si les fournisseurs sont des établissements financiers soumis à des exigences relatives à leur gouvernance, à leurs dispositifs ou à leurs processus internes prévues par la législation de l’Union sur les services financiers, la conformité avec les règles relatives à leur gouvernance, à leurs dispositifs ou à leurs processus internes prévues dans la législation pertinente de l’Union sur les services financiers vaut respect de l’obligation de mettre en place un système de gestion de la qualité, à l’exception du paragraphe 1, points g), h) et i) du présent article. À cette fin, toute norme harmonisée visée à l’article 40 est prise en considération.

Questions courantes

Questions fréquemment posées

Qu’est-ce qu’un système de gestion de la qualité pour une IA à haut risque ?

Un système de gestion de la qualité pour une IA à haut risque est un ensemble documenté de politiques, d’instructions et de procédures que les fournisseurs doivent mettre en place pour garantir que leurs systèmes d’IA respectent les règles et normes strictes du règlement sur l’IA.

Il couvre notamment les processus d’essai, le traitement des données, la gestion des risques, les mécanismes internes de responsabilité, ainsi que les procédures de gestion des problèmes après-vente et de signalement des incidents graves.

Qui doit mettre en place un système de gestion de la qualité en vertu du règlement sur l’IA ?

Les fournisseurs de systèmes d’IA à haut risque doivent mettre en place un système de gestion de la qualité pour suivre toutes les exigences applicables et tenir une documentation rigoureuse attestant de leur conformité.

Cette obligation s’applique largement, mais elle est modulée selon la taille de l’organisation afin d’en garantir le caractère réaliste et proportionné.

Les entreprises peuvent-elles utiliser leurs systèmes de gestion existants pour l’IA ?
Oui, les organisations qui disposent déjà de systèmes de gestion de la qualité exigés par d’autres législations de l’UE, ou, en particulier, les établissements financiers soumis à des exigences de gouvernance en vertu de la réglementation financière européenne, peuvent intégrer les exigences du règlement sur l’IA dans leurs systèmes existants et remplir ainsi tout ou partie de ces obligations en s’appuyant sur ces normes et lignes directrices préexistantes.
Quels éléments les fournisseurs doivent-ils documenter dans leur système de gestion de la qualité ?
Les fournisseurs doivent documenter des éléments tels que la stratégie de conformité, les procédures de conception et de vérification de l’IA, les essais de validation détaillés, les spécifications techniques, les activités de gestion des données, la gestion des risques, les structures internes de conservation des documents, les responsabilités en matière de ressources et de personnel, les procédures de traitement des incidents graves et la communication avec les autorités compétentes et les clients.