Aller au contenu
RGPD

Article 76

Supervision des essais en conditions réelles par les autorités de surveillance du marché

1.   Les autorités de surveillance du marché ont les compétences et les pouvoirs nécessaires pour veiller à ce que les essais en conditions réelles soient conformes au présent règlement.

2.   Lorsque des essais en conditions réelles sont effectués pour des systèmes d’IA supervisés dans un bac à sable réglementaire de l’IA en vertu de l’article 58, les autorités de surveillance du marché vérifient le respect de l’article 60 dans le cadre de leur rôle de surveillance du bac à sable réglementaire de l’IA. Ces autorités peuvent, lorsqu’il y a lieu, autoriser le fournisseur ou le fournisseur potentiel à effectuer les essais en conditions réelles, par dérogation aux conditions énoncées à l’article 60, paragraphe 4, points f) et g).

3.   Lorsqu’une autorité de surveillance du marché a été informée d’un incident grave par le fournisseur potentiel, le fournisseur ou tout tiers, ou qu’elle a d’autres raisons de penser que les conditions énoncées aux articles 60 et 61 ne sont pas remplies, elle peut prendre l’une ou l’autre des décisions suivantes sur son territoire, selon le cas:

a)

suspendre ou faire cesser les essais en conditions réelles;

b)

exiger du fournisseur ou du fournisseur potentiel et du déployeur ou futur déployeur qu’ils modifient tout aspect des essais en conditions réelles.

4.   Lorsqu’une autorité de surveillance du marché a pris une décision visée au paragraphe 3 du présent article, ou a formulé une objection au sens de l’article 60, paragraphe 4, point b), la décision ou l’objection est motivée et indique les modalités selon lesquelles le fournisseur ou le fournisseur potentiel peut contester la décision ou l’objection.

5.   Le cas échéant, lorsqu’une autorité de surveillance du marché a pris une décision visée au paragraphe 3, elle en communique les motifs aux autorités de surveillance du marché des autres États membres dans lesquels le système d’IA a été testé conformément au plan d’essais.

Questions courantes

Questions fréquemment posées

De quoi les autorités de surveillance du marché sont-elles responsables concernant les essais d’IA en conditions réelles ?

Les autorités de surveillance du marché sont chargées de superviser les essais de systèmes d’IA en conditions réelles et de veiller à leur conformité au règlement sur l’IA.

Elles peuvent suivre les essais, contrôler la conformité, suspendre ou arrêter les essais et exiger des modifications si les conditions d’essai ou les règles de sécurité ne sont pas correctement respectées.

Que peut-il se passer si un système d’IA testé ne respecte pas les règles applicables ?
Si un système d’IA testé en conditions réelles ne satisfait pas à la réglementation requise, les autorités de surveillance du marché peuvent suspendre ou arrêter définitivement les essais, ou exiger des ajustements dans la manière dont ils sont menés, afin de garantir le respect de toutes les règles et normes de sécurité prévues par le règlement sur l’IA.
Des exceptions sont-elles admises pour les essais de systèmes d’IA dans un bac à sable réglementaire ?

Oui, les autorités de surveillance du marché peuvent accorder certaines exceptions pour les systèmes d’IA testés dans un environnement réglementaire encadré, appelé bac à sable réglementaire de l’IA.

Il est alors possible de s’écarter légèrement de certaines conditions énoncées par le règlement sur l’IA, à condition que la sécurité et la conformité restent assurées.

Un fournisseur d’IA peut-il contester la décision des autorités de surveillance du marché ?
Oui, si l’autorité de surveillance du marché décide d’arrêter ou de modifier des essais d’IA, elle doit en expliquer clairement les raisons et indiquer précisément au fournisseur ou futur fournisseur comment contester cette décision ou former un recours, afin que les fournisseurs aient la possibilité de répondre aux préoccupations exprimées.