Aller au contenu
RGPD

Article 76

Supervision des essais en conditions réelles par les autorités de surveillance du marché

1.   Les autorités de surveillance du marché ont les compétences et les pouvoirs nécessaires pour veiller à ce que les essais en conditions réelles soient conformes au présent règlement.

Lorsque les essais en conditions réelles sont fondés sur l’article 60 bis, toute référence à une autorité de surveillance du marché au présent article s’entend comme une référence à l’autorité nationale compétente ou à l’autorité appropriée au titre des législations d’harmonisation de l’Union dont la liste figure à l’annexe I, section B, et les références à l’article 60 s’entendent comme des références à l’article 60 bis, le cas échéant.

2.   Lorsque des essais en conditions réelles sont effectués pour des systèmes d’IA supervisés dans un bac à sable réglementaire de l’IA en vertu de l’article 58, les autorités de surveillance du marché vérifient le respect de l’article 60 dans le cadre de leur rôle de surveillance du bac à sable réglementaire de l’IA. Ces autorités peuvent, lorsqu’il y a lieu, autoriser le fournisseur ou le fournisseur potentiel à effectuer les essais en conditions réelles, par dérogation aux conditions énoncées à l’article 60, paragraphe 4, points f) et g).

3.   Lorsqu’une autorité de surveillance du marché a été informée d’un incident grave par le fournisseur potentiel, le fournisseur ou tout tiers, ou qu’elle a d’autres raisons de penser que les conditions énoncées aux articles 60 et 61 ne sont pas remplies, elle peut prendre l’une ou l’autre des décisions suivantes sur son territoire, selon le cas:

a)

suspendre ou faire cesser les essais en conditions réelles;

b)

exiger du fournisseur ou du fournisseur potentiel et du déployeur ou futur déployeur qu’ils modifient tout aspect des essais en conditions réelles.

4.   Lorsqu’une autorité de surveillance du marché a pris une décision visée au paragraphe 3 du présent article, ou a formulé une objection au sens de l’article 60, paragraphe 4, point b), la décision ou l’objection est motivée et indique les modalités selon lesquelles le fournisseur ou le fournisseur potentiel peut contester la décision ou l’objection.

5.   Le cas échéant, lorsqu’une autorité de surveillance du marché a pris une décision visée au paragraphe 3, elle en communique les motifs aux autorités de surveillance du marché des autres États membres dans lesquels le système d’IA a été testé conformément au plan d’essais.

Questions courantes

Questions fréquemment posées

De quoi les autorités de surveillance du marché sont-elles responsables concernant les essais d’IA en conditions réelles ?

Les autorités de surveillance du marché sont chargées de superviser les essais de systèmes d’IA en conditions réelles et de veiller à leur conformité au règlement sur l’IA.

Elles peuvent suivre les essais, contrôler la conformité, suspendre ou arrêter les essais et exiger des modifications si les conditions d’essai ou les règles de sécurité ne sont pas correctement respectées.

Que peut-il se passer si un système d’IA testé ne respecte pas les règles applicables ?
Si un système d’IA testé en conditions réelles ne satisfait pas à la réglementation requise, les autorités de surveillance du marché peuvent suspendre ou arrêter définitivement les essais, ou exiger des ajustements dans la manière dont ils sont menés, afin de garantir le respect de toutes les règles et normes de sécurité prévues par le règlement sur l’IA.
Des exceptions sont-elles admises pour les essais de systèmes d’IA dans un bac à sable réglementaire ?

Oui. Lorsque des essais en conditions réelles sont effectués pour des systèmes d’IA supervisés dans un bac à sable réglementaire de l’IA en vertu de l’article 58, les autorités de surveillance du marché peuvent, lorsqu’il y a lieu, autoriser le fournisseur ou le fournisseur potentiel à les effectuer par dérogation aux conditions de l’article 60, paragraphe 4, points f) et g) : la durée maximale des essais et la protection des participants appartenant à des groupes vulnérables.

Un fournisseur d’IA peut-il contester la décision des autorités de surveillance du marché ?
Oui, si l’autorité de surveillance du marché décide d’arrêter ou de modifier des essais d’IA, elle doit en expliquer clairement les raisons et indiquer précisément au fournisseur ou futur fournisseur comment contester cette décision ou former un recours, afin que les fournisseurs aient la possibilité de répondre aux préoccupations exprimées.