Aller au contenu
RGPD

Article 92

Pouvoir de procéder à des évaluations

1.   Le Bureau de l’IA, après consultation du Comité IA, peut procéder à des évaluations du modèle d’IA à usage général concerné:

a)

pour évaluer le respect, par le fournisseur, des obligations prévues par le présent règlement, lorsque les informations recueillies en vertu de l’article 91 sont insuffisantes; ou

b)

pour enquêter sur les risques systémiques, au niveau de l’Union, des modèles d’IA à usage général présentant un risque systémique, en particulier à la suite d’une alerte qualifiée du groupe scientifique conformément à l’article 90, paragraphe 1, point a).

2.   La Commission peut décider de désigner des experts indépendants chargés de procéder à des évaluations pour son compte, y compris des experts du groupe scientifique établi en vertu de l’article 68. Les experts indépendants désignés pour cette tâche satisfont aux critères énoncés à l’article 68, paragraphe 2.

3.   Aux fins du paragraphe 1, la Commission peut demander l’accès au modèle d’IA à usage général concerné par l’intermédiaire d’API ou d’autres moyens et outils techniques appropriés, y compris le code source.

4.   La demande d’accès indique la base juridique, l’objet et les motifs de la demande et fixe le délai dans lequel l’accès doit être accordé, ainsi que les amendes prévues à l’article 101 en cas de non-fourniture de l’accès.

5.   Les fournisseurs du modèle d’IA à usage général concerné ou son représentant fournissent les informations requises. Dans le cas de personnes morales, d’entreprises ou de sociétés, ou lorsque le fournisseur n’a pas la personnalité juridique, les personnes autorisées à les représenter en vertu de la loi ou de leurs statuts, accordent l’accès demandé pour le compte du fournisseur du modèle d’IA à usage général concerné.

6.   La Commission adopte des actes d’exécution établissant les modalités détaillées et les conditions des évaluations, y compris les modalités détaillées d’intervention d’experts indépendants, et la procédure relative à leur sélection. Ces actes d’exécution sont adoptés en conformité avec la procédure d’examen visée à l’article 98, paragraphe 2.

7.   Avant de demander l’accès au modèle d’IA à usage général concerné, le Bureau de l’IA peut entamer un dialogue structuré avec le fournisseur du modèle d’IA à usage général afin de recueillir davantage d’informations sur les essais internes du modèle, les garanties internes visant à prévenir les risques systémiques, ainsi que d’autres procédures internes et les mesures que le fournisseur a prises pour atténuer ces risques.

Questions courantes

Questions fréquemment posées

Quel est l’objectif des évaluations menées par le Bureau de l’IA ?
Le Bureau de l’IA procède à des évaluations des modèles d’IA à usage général pour vérifier le respect des obligations du règlement sur l’IA ou pour enquêter sur des risques importants que l’IA pourrait présenter dans l’Union européenne, comme ceux identifiés par des experts scientifiques indépendants, afin de garantir une utilisation sûre et responsable de ces technologies.
Qui réalise les évaluations des modèles d’IA prévues par le règlement sur l’IA ?
Les évaluations peuvent être menées directement par le Bureau de l’IA, ou la Commission européenne peut désigner des experts indépendants, y compris des membres d’un groupe scientifique spécialisé, pour examiner objectivement les modèles d’IA à usage général et apporter leur expertise dans l’appréciation de la conformité et l’identification des risques systémiques au niveau de l’Union.
Le Bureau de l’IA peut-il accéder au code source de l’IA d’une entreprise pendant les évaluations ?
Oui, le Bureau de l’IA peut demander à accéder au modèle d’IA de l’entreprise via des API ou d’autres moyens techniques appropriés, y compris au code source lui-même, en indiquant clairement les motifs juridiques et la finalité de la demande d’accès, ainsi que les amendes encourues si l’entreprise ne s’y conforme pas.
Que se passe-t-il avant que le Bureau de l’IA ne demande un accès direct à un système d’IA ?
Avant d’accéder directement à un modèle d’IA, le Bureau de l’IA peut engager un dialogue structuré avec le fournisseur afin de recueillir des informations détaillées sur ses essais internes, les mesures de sécurité en place pour réduire les risques et les autres garanties déjà mises en œuvre pour traiter les problèmes potentiels.