Aller au contenu
RGPD

Article 51

Classification de modèles d’IA à usage général en tant que modèles d’IA à usage général présentant un risque systémique

1.   Un modèle d’IA à usage général est classé comme modèle d’IA à usage général présentant un risque systémique s’il remplit l’une des conditions suivantes:

a)

il dispose de capacités à fort impact évaluées sur la base de méthodologies et d’outils techniques appropriés, y compris des indicateurs et des critères de référence;

b)

sur la base d’une décision de la Commission, d’office ou à la suite d’une alerte qualifiée du groupe scientifique, il possède des capacités ou un impact équivalents à ceux énoncés au point a), compte tenu des critères définis à l’annexe XIII.

2.   Un modèle d’IA à usage général est présumé avoir des capacités à fort impact conformément au paragraphe 1, point a), lorsque la quantité cumulée de calcul utilisée pour son entraînement mesurée en opérations en virgule flottante est supérieure à 1025.

3.   La Commission adopte des actes délégués conformément à l’article 97 pour modifier les seuils énumérés aux paragraphes 1 et 2 du présent article, ainsi que pour compléter les critères de référence et les indicateurs à la lumière des évolutions technologiques, telles que les améliorations algorithmiques ou l’efficacité accrue du matériel informatique, si nécessaire, afin que ces seuils reflètent l’état de la technique.

Questions courantes

Questions fréquemment posées

Qu’est-ce qui fait entrer un modèle d’IA dans la catégorie des modèles d’IA à usage général présentant un risque systémique ?
Un modèle d’IA est classé comme modèle d’IA à usage général présentant un risque systémique s’il possède des capacités très puissantes, mesurées au moyen d’évaluations techniques et de références spécifiques, ou si la Commission européenne reconnaît officiellement son impact comme significatif, sur la base de sa propre évaluation ou de recommandations d’experts, en tenant compte des règles précises de l’annexe XIII.
Quelle est l’importance du seuil de puissance de calcul mentionné dans l’article ?
Le seuil de puissance de calcul mentionné, fixé à 10^25 opérations en virgule flottante, est important car tout modèle d’IA à usage général entraîné au-delà de ce niveau de calcul est automatiquement considéré comme doté de « capacités à fort impact » et donc présumé présenter des risques systémiques, ce qui déclenche des classifications plus strictes et, éventuellement, une surveillance réglementaire renforcée.
Qui détermine si un modèle d’IA présente un risque systémique en dehors du critère de puissance de calcul ?

La Commission européenne joue un rôle clé pour déterminer si un modèle d’IA présente un risque systémique au-delà des seuils de calcul, soit par sa propre évaluation proactive, soit sur la base d’alertes d’experts du groupe scientifique.

Elle vérifie si les capacités ou les effets du modèle d’IA correspondent aux critères déterminants énumérés dans les annexes pertinentes.

Les critères de classification des modèles d’IA à risque peuvent-ils évoluer avec le temps ?

Oui, les critères de classification des modèles d’IA à risque peuvent évoluer.

La Commission européenne peut actualiser les normes, seuils ou références au moyen d’actes délégués afin de suivre les avancées technologiques, comme l’amélioration des algorithmes ou de l’efficacité du matériel, et de maintenir une réglementation pertinente et efficace.