Saltar al contenido
RGPD

Artículo 75

Vigilancia del mercado y control de los sistemas de IA y asistencia mutua

1.   La Oficina de IA tendrá competencia exclusiva para supervisar y garantizar el cumplimiento de las obligaciones derivadas del presente Reglamento en relación con los sistemas de IA siguientes:

a)

sistemas de IA basados en modelos de IA de uso general en los que el modelo y el sistema sean desarrollados por el mismo proveedor o por proveedores que formen parte de una misma empresa, con excepción de:

i)

los sistemas de IA relacionados con productos regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I,

ii)

los sistemas de IA a que se refiere el anexo III, punto 2,

iii)

los sistemas de IA proporcionados por autoridades garantes del cumplimiento del Derecho, autoridades de gestión de fronteras y entidades financieras, en la medida en que dichos sistemas de IA entren en el ámbito de aplicación del artículo 74, apartado 6, y

iv)

los sistemas de IA a que se refiere el anexo III, punto 8, en lo que respecta a la administración de justicia;

b)

sistemas de IA que constituyan o estén integrados en una plataforma en línea de muy gran tamaño o un motor de búsqueda en línea de muy gran tamaño designados de conformidad con el Reglamento (UE) 2022/2065.

La competencia exclusiva a que se refiere el párrafo primero se aplicará a los proveedores de dichos sistemas. Únicamente se aplicará a los responsables del despliegue de dichos sistemas cuando sean también el proveedor o formen parte de la misma empresa que el proveedor.

1 bis.   Como excepción a lo dispuesto en el artículo 73, los proveedores de sistemas de IA de alto riesgo sujetos a la competencia de la Oficina de IA en virtud del apartado 1 del presente artículo notificarán cualquier incidente grave a la Oficina de IA. Será aplicable por analogía el artículo 73, apartados 2 a 9. La Oficina de IA transmitirá sin demora la información pertinente a la autoridad de vigilancia del mercado del Estado miembro en cuyo territorio esté situado el proveedor o su representante legal.

1 ter.   Las autoridades que participen en la aplicación del presente Reglamento cooperarán activamente con la Oficina de IA y le prestarán la asistencia necesaria para el ejercicio de sus competencias, incluido, cuando sea necesario, en relación con las inspecciones u otras medidas de garantía del cumplimiento llevadas a cabo en el territorio de un Estado miembro. A tal fin, dichas autoridades gozarán de los poderes establecidos en virtud del presente Reglamento y del Reglamento (UE) 2019/1020 y, cuando proceda y de modo limitado a lo necesario para desempeñar sus funciones con arreglo al presente apartado, de conformidad con los procedimientos nacionales aplicables.

1 quater.   Cuando adopte medidas de investigación o de garantía del cumplimiento en el territorio de un Estado miembro que impliquen el acceso a los datos o al sistema de IA de una autoridad pública, la Oficina de IA estará asistida por la autoridad de vigilancia del mercado pertinente.

1 quinquies.   Antes de adoptar una decisión que tenga por efecto prohibir o restringir la comercialización o puesta en servicio del sistema de IA en un mercado nacional, o una decisión de retirar o recuperar el sistema de IA de dicho mercado, la Oficina de IA notificará, sin demora indebida, a la autoridad de vigilancia del mercado competente para dicho mercado su intención de adoptar tal decisión. La Oficina de IA consultará a las autoridades que participen en la aplicación del presente Reglamento, cuando proceda, sobre cualquier asunto relacionado con la aplicación y ejecución del presente Reglamento.

1 sexies.   La Oficina de IA será responsable de las evaluaciones de la conformidad y las pruebas de los sistemas de IA a que se refiere el apartado 1 del presente artículo clasificados como de alto riesgo y sujetos a una evaluación de la conformidad de terceros en virtud del artículo 43 antes de su introducción en el mercado o su puesta en servicio. Dichas pruebas y evaluaciones comprobarán que los sistemas cumplen los requisitos pertinentes del presente Reglamento y pueden introducirse en el mercado o ponerse en servicio en la Unión de conformidad con el presente Reglamento. La Comisión encomendará la realización de estas pruebas o evaluaciones a organismos notificados designados de conformidad con el presente Reglamento, en cuyo caso el organismo notificado actuará en nombre de la Comisión. Si un organismo notificado al que la Comisión haya encomendado tareas en virtud del presente apartado no las realiza adecuadamente, la Comisión podrá retirar la delegación con efecto inmediato.

Las tasas por las actividades de prueba y evaluación se cobrarán a los proveedores de sistemas de IA de alto riesgo que hayan solicitado a la Comisión la evaluación de la conformidad de terceros. El proveedor abonará directamente al organismo notificado los costes relacionados con los servicios encomendados por la Comisión a los organismos notificados de conformidad con el presente artículo.

2.   Cuando las autoridades de vigilancia del mercado pertinentes tengan motivos suficientes para considerar que los sistemas de IA de uso general que pueden ser utilizados directamente por los responsables del despliegue al menos para una de las finalidades clasificadas como de alto riesgo con arreglo al presente Reglamento no cumplen los requisitos establecidos en el presente Reglamento, cooperarán con la Oficina de IA para llevar a cabo evaluaciones del cumplimiento e informarán al respecto al Consejo de IA y las demás autoridades de vigilancia del mercado.

2 bis.   Cuando una autoridad de vigilancia del mercado tenga motivos fundados y suficientes para sospechar que un proveedor o un responsable del despliegue de un sistema de IA a que se refiere el apartado 1 del presente artículo ha infringido el presente Reglamento, podrá solicitar a la Oficina de IA, a través del punto de contacto único pertinente designado de conformidad con el artículo 70, apartado 2, que evalúe la cuestión con el fin de adoptar las medidas de supervisión y de garantía del cumplimiento necesarias para garantizar el rápido cumplimiento del presente Reglamento. Tal solicitud deberá motivarse debidamente e indicar, como mínimo:

a)

el nombre del proveedor o del responsable del despliegue de que se trate;

b)

una descripción de los hechos pertinentes, las disposiciones del presente Reglamento presuntamente infringidas y cualquier motivo fundado y suficiente para sospechar una infracción, incluida, en su caso, la descripción de los efectos negativos de la presunta infracción, y

c)

la autoridad de vigilancia del mercado que presenta la solicitud.

La Oficina de IA tendrá en cuenta la solicitud en la mayor medida posible, y la autoridad de vigilancia del mercado cooperará activamente y proporcionará a la Oficina de IA la asistencia necesaria para el ejercicio de sus competencias de conformidad con el apartado 1 bis.

La Oficina de IA, sin demora indebida y, en cualquier caso, a más tardar cuatro meses después de la recepción de la solicitud, informará al punto de contacto único de su intención de ejercer sus competencias de conformidad con el artículo 75 bis o de sus motivos para no ejercer dichas competencias. Si la Oficina de IA decide ejercer sus competencias de conformidad con el artículo 75 bis, informará periódicamente a dicho punto de contacto único sobre cualquier novedad destacada en el procedimiento y sobre el resultado de este, sin revelar ninguna información confidencial.

3.   Cuando una autoridad de vigilancia del mercado no pueda concluir su investigación sobre el sistema de IA de alto riesgo por no poder acceder a determinada información relativa al modelo de IA de uso general, a pesar de haber realizado todos los esfuerzos adecuados para obtener esa información, podrá presentar una solicitud motivada a la Oficina de IA para que se imponga el acceso a dicha información. En tal caso, la Oficina de IA facilitará a la autoridad solicitante sin demora y, en cualquier caso en un plazo de treinta días, toda la información que la Oficina de IA considere pertinente para determinar si un sistema de IA de alto riesgo no es conforme. Las autoridades de vigilancia del mercado preservarán la confidencialidad de la información obtenida de conformidad con lo dispuesto en el artículo 78 del presente Reglamento. Se aplicará mutatis mutandis el procedimiento previsto en el capítulo VI del Reglamento (UE) 2019/1020.

Preguntas habituales

Preguntas frecuentes

¿Qué función tiene la Oficina de IA respecto a los sistemas de IA de uso general?
La Oficina de IA tiene competencia exclusiva sobre los proveedores de sistemas de IA basados en modelos de IA de uso general cuyo modelo y sistema desarrolla el mismo proveedor o proveedores de una misma empresa, salvo las excepciones del artículo 75, apartado 1, letra a), incisos i) a iv), y sus responsables del despliegue solo si son también el proveedor o de la misma empresa. Tiene todos los poderes de una autoridad de vigilancia del mercado.
¿Qué ocurre si un sistema de IA de uso general parece no cumplir los requisitos?
En caso de sospecha sobre el incumplimiento de algún requisito por parte de sistemas generales para usos potencialmente riesgosos, las autoridades encargadas colaborarán con la Oficina de IA en realizar una evaluación detallada del sistema y después deberán informar al Consejo de IA y al resto de autoridades responsables de vigilar el mercado.
¿Qué sucede si las autoridades no pueden obtener información importante sobre un sistema de IA?
Si una autoridad no logra acceder a cierta información esencial sobre el modelo de IA pese a esforzarse adecuadamente, puede solicitar ayuda motivada a la Oficina de IA quien deberá facilitar toda la información necesaria a dicha autoridad dentro de los siguientes treinta días, asegurando así una supervisión efectiva del sistema.
¿Cómo se garantiza la confidencialidad de la información sobre los sistemas de IA?
La ley establece claramente que las autoridades encargadas de la vigilancia deben proteger la confidencialidad de toda la información obtenida durante el proceso de supervisión, aplicando estrictamente los procedimientos y reglas establecidos en el Reglamento, asegurando con ello la seguridad y privacidad de los datos recibidos.