Artículo 12

Conservación de registros

1.   Los sistemas de IA de alto riesgo permitirán técnicamente el registro automático de acontecimientos (en lo sucesivo, «archivos de registro») a lo largo de todo el ciclo de vida del sistema.

2.   Para garantizar un nivel de trazabilidad del funcionamiento del sistema de IA de alto riesgo que resulte adecuado para la finalidad prevista del sistema, las capacidades de registro permitirán que se registren acontecimientos pertinentes para:

a)

la detección de situaciones que puedan dar lugar a que el sistema de IA de alto riesgo presente un riesgo en el sentido del artículo 79, apartado 1, o a una modificación sustancial;

b)

la facilitación de la vigilancia poscomercialización a que se refiere el artículo 72, y

c)

la vigilancia del funcionamiento de los sistemas de IA de alto riesgo a que se refiere el artículo 26, apartado 5.

3.   En el caso de los sistemas de IA de alto riesgo mencionados en el anexo III, punto 1, letra a), las capacidades de registro incluirán, como mínimo:

a)

un registro del período de cada uso del sistema (la fecha y la hora de inicio y la fecha y la hora de finalización de cada uso);

b)

la base de datos de referencia con la que el sistema ha cotejado los datos de entrada;

c)

los datos de entrada con los que la búsqueda ha arrojado una correspondencia;

d)

la identificación de las personas físicas implicadas en la verificación de los resultados que se mencionan en el artículo 14, apartado 5.

Frequently Asked Questions

Los sistemas de inteligencia artificial de alto riesgo tienen que registrar automáticamente información importante durante toda su vida útil, como cuándo se utilizan, qué datos analizan, posibles riesgos detectados o cambios importantes, y quién revisa los resultados para garantizar seguridad y facilitar seguimiento después de que los sistemas ya estén en uso.
La finalidad es asegurar que se puedan supervisar y auditar fácilmente estos sistemas, detectando situaciones potencialmente peligrosas o cambios importantes, facilitando su supervisión continua después de que comienzan a usarse en el mercado, y verificando que funcionen correctamente y de manera segura para proteger a las personas afectadas.
Estos sistemas deben registrar, como mínimo, la fecha y hora exacta al iniciar y terminar cada uso, qué base de datos se usó para comparar información, qué datos iniciales generaron un resultado y quiénes fueron las personas encargadas de revisar esos resultados para garantizar transparencia y responsabilidad en su uso.
Estos registros facilitan el monitoreo continuo requerido después de la puesta en mercado de los sistemas de IA de alto riesgo, permitiendo revisión constante que garantice seguridad, determine si surgen nuevos riesgos o problemáticas y ayude a actuar rápidamente ante cualquier evento inesperado durante el uso práctico del sistema.

Alfabetización en materia de IA

Get Started within 24 hours.

Once you have submitted your details, you’ll be our top priority!