Artículo 55

Obligaciones de los proveedores de modelos de IA de uso general con riesgo sistémico

1.   Además de las obligaciones enumeradas en los artículos 53 y 54, los proveedores de modelos de IA de uso general con riesgo sistémico:

a)

evaluarán los modelos de conformidad con protocolos y herramientas normalizados que reflejen el estado de la técnica, lo que incluye la realización y documentación de pruebas de simulación de adversarios con el modelo con vistas a detectar y mitigar riesgos sistémicos;

b)

evaluarán y mitigarán los posibles riesgos sistémicos a escala de la Unión que puedan derivarse del desarrollo, la introducción en el mercado o el uso de modelos de IA de uso general con riesgo sistémico, así como el origen de dichos riesgos;

c)

vigilarán, documentarán y comunicarán, sin demora indebida, a la Oficina de IA y, en su caso, a las autoridades nacionales competentes, la información pertinente sobre incidentes graves y las posibles medidas correctoras para resolverlos;

d)

velarán por que se establezca un nivel adecuado de protección de la ciberseguridad para el modelo de IA de uso general con riesgo sistémico y la infraestructura física del modelo.

2.   Los proveedores de modelos de IA de uso general con riesgo sistémico podrán recurrir a códigos de buenas prácticas en el sentido de lo dispuesto en el artículo 56 para demostrar el cumplimiento de las obligaciones establecidas en el apartado 1 del presente artículo, hasta que se publique una norma armonizada. El cumplimiento de las normas armonizadas europeas otorga a los proveedores presunción de conformidad en la medida en que tales normas regulen dichas obligaciones. Los proveedores de modelos de IA de uso general que no se adhieran a un código de buenas prácticas aprobado o no cumplan una norma armonizada europea deberán demostrar que cumplen sus obligaciones por medios alternativos adecuados para su evaluación por parte de la Comisión.

3.   Toda información o documentación obtenida en virtud del presente artículo, incluidos los secretos comerciales, se tratarán de conformidad con las obligaciones de confidencialidad establecidas en el artículo 78.

Frequently Asked Questions

Estos proveedores deben evaluar rigurosamente sus modelos usando pruebas estandarizadas, gestionar posibles riesgos que puedan afectar a toda la Unión Europea y reportar rápidamente incidentes claves a las autoridades competentes, asegurando además altos estándares de ciberseguridad tanto en el modelo de IA como en la infraestructura física asociada para prevenir cualquier vulnerabilidad.
Son evaluaciones prácticas en las que se intenta activamente engañar o explotar las debilidades del modelo de IA simulando ataques o circunstancias adversas; estas pruebas ayudan a identificar problemas críticos de seguridad o funcionalidad antes de que el modelo se utilice ampliamente, evitando así daños potenciales graves o riesgos sistémicos.
Los proveedores pueden adherirse voluntariamente a códigos aprobados de buenas prácticas o cumplir con normas armonizadas europeas, proporcionando así evidencia suficiente; en caso de no seguir ninguno de estos, tienen la opción de demostrar por otros métodos válidos, evaluados directamente por la Comisión Europea, que están cumpliendo las reglas necesarias.
La información facilitada por los proveedores, incluyendo documentos sensibles o secretos comerciales, se trata con estricta confidencialidad según las normas indicadas en el artículo 78, garantizando que no se revele información privada, secreta o delicada que pueda afectar negativamente a la empresa o a sus procesos operativos.

Alfabetización en materia de IA

Book Demo

We will get back to you via email as soon as possible.