Artículo 77

Poderes de las autoridades encargadas de proteger los derechos fundamentales

1.   Las autoridades u organismos públicos nacionales encargados de supervisar o hacer respetar las obligaciones contempladas en el Derecho de la Unión en materia de protección de los derechos fundamentales, incluido el derecho a la no discriminación, con respecto al uso de sistemas de IA de alto riesgo mencionados en el anexo III tendrán la facultad de solicitar cualquier documentación creada o conservada con arreglo al presente Reglamento y de acceder a ella, en un lenguaje y formato accesibles, cuando el acceso a dicha documentación sea necesario para el cumplimiento efectivo de sus mandatos, dentro de los límites de su jurisdicción. La autoridad u organismo público pertinente informará sobre cualquier solicitud de este tipo a la autoridad de vigilancia del mercado del Estado miembro que corresponda.

2.   A más tardar el 2 de noviembre de 2024, cada Estado miembro designará las autoridades u organismos públicos a que se refiere el apartado 1 y los incluirá en una lista que pondrá a disposición del público. Los Estados miembros notificarán dicha lista a la Comisión y a los demás Estados miembros y la mantendrán actualizada.

3.   Cuando la documentación mencionada en el apartado 1 no baste para determinar si se ha producido un incumplimiento de las obligaciones previstas en el Derecho de la Unión en materia de protección de los derechos fundamentales, la autoridad u organismo público a que se refiere el apartado 1 podrá presentar una solicitud motivada a la autoridad de vigilancia del mercado para organizar pruebas del sistema de IA de alto riesgo a través de medios técnicos. La autoridad de vigilancia del mercado organizará las pruebas con la estrecha colaboración de la autoridad u organismo público solicitante en un plazo razonable tras la presentación de la solicitud.

4.   Cualquier información o documentación obtenidas por las autoridades u organismos públicos nacionales a que se refiere el apartado 1 del presente artículo con arreglo al presente artículo se tratará de conformidad con las obligaciones de confidencialidad dispuestas en el artículo 78.

Frequently Asked Questions

Las autoridades nacionales encargadas de proteger derechos fundamentales tienen el poder de pedir documentos relacionados con sistemas de inteligencia artificial considerados de alto riesgo y acceder a ellos cuando sea necesario para sus tareas, asegurándose de que estén en un lenguaje claro y accesible, así como solicitar la realización de pruebas técnicas adicionales si dichos documentos no son suficientes.
Cada país de la Unión Europea está obligado a designar oficialmente, a más tardar en noviembre de 2024, a las autoridades responsables de proteger los derechos fundamentales frente al uso de inteligencia artificial de alto riesgo, haciendo pública esa información y compartiéndola con la Comisión Europea y los demás países, manteniéndola actualizada.
Si la información obtenida no basta para aclarar si un sistema de inteligencia artificial viola los derechos fundamentales, la autoridad encargada puede solicitar formalmente a la autoridad responsable del control del mercado que realice pruebas técnicas adicionales sobre el sistema en cuestión, y éstas se efectuarán conjuntamente en un plazo razonable.
Toda la información y documentación recopilada por las autoridades que supervisan el respeto a los derechos fundamentales en el contexto del uso de inteligencia artificial será tratada con total confidencialidad siguiendo estrictamente las reglas establecidas sobre el uso y protección de información sensible, para asegurar la privacidad y seguridad de dichos datos.

Alfabetización en materia de IA

Book Demo

We will get back to you via email as soon as possible.