{"id":18954,"date":"2025-03-04T12:07:43","date_gmt":"2025-03-04T12:07:43","guid":{"rendered":"https:\/\/rgpd.com\/articulo-5-practicas-de-ia-prohibidas\/"},"modified":"2025-03-04T18:19:24","modified_gmt":"2025-03-04T18:19:24","slug":"articulo-5-practicas-de-ia-prohibidas","status":"publish","type":"page","link":"https:\/\/rgpd.com\/es\/reglamento-de-inteligencia-artificial\/capitulo-2-practicas-de-ia-prohibidas\/articulo-5-practicas-de-ia-prohibidas\/","title":{"rendered":"Art\u00edculo\u00a05: Pr\u00e1cticas de\u00a0IA prohibidas"},"content":{"rendered":"

1.\u00a0\u00a0\u00a0Quedan prohibidas las siguientes pr\u00e1cticas de\u00a0IA:<\/p>\n\n\n\n\n\n
\n

a)<\/p>\n<\/td>\n

\n

la introducci\u00f3n en el mercado, la puesta en servicio o\u00a0la utilizaci\u00f3n de un sistema de\u00a0IA que se sirva de t\u00e9cnicas subliminales que trasciendan la conciencia de una persona o\u00a0de t\u00e9cnicas deliberadamente manipuladoras o\u00a0enga\u00f1osas con el objetivo o\u00a0el efecto de alterar de manera sustancial el comportamiento de una persona o\u00a0un colectivo de personas, mermando de manera apreciable su capacidad para tomar una decisi\u00f3n informada y haciendo que tomen una decisi\u00f3n que de otro modo no habr\u00edan tomado, de un modo que provoque, o\u00a0sea razonablemente probable que provoque, perjuicios considerables a\u00a0esa persona, a\u00a0otra persona o\u00a0a un colectivo de personas;<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n\n\n\n\n\n
\n

b)<\/p>\n<\/td>\n

\n

la introducci\u00f3n en el mercado, la puesta en servicio o\u00a0la utilizaci\u00f3n de un sistema de\u00a0IA que explote alguna de las vulnerabilidades de una persona f\u00edsica o\u00a0un determinado colectivo de personas derivadas de su edad o\u00a0discapacidad, o\u00a0de una situaci\u00f3n social o\u00a0econ\u00f3mica espec\u00edfica, con la finalidad o\u00a0el efecto de alterar de manera sustancial el comportamiento de dicha persona o\u00a0de una persona que pertenezca a\u00a0dicho colectivo de un modo que provoque, o\u00a0sea razonablemente probable que provoque, perjuicios considerables a\u00a0esa persona o\u00a0a otra;<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n\n\n\n\n\n
\n

c)<\/p>\n<\/td>\n

\n

la introducci\u00f3n en el mercado, la puesta en servicio o\u00a0la utilizaci\u00f3n de sistemas de\u00a0IA para evaluar o\u00a0clasificar a\u00a0personas f\u00edsicas o\u00a0a colectivos de personas durante un per\u00edodo determinado de tiempo atendiendo a\u00a0su comportamiento social o\u00a0a caracter\u00edsticas personales o\u00a0de su personalidad conocidas, inferidas o\u00a0predichas, de forma que la puntuaci\u00f3n ciudadana resultante provoque una o\u00a0varias de las situaciones siguientes:<\/p>\n\n\n\n\n\n
\n

i)<\/p>\n<\/td>\n

\n

un trato perjudicial o\u00a0desfavorable hacia determinadas personas f\u00edsicas o\u00a0colectivos de personas en contextos sociales que no guarden relaci\u00f3n con los contextos donde se generaron o\u00a0recabaron los datos originalmente,<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n\n\n\n\n\n
\n

ii)<\/p>\n<\/td>\n

\n

un trato perjudicial o\u00a0desfavorable hacia determinadas personas f\u00edsicas o\u00a0colectivos de personas que sea injustificado o\u00a0desproporcionado con respecto a\u00a0su comportamiento social o\u00a0la gravedad de este;<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n\n\n\n\n\n
\n

d)<\/p>\n<\/td>\n

\n

la introducci\u00f3n en el mercado, la puesta en servicio para este fin espec\u00edfico o\u00a0el uso de un sistema de\u00a0IA para realizar evaluaciones de riesgos de personas f\u00edsicas con el fin de valorar o\u00a0predecir el riesgo de que una persona f\u00edsica cometa un delito bas\u00e1ndose \u00fanicamente en la elaboraci\u00f3n del perfil de una persona f\u00edsica o\u00a0en la evaluaci\u00f3n de los rasgos y caracter\u00edsticas de su personalidad; esta prohibici\u00f3n no se aplicar\u00e1 a\u00a0los sistemas de\u00a0IA utilizados para apoyar la valoraci\u00f3n humana de la implicaci\u00f3n de una persona en una actividad delictiva que ya se base en hechos objetivos y verificables directamente relacionados con una actividad delictiva;<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n\n\n\n\n\n
\n

e)<\/p>\n<\/td>\n

\n

la introducci\u00f3n en el mercado, la puesta en servicio para este fin espec\u00edfico o\u00a0el uso de sistemas de\u00a0IA que creen o\u00a0ampl\u00eden bases de datos de reconocimiento facial mediante la extracci\u00f3n no selectiva de im\u00e1genes faciales de internet o\u00a0de circuitos cerrados de televisi\u00f3n;<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n\n\n\n\n\n
\n

f)<\/p>\n<\/td>\n

\n

la introducci\u00f3n en el mercado, la puesta en servicio para este fin espec\u00edfico o\u00a0el uso de sistemas de\u00a0IA para inferir las emociones de una persona f\u00edsica en los lugares de trabajo y en los centros educativos, excepto cuando el sistema de\u00a0IA est\u00e9 destinado a\u00a0ser instalado o\u00a0introducido en el mercado por motivos m\u00e9dicos o\u00a0de seguridad;<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n\n\n\n\n\n
\n

g)<\/p>\n<\/td>\n

\n

la introducci\u00f3n en el mercado, la puesta en servicio para este fin espec\u00edfico o\u00a0el uso de sistemas de categorizaci\u00f3n biom\u00e9trica que clasifiquen individualmente a\u00a0las personas f\u00edsicas sobre la base de sus datos biom\u00e9tricos para deducir o\u00a0inferir su raza, opiniones pol\u00edticas, afiliaci\u00f3n sindical, convicciones religiosas o\u00a0filos\u00f3ficas, vida sexual u\u00a0orientaci\u00f3n sexual; esta prohibici\u00f3n no incluye el etiquetado o\u00a0filtrado de conjuntos de datos biom\u00e9tricos adquiridos l\u00edcitamente, como im\u00e1genes, basado en datos biom\u00e9tricos ni la categorizaci\u00f3n de datos biom\u00e9tricos en el \u00e1mbito de la garant\u00eda del cumplimiento del Derecho;<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n\n\n\n\n\n
\n

h)<\/p>\n<\/td>\n

\n

el uso de sistemas de identificaci\u00f3n biom\u00e9trica remota \u00aben tiempo real\u00bb en espacios de acceso p\u00fablico con fines de garant\u00eda del cumplimiento del Derecho, salvo y en la medida en que dicho uso sea estrictamente necesario para alcanzar uno o\u00a0varios de los objetivos siguientes:<\/p>\n\n\n\n\n\n
\n

i)<\/p>\n<\/td>\n

\n

la b\u00fasqueda selectiva de v\u00edctimas concretas de secuestro, trata de seres humanos o\u00a0explotaci\u00f3n sexual de seres humanos, as\u00ed como la b\u00fasqueda de personas desaparecidas,<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n\n\n\n\n\n
\n

ii)<\/p>\n<\/td>\n

\n

la prevenci\u00f3n de una amenaza espec\u00edfica, importante e\u00a0inminente para la vida o\u00a0la seguridad f\u00edsica de las personas f\u00edsicas o\u00a0de una amenaza real y actual o\u00a0real y previsible de un atentado terrorista,<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n\n\n\n\n\n
\n

iii)<\/p>\n<\/td>\n

\n

la localizaci\u00f3n o\u00a0identificaci\u00f3n de una persona sospechosa de haber cometido un delito a\u00a0fin de llevar a\u00a0cabo una investigaci\u00f3n o\u00a0un enjuiciamiento penales o\u00a0de ejecutar una sanci\u00f3n penal por alguno de los delitos mencionados en el anexo\u00a0II que en el Estado miembro de que se trate se castigue con una pena o\u00a0una medida de seguridad privativas de libertad cuya duraci\u00f3n m\u00e1xima sea de al menos cuatro a\u00f1os.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

El p\u00e1rrafo primero, letra\u00a0h), se entiende sin perjuicio de lo dispuesto en el art\u00edculo\u00a09 del Reglamento (UE)\u00a02016\/679 en lo que respecta al tratamiento de datos biom\u00e9tricos con fines distintos de la garant\u00eda del cumplimiento del Derecho.<\/p>\n

2.\u00a0\u00a0\u00a0El uso de sistemas de identificaci\u00f3n biom\u00e9trica remota \u00aben tiempo real\u00bb en espacios de acceso p\u00fablico con fines de garant\u00eda del cumplimiento del Derecho para cualquiera de los objetivos mencionados en el apartado\u00a01, p\u00e1rrafo primero, letra\u00a0h), debe desplegarse para los fines establecidos en dicha letra, \u00fanicamente para confirmar la identidad de la persona que constituya el objetivo espec\u00edfico y tendr\u00e1 en cuenta los siguientes aspectos:<\/p>\n\n\n\n\n\n
\n

a)<\/p>\n<\/td>\n

\n

la naturaleza de la situaci\u00f3n que d\u00e9 lugar al posible uso, y en particular la gravedad, probabilidad y magnitud del perjuicio que se producir\u00eda de no utilizarse el sistema;<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n\n\n\n\n\n
\n

b)<\/p>\n<\/td>\n

\n

las consecuencias que tendr\u00eda el uso del sistema en los derechos y las libertades de las personas implicadas, y en particular la gravedad, probabilidad y magnitud de dichas consecuencias.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

Adem\u00e1s, el uso de sistemas de identificaci\u00f3n biom\u00e9trica remota \u00aben tiempo real\u00bb en espacios de acceso p\u00fablico con fines de garant\u00eda del cumplimiento del Derecho para cualquiera de los objetivos mencionados en el apartado\u00a01, p\u00e1rrafo primero, letra\u00a0h), del presente art\u00edculo deber\u00e1 cumplir garant\u00edas y condiciones necesarias y proporcionadas en relaci\u00f3n con el uso de conformidad con el Derecho nacional que autorice dicho uso, en particular en lo que respecta a\u00a0las limitaciones temporales, geogr\u00e1ficas y personales. El uso del sistema de identificaci\u00f3n biom\u00e9trica remota \u00aben tiempo real\u00bb en espacios de acceso p\u00fablico solo se autorizar\u00e1 si la autoridad garante del cumplimiento del Derecho ha completado una evaluaci\u00f3n de impacto relativa a\u00a0los derechos fundamentales seg\u00fan lo dispuesto en el art\u00edculo\u00a027 y ha registrado el sistema en la base de datos de la\u00a0UE de conformidad con el art\u00edculo\u00a049. No obstante, en casos de urgencia debidamente justificados, se podr\u00e1 empezar a\u00a0utilizar tales sistemas sin el registro en la base de datos de la\u00a0UE, siempre que dicho registro se complete sin demora indebida.<\/p>\n

3.\u00a0\u00a0\u00a0A los efectos del apartado\u00a01, p\u00e1rrafo primero, letra\u00a0h), y el apartado\u00a02, todo uso de un sistema de identificaci\u00f3n biom\u00e9trica remota \u00aben tiempo real\u00bb en espacios de acceso p\u00fablico con fines de garant\u00eda del cumplimiento del Derecho estar\u00e1 supeditado a\u00a0la concesi\u00f3n de una autorizaci\u00f3n previa por parte de una autoridad judicial o\u00a0una autoridad administrativa independiente cuya decisi\u00f3n sea vinculante del Estado miembro en el que vaya a\u00a0utilizarse dicho sistema, que se expedir\u00e1 previa solicitud motivada y de conformidad con las normas detalladas del Derecho nacional mencionadas en el apartado\u00a05. No obstante, en una situaci\u00f3n de urgencia debidamente justificada, se podr\u00e1 empezar a\u00a0utilizar tal sistema sin autorizaci\u00f3n siempre que se solicite dicha autorizaci\u00f3n sin demora indebida, a\u00a0m\u00e1s tardar en un plazo de\u00a0veinticuatro\u00a0horas. Si se rechaza dicha autorizaci\u00f3n, el uso se interrumpir\u00e1 con efecto inmediato y todos los datos, as\u00ed como los resultados y la informaci\u00f3n de salida generados por dicho uso, se desechar\u00e1n y suprimir\u00e1n inmediatamente.<\/p>\n

La autoridad judicial competente o\u00a0una autoridad administrativa independiente cuya decisi\u00f3n sea vinculante \u00fanicamente conceder\u00e1 la autorizaci\u00f3n cuando tenga constancia, sobre la base de pruebas objetivas o\u00a0de indicios claros que se le aporten, de que el uso del sistema de identificaci\u00f3n biom\u00e9trica remota \u00aben tiempo real\u00bb es necesario y proporcionado para alcanzar alguno de los objetivos especificados en el apartado\u00a01, p\u00e1rrafo primero, letra\u00a0h), el cual se indicar\u00e1 en la solicitud, y, en particular, se limita a\u00a0lo estrictamente necesario en lo que se refiere al per\u00edodo de tiempo, as\u00ed como al \u00e1mbito geogr\u00e1fico y personal. Al pronunciarse al respecto, esa autoridad tendr\u00e1 en cuenta los aspectos mencionados en el apartado\u00a02. Dicha autoridad no podr\u00e1 adoptar ninguna decisi\u00f3n que produzca efectos jur\u00eddicos adversos para una persona exclusivamente sobre la base de los resultados de salida del sistema de identificaci\u00f3n biom\u00e9trica remota \u00aben tiempo real\u00bb.<\/p>\n

4.\u00a0\u00a0\u00a0Sin perjuicio de lo dispuesto en el apartado\u00a03, todo uso de un sistema de identificaci\u00f3n biom\u00e9trica remota \u00aben tiempo real\u00bb en espacios de acceso p\u00fablico con fines de garant\u00eda del cumplimiento del Derecho se notificar\u00e1 a\u00a0la autoridad de vigilancia del mercado pertinente y a\u00a0la autoridad nacional de protecci\u00f3n de datos de conformidad con las normas nacionales a\u00a0que se refiere el apartado\u00a05. La notificaci\u00f3n contendr\u00e1, como m\u00ednimo, la informaci\u00f3n especificada en el apartado\u00a06 y no incluir\u00e1 datos operativos sensibles.<\/p>\n

5.\u00a0\u00a0\u00a0Los Estados miembros podr\u00e1n decidir contemplar la posibilidad de autorizar, ya sea total o\u00a0parcialmente, el uso de sistemas de identificaci\u00f3n biom\u00e9trica remota \u00aben tiempo real\u00bb en espacios de acceso p\u00fablico con fines de garant\u00eda del cumplimiento del Derecho dentro de los l\u00edmites y en las condiciones que se indican en el apartado\u00a01, p\u00e1rrafo primero, letra\u00a0h), y los apartados\u00a02 y\u00a03. Los Estados miembros de que se trate deber\u00e1n establecer en sus respectivos Derechos nacionales las normas detalladas necesarias aplicables a\u00a0la solicitud, la concesi\u00f3n y el ejercicio de las autorizaciones a\u00a0que se refiere el apartado\u00a03, as\u00ed como a\u00a0la supervisi\u00f3n y la presentaci\u00f3n de informes relacionadas con estas. Dichas normas especificar\u00e1n tambi\u00e9n para qu\u00e9 objetivos de los enumerados en el apartado\u00a01, p\u00e1rrafo primero, letra\u00a0h), y en su caso en relaci\u00f3n con qu\u00e9 delitos de los indicados en la letra\u00a0h), inciso\u00a0iii), se podr\u00e1 autorizar a\u00a0las autoridades competentes para que utilicen esos sistemas con fines de garant\u00eda del cumplimiento del Derecho. Los Estados miembros notificar\u00e1n dichas normas a\u00a0la Comisi\u00f3n a\u00a0m\u00e1s tardar\u00a0treinta\u00a0d\u00edas despu\u00e9s de su adopci\u00f3n. Los Estados miembros podr\u00e1n adoptar, de conformidad con el Derecho de la Uni\u00f3n, leyes m\u00e1s restrictivas sobre el uso de sistemas de identificaci\u00f3n biom\u00e9trica remota.<\/p>\n

6.\u00a0\u00a0\u00a0Las autoridades nacionales de vigilancia del mercado y las autoridades nacionales de protecci\u00f3n de datos de los Estados miembros a\u00a0las que se haya notificado el uso de sistemas de identificaci\u00f3n biom\u00e9trica remota \u00aben tiempo real\u00bb en espacios de acceso p\u00fablico con fines de garant\u00eda del cumplimiento del Derecho con arreglo al apartado\u00a04 presentar\u00e1n a\u00a0la Comisi\u00f3n informes anuales sobre dicho uso. A\u00a0tal fin, la Comisi\u00f3n facilitar\u00e1 a\u00a0los Estados miembros y a\u00a0las autoridades nacionales de vigilancia del mercado y de protecci\u00f3n de datos un modelo que incluya informaci\u00f3n sobre el n\u00famero de decisiones adoptadas por las autoridades judiciales competentes o\u00a0una autoridad administrativa independiente cuya decisi\u00f3n sea vinculante en relaci\u00f3n con las solicitudes de autorizaci\u00f3n de conformidad con el apartado\u00a03, as\u00ed como su resultado.<\/p>\n

7.\u00a0\u00a0\u00a0La Comisi\u00f3n publicar\u00e1 informes anuales sobre el uso de sistemas de identificaci\u00f3n biom\u00e9trica remota \u00aben tiempo real\u00bb en espacios de acceso p\u00fablico con fines de garant\u00eda del cumplimiento del Derecho elaborados basados en datos agregados relativos a\u00a0los Estados miembros sobre la base de los informes anuales a\u00a0que se refiere el apartado\u00a06. Dichos informes anuales no incluir\u00e1n datos operativos sensibles de las actividades de garant\u00eda del cumplimiento del Derecho conexas.<\/p>\n

8.\u00a0\u00a0\u00a0El presente art\u00edculo no afectar\u00e1 a\u00a0las prohibiciones aplicables cuando una pr\u00e1ctica de\u00a0IA infrinja otras disposiciones de Derecho de la Uni\u00f3n.<\/p>\n","protected":false},"excerpt":{"rendered":"

El Art\u00edculo 5 del Reglamento de IA europeo establece prohibiciones claras contra pr\u00e1cticas invasivas o peligrosas de inteligencia artificial, tales como manipulaci\u00f3n subliminal, explotaci\u00f3n de vulnerabilidades, puntuaci\u00f3n ciudadana injusta, reconocimiento facial remoto masivo y predicci\u00f3n delictiva automatizada, permitiendo solo limitadas excepciones estrictamente reguladas.<\/p>\n","protected":false},"author":1,"featured_media":0,"parent":18796,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"class_list":["post-18954","page","type-page","status-publish","hentry"],"_links":{"self":[{"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/pages\/18954","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/comments?post=18954"}],"version-history":[{"count":0,"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/pages\/18954\/revisions"}],"up":[{"embeddable":true,"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/pages\/18796"}],"wp:attachment":[{"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/media?parent=18954"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}