Dado su papel y su responsabilidad, las actuaciones de las autoridades garantes del cumplimiento del Derecho que implican determinados usos de los sistemas de\u00a0IA se caracterizan por un importante desequilibrio de poder y pueden dar lugar a\u00a0la vigilancia, la detenci\u00f3n o\u00a0la privaci\u00f3n de libertad de una persona f\u00edsica, as\u00ed como tener otros efectos negativos sobre los derechos fundamentales consagrados en la Carta. En particular, si el sistema de\u00a0IA no est\u00e1 entrenado con datos de buena calidad, no cumple los requisitos adecuados en t\u00e9rminos de rendimiento, de precisi\u00f3n o\u00a0de solidez, o\u00a0no se dise\u00f1a y prueba debidamente antes de introducirlo en el mercado o\u00a0ponerlo en servicio, es posible que se\u00f1ale a\u00a0personas de manera discriminatoria, incorrecta o\u00a0injusta. Adem\u00e1s, podr\u00eda impedir el ejercicio de importantes derechos procesales fundamentales, como el derecho a\u00a0la tutela judicial efectiva y a\u00a0un juez imparcial, as\u00ed como el derecho a\u00a0la defensa y a\u00a0la presunci\u00f3n de inocencia, sobre todo cuando dichos sistemas de\u00a0IA no sean lo suficientemente transparentes y explicables ni est\u00e9n suficientemente bien documentados. Por consiguiente, en la medida en que su uso est\u00e9 permitido conforme al Derecho de la Uni\u00f3n y nacional pertinente, procede clasificar como de alto riesgo varios sistemas de\u00a0IA destinados a\u00a0ser utilizados con fines de garant\u00eda del cumplimiento del Derecho cuando su precisi\u00f3n, fiabilidad y transparencia sean especialmente importantes para evitar consecuencias adversas, conservar la confianza de la poblaci\u00f3n y garantizar la rendici\u00f3n de cuentas y unas v\u00edas de recurso efectivas. En vista de la naturaleza de las actividades y de los riesgos conexos, entre dichos sistemas de\u00a0IA de alto riesgo deben incluirse, en particular, los sistemas de\u00a0IA destinados a\u00a0ser utilizados por las autoridades garantes del cumplimiento del Derecho, o\u00a0en nombre de estas, o\u00a0por las instituciones, \u00f3rganos u\u00a0organismos de la Uni\u00f3n en apoyo de las primeras, para evaluar el riesgo de que una persona f\u00edsica sea v\u00edctima de delitos, como los pol\u00edgrafos y otras herramientas similares, para evaluar la fiabilidad de las pruebas durante la investigaci\u00f3n o\u00a0el enjuiciamiento de delitos y, en la medida en que no est\u00e9 prohibido conforme al presente Reglamento, para evaluar el riesgo de que una persona f\u00edsica cometa un delito o\u00a0reincida, no solo sobre la base de la elaboraci\u00f3n de perfiles de personas f\u00edsicas o\u00a0la evaluaci\u00f3n de rasgos y caracter\u00edsticas de la personalidad o\u00a0comportamientos delictivos pasados de personas f\u00edsicas o\u00a0grupos de personas, o\u00a0para elaborar perfiles durante la detecci\u00f3n, la investigaci\u00f3n o\u00a0el enjuiciamiento de delitos. Los sistemas de\u00a0IA destinados espec\u00edficamente a\u00a0ser utilizados en procesos administrativos por las autoridades fiscales y aduaneras y las unidades de inteligencia financiera que desempe\u00f1an tareas administrativas de an\u00e1lisis de informaci\u00f3n de conformidad con el Derecho de la Uni\u00f3n en materia de lucha contra el blanqueo de capitales no deben clasificarse como sistemas de\u00a0IA de alto riesgo usados por las autoridades garantes del cumplimiento del Derecho con el fin de prevenir, detectar, investigar y enjuiciar delitos. El uso de herramientas de\u00a0IA por parte de las autoridades garantes del cumplimiento del Derecho y otras autoridades pertinentes no debe convertirse en un factor de desigualdad o\u00a0exclusi\u00f3n. No debe ignorarse el impacto del uso de herramientas de\u00a0IA en los derechos de defensa de los sospechosos, en particular la dificultad para obtener informaci\u00f3n significativa sobre el funcionamiento de dichos sistemas y la consiguiente dificultad para impugnar sus resultados ante los tribunales, en particular por parte de las personas f\u00edsicas investigadas.<\/p>\n","protected":false},"excerpt":{"rendered":"
Dado su papel y su responsabilidad, las actuaciones de las autoridades garantes del cumplimiento del Derecho que implican determinados usos de los sistemas de\u00a0IA se caracterizan por un importante desequilibrio de poder y pueden dar lugar a\u00a0la vigilancia, la detenci\u00f3n o\u00a0la privaci\u00f3n de libertad de una persona f\u00edsica, as\u00ed como tener otros efectos negativos sobre […]<\/p>\n","protected":false},"author":1,"featured_media":0,"parent":20406,"menu_order":0,"comment_status":"open","ping_status":"open","template":"","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"class_list":["post-20281","page","type-page","status-publish","hentry"],"_links":{"self":[{"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/pages\/20281","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/comments?post=20281"}],"version-history":[{"count":0,"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/pages\/20281\/revisions"}],"up":[{"embeddable":true,"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/pages\/20406"}],"wp:attachment":[{"href":"https:\/\/rgpd.com\/es\/wp-json\/wp\/v2\/media?parent=20281"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}