Artigo 13.º

Transparência e prestação de informações aos responsáveis pela implantação

1.   Os sistemas de IA de risco elevado devem ser concebidos e desenvolvidos de maneira a assegurar que o seu funcionamento seja suficientemente transparente para permitir aos responsáveis pela implantação interpretar os resultados do sistema e utilizá-los de forma adequada. Deve ser garantido um tipo e um grau adequado de transparência com vista a garantir o cumprimento das obrigações pertinentes que incumbem ao prestador e ao responsável pela implantação por força da secção 3.

2.   Os sistemas de IA de risco elevado devem ser acompanhados de instruções de utilização, num formato digital adequado, ou outro, que incluam informações concisas, completas, corretas e claras que sejam pertinentes, acessíveis e compreensíveis para os responsáveis pela implantação.

3.   As instruções de utilização devem incluir, pelo menos, as seguintes informações:

a)

A identidade e os dados de contacto do prestador e, se for caso disso, do seu mandatário;

b)

As características, capacidades e limitações de desempenho do sistema de IA de risco elevado, incluindo:

i)

a sua finalidade prevista,

ii)

o nível de exatidão — incluindo os seus parâmetros —, de solidez e de cibersegurança a que se refere o artigo 15.o usado como referência para testar e validar o sistema de IA de risco elevado e que pode ser esperado, bem como quaisquer circunstâncias conhecidas e previsíveis que possam ter um impacto nesse nível esperado de exatidão, solidez e cibersegurança,

iii)

qualquer circunstância conhecida ou previsível, relacionada com a utilização do sistema de IA de risco elevado de acordo com a sua finalidade prevista ou em condições de utilização indevida razoavelmente previsível, que possa causar os riscos a que se refere o artigo 9.o, n.o 2, para a saúde e a segurança ou para os direitos fundamentais,

iv)

se for caso disso, as capacidades técnicas e as características do sistema de IA de risco elevado que sejam pertinentes para explicar os seus resultados,

v)

quando oportuno, o seu desempenho em relação a determinadas pessoas ou grupos de pessoas específicos em que o sistema se destina a ser utilizado,

vi)

quando oportuno, especificações para os dados de entrada, ou quaisquer outras informações importantes em termos dos conjuntos de dados de treino, validação e teste utilizados, tendo em conta a finalidade prevista do sistema de IA de risco elevado,

vii)

se for caso disso, informações que permitam aos responsáveis pela implantação interpretar os resultados do sistema de IA de risco elevado e utilizá-los adequadamente;

c)

As alterações do sistema de IA de risco elevado e do seu desempenho que tenham sido predeterminadas pelo prestador aquando da avaliação da conformidade inicial, se for caso disso;

d)

As medidas de supervisão humana a que se refere o artigo 14.o, incluindo as soluções técnicas adotadas para facilitar a interpretação dos resultados dos sistemas de IA de risco elevado pelos responsáveis pela implantação;

e)

Os recursos computacionais e de
hardware
necessários, a vida útil esperada do sistema de IA de risco elevado e quaisquer medidas de manutenção e assistência necessárias, incluindo a sua frequência, para assegurar o correto funcionamento desse sistema de IA, inclusive no tocante a atualizações do software;

f)

Sempre que pertinente, uma descrição dos mecanismos incluídos no sistema de IA de risco elevado que permita aos responsáveis pela implantação recolher, armazenar e interpretar corretamente os registos, em conformidade com o artigo 12.o.

Frequently Asked Questions

A transparência é importante porque permite que as pessoas que usam estes sistemas compreendam claramente como funcionam e como utilizá-los corretamente, ajudando a garantir que sejam seguros e que respeitem direitos fundamentais, além de prevenir possíveis erros ou abusos que possam causar danos à saúde e segurança dos utilizadores ou da sociedade.
Os sistemas de IA de risco elevado devem vir acompanhados de instruções claras, completas e fáceis de compreender, contendo detalhes sobre a finalidade do sistema, níveis de exatidão e segurança, limitações conhecidas, necessidade de supervisão humana, requisitos técnicos específicos, e como interpretar os seus resultados para utilização correta e segura.
As instruções devem listar claramente características técnicas do sistema, a sua exatidão esperada, segurança e robustez, desempenho especialmente junto a certos grupos ou pessoas, condições que impactam esse desempenho, e informar sobre situações conhecidas ou previsíveis em que seu uso ou mau uso pode causar riscos à saúde, segurança ou direitos fundamentais.
Os responsáveis pela implantação recebem informações específicas nas instruções quanto às capacidades técnicas, características e mecanismos presentes para facilitar o entendimento dos resultados apresentados pela IA, garantindo, assim, que possam usá-la adequadamente e reagir corretamente aos resultados gerados pelo sistema numa diversidade de situações.

Literacia no domínio da IA

Get Started within 24 hours.

Once you have submitted your details, you’ll be our top priority!