Começar pela finalidade do sistema
A mesma tecnologia pode ter enquadramentos diferentes. Resumir documentação interna não é o mesmo que avaliar pessoas ou influenciar o acesso a um serviço público. A análise deve descrever o que entra, o que sai, quem decide e que consequências podem resultar.
Um inventário de sistemas e experiências-piloto evita que ferramentas adquiridas por equipas diferentes fiquem fora da governação institucional.
Classificação e avaliação de impacto
Nem toda a utilização de IA na Administração Pública é automaticamente de alto risco. Contudo, aplicações que afetam direitos, elegibilidade, fiscalização ou decisões sobre pessoas exigem especial atenção e aconselhamento jurídico adequado.
A avaliação deve considerar qualidade dos dados, grupos afetados, possibilidade de contestação, dependência do resultado e capacidade real de supervisão humana.
Transparência, documentação e supervisão
A entidade deve saber que modelo ou serviço utiliza, que versões estão em produção, que dados são processados e como é avaliada a qualidade. Os utilizadores internos precisam de instruções, limites e formação proporcionais à tarefa.
Quando uma pessoa interage com um sistema automatizado, a informação prestada deve ser clara e deve existir um caminho para apoio humano quando necessário.
O que pedir a fornecedores
Os contratos devem cobrir segurança, subcontratantes, localização e utilização dos dados, níveis de serviço, registos, auditoria, gestão de alterações, eliminação e saída. A autarquia deve conseguir mudar de fornecedor ou suspender o sistema sem perder o controlo do processo.
Este conteúdo é informativo e não substitui aconselhamento jurídico sobre um sistema ou procedimento concreto.
Perguntas frequentes
Todo o uso de IA por uma autarquia é de alto risco?
Não. A classificação depende da finalidade e do papel do sistema. Casos que afetam pessoas ou direitos requerem avaliação especialmente cuidadosa.
Um piloto também precisa de regras?
Sim. Mesmo com poucos utilizadores, deve existir finalidade, dados autorizados, responsável, supervisão e procedimento para interromper o teste.
Basta o fornecedor dizer que cumpre o AI Act?
Não. A entidade utilizadora também tem responsabilidades e deve verificar se a documentação, o contrato e a operação correspondem ao caso concreto.