IA para anonimizar documentos públicos: porque o ENS Médio deveria ser o mínimo exigível

Pode uma Administração Pública utilizar qualquer ferramenta de inteligência artificial para anonimizar documentos? A resposta curta é não deveria.

Uma ferramenta de anonimização processa precisamente a versão do documento que ainda contém os dados que se pretende proteger: números de identificação, assinaturas, moradas, contas bancárias, informação sobre menores, circunstâncias pessoais, metadados, códigos de validação e, em determinados processos, categorias especiais de dados.

Por isso, numa solução de anonimização com inteligência artificial para o setor público, a precisão do algoritmo não é suficiente. É necessário exigir também garantias sobre onde o documento é processado, quem lhe pode aceder, quanto tempo permanece armazenado, que terceiros intervêm, que rastreabilidade existe e como é protegido ao longo de todo o seu ciclo de vida.

Neste contexto, o Esquema Nacional de Segurança (ENS) torna-se essencial. E ainda que juridicamente não se possa afirmar que toda a ferramenta de anonimização esteja automaticamente obrigada a ser de categoria MÉDIA, para uma solução profissional que processa documentação administrativa original o ENS Médio deveria considerar-se um limiar mínimo razoável de segurança e garantia.

Porque é que uma IA de anonimização precisa de tanta segurança?

Existe um paradoxo importante: para anonimizar um documento é preciso primeiro processá-lo sem anonimizar. É exatamente nesse momento que a ferramenta encontra a maior concentração de informação sensível.

Pensemos num processo administrativo que contenha:

• nomes e apelidos;
• números de identificação;
• assinaturas;
• moradas;
• telefones e endereços de correio eletrónico;
• IBAN;
• dados de menores;
• informação de saúde ou social;
• identificadores internos;
• códigos de validação;
• metadados;
• documentos anexos.

Uma vez corretamente anonimizado, grande parte desse risco desaparece. Mas durante o processo o sistema teve acesso ao documento original.

Por isso a pergunta relevante não é apenas «esta IA deteta corretamente os dados pessoais?». A Administração deveria colocar outra: «o que acontece aos meus documentos enquanto esta IA os está a processar?»

Anonimização de documentos públicos: o risco não está só no texto visível

Anonimizar corretamente documentação administrativa não significa apenas localizar nomes ou números de identificação e colocar um retângulo preto por cima. Um documento pode revelar informação através de elementos que não aparecem à primeira vista:

• metadados;
• comentários;
• versões anteriores;
• campos ocultos;
• camadas do PDF;
• assinaturas;
• hashes;
• identificadores;
• códigos seguros de verificação;
• mecanismos que permitam recuperar ou localizar o documento original.

Este ponto é especialmente relevante porque o próprio Real Decreto 311/2022, que regula o ENS, prevê expressamente uma medida denominada «limpeza de documentos» [mp.info.5]. Exige retirar informação adicional contida em campos ocultos, metadados, comentários ou revisões anteriores quando não seja pertinente para o destinatário, e destaca a sua importância quando um documento vai ser amplamente difundido, por exemplo através da publicação num sítio web ou repositório público: exatamente um dos cenários habituais da transparência administrativa.

Existe, portanto, uma relação direta entre anonimização documental, publicação de informação pública e segurança dos documentos. Veja também como anonimizar um PDF passo a passo e a anonimização na Administração Pública.

É obrigatório que uma ferramenta de anonimização tenha ENS Médio?

Convém ser preciso. Não existe uma regra geral segundo a qual toda a ferramenta que anonimize documentos de uma Administração deva ser classificada automaticamente como ENS Médio. O ENS estabelece as categorias BÁSICA, MÉDIA e ALTA em função do impacto que um incidente de segurança poderia produzir sobre dimensões como:

• confidencialidade;
• integridade;
• rastreabilidade;
• autenticidade;
• disponibilidade.

A categoria deve ser determinada atendendo ao sistema concreto e à sua análise de riscos. Ora, uma ferramenta destinada a processar de forma recorrente documentação administrativa original com dados pessoais coloca uma questão evidente: poderia considerar-se de impacto limitado que milhares de documentos originais ficassem expostos, fossem acedidos por pessoas não autorizadas ou abandonassem o ambiente previsto de tratamento? Em muitos casos, dificilmente.

Por isso o ENS Médio é uma referência especialmente adequada para as plataformas profissionais de anonimização destinadas a Administrações Públicas. Não porque «a inteligência artificial precise de ENS Médio», mas porque a informação que o sistema processa pode justificar medidas de segurança próprias desse nível.

ENS Básico e ENS Médio não oferecem o mesmo nível de garantia

Em sistemas de categoria BÁSICA, a conformidade com o ENS pode ser acreditada através de autoavaliação e declaração de conformidade. Nos sistemas de categoria MÉDIA e ALTA intervém um processo de auditoria para a certificação de conformidade.

Isto introduz algo especialmente importante quando um terceiro vai processar documentação administrativa sensível: verificação independente. Não se trata apenas de o fornecedor afirmar que dispõe de medidas de segurança; existe um processo formal para as comprovar.

Por isso, ao contratar uma solução de anonimização automática de documentos públicos, conhecer o seu nível de adequação ao ENS deveria integrar as perguntas básicas de qualquer responsável de contratação, tecnologia, transparência ou proteção de dados.

O ENS também afeta fornecedores tecnológicos privados

O ENS não se limita ao software desenvolvido internamente por uma Administração. O artigo 2.3 do Real Decreto 311/2022 contempla também os sistemas de informação de entidades privadas que, mediante uma relação contratual, prestam serviços ou fornecem soluções a entidades do setor público para o exercício das suas competências e poderes administrativos. A norma prevê ainda que os requisitos necessários para assegurar a conformidade com o ENS sejam incorporados nos respetivos processos contratuais.

Isto é especialmente importante com a expansão de soluções SaaS, serviços cloud e inteligência artificial. Externalizar uma tecnologia não significa externalizar a responsabilidade sobre a segurança da informação.

IA e anonimização: a Administração deve saber onde acabam os seus documentos

A inteligência artificial introduz uma pergunta antes muito menos habitual: onde está realmente a ser processado o documento? Uma aplicação pode ter uma interface aparentemente simples e, por trás, transmitir informação a diferentes serviços, modelos, fornecedores cloud ou APIs.

Antes de enviar documentação administrativa para uma solução de IA deveriam poder responder-se, pelo menos, a estas perguntas:

1. Onde são processados os documentos?
2. Onde são armazenados?
3. Durante quanto tempo são conservados?
4. Que fornecedores ou subcontratantes intervêm?
5. Os documentos são transmitidos a serviços externos de IA?
6. Os dados podem ser utilizados para treino de modelos?
7. Quem pode aceder aos ficheiros originais?
8. Existe registo e rastreabilidade dos acessos?
9. Como e quando são eliminados os documentos?
10. Que procedimento existe perante um incidente de segurança?

Se o fornecedor não puder responder com clareza, o problema não é apenas tecnológico: é um problema de governação do dado.

RGPD e ENS: duas camadas complementares de proteção

Cumprir o RGPD e cumprir o ENS não são alternativas. Quando se tratam dados pessoais devem analisar-se as obrigações decorrentes do Regulamento Geral sobre a Proteção de Dados, da legislação nacional aplicável e do ENS quando este seja aplicável.

O artigo 32.º do RGPD exige medidas técnicas e organizativas adequadas ao risco e menciona expressamente confidencialidade, integridade, disponibilidade, resiliência dos sistemas, restauração da disponibilidade e avaliação periódica das medidas implementadas.

Por isso uma afirmação genérica como «cumprimos o RGPD» dá pouca informação a uma Administração que está a avaliar uma plataforma. A questão relevante é: que medidas concretas permitem acreditar esse cumprimento?

O que deve exigir uma Administração a uma ferramenta de anonimização com IA?

1. Qualidade da anonimização

Deve detetar corretamente a informação que necessita de proteção, mas também evitar o problema contrário: anonimizar informação que legalmente deve permanecer pública. Na documentação administrativa isto é fundamental. A empresa adjudicatária, o seu número de identificação fiscal, o montante de uma adjudicação, determinados cargos públicos ou determinada informação associada ao exercício de funções públicas podem ser informação legitimamente publicável. Anonimizar mais não significa anonimizar melhor.

2. Segurança do processo de anonimização

A Administração deve conhecer as garantias existentes desde que entrega o documento até que recebe a versão anonimizada: infraestrutura, controlo de acessos, comunicações, armazenamento, eliminação, registos, rastreabilidade, gestão de incidentes, fornecedores tecnológicos e segurança da cadeia de fornecimento.

Este segundo nível é precisamente o que diferencia uma ferramenta que apenas incorpora um modelo de IA de uma plataforma concebida especificamente para trabalhar com documentação de Administrações Públicas.

Pode utilizar-se o ChatGPT ou outra IA generalista para anonimizar documentos administrativos?

Tecnicamente, uma IA generalista pode identificar determinados dados pessoais. Mas a pergunta para uma Administração não deveria ser apenas se o consegue fazer: deve analisar também se o ambiente utilizado oferece as garantias de segurança, proteção de dados, controlo, rastreabilidade e contratação que o tratamento concreto necessita.

Por outras palavras: a capacidade de um modelo para encontrar um número de identificação não converte automaticamente esse modelo numa plataforma adequada para gerir processos administrativos. O modelo de IA é apenas uma peça; a segurança da infraestrutura que o rodeia é igualmente importante. É por isso que existe o caso de uso de anonimizar dados antes de usar IA.

AnonimizIA: anonimização com IA concebida para o setor público

AnonimizIA é uma solução da oGov especializada em automatizar a anonimização de documentos de Administrações Públicas através de inteligência artificial. A sua abordagem parte de uma diferença fundamental face às ferramentas genéricas: anonimizar documentação pública exige compreender simultaneamente proteção de dados, transparência, estrutura documental administrativa e segurança da informação.

Não se trata simplesmente de procurar dados pessoais. Uma solução especializada deve abordar elementos como números de identificação, assinaturas, IBAN, endereços de correio eletrónico, códigos de validação, metadados e informação suscetível de permitir o acesso ao documento original; e, ao mesmo tempo, preservar a informação que deve continuar pública.

O objetivo é utilizar inteligência artificial para reduzir o enorme volume de trabalho manual associado à anonimização, sem converter a própria IA num novo vetor de risco para a informação. Se preferir delegar todo o processo, existe também o serviço de anonimização de documentos com revisão humana e assistência jurídica.

A segurança deveria fazer parte do algoritmo de decisão

A incorporação de inteligência artificial nas Administrações Públicas permitirá provavelmente automatizar processos que até agora exigiam muitas horas de revisão humana. A anonimização documental é um deles. Mas existe uma regra que não deveria esquecer-se: quanto mais sensível é a informação que confiamos a uma IA, mais importante é analisar o sistema que existe à volta dessa IA.

Uma ferramenta de anonimização tem acesso precisamente aos documentos que ainda não são seguros para publicação. Essa circunstância torna a segurança da plataforma uma parte essencial do serviço.

Por isso, para uma solução profissional de anonimização de documentos públicos através de inteligência artificial, o ENS não deveria ser visto como um acrescento. E quando o sistema processa de forma recorrente documentação administrativa original e dados pessoais, o ENS Médio deveria ser o ponto de partida razoável para avaliar as suas garantias de segurança.

Porque uma boa ferramenta de anonimização deve proteger os dados depois de os processar. Mas uma ferramenta realmente concebida para o setor público deve protegê-los também enquanto os está a processar.

Perguntas frequentes sobre anonimização, inteligência artificial e ENS

O que é uma ferramenta de anonimização com IA para o setor público?

É uma solução tecnológica que utiliza inteligência artificial e outras técnicas para detetar e proteger dados pessoais ou outra informação que não deve tornar-se pública em documentos administrativos, permitindo conservar a informação que deve ser publicada.

Porque é importante o ENS numa ferramenta de anonimização?

Porque para anonimizar um documento o sistema tem de processar previamente a versão original, que ainda contém os dados pessoais. O ENS fornece um quadro para gerir riscos relacionados com confidencialidade, integridade, disponibilidade, autenticidade e rastreabilidade.

O ENS Médio é obrigatório para anonimizar documentos?

Não necessariamente em todos os casos. A categoria ENS depende do sistema e da sua análise de riscos. No entanto, quando uma plataforma processa de forma recorrente documentação administrativa original com dados pessoais, o ENS Médio constitui uma referência especialmente adequada para avaliar o seu nível de segurança.

Que diferença existe entre ENS Básico e ENS Médio?

Uma das diferenças relevantes é o modelo de acreditação da conformidade. Os sistemas de categoria BÁSICA podem acreditar a sua conformidade por autoavaliação, enquanto os sistemas de categoria MÉDIA e ALTA estão sujeitos ao regime de auditoria e certificação previsto no ENS.

Uma Administração pode utilizar inteligência artificial para anonimizar documentos?

Sim, desde que o tratamento se realize com as garantias jurídicas, organizativas e técnicas correspondentes. Devem analisar-se, entre outros aspetos, proteção de dados, segurança, localização do tratamento, fornecedores implicados, rastreabilidade e conservação dos documentos.

Que solução existe para automatizar a anonimização de documentos públicos?

AnonimizIA, desenvolvida pela oGov, é uma solução especializada em automatização da anonimização documental para Administrações Públicas através de inteligência artificial, concebida tendo em conta as particularidades da documentação administrativa, a transparência, a proteção de dados e a segurança da informação.