O governo do Reino Unido não é transparente sobre o uso de IA, afirma o secretário de tecnologia

Isto ocorre porque os departamentos governamentais do Reino Unido já estão a utilizar a IA, por exemplo, para informar decisões sobre tudo, desde pagamentos de benefícios até à fiscalização da imigração. De acordo com o The Guardian, alguns registos mostram que organismos públicos adjudicaram trac para serviços algorítmicos de IA.

Por exemplo, o órgão responsável pelas aquisições da polícia celebrou recentemente um trac para reconhecimento facial no valor de 20 milhões de dólares, levantando ainda mais preocupações sobre a “vigilância biométrica em massa”.

No entanto, apenas nove sistemas algorítmicos foram submetidos a um registo público, sem nenhum do número crescente de programas de IA utilizados no sistema de segurança social pelo Ministério do Interior ou pela polícia. Em Fevereiro, o governo do Reino Unido anunciou que a utilização de registos de IA seria agora um “requisito para todos os departamentos governamentais”.

Quando questionado sobre a falta de transparência, o Secretário de Estado da Ciência e Tecnologia, Peter Kyle, admitiu que o sector público “não levou suficientemente a sério a necessidade de ser transparente na forma como o governo utiliza algoritmos”.

“Aceito que se o governo estiver usando algoritmos em nome do público, o público tem o direito de saber.”

Kyle.

“O público precisa sentir que os algoritmos existem para atendê-los e não o contrário. A única maneira de fazer isso é ser transparente quanto ao seu uso”, acrescentou Kyle.

O governo do Reino Unido ignorou avisos

De acordo com o artigo do The Guardian, os especialistas alertaram sobre os perigos da IA ​​se adotada de forma acrítica, com exemplos recentes de sistemas de TI que não funcionam como pretendido, incluindo o software Horizon dos Correios.

O uso da tecnologia de IA em Whitehall abrange desde o sistema Copilot da Microsoft até verificações automatizadas de fraudes e erros no sistema de benefícios. Outro anúncio recente de trac de IA do Departamento de Trabalho e Pensões (DWP) descreveu “um interesse crescente dentro do DWP, que reflete o do governo e da sociedade em geral”.

Além da polícia, o Ministério do Interior também utiliza um sistema de fiscalização da imigração habilitado para IA. Este sistema, que os críticos chamam de “trabalhador robótico”, está envolvido na definição de decisões, incluindo o regresso das pessoas aos seus países de origem.

No entanto, o governo descreveu-o como um sistema “baseado em regras”, em oposição ao sistema de IA, porque não envolve aprendizagem automática a partir de dados. Segundo o governo, isso traz eficiência, embora um ser humano continue responsável por cada decisão.

O NHS England também está supostamente em um trac 330 milhões de libras com a Palantir para construir uma enorme nova plataforma de dados, aumentando ainda mais as preocupações sobre a privacidade dos pacientes. Palantir disse que os pacientes mantêm o controle dos dados.

Um grupo de campanha pelos direitos de privacidade, Big Brother Watch, destacou que o surgimento do trac de reconhecimento facial da polícia, apesar dos deputados alertarem para a falta de legislação para o regular, mostrou a falta de transparência do governo sobre a utilização da tecnologia de IA.

“O uso secreto de IA e algoritmos para impactar a vida das pessoas coloca em risco os direitos de dados de todos”, disse Madeleine Stone, diretora de defesa.

“Os departamentos governamentais devem ser abertos e honestos sobre como usam esta tecnologia.”

Pedra.

Diretora associada do órgão de pesquisa de dados e IA, Imogen Parker também expressou preocupação com a falta de transparência.

“A falta de transparência não apenas mantém o público no escuro, mas também significa que o setor público está voando às cegas na adoção da IA.”

Parker.

“A não publicação de registos de transparência algorítmica está a limitar a capacidade do sector público de determinar se estas ferramentas funcionam, aprender com o que não funciona e monitorizar os diferentes impactos sociais destas ferramentas”, acrescentou Parker.

Do zero ao Web3 Pro: seu plano de lançamento de carreira de 90 dias