El gobierno del Reino Unido no es transparente sobre su uso de la IA, dice el Secretario de Tecnología

Esto se produce cuando los departamentos gubernamentales del Reino Unido ya están utilizando la IA, por ejemplo, para informar decisiones sobre todo, desde el pago de prestaciones hasta la aplicación de la ley de inmigración. Según The Guardian, algunos registros muestran que organismos públicos adjudicaron trac para servicios algorítmicos de IA.

Por ejemplo, el organismo de adquisiciones de la policía recientemente presentó un trac para el reconocimiento facial por valor de 20 millones de dólares, lo que genera aún más preocupaciones sobre la “vigilancia biométrica masiva”.

Sin embargo, sólo nueve sistemas algorítmicos se han presentado a un registro público, y ninguno de los cada vez más numerosos programas de IA utilizados en el sistema de bienestar social por el Ministerio del Interior o la policía. En febrero, el gobierno del Reino Unido anunció que el uso de registros de IA ahora sería un “requisito para todos los departamentos gubernamentales”.

Cuando se le preguntó sobre la falta de transparencia, el Secretario de Estado de Ciencia y Tecnología, Peter Kyle, admitió que el sector público "no se ha tomado lo suficientemente en serio la necesidad de ser transparente en la forma en que el gobierno utiliza los algoritmos".

"Acepto que si el gobierno utiliza algoritmos en nombre del público, el público tiene derecho a saberlo".

Kyle.

“El público necesita sentir que los algoritmos están ahí para servirles y no al revés. La única manera de hacerlo es ser transparente sobre su uso”, añadió Kyle.

El gobierno del Reino Unido ignoró las advertencias

Según un artículo de The Guardian, los expertos advirtieron sobre los peligros de la IA si se adopta sin crítica, con ejemplos recientes de sistemas de TI que no funcionan según lo previsto, incluido el software Horizon de la oficina de correos.

El uso de tecnología de inteligencia artificial en Whitehall abarca desde el sistema Copilot de Microsoft hasta verificaciones automatizadas de fraude y errores en el sistema de beneficios. Otro aviso de trac reciente de AI del Departamento de Trabajo y Pensiones (DWP) describió “un creciente interés dentro del DWP, que refleja el del gobierno y la sociedad en general”.

Además de la policía, el Ministerio del Interior también utiliza un sistema de control de inmigración basado en inteligencia artificial. Este sistema, que los críticos llaman un “trabajador social robotizado”, participa en la toma de decisiones, incluido el regreso de las personas a sus países de origen.

Sin embargo, el gobierno lo ha descrito como un sistema "basado en reglas", a diferencia del sistema de inteligencia artificial, porque no implica aprendizaje automático a partir de datos. Según el gobierno, esto aporta eficiencia, aunque un ser humano sigue siendo responsable de cada decisión.

Según se informa, el NHS de Inglaterra también tiene un trac 330 millones de libras con Palantir para construir una enorme plataforma de datos nueva, lo que genera aún más preocupaciones sobre la privacidad de los pacientes. Palantir dijo que los pacientes conservan el control de los datos.

Un grupo de campaña por los derechos de privacidad, Big Brother Watch, destacó que la aparición del trac de reconocimiento facial de la policía, a pesar de que los parlamentarios advirtieron sobre la falta de legislación para regularlo, mostraba la falta de transparencia del gobierno sobre el uso de la tecnología de inteligencia artificial.

"El uso secreto de la IA y los algoritmos para impactar la vida de las personas pone en riesgo los derechos de datos de todos", dijo Madeleine Stone, directora de defensa.

"Los departamentos gubernamentales deben ser abiertos y honestos sobre cómo utilizan esta tecnología".

Piedra.

Imogen Parker, directora asociada del organismo de investigación de datos e inteligencia artificial, también expresó su preocupación por la falta de transparencia.

"La falta de transparencia no sólo mantiene al público en la ignorancia, sino que también significa que el sector público está volando a ciegas en la adopción de la IA".

Parker.

"No publicar registros de transparencia algorítmica está limitando la capacidad del sector público para determinar si estas herramientas funcionan, aprender de lo que no funciona y monitorear los diferentes impactos sociales de estas herramientas", agregó Parker.

De cero a Web3 Pro: su plan de lanzamiento profesional de 90 días