技术大臣表示英国政府对其人工智能的使用并不透明

例如，英国政府部门已经在使用人工智能来为从福利支付到移民执法等各个方面的决策提供信息。据《卫报》报道，一些记录显示公共机构授予了人工智能算法服务trac。

例如，警察采购机构最近签订了一份价值 2000 万美元的面部识别trac，进一步引发了人们对“大规模生物识别监控”的担忧。

然而，只有九个算法系统已提交到公共登记册， 内政部或警方在福利系统中使用的人工智能程序数量不断增加，其中没有一个。今年二月，英国政府宣布使用人工智能登记册现在将成为“所有政府部门的要求”。

当被问及缺乏透明度时，科学技术大臣彼得·凯尔承认，公共部门“没有足够认真地对待政府使用算法的透明度的必要性。”

“我承认，如果政府代表公众使用算法，公众就有知情权。”

凯尔.

“公众需要感觉到算法是为他们服务的，而不是相反。做到这一点的唯一方法就是对其使用保持透明，”凯尔补充道。

英国政府无视警告

根据《卫报》的文章，专家警告说，如果不加批判地采用人工智能，将会带来危险，最近的 IT 系统无法按预期工作的例子包括邮局的 Horizo​​n 软件。

白厅对人工智能技术的使用涵盖了从微软的副驾驶系统到福利系统中的自动欺诈和错误检查。工作和养老金部 (DWP) 最近发布的另一份人工智能trac通知描述了“DWP 内部的兴趣如雨后春笋般涌现，这反映了更广泛的政府和社会的兴趣”。

除了警察之外，内政部还使用人工智能移民执法系统。这个系统被批评者称为“机器人社会工作者”，它参与制定决策，包括将人们送回祖国。

然而，政府将其描述为“基于规则”，而不是人工智能系统，因为它不涉及从数据中进行机器学习。据政府称，尽管每个决定仍然由人负责，但这会提高效率。

据报道，英格兰 NHS 还与 Palantirtrac了一份价值 3.3 亿英镑的合同，以建立一个巨大的新数据平台，进一步引发了对患者隐私的担忧。 Palantir 表示，患者保留对数据的控制权。

隐私权运动组织“老大哥观察”强调，尽管国会议员警告称缺乏立法来监管警察面部识别trac，但警察面部识别合同的出现表明政府在人工智能技术的使用方面缺乏透明度。

“秘密使用人工智能和算法来影响人们的生活使每个人的数据权利都面临风险，”首席倡导官玛德琳·斯通说。

“政府部门必须公开和诚实地说明他们如何使用这项技术。”

石头。

数据和人工智能研究机构副主任伊莫金·帕克也表达了对缺乏透明度的担忧。

“缺乏透明度不仅让公众蒙在鼓里，还意味着公共部门在采用人工智能方面处于盲目状态。”

帕克.

帕克补充道：“未能发布算法透明度记录限制了公共部门确定这些工具是否有效、从无效情况中学习以及监控这些工具的不同社会影响的能力。”

从零到 Web3 Pro：您的 90 天职业启动计划