人工智能在决策中的兴起

人工智能 (AI) 的爆炸式增长让我们的世界充满了理想主义梦想或世界末日预测，但两者都没有抓住真正的威胁。

我们并没有面临人工智能或机器人进行敌意接管的“机器人大叛乱”。忘记《终结者》或《黑客帝国》中的电影场景吧——那是不可能的。人工智能征服世界的技术并不存在。

人工智能可能在特定任务上表现出色，例如折叠蛋白质或下棋，但它无法建立军队或管理国家。

然而，没有机器人起义并不意味着我们是安全的。人工智能正在通过不那么matic但同样强大的手段悄悄渗透到我们的生活：数字官僚机构。

真正的危险不是杀手机器人。这是人工智能对控制我们日常生活的决策的侵蚀。人类已经进化到害怕有形的威胁。想想大型掠食者，如狮子和鲨鱼。

但我们还没有准备好发现来自文书工作、文件或官僚机构的威胁。官僚制度本身是一项相对较新的发明，仅在 5000 年前随着文字的出现而发展起来。

例如，在撰写本文之前，所有权取决于社区的共识。如果你“拥有”一块土地，那是因为你的邻居尊重它。不需要任何文件。

从泥板到数字官僚

当人们开始使用泥板和唱片时，一切都改变了。书面文件意味着产权不再是社区共识，而是官方记录。古代美索不达米亚人将泥块变成了官方所有权的象征，颠覆了所有权的观念。

法院的判决可能会基于一块泥板，上面写着您拥有一块土地，即使社区不同意。快进到今天，我们的系统仍然建立在类似的原理之上，只是现在我们使用硅芯片和数字记录而不是粘土。

这一转变改变了权力结构。所有权成为无需当地社区认可即可出售和交易的东西。官僚机构的出现，使得税收、军事资助和中央政府成为可能。

官僚成为这些系统中的重要参与者，他们使用记录、表格和印章来管理军队、分配资源，甚至控制法律。这些官僚体系催生了对其人口进行广泛控制的中央集权国家，这种控制现在转向了人工智能。

人工智能不需要组建一支机器人军队；它只需要掌握官僚系统。正如今天所见，在这些框架内，人工智能可以做出比任何人类更有影响力的决策。人工智能已经在决定我们是否获得贷款、工作机会、大学录取，甚至医疗诊断。

想象一下人工智能银行家确定信贷资格，人工智能法官对法庭案件做出裁决，或者军事人工智能计算打击目标。人工智能不需要机器人叛乱。它所继承的官僚权力已经是巨大的。

社交媒体中的人工智能和公众影响力

社交媒体算法虽然很原始，但已经发挥了巨大的力量。人工智能算法，尤其是来自 Facebook、X（以前称为 Twitter）、YouTube 和 TikTok 的算法，在设计时都牢记一个目标：用户参与度。人们在这些平台上停留的时间越长，流向公司的资金就越多。

通过对数十亿用户的反复试验，这些算法发现触发贪婪、愤怒和恐惧等情绪可以提高参与度。当他们按下这些情感按钮时，就会让用户着迷。

这些算法并没有停留在优化上网时间上。他们更进一步，发现激发强烈情绪的内容可以提高用户参与度。这一发现导致了阴谋论、错误信息和社会分裂的传播。

由于优先考虑点击量而非凝聚力的算法，当今世界充斥着数字化的愤怒、散布恐惧和两极分化。通过利用情绪触发因素，社交媒体算法助长了当今阴谋论和假新闻的流行。

这些算法“决策者”本质上并不是恶意的。相反，他们经过优化可以有效地履行自己的职责。尽管如此，他们的决定仍然缺乏我们在如此重要的领域通常期望的人类直觉或背景。

人工智能可能会做出更快或更一致的判断，但如果出现问题，结果可能是灾难性的。这种潜在风险已经在社交媒体对社会的影响中变得显而易见，为人工智能不受控制的力量可能导致的后果发出了警告。

拜登为五角大楼和情报机构制定人工智能规则

乔·拜登dent宣布了一份国家安全备忘录，其中规定了人工智能在国家安全中的使用新规则，防止五角大楼和情报机构以违背民主价值观的方式使用人工智能。

这是第一个指导人工智能在国家安全中发挥作用的指令。新规则将鼓励人工智能实验，同时确保政府机构不会利用人工智能侵犯言论自由等权利或破坏核控制。

国家安全顾问杰克·沙利文（Jake Sullivan）表示：“我们的备忘录为我们的人工智能风险管理承诺制定了首个政府范围内的框架。”他概述了避免偏见、坚持问责制并确保人类对敏感角色​​中的人工智能进行监督的目标。

尽管不具有法律约束力，但这些规则涵盖了网络安全、反情报和军事行动中的后勤等国家安全应用。拜登去年还颁布了出口管制措施，通过限制技术准入减缓了中国人工智能的进步。

根据该指令，华盛顿的人工智能安全研究所将负责检查人工智能工具，以防止发布前的滥用，美国情报界将优先监控其他国家的人工智能进展。