.png)
294
人工智能（AI）的爆炸式发展让我们的世界充满了理想主义的梦想或世界末日的预测，但两者都没有捕捉到真正的威胁。
我们没有面临一场“大型机器人叛乱”，即人工智能或机器人进行敌意收购。忘掉《终结者》或《黑客帝国》中的电影场景吧——这是不可能的。人工智能征服世界的技术并不存在。
人工智能可能在特定任务上表现出色，比如折叠蛋白质或下棋，但它无法建立军队或管理国家。
然而，机器人起义的缺乏并不意味着我们是安全的。人工智能正通过不那么戏剧化但同样强大的手段悄悄地渗透到我们的生活中：数字官僚主义。
真正的危险不是杀手机器人。这是人工智能对控制我们日常生活的决策的侵蚀。人类已经进化到害怕有形的威胁。想想大型捕食者，比如狮子和鲨鱼。
但我们不太愿意发现来自文书工作、文件或官僚主义的威胁。官僚主义本身是一种相对较新的发明，它在5000年前随着文字的创造而发展起来。
例如，在写作之前，所有权取决于社区的共识。如果你“拥有”一块土地，那是因为你的邻居尊重它。不需要任何文件 ；
当人们开始使用泥板和唱片时，一切都改变了。书面文件意味着产权不再是社区共识，而是官方记录。古代美索不达米亚人将泥块变成了官方的所有权象征，颠覆了所有权的概念。
法院的判决可能基于一块泥板，上面写着你拥有一块土地，即使社区不同意。快进到今天，我们的系统仍然建立在类似的原理之上，只是现在我们使用硅芯片和数字记录而不是粘土。
这一转变改变了权力结构。所有权变成了可以在没有当地社区点头的情况下出售和交易的东西。官僚机构的出现，使税收、军事资金和中央政府成为可能。
官僚成为这些系统中的重要参与者，他们使用记录、表格和印章来管理军队、分配资源，甚至控制法律。这些官僚体系导致了中央集权国家对其人口的广泛控制，这种控制现在转向了人工智能。
人工智能不需要组建一支机器人大军；它只需要掌握官僚制度。在这些框架内，人工智能可以做出比任何人类都更有影响力的决策，正如今天所看到的那样。人工智能已经在决定我们是否能获得贷款、工作机会、大学录取，甚至医疗诊断。
想象一下，人工智能银行家确定信贷资格，人工智能法官裁决法庭案件，或者军事人工智能计算打击目标。人工智能不需要机器人的反抗。它继承的官僚权力已经很大了。
社交媒体算法虽然很原始，但已经发挥了巨大的作用。人工智能算法，特别是来自脸书、X（前身为推特）、YouTube和TikTok的算法，都是为了一个目标而设计的：用户参与。人们在这些平台上停留的时间越长，流向公司的资金就越多 ；
通过数十亿用户的反复试验，这些算法发现，触发贪婪、愤怒和恐惧等情绪会增加参与度。当他们按下这些情感按钮时，他们会让用户着迷。
这些算法并没有止步于优化在线时间。他们更进一步，发现引发强烈情绪的内容可以提高用户参与度。这一发现导致了阴谋论、错误信息和社会分裂的传播。
由于算法优先考虑点击而非凝聚力，当今世界充斥着数字愤怒、散布恐惧和两极分化。通过利用情感触发因素，社交媒体算法助长了当今阴谋论和假新闻的流行。
这些算法“决策者”本身并不是恶意的。相反，他们被优化以有效地履行职责。尽管如此，他们的决定缺乏我们在这些重要领域通常所期望的人类直觉或背景。
人工智能可能会做出更快或更一致的判断，但如果出了问题，结果可能是灾难性的。这种潜在风险已经在社交媒体对社会的影响中显现出来，这是对人工智能不受约束的力量可能走向何方的警告。
乔·拜登总统宣布了一份国家安全备忘录，其中包含了在国家安全中使用人工智能的新规则，防止五角大楼和情报机构以与民主价值观相矛盾的方式使用人工智能。
这是第一个指导人工智能在国家安全中发挥作用的指令。新规定将鼓励人工智能实验，同时确保政府机构不会使用人工智能侵犯言论自由等权利或破坏核管制。
“我们的备忘录为我们的人工智能风险管理承诺制定了有史以来第一个政府范围的框架，”国家安全顾问杰克·沙利文说。他概述了避免偏见、坚持问责制以及确保人工智能在敏感角色中受到人类监督的目标。
虽然没有法律约束力，但这些规则涵盖了网络安全、反情报和军事行动中的后勤等国家安全应用。拜登去年还发布了出口管制，通过限制技术准入来减缓中国的人工智能发展。
根据该指令，华盛顿的人工智能安全研究所将负责检查人工智能工具，以防止在发布前被滥用，美国情报界将优先监测其他国家的人工智能进步。
.png)
