本周，科技界最具影响力的两位人士对人工智能的发展提出了截然不同的看法，突显了创新与安全之间日益紧张的关系。

首席执行官Sam Altman周日晚间在一份声明中透露博客文章关于他的公司的发展轨迹，OpenAI在向通用人工智能（AGI）竞争的过程中，其用户群增加了两倍，每周活跃用户超过3亿。

Altman表示：“我们现在有信心，我们知道如何按照传统理解来构建AGI。”他声称，到2025年，人工智能代理可以“加入劳动力大军”，并“实质性地改变公司的产出”

Altman表示，OpenAI的目标不仅仅是人工智能代理和AGI，该公司正开始致力于“真正意义上的超级智能”；

AGI或超级智能的交付时间表尚不清楚。OpenAI没有立即回应置评请求。

但在周日早些时候，以太坊的联合创始人Vitalik Buterin提出利用区块链技术为先进的人工智能系统创建全球故障保护机制，包括“软暂停”功能，如果出现警告信号，该功能可能会暂时限制工业规模的人工智能操作。

基于加密货币的人工智能安全

Buterin在这里谈到了“d/acc”或去中心化/防御性加速。从最简单的意义上讲，d/acc是e/acc或有效加速的变体，这是一场由硅谷知名人士（如a16z的Marc Andreessen）支持的哲学运动。

Buterin的d/acc也支持技术进步，但优先考虑提高安全性和人类能动性的发展。与采取“不惜一切代价增长”方法的有效加速主义（e/acc）不同，d/acc侧重于首先建立防御能力。

Buterin写道：“D/acc是加密货币基本价值观（去中心化、抗审查、开放的全球经济和社会）向其他技术领域的延伸。”。

回顾d/acc在过去一年中的进展，Buterin写道，如何使用现有的加密机制（如零知识证明）对AGI和超级智能系统采取更谨慎的方法。

根据Buterin的提议，主要的人工智能计算机需要每周获得三个国际组织的批准才能继续运行。

Buterin解释说：“签名将是独立于设备的（如果需要，我们甚至可以要求零知识证明它们是在区块链上发布的），所以要么全有要么全无：没有实际的方法可以授权一个设备在不授权所有其他设备的情况下继续运行。”。

该系统将像一个主开关一样工作，要么所有批准的计算机都运行，要么没有运行——防止任何人进行选择性执行。

Buterin指出：“在这样一个关键时刻发生之前，仅仅拥有软暂停的能力对开发人员几乎不会造成伤害。”他将该系统描述为一种针对灾难性情况的保险。

无论如何，OpenAI从2023年开始的爆炸性增长——在短短两年内从每周1亿用户增长到3亿用户——表明了人工智能的采用是如何迅速发展的。

从一个独立的研究实验室发展成为一家大型科技公司，奥特曼承认“围绕这项新技术，几乎从头开始建立一个完整的公司”的挑战

这些提议反映了围绕管理人工智能开发的更广泛的行业辩论。支持者此前曾认为，实施任何全球控制系统都需要主要人工智能开发商、政府和加密行业之间前所未有的合作。

Buterin写道：“在自满的情况下，一年的‘战时模式’很容易抵得上一百年的工作。”。“如果我们必须限制人，最好是在平等的基础上限制每个人，并努力合作组织起来，而不是一个政党试图支配其他所有人。”

编辑人塞巴斯蒂安·辛克莱