该公司今天宣布，如果乔·拜登想要一个聪明、随和的人工智能聊天机器人为他回答问题，他的竞选团队将无法使用Anthropic的ChatGPT竞争对手克劳德。

该公司宣布：“我们不允许候选人使用克劳德来构建可以冒充他们的聊天机器人，也不允许任何人使用克劳德进行有针对性的政治竞选。”。违反该政策的行为将受到警告，并最终被暂停使用Anthropic的服务。

Anthropic公开阐述其“选举滥用”政策之际，人工智能大规模生成虚假和误导性信息、图像和视频的潜力正在全球范围内敲响警钟。

去年秋天，Meta实施了限制其人工智能工具在政治中使用的规则，OpenAI也有类似的政策。

Anthropic表示，其政治保护分为三大类：制定和执行与选举问题相关的政策，评估和测试潜在滥用的模型，以及引导用户获取准确的投票信息。

Anthropic的可接受使用政策——所有用户在访问Claude之前表面上都同意这一政策——禁止将其人工智能工具用于政治竞选和游说活动。该公司表示，将对违规者发出警告并暂停服务，并制定人员审查程序。

该公司还对其系统进行严格的“红队合作”：已知合作伙伴积极、协调地试图“越狱”或以其他方式将克劳德用于邪恶目的。

Anthropic解释道：“我们测试我们的系统如何响应违反我们可接受的使用政策的提示，例如，要求提供有关选民压制策略信息的提示。”。此外，该公司表示，它已经开发了一套测试，以确保“政治平等”——候选人和主题的相对代表性。

在美国，Anthropic与TurboVote合作，帮助选民提供可靠的信息，而不是使用其生成人工智能工具。

Anthropic解释道：“如果美国用户要求提供投票信息，弹出窗口将为用户提供重定向到无党派组织民主工作的资源TurboVote的选项。”该解决方案将在“未来几周”部署，并计划在其他国家增加类似措施。

正如Decrypt此前报道的那样，ChatGPT背后的OpenAI公司也在采取类似措施，将用户重定向到无党派网站CanIVote.org。

Anthropic的努力与科技行业内更广泛的运动相一致，以应对人工智能对民主进程构成的挑战。例如，美国联邦通信委员会最近禁止在机器人语音中使用人工智能生成的深度伪造语音，这一决定突显了监管人工智能在政治领域应用的紧迫性。

与脸书一样，微软也宣布了打击人工智能产生的误导性政治广告的举措，推出了“内容凭证即服务”，并推出了选举通信中心。

至于创建自己的人工智能版本的候选者，OpenAI已经不得不处理特定的用例。该公司在发现一名开发商创建了一个模仿总统候选人、众议员迪恩·菲利普斯的机器人后，暂停了该开发商的账户。此前，非营利组织“公共公民”（Public Citizen）提交了一份请愿书，要求监管机构禁止在政治竞选中使用生成性人工智能。

Anthropic拒绝进一步置评，OpenAI也没有回应Decrypt的询问。