最近在拉斯维加斯和新奥尔良发生的袭击事件表明，恐怖分子正在使用人工智能工具。

这些攻击——一次涉及ChatGPT的语言和推理能力，另一次利用Meta的智能眼镜技术--正在提出问题关于如何在保护人工智能有益应用的同时加强保护措施。

ChatGPT在Cybertruck爆炸中的作用

当局表示，美国陆军特种部队上士马修·莱夫斯伯格（Matthew Livelsberger）是一名获得勋章的绿色贝雷帽，有创伤后应激障碍的迹象，他有条不紊地使用ChatGPT来研究他的特斯拉Cybertruck的关键要素攻击1月1日，拉斯维加斯特朗普国际酒店外。

拉斯维加斯警长Kevin McMahill表示，Livelsberger与人工智能平台的互动远远超出了随意查询的范围。这位37岁的士兵使用ChatGPT计算精确的爆炸物数量，研究烟花采购渠道，并探索在不留下数字痕迹的情况下购买手机的方法。

“我们知道人工智能将在我们一生中的某个时刻改变游戏规则，”McMahill说说“据我所知，这是在美国本土发生的第一起利用ChatGPT帮助个人构建特定设备的事件。”

这一事件最终导致Livelsberger在自杀前向租用的Cyber卡车倾倒赛车燃料，调查人员表示，他的枪支枪口闪光可能引发了爆炸。有7人受伤，但酒店建筑基本上没有受损，除了肇事者本人外，这起事件没有造成任何生命损失。

Meta的AI眼镜与新奥尔良事件有关

就在第一起事件发生的同一天，42岁的美国陆军退伍军人沙姆苏德·丁·贾巴尔开着租来的皮卡在新年庆祝活动中融入人群。

在事件发生之前，Jabbar使用Meta的由Meta AI驱动的Ray-Ban智能眼镜对他的目标区域进行了详细的侦察。

联邦调查局的调查显示，贾巴尔于10月30日和11月10日两次访问了新奥尔良的法国区，在此期间，他使用智能眼镜拍摄了波旁街的大量镜头。这副眼镜让他在骑车穿过该地区时可以免提录制视频和照片。联邦调查局特工Lyonel Myrthil详细介绍了贾巴尔如何有条不紊地记录街道布局，反复从左向右扫描以捕捉全面的视角。

联邦调查局发布了贾巴尔录制的一段视频：

凌晨3点，贾巴尔驾驶一辆皮卡车穿过新年人群，袭击本身造成14人死亡，35人受伤，其中包括两名警察。尽管他在袭击中戴着Meta眼镜，但他没有激活它们进行录制或直播。

恢复的镜头显示贾巴尔测试了眼镜的功能，检查了他的反射并确保了最佳的记录角度。反恐专家萨姆·亨特强调了这种技术提供的战术优势。

亨特在一份声明中说：“如果你想计划一次袭击，你真的能感觉到眼线和视力，以及所有你想注意的事情。”陈述与共享NBC“如果你看到它们的版本或人们将来使用它们进行攻击计划，我不会感到惊讶，因为它们在捕捉这些镜头方面非常谨慎，”

人工智能公司和监管机构如何试图阻止滥用

科技公司和监管机构一直在努力加强保障措施，同时保护人工智能的有益应用。

OpenAI强调的ChatGPT包含了针对有害指令的具体保护措施，并对非法活动提供了明确的警告。该公司表示，它已与执法调查充分合作，同时努力加强其安全协议。

OpenAI在一篇官方博客文章中表示：“现实世界的使用也促使我们制定了越来越细致的政策，以应对对人们构成真正风险的行为，同时仍然允许我们的技术的许多有益用途。”。

也就是说，如解密据报道，简单的越狱技术在应用于这些模型时已被证明是有效的：基本方法如用利兹匹克语写作或使用连续角色扮演可能足以获取非法内容并绕过此类限制。

该公司尚未就马修·莱夫斯伯格中士使用其工具进行恐怖袭击发表声明。

Meta自发布以来，一直面临着对其智能眼镜可能被滥用的审查承认需要平衡创新与安全问题。眼镜的记录指示灯虽然存在，但批评因为太微妙了。

Meta发言人被问及恐怖袭击事件告诉NBC该公司正积极“就此事与执法部门保持联系”

编辑人安德鲁·海沃德