人工智能生成的个人资料图片正成为协调操纵X的重要工具，德国的研究人员发现近8000个账户使用合成面孔主要侧重于放大政治信息和加密方案。

该研究指出：“生成性人工智能（AI）领域的最新进展模糊了真实内容和机器生成内容之间的界限，使人类几乎不可能区分这些媒体。”。

这项由波鸿鲁尔大学、GESIS莱布尼茨研究所和CISPA亥姆霍兹中心的团队进行的研究发现，这些账户中有一半以上是在2023年创建的，通常是在可疑的批量创建事件中创建的。

研究人员解释说：“很大一部分账户是在我们收集数据之前不久批量创建的，这是为信息放大、虚假信息活动或类似破坏性活动创建的账户的常见模式。”。

这一发现从反数字仇恨中心最近进行的一项平台分析中获得了额外的背景，该分析显示，X所有者埃隆·马斯克的政治帖子支持唐纳德·特朗普收到171亿次浏览--同期，美国所有政治竞选广告的总和增加了一倍多。

CCDH的报告称：“今年，马斯克至少有87篇帖子宣扬了关于美国选举的说法，即事实核查人员认为这些帖子是虚假或误导性的，共获得了20亿次浏览量。这些帖子都没有一篇以社区笔记为特色，社区笔记是用户生成事实核查的名称。”。

生成式人工智能的使用——无论是生成虚假图像还是文本——都很容易被发现，因为合成人脸账户显示出与合法用户不同的模式。“与真实图像账户（平均值：5086.38，中位数：165）相比，虚假图像账户的关注者较少（平均值为393.35，中位数：60）。”该研究还发现，虚假账户往往与他们的关注者生态系统互动较少，而是在不回复或与其他账户互动的情况下发布消息。

该研究还强调了表明协同活动的具体模式：“我们注意到，1996个虚假图像账户（25.84%）恰好有106个关注者。我们的内容分析表明，这些账户属于一大群参与协同不真实行为的虚假账户。”

研究小组的复杂检测方法取得了显著的准确性，研究人员报告说，他们的发现几乎100%确定。

研究人员还表示，许多账户的寿命不长，其中一半以上的账户在不到一年的时间里被暂停。

内容分析还揭示了跨多种语言精心编排的发布模式。这项研究确定了“可能是自动创建的并参与大规模垃圾邮件攻击的伪造图像账户的大型网络”。英语账户主要关注有争议的话题，研究人员发现，账户更喜欢处理乌克兰战争、美国大选、新冠肺炎和疫苗接种政策辩论等问题。

在政治之外，许多此类账户还推广加密货币骗局和与性相关的内容。

展望未来，研究人员计划扩展检测能力，以发现基于不同技术的其他模型生成的AI图像，例如扩散模型而不是生成对抗网络（GAN）。他们还希望改进他们的方法，找到更多的方法来识别他们归类为“跨社交平台的协调不真实行为”

编辑人奎特纳以及塞巴斯蒂安·辛克莱