联合国儿童基金会周三发出紧急呼吁，敦促各国政府将人工智能生成的儿童性虐待材料定为刑事犯罪。该基金会援引令人震惊的证据称，过去一年中，全球至少有 120 万儿童的图像被篡改为露骨的深度伪造视频。

联合国儿童基金会战略与证据办公室、ECPAT国际组织和国际刑警组织牵头开展的“消除伤害第二阶段”研究项目公布的数据显示，在一些国家，每25名儿童中就有1名受到伤害，相当于普通教室里有一名儿童受到伤害。陈述以及伴随简报.

这项研究基于一项具有全国代表性的家庭调查，调查对象涵盖 11 个国家的约 11,000 名儿童，研究结果揭示了犯罪者现在可以如何在儿童不知情或不参与的情况下，制作出逼真的儿童性图像。

数据显示，在一些研究国家中，高达三分之二的人表示担心人工智能可能被用来制作他们的虚假性爱图片或视频，尽管各国之间的担忧程度差异很大。

联合国儿童基金会表示：“我们必须明确一点。利用人工智能工具生成或篡改的儿童性化图像属于儿童性虐待材料（CSAM）。深度伪造技术造成的伤害是虐待，这一点毋庸置疑。”

随着时间推移，呼吁变得更加紧迫。法国当局突击搜查了X在巴黎的办公室。周二，作为对涉嫌与该平台人工智能聊天机器人 Grok 有关的儿童色情犯罪调查的一部分，检察官传唤了埃隆·马斯克和几位高管进行讯问。

上个月发布的一份“打击网络仇恨中心”报告据估计，Grok制作了23338张儿童性化图片。在 12 月 29 日至 1 月 9 日的 11 天期间。

与该声明一同发布的简报指出，这些事态发展标志着“儿童在数字环境中面临的风险急剧升级”，儿童的受保护权可能会“在从未发送过任何信息甚至不知道发生过的情况下”遭到侵犯。

英国互联网观察基金会在一个月内在一个暗网论坛上标记了近 14,000 张疑似人工智能生成的图像，其中约三分之一被确认为犯罪行为；与此同时，韩国当局报告称，2022 年至 2024 年间，与人工智能和深度伪造技术相关的性犯罪案件激增了十倍，其中大多数嫌疑人被确认为青少年。

该组织紧急呼吁各国政府扩大儿童性虐待材料的定义，将人工智能生成的内容纳入其中，并将此类内容的制作、获取、持有和传播定为犯罪行为。

联合国儿童基金会还要求人工智能开发者实施安全设计方法，并要求数字公司阻止此类材料的传播。

该简报呼吁各国要求企业进行儿童权利尽职调查，特别是儿童权利影响评估，并要求人工智能价值链中的每个参与者嵌入安全措施，包括对开源模型进行发布前安全测试。

联合国儿童基金会警告说：“深度伪造技术滥用造成的危害是真实存在的，而且迫在眉睫。孩子们不能再等法律跟上形势了。”

欧盟委员会已展开正式调查上个月，调查显示，X公司是否因未能阻止Grok生成非法内容而违反了欧盟数字规则，而菲律宾印度尼西亚和马来西亚已经禁止了Grok，监管机构也已采取行动。英国和澳大利亚也已展开调查。