社交媒体巨头推特表示，一个防止儿童性虐待材料（CSAM）在其平台上传播的新系统“无缝部署”，测试了非营利组织Thorn开发的技术。

推特安全账户周二宣布，它参与了该组织人工智能安全解决方案的测试，该解决方案可以主动检测、删除和报告包含儿童性剥削的基于文本的材料。

推特安全账户写道：“通过与Thorn的持续合作，我们正在做更多的工作来创建一个安全的平台。”。“这项工作建立在我们不懈努力打击网上儿童性剥削的基础上，具体目标是扩大我们打击儿童面临迫在眉睫风险的高伤害内容的能力。”

“这种自托管解决方案被无缝部署到我们的检测机制中，使我们能够深入了解高风险账户，”它继续说道。

Thorn由演员黛米·摩尔和阿什顿·库彻于2022年推出，开发工具和资源，重点保护儿童免受性虐待和性剥削。今年4月，谷歌、Meta和OpenAI签署了Thorn及其非营利组织All Tech is Human发布的一项承诺，发誓要在其人工智能模型周围设置护栏。

Thorn的数据科学副总裁Rebecca Portnoff告诉Decrypt：“我们从测试版中学到了很多。”。“虽然我们知道儿童性虐待表现在包括文本在内的所有类型的内容中，但我们在测试中具体看到了机器学习/文本人工智能如何在现实生活中产生大规模影响。”

正如Portnoff所解释的，更安全的人工智能模型包括一个在儿童安全相关文本上训练的语言模型和一个为文本序列生成多标签预测的分类系统。预测得分范围从0到1，表明模型对文本与各种儿童安全类别的相关性的信心。

虽然Portnoff无法透露哪些其他社交媒体平台参与了更安全的产品套件的测试，但她表示，其他公司的反应是积极的。

Portnoff说：“一些合作伙伴认为，该模型在识别有害的儿童性虐待活动、优先考虑报告的信息以及支持对已知不良行为者的调查方面特别有用。”。

自2022年推出ChatGPT以来，由于生成性人工智能工具的激增，总部位于英国的互联网观察基金会等互联网监督组织对暗网论坛上流传的大量人工智能生成的儿童色情制品敲响了警钟，称这些非法材料可能会淹没互联网。

推特安全团队宣布这一消息的几个小时前，欧盟要求该公司解释有关“内容审核资源减少”的报道

推特向欧盟监管机构提交的最新透明度报告称，自2023年10月以来，埃隆·马斯克的成本削减措施已将平台内容审核团队的规模减少了近20%，并将监控的语言数量从11种减少到7种。

该要求补充道：“委员会还寻求与生成人工智能工具对选举过程、非法内容传播和基本权利保护的影响相关的风险评估和缓解措施的进一步细节。”。

2023年12月，欧盟对推特提起正式诉讼，原因是担心该公司在多个领域违反了《数字服务法》，包括风险管理、内容审核、“黑暗模式”和研究人员的数据访问。

委员会表示，推特必须在5月17日前提供所需信息，并在5月27日前解决其他问题。

由Ryan Ozawa编辑。