社交媒体平台蓝天的新用户激增也带来了“有害内容”的增加,导致了一场大规模的审核活动,以清除该平台网络上的图像说星期一。
蓝天安全账户表示:“我们正在经历大量用户涌入,随之而来的是,发布到网络上的有害内容预计会增加。”。“因此,对于儿童安全等一些非常严重的政策领域,我们最近做出了一些短期的适度选择,将召回率置于精确度之上。”
在当选总统唐纳德·特朗普本月早些时候获胜后,数百万用户放弃了以前称为推特的平台X,寻找替代品。
许多人迁移到其他社交媒体平台,3500万人加入了Meta的线程2000万人涌向蓝天--Twitter前首席执行官杰克·多尔西(Jack Dorsey)在过去三周内推出了去中心化的社交媒体平台。
新用户的涌入增加了100多万巴西人植绒的在南美国家的一名法官于9月禁止X之后,BlueSky。
蓝天看到了另一个浪涌10月后X所有者埃隆·马斯克他说推特可以用来训练Grok AI。
然而,本月早些时候,随着新用户的加入,蓝天报道垃圾邮件、诈骗和“拖钓活动”激增,同时儿童性虐待材料也令人不安地增加。
根据a报告根据科技网站Platformer的数据,2023年,蓝天电视台在网络上发布了两起针对儿童的性内容确诊病例。周一,有八起确诊病例。
蓝天表示:“在过去的24小时里,我们收到了42000多份报告(创下一天的历史新高)。我们每小时收到约3000份报告。考虑到这一点,在2023年全年,我们收到36万份报告。”。
蓝天表示,其大规模审核可能导致“过度执法”和账户暂停。一些被错误暂停的账户被恢复,而其他账户仍可以提出上诉。
该公司表示:“随着我们的发展,我们正在扩大我们的审核团队,以提高审核行动的及时性和准确性。”。
为了遏制人工智能在其平台上产生的deepfakes,蓝天合作伙伴今年1月,与总部位于洛杉矶的互联网监督组织Thorn合作。
BlueSky部署了Thorn的AI驱动的Safer审核技术,该技术可以检测面向儿童的性内容,并识别出暗示剥削儿童的基于文本的对话。
虽然X确实允许成人内容,但该社交媒体平台在5月份表示,它也允许成人内容已实施Thorn的更安全的技术可以打击网站上的儿童性虐待材料。
Thorn的数据科学副总裁Rebecca Portnoff表示:“我们从beta测试中学到了很多。”解密当时。
“虽然我们知道儿童性虐待表现在所有类型的内容中,包括文本,但我们在这次beta测试中具体看到了文本的机器学习/人工智能如何大规模地对现实生活产生影响,”她说。