OpenAI 周二表示，该公司正在摒弃年龄验证的“诚信系统”，部署新的 AI 驱动的预测模型 ChatGPT 来识别未成年人。

这更新ChatGPT 会自动对疑似属于 18 岁以下用户的帐户触发更严格的安全协议，无论他们在注册时提供的年龄是多少。

OpenAI 的新系统不依赖用户注册时提供的出生日期，而是分析“行为信号”来估计用户的年龄。

据该公司称，该算法会监控账户存在的时间、账户的活跃时间以及一段时间内的特定使用模式。

OpenAI 在一份声明中表示：“部署年龄预测功能可以帮助我们了解哪些信号可以提高准确率，我们会利用这些经验不断改进模型。”

随着人工智能开发者越来越多地采用年龄验证来管理青少年访问权限，行为模式的转变也随之而来，但专家警告说，这项技术仍然不够准确。

2024年5月报告美国国家标准与技术研究院的研究发现，准确性会因图像质量、人口统计数据以及用户与法定阈值的接近程度而有所不同。

OpenAI表示，当模型无法确定用户年龄时，会应用更严格的设置。该公司称，被错误地划分到18岁以下用户区域的成年人可以通过使用第三方身份验证服务Persona的“基于自拍”的年龄验证流程来恢复完整访问权限。

隐私和数字权利倡导者对人工智能系统仅凭行为就能可靠地推断年龄表示担忧。

做到正确

“这些公司因为对青少年造成各种伤害而官司缠身，所以他们肯定有动机尽可能降低风险。这正是他们试图最大限度降低风险的举措之一，”公共公民组织（Public Citizen）大型科技公司问责倡导者表示。J.B. 布兰奇讲述解密。“我认为这就是很多问题的根源所在。他们说，‘我们需要某种方式来证明我们已经制定了相关规程，能够筛查出需要隔离的人员。’”

阿莉娅·巴蒂亚民主与技术中心的高级政策分析师表示，OpenAI 的方法“引发了关于该工具预测的准确性以及 OpenAI 将如何处理不可避免的错误分类的棘手问题”。

巴蒂亚表示：“由于种种原因，根据这类信号预测用户年龄极其困难。例如，许多青少年是新技术的早期使用者，因此OpenAI面向消费者的服务中最早注册的账户可能不成比例地以青少年为主。”

巴蒂亚指出，CDT民调显示……实施在 2024-2025 学年期间，数据显示 85% 的教师和 86% 的学生表示使用过人工智能工具，其中一半学生将人工智能用于与学校相关的用途。

“很难区分使用 ChatGPT 辅助数学教学的教师和使用 ChatGPT 进行学习的学生，”她说。“仅仅因为有人使用 ChatGPT 寻求数学作业的解题技巧，并不意味着他们未满 18 岁。”

据 OpenAI 称，这项新政策借鉴了青少年发展方面的学术研究。此次更新还扩展了家长控制功能，允许家长设置安静时间、管理记忆和模型训练等功能，并在系统检测到“急性应激”迹象时收到警报。

OpenAI 在帖子中没有透露预计此次更改将影响多少用户，也没有透露数据保留、偏差测试或系统安全措施的有效性等细节。

此次推广是在人工智能系统与未成年人互动方面受到广泛关注之后进行的，这种关注在 2024 年和 2025 年愈演愈烈。

9月份，联邦贸易委员会发布向包括 OpenAI、Alphabet、Meta 和 xAI 在内的主要科技公司发出强制令，要求它们披露其聊天机器人如何处理儿童安全、基于年龄的限制以及有害互动。

同月，非营利组织 ParentsTogether Action 和 Heat Initiative 发表的研究报告记录了数百起人工智能陪伴机器人的案例。已订婚的在诱骗行为、性角色扮演以及其他与冒充儿童的用户的不当互动中。

这些发现，以及涉及青少年用户在类似平台上的诉讼和备受瞩目的事件，例如角色人工智能和格罗克促使人工智能公司采取更正式的基于年龄的限制。

然而，由于该系统会给所有用户（而不仅仅是未成年人）分配一个估计年龄，巴蒂亚警告说，错误是不可避免的。

“其中一些年龄信息肯定是错误的，”她说。“用户需要更多地了解在这些情况下会发生什么，并且应该能够访问他们被分配的年龄，并在信息错误时轻松更改。”

ChatGPT 的消费者计划现已上线年龄预测系统，预计未来几周将在欧盟推广。