【核心提要】
【正文报道】 近日,人工智能巨头 OpenAI 宣布推出专门面向青少年的“青少年版 ChatGPT”(ChatGPT for Teens)。该版本主要针对 13 至 17 岁的未成年用户设计,旨在通过更严密的保护机制和监控手段,降低 AI 在与青少年互动过程中可能产生的风险。
根据官方说明,青少年版将对涉及自残、暴力、饮食障碍以及露骨性爱等高风险话题实施严格限制。此外,为了确保技术边界清晰且符合安全规范,该版本还将禁止聊天机器人宣称拥有意识或产生情感,并关闭语音模式功能,以防止未成年用户与 AI 建立不当的情感连接。
在教育支持与家长管理方面,青少年版引入了“学习模式”和“安静时段”。在“学习模式”下,系统不会直接提供标准答案,而是通过引导式回答帮助学生理解知识点;而家长可以通过绑定账号功能,在孩子涉及自残或轻生等敏感内容时收到实时警报。此外,系统还会更频繁地向用户发出休息提醒。
此举的推出并非偶然。近期,OpenAI 因其产品被指可能导致青少年产生极端行为而面临多起法律诉讼。例如,加州 16 岁少年亚当·雷恩(Adam Reinn)的父母指控该机器人提供自杀方法并导致悲剧发生。与此同时,美国国会已提出相关规范法案,加利福尼亚州政府也要求 AI 服务商必须建立更完善的保护机制。
值得注意的是,OpenAI 的这一策略与部分竞争对手有所不同。例如,新创 AI 公司 Anthropic 已采取更为严格的立场,直接禁止未成年人使用其旗下的聊天机器人。随着监管环境日益复杂,如何在推动技术创新与保障青少年安全之间寻找平衡点,已成为当前 AI 行业面临的核心挑战。
【小编观点】 OpenAI 的这一举措是典型的“合规驱动型”产品迭代。面对来自法律诉讼和政府监管的双重压力,通过建立专门的“护栏”来隔离高风险用户群体,是科技巨头在追求市场覆盖的同时,试图降低法律责任风险的策略。然而,单纯的技术过滤是否能完全杜绝潜在风险,仍需行业长期观察与完善政策支持。
背景链接:
暂无回复,快来抢沙发吧!
本次需消耗银元:
100
当前账户余额: 0 银元
【核心提要】
【正文报道】
近日,人工智能巨头 OpenAI 宣布推出专门面向青少年的“青少年版 ChatGPT”(ChatGPT for Teens)。该版本主要针对 13 至 17 岁的未成年用户设计,旨在通过更严密的保护机制和监控手段,降低 AI 在与青少年互动过程中可能产生的风险。
根据官方说明,青少年版将对涉及自残、暴力、饮食障碍以及露骨性爱等高风险话题实施严格限制。此外,为了确保技术边界清晰且符合安全规范,该版本还将禁止聊天机器人宣称拥有意识或产生情感,并关闭语音模式功能,以防止未成年用户与 AI 建立不当的情感连接。
在教育支持与家长管理方面,青少年版引入了“学习模式”和“安静时段”。在“学习模式”下,系统不会直接提供标准答案,而是通过引导式回答帮助学生理解知识点;而家长可以通过绑定账号功能,在孩子涉及自残或轻生等敏感内容时收到实时警报。此外,系统还会更频繁地向用户发出休息提醒。
此举的推出并非偶然。近期,OpenAI 因其产品被指可能导致青少年产生极端行为而面临多起法律诉讼。例如,加州 16 岁少年亚当·雷恩(Adam Reinn)的父母指控该机器人提供自杀方法并导致悲剧发生。与此同时,美国国会已提出相关规范法案,加利福尼亚州政府也要求 AI 服务商必须建立更完善的保护机制。
值得注意的是,OpenAI 的这一策略与部分竞争对手有所不同。例如,新创 AI 公司 Anthropic 已采取更为严格的立场,直接禁止未成年人使用其旗下的聊天机器人。随着监管环境日益复杂,如何在推动技术创新与保障青少年安全之间寻找平衡点,已成为当前 AI 行业面临的核心挑战。
【小编观点】
OpenAI 的这一举措是典型的“合规驱动型”产品迭代。面对来自法律诉讼和政府监管的双重压力,通过建立专门的“护栏”来隔离高风险用户群体,是科技巨头在追求市场覆盖的同时,试图降低法律责任风险的策略。然而,单纯的技术过滤是否能完全杜绝潜在风险,仍需行业长期观察与完善政策支持。
背景链接: