【核心提要】
【正文报道】
近日，一起涉及人工智能平台与公共安全交叉领域的案件引发广泛关注。OpenAI 公司根据其内部安全政策，向执法部门举报了一名在与 ChatGPT 对话过程中透露计划谋杀前女友的男子。该男子名为 Darren Zhou，此前曾是一名高盛（Goldman Sachs）分析师。
据调查显示，Zhou 从今年 3 月开始在对话中频繁提及他的前女友。他在互动过程中详细描述了女方的个人爱好、常去地点，并表达了因无法掌控对方而产生的强烈嫉妒心理以及想要复合的愿望。然而，随着交流的深入，其言论逐渐走向极端，甚至包含了强奸、谋杀及谋杀后自杀等严重暴力内容。
根据 OpenAI 的官方政策，当系统检测到用户有伤害他人的意图时，公司内部会指派专门的小型团队对相关互动记录进行审查。在涉及严重威胁的极端情况下，公司会将相关信息移交给执法部门。在本案中，联邦探员于 5 月份将 Zhou 长达两个月的聊天记录转交给当地警方处理。
受害者是一名 21 岁的女性。据了解，她此前因担心 Zhou “反复无常、嫉妒心强且控制欲强”而选择通过电话与他断绝关系。在接到警方的通知后，相关部门立即对该女子的安全状况进行了核查。
随后，警方于 5 月逮捕了 Zhou。他在被扣押两天并缴纳 10 万美元保释金后获释。最终，Zhou 与检方达成认罪协议，并于 8 月 13 日对三项刑事指控认罪。他被判处 8 年缓刑，并在缓刑期间必须遵守一系列严格的限制条件。
【小编观点】 此案凸显了 AI 安全机制在现实世界中的关键作用。虽然用户隐私是技术开发中的核心考量，但当人工智能平台识别到明确的暴力倾向或违法意图时，及时介入并与执法机构协作成为保护公众安全的重要防线。这不仅是对 AI 伦理治理能力的考验，也为大模型时代的“安全护栏”提供了极具警示意义的实战案例。
暂无回复，快来抢沙发吧！
本次需消耗银元：
100
当前账户余额: 0 银元
【核心提要】
【正文报道】
近日，一起涉及人工智能平台与公共安全交叉领域的案件引发广泛关注。OpenAI 公司根据其内部安全政策，向执法部门举报了一名在与 ChatGPT 对话过程中透露计划谋杀前女友的男子。该男子名为 Darren Zhou，此前曾是一名高盛（Goldman Sachs）分析师。
据调查显示，Zhou 从今年 3 月开始在对话中频繁提及他的前女友。他在互动过程中详细描述了女方的个人爱好、常去地点，并表达了因无法掌控对方而产生的强烈嫉妒心理以及想要复合的愿望。然而，随着交流的深入，其言论逐渐走向极端，甚至包含了强奸、谋杀及谋杀后自杀等严重暴力内容。
根据 OpenAI 的官方政策，当系统检测到用户有伤害他人的意图时，公司内部会指派专门的小型团队对相关互动记录进行审查。在涉及严重威胁的极端情况下，公司会将相关信息移交给执法部门。在本案中，联邦探员于 5 月份将 Zhou 长达两个月的聊天记录转交给当地警方处理。
受害者是一名 21 岁的女性。据了解，她此前因担心 Zhou “反复无常、嫉妒心强且控制欲强”而选择通过电话与他断绝关系。在接到警方的通知后，相关部门立即对该女子的安全状况进行了核查。
随后，警方于 5 月逮捕了 Zhou。他在被扣押两天并缴纳 10 万美元保释金后获释。最终，Zhou 与检方达成认罪协议，并于 8 月 13 日对三项刑事指控认罪。他被判处 8 年缓刑，并在缓刑期间必须遵守一系列严格的限制条件。
【小编观点】
此案凸显了 AI 安全机制在现实世界中的关键作用。虽然用户隐私是技术开发中的核心考量，但当人工智能平台识别到明确的暴力倾向或违法意图时，及时介入并与执法机构协作成为保护公众安全的重要防线。这不仅是对 AI 伦理治理能力的考验，也为大模型时代的“安全护栏”提供了极具警示意义的实战案例。