高盛分析师向ChatGPT透露奸杀计划 OpenAI监测到后报警
【高盛分析师向ChatGPT透露奸杀计划 OpenAI监测到后报警】金色财经报道，美国一名25岁的男子因在上班期间向人工智能聊天工具ChatGPT详细透露强奸、杀害其前女友的计划，从而被开发商OpenAI检测到之后举报至联邦调查局（FBI）。人工智能公司往往会通过多标签有害内容分类模型，精准识别暴力、仇恨、性侵害等不同类别的危险内容，同时从情绪强度、语气意图维度补充识别风险等级。按照OpenAI的公司政策，当后台监测到对话者可能筹划伤害他人时会对内容实施人工审核，如果被判定危险等级高，公司还可能向执法部门提供对话内容作为办案线索。法庭文件显示，该男子名叫Darren Zhou，看上去是一名亚裔。案发时，他是佛罗里达州西棕榈滩的一名高盛分析师。FBI探员将人工智能对话内容与该女子收到的信息联系起来，判断Darren已经构成了足够的人身安全威胁，于是在5月将其逮捕。Darren在缴纳了10万美元的保释金后获得假释。高盛在得知这些指控后于6月终止了与他的雇佣关系。Darren被指控的罪名包括发出杀人或伤害他人的威胁、以明确人身威胁实施严重跟踪骚扰等。8月13日，他当庭认罪，并被判处5年缓刑。该案件还引发了业界关于AI聊天隐私边界的讨论：平台对用户私人对话进行监测的尺度应该如何界定，在什么情况下有权将用户的对话内容提交给执法部门。()
