25岁华裔高盛分析师想杀前女友，ChatGPT先“报了警”

25岁，美国东北大学荣誉毕业，数学加商科背景，后来进入高盛West Palm Beach办公室做分析师。如果只看履历，这名华裔年轻人的路走得很顺。

今年5月，他因为另一件事被警方逮捕。

分手后没有真正结束

两人大约交往了半年。今年3月，21岁的女生决定分手。她觉得对方情绪反复、控制欲强，担心当面提出会有不可控的反应，最后选择了电话结束关系。

电话并没有让一切停下。男方继续打电话、发短信、通过不同App生成新号码联系她。女生拉黑、要求停止后，仍不断收到信息，其中一些带有侮辱和威胁。最让她害怕的一次，是在自己21岁生日那天，前男友发来一个地点名称——而那正是她当时所在的位置。

她当时没有马上报警，仍希望对方会慢慢停下来。她不知道的是，同一时期，男方还在另一个地方反复谈到她——ChatGPT。

内容越来越危险

一开始，聊天还有点像普通的失恋倾诉：谈前女友的兴趣、常去的地方，抱怨嫉妒，想着有没有机会复合。后来内容开始失控。根据警方后来拿到的记录，他反复谈到跟踪、伤害对方，甚至涉及家人，并描述了越来越具体的场景。

负责查看的警员认为，这已经不是一两句冲动的狠话，而是持续约两个月、不断升级的预演和策划。他还曾声称购买了枪支，并向前女友发送过相关照片。辩护律师后来表示，他实际上并没有持有那些枪；目前能确认的是，他曾作出相关声称并发送照片。

图片为AI示意图，同本案无关

对安全审核来说，ChatGPT里持续出现的内容已经足够触发警觉。

OpenAI先报了FBI

这些涉及严重暴力风险的聊天，最终进入了OpenAI的安全审核流程。评估后，OpenAI将线索报告给了FBI。联邦方面把大约两个月的相关记录转交给佛罗里达州Palm Beach县警方。

警方先找到前女友确认安全，她把一直保存的骚扰截图交了出来。现实中的持续联系和威胁，与ChatGPT里的记录对上了。警方认为，这已不能再按普通分手纠纷处理。

今年5月，男方被捕，在县监狱待了两天后以10万美元保释金获释。6月，高盛将其解雇。

三项重罪认罪

检方以三项重罪起诉，包括严重跟踪骚扰、以书面形式发出杀人威胁，以及非法使用通信设备策划犯罪。按各项最高刑期合计，理论上最高可能达到25年。

8月13日，他对三项指控全部认罪。通过认罪协议，他避免了入狱，也没有留下正式的重罪定罪记录。法院判处8年监管期（probation），其中前两年必须佩戴电子脚环；同时要接受心理健康评估、完成相关干预项目，不得接触前女友及其家人，不得持有武器，并有其他限制。法院采取了withhold adjudication，即没有正式作出重罪定罪裁决。

前女友本人同意这份协议。辩护方强调他此前没有犯罪记录、学业优秀，案发期间存在严重心理健康问题，且实际上未持有此前所称枪支。法官接受了协议，并当庭警告他必须接受关系已经结束的事实。

案件曝光后，很多人关心的是：和ChatGPT说的话，真的会被交给警方吗？

按照OpenAI的公开说明，当系统检测到用户可能正在计划对他人造成严重伤害时，相关内容可能进入人工安全审核。如果被判断存在严重且迫近的人身伤害风险，在特定情况下可能向执法部门报告。

亲爱的读者们，你们认为AI应该报警吗？