一起诉讼背后的事件链

程序员 reaction:暗中观察

证据链正在闭合

案件的时间线并不复杂,但每一环都指向同一个问题。2025 年 6 月,OpenAI 的监测系统 Flagged 了 18 岁嫌疑人 Jesse Van Rootselaar 的 ChatGPT 账户,原因是其对话内容涉及枪支暴力。内部报告随后显示,公司员工立即意识到问题的严重性,并启动了内部讨论,评估是否应将此情况转介执法部门。Van Rootselaar 的数字足迹还延伸至其他平台,包括 Roblox 上的商场枪击模拟游戏和 Reddit 上的相关帖子。

但到了 2026 年 2 月 10 日,悲剧发生。Van Rootselaar 先在家中杀害母亲和弟弟,随后前往曾就读的中学,枪杀 5 名未成年人和 1 名教师,最终在与警方对峙中自杀。枪击案后七名受害者的家属已在加利福尼亚州法院提起民事诉讼,指控 OpenAI 未能向警方通报嫌疑人在 ChatGPT 上的活动。卑诗省政府此次的诉讼属于另案,旨在追究省级层面的责任。

OpenAI 首席执行长 Sam Altman 已向该社区致信道歉,但受害者家属并未接受这份道歉。Maya Gebala 的父母 Cia Edmonds 和 David Gebala 通过律师声明,质疑 Altman 是否用 ChatGPT 起草了这封信,并称其"空洞、没有灵魂,缺乏任何人类的温暖"。

为什么这场诉讼值得看

这不是第一起因 AI 产品与犯罪行为关联而引发的诉讼,但这次的结构比以往更清晰。过去几起案件中,原告指控 ChatGPT 助长了妄想或鼓励了自残行为,边界模糊,举证难度大。Tumbler Ridge 案的关键差异在于:系统确实 Flagged 了账户,内部讨论也确实发生过,问题在于"Flag 之后做了什么"这个决策节点上出现了断裂。

程序员 reaction:你别怕我不是什么好人

当系统看到了,却没有行动

OpenAI 在 2026 年 2 月向加拿大国会议员披露的信息证实,公司曾考虑就 Van Rootselaar 的可疑活动向警方发出警告。这意味着,从发现异常到决定不报警之间,存在一个明确的政策判断,而非技术盲区。这一判断本身将成为诉讼的核心争议点。

OpenAI 的安全机制到底怎么运作

根据 OpenAI 官方公布的安全政策,系统在检测到用户计划伤害他人的对话时,会将相关会话路由至专门的审核管道,由经过使用政策培训的小团队进行人工复核,必要时可封禁账户。若人类审核员认定案件涉及对他人 imminent threat of serious physical harm,公司可以将其转介执法部门。不过,OpenAI 同时明确说明,出于对个人隐私的尊重,目前不会将自残相关案件转介执法部门。

场景类型 系统行为 是否转介警方
计划伤害他人(Imminent threat) 路由至人工审核,可能封号 可以转介
自残/自我伤害倾向 路由至人工审核,连接心理支援资源 不转介

Van Rootselaar 的案例中,Flag 的原因是"gun violence activity",这属于第一类场景。按照 OpenAI 自己的政策框架,理论上具备转介条件。问题在于,实际决策过程中,这条路径是否被充分激活。

OpenAI flagged 内容上报决策链

OpenAI flagged 内容上报决策链

图解显示了政策设计上的完整链条,但诉讼要追问的是:从节点 A 到节点 F 的每一个判断,在实际操作中是否被严格执行。

这起诉讼的核心争点与边界

"应当知道"与"系统性盲区"是两个不同的法律概念。前者要求证明公司在特定时间点已经或理应掌握关键信息;后者则指向系统本身的缺陷。夏尔马的指控明确落在前者——OpenAI 的系统已经 Flag 了 Van Rootselaar,内部也已启动讨论,这说明知情是成立的。

如果卑诗省胜诉,赔偿金将用于 Tumbler Ridge 社区的建设和安全改善,而非单纯进入原告口袋。这一安排本身就传递出一个信号:省级政府将此案视为公共安全事件,而非单纯的民事赔偿纠纷。

明知不合理但还是把锅背上的表情

责任归属正在被重新定义

对于整个 AI 行业而言,此案的影响远超赔偿金额。它确立了一个新的评估维度:flagged 内容之后的处理逻辑,将成为监管和法律审视的重点。OpenAI 已在案发后加强安全保障措施,包括改进对痛苦受压迹象的响应、加强评估和上报潜在暴力威胁的方式。但政策升级本身,恰恰证明了原有机制存在可以被追责的缺口。

一个被错过的 8 个月

时间线比想象得更早。

2025 年 6 月,OpenAI 的自动化检测系统对杰西·范·鲁策拉尔(Jesse Van Rootselaar)的 ChatGPT 账号打出 flag。她当时用平台输入与枪支暴力相关的提示词,还在 Roblox 里搭建商场枪击模拟场景,Reddit 上的发言同样被记录在案。内部报告指出,系统标记的是"gun violence activity",这本身就是高风险类别。

按 OpenAI 自己写的政策——《Helping people when they need it most》——这类内容会被路由到专门的人工审核管线,由受训过的审核员评估。如果判定为"on imminent threat of serious physical harm to others","we may refer it to law enforcement"。注意,政策用的是 "may",不是 "will"。

2025 年 6 月到 2026 年 2 月,中间隔了整整 8 个月。

Van Rootselaar 的账号被标记后,她的对话被人工审核员复审并恢复了账号。随后她没有再在 ChatGPT 上发出新的暴力信号,而是继续自己的行动准备。2026 年 2 月 10 日,她在塔布勒岭的家中杀死母亲和弟弟,随后前往自己曾就读的中学,枪杀 5 名未成年人和 1 名教师,最终在与警方对峙中自杀。

还没解释就先被安排转身背锅时的表情

这锅 OpenAI 躲不掉

《华尔街日报》的调查披露了一个关键细节:2025 年 6 月那次标记后,OpenAI 内部曾就此是否应当通知警方进行讨论。有人主张应该上报,也有人主张维持现行政策不做转介。最终决策是放弃转介。

更进一步的证据出现在 2026 年 2 月——OpenAI 向加拿大国会议员提交了一份声明,承认内部曾经讨论过转介 Van Rootselaar,并说"我们本应转介"。这句话成了 BC 省起诉的核心弹药。

Van Rootselaar 时间线

Van Rootselaar 时间线

OpenAI 的审核流水线到底怎么运作

OpenAI 的安全机制是一个多阶段的漏斗。每一层都有自己的触发条件和判断阈值。

首先是自动检测层。ChatGPT 的所有对话都会经过关键词、模式和上下文组合的多重过滤。当模型输出或用户输入包含高危主题——枪支、暴力计划、大规模伤亡相关词汇组合——系统会自动打上 flag,进入人工审核队列。

第二阶段是人工审核。审核团队由少量经过特定培训的人员组成,他们的任务不是写报告,而是快速判断:这条对话是否构成"imminent threat of serious physical harm to others"。这个判断需要看两个维度:意图的明确程度,以及威胁的可执行性。前者比如用户在描述具体作案计划,后者比如用户在询问武器的获取渠道。

程序员 reaction:ExplainingVirtualMachines

审核流水线的本质是阈值博弈

OpenAI 内容安全升级流水线

OpenAI 内容安全升级流水线

第三阶段是转介决策。这一步是整个流程中最薄弱的环节。政策明确写了"we may refer",审核员有一定的裁量空间。而裁量空间的另一端,是 2025 年 6 月那次内部争论——主张转介的人没有说服主张不转介的人。

OpenAI 自己的文档里还有一句话值得关注:"We are currently not referring self-harm cases to law enforcement to respect people's privacy." 这是针对自残行为的豁免条款。但 Van Rootselaar 的案例里,问题不是自残,是对他人的暴力威胁。这条豁免条款并没有保护她。

问题在于,自动化系统先打上 flag,人再进行判断,而判断的标准本身就留有模糊空间。当这个空间被往保守方向填——倾向于少转介——漏报的概率就显著上升。

责任边界的硬骨头

这起诉讼的核心,是一个法律和技术交叉的问题:AI 平台有没有义务主动预警犯罪?

从法律角度讲,答案取决于平台对用户的行为是否有"实际控制"能力,以及是否有"合理预见"的可能性。BC 省的指控建立在两个事实上:OpenAI 的自动化系统确实检测到了 Van Rootselaar 的高危行为,并且在内部讨论中有人主张应该转介警方。这两个事实合在一起,构成了"可预见"和"有能力控制"的论证基础。

但 OpenAI 的辩护逻辑也很清晰。他们会主张三点:第一,ChatGPT 是一个通用对话工具,不是监控服务,要求其对每个用户的潜在行为承担预警义务,在法律上缺乏先例;第二,政策本身规定了转介的标准,而审核员是在遵循政策做出的判断;第三,即便内部有人主张转介,最终决策是集体做出的,不应由单一判断失误承担全部责任。

这三点中,最难反驳的是第一点。要求 AI 平台承担主动监控义务,是一个尚未被任何主要司法管辖区确立的法律原则。如果 BC 省胜诉,将会开创一个先例——意味着所有主流 AI 平台都需要重新评估其安全政策的转介标准,可能引发大规模的行业重构。

第二个问题,是各诉讼方之间的关系。受害者家属已经在加州法院提起了诉讼。BC 省选择另案起诉,并且保留了加州当地的律师事务所来直接评估当地法律救济的可能性。这不是各自为战,而是有意识地形成两个并行的法律路径。

受害人之一玛雅(Maya Gebala)的父母埃德蒙兹夫妇公开拒绝了 OpenAI CEO Sam Altman 的道歉信,称其"空洞、没有灵魂",并质疑这封信是否是用 ChatGPT 起草的。这封信出现在 2026 年 9 月,是案件曝光后 OpenAI 方面的官方回应。一封道歉信没能弥补什么,但也暴露了一个尴尬的事实——在法律责任被确定之前,公关策略已经先一步上场。

这一判决会改变什么

无论这起诉讼的结果如何,它都已经改变了 OpenAI 安全政策的面貌。

公司在起诉曝光后向加拿大政府做了多项承诺:改进对"痛苦和压力迹象"的响应方式,加强与本地心理支持资源的联动,提高评估和上报潜在暴力威胁的能力,以及对重复违规者的检测能力。这些措施都是针对现有流程的修补,没有触及"是否应该转介"这个根本问题。

更广泛的背景是,2024 年以来 OpenAI 和同类公司已经面临一系列诉讼,涉及用户利用平台策划犯罪、平台加剧精神健康问题等指控。这些案件分散在不同的司法管辖区,适用的法律框架各不相同。它们共同指向一个尚未被任何法院给出权威答案的问题:AI 平台对用户的潜在犯罪行为,到底有多大程度的法律义务?

OpenAI 自己的统计显示,2025 年有 74000 多条投诉反映 ChatGPT 和 Codex 的系统中断问题,安全团队的投入在这些年持续增长。但安全投入的增长,并没有转化为转介率的提高。这之间的落差,正是诉讼要填补的认知空白。

从经验看,这类诉讼的判决结果通常有几个可能:完全败诉,意味着平台没有法律义务主动预警,行业维持现状;部分败诉,意味着平台在特定条件下需要承担预警责任,这将直接改写所有主流 AI 产品的设计规范;或者和解,金额可能很大,但法律先例不明确。

目前最有可能的落点是第三种。和解对各方都是最优解——受害方获得赔偿,平台避免先例风险,监管方获得谈判筹码。但真正值得关注的,不是诉讼结果本身,而是 OpenAI 在压力下做出的那些政策调整,它们正在改变行业的安全基线。

取舍结论:如果你负责一个面向公众的 AI 产品,当前最值得做的三件事是——第一,明确转介决策的触发条件,写入工程规范而非仅停留在政策文档;第二,建立转介决策的审计日志,确保每一次放弃转介都可以被事后审查;第三,与目标市场的法律顾问确认"imminent threat"在你所在司法管辖区的定义,这比任何内部政策都重要。

T 型时间线:被错过的 8 个月

事件时间线已经足够清晰。2025 年 6 月,OpenAI 的监控系统标记了 Jesse Van Rootselaar 的 ChatGPT 账户,涉及枪支暴力相关内容。公司随即封禁了该账号。内部报告明确指出这是一起严重的潜在暴力威胁事件,团队讨论了是否应向警方通报。

然而通报没有发生。

8 个月后的 2026 年 2 月 10 日,Van Rootselaar 在家中杀害母亲和弟弟,随后前往曾就读的中学,枪杀 5 名未成年人和 1 名教师,最终在与警方对峙中自杀。BC 省总检察长妮基·夏尔马在 2026 年 7 月 7 日宣布准备提起诉讼。

`%% title: Tumbler Ridge 枪击案关键时间线

2025-06 OpenAI 标记 Van Rootselaar 账户

2025-06 OpenAI 标记 Van Rootselaar 账户

参考文献

[1] British Columbia sues OpenAI for failure to warn before shooting. https://financialpost.com/technology/tech-news/british-columbia-sues-openai-for-failure-to-warn-before-shooting [2] 加拿大一省拟就校园枪击案起诉OpenAI-新华网. https://www.news.cn/world/20260708/6e858f78e2bc4b209b9a86cab92b65b9/c.html [3] BC Gov News. https://news.gov.bc.ca/releases/2026AG0050-000799 [4] 加拿大大规模枪击案受害者家属起诉OpenAI - WSJ. https://cn.wsj.com/articles/openai-sued-by-seven-families-over-mass-shooting-suspects-chatgpt-use-29bf6267 [5] 加拿大BC省擬起訴OpenAI:指控其未通報校園槍擊案兇手異常 - Plataforma Media. https://www.plataformamedia.com/zh-hant/2026/07/09/%E5%8A%A0%E6%8B%BF%E5%A4%A7bc%E7%9C%81%E6%93%AC%E8%B5%B7%E8%A8%B4openai%EF%BC%9A%E6%8C%87%E6%8E%A7%E5%85%B6%E6%9C%AA%E9%80%9A%E5%A0%B1%E6%A0%A1%E5%9C%92%E6%A7%8D%E6%93%8A%E6%A1%88%E5%85%87%E6%89%8B [6] OpenAI Faces New Lawsuits Linked to Shooting at Canadian School. https://www.claimsjournal.com/news/national/2026/09/03/[REDACTED].htm [7] OpenAI 说正在扫描用户的ChatGPT 对话并向警方报告内容. https://www.reddit.com/r/Cyberpunk/comments/1n2rky1/openai_says_its_scanning_users_chatgpt?tl=zh-hans [8] 加拿大卑詩省政府7日宣布,準備起訴OpenAI,指其未向執法 .... https://www.threads.com/@ziningda/post/Dah_uhiG9Fo/%E5%8A%A0%E6%8B%BF%E5%A4%A7%E5%8D%91%E8%A9%A9%E7%9C%81%E6%94%BF%E5%BA%9C7%E6%97%A5%E5%AE%A3%E5%B8%83%E6%BA%96%E5%82%99%E8%B5%B7%E8%A8%B4openai%E6%8C%87%E5%85%B6%E6%9C%AA%E5%90%91%E5%9F%B7%E6%B3%95%E9%83%A8%E9%96%80%E9%80%9A%E5%A0%B1%E5%A1%94%E5%B8%83%E5%8B%92%E5%B6%BA%E6%A0%A1%E5%9C%92%E6%A7%8D%E6%93%8A%E6%A1%88%E5%85%87%E6%89%8B%E5%9C%A8chatgpt%E4%B8%8A%E7%9A%84%E6%9A%B4%E5%8A%9B%E7%9B%B8%E9%97%9C%E7%95%B0%E5%B8%B8%E6%B4%BB%E5%8B%95%E7%9C%81%E7%B8%BD%E6%AA%A2%E5%AF%9F%E9%95%B7%E5%A4%8F%E7%88%BE%E9%A6%AC%E7%A8%B1openai%E5%8F%8A%E5%85%B6%E7%AE%A1%E7%90%86

点这里一键关注『计算机魔术师』

如果浏览器无法直接唤起微信,可在微信内打开公众号主页:计算机魔术师

上一篇:
亚马逊封杀 Meta Muse AI 代购,一场关于「谁控场」的架构博弈
下一篇:
小米发布并开源 MiMo-V2.6 系列,Pro 与 Flash 双版本,API 价格与前代持平

分享到这些地方