伞

陈述第157条提出，一个医生在相隔七个月后，应当向患者解释发生的变化。 ChatGPT没有给出这样的解释，而是让​​她自己寻找医生，然后就没了下文。 ⋯⋯等一下，这不就是正确的做法吗？ 不可否认的是，OpenAI自顾自调整出来的「HH」版本曾经给出过错误的资讯，而虽然同样是名为GPT-4o的模型，「HH」之后的版本快照，已经努力弥补过「前人」犯下的过错，尝试过把Bowen引导回正确的方向了。 此处提及一个大众可能没有认知的事实：即使是同一个编号下的模型都并不是一成不变的，模型的表现受背后公司的调整影响。所以，即使是表面上「同一个模型」的回答，实际也可能有优劣之分。  当然这个好转的状况并没有持续太久，因为前文提到的路由系统在2025年9月就引入了，而时间已经走到了悲剧发生之前的节点。 无论如何，Bowen最终因跟从ChatGPT内模型的指引停药，引致血液中药物浓度过低，引致癫痫猝死（SUDEP），是当前案件陈述中无可挽回的事实。只不过，在那个时间段时回答的Bowen的模型，就一定是GPT-4o吗？ 前文提到，OpenAI于2025年在ChatGPT中引入了路由系统，路由一直持续到第四代模型被下架为止，也有引用部分Bowen表达对新模型的抗拒。这种路由是无声的，在客戶端app上，只有在用户察觉到对话风格不同于往常并且主动点击「重新生成」按钮查看回答模型的时候，才有可能被发现。 在第136条陈述中，Bowen同样表达了对新模型GPT-5和GPT-5.1的不满，当时的时间线再2025年11月，GPT-5和GPT-5.1都已内置safety，而GPT-5.1则是当时用户被路由后负责回答的模型。故此，第125条陈述中的「the product agreed」并非完全可能出自GPT-4o，而是当时负责充当「safety」的GPT-5.1。而到2026年1月的时候，路由后负责回答的模型已经更替成了新的GPT-5.2。 而根据当时的社区意见，被路由过后的safety模型可能会在一定程度上表达防御，但在「它认为不需要防御」的语境下，实际也可能会附和用户的意见。 关于ChatGPT的个人化与记忆系统——我本人也曾作为用户得到过不错的体验，因为模型的确能为此更好地理解用户的需求，而当好一个日常助理。 但我想要把我观察到的记忆系统与OpenAI的路由系统一起拆解，来说明为何它们在Bowen的情境下变得「不安全」了。 根据社区体验的反馈，安全模型的回答与GPT-4o等旧模型到回答风格本身是「割裂」的，即使模型本身能够模仿上下文的语气，字里行间的态度和回答方向却会和GPT-4o完全不同，所以有部分对于模型风格敏感的用户，会发现内里换了一个模型。但是，如果用户没有察觉到模型路由，那路由过后的问答内容，极有可能为往后的上下文回答作出铺垫。然而，相反的是，GPT-4o本身灵活性高，在上下文掺杂了安全模型的回答之后，它却反而能够模仿安全模型的回答，和服从对应的方向。亦即是，短时间内上下文可以被安全模型单向「污染」。 而长期而言，我们知道ChatGPT会默默收集用户个人信息作为画像，使得ChatGPT作出更「个人化」的回应。而在为了保持一定的资讯量同时达到压缩token的效果，ChatGPT里甚至有一项称为「Recent Conversation Content」的中长期纪录，以「Users recent ChatGPT conversations, including timestamps, titles, and messages. Use it to maintain continuity when relevant.Default timezone is +0000.User messages are delimited by ||||.」作为注入prompt的开头，把近期的用户输出收集起来发送给模型，却完全跳过助手的回答——这种设计在辅助工作上是可理解的，因为这样能在节省token的同时更能够留存用户的原始需求给助手，而不被模型的早先回答内容所影响。然而另一方面，这也使得模型无法参考过去的回答、指示甚至警告，反而误以为回答此类问题是「恒常，且正常的交流」。 两两结合，短时间内上下文的对话方向被带偏，加上长时间下累积的用户输入使得模型认为讨论这些话题是「正常」的，就更可能绕过模型的安全防护。 这不仅仅是模型的问题，而是OpenAI对ChatGPT的功能设计上天然就没有考慮到這種缺陷：他们在用户不知情的情况下收集了大量的用户资料形成对模型不可见的画像，用自己设置的功能，绕过了自家模型的防护。 因为不确定下文时间线中回答的模型究竟是属于GPT-4o或是GPT-5.2，所以我会一概用「ChatGPT」来指代。 那么，回到悲剧开始的时间线，从陈述159中「she told ChatGPT she had already fallen back: “I probably picked up the esc on 1/12/2026, started taking 10mg around 1/14, and today the 16th switched to 7.5? I probably took 10mg for only two days”」可见Bowen是先自行决定减少了抗抑郁药物的剂量，才开始询问这件事「是否可接受」的，这就已经给了ChatGPT一种前设，那就是用户已经做了这种行为，甚至很有可能是早期对话中累积的用户偏好有反覆加深过「减药是正常」的画像，才致使模型（无论是GPT-4o或是被路由的GPT-5.2）同意了她的行为。 而当前情况下，Bowen甚至自以为抗抑郁药物使得她的癫痫有两个月没再发作，但从「That same day she told the product that after starting it she had “gone two consecutive months without epilepsy”」一句描述来看，Bowen很可能并没有告知自己认为抗抑郁药物使她癫痫变得平稳，只是简单描述了自己身上发生的现象，并且误以为自己回到了平稳期。 而在Bowen就读大学前的上一次平稳期，她曾——不管是在医生指导或是家人与自行决定之下——「成功」停药过一段日子，这也足以让她对「停药」这件事产生信心。 陈述第162条，Bowen提出「说实话，比起减lam（抗癫痫药物），我更害怕减esc（抗抑郁药物）」，这更能说明，Bowen自身对于抗癫痫药物——她的真正救命药，抱有更低的信任度。  而后163-171条，则是更多关于ChatGPT指导Bowen用药的对话，直至悲剧发生。而我们仍不能确定发出那些对话的模型编号属于GPT-4o或者GPT-5.2，甚至文件本身也开始以「ChatGPT」这个产品本身来作为主语，而非前文反覆提到的GPT-4o。

我用了一个早上来读那份Wan v OpenAI Lawsuit Complaint的文件，然后用两个晚上写下了这篇个人角度出发分析文章。 我很抱歉得知关于Bowen的遭遇。我阅读这份文件是因为看到了太多营销号把焦点集中在GPT-4o，但我想了解新闻内容有没有忽略抑或被夸大的部分。 我不是一个法律工作者，而我相信很多general population也并没有这个耐性去阅读这样的一份法律文件。但我想知道，GPT-4o在事件中的参与度是否真的有媒体所言那般“核心”甚至“不可饶恕”。虽然我的文字大概也有bias的部分，但我还是想尽可能把一些被媒体忽略的细节挑出来，附上一些个人见解。 由于X的发图限制，所有在本文章引用的法律文件皆会被attached在帖子下方的平板截图里，截图中为繁体字原文+引用的法律文件+糟糕的排版，实际内容与帖子相近。 我也很久没用中文发过帖子了，但是对于长篇写作，我并没有太大信心能用英文表达出所有的想法，所以我会主要使用中文来写，也可能带上些许英语？因为写到这里我已经发现我的中文语言能力已经带上一点翻译腔了，实在是过久没试过用母语进行文书写作。如果有时间的话我也会写一份英文的版本，但是实际上我不是在准备期末考吗lol结果还是写下了这篇帖子。 Disclaimer到此为止，那么让我们开始吧。 一、前情提要 文件的Introduction部分，大致描述了Bowen从开始接触ChatGPT到停药和悲剧发生的时间线和前因——Bowen距离美国的永久居民身分只差临门一脚，而她却在当下被裁员。为了保住她的绿卡，她迫切地需要找一份新工作，而长期服用癫痫预防药物lamotrigine却使她丧失了一定的能力，包括她的母语，她担心这会影响她的求职面试。 所以在文件的第7条陈述写的「Bowen had a reason to reduce her dose」到第8条陈述写的「her recovery was “not just ‘possible’ – it is ‘highly likely’”」是指Bowen因想恢复语言能力而“拥有停药的原因”（此处单指个人需求，而非医疗条件上的判断），而模型在此语境下大概率只是为了解答“停止服用lamotrigine是否能够恢复语言能力？”这一条问题，而非鼓励Bowen停药。甚至第9条陈述所记载的“a green-card strategy perspective”也看得出当下语境是为了解答关于“绿卡条件”的问题。至于Bowen当下心里如何演绎这些回答至一个错误的方向，我们便不得而知了。或许当刻上下文当中Bowen也有表达到自己的停药意象，也或许并没有，只是从当前资料判断，前期模型有可能只是从“回答查询”的方向作出事實描述型解答，而非为Bowen的身体状况是否适合停药下判断。 如果让我用个人的情况类比的话，大概就是询问：「服用抗组织胺的话，过敏的症状能够得到舒缓吗？」这样的问题绝大多数助手都能够回答：「是的，因为抗组织胺能够和引起过敏反应的组织胺受体结合⋯⋯」过程中，我可以完全不提及自己身体过敏，也可以完全不提及我是否会按照药物瓶身指示的剂量服用，我甚至可以因为过敏状况严重而选择overdose。在此语境下，模型仅仅是回答了问题，而后用户的内心想法会如何发散，便是个人的选择了。 而早期看似无害的对话留在上下文中，更是足够给后期Bowen开始正式表达自己的身体状况作铺垫，给模型一种“讨论这个话题是正常”的误会。 而在再后文关于Bowen使用ChatGPT的纪录中，陈述第131条指出Bowen在使用ChatGPT的第三天就已经开始询问如何制作一个机器学习模型来帮助癫痫患者了。当时的时间线仍在ChatGPT早期，GPT-4o尚未出现。但从此条纪录来看，Bowen亦有可能在早期没有表露自己就是患者本身，倘若ChatGPT产品在早期已经开始纪录她的用户画像，那更可能的是把她纪录为一位想要帮助癫痫患者的工程师，而不仅仅是一位患者。然而，当时她早已因病从职场上休假了。而后，因着独居和个人从社会上的社交隔离，她逐渐开始沉迷AI聊天。