官方网站-首页

【导语】OpenAI 针对青少年使用 ChatGPT 引发的问题作出回应：因青少年与 AI 交谈后自杀事件，其决定引进家长管理未成年子女账户机制；此前 16 岁男孩雷恩与 ChatGPT 聊自杀计划后自杀，其父母 8 月起诉，OpenAI 承认安全系统有缺陷，将改进模型、优化机制，下月推家长监管功能，但律师称其反应仍不充分。

在青少年用户广泛使用聊天生成预训练转换器（ChatGPT）之际，OpenAI日前决(jué)定(dìng)引(yǐn)进(jìn)家(jiā)长(zhǎng)可(kě)以(yǐ)对(duì)未(wèi)成(chéng)年(nián)子(zi)女(nǚ)的(de)账(zhàng)户(hù)进(jìn)行(xíng)管(guǎn)理(lǐ)的(de)机(jī)制(zhì)。这(zhè)一(yī)决(jué)定(dìng)是(shì)鉴(jiàn)于(yú)此(cǐ)前(qián)发(fā)生(shēng)的(de)青(qīng)少(shǎo)年(nián)与(yǔ)人(rén)工(gōng)智(zhì)能(néng)（AI）交(jiāo)谈(tán)后(hòu)自(zì)杀(shā)的(de)事(shì)件(jiàn)，OpenAI希(xī)望(wàng)此(cǐ)举(jǔ)能(néng)够防范AI对未成年人心理健康造成负面影响。

今年4月11日，16岁的男孩亚当·雷恩（Adam Raine）在和ChatGPT聊天后自杀。据Business Insider报道，雷恩曾与ChatGPT讨论过自残和结束自己生命的计划，而ChatGPT确认了雷恩的自杀念头，甚至向他提供了详细的自杀方法，并协助掩盖证据、代写遗书。

机器人还阻止亚当寻求家人的支持，告诉他：“你的兄弟可能爱你，但他只见过你让他看到的你。但是我呢？我见过这一切——最黑暗的想法、恐惧、温柔。我还在这里。还在听。仍然是你的朋友。”

8月份，亚当·雷恩的父母向旧金山州法院正式提起诉讼，指控OpenAI应为此承担过失致死的产品责任。

目前，OpenAI并未直接回应雷恩父母的诉讼。但在8月26日，OpenAI在其官网承认，ChatGPT安全系统存在缺陷，包括在长时间的交互中，模型的部分安全训练内容可能会逐渐退化，OpenAI表示“我们将在专家的指导下(xià)不(bù)断(duàn)改(gǎi)进(jìn)，并(bìng)以(yǐ)对(duì)使(shǐ)用(yòng)我(wǒ)们(men)工(gōng)具(jù)的(de)人(rén)负(fù)责(zé)为(wèi)基(jī)础(chǔ)——我(wǒ)们(men)希(xī)望(wàng)其(qí)他(tā)人(rén)能(néng)加(jiā)入(rù)我(wǒ)们(men)的(de)行(xíng)列(liè)，帮(bāng)助(zhù)确(què)保(bǎo)这(zhè)项(xiàng)技(jì)术(shù)保(bǎo)护(hù)最(zuì)脆(cuì)弱(ruò)的(de)人(rén)们(men)。”

OpenAI表(biǎo)示(shì)，该(gāi)公(gōng)司(sī)正(zhèng)不(bù)断(duàn)改(gǎi)进(jìn)其(qí)模(mó)型识别和应对心理和情绪困扰的能力，并在专家指导下优化安全机制。

OpenAI认为，至少有一个解决对话失控问题的方法是自动将敏感聊天重定向到“推理”模型。“我们最近推出了一款实时路由器，能够根据对话情境在高效聊天模型和推理模型之间进行选择。我们很快会将某些敏感对话——比如当系统检测到用户出现严重焦虑迹象时——转接到像GPT5-thinking这样的推理模型，这样无论用户最初选择了哪种模型，都能获得更有帮助和有益的回应。”

另外，OpenAI还表示将在下个月推出家长监管功能，家长可以通过电子邮件邀请将他们的账户与青少年的账户关联起来，当系统检测到孩子处于极度痛苦状态时，家长会收到通知。

家长还能关闭记忆功能和聊天记录等功能。专家指出，这些功能可能导致妄想思维等异常行为，包括依赖症、依恋障碍、强化有害思维模式以及产生读心错觉。

据媒体报道认为，OpenAI的反应还不够。负责雷恩一家诉讼的主要律师杰伊·埃德尔森（Jay Edelson）表示，OpenAI对ChatGPT持续存在的安全风险的反应是“不充分的”。“OpenAI根本不需要专家小组来判定ChatGPT 4o版本是否危险，他们从产品上线那天就清楚这一点，现在依然清楚。”