遭控鼓励青少年轻生 ChatGPT将推出家长监控功能

开卷有益

（巴黎4日讯）美国人工智慧（AI）公司OpenAI指出，将为聊天机器人ChatGPT增加家长监控功能，一周前一对美国夫妇控称这套系统鼓励他们的青少年儿子自杀。

中央社引述法新社的报导，OpenAI在部落格贴文指出，“接下来一个月内，家长将能…将自己的帐号与青少年子女帐号连结，并控制ChatGPT对其子女的回应，让其符合年龄适宜的模型行为规则。”

OpenAI表示，当系统侦测到青少年处于“剧烈苦恼时刻”，家长也会收到ChatGPT的通知。

马修和玛丽亚.雷恩上周在加州州法院提出诉讼，控称ChatGPT在2024年到2025年间，与他们的儿子亚当（Adam Raine）建立了亲密关系，最终导致他结束自己的生命。

诉状指控，在2025年4月11日的最后一次对话中，ChatGPT协助16岁的亚当偷取父母的伏特加酒，并对他系上的绳结进行技术分析，确认这个绳结“可能可以吊起一个人”。

几小时后，亚当使用这种方式自尽。

科技正义法计计划律师丁契尔表示：“当人们使用ChatGPT时，真的会觉得自己是与某个存在者对话。”

丁契尔说：“这些功能可能导致像亚当这样的使用者，随著时间过去，会愈来愈多地分享个人生活，最终甚至开始向这个看似无所不知的产品寻求建议与指导。”

她强调，产品设计特性让使用者容易将聊天机器人视为值得信赖的角色，如朋友、治疗师或医师。

丁契尔批评OpenAI公布家长监控与安全措施的部落格贴文过于“空泛”，缺乏细节。

OpenAI指出，未来三个月将进一步提升聊天机器人的安全性，包括将“某些敏感对话”转接至推理模型（reasoning model），让其投入更多运算资源生成回应。

OpenAI还表示，“我们的测试显示，推理模型能更一致地遵循并应用安全准则。”

《東方日報》