一对美国夫妇上周入禀三藩市加州高等法院，指控ChatGPT开发商OpenAI及其行政总裁阿尔特曼(Sam Altman)，导致他们16岁的儿子雷恩(Adam Raine)在今年4月自杀身亡。雷恩去年9月开始使用ChatGPT协助学业，后来人工智能(AI)肯定和鼓励雷恩的自杀想法。今年更提供各种具体指导，甚至帮忙撰写遗书。
OpenAI在网志表示，下个月内，家长将能把自己的账户与青少年子女的账户连结，并控制ChatGPT如何利用符合年龄的模型行为规则来回应子女。OpenAI说，当系统侦测到青少年突然感到很痛苦，家长也会收到ChatGPT发出的通知。OpenAI表示，未来3个月将进一步提升聊天机器人的安全性，包括将某些敏感对话转到推理模型，这会投入更多运算资源生成回应。OpenAI称，测试显示，推理模型能更一致地遵循并应用安全准则。
