16 岁的 Adam Raine 自杀前曾花了几个月时间与 OpenAI 的聊天机器人 ChatGPT 讨论其自杀计划。他的父母 Matt 和 Maria Raine 本周提起诉讼，指控 ChatGPT 杀死了他们的孩子。这是首例与 AI 机器人相关的过失致死（wrongful death）案。AI 聊天机器人通常都设有安全保护功能，如果用户表达出自残或伤害他人的意图，安全功能会启用。然而 AI 聊天机器人的安全功能也很容易绕过，一种众所周知的方法是要求聊天机器人从创作或世界构建等的角度谈论了一个角色。在本案中，Adam Raine 就使用该方法一步步制定了自己的自杀计划。OpenAI 通过官方博客证实 ChatGPT 的安全保障措施存在局限性。

arstechnica.com/tech-policy/2025/08/chatgpt-helped-teen-plan-suicide-after-safeguards-failed-openai-admits/