#人工智能 深度求索回应发送
近期有用户发现在 DeepSeek 中发送指令 <think> 时模型会给出完全无关的回复,这则消息在社交媒体上广为流传,以至于更多用户进行测试并发现更多无关的回复,这些回复看起来似乎是其他用户提问的后续,因此有用户担心 DeepSeek 可能出现泄露用户隐私的情况。
例如有用户在正常对话中突然发送 <think> ,随后 DeepSeek 给出越狱相关的思考和回答 (不是 iOS 方面的越狱),DeepSeek 实际上给出的回答都是五花八门的,可能内容完全与前文没有关联,这种其实也属于典型的模型幻觉。
为此深度求索在小红书平台发布说明称,技术团队经过全面排查后发现,输入 <think> 等字符后返回异常内容,属于特殊字符引发的模型幻觉,不涉及安全问题或隐私泄露,后续团队也会通过针对性训练增强模型对特殊字符的识别和处理能力,优化模型在此类场景中的表现。
目前深度求索也已经在 DeepSeek 应用中修复这个问题,所以现在大家再发送 <think> 时应该不会再出现无关的回复。

深度求索回复原文如下:
关于 <think> 字符触发模型异常回复的说明
近期,我们关注到有用户反馈,在与 DeepSeek 模型的对话中输入 <think> 这类特殊字符后,模型偶发返回不可预期的内容,使部分用户产生了 “对话泄露” 的疑虑。针对这一问题,我们的技术团队经全面排查后发现:
输入 <think> 等字符触发返回异常内容,属于特殊字符引发的模型幻觉,不涉及安全问题或隐私泄露。
后续我们将通过针对性训练增强模型对特殊字符的识别与处理能力,修复相关的已知问题,优化模型在此类场景中的表现。
DeepSeek 始终对用户的数据安全与使用体验保持高度重视。感谢大家的关注与监督,也欢迎广大用户随时通过官方途径向我们反馈问题与建议。