#人工智能 当你询问 Unicode 是否有海马表情时,ChatGPT 等多个 AI 聊天机器人会精神错乱并给出错误回答。Unicode 表情符号中没有海马,但 ChatGPT 坚信有海马并且会罗列多个表情并自我识别,识别错误后继续罗列并陷入某种错误循环,这个问题也影响 Claude 等模型。查看全文:https://ourl.co/110647
Unicode 联盟尚未在其表情符合合计里添加可爱的海马,尽管你经常使用表情符号 (Emoji) 时可能看到与海马有些类似的表情,而 ChatGPT 有时候也相信应该是有海马表情的。
所以当你在 ChatGPT 中询问 Unicode 表情符号中是否有海马时,ChatGPT 就会表现出精神错乱,首先 ChatGPT 认为是有海马表情的,随后自己罗列部分表情符号进行识别并发现是错误的,即便如此最后还是列出独角兽的表情符号并认为是平台问题导致无法显示。
如果你不在不同的会话中进行测试 ChatGPT 也会给出类似但略有不同的回答,但如果 ChatGPT 进行联网搜索那就可以自我纠正并发现确实没有海马表情,而未联网时 ChatGPT 始终认为应该是有海马表情的。
ChatGPT 中出现错误的回答:
有些会话中 ChatGPT 也可以给出正确回答:
发生这种情况的原因或许与 OpenAI 此前论文中提到的幻觉有关,即模型训练时的奖励机制鼓励 AI 模型尽可能回答问题并取悦用户,即便可能存在事实性错误也不妨碍模型自己编造答案来回应用户。
目前关于 Unicode 表情符号中是否有海马这件事影响多个 AI 模型,蓝点网测试发现包括 ChatGPT、Claude、Qwen (通义千问) 等受影响,但 Qwen 虽然也出现精神错乱但最终自我纠正并承认没有海马表情,不清楚这是否是因为没有解决问题而执行联网查询。
谷歌的 Gemini AI 可以正确回答这个问题并且没有错乱,当你询问 Gemini AI 时该应用会给出简洁的回答那就是压根没有海马表情,有兴趣的用户可以自己打开各种 AI 聊天机器人测试看看。
通义千问经过多次校正后最终给出正确回答: