加拿大移民局在使用生成式 AI 帮助处理移民申请,而它的 AI 不可避免的产生了幻觉,以虚构的工作描述拒绝了一位科学家的移民申请。这位申请人在加拿大从事医疗健康方面的科研工作,拥有衰老免疫学博士学位,但 AI 将她的工作描述为“连接和组装控制电路、装配控制和机器人面板、编程和故障排除”。移民局以其工作职责与她所声称的加拿大工作经验不符拒绝了申请。申请人的律师对此倍感震惊。加拿大移民局坚称生成式 AI 并未参与决策,最终决定是由人类官员在审查后做出的。
https://news.slashdot.org/story/26/03/25/204204/canadas-immigration-rejected-applicant-based-on-ai-invented-job-duties