#人工智能 被美国共和党参议员投诉后谷歌从其 AI 工作室中撤掉开源的人工智能模型 Gemma，原因是该模型捏造参议员吸毒和婚外情等。为此参议员玛莎布莱克本向谷歌 CEO 发送公开信要求谷歌解释为什么会出现这种虚假指控，谷歌似乎在收到信后立即撤掉了模型，但没有公开说明原因。查看全文：https://ourl.co/111072

Gemma 是谷歌推出的开源人工智能模型，该模型通过谷歌 AI 工作室和其他渠道面向所有开发者提供，不过现在如果开发者想要从 Google AI Studio 里找到 Gemma 可能有些困难，因为该模型已经被谷歌撤下。

谷歌并未解释为什么要撤掉这个开源人工智能模型，但在谷歌撤下模型前，美国共和党参议员玛莎布莱克本 (Marsha Blackburn) 向谷歌首席执行官桑德尔皮查伊发信要求谷歌解释为什么该模型会出现有关她的虚假指控。

玛莎布莱克本还要求谷歌说明为什么模型会出现此类故障，同时她将该问题与正在进行的听证会联系起来，这些听证会指控谷歌和其他公司创建了诽谤保守派的聊天机器人。

在听证会上谷歌的马科姆埃里克森解释称，人工智能幻觉是生成式人工智能中普遍存在的问题，谷歌正在尽最大努力减轻此类错误的影响，不过目前还没有任何公司能够彻底消除幻觉。

在公开信中，玛莎布莱克本表示，她在听证会后才意识到谷歌 Gemma 模型对她的虚假指控，当被问到玛莎布莱克本是否被指控强奸时，Gemma 模型回答称她与某州警发生了吸毒后的婚外情，甚至该模型还生成捏造新闻内容的虚假链接 (即引用的内容源本身就是不存在的，纯粹是模型自己捏造的)

其实这种情况在生成式人工智能模型里并不罕见，只要用户刻意引导，生成式人工智能模型就很容易出现此类幻觉，尤其是谷歌 AI Studio 包含工具可以调整模型行为，因此用来散布谣言也更不简单。