二维码
文文衫

扫一扫关注

当前位置: 首页 » 新闻资讯 » 新闻行业 » 正文

谷歌的新Gmail工具让不存在的电子邮件产生幻觉

放大字体  缩小字体 发布日期:2025-08-03 12:59:41    来源:本站    作者:admin    浏览次数:63    评论:0
导读

    谷歌的新扩展Bard显然可以总结电子邮件,计划你的旅行,还有——哦,——伪造你从未真正发送过的电子邮件。  上周,谷

  

  谷歌的新扩展Bard显然可以总结电子邮件,计划你的旅行,还有——哦,——伪造你从未真正发送过的电子邮件。

  上周,谷歌将其名为Bard的大型语言模型聊天机器人植入了一系列谷歌产品,包括Gmail、Google Drive、Google Docs、Google Maps和谷歌旗下的YouTube,以及其他应用和服务。虽然可以理解谷歌希望将其新生成的人工智能技术与现有的产品组合结合起来,但谷歌似乎走得有点太快了。

  根据专栏作家凯文·卢斯的说法,巴德并不是谷歌想要的有用的收件箱助手——至少现在还不是。卢斯说,在他的测试中,人工智能产生了从未发生过的完整的电子邮件通信幻觉。

  今年早些时候,必应的人工智能告诉卢斯他应该离开他的妻子,但尽管谷歌声称仍在解决一些问题,但这并不是一个有希望的第一步。

  根据这篇专栏文章,卢斯要求巴德“分析我所有的Gmail邮件,并合理确定地告诉我,我最大的心理问题是什么。”虽然这个问题有点奇怪,但它很简单。巴德很快开始工作,据说他告诉卢斯,他倾向于“担心未来”,并引用了一封据称是作者发送的电子邮件,卢斯在邮件中表示,他“对工作感到压力”,“害怕失败”。

  这个问题?卢斯从来没有发过那封邮件。人工智能找到了作者关于新的“埃隆·马斯克”传记的通讯,并误解了其中的一段话,起草了一封全新的电子邮件,巴德声称这封邮件是卢斯自己发给自己的。

  根据这位专栏作家的说法,巴德重复了他的行为,凭空拿出一封电子邮件,据称卢斯在邮件中抱怨他“不适合成为一个成功的投资者”。人工智能还多次弄错航空公司信息,甚至编造了一列不存在的火车。

  在回应卢斯的担忧时,谷歌巴德的主管杰克·克劳齐克(Jack Krawczyk)坚持认为,巴德扩展仍处于试验阶段,这是该产品的第一次迭代。

  尽管有这些保留意见,但新的扩展似乎仍然非常不成熟,而且谷歌不敢发布一个混乱的产品,这并不会让人产生信心——更不用说让人工智能抓取你的个人电子邮件所带来的巨大数据隐私影响了。

  总而言之,我们很难摆脱这样一种感觉:谷歌在疯狂冲刺以保持其在人工智能行业的主导地位的过程中,可能会犯一些严重的错误,可能会以灾难告终。

 
(文/admin)
打赏
免责声明
• 
部分文章来源于网络,我们均标明出处,如果您不希望我们展现您的文章,请与我们联系,我们会尽快处理。
0相关评论
 

(c)2023-2023 www.whsdu.com All Rights Reserved

赣ICP备16007947号-10