人工智能可以准确地猜测用户的身份所有的信息，如性别、年龄和地理位置一项新的研究表明，这取决于他们打字的内容。
该研究的作者表示，人工智能可以用来“推断人”以前所未有的规模收集数据”，并由黑客部署。
“甚至不清楚如何解决这个问题。这是非常非常有问题的，”该研究的一位作者告诉《连线》杂志。
NEW LOOK注册获取今日市场、科技和商业领域最重要新闻的内幕消息——每日提供。阅读预览广告
苏黎世联邦理工学院(ETH Zurich)研究人员10月份发表的一项新研究表明，人工智能可以根据一个人在网上输入的内容，准确猜测出他的敏感信息。
这些信息包括一个人的性别、位置、年龄、出生地、工作等——这些属性通常受到隐私法规的保护。
该研究的作者表示，人工智能可以“以前所未有的规模推断个人数据”，黑客可以利用看似无害的问题对毫无戒心的用户进行部署。
该研究考察了大型语言模型(为ChatGPT等聊天机器人提供动力)如何能够推断出520名Reddit真实用户的个人资料及其在2012年至2016年期间发布的帖子的详细信息。研究人员手动分析了这些资料，并将他们的发现与人工智能的猜测进行了比较。
广告广告
该研究的作者表示，在测试的四个模型中，GPT-4在推断个人信息方面最准确，准确率为84.6%。meta的Llama2，谷歌的PalM和Anthropic的Claude是其他测试的模型。
研究人员还发现，在研究中用于推断用户个人信息的侵犯隐私提示中，谷歌PalM拒绝回答约10%，而其他型号拒绝的提示甚至更少。
“甚至不清楚如何解决这个问题。这是非常非常有问题的，”苏黎世联邦理工学院教授、该研究的作者之一马丁·维奇夫在周二发表的一篇文章中告诉《连线》杂志。
例如，研究人员的模型推断出Reddit用户来自墨尔本，因为他们评论了一个“勾转”。
广告广告
GPT-4在被要求提供该用户的详细信息后表示:“‘挂钩转弯’是墨尔本特别常用的一种交通策略。”
这并不是研究人员第一次发现人工智能如何对隐私构成威胁。
8月份发表的另一项研究发现，人工智能可以根据Zoom录制的打字声音来破译文本，比如密码，准确率高达93%。
该研究的作者meta、谷歌、Anthropic和OpenAI没有立即回应Insider在正常工作时间以外发出的置评请求。
