像Alexa这样带有语音助手的智能音箱是一种很受欢迎的圣诞礼物，由于最近人工智能的发展，与语音助手的对话变得比以往任何时候都更加自然和“人性化”。
语音助手不再被视为关灯或播放音乐的仆人，它们现在被营销为可以用于复杂任务的伴侣。例如，越来越多的人转向他们来寻找信息和事实。
语音助手对于有读写障碍的人来说尤其方便，比如儿童、盲人或一些老年人。
但在给祖父母或孩子购买这些设备之前，你应该考虑一下风险。语音助手有时会提供错误信息，而通过语音传递的错误信息更难被发现。
我实验室的研究表明，与谷歌搜索片段或维基百科文章的格式相比，由语音助手阅读同样的信息会被认为更可信。
在我们的实验中，我们也改变了信息的准确性。不准确之处是文本中的不一致之处，因此可以在不了解主题的情况下发现它们。例如，关于阑尾炎的信息首先列出了常见的症状，并在下一句中指出，大约80%的人没有典型的症状。
人们通常认为不准确的信息不如准确的信息可信。然而，对不准确信息的可信度评级仍然高得惊人。
更重要的是，在我们的实验中，受试者认为，语音助手提供的不准确信息比阅读文本时要可信得多。两个过程在这种现象中起作用：首先，互动的对话性质给人们一种他们正在与一个智能生物互动的感觉。
他们通过语音助手体验到一种与感知可信度相关的“社交存在”。一种被称为“媒体作为社会行动者范式”的理论提出，语言使用或类似人类的声音等社会线索让我们将语音助手或ChatGPT等生成式人工智能视为社会存在。
这导致我们在与真实的人互动时应用规则。当我们和另一个人交谈时，我们通常也相信我们收到的答案，而不会询问来源或额外的信息——这可能适合与语音助手一起做。
第二，口语更难处理。书面文本可以再读一遍，而且更容易发现不一致之处。
在两个比较语音助手读取的信息和谷歌搜索片段的实验中，我们也改变了信息来源的信息。要么没有消息来源，要么有一个可靠的消息来源，要么有一个不那么可靠的消息来源。
人们在阅读作为网络搜索结果呈现的信息时，会把没有来源的信息当作来自不可信来源的信息来对待。与此同时，对于从语音助手那里接收信息的参与者来说，没有来源的信息与来自可靠来源的信息一样可信。
媒体经常报道说，人工智能聊天机器人或语音助手会出现幻觉，在这种情况下，它们会根据用户的请求产生不准确或误导性的信息。事实上，许多人工智能聊天机器人告诉用户，他们应该对收到的信息进行事实核查。
然而，人们没有意识到这样一个事实，即与这些设备交互的会话性质使它们更加可信。我们还没有必要的技能来应对这些技术。
与此同时，大多数互联网用户了解到，他们必须检查他们在网上阅读的信息的来源。我们中的许多人现在经常质疑一个网站是否值得信赖和客观，或者它是否是由想要推广自己产品的人制作的。
但我们在与语音助手交谈时并不习惯这么做。所以，当你把语音助手作为礼物送给别人时，要考虑一下这个人最有可能用它来关灯、播放音乐还是搜索信息。如果是后者，告诉他们对自己得到的答案保持怀疑。
语音助手和生成式人工智能在我们日常生活中的日益普及，给我们带来了机遇和挑战。一方面，这些技术提供了前所未有的便利和获取信息的途径，特别是对有特殊需要的人。
另一方面，我们必须意识到潜在的风险，并学会如何负责任地使用这些技术。重要的是要认识到这些系统的局限性和弱点，不要盲目依赖它们的产出。
通过保持批判和质疑信息的来源，我们可以利用这些技术的好处，而不会暴露自己的风险。
