“AI模仿的声音听着像十年后的我。”近日，高晓松在微博平台公开回应，称大量直播带货的小视频均为AI配音，并无本人参与。

这些AI配音的视频内容一天甚至多达几十条，有时卖书或保健品，让他的舅舅也曾信以为真并下单购买；有时模仿高晓松的声音但读了别人的原创，让其不得不站出来“声明”。

真假难辨的配音，让AI生成内容的真实性再度引发关注。

无独有偶。此前，“豆包机票退款”词条也曾冲上热搜。该事件中，一网友因行程变动，向字节跳动旗下AI助手“豆包”咨询机票退改费用，豆包给出笃定回复，称“手续费仅5%，放心退”，网友未在任何其他渠道核实，便完成退票操作，结果发现实际手续费扣除达40%，损失600元。

发现被误导后，网友找豆包赔付，发去收款码后，发现豆包此前承诺的“全额承担损失”并未兑现，一怒之下，决定起诉字节跳动。

豆包承诺赔付600元。图 / 社交媒体截图

这其实是“AI幻觉”的一种典型表现——迅速而一本正经地胡说八道。

从机票退改，到法律咨询、医疗建议、投资分析……随着生成式AI深入日常生活，“AI幻觉”已经不再只是技术圈里的专业术语，而正在成为普通用户真实遭遇的风险。

我们不禁发问：“AI幻觉”，究竟从何而来？它造成的损失，又该由谁来买单？

01

AI为什么总能“自信地说错”？

许多人第一次遭遇“AI幻觉”时，都有一种相似的困惑：它明明说得那么像真的，为什么还能出错？

“实际上，它并不是在像人类一样‘思考’。”在上海一家大模型公司从事算法研发的卫辛告诉有风君，像豆包一样的大语言模型是一种基于概率的文本生成系统，目前，市面上主流大语言模型的训练逻辑基本为“下一个词元预测”（Next-token Prediction），“可以简单理解为，通过海量文本语境，来做一场完形填空。”

AI幻觉的多种类型（选自清华大学清新研究团队《AI幻觉深度研究报告》）。图 / 公众号“清新研究”

“它们真正擅长的是概率预测，而不是事实核验。”卫辛说，这也正是“AI幻觉”频现的关键原因之一。

“幻觉的产生有很多原因，比如新近事实没有被及时注入模型，模型就会用语言概率来填补知识空白。在医疗、法律等需要高度上下文或专业知识的场景，失真风险尤其突出。”卫辛说，这并非AI在故意“撒谎”，而是因为现阶段的大模型天然倾向于尽量维持对话连贯，避免频繁回答“不知道”。在训练过程中，“流畅、完整、自信”的表达，往往会被系统判定为更优质的回答。因此，即便模型缺乏真实依据，也可能继续生成看似合理的内容。

卫辛补充，除“豆包机票”案例中的幻觉外，AI还可能产生许多种幻觉，如错误引用不存在的法规或论文、错误调用参数或误触流程、在证据不足时补出一套看似严密的解释链等。

与此同时，“AI幻觉”也体现为一种认知风险。人们更愿意相信一个能对话的系统，因此，语气笃定、表达流畅的AI会让人们把表达质量误判为事实质量。

02

AI幻觉，谁来负责？

人与AI对簿公堂，正在全球范围内频繁上演。

2025年10月，德国发生AI幻觉第一案。这是一起针对马斯克旗下AI聊天机器人Grok的诉讼，原告Campact e.V.协会指控Grok在回答用户提问时，输出了损害自己公信力的不实答案。汉堡地方法院受理后，公布了对Grok的临时禁令。

2023年6月，美国两名律师因使用ChatGPT辅助撰写法律文件，向法院提交了多个并不存在的虚假判例，最终遭到罚款。

这些案件的相继落槌，让“AI幻觉”带来的挑战进一步走入公众视野。

我国2023年起施行的《生成式人工智能服务管理暂行办法》明确提出，应“采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性”。然而，现实中，“AI说错话”究竟如何追责，仍处于相对模糊阶段。

今年1月，杭州宣判了全国首例“AI幻觉”引发的侵权案。

一位高考生的哥哥梁某在查询高校信息后，发现AI平台生成的信息存在错误，AI则表示，内容有误将赔偿10万元。一气之下，梁某将AI平台的研发公司告上法庭。杭州互联网法院判决驳回诉讼请求，并表示AI不是一个民事主体，不能作出意思表示。

该案件主审法官、杭州互联网法院一级法官肖芄在采访中表示，生成内容不准确，在当前的技术情况下具有不可避免性。但也不代表服务提供者就可以免责。如果服务提供者尽到了法律规定的注意义务、社会交往过程中的注意义务、合同约定的注意义务后，生成的信息仍然不准确，通常还是不能认定服务提供者存在过错。

全国首例“AI幻觉”案。图 / 央视新闻

某种程度上，AI正在重演早年互联网搜索的发展路径。

十多年前，人们也曾无条件相信搜索结果；后来，公众逐渐学会辨别广告、核实来源。而今天，生成式AI再次把“信息可信度”问题推到了普通人面前。不同的是，这一次，错误信息不再以碎片化网页出现，而是被包装成了“一个看似专业的人，对你认真说的话”。

如何与AI相处，正在成为新的数字素养问题。

对于平台而言，仅靠免责声明显然已经不够。相比简单提示“内容仅供参考”，更重要的，也许是限制AI在高风险领域里的过度自信表达。例如，在涉及医疗、法律、金融等场景时，AI是否应当主动降低确定性语气？是否需要更明确地标注信息来源？是否应该默认引导用户跳转官方渠道核实？

“再确认一次”，或许是这个AI时代里，仍然重要的人类能力。