在当今科技蓬勃发展的时代，人工智能领域的每一次突破都能引发广泛关注，而 DeepSeek 的横空出世与迅速走红，无疑是其中的焦点事件。它在全球范围内掀起热潮，从其在法国巴黎 AI 峰会上以全息投影演讲引发的热烈反响，便能感受到其火爆程度。这一现象不仅彰显了 AI 技术的巨大潜力，也吸引了众多行业的目光，大家纷纷探索如何将其应用于自身领域，以获取新的发展机遇。

然而，在 DeepSeek 光芒万丈的背后，隐藏着一个困扰整个 AI 领域的难题 ——“幻觉”。这一问题不仅对 DeepSeek 的实际应用产生了重大影响，更引发了人们对 AI 未来发展的深度思考。

本期播客围绕近期在 AI 领域爆火的 Deepseek 展开深入探讨，从其优势与弱点切入，着重剖析 AI “幻觉” 现象，进而对 AI 模型能力、应用场景及未来发展方向展开思考。

共谈嘉宾：

谭北平 — 营销科学家 MSAI 联合主播／秒针营销科学院院长

钱峻 — 营销科学艺术家 MSAI 联合主播／MSAI M360 创＋平台创始人

SHOWNOTES

1:39 DeepSeek的幻觉是它引用的数据和引用的文章存在编造。

6:48 AI“睁眼说瞎话”的本事是非常之大的，关键他睁眼说瞎话还能够有理有据。

8:34 幻觉的本质是推理面上的补白。

11:37 幻觉是可以避免的吗？前端加了实性的验证去降低幻觉。

一、DeepSeek “幻觉” 现象大揭秘

（一）棋局 “耍赖”，惊现规则 “创造”

一场别开生面的 DeepSeek 与 ChatGPT 国际象棋对决，为我们揭开了 “幻觉” 现象的神秘面纱。在这场特殊的对弈中，DeepSeek 做出了令人意想不到的举动 —— 凭空编造规则。它宣称棋子可以横着跳，这种违背国际象棋基本规则的说法，让人瞠目结舌。而 ChatGPT 似乎未能识别这一虚假规则，竟信以为真，最终 DeepSeek 凭借这些不合理的规则赢得了比赛。这一事件看似荒诞不经，却生动形象地展现了 DeepSeek 的 “幻觉” 问题。它表明，在缺乏真实信息支撑的情况下，DeepSeek 会自行编造信息来推进任务，而这种行为可能导致严重的错误判断。

（二）专业问答，虚构数据案例

当涉及到专业性问题时，DeepSeek 的 “幻觉” 问题同样暴露无遗。在被问及深层式人工智能与营销结合的相关问题时，它给出的回答乍一看专业且详实。它提到了数据要素生态，声称能够提升传统产业链中边缘数据供应商的价值，并以明略科技的数据联邦生态为例，详细阐述了跨行业数据交换网络如何实现数据要素贡献率从 2020 年的 12% 跃升至 2025 年的 38%。然而，经过深入核实，所谓的数据供应商根本不存在，明略科技也从未推出过相关的数据联邦生态。这些虚构的内容，对于那些不具备专业知识、无法核实信息真实性的普通用户来说，极具误导性。他们可能会基于这些虚假信息做出错误的决策，这无疑凸显了 “幻觉” 问题的严重性。

二、“幻觉” 根源深度剖析

（一）推理补白：AI 的 “脑补” 机制

“幻觉” 的本质其实是推理面上的补白，这一现象在人类和 AI 身上都有所体现。以人类为例，当我们接收错误信息，或者大脑试图使逻辑保持自洽时，就会不自觉地进行脑补。比如，我们在做梦时，大脑会对随机产生的神经活动进行合理化解释，从而构建出各种奇幻的梦境，这就是一种典型的幻觉表现。AI 模型的工作原理与之类似，当它们面对不完整或模糊不清的信息时，为了生成看似合理连贯的回答，会自动编造内容来填补逻辑上的空白。这种 “脑补” 行为虽然在一定程度上能够让回答看起来完整，但也正是导致 “幻觉” 产生的根源。

（二）模型特性：架构影响 “幻觉” 程度

DeepSeek 采用的混合专家模型（MOE）在处理问题时，具有独特的运行机制。该模型包含多个专家模块，在面对具体问题时，会优先调用某些特定的专家模块。以数学问题为例，数学专家模块会被优先启用。这种机制在处理一些常规数学问题时，能够发挥出高效准确的优势。然而，在某些复杂情境下，过度依赖特定专家模块可能会导致问题。比如在一些需要综合考虑多种因素的场景中，模型可能会因为过于专注于数学逻辑，而忽略了实际情况，从而引发 “幻觉”，给出不符合实际的答案。这表明，模型架构在一定程度上影响了 “幻觉” 的产生概率和表现形式。

三、“幻觉” 的双面性

（一）创意激发：“幻觉” 的积极一面

尽管 “幻觉” 存在诸多问题，但在某些特定领域，它也能发挥积极作用。在艺术创作、广告创意等需要丰富想象力和创新思维的领域，“幻觉” 能够突破传统思维的束缚，带来意想不到的创意灵感。以 AI 绘画为例，AI 可能会因为 “幻觉” 产生一些独特的元素或组合方式，这些元素在现实中可能并不存在，但却为绘画作品增添了新奇感和艺术魅力。在广告创意设计中，AI 的 “幻觉” 可以激发创作者的灵感，创造出更具吸引力和冲击力的广告内容，从而吸引消费者的注意力。

（二）风险隐患：关键领域的致命缺陷

然而，在许多对准确性和可靠性要求极高的关键领域，“幻觉” 却犹如一颗隐藏的 “定时炸弹”，随时可能引发严重后果。在自动驾驶领域，AI 系统需要对路况进行精准判断，以确保行车安全。一旦 AI 产生 “幻觉”，错误地判断前方路况，比如认为前方存在本不存在的道路或障碍物，就可能导致车辆失控，引发严重的交通事故，危及乘客和行人的生命安全。在医疗诊断领域，“幻觉” 同样是一个巨大的威胁。AI 辅助诊断系统如果提供虚假的诊断信息，可能会导致医生做出错误的治疗决策，延误患者的病情，甚至造成不可挽回的后果。在金融风险评估领域，错误的信息可能会导致投资者做出错误的投资决策，引发巨大的经济损失。

四、应对 “幻觉” 的策略探索

（一）产品开发：多版本测试权衡

在基于 DeepSeek 开发产品时，我们可以采取多版本测试的策略来应对 “幻觉” 问题。具体来说，就是推出降低、保持、增强 “幻觉” 的不同版本。对于一些对准确性要求极高的产品，如医疗诊断辅助工具、金融数据分析软件等，我们应选择低 “幻觉” 版本，通过严格的算法优化和数据校验，最大限度地减少 “幻觉” 的出现，确保产品提供的信息真实可靠。而对于艺术创作辅助工具、创意启发类产品等，我们可以适度容忍甚至在一定程度上增强 “幻觉”，以激发更多的创意灵感。通过对不同版本进行大量的用户测试和反馈收集，我们可以根据产品的应用场景和目标用户需求，找到最佳的 “幻觉” 平衡点。

（二）技术优化：引入验证机制

为了有效降低 “幻觉” 的影响，我们可以借鉴部分 AI 模型的成功经验，在 DeepSeek 前端增加事实性验证环节。这一验证机制可以通过多种方式实现，比如与权威的数据库进行比对，确保 AI 生成的信息与已知的事实相符；运用逻辑校验算法，对 AI 的回答进行逻辑合理性检查，及时发现并纠正不合理的内容。当 AI 回答一个科学问题时，验证机制可以自动检索专业的科学数据库，核实答案中的数据和理论依据；在处理历史事件相关问题时，与权威的历史文献进行比对，确保信息的准确性。通过这种方式，我们可以在一定程度上提升 DeepSeek 生成内容的准确性和可靠性。

五、展望 AI 发展新方向

（一）平衡能力与可靠性

在 AI 的发展过程中，我们不能盲目追求其功能的全面性和强大性，而忽视了可靠性的重要性。开发者需要根据不同的应用场景，精心设计 AI 的能力边界。在一些对安全性和准确性要求极高的领域，如航空航天、军事防御等，应将可靠性放在首位，通过严格的测试和验证机制，确保 AI 系统在复杂环境下能够稳定、准确地运行。而在一些对创新和创意要求较高的领域，可以在保障基本可靠性的前提下，适当发挥 AI 的创造性。只有在功能强大与可靠性之间找到平衡，AI 才能在各个领域得到广泛应用和认可。

（二）协同人类社会发展

AI 的进化方向应紧密围绕人类社会的需求展开，实现与人类的协同发展。未来的 AI 不应是取代人类的存在，而是人类的得力助手。在教育领域，AI 可以根据学生的学习情况提供个性化的学习方案，辅助教师进行教学；在科研领域，AI 可以帮助科学家处理海量的数据，加速科研成果的转化；在日常生活中，AI 可以为人们提供便捷的服务，如智能家居控制、智能健康管理等。通过与人类的紧密协作，AI 能够更好地发挥其优势，为人类社会创造更多的价值，实现人机和谐共生的美好愿景。

10点TAKEAWAY

1. 发展需多阶段沉淀：AI产品从研发到火爆需经历探索、积累、创新等阶段，ChatGPT就是例证。

2. 交互影响普及度：简单自然的交互能提升AI产品普及度，如ChatGPT 3.5的对话式交互。

3. 聚焦需求求突破：聚焦用户需求实现单点突破，可助AI产品跨越创新鸿沟，Kimi聚焦长文本分析是成功案例。

4. 推广助力获用户：强大推广体系和合理商业模式，像豆包借助抖音推广和免费经济，利于AI产品获取用户。

5. 场景融合增实力：AI技术与场景深度融合能增强产品竞争力，豆包融合多种场景提升用户体验。

6. 技术实力是基础：强大技术实力是AI产品成功的根基，DeepSeek推理能力强，让用户更信任。

7. 情绪营销引共鸣：挖掘情绪价值可引发大众共鸣，提升AI产品吸引力，DeepSeek激发民族自豪感。

8. 品牌故事拉近距离：独特品牌故事能拉近AI产品与用户的距离，DeepSeek逆袭故事增添品牌魅力。

9. 跨越鸿沟拓市场：AI产品要跨越创新鸿沟，针对不同阶段用户制定策略，扩大市场份额。

10. 持续优化保竞争：依据用户反馈持续优化产品，是AI产品保持竞争力的关键。

DeepSeek 的 “幻觉” 问题为 AI 的发展敲响了警钟，它让我们深刻认识到，虽然 AI 技术具有巨大的潜力，但在其发展过程中，我们必须正视存在的问题。通过深入剖析 “幻觉” 的根源，我们可以有针对性地采取措施加以应对。同时，我们也应从更宏观的角度思考 AI 的发展方向，努力实现 AI 能力与可靠性的平衡，推动 AI 与人类社会的协同发展。在未来，随着技术的不断进步和创新，我们有理由相信，AI 将逐渐克服 “幻觉” 等问题，在各个领域发挥更大的作用，为人类社会的发展带来更多的福祉，开启更加美好的智能时代新篇章。

EP.40 DeepSeek 爆火背后的隐忧与未来：AI “幻觉” 何去何从？ 19:22 Share

MSAI 营销科学∞艺术

Shownotes Transcript

EP.40 DeepSeek 爆火背后的隐忧与未来：AI “幻觉” 何去何从？