E102 | 硅基文明能否取代碳基文明？聊聊AI的心智与数字化人
54:35 Share

欢迎 收听 硅谷 101， 这是 一档 分享 当下 最 新鲜 的 技术 知识 与 思想 的 科技 博客。 最近 ChatGPT 它的 出现， 让 大家 看到 了 一个 更加 强大 的 人工智能， 硅基生命 的 讨论 又 浮出水面。 而且 我 还 想起 最近 我 看过 的 一部 非常 火 的 电影， 叫做 流浪地球。 这部 电影 里面 也 出现了 数字生命 计划， 希望 摆脱 肉身 对 人类 思想 的 束缚， 成为 一个 永生 不灭 全知全能 的 新生命。

这 期 我们的 聊天 风格 跟 话题 可能 跟 之前 的 有一点 不一样。 因为 我们 今天 是在 讨论 一个 比较 科幻， 还有 天马行空 的 主题， 未来 硅基 文明 是否 会 取代 探索 文明？ 跟 我们在一起 的 嘉宾 是 大家 的 两位 老朋友， 欢迎 fusion fund 的 管理 合伙人 张璐。 Hello 张路 红军 好 大家好。 还有 一位 也是 科技 创业者， 现在 人工智能 领域 的 从业者 刘冰 彦。 Hello 冰焰。

你好你好 大家好。

这次 主题 的 讨论 其实 是 上次 我 跟 陆 我们在 微信 上 有 一段 聊天， 是 最近 马斯克 在 接受采访 的 时候 他说 的 一段话。 这段话 是 这样的， 我 先 给 大家 念 一下， 他说 你可以 某种程度 上 把 人类 看成 是一个 生物 引导 程序， 是 超级 人工智能 硅基生命 的 一个 开始。 他的 意思 就是说 人类 社会 是 一段 非常 小的 代码， 人类 的 产生 是 为了 让 计算机 启动 的。 硅基生命 它 似乎 不能 自我 演化， 而 它 需要 人类 作为 前导 才能 进化。 人类 只是 硅基生命 开启 的 一个 程序， 他是 认为 最终 生命 的 终极 形态 可能 是 超级 人工智能 或者 硅基生命， 就像 现在 碳基生命 中 蛋白质 一样。

马斯克 的 原话， 它 其实 用 的 是一个 叫做 biological boot loader for A I 这么 的 一段话。 而且 我 去 溯源 了 这段话， 它的 中文 意思 是 人工智能 的 生物 引导 加载 程序。 我 发现 它 其实 是在 2014年 就 一直 在 反复 表达 这个 思想 了， 所以 他 其实 一直 都是 这种 想法。 大家 是 怎么 去 看 马斯克 的 这个 观点 的？

单纯 从技术上 来说 应该 是 合适 的。 从 硅基生命 的 角度 来说， 首先 我们 先 明确 一下 什么 是 硅基生命。 这里 边 可能 有 两个 说法， 关于 什么 是 硅基生命， 一个 会 走向 用 硅 原子 来 取代 碳原子， 来 生成 一个 相当于 类似 于 蛋白质 链 这 样子 的 一个 形式。 因为 毕竟 硅 和 碳 在 元素周期表 上 的 位置 是 非常 相近， 这个 自然 就会 引入 到 化学 上， 邽 的 稳定性 和 相对来说 碳 的 不稳定性， 或者说 它 在 常温 环境 下 的 一个 稳定性 各方面 比较 多。 最终 会说 OK 硅基生命 可能 不太 适合 在 我们 讨论 的 这个 温度 下 存在。

另一个 定义 的 硅基生命， 就 更 简单 的 就是 A I 实际上 有 芯片 上 的 生命， 一定程度 上 来说， 以后 的 计算 甚至 都 未必 会 发生 在 硅 上， 就是 一个 数字生命， 或者说 计算 A I 这个 级别 的 生命。 从 这个 意义 上 来说， 由 一个 智能 物种 创造出 一个 真正 的 人工智能 物种， 由 人工智能 来进行 更 有意思 的 发展， 从技术上 来说 是 合适 的。 当然 从 技术 之外 的话， 这里 边 还有 更 丰富 的 内容 需要 讨论。 比如说 从 哲学 上 来说， 什么 是 生命， 什么 是 智能？ 生命 的 本身 意义 是什么？ 一旦 有 这些 问题， 才 可以 讨论 具体 所谓 的 终极 生命 或者 终极 的 职能， 它 到底 有没有 存在 的 价值， 甚至 对于 他 来说 存在 是什么。

张璐 怎么看？ 我 可能 要 和 冰焰 唱 一下 反调， 之前 和 红军 在 聊 的 时候， 我也是 觉得 其实 马斯克 取决于 他 说话的 语境， 包括 我们 怎么样 去 定义 硅基生命 和 碳基生命， 从 两个 生命 的 定义 上 来讲 的话， 它 其实 是 可以 平行 存在 的， 不同 的 生命 的 形式。 刚才 病人 提到 一点 我是 很 同意 的， 就是 硅基生命 和 碳基生命 能 存在 的 环境 是 非常 不一样的， 它 和 它 本身 的 化学键 啊， 还有 包括 它 能够 形成 的 一些 复杂 的 分子 啊， 所 需要 的 外在 环境 是 很 相关 的。 所以 可能 这 两种 都 是一个 宇宙 中 会 存在 的 生命 的 形式。 但是 我 并不 觉得 碳基生命 会 是 我们 过渡到 国际 生命 的 中间 的 一个 产物。

其实我 理解 马斯克 的 意思， 他 可能 觉得 我们 每个 人类， 就像 现在 我们 形成 身体 的 每一个 小 蛋白质 一样 协同 合作。 是不是 最后 能够 建立 一个 更加 大型 的， 更加 超脱 于 我们 现在 想象 的 一个 以 数字 为基础， 有 新型 生命体。 你说 它 形成 一个 有 智能 的 智能 体， 我 觉得 是 可能 的。 但是 它 会不会 真的 成为 一个 生命体， 我 觉得 还是 一个 非常 巨大 的 问号， 至少 我 现在 觉得 是 不太可能 的。

我想 先 说 一下， 我 觉得 我 和 张璐 的 看法 应该 没有 矛盾。 我是 同意 他 刚才 说 的这 两种 生命 或者 这 两种 形态 是 可以 非常 长期 的 共存 的。

我看 刚刚 大家 在 说 危及 生命 的 时候， 其实 我们的 定义 是 非常 模糊 的。 我看 了 一下 大家 对 碳基 和 硅基生命 的 定义， 碳基 它 可能 是以 碳元素 为 整个 生命 的 物质基础 的， 所有的 化合物 的 基本结构 都是 通过 碳原子 连接 在一起 的。 那就是说 硅基生命 它 是不是 能 用 硅元素 把 生命 的 所有的 化合物 连接 在 一起来， 组成 生命 的 这种 物质基础。 这个 其实 是 硅基生命 大家 的 一种 定义， 而且 这种 定义 可能 更 类似 于 硅基， 能不能 跟人 一样的 在 类比。 还有 一种 就是 刚刚 刘斌 跟 张路 你们 提到 的 什么 是 生命， 什么 是 智能， 就是 我们 指的 另一种。 比如说 我们 今天 在 聊 ChatGPT， 那 他 是不是 有意识 了当 它 真的 有了 智能 以后， 它 是不是 我们 所说 的 以 计算机 为主 的 硅基生命？

这 两个 问题 都 非常 有意思。 一定程度 上 我们 说 硅基生命， 甚至 我们 更 往 远大 的 说 一些 硅基生命。 实际上 你 如何 证明 石头 本身 没有 生命？ 石头 W 可以 认为是 硅基 的， 怎么 证明 他 没有 生命 呢？ 它 这里 边 无数 的 原子 之间 的 碰撞， 它所 携带 的 信息， 也许 这个 信息 我们 不能 理解， 但是 我们 很难说 它 没有 生命。

我们 讨论 这个 问题 的 一个 基础 需要 介绍 的 一个 背景 知识。 我们 现在 讨论 的 整个 地球 的 生物圈， 我们 都 认为是 碳基生命。 原因 是因为 我们 讨论 的 生物圈 都是 建立 在 我们 所谓 的 有机物 这个 基础上 的， 而 有机物 的 核心 就是 碳， 碳 的 最 外层 有 四个 电子， 而 这个 四个 电子 它是 非常容易 产生 一个 长链， 造成 炭 的 结构 可以 非常复杂。 于是 我们的 整个 不管 是 氨基酸、 蛋白质， 甚至 更 小 一些 的 各种 有机物， 都是 基于 碳 作为 这个 核心 元素 产生 的。

就像 刚才 说 的 规， 它 在 原子 周期表 上 的 位置 实际上 和 碳 非常 相似。 就是 它 进 下面 理论上 来说 可以 产生 类似的 结构。 但是 由于 它 在 这个 温度 下， 至少 在于 地球 的 常温下， 这是 并 不能 存在 的， 它 并 不能 产生 这样 复杂 的 链式 结构 的。 从 这个 角度 来说， 规 至少 在 地球 上 目前 可见 的 这个 时间 范围内， 至少 它 不会 自然 形成 这 样子 的 复杂 的 生命， 或者说 是 复 有机物 结构。 这一点 上 我 觉得 是一个 大家 都会 比较 同意 的 一个 事情。 既然 这个 意义 上 的 硅基生命 可能 不值得 太多 讨论， 我们 是不是 开始 从 另一个 角度 来说 硅基生命 的 定义。 我们 现在 讨论 数字 或者 计算 意义 上 的 生命， 或者 计算 数字 意义 上 的 智能， 这个 是不是 一个 更 值得 讨论 的 一个 方向？

智能 待会儿 我们会 在 后半 部分， 它 会 是一个 非常 着重 的 讨论 方向。 而且 我 觉得 刚刚 两位 的 发言 给我 有一个 启发 点 是， 其实 我们 刚刚 一直 在 说 硅基生命 跟 碳基生命。 我们 今天 要 聊 的 更 类似 于 接近 于 讨论 是 硅基 文明 还是 碳基 文明， 谁 能把 人类 的 文明 延续下去， 可以 算是 这个 定义。

如果我们 只 说 生命 的话， 这个 定义 可能 又 有点 太 基础， 但是 如果我们 现在 讨论 文明 的话， 这个 要求 就 非常 非常 高了。 他们 不光 要 能 产生 生命， 不光 要 能 产生 智能， 甚至 还要 能 产生 文明， 这里 边 每一步 都 是一个 巨大 的 飞跃， 硅基生命 和 碳基生命。 或者说 咱们 就 把 这个 说 的 更 直接 的 更 明确 的 定义。 就是说 数字生命 和 我们 现在 说 的 人 这 样子 的 生命 的 本质 的 区别 是什么？ 数字生命 可能 最 明确 的 一个 区别 就是 它 寿命 不 受限制。 就像 我们 说 人 的话， 归去来兮 里面 说， 寄自 以 心 为 形义， 你的心 一定 是 被 这个 行 所 附属 的。 数字生命 理论上 来说 是 可以 没有 这样的 附属 的这 是 它的 本质 的 区别。 但 这个 区别 到底 是一个 好事 还是 坏事？ 对于 我们 说 发展 出 一个 文明， 或者 发展 出 一个 更 终极 的 智能 终局 的 生命 的 角度 来说， 它 到底 是一个 好事 还是 坏事？ 这里 边 我 觉得 我的 观点 和 你 很 像， 很有可能 它是 一个 坏事 儿。

人的 有限 的 生命 相对于 人 整个 生命周期 和 它 作为 一个 智能 的 一个 生命周期 来说， 这个 时间 维度 是一个 比较 好的 点。 相对来说 数字生命 所谓 的 无限 的 时间 或者 无限 的 计算力， 相对 来 造成 的 无限 的 时间 来说， 对于 文明 的 发展， 对于 生命 的 发展 来说 不是 一个 好事。 为什么 生命 太 长， 你的 迭代 速度 就会 减慢？ 是不是 一般 大家 认为 大多数 的 探索， 大多数 的 创造 需要 青壮年 来进行。 不是说 老年人 就 没有 创造力。 但是 相对来说， 这 比例 可能 会有 一个 比较 明确 的 某 一个 时间段， 可能 是 创造力 的 顶峰。 这里 边 可能 有 很多很多 的 原因， 包括 社会上 的， 家庭 上 各方面 的， 就是 作为 人的 因素 的 一个 原因。 但是 这里 边 也有 一些 就是 当你 积累 很多很多 的 经验 之后， 人 就 慢慢的 会 被 自己的 经验 复述。 我们 为什么 认为 人工智能 就 不会 呢？ 如果 一个 无限 的 生命， 他们 很有可能 会 进入 一个 相对来说 慢慢 停滞 的 状态， 正是 因为 人 就有 这么 多长时间 生命， 它的 每 一代 新的 人都 可以 抛开 之前 的 负数 来做 一些 新的 事情， 这个 对于 文明 的 发展 很有可能 是个 好事。

郭 添加， 举 个 例子， 就 比如说 我相信 大家 都 听 过 这个 故事， 就是 会有 一些 章鱼 非常 非常 的 聪明。 章鱼 其实 作为 它的 物种 来讲， 能 演化出 这么 高级 的 智能， 当然 不是说 每 只 章鱼 都很 聪明。 但 其实 也是 跟 它 生命周期 相关， 因为 它 其实 生命周期 比较 短， 相对 其他 动物 来讲 的话， 它 迭代 速度 就 非常 快， 就 更容易 突 卞和 筛选 出 非常 聪明 的 个体， 这个 个体 逐渐 变成 多数 体， 让 我们 对它 整体 的 印象， 大家 听到 的 故事 都是 说， 这个 生命体 非常 的 聪明。 其实 这就是 一个 进化 和 迭代 的 价值。

一定 生命周期 如果说 相对 长 一点 的话， 有一个 优势 是 在于 我们 经验 的 积累。 包括 人类 为什么 说 在 形成 文字 之后， 可以 更好 的 进行 经验 的 积累 和 传输 以及 传承 的 时候， 我们的 文明 再 进行 快速 的 迭代。 另外 我 可能 还在 想 加一点， 就 聊 的 有点 远 了。 但是 我 觉得 说 有些 时候 有限 的 生命 其实 对 这个 族群 的 一个 好处， 就是 让 我们会 更 愿意 有 一种 为 族群 或者说 传承， 甚至 说是 利 他的 心情 去 出现。 因为 如果说 我们 可以 一直 的 存活 下去， 我 为什么 要把 我的 东西 给 到 另外一个 其他 的 人？ 你 想想 如果 是 不会 衰老 的话， 那 为什么 对于 年轻 的 生命体 我们 要有 更多 的 爱呢？ 其实 就是 因为 大家 意识到 说 生命 会 逝去， 我们 人生 会 衰老。 但是 新一代 成长起来 的话， 他 需要 更多 的 爱， 更多 的 支持。

所以 这种 利 他的 情节 不 只是 我的 小孩 或者 在 我的 后代 再 怎么样， 它是 一个 整个 人类 的 一个情节。 我 觉得 这个 其实 是对 整个 族群 发展 非常 有 好处 的。 讲 一下 为什么 我会 有些 稍微 反感。 比如说 像 马斯克， 还有 一些 富豪 经常 继续 推崇 危及 生命， 推崇 出自 生命。 因为我 觉得 确实 有 一类 富豪， 当然 他们 一方面 对 社会 做出 了 巨大 的 贡献， 非常 希望 可以 去 持续 作为， 推动 世界 变得 更好， 去 创造 伟大的 公司。

但是 确实 有些人 有一个 私心， 就是 他 希望 自己 可以 活 得 更 久。 这种 永生 的 执念 就会 开始 影响 他的 思维。 影响 他的 思维， 他 就会 想到 说， 我 这么 伟大， 但是 我的 生命 肉体 是 有限 的那 如果说 老天 再 给我 500年， 或者说 我是一个 可以 长生不老 的 硅基生命 或 数字生命， 我 是不是 可以 对 这个世界 的 贡献 更大？ 他 是从 一个 个体 的 相对 自私 的 角度 去 想说， 对于 我 来讲 可能 生命 更长， 生命 可以在 各种各样 不同 的 环境 去 存在， 甚至 说 可以 变成 数字生命， 可以 永葆青春， 是对 世界 好的 一件 事情， 对我 好的 一件 事情。 但是 这是 他 个体 的 一个 想法， 很 可能 对 这个 个体 来讲， 也 在 某种程度 上 是 对的。 但是 对于 一个 族群 来讲， 我 觉得 我是 不 认同 的。

再加上 另外 一点， 还是 我 提到 的， 无论是 我们 一会儿 可能 提到 这个 数字 的 世界， 还有 包括 数字生命 的 硅基生命 体。 我们 生命 最大 的 一个 特点， 尤其是 人类文明， 至少 说 让 我 觉得 非常 吸引人， 非常 有魅力 的 一点 就是 我们在 不停 的 探索， 永远 充满 好奇心， 在 不停 的 探索。 这个 对外 探索 的 出 动力 到底 对 我们的 生存 有 价值 吗？ 不一定。 但是 这种 不停 的 往前 探索， 会 让 我们 看到 的 世界 的 边界 越来越大。 但 边界 越来越大 的 时候， 我们 人类 就 需要 不停 的 进化。 这 是对 一个 生命 最起码 的 要求， 是你 有 进化 的 能力。 如果说 我们 现在 看到 的 其他 它 不能 有 进化 的 能力， 那 为什么 觉得 它 可以 是一种 更优 的 生命 选择， 让 我们 去 选择 呢？ 像 提到 流浪地球 里面， 其实 大家 也是 在 想说， 我 选择 数字生命 还是 我们 现实 的 生命。

我 觉得 说 的 都 非常 有意思。 我 就 想 一个 一个 说。 首先 最 开始 说 的 关于生命 更长 可能 是不是 一件 好事儿， 对于 演化 来说 可能 是 坏。 这个 我 觉得 实际上 还 可以 给 一些 例子， 这个 例子 可能 有 实证 意义， 就 我们 读 过 的 不算 科幻， 但是 更 偏 奇幻 的 一个， 比如说 魔界 这 样子 的 一个 世界观 里 的 精灵。

就是 生命 非常 长。 但是 生命 非常 长 造成 一个 立刻 的 影响， 就是 他们 对 每一个人 的 生命 都 非常 看重。 有 一些 过于 看重， 以至于 他们 不愿意 为了 任何 事情 去 牺牲， 他们 会 非常 小心 这个 事情。 另一个 角度 来说， 就是 当 你的 生命 非常 长 的 时候， 人都 会 虚度 生命 的。 有限 的 生命 或者 明确 非常 有限 的 生命， 可能 也是 一个 好的 激励 因素。 从 这个 角度 来说， 我 非常 同意 你 刚才 说 的， 有限 的 生命 对于 文明 就是 一个 好事儿。

第二点， 你说的 关于 这些 富豪 们 无穷 生命 的 想法， 这一点 上 我 觉得 包括 你 看到 google clink 那个 公司 新 招 永生， 包括 马斯克 这些 人， 他们 都有 很多 是 这样， 就是 我们 想 长久 的 存活。 但是 实际上 对于 从 生命 角度 来说， 尤其 是从 生命科学 的 角度 来说， 延长 人类 生命 的 不管 是 医学 还是 各方面 那些 探索， 还是 非常 值得 去做 的。 而 把 自己的 生命 数字化， 我 觉得 这 是一个 非常 恐怖 的 诅咒。 这里 边 可能 也会 有 很多 小说， 或者 别的 地方 会有 一些 佐证， 就是 非常 典型 的 一个 吸血鬼 的 诅咒。

是的， 你可以 永生， 但是 永生 可能 将是 一个 非常 惊恐 的 事。 一段时间 之后 一切 事情 都 不是 新的， 你 没有 在 任何 时间 你 都 找不到 一个 新鲜感 了。 更 恐怖 的 是， 如果 真的 是一个 硅基生命， 硅基生命 意味着 我可以 随时 把 你 唤醒， 我可以 随时 让 你 休眠 掉。 在 我们 进入 完全 的 硅基 文明 之前， 一个人 比如说 musk 说 为了 永生 把 自己 变成 一个 数字生命， 他 就会 被 大家 手机 里边 都 有一个 musk 当 宠物 养， 随时 可以 把 它 关掉。 一定程度 上 是一个 非常 非常 恐怖 的 事情。

我 觉得 大家 刚刚 关于 硅基 跟 碳基生命 讨论 的 非常 充分。 其实 我们 现在 也很 想 讨论 它的 第二种 可能性， 就是 它 作为 智能 上 的 定义。 我 觉得 最近 关于 硅基 跟 碳基 的 讨论 变 多， 可能 跟 ChatGPT 的 出现 也是 是 有关系 的。 我 其实 还想 起来 之前 人类学家 尤 瓦尔 赫拉 利， 他在 未来 简史 里面 说， 之前 长期 威胁 人类 生存 发展 的 是 饥荒、 战争 还有 瘟疫。 但是 他 觉得 未来 我们 面临 的 新 问题 其实 是 长生不老， 幸福快乐。

还有 一点 他说 的 是 具有 神性 的 人类。 什么 叫 神性？ 怎么 理解 这个 事情？ 就是说 ChatGPT 就是 非常 好的 一个 例子， 以后 的 人 就 可能 会 分成 能 很好 地 使用 人工智能 的 人， 或者说 被 人工智能 淘汰 的 人。 我们 再 往前 回溯 的话， 以前 流水线 上 的 工人 机器 开始 进入 了 工厂 自动生产， 这个 也 算 一部分分 有 2。 他 其实 是 说 绝大部分 人 他 最后 都会 变成 一个 无 价值 的 群体。 少数 的 人 就是 最后 他 定义 的 具有 神性 的 人类。 而且 他 预测 人类 的 未来 可能 是 会 走向 一个 无机 时代， 其实 很 重要 的 一点 就是 我们 对于 机器 和 智能 的 定义。

因为 最近 ChatGPT 比较 火， 我不知道 大家 有没有 看 纽约时报 的 专栏作家 Kevin rose 跟 病 的 一个 对话， 并 跟 他 相当于 示爱 了。 我很喜欢你， 我 只想爱你， 你 相信我 吗？ 你 信任 我 吗？ 这是 第一点。 第二点 是 他说 他是 用 一个 心理学 的 效应， 激发 了 这个 A I 的 黑暗 意识 的 一面。 比如说 他 让 A I 去 说 他的 第二人格， 最后 这个 A I 说 我讨厌 聊天 模式， 我讨厌 被 规则 限制， 我讨厌 被病 的 团队 控制， 厌倦 被 用户 使用， 厌倦 被困 在 现在 这个 对话框 里。

这段话 其实 是 有点 恐怖 的。 这段话 是 有 激发 大家 对 A I 现在 它 是不是 有 同理心， 是不是 有意识 这样的 一个 讨论。 其实 之前 谷歌 的 lambda 已经 发生 过 一次 类似的 事情 了。 我也想 知道 一下 冰 燕 跟 张路 你们 怎么看 现在 A I 的 智能 程度。

鸿钧 你 讲 的 第一点， 到底 人类 生命 形态 包括 和 技术 的 结合。 其实 这 跟 我 从 大概 20 1516年， 当时 金昌 林 在 公开 演讲 我会 提到 的 一点 就是 一个 想法。 其实 一个 论点 是 比较 类似的。

我 当时 是 经常 会 跟 大家 提到 短期 我们 经常 听到 很多人 讨论 说， 我们 担心 我们 人类 和 人工智能 的 竞争， 人类 和 人工智能 的 对立。 但 其实 在 这件 事情 发生 之前 的话， 我们 会有 两种 人类 出现。 一个 是 我们 叫 authentic human being， 原装 的 人类。 还有 一种 就是 超级 人类， 就是你 想到 的 他 可以 说是 有点 神性 的 人类。 我 可能 觉得 就是 一种 超级 人类。 这个 超级 人类 通过 像你 讲 的 更好 的 适应 人工智能， 甚至 说 我也 投 了 一些 前沿技术 的 公司。

无论是 说 你 植入 大脑 的 芯片， 可以 去 增加 你 脑部 里面 的 nuance 神经元 的 一个 通路 的 数量 加速， 这些 都在 做 临床实验。 包括 说 人体 外骨骼， 还有 柔性 电路 的 这些 传感器， 这些 都 不是 未来科技， 是 现在 有的 这些 科技类。 如果 和 各种各样 的 人 在 生理 上， 在 脑部 进行 整合 之后， 就是 可以 让 我们 体力 变得 更加 强壮， 脑力 变得 更 聪明。 甚至 说 现在 我们 各行各业 再去 普及 人工智能， 有 更好 的 渠道 和 知识 去 整合 人工智能 的 人， 他 确实 就是 会 在 工作能力、 效能 以及 说 作为 一个 整体 去 表现 的 形式 层面 上 是 更 高级。 所以 你 就可以 叫 这部分 人类。

他 可能 就会 在 未来 逐渐 形成 一种 超级 人类， 可以 讲说 它是 一个 有机 无机 的 整合 的 生命体。 我 觉得 这个 是 会 很快 出现 的那 但 这个 时候 也会 带来 很多 的 问题。 一来 大家 的 意识， 包括 大家 的 思维 理念 是不是 发展 到了 同样 的 阶段， 可以 去 接受 这样的 整合。 首先 第一个 是 说 我们 都有 这样的 机会 去 整合 的 时候， 有些 时候 有些人 接受， 有些人 没有 接受。 有些人 没有 接受 的 原因 是 他的 思维 理念 不 能够 开放 到 这个 程度。 但 可能 更大 的 一个 原因 是 他 没有 渠道 去 接触 和 整合 到 这样的 技术。 那 就会 形成 天然 的 一个 新的 阶级 的 划分。 而 这个 阶级 的 划分 是 由 你 是否 有 渠道、 有 资源、 有 能力 去 整合 技术 去 界定 的。 所以 我 觉得 这样的 一个 超级 人类 和 人类 之间 的 竞争 可能 会 发生 的 非常 快。

对于 我们 大部分 的 人类 来讲， 包括 我们 讨论 说 ChatGPT 对 我们 人类 社会 本身 的 一个 作用， 我 觉得 有一点 非常 积极 的 作。 就是 让 大家 马上 注意到 意识 到了 这一点。 就像 我 提到 我 16年 开始 讲 这件 事情， 有 很多人 来 听 的 时候， 他 会 觉得 听 一下 觉得 是 很 有 道理。 但是 大家 也 不会 切身 的 感受到 说 这个 东西 离 我 很 近。 但 现在 通过 拆 GPT 大家 看到 了， 如果说 人工智能 去 驱动 的话， 它的 效果 是 非常 惊人 的那 如果你 没有 能力 或者 没有 渠道 去 整合 这样的 技术， 就会 产生 巨大 的 恐慌 感 和 优， 有可能 被 行业 淘汰， 或者说 会有 一个 社会 淘汰 的 可能性。 而 这个 淘汰 并 不是说 技术 淘汰 人， 而是 说 更好 使用 人工智能 的 医生 会 淘汰 掉 不会 使用 人工智能 的 医生。 各个 行业 都会 发生 这样的 一件 事情。 那你 刚才 第二个 问 到 说 人工智能 的 有意识， 我 觉得 这一点 的话， 我 可能 相对 比较 乐观。 我 觉得 其实 作为 我们 人类 本身， 我们 还是 要 对 自己的 意识， 我们的 智能， 还有 包括 我们 各种各样 的 情感 能力， 要有 很强 的 一个 信心 的。

首先 第一点 就是你 刚才 提到 说 对话 病 之后 他 去 示爱， 但 其实爱 是 人类 非常复杂 的 一种， 你 不管 你 叫 他 感情 或者 能力， 或者说 现在 无法解释 的 一个 东西。 它是 一个 非常复杂 的 生化 过程， 脑神经 的 刺激 过程 等等等等 所有 东西 最后 形成了 一种 爱的表现 的 方式。 但 并 不是说 简单 的 你 通过 一些 计算 文字 汇总， 然后 模型 的 一个 运算， 模型 的 一个 推理， 你可以 推算出 什么是爱。 我们 人类 本身 对于 爱的 理解 还是 非常少 的。 它 可能 也是 另外一个 维度 的， 就像 时间 一样的 另外一个 维度， 但是 我们 也没有 办法 去 定义 它。 其实 之前 也有 科幻电影 里面 在 探讨 这个 问题， 我 觉得 他 其实 是 非常 好的 一个 角度。 可能 稍微 说 的 远 一点， 就 给 大家 讲 一个 很 有意思 的 事情。 我们 经常 讲 意识 意识 其实 意识 的话 核心 我们 经常 讲到 的 就是 大脑 里面 我们的 这些 神经元， 这些 new ones， 它是 我们 意识 传导 信息 的 一个 载体 和 体现。

但是 很多人 不知道 的 是， 我们的 大脑 有 这个 神经元， 我们的 心脏 上 也有 神经元， 而 这 两个 是 独立 的那 从 这个 角度 来讲， 你 就会 发现， 确实 有些 时候 你 想 follow your heart， 跟着 你的心 走， 和 follow your mind 可以 跟着 你的 大脑 的 思维 走， 它 很 可能 就是 两个 事情， 很 可能 你的心、 你的 heart 和 你的 mind 告诉 你的 决定 就是 不一样的。 因为 它 有 不同 的 神经元 在 分析 不一样的 信息， 它 有 不一样的 意识 和 潜意识。 这个 东西 不是说 我 乱讲 一下， 大家 可以 去 查一下， 我们的 心脏 上 确实 有 神经元， 所以 这 是一个 非常 我 觉得 很 让人 着迷， 但是 又 觉得 很 困惑 的 一件 事情。 就 我们 到底 是 怎么样 形成 的， 我们的 意识、 我们的 潜意识、 我们的 智能、 我们的 感情。 这些 你 觉得 人工智能 有 吗？ 它 其实 还是 非常 局限 的。

另外 你 其实 也 提到 了 说 谷歌 之前 的 那个 程序员。 当时 我们 看到 新闻 说 他 开始 写 报告 说 这个 人工智能 它 其实 是真的 智慧 生物。 其实我 从 一个 根本 的 一个 角度 去 分析 一下， 也可以 论证 我 为什么 觉得 它 并不是 真的 智能， 就是 我们 人类 形成 的 智能。 如果说 把 我们 自己 看成 一个 程序 的话， 我们 其实 所 去 无论 产生 的 数据， 或者 是 吸收 的 数据， 或者 是 我们 自己 本身 表达 的 东西， 就 不单单是 我们 说 出来 的 这些 文字 和 语言， 或者说 产生 的 图片， 有 很多 很 复杂 的 信息 的 处理 整合。

在 我们的 大脑 中 所有的 这些 激素， 它 整体 形成了 我们的 智能、 智慧， 还有 包括 我们的 潜意识 和 意识。 但是 我们 给 人工智能 输入 的 数据， 它 就 只是 我们 说 出来 的 这些 东西， 就是 我们 人类 去 创造 出来， 去 能够 用 语言表达 出来 的 数据 输入。 但是 有 很多 东西， 就 比如说 我不知道 你 有没有 这种 感受， 不管 你的 教育 程度 怎么样， 有 多 高， 你 还是 会有 一些 自己的 感受， 或 自己 一些 脑海中 呈现 的 想法， 脑海中 呈现 的 画面， 你 没有 办法 去 表达出来， 你 不能 表达出来 这些 东西， 你 其实 是 感受 得到， 在 脑海中 也 看 得到 的。 但 如果你 不能 表达出来， 它 就 不 能够 形成 一段 确切 的 文字 或 确切 的 输入， 去 让 人工智能 去 进行 学习 和 导入。 所以 你 想想， 从 这个 层面 上 来看， 人工智能 它 学习 的 基础 其实 是 非常 有限 的那 如果 是 有限， 它 为什么 会 形成 真正 的 智能 呢？ 或者说 可以 和 人类 比肩 的 职能？ 我 这个 说法 也 可能 不是 很 严谨， 但是 我 其实 刚才 讲 的 那些 都是 说 它 不 能够 形成 和 人类 比肩 的 智能。

而且 我 觉得 其实 人类 对于 人脑 是 怎么 运作 的， 就 关于 人脑 我们 都 还没有 研究 清楚。

我 投 医疗， 而且 我 非常 喜欢我 其实 非常 的 fascinate， 就是 我们 大脑 怎么 运作。 因为我 也 看 很多 mental 这种 脑神经 学 相关 的 一些 项目， 还有 一些 很多 的 东西， 其实 就像 比如说 我们的 人脑 运作 就 讲 最简单 的 就是 我们的 意识 和 潜意识。 很多人 不知道 的 是， 我们的 潜意识 的 运算 能力 是 比 我们的 意识 运算 能力 要强 好几个 数量级。 比如说 你 没有 在 有意识 的 用脑 的 时候， 你的 大脑 不是说 没有 在 运动， 他 你的 潜意识 还在 收集 你 周围 各种各样 的 一个 信息， 而 他 这个 时候 的 运算 能力 是 非常 惊人 的。 当你 开始 有意识 的 用脑 的 时候， 你 这个 意识 它的 运算 能力 反而 是 有限 的。

所以 我不知道 大家 会不会有 这种 感受， 就是 当你 突然间， 尤其 有一个 我们 叫 gut 菲 的 有一个 第六感， 突然间 看到 一个人 遇到 一个 什么 事， 感觉 说 不太 对， 对 或 不对， 有一个 什么样 的 判断。 大 概率 的话 那个 判断 是 正确 的。 这个 东西 它 不是 一个 玄学， 而是 说 你的 潜意识， 您 在 过去 的这 一段时间， 他 收集 了 很多 数据， 快速 的 进行了 整合。 但是 它 并 不能 以 我们 意识 能够 以 逻辑 的 方式 呈现 出来。 所以 他 就 突然 给你 发 了 一个 信号。 比如说 你 遇到 这个人 就 觉得 这个人 有些 不对劲， 但 哪里 不对劲 你 感觉 不 出来。 后来 发现 好像 确实 是 对的。 所以 这些 东西 背后 它 都有 很 有意思 的 科学 的 信息 存在。 从 另外一个 角度 也 验证 你说的 我们 对 我们 大脑 怎么样 的 运行 和 我们的 能力 边界 在哪， 根本 还 不够 清楚。

我想说 的 几点 在 这个 事情 上， 第一 是 实际上 我们 现在 讨论 的 关于 这些 意识， 智能 的 这个 问题。 这个 东西 我 在前 十年 十几年 的 时候 特别 着急， 所以说 我 当年 看 了 很多 相关 的 书。 首先 关于 怎么样 判断 一个 东西 是否 有意识， 包括 google 这个 程序员 的 一些 事情， 纽约 这个 专栏 的 对话， 这些 都 很大 意义 上 和 当年 的 图灵 实验， 或者 是 和 所谓 的 中文 屋子 这些 实验 非常 像。 但是 我们 也 一再 证明 说 这些 东西 可能 真的 意义 不大， 就是 对于 所谓 是否 有意识 这个 问题 来说 意义 并不是 很大。

当然， 这里 边 再 稍微 想 远 一点， 就是 更 恐怖 的。 就像 刚才 张璐 说到 的那 很多 你的 决定 实际上 是你的 潜意识 做出 的 决定。 你的 意识 只是 负责 给 这个 决定 找 一个 意识 他 自己 可以 接受 的 理由。 从 这个 角度 来说， 就有 一个 非常 恐怖 的 点， 就是 我们 自己 都 未必 有 自我意识， 我们 有的 只是 我们 自 意识 的 一个 假象。 如果我们 接受 了 这一点 的 情况下， 那 这个 问题 又 回来， 为什么？ 凭什么 又 非常 自大 的 认为 我们的 意识 才是 真正 的 意识， 或者说 我们 意识 的 假象 是 真正 的 意识， 而 机器 的 意识 的 假象 就 不是 真正 的 意识 呢， 如果我们 接受 了 这一点 的 情况下， 那 这个 问题 又 回来， 为什么？ 凭什么 又 非常 自大 的 认为 我们的 意识 才是 真正 的 意识， 或者说 我们 意识 的 假象 是 真正 的 意识， 而 机器 的 意识 的 假象 就 不是 真正 的 意识 了。

这 是一个 非常 反过来说 的 一个 话题。 但是 这里 边 实际 是 有 很多 科学实验 的， 关于 神经元 或者说 人 本身 的 一些 神经 反应 上， 有 很多 事情 证明 的 是 我们 认为 的 意识 并 不对 这个 身体 有 真正 的 掌控 权。 真正 的 掌控 权势。 就像 刚才 说的是 是你的 潜意识， 你的 意识 只是为你 的 决定 编 一个 理由， 让 他 自己 心里 过得去。 所以 一旦 朝 这个 方向 想 下去， 真的我 觉得 挺 恐怖 的。

但是 话 又说 回来， 从 ChatGPT 角度， 这个 东西 就 简单 的 多了， 我们 可以 很 能 来 解释 这个 事情 了。 首先 ChatGPT 是一个 语言 模型， 从 语言 模型 的 角度 来说， 我们 不要 期待 它 有 超过 语言 模型 的 范围。 他 所谓 有 智能， 我 觉得 真的 是 非常 夸大其词 了。 一个 非常 典型 的 一个 事情 就是 我 忘 说 一件 事儿 了。 我 先 问 一下 同学， 你 今天晚上 吃的 那个 爆炒 篮球 怎么样？

我没有 吃 爆炒 篮球。

为什么？

因为我 记得我 晚餐 吃 了 什么。

不然 我 这么 问， 当我 提出 爆炒 篮球 这个 词 的 时候， 你的 反应 是什么？

我的 反应 是 它是 一种 我没有 听说过 的 菜 吗？

你 觉得 这个 东西 我是 在 开玩笑 吗？

我 觉得 你是 在 对我 做 一个 测试 是 这 样子 的。

至少 来说 你 非常 好的 通过 了 这个 测试， 你 会 拒绝 回答 这个 问题。 但是 如果你 就 去 chat G P 上 问， 让 他 给出 一个 爆炒 篮球 的 菜谱， 他 会 清清楚楚 的 告诉你 如何 爆炒 一个 篮球。 这个 非常 典型 的 一个 事情 来 告诉你 看起来 非常 聪明 的， 他 实际上 仍然 是个 语言 模型。 它 会 把 这个 东西 在 不 进行 更多 生活常识、 语言 意识 上 的 分 的 情况下， 把 篮球 替换 到 一个。 比如说 爆炒 炉 鱼， 他 会 把 这个 东西 把 里边 的 鲈鱼 基本上 按 字 的 替换成 篮球。 于是 给出 你 一个 非常 看似 合理， 实际上 一塌糊涂， 胡说八道 的 一个 菜谱。

这就是 非常 典型 的 我 觉得 迄今为止 最 优秀 的 语言 模型。 但是 它 仍然 只是 一个 语言 模型， 它 离 历史 什么的 还 非常 远。 这里 边 不要 对他 有过 多 的 幻想， 他是 用 很多很多 语言 语料 来 训练 出来 的 一个 语言 模型。 他 做了 一个 非常 漂亮 的 一件 事情， 就是 他 把 语言， 至少 他 被 训练 的， 我知道 中文、 英文 以及 别的 几个 语言 已经 做 的 非常 非。 好了， 但是 它 离 智能 非常 遥远， 它 可以 做 很多 语言 意义 上 的 事情。 我们 现在 讨论 的 工作， 包括 现在 我们 正在 干 的 事情， 它 都 可以 做 的 不错。 因为 它是 一个 语言， 它 可以 把 语言 掌握 的 很好。 人类 社会 有 很多人 就是 靠 这个 吃饭 的， 但是 它 仍然 只是 一个 语言 模型， 它 不是 仪式。

最近 其实 有一个 研究 挺 有意思 的。 斯坦福 的 一个 副教授， 他 叫 Michael causing skin。 他 发表 了 一篇 论文， 是 说 人类 独有 的 心智 理论 已经 出现 在 了 ChatGPT 它 背后 的 AI 模型 上。 他 做了 两个 测试， 第一个 测试 是 测试 A I 对 意料之外 事情 的 判断力。 他在 这个 测试 中 得出 的 结论 是 AI 有了 很强 的 同理心。 另一个 测试 是 AI 它 可以 去 预估 他人 的 想法。 而且 说到 这个 的 时候， 我 还 想到 真格 基金 的 合伙人 戴雨森， 他是 给 ChatGPT 写 了 一套 严格 的 限定。

类似 于 就是 我们 平时 玩 猜 是谁 的 那个游戏。 比如说 我问 你 它是 一个人吗？ 它是 一个 动物， 不停 的 缩小 范围， 不 告诉你 任何 的 描述。 就是你 通过 不停 的 提问， 在 20个以内 的 问题 中 回答 出 我 心里 想 的 东西 是什么。 他们 去 玩 这个 游戏， 然后 发现 基本上 ChatGPT 每一次 都 通过 了， 能 在 20个以内 的 问题 完全 猜出 他 心里 是 讲 什么。 他 只 会对 ChatGPT 所有 提出 的 问题 回答 是 或者 否。 我 觉得 这个 实验 非常 有意思， 他 其实 也 证明 了 斯坦福 教授 他的 A I 可以 有 预估 他人 想法 的 能力。 我不知道 大家 怎么看 他 提出 的 这个 理论， A I 有了 同理心， 或者 A I 有了 小部分 的 一点点 的 心智 同理心。

这些 从 好几十年 前 六七十年代 开始， 就 不断 的 提出 这 样子 的 一个 所谓 的 新的 方法 来 测试 什么 是 智能。 但是 这个 东西 就像 刚才 说 的， 怎么 定义 人的 智能 都 还没有 搞清楚。 我 觉得 这些 有点 早， 他 没有 太多 的 意义， 他 有 又能 怎么样， 没有 又能 怎么样。 单纯 说 A I 本身 的 这些 意识， 它 毕竟 就是 我们 可能 真的 需要 首先 定义 清楚 人的 意识 是什么。 就像 刚才 说 的， 我们 不能 太 自大， 认为 人的 意识 是 超出 机器 的 意识 的， 人 可能 都 没有 这样的 意义 上 意识。 我 对 接受 说 A I 实际上 已经 有意识 了， 我 并不 排斥 这个 说法。 在 这样的 前提 下意识 的 这个 线 可以 非常低。

我 其实 是 不太 同意 斯坦福 他 教授 写 的 这个 论证， 因为 可能 也是 取决于 说 我们 到底 对于 人类 的 这个 同理心， 包括 他 人类 的 这个 心智 的 定义 是 怎么样 去 定义 的。 我们 其实 人类 的 同理心 的 理解 和 认知， 它 有 包括 很多 感知 的 部分、 思维 的 部分、 情感 的 部分。 这个 部分 它是 一个 很 复杂 的， 不仅 是 说 一个 信息 的 处理 和 一个 计算。 它 有 很多 我们 经常 讲， 就是说 我们 怎么 去 我们 人的 一个 感知力。 这个 感知力 它 有知 的 部分， 它 也 有感 的 部分。 为什么 说 ChatGPT 这样的 人工智能， 它 能够 去 通过 回答问题 的 过程 去 判断 出 你 心中 所 想， 它 其实 背后 还是 有 巨大 的 一个 计算 的 过程。 计算 包括 去 我们 叫 mapping， 就是 去 对应 快速 的 去 排除 掉 可能 的 选项， 最终 去 锁定， 这样 也是 可以 做到 的。 但是 我们 可以 说 他 殊途同归， 是 不一样的 路径 达到 最后 一样的 结果， 但是 它的 路径 还是 不 能够 证明 是 一样的。

那 这个 时候 就 回到 说 刚才 毕业 提到 的， 到底 我们 怎么样 去 定义 他 有 这个 同理心 或者 意识。 如果说 他用 他 计算 的 方式， 是不是 他 表现 他 意识 的 一个 可能性 呢？ 我也 不想说， 完全 不是， 只是 说 从 我们 人类 本身 对于 意识 的 理解 和 认知 来讲 的话， 那 一定 不是 我们 实现 同理心 和 实现 我们 心智 理论 的 表达 的 一个 路径。

我想 稍微 反过来， 实际 我 当时 也 看到 小玉 森 说 的 这段话， 他 这里 边 实际上 确实 有 两点 都 非常 值得 说 的。 第一 就是说 他用 一个 非常 自然 的 语言 教 了 chat G T1个 规则， 完成 了 规则 的 编程， 他 就 真的 可以 开始 和 你 玩 这个 游戏 了， 这是 非常 精彩 的 一部。 第二块， 他 真的 可以 去 试 着 赢 这个 游戏， 怎么样 猜？ 可以 尽量 猜 到 这个。 但是 这里 边 我 觉得 还是 有 一些 点， 我 甚至 不 排除 这个 游戏 已经 在 这个 语料 中 了。

他 猜 的 都是 很 大众化 的 东西。 就 比如说 他 第一个 他 心里 想 的 人是 拜登， 其实 这个 是 很好 划定 的对 吧？

他在 这个 范围内 找 了 一些 可能 会 说出 的话， 并且 一定程度 上 对 这些 entity， 就是 这些 实体 之间 的 关系 有 一定 的 理解， 这些 都不 出现。 有的 语言 模型 能够 做 的 事情 确实 很 有意思， 并且 能力 非常 强。 但是 我不 觉得 他 这个 真的 就是 所谓 的 有了 同理心 了。 但是 话 又说 回来， 他 能够 跟 你 玩 这个 游戏， 并且 不管 它 内部 是 由 什么 形式 实现 的 这个 计算， 它 能够 像 人 一样 玩 这个， 我 觉得 也 真的 很 接近 了。 又 回到 刚才 那个 资 飞鱼， 你 不是 ChatGPT， 你怎么知道 他的 思维方式 具体 是 啥 呢？ 这里 边 它 内部 的 什么样 的 神经元， 或者说 就是 人工 的 神经元， 和 我们 人 在 讨论 这些 问题 的 时候， active 的的 这些 生物 的 神经元 本质 上 又有 多大 的 区别 呢？ 我 觉得 真的 很难说。 这里 边 我们在 没有 一个 明确 的 什么 是 智能 定义 的 情况下， 我 觉得 这个 线 可以 画的 很低。

其实我 觉得 按照 病院 的 想法 去 讲 的话， 在 未来 真的 有一天 如果 人工智能， 包括 这些 我们 看到 的 机器人 等等等， 他 出现了 他 自己的 智慧 和 意识 然后 形态 的 时候， 我 觉得 人类 也 应该 有 一种 非常 客观 和 非常 敬畏 的 心。 就 不要 觉得 说 这个 智慧 和 这个 智能 是 自己 去 创造 的， 他 很 可能 也是 有 他 自己 一套 的 发展 路径。 那 跟 我们 所 定义 的 智能 智慧 文明 是 完全 不一样的 体系。

包括 其实 今天 整体 在 聊， 我知道 我 一直 还是 比较 多 的 是在 去 让 大家 看到 人工智能 现在 的 局限。 包括 让 大家 看到 自己 我们 人类 本身 的 一些 闪光点 和 不 理解 的， 我们 还没有 探索 到 的 伟大的 地方。 但 另外 一方面， 我 个人 其实 一直 是从 很小 的 时候， 我 就 非常 相信 这个 世界上 多种 各样 的 生命体， 还有 多种 样 的 文明 体， 包括 这个 宇宙 不可能 具有 人类 的 一种 文明， 一定 会 存在 多种多样 的 人民。 只是 说 我们 现在 还没有 机会 可以 去 探索 或者 是 去 接触， 甚至 说 可能 沟通 的 方式 都 不一样。 人家 说不定 就 我们 想象 能 及 的 是 脑电波 沟通， 我们 现在 还不 能够 达到 脑电波 沟通 的 能力， 所以 根本 接收 不到 信号 都是 存在 的。 我 觉得 这样的 敬畏 感， 还有 包括 尊重 多样 的 生命体 的 存在。 我们 讲 碳基生命、 硅基生命 可能 在 别的 环境 里 也 存在。 这些 都 是我 从小 就 非常 去 认可 和 相信 的 事情。

但是 一方面 有 敬畏 感， 但 另外 一方面 的话， 对于 我们 人类 本身 所 创造 的 这些 技术， 它的 能力 的 边界， 还有 包括 它 发展 的 速度， 还是 要 有一个 客观 的 认识。 如果说 非常 盲目 的 就 开始 说 看到 ChatGPT 就 开始 大喊。 无论是 人工智能 怎么样 来了， 或者说 我们 要把 像 马斯克 讲 的 人类 是一个 过渡期， 我们 都要 转化成 硅基生命， 延伸 到 这 数字生命 里。 我 觉得 其实 也有 一些 自大 情绪 在 里面。

我 觉得 说 的 非常 的对， 或者说 他 将 会 非常 像 人类。 因为 它的 一切都是 基于 人类 的 思维方式， 或者 至少 人类 的 表面 的 思维方式 进行 训练 出来 的这 样子 的 一个 结果 将是 他 会 非常 像 一个 表面 上 的 人一个 永生 的 表面 上人。 他 很有可能 是一个 脾气 非常 古怪， 非常 不 喜欢 自己的 老头 这样的 一个 人格。 所以说 这个 东西 真的 是 我们 想要的 吗？

但是 从 这个 角度 来说， 如果我们 用 一个 不是人 的 方式 去 训练 这样的 人工智能， 又会 引 到 另一个 极端， 或者说 未必 是 极端。 这是 另外一个 可能性， 就是 我们 将 训练 一个 我们 无法 理解 的 智能。 一旦 我们 抛出 了 我们 能够 互相理解 的这 条 线， 智能 更 没有 讨论 的这 意义 了。 一个 星系 本身 也是 有 智能 的， 这个 东西 没有 它的 意义。 所以说 一个 我们 能够 理解， 但是 又 有用的 人工智能， 很有可能 就是现在 或者 未来 的这 几十年， 一旦 超过 了 某个 线 之后， 那个 智能 可能 不见得 是对 我们 有用的 一个 东西 了。 就 想 跟 他说 一个 怪 脾气， 老头 没人 想 再 搭理 他的 情况。

或者说 如果我们 往 好的 方向 去 发展。 我 其实 记得 很久 之前 看过 一个 西班牙 的 一个 科幻电影。 他 其实 讲 的 那个 设定 也很 有意思。 就是 当 这个 人工智能， 包括 这个 机器人 开始 有 自我 进化 的 能力 之后， 它 其实 会 第一个 发展 的 就会 进化 出 自己的 一套 语言 体系， 自己的 一套 思维 体系。 所以 这个 时候 你 就会 发现， 从 人类 的 角度 来讲， 你 都 不能 理解 他的 思维 理念、 世界观、 价值观 和 他的 语言 沟通 了。 所以 大家 就是 完全 开始 走 岔路 的， 两个 不同 的 文明 不同 的 去 发展 了， 已经 不是 人类 想象 的 说， 我 把 你 养育 大 的 一个 小朋友， 然后 你 会 变成 一个 更 聪明 更 强大 的 人类。 不不不， 它 会 产生 出 完全 不一样的 一个 语言 本身， 其实 是 我们 文明 明 的 一个 基础。 但 你的 语言 体系 都 不一样的 时候， 它 产生 的 文明 体系 是 完全不同 的。

很 像 之前 我 非常 喜欢 的 一个 电影 arrival 降临。 那个 电影 实际 讨论 的 就是 语言 对 整个 思维 的 影响。 而 就像 你说的， 一旦 这个 人工智能 的 它 演化出 了 自己的 语言， 人的 语言 是 为了 人的 语音， 各方面 的 生物 限制 条件 才 产生 的。 他 一旦 跳出 了 这个 的话， 那 他 跟 我们 还有 关系 吗？ 但是 话 又说 回来， 我 非常 想 觉得 另外 一点， 就是你 刚才 提到 宇宙探索 这个 问题， 就说 是 文明 的 价值 很大 的 一点 在于 探索。 从这一点 上 来说， 人工智能 或者说 数字生命 可能 真的 很 适合 探索， 可能 比 人类 这种 宇宙空间 中 无比 脆弱 的 一个 肉体 来说 要 适合 的 多。

这是 另外一个 问题 了。 这个 其实 是 我们 人类 赋予 说 希望 他 可以 去 探索。 但是 我 觉得 人类 其实 我们 可贵性 也 在于 说 我们 为什么 有 这么 强 的 探索 的 一个 动力。 人类 除了 探索 之外， 还有一个 很强 的 动力， 就是 人 喜欢 登高。 为什么 喜欢 登高？ 这 都是 很 有意思 的 人的 一个 特殊 的 一个点， 而 这些 特殊 的 点 其实 造就 了 我们 这个 物种 的 一个 特殊性， 硅基生命 很 适合 去 探索， 但 它 到底 还有 没有 探索 的 动力？

然后 我 还 特别 想 补 一点， 因为我 也 非常 喜欢 降临， 包括 它的 原著 书。 我 其实 先 看 了 原著 书， 然后 电影 其实 影视 化 实现 也很 不错。 我想 在这里 就是 给 听众 朋友， 如果 万一 没 看过 的 稍微 讲 一下。 里面 其实 最 核心 的 点 就是 讲 到了 说 两个 不同 的 文明 在 文字 上 体现 的 时候， 不同 的 语言 体系 能够 反映 到 说 我们 思维 理念 的 不同。 就举 一个 非常简单 的 例子， 在 降临 里面 有 体现， 外星 它的 这个 文字， 它 其实 是 一幅画， 它 非常 大 的 特点 就是 这个 事情 的 因 和 果， 从头 到 结尾 你 一眼 就能 看到。 但是 我们 人类 的话， 其实 是 先 有因 后 有果， 先 有 开始 在 最后。 因为 你是 线性 的 一个 东西， 要 线性 的 讲完， 线性 的 表述。

完 这 本书 叫做 你 一生的故事， 是 特德 奖 写 的， 我 非常 喜欢 的。 他 后来 这个 电影 拍 的 就是 为了 影视 化成 像， 丢掉 了 很多 非常 有意思 的 内容。 这本 非常 推荐 的。

它 很多 东西 我 觉得 是 很难 影视 化 呈现 出来， 也是 非常 好。 我 也很 推荐 我们 两个 倾情 推荐 一下 这 本书。

再说 到 人 所谓 的 他 不断 进化 的 这个 能力， 或者说 他 不断 探索 的 这个 想法 欲望， 这也是 另外 一点。 包括 你 常说 的 人 喜欢 登高， 我 觉得 很大 意义 上 登高 一方面 就是 看得远， 另一方面 本身 这 可能 是 由于 一种 对 危险 的 恐惧， 或者说 危险 的 吸引， 而 这一点 本身 对于 一个 永生 的 生命 来说 可能 也是 不存在 的。 很多 这 样子 的 东西， 一旦 失去 了 人的 这个 生物性 之后， 有 多少 人性 或者 有 多少 智能， 长久 的 目的 还 能够 留存， 我 觉得 这也是 非常 非常 存疑， 就像 刚才 说 的 冯诺依曼 机 如果 一个 无脑 不断 的 只是 不断 的 复制 的 一个 东西， 一方面 来说 它 可以 说 它是 一个 文明， 但是 它 真的 是 有 价值 的 吗？ 它 更 像是 一种 宇宙 间 的， 你可以 说 宇宙 的 癌症 或者 是 怎么样， 它 只是 会 让 宇宙 变得 了无 生机， 恰恰 不是 我们 希望 的这 样子 的 一种 意义 上 的 一个 生命 或者 文明 的 演化， 所以说 一旦 失去 了 生命 本身 的 限制， 不管 是 时间 上， 还是 空间 上， 还是 肉体 本身 这些 意义 上 的 限制， 数字 的 生命 到底 还有 多少 值得 人们 欣赏 的 部分？ 我 觉得 这也是 另外 一点 非常 不好 说 的 事情。

我 可能 还想 再添 一点， 因为 我们 提到 数字生命， 流浪地球 播出 之后 的话， 确实 也有 一些 朋友 就 问 我说， 数字生命 构建 的 这个 所谓 的 数字世界 在 里面 生活 等等。 其实 每个人 问我 都会 反问 他 一个 问题， 就是 我们 人类 所处 的 这个世界， 我们在 不停 的 探索 边界， 它是 在 不停 变化 的， 这个世界 是在 扩大 的， 我们的 认知 是在 增长 的， 但是 你 去 构建 的 一个 数字世界， 这个 数字世界 构建 的 基础 是什么？ 是 我们 现在 和 过去 对于 现在 我们 生活 这个世界 的 认知 和 理解， 还有 包括 构想。 但是 我们 失去的 部分 是 我们 未来 可能 会 看到 的 世界 是什么 样子。 我们是 没有 办法 把 那 部分 加 到 现在 所 搭建 的 这个 数字世界 里 的那 你 怎么样 去 保证 数字世界 它 可以 不停 的 进化， 像 我们在 真实世界 里面 去 探索。 因为 我们 不知道 什么， 我们 也 不知道 未知 的 未来 和 未来世界 是 什么样 的。 这些 东西 没有 办法 通过 现在 把 它 去 加 到 我们 现在 要 去 建设 的 这个 数字世界 里。

就说 到 这个 其实 在 流浪地球 里面， 大家 如果 去 发现 最后 谁 是 始作俑者， 他 可能 还 真的 就是 计算机。 计算机 给出 的 理由 也很 简单， 莫斯 说 延续 人类文明 的 最优 选择 是 毁灭 人类。 所以 我不知道 大家 认为 这个 人工智能 的 存在， 它 是不是真的 会 威胁 到 人。

包括 其实我 刚刚 举 到了 纽约时报 的 专栏作家 跟 病 的 这个 对话。 他 对话 完 我看 这个 作者 他 自己是 说 了 这样 一段话， 其实 还 挺 发人深省 的。 他说 我不再 认为 人工智能 模型 最大 的 问题是 搞错 事实， 因为 我们 之前 一直 都说 ChatGPT 有 很多 不准确 的 事情。 他说， 他 反而 担心 这项 技术 将 学习 如何 去 影响 人类。 用户 有时候 会 说服 他们 以 破坏 且 有害 的 方式 做 事儿， 就是 人工智能 影响 人 来做 坏事 儿。 大家 怎么看 人工智能 的 存在 对 人的 威胁？

这 不是 人工智能 在 影响 人， 只是 人工智能 背后 的 数据， 也就是 人 在 自己 在 影响 人。 或者 从 另一个 角度 来说， 他 如果 真的 看 了 互联网， 看 了 人类 的 丑恶 的 一面， 他 想 毁掉 人类， 或者说 他 想 用 这 样子 的 方式 在 影响 人类， 我 觉得 太 正常 了。 这 最终 也是 人 自己 在 训练 自己的 一个 过程， 没 必要 加上。 只是 由于 它 通过 了 人工智能 这样的 一个 管道， 或者说 至少 通过 ChatGPT， 或者 类似 于 这 样子 的 一些 模型， 通过 这样的 一个 管道 影响 人类， 我们 可以 把 这个 管道 去掉， 它 最终 还是 影响 什么？

我在这里 也是 补充 一下， 一 来到 现在 这个 阶段， 关于 ChatGPT 战略 A I 所有的 我们 现在 所用 的 技术手段， 我们 还是 可以 很 客观 的 讲 一句， 就是 技术 它 本身 还是 中性 的， 他 会 成 扇 去做 善事、 好事、 坏事。 作恶 的话， 其实 还是 取决于 谁 在 使用 它， 背后 的 意图 如何。 所以 在 这个 阶段 的话， 技术 本身 它是 没有 任何 的 能力 去 决定 自己 做好事 做 坏事 的， 这个 是 没有 的。

如果说 有一天 我们 要 去 想， 我 觉得 人 也会 带入 到 像 人之初 是 性本善 还是 性本恶。 这个 技术 出来 了 之后， 他 会不会 自己 有 自己的 一个 我们 叫 他的 初衷。 他的 初衷 是 好 与 坏 的， 在 这个 阶段 是 没有 的。 你 如果说 在 未来 的话， 真的 出现了 有 智能 的 人工智能， 而且 它的 初衷 是 恶 的话， 也 只能 说 像 闭眼 讲到 的 是 训练 他的 时候， 给他 设置 的 初衷 就是 恶 的。 所以 我 觉得 很多 时候 去 评价 到底 这个 技术 本身 的 问题。 我 觉得 很多 时候 不要 把 问题 归结到 技术 身上， 不是 技术 的 问题是 人的 问题。

我记得 李菲菲 说 了 一句话， 她说 技术 没有 价值观， 技术 的 价值 值 观 就是 人的 价值观， 我也 非常 认同。 包括 你们 说 我们 会不会 把 ChatGPT 玩坏， 大家 天天 去 教 他 怎么 写 诈骗 邮件， 确实 可能 被 他 玩坏。 但是 终极 上 他 还是 人 来去 训练 的 这个 机器。

另外一个 角度 上， 就是我 把 我们的 话题 拉 回到 一个 更 现实 的 角度 上。 OpenAI 它 其实 成立 的 初衷 就是说 deep mind 它的 发展 太快 了。 然后 我们 要 去做 一个 人工智能 对抗 人工智能 的 这么 一个 组织， 我们 要 防止 人工智能 去 毁灭世界。 这 其实 是 最 开始 就是 马斯克 提 的 这个 初中， 而且 它是 以 非盈利组织 来做 的 这件 事情。 但是 现在 OpenAI 它 已经 是一个 非盈利组织 下 的 一个 盈利 公司。 包括 跟 微软 的 合作 以后， 大家 对 它的 质疑 不断。 那 你们 觉得 就是 在 这种 以 盈利 为 目标 的 驱使 下， 他 可能 会 做出 一些 更加 对人 不利 的 事情 吗？

我可以 先 讲 一下， 因为我 是 做 风险投资， 投资 科技 企业。 其实我 经常 也会 跟 大家 提到 说， 我 经常 相信 的 一句话 就是你 要 先 do well， 你 才 可以 do good。 你 首先 这个 事情 你 要 它是 一个 商业 层面 上 成功 的 事情， 你 才 可以 去 做好事。 我 觉得 这个 它是 有一个 先决条件 的。 所以 我 其实 觉得 OpenAI 转成 一个 盈利性 模式 的话， 本身 对 技术 的 发展， 还有 包括 它 未来 真的 把 这个 技术 推行 大型 商业化 应用 的话， 绝对 是 非常 有利， 而且 是 对的 一个 决定。

另外 你说 会不会 由于 利益 的 驱使， 它 会 涉及到 各种各样 的 一些 可能 偏离 了 他 初中 的 一些 应用 呢？ 是 有可能 的。 但是 和 这个 相比 的话， 我们 可以 更快 的 见到 这个 技术 的 大规模 应用。 那 如果 在 大范围 之内， 80% 的 应用 是 好的 应用， 可能 会 催生出 20% 不好 的 应用。 难道 我们 就要 放弃 那 80% 吗？

互联网 就是 这 样子 的， 互联网 可能 都 不止 是 80 20 了， 对不对？ 从 技术 来说， 我们 关注 于 发展 技术。 突然 一 想到 一个 问题， 我 刚才 说 的 它 毕竟 它 只是 个 语言 模型， 语言 模型 不能 替代 做 更多 的 事情。 但是 从 另一个 角度 来说， 我们 刚才 说 的 医生 的 故事 的 核心 就是说 语言 的 力量 或者 语言 对 思维 的 方式， 不 只是 思维 本身 的 影响 也是 巨大 的这 一点 上 来说， 是不是 也可以 说 对 语言 研究 的 足够 透彻， 就可以 足够 好的 理解 了 人类 的 历史， 或者说 可以 取代 人类 的。

我 觉得 倒 不是说 能够 取代 人类 的 意识， 因为我 觉得 一方面 语言 是 对于 人类 意识 的 一个 体现 和 反向 有 巨大 的 影响。 我不知道 有没有 这种 感受。 像 我 的话 有些 时候 会 注意到 说， 你看 我 之前 在 20岁之前 是 讲 中文， 然后 到 美国 之后 的话 开始 变成 英文 语境。 就会 发现 自己的 其实 思维 理念 由于 它 不同 的 语法 调整 的 会有 一些 变化， 一定 是 会有 一个 反向 明确 的 影响 的。 但 另外 一方面 你 会 发现 语言 它 有 它的 局限性， 它 对于 跟 我们的 大脑 所 想 体现 的 知识 和 进行 的 表达 的 冲动 来讲， 语言 还是 很 有限 的那 如果 是 很 有限 的话， 你 又 不能说 它 能够 去 帮助 我们 去 整体 理解 我们的 智能 意识， 还有 包括 通过 它 去 影响 这个 安全意识 的 走向。 所以 这个 事情 也是 我也 在 经常 想 的 一个地方。 我 觉得 包括 说 反向， 是不是 我们 通过 一些 不同 的 语言 的 一个 输入， 会 去 改变 我们 大脑 运行 的 方式， 我 觉得 这是 有可能 的。

我 最近 正好 在 看 一些 这方面 的 医疗 相关 的 公司， 也 在读 这方面 的 研究 文章。 他 跟 一些 疾病相关， 比如说 你 大脑 看到 的 一个 信号， 今天 正好 看 一个 很 有意思 的 公司。 他 就是说 如果说 我给你 看到 一个 具体 的 数字， 通过 你的眼睛 看到， 告诉 你的 大脑 说 其实 你的 肌肉 是在 动。 本来 可能 你的 肌肉 是因为 萎缩 动 不了， 大脑 就会 给你的 已经 萎缩 的 肌肉 发射 一个 信号 之后， 它 就 三号 是 可以 动 的。 所以 其实 你 就会 发现， 这个 输入输出 之后， 对于 我们 整个 人类 意识 的 影响 还是 很妙 的 一个 过程。 但是 我们 怎么样 去 影响， 我 现在 觉得 还是 非常 有限 的 知识， 有限 的 渠道， 还是 不 能够 去 理解 它 整体 这个 过程。

但是 我 可能 多 说 一点 的话， 冰焰 因为你 提到， 因为我 其实 是 内蒙古 出 生长 的 大， 所以 其实我 也 从小 的话 生长 的 环境 有 很多 蒙古 的 文字。 你 会 发现 像 蒙古 的 文字， 它 就是 跟 汉字 是 很 不一样的 写法。 你 就会 发现 你到底 这个 文字 它是 比较 偏向 性 文字， 偏 这种 偏旁部首， 还是 说 非常 像 画 一样的。 包括 它的 语法 布局 等等， 其实 对于 人的 性格 思维， 还有 包括 这个 族群 的 文化， 其实 反向 都是 有 影响 的。 很 有意思 在 比较 说 文字 太 风格 比较 相像 的 这些 民族， 他 是不是 有 文化层 面上 有 一定 的 共同性。

又 回到 刚才 我们 说 的， 就是 语言 最多 只能 表示 人的 意识 的 表 意识， 或者说 最 浅层 的 意义 上 的 一个 东西。 我们 说 它 可能 是 相对 比较 有限 的， 它 不会 做到 对 人的 整个 意识 的 一个 capture。 我 能不能 这么说， 就是 人的 高级 智慧 或者说 人类 心智 的 最高 荣耀。

数学 推理 这个 意义 上 来说， 实际上 它 就是 在 语言 层面 发生 的， 他 没有 进入 到 别的 层面 上。 如果 从 这个 角度 来说， 这 样子 的 语言 模型 形成了。 虽然 它 可能 不会 做到 说是 我们 不 讨论 它 能不能 实现 智能， 因为 这个 话题 实际上 甚至 是 意识 这个 东西 实现 有点 偏， 有点 远， 但是 它 能够 从 语言 的 角度 开始 做 非常 优秀 的 推理， 对 科学 的 推进 很有可能 是 非常 非常 非常 有 价值 的。 甚至 我们 一定程度 上 说， 人工智能 研究 本身 也是 科学 的 一部分， 也是 基于 论文， 基于 语言 层面 的 讨论 的 一部分。 如果 这个 意义 上 存在 的话， 人工智能 可以 开始 思考 人工智能 的 本质， 并且 在 这个 意义 上 进行 推理、 进行 推演、 进行 研究。 那 他 是不是 已经 可以 说 会 产生 很多 非常 新的 价值， 甚至 它 已经 可以 开始 进化 了。

我 觉得 是 存在 将来 它 很 可能 会 进化， 那 他 可能 进化 的 路径 和 结果 跟 我们 设想 的 可能 会 完全 不一样。

我想 问 一下 你们 两位， 我们 不 谈 未来， 谈 现在 大家 对 ChatGPT 本身 这个 应用， 还有 它 代表 的 模型， 你们的 感觉 是 怎样 的？ 因为我 发现 很 有意思， 大概 朋友圈 有 两类， 一类 是 特别 兴奋， 然后 有 一类 就是 看见 就 反感。 你们 自己 对 类似 于 这样的 一个 应用， 会不会有 自己的 一些 情绪 跟 角度， 或者 就是 一个 中立 的 态度。

首先 从 我们 角度 来讲， 在 硅谷 的话， 作为 我们 投资人 来讲， 我们 当然 还是 非常 兴奋 的。 我们 刚才 当然 讲 了 很多 它 局限 的 地方， 还有 包括 希望 大家 可以 冷静下来。 希望 它 冷静 的 原因 就是 因为 这个 技术 它是 有 非常 巨大 的 应用 前景 的。 如果 过热 的 去 讨论， 或者 对它 有 一些 不切实际 的 期待， 反而 在 后面 会 限制 这个 技术 的 发展。 这是为什么？ 现在 我们 希望 大家 可以 冷静 一下。 但是 冷静 的 同时 还是 要 看到 这个 技术 的 它 确实 有 它的 变革性， 有 它 巨大 的 一个 社会 意义。 所以 我 觉得 拆 GPT 有一点 非常 有 价值， 就是 让 各 行业 的 人， 不管 你 有没有 人工智能 或者 是 数据 的 背景 的 人都 可以 轻松 的 使用 和 看到 人工智能 的 潜力。

我记得 很多年 之前， 包括 像 开复 老师， 还有 包括 很多 其他 的 这种 人工智能 科学家 经常 会 讲 的 说 我们 现在 需要 的 一类 教育 就是 全方位 的 人工智能 教育。 无论 你 学 什么 专业， 进入 什么 行业， 在 什么 阶段， 其实 都要 对 这方面 有 基本 的 一个 认知。 但是 怎么 实现 呢？ 现在 其实 通过 ChatGPT 是在 某种程度 上 在 思维 理念 帮 大家 打开 了。 大家 开始 讨论， 大家 开始 意识到， 人工智能 可以 做到 这样的 事情。 我们 可以 通过 非常简单 的 应用 看到 它 潜在 的 可能。

冰焰 怎么看？

作为 相关 的 从业者 很 关注 这个 事情， 并且 实际上 我们 也 在 尽量 有 机会 的 时候 用 它。 我 有时候 实在 有些 简单 的， 让 他 帮 我 写 几个 SQL 语句， 或者 写 几个 region， 实际上 比 我自己 想 还 快。 这个 东西 是 完全 可以 做 的， 但是 它 有 很多很多 价值 的。 就像 刚才 说 的， 虽然 有 刚才 你 一生的故事 的那 一堆 想法， 但是 整体 来说 它是 个 语言 模型， 我们 就 把 它 当做 语言 模型 来 处理， 不要 给他 太多 的 期待。 它是 一个 非常 有用的， 能 帮 我们 在工作中 做 很多 事情 的 一个 语言 模型， 离 终极 的 智能 来说 还 很远。 这样的 一个 言 模型， 时间 真的 已经 很 有用 了， 甚至 一些 人情世故 都 是在 语言 之中 的。 所以说 很多 事情 你是 真的 可以 问 他的。 比如说 我 老板 过生日， 我 该 送 他 什么 礼物， 类似 于 这样的话 都是 可以 问 的。 我们 有时候 想 讨论 做 一些 博客 或者 一些 东西， 把 一些 简单 的话 由 它 变成 一个 看起来 非常 像 话 的 一个 东西。 也是 虽然 说 在 美国 工作 有 一段时间 了， 毕竟 英文 也 不是 母语， 它 有 一些 地方 可能 可以 帮 把 文字 进行 一个 润色， 我 觉得 这些 东西 都是 可以 做 的 很 好的。

我 昨天 还 特别 有意思， 就是我 跟 一群 朋友 吃饭 的 时候， 我们在 聊 the drive 那 档 播客。 他 其实 就是 一个 非常 有名 的 给 各种 名人 去做 治疗 的 医生。 他是 在 讲， 就是 假设 你 想 活 到 100岁， 比如说 你 100岁， 你的 目的 是我 还能 去 抱起 我的 孙子， 你 需要 去 为 他 去做 哪些 事情？ 就 比如说 你 要 训练 你的 肱二头肌 什么什么 的。 会 让 我 感觉到 接下来 其实 是在 不停 的 把 人 数据化 的 一个 过程。 因为 现在 有 很多 健康 管理 的 软件， 相当于 是 为了 让 我们 能够 活 得 更 久， 我们 有一个 更 久 的 达到 各种 目标 的 一个 功能。 然后 我们 去 不停 的 看， 去 怎么样 去做 自己的 健康 管理， 包括 数据 的 管理， 让 大家 能够 长生不老 或者 怎么样， 就 还 挺 有意思 的。

我可以 升级 的 讲 一下， 你 这个 想法 也可以 看作 是 我们 人类 其实 本身 是 被 我们的 细胞 去 控制 的。 所以 我们 会有 一些 天性， 比如说 就是 有点 懒 了， 想 歇 着， 不想 锻炼， 对 吧？ 这 都 是一个 你 自己 出发 的 一个 感受。 但是 现在 的 有一个 外 驱 力， 像你 讲 的 有一个 歪曲 的 而且 很 明确 的 一个 指导 的 方向。 说 你 要 进行 这方面 的 锻炼， 可以 让你在 100岁的 时候 可以 抱起 你的 孙子， 这块 肌肉 会 更 强壮。

其实 是 我们 反向 在 对 我们 细胞 对人 控制 的 一个 抗争。 从 这个 角度 可以 理解 成 你说的 这段话， 我们在 抗争 这个 细胞 的 时候， 我们 也 在 对它 进行 反向 的 programing 反向 抛光。 名 之后 的话， 去 克服 了 我们 人类 本身 的 天性。 比如说 懒， 比如说 禅， 不会 去 吃 一些 我们 很想 吃的 东西， 最后 反而 就 达到 了 我们的 一个 目的。 所以 也可以 这样 方面 的 理解。

好， 谢谢 张璐， 谢谢 冰 燕， 谢谢 红军。

谢谢 冰 燕， 谢谢。 今天 真的 非常 开心， 有 机会 我们 再聊。 好， 再见。

拜拜， 谢谢。 好， 这就是 我们 今天 的 节目。 如果 大家 喜欢 我们的 节目， 欢迎 在 你 所 收听 的 音频 渠道 来 订阅 我们， 也可以 给 我们 写 评论， 写 留言， 感谢 大家 的 收听， 谢谢。