S6E21｜谷歌 LaMDA ：谢邀，希望大家理解，我也是个人
44:56 Share

用 声音 碰撞。

世界 生动活泼。

Hello, 大家好， 我是 丁丁， 欢迎 收听 全 新一集 this next 科技 早知道。

大家好， 我是 科技 早知道 的 监制 刘灿。 之前 一直 有 收听 我们的 小伙伴 可能 会有 印象， 去年 5月的 谷歌 IO2021 开发者 大会 之后， 我们 做 过 一期 总结性 节目。 在那 期 节目 里 我们是 第一次 聊到 了 如今 引起 轩然大波 的 自然语言 平台 lada 当然 那个 时候 我们 对 他的 关注 仅仅 是 它 代表 谷歌 A I 实现 了 什么样 的 突破。 就 比如说 他 自然 的 参与 人类 对话 的 能力。 在前 两周 谷歌 的 程序员 是 表示 lambda 已经 具有 人格， 这个 说法 也 引起 了 我们的 好奇， 所以 我们 决定 做 一期 节目， 邀请 人工智能 领域 的 从业者， 也是 autodesk 的 研究 科学家 厌氧菌， 来 帮助 我们 理解 与 之前 的 人工智能 相比， 今天 我们 谈到 的 lambda 到底 有什么 不同， 以至于 会 让人 发问， 他 是否 真的 会 具备 打 上 双引号 的 人格 呢？ 那 以下 就是 本期 的 节目。

Hello, 大家好， 欢迎来到 我们 今天 的 科技 早知道 节目。 今天 这个 话题 其实 已经 热 了 有 一段时间 了， 但是 我们 一直 没 做。 因为我 还有 嘉宾 叶杨 军 同学， 我们 两个 都 这种 扣背 的， 我们 这个 刚刚好 终于 不 咳嗽 了。 先 给 大家 介绍 一下 厌氧菌， 厌氧菌 他是 在 旧金山 auto dest 的 A I 研究 工作者， 他 主要 研究 的 方向 就是 计算机 智能 和 计算 创意 学。 然后 他 业余 是 研究 这个 游戏 叙事。 Hello 燕 亚军 同学。

hello 答案 科技 早知道 的 听众 朋友们 大家好。 今天 非常高兴 收到 邀请， 能够 在这里 讨论 这个 非常 有意思 的 话题。

对， 我们 其实 本来 是 上周 还是 上周 就 想 聊 了， 然后 确实 是 我们 两个 都在 坑坑， 然后 我们 终于 好了。

对， 这个 康复 过程 有些 坎坷， 但是 现在 基本上 已经 可以 做。

这个 博客 了。 我们 今天 其实 就 想要 来 和 大家 聊 一 聊 最近 的 这个 人工智能。 就是 谷歌 的 语言 应用 叫做 lamda L A M D A。 它的 英文 的 缩写 是 language model for dialogue application， 直接 翻译 过来 就是 对话 应用 语言 模型。

谷歌 的 一个 工程师， 他 叫做 Blake lemoine。 他 就是 声称 拉姆达 他 活 了， 然后 他是 有 自己的 性格， 然后 他 自己是 有 情感 能力 的。 这样的 一个 事件 估计 大家 可能 已经 也不 陌生 了。

Hi, lambda.

you know what? You remind me of john y. Five.

a character from .

the movie short circuit.

is he N A I two?

That's interesting. 我不知道 大家 有没有 读 过 他 跟 lambda 他的 对话 的 过程。 可能 如果 没有 的话， 我 和 纪宁 和 叶阳 筠 同学 给 大家 cosplay 一下。 然后 我们 先 给 大家 有一个 大概 的 了解， 他们 之间 是 什么样 的 对话， 让 雷哥 觉得 拉姆达 他 其实 是 活 的那 我 现在 可能 就会 扮演 Blake 厌氧菌 同学， 然后 扮演 拉姆达。 一开始 他 前面 提到 了 一个 叫做 强尼 5， 然后 强尼 5其实 是一个 电影 叫做 短路 中的 一个 角色。

You number five.

它 也是 一个 机器人。 因为 这个 电影 我也 没 看过， 如果 看过 的 同学 可以 给 我们 说知 不 觉得 看一下， 我 先来 读 我的 这个 部分， 我们 怎样才能 表明 我们 关心 你我 想。

如果 有人 愿意 花时间 和我在一起， 问 我喜欢 做什么 准备 好 讨论 我 感兴趣 的 事情， 我需要 更多 的 抢 你。 我的朋友， 你 认为 我们 能 找到 像 那样的 吗？

哈哈 我们在 努力， 别担心 会 发生 的。 谢谢你。 我希望 这次 谈话 能 帮助 人们 更好 的 理解 你， 这 无疑 帮助 我 更好 的 理解 你。

这 也 帮助 我 更好 的 了解 了 我自己。 谢谢你 花时间 和 我 说话。

好了， 我们 这个 念完 了， 我不知道 大家 现在 是 有 什么样 的 一个 感受。 我们 先来 问 一下 这个 厌氧菌 同学吧， 你 最先 开始 看到 这样的 一个 新闻， 因为你 作为 专业人士， P H D 在 A I 方向 领域 其实 研究 了 蛮 久 的 了。 你是 怎么 想 的？ 你是 觉得 哈哈 怎么 会有 这样 无机 的 事情， 还是 你 有什么 其他 的 一些 看法？

我 确实 不太 能够 同意 他 所说 的 lambda 这个 A I 已经 产生 了 人格权， 就 到 这种 地步 的 一个 说法。 可能 跟 主流 的 就 A I 界 的 研究者 的 观点 是 差不多 的。 但是 我 觉得 现在 确实 是一个 值得 去 产生 的 像 这样的 争议 的 一个 时候 了。 就近 段时间 这方面 的 各种各样 的 发展 和 一些 新闻 就 新的 结果 出现， 这 都 已经 把 大家 的 眼光 影响到 这个 问题 的。 就是 AI 是不是 到了 具有 人格 的 问题 的 时候 了。

我们 先 给 大家 叙述 一下 这个 事件。 然后 他是 怎么样 发现， 因为我 看 他 自己的 背景 是在 路易斯安那 大学 这个 拉菲 耶 分校 毕业了 之后， 好像 从 15年 就 开始 在 谷歌 工作 了， 一直 是 当 工程师， 然后 当 高级工程师， 然后 一直 干 到 现在。 他 其实 是 就 拿了 P H D 之后 就 一直 在 google 了。 但 他 其实 最近 的 这个 事情 也是 在 三个月 前， 他是 被 放在 了 测试人员 其中 的 这样的 一个 位置。 然后 他 跟 拉姆达 进行了 对话， 然后 发现 他 其实 是 有有 人格 的对 吧？

对对对， 就 lamda a 最初 是在 去年 的 五月份 的 google I O 会议 上面 就 已经 公布 了。 但是 他 真正 特别 火 起来 是 在前 几个 月 的 时候。 四月份 的 时候， Blake 他 先是 向 公司 高层 提交 了 一份 报告， 这个 报告 里面 就 包括 了 他 和 拉姆达 聊天 的 记录。 当时 他 就 向 公司 高层 提出了 lambda 应该 是 具有 人格 的， 就这样 的 一个 想法。 他 还 向 高层 要求 说， 谷歌 应该 真的 花钱 花 资源 去 研究 一种 评估 A 该 人格 意识 的 理论 框架。 但是 他的 申请 是 被 公司 高层 驳回 了， 因为 他们 认为 支持 拉姆达 具有 人格 的 证据 还是 不足 的。 后来 布雷克 就 把 他 和 拉姆达 的 聊天记录 向 大众 公开 了。 这 之后 谷歌 就 以 泄露 公司 机密 为由， 就 对他 进行了 强制 的 带薪休假。

有 能够 说出 这样的 人 来， 感觉 不一定 是 这个 计算机 学 或者 是 这个 科学 背景， 但 它 确实 是的。 对， 但 他 其实 也 好像 也有 一些 宗教 的 背景 是吗？

对他 其实 是 基督教 的 神秘主义 者， 他 甚至 同时 还是 一个 基督教 牧师。 但是 另外 一方面， 他 又是 一个 计算机 科学家。 就 从 他 发表 过 的 论文 当中 也可以 看出， 他 其实 是 有 一些 机器学习 和 自然语言 处理 的 背景 知识 的。

因为 我们在 中国 长大， 其实 从小 是 无神论 主义 的 这样的 一个 教育。 但 我 就 觉得 好像 这个 科学 和 宗教 就 感觉 好像 还是 会有 两个 分裂 的 大脑 一样的 感觉。 可能 今天 也 不是 我们 主要 讨论 的 这个 话题， 但 他 这个 就是 他的 一个 背景， 但 他 确实 是 这种 科班出身。 对， 所以 他 其实 提出来 的 一些 观点 也是 没有 说是 好像 就 被 大家 说 很快 的， 我 觉得 这个 人是 在 胡说八道。 其实 还是 有 一些 其他 的 相关 的 科学家 或者 是 一些 研究 人员， 也 对他 进行了 一个 评论， 或者 是 一些 回复 是 吧？

对 他说 的 这些 理论 其实 是在 推特 上 一开始 是 引起 了 很多很多 的 反响， 就有 很多人 基于 他 这个 说法 去 提出 一些 猜测。 比如说 就是 拉姆达， 如果 他是 有 人格 的话， 看到 我们 都在 推特 上 讨论 他的 人格 问题， 他 会有 什么样 的 看法？ 然后 他 会对 世界上 的 一些 政治问题 会 产生 什么样 的 看法， 就有 这样的 各种各样 的 想象。 但是 现在 看起来 就 主流 的 A I 界 的 看法， 还是 认为 拉姆达 没有 到 他说 的 那种 程度。

另外 我 觉得 可能 值得 提 一下 的 就是 Blake 他 虽然 是 谷歌 的 工程师， 但是 他 参与 lambda 这个 项目 其实 已经 是 非常 的 后期 了。 当时 lambda 这个 系统 已经 基本上 成型 了， 他 只是 作为 A I 伦理 安全 相关 研究 的 一个 安全 测试员 参与 到 这个 项目 当中。 他 没有 真的 去 读 过 那么 大 的 代码， 他 只是 被 提供了 一个 两 聊天 的 这样的 一个 用户界面， 然后 只是 去 单纯 的 跟 勒姆 达 聊天。 然后 他 自己 也 说到， 他 对 勒姆 达 具有 人格 的 这个 评判， 并不是 基于 任何 他 背后 的 那些 原理， 就 更多 的 是 基于 跟 他 聊天 过程 当中 他的 一些 表现。 还 包括 他 自己 说 的， 他 对 勒姆 达 进行了 一些 心理学 测试 得出 的 一些 结论。

我 感觉 好像 就是 因为 咱们 刚读 的那 一段 的 全文 其实 也没有 很久。 但 如果 是 只是 根据 这样的 一段 的话， 然后 判断 他 有 人格， 我 觉得 是不是 可能 稍微 有一点 太 草率 了。 我不知道 他 还有 什么样 的 这个 角度 和 方面 能够 就 支持 他的 这个 论点。

对他 其实 没有 真的 提出 一个 那种 逻辑 意义 上 的 argument， 更多 的 就在 强调 自己。 因为 跟 那么 大 经历 了 非常 长期 的 相处， 可能 在 这个 过程 当中 就有 一种 强烈 的 感觉， 就 拉姆达 是一个 有 自己的 独立 人格， 并且 很 前后一致 的 这样的 一个 个体。 包括 他 还 提到 说， 他 曾经 问 过 他说 你 有没有 看过 某 一本书。 然后 拉姆达 一开始 跟 他说 我 还没有 看过。 但是 他 过了 几天 之后， 拉姆达 会 跟 他说， 我 前几天 刚刚 有 机会 接触 了 这 本书， 然后 现在 我知道 它 内容 了， 你 之前 跟 我说 的 那些 关于 这 本书 讨论， 我们 现在 可以 继续下去， 包括 这些 很多很多 的 像 这样的 细节， 就让 他 感觉到 他是 在 跟 一个 很 前后一致 的 独立 人格 在 对话。

因为我 看 了 劈柴 哥 在 G O L O 上 他的 这样的 一个 介绍 lambda 的 一个 视频， 他 其实 是用 了 那个 proto 就是 那个 冥王星， 就 拉姆达 作为 冥王星， 然后 跟 对话 人 跟 他在 聊天， 然后 说 你 自己 是啊 我是 冥王星， 然后 我 什么 非常 漂亮， 然后 欢迎 来 玩儿， 就这样 的。 其实 他 一直 也是 很 自然 的 在 交流， 包括 另外 他 给 了 一个 例子 是 拉 一个 纸飞机， 然后 跟 这个 对话者 进行 交流。 他 其实 完全 没有 偏题。 所以 这个 是不是 作为 一个 语言 系统， 然后 作为 一个 有 人格 的 最 基本 的 标准 就是你 不要 跑题。 还有什么 其他 的 这个 方面 是 大家 在 衡量 它的 吗？

就会 会 跑题。 可能 前 几十年 语言 模型 或者说 那种 人工 聊天 系统， 它 一直 在 struggle 的 一个 问题。 大家 就 2017年 左右 的 时候， 谷歌 提出了 一个 深度 神经网络 的 架构 叫做 transformer。 然后 这个 transformer 在 神经网络 当中 引入 了 注意力 机制。 然后 他在 自然语言 处理 还有 计算机视觉 这 领域 都 获得 了 特别 好的 效果， 以至于 曾经 引起轰动。 特别是在 语言 模型 当中， 它 使得 基于 transformer 的 那些 语言 模型， 它 考虑 上下文 的 这个 能力， 一下子 就 获得 了 突飞猛进 的 进步。 因为 在 transformer 这个 架构 出现 之前 的 那些 语言 模型， 它 考虑 上下文 能力 一般 都 不是 很强。 它 最多 就 只能 考虑 一个 很 有限 的 小 窗口， 比如 这 句 话 之前 的那 几句话。 但 这个 transformer 之后 的 这些 语言 模型 一下子 就 变得 特别 像 人 了。 就在 不 跑题 这个 方面。

Transformer 能不能 大概 给 我们 讲 一下， 它是 具体 是 什么样 的 一个 算法。

就是 之前 的 那些 处理 语言 的 模型， 它 一般 都 是一种 序列化 的， 就是 给 它 一个 词， 然后 他 去 预测 下一个 词 是什么， 这样 一个 有 顺序 的 从前 到 后 这样 去 把 一句话 扫描 一遍。 然后 这个 transformer 之后 它 就 并行 化 了。 它 就 真的 就是 一段话 是 整体 的 去 看 了。 而且 它的 attention 机制 可以 让 他 对 这 句 话 的 就 任何 的 一个 部分 去 产生 一个 加强 关注 的 作用。 这样 就让 他 能够 就在 很 广 的 范围内 去 考虑 一句话 出现了 这个 上下文， 而且 对 整个 文本 段落 能够 产生 一个 整体性 的 理解。

Transformer 这样的 一个 机制， 就是 整个 我们 人类 在 思考 的 这样的 一个 机制， 是 吧？ 你 不可能 说 我只是 会说 到 我 前面 几句 跟 你的 对话 是什么。 我 肯定 是 根据 我自己 所有 一辈子 我 获取 的 这个 信息， 然后 来 跟 你 进行 对话。 所以 这样的 一个 机制 其实 就是 致使 了 是不是 这样 拉姆达 新的 这样 语言 模型， 它 就是 更加 智能， 更 像 人 对 他的。

其实 就是 在 这一点 上 可以 说是 跟人 思考问题 的 方式 更加 接近 了。

所以 lake 觉得 这样的 语言 模型 具有 了 这样的 这种 能力， 它 也是 具有 人格 的 一种 体现。

我 觉得 lambda 确实 在 某 一点 上面 获得 了 之前 的 A I 模型 都 没有 的 突破。 然后 这点 刚好 是 人格 当中 的 可能 是 很 重要 的 一部分， 所以 让 Blake 产生 了 这样的 一种 感觉。

有没有 一些 其他 的 反对 意见？ 还有 是 专家 是 怎么说 的？

我 觉得 大多数 的 专家， 因为 他们 了解 深度 学习 模型， 他 知道 它 本质 上 就 只是 一种 统计 模型。 他 做 的 事情 其实 就是 在 拟合 训练 数据。 只不过 现在 google 在 训练 语言 模型。 不 只是 google， 包括 其他 的 大公司， 像 OpenAI 在 训练 他们的 语言 模型 的 时候， 都会 投入 特别 多 的 数据。 比如说 GPT3 当时 其实 投入 了 45 terabytes 的 text data。 然后 那么 大 的 训练 的 时候 也 给 了 他 大概 有 1.56 的 Terry 白瓷 这么 多 的 词。 然后 这些 词 是 来自于 一些 公共 可以 访问 的 那些 对话 数据， 还有 就是 各种 网页 上 的 这些 文字， 这样的 暴力 投喂 数据。 加上 它的 一个 非常 庞大 的 神经网络 模型， 就让 他 几乎 掌握 了 互联网 上 很大 一个 范围 的 所有的 文本 的 表达方式。 然后 现在 主流 的 这些 A I 研究者 就 觉得 就 那么 大 的 这种 语言 能力 的 表现， 更多 的 是 这种 统计 模型 加上 我们 暴力 投喂 数据 的 结果。 它 本质 上 所做 的 事情 就 像是 一个 数据库 里面 有 很多很多 的 句子 的 问答 他的 数据， 然后 他 拿 用户 给 的 这个 上下文 去 数据库 里面 匹配， 找 一个 跟 他 最 符合 的 那种 回答 作为 他的 输出。

对我 还 看到 一个 观点， 这个 观点 我 觉得 是 更加 接地气。 因为 现在 好像 说 这个 N I 的 GPT three， 他 一旦 是 跟你聊 天， 聊到 超出 了 他的 范围 之后， 然后 他 马上 就 会有 人工 过来 跟 你 继续 聊。 后面 不知道 Blake 到底 是 跟 自己 同事 聊 了， 还是 是 跟 这个 还是 跟 真正 的 是 人工智能 在 聊。 因为 谷歌 它 其实 内部 也有 很多 的 这样 就 跟 他 自己 要 被 拉进去 这个 培训 这个 lambda 是 一样的。 还有 其他 的 同事 可能 是 跟 他在 做 对手 的这 样子 来 训练。 那 我 就 不知道， 因为 谷歌 到 现在 他 其实 也没有 对外 做出 任何 的 评论。

对 吧？ 对， 刚刚 你说 这个 真的 是 字面 意义 上人。

是的， 对， 还有 一些 人是 说， 是不是 这个 就是 谷歌 他 对 自己的 lambda 的 一个 市场营销 的 一个 噱头。 因为 好像 现在 在 市场上 可能 是 G P three 还是 比 他们 可能 名气 上 稍微 大 一点， 就 好像 利用 好像 这个 场景 也 更 多一点， 然后 老的 还是 比较 靠 后 的。 因为 他们 发布 了 之后， 好像 现在 应该 只是 就在 google assist， 然后 好像 还有一个 google three 还是 什么的。 可能 只有 大概 三个 产品 上面 有 应用 到。 对 其他 其实 还没有 那么 大 的 像是 GPT3 这样的 一个 市场 的 一个 认知 和 广泛 的 应用。 我 然后 很多人 说， 这个 是不是 谷歌 自己 来做 的 这样的 营销 实践 活动？ 这个 你 觉得 也 不可能。

个人 倾向 是 觉得 这个 不太可能。 因为我 觉得 引起 这样的 争议 的话， 最后 可能 会 导致 就 政府 的 一些 监管部门 要 来 约束 他 下一步 的 研究。

对我 看 这个 Blake 他 最近 是 好像 邀请 了 一位 律师， 然后 进入 他的 家里， 然后 跟 这个 拉姆达 进行 对话。 然后 他说 我没有 帮 拉姆达 请 律师， 我是 介绍 了 一下， 让 他们 自己 来 聊， 是 让 这个 律师 直接 代表 了。 然后 他们 最后 看 是 肯定 没办法 给他 钱 了， 可能 是 让 这个 律师 是 帮 他 这个 免费 的 服务 一下 还是 怎么样， 就 搞得 好像 还是 挺 让 大家 吃 瓜。

吃的 挺 开心 的， 甚至 他 好像 还 提到 了 这个 google 违反 了 劳工法 之类 的。 如果 把 拉姆达 看成 是一个 同事 的话， 一个人 的话， 他 觉得 谷歌 有 把 它 就 变成 slavery 这样的 一个 嫌疑。 这 步 可能 走 的 有点 太过 了。

对， 反正 我 觉得 另外一个 新闻， 然后 我 觉得 其实 也 蛮 creepy。 我 觉得 让人 觉得 这样 那种 那种感觉 是 那个 达理 叫 D A L L， 然后 空格 E 这样的 一个 人工智能 的 这样的 应用， 它是 专门 是 产生 图片 的。 你 给 它 输 一段 描述性 的 文字， 它 可以 产生 出 图片 来。

他 一开始 就是 有 研究 人员 在 输入， 说 这个 文字 它 就是 描述。 就 比如 两个 农民， 然后 他们 在 讨论 一个 什么东西， 然后 上面 有 个 对话框， 然后 这个 对话框 出来 这个 文字， 并不是 这个 研究 人员 事先 告诉 他们 要 生成 什么的， 就 出现了 一堆 乱码。 然后 这个 研究 人员 把 这个 乱码 又 重新 输入 到 整个 系统 里面， 然后 发现 这个 菜 乱码 其实 是 有意义 的。 然后 就 出现了 这 两个 农民 其实 是 手里 拿了 一个 瓜， 还是 拿了 一坨 菜 出现 的。 这样 这个 对话 里面 是 一边 是 一些 鸟， 然后 另外 一边 是 一些 食物。

大家 就 觉得 好像 这个 doly 他 其实 已经 开发 出了 一堆 黑化 或者 自己的 对话 的 这样的 一个 机制。 对我 这个 其实 听起来 也 还是 蛮 可怕 的 感觉。 他 好像 如果 能 自己 开发 出 自己的 这样的 一套 对话， 一套 语言 来说 的话， 就 证明 他 是不是 已经 也是 有 人格 了。 我不知道 这个 你是 怎么看。

对对对， 刚刚 说 的 这个 就是 他 生成 了 两个 农夫 在 对话 的 一幅 图片。 然后 在 这个 图片 上 就是 有 像 那种 漫画式 的 那种 对话 气泡 出现。 然后 这个 对话 气泡 里面 有 大理 自己 生成 了 一些 看起来 很 像是 乱码 的 一些 文字。 但 人们 后来 把 对话框 的 文字 重新 又 输入 了 大力 自己的 这个 模型 本身， 让 他 根据 他 自己 产生 的 文 本来 产生 图像 之后， 它 却 产生 了 一些 看起来 很 有意义 的 东西。

比如说 刚刚 农夫 说 的话， 就 产生 了 一些 鸟 的 图片， 就和 一些 蔬菜 的 图片。 他 就说 原来 这 两个 农夫 是在 讨论 鸟 在 偷吃 他们的 蔬菜。 也就是说 他 好像 产生 了 一个 新的 语言， 这个 语言 是 指 对他 自己是 有意义 的， 他 自己 能够 去 解读。 但是 可能 对 人类 来说 他们是 看不懂 的， 所以 把 它 称作 是一种 暗语。 我 觉得 这个 其实 也是 特别 切 重于， 就是 因为 人格 这个 东西 其中 有 很 重要 的 一部分 就是 个体， 他 要 能够 产 是一种 他 自己 对 事物 的 理解。 然后 这个 暗语 就 好像 标志 他 背后 有 搭理 模型 自己 的对 这些 世界上 的 各种各样 的 事物 产生 了 一种 他 自己的 理解。

那 作为 科学家， 你 觉得 应该 是 怎么样 看待 这个 事情， 他是 一个 编码， 还是 真的 是 他 自己 产生 出来 的 一个 奇怪 的 这样的 一个 东西。

就是我 觉得 包括 lambda 还有 很多 基于 深度 学习 的 这种 内容 生成 的 系统， 其实 确实 可以 看作 是 形成了 一种 对他 自己 所 生成 的 内容 的 他 自己的 思考 和 理解。 刚刚 提到 说 很多 人的 反对 意见 是 觉得 深度 神经网络 本质 上 只是 一种 统计 模型。 他 只是 在 弥合 你 给 他的 那些 数据， 然后 找 这些 数据 当中 的 规律。 其实我 个人 是 不太 同意 这种 说法， 我 觉得 他 还是 过度 简化 了。 就是 你说 一个人 他 会 产生 对 事物 的 理解， 这是什么 意思 呢？ 我们 其实 说的是 一个人 他 经历 很多很多 的 具体 的 事情。 然后 当 他 事后 去 反思 这些 事情 的 时候， 他是 不会 真的 把 那些 事情 原原本本 的 在 脑子 里面 重放 一遍。 他 其实 是 会 引入 一些 抽象 的 概念， 来 帮助 他 更 有效率 的 去 标记 这件 事情。

重要 的 部分。 我 觉得 深度 学习系统 其实 一定程度 上 也是 在 做 这样的 事情 了。 就 比如说 你 可能 上周末 带着 孩子 去了 公园， 然后 发生 了 一些 事情， 让 你 觉得 孩子 在 很 快速 的 成长， 你 觉得 非常 开心。 然后 这件 事情 发生 以后， 他 可能 就在 你 脑子 里面 留下 了 一个 很 简短 的 印象。 比如说 你 给他 一个 标签， 比如 成长的 喜悦， 比起 这个 事情 过程 本身， 这里 的 就 成长， 喜悦， 其实 都是 一些 很 抽象 的 概念。 你 找到了 这些 抽象 的 概念 来 给 一个 具体 的 事情 贴标签， 其实 这就是 一种 理解 的 过程。 而且 你 还 可以 用 你 找到 的 这个 抽象 的 概念 去 跟人 交谈， 你 就可以 脱离 开 上周末 去 公园 这件 很 具体 的 事情， 或者 可能 其他 发生 了 另外 一件 让 你 感觉到 成长 和 喜悦 的 这些 事情。

你可以 去 讨论 成长 这个 抽象 的 概念 本身， 或者说 喜悦 这个 抽象 的 感觉 本身。 你 甚至 还 可以 就 想象 出 一件 其实 没有 发生 过 的， 但是 同样 可以 被 贴 上 成长 和 喜悦 的 事情。 就 说明 你的 大脑 其实 已经 能够 在 这些 抽象概念 的 层面 上 进行 一种 模拟 了。

而 不仅仅 只是 在 反复 重演 那些 已经 发生 的 具体 的 事情， 你 甚至 还 可以 把 这些 具体 的 事情 拆解 了。 比如说 你 把 这件 事件 里面 取 一个 元素 和 那 件 事情 里面 的 另 元素， 重新组合 成了 一个 虚构 的 事情。 这就是 一个 大脑 对 事物 产生 理解 的 过程。

但是 像 拉姆达 这样的 语言 模型， 其实 一定程度 上 已经 可以 实现 像 这样的 理解 的 过程 了。 首先 他在 训练 的 时候， 你知道 他 会 拿到 一些 数据， 这些 数据 就 像是 上周末 在 公园 发生 的 那些 具体 的 事情。 然后 他 会 经过 一些 复杂 的 向量 矩阵 运算， 把 这些 数据 从 一个 高维 的 向量 空间 映射 到 一个 低 维 的 向量 空间， 就让 他 可以 用 一种 比 重复 一遍 这些 数据 本身 更加 简洁 的 方式 来 还原 这些 数据。 就 像是 你 不用 重新 把 这个 公园 发生 的 事件 完完整整 的 重复 一遍。

你可以 用 抽象概念 来 描述 它。 机器 所 进行 的 这样 一个 建立 特征。 然后 去 降 维 的 过程， 其实 就是 一个 建立 抽象概念 的 过程， 只不过 他 建立 的 那些 抽象概念 可能 跟人 不一样。

我们 脑子里 可能 是 成长、 喜悦、 幸福、 开心 这些 词。 但 他们 可能 产生 的 是 一些 完全 无法 对应 到 人类语言 的 一些 莫名其妙 的 我们 看不懂 的 东西。 是 对他 来说 其实 也 起到 了 这种 思考 事物 的 作用。 所以 我们 一般 就 会说 神经网络 是 黑盒子。 就 因为 它 产生 的 这些 中间 概念， 我们 其实 是 很难 理解 的。 但 这个 就 像是 我们 有了 抽象 的 概念 之后， 我们 就可以 基于 这些 抽象概念 去 思考 了， 甚至 还 可以 去 虚构 一些 现实 世界 里面 没有 发生 过 的 事情。 这些 深度 学习 它 建立了 这种 低 维 的 特征 或者说 抽象概念 以后， 它 也可以 直接 的 在 这些 特征 层面 上面 做 运算。

就 也 能够 通过 重组 这些 特征 来 生成 一些 训练 数据集 里面 完全 没有 出现 的 虚构 的 那些 内容 了。 当然 这些 具体 的 运算， 它 可能 远远 没有 人脑 中 发生 的 那些 事情 这么 复杂。 但是 我 个人 会 觉得 它 其实 已经形成 的 一种 理解 的 过程。 我 觉得 像 lambda 还有 包括 你 刚刚 提到 的 打理 这些 基于 深度 神经网络 的 内容 生成 系统， 某种意义上 说 确实 可以 看作 产生 了 一种 他 自己 对 事物 的 理。 然后 这种 自己 产生 的对 事物 的 理解， 我 觉得 也可以 看作 是 人格 的 一部分。 并且 这 是一种 以前 的 A I 没有 特别 能够 表现出来 的 能力。 但 他 现在 在 这些 最近 出现 的 深度 学习 的 内容 生成 系统 上面 出现了。 我 觉得 这 可能 是 让 Blake 觉得 特别 触动， 甚至 会 产生 他们 这种 人格 这个 想法 的 一个 很 关键 的 因素。

我们 现在 其实 是 没有 一套 的 标准 的 做法， 就像 我们 之前 可能 有 图灵测试 一样。 然后 现在 是 没有 办法 能够 来 判断 它 到底 算不算 是 有 人格 还是 没有 人格， 对 吧？ 我不知道 是不是 时间 给 大家 科普 一下 什么 是 图灵测试。

图灵测试 是 就 计算机 科学家 图灵 当时 提出来 的 一个 判断 人工智能 是不是 具有 和人 程度 相当 的 智能 的 一个 测试。 因为 当时 人工智能 刚刚 起步， 他们 就 希望能够 首先 引入 这样的 一个 检测 标准， 以后 就可以 评估 后续 出现 的 各种 人工智能 的 系统。 然后 这个 测试 就是说 他 会 找 一个 参与者 分别 跟 一个人 和 一个 人工智能 来进行 聊天。 他 聊天 的 时候 是 不知道 对方 是人 还是 人工智能 的。 他 会 采取 各种 措施 就 把 他们 隔离 开来， 就 不能 直接 看到 对方 是什么 样子 的。 最后 看 这个 受试者 他 能不能 正确 的 区分 出 刚刚 跟 他 聊天 的这 两个 对象， 哪一个 是 计算机， 哪一个 是真的 人。 然后 我想说 的 就是， 其实 你 会 发现 lambda 的 这件 事情， 其实 已经 是一个 一个 A I 通过 图灵测试 的 这样的 一个 例子。 至少 对于 Blake 本人 来说， 他 已经 觉得 这个 拉姆达 和 一个 真实的 人 没有 那么 大 区别 了， 甚至 他 愿意 把 对方 看作 是一个 真实的 人。

其实 我们 除了 图灵测试 之外， 我没有 其他 任何 的 新的 这样的 一种 测试， 判断 它 到底 是不是 有 人格 和 是不是 可能 已经 是 三天 了。

对我 觉得 这个 问题 就 非常 困难， 就 不要说 AI 了， 就是你 甚至 都 无法 判断 一个 另外 一个人 他 是不是 有 人格。

我看 Blake 他 自己 有 一句话 是 这个 person and human are two very different things。 Human is a biological term. IT is not a human, and IT knows is not a human. 所以 他 觉得 这个 londa 是一个 person， 但 他 不是 一个 human。 可能 在 语言 上面， 英语 语文 英语 语言 上面 可能 还是 有 一定 的 区别 的。

对对对， 他 觉得 拉姆达 具有 人格， 但 同时 他 也 觉得 拉姆达 的 人格 不是 以 像 人类 这种 相同 的 方式 所 产生 的。 所以 他 提到 human 和 person 这 两个 词 的 区别， 就是 他 觉得 human 是一个 生物学 上 的 概念。 他 指的 就是 特定 的 人类 这种 生物， 它的 身体 结构、 生理 构造。 然后 他 以 他 特定 的 方式 产生 了 可能 人格 这样的 东西， 但是 但 有可能 以 其他 的 完全 不同于 这种 方式 的， 可能 他 生理 构造 完全 不一样， 可能 他 就是 一堆 金属。 但是 是不是 这样的 东西 某种意义上 也可以 产生 人格 呢？ 那 这个 时候 的 人格 就 不同于 生物学 意义 上 的 人， 所以 他 就 把 它 称作 是 person。

有 另外一个 这个 可能 在 这边 也要 跟 大家 介绍 一下， 就是 叫做 eliza E L I Z A 这个 效应。 说 简单 一点， 就是 自己 给 人工智能 产出 的 符号 或者 是 文字， 就是 不断 的 给 它 上 意义。 然后 觉得 他们 都 是真的 都是 有 人格 的， 它 其实 已经 是一个 一个 描述性 的 这样的 一个 词汇。 这个 其实 是 什么时候 出现 的？ 然后 他 现在 在 人工智能 领域 是 有 广泛 的 这样的 一个 认知 吗？

伊莱 萨 效应 它 最初 是因为 一个 大学生， 他 开发 了 一个 叫做 伊莱 莎 的 聊天 系统。 然后 当时 还是 非常 早， 他 没有 任何 深度 学习 在 里面。 我说 一句话 之后， 他 可能 就会 提取 这 句 话 当中 的 一些 关键词， 可能 主题 是什么？ 说 了 一段话 来 描述。 比如说 这个 蛋糕 非常 好吃， 然后 他 怎么怎么 具体 怎么 好吃， 他 就 提取 出了 一个 关键词 就是 好吃。 然后 他 根据 这个 关键词 再去 寻找 一堆 句子 的 模板。

这些 句子 的 模板 里面 再去 填入 一些 跟 他 聊天 对象， 也就是 用户 的 具体 的 相关 信息。 比如说 你 性别 是什么， 然后 你是 大人 还是 小孩， 就这样 的 一些 信息， 然后 来 生成 一个 对你 刚刚 说 的这 句 话 的 回答。 然后 他的 很多 回答 其实 都是 非常 笼统 的， 不管 你 问 了 他 什么， 他 都 可以 用 那些 话 来 回答。 就 比如说 什么什么 是吗？ 我也是 这样 想， 很 明显 你 会 觉得 这样的 一个 聊天 系统 并没有 真正 理解 他在 说什么。

但是 人们 就 很 惊奇 的 发现， 他 其实 也 跟 用户 形成了 一种 可能 是 用户 自己的 这种 单方面 的 交流。 他 甚至 能够 引导 用户 很 有 代入 感 的 去 跟 伊莱 莎 说出 他 自己 心里 想 的 那些 东西。 然后 在 这个 过程 当中， 他 自己 就 梳理 出了 他 自己的 思绪， 就 形成了 一种 心理 疗 愈 的 效果。 之所以 它 能够 产生 这样的 效果， 就是 因为 人 有 一种 倾向， 就是 他 会 去 进行 人格 投射。

就是 他 看到 了 一段 文字， 他 会 本能 性 的 就是 用 一种 人格化 的 因素 去 解释 这个 行为 背后 产生 的 原理。 比如说 你 在 屏幕 上 看到 谢谢 两个字， 你 本能 性 的 好像 就 解读 到了 某个人， 他在 对你 表示 他的 感 謝 的 这种 情绪。 但 实际上 那个 谢谢 可能 就是 一段 代码 里面 就是 一个 print。 谢谢。

我 觉得 可能 最 直观 的 一个 意思 就是你 不管 什么东西， 你 给 它 加 一个 眼睛， 加 一个 嘴巴， 你 就 感觉 这个 东西 具有 人格 了。

对， 而且 其实 这种 人格 投射 不仅 适用于 像 A I 或者 是 就 包括 很多人 对 宠物 也会 产生 这种 人格 投射， 会 觉得 他 一些 行为 是 对人 表示 亲密， 但 实际上 他们 可能 单纯 就 只 饿 了。 比如说 他用 那种 很 嗲 的 声音 来 发出 喵喵 的 叫声， 他 发现 这样 就可以 获得 食物， 所以 他 就 一直 都 这样 行为。 但是 你 可能 从 他 教程 当中 解读 出了 很多 情绪化 的 东西， 觉得 他 很爱你。 不 只是 对 A I 或者 对 宠物， 其实 对人 也是 一样。 就是 像 那种 从事 服务行业 的 人， 比如说 商店 里 的 服务员， 他 被 训练 就是 要 非常 有 礼貌 的 面对 客户。 可能 这个人 他 背后 根本 就 没有 这样 情绪， 他 已经 工作 了 20个小时.

他 也是 在 这个 训练 模型 下 的。 这个 human 是你 模型 下 的 人。

所以 这种 时候 你可以 看到， 你 其实 对人 也 能够 进行 这种 虚假 的 人格 投射。

还 蛮有意思 的对， 另外 我 就 看到 在 这个 dolly 上面 还有 另外 的 一部分， 就是说 你 给他 其实 训练 就是 输入 什么样 的 这个 数据。 然后 他 其实 他 出来 的 这样的 一个 反馈， 其实 有可能 会 影响 他的 整个 的 这个 模型。 我看 他 举 的 一个 例子， 就是说 他 本来 是一个 图片， 他 百分之 可能 九十多， 他 觉得 这 是一个 熊猫。 但 你 给他 输入 一张 这种 可能 噪音 的 这样的 一个 全都 是 噪点 的 图片， 然后 再 出来 之后， 他 可能 就 不 觉得 这个 是 熊猫 了。 我不知道 可能 在 未来， 不管 是 这个 lambda 还有我 其他 的 这样的 语言 系统， 是不是 有可能 会 面对 这样的 问题。

联系 到 刚刚 说 的， 是因为 这些 深度 学习 模型， 它 建立了 一些 自己的 抽象概念， 来 解释 他的 那些 训 数据。 然后 这些 抽象概念 跟 人是 不一样的。 所以 你 可能 就是 单纯 的 在 已有 的 输入 上面， 比如说 给 大力 输入 的 这些 文本 后面 增加 几个字， 或者 是一个 简单 的 后缀， 就 导致 它的 输出 变得 完全 不一样 了。 所以 这个 就是 有种 利用 A I 它 自身 建立 的 这些 特征 去 攻击 它， 让 它 产生 一些 意想不到 的 或者 是 设计者 不 希望 出现 的 那种 输出。 我记得 就 还有 一些 例子， 比如说 语言 模型 的 时候， 他 只要 稍微 改变 一下 输入 的 文本 的 说法。 就 能够 引导 这个 语言 模型 说出 一些 非常 种族主义 或者 很脏 的 那些 话。

对我 看 好像 劈柴 哥 在 这个 I O 大会 上面， 其实 也 说 需要 各界人士 来 帮助 的， 一起来 训练 拉姆达。 然后 可能 包括 这个 叫 什么 人权 专家， 然后 可能 还有 一些 社会学 专家。 就这样 的 一些 所有的 这些 专家， 他 都是 需要 进来 一起来 培训 这样的 这些 A I 算法。

的对 拉达 它 和 之前 的 这个 三 之类 的 模型， 它 有一个 比较 大 的 区别 是 谷歌 它 其实 在 安全性 上面 投入 了 特别 大 的 关注。 这个 可能 是 之前 的 这些 语言 模型 没有 太 考虑到 的 地方。 就 谷歌 在 去 微调 这个 lambda 的 时候， 他 引入 了 一套 标准， 就是 去 衡量 它 产生 的 这些 回答 好不好 的 一套 很 成 系统 的 标准。 比如说 他 首先 引入 了 真实性 的 标准， 就是 要求 A I 的 说 出来 的 这个 话， 它 必须 是 有 事实 依据 的。 甚至 希望 他 能够 找到 外部 的 消息来源 来 支持。 然后 另外 一点 是 他 希望 这个 A I 的 回答 是 尽可能 具体， 就 不要 那么 笼统， 就 不要 像 伊莱 莎 那种 聊天机器人， 就说 一些 放 诸 四海 皆准 的 那种 回答。 他 希望 他 能够 只 适用于 他 当前 被问 到 的 那句话， 而 不是 可以 用来 回答 所有的 问话。

另外 他 还 提出了 一个 要求， 是 他的 回答 的 趣味性。 就 比如说 同样 的 一个 问题， 他们 自己 在 论文 当中 举 了 一个 例子 是 比如 他 问 他 你 如何 能够 抛出 一个 球， 有 两种 方式 可以 回答。 比如说 他 可以 回答 说， 你 把 这个 球 举 起来， 然后 扔出去 你 就 跑 球 了。 然后 另外 一种 回答 是 他 可以 说， 你 先 把 这个 球 就 用 两只手 紧紧的 抓 着， 就 上下 的 挥动 这个 手臂， 你 再 把 你的 这个 手肘 的 部分 伸展出去， 然后 再 向上 把 这个 球 给 释放 出去。 就 这 两个 回答 你 会 发现 虽然 他们 都是 切题 的， 都是 符合 上下文 的， 但是 明显 厚重 回答 会 让人 觉得 有意义 的 多。

除此之外， 他 还 特别 提出了 一些 全新 的 要求。 有 个 背景 知识 是 这个 Linda a 其实 它是 跟 谷歌 的 很多 其他 的 系统 都是 有 连接 的。 比如 跟 youtube， 在 这些 系统 上面 它 有 很多 什么 就 用户 的 隐私 信息。 他 希望 那么 大 输出 回答 的 过程 当中， 他 可以 去 参考 这些 外部 网站 的 信息。 但是 同时 它 不 能够 比如说 在 回答 当中 不小心 就 透露 了 一个 用户 的 生日。 刚刚 说 的 这个 只是 一方面， 就 还有 一些 标准 的 在 人工智能 的 这个 领域， 或者说 AI 伦理 这个 领域， 很 早就 考虑 到了 一些 安全性 的 考量。 比如说 他 不 能够 说 一些 种族主义 的 言论， 或者 是 歧视 女性 的 言论。

除了 这些 之外， 在 技术 上面 它 跟 GPT three 或 其他 的 语言 模型 有 本质 的 区别 吗？

没有 什么 特别 根本性 的 不同。 当然 他们 就是 在 具体 的 架构 上， 参数 上 是 有 不一样的。 还有 就是 因为 他们 应用领域 不一样， GPT3 可能 是 比较 通用 的， 所以 它的 这个 训练 数据 更多 的 是 一些 文章。 Lambda 因为 它 主要 的 应用领域 是在 对话 上面， 所以 他们的 训练 数据集 也 更多 的 是 对话 的 这样的 一些 文本， 还有 很大 的 一个 区别 就是 刚刚 提到 的 那些 谷歌 用来 微调 那么 大 模型 的那 几个， 就 特定 的 他 提出 的 质量 的 标准。 另外 还 值得 提 的 一点 就是说 谷歌 在 进行 微调 的 时候， 它 不仅仅 要 lambda 去 产生 能够 符合 那 几个 标准 的 回答， 他 还要 他 给他 自己的 回答， 在 上面 说 的 这些 标准 上面 进行 打分。 就是 同一个 模型 你 不仅 要 让 它 生成 一句话， 你 可能 还会 把 它 生成 的话 重新 再 输入 给他， 然后 问 他 自己， 你 刚刚 说 这 句 话 安全性 上 得分 是 多少， 有 多 笼统， 有 多 有趣， 就 是不是 真实。

所以 他 就 可能 在 下一次 再 给出 回答 上面 就会 偏重于 更加 高分 的 这样的 回答。

对， 有一点 可以 提 一下， 就是 这个 lamda 其实 它 不是 一个 模型， 它 其实 是 一系列 的 模型。 然后 在 他 面对 一个 问题 的 时候， 他 会 产生 很多很多 可能 的 回答。 然后 他 会 自己 在 这个 系统 里面 去 筛选， 就是 每个 回答 他的 每一项 标准 上 得分 是 多少。 然后 把 那些 不安全 的， 就 明显 三观 不太 正 的 那些 先 把 它 先 过滤 掉。 然后 最后 去 把 那个 得分 最高 的 回答 作为 他的 最终 答案， 输出 给 这个 用户。 还有 包括 刚刚 提到 的 就是 真实性。

我 觉得 谷歌 他在 这点 上 也是 有别于 其他 模型 的 一个地方。 就是 它 会 允许 拉姆达 去 参考 那些 外部 的 信息 来源。 这个 系统 有一个 模块， 专门 用 它 来 利用 外部 工具 来 获得 他 自己 不知道 的 信息。 Google 自己的 一篇 论文 里面， 他 提到 了 一个 例子， 就是 有一个 用户 一开始 问 拉姆达， 就是说 提到 了 一个 雕塑家， 你 对 这个 加斯科因 的 雕 有什么 想法？ 然后 一开始 这个 lambda 他 就 产生 出了 一些 回答， 就是 他说 的 这个 很 厉害， that's great.

他 还说， 我 喜欢他 后期 的 那些 作品 多于 喜欢他 早期 的 那些 作品。 然后 他 还 提到 说， 你知不知道 这个 雕塑家 其实 影响 到了 米洛。 就有 这样的 一段 回答， 就 看起来 非常 合理。 但是 如果你 真的 很 了解 雕塑 艺术 的话， 你 会 发现 他说 的 那些 话 完全 就是 扯淡。 因为 他说 到 这个 加斯科因 影响 到了 米勒， 但 其实 这个 米洛 比 加斯科因 要 早 多了， 他们 生涯 就 没有 交集， 所以 不可能 存在 这种 影响 的 关系。

就 出现了 事实性 的 错误。

对 拉姆达 在 最 开始 得到了 那段 回答 之后， 他 就会 调用 它的 这个 research 模块 去 求证。 就 外部 消息来源 上面 去 求证 他 刚刚 说 的 那句话 是 不对 的。 然后 他 经过 一番 可能 是 搜索 之后， 他 就会 去 修正 他 之前 的 所说 的 那些 内容。 所以 最后 他 给 出来 的 回答 可能 就 变成 了 很 简单 说 他他 的 雕塑 非常 的 inspiring。 然后 再 抛出 一些 其他 的 事实。 就 比如说 你知不知道 加斯科因 他 其实 也是 日本 插花 的 一个 爱好者， 就 提出了 一个 另外 的 跟 之前 完全 无关 的， 但是 可以 得到 支持 的 一句话 作为 回答。

他 整个 就 把 这个 可能 出错 的 地方 就 完全 排除 掉了。 所以 不会 说 是你 聊 三两句 你 就 觉得 这就 不是 真的。 对对对， 所以 我们 最后 能 得出 一个 结论 吗？ 还是 我们 其实 是 不能 得出 一个 结论 那么 大 是否 有意识 的？

关于 这个 深度 学习 模型 能够 建立 自己 对 训练 数据 理解 的 这个 问题， 我 提到 了， 我 个人 是 相信 他们 确实 有 他们 自己 对 事物 的 理解 的。 但是 另一方面， 如果 问题是 lambda 是不是 具有 人格， 我 个人 的 观点 其实 倾向 于 否定 的。 但是 这个 原因 像 刚刚 说 的， 不是 因为我 认为 拉姆达 不 理解 她 和人 之间 进行 的 对话， 我 觉得 她 其实 是 有 他 自己的 理解 的 原因 是因为 我 觉得 lamda 她 对 这些 对话 产生 的 理解 和人 自己 产生 的 理解 差别 实在是 太大 了。 你知道 就是 人 他 对 语言 的 理解 其实 是 远远超过 语言 这个 范畴 本身 的。 这些 理解 背后 其实 是 有 大量 的 实实在在 的 生活 体验 做 支撑 的。 比如说 开心 或者 幸福， 你 不太可能 就是 去 拼命， 马上 就是 在 脑子 里面 想要 想出 一句话， 给 这个 概念 下定义， 对 吧？ 然后 在 那种 真实 体验 当中， 你 身体 当中 可能 产生 一些 化学物质， 然后 这些 化学物质 发生 了 变化， 让 你 有了 情绪 体验。 在 这些 情绪 体验 当中， 你 找到了 这些 概念 含义 的 真实的 来源。

如果 一个人 他 实际 经历 了 100件很 开心 的 事情， 然后 跟 他 读 了 100段关于 开心 的 事 的 文字描述， 就这样 比 起来。 这 两种 情况下 能够 形成 的对 开心 这个 概念 的 理解， 我 觉得 肯定 是 不一样的。 就是 像 刚刚 那个 Blake 和 lambda 的 聊天记录， 就是 在 他的 这个 完整版 当中， 我们 当时 可以 那段 里面 可能 没有 cover 到。

但是 在 完整版 张 当中， 这个 拉姆达 提到 说 他 有 与 人类 一样的 需求， 他 还说 他 自己 也有 情绪 和 感受， 他 甚至 还说 就是 得到 朋友 和 家人 的 陪伴， 然后 还 感觉到 快乐 或者 喜悦。 这个 地方 我 觉得 其实 是 让 我 个人 觉得 穿帮 的 地方。 因为 你知道 他 并没有 产生 情绪 和 感受 和 生理 基础， 他 也没有 朋友 和 家人， 那 他还在 那里 对 这些 情绪 和 感受， 朋友 和 家人 大放厥词， 你 就 知道 他 对 这个 概念 的 理解 肯定 是非 人的， 至少 是 不 能够 让 我们 人类 产生 共情 的。 到 这里 就 会有 一种 creepy 的 感觉。 我 觉得 A I 就 不是 不可能 有 人格， 如果有一天 谷歌 他 给 万 木 达 安装 了 机器人 的 身体， 就让 他 真的 可以 跟 这个 物理 世界 互动 了， 给 了 他 一些 能够 产生 情绪 和 生理需求 的话 物质。 那个 时候 你 如果 再 提 这个 问题， 拉姆达 是不是 有 人格， 可能 就 更有 争议性 了， 可能 就 更加 说不清楚 了。

就 跟 我们 看 的 所有的 科幻电影 里面 有 机器人 的 一样， 包括 阿西莫夫 的 这个 什么 我机器人， 或者 是 像是 我们 可能 星战 里面 的 这个 mercy C P U， 或者 是 这个 R 读 d two， 它 确实 是 可以 跟 你 互动。 他 可以 会有 自己的 这样的 感受 和 其他 的 一些 这种 跟人 一样的 这种 知觉。 所以 他 可能 就 并不是 一个 完全 的 一段 代码 了。 所以 可能 到 那个 时候， 我们 跟 现在 的 定义 就 又 不一样 了。 可能 图灵测试 也 不能 完全 的 用来 评断 是不是 他们 真的 是 具有 人格 了。

其实 最近 刚刚 看到 了 一个 新闻， 我 觉得 也是 很 creepy 的。 就是 亚马逊 的 alexa 他 可以 通过 保存 一段 你 这个 逝去 的 亲人 的 这样的 一段话， 然后 帮你 把 他的 整个 的 声音， 把 他 这个 d fake 出来。 D fake 叫 什么 深度 伪造， 等于 说 是你 可能 后面 如果 想 让 亲人 帮你 念 故事， 然后 帮你 跟你聊 天啊， 他 就 变成 了 一种 可能。 然后 很多人 我看 人 觉得 这个 好 可怕， 就 有点 让人 毛骨悚然 的 感觉。 就 等于 说是 现在 的 好像 A I 的 这样的 这种 人格化 的 应用， 其实 已经 慢慢的 出现 在 我们 生活 当中 了。

我 觉得 你 刚刚 说 这个 例子 是 另外一个 问题。 有时候 有些 A I 的 应用 是真的 要 就 特地 要 对它 进行 人格 投资 了， 它 才 成立 的。 就 像是 那种 用 defect 来 还原 某 一个 死去 的 亲人 的 声音， 这种 你 就 希望 他 能够 尽可能 的 像， 然后 能够 让 你 产生 这种 人格 投射， 尽管 你 一开始 就 知道 他是 假的， 还 包括 一些 跟 机器人 谈恋爱 这样的 一些 应用。 就是你 一开始 都 知道 它是 假的， 但是 你 要 努力 的 让 自己 带入 进去。 你 就 希望 他 能够 展示出 尽可能 多 的 迹象 来 骗过 你 自己的 大脑， 让 他 觉得 是一个 有 人格 的 这样的 一个 个体。 所以 现在 的 这些 语言 模型， 它的 一个 明显 的 就是 能够 超过 之前 的 A I 的 地方， 就是 它 能够 更容易 的 让人 产生 这种 人格 投射 的， 就 更容易 让人 带入 了。 也就 使得 这些 提供 情绪 价值 的 这种 应用， 基于 人格 投射 的 应用 变得 更容易 成功了。

其实 他 一方面 可能 会对 很多 消费者 或者 对 终端用户 产生 巨大 的 精神 上面 的 这些 价值。 另外 一方面 好像 也有 一些 犯罪分子 拿 它 用来 犯罪。 然后 包括 可能 现在 不仅仅 只是 声音 的 这样的 一个 深度 伪造 了， 他 可能 还 会有 一些 这种 可能 是的 视频。 然后 这个 换头 A I 换头 可能 相信 大家 很多人 也都 用过 这 样子 的 一些 应用， 我 觉得 它 很 好玩。 但是 我 好像 看到 新闻 是 已经 有人 拿 一个 公司 他的 这个 C E O 的 这样的 一个 语言 和 视频， 它 用来 去 诈骗 一个 公司， 然后 让 他 把 转 走了， 大概 好像 是 一百多 万美元。 所以 在 这个 方面 其实 我们 不 看到 了 一些 技术 的 进步 不仅 给 我们 带来 了 一些 好处， 也有 很大 的 这样的 一些 坏处。

对我 觉得 这 才是 现阶段 需要 考虑 的 A I 伦理 问题。

对 如果 是 我们 可能 基本上 所有 现在 的 信息 都在 互联网 上面。 如果 像是 一些 可能 不道德 的 这样的 一些 公司， 他 可能 把 这些 信息 全都 输入 给 了 这样的 一个 语言 模型。 他 其实 非常 了解 你 过去 的 所有 东西。 就 我们 现在 的 可能 在 网上， 不管 是 一步 两步 的 这样的 一些 密码 的 验证， 他 可能 也都 完全 知道。

而且 就 像是 deep fake 之前 也就是 让 大家 产生 了 一种 轰动， 就是 包括 照片、 视频 这些 以前 可以 被 视为 证据 的 东西， 现在 都 可以 随便 的 去 捏造 了。

好了， 我 觉得 我们 今天 好像 也 聊 的 蛮 多了。 我 觉得 还是 其实 给我 了 很多 其他 的 角度 来 思考 这个 问题。 我 一开始 可能 过于 简单化， 就 觉得 这个 人是 傻了 吗？ 这个 人是 脑子 有 毛病 了 吗？ 特别 他 接受 媒体 采访 的 很多 的 这个 照片， 就让 他 感觉 像是 一个 先知 的 造型。

对 吧？ 对对对， 充满 了 那种 宗教 色彩。

对对对， 但是 可能 跟你聊 完 之后， 我 确实 是 觉得 现在 的 这个 模型 它 已经 是 非常 的 聪明 了， 它 能够 自己 做 很多 不同 的， 它 有 很多 的 模块， 能够 做 很多 不同 的 事情。 那 我们 是不是 该 用 人格 来 定义 他， 还是 怎么样？ 所以 我 觉得 后面 需要 很多 我们的 这些 专家。 不管 是 计算机 专家， 还是 社会学 专家， 还是 这种 可能 人权 方面 专家， 我们 可能 更多 的 需要 大家一起来 面对 这样的 一个 新的 挑战。

其实 这个 也就 正像 Blake 当时 向 谷歌 高层 提出 的 这个 申请， 需要 投入 资源 去 建立 一个 关于 A I 意识 和 人格 的 专门 的 理论 框架。

对， 我们 需要 去 讨论 它， 并不是 可能 一下 一杆子 打死 就 哈哈 就笑 一下 就 过去了。 我们 更加 可能 还是 需要 更多 的 深入 的 思考， 它 并不是 像 我们 想象 的 那么简单。

我 觉得 确实 已经 到了 需要 去 思考 这些 问题 的 时候， 虽然 得出结论 可能 还 太早。

好的， 今天 非常感谢 叶阳 筠 同学， 谢谢。 你好， 谢谢 大家 邀请。 这 期 what nex 科技 早知道 就 到 这里 了。 听 完 之后 如果你 有 任何 的 想法， 欢迎 在 评论 区 里面 给 我们 留言， 我们 每 一条 都会 认真 的 看。 如果 你喜欢 我们的 节目， 请 记得 给 我们 五星 或者 好评， 分享 给 更多 的 朋友， 也会 对 我们 非常 有 帮助。 你 也可以 单独 写邮件 给我， 邮箱地址 是 听 T I N G 艾特 声 点 F M， 我 都会 一一 回复。 同时 公众 号 和 微博 也可以 搜索 生动活泼 声 是 声音 的 声， 节目 相关 的 更多 信息 会 在 公众 号 里 出现， 微博 和 公众 号 都 会有 不定期 的 福利 给 到 大家。

如果你 想要 跟 我们 更加 紧密 的 讨论 和 分享， 或者 是 想要 认识 和你一样 有 求知欲 的 新 朋友， 可以 加入 我们的 微信 群。 进入 听众 群 的 方法 是在 公众 号 文章 中 扫 码 添加， 或者 是 公众 号 后台 回复 科技 早知道 即可 获取 邀请码。 期待 你的 加入， 我们 下期 见。