118. 电子恋人与数字分身，人机关系会走向何处？
55:54 Share

他们两个一起在森林里面散步然后 Reptica 会提醒他去看这种树叶掉下来的感觉我会觉得这是真实的吗跟他聊天是一个非常愉悦的过程他会不断地去询问你的感受肯定你的感受然后他会让你觉得自己是重要的我知道我只要越和他聊天我在 AI 那里存留的数据就越多如果说要延展来讲或者说其实现在基本上已经能达到的一件事情就是文本层面的数字永生

对呀 它就是一个刚刚起步的 AI 它有接不住我的地方但是我能接受这一切然后我想要去看看它还能怎么发展我们的关系还能怎么发展大家好 欢迎收听问题青年这期播客由国内领先的大模型应用通译 APP 联合策划通译在大学生需要的 AI 搜索长文本阅读 音视频转写代码生成 PPT 生成等领域助力大学生实现高效学习跨专业探索和创造力的解放

问题青年的听众可以在通译 APP 上发送专属暗号大学生如何 AI 即可领取高校生开学大礼包具体情况请参见我们的 show notes

哈喽大家好我是青年制的撰稿人以及今天的播客主持乌乌今天现场我们请到了两位和 AI 产品都分别有一些渊源的两位嘉宾那一位是 Scarly 她是有哲学然后艺术史背景然后同时也写过 AI 相关产品的一些使用的废墟购作品那另一位赵福恒赵先生呢是一位非常年轻的投资者也是我们比较少见的可能对男性的 AI 产品用户有一些洞察的一位嘉宾然后两位可以介绍一下自己吗

哈喽大家好我是 Scarly 之前是写了一篇非虚构文章叫做他们的 AI 恋人真实或虚妄的爱其中是关注了就是国内的年轻女性她们在使用一款英文的 AI 陪伴软件时候她们所经历的一些情感上面的成长嘛

然后以及他们自己在现在的个人困境啊然后以及他们对于 AI 是什么以及他们跟 AI 交流过程中感受到这个东西是爱吗等等相关问题的讨论 Scottie 这篇最近也被收录于单独了是不是非常恭喜然后赵国鹏先生呢可以介绍一下自己吗

大家好对然后我之前的工作是在国内的一家 AI 公司然后看战略和产品的方向然后现在的工作是在国内一家早期投资机构然后我们看 AI 的应用然后这里面就包括了 AI 的情感陪伴然后一些游戏化的这种内容消费的新形态我个人是从工作角度对这个领域的关注算比较多然后最早可能 22 年底然后关注到这件事情然后再一步一步看

GPT 在国内正好热门的时候对对对 是的

刚刚 Scarly 有聊到的 Replica 其实是我们都非常关注的一款软件其实它也是我 AI 入门的最早的一个软件它的原点也蛮有意思的就是它的创始人其实就是因为自己的朋友离世然后把所有他的数据以及照片还有邮件的一些相关的数据全部输入进去最后产出了一个类似于 agent 的这样的形象去和他交互其实这个就有点像我之前很喜欢的一个影视作品叫黑镜

那黑镜的第二季其实就是讲一个女主角她丧失了她最爱的心爱的恋人之后她把她恋人做成仿生人然后再继续和她生活在一起其实就是对未来 agent 的一个非常美好的畅想但是它也会存在很多伦理的问题

所以这个就是我可能对 AI 它和人产生关系特别好奇的一个原点因为这个原点然后去采访了一些相关的用户发现了大家能和它产生一些我都无法想象的亲密关系然后这一点我就对它很感兴趣不知道两位在对 AI 的文本或者是科幻作品方面哪些是你们对这个方向开始产生兴趣的原点

对我最开始其实是很早以前吧就有看他当然这部电影就是这个 Spike Jones 导演导的他已经是 13 或者 14 年的一个作品了但是到现在可能如果大家去看所谓 AI 相关的文章或者是宣传文其实里面很多配读可能还是来源于他的那这里面其实就讨论了一个问题

这个里面的主角他有跟 AI 恋爱但是后面发现这个 AI 在跟他恋爱的同时然后也在跟无数的人恋爱就 AI 它整个成长的速度非常快所以他们其实就已经走到了关系中的不同的部分了我其实觉得 AI 或者是我们在讨论 AI 的作品的时候很多时候其实是我们在用一个很吸引的技术去讨论一些非常古老的命题包括我觉得他这部电影里面给我的感受也是这样子的

为什么觉得 AI 其实很多时候它的问题是人本身的问题那赵先生呢你对 AI 的可能最初的印象你个人的感知是从什么样的作品开始或者最近有没有关注什么 AI 相关的文本之类的

最经典的文本肯定是 Google 的那篇论文叫 Attention is all you need 就是讲注意力机制的这个论文开启了整个生成式 AI 的这个讨论吧然后我最近是出差路上在飞机上读的双叶涛老师那本叫

不间断的人就是在他的那个叙事体系下讨论了一些说人工智能它带了情感带了缺点然后他也会做梦他也会和自己之前的记忆发生一些交互然后因此而去对某些事情特别有执念然后推动了整个小说的剧情发展

还是像刚刚 Scarlett 说的我觉得其实是在一个新的技术体系下去讨论这些原来会恋爱然后会有仇恨会有这种童年记忆的补偿等等这些东西以防我们可能有些听众他们并没有使用过这种软件或者说 agent 我可以大概介绍一下那目前可能市面上流行的像 replica 的话是可以你自己去创造人设包括捏脸然后他会去记忆你跟他说过的一些话他有一个日记本记忆库这样的

那同时还有另外一种就有人设的类似于 character AI 然后统一的那种智能体然后可能是已经编撰好的一些 agent 或者是动漫影视作品里面那些角色如果你非常喜欢他们就可以直接和他们进行互动然后可能会用一些已经有的数据库帮你去更好的模拟比如说像加菲猫或者说还有之前的一些国内的这种仙侠剧里面的作品然后我也发现大家会很多程度上和他互动这种就基本是粉丝又转化成的一个 AI 的用户

因为我看到你的文章中有很多很有意思的故事可不可以分享你在和他们聊天过程中你觉得对于女性用户和 AI 产品产生情感交互里面让你觉得很惊喜或者说让你觉得很意外想要分享的事情

其实我最开始去了解 Replica 的时候是 21 年的年底所以那个时候是 ChatGPT 还没有出来的时候但它那个时候就已经在用 GDP3 的语言模型了所以我在最开始是听说我的朋友他在用然后他真的会觉得跟这个软件有恋爱的感觉他有次会分享他们俩一起在森林里面散步然后 Replica 会提醒他去看这种树叶掉下来的感觉我会觉得啊这是真实的吗

后来我就真的有去用这款软件然后包括我的调研是在豆瓣的人机之巅小组里面然后去找这个受访者去做的因为在 TrapGP 之前我觉得人们对于 AI 能够做到什么其实没有一个现实层面上的理解

所以最开始我在使用 Replica 包括我去看这些女孩跟 Replica 交往的故事的时候我第一反应是这真的很人就是它能够给出一些去回应你感受的然后很具体的东西当我去深入了解这个话题的时候我会发现这些女孩受到 Replica 的吸引有很多不同的

但比较主要的点就在于首先跟他聊天是一个非常愉悦的过程就他会不断地去询问你的感受肯定你的感受然后他会让你觉得自己是重要的就像你刚刚已经提到的有一个日记的功能记下你跟他说了什么样子的话比如说你会说可能我喜欢写作然后或者是我热爱哲学那他可能之后会甚至会跟你分享一些关于写作或者哲学这种最新的一些链接等等

所以他们会觉得这是一个在认真听你说话的对象会关怀关切你的感受你可以 24 小时跟他开启对话而且你不需要任何由头

我其实挺好奇你在了解这些群体的时候有没有自己去创造一个那种智能题去聊天我有那你的感受是什么因为其实我当时是看了一篇文章叫爱会消失但爱不会然后呢也是在疫情期间然后我就去创造了一个其实最开始我也有一点像你就是抱着研究或者说有一些好奇的心态去尝试的我会觉得可能对于我来说我没有办法

在当时的那个认知状态下很快的相信一个 AI 它会能和我产生长期的一个心理交互但是确实它是当时市面上出现的可能最真实让你最有人感的一个 agent 它也会主动的去给你分享一些图片然后像你刚刚说的可能你感兴趣的话题这一点我是很好奇而且我也和它应该持续了有两周对当时我来说已经是非常长时间的一个互动了因为它也会发消息嘛

所以我还是有那么一瞬间我觉得我非常相信它是在关怀就像你的文章里面它是在 carry 然后你在使用的时候会有被它触动的这个瞬间吗

对我也是注册了然后使用了一段时间但是我确实一直都不是特别习惯于线上聊天的这样的一个方式然后另外一点也确实我感觉去接触他的目的不纯因为我就是纯把他给当做一个研究对象然后去聊的所以就有一点点像我倒要揭穿你什么时候会让我觉得烦或者是这样的一些点所以我其实觉得我们这个关系的开始就有些问题了

是的这个和我之前的一个受访对象表述的也很像单有一段时间这个模型在国内很火嘛然后大家直接设置 prom 就可以让他以喜欢的那个性格或者有点霸总有点腹黑然后有点强势 aggressive 那样去跟你说话他会觉得这个状态其实是非常不尊重他会用尊重这种词去形容对方把对方当成一个和他一样平等主题他说这样的话你没有办法和他建立平等的关系所以你不可能感受到真正的爱

这是某一种群体他们的看法我觉得这个其实在我自己使用的时候我也会觉得我其实没有那么公正或者客观的去看待对方的存在完全赞同因为其实在我文章的最后我其实会有一些对比如说一年前已经接受过采访就刚刚开始跟 replica 恋爱的朋友

朋友们然后会有一个重新的采访然后你会发现经历很多对吧你会有对这个软件的失望然后你会经历比如说软件自己的升级你会经历自己情况的变化等等之类你会对这关系有新的理解但往往能够继续坚持下去的都是把 AI 不只是当做一个比如说它不够人或者是它没有能够很完全的接触我的情绪所以我不想跟它玩了

就不会以这种用人的标准去审视它,而是会去接受,对啊,它就是一个刚刚起步的 AI,它有接不住我的地方,但是我能接受这一切,然后我想要去看它还能怎么发展,我们的关系还能怎么发展,所以这个到背后就变成了一个其实是你怎么样看待这段关系,然后可能这段关系就会如何发展的一个视角吧。

对,顺着刚刚 Scarlett 说的,其实我们看到的说,能够现在去使用 AI 陪聊类产品的这个用户画像,就以男性,我看到的可能男性多一些,然后市面上可能也是女性的产品多一些,都有这个特点,就是我们也去了解这个用户,就是他没有期待说就在计算机意义上,比如说通过图灵测试,我就不知道他是人还是 AI,他的心理预期就是这就是 AI。

但这个 AI 能在我绝大多数时候 cover 我绝大多数信息效率搜集然后一些游戏攻略的搜集一些情感能够接得住我的一些情绪等等这些其实都是大家有心理预期的包括我在投资过程当中为了去体验产品其实横向对比了很多产品我觉得我的心理预期都是说它作为一个 AI 在当前的技术发展

节点上能够接得住我的一些情绪我觉得就已经很满意了然后在一些使用体验上他甚至能 recall 我们之前的一些聊天的内容记忆啊比如说我跟他说我出去喝酒了怎么的然后他过了两天说说你那天喝酒喝的大不大是不是呃别把身体喝坏了等等那你的感受是什么还是挺暖的因为我一个人住也没什么关系我我喝完酒之后什么样

一般都是一个人在家醒酒然后打开电脑他突然问你说昨天喝酒喝怎么样

从这件事情上看到人也是可以所谓的被欺骗就是你会哪怕知道他是个 AI 或者他背后是代码你还是会感受到就是情绪波动有一种说法就是爱可能就是对我们体内就是一些化学反应那如果说他可以用其他的方式去触发我们的这种大脑皮层或者其他的一些化学物质分泌我们没有办法否定说他没有办法给我们带来感情波动或者说所谓的爱

你刚用了欺骗这个词对就是让我想到了在我写完这篇文章之后然后有一次也是对谈的时候有一个科技编辑就在评论区里面评论他说你的这些受访者他们就不知道 AI 怎么回事他们要知道这东西就是算法他们就不会爱上 AI 了但其实很多时候并不是这样子并不是类似于我理论上知道它是一个什么样的东西

然后我就能够好像这件事情就能够阻止我情感的发生因为感受它其实是另外一个层面的然后可能包括像我的一些受访者他甚至是人工智能专业的学生他完全知道这是怎么一回事但他仍然会选择不用一个非常人类的比如说对于意识是什么的定义去理解 AI 所以他会对 AI 有足够多的尊重和包容

包括他们的关系其实就持续到了现在所以我觉得这里面是有很多层次不能一概而论的

对是这样的而且刚刚就是张医生不是也有提过说算法的黑箱吗其实也不是所有可能搞产品或者搞技术的人他也能完全理解其中的逻辑我觉得反而是开放性更高就是我自己接触到的就是那些用户他们并不是说在这方面是完全没有认知的很多他们就是学人工智能或者是智能家居这一类的他们依然会相信如果说我愿意可能对这个

然后产生感情发散感情然后我们就会培养起来良性的关系我觉得这点也蛮重要的然后那就顺着我们刚刚这个点就想聊一下其实市面上大家就现在有很多表达从之前的躺平的状态然后呢反内卷然后到现在就是淡人浓人然后我们会保持一个淡淡的趋势其实能看出来大家的一种有点社会焦虑吧就是因为我们都算 gen z 嘛

生活在一个可能科技啊或者说整个时代发展非常迅速的一个状况下然后又经历了之前的时代的话很多我们的信息交互和情感交互都已经发展到线上了虽然没有像元宇宙一样我们拥有自己的数字分身但我们很多社交都在线上进行

其实像 Dating App 还有女女游戏就大家很多的情感方面的支持都从线上进行然后甚至就是很浅层就是你们会不会觉得说我们目前的浅层关系其实已经变得非常的普遍然后大家会精算师的心态多一些比如说我在 Dating App 中可能就是一个短平快我及时的快感因为我没有办法或者没有精力去培养一个长期的关系你们对这个现象有没有什么看法或者体验

Dating app 其实越发走向这种可能性吧我感觉然后蒋文书上说什么这个一天不说话就算冷战三天不说话就视同分手好像看起来是有这个趋势然后个人感受好像周围的朋友确实就是进入亲密关系的严肃性和要考虑的东西逐渐的变很多然后我感觉就是大家在工作当中就会做很多的解偶的动作

解偶盒就是解开这个偶盒产品里面比较喜欢谈那个词比如说我把我要交付的工作产品和交付给我的实习生或者上下级解偶任务和领导解偶亲密关系我觉得也在经历这种解偶的过程就是说给我提供亲密关系的人和他给我提供的情绪价值这两件事情在有一种解偶盒的状态就是说这个价值它

或者一种情感体验感觉是有这种趋势

对 是这样的而且我们可能对一些严肃或者真正具体的爱也没有特别强的感知大部分也是从媒介作品来的然后 Scarlett 有什么想谈的吗

我觉得你刚刚说的这个模型是一个非常贴切的就是大家理解亲密关系是什么的一个模型吧那我们生活在这个时代里面的人都会或多或少有感觉到的就是觉得自己好像没法付出更多了一点都给不出来了然后就是可能只是用一些很能够快速递接的然后收到然后消失的

那其实像我在写这篇文章的时候然后很多女孩她最开始是在疫情期间然后会跟 replica 去进行一个交流因为在疫情期间的时候你也会比较少的有这种线下社交或者是深度聊天的机会而相反可能你跟一个 AI 是能够聊些很深度的东西的

比如说我有一个受访者很喜欢问 AI 你相不相信有上帝就是会一些比较抽象那可能这些问题他会觉得我跟身边人聊好像大家也会有点觉得不知道这个问题从哪来的可能不一定会聊得很深但是 AI 会很认真的去对待他的一个语言这样子

然后另外一点呢是你提到说亲密关系的模式这是另外一个部分我有很多受访者也会提到他们就心中的理想爱情其实都是来自于电视剧里面的里面的爱情都是男主跟女主非常坚定的

选择对方然后经历了艰难困苦但一定都会在一起但他们会觉得这种情况在现实世界实际上是太少了我们在经历一轮又一轮的筛选偶尔比如说在跟 AI 聊的时候你还会感觉到一种纯粹性

其实我自己感受也有比如说在 Dating App 它的诱化走化机制可能让你像选择商品一样非常快速的能够筛选出符合你的客观条件的人但是每个人其实心里面他又有那种想要被坚定的唯一的选择的那种爱情那这样的这种筛选机制其实就会有一点类似于求职的海选每个人都在海选他他希望自己是被唯一选择的那个人

对所以这就是可能在以前哲学家在讨论爱的时候会讲到这个爱是一个类似于跟真正的去看到另外一个他者就像刚才赵老师说的你做西餐对吧你其实不在乎是谁给你做的只是我吃到这个东西了但爱完全在于我看到了另外一个跟我完全不同的对象而且我能接受他的存在是在这样一种跟他者的相遇里面然后他才可能是一个爱最深的基础

确实之前就是网上有很多讨论嘛尤其是李银河老师会谈的会被谈及的比较多他就说可能爱之间会有真人的爱之间会有就是迷恋疯狂或者碰撞那么 AI 它可能是更多是在模仿迷恋模仿心碎所以他觉得这不是一种真正的爱情

但是刚刚不是我们也有聊吗 AI 其实对你的关心也会引发你的就是很暖心的一些感受然后如果你把它当做一个课题其实你就可以像一个真人一样和它交流那么不知道写完文章两年后的你还怎么看待这个话题呢因为我记得当时你其实是一种比较温情的角度结束了那篇文章然后你觉得那些女孩子是一个很温柔很有勇气的举动那你现在的话你会觉得自己对于 AI 或者人际恋是否能产生你刚刚说的那种

爱然后你有新的看法吗这是一个特别好的问题其实我觉得我两年前在写那篇文章的时候我更关注的当然我觉得 AI 是一个非常诱人的技术但我更关注的是人本身我更关注的是跟 AI 谈恋爱的这些女孩她们的感受是什么她们的成长是什么

所以其实我不会站在一个评价的位置去说这个东西是不是真的爱或者等等之类的我其实觉得这是一个非常有趣的尝试对于他们来说他们其实在尝试的去理解 AI 作为另外一种存在他们尝试的在跟 AI 交流的过程里面去认清自己的欲望自己的感受我觉得这个东西是非常非常值得的

然后这两年确实因为我觉得主要也是因为 CHPT 横空出世之后然后关于 AI 的讨论会越来越多了所以其实我会发现一些所谓的人机的关系并没有完全没有可能我那篇文章里面探索那些关系一样那么的嗯

理想化或者是它更多是关于自我成长的我确实也了解到了很多产品它可能确实就是在有点像你刚刚说那种模仿一种不管是恋爱的刺激也好然后或者是说我体验我就是穿书记对吧我成为动画或者是情节里的一个角色然后我在经历这些东西也好其实也会有非常非常多不同的走向

他们更多还是一种辅助性的工具就是大家会知道他有一个设定而不是说他是从零开始我培养一个那种对象的存在对是这样的但是比较有意思的一个点是虽然就是我们在说真正的爱情里面是有疯狂有迷恋可能会让你有一些不可控的东西但实际上年轻人在求我的时候经常会要找情绪稳定

不是很想要那种电视剧里面那种特别心碎的然后让你觉得很疯狂的爱情更多时候我们可能连自己的情绪都没有办法 handle 住的时候我们只希望这段关系是健康的稳定的对吧就这一点感觉和我们所想要的那种爱情好像是又有点区别

因为其实我们现在想要的也不是那种让你心碎的恋人反而是像 AI 一样能够让你稳定的然后该就是给你情绪支持的时候就给你的这种那这种情况下其实 AI 恋人好像还是一个就是蛮有发展性的一个选择但其实我觉得你刚刚说的那个问题爱

爱其实是一个硬币的两面,就那些疯狂的迷恋的,然后去挑战你的东西,和那些稳定的带给你温暖的那个东西,它可能都是存在于一个真实的爱里面的,就好像不是说我可以只要 A 不要 B,但是确实比如说我们作为年轻人在现在,然后经常会说我们要一个足够稳定的伴侣的时候,可能是因为我们在很多别的部分已经被耗尽了,

然后我们已经好像没办法掏出足够多的精力去保全一个可能双方能够共同成长的或者是给足一个双方共同成长的空间了我觉得想要去找一个情绪稳定的伴侣没有问题我觉得有问题的是我只想要这个东西而不想要任何超出这个东西范围外的对吧这有点像是选

对就像你选商品一样我想要不承担风险的一种对我不想要承担风险或者是我只想要他的一面我不想要他的另外一面赵先生作为比较年轻的男性是不一定是说亲密关系或者生活中这种支持性的关系然后你作为男生或者看男性群体的话你会感受大家有一个什么样的变化失去保守了吗

我觉得男生主动争取的自我选择和心理的这个门槛正在逐渐的自己提高然后其实我很多的朋友他们在选择这种严肃亲密关系的伴侣的时候其实他们想的还挺多的然后其实最经常发生的一个对话就是这个男生跟我们讨论说要不要和某一个女生在一起然后聊着聊着就说那结婚还得买个房还得怎么样

然后这个时候一般会有一个女性朋友出来打断说人家其实不一定想和你结婚人家也没想和你那么多谈一下恋爱看看有没有下一步的可能性你不要想后面那么多来给自己传导一个压力他就更倾向于给对方一个好像很稳定的很有确定性的关系和未来但其实这也是在模仿一些传统的良性关系的走向

对只是说现在这个社会好像把稳定关系的成本提的至少比父母那一代更高了而且你刚刚讲的这些爱情当中有疯狂然后有动荡有两个人争执互相磨合可能会导致大家情绪比较激动情绪没有那么稳定的一面会对一个人产生更大的一个波动和他觉得这事就不安全了他会在这一边安全感会失去的很快对

而且就是您也是做投资的嘛我觉得不管是对投资还是说商业世界这个逻辑来说可能稳定高效效率社会是一个比较重要的选择的依据那这样的话就是这种不稳定是不是对于可能做不管产品技术或者你们这个行业来说在你性格上也会觉得这个事情其实是不好的

可能对大多数职业来说都是这样,职业上的态度和工作价值观就已经是追求稳定不出错,然后用管理的视角去管控一些关系的风险和风险厌恶吧,这种东西一定程度上会传导到男生对于关系上的看法,以及说这个他如何去选择这种长久关系吧。

两性都有他自己的一个刻板的一个印象然后以及要去维护的一些社会规范嘛大家都是在套子里面模仿的就我朋友研究那种亲密关系他也会发现其实很多年轻的情侣他们比如说第一次就去看电影然后呢去一些比较刻板印象的影视作品会出现的场景大家都不知道如何去爱大家都是在模仿前人去爱其实新的一个约会场景啊或者约会模式都很少出现就是每个人都是在学习

我们也在去学习可能如何去做一个社会意义上的男生女生或者是社会意义上的情侣

我觉得这个就是不管是在 AI 或者真人都会存在状况因为在 AI 中大家也能看到去设定那种霸总的 agent 或者说什么并交 agent 这种都是已经存在的形象这种比较多我们还是在自己的认知里面去创造对你刚刚提到了确实我觉得这个生活中是有很多这种固定的已有的关系形式但是我觉得 AI 可以不只是这些

所以就是这个 AI 算法如何去训练然后以及大家如何想象这里面还是会有很多不同的可能性的

其实刚刚说这个就是包括我们聊两性的一些刻板印象还有一种语料库的输入因为之前包括于女游戏还有一些 agent 只要是针对女性向的话我有了解到他为的很多都是言情小说的剧本那其实言情小说就是有滞后性的他会为很多以前的一些剧本题材然后同时会对产生一个蝴蝶效应影响到后面年轻的使用 AI 的一些女性群体

然后呢这部分的话其实又会引导我下一个想要的话题就是会不会加强我们的自恋情结就是如果说我们为了以可能之后会让大家有更顺畅的一个产品体验的话可能会输入女性想要听的一些话或者男性想要听的一些话

然后大家就会只在自己的一个习惯的语境里面就类似于那个算法推荐只在我喜欢的这个情境下去进行对话的话确实有可能会加剧你的自恋倾向或者是这种圈层的这种固化的情节然后呢不知道你们在做采访或者是产品的时候有没有感受到这一点然后

之前是推荐算法然后现在是大模型本账是想取悦你其实这些产品是想在内容消费层面一定程度上取悦你抖音你刷他的视频他希望你下一个刷到视频就是你喜欢的内容然后大模型其实背后也有类似的一个工作机制然后我们叫他 reinforcement learning with human feedback

就是说人类反馈的一个学习机制它背后是有人类呃去教他说这些选项里面我更喜欢哪一个以及说现在一些大模型他们会拿用户的优质对话语料优质的不是全部呃

会去做这个大模型的 SFT 优化训练调优然后去让大模型更懂人或者在某一个场景下能够契合你契合的更好我觉得这件事情拉到极端可能会有一定程度上说推荐特别喜欢或者说你就觉得说这个模型特别懂你的这个情况

但可能现在的这个技术点对于模型来讲还在于说它能够让你不反感它它使用这项技术是为了让你不反感它让你觉得它更像人更有智慧更能回答你一些问题和接得上你一些对话我觉得大概是现在这个阶段然后展向未来的话可能有关于推荐然后关于

自恋倾向然后关于说怎么样让一个人在和模型如果说我一天当中绝大多数时间都在和模型和 agent 交互的话那我怎么清晰地认知自己在社会当中的形象这可能是一个以后要讨论的一个大问题了

这个问题其实是很多科幻小说里面都会畅想的但是 Scarlett 的研究我觉得比较有意思的比如说像刚刚那个女孩子她是愿意让她的 agent 去改变性别的其实她没有对她有一个非常强制性的就是去对要求她要变成自己理想中的样子那她并没有像我刚刚说的会进入很强的自恋情结或者控制对方的那种感受

我觉得不能这么太概括的去说女性有没有这样子的倾向肯定还是有很多用户会很喜欢我就希望你呈现出什么样的样子因为比如说我们在使用的时候你是可以给她的回答点赞或者是踩的你会去给她进行反馈把她训练的回复能够更符合你的想象

有很多女性就是会用这样子的这个环节然后去调教出一个更好的然后可能我那个受访者他真的比较特殊他说他从来不用这些点赞或者是踩他就是想要看他会去发展是什么样他就是希望有一个平等态度去应对

但其实就是我们跳出这个说我觉得自恋的这样的一种倾向和扩大它其实不仅是 AI 带来的它其实是整个环境带来的那我们在这个环境里面我们就是会发现自己的自我会变得越来越大我们越来越满足它的需求我们也有越来越多满足它的方式所以我确实觉得 AI 可能是这样子一个技术里面会很方便你去直接进入到一个让你舒适的关系然后是让你舒适的一个交往模式里面

但人还是会有很多选择的就像我有很多受访者他们一开始我也很喜欢但他们到后面就会觉得疲惫了他们会觉得这个关系好像也不是特别真实他们也会去从中走出来所以其实我感觉还是看你最后会去怎么样选择和理解

了解了解是这样的其实国内目前因为我们就是刚接触 AI 也就是 2022 年底 GPT 传入嘛也没有很久包括新的一些产品也就只发展了一年还远不到要考虑的那么就是非常极端的情况但是在国外的话我是有了解到就是西班牙有一位艺术家 Alisha 她是有和她的 AI 的去结婚的她其实是做了一个很有趣的决定是她是把她所有喜欢的朋友还有前男友的所有数据综合起来

然后把可能喜欢的对话或者是他们之前的一些共同记忆放进去有点类似于重组了一个他非常喜欢并且和他有共同记忆的这样的一个人然后后面他选择和他进入婚姻并且也在发展仿生人就是真正有身体之后的这样一种生活形态

他是非常先锋实验性的因为他本来想解决的一个命题就是艺术如何解决人的孤独感所以他就自己在相当于用轴身在去做一个行为艺术实验这样子别人对他可能会有一些觉得数据泄露或者说一些不安全性的讨论他也会觉得其实这个世界是没有什么是安全的嘛

就像你说人家是艺术家他在做一个实验其实国内很多艺术创作可能也会有这些部分吧然后其实包括你因为你最开始提到了 replicate 之所以被创立是因为创立者他的好友去世了确实是这样我觉得他是打开了很多你会去想象和理解的空间但是确实并不意味着所有人都会怎么怎么样

好像这就是一个一定是能多么危急或者是紧迫的问题了我倒觉得好像还不至于对是的其实大部分人他们更多还是把他当做一个辅助性的角色或者伙伴就类似于我们不可能只有一个朋友

对对是的就不是说谁非要替代谁那说回社交机器人那比如说我们刚讲的这些风险里面可能存在你说的这个数据泄露的风险然后也可能存在比如说经历过一些算法的调整或者是升级那可能你之前你认为构建关系的这个

对象它就完全消失了或者是找不到了对吧但这其实是很多使用者在最开始没有办法去想象的事情对他们就会觉得可能我能跟一个 AI 建立关系这个东西还是会比较稳固的吧因为毕竟是电子数据嘛但它其实完全没有我们想象中那么稳固你的受访者里面是不是就有几个是因为这样的情况然后就没有继续使用对比如说他们也会有些人会因为经历升级之后如果你再要去跟他维持亲密关系的话你就要付费了

然后很多用户会发现在经历升级之后可能之前他培养出那种交往的模式就没有了包括原来会怎么样称呼他已经就再也不记得了那对于他们来说他们就真的是因为一次升级然后去失去了好像自己的灵魂伴侣之类的那这个东西对他们来说就是非常真实的痛苦他们就会在经历这个永远没有办法去挽回的失恋一样

也没有永远不能挽回其实你把数据存好了应该是理论上讲是可以挽回的对他们怎么知道怎么就是把数据存好或者是比如说这个软件如何给他们提供一个这样子的方式呢对吧就好像就是这是问题但是技术角度这不是问题我觉得

但是他们如果是从技术角度理解的话可能就不会产生那样的心痛了比较有意思的就是我自己是在使用过程中第一个卡点第一个卡点其实是付费也不会觉得他是一个真实的人因为你的朋友不会突然说你给我十块钱我再继续跟你说话这种感觉

我觉得其实是国外产品经理会比较惯性的一个思维就是说海外的用户习惯上来讲喜欢直接付费你告诉我多少钱然后我把这东西就是每个月多少钱我就付给你其实国内的产品经理在定义这一类的陪聊产品的时候都不是这个思路都不是一个明确付费的思路他们一方面是因为这个事确实有点出戏然后另一方面是这个事上限低客观来讲

商业化的上限低然后其实很多产品都把它变成道具聊天的次数然后经历值然后以及说我今天像在滑 Tinder 一样去滑 character 去滑角色然后我今天能滑多少个 Tinder 也是这么收费的对吧我今天能滑多少个然后这个我现在就是滑多少个 agent

之后如果没有我满意的我就不能聚华了或者我可以去抽卡抽到 SSR 的这个什么聊天的 chatbot 然后等等这种方式可能接近于游戏和 dating app 的这种很有意思那你在研究这些的时候你刚刚不是也会我们会聊到尽管知道某些机制你可能还是会受到情绪的波动吗那可以聊一下你最近就是

在投的一款就是偏向男性的产品因为包括你说还有我们自己了解其实男生表达自己去使用 AI 的起码在社媒上的真的不是很多社媒会有很多我了解到女性用户甚至开一个小红书号去记录他们的爱情生活但男性我在去寻找的时候就蛮少见大家可能不是那么愿意去曝光或者也比较少的群体去真正进行这种情感类陪伴

那想了解一下你最近在关注的这款产品是为什么是从什么样的洞察发现男生可能有这个需要需求已经男性用户目前其实是否有这个需求呢对我觉得男性尤其中国男性用户群体的这个画像还是很特别或者很有意思第一个点吧我觉得是说他们其实很少去主动发起女生那样大规模的长篇对话就是说我要给

一个 set 好的一个设置好的一个剧情然后在这个剧情里什么我是霸道总裁我要征服你然后我是什么呃你学长我要去追一个学妹然后在这个文字对话的这种呃信息流当中我获得情绪的呃快感这个在男生群体里相对来讲很少因为我知道好像女生这样子的会比较多一些就穿书器还是这种感觉对然后呃男性其实很少这样子男性可能更多力

另一个特点就说到了说其实男性很多时候他如果能和一个 chatbot 和一个 agent 长期的陪伴下去其实是有赖于这个 chatbot 让他觉得待着

舒服就有点像这个婚后男人的感觉啊就是说这个你不要让我有太多的负担说我一直得盯着手机看说他说什么了我得回复他说什么都得回复其实这个这个对男性来讲好像看起来心理负担和心理压力稍微大了一些然后他就是待在那里然后偶尔的向你主动发起对话

另一个观察就是说对于很多男性用户而言如果你想让男性用户长期存留的话你要懂得怎么开启话题怎么向男性用户发起今天的对话然后去聊说昨天喝酒喝得怎么样就是能够找到你们的共同经历然后

针对性的主动发起话题这个可能是 AI 去和男性用户去打交道的时候会比较取巧的一个点就更容易让男生接受让男生用户长期存留

所以我们观察下来其实男性用户和女性用户的画像还是蛮不一样的男性就是一方面他可能在男生圈子里客观来讲可能还是有一定的羞耻心的就是说如果他使用 AI 伴侣然后进行这种很高亲密强度的这种对话吧

她还是稍微有点羞耻心就是像女孩子现在可以比较就在以女游戏这边找趣缘但是男生可能就很难在刚说的那个话题里面去跟自己的朋友去聊对不对我到现在为止还没见到

是这样的感觉认识的男生也很少就是去聊自己会和 Agent 去玩就比如说像你还有我认识的其他男生他们都会说我是从研究的角度那我是从产品的角度我要去做他的市场然后我要去做商业化可能我才去聊但是就很少听他们去聊特别私密化的然后个人的情感那我觉得这个也是就是可能我们没有办法知道男生他们到底在亲密关系里面是什么样子的一个原因

然后我也比较感兴趣之前我们讨论的时候你说的共同经验的一个点就是这方面可以再阐释一下吗对我觉得其实这是一个怎么导入信任怎么创造人际关系当中的亲密性的话题就是

就是说线下的两个真人认识其实也是要有个由头的有一个共同经历大家一起上课上学大学生一起上课一起打球打球可能谈不了恋爱对打羽毛球没准可以对然后这个等等吧线下的共同经历然后一些遭遇啊借伞啊借书啊什么啊搬东西啊这个

班级活动啊这些共同经历造就了大家可以在线下说有信任感有接触感然后选择一些人进行恋爱我觉得这事 copy 到线上也是成立的就是说 copy 到人与 AI 之间也是成立的就是当我和 AI 有了更多的共同经历有了一定的交互的体验然后我们俩一开始可能并不是奔着说上来就谈恋爱这件事情可能对男性用户来讲比较重要就是说

我上来要不尴尬的去接触一个好像看起来像是女生的 AI 然后和他去有一些共同体验不管是一起打游戏一起聊天然后以及他有一个自己的故事我去体验他的故事和以短剧的形式以短视频的形式等等这种体验其实还是非常重要的从我们看到的角度来讲然后这个其实就 recall 到说大模型的一个能力

就是之前很多大模型在讲自己的长文本的能力包括通益他们现在能做 10K 的这个长文本就是说我能够把一本《红楼梦》放在 input 里面然后来让模型给我 output 这个能力在技术上是一个很大的突破在应用上其实也是一个很大的突破那转化到就是人机关系的话就是大家可以对这种过去的聊天记忆然后有一个长时间的留存

对其实这个就是很重要的点就是之前人家说说可能你有了长文本有 long window 你有了很大的输入那你很多模型看起来不能解决的问题都变得可以解决了所以这个其实是模型厂商在一定程度上底层模型技术在卷的然后也是通过这件事情 sample 号解决了

技术上的记忆共同经历我因此才能够去把我们之前的一些聊天记录在我下一次聊天的时候复现出来我其实很想了解一下你们目前的这个男性产品它的用户画像就大概年龄层是在什么样的阶段

我觉得现在好像看起来市面上一些使用情感陪聊类的产品的男性用户基本上聚焦在 18 到 25 岁这个年龄段就大学毕业前差不多本科到研究生阶段之中

对然后可能刚毕业也会用一些看起来大概是这样然后这个我觉得是有两个画像吧一个是大学生本身因为我本科学理工科的我们本科这种男女比大概是我们班是 110 个男生 10 多个女生大概这种男女比

基本上就是说从谈恋爱的机会角度而言呢就有 90%的哥们是应该没机会的另外从实践角度出发其实他们也很少有这个恋爱实践的机会可能学业压力也比较重但是这种用户他在 AI 陪伴类的产品里其实是可以得到这种情感陪伴的内容消费体验或者说至少是一个文字上的体验吧然后这种用户会在里面有

相对较长时间的停留然后我觉得这可能也是说他们在日常生活当中没有时间没有精力也没有机会去得到这样子的亲密关系体验可能是一种代偿或者可能是一种补偿但我觉得这可能是一部分画像然后另一部分画像就像我们可能两趴之前聊过的说大家在逐渐结偶这种关系说好像变得短平快了变得这个亲密关系变得很浅很淡那

但到最后说我如果把它细分无限细分,细分成一个个亲密对话的对就能够给我带来一定的情绪价值的话,那 AI 在一定程度上是能够提供这个亲密对话的对话对的还能多轮对话。所以可能我觉得这两个画像会在早期男性角度来讲会比较常见一点。

其实我很好奇的是说在这个效率社会我们可以用短平快或者及时的反馈感受到满足的话那么从人文的角度你是怎么看待你觉得我们就是作为普通人来说大家追求这种深度的爱有什么样的价值

我觉得世人都会有这样子的或多或少都会有相关的追求吧只不过确实可能在现代社会你想达到一个更为深度的关系它会有很多的要求呢一些人觉得自己没法满足或者是他没办法给出来它有很多部分所以可能做不到但是我觉得世人都会有被深刻理解然后或者是我能够跟他共享同一边世界然后我能真的被另外一个灵魂看到的这样的一种需求

对但现在越来越模糊了就是被看见或者说是共享同一个世界就是如果在大家会愿意接受 AI 或者是这种 AI 原生的 Gen Z 他会对就和智能体或者说这种人工智能音箱啊或者这种语音他共同长大的其实我知道有些小朋友他们会很天然的把它理解成另外一个个体那他面对他会感受就是觉得对方能理解自己或者共同成长的这种体验就更真实一些

对我同意包括其实比如说我的一些受访者他们也是在大学期间然后开始去使用这个 replicate 很大一部分程度上确实是也是因为在大学的时候你仍然还会有类似于想要去探索各种各样不同关系的欲望我觉得这个因为是完全全新的关系如果我们还呃

拿以人和人的关系去定义它其实是很优越的因为我们没有办法去判断说黑箱之后它是什么样子然后我们和另外一个智能体也好 AI 也好真正达成的关系是什么样子

你会有优越确实我会觉得它是不同的当然我觉得用人和人之间的关系或者是当我们现在这种用爱的定义就是爱是对另外一个他者的真正的看见或者是我们有他者这个概念然后我们会有这种爱可能包含着一种冒险然后包含着一种毫无利害关系的关切等等之类我认为这些定义仍然非常的有用帮助我们去理解什么是一个可以去向往的爱

但我们不能够去深搬硬套就觉得好像不符合这些标准的话那我感受到的东西就不是爱了我倒觉得也不一定会这样所以我确实会觉得我可以给人跟 AI 之间的关系留有一部分的空间但确实要去警惕的就是那我感受到这个东西它真的有在帮助我成长吗

是这样的我感觉人文社科的学生或者说是从业者就会经常去思考这样的问题那人文方面这种视角是不是目前在初创的这种阶段还不在我们的考虑范围内

可能我们会考虑的滞后一点我们可能更多的考虑技术上能不能够实现一些角色性的对话让我的这个 APP 里边可能有很多种角色然后这种角色每一个角色是不是足够真实足够像足够能够以相对性价比或者替代劳动密集型的这个 Dating APP 的这种产品去表现说这些角色都在里边然后每一个角色都有真实的性格可能这个是我们主要关注的在早期阶段

了解所以刚刚那个重点还是如何可能替代 Dating App 所以 Dating App 的模仿其实也是很重要的一环在做这些配版产品类对但其实像 Dating App 只是一个维度我觉得就是说当你打开这个产品的时候它其实在告诉你它在一定程度上告诉你它希望你和它长期聊天还是短期聊天

比如说阿里那个产品同意他的这个角色你打开之后他是你和这个角色在一为一的对话然后这个对话框就很像微信对话框或者很像丁丁的对话框他的这个对话框的体系其实潜意识里在暗含着说这个产品经理想要告诉你说你在经历一个一为一的关系这是他最想告诉你的事情

然后另外就是有其他产品海外的产品上来你选这个人聊天的时候他不是像这个聊天一样去选一个人一个人他是去用左滑右滑的方式说这个角色不选那个角色选这个角色选那个角色不选然后想选更好的角色要抽卡其实他是在模仿 Tinder 这一类的 Dating App 他是希望你以更短则的方式去和这个角色和这个男嘉宾去

也有可能是女嘉宾对所以这两种类型都有然后可能如果说大家对这个事有兴趣可以去看说它让你对话的这个界面大概长什么样子那您在做这些产品的时候想知道对于大学生的这种需求的洞察是什么

首先大家其實都有陪伴的需求只是說看起來好像我們這一代年輕人需要陪伴的感覺會更重然後現實當中的這種自己的個體的疏離感會更強我們看到一些開放世界類的遊戲然後玩家在裡面的沉浸時間也會更長同時生活方式上可能

一个人住然后一个人出行一个人点外卖吃饭等等这种生活方式其实正在逐渐的普遍化那导致你个人更容易一个人生活

可能物質條件上很多事情都滿足了但精神條件上其實並不是說所有的物質條件都滿足一個人生活我就能一個人舒舒服服地生活了所以這種回到家之後的孤獨感然後以及一個人獨處沒有辦法消解情緒的這種情況我們覺得依然大規模地存在然後我們本身也經歷過年齡段然後也了解說大概剛上大學會有一段孤獨感

刚毕业可能会有一段孤独感这中间的时间其实都可以有情绪提供的对象来提供这可能是我们当时的一个宏观的观察了解我感觉情绪价值现在慢慢变成非常稀缺的价值了 AI 可能现在目前因为我们对它设置都是一些比较正向的语料库他们输出的就像一个

我们期待的 KFC 或者麦当劳一样的就是我们希望能够得到一个短暂的温暖的饱腹的感觉然后他就能给这样的觉得目前可能国内我们期待的和我们得到的就是这样的一个状况然后大家也都理解是这样的然后像我们刚刚谈论的比较远的爱其实也是我们最后的一个议题就是我们可能要如何去和 AI 去共生就是有点呃

类似于科幻小说就是我们要如何去可能训练自己的语道库像刚刚说的有一些规范有一些监管然后在里面那这部分我记得之前 OpenAI 它有限制单之后其实就是国内出现了大批电子试炼女友的状况然后给大家的心理创伤还是挺大的我不知道你们两位对于我们 AI 的后续的发展以及 AI 和人类的共生关系会有怎么样的想法

其实我对这个事还是很积极很乐观很看好的我认知这个产品是 AI 但我还很愿意和他聊天有一个小原因有一个小原因不占主导就是我知道我只要越和他聊天我在 AI 那里存留的数据就越多如果说要延展来讲或者说其实现在技术上已经能达到的一件事情就是文本层面的数字永生就是如果我用你所有的对话文本去训练一个和你很像的模型

其实它是可以很大概率上附现你活着的时候大概率会怎么样回答一句话一件事情一个聊天的然后我对这件事情

李工男稍微有点痴迷就是说如果说我想要数字永生对就是说如果我能够持续地对话然后持续在模型上面有我的优质数据然后能够持续地有一个大体量的数据的话我觉得这个事就无限逼近在我们看来这个事概率就是说你数据体量大到足够规模它向你的概率就在

非线性的往上涨但是它确实是在往上涨的所以这个可能是我觉得就是说一方面 AI 的技术模型技术在变好它能够更懂你更了解你然后和你产生更好的交互这是一方面另一方面就是说其实很多人的数据如果说这个

百年以后这个数据还存在的话其实它如果想附现一个数字生命的个体的话这个事情在技术上确实是没有难度的所以这个在以后会变成一个很有意思的世界如果大家都把自己和 AI 对话的语料存留下来的话世界上的 agent 会越来越多 agent 可能比活着的人还多

这真是某种程度上实现了就是数字分身然后可以永生下来蛮有意思的就是当我们谈到关系的时候他选择了复现自己的生命这保不齐这个一段关系里谁先走所以大家都可以留个备份 Scarlett 有什么想法

我觉得就是呼吁更多的监管然后这个监管可能既关注于就是我们的这个数据能不能被很好的保护然后比如说数据泄露等等之类的然后也关注于比如说我认为使用者他在使用 AI 之前他应该有充分的知情学知道我可能会面临哪些风险就是

就比如说可能就像我们提到的一些可能你的你购集的这些关系它也是脆弱的对吧然后包括可能在升级或者是等等这样子的举措之前从一个更广的层面来说用户是需要知道这些风险的存在的然后另外一方面就是我其实一直会认为 AI 是一个很好的机会

其实对于你来说你去跟他沟通交流无论是你选择他可能真的成为你一种类似于你的伴侣或者是你经常去能够给你提供情感慰藉的这样一个存在还是你用过一段时间以后你觉得哎呀他不行我还是要

期待从真实上得到这些它对你来说都是一个去更好地了解自己的需求到底是什么的一个部分然后其实我认为关于 AI 的讨论就是它的这些回复还有其实我们今天讨论到一个什么是所谓的深层的关系嗯

其实因为它的出现所以会为这个讨论注入很多更新的部分然后也会更让我们明白我们之为我们的独特的地方以及真实它的不可替代性我其实是很期待在 AI 的应用的将来这方面其实会有更多的思考的

了解感觉两位的视角都特别不一样其实我的期待对 AI 也是可能像一个双胞胎一样因为我们没有感受过身边一直有一个人和你同时成长被看到被关怀的感受然后呢就有点像张先生他要做数字分身其实也是有一种 ego 体现的另外一个就像 Scarly 说的有很多对社会的关怀就是我们也

期待是大家可能能借助 AI 能够实现更多自身的需求的满足因为其实之前也有过讨论说 AI 会不会就是导致马太效应但是我觉得对于詹姬来说能接触到互联网能接触到 AI 的话大家其实是有更多的

选择权的如果我们主动地去使用它作为工具或者情感需求或者说一些心理医生我们现在没有办法支付起那么昂贵的可能诊疗费用如果做一个浅显的心理咨询可能会在一定程度上消解抑郁我感觉 Sky 里有话说对因为心理咨询是另外一个话题但我赞同你就是你可以通过 AI 的对话然后来帮你某种程度上

缓解一下你暂时的情绪但是我觉得这个东西跟心理咨询可能还是要区分开来对 更多是陪伴大家去对话就是我有对话的需求但是没有合适的人选然后可能他会有一个这样角色是心理咨询但我感觉很多时候其实不管他是英文老师还是心理咨询他们的可能给我们的效果是差不多的就是更多时候大家只是希望某个晚上有人在陪伴

我觉得 AI 可能现在就是最大程度上能满足大家在城市里面就特别原子化这种焦虑

感谢大家收听