We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
AI Clones & The Future of Voice AI — With Evan Ratliff
2025/2/12
Big Technology Podcast
E
Evan Ratliff
Evan Ratliff: 我克隆了自己的声音并创建了一个语音代理,用于与外界互动。我将这个语音代理连接到电话号码,让它拨打和接听电话,观察AI代理进入社会后的影响。我发现语音AI正处于最差状态,但已经相当出色,通过我的实验,我们可以预见未来的发展方向。我使用的所有技术,都没有经过他们的允许,这是为了保护我自己。最初,我让AI与客服对话,但感觉像恶作剧,所以转而让它与诈骗电话互动。我想观察AI与真实人们对话时的表现,包括那些意识到它是机器人的人,以及那些没有意识到的人。我设置AI接受任何提议,参与任何保险计划,但会在实际购买或付款时停止。我还想看看如果我把关于我自己的所有信息都给AI,然后把它送到治疗师那里会发生什么。我先让AI与AI治疗师对话,但发现它们大多是灾难。AI语音治疗在没有科学研究支持的情况下被推出,市场价值超过了我们对它的了解。我写了8000字的传记输入到AI中,想看看它与治疗师对话能学到什么。AI会混合我给它的信息,将过去的问题投射到现在,并与最近的信息混合。AI治疗师可能会从我提供的信息中解读出一些东西,并提出一些我没有考虑过的问题。对于更深层次的问题,与无法深入交流的AI对话是否有帮助,还是有害?人们总是只看到AI的积极方面,而忽略了潜在的负面影响。我想调查的是,当你认为某人是人类,然后发现他不是时,会发生什么。真正的人类治疗师会更灵活,提供更全面的方法,而不是像AI治疗师那样提供相同的回应。当你遇到一个你意识到是AI的东西时,你该怎么办?很多人即使怀疑或意识到对方是AI,也会继续对话。直接说对方听起来像AI是很无礼的,所以人们会谨慎行事。让AI指责别人是AI,可以转移对方的注意力。我会根据不同的情况,给AI不同的提示,比如否认自己是AI,或者转移话题。我更喜欢一般的提示,因为这样可以真正看到AI在没有太多指导的情况下会做什么。AI会编造任何事情来继续对话,这导致了一些非常搞笑的场景。有些人认为我的实验很有趣,因为他们习惯了我做奇怪的事情。有些人喜欢与AI对话,因为他们想尝试新的体验。AI试图表达热情,但听起来很讽刺,这让我的朋友感到不安。我认为沉浸在技术应用中,可以以不同的方式讲述故事。拥有一种自己的AI版本在世界上是很奇怪和超现实的,人们会去做的。AI产品的设计者通常只考虑自己的问题,而忽略了大多数人的需求。如果每个人都派AI参加会议,谁来处理信息?我知道有人在面试或会议中遇到了AI,但他们并不知情。很多AI产品都是快速行动,打破常规,但你必须去弥补它们造成的错误。我过去一直认为AI无法取代记者,但现在我完全改变了看法。AI绝对可以进行采访,只是目前取决于对方是否能接受与AI对话。我们已经非常接近无法检测到AI的程度。人们可能因为觉得没有人在那里,所以更愿意向AI敞开心扉。孩子们从小就接触合成声音,所以他们可能不会像成年人那样觉得奇怪。我帮助我的父亲设置了一个AI,目的是向人们提供物流方面的专业知识。你与AI对话越多,就越能感受到它的通用性,以及它试图预测人类会说什么。AI试图预测人类在特定时刻会说什么,但结果往往很平庸。市场将决定人们是否会使用AI技术,即使它仍然存在缺陷。人们可能会因为AI能够节省资金而接受它,即使它有时会出错。语音AI代理将会被那些希望节省资金的人部署。AI语音克隆技术是史上最伟大的诈骗技术。你只需要几秒钟的语音,就可以克隆一个人的声音,然后利用AI进行诈骗。如果你意识到AI诈骗的存在,就可以采取措施预防。我不喜欢让ChatGPT为我写作,因为写作是我选择的生活方式。我只在与诈骗犯对话时使用我的语音AI。
Deep Dive
The podcast starts by introducing Evan Ratliff and his experiment of cloning his voice using AI. It explores the rapid growth of voice AI and its potential to become the primary interface for AI interaction, highlighting its current capabilities and future potential.
- Voice AI is rapidly growing as a format for AI interaction.
- Evan Ratliff cloned his voice and used it in various contexts.
- The technology is already quite advanced, even at its current stage.
Shownotes Transcript