Data Privacy Day Special Episode: AI, Deepfakes & The Future of Trust
28:14 Share

欢迎收听人工智与未来工作特别节目,本期节目由PeopleRain的Dan Turchin主持。我们已经播出了300多期节目,经常被问到能否重点介绍一些最受欢迎的节目。我们听到了大家的呼声。今天,我们将重播一些与人工智能领袖进行的精彩对话的短片,这些领袖正在定义人工智能伦理的未来。未来我们将发布更多剪辑版节目,让大家更容易与过去令人惊叹的嘉宾见面。♪

让我们以一期特别节目来庆祝数据隐私日拉开序幕。数据隐私日每年1月28日举行,是一项全球倡议,旨在强调保护隐私、保障数据和增进信任的重要性。

对于像您这样的AI爱好者来说,这也是一个反思我们每天都在构建和使用的技术的伦理意义的机会。今天,我们将回顾与四位杰出领导者进行的精彩对话,他们正在塑造人工智能与数据隐私、网络安全和伦理之间的交叉点。您将听到来自Vijay Balasubramanian、Ray Wong、Zohar Bronfman博士和Holger Mueller的真知灼见。

这些远见卓识者不仅是各自领域的专家,而且热衷于负责任地使用技术。让我们深入了解如何在人工智能时代优先考虑隐私。

我们的第一位嘉宾是Vijay Balasubramanian,他是Pindrop的联合创始人兼首席执行官,Pindrop是语音安全技术的领导者。Vijay是打击基于语音的欺诈和深度伪造威胁的先驱,拥有多项VOIP安全专利。他曾在RSA和Black Hat等大型会议上发表演讲。在他的领导下,Pindrop筹集了超过2亿美元的资金,用于打击欺诈和增强人们对语音技术的信任。

在这里,Vijay分享了深度伪造攻击的惊人增长以及我们可以使用人工智能来恢复沟通和商业信任的创新方法。我还记得,当我们创立Pindrop并谈论语音和语音安全时,每个人都认为,哦,你在保护电话?哦,电话要消失了。

我不得不一次又一次地告诉人们,是的,电话可能会消失,但我们人类是用语音交流的,这不会消失。这就是我们想要保护的,因为有很多方法可以模仿你的声音或伪造你的声音和设备等等。但是

那时,人们很难理解为什么语音会很重要。

然后你有了Alexa,它彻底改变了我们对人机界面之间关系的思考方式。然后是chat GPT,如果你现在看看GPT-0,以及你实际上可以与助手进行对话的方式,它完全不同了。所以现在容易多了。但那时,你知道,每个人都认为我们疯了。

现在已经好多了。今年世界一半的人口将参加选举。我相信深度伪造语音电话迎来了一个转折点。你是专家,你比我更了解,但在今年早些时候的初选中,拜登的

声音被伪造以试图阻止潜在选民前往投票站,这成为了一个警钟。这种情况很普遍,很容易做到。攻击只会越来越多,更不用说深度伪造检测的商业方面了。但你会说,这对于提高人们对潜在威胁的认识有何影响?

哦,这非常重要,因为你知道,每个人都在谈论深度伪造可能导致选举干预。在选举年开始的1月份,你遇到了一起深度伪造事件。

而且,你知道,你遇到的不是任何人的深度伪造。你遇到的是世界领导人的深度伪造。这再怎么高调也不为过。这使得很多人能够理解深度伪造的所有细微之处,对吧?例如,我们已经进行了八年的深度伪造研究。所以当我们开始的时候,这只是一个工具。有一个叫做Liarbird的工具。

去年年底,有120个语音克隆应用程序。到今年3月,已经有380个语音克隆应用程序。所以这种爆炸式增长是其一。第二,我不知道你是否记得,曾经有一段时间,约翰·传奇成为了谷歌Home的代言人。而且

你知道,他必须进入谷歌工作室录制大约20个小时的讲话,这样谷歌Home才能说,当你问“旧金山的的天气怎么样?”时,你就能听到约翰·传奇那轻柔的声音。“哦,这是一个宜人的,大概是26摄氏度的......”之类的答案。

但这花了20个小时才让谷歌Home重现这个声音。现在,这些语音克隆工具可以用你五秒钟的声音来重现你的声音,要获得能够欺骗你的配偶、孩子的优质版本,你需要15秒。所以从20小时到5秒,从一个工具到350个工具,

仅仅能够展示所有这些,这就是拜登的机器人电话让我们能够做到的事情。然后说你可以用好的AI来对抗坏的AI。这是什么意思?这是难题的第三部分。好吧,真实的故事。

感觉像是一次心理咨询。上周,我妈妈打电话给我,当然,我是她的IT人员。她说,我刚接到微软的电话,说我的办公订阅即将过期,他们需要我的信用卡号码。谢天谢地,我妈妈足够聪明,有点怀疑,说,嘿,你知道,我该怎么办?很多人可能不会

质疑这种网络钓鱼攻击或网络钓鱼企图。我的问题是,也许这很天真,但我真的不明白,Pindrop是在什么时刻介入的,这样,你知道,在我天真的妈妈即将放弃她的信用卡号码的那一刻,Pindrop可以在什么时刻拦截它,检测到它是深度伪造并采取措施?

是的,从技术上讲,我们确实做到了,对吧?所以现在当我们......如果你考虑深度伪造,它们正在破坏商业信任,对吧?远程呼叫中的每个企业都不知道你在另一端。而且,你知道,另一端真的是人吗?我们正在看到这些攻击。为了让你了解这些攻击,去年我们每个月都会看到一次使用生成式AI的攻击。

今年头四个月,我们每天都会看到一次针对每个客户的攻击。所以今年深度伪造在商业领域的攻击增加了450%。而今年才刚刚开始。所以......

深度伪造破坏了商业信任。它们破坏了媒体的信任,就像我们在新闻媒体和社交媒体上谈论的那样。我们谈到了拜登的机器人电话,但也有汤姆·汉克斯为牙科计划广告配音的例子等等。然后是沟通,对吧?就像你奶奶接到电话,这种情况已经发生了。祖父母诈骗是最恶劣的诈骗之一,因为他们利用安全措施。

你孙子孙女的简单TikTok视频,你知道,只有三到五秒。然后他们进来,不仅针对你的祖父母,而且以非常具体的方式进行。他们针对的是非常具体的县,你知道,

他们袭击了那个县的所有老年人,从周五到周日。然后在星期一早上,他们都出现在当地执法部门,说,我损失了2万美元。我损失了20万美元,因为我以为我在和我的孙子说话。我以为他遇到了麻烦。

我以为我给了他3000美元来帮他摆脱困境。所以整个事情,我不知道上次有什么特定的技术破坏了商业、媒体和沟通方面的信任。

所以我们从商业方面开始,但我们绝对希望在你奶奶接到电话时出现,说这不是你的孙子。这实际上是另一端的机器。这是AI生成的,但这需要一段时间,因为进入核心电话基础设施需要手机制造商或运营商的参与,对吧?

而且,你知道,随着这些攻击越来越普遍,消费者将会要求这样做。更重要的是,消费者可能会转向保护他们的运营商或手机制造商。或者你作为孙子或孙女会说,我要给你买一项服务,让你免受这种攻击,这项服务具有这些功能。

但这需要时间。不幸的是,我希望我们能更快地做到这一点。我非常不耐烦。我很想把这项技术推广到所有这些地方。但问题是,除非人们受到伤害,而这就是我们生活的可怕真相,对吧?就像攻击真正变得足够糟糕之前,人们不会采取行动。

接下来,我们转向Ray Wong,Constellation Research的创始人兼首席执行官。Ray是企业技术领域最受尊敬的声音之一,拥有数十年的经验,分析人工智能如何改变各个行业。他也是Disrupt TV的主持人,该节目每月触达超过1.3亿次曝光。在本节中,Ray解释了为什么去中心化对于建立对人工智能的信任以及确保跨行业安全的数据共享至关重要。

我认为人工智能最好的例子是人类智能。它是高度分散的。人们的学习速度不同。他们有不同的技能、不同的能力、不同的才能,对吧?这种多样性实际上是使人类集体智慧如此强大的原因。在一个中心化模型中重现这一点就失去了意义。它必须去中心化,因为

有不同的任务,不同的概率。如果你真的想拿出一个模型,说每个人都是一个能量源,一个概率模型的能量源,它就位于这里,叠加在上面。在所有事物之上都有一个假设。

那么你会说,正是所有这些的随机性才创造了这种集体智慧。我知道我讲得很快,很深入。但我的意思是说,仅仅说这是一个超级智能,它将无所不知是不够的。我们实际上必须考虑这一点

将会有如此多的变化和如此多的选择。人们有一种愿望,那就是让一切变得一致和中心化,我们必须与之抗争,对吧?中心化的稀缺性概念与去中心化的丰富性概念之间的斗争,这将是我们看到的关于智能的战争。

所以你和你的团队参加了每个供应商的简报,每个大型科技供应商的简报。他们希望你在房间里谈论他们对人工智能的愿景,通常用手指打引号来说明这项技术可能取得的成功。

你角色的另一半是与企业领导者交谈。我很想知道,从你所处的有利位置来看,你从供应商那里听到的关于他们对人工智能的愿景与企业领导者对这些供应商的期望之间是否存在差异?你知道,这种差距实际上是数十亿美元收入的差异。我认为这是你指出的一个重要点,Dan。了解情况的供应商已经

发布了一个惊人的愿景,说,这是未来。他们还找到了让客户能够参与这一过程的途径。那些没有做到这一点的供应商将在市场上失败。因此,供应商要想成功,就需要一定的惯性。但也有最终用户对产品的消费,这实际上是支付账单的。这始终是产品市场契合点,这就是差距。

我给你举个例子。我将冒险一试,我以后可能会后悔,因为这是现场录制和播出的,但这正是让它变得有趣的原因。所以我认为数十亿美元即将浪费在人工智能上,主要是因为

组织不知道需要多少数据才能达到利益相关者信任的精度水平。我给你举个例子。在客户体验方面达到85%,我很满意,对吧?电话可能会打不通,你可能会对某人感到生气,但你比50-50好,这比我现在的情况要好。

供应链的准确率为85%?哦,这很糟糕。这就像每小时可能损失数百万美元,或者每小时可能损失数千万美元,因为你的供应链需要以大约98%、99%的效率运行。

金融领域的准确率为85%?有人要进监狱了。这不会发生。医疗保健领域的准确率为85%?好吧,是的,你已经达到了极限。所以我们认为你拥有的数据以及互联网上所有公开可用的数据。

之后就没有什么新东西了,对吧?这些数据大部分已经被抓取了。因此,为生成式人工智能提供动力的这些大型语言模型的未来是,我们必须转向小型语言模型和超小型语言模型。因此,接下来的10%与最初的85%一样有价值。而最后5%在达到精度水平方面将与95%一样有价值。

这意味着我们将进入一个数据收集者的世界,在这个世界里,我们将共享数据,我们将经纪数据,不仅在行业内,而且在整个价值链中。因此,零售、制造和分销将共享有关供应、库存、价格弹性、需求、兴趣的信息。

所以这是其一。通信、媒体、娱乐、科技、电信也是如此。他们都会销售。他们都会弄清楚哪些客户和哪些角色对在技术平台上分发的数字商品感兴趣,而该平台实际上在另一端拥有数字货币化支柱。所以这将是我们共享数据、共享信息的方式,这将是一个互惠互利的模式。

然后另一个有趣的部分是,大多数组织都会发布一些东西,但没有意识到最重要的问题是谁在出现问题时应该承担责任?你是否考虑过后端的责任问题,对吧?所以所有这些都将到位。当然,当我们回到未来的工作时,聪明的组织将意识到何时何地插入一个人。

我们的第三位嘉宾是Zohar Bronfman博士,他是Pecan AI的联合创始人兼首席执行官,该公司正在利用对话式AI改变预测分析。Bronfman博士拥有计算神经科学和科学哲学两个博士学位,是人工智能技术和伦理方面的思想领袖。

在这段摘录中,他反思了预测分析的伦理挑战,以及为什么人工智能必须专注于补充人类智能,而不是取代人类智能。我甚至会更进一步地说,人工智能并不一定真的是人工智能。你知道,作为一个社会,我们给事物命名,我们给事物起名字和术语,但是我们

这并不一定意味着我们称之为神经网络或人工智能的事实就意味着它就是这样。这是一个朗朗上口的名称。这是一个很棒的名字。从哲学上讲,它不是人工智能。

同样,从计算的角度来看,它也不是神经网络。这个类比很快就会失效。我举几个例子。复杂性,为了让我们理解大脑的复杂性和人类智能的复杂性,我会争辩说,神经网络,即使是最复杂、最大、

具有递归和卷积窗口以及地毯等功能的神经网络,其复杂性也远低于大脑神经网络。更不用说计算能力、具体体现以及大脑网络拥有的而算法不具备的许多其他元素了。就像我说的,我们甚至可以把它进一步推及到人工智能,

人们一直在谈论、思考和争论智力意味着什么,可能和人类存在的时间一样长。我们今天不会解决智力的最终定义。

但是,我可以肯定地说,而且我相信绝大多数人都同意,智力远不止是能够重现问题的答案、总结内容或写诗。

智力首先是关于解决问题的。现在,这是一个非常广泛的术语,我们还可以就解决问题意味着什么进行争论和辩论,但实际上,从这个角度来看,我认为它并不是,我个人认为,它并不是真正的人工智能。它实际上还差得很远。这并不意味着它不能在正确使用的情况下提供大量价值

如果它被正确使用,它可以,它会,而且它正在这样做。更有趣的是,在我看来,这就是我思考机器学习和人工智能的一般方式,我认为有趣的部分不是重现人类的能力。从研究的角度来看,这可能很有趣,因为即使能够模拟人类的思维,也会有一些有趣的意义,甚至是一些治疗意义,

但实际上,有趣的部分,特别是当你从功能性和生产力的角度考虑它时,实际上是实现人类无法做到的事情。

做不好的事情。所以我认为我们不应该追求图灵测试,在我看来。我认为这实际上是一个错误的测试,无法指导人工智能的进步。我认为我们应该沿着反图灵测试的方向前进。机器在哪些方面最差,而机器实际上能够胜任

以便它们补充我们的能力,并真正产生一种“更好的一起”的动态。我可以举一个例子来说明这一点。作为人类,我们很糟糕。

在提取数字序列的模式方面,例如数字序列。如果你只看一系列股票价格数字,你将无法作为人类在其中看到任何东西。如果你看到一系列光子击中你的眼睛,你就能立即识别出即使是最细微的面部表情。

我们非常擅长将光转化为图形。在99%的情况下,我们都比计算机视觉更好。但是,当涉及到查看一系列股票数字时,我们甚至无法掌握最简单的规则。我们看不到它。

因为从进化的角度来看,这不是我们大脑进化的方式。在识别数字时间序列中的模式方面,几乎没有压力。而在识别面部表情的细微之处方面,却有很多价值。然而,机器在识别数字序列中的模式方面却非常出色。

对于机器来说,这甚至比识别细微的面部表情更容易。所以我说,如果我们正在寻求使人类活动受益,提高人们的生产力,帮助,你知道,基本上增加资本和生产力,就像经典理论所暗示的那样,

那么主要围绕改进人类不擅长的事情的方向发展将比专注于所谓的“替代”我们已经拥有的能力更有利可图。

我们的最后一位嘉宾是Holger Mueller,Constellation Research的副总裁兼首席分析师,专门研究未来的工作和人力资本管理。Holger在企业软件领域拥有超过30年的经验,是关于人工智能如何负责任地增强企业运营的可信声音。在这里,Holger探讨了道德人工智能如何建立企业世界的信任,以及为什么透明度是采用的关键。我们的企业领导者

担心是否应该投资人工智能和人工智能相关技术,因为担心知识产权、安全风险、数据泄露等问题?还是我们已经决定进行投资,并且正在寻求你关于我们应该进行哪些投资的指导?

所以两者都是,当然,就像两者都是真实的情况一样。有趣的是,我发现,我在行业中看到的是,对监管、道德人工智能、安全人工智能等的恐惧在很大程度上是由那些还没有人工智能的人推动的。对。我的意思是,关于大型公司的一个例子,其他人也在这样做。

是微软,它不仅在华盛顿部署了一个,而是两个负责人工智能游说团队,并且成功地吓坏了谷歌,以至于谷歌不得不追赶他们当时已经拥有的东西,对吧?如果你看看历史,马基雅维利、杜斯,这将是最大的一个,对吧?如何让你的贵族领导人就位?贸易的技巧和窍门是什么?我的意思是,这是最新的高科技手段。当我退休时,我想写一本关于马基雅维利策略和高科技经验的书。

所以这是最令人印象深刻的一个。只是为了那些不知道的人,其中一个监管团队在与Oakley的合作关系公布后就被解雇了。所以一方面,有很多恐吓和担忧,那些没有的人,因为我们需要把它做好,但他们没有意识到这一点。

通过这么说,他们让进入游戏变得更加困难。因为就像每项新技术一样,人工智能也不例外。会有好事,也会有坏事。只要我们现在正在做的事情,我们增强人类,我们没有取代人类,我们人类非常擅长。让我们暂时忘记企业领域,无论某件事是否有效。你得到一个新的AI,比如说一个语音助手,你谈论它一次,它就理解你,你会感到困惑。

它理解你。你说,不够好。我需要编辑。在智能手机平板电脑上编辑很难。或者你说,这是个垃圾。也许半年后我会尝试一下,当他们说他们有新版本的时候。请原谅我的法语。所以我们人类真的非常擅长弄清楚目前人工智能的水平。我们可以深入研究深度伪造等问题,在那里我们不再那么擅长了。因为我们接受了另一种训练。我们接受了我们的功能训练。我们看到的是真实的。

在大多数情况下,当我们看电影时,我们知道这是电影,我们会在上面添加另一个过滤器,但如果我们在现实世界中看到一个深度伪造,并认为它是在可信的报纸上,等等,我们可能会开始相信它,对吧?所以还有其他方面,但是从我们在企业中看到的自动化来看,帮助我进行绩效评估、编写工作请求愿景、帮助我进行福利注册,我们很快就能发现它在哪里是好的,或者在哪里是不好的,所以我并不担心那部分,所以

回到你最初的问题,对不起,我的回答很长,我通常不会试图给出这么长的答案,对吧?所以我尽量简短、甜蜜和简洁。那些已经意识到这一点并正在这样做的人,以及那些仍在等待它并说它是真实的人。简短的答案是,为了让正在收听的人听到简短的答案。这是真实的。它正在带来好处。

当然,在不同级别的不同供应商处有一些注意事项,但每个人都在努力。而且有一些好处是你不应该错过的。就像我甚至挑衅地说,如果你写,没有人这样做,但如果你要从头开始写一份工作描述,之前的最佳实践是,

让我看看是否有通用的东西。我可以复制粘贴什么?以前没有人从头开始写,但是复制粘贴过程比我和珍妮编写新的工作申请,然后审查它,然后进行一些复制粘贴要长得多。所以我们看到这减少到复制粘贴最佳实践时间的20%、30%,而复制粘贴最佳实践是“我从头开始写,因为我是最适合写的人”时间的20%、30%。这让我想到一个很大的警告,对吧?

当OpenAI出现时,我们被愚弄了多少次,对吧?我们一生都在学习写作。写作非常困难,对吧?所以我们认为,用完美的牛津英语写的东西,一定是一个可信的来源。那一定有效。那一定是对的。当然,当机器写它的时候,情况并非如此。即使是人类写它的时候,情况也不是这样,因为他们可能有邪恶的想法,并可能想以某种方式影响我们,对吧?所以这种自动......

如果某些东西表达正确,我们就会遇到这种能力差距,这是我们人类在人工智能时代必须学习的东西。用优美、熟练、带脚注的英语写的东西,看起来很完美,仍然不必正确。这始终是正确的,但我们80%的人,包括我自己有时,都会被它愚弄,说,好吧,这是写得如此优美。它一定是莎士比亚。它一定是正确的。♪

正如我们今天所听到的,数据隐私日不仅仅是一个反思的时刻。它也是对我们所有人工智能领域人士的行动号召,无论是打击深度伪造、分散数据还是优先考虑道德分析。人工智能的未来取决于我们今天建立的信任。如果您喜欢本期节目,请不要忘记查看节目说明以获取每次对话的完整版本。

如果您认识的人会欣赏这些见解,请与他们分享本期节目。这可能会引发一场精彩的讨论。感谢您收听本期人工智与未来工作特别节目。下次再见,保持好奇,保持安全。