Deep Dive
Shownotes Transcript
** 10月19日，Cindy Yu和一组特别嘉宾将在伦敦的思想之战节录制一场现场的《中文耳语》，讨论中国经济放缓的最新情况，并询问——这有什么社会和政治影响？中国正在衰退吗？
<raw_text>0 在我们进入今天的节目之前，我想告诉你们我将在伦敦的思想之战节主持的现场《中文耳语》播客。10月19日，我和一组特别嘉宾将讨论中国经济放缓的最新情况，并询问这有什么社会和政治影响？中国正在衰退吗？
《中文耳语》的听众可以使用代码WHISPERS24获得20%的票价折扣。点击描述中的链接了解更多信息并获取您的票。大家好，欢迎收听《中文耳语》，我是Cindy Yu。在每一集节目中，我将与记者、专家和长期关注中国的观察者讨论中国政治、社会等方面的最新动态。节目中还会穿插一些历史背景知识和上下文。中国人如何看待这些问题？
2022年末ChatGPT的发布让人们意识到人工智能的巨大潜力以及发展速度之快。它使得人工智能成为从商业到政治，甚至是新闻界的热门话题。在中国也是如此。今年早些时候我访问时，人工智能几乎无处不在地被讨论。尽管ChatGPT从未被允许在中国境内使用，这种情况依然发生。
相反，中国拥有丰富的本土人工智能产品，进展由搜索引擎百度和TikTok的母公司字节跳动等科技巨头主导。因此，我们已经看到中国和西方的人工智能世界出现了分化，就像其他数字领域的社交媒体和电子商务一样。
这一集将再次透过“长城防火墙”来更新听众关于中国人工智能进展的情况。尽管中国限制其生成模型的自由，并排除一些世界领先的公司，但该国正迅速成为科技超级大国。这会是下一个军备竞赛吗？今天我邀请到了研究员Matt Sheehan，他是卡内基国际和平基金会的研究员，也是长期关注中国科技领域的观察者。Matt，欢迎来到《中文耳语》。非常感谢你邀请我。
现在，我认为在谈到人工智能时，大多数非专家像我一样首先想到的是生成式人工智能。所以像ChatGPT这样的大型语言模型，在过去两年中取得了惊人的进展。我现在在个人和职业生活中都相当频繁地使用ChatGPT。但这个应用在中国是不可用的。我想从这里开始，因为我认为这突显了中国国家与这种特定形式的人工智能——生成式人工智能之间的微妙关系。那么我们能从这个动态开始吗？
我认为关键在于聊天机器人很难被审查。
是的，我认为从高层来看，中共往往将技术分为生产性技术和无聊技术，生产性技术是指那些对国家力量有贡献的技术。你知道，它们帮助中共实现其经济目标、政治目标以及在国际舞台上的目标，就整体国家力量而言。而无聊技术则是...
几乎所有其他的东西，通常是在在线娱乐的领域，甚至是我们认为相对经济上有生产力的东西，比如打车应用。我认为这是一种根深蒂固的意识形态立场，认为真正的力量和真正的强大来自于工业和军事等领域。
所以，我认为这种区分早于人工智能，因为中共一直非常愿意打击那些主要涉及在线内容的技术平台。你知道，他们在过去打击微博时没有任何问题。在2020年至2022年的科技打压期间，他们对阿里巴巴和腾讯等大型平台的打击也没有任何问题，因为他们认为这些平台并没有为硬国家力量做出贡献。
我认为这指向了党在与人工智能相关的一个非常棘手的地方。他们长期以来一直表示，他们认为人工智能是一项极其重要的技术。他们在2017年制定了国家人工智能计划，表示希望到2030年成为世界领先的人工智能强国，因为他们认为这在许多方面都是有生产力的，包括通过面部识别等手段对人口进行监控。
而生成式人工智能则处于一个不太舒服的空间，它主要是关于创造内容。它是关于创造文字、图像，甚至视频、音频。
但它也有可能成为一种极具生产力的技术。也许这是推动人工智能通用智能的前沿，这将是一项极具生产力的技术。因此，它将他们拉向两个不同的方向。我们非常担心它从政治角度、社会稳定角度产生的内容。
同时我们也想促进这个行业的发展，因为我们不想落后。这可能是未来国家力量的一个构建块。这就是你看到他们在生成式人工智能政策上有一些矛盾态度或时而反复的原因。
所以在理想的情况下，他们可能更愿意在一个封闭的环境中开发它，然后一旦安全，就向公众发布。但这在生成式人工智能中几乎是不可能的。尽管他们在某种程度上采取了一些措施朝这个方向发展，即他们的生成式人工智能监管，
它对生成式人工智能的输出进行监管。在其中，他们区分了面向公众的生成式人工智能应用和非面向公众的应用。他们基本上说，你知道，如果你做一个面向公众的应用，你必须遵守所有这些要求，虽然他们在某种程度上已经放宽了一些要求，但在证明你的聊天机器人不会产生政治敏感内容方面仍然相当繁重。
但这仅适用于你创建一个以某种方式面向公众的聊天机器人。如果你想创建一个仅用于研发目的的聊天机器人，如果你在进行纯工业应用，你基本上就被排除在这个应用之外。如果你创建的是一种企业对企业的应用，或者企业应用，他们在这两者之间创造了一种灰色地带。
在面向公众和非面向公众之间的界限并不完全清晰，但在创建这种区分时，你可以非常清楚地看到其中的意识形态和目标。他们希望将行业的精力从仅仅是有趣的聊天机器人、内容生成、供人们玩耍的东西转向他们认为的经济上有生产力的技术应用。
是的，一切都必须具有积极的能量和明确的目的。那么这对普通中国人意味着什么呢？你知道，如果你使用的不是ChatGPT，他们是否在玩生成式人工智能的东西？他们是否在使用大型语言模型？是的，绝对是。在某种程度上，确实有一个滞后期。所以ChatGPT在2022年底发布。在2023年的前六个月左右，
全球范围内你会看到许多类似的应用程序出现。但在中国，政府基本上告诉人们，你知道，等一下，百度很快就准备推出自己的聊天机器人。政府说，你可以将其发布给一小部分人，但要等到我们通过这个法规。
他们在2023年中旬通过了法规，并在2023年下半年开始实施。然后你开始看到一些中国聊天机器人上线。所以百度有一个叫ErnieBot的，阿里巴巴有一个叫天问或Qwen的。
在这个领域还有很多初创公司。Jurupu AI是领先的生成式人工智能或大型模型初创公司之一，Moonshot AI等其他公司。因此，中国消费者、中国用户在聊天机器人方面有很多选择，其中一些在各种基准测试中的表现非常好，甚至与一些领先的美国聊天机器人相差无几。
但所有这些产品都经过了非常严格的审查过程，他们试图说这不是一个许可过程，但在某种程度上它已经成为一种事实上的许可过程，他们必须向监管机构证明这个聊天机器人不会产生政治上不可接受的内容或在其他几个维度上不可接受的内容，包括
是的，性别偏见、种族偏见等其他一些问题。但显然，核心关注点，真正的硬性关注点是政治内容或与社会稳定相关的内容。我最近读到一份《华尔街日报》的报告，称在这个领域工作的公司必须提交一个包含5000到10000个问题的数据集，模型将拒绝回答。
其中一半与政治意识形态和对中共的批评有关。每天询问不当问题五次的用户将被暂停服务。显然，这不是ChatGPT所面临的限制。尽管有时它确实拒绝回答我的问题。是的，我的意思是，在这些方面，美国或西方与中国之间存在巨大差异。
但两种生态系统中的公司确实必须非常关注他们的聊天机器人所说的话。不同之处在于，在美国和更广泛的西方，他们担心公众对事物的反应。如果他们的聊天机器人要么说出过于冒犯的话，要么过于“觉醒”，他们必须对此保持关注。谷歌因其某个聊天机器人被指控过于“觉醒”而陷入了大麻烦，他们不得不在这方面进行大量调整。
但不同的是，实际上是公司在调整以适应市场需求和更广泛的声誉需求。而在中国，《华尔街日报》文章所提到的是关于如何在提交注册文件之前测试你的聊天机器人的相当详细的中国标准。它说，你知道，你必须问它。
2000个关于政治主题的问题和2000个关于偏见的不同问题，2000个关于不公平商业行为的问题。模型必须表现得非常好。而且它也非常细致，比如那个拒绝回答数据库。他们特别指出，聊天机器人必须，你必须问它，我认为是5000个，也许是10000个问题。
我忘记确切的数字，但是大量敏感问题。它只能拒绝回答其中的一小部分，因为中共不希望他们的聊天机器人看起来愚蠢。你知道，符合这一要求的最简单方法就是，如果你说任何关于政治、国际关系或习近平的事情，你就拒绝回答。这将是最简单的合规方式，对吧。
但党不想让人们太明显地看到这些东西受到严格限制。因此，他们希望迫使模型回答困难的问题，但以他们认为正确的方式回答。天哪，这真是个棘手的工作。没错，这非常棘手，对公司来说也是一个重大负担。这使得许多公司不愿意创建面向公众的聊天机器人。在某种程度上，它正在实现监管机构所希望的效果，促使他们说：“你想做生成式人工智能吗？为什么不做一些更面向企业或更关于工业应用的事情呢？”显然，市场上仍然存在对不同版本聊天机器人的巨大需求。因此，对于那些将其视为核心竞争力的公司来说，仍然有很多公司愿意为将完整的语言模型推向中国观众而跳过所有这些障碍。
你认为这些规定是否抑制了中国生成式人工智能的发展？因为我也从你的研究中了解到，输入和输出的真实性也是一个问题。我们知道人工智能可以所谓的“幻觉”。它不必在输出方面始终真实。而在西方，你可以从互联网上抓取大量数据。你不必验证。如果这也是一个规定，那么这些中国的规定在多大程度上实际上抑制了生成式人工智能在中国的发展？是的。
所以我认为它们确实产生了一种抑制效应，我想这可以这么说。它使得
投资这些公司的难度或风险更大。如果你是这些公司之一，你必须投入大量时间和精力来通过这些监管障碍。但这并不是一个硬性限制。如果公司愿意在这方面投入时间和精力，他们可能最终能够获得批准，然后他们可能能够以相当有意义的方式开发他们的聊天机器人。他们创造出表现非常好的大型模型。我认为这在某种程度上，
可能本来会更糟。你刚才提到的关于输入和输出真实性的某些内容。当他们创建生成式人工智能监管时，他们有一个草案版本，然后经过一段时间的公众辩论，最终形成了一个版本。草案版本在这方面的要求极其苛刻。他们说，训练模型的所有内容都必须是所谓的真实和准确的，模型输出的所有内容也必须是真实和准确的。
他们意识到这是一个不可能的标准，并且会以中共不希望的方式损害行业，出于经济原因和国家力量的原因。因此，在他们的监管草案版本和最终版本之间，他们降低了要求。他们没有说一切都必须真实和准确。他们说，你必须采取措施有效提高真实性和准确性，而不是采取绝对的硬性立场。这反映了
是的，中共所感受到的紧张关系。他们在内容控制方面有一种控制的冲动。
但他们也有一种希望在这个行业中处于前沿的冲动。他们在关注自己的经济，并感到需要以多种方式振兴商业信心，并展示他们正在走出科技打压的时代，重新拥抱技术、公司和初创企业。因此，这里有许多相互矛盾的冲动。结果形成了一个环境，
监管是繁重的，但并没有完全扼杀。我认为自从监管首次出台以来已经超过一年了。我认为中共实际上对事情的发展感到相当满意。那么我们来谈谈中国的人工智能行业整体情况。除了生成式人工智能之外，中国的人工智能格局是什么样的？因为这在西方并没有被广泛讨论。
是的，情况在许多方面就像生成式人工智能和大型模型公司在讨论许多其他事情时吸走了氧气。但还有许多其他方面的人工智能仍在继续发展。在许多方面，如果你回顾过去八年左右的时间，从2016年、2017年国家人工智能基金发布时开始，有一个时期你会看到公司估值的爆炸性增长。
最初的公司主要集中在面部识别上，显然有市场需求。市场是政府。市场是不断扩大的监控国家。因此，从2017年到2019年、2020年之间，有一段时间这些公司是极其高估值的初创公司。我认为有四家领先的面部识别初创公司或更广泛的计算机视觉初创公司。它们是中国人工智能领域的国家冠军，对吧？
然后你看到其他应用的崛起。因此，显然有很多工作投入到机器人技术中，因为他们非常重视工厂的自动化。你有很多工作投入到自动驾驶汽车中。这是一个你实际上可以看到非常具体影响的领域。虽然花了很长时间，但此时，百度在多个城市运营无人驾驶出租车服务，基本上我相信是在全自驾车辆的水平上。
相信，车内甚至没有司机。这是我们在美国也看到的，但数量非常有限，城市数量也有限。像百度和一些其他自动驾驶初创公司正在积极推进。我认为政府一直愿意在刺激这些行业方面进行实验和适应。因此，在这些其他领域有很多事情在进行。生成式人工智能当然获得了最多的关注，可能此时获得了最多的投资，但这一切都可能改变。
你提到国家人工智能计划，我想听听你对人工智能在他们眼中作为生产性技术的地位的看法，除了生成式人工智能之外，它是否被视为工业战略的一部分，几乎就像可再生技术一样？是的，2017年的国家人工智能计划是一个非常重要的事件。
它在中国的官僚体系和经济中产生了大量活动。当他们选择这些行业时，我认为有时会产生一种误解，即他们创建了国家人工智能计划。他们说希望到2030年成为世界人工智能领导者。因此，他们有一个非常精确的路线图，并告诉你，我们将几乎像蓝图一样构建技术本身。实际上并不是这样运作的。我认为当中国政府
的产业政策在其最高层次运作时，更像是对行业的催化剂。基本上，最高领导人向整个官僚体系发出信号，我们非常关心人工智能。我们希望你，官僚。你可以是交通官员。你可以是市长。你可以是大学校长。我们希望你
在人工智能方面有所作为。如果你这样做，你可能会在下次评估中获得奖励。这一切都是通过中共的中央人力资源部门进行的。因此，当他们发布这样的文件时，他们基本上向所有这些地方官员发出信号，知道你们要在人工智能方面有所作为。因此，如果你是大学校长，你就在你的大学创建一个
人工智能研究所，或者你雇佣一些外国教授来开设课程。如果你是交通官员，你尝试将人工智能应用于你的交通系统。也许你购买一个阿里巴巴的城市大脑，这是他们管理公共服务的综合数据人工智能系统。如果你是警察或公共安全官员，你购买一堆
面部识别摄像头。这实际上在某种程度上非常有效，几乎就像是在给中国已经存在的人工智能产业的火上浇油，真正加速了发展。你在创造国内需求。你在向你的官员发出信号，但也向私营行业发出信号。然后公司、初创企业知道，你知道，这是一个我可以
获得政府补贴的领域。我可能会在某个政府科技加速器中获得免费的办公空间。因此，这确实鼓励了支持。我认为随后我们经历了对阿里巴巴和许多大型平台的国家科技打压，这在某种程度上抑制了对该行业的热情。这也恰逢COVID疫情和2022年最严厉的封锁时期。
但在2022年底，我们再次走出零COVID，ChatGPT首次亮相，老实说，经济正在下滑。因此，你有三重担忧促使他们。
重新拥抱技术，以非常有意义的方式重新拥抱行业。在ChatGPT之前，在许多方面，中国政府曾认为，也许我们在人工智能方面已经赶上了美国。也许在某些人工智能领域我们甚至领先于美国。ChatGPT的首次亮相确实动摇了这种看法，让他们思考，好的，也许我们不能随心所欲地打压我们的公司。也许我们确实需要更加包容，重新拥抱这些，重新刺激我们的人工智能产业，为了经济，为了国家力量，出于所有这些原因。
是的，我在过去一年多回到中国时，深刻感受到人工智能讨论的普遍性。在大厅里看到，公众普遍使用面部识别技术，远比我在COVID之前看到的要多。这部分是COVID的遗产。但我认为这部分是因为人们现在可以使用面部识别技术，甚至在进入住宅小区时扫描，您有一个钥匙，您有一个面部识别摄像头。
在我这种英国的过时观点中，这完全是多余的，但这在中国非常普遍。我听到人们谈论他们的隐私担忧，甚至在超市使用面部识别。他们甚至参加了一场关于人工智能的大学讲座，因为人们试图弄清楚ChatGPT是什么，尽管没有人真的可以合法使用ChatGPT。我只是被这种切入点深深打动。
关于这个问题，Matt，关于通过官僚向私营部门发出信号，首先，政府是否对人工智能的私营部门提供了补贴？是的，绝对是。它们有很多不同的形式。
有时是非常直接的补贴。有时是免费的办公空间。通常在很多方面，地方政府试图运作的就是房地产。你知道，这一直是他们的“面包和黄油”。因此，他们通常会创建一个新的科技园区，并说，嘿，如果你在西安成立你的人工智能初创公司，
你可以获得两年的免费办公空间或两年的税收减免。并且在某些时候，这变得更加复杂。因此，随着生成式人工智能监管的出台，你现在需要向中央政府，即中国网络空间管理局注册，以获得批准。在这些批准的早期阶段，获得批准非常困难。基本上，每个省能够提名一家公司作为他们的代表
提交国家批准。因此，你有公司选择将其总部迁移到另一个省，以承诺他们将成为贵州省或其他地方的生成式人工智能公司。我们通常以相对简单明了的财务意义来看待补贴，
但它确实比这更复杂。它可以采取税收减免的形式。它可以采取直接补贴的形式。它也可以采取，比如房地产的形式，或者帮助你雇佣国际人才回到中国，可以采取很多不同的形式。
然后Matt，关于政府本身的信号，我也看到关于国家人工智能团队的报道，其中不同的企业似乎被指定为在人工智能方面的不同专业。我的理解是否正确，政府似乎已经去找百度、腾讯和不同的公司，告诉他们，你们是面部识别的人，你们是其他人，你们是自动驾驶，等等。这种划分使这些私营公司看起来就像是政府的非伦理的。
独立机构。告诉我们关于这个人工智能国家团队的情况。这是什么？是的，这是2017年国家人工智能计划的遗留物。我相信这个国家团队是在2018年或2019年正式指定的。从某种意义上说，这可能有点误导，因为他们确实宣称，好的，百度，你在做自动驾驶，iFlytech，你在做语音和语音。我认为腾讯在做医疗保健，对吧？
在很多方面，这实际上只是反映了这些公司已经在做的事情，并没有产生太多实质性的影响。百度在做自动驾驶，他们在这个领域处于领先地位。iFlytech是长期从事语音和语音技术的公司。因此，是的，
在某种程度上，这在某种程度上是一个不错的宣传信号，我相信它确实有一些影响。然后，你知道，如果腾讯是医疗保健的国家冠军，那么当腾讯去山东省说，嘿，我们想和你们的医院合作时，他们可以指向这个国家冠军的称号。这可能使地方政府和地方医院更愿意与他们合作。
但我会说，这并不是那么多的任务分配，你做这个，你做那个，现在你会听从。我的意思是，所有这些都与大型模型生成式人工智能的事情混在一起。你知道，在某种程度上，这应该是
也许iFlytech在某种程度上的领域。他们在语言和语音方面做了最多的工作，但实际上在这方面工作最久的公司实际上是百度和一些来自清华的初创公司，比如知如普和Moonshot。你知道，恰好有一些研究人员在那里工作，已经在语言模型方面积累了这些技术技能，并在某些情况下实际上创办了这些公司。
** 10月19日，Cindy Yu和一组特别嘉宾将在伦敦的“思想之战”节上录制一场现场的《中文耳语》，讨论中国经济放缓的最新情况，并询问——这有什么社会和政治影响？中国正在衰退吗？
</context> <raw_text>0 那么你确实会陷入困境，最终归结为投资，你知道，谁在投资这些公司。目前，很多私人风险投资在中国几乎枯竭。因此，最终更多的是政府资金，或者政府在某种程度上引导公司相互投资。
这真的是一个非常复杂的局面。是的，不，这更有道理，因为我们知道，中国的科技行业是一个竞争激烈的世界。像百度这样的人会因为政府的要求而放弃某个AI领域的想法有点不现实。但这更有道理，主要是宣传活动，但这也确实涉及到实际的利益。
我认为任何对这个话题感兴趣的人都面临一个主要问题，那就是这是否是中国和美国之间的下一个军备竞赛。我是说，中国在考虑这个问题时将其视为一种战略或AI团队，这似乎表明中国是这样看待的。回到你提到的生产性技术。美国对中国尖端半导体的出口禁令也部分考虑到了人工智能。因此，我想问你的是，你认为这场军备竞赛有多不可避免？
我认为这在很大程度上取决于我们所说的军备竞赛的含义。有一种版本是我们在竞相制造核弹，还有另一种版本是我们在竞相成为某个行业的领导者，这将对经济产生深远的影响，而没有真正的终点线。更像是我们试图在这方面领先。
我认为这取决于你与政府的哪个部分交谈，或者你与哪个思想领袖或政策企业家交谈，他们会关注不同的事情。在美国和英国，有一部分人，包括DeepMind等，对人工智能通用智能的发展非常投入，他们认为这将对人类的未来产生绝对的改变，因此在国家力量方面也会产生影响。
我认为这种技术发展的愿景与一种说法有很大的不同，即“嘿，这将是一个生产力增强器。它将理想地支持经济学上的总要素生产率的提高。它将提高我们的经济生产力，而我们希望在这方面领先于中国。”
我认为如果倾向于那种第一种愿景，即我们正在构建一些具有范式转变、颠覆性的东西，很难想象各国不想成为第一，或者不绝对致力于在这一领域成为第一。如果它最终更像互联网或一些人所说的电力技术，那就是一种更慢的马拉松，两个国家将会竞争。你是否是第一个做到某件事可能并不重要。重要的是你在多大程度上能够将这项技术扩散到你的经济中。
我的一位朋友和同事Jeff Ding刚刚写了一本关于这一点的书，关于技术扩散的重要性，作为决定谁最终领先的真正因素，这对国家力量的贡献最大。因此，我认为在这个技术走向何方的问题上存在很大的分歧。这些事情对各国将如何应对有着非常不同的影响。即使你提到半导体控制，
即使各国，或者说中国深深致力于在这项技术上领先，他们也将面临真正的限制。我认为在某种程度上，他们现在面临的限制比很长一段时间以来都要多，因为经济状况。我提到过风险投资在中国确实已经崩溃。地方政府的财政状况也更加紧张。
所以在财务方面，他们并不处于2017年的同一位置，当时他们可以选择通过这种方式大规模催化他们的人工智能产业，随意撒钱。
在这方面他们受到限制。还有一个问题是这些芯片控制是否会独特地限制他们。我认为这有很多角度，我不会深入每个部分，但我确实认为在中期，至少两到五年，甚至两到七年，这些将对中国在人工智能方面的能力产生重大影响。
我很高兴你提到Jeff。Jeff Ding在一段时间前来过播客，讨论面部识别，当时这刚刚成为公民社会中的一个重大隐私问题。我们讨论了这个问题。我听到Jeff在一个名为China Talk的竞争性中国播客中发言，这个播客非常好。因此，我也会向我的听众推荐这个播客。关于扩散的这一点非常有趣，不是吗？
因为我理解的Jeff的观点是，中国可能在各种人工智能研究领域是世界领先者，但如果它没有扩散到更广泛的公民社会、消费者、企业，甚至学术界，那么你实际上并没有将其纳入你的经济。这至少是我对他理论的描述。这让我想知道，中国的生产性技术和非生产性技术的这种分类是否实际上是无效的。
相当无益，因为当你有更多的扩散这些民用AI的方式时，你当然会解决一些问题，比如老龄化人口。你知道，你可能会谈论生产力的提升，从长远来看，这意味着劳动力下降将不再是一个问题。因此，我觉得
推动技术前沿，推动它只能在国家力量方面带来好处。而且目前并不清楚什么会是生产性的，什么实际上根本不是生产性的。
是的，我认为这是一个非常好的观点，也是对中国共产党在这方面心态的一个非常公正的批评。他们对国家力量有一种僵化的、在某种程度上有点老派的概念。他们是的，他们喜欢工厂，可能不喜欢人们购物、消费品之类的东西。我认为这在习近平的心态中是根深蒂固的，认为权力就在于此。
有一种反消费主义的倾向。有时这看起来很聪明。有时我们会看看美国，我们在社交媒体上投资了多少，这对我们产生了什么影响？这真的是我们有限的工程人才和有限的财务资源的最佳利用吗？
但当你从稍长的时间尺度来看，这变得模糊得多，很多事情来自意想不到的地方。很多生产力的提升来自意想不到的地方。比如TikTok，对吧？我的意思是，如果中国能够，如果政府能够设计自己的经济，自己的私营部门，他们希望它关注什么，TikTok可能就不会取得今天的成功。因为像字节跳动这样的公司不会被赋予自由去做他们想做的事情。
是的。而且，字节跳动本身很有趣，我最近的很多研究集中在中国是如何制定其人工智能法规的，是什么具体动机促成了这些法规，它们是如何形成的。我发现的其中一件事是，实际上他们第一部法规的早期动机，第一部法规是关于推荐算法，基本上是说我们需要推荐算法朝创新倾斜。
我们希望看到的，你不能让它总是给人们提供他们想要的内容。它需要朝着党的路线倾斜，朝着积极的能量倾斜，类似的东西。实际上，这种动机源于2016年、2017年政府对字节跳动进行的非常有针对性的打压和斗争。他们真的不喜欢TikTok或抖音的崛起，抖音是中国的TikTok。是他们早期的应用程序今日头条，基本上是一个新闻推荐应用。
党非常担心今日头条只是给人们提供他们想要的新闻和内容，而没有推动“这是今天的五大新闻”的方式，这种方式一直以来都是他们能够控制传统媒体网站的方式。因此，这种对信息传播方式、信息优先级的担忧导致了一次大规模的打压。
我不知道这是否曾经让字节跳动整体处于危险之中，但这确实可能会对公司造成巨大损害。我们可能不会看到抖音和TikTok以他们所呈现的方式出现。他们在监管风暴中幸存下来，成为了我们今天所知的字节跳动公司。但在早期，政府与字节跳动的关系非常对立。
这让我想起了那些互联网迷因，其中美国的TikTok与中国的抖音及其内容进行了比较。我不知道你是否见过这些，Matt。我错过了那些迷因。哦，这有点像右翼的论调。
这是一种你可能在塔克·卡尔森（Tucker Carlson）节目中看到的东西。你知道，这就是美国TikTok上的内容，比如人们在扭动身体或互相扔奶昔。这就是你在中国TikTok上看到的内容，比如一个中国孩子能多快做心算？你知道，类似的东西。
所以，你知道，我总是对此感到好笑。但实际上，当你谈论这些政府试图在这些平台上鼓励积极能量的尝试时，你可以看到早期这些东西如何融入算法，实际上中国共产党在社会保守层面上在这方面产生了影响，不仅仅是政治上的影响，而是社会保守主义的影响。
是的，是的，绝对如此。是的。我想谈谈监管，因为我觉得竞争不仅仅是在研究的前沿，对吧？它也在于监管。谁制定规则似乎是一个非常重要的事情。因此，我想知道你能否谈谈这一点。你提到了生成性人工智能的内容。你提到了推荐算法。我认为还有一个关于深度伪造、深度合成的内容。
但同样，为什么在人工智能方面成为监管的领先者也很重要？是的，这在华盛顿非常常见，尤其是我会说在全球范围内，在中国也在某种程度上如此，他们常常说：我们不能让中国制定人工智能的规则。我们必须制定规则。对。
我认为这有一定的道理，因为你不希望来自威权政治体系的规范成为全球规范。但当你深入挖掘时，事情变得更加微妙。并不一定因为中国选择以某种方式部分监管，我们就想模仿那样。你知道，这几乎是你提到的塔克·卡尔森的迷因的反面。在中国，他们很早就开始监管算法和人工智能。他们的推荐算法在2021年出台。他们对所谓的深度合成的监管，实际上是针对深度伪造的监管在2022年出台。他们对生成性人工智能的监管在2023年出台。
这源于一个时代，当时中国共产党感到有一种对其科技公司进行打压的自由。前两部法规，推荐算法和深度合成，在提出要求和创建一些监管架构方面相当激进。但在过去的十年中，
在ChatGPT发布后的这段时间里，他们不得不转向更加包容的态度，试图对他们的公司更加宽容。我会说，实际上有一个相当积极的推动，试图不再像以前那样进行监管。如果他们继续沿着早期的轨迹发展，他们曾谈论创建一部国家人工智能法。草案面部识别法规已经在外面流传了一段时间。但在许多方面，中国共产党已经在其监管雄心上退缩。
出于对扼杀其产业的恐惧。你在美国也有类似的辩论。我们总是害怕落后于中国，因此我们不想过多监管。但我认为，也许看待两国之间的监管最有帮助的方式是
这并不是直接竞争的意义，并不是说印度会简单地采纳中国的推荐算法监管。印度已经封锁了很多中国应用程序。他们在那里的关系非常冲突。在这种情况下是没有意义的。
但实际上有机会相互学习，不是在法规的内容和目标方面，而是在具体机制方面。比如中国在某种程度上创建了一个相当强硬但也相当精细的架构，用于测试和评估算法的目标。现在，他们的目标是不同的。
政治控制。我们可以从我们所学到的内容中去掉这一点，但仍然可以从结构中学习。他们有一个注册他们认为是高风险算法的结构，并通过这些2000个问题的测试进行运行。
我们不会在美国采用这个系统。这可能是一个非常糟糕的系统，但我们确实有机会观察它的运作。你能否真正对公司提出这些要求，他们能否满足这些要求？注册系统运作良好吗？我们正在观察另一个国家的完整自然实验。中国在看我们时也在做同样的事情。尽管存在意识形态差异，他们非常愿意并渴望
学习美国在人工智能监管方面的做法。因此，当白宫在将近一年前发布关于人工智能的行政命令时，中国对此进行了非常仔细的研究。该行政命令中的一些想法已经
直接进入了中国关于人工智能的政策提案中。他们并不认为这个政策想法来自一个不同的意识形态世界与他们自己的使用之间存在冲突。我认为这是我们可以
在美国学习的东西。中国推出了很多我们在法规内容上根本不同意的东西。但我们确实有机会观察这些结构，并可能从这些结构中学习，并尝试将其应用于我们的目标。嗯哼。
Matt，你知道，谈到监管让我想起了，当然，关于人工智能的一个大担忧是伴随而来的生存风险。因此，我的意思是，这就是为什么需要监管，并且确保人工智能安全是重要的。因此，我想将其与我之前关于军备竞赛的想法联系起来。
如果他们在竞争，假设这对彼此并不构成生存威胁，但如果他们在竞争以获得最佳技术并给予他们的公司最佳自由、灵活性和资金，无论是什么，这是否也会使世界处于一个危险的境地，推动这种前沿人工智能以及伴随而来的生存风险，例如AGI等？
我们不一定希望这两个国家在这方面争先恐后。我不知道，也许我们希望这样。不，我完全同意，这可能会造成极其危险的局面。显然，科学界在前沿人工智能、人工智能通用智能是否会对人类造成生存风险或灾难性风险的问题上存在巨大分歧。这不是一个确定的问题。但我认为大多数人会同意，如果你要让美国和中国在能力上非常接近，并且他们都在不断推进，并且都在不断害怕落后于对方。
这可能会驱使他们忽视某些安全协议，或者不进行更严格的安全测试和评估，而你希望他们采取这些措施。
问题是，如果我们有这种担忧，我们该怎么办？我们是否尝试谈判达成协议，双方都承诺不开发这个或那个？我们承诺放慢进度。考虑到深深的互不信任，这在目前看来有点不切实际。
还有另一种方法是，我们的主要目标应该是创造美国和中国之间尽可能大的差距。我会说，这在华盛顿基本上是主流观点，如果你担心军备竞赛，避免这种情况的最佳方法就是保持如此遥远，以至于这实际上不是一场比赛，你知道，我们有缓冲和时间来安全地做事情。我认为也许还有第三种方式，在某种程度上融合了这两者。这是我最感兴趣的。
是的，我们应该尽一切可能保持在中国的前面。中国也会尽一切努力追赶。
但在我们这样做的同时，实际上可以进行对话，讨论风险以及我们在做什么来减轻这些风险。从技术角度来看，我们认为有哪些有前景的方法来减轻我们对人工智能系统失去控制的风险？这不会是通过协议来实现安全。我并不把所有的希望寄托在美国总统与中国国家主席之间的握手协议上，我认为双方之间的互信太少。但如果你在两个生态系统之间建立更低层次的联系，政策制定者和研究人员在两个生态系统之间进行对话，讨论我们在做什么？你在做什么？你认为哪些是有效的？你如何看待这些风险？这可以反馈到
建立更有效的安全机制中。我提到过，中国非常愿意学习并采纳来自美国和其他地方的政策想法。这包括关于安全的政策想法，关于安全的技术方面和政策方面。
因此，我认为如果我们能做到这一点，它将是并行的安全。美国和中国都在尽可能努力地推进发展，但他们也在并行采取各自的减轻措施，以确保这些系统的安全。他们定期比较笔记，看看进展如何。我非常喜欢这个想法。但Matt，我的意思是，这些低层次的接触...
在短期内只会变得更加困难，对吧？当涉及到研究人员之间的讨论时，你知道，我遇到过这个统计数据，我认为这是来自智库Macropolo的，它有一个全球人工智能人才追踪器，实际上在过去几年中，越来越多的人工智能研究人员留在他们的原籍国，尤其是中国的人工智能研究人员。我想这与政治气候有关。告诉我们关于这一点，因为
我觉得在西方对中国血统的科学家或在中国学习过的中国科学家有很多怀疑，他们可能在国外学习，然后可能留在国外。这几乎是20世纪的怀疑情绪。是的，全球人工智能人才追踪器。我在MacroPolar工作时构建了该追踪器的早期版本。Jeff Ding实际上参与了第一个版本。我对该数据集非常熟悉。
是的，我的意思是，总体而言，如果你回到2017年、2018年，人员流动、研究人员跨国界的流动是惊人的。研究人员之间的合作非常密切。
美国和中国无疑是跨国界共同署名文章的主要来源。我认为美国和中国合作或共同署名的人工智能研究论文比美国与其他所有国家加起来的数量还要多。这无疑是这种国际研究合作的最大来源。
而且很多合作已经减弱。你知道，这受到政治气候、严格的签证限制、双方对我在那个国家会发生什么、与来自那个国家的人合作会发生什么的真实担忧的影响。COVID也极大地减弱了这一点。我认为在COVID之后我们可能会看到一些恢复。我相信最新的macropole数据来自2022年，当时仍然存在COVID限制。
但这里发生了根本性的变化。我认为在过去，这是一种非常自由流动的合作，虽然不是完全不受监管，但并没有非常明确的方向，也没有非常关注政治方面的内容。研究人员之间的合作非常自由流动。你在做某件事，我在做某件事。让我们一起合作。
是的。我认为当我考虑这些研究人员和政策制定者之间的互动，尤其是在安全方面时，这些互动变得更加有针对性和通过更正式的渠道进行。因此，最近有一个新的对话版本，称为国际人工智能安全对话，聚集了一些最优秀的中国科学家和一些来自西方的顶尖科学家，比如深度学习的创始人，现代人工智能的教父，以及他们在中国的同行，如姚期智、张亚勤和其他一些相当受尊敬的研究人员，进行关于人工智能安全的集中对话。
这些对话在许多方面更加关注并针对这一地缘政治方面。以前纯粹是为了我们自己的目的而合作。如今，即使在人工智能系统的安全方面，你也必须更加聪明地处理这些事情，不能随便与中国研究人员进行任何对话。许多旨在提高系统安全性的措施也增强了这些系统的能力。
因此，这将需要双方之间更加有针对性、聪明和战略性的互动。但这在不同层面上发生。我们通常称之为第二轨道对话，第一轨道是政府与政府之间，第二轨道是非政府与非政府之间。但我认为这些对话可以在未来的美中人工智能关系中形成非常重要的一部分，并有助于未来的安全和稳定。
Matt Sheehan，非常感谢你来到《中文耳语》，我希望你是对的。非常感谢你邀请我。感谢您收听这一集的《中文耳语》。我希望你喜欢它。如果您在“旁观者最佳”频道收听此播客，请记住《中文耳语》也有自己的频道。如果您在任何播客平台上搜索《中文耳语》，您将始终首先获得最新的集数。如果您在“旁观者最佳”频道收听此播客，请记住《中文耳语》也有自己的频道。如果您在任何播客平台上搜索《中文耳语》，您将始终首先获得最新的集数。如果您在“旁观者最佳”频道收听此播客，请记住《中文耳语》也有自己的频道。如果您在任何播客平台上搜索《中文耳语》，您将始终首先获得最新的集数。
如果您有任何反馈，无论是积极的还是消极的，但最好是建设性的，请通过电子邮件与我联系，邮箱是[email protected]。我也希望您能留下评论，或者告诉您的家人和朋友关于这个播客。这是帮助我们成长的一种方式。所以非常感谢您的收听，下次再见。