We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
People
H
Harry Booth
H
Healthy Piper
S
Sharing Golden
Topics
Harry Booth: 文章概述了特朗普可能对人工智能采取的政策,包括废除拜登的行政命令,优先发展美国在人工智能领域的领先地位,特别是在与中国的竞争中,并加强出口管制以限制中国获得先进半导体。文章还探讨了特朗普政府内部对人工智能监管的不同观点,以及这些分歧如何影响最终的政策方向。一些顾问,例如马斯克,对人工智能的风险表示担忧,而另一些人则认为对人工智能的过度监管会阻碍创新。 文章指出,特朗普政府可能保留拜登行政命令中与国家安全相关的条款,同时废除其他条款,例如那些关注种族歧视或不平等的条款。此外,文章还讨论了开放源码人工智能的挑战,以及特朗普政府可能采取的措施来应对中国利用美国人工智能系统的情况。总的来说,文章认为特朗普政府对人工智能的政策将是一个复杂的局面,其最终方向将取决于多方力量的博弈。 Healthy Piper: 文章认为,人工智能政策不应该被政治化,尽管特朗普的支持者在人工智能监管问题上存在分歧,但国会两党在一些关键问题上存在共识,例如防止人工智能造成灾难性后果。文章指出,特朗普政府上任后可能会废除拜登的行政命令,但其替代方案尚不明确。文章还讨论了特朗普政府内部对人工智能风险的不同看法,以及这些分歧如何影响最终的政策方向。一些人认为应该大力发展人工智能,而另一些人则对人工智能的潜在风险表示担忧。文章强调,在人工智能快速发展的背景下,国会需要灵活地制定政策,并拥有执行这些政策的机构。 Sharing Golden: 文章指出,特朗普对人工智能的政策既有可预测性(例如,废除拜登的行政命令),也有不可预测性(例如,他对开放源码人工智能和关税的态度)。他的最终政策将取决于他周围的顾问,以及他们之间意见冲突的解决方式。文章提到,特朗普可能会废除拜登的行政命令,并可能解散人工智能安全研究所。然而,文章也指出,一些科技公司和智库正在游说国会使该研究所永久化。文章还讨论了特朗普政府对开放源码人工智能、关税以及所谓的“觉醒人工智能”的态度。文章认为,特朗普政府对人工智能的政策将受到多方因素的影响,其最终方向难以预测。

Deep Dive

Chapters
This chapter explores the implications of Trump's return to the White House on AI policy, including potential repeals of Biden's executive orders, the role of AI in national security, and the divided opinions within Trump's coalition.
  • Trump may repeal Biden's AI executive order, focusing on national security provisions.
  • AI's rapid advancement poses existential risks, with opinions divided on regulation.
  • Competition with China is a key concern, influencing AI policy decisions.

Shownotes Transcript

今天,在理想简报中,我们对特朗普的胜利对人工智能意味着什么进行了三个方面的解读。人工智能每日简报是一个关于人工智能领域最重要新闻和讨论的每日播客和视频节目。加入我们的讨论,请关注我们的 Discord 频道和简报笔记。大家好,欢迎回到另一个周末长文集锦。

正如你们所预料的那样,在过去几天里,关于人工智能的大多数评论和观点都围绕着我们所处的新的背景展开,即唐纳德·特朗普再次回到白宫。本周早些时候,我们做了一期节目,算是对人工智能的即时第一反应,探讨了这意味着什么,那期节目在当周中期以长文形式播出。从很多方面来说,这期节目只是那期节目的第二部分。

现在人们有更多时间来思考了。因此,这些文章会更长一些,也更经过深思熟虑。像往常一样,我将把今天的阅读内容交给人工智能来完成。

我今天做了一些不同的事情。我正在使用 Eleven Labs 的语音库。如果您喜欢这种方法,或者您更喜欢我用自己的声音来读,请告诉我。无论如何,我们首先要阅读的第一篇文章名为《唐纳德·特朗普的胜利对人工智能意味着什么》。这篇文章由哈里·布斯在《In Pi》上发表,提供了一个很好的概述和起点。

当唐纳德·特朗普上次担任总统时,ChatGPT 尚未推出。现在,他准备在 2024 年大选中击败副总统卡马拉·哈里斯后再次回到白宫。人工智能的格局已经大不相同了。

人工智能系统发展如此之快,以至于一些人工智能公司的高管,例如 Anthropic 首席执行官达里奥·阿莫和特斯拉首席执行官埃隆·马斯克(一位著名的特朗普支持者),认为人工智能可能在 2026 年之前变得比人类更聪明。其他人则提供了一个更一般的时限。在 9 月份发表在《OpenICO》上的一篇文章中,萨姆·阿尔特曼表示,我们可能在几千天内拥有超级智能,但也指出这可能需要更长的时间。

与此同时,Meta 首席执行官马克·扎克伯格将这些系统的到来视为一个渐进的过程,而不是一个单一时刻。无论哪种方式,这种优势都可能对国家安全、经济和全球力量平衡产生深远的影响。对人工智能的信任度在波动,从赞赏到担忧。在 6 月份接受 Logan Polls 和 Pulse of the Podcast 的采访中,他将人工智能描述为一种超级力量,并称其能力令人担忧。

他和华盛顿许多人一样,通过与中国的竞争来审视这项技术,他认为中国是先进人工智能竞赛中的主要威胁。然而,即使是他最亲密的盟友也对如何管理这项技术存在分歧。马斯克长期以来一直对人工智能的生存风险表示担忧,而特朗普的副总统杰德·范斯则认为,业界提出的此类警告是为了推动实施将巩固科技巨头地位的监管措施。

特朗普的支持者内部的这些分歧暗示了将在特朗普的第二任期内塑造人工智能政策的相互竞争的压力,这将推翻拜登的人工智能遗产。特朗普的首个重大人工智能政策举动可能会废除乔·拜登总统于 2023 年 10 月签署的关于人工智能的行政命令。这项范围广泛的命令旨在应对这项技术可能对公民权利、隐私和国家安全构成的威胁,同时促进创新、竞争和将人工智能用于公共服务。

特朗普在 2023 年 12 月的竞选活动中承诺废除这项行政命令,共和党 7 月份的党纲也重申了这一立场,批评该行政命令阻碍了创新,并强加了激进的左翼思想来引导这项技术的开发。该行政命令中侧重于种族歧视或不平等的部分,并不符合特朗普的风格,人工智能安全中心执行主任兼研究主任丹·亨德里说。虽然专家批评任何对偏见保护的回撤,但亨德里说,特朗普政府可能会保留拜登方法的其他方面。我认为行政命令中有一些非常两党支持的内容。

然后,还有一些更具民主党色彩的内容。亨德里说,如果特朗普的行政命令维持或甚至扩展拜登行政命令中的一些核心国家安全条款,我不会感到惊讶,这将建立在国土安全部评估与人工智能相关的网络安全、生物和放射风险的工作之上。美国创新基金会高级经济学家塞缪尔·哈蒙德说。

美国人工智能安全研究所(由拜登政府于去年 11 月创建,旨在领导政府在人工智能安全方面的努力)的命运也仍然不明朗。8 月,该研究所与 OpenAI 和 Anthropic 达成协议,正式开展人工智能安全研究,并对新模型进行测试和评估。人工智能安全研究所几乎肯定会受到被视为阻碍创新的看法,这并不一定符合特朗普的技术和人工智能议程的其他部分,牛津互联网研究所的人工智能政府和政策专家凯亚·麦克布莱德说。但哈蒙德说,虽然一些边缘声音可能会试图关闭该研究所,但大多数共和党人支持它,我们认为它是我们领导力的延伸,国会已经开始致力于保护该研究所。

10 月,包括 OpenAI、洛克希德·马丁、卡内基梅隆大学和非营利组织 Encode Justice 在内的众多公司、大学和民间社会团体签署了一封信,呼吁国会议员紧急建立一项立法基础,以支持这些努力。参议院和众议院都在进行相关工作,据报道,两院都得到了相当广泛的两党支持,非营利组织“未来生命研究所”的美国政策专家霍姆斯说。

我认为美国在人工智能发展方面保持领先地位将是他政府的一个主要关注点。

他在 6 月份接受 Impulsive 播客采访时表示:“我们必须处于领先地位,我们必须在与中国的竞争中领先。”特朗普还将环境问题描绘成潜在的障碍,认为它们可能会阻碍他在与中国竞争中的地位。

乔治·梅森大学研究员迪恩·鲍尔表示,特朗普的人工智能政策可能包括取消法规,以加速基础设施建设。必须建造数据中心。为这些数据中心供电的能源将是巨大的。

我认为,甚至比芯片生产更大的是,我们将需要更多芯片。虽然特朗普的竞选活动有时会抨击芯片法案(该法案为芯片制造商提供了激励),导致一些分析师认为他不太可能废除该法案,但芯片出口限制仍将是美国人工智能政策的一个关键杠杆。借鉴他在第一任期内启动的措施,并由拜登进一步扩大,特朗普可能会加强限制措施,以遏制中国获取先进半导体的途径。

公平地说,拜登政府对中国采取了相当强硬的态度,但我相信特朗普希望被视为……麦克布莱德说,特朗普政府很可能会加倍努力控制出口,以弥补中国获得芯片的漏洞。卡内基国际和平基金会技术与国际事务项目访问学者斯科特·辛格说。大多数人,无论立场如何,都认为出口管制很重要。

开源人工智能的兴起带来了新的挑战。中国已展现出利用美国系统的能力,正如中国研究人员据称改编了早期版本的 Meta Llama 模型用于军事应用一样。这造成了政策分歧。鲍尔说,一些人非常支持开源,而另一些人则对中国持强硬立场,并希望禁止人工智能前沿的开源。

我的感觉是,由于特朗普的平台对开源的重要性及其价值有如此坚定的信念,我不会看到朝着限制方向发展的趋势。辛格说,尽管他口头强硬,但特朗普的交易冲动可能会塑造他对中国的政策。我认为人们误解了特朗普对中国的看法。

哈蒙德说,他并不讨厌中国,他描述了特朗普对国际关系的交易性观点。2018 年,特朗普取消了对中国科技公司的限制,以换取 13 亿美元的罚款和加强监管。辛格认为,类似的谈判机会是可能的,特别是如果特朗普能够解决许多专家对人工智能可能带来的更极端风险的担忧,例如人类可能失去对未来系统的控制。

特朗普的联盟在人工智能问题上存在分歧,揭示了特朗普支持者联盟内部的深刻分歧。包括范斯在内的一些主要人物支持对这项技术的宽松监管。

范斯已经将人工智能风险视为业界为了推动新规,从而让新进入者更难创造将推动下一代美国增长的创新的策略。在特朗普 2016 年过渡团队中担任职务的硅谷亿万富翁彼得·泰尔最近警告不要对人工智能进行监管。他在 5 月份在堪培拉联盟的讲话中表示,任何有权管理这项技术的政府都将具有全球极权主义的特征。知名风险投资公司 Andreessen Horowitz 的联合创始人马克·安德烈森最近向特朗普超级政治行动委员会捐款 250 万美元,并向特朗普的竞选活动和共和党捐款 844,600 美元。

然而,在特朗普的圈子里,对安全更关注的观点也获得了其他支持者。哈蒙德曾为由右翼智库遗产基金会领导的 2025 项目(一项未经特朗普竞选活动正式认可的政策议程)的人工智能政策委员会提供咨询,他说,在为该项目提供咨询的人员中,非常明确地关注通用人工智能和人工智能带来的灾难性风险。通过捐款和在平台上推广特朗普,马斯克已成为特朗普竞选活动中的一位重要盟友。X(前身为 Twitter)长期以来一直担心人工智能可能对人类构成生存威胁。最近,马斯克表示他认为人工智能变坏的可能性为 10% 到 20%。

8 月,马斯克在 X 上发布了一条推文,支持已被否决的加利福尼亚州人工智能安全法案,该法案旨在对人工智能开发人员设定限制。亨德里(其组织是加利福尼亚州法案的联合发起者,并在 X 的人工智能公司担任安全顾问)说:“如果埃隆在人工智能问题上提出建议,那么我预计事情会进展顺利。然而,有很多基本工作和基础工作要做,这使得预测起来有点困难。”

他说,特朗普已经承认了人工智能的国家安全风险。6 月,他表示,他担心美国总统的深度伪造视频威胁发动核打击可能会促使另一个国家做出回应,从而引发核战争。

他还暗示人工智能系统可能会失控并超越人类,但小心地将这一立场与他个人的观点区分开来。然而,对于特朗普来说,与中国的竞争似乎仍然是首要关注点,但这些优先事项并不一定相互冲突,人工智能安全监管并不必然意味着要让步于中国,亨德里说。他指出,针对恶意使用的保障措施需要开发人员投入最少的资金。

你必须雇佣一个人,让他花时间在工程上。然后你就可以获得你的防范措施,他说。但是,由于这些相互竞争的声音正在塑造特朗普的人工智能议程,特朗普的人工智能政策议程的方向在总统特朗普及其团队将采取何种立场方面仍然不明朗。我认为这是一个悬而未决的问题,这只是我们必须拭目以待的事情,肖说。现在是一个关键时刻。

今天的节目由 Vantage 提供。无论您是创业还是扩展公司安全计划,展示一流的安全实践并建立信任比以往任何时候都更加重要。Vantage 自动化了 ISO 27001、SOC 2、GDPR 和领先的人工智能框架(如 ISO 42001 和 NIST 人工智能风险管理框架)的合规性,节省您的时间和金钱,同时帮助您建立客户信任,此外,您还可以通过自动化问卷调查来进行安全审查,并通过面向客户的信任中心来展示您的安全态势。

Vantage 为全球 8000 多家公司(如 LangChain、Lea AI 和 Factory AI)提供支持,Vantage 帮助您展示人工智能的信任,实时改进安全性,了解更多信息,请访问 vanta.com/nlw,这是 vanta.com/nlw。今天的节目由超级智能提供支持。

然而,从人工智能的潜力到实际捕捉价值,存在巨大的挑战。超级智能致力于弥合这一差距。超级智能加速人工智能的采用和参与,帮助团队实际利用人工智能来提高生产力并创造商业价值。

一个交互式人工智能用例注册表让您的公司能够全面了解人们目前正在如何使用人工智能。结合其功能,构建以教程、学习路径和用例库形式的内容。超级智能帮助公司内部人员了解他们如何从人工智能中获得价值,同时提供资源,让人们将这些见解付诸行动。

前三个注册人数超过 100 人的团队将获得免费的嵌入式咨询。这是超级智能团队与您的组织合作,确定对您最重要的特定用例,并帮助确保这些用例的采用以创造实际价值的过程。

访问 super.intelligent.com 了解更多信息。人工智能赋能网络。现在回到节目。好的,回到现在。

接下来,我们有一篇文章由健康·派珀撰写,名为“人工智能强大、危险且有争议。特朗普将如何利用它?”这篇文章最终论证了围绕人工智能的问题过于重要,不应该演变成党派之争。所以,让我们再次交给 Eleven Labs,看看你是否能找到共鸣。

人工智能强大、危险且有争议。在乔·拜登赢得白宫后,唐纳德·特朗普将在 2020 年如何利用它?生成式人工智能当时看起来更像是一件无用的玩具,而不是一项改变世界的技术。

第一个主要人工智能图像生成器 DALL-E 不会在 2021 年 1 月之前发布。而且它肯定不会让任何艺术家失业,因为它仍然难以生成基本图像。ChatGPT 的发布让人工智能一夜之间走入主流,但那距离现在还有两年多。

基于人工智能的谷歌搜索结果(现在不可避免)在人工智能世界中似乎不可避免,四年时间就像一生一样。这正是人工智能政策和监管如此困难的原因之一。政策的齿轮往往运转缓慢,每四年到八年就会倒转。

当新政府上任,拥有不同的优先事项时,这在食品药品监管或其他变化缓慢且政策共识基本存在的领域运作良好。但是,当监管一项基本上还处于幼儿园阶段的技术时,政策制定者面临着巨大的挑战。当我们经历领导人的剧烈转变时,情况就更加复杂了。

在本周特朗普在总统选举中获胜后,我联系了一些人,询问在特朗普政府领导下人工智能政策会是什么样子?他们的猜测五花八门。

但总体情况是,与许多其他问题不同,华盛顿尚未就人工智能问题完全两极分化。 特朗普的支持者包括由风险投资家马克·安德森领导的加速主义科技右翼,他们强烈反对规范这个令人兴奋的新产业。

但就在特朗普身边的是埃隆·马斯克,他支持加利福尼亚州SB 1047规范人工智能,并且长期以来一直担心人工智能会带来人类的灭亡——这是一个很容易被驳斥为马斯克式的胡言乱语,但实际上相当主流的观点。 特朗普的第一届政府混乱不堪,并见证了各种幕僚长和高级顾问的兴衰。 在他任期开始时与他关系密切的许多人,在他任期结束时已经离开了。

人工智能政策在他的第二任期将走向何方,可能取决于谁在关键时刻掌握他的耳朵。 2023年,拜登政府发布了一项关于人工智能的行政命令,尽管总体而言较为温和,但也标志着政府首次认真对待人工智能风险。 特朗普竞选平台称该行政命令阻碍了人工智能创新,并强加了激进的左翼思想来发展这项技术,并承诺废除它。 很有可能在第一天就废除拜登关于人工智能的行政命令。

美国创新基金会的高级经济学家塞缪尔·哈蒙德告诉我,尽管他补充说,取代它的内容还不确定。 拜登政府设立的人工智能安全研究所获得了广泛的两党支持,尽管国会需要对其进行适当的授权和拨款,这是他们能够且应该做的事情。据报道,特朗普的团队正在起草一份拟议的替代行政命令,该命令将建立一个军事人工智能的曼哈顿计划,并建立由行业主导的机构来评估和保障模型。

然而,更进一步预测未来会发生什么,就变得非常具有挑战性,因为推动特朗普上任的联盟实际上在人工智能问题上存在严重的分歧。 特朗普如何处理人工智能政策,将揭示右翼内部的紧张关系,例如,你既有像马克·安德森这样想猛踩油门的人,也有像塔克·卡尔森这样担心技术发展速度过快的人。

杰·D·范斯在这方面持务实态度。 他认为人工智能是一个打破大型文本垄断的机会,埃隆·马斯克希望加速技术发展,同时认真对待人工智能可能带来的风险。 他们都反对“觉醒”人工智能,但他们对如何处理人工智能的现实世界风险的积极议程则不太明确。

特朗普本人很少就人工智能发表评论,但当他在今年早些时候接受洛根民调采访时,他似乎既了解加速防御中国的观点,也了解专家对末日的担忧。 他说:“我们必须走在最前沿,这将发生。”

如果要发生,我们必须在对华竞争中领先。 至于人工智能是否会发展到独立行动并掌控局面,他说:“你知道,有些人认为它会接管人类。 这真是件了不起的事情。”

人工智能,让我们看看这一切将如何发展。 从某种意义上说,对人类灭亡的潜在可能性抱有这种荒谬的态度是不可取的。 你无法亲眼目睹存在性威胁的演变。 但从另一个角度来看,特朗普在这里实际上持有一个相当主流的观点。

许多人工智能专家认为,人工智能接管人类的可能性是现实的,并且可能在未来几十年内发生,并且我们对这种风险的性质还不够了解,无法制定有效的政策。 所以,隐含地,很多人确实有这种政策。 它可能会毁灭我们所有人。

谁知道呢?我想我们会看到会发生什么。 而特朗普,正如他经常证明的那样,之所以与众不同,主要是因为他直言不讳地表达了这一点,我们不能容忍两极分化。

我们能避免吗?共和党人将人工智能中的公平性和偏见问题视为“觉醒”的胡言乱语,但正如哈蒙德所观察到的那样,也存在相当大的两党共识。 国会没有人希望看到美国在军事或发展有前途的新技术方面落后。 没有人希望看到危险的武器在没有任何监督的情况下由随机科技公司开发。

马迪首席人工智能科学家杨·李康,虽然是特朗普的公开批评者,但他也是人工智能安全担忧的公开批评者,支持加利福尼亚州的两党人工智能监管法案,该法案由民主党州长签署。 当然,马斯克也热情地支持特朗普竞选总统。

目前,很难将对强大人工智能的担忧置于政治光谱中,但这实际上是一件好事,如果情况发生变化,那将是灾难性的。 对于快速发展的技术,国会需要能够灵活地制定政策,并有能力执行这些政策。 党派之争使得这几乎不可能实现,超过了议程上的任何具体事项。

关于特朗普政府的人工智能政策,最好的迹象是它继续保持两党性质,并专注于所有美国人(无论是民主党还是共和党)都同意的那些事情,例如,我们不想被超级智能人工智能毁灭。 最糟糕的迹象是,人工智能提出的复杂政策问题被简化为“监管不好”或“军事好”的观点,这忽略了具体细节。

哈蒙德本人对政府认真对待人工智能持乐观态度。 他说,他们正在思考正确的对象级问题,例如人工智能对国家安全的潜在影响,这距离我们只有几年时间。 这些是否会转化为正确的政策,还有待观察,但在哈里斯政府执政时期,情况也同样不确定。

今天最后一点是黄金分享的,标题是“认为唐纳德·特朗普的人工智能政策计划是可以预测的。 准备好感到惊讶。”

想想,你知道,特朗普的人工智能议程。 准备好迎接惊喜。 当选总统唐纳德·特朗普已经向全国重要的人工智能战略发出了重大变革的信号,其中许多预计将在1月就职后立即实施。

但专家告诉《财富》杂志,虽然一些计划是可以预测的,旨在让美国成为快速发展的技术领域的领导者,但另一些计划仍然是一个谜。

部分原因是人工智能政策非常复杂。 而且,由于人工智能是一项新技术,官员们仍在努力弄清楚。 在这项创新的早期阶段,没有人能清晰地制定出完美的人工智能监管策略。 坦率地说,可能没有,云存储公司Backs的首席执行官艾伦·莱维说。

另一个不确定因素是建议特朗普进行技术和人工智能政策的顾问,包括为特朗普竞选并向特朗普政治行动委员会捐款超过1亿美元的亿万富翁埃隆·马斯克。 特朗普最终会选择倾听哪些相互冲突的议程,目前尚不清楚。 考虑到房间里有很多声音,以及许多有抱负的强大人物,这将如何运作? 与人工智能公司和政府合作的人工智能政策顾问克洛伊·奥迪说。 尽管如此,特朗普已经就他将如何处理人工智能问题发出了一些明确的信号。

专家们最明显的共识是,他将兑现废除乔·拜登总统旨在确保人工智能安全和安全的多年行政命令的承诺。 该命令设定了人工智能的安全和隐私标准,并促进了其道德使用。 但2024年共和党平台称该命令是危险的,称其阻碍了人工智能创新,并强加了激进的左翼思想来发展这项技术。 特朗普可能会在2020年1月他的第一届政府结束的地方继续工作,当时它向联邦机构发布了关于人工智能的指导。 该备忘录呼吁政府减少人工智能发展的障碍,避免阻碍创新和增长的法规,华盛顿智库R街研究所的高级研究员亚当·西奥里说。

人工智能安全问题可能被列入议程。 行政命令指示商务部在国家标准与技术研究所内建立人工智能安全研究所,旨在评估最先进的人工智能对国家安全、公共安全和个人权利的影响。

专注于人工智能的贝克·麦肯锡北美技术交易团队的首席律师亚当·西奥里说,该安全研究所是拜登行政命令中最有可能被取消的要素之一。 由于特朗普表示他将废除该命令,这很可能成为第一个也是最容易改变的方面。 然而,政府内外有许多支持者不希望该研究所消失,西奥里说。 一些科技行业参与者和智库一直在敦促国会,在特朗普上任之前,在今年年底之前将人工智能安全研究所永久化。

如果人工智能安全研究所幸存下来,特朗普可能会任命新的领导人,而有趣的是,这些人中可能包括那些担心人工智能对人类长期构成风险的人。 谈到这些危险的人中包括马斯克,他目前有能力影响特朗普的人工智能政策和对人工智能安全研究所领导人的选择。 特朗普可能会问马斯克:“你想带来谁?” 西奥里说。

这将是一个非常有趣时刻。 开源人工智能:朋友还是敌人? 另一个重要问题是关于开源人工智能或可供任何人使用、修改和分发的工具和模型。

开源人工智能的支持者,包括来自Meta、微软和谷歌的模型,将其描述为对大型科技公司(如OpenAI、Anthropic和谷歌)人工智能的平衡,这些公司通常会将自己的模型保持封闭和专有。

但由于国家安全担忧,也有强烈呼声要阻止敌对国家获得先进人工智能,通过监管人工智能出口和限制网络安全改进。 例如,据报道,中国研究人员通过构建基于Meta开源模型Llama的模型,开发了一种用于军事用途的人工智能模型,这将是一场高水平的斗争。 西奥里谈到特朗普政府即将就如何规范开源人工智能展开的辩论。

奥迪指出,特朗普的副总统当选人杰·D·范斯此前曾支持开源人工智能的发展。

我们如何调和这些观点?我认为这将是一个重要问题,例如,在特朗普政府解决这些非常深刻且棘手的问题时,谁的声音会最大?她说,人工智能也是一个间接的考虑因素。 特朗普增加对中国等国家产品征收关税的计划,也是一个间接因素。

这是他竞选活动的核心内容,旨在鼓励美国制造业。

但关税可能会增加对人工智能至关重要的硬件(例如芯片)的成本,其中许多是在国外制造的。 它们也可能扰乱科技公司的供应链,并使美国企业在亚洲和欧洲公司面前处于竞争劣势,原因是更高的组件成本、报复性关税或外国公司能够以更低的价格进行竞争。 我们从各行各业的人士那里听到,这可能会对该领域的研发产生意想不到的影响。 贝克·麦肯锡机器学习实践的全球负责人丹妮尔·贝尼亚说。

你还可以期待对所谓的“觉醒”人工智能的抵制,西奥里说,这是一个指代被认为是过于左倾的人工智能的术语。

特朗普可以使用行政命令来施压,要求科技公司披露或修改被认为存在政治偏见或建立审查算法偏见的指导方针或监督机制,以确保它们不会偏袒一种政治观点。 特朗普此前曾批评OpenAI和谷歌,声称它们受到“觉醒”思维病毒的影响。 例如,2024年2月,当谷歌的LaMDA聊天机器人生成了一些具有历史不准确性的图像(例如黑色噪声和骑自行车的人)时,许多人将其视为谷歌人工智能推广他认为过于“觉醒”观点的证据。 自特朗普卸任以来,保守派一直对他们所认为的算法偏见或歧视问题非常关注。

我自己也对此进行了相当强烈的反驳,但关键是他们认为这是非常真实的。 这导致了保守派对所谓的“觉醒”科技问题的强烈抵制。 然而,特朗普试图规范或审查人工智能产品可能面临第一修正案(保障言论自由)的法律挑战,但仍然可能会对人工智能研究或采用产生寒蝉效应,因为企业可能会在面临难以预测的法律后果(基于感知的社会或政治偏见)时,减少人工智能系统的开发或部署。

硅谷的分裂,特朗普最终会做什么,很大程度上取决于谁会向他提供人工智能方面的建议。 除了马斯克之外,最近投资播客的戴维·萨克斯和SQA资本的肖恩·麦圭尔也是如此。 软件公司Palantir的创始人雅各布·阿尔伯格也可能成为特朗普的顾问。 特朗普的支持者愿意与政府密切合作,在应对中国问题上维护国家安全,因此这与近年来科技巨头大多与华盛顿保持距离的情况大相径庭。

西奥里说,这与过去硅谷的声音大相径庭。 美国政治分歧也可能在致力于人工智能技术或政策问题的韩国政府雇员中显现。 如果他们不同意特朗普的政策,一些人可能会选择辞职。

虽然招募替代者可能会变得更加困难,但美国国土安全部人工智能安全与保障委员会成员、美国国务院人工智能事务科学特使罗曼·谢尔特里博士说。

政府中有许多有思想、勤奋且善良的人即将面临艰难的处境。

我完全同情他们必须做出的艰难决定,她说。 无论发生什么,莱维表示,他对特朗普未来的人工智能政策比在特朗普第一任期时更乐观。 关键在于他认为他的团队中聚集了更多知识渊博的人。 现在,特朗普身边聚集了更多像埃隆·马斯克这样以技术为中心的个人,我认为他们的方向与我所看到的许多最重要的技术创新(无论是人工智能、电动汽车还是能源生产)是一致的。

我们回到NLW。 为了快速总结一下? 你现在已经听到了很多不同的观点,所以我不会深入探讨我对这件事的看法。

相反,我将分享我正在关注的具体内容。 三个主要问题引起了我的注意。 首先,重要的是要观察埃隆·马斯克试图对特朗普白宫施加影响的领域和主题。 他将如何参与其中? 他将扮演非正式顾问的角色吗? 会有更正式的安排吗?

如果有更正式的安排,那么他的长期影响力将如何影响这些讨论,而不是其他事情? 考虑到他确实在人工智能对话中拥有利益,他将专注于竞争优势还是风险评估? 简而言之,埃隆·马斯克在这个政府中的角色是我认为可以用来初步了解人工智能政策走向的第一个领域。

第二件事要关注的是,特朗普本人想要参与AI的程度,以及他是否会委派其他人来处理此事。鉴于他曾是高管,自然更接近硅谷。因此,这也有可能影响最终结果。最后,我认为我们应该关注的具体政策方面,首先是关于他承诺的AI法规和行政命令。

随之而来的废除政策,是否会伴随其他措施?或者仅仅是撤销?所有这些如何发展,是我认为可能对AI发展产生重大影响的第三个早期政策领域。

以上就是我目前掌握的信息。当然,情况随时可能改变。不过,目前为止,我们就到此结束本期节目。感谢大家的收听,我们下期再见,安好。