We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
唐
唐鳳
葛
葛如鈞(寶博士)
葛如鈞(寶博士): 我关注AGI的到来时间以及台湾在AI发展中的战略规划。我分享了近期关于AGI发展时间点的不同预测，并提出疑问，例如Sam Altman和另一位匿名的网友对AGI发展时间点的不同预测。我还分享了萧尚龙在社交媒体上关于O3及未来AI发展趋势的预测，以及如果AI的数学能力远超人类，将会对人类社会产生深远的影响，甚至可能带来生物风险，需要谨慎对待。最后，我探讨了AGI发展中，各国在控制油门、刹车和方向盘方面角色的问题，以及AI可能带来的自动化和社会影响，并分析了台湾在AI产业链中的地位和优势，以及面临的挑战，包括美国、中国等国家在AI领域的竞争态势，以及台湾所面临的挑战。最后，我提出一个尖锐的问题：在AGI诞生的过程中，谁将最终获胜？并分析了美国总统选举的结果，将对美国的科技政策，以及全球AI发展格局产生重大影响。
唐鳳: 我认为目前对于AGI的未来发展及对人类社会的影响，仍存在不确定性。AGI能否符合人类社会期待，以及对其进行有效控制的难度，是目前AI发展面临的主要不确定性问题。目前硅谷关于AGI发展主要存在三种观点：加速主义、优先发展防御技术和优先发展安全机制。我个人更倾向于优先发展AI的防御技术和安全机制，认为社会准备程度至关重要。在社会充分准备之前，过度发展攻击性AI技术可能带来风险。信任AI和依赖AI是两个不同的概念，在当前阶段，将AI视为工具更为合适。AGI的出现时间难以预测，社会准备程度比时间点更重要。AGI的对齐难度和其发展速度，将决定人类的命运。如果AGI难以对齐，那么任何强权之间的争斗都将导致人类的失败。AGI的对齐难度和发展速度决定了合作与竞争的策略选择。对齐问题包含两个方面：发展对人类有益的AI，以及防止AI失控。积累应对AI失控的经验，对于未来发展更强大的AI至关重要。及早发现并应对AI带来的社会危害，是提高社会准备度的关键。AGI发展速度取决于技术突破，目前难以准确预测。O3模型在对齐方面做出了改进。最后，我认为台湾可以在AI领域扮演重要角色，例如推动可信赖的科技标准（Trusted Tech Standard），确保AI的安全性、透明性和对人类社会的益处。
Deep Dive
Shownotes Transcript