We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode What Claude Shannon Figured Out

What Claude Shannon Figured Out

2025/1/16
logo of podcast What's Your Problem?

What's Your Problem?

AI Deep Dive AI Chapters Transcript
People
D
David Tse
J
Jacob Goldstein
Topics
Jacob Goldstein: 我对克劳德·香农的贡献感到好奇,他被认为是现代科技的奠基人之一,在20世纪中叶的贝尔实验室工作,他的思想使得现代科技成为可能。然而,我并不完全理解他究竟取得了什么成就,以及为什么这些成就如此重要。 David Tse: 香农在信息论领域做出了开创性的贡献。他的工作对现代通信技术,特别是无线通信技术,产生了深远的影响。我的研究工作就受益于香农的理论,我的算法被应用于每一个手机通话中。 贝尔实验室作为AT&T的研发机构,其研究不受商业部门的直接限制,吸引了众多优秀人才,推动了科技创新。贝尔实验室孕育了诸多信息时代的基石技术,例如激光、晶体管和信息论。香农在贝尔实验室工作期间,对通信理论进行了深入研究,并取得了突破性进展。 David Tse: 香农在1948年发表的论文《通信的数学理论》中,提出了信息论的基本概念,例如信道容量和冗余。他巧妙地忽略了信息的意义,将通信问题简化,并取得了突破性进展。他将通信问题定义为在多种可能性中选择正确的一种,这为后续研究奠定了基础。香农的研究核心在于探究通信速度的极限,以及影响通信速度的因素。他提出了“信道容量”的概念,将通信系统比作管道,容量限制了信息传输速度。香农还研究了不同通信方式中的冗余问题,并找到了添加冗余的最佳方式,以确保信息可靠传输。香农的贡献在于优化了不同信道上的通信,平衡了效率(速度)和可靠性之间的权衡。他发现,通信的效率和可靠性之间存在一个“悬崖效应”,超过信道容量则无法提高可靠性。 在90年代,信息论一度沉寂,但无线通信革命的兴起使其重新焕发生机。我基于信息论原理,设计了一种比例公平调度算法,提高了无线通信的效率。无线通信中的衰落现象,是影响通信效率的重要因素,需要在算法设计中加以考虑。我的算法被应用于3G及后续的通信标准中,对现代无线通信技术产生了深远的影响。香农的信息论原理已被广泛应用于各种通信系统的设计中。信息论与机器学习、大型语言模型之间存在哲学上的联系,都关注模式而非意义。区块链技术与信息论之间也存在哲学上的联系,都关注容错性和对抗干扰的能力。 香农为人谦逊低调,这可能导致信息论及其影响力未能得到更广泛的认知。香农一生都保持着对问题的探索和解决的热情,无论是信息论研究还是业余爱好,都体现了他的这种“玩乐”精神。在科研中,抓住机遇的关键在于时刻准备着,只有做好准备才能在机会来临时抓住它。从香农到我本人,其科研方法的核心在于抓住问题的本质,并在此基础上进行研究。

Deep Dive

Chapters
This chapter explores Claude Shannon's monumental contributions to technology, focusing on his time at Bell Labs and the groundbreaking nature of his work. It highlights Bell Labs' unique research environment and Shannon's independent approach to problem-solving.
  • Shannon's work at Bell Labs was crucial to the development of modern technology.
  • Bell Labs' research environment fostered creativity and independent research.
  • Shannon's work laid the foundation for the information age.

Shownotes Transcript

 Claude Shannon is a major figure in the history of technology. Known as the father of information theory, Shannon spent decades at Bell Labs and MIT. But what exactly did Claude Shannon figure out, and why is it so important?To answer that question, Jacob talked with David Tse, a professor of electrical engineering at Stanford who studied under one of Shannon’s students, and who teaches Shannon to his own students today. David used Shannon's work to make a breakthrough in wireless communication that underpins every phone call we make today.

See omnystudio.com/listener) for privacy information.