We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
AI's Energy Crisis: Innovations Shaping the Future of Computing
2025/1/16
Lexicon by Interesting Engineering
B
Brandon Lucia
Brandon Lucia: 我是高效能计算公司的首席执行官兼联合创始人，也是卡内基梅隆大学的教授。过去十年，我致力于能效计算和资源受限计算的研究。我们公司研发的技术源于在卡内基梅隆大学进行的十余年研究，其核心是彻底重新设计芯片架构，以实现最高的能效。传统上，人们通过增加算力来提高计算效率，而我们则从架构层面入手，在每个设计决策中都优先考虑能效。这与当前科技行业面临的挑战——如何在日益增长的计算需求下降低能耗——高度契合。
我们发现，许多AI应用中，除了机器学习部分，还有大量的数据预处理、规范化、数据格式转换等任务。专用AI处理器擅长处理机器学习部分，但对于其他任务则效率较低。而我们的芯片架构能够高效处理整个AI应用流程，包括数据采集、清洗、规范化、数字信号处理以及机器学习等，从而实现更高的端到端效率。
我们的芯片架构采用数据流模型，将程序分解成数据流图，并将其映射到芯片上的网格状结构中。这种并行处理方式能够显著提高性能，同时避免了传统冯·诺依曼架构中频繁的指令读取和解码操作，从而实现极高的能效。与市场上其他低功耗嵌入式CPU相比，我们的芯片在能耗方面最多可提升166倍，同时性能也具有竞争力。
我们的芯片已在基础设施传感、空间与国防应用以及健康与可穿戴设备领域得到应用。在空间应用中，尺寸、重量和功耗（SWAP）至关重要。我们的芯片能够显著降低卫星的功耗，从而减少电池和太阳能电池板的尺寸和重量，降低任务复杂性和风险。例如，在月球探测任务中，我们的芯片可以用于视觉导航，在能源受限的环境下实现高效的图像处理和机器学习。
未来，计算技术将从过度专业化转向注重能效的通用型计算。随着AI应用的普及，能源消耗将成为一个日益重要的因素。我们的芯片架构兼顾通用性和能效，能够满足各种计算任务的需求，并为未来的计算技术发展提供支持。
Deep Dive
Brandon Lucia, CEO of Efficient Computer and professor at Carnegie Mellon University, shares his journey into energy-efficient computing. Driven by the limitations of existing chip architectures in battery-less devices, he and his team embarked on a clean-slate redesign prioritizing energy efficiency.
- Focus on energy-efficient computing inspired by limitations of existing chip architectures in battery-less devices.
- Clean-slate redesign of chip architecture prioritizing energy efficiency.
- Amdahl's Law motivates the pursuit of end-to-end efficiency in AI applications.
Shownotes Transcript