We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
M
Matt Garman
Matt Garman: 作为AWS的CEO，过去一年我最兴奋的是客户在AI领域的快速创新和对新技术的积极采用。客户正在加速云迁移，尤其是在AI和代理技术方面，越来越多地将他们的整个环境迁移到AWS。AWS的AI业务已经达到了数十亿美元的规模，但这仅仅是AI变革的开始。我相信，未来每个企业、行业和工作都将被AI彻底改变。AWS的生成式AI收入已经达到了数十亿美元，并且亚马逊内部也在广泛使用AI来优化运营和改善用户体验。客户正在利用AWS来彻底改变他们的联络中心，并使用AWS的定制芯片或NVIDIA处理器构建自己的模型。随着时间推移，AI工作负载中推理所占比例越来越高，未来将占据绝大多数。推理是AI嵌入到每个人使用的应用程序中的方式，每个应用程序都将内置推理，就像计算、存储和数据库一样。AI将嵌入到用户体验中，成为应用程序的核心部分，从而提高效率、能力和用户体验。Project Rainier是与Anthropic合作构建的，用于训练其下一代云模型的最大计算集群。Anthropic将在Tranium 2上训练其下一代模型，这是一个为AI工作负载定制的Amazon加速处理器，并且我们正在构建有史以来最大的集群之一。Tranium 2服务器已经投入运营，Anthropic正在使用部分集群，其性能在绝对性能、成本效益和规模方面都非常出色。目前AI仍然过于昂贵，我们需要通过芯片、软件和算法创新来降低成本，使其在更多领域得到应用。Tranium 2与NVIDIA并非竞争关系，市场空间巨大，NVIDIA是一个强大的平台，AWS与NVIDIA是设计合作伙伴。AWS确保为客户提供最新的NVIDIA技术，并不断突破NVIDIA能力的极限，同时也为Tranium等其他技术留有空间。客户需要选择，AWS的职责是为客户提供尽可能多的选择，Tranium和其他技术有很大的发展空间。AWS已推出P6实例（基于NVIDIA Grace Blackwell），客户正在使用并对其性能感到满意，AWS正在迅速提高产能。AWS的目标是成为运行各种工作负载的最佳场所，包括Anthropic Claude模型，AWS致力于提供最先进的技术能力和最广泛的服务。客户选择AWS是因为AWS能够帮助他们优化成本，并提供最可用、最安全的平台，例如Mondelez将其传统Windows平台转换为Linux应用程序，从而节省了许可成本。AWS致力于成为最具技术能力、拥有最多样化服务的平台，并乐见其他公司提供服务。AWS鼓励所有合作伙伴在其他地方提供服务，并希望其他公司也能采取同样的策略。AWS正在拉丁美洲积极扩张，包括推出墨西哥区域，宣布在智利建立新区域，以及在巴西拥有一个受欢迎的区域。AWS正在欧洲扩张，并计划在今年年底推出欧洲主权云，这是一个专为关键欧盟主权工作负载设计的独特能力。考虑到人们对数据主权的担忧，特别是对于政府和受监管的工作负载，欧洲主权云将是一个非常受欢迎的机会。
Deep Dive
This chapter explores the massive growth of Amazon's AI business, specifically focusing on AWS's contribution. It delves into the mix of customer-run models, hosted models like Amazon Bedrock, and applications such as Amazon Q. The discussion also highlights the transformative potential of AI across various industries and jobs.
- AWS's AI business is in the multi-billion dollar range and is primarily driven by customers using AWS.
- This revenue includes a mix of customer-run models, hosted models, and applications.
- AI is expected to fundamentally transform every business, industry, and job.
- Inference is becoming the dominant AI workload, surpassing training in usage.
Shownotes Transcript