We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode 2025-02-03 | 在两千美元的 AMD EPYC 服务器完全本地化运行 Deepseek R1 671B

2025-02-03 | 在两千美元的 AMD EPYC 服务器完全本地化运行 Deepseek R1 671B

2025/2/2
logo of podcast Hacker News

Hacker News

AI Deep Dive AI Chapters Transcript
People
播音员
主持著名true crime播客《Crime Junkie》的播音员和创始人。
Topics
播音员:美国疾控中心(CDC)为了符合特朗普政府的性别、多样性、平等与包容性(DEI)规定而修改和删除网站上的数据,这引发了公众对数据透明性和科学数据完整性的担忧。CDC的数据变动可能违反了开放政府数据法,并对研究人员和医疗服务提供者了解疾病如何影响特定群体造成困难。此外,CDC下令撤回和修订提交给科学和医学期刊的研究,要求清除"被禁用"的术语,这引发了对科研自由的担忧。这项政策影响广泛,不仅包括CDC内部出版物,还包括所有科学和医学期刊上的CDC作者论文。关于这项政策的解读、哪些研究与特朗普行政命令相冲突以及哪些描述会被划入"觉醒意识形态"等问题,都引起了广泛的担忧和混乱。 苹果公司开源了Swift构建技术,这将促进跨平台开发的便利性。Swift构建技术的开源,包括对Linux和Windows平台的支持,预示着Swift将更加依赖社区驱动的发展,并为所有Swift用户带来一致的跨平台体验。然而,一些网友担心苹果需要采取更多措施才能让Swift成为广泛采用的语言,例如开源Xcode等。 一本关于RLHF(来自人类反馈的强化学习)的书填补了该领域理论和实践的空白。这本书从RLHF的起源讲起,介绍了其核心方法、流行算法和未来前沿。网友们对这本书填补了RLHF理论和实践的空白表示赞赏。 在AI领域,文章介绍了如何在2000美元的EPYC服务器上本地运行DeepSeq R1 671B模型,并讨论了本地运行大型AI模型的必要性和成本效益,以及如何通过选择合适的硬件配置来优化性能和成本。此外,一个名为"Macro Data Refinement"的项目,源自Apple TV剧集《Severance》,引发了网友对该剧和项目的热烈讨论。另一个项目"Visualizing All Books of the World in ISBN Space",通过可视化展示ISBN空间来展示全球书籍,也引起了网友的关注和讨论。 关于网络安全,文章强调自行购买调制解调器和路由器比使用ISP提供的设备更安全,因为ISP提供的设备可能存在安全漏洞和后门程序。网友们分享了他们对ISP提供设备不满和担忧的个人经验,特别是关于安全性和性能问题。 最后,美国农业部审计长官Phyllis Fong因调查Neuralink而被强制解雇,引发了关于利益冲突和政府管理手段的讨论。Apple Intelligence默认开启,关闭方式复杂,用户体验不佳,也引起了用户的抱怨。

Deep Dive

Chapters
美国疾病控制与预防中心 (CDC) 正在修改和删除其网站上的数据,以遵循特朗普时代的 DEI 命令。这些变化可能会影响公共健康数据的透明性,使研究人员和医生更难掌握疾病在特定人群中的传播情况。这不仅威胁到科学数据的完整性,还可能加剧卫生公平问题。
  • CDC修改和删除网站数据以符合DEI规定
  • 数据消失可能违反开放政府数据法
  • 科学数据的缺失可能影响疾病追踪和健康指标比较
  • CDC下令撤回和修订大量研究,要求清除被禁术语

Shownotes Transcript

CDC 数据消失:公共健康透明性的前景如何?

最近的一篇文章揭示了美国疾病控制与预防中心(CDC)正在修改和删除其网站上的数据,以遵循特朗普时代的 DEI 命令。这些变化可能会影响公共健康数据的透明性,使研究人员和医生更难掌握疾病在特定人群中的传播情况。这不仅威胁到科学数据的完整性,还可能加剧卫生公平问题。

文章链接: CDC data are disappearing)

HN 链接: Hacker News)

CDC大规模撤回与修订研究,引发学术界震荡

在最新的一项引起广泛讨论的行动中, 美国 疾病控制与预防中心 (CDC) 已命令撤回或修订提交至所有科学和医学期刊的已提交研究。此举旨在确保任何“被禁用语”不出现在工作中。此政策适用于修订阶段和已经接受但尚未发布的研究稿件。这一事件在学界引发了巨大反响,因为许多研究通常包含基本的人口统计信息,而这些信息可能会涉及政策中的禁用术语,引发对科研自 由 的担忧。

文章链接: CDC orders mass retraction and revision of submitted research)HN 链接: Hacker News Discussion)

Swift 的新篇章:开源和跨平台构建技术

苹果公司正式将 Swift Build 开源,这是一个强大且可扩展的构建引擎,旨在为跨平台开发提供一致而灵活的体验。这一举措被视为在增强 Swift 语言生态系统中的跨平台构建工具的重要一步。然而,开发者社区对 Swift 语言"仍然被苹果牢牢掌控"表示担忧,并认为此举虽然值得欢迎,但需要苹果进一步开放其工具链,以真正为 Swift 用户带来裨益。

文章链接: The Next Chapter in Swift Build Technologies)HN 链接: Hacker News 讨论)

搭建本地 Deepseek R1 671b AI 服务器:高性能与低成本的结合

本文介绍了如何在价格为 $2000 的 AMD EPYC 服务器上,完全本地化运行 Deepseek R1 671b AI 模型。作者整合了最新的技术,利用现有硬件达到低至 60 瓦的闲置功率和 260 瓦的满载功率。此服务器可达 4.25 至 3.5 TPS,强调了完整模型的优越性能。同时,针对想要进行本地 AI 计算的用户,该文给出了一系列详细的配置和优化建议。

文章链接: How to Run Deepseek R1 671b Fully Locally on a $2000 EPYC Server)

HN 链接: Hacker News Discussion)

走进神秘的 Lumon Industries —— 解构《Severance》的企业文化

Lumon Industries 是 Apple TV 热播剧《Severance》中虚构的企业,这家公司以其神秘且重要的工作而闻名。尽管该剧情节巧妙,但观众们仍在试图揭开 Lumon 的真实目的。Hacker News 上,用户对其进行了热烈的讨论,称其再现了初创公司产品未定型前的工作状态,既神秘又令人兴奋。

文章链接: Macrodata Refinement)

HN 链接: 评论探讨)

可视化全球图书的 ISBN 空间:人类知识的数字集成

通过对 ISBN 空间的可视化展示,这个项目将书籍以数字方式整合,创造出一个可能涵盖全球所有已发表图书的图书馆。评论者对该项目的技术成就感到惊叹,认为这是一个令人印象深刻的展示。然而,有评论指出,由于 ISBN 可能出现重复和无效的问题,这样的可视化可能并不能完全准确地代表所有图书。该项目的创作者通过创新的数据映射方式,实现了对庞大书籍数据的直观展示。

文章链接: Visualizing all books of the world in ISBN-Space)HN 链接: 链接)

避开互联网服务提供商的路由器,保障您的网络安全

在互联网普及的今天,越来越多的用户选择购买自用的调制解调器和路由器,而非使用互联网服务提供商(ISP)提供的设备。这并非没有理由。ISP 提供的设备通常以低成本为主打,导致其在安全和性能方面大打折扣。同时,ISP 有可能在这些设备中安装后门程序,危及用户隐私。因此,选择自有设备不仅可以提高网络安全性,还能在长期使用中节省不少租赁成本。

阅读完整文章)HN 链接: Avoid ISP Routers (2024))

探索人类反馈强化学习的魅力

人类反馈强化学习 (RLHF) 书籍的发布引发了科技社区的热烈讨论。在这本书中,作者旨在填补目前 RLHF 理论和实践中公共文献的空白,将目前主要靠 arXiv 论文拼凑知识点的现状,转变为易于引用的综合文献。评论者指出,该书虽仍在工作进程中,但已有60%完成,各方期待其第一稿的最终完善。

原文链接:RLHF Book)HN 链接: Hacker News 讨论)

Phyllis Fong 调查 Neuralink,遭强制解雇引发关注

Phyllis Fong 是一位在美国农业部任职多年的监察总长,她因调查 Elon Musk 的脑植入初创公司 Neuralink 而遭遇强制解雇。这一事件引发了广泛的讨论和批评,支持者称其解雇程序不当,许多人质疑其中背后的政治动机。与此同时,关于 Fong 的努力是否会继续影响 Neuralink 的调查也充满了不确定性。

原文链接)

HN 链接: Hacker News 讨论)

苹果 AI 智能遭遇用户质疑:如何关闭 Apple Intelligence

最近的 苹果 iOS 18.3 更新自动开启了 Apple Intelligence,但不少用户反馈体验不佳。即便在系统设置中关闭,仍需在每个应用中单独关闭 AI 功能,这被认为是极其糟糕的用户体验。此外,关闭 Apple Intelligence 后能释放约 7GB 的存储空间,这对于 128GB 的基本型号来说尤为可贵。

文章链接: How to turn off Apple Intelligence)

HN 链接: How to turn off Apple Intelligence on Hacker News)