Deep Dive
Shownotes Transcript
大家好 欢迎收听黑客新闻中文日报在今天的节目中 我们将一起看看关于人工智能推理引擎 VLLM 如何让大模型部署变得高效和极致开发者社区有哪些全新洞见和应用接着 我们还会讨论苹果 wallet 推送广告风波用户对隐私和品牌信任的变化背后透露出了哪些数字生活新焦虑此外 B2C 的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新的新
Bizzy Beaver 的最新突破又一次让我们重新审视大数与计算极限在网友热议中你可能会对极端增长有全新的直观感受精彩内容马上开始快来加入我们的科技热聊最近在计算理论领域 Bizzy Beaver 的第六个值 BB16 又被大幅刷新了下限目前已经证明它比二五重秘五还要大也就是说它至少是二叠加指数九次那么大这个数量远远超出了我们日常理解的任何大数
简单说,BB6 指的是一个有 6 个状态的图灵机在权威 0 的输入带上运行,最多能走多少步才会停机。之前 BB6 已经被证明超过 10 万十次方,而现在最新的团队结果显示它远远超出这个数量级,有人打比方说,这么多沙粒可以盛满上千万个可观测宇宙,直观上已经难以想象。
评论区网友们讨论得很热烈,有人感叹仅仅增加一个状态,数值增长就快到几乎没有意义,也有网友猜测 BB7 很可能比 Graham's number 还要大,甚至还有人说以目前增长的速度,很快 BB 的值就会超出常规公理系统的证明能力。Apple 向大量 Apple Wallet 用户推送了一条 F1 电影的广告,这在用户之间引发了很大的争议。
很多人认为,把广告强行塞进钱包,哎,破坏了用户对隐私和信任的期待,毕竟钱包这种应用存放着大家的支付信息,门票和各种重要证件。按理说,不应该出现广告。对于很多人来说,Apple Wallet 本应该像密码管理器或者日记 App 一样私密,广告突然出现让人不禁怀疑自己的兴趣或者消费记录是不是正被后台追踪。
一些用户表示,如果之前刚在 Apple Wallet 买了其他电影票,然后又收到了这条广告,难免会觉得被监视了。更让人担心的是,Apple 一直强调自己的产品和服务非常注重隐私,也主打和其他科技公司不一样,但这次的推广行为打破了用户之前的信任感。有网友评论说,这次广告其实也违反了 App Store 的相关推送政策,不光影响体验,更丢掉了品牌的底线。
还有人怀念以前 Apple 更懂得把关审美和品牌条性不至于做出这种让人失望的决策讨论区里还有用户表示其实有些人正是因为 Apple 的隐私保护才继续使用自家手机和服务这次的事件可能会推动一部分人考虑转向别的平台博客作者通过一篇幽默的文章将英国护照申请流程比作一款解谜收集游戏 Passport Application 并用 Haskell 编码尝试还原这个复杂的流程
英国护照的申请过程不仅昂贵 操作中还充满了各种繁琐的规则和纸质材料尤其是针对在海外出生的孩子 官方会递归式的让你网上查找并提交祖辈的信息比如申请人父亲的父亲的父亲的出生证明和结婚证这类非常久远的文件系统背后逻辑严格依赖于英国国籍法 要通过原始材料来不断向上验证英国血统整个过程既让人头大 也颇有 RPG 游戏的感觉
作者最后用 HASC 的逻辑编程模拟出不同申请路径,每种路径都需要不同的材料组合,甚至能细致到列出每个证明链条。其实,真正的护照申请并没有官方这样的自动化软件,很多流程依然需要人工判断,因为法条异常复杂,各种特殊情况和历史遗留问题层出不穷。
评论区有网友分享了自己为家人办理跨国护照时需要提交的大量证明材料的亲身经历,也有人调侃这个流程像是在玩一款难度很高的桌游。还有讨论指出,英国的流程虽然烧脑,但比起澳大利亚的护照还算便宜,材料装订质量也更靠谱。Eric Satie 这些多年未曾被听到的作品,将在他去世 100 年后迎来首演。
这次共发现了 27 首从未公开的作品,包括俏皮的歌剧小品和极简风格的夜曲,这些曲目大多是在上世纪初 Satie 在巴黎蒙马特的酒馆担任钢琴师时创作的。英国音乐学者 James Nye 和日本作曲家松井里莎联手,从法国国家图书馆等多个档案中,花了大量时间一点一点整理和辨认这些存在于笔记本里的手稿。
知名钢琴家 Alexander Zerod 将在新专辑中首度演奏这些被遗漏多年的旋律为 Satie 去世百年纪念带来新的亮点网友们在评论中纷纷提到 Satie 的 Gymnopedies 等经典作品一直是他们放松和专注地播放列表首选也有音乐迷分享了自己对新作品的期待觉得能看到一个更全面不同风格的 Satie 非常难得有人还分享了自己制作致敬 Satie 创意项目的经历整体反响非常热烈
越来越多的中产阶级音乐人发现,靠音乐谋生变得异常艰难。曾经的行业规则下,像 Rolly Pemberton 这样的音乐人还能靠签唱片公司演出和实体专辑销售维持体面的生活,可现在,流媒体平台的兴起让音乐价值被严重稀释。
Tamerton 的经历很有代表性签下 360 合同后唱片公司几乎分走了大部分收入他要靠各种零碎工作和临时演出来补贴生活即使作品获得奖项实际到手的收益也十分有限以前通过卖 CD 巡演和周边产品中档音乐人还有可能获得不错的收入但现在无论是流媒体的低分成现场演出的高成本还是 AI 自动生成音乐的挑战都让独立音乐人生存空间不断收缩
评论区很多网友提到,如今能坚持做音乐的大多有一定经济基础,不然很快就会转行。还有人建议音乐人主动寻找粉丝社群,尝试直接销售和线下小演出,更多人感慨,中产音乐人正变成少数,剩下的要么变成极少数的超级明星,要么只能边打工边坚持创作。VLLM 是一个开源的推理引擎,用于高效的部署大语言模型,比如 LAMASY。
团队会把多个 VLLM 实例分布在不同的 GPU 上,然后通过负载均衡的方式来分配流量,并自动进行健康监测和升级。用户只需要通过 API 把 Prompt 发到服务端,系统会自动决定有哪个 VLLM 实例来处理请求。
在 VLLM 的架构里,一个推理请求会经过 API 服务器,随后使用异步的引擎把请求转发给核心模块 Engine Core,各个环节之间通过异步进程通信来最大程度提升效率,这样 CPU 负责分词,HTTP 处理,GPU 则全力跑模型,两者互不干扰。Engine Core 里有调度器负责批量处理请求,通过队列把多个用户的输入整理到一批里,让 GPU 每次都能尽量满载,提高服务吞吐量。
比如三个请求各有不同比例的 Prompt Token,调度器会按照预设的 Token 配额灵活分批,把 Prompt 阶段和解码阶段划分清楚。再往下,模型执行模块会把这些请求都组合成一个大批量张量,同时在 Cuda 上进行计算。解码阶段输出的 Logits 经过采样策略后,最终获得每个请求的下一个 Token,服务器会一边计算一边把这些 Token 流逝返回给用户。
整个流程把系统各个部分串联起来既保证了效率也确保了响应的即时性有开发者评论说这种连续批量处理和高效的 KVCash 管理为大规模服务带来了不少优化空间还有人提到多层缓存机制和对列优化都值得深入探索也有作者本人鼓励大家直接在博客下留言互动美国版全局目前正处在一个非常混乱的阶段最近一个多月都没有负责人
5 月份,原版全局局长 Cyr Permeter 突然被白宫通过邮件解雇,他现在正起诉前任政府,认为这次解雇不合法,而政府方面则坚称有权解雇他。Permeter 还认为自己依然是版全局局长,但由于争议,他已经无法正常履行职责。与此同时,白宫任命了新的代理局长,但相关人员并没有去上班,也没有接手日常工作。
国会目前正在和白宫沟通,希望就这一人事纠纷达成协议。由于没有明确的负责人,外界质疑现在颁发的版权注册证书是否合法,尤其是其中缺少必要的签名,可能将来会影响到相关法律效力。此外,现阶段还有像音乐流媒体、分层机构等需要版权局认证的工作也被搁置。
评论区有网友认为,目前的局面让版权制度更加混乱,有人感叹 AI 时代下,版权的存在本身开始被质疑,也有人表示版权局的空缺正在加剧整个系统的不确定性。有一位蜂蜜爱好者,在自己卧室的墙里建了一个室内蜂箱,还起名叫 Valentine。
作者通过请木工师傅把卧室窗边墙上的石膏板和隔热层拆开在外墙装了一个主管专门给蜜蜂进出然后在墙体内部加上一块亚克力板方便观察蜂群还用后棉被遮住让蜜蜂舒服地在黑暗里生活这种在墙体养蜂的做法其实有很悠久的历史几千年前古人就在石头或砖砌房子里专门开出蜂巢借助墙体的保温和隔热让蜂群冬暖夏凉而取蜜也很方便
作者用比较小的蜂巢养蜂,还发现蜜蜂很少出问题,蜂王也很快适应新环境。当年春天,他通过装蜂工具把新捕捉到的蜂群请进蜂巢,但一开始疏忽导致卧室充满了蜜蜂,后来大家都回到了墙里的新家。整个夏天,这个小蜂群在卧室墙里很忙碌地筑巢,采蜜,还可以闻到蜂蜜和蜂胶混合的香味。
看着风群的日常让作者学到不少东西听着蜜蜂嗡嗡声也很治愈有网友夸这个创意和文章很有意思也有人提到以前在 YouTube 上见过类似的观察蜂箱还有人分享自家后院养蜂的故事说光看着蜜蜂进进出出就特别治愈
2025 年 ARRL Field Day 将在 6 月 28 号到 29 号举行,这是美国和加拿大一年一度规模最大的业余无线电活动,每年有超过 3 万 1 千名 HAM,也就是业余无线电爱好者,会和俱乐部、朋友们一起到户外搭建临时电台。Field Day 鼓励大家一边野餐,一边露营,一边练习应急通信技能,也让更多人了解无线电是怎么连接世界的。
参与者会在现场尝试通过不同频段多种方式进行通联,目的是尽可能和更多其他爱好者建立联系,应对各种户外突发情况。如果你没设备,也可以去附近的 Field Day 站点看看,体验一下搭建和操作过程,甚至有像 ESPN 这样的俱乐部会在 YouTube 上直播。
网友在评论区分享了很多自己的故事,比如有 12 岁首次参加就彻夜未眠的少年,也有强队为了争排名拉拢高手来加分还有人和大家互相打气,交流如何在小空间或没有 HF 电台的情况下参与整体来看,Field Day 不仅仅是爱好者之间的技术切磋,更像是一场热闹的嘉年华,让新老朋友借着无线电结下深厚友谊有人还说,这正是他们初心不改,热爱无线电多年的动力所在
感谢收听今天的黑客新闻中文日报希望这些科技前沿与行业观察能带给你不一样的思考和灵感如果喜欢我们的内容欢迎订阅和分享持续关注每日新鲜话题祝你科技愉快我们下期再见