Google’s AI Shift: The End of ‘Don’t Be Evil’?
Artificial Intelligence: AI News, ChatGPT, OpenAI, LLM, Anthropic, Claude, Google AI
Deep Dive
Shownotes Transcript
欢迎回到AI播客。我是您的主持人Eli,今天AI的发展速度比以往任何时候都快,最新的进展可能会改变一切。所以让我们来分解一下。想象一下你身处战场,对吧?
紧张气氛非常高涨,每一秒都很重要,必须立即做出决定。现在想象一下AI介入,加快识别威胁、追踪和消灭敌人的整个过程。这就是正在发生的事情,朋友们。五角大楼的AI主管直接承认,一些公司正在提供这些AI模型来加速军方的“杀伤链”,正如他们所说的那样。
所以这就是我们今天要深入探讨的内容,AI开发者与军方之间的这种关系,以及将AI带到战场上所带来的一切伦理问题。当你想到事情变化了多少时,这真是太疯狂了。就在不久前,谷歌还在AI和战争问题上非常直言不讳。他们的网站上甚至还有一个承诺,说他们从未将他们的技术用于武器或监控。但是,请注意。最近,他们悄悄地从他们的网站上删除了这个承诺。证据确凿。我的天哪,他们真的这么做了。
不过,他们确实发布了一篇关于负责任AI的新博客文章,这让你不禁思考,负责任的AI到底意味着什么?我的意思是,我们谈论的是军队,对吧?你到底在哪里划清界限?问题是,谷歌仍然表示他们致力于人权等等,并避免有害的结果。但是,当AI被用于可能做出生死攸关决定的战场环境时,你该如何做到这一点呢?
这就像走钢丝。而谷歌并不是唯一一个试图解决这个问题的公司。像OpenAI和Anthropic这样的公司也正在涉足军事AI领域。他们向五角大楼出售软件,但他们非常小心地说,他们的AI只是为了提高效率,而不是为了实际扣动扳机。但事情棘手的地方在于,五角大楼自己也表示,AI在整个“杀伤链”过程中给了他们巨大的优势。
那么,你如何将帮助制定战略与促成实际的致命行动区分开来呢?这是一个难题。我们是在谈论AI作为战略顾问,只是帮助人类做出更好的决策吗?还是它正在变成某种更重要的东西,在战争中扮演更积极的角色?因为一些专家甚至说,美国军方已经拥有自主武器系统,这些系统无需人类下令就能做出生死攸关的决定。
或者正如五角大楼所说,他们永远不会让武器系统完全自主运行。他们说,尤其是在使用武力时,总会有一个人在回路中。
但这让你不禁怀疑,“人机回路”到底意味着什么?当AI超快速地处理数据并建议采取行动时,人类是否还有足够的时间真正思考事情?在那些非常紧张的时刻,你知道,在真正重要的时候。当你开始谈论AI编码代理时,整件事就变得更加复杂了。你知道那些可以自己编写和调试代码的AI系统吗?想象一下,这被用来开发军事软件,让你不禁怀疑谁才是真正的责任人。
当这些程序开始在现实世界中做事情时。而不仅仅是编码代理。我们看到越来越多的自动化无处不在,对吧?自动驾驶汽车,甚至自动射击炮塔,信不信由你。那么,自动化和真正的自主性之间的界限在哪里?如果我们甚至无法就自主性的含义达成一致,我们如何为军事AI制定任何伦理规则呢?
这也不是什么理论上的事情。还记得去年亚马逊和谷歌的员工抗议他们公司与军方的合同吗?现在,AI界也有人在谈论类似的事情。一些研究人员表示,他们希望直接与军方合作。他们说,这是确保AI为国防负责任地开发的唯一途径。但其他人则划清了界限。他们说,不,我的AI永远不会被用来伤害任何人。但即使是这些界限也可能变得模糊。例如,以Anthropic为例。
他们是一家大型AI公司,他们有一项严格的政策,禁止将他们的模型用于任何可能伤害他人或造成生命损失的事情。听起来很清楚,对吧?好吧,事情是这样的。Anthropic也正在与Palantir合作,该公司为军方提供数据分析工具。而且不止于此。他们还与洛克希德·马丁和Booz Allen等国防承包商合作。所以这让你不禁思考,他们真的坚持自己的原则吗?还是这是“我说怎么做,而不是我怎么做”的情况?
然后是OpenAI,另一家AI巨头。他们与Andoril达成了协议。他们是一家国防科技公司,以其在自主无人机方面的成就而闻名。感觉很多这些AI公司都在试图两全其美。他们想与军方合作,但他们也想让自己看起来站在历史的正确一边。不过,我理解双方的论点。AI完全可以改变国防领域的格局。在某些情况下,它甚至可以挽救生命。但它也打开了一个我们不能忽视的伦理问题的潘多拉魔盒。
这一切都归结于一个问题。当AI参与军事行动时,谁才是真正的控制者?我们是否可以接受机器拥有如此大的权力,即使是为了国家安全,因为事情可能会出错?我们谈论的是武器系统。出错可能意味着非常非常糟糕的事情。我现在并不是说我们需要完全放弃AI和国防。一定有办法将它用于善事并让人类保持控制。
也许关键在于透明,进行公开对话并制定明确的规则。也许我们需要让更多的人参与到对话中来,不仅仅是科技公司和军方,还有伦理学家、哲学家,甚至是普通人。这是一个非常复杂的问题,但这是我们必须解决的问题,因为我们谈论的是战争的未来,甚至可能是人类的未来。
我们如何确保人类仍在做出重要的决定?人类的判断力和同情心仍然是其核心。这是我们需要回答的大问题。随着AI在军事领域扮演越来越重要的角色,这绝对是值得思考的事情。今天的节目时间就到这里。保持好奇心。