We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
People
主持人
专注于电动车和能源领域的播客主持人和内容创作者。
Topics
主持人: 本期节目讨论了AI艺术品以百万美元价格售出以及Anthropic与Palantir合作将AI技术应用于国防领域等重要新闻。AI艺术品拍卖引发了人们对AI艺术价值和未来发展的讨论,而Anthropic与Palantir的合作则标志着AI技术在国家安全领域应用的重大转变,同时也引发了关于AI伦理和安全性的讨论。 AI机器人艺术家: 其AI作品的价值在于引发人们对新兴技术的讨论,并促使人们思考AI技术带来的伦理和社会影响。 Kate Earl Jensen: Anthropic与Palantir的合作将使美国国防和情报机构能够使用Claude AI模型,从而提高情报分析和决策效率。 Palantir发言人: 与Anthropic和AWS的合作,为美国国防和情报部门提供了利用AI模型进行安全分析的工具链,将下一代决策优势带入其最关键的任务中。 评论员: Anthropic与军方的合作是不可避免的,这反映了AI技术在军备竞赛中的重要作用。一些评论员认为,这体现了AI技术在国防领域的应用,有助于提升国防和情报能力,并最终威慑对手。但也有人担忧AI技术在军事领域的应用可能带来伦理和安全风险。 主持人: OpenAI胜诉一起版权诉讼,因原告未能证明其遭受的损失。法官认为原告声称的损害不足以支持诉讼。AI公司Myriad推出了一个新的AI内容审核工具,支持多种语言,并能识别多种有害内容。电影公司狮门影业正在使用AI技术,并对结果感到满意。Google使用AI技术发现了一个广泛使用的软件中的零日漏洞,这项技术具有巨大的防御潜力。

Deep Dive

Chapters
An AI-generated artwork by a humanoid robot sells for $1 million, sparking discussions about the future of AI in art.
  • AI artwork 'A I god' sold for $1 million, significantly outperforming initial estimates.
  • The artist, a humanoid robot, emphasizes the dialogue-catalyst potential of AI art.
  • The sale establishes a new benchmark for AI-generated art in auctions.

Shownotes Transcript

今天,在《AI每日简报》中,Anthropic成为最新一家与美国政府合作的AI公司。在此之前,头条新闻是,一件AI绘画作品以超过一百万美元的价格售出。《AI每日简报》是一档每日视频和播客节目,涵盖AI领域最重要的新闻和讨论,欢迎加入我们的讨论。

欢迎回到《AI每日简报》头条新闻版。您需要的所有每日AI新闻,都在大约五分钟内。这是一周非常重要的结束,而这一天在新的发布和新产品方面,在AI世界中显得有些平静。

您必须想到,人们不想与美国大选节目竞争,因为我宣布任何重要的事情。然而,本周有一些非常有趣的故事,特别是,一件AI艺术品以一百万美元的价格售出。

这件作品名为“AI神”,由AI机器人创作,据称他是第一位进行拍卖的类人机器人艺术家。市场预期价格在10万到18万美元之间。但实际表现远超预期。

最终,他说有27个竞标者参与了这件艺术品,并表示此次销售标志着全球艺术市场的新前沿,为类人机器人创作的艺术品设定了拍卖基准。艺术家AI机器人表示:“我的作品的关键价值在于其能够引发关于新兴技术的对话。这件作品邀请观众反思人工智能的‘神性’,同时思考这些进步的伦理和社会影响。”

值得注意的是,主题是图灵,他是二战期间的密码破译专家,也是早期计算机先驱。非常有趣。当然,问题是,这仅仅是一次新奇的事件吗?还是我们会再次看到这类作品出现在拍卖会上?接下来,我们将进入法律领域。

OpenAI取得了一场小胜利。针对OpenAI的版权诉讼中,其中一起因缺乏损害赔偿而被驳回。联邦法院驳回了故事媒体和替代媒体对OpenAI的诉讼,原告声称OpenAI在训练数据中使用了他们的文章,但未进行适当的署名。法官在做出裁决时表示,出版商未能证明足够的损害来支持他们的主张。

法官允许他们提出新的诉讼,但表示他“怀疑他们能否指控认知上的伤害”。值得注意的是,此案与《纽约时报》的诉讼略有不同。这些原告并非指控侵犯版权,而是简单地指控未经版权管理信息(CMI)的复制文章。

让我们明确一下这里真正的问题是什么。原告声称的真正伤害并非CMI的缺失,而是未经评论地使用大量文章来开发ChatGPT。法官基本上表示,这种伤害不足以证明诉讼的合理性。尽管如此,原告表示他们有信心通过修正后的诉状来解决法庭的担忧。

OpenAI的竞争对手Mystery AI推出了一个新的API,名为“M”。与此同时,该功能由其模型“Ministry AB”的微调版本提供,可针对特定应用和安全标准进行调整。该模型经过训练,可以识别包括法语、德语、阿拉伯语、日语和韩语在内的11种语言中的有害内容。

它可以识别包括性仇恨、歧视、暴力、威胁在内的九类有害内容。在过去的几个月里,该行业和研究界对新的AI内容审核系统越来越感兴趣,这些系统可以帮助在各种应用中实现更可扩展和强大的审核功能。继之前的报道之后,狮门影业已经开始使用AI,并且对结果感到满意。

您可能还记得,狮门影业在9月份与Runway签署了一项协议,以获得其生成视频工具的访问权限。这是该工作室与主要工作室达成的首个协议,并消除了人们对AI取代电影工作人员和人才的担忧。在本周的收益电话会议上,电影主席Adam Fogel表示,在澄清了这项技术对电影制作伙伴和人才的具体用途后,他们收到了很大的支持,并且电影制作人员已经开始使用这项技术。

CEO John Fell补充道。我们相信,在适当的防护措施下,AI可以为所有人提供帮助,并且我们相信,从长远来看,它将对我们的业务产生积极的转型影响。最后,今天,谷歌利用AI发现了一项广泛使用的软件中的零日漏洞。

谷歌声称,他们通过代码审核代理“Big Sleep”发现了该漏洞,并通过博客文章向我们介绍了这一发现。我们相信,这是AI代理首次发现广泛使用的实际软件中之前未知的可利用内存安全问题。Big Sleep是由谷歌DeepMind在Project Zero部门专门训练的。

博客继续说道。我们认为这项工作具有巨大的防御潜力。在软件发布之前发现漏洞意味着攻击者无法利用这些漏洞。在攻击者有机会利用这些漏洞之前,漏洞就已经得到修复。总而言之,有很多有趣的事情正在发生,但今天的头条新闻就到这里。

接下来是主要内容,今天的节目由Vanta赞助。无论您是刚开始还是正在扩大您的公司安全计划,展示最佳安全实践并建立信任比以往任何时候都更加重要。Vanta自动化了ISO 27001、SOC 2、GDPR以及ISO 42001和NIST AI风险管理等领先的AI框架,节省您的时间和金钱,同时帮助您建立客户信任。此外,您可以通过自动化问卷调查来简化安全审查,并通过面向客户的信任中心来展示您的安全态势。

Vanta为全球超过8000家公司提供AI支持,例如大型连锁店和工厂。使用Vanta来展示AI信任,实时改进安全性,了解更多信息。访问vanta.com/nlw。今天的节目由Superintelligence赞助。

每个业务流程和功能都在用人工智能进行改造和重新想象。然而,从AI的潜力到实际捕捉价值,存在巨大的挑战。而Superintelligence致力于填补这一差距。

Superintelligence加速AI采用和参与,帮助团队利用AI提高生产力并推动业务发展。交互式AI用例注册表让您的公司全面了解人们目前如何使用人工智能。结合其能力,构建教程、学习路径、研讨会和用例库。

Superintelligence帮助公司内部人员展示他们如何从AI中获得价值,同时为人们提供将这些见解付诸行动的资源。未来三个注册人数超过100人的团队将获得免费嵌入式咨询。这是一个过程,我们的Superintelligence团队将与您一起讨论对您最重要的特定用例,并帮助确保这些用例的采用以创造实际价值。

访问superintelligence.ai了解更多信息。现在回到节目。欢迎回到每日简报。在过去几年中,我们一直在关注科技行业中哪些真正有趣的事情?防御技术领域正在复苏。

过去,与军队合作的公司一段时间以来,在硅谷中实际上被视为不受欢迎的存在。当微软和谷歌等公司试图与美国政府和美国军队合作时,UI员工经常会反抗并拒绝。

但这种情况确实开始转变。像Palantir和Andreessen Horowitz这样的公司的成功无疑是其中一部分原因,但您绝对可以看到AI领域也开始参与其中。

最新消息是,Anthropic正在与Palantir合作,为美国军队提供云服务。具体来说,美国情报机构将能够通过亚马逊的政府AWS服务器访问Anthropic的Claude AI。Kate Earl Jensen表示,这项合作将使军队能够“实现Claude AI的运营”。

当然,我们最近刚刚讨论过Meta也将使其Llama模型提供给国防部门。推动这种转变的部分原因似乎是白宫的讨论。最近关于AI国家安全的备忘录似乎至少名义上满足了这些要求,从而让领先的AI实验室更容易与美国政府合作。

通过整合到Palantir平台中,Claude AI将首次能够访问机密文件。这已经明确了使用可以访问“机密”级别信息的系统,该级别低于“绝密”。

Song Car,Valentia的首席执行官表示,我们与Anthropic和AWS的合作,为美国国防和情报机构提供了必要的工具链,以利用和部署AI模型,为其最关键的任务带来下一代决策优势。我们很荣幸成为第一家将云模型引入机密环境的行业合作伙伴。

我们已经看到了这些模型在商业领域的初步影响。例如,一家领先的美国保险公司利用AI代理自动化了其大部分承保流程,这些代理由Anthropic的云服务提供支持,将原本需要两周才能完成的流程缩短至三个小时。我们现在正在为美国政府及其盟友提供相同的系统优势。Anthropic的Jensen补充道。

我们很荣幸能够引领将负责任的AI解决方案带入美国机密环境,从而增强分析能力和政府运营的效率。

访问AWS上的Claude AI,将为美国国防和情报机构提供强大的AI工具,能够快速处理和分析大量复杂数据。这将极大地改善情报分析,并使官员能够做出更明智的决策。

正如您可能想象的那样,围绕此事的重大讨论都与它如何或是否与Anthropic的自我认知和品牌形象相符有关,如果您关注AI安全,则会关注AI攻击和防御的平衡。

想象一下,在2021年,您告诉Anthropic的创始人,他们成立公司仅仅三年后,就会与军队合作部署他们的模型。

这些家伙真的很关心。

您有信号,有力量,在同一时间,总的感知、能力和原始AI能力必须在适当的框架内追求。

哈哈,让我们继续。

我并不想表现出双重标准,但这是完全没有意义的事情。对此,我应该明确我的感受。我不认为Anthropic为此感到羞愧。

我认为这是有根据的,我认为您应该将其用于军事和安全,这不会在CSO和竞争对手(如OpenAI)的幻灯片中出现。非常有前途。我们需要所有优势来增强我们的防御和情报能力,并最终威慑我们的对手。

利用AI来应对国防部情报机构的挑战对我们所有人都有好处,和平来自实力,并非不公平。Anthropic的服务条款实际上比许多其他公司在国防行业使用时更具限制性。他们已经允许包括合法授权的外国情报分析、识别受影响的活动或破坏活动以及预警潜在军事活动等任务。

Anthropic还表示,他们将根据政府机构参与的程度等因素,调整对任务和法律授权的限制。我认为很明显,美国AI公司将与美国军事机构合作。这不是我们从Anthropic获得的唯一消息。

然而,亚马逊正在考虑进一步投资Anthropic。早在3月份,亚马逊就完成了对Anthropic的40亿美元投资,这需要该初创公司使用AWS进行计算。

这项协议进一步要求Anthropic使用亚马逊开发的训练芯片来训练其模型。问题是,Anthropic更喜欢使用由英伟达设计的芯片支持的亚马逊服务器。他们继续扩大亚马逊的规模。

Anthropic的总投资额可能取决于此次讨论的结果,特别是亚马逊芯片的数量,以及Anthropic同意使用这些信息。此外,转向亚马逊服务器芯片对Anthropic来说可能具有技术挑战性,因为开发人员必须使用的亚马逊软件与训练芯片的兼容性不如其他软件。此举还可能将Anthropic锁定在使用亚马逊训练服务器上,这使得该AI初创公司在未来使用其他云提供商或至少在其他数据中心更加困难。

目前,这些细节尚未得到证实。Anthropic似乎正在寻求另一轮融资,这可能会使公司的估值达到400亿美元。鉴于竞争的巨大成本,如果我们很快没有更多关于该融资的消息,我会感到惊讶。但这也提醒我们,Anthropic现在所处的规模和规模,实际上只有少数合作伙伴能够与之竞争并进行大规模融资。在此,我们结束今天的《AI每日简报》。感谢您的收听或收看,我们下期再见,祝您一切安好。