We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode Will AI “eat software” — and what’ll happen to coders? w/ GitHub CEO Thomas Dohmke

Will AI “eat software” — and what’ll happen to coders? w/ GitHub CEO Thomas Dohmke

2024/7/2
logo of podcast The TED AI Show

The TED AI Show

AI Deep Dive AI Chapters Transcript
People
T
Thomas Dohmke
旁白
知名游戏《文明VII》的开场动画预告片旁白。
Topics
Thomas Dohmke: 童年时期接触电脑的经历激发了他对软件开发的兴趣。90年代的开源社区是早期开发者社区的雏形。GitHub是软件开发的中心,Copilot是其AI辅助编程工具。Copilot通过代码自动补全功能减少程序员的重复性工作,作为辅助工具,程序员仍然掌控代码编写方向。Copilot的灵感源于疫情期间的一次团队视频会议。Copilot早期测试的成功率达到93%,促使团队决定将其开发成产品。Copilot支持文本转代码功能,可以根据注释生成代码。Copilot最初发布时,开发者社区反应是怀疑和不相信。Copilot可以提高开发者的工作效率和沉浸感。Copilot Chat功能允许开发者用自然语言与AI进行交互。Copilot支持多种语言的代码解释功能,降低了学习编程的门槛。GitHub预计到2030年用户数量将达到10亿,这得益于AI辅助编程工具的普及。编程应该成为基础教育的一部分,AI工具可以帮助学生学习编程。学习编程就像学习乐器一样,不一定每个人都会成为专业人士,但它可以成为一项有用的技能。AI辅助编程工具将使软件开发更像内容创作,降低参与门槛。软件开发的需求持续增长,AI工具可以帮助解决软件开发人才短缺的问题。未来的软件开发者需要具备创造性思维、系统思维和AI工具使用能力。软件开发类似于建造房屋,需要开发者做出各种选择,AI工具可以辅助决策。教育需要适应AI工具的出现,教授学生如何安全和负责任地使用AI工具。AI工具的出现不会取代软件开发者的职业,而是提高他们的效率。AI工具可以帮助专业程序员提高效率,也可以帮助普通用户进行软件开发。AI工具的目标是赋能每个人进行软件开发。AI是否会发展到具有感知能力,目前尚无定论。AI辅助编程工具将提高软件开发效率,促进经济增长。历史表明,生产力提高往往会增加就业需求,AI工具将改变工作性质而非消灭工作岗位。AI革命催生了新的职业,例如AI工程师。企业需要及时采用AI工具,避免被竞争对手超越。AI工具将提高所有程序员的生产力,而非仅仅是资深程序员。软件开发者的工作压力越来越大,AI工具可以帮助他们提高效率。GitHub致力于负责任地使用AI,防止AI工具被用于恶意目的。Copilot内置安全机制,可以检测和修复代码中的安全漏洞。Copilot不会生成恶意代码,并会尝试修复代码中的安全漏洞。Copilot未来的发展方向是支持自然语言编程。Copilot的目标是成为一个能够帮助用户完成各种编程任务的智能助手。 旁白: GitHub是一个代码共享网站,NASA的火星直升机软件部分源于GitHub上的志愿者代码贡献。GitHub拥有超过一亿开发者,为软件开发提供了巨大的代码资源库。GitHub是一个开放源代码平台,促进了大量优秀项目的开发,例如Linux和TensorFlow。AI正在改变软件开发,其作用可能是辅助程序员,也可能取代程序员。Marc Andreessen曾预言“软件正在吞噬世界”,Thomas Dohmke则认为“AI正在吞噬软件”。Thomas Dohmke认为AI将增强程序员的能力,而非取代他们。GitHub的Copilot工具利用AI提高程序员的生产力和工作满意度。目前GitHub上大约一半的代码由AI编写,未来这一比例可能达到80%。AI辅助编程工具可以帮助非程序员开发软件。AI辅助编程工具可以简化编程过程,降低学习门槛。GitHub用户数量的增长将对软件开发行业产生巨大影响。AI将改变软件的创作和消费方式。AI可能降低软件开发成本,提高软件维护效率。AI生成的代码可能存在安全漏洞。尽管Copilot的安全性有所提高,但开发者仍需保持警惕。

Deep Dive

Chapters
The Mars Ingenuity helicopter project was aided by AI through the contributions of volunteer coders on GitHub, showcasing the potential of AI in space exploration and software development.

Shownotes Transcript

三年前,一架直升机在火星起飞,那是美国宇航局的“毅力号”机器人。这是人类第一次在地球以外的星球上让机器飞行。 “毅力号”与普通的直升机完全不同。

它是一个看起来很小很细长的东西,重量只有四磅。它的第一次飞行并不引人注目。你可以在网上观看视频。“毅力号”上升到大约10英尺左右,然后立即降落。这是美国宇航局第一次展示在火星这样超薄的大气层中飞行的可能性。

但美国宇航局并非独自完成这项工作。大约12,000名志愿者程序员帮助创建了“毅力号”运行的软件。奇怪的是:他们中的大多数人甚至不知道自己参与了这个项目。这是怎么回事呢?他们是在GitHub上共享他们的代码。如果你不是程序员,对GitHub一无所知,那就很简单了。GitHub只是一个人们上传和共享代码的网站。就是这样。

但问题是,它规模巨大。GitHub上有超过1亿名开发者。因此,当美国宇航局寻找运行“毅力号”机器人的代码时,他们发现GitHub上已经有很多代码非常适合这项任务。

2018年,微软以75亿美元收购了GitHub。但GitHub继续独立运营,没有放弃其开源的根基。这是一个人们免费提供代码的地方,任何人都可以使用或在其基础上进行构建,以创建他们认为很酷或有用的软件。GitHub志愿者参与了一些令人难以置信的开源项目,例如Linux操作系统和TensorFlow机器学习框架。

甚至还有在疫情初期帮助追踪COVID-19病例的软件。

现在,GitHub正在经历一场根本性的转变。它正在邀请人工智能接管许多编码工作。虽然我们很多人担心人工智能会抢走我们的工作,但公司总是宣称人工智能是增强,而不是替代。但这对程序员来说会有什么影响呢?人工智能只会帮助他们在一夜之间构建一个很酷的新应用程序吗?还是最终会取代他们?换句话说,人工智能是副驾驶还是机长?

我是Bilal Velsadu,这是TED人工智能秀,我们将在这里弄清楚如何在人工智能改变一切的世界中生活和蓬勃发展。想要一个具有无与伦比的强大功能、速度和

以及控制力的网站?试试Bluehost Cloud,这是Bluehost的新型网络托管计划。由WordPress专家为WordPress创建者构建。凭借100%的正常运行时间、令人难以置信的加载时间和全天候的WordPress优先支持,您的网站将以闪电般的速度实现全球覆盖。借助Bluehost Cloud,无论您的网站流量有多大,都能轻松应对。此外,您还可以自动获得每日备份和世界一流的安全保障。立即访问bluehost.com开始使用。

十多年前,企业家和风险投资家Marc Andreessen宣布软件正在吞噬世界。他认为软件正变得对社会至关重要,软件公司基本上会扰乱所有可能的行业。他没有错。好吧,回到1月份,Thomas Domka在此预言的基础上又说了一番话。

他告诉《连线》杂志的一位记者:“软件已经吞噬了世界,现在轮到人工智能了。人工智能正在吞噬软件。”他对此听起来非常兴奋。对于他作为GitHub的首席执行官来说,这是一个有趣的视角,因为GitHub是建立在人类贡献的软件之上的,并且十多年来一直是编程宇宙的中心。

GitHub的计划不是完全取代程序员,而是赋予他们超能力。2021年,GitHub推出了一款名为Copilot的产品。当时它运行在OpenAI的编程模型Codex上。当他们对这些早期的Copilot用户进行调查时,程序员表示,他们不仅效率更高,而且工作也更愉快。突然之间,编码不再那么令人沮丧,而是更令人满意了。但从那以后,Copilot的功能变得越来越强大。

它现在运行在GPT-4上,并且功能远不止自动完成。托马斯说,现在GitHub上高达50%的代码是由人工智能编写的。他认为很快就会达到80%。换句话说,人工智能正在吞噬软件。几周前,我和Thomas Domka坐下来谈论这一切将导致什么结果。

请告诉我们是什么让你对技术和软件开发感兴趣的。我在德国仍然分裂成两个国家的时候在东柏林长大。我当时可能九岁、八九岁,在80年代后期。我在商店橱窗里看到一台电脑。我买不起,但我看到了这台电脑,我很清楚,我想触摸它,我想用键盘输入一些东西。所以,一旦战争在80年代后期结束,德国重新统一,你得到……

西德的钱而不是东德的钱,我就去了超市,买了一台Commodore 64,开始在那上面编程。你知道,很容易忘记那时的样子。你必须购买书籍、杂志和手册才能学习编码。所以我努力完成了这个过程,你知道,晚上很沮丧。然后你睡觉,希望第二天早上你能有一个神奇的想法来解决问题。

所以编码可能是一项相当孤独的活动。互联网出现后,在90年代,人们开始在互联网上交换软件,对吧?但是协作仍然非常笨拙和困难。例如,我们有论坛、IRC,所有这些在线社区都开始出现,但仍然没有真正的地方让人们一起协作,尤其是来自世界各地的人们。如何

GitHub在这种情况下是如何诞生的?是的,我可能会对这个定义稍微反驳一下。你可以说,在90年代,开源场景或软件场景是第一个真正的创作者社区,远在我们拥有YouTube和TikTok之前。所以这些人大多是书呆子、软件开发者,你知道,破解东西等等。

随着互联网越来越普及,我们有了浏览器,很快你就会得到某种形式的论坛。在早期,有一个名为SourceForge的平台,它有点像开源的第一个家。2007年,GitHub的创始人迅速启动并构建了我们今天仍在GitHub上使用的范例,即你可以推送你的源代码并与他人共享。它最初是开源的,16年后的今天,

GitHub已经成为软件宇宙的中心。非常正确,是的。它是软件宇宙的中心。你知道,人们正在一起构建和协作。交互式人工智能,对吧?2021年,GitHub推出了一款名为Copilot的人工智能产品,它可以帮助你编写代码。如果你熟悉自动完成,它很像那样,因为事实证明编程实际上有很多样板代码并且相当可预测。

所以你写几行代码,然后Copilot做的就是基本上为你自动完成这些代码。它会添加下一行或接下来的几行。它会不断预测你的目标,并基本上消除了开发人员的大量枯燥工作,那些真正单调重复的工作,并让他们专注于手头的更高级任务。

而且你知道,当你从一个空文件开始时,第一行代码的可预测性显然不如你已经写了50行代码时那么高。你写得越多,接下来要写什么就越可预测。但作为副驾驶,你仍然负责,开发者仍然需要设定飞机前进的方向。

所以很明显,现在每个人都在谈论人工智能,但Copilot已经存在几年了,在我们谈论ChatGPT之前很久。那么Copilot的想法最初是从哪里来的呢?对我们来说,这一切都始于COVID。那是2020年6月。我们都在一起进行视频通话,我们刚刚获得了

OpenAI/语言模型的早期访问权限,你知道,通话中有人在使用键盘,其他人只是在喊叫或告诉那个人该输入什么,所以我们有了这个想法,好吧,让我们从一些编程练习开始,比如计算机科学专业的学生或员工在申请新工作时会做的典型事情,它出奇地有效,以至于我

我认为通话中的许多人都觉得,“我的天哪,它实际上可以把括号放在正确的位置。”它知道JavaScript(一种编程语言)的语法与Python不同,并且可以区分两者,不会将它们混在一起变成损坏的代码。

所以我们在某个时候结束了通话,并派出一个团队进一步调查此事。他们收集了大约200个编程练习,并将模型提升到能够在几次尝试中解决其中93%的程度。

那时我们才意识到,我们这里有一些东西。我们实际上可以以此为基础构建一个产品。文本到代码的效果非常好,就像你在编辑器中写一些东西,它会预测下一个单词,或者它会接受注释或多个客户端的注释

为你编写代码。所以我们开始构建那个产品,它在2021年6月成为了最初的Copilot。然后该产品在一年后的2022年6月公开发布。所以即使在那时,ChatEBT(2022年11月)甚至还不存在。当这个产品第一次发布时,开发社区的反应如何?难以置信。我认为大多数人都觉得,

这行不通。我们看到,你知道,当时很多人在发推文,当人们克服了最初的怀疑后,他们会说,好吧,我错了,它实际上对我很有用,它实际上可以帮助我编写代码。我认为这其中的一个重要原因是,就像你写博客文章一样,当你编写代码时,你知道,你总是会到达必须查找某些东西的地步,从你的编辑器切换到你的浏览器,然后

你知道,我们所有的浏览器看起来都一样,并且有很多标签页打开。它会破坏你的专注状态。没错。它会破坏你的专注状态。我喜欢这样描述它,你知道,你正在冲浪,你从冲浪板上掉下来了,现在你必须划桨回去,重新回到板上,找到一个新的浪头,然后你就可以再次冲浪了。而且,

所以拥有一个可以让你保持专注状态的副驾驶,即使它有点错误,或者它没有完全预测你想要写的内容,那么你也可以像从互联网上复制粘贴一样修改它。然后我们的研究表明,开发人员更专注于工作,他们需要做的他们不想做的工作(样板代码)更少了,并且有更多的时间去做那些真正有趣的事情。

所以我们发布后,我们意识到这里有一个机会,不仅可以进行自动完成,

并预测下一个单词,因为这有一个明显的缺点,那就是你不能真正向Copilot提问。所以我们将ChatGPT带入了编辑器,并将其称为Copilot Chat。突然之间,你就可以像在ChatGPT中提问一样提问了,但它是在你正在编辑的文件的上下文中进行的。所以你可以问一些问题,比如这段代码是做什么的?或者找出这段代码的问题。它基本上会像ChatGPT一样给你一个答案。

我只想在这里插一句,如果你参与过协作编码项目或继承过别人的代码库,你就知道这会有多有帮助。例如,阅读别人的代码并弄清楚它是如何工作的以及它与其他所有内容是如何结合在一起的,通常会非常具有挑战性。所以让AI为你解释一下将会是一个巨大的进步。

通常情况下,文档、注释(正如我们前面提到的那样)不足以完全理解事物的工作原理。所以现在你可以突出显示代码并说:“向我解释这段代码。”你不仅可以用英语这样做,还可以用德语、印地语、巴西葡萄牙语、法语、西班牙语以及大多数主要人类语言来做。这意味着如果我是一个孩子,一个六岁的孩子想要学习编码,我在德国或孟买长大,

我不必先学习英语。我可以用爸爸妈妈教我的语言来做,并开始探索我的创造力。这非常令人兴奋。由于Copilot,软件开发人员的数量将呈指数级增长。目前,GitHub拥有大约1亿用户。但你估计到2030年,GitHub可能会有10亿开发者。这个数字从何而来?

我认为我们在一年多前宣布了1亿用户。所以你可以简单地计算一下每年的增长率,然后在接下来的七八年里进行复利计算。指数增长会告诉你,达到10亿实际上并不是一个疯狂的增长率。

到2030年,这大约是世界人口的10%。如果你考虑一下孩子们在学校学习的基本技能,这并不算太疯狂。我认为编码是孩子们应该在学校学习的一项基本技能,因为在六岁的时候,他们现在可能已经有了手机,而且他们肯定接触过某种电脑。所以我认为,如果你在一二年级教孩子们编码,

在Copilot和其他大型语言模型的帮助下学习编码的基础知识。如果你向他们展示像稳定扩散或midjourney这样的东西,他们将比今天探索更多创造力。然后,这自然会导致拥有软件开发技能的人数激增。这并不意味着他们都会成为专业的软件开发人员,就像你在学校学习乐器并不意味着你会成为专业的音乐家一样。

但它会成为你作为一个人技能库的一部分,你会在让你快乐或为你服务目的的时候使用它。

我喜欢你描述的这个世界,在这个世界里,编码不再是这种超级专业的技能集,对吧?所以在你的预测中,软件创建开始看起来很像内容创建,就像我们数百万用户将视频创作上传到YouTube、TikTok、Instagram等一样。这在某些方面可能很棒,对吧?例如,这种民主化,任何人都可以创建。

有一点是明确的,对吧?软件的数量将随着开发人员的数量呈指数级增长。所以在很多方面,似乎底线正在上升,但突破并创造下一个大热门的天花板也在上升。你是否这样看待这个世界?

软件的好处是,我们需要比我们每天消费的视频多得多的软件。我们生活在一个大多数公司实际上都在构建软件的世界里。不仅仅是那些总是萦绕在我们脑海中的科技公司,你的能源供应商有一个软件团队,你的信用卡是软件。你可以继续说下去。现在每家公司都是一家软件公司。所以他们都在雇佣

数百万软件开发人员。对软件开发人员的需求大于计算机科学专业的学生供应。因此,我们需要更多工具来管理不断增长的软件堆积以及我们日常生活中对这些软件应用程序不断增长的需求。

可能有很多家长在听这个节目,这引出了教育问题。传统的观点是,如果你想要一个未来可靠的职业,那就学习软件工程。软件工程显然正在发生变化。因此,随着人工智能辅助编码的兴起,

软件开发人员应该培养什么样的技能呢?你如何看待教育环境的变化,以培养下一代软件开发人员?我认为是创造性思维、解决问题的能力、系统思维,例如分解大型问题成较小的问题,然后弄清楚在什么情况下我应该利用人工智能工具、代码生成器或开源库,这样我就不用重新发明轮子了。当你建造房子时,你知道

你不会自己生产瓷砖,你可能会买一个水槽,而且你会有10,000种水槽可供选择。而这个问题实际上与你建造房子时遇到的问题完全相同,那就是A,这是一个大型项目,所需时间比你想象的要长得多。你需要做出很多决定,这在软件方面也是如此。有数千个数据库、数据库模式和云技术,你可以通过多种不同的方式构建应用程序。

所以你需要一个软件开发人员,一个拥有经验和教育背景的专业软件开发人员来做出这些决定。我认为这就是教育仍然发挥重要作用的地方。我认为另一个重要作用是,教师将改变他们的教学方式,他们将向我们展示如何负责任地使用人工智能,如何安全可靠地使用人工智能,如何避免造成伤害。

我喜欢建造房子的比喻。例如,如果我们说,哦,好吧,我们不会使用所有这些先进的机器。例如,我不会去买那个水槽。我将从头开始建造一切。这有多荒谬。现在我们有了一种方法可以消除大量的枯燥工作,让软件开发人员专注于设计、创建、做一些有趣的事情。

好吧,仅仅因为Home Depot在卖给你电动工具并不意味着建筑工人的工作消失了。事实上,试着找一个专业的承包商来做你家或公寓里的事情,你就会面临挑战,对吧?仅仅因为这些工具可以让业余爱好者建造一些有创意的东西,并不意味着专业建筑工人或专业软件开发人员的职业会消失。

我们将短暂休息一下。回来后,Copilot仅仅是会增强程序员的能力,还是会完全取代他们?节目的支持来自LinkedIn。LinkedIn广告允许你建立正确的关系、推动成果,并在尊重环境中接触你的客户。他们不会受到轰炸。这是非常有针对性的。你将能够直接接触并与

拥有10亿会员、1.8亿高级管理人员,似乎每个人都在LinkedIn上,以及1000万C级高管,你将能够通过专门为B2B构建的定位和衡量工具来推动成果。在技术领域,LinkedIn产生的广告支出回报率是其他社交媒体平台的两到五倍。

你将与一个尊重你在其中运营的B2B世界的合作伙伴一起工作。79%的B2B内容制作人员表示,LinkedIn为付费媒体带来了最佳效果。立即开始将你的B2B受众转化为高质量的潜在客户。我们甚至会在你的下一个活动中给你100美元的信用额度。访问linkedin.com/TEDaudio领取你的信用额度。网址是linkedin.com/TEDaudio。适用条款和条件。LinkedIn,成为你应该在的地方。

我一直在与GitHub首席执行官Thomas Domka讨论Copilot,这是他们用于编写代码的人工智能辅助工具。Copilot最初是程序员的一种自动完成工具。现在它正在与我们讨论代码。我不知道接下来会发生什么,但我知道Copilot会不断发展。当谈到人工智能的发展时,似乎所有道路都通向这个问题。是否会有一天,人工智能不仅仅是副驾驶,而是我们的机长?

无论如何,这是人们的恐惧。所以Thomas,你怎么看?这种恐惧有道理吗?我不会说它们没有道理,因为那样会贬低他人的研究和观点。我认为这两种极端情况,即存在AGI的世界和人工智能作为伙伴并且永远不会达到具有感知能力的世界,都可以同时存在。问题是时间,以及我们到达那个时间点需要多长时间。

在我看来,我们还差得很远。如果你问我,我会说我站在人工智能作为伙伴的一边,目前科学和研究中没有任何东西告诉我们我们已经找到了一种再现感知能力的方法。但这并不意味着它不会发生。只是,你知道,今天我们还没有达到那个阶段。

软件开发显然将实现民主化,未来我们将拥有比今天多得多的软件工程师。你认为这会产生什么经济影响?它会贬低软件开发的价值吗?我不这么认为。事实上,你知道,去年夏天我们发表了一项与哈佛大学合作进行的研究。

该研究表明,开发人员效率提高55%,并接受Copilot提供的35%代码,到2030年将导致GDP额外增长1.5万亿美元。这仅仅是最初的Copilot。这并没有考虑人工智能的进化,以及未来几年我们将看到的额外飞跃。如果你回顾历史,我们会发现

实际上,每次我们提高工人的生产力时,对工作需求都会增加。现在,一些工作发生了变化。我认为我最近看到的一项研究表明,美国人今天拥有的40%或50%的工作在100年前甚至还不存在。所以我认为这种情况会发生,我们现在拥有的工作将会发生变化。我们已经在谈论人工智能工程师,它介于使用代码构建软件的传统软件工程师和使用数据训练模型并验证这些模型的数据科学家之间。事实上,你知道,人工智能革命,人工智能时代在许多方面增加了对所有软件公司的需求。现在不仅仅是维护我们现有的软件,还要添加人工智能功能,考虑人工智能策略。

我们确实看到了,你知道,那些还没有使用人工智能工具的人对错失机会或害怕落后,他们会问自己,如果我们没有及时采用人工智能,我们是否会落后于竞争对手?我们看到,你知道,在90年代互联网浪潮中,那些等待太久然后不得不追赶的公司也是如此。我们在云计算和所谓的数字化转型技术中也看到了这一点。

我们在移动革命中也看到了这一点。今天,如果你没有移动应用程序,你不会开设银行账户。我认为人工智能也是如此,只是我们比过去发展得更快,因为生产力本身就加快了那些投资人工智能的公司。说到生产力提升和工程人才,对吧?一方面,现在任何人都可以编写他们可能无法编写的基本代码。

但似乎,如果你是一位拥有良好系统设计技能的有天赋的软件工程师,你的效率将提高10倍、100倍。你是否看到了这种倍增效应,它不仅弥合了差距,而且实际上比那些可能刚入门的人更能加速高级开发人员?我认为10倍工程师这个词在某种程度上已经被人们滥用,用来区分自己,并说我比其他人好得多。

我不认为这是重点。我认为重点是每个开发人员都应该提高效率。我们对软件开发人员的要求很高,因为如果你的服务中断,那么在管理方面和实际想要购买该产品的方面,人们很快就会对你感到愤怒。因此,每个软件开发人员不仅要开发软件,还要实际运行和操作该软件的负担在过去二十年中增加了10倍以上。

我们现在生活在一个始终在线、一小时送达、期望值很高的时代。因此,我们需要我们的软件开发人员提高效率。10倍还不够,在未来十年中,它将是10倍以上。而且,你知道,我们之前谈到过让每个人都能构建软件,分享他们的创造力,即使他们不是专业的软件开发人员。这使得Copilot时代如此令人兴奋。它实际上帮助了等式两边的双方。那些有很多工作的专业软件开发人员,以及对他们要求不断增加,但也包括那些只想将他们的创造力转化为一些很酷的东西、有意义的东西、好玩的东西的普通人。这次人工智能突破的机会在于,我们可以让每个人都能构建软件,我们可以帮助那些选择将其作为职业的人提高效率,以管理这些不断增长的系统。

我想谈谈民主化的黑暗面。考虑软件的广泛传播当然非常令人兴奋。但是,如果用户正在开发可能造成危害的软件怎么办?

GitHub是微软的一部分,多年来,微软一直在谈论人工智能的负责任使用、人工智能的道德使用、人工智能的安全使用。因此,我们致力于负责任地使用人工智能,这既体现在政策层面,也体现在产品层面、技术层面和负责任的人工智能流程方面。

当你向Copilot发送提示时,在该提示到达模型之前会进行过滤,模型推理一次,然后在模型的输出端进行过滤。对于软件安全,输出过滤器有一个安全扫描程序,因此它会扫描该代码是否存在安全漏洞。如果它发现安全漏洞,它要么阻止该输出到达你,要么利用模型实际提供已修复该错误的代码。

我喜欢这一点。所以基本上,如果我要求GitHub创建有害病毒或恶意软件,例如,它根本不会响应。如果模型最终创建的代码存在已知的安全漏洞,Copilot实际上会尝试为您修复该代码并对其进行修补,或者根本不返回该代码。在我们结束讨论时,我很好奇,展望您的路线图,当然还有您可以分享的内容,您对Copilot的未来感到兴奋吗?

我真的很兴奋有机会用人类语言和自然语言进行编码,能够用英语或德语来描述我想达成的目标,并让副驾驶帮助我做到这一点,将我的创造力转化为代码,然后转化为现实。看,我是GitHub的首席执行官,首席执行官的工作是……

很多事情与编码无关,包括和你一起录制播客。当我周末有时间的时候,我会构建应用程序和网页。

问题是,如果你只有有限的时间,一两个小时,这样做非常复杂。然后有一个助手可以帮助我加快速度,这真的令人满意。我认为这就是我真正兴奋的地方,我们的路线图将与Copilot Workspace和其他Copilot生态系统的扩展一起发展,真正从这些基本的基元扩展到

预测、完成和回答问题,进入帮助我完成特定任务的代理。这些任务可能是创造性的,也可能是清理、修复安全漏洞、修复旧代码,或者将像COBOL这样的语言的代码转换为像Python这样的现代语言。我认为他们将在来年看到这方面的很多进展。

我必须说,你对编码的热爱是显而易见的。事实上,你是GitHub的首席执行官,而你梦想做的事情是在下班后坐下来喝一杯酒,做一些编码,这说明了一切。托马斯,非常感谢你的时间。非常感谢你邀请我。

如果你不是程序员,你可能听过我和Thomas Domke的谈话,并认为,好吧,这对程序员来说很棒,或者对程序员来说很糟糕。但如果我实际上不编写代码呢?好吧,也许现在你可以了。也许你有一个很酷的想法,但缺乏使其成为现实的技术知识或支付其他程序员为你工作的资金。

现在,像Copilot这样的AI助手不会为你完成所有工作,但它们肯定会帮助你克服困难。想想我们一直在鼓励学习编码的学校里的孩子们。并非所有孩子都真正喜欢它,而且有充分的理由。编程可能是一件很痛苦的事情。你遗漏了一个分号或将括号放在错误的地方,你的整个代码就会崩溃。但是AI助手让你能够在更高的层次上设计软件,而不会陷入困境。

同样有趣的是,GitHub今天拥有1亿开发者。

但是当他们达到10亿时,哦,我的上帝,这将与YouTube和TikTok等平台的月活跃用户数量相媲美。现在,我并没有设想一个我们都将成为软件创建者的世界,但我们已经是软件的消费者了。我很想知道AI将如何改变软件的创建和消费。托马斯和我曾在我们的谈话中谈到过这一点,但我预见到的是,将会有更多软件以更少的资金制作。

许多软件实际上可能是可丢弃的,就像你在你的信息流中看到的一次性视频一样,以后再也看不到它了。资金紧张的团队或许能够负担得起定制系统,从而进一步推动他们的预算。当然,还有更轻松的软件维护。理论上,公司或许能够更好地发现错误并保护自己免受网络攻击。让AI定期扫描你的软件并发现问题,比雇人来做这项任务的成本要低得多。

另一方面,如果我们不小心,我们可能会看到大量劣质软件涌入市场。我和托马斯交谈时没有机会问他这个问题,但在2021年,纽约大学的研究人员发现,使用Copilot创建的软件存在很多安全漏洞,大约有40%的时间。

从那时起,Copilot已经发展了很多,一年后发表的纽约大学的一项研究发现,学生使用AI助手编写的代码并不比人工生成的代码更不安全。今天的Copilot专门用于实时阻止不安全的代码。尽管如此,GitHub仍然建议采取相同的预防措施。毕竟,大型语言模型是在人工编写的代码上进行训练的。所以我认为研究人员的警告仍然有效。

开发人员应该保持警惕。换句话说,不要让Copilot成为你的队长。TED AI Show是TED音频集的一部分,由TED与Cosmic Standard联合制作。我们的制作人是Ella Fetter和Sarah McRae。我们的编辑是Ben Benshang和Alejandra Salazar。我们的节目主持人是Ivana Tucker,我们的副制作人是Ben Montoya。我们的工程师是Asia Pilar Simpson。我们的技术总监是Jacob Winnick。

我们的执行制片人是Eliza Smith。我们的事实核查员是Dan Kalachi。我是你的主持人,Bilawal Sadu。下次再见。