We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
cover of episode Hello World, Surveillance, and New Research Practices

Hello World, Surveillance, and New Research Practices

2020/3/13
logo of podcast Last Week in AI

Last Week in AI

AI Deep Dive AI Chapters Transcript
People
A
Andrey Kurenkov
S
Sharon Zhou
Topics
Andrey Kurenkov:讨论了Clearview公司面部识别技术的广泛应用及其引发的隐私和伦理问题,指出该技术缺乏监管,可能被滥用于各种用途,包括执法、商业和个人用途。还讨论了Banjo公司在犹他州大规模部署监控系统的情况,以及布宜诺斯艾利斯使用实时面部识别系统的情况,并分析了这些案例中存在的透明度、可解释性和可靠性问题。 Sharon Zhou:对Clearview公司利用苹果开发者计划绕过审核,在iPhone上分发其面部识别应用表示担忧,并讨论了苹果对其他公司应拥有多少控制权以及如何界定对消费者造成损害的问题。还讨论了AI系统在执法中的应用,以及如何平衡技术进步与社会伦理之间的关系。 Andrey Kurenkov:分析了NeurIPS会议发布的新研究提交指南,该指南要求研究人员包含社会影响声明,并披露财务利益冲突,以促进AI研究的伦理责任。并讨论了该政策引发的争议,以及AI研究人员在应对伦理问题方面的责任。 Sharon Zhou:讨论了AI研究领域的快速发展及其带来的伦理挑战,并探讨了如何平衡研究速度与研究质量和伦理考量之间的关系。 Andrey Kurenkov:讨论了Yoshua Bengio关于重新思考机器学习出版流程的博客文章,该文章指出当前的竞争性文化导致论文数量增加,但质量和深度下降,并提出了新的论文发表模式。 Sharon Zhou:讨论了新冠疫情对AI会议举办方式的影响,以及线上会议模式的探索和发展,并指出线上会议可以减少碳排放,并惠及更多资源有限和行动不便的人群。 Andrey Kurenkov:对Clearview公司面部识别技术的广泛应用及其引发的隐私和伦理问题表示担忧,认为该技术缺乏监管,可能被滥用于各种用途,包括执法、商业和个人用途。并讨论了Banjo公司在犹他州大规模部署监控系统的情况,以及布宜诺斯艾利斯使用实时面部识别系统的情况,分析了这些案例中存在的透明度、可解释性和可靠性问题。还讨论了AI系统在执法中的应用,以及如何平衡技术进步与社会伦理之间的关系。 Sharon Zhou:对苹果公司禁用Clearview应用的决定表示赞同,并讨论了苹果对其他公司应拥有多少控制权以及如何界定对消费者造成损害的问题。还讨论了AI研究领域的快速发展及其带来的伦理挑战,并探讨了如何平衡研究速度与研究质量和伦理考量之间的关系。 Andrey Kurenkov:分析了NeurIPS会议发布的新研究提交指南,该指南要求研究人员包含社会影响声明,并披露财务利益冲突,以促进AI研究的伦理责任。并讨论了该政策引发的争议,以及AI研究人员在应对伦理问题方面的责任,以及Joseph Redman因伦理担忧而离开AI研究领域的情况。 Sharon Zhou:讨论了Yoshua Bengio关于重新思考机器学习出版流程的博客文章,该文章指出当前的竞争性文化导致论文数量增加,但质量和深度下降,并提出了新的论文发表模式。还讨论了新冠疫情对AI会议举办方式的影响,以及线上会议模式的探索和发展,并指出线上会议可以减少碳排放,并惠及更多资源有限和行动不便的人群。

Deep Dive

Chapters
The hosts discuss how the coronavirus pandemic has brought researchers together globally for collaborative work, despite the challenges of working from home.

Shownotes Transcript

你好,世界! 斯坦福人工智能实验室的博士生安德烈·库伦科夫和肖伦·周讨论与大规模部署面部识别和负责任的人工智能研究相关的新闻故事。 顺便说一下,我们在未来的剧集中会变得更好,我们保证! 在www.skynettoday.com查看这里讨论的所有故事和更多内容。

根据知识共享:署名 3.0 许可证

<raw_text>0 你好,欢迎来到今天的人工智能谈话,在这里你可以听到实际的人工智能研究人员关于人工智能的真实情况以及哪些只是点击诱饵标题。我是安德烈·库伦科夫,斯坦福视觉与学习实验室的三年级博士生。我主要专注于机器人学习算法。

和我一起的是我的联合主持人。嗨,我是肖伦,机器学习组的三年级博士生,与安德鲁·吴合作。我研究生成模型,改善神经网络的泛化能力,并将机器学习应用于应对气候危机。好的,第一集,令人兴奋。肖伦,你今天怎么样?我一直在反思冠状病毒实际上是如何将全球研究人员聚集在一起,共同致力于某些事情的。因此,我想这就是冠状病毒的积极一面。但除此之外,我一直待在家里。是的,居家工作有点挑战,但我想我们正在努力让它运作。正如我们稍后将讨论的,这似乎会对实际会议和研究的进行产生一些影响。你怎么样,安德烈?

就我而言,我很好。上周日,我刚刚完成了一篇论文的截止日期,距离现在已经一个半星期了,国际智能机器人与系统会议的截止日期。所以,是的,在那段截止日期的工作之后,我有点在恢复中。

所以放松一下还是不错的。酷。所以,关于我们自己就够了。让我们继续谈谈今天要讨论的新闻和话题。让我们先谈谈监控的话题。最近有一份重磅报告,我们从这里开始,关于公司Clearview。Clearview是一家销售面部识别软件的公司。它拥有一个庞大的数据库。

而且有一个泄露显示了他们的客户名单。客户名单结果是巨大的。结果发现,司法部、移民与海关执法局、梅西百货、沃尔玛,许多许多公司

都在使用这家公司的产品。因此,这暗示着Clearview不仅被用于司法部可能监督的大规模犯罪,也可能用于沃尔玛或梅西百货的小偷小摸,甚至可能是其他一些小事也在使用该软件进行执法。我认为这开始质疑Clearview的界限可能是什么。没错。他们声称他们的

面部识别技术是为了执法和机构而设计,但这次泄露显示他们与超过2200个客户合作,其中包括公司和个人,除了执法机构之外,这真是有点奇怪。这次泄露来自于匿名来源泄露的内部文件。

是的,它显示的不仅是执法机构,还有大学安全部门、总检察长办公室,以及多个国家,如澳大利亚和沙特阿拉伯,都在使用他们的技术。

听到个人也在利用这项技术真是非常有趣。我只能想象他们在使用它时会有什么样的应用。也许是为了追捕非常特定类型的人,甚至可能不是那些真正犯罪的人。这几乎是黑手党式的,确实令人担忧。

乔治城法学院隐私与技术中心的高级助理克莱尔·加维表示,这完全是疯狂的。以下是我认为令人担忧的原因。没有明确的界限来区分谁被允许访问这个极其强大且极具风险的工具,谁没有访问权限。执法和非执法之间没有明确的界限。

正如这篇文章所指出的,目前没有法律在联邦层面上规范面部识别的使用。虽然有提议的法案,但基本上是没有监管的,因此个人可以将其用于各种事情。这篇文章还指出,所有这些机构、公司和机构总共进行了大约500,000次搜索。

因此,对于一个人的图像,可能是你的脸,他们试图实际获取你的姓名和身份。值得注意的是,由于Clearview主要是以利润为驱动,因此不清楚他们是如何审查潜在的国际客户甚至国内客户的,特别是可能与人权侵犯或专制政权有记录的国家。

因此,这确实令人担忧,审查过程可能更多是出于财务驱动而非伦理驱动。这篇文章还指出,该公司的首席执行官并没有强烈否认他们会将技术出售给例如...

在某些地方,成为同性恋是犯罪的国家。因此,你可以想象,专制政权可能会有许多潜在的误用。而且这家公司似乎没有对此采取强硬立场,这确实令人担忧。我会指出,他们表示他们绝不会向与美国对立的国家出售,例如中国、伊朗或北朝鲜。

当然,如果他们这样做,他们可能会很快被政府以某种方式关闭。是的,所以我认为看到这一点是相当令人惊讶的。我的意思是,Clearview已经存在了一段时间,但这是第一次让人们看到这项技术的普遍使用情况。

这再次提醒我们,你知道,未来可能会有杀手机器人,但现在有很多事情是我们需要关注的,实际上正在现实世界中发生。Clearview的使用在过去几周和几个月中一直在上升。最近,苹果还因违反苹果的分发规则而禁用了Clearview AI的iPhone应用程序。

确实如此。发生的事情是,Clearview显然一直在使用开发者计划,在该计划中,你可以将应用程序分发给那些应该帮助开发的人,而不是将其放在商店中。这基本上是绕过了苹果为清除某些规定而设立的流程。这是一个前所未有的过程。Facebook之前有一个类似的开发者计划。

该计划曾用于跟踪青少年的在线习惯。是的,似乎Clearview基本上依赖于这种通过这种方式向个人分发的操作方式,以便他们可以在手机上使用这种面部识别。

所以,嗯,看看我是否能找到更好的,呃,方法来使其正常工作将会很有趣。但至少目前,呃,苹果已经禁用了他们的能力。值得注意的是,这确实引发了一个问题,即苹果应该对其他公司拥有多少自主权,以及苹果在他们的手机上究竟能禁用和启用多少东西?你知道,他们应该拥有多少控制权,呃,

相对于Clearview和Facebook可能拥有的控制权。确实存在一个定义不清的界限,或者至少是关于什么是伤害以及对消费者的伤害的领域。是的,我认为在这种情况下,没有人会因为Clearview无法分发其

这是一个令人毛骨悚然的应用程序而感到悲伤。但在某些情况下,也许我们希望进行一些涉及众包的研究,分发一个应用程序将是有益的。似乎不太清楚我们该如何进行,因为苹果的操作方式。好的,所以关于Clearview就够了。可悲的是,看起来这并不是唯一一家在面部识别方面需要关注的公司。

最近有一则来自Vice的新闻,标题是“小公司如何将犹他州变成监控全景”。这家公司Banjo获得了对州交通摄像头、闭路电视和公共安全摄像头等的实时访问,以便他们能够检测异常。这实际上是将大量数据交给一家小公司的巨大量,以实现

这个模糊的检测异常的目标。Banjo基本上辩称,他们需要尽可能多的数据来启用更好的系统,这在机器学习系统中可能是正确的,尽管令人担忧的是,他们获得了多个数据流,这可能严重侵犯了

人们的隐私。是的,而且目前还不清楚他们的技术到底部署得如何。如果他们的技术实际上存在缺陷,他们声称可以识别活跃的枪手情况。他们会得到假阳性吗?他们会得到假阴性吗?似乎不清楚。

因此,看到他们拥有如此多的访问权限,而相对缺乏证明他们应得的理由,确实令人不安。他们特别提到希望防止的现场枪手事件。这让我想知道,这种技术在枪支管制的讨论中会占据多少份额。

如果枪支没有受到太多控制,人们可以自由使用它,我们是否也应该允许人工智能监控国家?因此,我想知道这将如何进入这些讨论。是的,我认为这是一个有趣的观点,总体而言,这家公司提出的论点是

如果你有一个人工智能程序监控摄像头,你可以更快地捕捉到危险情况,因为你可以追踪事物。因此,这似乎对公众是有益的。问题是这家公司应该受到多少审查,以及它有多少监督。

接下来是我们的下一篇文章,美国担心布宜诺斯艾利斯的实时面部识别。这是生活的一个事实。

基本上,在布宜诺斯艾利斯,他们有实时面部识别系统,可以同时在300个摄像头的画面上运行,并在找到潜在匹配时通过Telegram等消息应用自动向警方发送通知。由于城市中可供警方使用的摄像头超过300个,因此地下和地面的录像流被循环播放。

到目前为止,警方对该系统相当热情。他们最近在推特上发布了七个案例,说明该技术被用于抓捕逃犯。是的,所以这很有趣,算是一个技术实际部署的例子。它被用来试图抓捕罪犯。

这篇文章指出,关于该技术或其实施的了解很少。这里似乎缺乏透明度。它有一些统计数据,面部识别系统向警方识别了595人。在这595个案例中,有五个是假阳性。因此,识别是错误的。系统说这个人来自摄像头,名字是这个,但实际上是错误的。

系统的缺乏可解释性和可解释性尤其令人担忧,如果执法机构或使用这项技术的人没有对此进行深入了解。我确实认识到,如果这些特性被公众知晓,那么这项技术也可能被利用。

因此,如果一个坏人,比如说,戴上一个看起来像其他人的面具,这会造成什么后果,我特别担心这一点。因此,我认为有一些方法可以利用这样的系统,如果这些模型、这些系统的可解释性和可理解性被公众知晓,那可能会非常危险。

与此同时,如果它们被警方知晓,警方以良性的方式使用它,那也没问题。但他们可能会被激励去产生更多的假阳性和假阴性,对吧?所以我相信这些激励是稍微偏离的,但在某种程度上,或者在某种程度上,

可以理解他们不会透露系统的所有信息。因此,这是一个非常棘手的伦理界限。是的,这是一个复杂的话题。老实说,作为人工智能研究人员,这超出了我们的理解范围。我们不是法律专家或伦理专家。也许正如你提到的,有一些有趣的相关话题,比如最近的研究表明,你可以打印出一个小图案

并使这些系统混淆,从而不识别你,甚至错误识别你。因此,这确实对你希望对算法有多少透明度产生了影响。最终,当然,似乎我们需要一些监督,我们需要一些证据,证明这些东西在某些限制下被部署。

在布宜诺斯艾利斯的情况下,似乎目前不太真实。希望随着这项技术的传播,我们作为一个物种能够共同找出如何处理这项技术。一个担忧是对这种技术的过度依赖,其中

一名警察或许人类在查看录像时无法判断那是谁,但算法却自信地认为是这个人。实际上,这并不是这个人。依赖技术而非人类的直觉、判断或感知图像的能力,这也非常令人担忧。这与我们作为人工智能研究人员非常了解的事情有关,即

一般来说,当前的人工智能系统并不是非常可靠。因此,每当你使用一个时,理想情况下应该与某人一起使用。这样你就可以让人工智能给你提供一些检测或识别的东西,然后你有一个人来验证和跟进。这可能是我们今天最有效的方式。

现在,谈到这项技术的传播以及它是如何发生的。事实上,在英国,警方正在推出实时面部识别,以尝试同样基本上查看实时情况,以便人们

有人在做危险的事情,以便更快地做出反应。这与最近在伦敦发生的一些重大事件有点联系。因此,曾经发生过一些案例,例如,有人开始用刀攻击人。这是相当创伤的。希望如果你有实时面部识别和实时监控,你可以更快地回应并限制伤害。

有趣的是,这篇文章还指出,不应由执法者来计算他们的技术影响在社会上变得多么具有破坏性。

或者凝视潜在的专制结果。是的,这篇文章的论点,标题为“人工智能与警务:比刀刺入胸膛更好”,有点挑衅,是说目前没有真正的证据表明这些东西有帮助。而且还有其他方法可以花费资金来确保我们的安全。因此,你可以,例如,

在公共场所增加更多的警察,以帮助确保公共安全。这篇文章确实让我想起了研究人员在法庭上使用人工智能系统时告诉我的事情。

他们告诉我,如果你以“嘿,我们正在使用人工智能来决定这场审判将如何进行”开场,人们会感到恐慌,认为这太可怕了。但如果你以“人类实际上是多么偏见,法官实际上是多么偏见”开场,并说“我们正在构建软件来帮助减轻这一点”,他们会...

他们会有不同的反应。因此,我认为这是一个相互作用,因为你

人类本身也非常偏见。因此,这取决于这项人工智能在多大程度上减轻了这一点,以及它在多大程度上进一步促进了这一点并成为确认偏见。是的,这个提议建议警方应该与公民社会组织就技术进行咨询,并指出我们迫切需要一个监管框架,以限制

当前不受限制的技术使用。我们需要看到任何可能导致不公正和歧视的技术的最终基础。因此,这是一个棘手的界限。

我们需要知道警方和政府为自己设定的限制,以免我们最终陷入《1984》中的老大哥情境。没错。希望在我们同意这些东西进入我们的日常生活之前,我们有一些证据表明这些东西实际上有效。我真的希望有足够的资金流向一些这些非政府机构,以便他们能够对

执法部门进行监督,防止他们做出可能对平民有害的事情,例如英国的自由或大兄弟观察。

我真的希望实际上有政府资金支持他们,或者某种资金支持他们,使他们能够独立行动并帮助进行监督。是的,这很有趣。我认为我们在美国还没有太多关于这方面的新闻,但我们确实有NSA,并且在过去十年中我们确实有一些关于政府监控的新闻。因此...

似乎在这方面我们需要花费相当多的时间来认真对待这些事情。希望我们会有这样的公民社会组织来照顾我们普通人。没错。好吧,旧金山已经禁止面部识别。这是真的。我们处于一个特殊的区域,大家都在思考和讨论这个问题。这是真的。

好的,所以我们转到下一个话题,这个话题稍微不那么压抑,更加书呆子化。但这正是我们可以戴上人工智能研究员的帽子,停止谈论超出我们理解范围的事情。那就是关于人工智能研究以及我们如何进行研究。因此,针对这些令人担忧的人工智能使用,

最近有很多发展和讨论,关于我们应该如何进行研究。我们首先提到一个大事件,发生在大约两周前。我认为NeurIPS会议,这是一个处理尖端应用的庞大人工智能会议。

现代、非常令人印象深刻的人工智能,发布了新的研究提交指南。在其中,他们有一项新的政策,这很有趣,即首次要求研究人员在论文中包含社会影响声明。

以讨论研究的可能后果、缺点,以及基本上在伦理问题上需要注意的事项。

我认为这非常引人注目,是一个很好的先例。有些人认为这只是对伦理的表面功夫,但具有潜在伦理问题的研究将实际获得相当大的额外考虑,并标记为潜在问题。然后将其交给一组具有伦理和机器学习专业知识的特别审稿人,在发表之前进行第二次审查。我希望的是

这个声明的截止日期是在截止日期之后,这样人们就不会只是写一句随机的句子,而是实际考虑一下。我认为这实际上会改变我对自己工作的反思方式,并给我一个反思的时间,以一种我知道我的同事研究人员也在

投入时间和反思的方式。是的,这在社区内引发了一些讨论。一些激烈的推文出现了,基本上人们在说,你知道,哦,现在我们必须成为沙发哲学家,

思考可能的后果。但我也同意,我认为这通常是件好事。我们不必成为伦理或法律的专家,就能够说,好的,这项技术有这些局限性。它不应该在这些背景下部署。当你从更广泛的影响角度看待它时,这些都是需要注意的事情。此外,另一个要求是

现在的提案者需要在论文中披露财务利益冲突。这非常有用,因为现在行业和大型公司的研究太多了,学术界和行业之间的合作也太多了,

因此可能会出现一些非常模糊的情况。因此,希望这种财务利益冲突的披露将有助于避免任何问题。我希望这些声明能与论文一起发表,并且人们可以实际对这些部分进行评论,确保那里有合理的陈述。我认为这是...

这将是一个合理的方式来纳入这一点,同时也是一种更严肃的方式,而不仅仅是对其表面功夫。我认为这是第一步。我不认为它是完美的,我理解围绕它的批评。但我认为这总比什么都不做要好。是的,这是一个开始。似乎...

我们必须看看它的效果。也许我们会完善这个想法,但这似乎是一个良好的第一步。还有一件事我们应该提到,实际上,我不知道你是否参加了NeurIPS,实际上我参加了。有几篇论文让人们感到有点不安。

没错。是的,我记得有一篇论文,我相信是关于尝试通过声音匹配一个人或生成一个人的面部图像的,许多人指出这存在多个伦理问题。一般来说,这有点跨性别歧视。这实际上并不科学。还有一些研究是关于从一些数据中识别某人的政治立场。

所以,是的,确实有一些论文的实际例子,许多人同意这些论文在伦理上是可疑的,希望这能帮助避免这样的情况,或者帮助作者反思他们的工作,并以更具伦理考虑的方式定位它。是的。

在批评中,多伦多的Vector Institute的罗杰·格罗斯抱怨说,新政策将导致重要问题的琐碎化,并认为社会影响应该留给专注于此的研究人员。我实际上相信我们应该将其嵌入到我们的研究中,这实际上可以增强一篇文章或你提到的那篇文章的价值,如果研究人员陈述他们工作的伦理局限性,

这实际上可以为他们的工作增添更多的光彩和分量,实际上让人们说,好的,我可以退后一步,理解你看到的局限性,类似于技术局限性,并能够更好地看到你工作的价值,对吧?还有局限性。我认为这实际上可以增强人们的工作,而不是让人们的思维空间减少,这就是...

罗杰·格罗斯在这里所说的。没错,是的。有趣的是,正如常常发生的那样,讨论发生在推特上,但出于某种原因,人工智能研究人员非常活跃。因此,当罗杰·格罗斯发表他的观点时,

相当知名的人工智能研究人员约瑟夫·雷德曼回复并指出,他自己因伦理问题离开了人工智能研究。约瑟夫·雷德曼开发了一个相当重要的经验

人工智能模型,叫做YOLO。它与物体识别和计算机视觉有关。他说,当他看到人工智能在军事应用和隐私影响方面的程度时,他决定实际上离开学术界和人工智能开发。并且

这反过来引发了很多讨论,是否这是对你研究中存在可疑应用的正确反应?还是你应该留下来进行研究,实际上,正如我们所讨论的,可能更多地主动讨论伦理影响,你的工作应该如何使用,如何不应该使用,诸如此类。

我认为约瑟夫·雷德曼的离开实际上与罗杰·格罗斯想要的相一致,即让人工智能研究人员专注于人工智能。尽管我会说,我实际上认为我们需要更多的人在这个领域思考两者。

以真正推动安全的未来人工智能。我认为这与其他领域非常相似。因此,这绝不是一个先例。例如,在生物学和遗传学中,人们在优生学成为研究主题时考虑了很多。

研究人员,类似于罗杰·格罗斯,真的想说,我们只想专注于科学。每个人都同意他们应该专注于科学,直到有一天一些政策制定者说,如果你只专注于科学,我们就会关闭所有的研究。

这个领域。那时他们开始讨论,“好吧,好吧。也许我们可以讨论一下我们可能做些什么,而不是关闭整个领域。”我认为这就是危险所在,科学家们只想专注于一件事,也许...人们认为这使他们更有效,但也许不是,对吧?这不是社会所需要的。是的。布雷德曼说

他意识到面部识别基本上有更多的缺点而不是优点,然后说,如果更多的研究人员考虑他们工作的更广泛影响,这项技术将不会被开发。我是说,这基本上就是这次在纽约的会议要求人们做的事情。我并不一定同意。我认为与任何技术一样,当然,有积极的用途和消极的用途。

面部识别,正如我们所说,可以有积极的用途,例如试图追踪失踪的人,试图识别危险情况。因此,另一位学生,在推特上的讨论中,

表达了这样的观点,即与其离开,我们不如利用我们作为专家的地位,试图倡导这种技术的正确使用和部署。我认为这基本上是我所站的位置。

我认为有很多方法可以倡导这一点。我认为实际上约瑟夫·雷德曼所做的就是通过揭示,嘿,他会采取这种极端的行动,放弃他的...我不想说他的毕生工作。我相信他会做更多伟大的事情。但至少是他在研究生阶段投入了相当多时间的工作,并且在该领域获得了相当多的赞誉。

所以我认为这是一个相当引人注目的行动,使该领域的人们能够真正反思这一点,即使只是片刻。是的,我认为这确实反映了人工智能作为研究领域所处的有趣位置,

我们经历了一个疯狂的十年,在某种程度上,我们在2011年、2012年左右取得了一些研究突破。从那时起,事情就以超快的速度发展。因此,我们获得了语音识别、面部识别、

翻译,所有这些东西都得到了巨大的改善,基本上是因为我们可以将大量数据和计算投入到一些非常强大的技术中。现在我们基本上已经充分利用了这些技术,我认为我们开始赶上,嗯,这意味着什么?

现在这些技术强大并且实际上在现实世界中被使用,这对我们作为研究人员意味着什么,以及我们如何进行研究?是的,这只是对我们所处的这一点的另一个反思。是的,针对这一点,我们可以快速提到,实际上,关于负责任的人工智能出版规范的讨论正在进行中。

因此,有一个人工智能合作伙伴关系,由许多进行研究的大机构组成,正在讨论,思考如何进行响应性出版。如果某些东西不应该被发布,我们是否应该有...

伦理声明,诸如此类。因此,是的,再次,这只是一个非常活跃的讨论领域,希望在接下来的几年中,我们能够找出解决方案。没错。我认为这个方向很好,尽管人工智能合作伙伴关系确实提出了相当广泛的指导方针,或者至少是广泛指导方针的初步制定。我确实,我希望看到更多,

更多的具体内容和更具体的指导方针,可能是其他人或者他们可以提出的,这将更加有效,广泛的指导方针通常并不有效。是的,我认为我们提到这一点的部分原因是,他们最近为这一努力制定了时间表。

到目前为止,我们进行了很多讨论,但没有太多具体的内容。现在他们实际上有一个计划,在接下来的几个月中尝试制定一些更有用的东西。因此,我们将密切关注,希望他们能够以有用的方式为讨论做出贡献。

<context>你好,世界,监控与新研究实践 你好,世界! 斯坦福人工智能实验室的博士安德烈·库伦科夫和肖伦·周讨论与人脸识别大规模部署和负责任的人工智能研究相关的新闻故事。 顺便说一下,我们在未来的剧集中会变得更好,我们保证! 在www.skynettoday.com查看这里讨论的所有故事和更多内容。

根据知识共享:署名 3.0 许可证

<raw_text>0 关于出版过程,约书亚·本吉奥在他的博客上写了一篇关于重新思考机器学习出版过程的文章。顺便说一下,约书亚·本吉奥是一个非常重要的名字,对吧?他已经在这个领域待了几十年。他是当前人工智能热潮中的大人物之一,对吧?约书亚·本吉奥是最近获得人工智能图灵奖的获奖者之一。人们确实跟随他的领导。

具体来说,关于文化,本吉说,研究文化在过去几十年中也发生了变化。它变得更加竞争。所有事情都在快速发生,给每个人带来了很大的压力。这个领域的规模呈指数级增长。学生们对自己的想法更加保护,并急于将其发布。我担心其他地方会有人在做同样的事情。一般来说,博士学位的完成速度很快。

至少有50%的论文比我收集到的20或30年前的数量要多。是的,所以这是一个博客帖子,他表达了他的想法,我认为作为当前的博士生,你和我可以广泛同意这种描述是公平的。这是相当公平的。是的,这是一个快速发展的领域。期望每年至少有一篇论文

如果不是两篇或三篇的话。所以这有点疯狂。

我喜欢这篇文章的地方在于,约书亚列出了具体的步骤或潜在的新模型,用于会议出版,或者说在这个领域的一般出版。因此,他首先对转向会议出版模式的影响表示遗憾,因为会议论文没有经过整理,不仅仅是期刊论文。表面上的生产力掩盖了深度或质量较低的论文,但

并且有更多的错误,缺乏严谨性,或者只是增量的。是的。所以论点基本上是我们需要稍微放慢脚步。我们有这个网站档案,对吧?这基本上是一个你可以发布论文的网站。他的论点是,这已经足够确保我们可以快速推进,这是许多人

认为现在人工智能研究的好处。但与此同时,我们需要重新思考我们如何进行论文提交、论文审查、论文出版的结构,以鼓励更多的反思,更多的打磨,更多的科学严谨性。你同意这个想法吗,肖伦?

我认为我会广泛同意,只要这也能鼓励人们去参加会议。我知道会议主要用于社交,结识该领域的人并突出选定的工作。但如果没有足够的工作在那儿展示,人们真的会去吗?他们会为此辩护吗?也许只要最杰出的人去,那就没问题。但这会不会退化成其他领域的情况?

比如数学或其他地方,杰出的人不去。所以感觉不那么... 你不太有动力去。所以会议的价值降低了。本吉提出了一个新模型,表示我们应该首先将论文提交给一个快速周转的期刊,比如机器学习研究期刊(JMLR)。

然后程序委员会可以从这些已经被接受和审查的论文中挑选他们最喜欢的论文。有趣的是,我实际上有一篇与约书亚·本吉奥关于气候变化和应对气候变化的相对较新的论文。

我们确实提交到一个期刊并在那里发表。所以也许他在这篇博客文章之前已经隐含地推动了这一点,因为它是在二月份早些时候。你觉得期刊提交过程怎么样?实际上相当快。所以还不错。好的,挺好。

是的,我认为我大致同意。我认为尝试稍微放慢节奏,鼓励更多的反思和打磨是个好主意,同时保持基本结构,每年有几个会议截止日期,并努力达到这些截止日期。确实鼓励你实际开发想法并进行实验。

所以刚刚经历了上周日的截止日期,正如我提到的,前期工作相当多,但至少我们完成了并提交了。如果没有这个强制因素,可能会花费更长的时间。所以这是一个棘手的事情。也许混合的方法会很好,我们除了会议外还接受更多的期刊。这是我们需要看看的一件事,我想。

我认为在结束这一集之前,我们可以提到的最后一件事是关于会议的,我们现在在COVID病毒的情况下处于一个稍微有趣的地方。

通常,会议对人工智能来说是一个大事件。这是你发表论文的地方。这是你去展示它们并与人交谈的地方。而现在,这样做并不是一个好主意,因为,呃,现场大型活动越多,传播的可能性就越大。因此,许多即将到来的会议正在考虑如何进行。我们实际上可能会尝试,

更多地在线和虚拟,这将很有趣,看看它是否有效。我认为这是一个机会,自然测试远程会议的效果,以及我们如何利用这种远程会议软件来实现,也许不是相同的体验,但希望在某些方面能有同样充实的体验。

甚至在某些方面更好。这确实让我想起了我最喜欢的论文之一,吉姆·霍兰的《超越存在》,其论点主要指出,当我们创建虚拟软件试图模仿存在时,我们永远无法达到。我们永远无法完善事物。

或准确模仿物理存在或物理互动。但我们可以创造一种完全不同的体验,在不同方面更好。所以即使我们不模仿它,它也可能在其他方面更好。嗯哼。

是的,我认为许多人感叹错过了咖啡聊天和偶然的邂逅,虽然是的,你可能无法在虚拟现实中做到这一点。但正如你所说,也许我们可以做一些你在现场无法做到的事情。

这实际上与约书亚·本吉奥之前的博客文章有关,他在其中提到气候变化是一个真正的问题。举办会议时,你从世界各地飞来成千上万的人,这是一笔不小的二氧化碳排放。因此,朝着更多远程参与、更多虚拟参与的方向发展将帮助我们减少二氧化碳的排放。