Phishing Tests Are Getting Downright Mean
11:55 Share

<context>网络钓鱼测试变得越来越恶劣 网络钓鱼骗局日益复杂,IT部门希望帮助人们识破这些骗局,向员工和学生投放了耸人听闻的测试陷阱。但正如《华尔街日报》记者罗伯特·麦克米兰所说,部分上当受骗的人表示,这些测试已经过火(“想要免费足球票吗?”)。此外,AI记者贝尔·林将讨论大型科技公司如何希望通过严格的数学解决AI的幻觉问题。

了解更多关于您的广告选择。访问megaphone.fm/adchoices</context> <raw_text>0 这一集由Shopify赞助。当您将业务转移到Shopify时,忘记选择商业平台的挫败感吧,Shopify是全球商业平台,可以在您销售的任何地方提升您的销售。使用Shopify,您将利用世界领先品牌所使用的直观功能、受信任的应用程序和强大的分析工具。今天就注册,享受每月1美元的试用期,网址是shopify.com slash tech,全部小写。网址是shopify.com slash tech。

欢迎收听科技新闻简报。今天是2月10日,星期一。我是《华尔街日报》的皮埃尔·比安-艾梅。人工智能在某些时候编造内容的话,它到底有多有用?亚马逊正在寻求所谓的自动推理,以减少幻觉的发生。IT部门通常会试图愚弄员工,以让他们识别黑客的网络钓鱼尝试。有些人表示,他们已经走得有点过火。

从事网络钓鱼的黑客发送旨在窃取敏感信息的欺骗性电子邮件,正在策划一些越来越复杂的骗局。因此,公司的IT部门和大学向他们的员工和学生投放了耸人听闻的测试。这个想法是,如果您打开了这封电子邮件并点击了链接,您就失败了测试。而失败是有代价的。

根据Verizon对数据泄露的分析,拼写为PH的网络钓鱼是去年的约14%网络攻击的第一步。罗伯特·麦克米兰为《华尔街日报》撰写计算机安全相关的文章,他报道了这些测试陷阱的价值。那么,罗伯特,网络钓鱼通常是如何工作的?他们试图...

在你的脑海中施加影响。他们试图让你进入某种恐慌模式。因此,通常这些网络钓鱼电子邮件中会承诺提供一些非常重要的信息,比如你的假期天数被削减了。你会想,什么?我的假期天数被削减了?你点击了链接,然后你必须登录。

你甚至没有意识到你并不在公司的官方网站上。你是在黑客设置的某个假网站上。因此,你就在那儿给了他们信息。IT部门设置的这些网络钓鱼陷阱有哪些例子来引诱人们,甚至可能让他们上当?

有一封电子邮件,是关于停车场里一只走失的小狗。有一个人给NASA员工发送了一封电子邮件,承诺有机会赢得观看最后一次航天飞机发射的票。显然,当一名员工意识到这是假的时,她哭了。我听到的最疯狂的例子是加州大学圣克鲁兹分校,去年夏天向学生发送了一封网络钓鱼电子邮件测试。

关于校园内的埃博拉疫情。基本上让一些人陷入恐慌,认为校园里有埃博拉病例。其实并没有。他们只是试图进行一次网络钓鱼教育测试。

IT部门在提高对网络钓鱼的认识和增强抵御能力方面学到了什么?我采访了一位来自谷歌的人,他谈到了遏制这种现象的其他方法。比如教育并不是一件坏事。让人感到尴尬并让他们处于对立的立场,然后说,听我说。还有其他方式进行教育,比如举办网络钓鱼意识月和轻松的对话。

以更加不令人羞愧的方式教授人们报告网络钓鱼电子邮件和识别它们的方法。加州大学圣地亚哥分校的一些研究表明,基本上...

研究了各种网络钓鱼电子邮件测试及其教育反应。他们发现,传统的方法几乎没有效果。最好的情况下,他们发现目标避免未来网络钓鱼电子邮件的可能性仅提高了约2%。

现在,早期的网络钓鱼尝试看起来相当可笑。像是免费奖品、全大写的“我爱你”或者著名的尼日利亚王子电子邮件。但现在真正高级的网络钓鱼尝试是什么样的?

黑客变得非常聪明。他们知道公司的运作方式,知道哪类电子邮件是高优先级的。他们知道像是CEO发来的要求立即回应某些公司事务或提案的电子邮件。这类邮件非常成功。

在年度开放注册期间,比如当你重新注册医疗保险时,他们知道在11月发送的与此主题相关的电子邮件会获得非常高的响应率。问题是,这些网络钓鱼攻击会导致勒索软件的出现。这对某些公司或医院会造成灾难性的后果。人们迫切希望阻止这些攻击的发生。这是《华尔街日报》记者罗伯特·麦克米兰的报道。

接下来,AI机器人偶尔会说出最奇怪的事情,给出完全错误的答案。我们将听到关于一个晦涩的研究领域,它可能有助于解决这个问题。广告之后继续。

这一集由Indeed赞助。当您的计算机出现故障时,您不会等待它神奇地再次工作。您会解决问题。那么,为什么要等待雇佣您公司急需的人才呢?使用Indeed的赞助职位快速雇佣顶尖人才。而且更好的是,您只需为结果付费。无需等待。通过在indeed.com slash podcast上使用75美元的赞助职位信用来加快您的招聘速度。条款和条件适用。

人工智能有时会编造答案,并自信地分享这些所谓的幻觉。现在,亚马逊的云计算部门亚马逊网络服务正在寻找自动推理,以提供严格的数学证明,证明这些错误在某些领域是可以被阻止的。一些分析师表示,成功可能意味着与企业达成数百万美元的AI交易。贝尔·林为《华尔街日报》撰写AI和企业技术的文章,她现在加入我们。

好的,贝尔,自动推理是如何工作的?亚马逊正在利用这一数学概念来部分解决幻觉问题。自动推理实际上是人工智能的一个分支。因此,从某种意义上说,您可以将其视为使用AI和数学来对抗另一种形式的AI幻觉或倾向于返回不准确数据。

自动推理实际上是使用计算机来自动化将规则输入AI的数学逻辑,并进行硬编码。因此,机器学习与自动推理的不同之处在于,机器学习基本上是收集大量数据,这些数据可以是结构化或非结构化的,可以是单词或文本,也可以是数字。它教会机器或计算机如何从这些数据中捕捉模式。例如,如何区分狗和猫。

如何识别数字和字母。因此,这就是机器捕捉或获得智能的方式。而在自动推理中,您是在系统中硬编码一组规则和逻辑。那么,AI能够以某种方式检查自身的错误吗?是的。

是的,没错。因此,类似于我们听说的一些大型语言模型可以推理问题的方式,系统是否按预期工作?模型是否根据预设定义的规则集输出准确的答案?对于公司来说,这些规则可以是员工的内部公司指南集,或者是一个产品指南,以便客户了解您在目录中提供的服务和产品。

好的。那么,谈到客户,亚马逊在将这种方法推向市场方面取得了多少成功?这相对较新,他们称之为预览。因此,他们肯定在测试它,并希望它能为他们解锁大量商业交易,因为目前幻觉对消费者(如您和我)在日常生活中更充分地使用聊天机器人造成了很大的障碍,但对于需要可靠性的企业来说也是如此,比如在制作药物广告时,他们不能违反法规,或者在最坏的情况下推广完全不准确的东西。

例如,普华永道(PricewaterhouseCoopers),这家大型审计、会计和税务公司,实际上是亚马逊的客户。这一点很重要,因为一方面,AI可能试图帮助普华永道实现创建优秀广告的目标。但这与确保这些药物的营销符合规定的目标相冲突。

因此,您需要自动推理来介入,确认是的,我们遵守规定,或者不,我们不遵守规定。专家们对自动推理的看法如何?它真的会终结幻觉吗?哦,绝对不会。当您向自动推理系统提出这个问题时,告诉我如何使用这些系统的AWS科学家说,答案是“不可决定的”。

因此,这是一个非常有趣的答案,我理解为“不”,因为当自动推理无法100%准确地告诉您某件事情时,这意味着它可能是“不”,因为它无法说出它100%是“是”。还有其他可能的解决方案吗?

亚马逊正在推动的解决方案以及其竞争对手如微软和谷歌也有类似的解决方案,以减少聊天机器人的幻觉。因此,他们表示,也许可以缓解幻觉,或者聊天机器人可以被教导说“我不知道”,而不是完全消除它们。

在创意领域和希望获得非常奇特图像的领域(如画家)中,幻觉实际上有很好的应用,因为您可能希望获得一些异想天开的歌词,因为您是一个歌词创作者。因此,这些聊天机器人幻觉是有意为之,但我们确实希望它们在真正重要的情况下不要幻觉。但在那之前,似乎您总是希望有一个人参与检查事情是否正确。

是的,没错。一些大型科技公司表示,人类应该完全不参与,自动推理和其他方法,如检索增强生成,应该取代人类基本上检查聊天机器人的输出,或者医生检查您输入到系统中的医疗问题的输出。例如,普华永道仍然让他们的法律团队审查广告。因此,聊天机器人和自动推理构成了第一层检查。

这是我们的记者贝尔·林的报道。这就是科技新闻简报的全部内容。今天的节目由朱莉·张制作,监督制作人凯瑟琳·米尔索普。我是《华尔街日报》的皮埃尔·比安-艾梅。我们将在今天下午带来TNB科技简报。感谢您的收听。