主教法冠,微软和其他11个组织承担机器学习的威胁

你是否欢迎或恐惧,人工智能(AI)正飞驰着的对我们未来的解释道查尔斯·克兰西斜方首席未来学家,横切实验室的高级副总裁和总经理。

斜方参与人工智能研究和发展了几十年,在许多不同的领域。但是最近的机器学习(ML)的技术进步将使巨大的转换等关键领域的金融、医疗和国防。

很多企业,在他们渴望利用进步,没有关注毫升的安全系统。微软和斜接,与博世合作,IBM,英伟达,空客本能深处,两个六个实验室,多伦多大学、卡迪夫大学卡内基梅隆大学软件工程研究所/机器学习、普华永道和Berryville研究所是释放敌对的ML威胁矩阵,行业的开放框架,使安全分析师发现,回应,并纠正威胁毫升系统。

我们问克兰西加入米克尔罗德里格斯斜方主任人工智能和自主创新中心讨论人工智能、机器学习和工作推进AdvML威胁矩阵。

为什么机器学习接收这么多关注这些天?

查尔斯·克兰西:人工智能就已经减弱流失了自1950年代以来,随着算法和底层技术成熟。但在2012年,有一个黎明底层技术的重大突破所谓的“深度学习的革命。“这些算法,结合快速增加的可用性计算处理能力和新众包数据集,开启了人工智能的一个新领域,深度学习,我们以前认为是不可能的。

这导致了许多不同的应用程序,从图像处理和图像分类。现在这些技术交叉和支持未来的高度自动化和依赖于复杂的机器学习算法。通讯、医疗保健、交通运输、基建military-our至关重要的应用几乎是无限的。

现在,当我们离开4 g 5 g通信,连接将大大增加。这意味着我们会越来越依赖互联网的东西。从智能电网、智能交通、访问互联网的能力是必不可少的利用人工智能自动化和增益效率我们周围的一切。

但是没有机器学习结合物联网创造风险?

克兰西:当然,有一些风险。是否只是一个失败的系统或因为恶意演员是导致行为以意想不到的方式,AI会造成严重的干扰。研究显示停车标志上的贴纸可以无人驾驶汽车的视觉系统错误的限速标志。或者可以骗一个启用语音系统释放私人记录。

但当谈到了解机器学习风险,至少有两种方式看:一,AI将效率和功能添加到系统在我们周围。第二,一些人担心,我们依赖的系统,关键基础设施,将受到攻击,绝望地蹒跚,因为人工智能变坏。

我相信人工智能的风险往往夸大了,事实是。通常,AI并不是我们的敌人的第一大道,尤其是攻击我们的关键基础设施。在电力行业有一个真理,最危险的敌人我们的电网…松鼠。保持在AI有一些风险,但它也是非常有价值的。无论哪种方式,火车快速冲下,因此我们需要确保人工智能从攻击者尽可能安全。

这就是为什么我很高兴僧帽,微软和其他组织合作来支持对抗机器学习威胁矩阵。

你说我们现在在同一阶段以人工智能为我们与互联网在1980年代末。你的意思是什么?

米克尔·罗德里格斯:当时,人们只是试图让互联网工作,他们没有建筑安全。我们已经付出代价。人工智能领域也一样。2012年查尔斯说,让我们大吃一惊。我们关注的是让AI在现实世界中,不烤安全。

突然,机器学习开始,增长速度远远超过我们的预期。人工智能的好消息是万博下载包,它可能不是太迟了。所以,我兴奋地工作在这个矩阵技术挑战在安全、隐私和安全。虽然会有很多大问题之前,我们没有解决这个计划会解决的基本面在互联网的早期被忽略了。

为什么“红色合作”的概念理解的威胁到机器学习系统如此重要?

罗德里格斯:红色的合作出来的网络安全,这是力量的一种对抗的方法或“道德黑客”公开工作与目标的系统漏洞更强。我们有一个很大的红色合作过的经验主教法冠ATT&CK™框架。

红合作的关键元素是使用真正的威胁。因为如果你试着想象宇宙潜在的挑战和漏洞,你永远不会得到任何地方。相反,与这种威胁矩阵,安全分析师将能够处理威胁模型,基于真实事件,模仿对手行为和机器学习。

敌对的机器学习的威胁矩阵也将有助于整体安全分析人士认为。虽然优秀的工作发生在学术界,看具体的漏洞,重要的是要考虑这些事情了。同时,给一个共同的语言或分类不同的漏洞,威胁矩阵将刺激跨组织更好的沟通和协作。

为什么斜方加入敌对的机器学习威胁矩阵倡议?

克兰西:主教法冠上有丰富的经验和技术上复杂的多方利益相关者问题,等航空安全信息分析和分享(亚洲)倡议以及ATT&CK。我们习惯于在这个问题的工作从来都不是“完成”。

要取得成功,我们知道我们需要一个社区的经验的分析师真正威胁数据共享,提高防御。工作,涉及到的所有组织和分析师需要确保他们有一个值得信赖的,中性的方可以聚合这些真实世界的事件,保持一定程度的隐私和斜接。

你的长期前景AI,物联网,对机器学习系统和威胁?

克兰西:我对未来感到乐观,AI和物联网将如何让世界变得更加安全。但毫无疑问,人工智能也将带来挑战,他们中的许多人不是严格意义上的技术。我们可能会看到AI-enabled深假货让假情报活动,我们已经看到算法偏差由于糟糕的数据,等等。这些都是重要的问题,我相信我们会参与处理。

但首先我们必须专注于机器学习的基本安全,安全和隐私。我真的期待着伟大的事情我们可以完成与微软和整个社会。

欲了解更多,请看微软的安全网站。

面试由比尔Eidson