一个新的安全世界:微软的安全未来计划

2023年11月2日| Brad Smith -副主席兼总裁

A world map inside Microsoft's Threat Intelligence Center

过去的一年给世界带来了几乎无与伦比的各种各样的技术变革。人工智能的进步正在加速创新,重塑社会互动和运作的方式。与此同时,网络犯罪分子和民族国家攻击者发起了相反的倡议和创新,威胁到世界各地社区和国家的安全与稳定。

最近几个月,我们在微软内部得出结论,网络攻击的速度、规模和复杂程度都在不断增加,需要采取新的应对措施。因此,我们今天在全公司范围内启动了一项新计划,以追求下一代网络安全保护——我们称之为“未来安全计划”(SFI)。

这项新举措将把微软的每一个部门聚集在一起,以推进网络安全保护。它将有三个支柱,重点是基于人工智能的网络防御,基础软件工程的进步,以及倡导更有力地应用国际规范来保护平民免受网络威胁。我们的微软安全执行副总裁Charlie Bell已经与我们的工程团队分享了安全未来计划的细节,以及这个行动计划对我们的软件开发实践意味着什么。

我在下面分享我们对促使我们采取这些新步骤的变化的看法,以及关于我们“安全未来倡议”每个部分的更多信息。

不断变化的威胁形势

5月底,我们发布了一些信息,显示针对美国关键基础设施组织的新的民族国家网络活动。这种活动令人不安,不仅因为它对全国各地的平民构成威胁,还因为所涉及的技术非常复杂。正如我们在5月份强调的那样,这些攻击涉及复杂、耐心、隐蔽、资源充足和政府支持的技术,以长期感染和破坏计算机网络的完整性。今年夏天,我们目睹了类似的针对云服务基础设施的活动,包括微软。

这些攻击突出了当前威胁形势的一个基本特征。尽管近年来取得了巨大的进步,但我们仍需要新的、不同的步骤来缩小网络安全方面的差距。正如我们上个月在我们的年度微软数字防御报告中所分享的那样,完善的网络卫生实践的实施现在有效地防止了大多数网络攻击。但资源最充足的攻击者通过追求自己的创新做出了回应,他们的行动比过去更激进,甚至更老练。

肆无忌惮的民族国家行为者在网络行动中变得更加多产,对其他国家和实体进行间谍活动、破坏活动、破坏性攻击和影响行动,更加耐心和坚持。微软估计,在过去两年中,40%的国家攻击都集中在关键基础设施上,由国家资助的、技术高超的黑客侵入了电网、供水系统和医疗设施等重要系统。在这些行业中,潜在的网络破坏的后果显然是可怕的。

与此同时,保护措施的改善提高了网络犯罪分子的进入门槛,但也为一群规模较小但危害更大的老练分子提供了市场整合的机会。微软的数字犯罪部门正在追踪123个复杂的勒索软件即服务分支机构,这些分支机构锁定或窃取数据,然后要求支付赎金。自2022年9月以来,我们估计勒索软件的攻击次数增加了200%以上。虽然拥有有效安全措施的公司可以管理这些威胁,但这些攻击正变得越来越频繁和复杂,目标是规模较小且更脆弱的组织,包括医院、学校和地方政府。超过80%的成功勒索软件攻击来自未管理的设备,这凸显了将保护措施扩展到每一个数字设备的重要性。

今天的网络威胁来自资金充足的行动和熟练的黑客,他们使用最先进的工具和技术。无论是出于地缘政治还是经济动机,这些民族国家和犯罪集团都在不断发展他们的做法,扩大他们的目标,没有一个国家、组织、个人、网络或设备离开他们的视线。它们不仅危害机器和网络;它们对人民和社会构成严重风险。它们需要我们在利用我们自己的资源和我们最先进的技术和实践的能力的基础上作出新的反应。

基于人工智能的网络防御

乌克兰战争表明,科技行业有能力开发出比先进的进攻性威胁更强大的网络安全防御系统。乌克兰成功的网络防御需要科技部门和政府共同承担责任,并得到该国盟友的支持。这证明了公共部门的领导力与企业投资的结合,以及计算能力与人类智慧的结合。最重要的是,它为我们提供了灵感,让我们可以通过利用人工智能的力量来更好地抵御新的网络威胁,从而在更大的范围内取得成就。

作为一家公司,我们致力于建立一个基于人工智能的网络盾牌,保护世界各地的客户和国家。我们基于人工智能的全球数据中心网络和先进的基础人工智能模型的使用使我们处于有利地位,可以将人工智能用于推进网络安全保护。

作为我们“安全未来倡议”的一部分,我们将继续在多个方面加快这方面的工作。

首先,我们正在采取新的措施,利用人工智能来提升微软的威胁情报。和微软威胁分析中心(MTAC)正在使用先进的人工智能工具和技术来检测和分析网络威胁。我们正在将这些功能直接扩展到客户,包括通过我们的微软安全技术,从多个来源收集和分析客户数据。

这些人工智能进步如此重要的一个原因是,它们有能力解决世界上最紧迫的网络安全挑战之一。无处不在的设备和持续不断的互联网连接创造了一个巨大的数字数据海洋,使得发现网络攻击变得更加困难。在一天之内,微软从世界各地的设备和服务接收到超过65万亿个信号。即使地球上所有80亿人都能一起寻找网络攻击的证据,我们也永远跟不上。

但人工智能是游戏规则的改变者。虽然威胁行为者试图隐藏他们的威胁,就像在巨大的数据堆中找到一根针一样,但人工智能越来越多地使人们有可能在针的海洋中找到正确的针。再加上全球数据中心网络,我们决心利用人工智能以与互联网本身一样快的速度检测威胁。

其次,我们正在利用人工智能作为所有组织的游戏规则改变者,以机器速度帮助击败网络攻击。当今世界最大的网络安全挑战之一是缺乏训练有素的网络安全专业人员。由于全球网络安全人员缺口超过300万,企业需要充分发挥网络安全人员的生产力。此外,攻击的速度、规模和复杂程度造成了一种不对称,组织很难阻止和破坏大规模的攻击。微软的安全副驾驶结合了一个大型语言模型和一个安全特定模型,该模型具有来自微软威胁情报的各种技能和见解。它从复杂的数据中生成自然语言见解和建议,使分析人员更有效和响应更快,捕捉可能被错过的威胁,并帮助组织以机器速度预防和破坏攻击。

成功的另一个关键因素是将这些人工智能驱动的进步与端点设备中扩展检测和响应能力的使用相结合。如上所述,今天超过80%的勒索软件入侵源于员工使用非管理或“自带设备”访问与工作相关的系统和信息。但是,一旦使用微软端点防御器(Microsoft Defender for Endpoint)这样的服务进行管理,人工智能检测技术就可以提供实时保护,拦截并挫败对笔记本电脑、手机和服务器等计算端点的网络攻击。乌克兰的战时进展为测试和扩展这种保护提供了广泛的机会,包括在任何人类检测之前成功使用人工智能识别和击败俄罗斯的网络攻击。

第三,我们根据负责任的人工智能原则,在我们的服务中保护人工智能。我们认识到,这些新的人工智能技术必须在自身安全和安保措施的基础上向前发展。这就是我们基于负责任的人工智能原则和实践在我们的服务中开发和部署人工智能的原因。我们专注于发展这些实践,以跟上技术本身的变化。

虽然我们的大多数网络安全服务都是为了保护消费者和组织,但我们也致力于为政府和国家建立更强大的基于人工智能的保护。就在上周,我们宣布将斥资32亿美元扩展我们在澳大利亚的超大规模云计算和人工智能基础设施,包括开发微软-澳大利亚信号理事会网络盾牌(MACS)。通过与澳大利亚政府这一关键机构的合作,这将增强我们识别、预防和应对网络威胁的联合能力。这是一个很好的指标,表明我们未来需要把人工智能带到哪里,为世界各国建立更安全的保护。

新的工程进展

除了新的人工智能功能,更安全的未来还需要基础软件工程的新进展。这就是为什么查理·贝尔今天早上和他的工程师同事斯科特·格思里和拉杰什·贾一起给我们的员工发了一封电子邮件。这是我们安全未来计划的一部分,通过推进我们设计、构建、测试和操作技术的方式,推出了新的安全标准。

你可以在这里阅读查理的完整邮件。总之,它包含三个关键步骤:

首先,我们将通过自动化和人工智能改变开发软件的方式。当今网络安全威胁的挑战和生成式人工智能带来的机遇为安全软件工程创造了一个拐点。Charlie今天与我们的工程师分享的步骤代表了微软在2004年发明的安全开发生命周期(SDL)的下一个进化阶段。我们现在将把它发展成我们所说的“动态SDL”或dSDL。这将应用系统流程,在我们的工程师编码、测试、部署和操作我们的系统和服务时,持续集成网络安全保护,以应对新出现的威胁模式。正如查理解释的那样,我们将把这与其他额外的工程措施结合起来,包括人工智能驱动的安全代码分析和使用GitHub Copilot来审计和测试针对高级威胁场景的源代码。

作为这个过程的一部分,在接下来的一年里,我们将为客户提供更安全的默认设置,用于开箱即用的多因素身份验证(MFA)。这将把我们目前的默认政策扩展到更广泛的客户服务领域,重点关注客户最需要这种保护的领域。我们对这些变化对遗留计算基础设施的影响非常敏感,因此我们将把重点放在新的工程工作和广泛的通信上,以解释我们关注这些默认设置的地方以及它将带来的安全好处。

第二,我们将加强身份保护,防范高度复杂的攻击。在过去的一年中,基于身份的威胁,如密码攻击,增加了十倍,民族国家和网络犯罪分子开发了更复杂的技术来窃取和使用登录凭证。正如查理解释的那样,我们将通过统一一致的流程,管理和验证我们所有产品和平台上的用户、设备和服务的身份和访问权限,应用我们最先进的身份保护来抵御这些不断变化的威胁。我们还将向非微软应用程序开发人员免费提供这些高级功能。

作为这一计划的一部分,我们还将迁移到一个全新的、完全自动化的消费者和企业密钥管理系统,该系统的架构旨在确保即使底层流程可能受到损害,密钥仍然无法访问。这将建立在我们的机密计算架构和硬件安全模块(hsm)的使用之上,硬件安全模块存储和保护硬件中的密钥,并在静态、传输和计算过程中对数据进行加密。

第三,我们正在推动云平台的漏洞响应和安全更新。我们计划将缓解云漏洞所需的时间缩短50%。我们还将鼓励整个科技行业以更一致的方式进行更透明的报告。

毫无疑问,我们将在未来的几个月或几年里,基于从这些努力中获得的学习和反馈,添加其他的工程和软件开发实践。就像二十多年前的可信计算一样,我们的SFI计划将把微软的人员和团队聚集在一起,评估和创新整个网络安全领域。

加强国际规范的应用

最后,我们认为,更强大的人工智能防御和工程进步需要与第三个关键组成部分相结合——在网络空间中更强有力地应用国际规范。

2017年,我们呼吁制定《数字日内瓦公约》,制定一套规范国家和非国家行为体在网络空间行为的原则和规范。我们认为,我们需要执行和加强必要的规范,以保护网络空间中的平民免受越来越多的网络威胁。在那次呼吁之后的六年里,科技行业和政府在这个领域采取了许多步骤,我们所需要的东西的确切性质也发生了变化。但就精神和核心而言,我认为《数字日内瓦公约》的理由比以往任何时候都更充分。

《日内瓦公约》的实质始终是保护无辜平民。对于网络空间,我们今天需要的不是单一的公约或条约,而是国际社会更坚定、更广泛的公开承诺,更坚决地反对针对平民和我们所有人所依赖的基础设施的网络攻击。从根本上说,我们需要重新努力,将政府、私营部门和公民社会联合起来,在两个方面推进国际规范。我们将承诺微软在世界各地的团队帮助倡导和支持这些努力。

首先,我们需要更广泛、更公开地站在一起,支持并加强规定了政府不应越过的红线的关键规范。

我们都应该痛恨那些企图在关键基础设施提供商的网络中安装恶意软件或制造或利用其他网络安全漏洞的国家。这些与政府几个世纪以来一直在进行的间谍活动没有任何关系,而似乎是为了在未来的危机或冲突中威胁无辜平民的生命。要使《日内瓦公约》的各项原则在21世纪继续保持活力,国际社会就必须加强一条明确的红线,明确禁止这种行为。

因此,所有州都应该公开承诺,他们不会在关键基础设施提供商(如能源、水、食品、医疗保健或其他提供商)的网络中植入软件漏洞。他们还应承诺不允许其领土或管辖范围内的任何人从事针对关键基础设施的网络犯罪活动。

同样,过去一年,越来越多的国家直接或间接地将云服务作为攻击目标,以获取敏感数据、破坏关键系统或传播错误信息和宣传。云服务本身已经成为支持我们社会各个方面的关键组成部分,包括可靠的水、食品、能源、医疗保健、信息和其他必需品。

出于这些原因,各国应承认云服务是关键的基础设施,应根据国际法保护其免受攻击。

这应导致三个相关的承诺:

  • 各国不应从事或允许其领土或管辖范围内的任何人从事可能损害云服务的安全性、完整性或保密性的网络行动。
  • 各国不应为了间谍活动而不分青红皂白地损害云服务的安全。
  • 各国应构建网络行动,避免让非行动目标方承担成本。

第二,我们需要各国政府共同采取更多行动,加强对跨越这些红线的国家的问责。今年不乏民族国家违反这些准则的确凿证据。我们现在需要的是各国政府强有力的、公开的、多边的和统一的归因,使这些国家承担责任,并阻止它们重蹈覆辙。

科技公司和私营部门在网络安全保护方面发挥着重要作用,我们致力于采取新的步骤和更强有力的行动。但特别是涉及到民族国家活动时,网络安全是一项共同的责任。正如科技公司需要做得更多一样,政府也需要做得更多。如果我们大家能够团结起来,我们就能采取各种措施,给这个世界一个它应得的——一个更安全的未来。

标签:人工智能,网络攻击,网络犯罪,网络安全,负责任的人工智能,安全未来倡议,安全副驾驶,SFI