杜跃进：以孙子兵法破解AI安全七宗罪 – 氢云资讯 H2 TMT - 前沿科技新三观：深度观察 · 独到观点

中国网络空间安全协会副理事长、360集团首席安全官杜跃进近日疾呼，我国在AI用于安全方面的创新亟待加强。数据显示，2018年全球AI-100创新企业中，安全行业11家，在25个行业中位列第一，但其中没有一家中国企业。

他认为，数智时代在赋能各产业的同时，也给安全带来了新机会，AI和大数据也可以用于安全问题的解决。

以下内容根据杜跃进在2019上海静安国际大数据论坛上的《数智融合时代的安全问题》讲话整理，由氢云资讯编辑。

中国网络空间安全协会副理事长、360集团首席安全官杜跃进

新时代安全风险超乎想象

这个时代的安全风险其实超出很多人的想象。数智融合时代有一些关键特点，这些特点在好人和坏人看来有完全不同的视角。

比如，“智能”在坏人眼中就是一切皆可攻击。“范在”在坏人看来就是不受时空限制的攻击。“融合”对坏人而言就是可跨界跨网的攻击。一个极端的例子可能是，智能马桶被攻击后甚至会造成银行信息被盗，因为一切都是连通的。

有光的地方就有黑暗。当智能之光点亮每个角落的同时，魔鬼的黑手如影随形，带来超乎想象的风险。如果不了解坏人在想什么，不做准备，那我们不但是在给坏人打工，更是在帮助他们杀掉我们。

在改变人们生活的同时，智能也面临着多层面的安全风险。

比如，网络攻击威胁智能制造，据称2018年全球近一半工控系统被攻击。在利用人工智能、大数据、互联网等技术驱动经济转型升级过程中，安全不容忽视。

网络攻击也威胁关键基础设施。电力、交通、能源等关键基础设施联网化、智能化，成为网络攻击重点。网络攻击还威胁经济和社会。经济、社会等各领域通过人工智能“重塑”，但网络攻击随之而来。

有消息说，今年8月美国军方邀请黑客攻击F15战斗机系统，很快就找到了非常多的漏洞，可以直接攻击飞机的关键系统。因此无论制造、经济还是社会领域，都找不出例外，各领域都有大量类似事件。

从人工智能那个角度来讲，其自身的安全问题可以用七宗罪来表示。

我们正在进入一个大安全时代，物理空间和虚拟空间已经打通，网络攻击不区分虚拟还是物理空间，贯穿政务、国防、工业、经济、社会等场景。漏洞无处不在，未来数以百亿计的智能设备成为攻击点，攻防不对等，防不胜防。

面对海量安全事件，响应速度要求越来越快，靠人力已无法及时有效处理。面对具有国家背景、潜伏期长、手段隐蔽的高级威胁，原来的防护思路和技术已失效。

事实上，在数智时代的安全问题上，人们不仅认识不足，更存在不少严重的错误认知，人们想象中许多安全的做法在现实世界中却可能是苍白无力。

在数智融合时代，安全问题到底该怎么破？

第一要有意识，AI的安全问题必须得到充分而广泛的重视。

第二要有能力，对范安全基础能力的培养需要加强。

第三要协同，用开源和众包方式大幅提升发现和解决问题的能力。

第四要有共识，建立人工智能领域普遍共识的规则。

第五要创新，需要提出各种创新思路，而不能沉迷于过去的思路。

第六要有大安全的理念，尽管AI本身面临安全问题，但AI同样也是解决安全问题的利器。

更为根本的是，我们还要特别关注安全的核心本质是什么。

其实，核心的本质是人和人的对抗。正因为是人和人的对抗，因此《孙子兵法》（战略战术）是高于牛顿定律（武器装备）的。

从这一角度来思考，就一定要去考虑到对手是谁，对手的动机是什么。此外，还要关注对抗环境的变化、对抗方式的变化以及被攻击对象和安全的最终目标。这些构成了新时代大安全《孙子兵法》的几个要点。

第一，要区分“贼偷”和“贼惦记”。“贼偷”意味着攻击者不是专门冲着你来的，只是路过的顺手牵羊。相比之下“贼惦记”就要高度重视，因为这是有目标攻击，是专门冲你来的。

第二，看见是1，其他是0。对于像“贼惦记”这样的威胁，能够看见是最重要的。如果连看都看不到，那么后续的一系列安全措施也就没用了。

第三，单点必败，必须联防。任何企业、甚至国家，只靠自己来防御已经不可行，而要联动防御。

第四，未来的攻防都将是用威胁情报和知识库驱动的。

第五，“超视距”攻防。守住自家院子是无用的，要尽量基于大范围长时间多维度的安全大数据，以此为基础构建威胁情报和知识库。