搜索
甲小姐对话杜跃进:安全没有周全那一天 | 甲子光年
作者:张一甲 2022-03-24



在新世界里,你的任何事都可以被坏人神不知鬼不觉地迫害。


作者 | 甲小姐 刘杨楠

编辑 | 九月


当我们谈论“安全”时,我们在谈论什么?


在马斯洛需求理论模型中,“安全需求”(safety need)位于倒数第二层,指人们对于稳定、被保护、有秩序等方面的需求。


如今,时代赋予了“安全”更高阶的含义。


5G、移动互联网、大数据中心等新型基础设施和云计算、AI等信息技术快速发展,将人们迅速拉入了一个庞大的数字世界。中国信通院的数据显示,2020年,经测算的47个国家,数字经济占GDP比重高达43.7%。数据已成为“新时代的石油”,正在改变人类生活方式、经济增长路径至全球发展格局。


当虚拟与现实的边界不再清晰,传统的“安全”定义正在被新世界重写,数据安全风险也不断蔓延,全球都将“数字安全”放在了至关重要的位置。


中国的《数据安全法》《关键信息基础设施安全保护条例》《个人信息保护法》等法规接连颁出,欧盟颁布“史上最严数据保护法”《通用数据保护条例》。据Gartner预测,2023年,全球80%以上的公司将面临至少一项以隐私为重点的数据保护法规,到2024年,每年由隐私驱动的数据保护和合规技术支出将在全球突破150亿美元。


但中国的数字安全保护仍在早期。“我用两个词来描述人们对数字安全的理解——恐慌、混乱。”360集团副总裁&首席安全官杜跃进告诉「甲子光年」。


杜跃进是国内网络安全圈的老兵,曾历任阿里巴巴集团技术副总裁和首席安全专家、网络安全应急技术国家工程实验室主任、APCERT(亚太地区计算机应急响应组织)副主席、中国网络空间安全协会副理事长等职位,2019年加入360集团。从互联网公司到体制内,再到网络安全公司,他敏锐感知数字安全市场水温的变化。


今天,甲小姐对话杜跃进。他提到,数字安全即将进入革命期,挑战和机遇并存。



1.谈定义:“安全正在成为所有行业发展最关键的阻碍,没有之一”


甲小姐:当我们谈论安全的时候,我需要你用最精炼的方式给所有人一个关于安全的定义。


杜跃进:安全可以分为两种。一种是“safety”,按照马斯洛需求层次理论,安全需求在倒数第二层,是物理世界的安全,包括所有涉及人的生命、健康的问题;另一种是“security”,是人与人对抗带来的安全问题,是在人与人沟通中围绕信息本身的攻防。


我经常讲,safety是牛顿定律的事,security是《孙子兵法》的事。过去两者是分开的,现在安全行业到了一个全新的阶段,两者已经无法区分了。


甲小姐:大数据、AI和安全三者是什么关系?


杜跃进:安全关系着一切,任何一个词都可以加上“安全”二字。大数据有大数据的安全,人工智能有人工智能的安全。一个越来越明显的趋势是,安全正在成为所有行业发展最关键的阻碍,没有之一


甲小姐:我曾在「甲子引力」大会上提到,我们已经从一个纯粹的“发展”模式走向了一个“发展+治理”的模式。人工智能时代,左手是智能,右手是安全,两只手要同步并举,否则会出现很大问题。这个过程中,任何一个行业、任何一个机构的决策者,都得建立对安全生产的基础认知,对吗?


杜跃进:对。


甲小姐:16年AlphaGo战胜李世石后,人工智能被大众认知,当时我和一些从业者沟通发现,一边是熊熊燃烧的AI之火,另一边的安全好像是聚光灯外的东西。如今6年过去,作为一个从业者,你觉得人工智能和安全的市场水温在过去几年发生了哪些变化?


杜跃进:我觉得人工智能和大数据的安全必须放在一起看。


2016年,数字安全领域也有一个标志性的悲剧事件:当时,一个叫徐玉玉的山东女孩儿考上了大学,她的个人信息通过一个小网站泄露,被精准诈骗9900元。她家里条件不太好,心里无法承受,最终离世了。这件事之后,国家成立四部委联合机制打击反诈,直到今天。


2016年,大家确实对人工智能安全的讨论还不多。我看到一个数据,2018年起,国外有一个机构连续三年分析全球前100位人工智能创新公司。一个有意思的现象是,从18年起,全球人工智能创新最大的赛道是安全,无论是人工智能用于安全还是人工智能本身的安全。但另一个现象是,中国虽然在人工智能创新领域排在最前,但在最大的安全赛道里,中国公司数量为0。18年的时候,中国是忽视人工智能安全的。


甲小姐:某种意义上,追求安全是人类天性所在,但为什么过去企业不重视?


杜跃进:因为一些企业对“安全”的认知还停留在过去。


过去企业会重视传统的safety,比如防火;security是防盗,但是过去大家觉得security跟自己没什么关系,这是警察的事情,有了网络之后,觉得是计算机的事情。事实上,现在这两个概念已经不分彼此,关系到每个人、每个企业。


甲小姐:如果让你用最简练的话,和一个小学一年级的小朋友讲清楚“数据、智能、安全”三者的关系,你会怎么说?


杜跃进:在新世界里,你的任何事都可以被坏人神不知鬼不觉地迫害。


甲小姐:小朋友会有心理阴影的,能说得不那么可怕些吗?


杜跃进:安全就是挺可怕的。


甲小姐:你说的“新世界”是指数智时代吗?今天数智时代已经不是说说而已,我们每天打开手机那一刻,就已经在数智系统里了。


杜跃进:是的。其实可以用三个词来概括这个时代的安全隐患:


第一是“无死角”,我们正在走向一个在任何地方都可以被人攻击的世界;第二是“跨时空”,对方可以在任何地方触达任何死角,做任何事情;第三是“极隐蔽”,就是我刚才说的神不知鬼不觉。


甲小姐:普通人听到这些瞬间一定会带有一些悲观情绪。


杜跃进:大家可能会对安全失去信心。


甲小姐:我记得很多年前,安全市场还没有起来,有个做安全的朋友毫不讳言地说,他们跟一家公司谈生意的时候就用黑客攻击一下,让客户知道自己的安全能力有多差,单子很快就能谈下来。这是一个正确的做法吗?


杜跃进:如果他经得客户同意,这是很好的方法,否则是不正确的。


甲小姐:这有点像一个压力测试。


杜跃进:对,其实是一个真实的压力测试,但是要控制好风险。比如你不能在一架飞机正在行驶的时候,去测试它的系统是否安全。


甲小姐:安全的重要性目前在整个行业被高估还是被低估?


杜跃进:普通老百姓是低估的,有调查为证。比如以前大家老觉得有病毒,但现在觉得没病毒了,为什么还要装杀毒软件?是真的没病毒了吗?其实不是。过去的病毒会展现自己,让你的机器出故障。现在它更会隐藏自己,目的是偷窥你,所以你感知不到。



2.谈隐私:“我们为什么要害怕一个软件?”


甲小姐:前不久青藤云创始人用一个下午的时间和我聊了一件事,就是数据安全的概念似乎存在于每一个人的脑海中,但行业里还没有人定义清楚什么是“数据安全”,你有同感吗?



杜跃进:我用两个词来描述人们对数据安全的理解——恐慌、混乱。这个现状已经从2018年持续到现在,没有本质改变。其中,“混乱”就包括大家依然没有定义清楚什么是数据安全。


甲小姐:现在有大量数据安全相关的法律或政策出台,一些曾经的巨头一夜之间被打入低谷。现在似乎正处于一个“人人都想要数据安全,但人人都不知道什么是数据安全,更不知道怎么做数据安全”的局面。


杜跃进:这个话题太大,我举一个大家听得懂的案例,有一个误区是,我们总是担心手机App太了解自己,能精准推送,怎么比我还懂我自己。但我们为什么要害怕一个软件


古代如果人有个秘密,不吐不快,又不敢说给别人,就会告诉树洞,因为你不担心树洞会泄露你的隐私;后来我们把秘密写在日记本上,因为我们可以给日记本上锁;现在我们写在计算机里,为什么就要担心一个软件会泄露隐私?


这是错误的理解。我们其实在担心软件背后有人看到我不想让他看到的事情,有人在操纵算法来危害我,这才是我们关心的数据安全。但我们现在却简单地理解为不采集数据就会安全,这等同于不吃饭就不会吃到细菌。这是对数据安全的一个典型误解。


本质上看,数据安全不应该关注采集了什么,更应该关注采集的数据是怎么用的,怎么保护的。这显然更难。


甲小姐:现实或许是,很多人会因为1%的风险而放弃99%的价值。


杜跃进:这是大家对安全的另一个误解。


第一,没有绝对的安全;第二,安全本质上是风险的控制。


我们需要考虑的是,当安全做到99%之后,我们如何弥补剩下的1%。比如有人信用卡被盗刷,银行就会给他补上相应数额的钱,这就是风险兜底。


甲小姐:360有保险业务吗?


杜跃进:没有。保险是个很好的概念,安全圈一直在探索。但保险不是唯一的路,除了用钱规避风险外,我们还可以做一些备用系统等等。


甲小姐:尽管如此,老百姓在选择某些科技产品的时候还是会担心隐私是否会被泄露。


杜跃进:其实不用那么担心。首先,我们不可能脱离现实世界,也无法逆转技术发展的趋势;第二,安全是一个总体的风险控制问题,你不用担心每一个细节,找靠谱一点的产品就好了。


这次的“3·15”非常关注信息安全,会上曝光了一种低配儿童手表,因为安全做得太差,孩子们的个人信息很容易被黑客监视。但大品牌会好一些,至少出了问题你找得到人帮你解决。


甲小姐:说白了,对于老百姓而言,第一是不要过于恐慌,第二是相信大品牌。


杜跃进:对。不过我们还是要呼吁行业内的厂商们,要重视安全,不要回避问题,要不断提高自己的产品安全。



3.谈行业:“安全行业自我革新的速度有点慢”


甲小姐:从产业成熟度来讲,在0-100分范围内,如果移动互联网是90分,人工智能和安全是多少分?


杜跃进:这个问题有点难,我觉得要分行业。人工智能技术在有些领域可能已经到七八十分,但在我们这个行当里,可能连三四十分都不到。


甲小姐:我换一个问法,每个产业的发展都有自己的周期曲线,互联网的曲线在过去20年是不断上扬的,安全作为一个技术或产业赛道,现在处于哪一个发展阶段?


杜跃进:安全和人工智能不一样,人工智能可以用Gartner技术成熟度曲线判断,但安全要断代。因为安全是人类发展早期就有的需求,从古战场那里就开始有。这里的“安全”是指,比如历史上两军对垒时,要确保战场上的指令不被对手看到,也不被对手篡改。


现在到了一个全新的阶段,20年前安全被重新定义,就是刚才说的,无法再区分safety还是security。


甲小姐:在整个行业中,你感受到的大数据、AI和安全的晴雨表是什么?


杜跃进:首先,数据安全至少已经被热捧5年,未来很长一段时间内依然可能是最热的方向。但产业上还没有大的数据安全公司,目前处在创新、探索的阶段。


人工智能安全在国外比较热,国内还没有看到很多。安全大赛道本身也在被热捧,大家都知道安全太重要了,但安全行业自我革新的速度有点慢,还有点停留在传统阶段。


甲小姐:如果让你依次给安全领域的政策制定者、从业者、投资者、学者、行业巨头提建议,你会怎么提?


杜跃进:给政策制定者提建议是最复杂的,很难用一两句话说清楚。总结两点,第一,政策制定要贴近产业,贴近产业才有可能做出更有效的政策;第二,安全是为了发展


甲小姐:安全一定不是蹩马腿,而是在拉缰绳。那对投资者呢?


杜跃进:安全是个很好的赛道,但它非常复杂。所以对投资者来说,不要轻易跟这个概念,更多要看内在逻辑。


甲小姐:给从业者、企业家或者创始人什么样的建议?


杜跃进:对从业者的建议很明确——“安全”已经被重新定义了,必须尽快跟上。


甲小姐:你们会在行业里发布一些重新定义安全的声音吗?


杜跃进:会的。我们把现在的安全定义成“数字安全”。去年11月份乌镇世界互联网峰会上,国家提出“数字素养”“筑牢数字安全的屏障”等话题。未来物理世界和虚拟世界双向打通,所有的威胁双向渗透。数字安全则是一个将人工智能、数据安全与传统安全三者融合的新概念


甲小姐:你会给学者或学生什么建议?


杜跃进:眼下有大好机会留给学术研究。因为“人工智能、大数据、安全”的交叉地带有太多新问题可以做。比如在数字城市、智能制造、工业互联网这些领域都可以开放脑洞,大展拳脚。


甲小姐:最后,你会对360说什么?


杜跃进:我觉得我们承担责任的时候到了。我对未来的数字安全很有信心,因为我们已经意识到了数字安全的重要性,现在唯独需要带领更多同行去迎接全新的安全生产。


甲小姐:相比于PC时代的辉煌,移动互联网时代的360似乎相对落后。现在看来感觉你们错过了一个时代,但是下一个时代有一个更大的舞台。


杜跃进:我们无所谓是否在移动互联网时代落后。我们的主线一直是安全,这条主线让我们积累了许多珍贵的数据,数字安全离不开大数据和人工智能,现在都是可以挖掘价值的数据资产。



4.谈未来:“安全会进入革命期,挑战和机遇并存”


甲小姐:能否给出几条围绕“大数据、人工智能和安全”未来发展的趋势判断?


杜跃进:安全会进入革命期,挑战和机遇并存。


大数据会进入拐点期——如果数据安全搞不好,大数据的发展会严重受阻;搞好的话,大数据将爆发更大的潜力。


人工智能安全受到大数据影响,可能也会进入拐点期。现在各国都有大量关于人工智能伦理的研究,他们的研究成果可能在未来1-2年内开始产生影响,那个时候才会看到安全究竟如何影响人工智能。


甲小姐:我觉得今天和一个世纪前相比,科技的不同之处在于——100年前技术在解决效率问题,它让人类“更高、更快、更强”;但今天的技术可以改变我们的软性环境,影响我们每天听什么,学习什么,甚至可以改变人的硬件,比如基因编辑、器官移植、脑机接口或者纳米植入等等。总的来看,人类已经可以用技术定义人类未来的走向,而这个定义权原本在“进化”手中。原来的进化是自然选择,现在变成了人的选择。


所以未来的科技从业者肩上扛的不仅是一个技术或商业议题,而是我们子孙后代将会生活在一个什么样的文明当中。你会有这样的危机感吗?


杜跃进:绝对有啊。


现在很多人对人工智能的恐惧不无道理。人类社会是一个很复杂的系统,我曾提出过人工智能的“七宗罪”,其中,“第七宗罪”就是人工智能技术在人类社会过于简单化的应用,比如我们随便想象出来的技术就能启动。


技术的变化可能会在社会中产生蝴蝶效应,同时,所有技术都可能被坏人恶意利用,那将会产生灾难性后果。


甲小姐:我的感受是,一些科技工作者有时候对自己手中的武器没有客观认知,最怕会有自以为是造物主的工程师,因为“0”和“1”的代码是无法复刻现实世界的。我曾经采访过《哥德尔、艾舍尔、巴赫:集异璧之大成》的作者,他关于“复杂系统”的理念彻底改变了我原先数理的思维模式。数理模式的人认为“1+1=2”,但复杂系统中“1+1”远不等于2,这才有了蝴蝶扇动翅膀就可能掀起一场风暴。


杜跃进:技术世界本身就是一个复杂系统。人类在用各种各样的科技创造一个新世界,但我们创造的是一个复杂系统。从安全的角度来说,这个新的复杂系统有可能存在一个被人点击鼠标就能击垮的地方。


甲小姐:什么是AI的“七宗罪”?


杜跃进:很多人可能只关注到AI算法本身,其实AI是一种链条。我把AI的安全分成七个领域,分别是硬件、软件、双方通话的协议、数据、算法、AI的应用领域以及AI在社会治理中的使用。


首先从硬件来看,当一个普通硬件变成智能硬件,就需要考虑更多的安全问题。比如一个普通的麦克风收到人的声音会自动公放,可它接收不到超声波;但当一个麦克风变成智能语音接收器,在接收指令后就会通过算法执行,这个指令可能是给汽车开门,给别人转账或者播放一首歌曲。但是,也可能有人用超声波冒充你的声音把你的钱转走——这是已经被证实的漏洞。


甲小姐:很多时候是百密一疏,开发者如何保证能够考虑周全?


杜跃进:对,安全就是这样,安全没有周全的那一天。安全是在总体上达到相对的风险可控,没有绝对的安全。


软件也比较好理解,现在全世界使用最多的开源框架有很多大家不知道的漏洞,这样的开源框架有上亿的下载量。这意味着我们写好的人工智能软件是有漏洞的,黑客可以直接控制,而人工智能又是不可解释的。


甲小姐:深度学习本质上是一个黑盒逻辑,暴力计算。比如一个抖音的程序员也无法让他的家人看到更想看的东西,因为抖音的推荐机制是一个巨量数据训练出来的、谁也说不清道不明的黑盒子,就像我们的大脑一样,没人知道我们不开心的时候是大脑哪根筋不开心。你会担心AI黑盒吗?


杜跃进:很多人很恐慌,我倒是觉得人工智能必然会是一个黑盒。但有一个前提是,不能允许黑盒里使用的数据是被人污染过的。



5.谈个人:“搞安全的人大多是逆向思维”


甲小姐:安全行业从业者和AI公司的程序员之间画风好像非常不同。


杜跃进:不一样,搞安全的人大多是逆向思维。正向是这样设计的,搞安全的程序员都先想象“我不这么做会怎样”,寻找各种各样的安全漏洞。


甲小姐:做AI的人都很绽放自我,他们似乎更愿意彰显自己的智慧,但你给我的感觉更加沉静。


杜跃进:搞安全的人有些也很绽放,不都是我这样的。


甲小姐:你现在如何分配自己的时间?


杜跃进:你的问题好像都挺难回答。我的助理可能比我更清楚我的时间分配。


甲小姐:你是响应式的吗?


杜跃进:也不是。我确定大方向后,会有各种各样的团队往前推,推进过程中遇到问题,就需要我响应,但不是所有人都跟着我走。


甲小姐:你觉得现在是忙还是闲?


杜跃进:非常忙。昨天我正在开会的时候有一个人给我打电话,我说你一小时之后再给我打,我就那一小时之后有十几分钟的时间,但一小时之后他没给我打,他再打给我的时候,我说你错过时间了,4:15再给我打。但他4点刚过就打给我了,我说我还没结束,我只有4:15-4:30有时间。真的非常忙。


甲小姐:突然感觉我今天很幸运,占用你这么久的时间。


杜跃进:今天是事前列入计划的,而且我愿意花时间在这种事情上。


甲小姐:你会做安全的布道者吗?


杜跃进:我愿意做安全的布道者。过去的20多年,我平均每年公开演讲近40场。背后支持我的理念是,影响别人是一件很重要的事,也是我们搞安全的人肩上的一种责任。


甲小姐:你最终的受众是谁?


杜跃进:多种人,包括普通老百姓、企业决策者和政策制定者等等。


甲小姐:感觉我们算同行,但我更多是不断去发问。


杜跃进:你更主动一些。影响别人这件事上我是被动的,可能有人找我的时候,我会愿意花时间在上面。


  • 13700
  • 0
  • 0
  • 0
评论
登录甲子光年
其他登录方式
登录即表示你已阅读并同意
《甲子光年用户注册协议隐私政策
找回密码
获取验证码
注册甲子光年
获取验证码
注册即表示你已阅读并同意
《甲子光年用户注册协议隐私政策
绑定手机号
获取验证码
登录即表示你已阅读并同意
《甲子光年用户注册协议隐私政策
完善资料
登录即表示你已阅读并同意
《甲子光年用户注册协议隐私政策
微信登录
扫描二维码 | 授权登录甲子光年