腾讯大讲堂：揭秘：黑产也“AI”，我们怎么办？

在6月30日举办的CCF-GAIR智能安全专场中，腾讯安全平台部总监胡珀带来了《从危到机，AI 时代下的安全挑战》的演讲。

胡珀现任腾讯安全平台部总监，腾讯安全平台部Blade Team负责人，是国内首个漏洞奖励平台TSRC负责人。

以及应急响应、前沿安全、安全培训、安全研究、漏洞奖励计划等工作。

以下是胡珀在现场的演讲，宅客频道做了不改变原意的编辑整理。

也会用到AI。大家不要以为AI只是停留在学术界或者是工业界，其实现在黑产也大量在使用AI，之前我们处理过一个案子，就是黑产用机器学习的算法来识别验证码，最高可以达到80%到90%的识别率，这个团伙被摧毁后，我们发现这是我们见过的科技含量最高的黑产之一。

被用到了实际环境，可能直接导致车毁人亡的严重情况。

第三个问题就是被污染，也就是在AI的底层框架存在的问题。

比如谷歌的深度学习系统TensorFlow，Tencent Blade Team研究之后，发现它其实存在一些传统的网络安全问题，比如恶意构造一个模型文件，格式经过特殊构造就可以控制它整个AI系统，然后可以算出AI系统的设计或者架构问题。除此之外，如果引用了恶意的第三方组件，也会导致系统崩溃，拿到系统权限。

这些漏洞我们都报给了官方，并拿到了致谢。这些系统如果底层出问题，被黑客利用，后果是灾难性的，所以现在产业界、学术界都非常关注AI的底层架构安全。

第四，许多智能设备都可能被控制。

比如智能音箱可能被窃听，我们团队对市面上的一些智能音箱做了一系列研究，许多智能音箱都有安全问题，包括协议的解析和认证授权等，其实还是传统的安全问题。如果大家感兴趣，可以在今年8月份在拉斯维加斯的DEF CON上关注我们介绍智能音箱的漏洞技术细节的议题。

智能音箱也存在被窃听的问题，小米和亚马逊都出现过安全问题，它们对协议的解析和认证授权有问题。

如果大家感兴趣，我们会在今年8月份，在拉斯维加斯讲亚马逊智能音箱的漏洞技术细节。

另外就是智慧城市，现在很多地方都引入了智慧城市，里面会用很多新的协议，比如 IoT 的协议，这个也存在许多安全隐患。

我们选用腾讯大厦作为目标进行了测试，发现它所使用的智能楼宇设备协议和加密通讯存在一些技术风险，这就造成我们可以通过远程控制某一层的会议室灯、空调、窗帘，包括插座等。

我们当时放了一个无人机到顶楼，挂了一个信号发射器，实现了对整层楼的开灯关灯关窗帘的控制，在欧洲的HITB安全峰会上我们也详细讲了这个漏洞的技术细节。

因为供应商是国外的，我们把问题报给官方，也修复了，做这个实验本身就是希望把这个问题修复掉。

除了智能音箱、智慧楼宇等，我们还研究过无人机。

2015年，Blade Team参加一个黑客比赛，远程用电脑把无人机劫持了。我们破解了无人机的通讯协议，破解之后发现，只能够抓到一部分无线电协议，就可以去模拟摇控器发出来的协议，把当时的无人机给劫持掉。

摄像头也是类似。2014年的时候，我们对国内的摄像头做了一系列的安全评测，2014年是智能摄像头元年，所以我们也要去跟进看一下。大家有没有见过有部电影叫《窃听风云》，里面有个桥段就是加了一个设备，把摄像头替换掉，导致保安没有发现有人进去了。

有些摄像头我们发现也是有这个问题的，我这里放了一个QQ公仔，摄像的 wifi 网络被我劫持替换，就能控制它所有想要展示的图像，我重新可以录视频，把公仔隐掉。

另外就是一些智能手机，因为智能手机现在用了越来越多的一些所谓的生物识别、智能识别，比如说人脸解锁，人脸解锁之前有很大的问题，但是我直接用照片，而且用二维的照片就可以解锁。

不过现在应该已经加了3D或者活体识别了，就没那么简单，但是我们目前在进行的一些研究中发现还是有机会的。所以后面有机会大家还可以看到我们的分享。

另外就是有些手机可以支持智能设备解锁，比如手环解锁，只要手机靠近手环就解锁了，不用输密码，这也是比较方便。

但在设计的时候会出问题，解锁的时候它只会检测我的手环match地址，这个也很容易实现，我们可以直接解锁他的手机。另外一些品牌手机可能采取的是指纹解锁，但我们发现用一个类似的导电硅胶，直接把纸巾按上去就可以了，根本不需要指纹，这个硅胶按上去算法也通过了，最后解锁也通过。就像现在的智能电锁，也是类似的原理。大家会发现，现在的智能手机也是不够靠谱的。

前面我讲的是智能设备本身的一些安全问题和供给场景演示，但除了他们本身存在的问题之外，AI技术还可能被黑产滥用。

这就是我们现在看到的，越来越多的智能设备链接到了网络上，但是这些智能设备的安全防护又没有传统的PC防火墙，反而会被黑客黑掉，黑客就拿来挖矿、进行DDoS攻击等等，这样就会带来很大的问题。

这些就是一些恶意软件，把物联网设备拿来做DDoS攻击，现在大量的IoT设备都连接上了网络，包括路由器、摄像头，很容易沦为黑客控制的工具。还有一些机器学算法也加入了黑产团队。

以上就是我讲的第一部分，AI的安全问题，下面我来展开讲一下第二部分，AI安全应用在具体场景下的应用，包括实战等。

大概也是这三个方向：一个是会向传统的生物特征转变，第二个是研究工具有变化，以前是用特征工程来对抗黑客攻击，现在可能会转入机器学习的方法，可能用机器学习给它建一个域值和模型，通过模型来看它是否是黑客攻击。

框架大概是这样，可能就是有一个整体的平台，再加上机器学习作为一个分析引擎，和其他的数据层、信誉库等一起，协同进行合作。

现在有一种很麻烦的攻击，就是UDP模拟，包括协议都会模拟到正常的业务，这样怎么做呢？还是会用机器学习相对好一点，在UDP模拟协议的特定场景之下，这种效果是非常好的。传统的 DDoS 防护是通过一个量来发现，但机器学习可以通过很多维度解决这个问题。

我们可以看一下，大概引入机器学习的实际效果。我们主要是应用在两个层面，一个是DDoS，一个是黑客的入侵行为，我们看一下 DDoS 的效果。

这是一个传统的DDoS的模型，加上一个 AI 环节，用机器学习给所有商户做画像。在腾讯云上有很多这样的小商家，可能它单个商户面临的流向不一样，QQ空间和微信朋友圈流量非常大，小的商户流量非常小，如果采取传统的特征工程的方法不能很好解决，比如商户做活动或者双十一整体流量上升，就会有这样那样的问题。

如果用AI画基线，比如取前面三个月或者前面一个月的数据，引入机器学习生成一个模型，通过检测模型来看是否是DDos的攻击或者活动量突增。这样的话，平时就不仅是流量的大小，还包括原IP的属性，或者原端口、整个IP的值，我们会把整个协议让机器自己去学，让它自己提特征出来，大概会选出很多维度，我们会用这个维度做模型。如果它某一天或者某一个时刻偏离这个模型，就可能是遭到DDos攻击。

最后平均准确率从80%到了96.4%，效果还可以，但机器也有误报，我们现在采取双引擎在跑，避免出问题。

在反入侵上也是类似，比如说我们的系统管理员登陆服务器，登陆之后可能会做一系列的运维，或者是部署操作，但它是个有限的集，同时它可能会在某一个特定的时间，或者会有特定的习惯，反正是有规律的。

这个规律如果通过特征工程很难做，但通过机器学习，可以很好地为服务器的每一个管理员帐号进行精准画像，这样就可以解决黑客冒用帐号的攻击方式。

现在大部分情况是黑客直接拿一个帐号密码，冒充管理做操作，但它的操作跟管理员是不一样的，一个是时间，还有一个是翻找文档，或者是偷数据的行为，但这些是正常运维管理员和普通用户不会出现的行为。所以完全可以通过这种模型，直接算一个匹配度，同时把它标注出来。

腾讯也有在做这块东西，效果就是我们的几次演习，拿到管理员帐号做进一步渗透的时候，他会明显发现有异常，会告警出来，效果还可以。

今天我总结一下，讲了两部分：一部分就是AI本身的安全问题，其实我们可以看到，随着现在AI和智能设备越来越应用到我们的生活，有很多各式各样的安全问题，不管是智能音箱、智能插座还是智慧楼宇等，一定会有很多黑客盯着，学术界、产业界最好提前发现解决，避免出更大的事故，毕竟以前的互联网都是信息化的东西，现在跟物理世界结合之后，可能会产生很大很严重的影响。

第二部分是把机器学习方法应用到传统的安全场景，在某些特定场景下，AI绝对是优于人类或者传统的特征工程，但在某些场景我们还需要继续探索。

问答环节：

雷锋网：今天几大巨头都带来了AI＋安全的演讲，与他们相比，腾讯在这方面的战略上有哪些不一样？

胡珀：我觉得腾讯的AI+安全所面临的场景会更丰富一些，大家都知道，腾讯主要的业务包括游戏、社交、支付等，所以我们AI+安全会围绕这些场景做一些配套的工作，比如QQ上的登录，QQ上的垃圾信息打击，然后微信的登录、微信这一块的，都用到机器学习来保护账户的安全。

除此之外，我们也会在其他领域，比如腾讯在布局智能医疗，我们会配合腾讯的AI战略，在AI+医疗方面针对安全方面做一些定制化的工作，其他比如智慧零售和智慧楼宇也会在AI安全方面有研究。

雷锋网：能以具体场景为例讲一下你们的AI＋安全如何落地吗？

胡珀：比如智慧楼宇，它其实就是一个传统的楼宇加上一个 AI 的学习框架组成的，其实它有两个问题：

1.它的 AI 学习方法有没有问题。

2.它的传统楼宇层有没有问题。

甚至是他们两者结合起来之后，会不会有新的问题出现？这都是我们要研究的东西。

雷锋网：您在腾讯工作了11年，从最开始的 PC 安全、移动安全、物联网安全再到 AI 安全这块，请问是不是安全人员以后都要对AI方面有所积累？以后这会是一个硬性的要求吗？

胡珀：这不一定，安全整个领域还是很大的，比如说他不做类似数据处理分析这块的工作，他可能就不需要了解人工智能相关的知识。如果只是一个负责软件漏洞挖掘的安全工程师，那他就不需要。

不过如果他是负责相关业务安全或者数据安全的，还是懂一些会比较好，因为他引入一种新的方法就可能会提升他的效率。

现在AI这么火，未来肯定会有越来越多的这种开源的框架、工具，去帮助安全人员去工作，提升效率，所以我觉得可能是这样一种场景，你懂技术，可以直接调用一个库，去调用这些AI的方法，这就会非常简单了，而且现在已经有这样一种趋势了。

雷锋网：你刚才在演讲中提到的宙斯盾所拥有的 DDoS 防御与其他的防御系统有何不同？?

胡珀：我觉得特点有两个：

第一，因为腾讯的业务非常大，类型也很多，所以这个抗DDoS的要求会很高，是个通用型的产品。

第二个是帮腾讯云上的商户做，把它防护的每一个业务当成一个商户的话，它能适配不同的流量模型和类型，针对每一个商家，都是不同的模型，而不是一种一刀切的形式。

像传统的厂商或者是说传统的方法，都是用一刀切的方式，就是我加一些黑特征，只要他命令这个特征，我就认为是攻击，就把它拦掉。但是这可能会造成误杀，比如它搞了一个活动，然后流量跟以前不一样了，现在用机器学习的方法，会有一些调整，减少误杀。

雷锋网：在AI+安全领域，你有没有特别欣赏的公司？

胡珀：其实我们重点是看哪些公司能把AI应用在安全场景，然后对自身企业的安全防护会产生不错的效果。

本文来源：雷锋网