智能音箱、智能家居、无人车、无人仓库、无人机……在科技界“言必称AI”的亢奋当下，同样亢奋的，还有另一群人。

　　2018年2月，一份由OpenAI

　　、牛津大学、剑桥大学等14家机构和高校共同发布了《人工智能恶意使用》报告，该报告详细讲述了人工智能技术潜在的「恶意」用途，以及预防措施。他们认为，这项技术可能在未来5到10年催生新型网络犯罪、实体攻击和政治颠覆。

　　这并不是危言耸听，在近期召开的QCON北京2018全球软件开发大会上，京东安全硅谷实验室负责人苏志刚就指出“网络黑色产业链(下简称‘黑产’)正在运用AI技术助推其犯罪工作。用AI对抗AI已经成为当下安全攻防之战的焦点.”

　　电商攻防战军备升级：以AI对抗AI

　　据不完全统计，目前我国直接或间接参与网络黑产的不法分子已经有数百万之巨，在AI技术的“赋能”下，黑产组织的犯罪行为呈现出高度组织化、规模化以及智能化的特征。在这一情况下，京东安全在黑产攻击的全流程中部署实施了反攻策略，保障电商全流程的安全。

　　以黄牛为例，一次黄牛的攻击行为大致可以分为爬虫爬取活动信息、IM群组传递爬虫反馈回来的信息、黑产软件自动登录、定时下单、AI平台破解验证码实现成功购买，收货转卖几个环节。

　　在对抗黄牛上，京东安全采取了“步步拦截”、“层层化解”的方式，例如用反爬虫技术拦截黑产爬虫，监控黑产的活动，获得诸如黑产工具、平台等相关信息，进行提前拦截，并通过对黑产工具的研究对关键节点进行加固。

　　苏志刚指出，打击机注(机器注册)是电商“反黑”之战的攻坚点，也是攻防双方AI大战的焦点。在机注的识别上，京东安全采用了黑产情报、无监督学习+有监督学习、人机识别三管齐下的方式，通过黑产情报了解实际攻击的工具、技术跟场景;利用无监督及有监督学习相结合降低误判率，保障真实用户的体验;基于京东多场景的人机识别，识别出机器注册的行为特征，并对其加以标注。

　　图片验证码的对抗也是AI对抗AI的一个典型场景，黑产利用AI对图片验证码进行破解，防守方则利用AI进行反攻。反攻的第一步是做模型的提取，因为黑产平台会使用AI模型做图片验证。基于这个洞察，京东安全用尽可能少的查询，给黑产的系统提供一些图片验证码进行识别。通过这些打标去自动找出黑产模型的弱点，获取近似模型，然后产出对抗性样本。关键原理是模型弱点是可转移到近似模型的。使得新产生的图片验证码在真人识别时不会产生混淆，但是AI平台强行打码时会出现误判，从而击垮黑产AI的机器学习。

　　在苏志刚看来，得益于京东自身庞大的数据量和丰富的人机识别场景，京东安全得以持续、有效地应对黑产的不断‘变种’和升级。但就长期而言，与黑产的对抗仍将是一个长期且艰巨的过程，“AI对抗AI，是一个不断持续，快速升级的过程。在AI的助力下，黑产对抗是非常敏捷的，大概一到两天就能产生一个新的变本，以提高他自己的功能，这对于安全团队是一个持续的挑战”。

　　为了安全的安全，AI安全成网络安全焦点

　　就目前而言，电商平台面对的安全挑战类型可分为两大类型，一是系统级别的安全，包括设备终端、云端跟通讯协议;还有一个则是人工智能本身的安全，即针对AI系统本身的供给和相关安全性的问题。

　　“京东有着非常丰富的AI应用场景，例如无人仓、无人汽车、无人机等。这使得我们面临的AI安全挑战也是前所未有的。仅以无人机为例，在无人机上，有人身安全的问题，降落环节环境的识别跟人体识别，设备安全里要做到自主避让、空中交通的关系跟自主规划路径。在这方面还有数据安全，如果GPS被劫持，我们的货有可能送到黑产手上，还有数据传输的劫持等。”苏志刚介绍说。

　　为了更有效地保障AI安全，京东安全将AI安全分为了初级、中级跟高级三个级别。初级安全问题指的是AI无法按照既定功能运行，如无人车无法正常识别路况、无人机自主规划的路线违背了规则等;中级安全指的是AI被攻击者所控制，成为其达成目标的工具。例如无人车被攻击者控制后造成将货物送到黑产手里;高级问题是AI系统对其它系统进行大规模损坏性的攻击，或者消耗系统所有资源，导致其它系统瘫痪。

　　在AI系统安全方面，京东安全做了三方面的研究，包括软件级别的研究，如防御缓存的溢出、接入控制等;

　　AI系统级别的安全研究，如在有对抗样本下做learning，从架构跟方法两个层面保证learning系统是安全的等;以及分布式级别的研究，确保每个agent所做的局部性最优的决策，能够达到全局最优。

　　在京东安全的硅谷研发中心、大数据、AI、智慧供应链、平台产品研发、智慧物流、安全等部门正在密切协作。“保障AI技术的安全，用AI技术更好地保障安全”是京东安全的永恒命题，也是整个互联网安全行业必须面对的共同命题。

　　业内专家指出，在AI时代，黑产与反黑产不仅仅是数据和技术问题，更是牵一发而动全身的社会问题。这一问题的解决，单靠企业或安全机构是远远不够的。只有全行业、全社会、政企民携手，打破信息孤岛，全民联防联控，从源头建立安全防控意识，我们才有机会在这场扩日持久的拉锯战中占得先机。这也是京东安全反复强调的共建“网络安全命运共同体”的根源所在。