人工智能时代更安全？百度韩祖利：机遇与挑战并存

由中国新闻社旗下财经新媒体中新经纬主办的第五届财经中国V论坛3月28日在北京举行。百度安全产品部总经理韩祖利在主旨演讲中指出，人工智能领域的安全战线比之前更长、更复杂，包括现在广为流行的生物识别技术也存在安全隐患：在光照足够的情况下，10米开外用单反相机就可以拍到虹膜，并且低成本地复制出来。

百度安全产品部总经理韩祖利。

人工智能能为互联网安全做什么？

韩祖利指出，百度每天在互联网上抓取到几十亿网页，其中不可避免有一部分包含恶意攻击，如银行仿冒网站、虚假中奖信息、博彩或色情网站等。这些恶意网站也非常狡猾，不断变换规则以逃避网址安全检测和监察。

韩祖利表示，过去只能靠人工来发现恶意网站，并从中总结出一些通用匹配的规则。有了人工智能后，这个工作就变得更加轻松了：人类可以把筛选出的绝对违法、绝对有恶意的网站去训练一个模型，用它不断在几十亿网页里寻找新的恶意方式和欺诈方式。

据他介绍，目前在某些领域，人工智能的准确率已超过人类，因为人总会被一些信息误导。例如字符1和I非常相近，人可能会出现判断失误，但对于机器来讲不可能弄错。还有一些攻击者使用图片显示恶意信息以逃避监管，这时可使用人工智能的图片识别功能，将这些恶意网页打捞出。

人工智能时代的安全战线比之前更长

韩祖利指出，人工智能时代的安全战线比之前更长、更复杂，多了数据风险、传感器欺骗等棘手难题。

据他介绍，人工智能在进行图片分类时，具有极易受干扰的一面。虽然人工智能在某些方面精准度可超过人类，但在复杂情况下还远远达不到。例如，两张自行车图片在人类看来一模一样，但对于机器很可能并不一样，如果加一些干扰因子，机器会把其中一辆识别成蟑螂。

韩祖利称，随着深度学习的发展，现在越来越多的智能设备开始应用生物识别技术，但这一技术也存在风险，因为生物特征极易被复制。据了解，在光照足够的情况下，10米开外用单反相机可以拍到虹膜，可以低成本地复制出来。此外，生物识别传感器本身没有那么高精度，很容易会被欺骗，导致采集的数据出现问题。

此外，韩祖利还指出，目前人工智能的研究应用，基本上都会沿用一些框架，依赖库非常多；但依赖库本身往往存在安全漏洞，导致人工智能也不可避免存在风险。

百度如何应对人工智能的潜在风险？

韩祖利指出，为应对人工智能的潜在风险，百度研发了如下技术工具：

首先是对抗样本工具包Advbox。百度提供了一套安全对抗样本的工具，以测试深度学习模型抵御对抗样本的健壮性，在使用PaddlePaddle(百度深度学习平台)时，可以检验生物识别、图像验证等会不会出现问题。这套工具会随着PaddlePaddle的开源，提供给整个产业。

其次，是多因子认证解决方案。人工智能行业尚缺乏标准，对于生物认证单靠一个因子并不可靠，弥补单一因子的局限性和安全风险，同时采取两种或两种以上的认证方式，比如强因子与弱因子叠加，同时欺骗两种认证方式，难度就大很多了。此外，想要安全地上线生物识别，无疑需要一个更强大更统一的生物识别行业标准，这需要整个产业链互联网厂商、硬件厂商、芯片厂商、安全厂商、行业监管部门、学界通力合作，切实保障身份认证全产业链的安全。百度基于多年生物识别的研究与实践，持续加大对多因子认证行业核心技术与解决方案的研发投入，同时拓展多因子认证新场景。

此外，关于IOT(物联网)在整个智能设备中的安全问题，百度也提供了一套完整的框架解决方案免费给很多厂商使用，包括云端的安全、在设备端提供病毒防护，甚至一些漏洞的热修复能力等，都在不断完善。