“AI换脸”别玩掉了安全

这些天，许多人一打开朋友圈，就发现自己的亲朋好友纷纷化身“影帝”“影后”，成为各色经典电影情节中的主角。这种新奇有趣的视频，由一款名为ZAO的APP制作，其核心技术是通过人工智能，将用户的面部数据与明星进行替换。

上传一张照片就可以实现“AI换脸”，便捷的操作、有趣的玩法，很快就形成了病毒式传播态势。但ZAO热闹的背后，其实有着不少“细思极恐”的漏洞，涉及的法律、伦理、隐私等等问题均无法因一件娱乐化外衣而消解。比如，有细心网友发现，ZAO的用户协议暗藏玄机。有一条写道：用户上传发布内容后，意味着同意授予ZAO及其关联公司以及ZAO用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”。翻译一下，就是用户一旦使用这款APP，就意味着把自己的肖像权完全让渡给了该公司，它可以利用用户肖像去做其他事情。虽然这并不意味着公司图谋不轨，但用户肖像权就这样无声无息地被人掌握，颇有一种“人为刀俎我为鱼肉”的观感。

更要看到，在面部识别已经普及的今天，你我的面部数据如同一把钥匙，与自己种种账户的安危高度相关。ZAO一键把用户的面部数据上传到云端，但凡公司里有内鬼，或是公司保管不善造成数据泄露，别有用心之人很容易拿着我们的“脸”招摇撞骗。随着舆论持续发酵，ZAO对上述用户协议条款做出了调整，但仍避免不了其评分直线下滑。

ZAO身上的种种隐患，其实只是整个“AI换脸”技术争议的冰山一角。面部识别可以说是当前AI技术商业化最成熟的方向之一。曾几何时，人们寄望于此为社会增添便利。但2017年12月，美国某论坛上的一位用户打破了这种想象。他发布的“deepfake”程序，借助深度学习算法，将色情内容中的演员替换成好莱坞影星。之后“AI换脸”又替很多人伪造了奥巴马、扎克伯格的视频，名人效应让不少“吃瓜群众”接受了虚假视频里的观点。在国内也曾有程序员将明星脸嫁接到其他视频上，造成不小的风波。如今ZAO的出现无疑进一步拉低了技术作假的门槛。

当前，一个“技术小白”只需要稍加学习，就可以制作假照片、假视频、假声音。人们愈发难以分辨网线另一端的那个人究竟是真还是假。从“深度学习”到“深度伪造”，人工智能开始“作恶”的速度如此之快，但我们远远没有想好该如何应对这些新问题。就拿那些知名女星来说，自己的肖像权被肆意侵害并产生巨大的不良影响，维权之路却困难重重，大多只能默默忍受。可以预见，在资本的加持下，未来会有更多类似“AI换脸”的技术出现，对现有的社会秩序发起挑战。直接“一刀切”全部封杀并不现实，如何趋利避害，秉持“最小”与“够用”的原则搜集信息，秉持“最大”与“最紧”的原则保护信息，在技术、市场和规则间找到平衡点，需要学界、业界与管理者尽快研究。

来源：北京日报