中国商报/中国商网（记者祖爽）“扎克伯格假视频”“藏羚羊假照片”等虚假视频图片都曾掀起轩然大波，而近日大火的换脸App“ZAO”也引发人们对这种低门槛人脸识别软件隐私风险的担忧。

当和信息安全产生纷繁的纠葛时，人脸识别技术到底是“天使”还是“魔鬼”？电气与电子工程师协会（以下简称“IEEE”）在北京举办的年度媒体交流会上，IEEE高级会员、中科院自动化研究所副研究员、中国人工智能学会理事董晶博士给出了答案。

ZAO等软件或泄露用户生物信息

近期，换脸App“ZAO”一夜爆红。用户只需上传照片，就能不费吹灰之力地与明星“换脸”参演影视剧。

实际上，AI换脸并不是新鲜事。虽然ZAO并未透露其技术细节，但其换脸技术与开源的deepfakes（一款AI换脸软件）极为相似。deepfakes的核心技术是一种名为生成式对抗网络（GAN）的框架，该网络有两个模块，一个负责生成伪图，另一个负责鉴别生成图片的质量，通过“对抗博弈”的方式不断进化，达到以假乱真的水平。

看似低门槛的AI娱乐体验，却隐含巨大的隐私风险。董晶在接受中国商报记者采访时表示，ZAO这类软件实际上技术含量并不高，其主要风险还是在于背后的隐私问题。“由于这些技术都利用了生物信息，而生物信息本身具有不可撤销性，因此它们一旦被泄露或滥用，就会给用户带来严峻且永久的后果，甚至会对司法调查、保险鉴定等严肃而敏感的地带造成严重冲击。”

今年世界人工智能大会（WAIC）上发布了报告《人工智能时代数字内容治理机遇与挑战》。该报告指出，如今数字内容深度伪造正威胁社会稳定。对此，董晶深表认同，她表示，“在信息爆炸的AI大数据时代，由于数据的易篡改性和易伪造性，大量的虚假信息正严重误导着大众视听。在5G时代到来之际，这一负面影响或将被无限放大。要解决这一问题，应及时布局防御技术，加快人才队伍建设，促进科研成果与数据库对学术界开源。”

AI也能成为虚假“粉碎机”

虽然数据隐私保护是当前AI技术的发展隐患之一，但AI技术既是可以是“矛”也可以是“盾”，AI技术也可以成为虚假图片、虚假视频的“粉碎机”。

董晶介绍，可通过反向利用AI技术，从伪造图片的蛛丝马迹中辨别真伪信息。“我们首先需要确定人类视觉系统和计算机视觉系统在识别特定信息的认知特性、机理与计算方法，通过借鉴两类视觉系统之间的认知以及计算的差异性和关联性来鉴别图像真伪。”

然而，要真正借助AI技术保障信息安全，反将恶意篡改图片及视频一军，目前还需要翻越伪造特征这座“巨山”。能将伪造特征在视觉内容中有效地检测与识别，往往决定了真伪鉴定技术的可靠性。然而，伪造特征作为一种“微弱信号”，很多时候不易被察觉。

同时，由于伪造特征长期处于不断变化中，没有统一的模型，这些特性都给微弱信号的捕捉与识别工作增加了难度。因此要在众多信息内容中识别真伪，并且广泛而有效地应用AI技术，就要研究“魔高一尺，道高一丈”的AI反制技术，持续研发并不断升级，为信息安全堡垒筑起“铜墙铁壁”。