上海居住证积分：AI换脸人眼难辨 瑞莱智慧推出深度伪造检测平台长期对抗

　　7月12日电（郑莹莹）信息爆炸时代，“眼见未必为实”。人工智能技术在带来新一轮发展机遇的同时，也存在诸如“AI换脸”之类的潜在安全隐患。

　　8日至10日在上海举行的2021世界人工智能大会上，依托清华大学人工智能研究院设立的人工智能企业――北京瑞莱智慧科技有限公司（简称“RealAI”或瑞莱智慧）推出“DeepReal深度伪造检测平台”，致力补漏洞、长期对抗深度伪造技术带来的潜在风险。

　　――“三大潜在风险”让拥抱人工智能有难度

　　“深度学习模型本身是黑盒，或者通俗来说，即便是开发者也难以明白它具体是怎么运作的，相应地，它一定存在难以被发现的漏洞；我们关注的AI内生安全就是希望去发现这些漏洞，并弥补这些漏洞。”瑞莱智慧副总裁唐家渝在受访时说。

　　他介绍，随着人工智能的广泛应用，整个产业面临的三大困境逐渐浮现，瑞莱智慧致力于解决这些困境。

　　第一是算法可靠问题，深度学习算法缺乏可理解的决策逻辑和依据，无法量化不同决策的可靠程度，导致难以落地于医疗、自动驾驶等高可靠性要求场景；同时，基于对抗样本攻击技术可以破解安防监控、手机刷脸解锁、人脸识别闸机等识别系统，实现身份伪装或隐身逃逸，为个人财产安全与社会公共安全带来全新挑战。

　　第二是数据安全问题，提升AI能力需要挖掘数据价值，但在特定AI应用场景中，所需要用到的数据往往涉及个人隐私信息，简单明文数据传输和利用很可能导致隐私泄露；而有价值的数据分散形成数据孤岛，在打破数据孤岛的过程中，数据用途和用量难以控制，存在被滥用和复制的可能，同时数据权属不明确，数据收益不清晰。

　　第三是应用可控问题，AI算法偏差导致不公平性风险，比如人脸识别算法存在种族歧视与性别歧视，AI信贷模型对特定地域人群的歧视等，缺乏有效衡量算法公平性的方法和工具；同时，AI技术的滥用引发道德伦理风险，比如深度伪造技术的滥用带来的个人和社会风险问题。

　　――人眼难辨  深度伪造需要依靠技术检测

　　在应用安全问题方面，深度伪造技术的大规模滥用蕴含着巨大的潜在危害，将人工智能的负面作用推向了社会舆论的风口浪尖。

　　比如，在Tik Tok上受到关注度极高的汤姆・克鲁斯的伪造视频，肉眼来看已经难以辨别是假的了。在人眼难辨的情况下，对于深度伪造的虚假内容，需要依靠技术进行检测。

　　瑞莱智慧基于团队深厚的AI技术积累以及基于实战需求对产品不断迭代，正式推出业界真正可落地的深度伪造检测平台DeepReal。唐家渝介绍，该平台拥有工业级的检测性能，以及应对实网环境对抗变化的检测能力。平台支持对视频和图片进行批量检测，全界面化操作。他介绍，在目前所开源的所有学术数据集上，该平台的检测准确率均超过99%，同时，在百万规模的实网深度伪造测试集上达世界顶尖水平。平台对于单张图像的检测耗时不到30毫秒，支持横向扩展与集群部署，适用于大规模实网落地。针对互联网环境中众多的深度伪造类型，平台也进行了全面的覆盖，包括针对真实人物的面部替换、表情操纵，以及完全合成的虚假人物等。

　　――长期对抗 应对“不断进化的”深度伪造

　　唐家渝介绍，依靠机器检测的过程其实是一个长期对抗的过程。这里的对抗性主要体现在两个方面。

　　第一个方面是新的造假算法在不断丰富，伪造图像越发逼真。举两个典型的例子，最初的伪造视频其实是有一些反常识的特征的，比如一段1分钟的视频中，人没有眨一次眼睛，于是可以基于人体的生理特征去对人物的真假进行判定。但造假者随后就实现了在视频中随机生成眨眼动作，很大程度上逃避了这种检测方式。第二个例子，通常深度伪造视频为了让人物与背景有比较好的融合，会对边缘进行简单的高斯模糊处理，而当检测算法“捕捉”到这样的特征后，伪造算法也会升级，对人脸边缘做更精细化的处理。

　　第二个方面是可利用深度学习的缺陷绕过检测算法。目前的检测算法仍然是基于深度学习框架，存在结构性缺陷。以典型的对抗样本攻击为例，通过在图片或视频上添加对抗样本噪音，可以使伪造内容躲避自动检测。

　　唐家渝表示，实网环境中的伪造视频不断变化，需要有强对抗的手段加以遏制。为此，瑞莱智慧推出的检测平台主要从两方面进行了应对：一为了能够快速即时应对新型的深度伪造类型，利用了贝叶斯深度学习，另外加上小样本增量学习的方法，使得在初期见到少量新型伪造数据时，便能迅速学习到伪造特征从而进行有效检出。二在对抗环境中使用对抗学习技术，提升算法鲁棒性，有效应对恶意攻击。

　　除了上述有代表性的两个方面外，瑞莱智慧也进行了全面的技术布局。比如实战环境中有音视频数据，所以会利用多模态分析算法综合分析；利用贝叶斯深度学习，将伪造视频的先验知识进行融合，输出更加准确的置信度，增加对预测结果确定性的预判，再结合具有可解释性的数据集标注和构建，保证检测结果可信服。除此，瑞莱智慧也布局了溯源技术，进一步提升检测结果的可解释性与可靠性。

　　唐家渝说，“针对深度伪造的风险，一定是需要从监管到研究再到落地实战进行全方位的治理，技术防范是其中的基础。”因此，目前瑞莱智慧也已经与工信部、公安部等监管部门、科研机构、实战部门等进行合作，共建深度伪造治理生态。（完）

中新网上海新闻   

编辑：郑莹莹