AI换脸以假乱真！蚂蚁数科发布反DeepFake产品，还设百万奖金池邀请黑客找bug

生成式 AI 人脸造假套路多，怎么办?

现在，专门用于 DeepFake 的综合性产品上新了——

ZOLOZ Deeper，蚂蚁数科 ZOLOZ 出品。我们日常的支付宝刷脸支付，正是依托于他们技术支撑。

值得注意的是，这可不仅仅是简单的 AI 检测算法，而是一套覆盖全链路的技术产品体系——

它能够有效应对系统、服务器、应用等多环节 Deepfake 安全威胁。

而为了不断精进它的能力，内部实验室每个月都会对他进行超过 20000 次“攻击”测试。

甚至，ZOLOZ 还对外拿出百万奖金池，邀请“白帽黑客”参与找 Bug。

蚂蚁数科 DeepFake 产品上新

AIGC 时代，DeepFake 已经不再简单替换技术来生成，还有像活化（Animation）、编辑(Editing)以及合成(Synthesis)等攻击手段。

攻击形式，DeepFake 也从简单的呈现式攻击朝着更为复杂的注入式攻击转变。

呈现式攻击，顾名思义，也就是在摄像头前放一张假脸，来突破检测技术。注入式攻击则是从系统层面来劫持摄像头，注入准备好的图片/视频，替换摄像头画面。

这也就给检测技术带来了不少的挑战。

ZOLOZ Deeper则是专门针对注入式、活化等复杂攻击手段的产品。

现在，ZOLOZ Deeper 主要用于在用户刷脸场景中拦截 “AI 换脸”风险。

从身份安全切入之后，他们还将进一步扩展到内容合规 AIGC 防控、金融诈骗场景、社交诈骗场景、舆情 AIGC 风险等多个实践中去。

如何实现?

最直接的思路是，用魔法打败魔法。

据透露，在技术实现上，ZOLOZ 主要采取攻和防两条路线。

防这方面，ZOLOZ Deeper 搭建了端云一体的全链路技术体系，能应对系统、服务器、应用等多环节的安全威胁。

前端通过精密的传感器校验与多维特征动态风控，对摄像头状态、设备及网络环境、输入图像等进行严格审查，确保软硬件环境安全无风险，采集到的生物特征数据真实无篡改;

在用户操作过程中，运用深度学习模型对用户面部动态进行细致入微的分析，捕捉微表情、肌肉纹理、眼神流转等细微特征，精准判断其是否为真人实时互动。

攻则是借助天玑实验室来进行自动化攻防测评。

此前量子位曾探访过，这是一个高自动化的生物识别安全实验室。

天玑实验室投入大量的科研资源，自主研究生成了当下黑产攻击人脸安全的“道具”，定义了上百种不同级别的攻击方法和假体制作工艺。

此次，天玑实验室则是通过 GAN 模型生成超 30 万测试样本，来交给 ZOLOZ Deeper 进行判别训练。

除此之外，每个月还会对它进行超过 20000 次的攻防测评，模拟上百种伪造攻击情况。

谁是 ZOLOZ?

ZOLOZ 是由蚂蚁数科孵化出来的科技品牌，主攻生物识别技术。最早在 2015 年支付宝上线的刷脸和支付，背后技术正是由他们来支撑。

2019 年，他们就启动了 DeepFake 相关算法研发。当时还主要针对是一些简单的人脸攻击，比如将图片、视频、面具等 Fake 内容呈现在摄像头面前，攻破人脸识别系统。

而随着攻击手段逐渐复杂，ZOLOZ 技术与产品也在不断升级迭代之中，ZOLOZ Deeper 正是应对当下 AIGC 时代下的产品。

这样的研发实力，得到了市场和权威组织的认证。

比如在服务印尼某头部银行时，其产品上线一个月时间内实现了 Deepfake 风险“0 漏过”。

除此之外，ZOLOZ 在 2020 年，作为亚太第一家，获得 iBeta 国际生物安全认证组织最高等级 Level2 认证。

另外在 2023 年，ZOLOZ 通过了中国信通院深度伪造视频检测服务能力检验，满足安全可靠、透明性、数据保护、明确责任、公平性等方面的可信能力要求。

上个月，有 20 年风险管理经验的赵闻飙担任蚂蚁数科 CEO。支付宝和蚂蚁集团的核心风控体系就是他牵头搞的。

ZOLOZ Deeper，也是他上任 CEO 以来首推的安全产品。

还悬赏百万给新产品找 bug

最后，ZOLOZ 还联合蚂蚁安全响应中设立了超百万的奖金池，诚邀白帽黑客们来给产品找 bug，可以通过“蚂蚁集团安全响应中心”官网提报漏洞。

声明:本文来自于微信公众号 量子位（ID:QbitAI），作者:白交