防范“AI换脸”风险ZOLOZDeeper月超2万次攻防测试

光锥智能 2024-04-16 17:13:38

4月16日,深度伪造(Deepfake)综合防控产品ZOLOZ Deeper在北京正式发布,以拦截用户刷脸过程中的“AI换脸”风险,目前已率先应用在身份安全领域。公开资料显示,ZOLOZ是蚂蚁数科的科技品牌,以生物识别技术见长,历经支付宝App等大规模场景验证。

图:ZOLOZ产品总监 陶冶

ZOLOZ Deeper搭建了端云一体的全链路技术体系,以应对系统、服务器、应用等多环节的Deepfake安全威胁。前端通过精密的传感器校验与多维特征动态风控,对摄像头状态、设备及网络环境、输入图像等进行严格审查,确保软硬件环境安全无风险,采集到的生物特征数据真实无篡改;在用户操作过程中,运用深度学习模型对用户面部动态进行细致入微的分析,捕捉微表情、肌肉纹理、眼神流转等细微特征,精准判断其是否为真人实时互动。

此外,蚂蚁集团天玑实验室会通过GAN模型生成超30万测试样本,交给ZOLOZ Deeper进行判别训练,每个月还会对其进行超过20000次的攻防测评,模拟上百种伪造攻击情况。“Deepfake攻和防是一个相对且不断精进的过程,你在进步,Deepfake也在进步,我们要做的就是跑在它的前面。”ZOLOZ产品总监陶冶这样说道。

记者在发布会现场了解到,ZOLOZ联合蚂蚁安全响应中心(AntSRC)设立了超百万的奖金池,支持安全极客来挖掘ZOLOZ Deeper的漏洞,通过“蚂蚁集团安全响应中心”官网提交漏洞情报。陶冶表示:“互联网世界没有绝对的安全,希望联合外部的安全技术人才持续提升ZOLOZ的安全水位,守护用户的安全感。”

据介绍,ZOLOZ早在2019年就启动了Deepfake算法研发,彼时主要应对一些简单的人脸攻击,比如把图片、视频、面具等虚假内容呈现在摄像头前面,攻破人脸识别系统。ZOLOZ Deeper是针对注入式、活化等复杂攻击手段迭代而来的产品,在服务印尼某头部银行后,产品上线一个月时间内实现了Deepfake风险“0漏过”。

Deepfake是“deep learning”(深度学习)和“fake”(伪造)两个单词的结合,指的是基于深度学习算法,从大量的视频和图像数据中学习,伪造出逼真的面部动画和语音。Deepfake不仅增加了公众识别视频真伪的难度,也进一步滋生了诈骗、色情等违法犯罪活动的风险和隐患。

近年来,全球Deepfake事件呈10倍速度激增,北美、亚太地区等地成为Deepfake攻击的重灾区,2023年315晚会同样曝光了多起“AI换脸”诈骗案件。中国信通院人工智能研究中心安全与元宇宙部主任石霖指出,随着深度学习算法不断优化和创新,Deepfake带来的安全风险和隐私侵犯问题愈加严峻,且生成的内容越来越难以区分真伪,业界和学术界需要多管齐下,不断提高“以AI对抗AI”的能力。

公开资料显示,ZOLOZ在2020年亚太第一家获得iBeta国际生物安全认证组织最高等级Level2认证,于2023年通过中国信通院深度伪造视频检测服务能力检验,满足安全可靠、透明性、数据保护、明确责任、公平性等方面的可信能力要求。

0 阅读:0

光锥智能

简介:AI产业第一媒体,关注千行百业的数智化。