“AI脸”认证过关，人脸识别安全防护需升级

奇兵

近日，杭州市中级人民法院公布一起案例：两名不法分子利用网络收集他人照片，通过AI生成点头、摇头、眨眼等动态视频，再通过篡改相机数据，成功突破购物平台的人脸核验，**账户内个人信息。
7 \+ @" b5 ~$ r
AI为何能骗过系统？在AI换脸突破主流核验的情况下，人脸识别是否安全？这种风险又该如何来应对？科技日报记者就此采访了有关专家。
7 ?$ m, ]$ U1 g) Y) Z
第一问：“AI脸”与真人脸为何难以区分？
3 U9 \# P* {! k* r0 m+ k
  P" t: U" d" a, g- @- n% m- I) w“传统人脸核验主要依靠活体检测，通过点头、摇头、眨眼等动态动作，区分真实用户与静态照片、视频。”天翼安全科技有限公司高级专家危嘉祺对记者解释，“但随着生成式人工智能技术快速发展，AI已经能够根据单张照片生成高度逼真的动态人脸视频，甚至模拟符合核验要求的动作。部分攻击还可结合虚拟摄像头、视频流注入等技术，绕过真实摄像头采集环节，使系统难以有效区分真实人脸与**内容。”
! J7 m6 o- n" r
; f" o* \# r' }5 _) s# Z. ^但这并不意味着人脸识别技术已经失效，而是依赖单一动作验证的传统技术路线面临新的安全挑战。“人脸识别仍具有重要应用价值，但不能将其等同于绝对可靠的身份认证手段。”他说。
4 @9 X8 [& G) ^, ~6 S
1 i( K6 _# L! R4 L第二问：人脸核验相关风险由谁承担？
: C) z- V2 b  Z1 X
“AI发展带来的新型安全风险，需要坚持依法治理、权责一致、多方协同的原则，构建政府监管、企业履责、行业自律、社会监督、公众参与的治理格局。”危嘉祺表示。

. _. D9 j6 Q) R0 L  V0 s具体来看，首先，对于利用AI伪造他人人脸信息、实施身份冒用、非法获取个人信息等违法犯罪行为，应依法追究相关主体的法律责任，从源头遏制技术滥用。

+ S5 @, H6 i* C9 |3 w; P* k其次，应用平台和技术服务**方应按照各自职责，依法落实个人信息保护和网络安全相关要求，持续完善身份核验机制，加强对深度伪造、视频流注入等新型攻击的风险识别与安全防护，切实保障用户合法权益。

9 Z: F' ^, \+ n2 p" Z最后，监管部门应进一步完善相关标准规范和安全评估机制，推动行业建立风险信息共享、漏洞通报和协同处置机制。公众也应增强个人生物识别信息保护意识，避免随意公开或向不可信渠道**敏感信息。

( ?: m) A, r3 b! u7 [3 w“需要强调的是，不能因为新技术存在被滥用的风险，就否定技术创新和应用；也不能将技术安全风险简单转嫁给普通用户。”危嘉祺说，应坚持发展与安全并重，通过技术创新、制度完善和多方协同，不断提升AI应用的安全性与可信度。
: C2 Z' n( U  u  K
第三问：AI安全治理面临哪些新要求？
3 t) |- v2 n9 r7 W
在危嘉祺看来，AI生成视频突破人脸核验，反映出AI安全治理正在从传统的静态风险防范，转向生成技术与检测技术持续迭代的动态攻防对抗。为此，需要从监管机制和技术能力两个层面同步提升。

; D$ }; w7 J$ X, A' s, p6 O危嘉祺建议，在监管层面，应进一步健全人工智能安全治理体系。针对身份认证、金融交易、个人信息查询等高风险场景，推动建立与业务风险相适应的分级分类安全要求，避免过度依赖单一生物识别手段。同时，继续完善深度**内容标识、生成内容溯源和安全评估机制，推动建立新型攻击样本共享、风险通报和动态测评制度，提升监管标准对新技术、新风险的适应能力。
0 ?% J" G) z" S7 P/ U
1 v. P: p  j& s. H( }在技术层面，则应坚持以攻促防，推动安全防护从被动检测向主动对抗升级。一方面，利用先进生成式AI模型构建高逼真度攻击样本，持续开展人脸核验系统的红队测试和对抗评估，及时发现防护薄弱环节；另一方面，综合运用设备可信验证、视频流注入检测、生理活体特征分析、多因素身份认证及业务行为风控等技术，构建多层次、纵深式安全防护体系。

9 R/ U8 j$ u2 ~; s“特别需要关注的是，安全测评不能只针对已知攻击样本，更要检验系统面对最新生成模型、未知伪造手法和复杂攻击组合时的防护能力。”危嘉祺提醒，应推动建立覆盖攻击生成、风险发现、防护验证和持续优化的动态闭环，将真实案例及时转化为安全测评场景，不断提高人工智能安全防护的实战能力。（崔爽）
1 K: A, V7 A9 O% G! H4 i; ?
# Z3 Y* F/ Y6 u  P  A. z; g责任编辑：童静

手机用户eD88670

“AI脸”认证过关，人脸识别安全防护需升级

自由星辰

在技术层面，则应坚持以攻促防，推动安全防护从被动检测向主动对抗升级。一方面，利用先进生成式AI模型构建高逼真度攻击样本，持续开展人脸核验系统的红队测试和对抗评估，及时发现防护薄弱环节；另一方面，综合运用设备可信验证、视频流注入检测、生理活体特征分析、多因素身份认证及业务行为风控等技术，构建多层次、纵深式安全防护体系

手机用户gW11391

感谢分享，学习一下，奇兵战友，辛苦，周三快乐！

hanchao_njwj

感谢分享，周三快乐！

王律师131813691

学习一下，感谢分享！