“AI换脸”再次引发关注。据央视网10月25日报道，杭州市中级人民法院今年公布一起案例，AI生成视频，已经能够逃过人脸识别系统。

两名不法分子利用网络收集他人照片，通过AI生成点头、摇头、眨眼等动态视频，再通过篡改相机数据，成功突破了购物平台的人脸核验，盗取了账户内的个人信息。

央视主持人白岩松表示，无论AI怎么发展，都不能以侵害别人的权益为代价，更不能让造假的人占尽便宜。

另据潮新闻此前报道，今年9月4日，杭州中院公开开庭审理一起涉“AI换脸”个人信息保护公益诉讼案，并当庭作出一审判决。

该案中，张某、王某非法获取他人手机号码、头像照片、身份信息等，并利用“AI换脸”技术将人脸照片生成视频，伪造人脸识别认证，强制登录他人购物平台账号，将收货地址、购物车信息售卖给第三方，同时有偿替人进行虚假实名认证，共非法牟利5857元。

经法院查明，案涉“AI换脸”技术通过深度学习的算法，识别、提取照片中的人脸要素信息，并不断进行训练建模，生成模拟真人的动态视频。向左看、向右看、张张嘴、眨眨眼……这些在人脸验证环节中的常用动作，都能通过“AI换脸”技术生成。同时，张某、王某在手机中植入虚拟相机应用程序来替换本地相机，当平台调取摄像头进行人脸识别验证时，屏幕中的人脸就自动替换成这段合成视频，从而躲避“人脸识别”验证的防线。

法院判处张某、王某公开道歉，并支付公益损害赔偿金5857元，此款将专用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。

这个案例证明，AI视频已经能够骗过一部分仍在广泛使用的、以传统活体检测为核心的人脸识别系统。来源：央视网、潮新闻