近几个月来,北京石景山杨庄小区的刘女士一直比较焦虑,因为她所居住的小区安装了人脸识别门禁系统。“每次进门都要刷一下,我觉得自己被侵权了。”刘女士对记者说,作为一个信息通讯行业的资深从业人员,她深知面部生物信息被企业随意抓取的危害性。 

人脸识别侵害消费者权益,是被2021年央视“3·15”晚会最先披露的案例。在不知情的情况下,基于深度伪造、人形轨迹统计等技术对人脸信息过度采集、滥用等问题,已经在公众心中形成了一种共同的焦虑。 

刷脸时代如何“护脸”,人脸识别技术如何健康发展、造福社会,是亟待解决的问题。 

“丢脸”焦虑并非杞人忧天 

近年来,人脸识别技术落地势头迅猛,被广泛应用于公共安全、场所进出、银行、社会福利保障、电子商务、信息处理等领域,如人脸识别门禁考勤系统人脸识别防盗门、电子护照及身份证等。 

业内人士指出,随着技术的进一步成熟和社会认同度的提高,人脸识别技术将应用在更多领域。然而,随着人脸识别技术的大规模应用,也暴露出隐私泄露、技术滥用、偏见歧视等问题,屡屡成为社会焦点,行业规范刻不容缓。 

据央视报道,进出宝马4S店、科勒卫浴或MaxMara门店的人,经过门口安装的具有人脸识别功能的摄像头,其性别、年龄甚至心情就能被识别,在顾客不知情的情况下抓取人脸数据,生成ID。 

资深业内观察人士付亮指出,整理一下就不难看出,这个人脸识别功能很强大:一是顾客只要进店就会在不知情的情况下被抓取信息,而且每一个人背后都会生成一个ID;二是同一个人去过不同门店,人脸信息均会被抓取,且人脸信息编号是相同的;三是系统还能分析出顾客的性别、年龄,甚至此时此刻的心情;四是在万店掌公司,可以查看所有安装系统内的人脸信息;五是商家可手动为被抓拍的顾客添加各种信息,甚至还可以把某些特殊人员加入黑名单。工作人员还称,已经收集了上亿的人脸信息。 

刘女士的“丢脸”焦虑是不是杞人忧天,从央视曝光的这些案例就可以看得出来。 

技术手段不应被滥用 

据企查查相关人士介绍,央视曝光案例技术提供方之一的苏州万店掌网络科技有限公司,其提供的摄像头采用的是该公司公开的“一种基于人脸人形的精准客流统计系统、方法及其装置”专利技术,公开号为CN112464843A。企查查专利摘要显示,该专利通过分析人形轨迹及其人体姿态,判断人员是否进店,并对进店的人形进行抓拍。 

前不久,一个叫作蚂蚁呀嘿的换脸应用软件突然刷遍朋友圈:放入自己的照片,就可以生成一个唱蚂蚁呀嘿的小视频。这涉及另一个隐藏的安全技术——深度伪造。 

中国信息通信研究院云计算与大数据研究所人工智能部副主任石霖介绍说,深度伪造技术是以编辑或替换图像中的人脸为目的,主要用于消遣娱乐的一类应用,蚂蚁呀嘿就是其中的一种较为常见的应用。除了视觉模仿外,技术上还可以进行语音和听觉模仿,但仅有这些还不能称为深度伪造,应该称作智能合成技术,比如常见的语音导航、新闻播报等,都用到了这种技术。 

据了解,2017年以来,利用深度伪造技术“恶搞”公众人物的事件不时发生,造成了恶劣的影响。随着相关技术和工具的不断成熟,应用门槛进一步降低,恶意使用不仅极易造成虚假信息泛滥,还可能严重妨碍司法公正,引发信任危机甚至危害国家安全等。此外,当你把“脸”交给深度伪造技术应用者时,你的个人生物特征信息可能就泄露了,通过深度伪造或者技术处理后刷脸,可能会对个人名誉乃至财产等权益造成重大威胁。 

应用评估亟待完善 

由于具有明显的人脸安全隐患,蚂蚁呀嘿很快就从应用商店下架了。而近期,国家互联网信息办公室、公安部针对未履行安全评估程序的语音社交软件和涉深度伪造技术的应用,约谈了相关企业。 

深度伪造和智能合成应用评估不完善有什么隐患?石霖认为,一方面,这些应用使用的都是人脸或声音信息,如果保存不当,会造成个人生物信息的泄露;另一方面也可能会被用于“恶搞”他人,造成对他人名誉或心理的伤害。 

“本质上,这是用户权益和商业利益之间的博弈。”石霖说。从管理层面看,国家相关政策法规明令禁止进行虚假类新闻制作,对非真类音视频要求进行明确标注,同时也要求平台方开展安全评估,部署相应的检测鉴别技术。 

据石霖介绍,中国信通院云大所发起了“可信人脸识别守护计划”(简称“护脸计划”),希望通过标准制定、测试评估、行业自律等手段增进行业和社会共识,促进产业健康发展,为人脸识别技术和应用“正名”。该计划主要包括:制定人脸识别技术与应用的可信标准,在国家相关法律法规基础上,探索人脸识别等技术在各个行业落地应用的可信指引;开展测试评估并发布结果,积极回应社会关切,防止“神化”或“妖魔化”人脸识别技术,促进技术作为工具更好地服务社会大众;跟踪监测人脸识别安全、信任问题,成员间共享情报,持续增强防护能力;举办产业交流活动,通过推广可信的最佳实践、发起自律公约等,助力建设健康的产业生态。 

发展应遵从“三原则” 

“其实,人脸识别安全漏洞本身不是问题的重点。”付亮认为,人脸识别的安全判别问题是小问题,用户本就不该为其投入太多信任,更不要简单地将人脸识别和大额银行支付等功能连接。 

付亮认为,人脸识别信息被滥用则要关键得多。这一方面是由于现在使用人脸识别的领域越来越多,如许多小区安装了人脸识别系统,一些商场、超市也安装了大屏体温检测系统,这些系统的背后都可能涉及人脸信息的滥用。另一方面,采集人脸信息的商家同时也是人脸信息的管理方。苏州万店掌网络科技有限公司就是提供这样的人脸信息“管理”服务的公司,它们不仅给用户提供,而且自己也收集。 

因此,人脸识别应用要想健康发展,重点是必须遵从三个原则:一是非必需不采集,采集须明示,且“用后即焚”;二是非必要不存储,存储要有充足理由,存储信息要有足够的安全保障;三是使用前已获得许可,包括行业许可和被采集信息的用户许可。


责任编辑:周思扬