广东两会|民主党派聚焦“刷脸”技术滥用:把“人脸识别”关进规范的笼子
广东

广东两会|民主党派聚焦“刷脸”技术滥用:把“人脸识别”关进规范的笼子

2021年01月22日 23:25:22
来源:21世纪经济报道

广东两会|民主党派聚焦“刷脸”技术滥用:把“人脸识别”关进规范的笼子

“我们小区安装的人脸识别,和户主信息、身份信息做了绑定,一旦人脸信息被泄露,那我什么时候不在家,岂不是别人都知道了?”日前,广州某小区业主在回复21世纪经济报道记者线上问题征集时抱怨到,小区的大部分业主都在对人脸识别的应用有担忧,要求更换回门禁出入刷卡系统。

这并非“人脸识别”第一次被大家质疑。早在2020年6月,浙江杭州富阳区开庭审理的“中国人脸识别第一案”,就迅速引发了各界关于人脸识别技术与个人隐私保护的持续讨论。

所谓人脸识别技术,即利用计算机分析人的面部特征,进而从中提取有效的识别信息以达到辨别身份目的的技术,被广泛应用于安防、消费交易等领域。不可否认,“人脸识别”带来了一定的便利性,属于科技创新的一部分。

但前述小区业主的质疑与案件,将人脸识别技术带来的一系列科技伦理问题拉回现实。技术应用的界限在哪,如何监管?人脸识别现今“遍地皆可见”,个人隐私如何保护?

在即将召开的广东省两会上,21世纪经济报道记者从民主党派处获悉,“人脸识别”将成为今年广东省政协十二届四次会议重点讨论的话题。致公党广东省委员会拟向大会提交《关于规范人脸识别技术应用,保障公民个人信息安全的提案》,民革广东省委员会拟向大会提交《关于规范人脸识别应用,防范伦理与法律风险,促进人工智能产业健康发展的建议》。两份提案均建议,要“管管”人脸识别应用,将技术关进笼子里。

“刷脸”滥用背后:一次泄漏,终身风险

民革广东省委会经济委员会委员刘根生注意到“人脸识别”源于一次偶然事件。他早年曾在杭州购买一套房产,2020年上半年接到过一个该物业电话,“物业表示小区将更换门禁系统,要采用人脸识别,需要业主统一提供一张照片。做刷脸使用”。

刘根生第一次意识到,“人脸识别”技术已经如此广泛应用。他告诉21世纪经济报道记者,人脸识别生物信息具有唯一性、永久性,不可替换,终身无法修改。

“如果人脸识别生物信息处于无节制使用状态,任何组织单位可随意收集民众人脸数据生物信息,那么数据被泄露与滥用的可能性就会急剧上升,最终引发科技伦理问题,公民隐私权将受到威胁。”刘根生说。

或许,这并非个案。

刘根生为此专门在广州调研了一个月,走访多家小区。“我发现,有的小区安保措施做的很不到位,人脸识别就安装在监控机房服务器,根本没有任何保密处理,只要我想拷贝,全小区的人脸数据就泄漏了。”

因此,他向民革广东省委会提交了《关于规范人脸识别应用,防范伦理与法律风险,促进人工智能产业健康发展的建议》,提案就此提出明确监管部门、建立必要性审查、集中整治不规范的采集与使用、进行省级层面立法、引导行业自律等五个方面建议。

致公党广东省委员会提交的《关于规范人脸识别技术应用,保障公民个人信息安全的提案》也指出,当下人脸识别技术存在着技术漏洞、场景应用无序和数据保管不善的三大问题。

如今,小区门禁、机场火车站进站、酒店入住、写字楼和商场,处处应用了摄像头与人脸识别技术,隐私问题也迅速引发大众关注。

2020年11月,一条男子戴头盔看房的短视频走红网络,视频上方的橙黄色的字体写着“为保护个人信息,戴着头盔去看房”,引发热议。为了防止前期投入了资金、人力成本的单子被“截和”,房地产售楼处选择采用无感人脸识别系统对客户面部信息进行捕捉,从而锁定客户所属销售渠道,以加强“渠道风控”。

人脸识别应用甚至渗入到了人们的绝对私密领域。

一座位于东莞市莞城街道东江大道的星际公厕“为了防止厕纸的浪费”,引入了人脸识别供纸机的设备,市民需要对准设备摄像头3秒,供纸机才会出纸,每人重复取纸需要间隔时间至少9分钟。后经市民曝光,东莞市城管局莞城分局调终止使用设备,改用常规的方式向市民免费提供纸巾。

对“人脸识别”应用的焦虑,归根结底源于对个人隐私泄露的担忧。

“某些应用人脸识别的场景,表面看来是在被收集人有认知的情况下进行,但实际上,在信息告知不充分,包括收集的主体、收集的数据范围、使用目的及范围、保护措施与相应风险等均未予以明示的前提下,以一般公民的认识能力尚不足以充分认识到人脸信息被收集后所进行的流程和存在的一系列潜在风险。”致公党广东在提案直指人脸识别技术数据次采集及保管不善的问题。

由信息收集主体管理不善引起的人脸数据泄露的事件并不罕见。在广西南宁,有不法中介利用政府房地产交易管理平台漏洞,使用“邕 e 登”App 进行不动产转移登记,将10多套二手房在业主不知情时以其偷录的人脸识别数据“刷脸”成功过户,私自抵押套取资金 1000 多万元;基于人脸识别的AI换脸技术成为情色视频网站的“新商机”,打包售卖女星的换脸视频已然构成一条黑色产业链。

委员建议:设安全底线,立法规范“人脸识别”

在业内人士看来,人脸识别技术推广一定要在公民个人信息保护基础上完成,不能“捡了芝麻丢了西瓜”,要探索出一条动态平衡路径。

“我们一方面看到这样的隐私保护法确实为我们做人工智能和大数据提供了很多不便的地方;但是同时也是一个激励,来帮助我们发展下一代的既能保护隐私、又能够提高技术的方法,为我们提供了这样一个动力。”针对如何平衡技术创新与隐私保护,香港科技大学教授杨强在2020北京智源大会上表示。

杨强在同一场大会上向瑞典工业部部长提问,欧洲的人工智能发展会不会因为出台了GDPR(《通用数据保护条例》)而落后于美国。

该瑞典工业部部长回应称,今天在欧洲提出了严格的隐私保护法,也促使了欧洲的人工智能技术公司据此创造出下一代保护隐私的技术,这正好是欧洲击败美国对应公司的办法。

据21世纪经济报道记者了解,2018年《通用数据保护条例》(GDPR)在欧洲生效,被认为能够起到倒逼本土人工智能公司提高技术水平的效果。而在国内,《个人信息保护法(草案)》一直以来备受瞩目,于2020年10月出台后就被各界不少人士拿来与欧洲的GDPR进行比较。

中国人民大学中国普惠金融研究院研究员、硕士生导师顾雷认为,当前数字经济已经成为引领科技革命和产业变革的核心力量,立法既要充分保护数据主体的合法利益,还应该重视数字经济时代相关信息和数据的合法利用问题。

例如,《个人信息保护法(草案)》要考虑个人目前在日常的生活中面临的现实问题,比如小程序、APP、网页使用时个人信息的泄露等,同时要考虑今后新的技术发展带来的知情同意方式的变化。人脸识别、指纹等生物识别技术的限制问题,立法机关必须给予充分关注,增加保护条款,增加违法成本,确保公民个人隐私权保护落到实处。

全国人大常委会法工委发言人、立法规划室主任岳仲明也在2020年12月21日表示,个人信息保护法草案对处理包括人脸等个人生物特征在内的敏感个人信息作出专门规定,要求只有在具有特定目的和充分必要性的前提下,方可处理敏感个人信息,并在事前进行风险评估。

“当下人脸识别的适用领域正在不断延伸,立法中应当对人脸识别的运用领域进行限定,在必要且特定领域引入人脸识别系统”,致公党广东省委员会在提案中强调,要在人脸识别技术应用领设立边界思维,“在立法中对人脸识别的适用要遵循合法性、必要性、正当性的原则,收集信息者只有在具有特定目的和充分必要性的前提下,才能对公民个人敏感信息加以使用,这一建议为明确应用边界提供了相应的依据。”

而民革广东省委员会的提案也强调,要在人脸识别应用中设置安全底线,建议由公安部门统一承担人脸识别应用的审批与监管职能,把这一技术“以必要安保措施限于最小范围使用”。