人脸识别技术越来越广泛

2019-04-25 08:00:28 2

人脸识别技术无处不在——机场、警察局,甚至被置入世界上最大的云计算平台,但对它的使用却几乎没有受到任何联邦法律法规的规范。多年来情况一直是这样,但最近数月发生的一系列尴尬的事,使人们意识到了这一技术落入错误的人手中是多么危险,这催生了对人脸识别技术进行监管的新要求。甚至是微软(最大的人脸识别技术提供商之一)也呼吁美国国会对人脸识别技术的使用方式和地点进行限制。



  真正有效的人脸识别监管法律必须一次性地解决数个问题。许多人脸识别算法对非洲裔美国人、女性和年轻人仍然表现出较高的错误率,这表明这些系统可能在强化社会偏见。除了偏见之外,人脸识别作为监视工具的绝对力量,促使一些团体呼吁暂停让警察使用这一技术。现在,任何拥有云开发者帐户的人都可以使用人脸识别技术,私营部门的隐私问题更是难以忽视。


                                                                                   

    这给改革派出了一个难题:我们如何解决人脸识别技术存在的问题?我们请对人脸识别技术持不同看法的的四位知名人士来回答这一问题。

  是时候规范人脸识别技术了吗?

  阿尔瓦罗·贝多亚(Alvaro Bedoya)是乔治城法律隐私和技术中心执行主任。该中心的Perpetual Lineup项目包括一个用于规范面部识别的模型法案,重点是限制警方访问驾驶执照和大头照数据库。



  我们对大量其他技术的商业隐私问题进行规范,例如、信用卡、电子病历。用户观看有线电视节目的习惯、租赁视频节目的习惯,都会受到法律法规保护。因此,认为人脸识别只是一种技术,我们不应该对它进行规范的观点,与美国商业隐私领域格格不入。因此,对美国国会称“这是一种技术,只是一堆1和0,你们不应该对它进行规范”从来都不是一种观点。对于八分之一的美国人来说,人脸识别技术已经受到规范。在伊利诺伊州和德克萨斯州,法律法规要求使用人脸识别技术必须得到用户同意。因此,在过去如何规范商业隐私,以及目前如何规范人脸识别方面,都是有先例的。我认为,获得人们同意的简单规则具有非常重大的意义。



  除此之外,我希望制定有关偏见和准确度测试的规则。我们需要保护儿童,它不应当被用于18岁或以下的人。我们可能希望禁止在医院、诊所或学校等敏感区域使用这一技术,即使获得部分人同意也不行。

  以监控摄像头为例,没有人会在浴室里安装监控摄像头。摄像头可以安装在商店的各个地方,例如入口、出口、过道、结账处。但没有人把监控摄像头安装在浴室里,因为我们都知道,在浴室里摄录人是一个坏主意。



    人脸识别公司Kairos首席执行官布莱恩·布拉肯(Brian Brackeen),提倡对人脸识别技术进行规范。


      我迫不及待地期待着对人脸识别技术进行规范。从美国国家电信和信息管理局工作组起,我们一直是对人脸识别技术进行规范的重要支持者。对于执行部门和私营公司来说,在某些使用场景中,使用这一技术都需要进行规范。我们也不反对获得用户同意的要求。特别是在私营部门使用场景中,我们的客户与消费者个人之间存在关系,因此它们应当能够获得消费者同意。在我们的案例中,我们有很多银行客户,我们使用银行用户的脸验证交易。这里双方显然存在一种关系,使银行用户不会成为欺诈受害者对他(她)们是有利的。因此,在我们的使用场景中,获得用户同意是没有问题的。但是,当Facebook或者亚马逊,利用用户的照片为某一组织提供服务,或“诱使”用户购买高价商品,那就是另外一回事了。这就是我们反对滥用人脸识别技术的原因。



  埃文·赛林格(Evan Selinger)是罗切斯特理工学院哲学教授。赛林格与该校法律学教授伍德罗·赫尔佐克(Woodrow Herzog)呼吁完全禁止人脸识别技术,担心这一技术的使用会常态化。

  需要提出的一个重要问题是:如何让公众参与大规模的人脸识别基础设施? 答案是常态化。 让人们习惯于一直使用这项技术,而非只是让他们熟悉人脸识别技术,制造对它的渴望。制造习惯,让人们相信他们的生活离不开人脸识别技术。人脸识别技术支持者目前就在做这样的工作:使它看起来像是“古已有之”,不值得担忧。 有关让人们不把人脸识别技术视为一项特别技术的带来的价值和风险的争论,已经在酝酿中。



  班吉·哈钦森(Benji Hutchinson)是NEC美国公司联邦业务运营副总裁。作为一家联邦人脸识别技术供应商,NEC反对联邦政府限制对人脸识别技术的使用。

  我们不支持完全叫停这一技术,而且我们认为不需要过度立法。我们看到的很多立场,都来自刚刚进入这一领域的科技公司。我认为这些大公司有点人云亦云,他们在努力采取一切可能的措施,确保不会失去到手的合同,并不犯错误。我并非对它们吹毛求疵,但我不认可这种做法。



  人们忘记了人脸识别技术的好处,它们被掩盖了。这是一项非常成功的技术,已用于遏制恐怖袭击,被用来在街上逮捕犯罪分子。它可以使我们无纸化、无障碍地通过机场,减少排队和等待时间。它使人们的生活更美好。我认为,否定人脸识别技术的论调,对这些好处往往只字不提。

  人脸识别算法能克服种族偏差问题?



  贝多亚:在被证明在识别年轻人和非洲裔美国人方面存在较大的误差后,把这一技术用于商店反扒的主意是疯狂的。研究这一问题的所有研究人员都发现,人脸识别技术存在种族偏差问题。这一技术被应用在私营公司就已经够疯狂了,应用在执法活动中只能说是更加疯狂。



  布拉肯:这不是一个棘手的问题,这是一个数据问题,而不是一个技术问题。我们自己可以更新算法,消除偏差,至少可以把偏差降低到一定水平。我认为目前让我们愤慨的是,我们只是一家小公司,但我们却在不断改进算法,减少偏差,而像亚马逊这种有足够资源改进算法的公司,虽然没有在不断改进算法,却获得了政府合同。



  哈钦森:如果与人脸识别领域的任何一家大公司交谈,它们都会说自己有非常严格的测试方法。其中包括多样性数据库中的种族个体。我们追求多样性,并在我们的算法中进行测试。我们每年花费数百万美元,研究不同类型面孔出现的错误率。而那些不同类型的面孔可能意味着很多不同的东西。对于不同背景、来自世界不同地区、不同肤色的人,我们都会进行测试。我们没有公布许多测试结果,但确保算法误差较低,绝对符合我们的最大利益。事实是,数学没有偏见,它不是种族主义者。如果部分公司使用较低端的算法,不进行研发工作,在人脸识别过程中会出现一些种群错误率高的问题,这可能只是一个算法糟糕的问题。