## ##

苹果Face ID会引领科技行业对抗种族偏见吗

2017-10-19 09:16:09 阅读 139053 本文来源:威锋网
分享至:

苹果在外界充满争议的声音中,毅然将成熟的 Touch ID 功能替换为全新的面部识别系统,引起过外界一轮轮的讨论。日前,国外一位分析者从一个崭新的视角来分析苹果这次选择会带来的影响,来看下他是怎么说的。

与他们的许多设计选择一样,苹果最近决定将其在新 iPhone X 中使用的 Touch ID 功能替换为面部识别——他们称之为“Face ID”——已经引起了大量的讨论。

关于“自拍安全”的未来将会是什么样子的问题,有很多。不过,有一个问题肯定会得到更多的关注,那就是面部识别软件中的种族偏见。

种族偏见的问题一直困扰着科技行业——我在过去十年左右的时间里听到过一些关于摄像头难以分辨深色肤色或语音识别的故事——但苹果新推出的面部识别技术预计会造成大规模普及,这可能正是该行业今后需要识别、隔离并最终纠正这些问题的原因。

有关种族偏见的观点,以及苹果的人脸识别系统是否会可靠、定期地为所有种族的用户服务,尤其令人心酸,因为这不仅仅是一个安全问题,而是一个在我们的文化时代精神中根深蒂固的问题。

其中一个最大的未知数是用于开发面部识别系统的数据库。苹果公司声称,他们使用了十亿张图片来训练算法——能最大程度将数据库中的多样性问题消除。

我认为这种方法是正确的,但在训练面部识别系统的时候,有一些具体的学习过程还需要确定。

关于 iPhone X,我们不知道的是其数据库中使用的图像比例的细节。可能有十亿张照片,但白种人和中国人、黑人或印度人的比例是多少?

类似地,苹果声称,只有一百万分之一的几率可以让非本人通过面部识别技术在 iPhone X 上通过身份验证解锁——当然,这取决于取样的“一百万”人是谁?假设这一组一百万人来自中国北部或印度南部,那么非本人通过面部识别技术在 iPhone X 上解锁的几率会不会高很多?

苹果没有报告的另一个错误指标取样人群是,系统可能会拒绝你的脸部扫描结果,并要求重新扫描脸部特征,尽管你才是真正的手机主人。所以,最可能的情况是,这个错误几率也会因使用手机的人群而有所不同。换句话说,一些人/种族将会收到更多的拒绝和更多的请求来重新找回他们的 Face ID。

最终,这些都是我们在手机发布前摆出的关键问题,我们可以在实践中看到——但是,如果科技史教会了我们什么的话,那么就是系统都会有缺陷。对于个人和苹果来说,这些都可能是痛苦的,但他们也会提供平台来解决这个问题。

种族偏见并不是面部识别所面临的第一个问题。多年来,人们一直在谈论指纹识别的安全风险,但面部欺骗的风险比起指纹要大得多。要盗取别人的指纹,你必须靠近他们,或者拿到他们碰过的东西。

然而,我们的面孔是公开的。你可以从 Facebook 或任何其他社交媒体网站上看到某人的头像,甚至可以用这些图片制作一个 3D 面具。如今,也有很多化妆师擅长创造和明星一样的脸部造型。

这让我们回到了苹果,另一个热门话题是“evil twins”,以及基因相似的人能否通过苹果的人脸识别系统。在苹果之前发布的 Face ID 白皮书中,就明确提到过这个问题,建议双胞胎、和用户长得很像的人,还有未满 13 周岁的儿童最好都使用密码来解锁。苹果已经做出了明确的努力,确保它已经考虑到了这些问题,但当前想解决这个问题还是比较棘手的。

该公司还增加了一个前置红外摄像头和一个点投影仪,这将使照片或面具的攻击变得困难,因为它们可以被设置来感知深度,防止有人用扁平的图片来愚弄面部扫描仪。红外摄像头解决了光线不好的问题,通过点投影仪,将有助于建立一个精确的 3D 模型面,从而提高性能防止外部攻击。

看起来,苹果已经做了更多的努力来解决这些问题,因为他们想广泛地将面部识别技术推广到正在等待的公众。我们可以期望,同样的逻辑也适用于种族偏见的问题。

像苹果这样世界级的顶尖科技公司,他们有能力改变公众的行为。由于他们的产品,我们以不同的方式听音乐;我们用不同的方式进行消费。再看看其他主流的生物识别技术:自从 2013 年 iPhone 5 S 推出 Touch ID 以来,消费者已经习惯了指纹识别作为生物认证的一种主要形式。

但更广泛的采用意味着,人脸识别中存在种族偏见问题的风险会增加,这意味着苹果几乎肯定会在未来几周或几个月内处理这一问题。对于公司和公众来说,真正的关键在于认识到,这些缺陷并不一定是技术本身固有的,而是在我们的设计思维中潜移默化的习惯,这些系统缺陷完全可以用技术进行改进。

苹果的数据基础足够大,足够多样化,从而将真正具有种族包容性吗?很快我们就会知道,整个行业将会学习更新和完善我们的实践,让这项技术成为一种为所有人服务的便利,而不是只关注某一部分人群。

从某种意义上说,苹果正在大规模运营文化技术试点,而对结果的关注将让科技行业更迫切的设法解决我们技术系统中存在的种族偏见问题。

责任编辑:mr
分享至:

联系客服

故障反馈