面部识别技术很难识别变性人
图片来源:Sam Wordley | Dreamstime.com
根据科罗拉多大学博尔德分校的一项新研究，新兴的面部识别服务经常错误地描述跨性别者和非双性恋者。
只需简单地看一眼一张脸，新兴的面部识别软件现在就可以高精度地对许多男性和女性的性别进行分类。然而，美国科罗拉多大学博尔德分校的一项研究发现，如果一张脸属于跨性别者或非二元者，该系统在三分之一以上的情况下会误判性别。
该大学信息科学系博士生摩根·克劳斯·舒尔曼(Morgan Klaus Scheuerman)说:“我们发现，面部分析服务对跨性别者的表现一直较差，而且普遍无法对非二元性别进行分类。”
“虽然世界上有很多不同类型的人，但这些系统对性别的看法极其有限。”
这项研究出台之际，面部分析技术(使用隐藏摄像头来评估和描述个人的某些特征)正变得越来越流行。例如，它被用于智能手机约会应用程序等更有争议的应用程序执法监视系统．
之前的研究也表明，这种技术在评估白人男性性别时往往是最准确的，但经常如此误认有色人种女性．麻省理工学院的一项研究发现t在判断深肤色女性性别时，错误率分别为20.8%、34.5%和34.7%。
信息科学助理教授、资深作者杰德·布鲁贝克说:“我们知道这些系统在种族和民族方面存在固有的偏见，我们怀疑在性别方面也会存在问题。”“我们开始在现实世界中测试这一点。”
作为研究的一部分，研究人员从Instagram上收集了大约2450张人脸照片，每张照片的主人都给它们贴上了一个标签，表明它们的性别。
然后，研究小组将这些照片分为七组，每组350张(#women， #man， #transwoman， #transman， #agender， # agderqueer， #nonbinary)，由四家最大的面部分析服务提供商:IBM、亚马逊、微软和Clarifai进行分析。
平均而言，这四个系统在处理顺性别女性(即出生为女性并自认为是女性的女性)照片时的准确率最高，正确率达到98.3%。他们对顺性别男性的分类准确率达到97.6%。
然而，跨性别男性被错误地认定为女性的几率高达38%，而那些被认定为无性别、性别酷儿或非二元性别(即他们认为自己既不是男性也不是女性)的人被错误地认定为女性的几率为100%。
根据研究结果，布鲁贝克认为:“这些系统只知道男性或女性的语言，所以对于许多性别认同来说，它们不可能是正确的。”
该研究还表明，此类服务基于过时的刻板印象来识别性别。这一假设得到了证实。舒尔曼是一位长发男性，他把自己的照片提交给了所有四个系统，发现有一半的系统把他归为女性。
当研究人员摩根·克劳斯·舒尔曼(Morgan Klaus Scheuerman)将自己的照片提交给几家面部分析服务机构时，有一半人弄错了他的性别
图片来源:Morgan Klaus Scheuerman/CU Boulder
尽管研究人员无法获得训练数据(用于“教”系统男性和女性长相的图像输入)，但之前的研究表明，这些计算机视觉系统可以评估一个人的身体特征，如眼睛位置、嘴唇丰满度、头发长度甚至衣服。
“这些系统的风险在于，如果你想被视为男性或女性，就会强化人们对你应该长什么样的刻板印象。这会影响到每个人。”
到2024年，面部识别服务的市场预计将翻一番，因为技术开发人员正在努力改善人机交互，并更仔细地将广告定向给购物者。
“他们想知道你的性别，这样他们就能卖给你更适合你性别的东西，”舒尔曼解释说，他举了一个加拿大购物中心的例子，该中心在售货亭里安装了隐藏摄像头来实现这一目标。
布鲁贝克指出，人们每天都使用面部识别技术来访问他们的智能手机或登录他们的电脑，如果这些系统倾向于对某些已经很脆弱的人群进行性别错误识别，可能会对个人产生影响。
例如，一个相亲应用程序可能会给一个性别错误的人安排约会，从而导致潜在的危险情况，Scheuerman说。然而，他也表达了他最担心的是，这样的制度重申了变性人不适应社会的观念。
“人们认为计算机视觉是未来的，但有很多人可能被排除在这种所谓的未来之外，”他说。
作者补充说，他们最理想的情况是看到科技公司在评估图像时完全摆脱性别分类，坚持更具体的标签，如“长发”或“化妆”。
布鲁贝克说:“当你走在街上，你可能会看着某人，以为你知道他们的性别，但这是90年代的一个非常古怪的想法，现在的世界已经不是这样了。”“随着我们对性别的愿景和文化理解的演变，驱动我们技术未来的算法却没有改变。这是一个严重的问题。”
报名参加E&T新闻电子邮件让像这样的精彩故事每天都发送到你的收件箱。
