
谷歌正在与哈佛大学的一位教授合作,推广一种新的肤色测量量表,希望解决公司产品中的偏见和多样性问题。
这家科技巨头正在与哈佛大学社会学助理教授、僧侣肤色量表(MST)的创始人埃利斯·蒙克(Ellis Monk)合作。MST量表旨在取代偏向于较浅皮肤的过时肤色量表。Monk说,当这些较旧的鳞片被科技公司用来对肤色进行分类时,它可能导致产品对肤色较深的人表现更差。
“除非我们对肤色的差异有充分的衡量标准,否则我们无法真正将其整合到产品中以确保它们更具包容性,”Monk告诉The Verge。“Monk肤色量表是一种10点肤色量表,经过精心设计,更具代表性,并包含更广泛的不同肤色,特别是对于肤色较深的人。
修复 AI 中的偏差通常意味着修复训练数据
有许多科技产品的例子,特别是那些使用人工智能的产品,在肤色较深的情况下表现更差。其中包括旨在检测皮肤癌的应用程序,面部识别软件,甚至是自动驾驶汽车使用的机器视觉系统。
虽然有很多方法可以将这种偏差编程到这些系统中,但一个共同的因素是在收集训练数据时使用过时的肤色量表。最受欢迎的肤色量表是菲茨帕特里克量表,它在学术界和人工智能中都广泛使用。这个量表最初是在70年代设计的,用于对皮肤苍白的人在阳光下灼伤或晒黑进行分类,后来才扩大到包括较深的皮肤。
这导致了一些批评,即菲茨帕特里克量表无法捕获全方位的肤色,并且可能意味着当机器视觉软件在Fitzpatrick数据上进行训练时,它也偏向于较浅的皮肤类型。

10分僧侣肤色量表。
图片来源:Ellis Monk / Google
Fitzpatrick音阶由六个类别组成,但MST音阶将其扩展到10种不同的肤色。Monk说,这个数字是根据他自己的研究选择的,以平衡多样性和易用性。他说,一些肤色量表提供了一百多种不同的类别,但太多的选择会导致结果不一致。
“通常,如果你在这些类型的音阶上超过10或12分[并]要求同一个人反复挑选出相同的音色,那么你越是增加音阶,人们就越少能够做到这一点,”Monk说。“从认知上讲,准确可靠地区分变得非常困难。他说,10种肤色的选择更容易管理。
然而,创建新的肤色量表只是第一步,真正的挑战是将这项工作集成到现实世界的应用中。为了推广MST Scale,谷歌创建了一个新网站skintone.google,致力于解释其在人工智能中使用的研究和最佳实践。该公司表示,它还在努力将MST规模应用于自己的许多产品。其中包括其“Real Tone”照片滤镜,旨在更好地处理较深的肤色,以及其图像搜索结果。

Google将允许用户使用从MST等级中选择的肤色来优化某些搜索结果。
图片:谷歌
谷歌表示,它正在为图像搜索引入一项新功能,允许用户根据MST Scale分类的肤色来优化搜索。因此,例如,如果您搜索“眼妆”或“新娘妆容”,则可以按肤色过滤结果。未来,该公司还计划使用MST量表来检查其结果的多样性,以便如果您搜索“可爱婴儿”或“医生”的图像,您将不会只看到白色面孔。
“我们正在做的一件事就是拍摄一组[图像]结果,了解这些结果在几组音调中何时特别同质,并改善结果的多样性,”谷歌负责人工智能的产品负责人Tulsee Doshi告诉The Verge。不过,Doshi强调,这些更新处于“非常早期”的开发阶段,尚未在公司的服务中推出。
谷歌正在尝试平衡图像搜索结果,使其更具包容性
这应该引起注意,不仅对于这一特定变化,而且对于Google更普遍地解决其产品中的偏见问题的方法也是如此。当涉及到这些问题时,该公司的历史参差不齐,整个人工智能行业倾向于承诺道德准则和护栏,然后在后续行动中失败。
例如,臭名昭著的Google相册错误导致其搜索算法将黑人的照片标记为“大猩猩”和“黑猩猩”。这个错误在2015年首次被注意到,但谷歌本周向The Verge证实,它仍然没有解决这个问题,只是简单地完全删除了这些搜索词。“虽然我们根据反馈大大改进了我们的模型,但它们仍然不完美,”谷歌照片发言人Michael Marconi告诉The Verge。“为了防止这种类型的错误并可能造成额外的伤害,搜索词仍然被禁用。
引入这些变化也可能在文化和政治上具有挑战性,反映了我们如何将这种技术融入社会的更广泛困难。例如,在过滤图片搜索结果的情况下,Doshi指出,“多样性”在不同的国家/地区可能看起来不同,如果Google根据肤色调整图片结果,则可能必须根据地理位置更改这些结果。
“多样性意味着什么,例如,当我们在印度出现结果时[或]当我们在世界不同地区出现结果时,本质上将是不同的,”Doshi说。“很难说,'哦,这是我们想要的一组确切的好结果',因为这会因用户,地区,查询而异。
引入一种新的、更具包容性的尺度来测量肤色是向前迈出的一步,但涉及人工智能和偏见的棘手问题仍然存在。
原文标题:Google is using a new way to measure skin tones to make search results more inclusive
原文链接:
https://www.theverge.com/2022/5/11/23064883/google-ai-skin-tone-measure-monk-scale-inclusive-search-results
作者:James Vincent
编译:LCR
创业项目群,学习操作 18个小项目,添加 微信:923199819 备注:小项目!
如若转载,请注明出处:https://www.zodoho.com/12168.html