24小时联系电话:185 8888 888

要闻
您现在的位置: 首页 > 要闻 > 谷歌Cloud AI从Cloud Vision API中删除了性别标签,以避免产生偏见

谷歌Cloud AI从Cloud Vision API中删除了性别标签,以避免产生偏见

发布时间:2020/02/21 要闻 浏览次数:43

 
该公司今天对VentureBeat表示,Google Cloud AI正在取消使用Cloud Vision API将图像中的人标记为“男人”或“女人”的功能。标签用于对图像进行分类和训练机器学习模型,但是Google删除了性别标签,因为它违反了Google的AI原则,以避免创建有偏见的系统。
“鉴于无法通过外貌来推断出一个人的性别,我们决定删除这些标签,以符合Google的人工智能原则,尤其是原则2:避免造成或加强不公平的偏见。 Google发言人在一封电子邮件中对VentureBeat表示:“今天过后,Cloud Vision API将返回一个非性别标签,例如“ person”。
VentureBeat与Microsoft的Azure和亚马逊的AWS联系,询问他们是否打算从其云AI服务中删除性别标签。收到回复后,我们将用更多信息更新此故事。
Google Cloud Vision API为客户提供计算机视觉以检测物体和面部。谷歌此前曾在2018年禁止在人工智能工具中使用基于性别的代词。
当今市场上的许多面部分析和面部识别系统都可以预测性别,但是要识别不符合性别规范的人,变性者和有色人种妇女面临着挑战。
去年秋天,科罗拉多大学博尔德分校的一项研究发现,来自亚马逊,克拉里菲,微软和其他公司的AI的男女同性恋者的准确率保持在95%以上,但将跨性别者误认为女性的准确率高达38%。没有性别认同的人在100%的时间内被误认。
主要作者摩根·克劳斯·舒尔曼(Morgan Klaus Scheuerman)告诉VentureBeat,他认为Google试图将自己与竞争对手区分开。分析发现,谷歌不提供性别分类服务,但允许使用“男人”和“女人”标签。像Microsoft这样的公司的系统可以给诸如女服务员,空中小姐或军事女郎之类的人贴标签。
“我们基本上讨论了(在去年秋天的工作中)在所有系统中做出的决定固有地是政治性的。而且,如果您要对人的事物进行分类,那么它会变得更多。我认为我们应该更多地评估其政治概念。因此,我很高兴Google认真对待这一点。”他在接受电话采访时对VentureBeat表示。
近年来,像Joy Boulamwini这样的研究人员对系统进行了审核,发现主要的面部识别服务提供商往往在白人男性上表现最佳,而在有色女性上则表现较差。
所有人都缺乏高性能是在州立法机关,旧金山和美国参议院等州的立法者提出禁止或暂停使用面部识别系统的主要原因。