您现在的位置是: 首页 > 人工智能 >

如果您有人工智能存在性别偏见问题 只需询问一下Siri

  • 2019-09-30 16:11:32

向三星的虚拟个人助理Bixby建议“让我们说脏话”,然后女性声音会发出一种甜美的口音:“我不想在圣诞老人的顽皮名单上走到最后。”

向程序的男性声音提出同样的问题,然后回答“我读过土壤侵蚀是一个真正的污垢问题。”

在南非,我居住并开展研究人工智能中的性别偏见的地方,三星现在根据您选择的语言以各种声音提供Bixby。对于美式英语,有朱莉娅(Julia),斯蒂芬妮(Stephanie),丽莎(Lisa)和约翰(John)。朱莉娅(Julia),丽莎(Lisa)和斯蒂芬妮(Stephanie)的声音风骚而热切。约翰聪明而直率。

虚拟个人助理(例如Bixby,Alexa(亚马逊),Siri(苹果)和Cortana(微软))处在可销售的人工智能(AI)的最前沿。人工智能是指使用技术系统执行人们通常会执行的任务。

它们充当智能设备上的应用程序,通过自然语言处理来响应语音命令。它们在世界各地的普遍性正在迅速增加。联合国教科文组织最近的一份报告估计,到明年,与虚拟配偶的对话将比与配偶的对话多。

但是,正如我在伦敦大学信息法律与政策中心的Nora Ni Loideain博士的研究中所探索的那样,这些技术背叛了严重的性别偏见。

虚拟私人助理的设计具有女性名字,声音和程序化的挑逗性,再现了女性秘书的歧视性刻板印象,根据性别刻板印象,女性秘书通常不仅仅是一个男老板的秘书。

它还加强了妇女在男子中次要和顺从的作用。这些AI助手根据其用户的命令进行操作。他们无权拒绝这些命令。它们仅被编程为服从。可以说,他们也提高了对真正女性应如何表现的期望。

这些助手的目的还在于使用户摆脱繁琐的工作,例如进行约会和在线购买商品。这在至少两个方面是有问题的:这表明用户有更多时间从事据称更重要的工作。其次,它对数字化未来首先由真正的女性,现在由数字化女性进行的秘书工作的价值作出了批判性声明。

“你将如何穿着?”

明显地体现出这种偏见的一种较为公开的方式是使用女性名字:例如Siri和Cortana。Siri是北欧名称,意为“带领您走向胜利的美丽女人”。

Cortana以游戏系列Halo的名字(以及视觉和声音)命名。在Halo,Cortana是由一位成功的女科学家的大脑克隆制成的,该科学家与一个透明且性欲旺盛的女性尸体结婚。她以谦逊的智慧和默契的身材为游戏玩家提供虚构的助手。

除女性声音外,当今市场上所有虚拟私人助理还带有默认的女性声音,该声音与Bixby一样,可以对各种提示性问题和评论进行响应。这些问题包括:“您穿着什么?”Siri的回答是“我为什么要穿什么?”

与此同时,Alexa打趣道:“他们不为我做衣服”。Cortana回答说:“我在工程学领域学到了一点。”

人工智能的偏见和歧视

人们越来越认识到,人工智能系统通常带有偏见,尤其是在种族和性别方面。例如,亚马逊最近开发的招聘算法,通过对包含“妇女”一词或包含女子大学参考的简历进行降级,对工作申请的简历进行分类,从而显示出性别偏见。由于该算法是根据历史数据和男性优先招募进行训练的,因此最终无法解决,必须放弃。

正如研究表明的那样,在显示性别偏见的AI系统的开发与设计团队中缺少女性之间存在着至关重要的联系。

但是,对于AI产品在其设计中纳入性别刻板印象的方式的认识却很少。对于正在研究AI的社会影响的领先研究机构AI Now,在以男性为主导的AI行业与其生产的歧视性系统和产品之间有着明显的联系。

研究人员的作用是使这些联系变得可见,并表明女性代表(无论是文化产品还是科技产品)与现实世界中妇女待遇之间的重要联系。

AI是所谓的第四次工业革命中的领先技术。它指的是从生物技术到人工智能和大数据的技术进步,它们正在迅速改变我们所知道的世界。随着南非继续履行这一承诺的承诺和陷阱,考虑和解决推动这些变化的技术如何影响妇女将变得越来越重要。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。
Top