2021年9月23日
仪表盘下的检查:数据和技术中的性别偏见
贡献:斯蒂芬妮·麦克尔森
这篇文章揭示了将女性的声音排除在技术发展之外往往被忽视的后果。其结果是伤害了现在和未来几代的女性。包括技术设计师在内的全球发展从业人员应注意到:虽然这一问题是普遍存在的，但它对低收入和中等收入国家的妇女的影响尤其严重。
图片:WOC in Tech (CC BY 2.0)
数据分析-它是如何工作的，为什么它是一个问题
你知道为什么某些电影在Netflix上被推荐给你，或者你的新闻提要文章在Facebook上是如何被优先排序的，或者为什么某些谷歌搜索结果会比其他搜索结果排在前面吗?电影、文章和搜索结果针对你基于你的“赞”，你朋友的“赞”，你的搜索历史，你的政治观点，你提供给你使用的其他应用程序和设备的信息，以及许多其他个人特征。
你可能已经知道了，但你有没有考虑过它们也是基于你是否是一个女人你是否为人父母，你是否在有偿工作?广告技术行业利用你的在线行为来建立你的个人资料他们以为你是谁．他们可能会看你的行为，并把你描述为一个男性，年龄在40-50岁之间，异性恋，已婚，有多个孩子，住在富裕地区。然后，广告是根据这个年龄段的典型男性感兴趣的东西来针对你的，这在很大程度上是基于社会规范，个人的个人偏见，创造了这背后的算法，以及刻板印象。这种类型的分析会发生一直以来想想看，你每天要与各种应用程序和网站进行多少在线或数字交互。这些公司会收到源源不断的关于你的信息，他们会用这些信息来完善和添加到他们对你的个人分析中。并非所有这些数据都能被正确解释。
现在想想LinkedIn，在线招聘人员，求职网站，银行，金融贷款机构，医疗保健提供商和政府——这不是关于你是否看到了最新的手袋或猫的视频，这是关于你的个人资料是否出现在招聘人员寻找新候选人的过程中，贷款机构是否认为你有信用，或者你是否符合医疗保健资格。这就是技术有可能成倍加剧偏见的地方无节制的人工智能，但它也可以减少人类的偏见虚拟的窗帘超越一个人的性别、种族或其他特征。前者是现状;只有我们采取行动，后者才会发生。
这就是为什么我们需要关注性别数据+技术。
什么是性别数据+技术?
当你听到“性别数据+科技”时，你会想到什么?如果你在国际发展部门工作，你可能会想到性别数字鸿沟或者你可能会想到最近的关注tech-facilitated GBV．另一方面，技术专家的思想可能会被吸引到数字版权或者可能是“管道问题”。如果你是那种发现下一个最佳市场的人，那么女性医疗保健和Femtech可能会想到。对于所有的数据专家，你可能会想到数据的权利、数据安全和隐私。你们中的一些人会想到性别数据它的差距和准入问题。那么，如果你是其中之一非常很少人你可能会想到的数据科学、性别研究、政策和实践的组合是谁AI伦理，以及所有不同类型的数据偏差这可能发生在机器学习中。
为了定义性别数据+技术，我们首先考察了现状的后果。在本文中，我们将讨论直接危害而且间接危害与数据(或缺乏数据)和技术解决方案相关。我们不仅概述了今天上网的直接危害，还着重揭示了经常被忽视的危害女性的声音没有被纳入科技的后果，造成间接伤害，将影响一代又一代。
30亿边缘化的声音——为妇女和女童创造空间[1]
为了满足妇女和女童的需要，我们需要确保自觉地把她们放在首位。对一些人来说，这可能是显而易见的，但对另一些人来说，这将是一个分裂因素。
这一领域的大多数工作实际上并不主要关注妇女和女童。一些工作承认全球人口存在差异，并关注人权(数据伦理/人工智能伦理，数字权利/数据权利)，一些工作专注于挑战技术的力量和目的(Data&Society)，而另一些则关注所有边缘群体(设计正义网络，数据+女权实验室，算法正义联盟，我们都算数）.这些都是改善社会的必要空间。
这是一个研究领域的可视化映射，以及一些接近性别数据+技术的主要群体，按主要关注领域组织。这是根据公开的信息填充的，绝不是全面的或静态的。这种视觉效果是为了清晰地显示空间之间的差距，并确定空间内的协作空间。
拥有一个专注于妇女和女孩的空间也是必要的。如果没有这一点，对话(潜意识地)就会默认以男性为中心，即使是由女性主导。从历史上看，男人/男孩首先举手，当问题涉及到女人/女孩的需求时，这是一个问题。当然，也有共同努力的空间，但这需要一个以妇女/女童为重点的空间，使不同的观点得以出现。
合则存，分则亡
这需要一个跨领域的性别视角，一个真正多样化的全球视角，在数据和技术中解决和创造妇女和女孩的未来。目前的协调和资助工作缺乏对这个问题的跨领域认识所有性别工作[２]以及跨所有发达国家和发展中国家，北半球和南半球．
不管你从什么角度来看，我们都同意在看问题的时候性别或女性，技术或数据这是一个很少被探索的领域，需要进一步发展的框架和结构，共同指导我们．这篇文章的目的是提高人们对这个问题的认识，并激励人们采取行动。我们需要进行更大范围的讨论，共同确定妇女和女童个人面临的所有风险，以及影响当前和未来性别平等的经济和社会制度面临的风险。
直接伤害/ GBV/ VAW
对妇女和女孩的直接伤害包括故意暴力，如:在线骚扰、仇恨言论、跟踪、威胁、假冒、黑客攻击、基于图像的虐待[3]、打人、人口贩卖、虚假信息和诽谤、殴打、人工草皮、物联网相关骚扰以及虚拟现实骚扰和虐待。这些类型的暴力很容易被归类为基于性别的暴力/对妇女的暴力，tech-facilitated GBV/ VAW,或在线GBV/ VAW，因为这些行为背后的意图很明确，即伤害个人或群体。关于这些主题的研究虽少，但正在不断增长。
一段时间以来，关注这种技术促进的直接伤害的团体是APC而记者，虽然从历史上看，他们的工作并不是为了关注女性，但把女性作为目标是很常见的，因此女记者联盟最近成立了一个反对网络暴力的组织。儿童保护社区也有很强的影响力，因为它特别涉及儿童。传统的GBV社区也开始讨论这样的话题，因为科技带来的性别暴力也是由男女权力不平衡这一世代问题引起的。
间接伤害/ GBV/ VAW
当今大多数技术，尤其是数字技术的创造方式，正在放大性别不平等，并歧视妇女和女童。尽管阻止妇女获得工作、资金、公共服务和信息在美国，滥用数据和技术对女性的间接伤害几乎完全被忽视了。
这里我们讨论的是算法偏见(即人工智能和机器学习中的编码偏见)、数据偏见(即缺失或错误标记的数据集)、数据安全(即共享可识别信息)，以及其他没有纳入女性和女孩声音的性别盲技术(例如机器人、车祸假人和延续有害性别规范的人力资源软件)。
为什么当今科技行业的女性如此之少?
科技行业，就像几乎所有的行业或部门一样，充满了有害的性别规范、偏见和性别歧视，但科技行业的独特之处在于极端女性代表较少结合大量的生长科技对我们日常生活的力量和影响．
正如张艾米莉在她的书中清楚地指出的那样Brotopia解散硅谷的男孩俱乐部关于这些问题，需要了解的重要一点是，尽管女性是早期的开发者，但她们已经被排除在科技行业之外50多年了。对于所有那些说这是“渠道问题”的人，她问，谁创造了渠道?管道问题是由科技行业自身造成的，从20世纪60年代故意用坎农-佩里(Cannon-Perry)能力测试雇佣反社会的男性，到20世纪90年代初，Trilogy的百元乔(Hundred Dollar Joe)奖励拉斯维加斯脱衣舞俱乐部里冲动的冒险家，再到贝宝(PayPal)最初的创始人表面上是反女权主义和反多样性的，从90年代末开始有选择性地雇佣像他们这样的男性。当今科技行业缺少女性并不是因为缺乏兴趣或智力。这是因为科技行业在60年代排挤了女性，从20世纪90年代到2010年代一直是一个巨大的男性俱乐部，这种行为直到今天才得到巩固，最大的科技投资者都来自同样的骄傲贝宝黑手党．
现在让我们一起前进。
在研究这个问题存在的原因时，我们很容易迷失在与那些不关心这个问题的人讨论中，那些看不到这个问题的人，或者那些缺乏做某事的意愿的人。与其把我们有限的精力集中在这个问题上，不如先从容易实现的目标开始。让我们协调那些关心、看到并有意愿为这个问题做点什么的人，但他们不知道如何独自去做，或者只是需要放大他们的声音。
我们正在建立性别数据+技术实践社区，将思想领袖聚集在一起，建立伙伴关系，提供协作指导，并制定解决方案。我们的目标是用可靠的数据和技术解决方案建立一个证据库，重点解决妇女和女童的性别不平等问题。
作为一个规模虽小但不断增长的全球社区，我们渴望就如何确保妇女和女孩的不同声音和观点在当今的技术中得到反映和融合进行关键对话。揭开黑匣子的神秘面纱，记录培训数据,使用人工智能对抗性别暴力)，并共同为未来创造更好的技术(例如，参与式技术、包容预测模型、面向性别专业人士的NLP工具)。
如果你热衷于用数据和技术为妇女和女孩们带来帮助，请与我们联系。我们团结在一起会更强大，现在是塑造我们未来的时候了。
[1]“女人”和“女孩”是对性别的社会建构，因此这包括任何自认为是女人或女孩的人。这也包括所有女性，不论她们的性别认同如何。语言被故意简化，以不淡化或分散对30亿大多数顺性妇女和女孩的关注。
[２]让我们暂时把术语差异放在一边。性别平等，基于性别的暴力(GBV),暴力侵害妇女行为(VAW),对妇女和女童的暴力行为(VAWG)的工作经常重叠，有些人甚至会说它们都是一样的。
[3]基于图像的滥用包括:未经同意分享图像或视频，未经同意拍摄图像或视频，浅伪造，深度伪造，网络闪烁，性勒索，性勒索骗局，基于儿童的图像滥用。
作者简介
Stephanie Mikkelson是一名发展从业者和全球研究员，专注于为大型国际非政府组织和联合国机构提供负责任的性别数据和数字解决方案。
本文的一个版本首次发表在Medium上。查看原文和其他文章Stephanie Mikkelson在Medium上说．
