2021年9月23日
仪表板下的检查：数据和技术中的性别偏见
投稿人：斯蒂芬妮·米克尔森
这篇文章揭示了将妇女的声音排除在技术发展之外常常被忽视的后果。其结果是伤害了现在和后代的妇女。全球发展实践者，包括技术设计师，应该注意到：虽然这个问题是普遍存在的，但它正在影响中低收入国家的妇女。
图片:WOC技术(CC BY 2.0)
数据分析 - 它的工作原理以及为什么这是一个问题
你知道为什么或如何在Netflix上推荐某些电影而不是其他电影，或者你的新闻提要文章在Facebook上的优先级如何，或者为什么某些谷歌搜索结果排在其他搜索结果的前面吗？电影、文章和搜索结果是针对你基于你的“点赞”、你朋友的“点赞”、你的搜索历史、你的政治观点、你向其他应用程序和设备提供的信息，以及许多其他个人特征。
你可能已经知道这一点，但你有没有考虑过，这也是基于你是否是一个女人，是否是父母，以及您是否在付费劳动力？Adtech Industry使用您的在线行为来构建您的个人资料 -他们以为你是谁．他们可能会观察你的行为，并将你定位为男性，年龄在40-50岁之间，异性恋，已婚，有多个孩子，生活在富裕地区。然后广告就会根据这个年龄段和人口结构的典型男性对什么感兴趣而针对你，这在很大程度上是基于社会规范、创建算法的个人偏见以及刻板印象。这种类型的剖析会发生总是想想看，你一整天都在和各种应用程序和网站进行多少在线或数字互动。这些公司会收到源源不断的关于你的信息，他们会利用这些信息来完善并增加对你个人的描述。并非所有这些数据都能正确解释。
现在想想LinkedIn、在线招聘、求职网站、银行、金融贷款机构、医疗保健提供商和政府——这与你是否看到最新的手袋或猫咪视频无关，而是与你的个人资料是否会出现在招聘人员寻找新候选人的过程中有关，与贷款人是否认为你值得赊购有关，与你是否有资格享受医疗保健有关。这就是技术有可能成倍加剧偏见的地方无节制的人工智能，但它也可以通过提供一个虚拟的窗帘超越性别、种族或其他特征。前者是现状；只有我们采取行动，后一种情况才会发生。
这就是为什么我们需要关注性别数据+技术。
什么是性别数据+技术？
当你听到“性别数据+技术”时，你会想到什么?如果你在国际发展领域工作，你可能会想到性别数字鸿沟或者你可能会想到最近的焦点技术促进的GBV．另一方面，技术人员的头脑可能会被数字权利或者可能是"管道问题”。如果你是那种能发现下一个最佳市场的人，那么女性医疗保健和Femtech可能会想到。对于所有的数据专家，你可能会想数据权限，数据安全和隐私。你们中的一些人会思考性别数据，它的差距和获取问题。那么，如果你是其中之一非常很少人谁跨越了一些数据科学，性别研究，政策和练习的组合，你可能会想到AI伦理，以及所有不同类型的数据偏见这可能发生在机器学习中。
为了定义性别数据+技术，我们首先检查现状的后果。在本文中，我们讨论直接危害和间接损害与数据相关，或缺乏技术和技术解决方案。我们不仅概述了今天在线上网的直接危害，而且还专注于揭示经常被忽视的女性的声音没有被纳入科技的后果，造成的间接伤害将影响几代人。
30亿被边缘化的声音-为妇女和女童创造空间[1]
为了满足妇女和女孩的需求，我们需要确保我们在有意识地将它们置于首先。这可能听起来很明显，但这将是其他人的分裂因素。
这一领域的大多数工作实际上并不以妇女和女孩为主要重点。一些工作承认全球人口存在差异，关注人权（数据伦理/人工智能伦理、数字权利/数据权利），一些工作关注挑战技术的力量和目的(Data&Society），而其他人则重点关注所有边缘化群体（设计正义网络，数据+女权主义实验室，算法司法联盟，我们都数)。这些都是单独的，并为改善社会的必要空间。
这是一个可视化的研究领域和几个主要群体，接近性别数据+技术，由主要焦点区域组织。这是基于可公开获取的信息，并不是全面或静态的。这种视觉效果提供了清晰的差距，并确定了空间内的协作空间。
拥有一个以女性和女孩为中心的空间，无论分开还是一起都是必要的。如果没有这一点，谈话(下意识地)就会成为围绕男性的默认话题，即使是在由女性领导的时候。从历史上看，当涉及到女性/女孩的需求时，男性/男孩首先举手，这是一个问题。当然，这里有合作的空间，但这需要一个聚焦女性/女孩的空间，让不同的视角出现。
合则存，分则亡
这将需要一个跨领域的性别视角，以真正多元化的全球视角，在数据和技术领域解决和创造妇女和女孩的未来。目前的协调和资助工作缺乏对这一问题跨领域的认识所有性别工作[２]以及所有发达国家和发展中国家，北部和南半球．
无论你来自哪里的角度，我们都可以同意在看问题时性别或女性，技术或数据这是一个极少被探索的领域需要进一步发展的框架和结构来共同指导我们. 本文的目的是提高对这个问题的认识，并激励人们采取行动。我们需要进行更广泛的讨论，共同确定妇女和女孩个人面临的所有风险，以及影响现在和将来两性平等的经济和社会制度面临的风险。
直接伤害/ GBV/ VAW
对妇女和女童的直接伤害包括故意暴力，如:在线骚扰、仇恨言论、跟踪、威胁、模仿、黑客攻击、基于图像的虐待［3］，人兴，人口贩运，诽谤和诽谤，刷子，横须炮，无关的骚扰和虚拟现实骚扰和虐待。这些类型的暴力可以很容易被归类为GBV / VAW，技术促进的GBV/ VAW,或在线GBV./VAW，因为行为背后的意图是明确的，即伤害个人或群体。关于这些主题的工作虽然不多，但仍在不断增加。
已经专注于这种类型的技术促进的直接伤害的团体是一段时间的空气污染指数和记者，虽然这项工作历史上不打算专注于女性，但妇女的目标是常见的，因此是一个女记者联盟最近成立了一个反对网络暴力的组织。儿童保护社区也有强大的存在，因为它特别涉及儿童。传统的GBV社区也开始讨论这些话题，因为技术推动的性别暴力是由男女权力不平衡这一世代问题造成的。
间接伤害/性别暴力/暴力侵害
当今大多数技术，特别是数字技术的创造方式正在加剧性别不平等和对妇女和女孩的歧视。尽管使妇女无法获得工作、资金、公共服务和信息从滥用数据和技术滥用妇女的间接危害几乎完全被忽视。
Here we are talking about algorithmic bias (i.e. coded bias in artificial intelligence and machine learning), data bias (i.e. missing or mislabeled datasets), data security (i.e. sharing identifiable information), and other gender-blind tech that isn’t incorporating the voices of women and girls (e.g. bots, car crash dummies, and human resources software perpetuating harmful gender norms).
为什么当今科技界女性如此之少?
和几乎所有行业或部门一样，科技行业充满了有害的性别规范、偏见和性别歧视，但科技行业特有的是极端女性的小代表再加上大量的增长电力和影响技术对我们的日常生活．
正如张慧卿在她的书中清楚地指出的那样Brotopia解散硅谷男孩俱乐部关于这些问题，需要了解的一件重要的事情是，尽管女性是早期的开发者，但在过去50多年里，她们一直被排除在科技行业之外。对于所有那些说这是“管道问题”的人，她问，是谁创造了管道?管道的问题是由科技产业本身,从有意招聘反社会的男性Cannon-Perry能力倾向测验在1960年代,几百美元乔在三部曲的冲动的冒险者从脱衣舞俱乐部在拉斯维加斯在1990年代早期,原始贝宝创始人外在反女权主义者和anti-diversity,从90年代末开始有选择地雇佣像他们这样的人。如今科技行业缺少女性并不是因为缺乏兴趣或智慧。这是因为科技行业在60年代排挤了女性，从90年代到2010年代，科技行业一直是一个庞大的男性俱乐部，有着排他的行为。如今，科技行业最大的投资者也来自同样的骄傲，这进一步强化了这种行为PayPal党．
现在让我们一起前进。
在研究这个问题存在的原因时，很容易在与不关心这个问题的人、看不到问题的人或缺乏做事意愿的人的讨论中迷失方向。与其把有限的精力集中在这件事上，不如让我们先从低垂的果实开始。让我们协调那些关心、看到并有意愿解决问题，但不知道如何单独解决问题或只需要扩声的人。
我们正在建立性别数据+科技界的实践，汇集思想领导人创建伙伴关系，协作指导和开发解决方案。我们的目标是建立一个有证明的数据和技术解决方案，专注于应对妇女和女孩的性别不平等。
我们作为一个规模虽小但不断壮大的全球社区，迫切希望开展关键对话，探讨如何确保妇女和女童的不同声音和观点在今天的技术中得到反映和纳入(例如，如何确保妇女和女童的不同声音和观点得到反映和纳入)。搅拌黑匣子，记录培训数据使用大赦国际打击GBV)以及为明天共同创造更好的技术（例如，参与式技术、包容性预测模型、面向性别专业人士的NLP工具）。
如果你有激情用数据和技术为妇女和女孩做出改变，请联系我们。我们团结在一起会更强大，现在是塑造我们未来的时候了。
[1]“女人”和“女孩”这两个词是性别的社会结构，因此，这包括任何自我认同为女性或女孩的人。这也意味着包括所有对性别身份漠不关心的女性。语言被有意缩写，以不稀释或分散30亿女性和女孩的注意力。
[２]让我们暂时把术语差异放在一边。性别平等，基于性别的暴力(GBV),针对妇女的暴力行为(VAW),对妇女和女孩的暴力行为（Vawg）工作经常重叠，有些人甚至会争辩说他们都是一样的。
［3］基于图像的虐待包括：未经同意共享图像或视频、未经同意拍摄图像或视频、浅伪造、深伪造、网络闪现、性侵犯、性侵犯诈骗、基于儿童的图像虐待。
关于作者
斯蒂芬妮·米克尔森(Stephanie Mikkelson)是一名发展实践者和全球研究员，专注于为大型国际非政府组织和联合国机构提供负责任的性别数据和数字解决方案。
这篇文章的一个版本首先在Medium上发表。请参阅原文和作者的其他文章斯蒂芬妮·麦克尔森在中号．
