AI偏见不仅仅是一个机器学习的问题

人工智能(AI)现在是我们日常生活的支柱。快帮助我们上下班交通应用。垃圾邮件过滤器减少混乱我们的收件箱。和AI-enabled工具甚至可以帮助放射科医生更好地检测肿瘤x射线。

但AI并不总是做得正确。或者更确切地说,人工智能并不总是准确地反映现实。

从识别错人的颜色将女性排除在技术工作,AI偏见很少是故意的。但它是真实的。

传统智慧的状态它主要是一个机器学习(ML)的问题,可以提高通过增加训练样本的数量。

“人工智能的偏见是一个复杂的社会技术挑战,”米克尔Rodriguez说主任斜方实验室的AI和自主创新中心。“沿着蜿蜒的供应链的人、系统和数据,偏差可以渗透在许多不同的方面,它很少只是一件事。”

多个公司和组织提供最佳实践、框架和算法,以确保人工智能工具是有效的,公平的,跨部门和平衡。作为我们的社会公正的平台,横切将利用这些现有的分析工具和探索减轻偏差在人工智能的新方法。

提供洞察这个重要的话题,我们问三个专家参加圆桌会议讨论的挑战偏见在人工智能和斜方如何帮助找到解决方案:弗洛伦斯里德,Chongeun李,Jay Crossler。

问:无意AI偏见是如何发生的?

弗洛里德,人工智能工程师:除了更容易理解的问题,机器学习程序并未给予足够的各种各样的训练样本,至少有六个方面的偏见涌入AI。

一个,最大的问题是社会的系统性偏差重复,烤到算法中。例如,根据ProPublica,研究人员发现使用的节奏算法来预测未来的犯罪行为的法院和假释被“…写的方式保证黑人被告将不准确确定为未来的罪犯更经常比白人妇女。”

2、组织可能使用一个系统一个意想不到的目的或人口不训练了。坚持节奏的例子中,该系统最初开发有关缓刑的提出建议,但被重新设定审前阶段,设置保释,等等。因此,它建议了甚至没有被定罪的人犯罪。

三,因为程序员试图使系统尽可能准确,他们可能会忽视亚群体的预防和治疗中的错误数据。所以,通过优化人口最多,他们不成比例地影响较小的人群。

4、缺失数据的意思是“你不知道你不知道。“如果某些多样性信息不经常拍摄,没有办法知道如果一个系统人口不成比例的影响。

5、硬件问题。相机、镜头或传感器可能是制造更好的捕捉光比深色皮肤。这些作品的算法训练对于某些硬件可能产生更多的错误的亚种。

6,在算法中不包括利益相关者的决策。例如,一个大型技术公司设计一个系统来提高生产力给它权力辞退员工。不久,员工被解雇因为算法不知道员工有权利去洗手间。

问:什么是人工智能的主要解决方案偏见?

Chongeun李,人工智能研究开发人员:我想扩大在弗洛的最后一点,关于利益相关者的重要性。为了避免偏见,AI开发者需要算法的“左”数据被选中或者模型训练。正如我们都知道你需要烤网络安全系统从一开始而不是修补它最后,这同样适用于人工智能和偏见。

这意味着有AI从业者工作与利益相关者是谁开发的系统的影响。公平是什么意思?我们明显有效的方法可以采用减少潜在的偏见吗?建立一个明确的共识公平的操作性定义为一个特定的项目和上下文可以非常微妙的和困难的。

但没有它,任何后来的努力识别和减轻偏见可能是建立在沙滩上的基础。最坏的后果是什么?可能会有人被逮捕或失去他们的权利如果人类不在循环在某些点?甚至系统应该建立吗?

例如,一个系统developer-which往往不是一个人,而是一个团队可能需要决定什么人类和机器的角色和当局的系统。做对了,这不仅仅是一个软件设计的决定。这是一个社会、技术和组织问题,可能需要多学科团队与政府和行业以及涉众。

此外,越来越多的“传统智慧”的方法来减轻风险的意想不到的偏见,实际上可以适得其反。举例来说,一个常见的偏见减轻方针是删除所有功能训练数据,确定加入保护类,如性别或种族。虽然这似乎是合乎逻辑的,这种方法有时会引入更多的偏见。

缓解这一复杂问题,AI员工必须不断重新审视整个生命周期普遍做法。这包括初始研究问题、开发、部署、反馈和调整。

问:斜方在打击AI偏压的作用是什么?

Jay Crossler横切技术的:我们认识到许多领导组织正在努力减少AI的偏见。但是有三个地区特别是我相信技术和分析横切关注领域的社会公正平台将能做出巨大的贡献。

首先,在支持的”的算法,我们可以应用与系统工程工具的广泛经验。我们可以关注等方面早期的利益相关方参与和参与设计,捕捉主张和证据在公平的情况下,和系统思维方法探索危害和意想不到的后果。

其次,从独立的视角,我们可以作为“神话克星。“我们可以收集和分享的例子当传统智慧在某些情况下可能错误或者错误。

第三,我们可以分享经验教训在政府和利益相关者。我们支持范围广泛的行业,可以抽象和集成经验教训和最佳实践,否则可能没有相互交流。例如,我们可以学到一些东西从临床决策支持,当正确映射,将相关的一些类型的情报分析。

虽然好处我描述体系的思考,自由的冲突,政府长期工作在所有斜方的优势,他们也根本缓解AI的偏见。

我很高兴我们能够帮助减少这种有价值的技术,因为它的风险变得越来越我们日常生活的一部分。

如果你有兴趣与斜方合作帮助推进我们社会正义行动或有问题,联系我们socjusticeplatform@mitre.org。

- - - - - -比尔Eidson