williamhill中文欢迎您S具有：需要培训的williamhill中文欢迎您监督的人并激励以减轻williamhill中文欢迎您偏见
当您是世界上最大的科技公司之一时，处理每个工作广告吸引的CV的海啸都是一个巨大的耗时的问题。
因此，当亚马逊开发了人工智能（williamhill中文欢迎您）工具时，该工具搜索了数千个简历，并挑选了经理人面试的顶级人才时，人力资源部老板认为他们正在获得自动化冠军。。
，但他们没有意识到的是，在涵盖10年招聘的数据集上训练它之后，williamhill中文欢迎您模型实际上已经了解到，主要是男人在亚马逊获得了工作，因此它惩罚了包括“女性国际俱乐部俱乐部队长”等CVS的CVS。
路透社透露了这两个全女子大学的毕业生。最终，亚马逊不得不在2018年取消williamhill中文欢迎您，并在算法偏见方面学到了宝贵的教训。
根据种族，性别或年龄来歧视的自动化决策，为这两家公司都使用williamhill中文欢迎您产生了次优的结果 - 可以错过盈利的机会 - 对于被歧视的个人而言。如果要更有效地使用williamhill中文欢迎您，则需要解决此类磨牙问题。
减少williamhill中文欢迎您社区中williamhill中文欢迎您偏见的努力专注于创建更公平的算法和更高质量的数据收集。
，但是，与Baruch College的Nanda Kumar和Karl Lang一起，我们的研究表明，实际上，重要的不仅是算法的性能，而且很重要，而是williamhill中文欢迎您及其对其进行监督的人的合并过程和结果。
这两者都更好地反映了现实 - 因为大多数williamhill中文欢迎您目前都由人们以某种方式监督 - 并提供了一种减轻williamhill中文欢迎您中偏见的方法。
人类决策者倾向于与算法一起工作。但是，当然，人类会遭受有意识和无意识的偏见，这可能会加强而不是调整williamhill中文欢迎您系统中的偏见。
这就是为什么我们相信，只有当人们被以结构化的框架引导时，以最大化利润来引导他们实际上是减少williamhill中文欢迎您和机器学习中偏见的有效手段。
我们的研究发现，随着时间的流逝，使用williamhill中文欢迎您的人类操作员通过识别偏见并调整其行为来适应其偏见结果。
这可以显着提高绩效，最重要的是，在减少决策偏见和增加组织利润方面，胜过偏见的williamhill中文欢迎您。
减少人工智能中偏见的框架
看来，两个大脑确实比一个大脑更好，人类操作员能够补偿有偏见的算法，这也倾向于使用williamhill中文欢迎您算法更有利可图。 效果不是立即的，而是通过反复的审查和调整实现的。
提供了有关他们和williamhill中文欢迎您表现方式的反馈，这可以识别偏见，因此通过人类决策者与williamhill中文欢迎您或机器学习模型的重复互动进行调整。
随着时间的推移，人们可以学习如何克服williamhill中文欢迎您或正在使用的数据中的任何偏见。
一直，人类运营商都在公司框架内工作，该框架旨在最大程度地减少最终决定中的偏见，以最大程度地提高利润。
该框架必须包括一个激励机制，因此决策者因通过williamhill中文欢迎您批准错误的决策而受到惩罚，并为制作好的决策获得奖励。
此过程中的任何偏见都会降低公司的利润，并在财务上也受到惩罚，因此他们的行为旨在最大程度地减少williamhill中文欢迎您的任何偏见，而不论其个人观点如何。
可以说，在某些情况下，偏见的决定可能会更有利可图，这可能会使任何公司决策框架复杂化，但我们认为这些框架很少。
在整个公司目标上以道德或盈利能力为中心，盈利能力往往与偏见成反比，因为偏见的决策错过了有利可图的机会，并且通常无法最大程度地发挥市场潜力。
williamhill中文欢迎您学习偏见的现实世界示例
我们在研究中研究的具体示例是评估银行贷款的资格。
如果拒绝了代表性不足的少数民族的大量贷款申请人，则拒绝了该行动的盈利。
我们单独查看了人类决策者，然后查看了williamhill中文欢迎您加人类，每组中有50贷款。
当他们通过贷款申请时，人类决策者能够学习和克服williamhill中文欢迎您偏见。
通过此过程，是人类改善而不是williamhill中文欢迎您本身，表明人们至少在这个阶段，人们可以比williamhill中文欢迎您更适应。
当然，我们还必须减少williamhill中文欢迎您本身和基于数据的数据中的偏见，但这是在其他地方进行的，并且可能总会有一些偏见，因此教导人类纠正这一点很重要。
虽然研究重点是银行贷款，但我们认为这可以转移到许多类似情况下，涉及具有二进制好结果的复杂决策，例如雇用，促进或获得医疗程序以及获得信用。
所有这些过程都具有相似的复杂结构和组成，所有这些过程都会产生二进制结果。
很明显，我们的研究表明，如果企业要充分利用williamhill中文欢迎您，那么培训人类运营商很重要，这意味着公司在将williamhill中文欢迎您集成到决策过程中时需要长期观察，他们需要给员工有时间学习并适应与williamhill中文欢迎您一起工作的新工作方式。
该方法还需要在整个组织中进行，并进行仔细的测试以及足够的时间进行培训，反馈和练习以使其正确。
如果组织采取了这些措施，他们可以避免犯像亚马逊这样的昂贵错误，这并不是所有公司都可以轻松吸收。
进一步阅读：
五读您需要进行williamhill中文欢迎您道德和值得信赖的
组织中的人机协作决策：检查算法预测偏见对决策偏见和感知公平的影响
anh luong 是业务分析助理教授，并教授业务分析本科 程序。她还就有关该的高级数据分析进行了讲座MSC业务分析。
详细了解如何在四天的执行教育课程中使用数据高管业务分析 在WBS London在Shard.
有关决策和分析的更多文章，请注册核心洞察力这里.