行通过虚拟隧道的二进制代码行

充斥着前所未有的信息以进行分析,几乎每个行业的公司都在发现越来越复杂的方法来进行市场观察,预测和评估。大数据可以帮助公司做出决策,范围从应聘的候选人到应向哪些消费者提供特殊促销优惠。大数据作为社会公益的有力工具,可以为服务不足的人群带来新的发展机遇,提高生产力并提高市场效率。

但是,如果不谨慎处理,大数据有可能变成一个大问题。越来越多的联邦贸易委员会(FTC)等监管机构警告说,通过从就业,信贷或其他形式的晋升机会中筛选某些群体,大数据的使用可能会使甚至加剧社会偏见。为了充分发挥大数据的潜力并减轻风险,重要的是应对“不同影响”的潜力。

完全不同的影响是一种行之有效的法律理论,根据这种理论,公司可以对看似中立的商业行为(例如筛选候选人或消费者的方法)的歧视承担责任。如果这些做法对基于种族,年龄,性别或其他受保护特征的个人产生不成比例的不利影响,则即使公司不知道其做法具有歧视性,公司也可能会承担非法歧视的责任。在涉及不同影响的案件中,原告不必证明被告公司有歧视意味-只是其政策或行动具有歧视作用,即将受保护的人群排除在关键机会之外。

随着大数据时代的发展,如果企业对大数据的潜在陷阱没有高度警觉,他们可能会面临歧视的指控。现在比以往任何时候都更需要公司采用更严格和周到的数据处理方法。

考虑一个简单的假设:根据内部研究表明,离工作地点较近的员工在公司停留的时间更长,公司制定了一项政策,通过邮政编码来筛选潜在员工。如果政策的影响不成比例地将基于不同种族的人群分类,例如,如果没有其他方法以较小的不同影响实现同一目标,则该政策可能会引发歧视主张。

使事情变得更加复杂的公司必须越来越意识到使用从第三方购买的数据所带来的影响。例如,购买数据以验证消费者信誉的公司可能会承担责任,如果该公司以对受保护人群有不同影响的方式使用数据。

扩大不同影响的使用

几十年来,不同的影响理论一直被用来挑战那些排除诸如就业和信贷等高风险领域的人群的政策。最高法院在1971年的一个名为 Griggs诉Duke Power Co.,这对公司要求工人通过智力测验并获得高中文凭的要求提出了挑战。法院裁定,该要求违反了1964年《民权法》第七条,因为该要求实际上排除了非洲裔美国人,并且没有真正的商业需要。此外,法院允许根据《美国残疾人法》和《就业年龄歧视法》提起的案件采用完全不同的影响理论。

该理论在今天受到了积极的诉讼,并已扩展到新的领域。例如,去年,最高法院裁定,可以根据《公平住房法》提出使用不同影响理论的索赔。

近年来,FTC在完全不同的影响理论下采取了几项行动,以解决消费者信贷市场中的不平等问题。例如,在2008年,该机构对房屋抵押贷款机构Gateway Gateway Funding Diversified Mortgage Services的政策提出了质疑,该机构赋予其贷款官员自治权,向申请人酌情收取超额费用。根据FTC的说法,该政策对非裔美国人和西班牙裔申请人的影响不同,后者违反了《联邦贸易委员会法》和《平等信贷机会法》,被收取的超支额高于白人。

大数据的好与坏影响

随着有关个人的数据量继续呈指数级增长,并且公司继续寻找使用该数据的新方法,监管机构建议,可能会出现更多关于不同影响的主张。在1月份发布的报告中,FTC对数据的收集和使用方式表示关注。具体来说,它警告公司要考虑其数据的代表性以及其数据集和算法中隐藏的偏见。

同样,白宫​​也对大数据的使用表示担忧。在去年发布的有关大数据及其对差异定价的影响的报告中(以相同的价格向不同客户出售相同产品的做法),总统巴拉克·奥巴马(Barack Obama)的经济顾问委员会警告说:还有更多可供选择的变量,其中一些将与受保护类别的成员资格相关。”

同时,欧盟第29条数据保护工作组警告说,大数据实践提出了与保护个人权利有关的重要的社会,法律和道德问题。

可以肯定的是,政府官员也承认大数据可以带来的好处。美国联邦贸易委员会在其报告中指出,公司已利用数据为低收入人群带来更多的信贷机会,使劳动力队伍更加多样化,并为服务欠缺的社区提供专业医疗服务。

经济顾问委员会在其报告中承认,“大数据“提供了用于在实际消费者上使用歧视性算法之前或之后检测问题的新工具”。

确实,在FTC对抵押贷款公司Gateway Funding Diversified Mortgage Services提起的诉讼中,该机构表示,该公司未能“审查,监控,检查或分析向非裔美国人和西班牙裔申请人收取的贷款价格,包括超额贷款”。非西班牙裔白人申请人。”换句话说,大数据本可以帮助公司发现问题。

政策平衡法

正如许多人所看到的那样,大数据的政策挑战是消除歧视性影响,而又不鼓励公司进行创新,寻找新的更好的方式来提供服务并做出更明智的业务决策。

监管机构将必须决定他们认为哪种大数据实践有害。不可避免地会有一些灰色区域。美国联邦贸易委员会在其报告中建议,贷方广告可能是一个例子。它指出,针对所有人开放的针对特定社区的信贷优惠不可能触发违反法律的行为。但它也观察到广告活动会影响贷款模式,司法部过去曾引用债权人的广告选择作为歧视的证据。结果,联邦贸易委员会建议贷方“谨慎行事”。

随着大数据时代的到来,这对所有公司来说都是不错的建议。

* * *

这个帖子 最初出现 作为操作的一部分 市场观察.

有关大数据使用引发的潜在法律问题的更多信息,请参见我们的 社交意识 post, 大数据,大挑战:FTC报告警告大数据可能产生歧视性影响.