算法与歧视.docx
《算法与歧视.docx》由会员分享，可在线阅读，更多相关《算法与歧视.docx（10页珍藏版）》请在冰豆网上搜索。
算法与歧视
算法与歧视
私募工场每周活动集锦（历史论坛）本文原载于《中外法学》2017年第6期在大数据来临的时代，算法（algorithm）已经极大地改变了我们做出决定的方式，越来越成为人们关注的问题。
如同大数据专家、《大数据时代》一书的作者舍恩伯格所说，大数据的特征是追求效率，而不是绝对精确；追求的是相关性，而不是因果性，在现代社会，大数据和算法结合已经颠覆了传统的决策方式。
[1]在这种背景下，基于大数据的算法就成为一个问题。
大数据除了带给我们更有效率和更具相关性的判断之外，其公平性或正当性的基础何在？
尤其在涉及到公共机构使用大数据和算法的情形下，我们更要问，基于某种算法的大数据使用是否具有正当性基础或伦理基础？
这并不是容易回答的一个问题。
除了伦理与公平问题的复杂性之外，另一个难点在于算法的专业性和不透明性。
对于很多企业而言，算法往往被当做商业秘密加以保护，人们往往很难理解算法的实际运作过程，例如人们往往很难理解某新闻App为何会推送其某条新闻，某购物网站为何会推荐某些产品；而对于很多公共机构而言，其算法也常常并不公开（这本身也是一个值得探讨的问题）。
算法的专业性与不透明性为人们思考算法伦理问题设置了很高的门槛。
本文选取了另一条道路，本文通过探讨美国的教育平权案来探讨算法伦理问题。
在本文选取的几个案例--Grutter案、Gratz案和Bakke案中，我们可以清晰地看到美国大学在录取招生时采取了何种算法，而且可以结合美国联邦最高法院的相关讨论来分析这些招生政策中算法的合理性。
无疑，这些案例发生在大数据概念提出以前，而法院对于这些问题的讨论也没有使用诸如“算法”或“算法伦理”这样的术语。
但另一方面，这些案例无疑使用了大量的数据，采用了不同的算法，而且，法院对于招生政策合宪性与正当性的讨论本质上也正是对算法伦理问题的讨论。
在这个意义上，借用美国教育平权的相关案例来讨论算法伦理，可以帮助我们更为深刻地理解算法伦理的相关问题。
同时，在本文看来，通过讨论美国的教育平权案和相关伦理问题，我们可以更为深刻地理解法律解释问题。
在本文所涉及到的若干美国教育平权案中，其中涉及到招生政策是一个算法问题，同时也是一个法律解释问题，因为这些案件的核心争议就是这些案件中的政策和算法是否符合美国宪法与法律的规定。
在进入正文讨论之前，有必要非常简单地介绍一下美国教育平权的历史背景。
众所周知，美国在南北内战后虽然解放了黑奴，但对于黑人的歧视与隔离并没有消除。
直到1954年，在“布朗诉教育委员会案”（Brownv.Boardof
Education）案中，美国最高法院才废除了“隔离但平等”的法律教义，认定对某个种族进行区别对待违反了美国宪法的第十四修正案。
其后，经过六十年代的民权运动，很多美国大学在招生中采取了增加黑人等少数族裔的教育平权政策或纠偏政策（affirmativeaction）。
这些政策一方面得到了一些人的支持，因为其具有增加少数族裔比例，改变少数族裔社会境况的作用。
但另一方面，这一政策也被认为对白人和亚裔存在不公平，是另一种形式的肤色歧视，并因此受到了很多人的抵制。
本文要讨论的几个案例正是在这一大的背景下发生的。
一、相似的案件、不同的判决2003年，美国联邦最高法院审理了两个著名的教育平权案件：
Grutterv.Bollinger案和Gratzv.Bollinger案。
在Grutter案中，一位名为Grutter的白人起诉密歇根法学院，认为其招生政策违反宪法第十四修正案的平等保护以及1964年民权法案中不得基于种族进行歧视的规定。
因为在密歇根法学院的招生政策中，除了考虑本科成绩、LSAT成绩、推荐信、社会活动等表现之外，该政策还允许考虑学生的种族因素；该政策主张，应当录取“相当数量（criticalmass）”的少数族裔学生，从而实现法学院生源“多样性（diversity）”的目的。
对于这种招生政策，此案中的原告Grutter认为，这种政策使得某些少数族裔“比其他不太受待见的群体具有明显高得多的录取机会”，因而显然违反了平等保护和种族中立的原则。
而在Gmtz案中，争议的核心则是密歇根大学本科招生政策是否违反宪法第十四修正案的平等保护。
根据密歇根大学的本科招生政策，大学申请者可以因为某些原因而获得加分，例如可以因为是密歇根居民而加10分，因为是校友子女加4分。
而如果申请者恰好属于黑人等某些族裔的话，则可以加20分。
在这一招生政策下，一般来说分数将决定申请者的命运，学校将根据申请者的分数而将申请者归类为被直接录取、延迟录取还是直接拒绝。
但同时，录取审查委员会仍然有权将一些具有鲜明特征的个人挑选出来，并且进行不考虑分数的综合比较。
对于密歇根大学的这种给某些族裔统一加分的录取政策，原告Gmtz认为，这违反了宪法第十四修正案的平等保护要求。
对于这两个案件，美国联邦最高法院首先认为，密歇根法学院或密歇根大学本科所希望实现的多样性目标可以被视为宪法上的“压倒性利益（compellinginterest）[3]可”以，允许学校为实现这一利益而考虑种族因素。
其次，美国联邦最高法院认为，应当对学校政策进行“严格审查（strictscrutiny）”，以确保这种政策符合“严格限定（narrowlytailored）”的条件。
经过审查，美国联邦最高法院对两个案件做出了不同的判决。
在Grutter案中，最高法院认为，密歇根法学院的招生政策符合“严格限定”的要求，并没有违反宪法第十四修正案的平等保护；而在Gratz案中，最高法院则认为，密歇根大学的本科招生政策不符合“严格限定”的要求，因而违反了宪法第十四修正案。
是什么原因使得法院得出了相反的结论呢？
分析两个案件的判决书，可以发现法院做出判断的主要依据在于招生政策是否足够“个人主义”。
在Grutter案中，奥康纳所撰写的多数意见认为，法学院的招生政策是高度个人主义和综合性考虑的；法学院并没有要求以“配额（quota）”的方式每年招收固定“比例”的少数族裔的学生。
相反，对于种族因素的考虑只是以一种附加（aplus）因素的方式起作用。
虽然它要求保证每年能够招收“相当数量”的少数族裔学生，但“相当数量”只是希望某些族裔的学生不会感到孤立，并不意味着一定要实现一定的数量或百分比。
从历届招生的情况来看，非裔、拉丁裔和印第安裔美国学生的比例一直在浮动，并不固定。
法院因此认为，法学院的招生政策是根据个人来进行综合考虑的，种族并没有成为一个决定性的因素。
而在Gratz案中，法院的多数意见认为，给某些少数族裔加
20分，这是一种非个人主义的做法。
即使录取复查委员会对所有达到最低录取线的人进行不考虑分数的个体性的综合考虑，也不足以改变其非个人主义的性质，因为大多数的录取仍然是根据分数而做出的。
在这种20分的加分政策下，种族已经成为录取中的一个“决定性因素”。
［6］而奥康纳的配合意见也指出，Gratz案中通过自动加分而进行排名的录取政策是一种排除“个体化评估申请者的多样性贡献”的做法，和Grutter案中更为个人主义和综合性考虑的做法截然不同。
Grutter案和Gratz案的法院意见是对早先Bakke案中
Powell法官意见的重新确认。
［8］正是在Bakke案中，Powell法官确立了对平权行动的严格审查，允许将大学的多样性视为压倒性利益，并且将招生政策是否足够“个人主义”视为能否通过审查的重要因素。
有趣的是，在这个案件中，Powell法官同样对比了两种招生政策。
一种是该案中所涉及的加州大学戴维斯分校医学院的族裔配额政策，将16%的招生名额分配给某些弱势群体和某些少数族裔。
另一种则是哈佛学院的综合考虑申请者的招生政策，在该政
策中，种族将被视为“附加因素（plus）P”well认为，这两种
制度具有本质上的不同，前一种政策是非个人主义的，违反了宪法的平等保护，而后一种政策则是个人主义的，虽然考虑了种族制度，但并不违反宪法第十四修正案。
二、算法视野下的平等：
法院意见的数学误区在上文提到的几个案件中，法院都提到，个人主义的招生政策增加了每个人被平等对待的机会，使得种族因素在招生录取中不再起决定作用。
在Bakke案中，Powell法官提到，哈佛学院的个人主义招生政策可以更加灵活（flexible），可以把许多因素都纳入综合考虑，例如“杰出的个人才能、独特的工作或服务经历、领导潜力、成熟度、表现出来的同情心、和穷人交流的能力、或者其他被认为重要的特征”。
[10]因此，这种政策更加平等，对申请者更加一视同仁。
虽然有的申请者可能因为其他族裔的种族加分而落选，但这种政策并不会提前排除他。
如果他落选，这仅仅意味着“他的综合性资格并没有超过其他申请者。
”就录取过程来说，因为他的资格已经被公平和竞争性地加以评估了，所以并不违反宪法第十四修正案的平等保护。
为了说明这一点，Powell法官还特意举了一个例子：
有三位申请者，其中A是黑人，其父母是成功黑人物理学家，他自己也在学术方面非常有潜力；B是在贫民区长大的黑人，其父母是半文盲，B的学术成就要差一些；C是白人，具有超凡的艺术才能。
Powell指出，在戴维斯分校医学院的招生政策中，由于存在一个针对弱势群体及少数族裔的配额，当A、B和C这三位申请者竞争同一个名额时，A将几乎被铁定录取，而B和C被录取的机会则几乎为零。
但在哈佛的政策中，如果只有剩下的一个录取名额，个人主义的招生政策则可能使得C有相当的几率击败A和B而被录取。
因为在个人主义的综合考虑之下，如果学校发现C的确有相当惊人的艺术天赋，那么学校完全可能会忽略种族因素，舍弃黑人申请者A和B而录取白人申请者C。
据此，Powell法官认为，哈佛大学的招生政策“可能在有些时候和种族相关，但并不由种族所决定”。
Grutter和Gratz案中的多数意见延续了这种推理逻辑。
在Grutter案中，多数意见认为，密歇根法学院个人主义的衡量使得法学院可以综合考虑申请者，使得种族因素并未成为一个决定性因素。
一个相关的证据是，法学院常常会录取一些学分绩点和LSAT分数低于少数族裔的申请者，拒绝一些学分绩点和LSAT分数都高于录取线的少数族裔。
[13]而在Gratz案中，多数意见则认为，给某些族裔加20分的政策使得种族成为了一个决定性因素，使得那些超过最低录取线的少数族裔申请者几乎铁定能被录取。
[14]而且，多数意见再次以Powell提到的三位申请者作为例子。
认为即使申请者C拥有“媲美莫奈或毕加索的‘卓越艺术才能'，他也不过只能最多获取5分”，而同时“每一个代表性
不足的少数族裔申请者，包括申请者A和申请者B,都可以
加20分”。
[15]当只有一个名额的时候，A肯定会被录取，其被录取机会接近100%，因为20的加分再加上其本身足够优秀，这将足以保证很高的分数。
而白人C则根本就没有被考虑的机会，其被录取机会几乎为0。
法院认为，在非个人主义的招生政策中，黑人A肯定被录取，在个人主义的招生政策中，白人C则至少有被录取的机会，这种概率的对比说明种族因素在两种政策中具有不同程度的影响。
美国联邦最高法院的法官们对于招生政策或算法的分析具有合理性吗？
初看上去，这种分析似乎非常符合我们的直觉。
因为在个人主义招生政策的算法中，个人似乎更少受到种族因素的影响。
通过个人主义的招生政策和算法，似乎可以增加每个人被平等对待的机会。
然而这仅仅是第一直觉。
仔细分析法院对于招生政策中的算法的论证，可以发现Bakke案和Gratz案的多数意见对于算法的认识存在基础性错误。
多数意见认为，在A、B、C这样一个想象的例子中，黑人A在统一加分制的算法下被录取的机会几乎为100%，白人C则为零，而在个人主义的算法下，白人C卓越的艺术才能会使得黑人A和白人C都有机会被录取，这说明种族因素在个人主义的算法中不是决定性的。
但是，我们必须记得，无论是统一加分式的算法，还是个人主义式的算法，其本质并无不同，其目的都在于增加黑人等少数族裔的人数，两种算法都必须增加黑人等少数族裔的录取比例，减少白人和亚裔的录取比例。
而个人在多大程度上受到种族因素的影响，本质上在于某种招生政策或算法希望在多大程度上对某些少数族裔进行倾斜。
在A、B、C的例子中，其原理亦是如此。
如果倾斜程度不大，那么即使在统一加分制的算法下，黑人A被录取的概率也不会增加太多。
同理，如果倾斜程度够大，那么即使在个人主义的算法中，黑人A被录取的概率也会极大地增加。
法院在Gratz案中提到，法学院常常会录取一些学分绩点和LSAT分数低于少数族裔的申请者，拒绝一些学分绩点和LSAT分数都高于录取线的少数族裔，希望以此说明个人主义的招生政策或算法就更不看重种族因素。
但这种论证也存在根本性的问题。
因为这些绩点和分数低于少数族裔的申请者很可能恰恰是某些方面具有特殊才能的白人学生，而被拒绝的绩点和分数都较高的少数族裔很可能是其他方面都表现平平的黑人学生。
在个人主义的招生政策或算法中，法学院完全有可能更多地考虑种族因素，以多样性的理由录取一些成绩特别差但其他方面杰出的黑人学生。
综上所述，从算法的角度来说，我们无法证明个人主义的招生政策或录取算法就更少地考虑种族因素。
种族因素在招生政策中究竟起到了多大作用，这取决于学校在招生过程中的权衡，例如赋予附加因素（plus）的权重或加分的额度，而不取决于某种招生政策是否采取了个人主义的进路。
现实社会的情况也证明了这一点。
在2003年最高法院给出Grutter案和Gratz案的判决之后，所有的美国高校都遵循了最高法院的判决，采取了个人主义的招生政策，但种族因素在高校招生中依然扮演了重要角色。
一个近期的例子是，在2014年的美国大学本科录取中，一名名为库瓦斯•厄宁（KwasiEnin）的黑人申请者历史性地被八所常春藤大学同时录取，成为了各大新闻追踪的热点。
但看他的各项成绩，其实并不能算非常优秀。
他就读于一个普通高中，成绩排名11,LSAT成绩2250分，并且只获过一些校内荣誉。
[16]这样的申请条件如果放在白人或亚裔群体中，并不见得有多么突出。
但由于黑人申请者普遍条件较差，这已经足以让他出类拔萃，保证他被顶尖名校录取。
事实上，在Grutter案的反对意见中，伦奎斯特就不无尖刻地指出，密歇根法学院所谓的“相当多数”的招生目标其实只不过是一个“幌子（sham）”，其目的同样是为了增加某些族裔的百分比。
[17]通过对密歇根法学院历年的招生数据的考察，可以发现，从1995年到2000年间，某些少数族裔被录取的比例和这些少数族裔占据申请总人数的比例非常接近。
因此，密歇根法学院虽然声称意在实现生源的多样性和某些族裔的相当多数，但从实际效果上来说，这种做法其实与配额政策或加分政策并无本质上的不同，都是一种平权保护（affirmativeaction）的手段，都意在提高某些族裔尤其是黑人的录取率。
三、不可能的任务：
为何不存在价值中立的平等算法如果说在几个案件中法院多数意见犯了算法认知上的错误，对于何种算法更为平等做出了错误的判断。
那么随之而来的问题是，是否存在一种价值中立的平等算法，或者说存在宪法和法律平等保护的“唯一正确答案”，以供法院来遵循或借鉴呢？
[19]通过分析各派法官的法律意见以及学者的分析，我们将会发现，这是一个不可能的任务。
我们来看各方的观点。
在保守派法官看来，平权保护对于种族的区分和考虑违反了宪法第十四修正案的平等保护要求。
首先，他们认为，宪法第十四修正案不仅保护黑人，而且也保护白人。
在Bakke案中，Powell指出，对于宪法第十四修正案的解释不能做僵化的原旨解释，因为第十四修正案虽然因为黑人
问题而被制定，但它所用的术语都是一般性的，[20]白人也
同样应当受到第十四修正案的同等力度的保护，针对白人的种族区分和种族考虑也应当适用严格审查的标准。
[21]而对于历史上的社会歧视，Powell指出，社会歧视是一个“难以界定的有可能溯及遥远历史的伤害概念（amorphousconceptofinjurythatmaybeagelessinitsreachintothepast）”,[22]他援引之前几个最高法院判决中的多数意见，认为不能以一般性的矫正历史上的社会歧视的理由来进行种族区分。
保守派法官还指出，平权行动虽然具有矫正种族不公的作用，但也不可避免地带来一些不容忽视的问题。
第一，平权保护会牺牲某些无辜的白人的利益，这些白人的祖先或许曾经对黑人实施过不公，但他们自身并不是这些不公行为的施加者，要求他们承担这种历史的责任并不公平。
[24]更何况，这些被牺牲的无辜的白人中有很多本身也是社会中的一般家庭出身，本身并没有享受太多的社会资源。
第二，平权保护还可能使公共政策的制定陷入种族政治的陷阱，缺乏对公共利益的考虑，[25]如果平权行动演变为一种身份政治，那么其他族裔的人也可能会进行效仿。
这样，整个社会将甚至有被撕裂的可能。
[26]第三，如同托马斯等法官在很多判决书中一再指出的，平权保护会给某些族裔打上耻辱的烙印，平权行动会使得社会相信，即使这些种族在未来取得成功，也会被认为这个种族的天资或勤奋程度上不如其他族裔，其成功仅仅是因为受到了特殊照顾。
自由派法官则持有基本相反的立场。
首先，他们指出，以种族的理由对平权行动进行严格审查，这不符合对宪法第十四修正案的正确解释，因为平权行动虽然也考虑种族因素，但毕竟和美国历史上的种族歧视具有完全不同的性质。
在Bakke案中，布伦南法官的反对意见就指出，平权行动中利益受到损害的是白人群体，但白人群体并没有像黑人那样“经历过有意的不平等对待的历史，也没有在政治上被贬低以至于需要对他们在多数主义政治中进行特别的保护”。
[28]因此，对其进行严格审查完全是不合理的。
他认为，在分析种族区分和种族考虑的政策时，必须考虑这些政策的意图。
在戴维斯分校医学院的招生政策中，其意图并不是为了歧视某个种族，而是为了“矫正过去的社会歧视（societaldiscrimination）”。
因此，对于这种不是为了刻意贬低某个种族的政策，显然使用种族因素是符合第十四修正案的。
[29]而在Grutter案中，金斯伯格法官则更是从当前社会的无意识歧视和不平等的现实出发，论证平权行动的合理性。
她引用琳达•克雷格（LindaKrieger）的研究，指出当前美国社会中仍然广泛存在有意识的种族歧视和无意识的种族歧视。
[30]而在现实世界中，某些少数族裔在教育机会上要远远落后于其他群体。
例如，在公共教育中，绝大多数的黑人孩子和西班牙裔孩子上的都是少数族裔占多数的学校，而这些学校所能获取的教育资源比其他学校要差很多。
在学术界，这种自由派的看法更是占据了绝对的主流，保守派法官所谓“无视种族（color-blinded）”的平等立场受到了自由派学者一轮又一轮的攻击。
在Bakke案的前两年，面对最高法院逐渐采取的保守主义态度，欧文•费斯（OwenFiss）发表了一篇著名的论文，提出了反种族屈从（anti-subordination）和反种族区分（anti-classification）两种平等观。
[32]在他看来，宪法第十四修正案应当采取反种族屈从的平等保护，而非采取反种族区分的平等保护。
费斯在耶鲁大学法学院的同事瑞瓦•西格尔（RevaSiegel）也指出，将平等保护解释为无视种族或种族中立，这实际上是一种固化社会种族不平等的法律解释，和历史上曾经将种族隔离解释为“隔离但平等”的法律解释具有类似的效果。
[33]而有的学者则更加直接，直斥所谓的“无视种族”是另一种形式的种族主义。
综上所述，对于何谓黑人等少数族裔和白人之间的种族平等，自由派和保守派存在着根本性的分歧，[35]不可能找到一种完全客观平等的算法。
在保守派看来，平等保护必须是无视种族的，[36]这是对于布朗案所确立的宪法平等原则的最佳阐释。
但在自由派看来，平等并不意味着种族中立和不考虑种族，因为历史和社会上广泛存在的种族不平等是一个不容回避的现实，在这种情况下，一味地强调种族中立，这和鸵鸟将头埋进沙子一样自欺欺人。
而如果考虑亚裔的情况，我们会发现更难找到平等保护的“唯一正确答案”。
在美国高校招生的历史中，亚裔和黑人一样，都遭受了不平等的待遇。
按说，如果平权行动适用于黑人，那么基于历史矫正的理由，平权行动也应当适用于亚裔。
但是由于亚裔的天赋、努力以及对教育的重视，亚裔在成绩等申请条件上要远高于黑人甚至白人，这使得亚裔往往成为大学招生的牺牲对象。
[38]亚裔的录取人数往往被限定在一定比例，要进入同样水平的大学，亚裔往往需要远高于其他族裔的申请条件。
亚裔不但没有像黑人那样享受平权行动的照顾，甚至遭受了比白人还更明显的平权行动的不利影响。
[39]如果站在亚裔的角度思考，无论是平权行动还是非平权行动，无论是自由派的法律理论还是保守派的法律理论，可能对亚裔都是不公平的。
或许有人说，这种绝对平等的算法可以在罗尔斯的正义理论中找到。
既然平等和公平理论很难取得共识，那么大概唯一的方法就是设想一种“无知之幕（veilofignorance）”之下的公平，将每个人的社会地位、阶级出身、天生资质、智力水平、政治经济状况都统统抹去，设想一个没有个人身份属性的个人所选择的社会。
[41]而由于这个没有身份属性的个人有可能成为白人，也有可能成为黑人、亚裔或其他种族，因此这个人必定会选择一种较为平等或公平的招生制度，而不会倾向于某个特殊的种族。
通过消除人们的身份而消除人们的偏见，这或许可以实现对于平等的“重叠共识”。
但悖论的是，罗尔斯理论世界的完美恰巧源自于他对现实世界的回避，[42]在现实世界中，人们不可能通过消除自己的种种身份而消除伽达默尔所谓的“前见”。
[43]不同身份和立场的群体往往容易站在不同的角度看待平等问题，并且会将这种不同见解反应到对于宪法平等条款的解释上。
[44]关于平权行动的争论就是一个典型的例子，如果从各自的立场上去看，就会发现各方可能都倾向于认为自己受到了不平等对待，更需要“平等保护”。
这就像在分蛋糕的情形中，如果各方都对自己所分到的蛋糕不满意，认为应当多分一些，那么再怎么重分蛋糕也不可能让所有的人满意。
在这个意义上，试图寻找一种平等保护的“唯一正确答案”或完全客观公平的算法，的确是一种不可能的任务。
四、法律解释的技艺：
重思平权案判决行文至此，本文的分析似乎有些让人绝望：
美国最高法院不仅在宪法第十四修正案的解释与推理的过程中犯了错误，而且最高法院事实上没有矫正的机会--因为根本不存在正确答案，任何算法都存在不平等的伦理问题！
但在得出这个令人沮丧的结论之前，
升级会员 