目次

一、人工智能算法歧视的法律界定

二、人工智能算法歧视的形成机制

三、人工智能算法歧视的统计证明

四、人工智能算法歧视的举证与司法审查

五、结语

引言

2026年9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》（以下简称《意见》），明确提出防范和消除算法歧视，并对利用算法实施不合理差别待遇的行为以及涉人工智能案件的证据审查作出规定。这为算法歧视纠纷的司法处理提供了新的规范依据。[1]

法律虽已明确要求防范算法歧视，但在具体诉讼中，如何发现和证明歧视仍是难题。

与传统的差别待遇不同，人工智能系统可能并未被直接设置歧视性规则，却因训练数据、算法设计或模型运行过程中的偏差，对特定个人或群体产生持续的不利影响。即便不同群体的决策结果存在明显差异，也未必构成法律意义上的歧视。

这就产生了一个现实的司法问题：当事人认为自己遭受算法歧视时，究竟应当证明什么，又应当如何证明？

本文以《意见》为起点，结合人工智能公平性与统计分析方法，讨论算法歧视如何形成、当事人如何举证，以及法院怎样审查和认定。

一、人工智能算法歧视的法律界定

人工智能算法歧视，是指人工智能系统在数据处理、模型训练或者自动化决策过程中，对特定个人或群体产生具有歧视性质的差别待遇。其特点在于，差别待遇并不一定来源于人为设置的歧视性规则，也可能产生于算法所使用的数据和模型的运行机制。

《意见》第（二）项明确提出防范和消除算法歧视，但并未对算法歧视作出统一的法律定义，也未规定适用于所有场景的具体认定标准。

《意见》第（十）项则进一步规定了利用算法实施不合理差别待遇的法律责任。根据该项规定，经营者针对同一商品或者服务，利用算法在交易价格等交易条件上实行不合理的差别待遇，侵害他人合法权益并造成损害的，应当依法承担相应的侵权责任。对于差别待遇是否合理，法院应当结合消费者权益是否受到实质性限制或者损害、差别待遇形成所依据的信息以及诚信原则和商业伦理等因素，综合判断其理由是否正当、充分、非歧视。

算法作出不同决定，并不当然构成违法歧视。人工智能可以根据不同条件作出不同决策，法律需要规制的是缺乏合理依据、侵害受保护权益的差别待遇。

认定算法歧视，应当查明差别待遇的原因及其合理性，再依据具体法律规定判断是否违法，而不能只比较不同群体的决策结果。

随之而来的问题是：人工智能算法为什么会产生具有歧视性质的差别待遇？当事人又应当如何证明这种差别待遇确实存在？

二、人工智能算法歧视的形成机制

算法歧视未必源于开发者有意设置的规则。与传统程序主要依照预先设定的规则运行不同，机器学习系统通常通过对大量数据进行训练，识别数据中的规律，并据此作出预测或者决策。因此，即使算法本身没有明确针对特定群体作出区别对待的指令，也可能因训练数据、样本选择或者模型运行机制中的偏差，产生具有歧视性质的结果。

（一）历史数据偏见的继承与放大

模型通常使用历史数据训练，而这些数据未必客观、中立。如果某些群体在过去长期受到不公平对待，相关差异就可能被记录在训练数据中，并进一步影响模型的判断。

例如，某企业使用过去十年的招聘记录训练人工智能筛选系统。如果历史招聘结果受到性别偏见影响，男性应聘者获得录用的比例长期高于女性，模型就可能从这些数据中学习到不合理的偏好。即使开发者没有设置优先录用男性的规则，系统仍可能在后续筛选中延续原有偏差。

（二）训练样本缺乏代表性造成的系统性偏差

统计学将这种问题称为抽样偏差（Sampling Bias）。当训练数据主要来自某一类人群，而实际使用对象具有更广泛的特征时，模型可能对训练样本覆盖充分的群体作出较准确的判断，却对其他群体产生较高的错误率。

例如，一套人工智能识别系统主要使用某一年龄群体的数据进行训练，在应用于其他年龄群体时，其识别准确率可能明显下降。如果这种偏差持续影响特定群体的权益，就可能成为算法歧视争议中的重要事实。

（三）间接变量导致的差别待遇

人工智能模型即使没有直接使用性别、年龄等特征，也可能使用与这些特征密切相关的其他变量，从而在实际决策中产生类似的差别影响。

例如，算法虽然没有直接将性别作为筛选条件，却可能通过职业经历、工作中断时间等变量，对特定群体产生系统性不利影响。

审查算法的歧视性影响，除了核查其是否直接使用敏感特征，还应分析其他变量如何影响决策。

（四）反馈机制对既有偏差的强化

人工智能系统还可能通过持续学习和反馈机制强化既有偏差。如果模型将此前的决策结果重新作为训练依据，原有的不公平结果就可能不断被重复和放大。

例如，某人工智能系统持续降低特定群体获得某项机会的概率，而后续模型训练又将这些决策结果作为历史数据，便可能进一步强化原有偏差，使差别影响持续扩大。

歧视性结果可能形成于数据收集、样本选择、模型训练及实际应用的不同环节。即使算法代码中不存在明确的歧视性指令，也不能据此排除算法产生歧视性结果的可能性。

但是，上述偏差的存在并不当然意味着构成法律上的违法歧视。司法认定仍然需要进一步审查：算法是否实际造成了具有法律意义的差别待遇，这种差别待遇是否存在合理依据，以及相关技术事实能否通过证据得到证明。

调查算法歧视，不能只看设计规则，还应核查训练数据、模型运行过程及实际决策结果。

三、人工智能算法歧视的统计证明

有些算法歧视并不表现为明确的规则，而是体现在大量自动化决策的结果中。因此，当事人即使无法直接了解算法内部的运行机制，仍可以通过对决策结果进行统计分析，发现并证明可能存在的系统性差别待遇。

统计分析将分散的决策结果汇总为可比较的数据，使当事人能够检验差别待遇是否存在。

（一）通过统计比较发现算法决策中的系统性差异

单次决策未必能揭示问题，大量决策结果则可能呈现稳定的差异。

例如，某平台使用人工智能系统决定用户能否获得某项服务。统计发现，在接受系统审核的1000名A类用户中，有700人获得批准，通过率为70%；而1000名B类用户中，只有500人获得批准，通过率为50%。

两组用户的通过率相差20个百分点。这还不足以证明算法违法，却值得进一步调查。

如果这种差异在较长时间、较大样本范围内持续存在，便可能反映出算法决策中的系统性差别影响。

统计比较的作用，是将对不公平待遇的怀疑落实为可检验的数据。

（二）通过合理抽样与统计推断验证差异的真实性

发现差异之后，还需要确认这种差异能否代表算法系统的实际运行情况。

如果当事人收集的数据主要来自投诉者，或者集中于某个特殊时间段，那么所得结论就可能受到抽样偏差（Sampling Bias）的影响。

原告应交代研究对象、样本来源和抽样方式，说明样本为何能够反映算法的实际运行情况。

在具备适当抽样条件时，还可以利用统计推断（Statistical Inference）和置信区间（Confidence Interval），评估观察到的差异是否可能受到随机抽样误差影响。

样本多不等于结论可靠。只有在数据来源和抽样方法合理的情况下，扩大样本规模才有助于提高统计估计的精确程度。

样本与分析方法足够可靠，才能说明观察到的差异可能并非个别偶发情况。

（三）通过对照分析识别差别待遇的可能原因

发现统计差异之后，还要分析它与哪些决策因素有关。

这一问题涉及统计学中相关性与因果关系的区别。

例如，前述A类、B类用户通过率不同，可能与其申请条件、服务类别等因素有关。如果直接把全部差异归因于用户所属群体，就可能忽略其他影响决策的原因。

可以采用分组比较、条件匹配等方法，检验条件相近的用户是否仍受到不同待遇。

在具备测试条件的情况下，还可以设计对照测试：保持与决策有关的其他条件一致，仅改变需要检验的某项特征，观察算法输出是否发生系统性变化，并通过重复测试检验结果的稳定性。

这种方法有助于识别相关特征是否影响算法决策。但如果算法通过其他间接变量形成差别影响，仅改变一项显性特征的测试也可能无法发现全部问题。

统计学中的辛普森悖论（Simpson＇s Paradox）进一步提醒我们：总体数据中的差异，可能因不同群体的内部构成不同，而在分组比较后发生变化。因此，针对算法歧视的统计分析，应根据争议事实选择合理的比较条件，避免将其他因素造成的差异直接归因于算法中的歧视性因素。[2]

对照分析不仅呈现差异，还能帮助查找差异的可能来源。

（四）通过重复验证增强统计证据的证明力

输入数据、运行环境和模型版本都可能影响决策结果。因此，测试还应检验差异能否重复出现。

如果仅在一次测试中发现不同结果，其证明力可能较为有限；如果在相同或者具有可比性的测试条件下，多次观察到方向一致、具有一定幅度的差异，则能够增强有关系统性差别待遇主张的可信度。

对于重复测试，还应记录测试时间、输入条件、模型版本及实际输出，避免不同测试条件造成的变化影响分析结论。

此外，群体统计结果还应与原告自身受到的具体处理相结合。统计分析能够说明算法系统可能存在普遍性的差别影响，而原告仍需根据具体请求权基础，证明与其权利主张有关的事实。

统计比较、抽样、对照分析与重复验证，可以为原告提供有关系统性差别待遇的证据。差别待遇是否违法，仍须依据法律判断。

原告即使拿不到源代码，也可能先从算法输出中取得支持其主张的证据。

但当事人所能取得的数据往往有限，要进一步查明差别待遇的形成原因，仍可能需要调取算法训练数据、决策记录等关键技术资料。这些材料如何取得，还需要借助诉讼证据规则。

四、人工智能算法歧视的举证与司法审查

统计分析发现差异，并不意味着诉讼证明已经完成。算法决策的形成原因、相关数据的真实性以及差别待遇是否具有合理依据，仍有待进一步查明。

在人工智能算法歧视纠纷中，原告往往只能观察到自身受到的处理结果，而训练数据、模型规则和运行记录通常由算法开发者或者使用者掌握。

《意见》第（十七）项和第（十八）项，分别对技术事实查明与证据审查作出规定。结合《个人信息保护法》及现行民事诉讼证据规则，下文分别讨论初步举证、调查取证、证据审查和违法性认定。

（一）原告应当围绕具体差别待遇组织初步证据

原告起诉时，首先要说明哪项权益受到侵害，以及哪些事实能够支持这一主张。

如果原告仅笼统地声称某一人工智能系统存在算法偏见，却不能说明自身受到何种差别待遇，相关诉讼主张便难以形成明确的证明对象。

原告应从具体决定着手，保存自身受到的处理结果、交易或服务条件，以及同类对象受到不同处理的证据。

对于能够取得的群体决策数据，还可以结合第三部分所述的统计比较、抽样分析和对照测试，说明争议中的差别待遇并非孤立现象，而可能具有持续性或者系统性。

在涉及个人信息处理的案件中，《个人信息保护法》第24条具有重要意义。该条要求利用个人信息进行自动化决策时保证透明度以及结果的公平、公正，并对交易价格等条件中的不合理差别待遇作出禁止性规定。同时，对于通过自动化决策作出的、对个人权益具有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝仅通过自动化决策作出决定。[3]

因此，在符合上述法定条件的情况下，原告可以先依法请求解释有关自动化决策，并保存请求及处理者答复的相关记录。初步举证的重点是具体决策结果和可比对象的处理差异，不宜一开始就要求原告证明整个算法系统有缺陷。

（二）算法黑箱下应当依法运用证据调查与提交机制

在原告已经提出初步事实依据的情况下，进一步查明差别待遇的形成原因，可能需要取得算法使用的数据、决策记录或者相关技术资料。

但这些材料通常由被告掌握，原告难以自行获取。

要求原告在无法接触关键材料时完整还原算法运行机制，往往不现实。

对此，《意见》第（十七）项提供了重要的程序规则。

根据该项规定，当事人因客观原因不能自行收集证据的，可以申请人民法院调查收集；必要时，人民法院也可以依职权调查收集。对于固定关键技术的证据保全申请，法院应当依法及时审查。

该项还规定，控制书证、电子数据等证据的一方无正当理由拒不提交的，可能承担相应的不利证明后果。

算法不透明，不能成为拒绝司法调查的当然理由。

不过，证据调查也不意味着原告可以不加限制地要求对方公开全部训练数据、源代码和商业技术资料。

《最高人民法院关于民事诉讼证据的若干规定》第45条至第48条对书证提出申请、法院审查以及拒不提交书证的后果作出具体规定。其中，第45条要求申请人说明有关书证的名称或者内容、待证事实及其重要性、对方控制该书证的根据和提交理由。[4]

这一要求对算法歧视诉讼具有现实意义。

申请调查取证时，律师需要明确技术材料与待证事实的联系。例如，争议涉及特定时期的自动化审批结果，就可以围绕该时期的决策记录、主要输入变量、模型版本及相关测试材料提出有针对性的证据申请，而不必一开始就请求获取整个算法系统的全部资料。

美国 Mobley v. Workday, Inc. 案进一步揭示了这一难题。原告主张AI招聘筛选工具对特定群体产生歧视性影响，并申请调取偏见测试资料及客户申请数据。美国加利福尼亚北区联邦地区法院2026年5月28日作出的证据开示裁定，以律师—客户保密特权为由拒绝强制披露偏见测试数据，并因原告未证明Workday对其客户的申请人数据具有控制权而未支持该部分取证请求；但法院责令Workday提交EEO-1及美国联邦合同合规项目办公室（OFCCP）相关文件。该裁定仅处理取证范围，并未最终认定Workday构成算法歧视。[5]

因此，算法黑箱下的取证重点，不是公开整套系统，而是依法取得足以解释争议决定的关键材料。

（三）法院应当对统计证据的真实性、可靠性及证明力进行实质审查

统计分析报告可能是算法歧视案件的重要证据。

报告使用数学计算或人工智能技术，并不能保证结论准确。即使原始数据真实，错误的统计方法或者具有误导性的呈现方式，也可能影响法院对案件事实的判断。

《意见》第（十八）项明确要求，对大数据分析报告类证据，重点审查原始数据来源、清洗规则及分析方法的科学性。

这为统计分析报告的审查提供了明确依据。

法院首先要核对数据的真实性、完整性，以及数据范围是否覆盖争议中的相关决策。

如果统计报告只使用部分数据，法院需要进一步了解样本选择的依据，以及未被纳入分析的数据是否可能改变结论。

第二步是核对数据清洗和处理过程。

例如，统计报告是否删除了异常数据、是否排除了某些申请人，以及有关处理是否具有合理依据。如果数据处理方式使特定群体的有利结果被大量排除，就可能导致统计结论产生偏差。

还要检查比较方法是否科学。

原告主张某一群体受到系统性不利待遇时，法院需要判断比较对象是否具有可比性，统计分析是否考虑了与决策具有合理关联的因素，以及有关结论能否得到数据支持。

这一问题与统计学中的抽样偏差、相关性和因果关系密切相关。

图表呈现本身也可能误导事实判断。

例如，某统计报告显示两组用户的通过率分别为70%和60%，实际差异为10个百分点。如果柱状图的纵轴从50%而不是0开始，两组柱形的视觉差距就可能被显著放大。

以下示意图使用假设数据，展示纵轴设置与展示区间如何影响对统计结果的直观判断。

说明：图1—图3均使用假设数据，不对应具体案件。其中，图1、图2的70%与60%，与第三章70%与50%的示例互不关联。

数字没有变，读图时的直观印象却可能发生偏差。

类似地，选择性展示某一时间段的数据、隐藏不利于自身结论的分组结果，或者未明确标注统计口径，也可能影响事实判断。

《意见》第（十八）项没有直接规定图表绘制方式，但其对分析方法科学性的审查要求，也提示法院应注意图表可能造成的误导。

对于具有较强专业性的统计争议，法院还可以根据《意见》第（十七）项，依法发挥鉴定人、专家辅助人和技术调查官等的作用，辅助查明事实。

审查统计报告，不能只看最后的数字；数据从哪里来、怎样清洗、如何比较，也关系到结论是否可信。

经过上述审查，统计报告才能可靠地支持案件事实认定。

（四）算法差别待遇的违法性认定

查明差别待遇后，法院还要判断这种待遇是否违法。其关键并不在于算法是否作出了不同决定，而在于不同决定是否具有正当理由，以及是否侵害了法律保护的权益。

判断差别待遇是否合理，应当结合算法的实际应用场景进行分析。例如，在招聘过程中，算法根据应聘者的专业能力、工作经验等与岗位要求有关的条件进行筛选，通常具有一定合理性；但如果算法在应聘条件相当的情况下，持续对特定群体作出不利决定，且缺乏正当解释，就需要进一步审查是否违反平等就业等相关法律规定。

最高人民法院《意见》第（十）项为消费者交易领域的算法差别待遇提供了具体的审查依据。法院应当结合消费者权益受到的影响、差别交易条件的形成原因以及诚信原则和商业伦理等因素，判断经营者实施差别待遇的理由是否正当、充分、非歧视。但对于招聘等其他领域的算法歧视争议，仍应依据相应的实体法律进行认定。

认定算法歧视，不以查获歧视性代码为必要前提，也不能只凭统计差异下结论。法院应当在查明差别待遇事实的基础上，结合其形成原因、合理性及相关法律规定，判断是否构成违法行为，并依法确定相应法律责任。

五、结语

人工智能算法歧视的特殊性在于，其歧视性结果未必来源于明确设置的歧视规则，而可能形成于训练数据、模型设计及自动化决策过程中的系统性偏差。审理此类纠纷，需要同时处理技术原理、统计证据和法律评价。

最高人民法院《关于依法审理涉人工智能纠纷案件的意见》明确提出防范和消除算法歧视，并对不合理差别待遇的责任认定、技术事实查明及证据审查作出规定，为相关纠纷的司法处理提供了重要依据。

在算法歧视诉讼中，原告可以先通过统计分析提出差别待遇的事实依据，再结合训练数据、算法运行记录等材料查明原因。法院最终仍须依据具体法律规范判断有关行为是否违法。

统计分析能揭示偏见，也会受到数据选择、分析方法和图表设计的影响。因此，法院不仅需要审查算法本身，还应当审查用于证明算法歧视的统计证据是否科学、可靠。

算法歧视案件能否得到妥当处理，最终取决于法院能否查清差别待遇的成因，并依据具体法律规范作出判断。

注释（上下滑动阅览）

【1】最高人民法院：《关于依法审理涉人工智能纠纷案件的意见》，法发〔2026〕10号，2026年9月7日发布，载最高人民法院网站，https://www.court.gov.cn/zixun/xiangqing/511101.html。本文所引第（二）、（十）、（十七）、（十八）项均见该《意见》。

【2】P. J. Bickel, E. A. Hammel & J. W. O’Connell, “Sex Bias in Graduate Admissions: Data from Berkeley,” Science, Vol. 187, No. 4175, 1975, pp. 398–404, DOI: 10.1126/science.187.4175.398。该研究分析分组与总体统计结论的差异；这里仅作为统计分析方法的学术来源，而非算法歧视司法案例。

【3】《中华人民共和国个人信息保护法》第24条，参见工业和信息化部网站法律法规公开文本https://www.miit.gov.cn/jgsj/zfs/fl/art/2022/art_515a4b20c12f430eab54bb4f56d89f56.html。

【4】《最高人民法院关于民事诉讼证据的若干规定》第45—48条，载最高人民法院网站：https://www.court.gov.cn/zixun/xiangqing/212721.html。该组条文直接规范的是责令提交书证的程序；电子数据的调查收集和不利推定，另须依相关程序规范及《意见》第（十七）项具体适用。

【5】Mobley v. Workday, Inc., No. 23-cv-00770-RFL (LB), Discovery Order, ECF No. 340, U.S. District Court for the Northern District of California, May 28, 2026 (filed May 29, 2026), https://cases.justia.com/federal/district-courts/california/candce/3%3A2023cv00770/408645/340/0.pdf。该裁定仅就证据开示申请作出判断，不是算法歧视实体责任判决。

作者：朱玮洁

编辑：Sharon