人工智能在司法监控过程中的伦理维度：正义还是自动化偏见？
如果一个算法仅因为你住在某个街区就判定你“有犯罪风险”，这是正义还是数学偏见？人工智能正进入法庭和警车，承诺提高效率，却携带着历史数据的偏见。让我们探讨欧洲新的人工智能法案如何试图阻止“预测性警务”的滥用，以及为何司法永远无法完全自动化。
想象一下你被逮捕了。你最近没有犯下任何罪行，但一个软件计算出你在未来48小时内犯罪的可能性高达85%。警察敲响你的门进行“预防性”检查。或者想象你站在法官面前请求假释。法官看着屏幕，看到一个由专有算法（无人知晓其代码）生成的红色分数，然后拒绝了你的请求。不是因为你在监狱里做错了什么，而是因为历史数据表明，“像你这样的人”（相同社区、相同种族、相同收入）更容易再次犯罪。
这个场景并非电影《少数派报告》的情节。这是许多使用预测性警务和风险评估算法工具的法域中，每天都在发生的现实。人工智能承诺让司法更高效、更快速、更客观。但如果算法不是一个公正的法官，而是一面放大我们社会最黑暗偏见的镜子，会发生什么？
在本文中，我们将探讨算法监控的伦理维度，分析历史数据偏见如何转化为系统性歧视，新的欧洲《人工智能法案》如何阻止这种趋势，以及是否有可能构建一个服务正义而不践踏基本权利的人工智能。
1. 中立性的神话：预测性警务与偏见
预测性监控背后的想法很诱人：利用数据将警力资源分配到最需要的地方。然而，正如我们在关于预测性监控与预测性警务的深度分析中所探讨的，存在一个根本的逻辑错误：人工智能预测的不是犯罪，而是警务活动。
COMPAS 案例：代码中的种族主义
在美国法庭用于评估再犯风险的COMPAS软件，已成为伦理失败的象征。OxJournal引用的一项基础研究表明，该算法对非裔美国人的假阳性率（被标记为高风险但未犯新罪的人）为45%，而对白人的假阳性率为23%。该算法并未明确使用“种族”变量。它使用了邮政编码、收入、社交关系和过往逮捕记录等代理变量。但在一个少数族裔历史上被过度监管的社会中，使用历史逮捕数据意味着教会人工智能“在那个社区是黑人”等同于“是罪犯”。正如NAACP所谴责的，这造成了一个毁灭性的反馈循环：警察被派往“高风险”社区，因轻微犯罪逮捕更多人（在其他地方这些行为可能被忽视），逮捕数据输入算法，算法则确认该社区“高风险”。这是一个自动实现的预言。
历史偏见 vs. 算法公平
问题不在于算法“坏”，而在于它“愚蠢”。它从我们提供的数据中学习。如果数据反映了数十年的系统性歧视，人工智能只会自动化并加速这种歧视，并为其披上科学客观性的外衣（“电脑是这么说的”）。要深入了解人类偏见如何感染代码，请参阅我们关于算法偏见与隐形歧视的文章。
2. 监管之墙：《人工智能法案》与欧洲禁令
当美国的算法“狂野西部”仍在继续时，欧洲已经划下了一条红线。新的《人工智能法案》代表了全球范围内规范司法中人工智能使用的最雄心勃勃的尝试。
高风险系统与绝对禁令
正如Artificial Intelligence Act EU所解释的，《人工智能法案》第5条明确禁止了一些被认为对基本权利“不可接受”的做法：
- 社会信用评分：禁止使用人工智能基于社会行为评估个人的可信度。
- 基于侧写的预测性警务：禁止使用仅基于侧写或个人特征（而无具体事实）来评估个人犯罪风险的系统。
- 情绪识别：禁止在执法背景下（例如审讯期间）推断情绪，因为其背后的科学不可靠，且滥用风险极高。
此外，用于辅助法官或评估证据的人工智能系统被归类为“高风险”。这意味着它们必须遵守严格的要求：高质量数据集（以最小化偏见）、完全透明（无“黑箱”）、强制性人工监督以及记录所有日志以供未来审计。
欧洲理事会的伦理宪章
不仅有法律，还有原则。《欧洲司法系统中使用人工智能的伦理宪章》确立了“使用者控制”原则：法官必须始终能够偏离算法的决定，并且必须能够向各方解释其逻辑。“无人脸”的“自动化司法”被认为与法治不相容。
3. 司法伦理：机器时代的法官
人工智能引入法庭，为法官和律师提出了深刻的职业道德问题。
“黑箱”风险
如果法官使用软件来决定判决，却不知道软件如何得出该结论（因为受商业秘密保护），那么他就是在放弃其说理义务。被告如何针对一个黑箱产生的指控进行辩护？正如国家州法院中心（NCSC）所强调的，不加批判地使用不透明的工具违反了“正当程序”原则。
法庭中的自动化偏见
此外还有心理风险。经合组织（OECD）引用的研究表明，人类倾向于盲目信任计算机的建议（“自动化偏见”）。如果软件显示“高风险”，一个疲惫或工作过度的法官可能会出于安全考虑倾向于确认该评估，从而将算法建议转变为事实上的判决。我们在我们具有挑衅性的文章中分析了人工智能是否有一天能取代法官：人工智能会取代法官吗？自动化司法的利弊。
4. 超越批判：追求公平正义的人工智能？
能否在司法中以合乎伦理的方式使用人工智能？一些专家认为可以，但前提是改变范式。
审计与透明度
像Tranquility AI这样的组织建议引入强制性的独立算法审计。在法庭使用之前，软件应经过“压力测试”，以验证其是否歧视少数群体，就像药品在上市前需要测试一样。
服务于辩护，而不仅仅是控诉的人工智能
人工智能也可以成为保障工具。它可以分析数百万页文件，寻找人类律师可能遗漏的无罪证据。它可以监控法官的判决，以检测他们的人类偏见（例如，法官在午餐前判刑更重）并标记出来以便纠正。目标不应是“预测性警务”，而是“增强型司法”，即技术帮助减少人为错误，而不是将其系统化。
5. 大规模监控与基本权利
最后，我们不能忽视更广泛的背景。人工智能在司法中的使用，是置于日益普遍的大规模监控生态系统之中的。正如我们在关于大规模监控与隐私保护的文章中所讨论的，用于“安全”的面部识别和行为分析技术正在逐步侵蚀个人自由的空间。如果我们的一举一动都被一个寻找异常行为的算法追踪和评估，我们还是自由的公民吗？还是我们都成了“等待审判的嫌疑人”？
常见问题
预测性警务在欧洲合法吗？《人工智能法案》禁止完全基于侧写或个人特征的系统。然而，使用分析软件绘制犯罪“热点”地图（针对地点，而非个人）仍然是允许的，但必须有严格的保障措施。界限很微妙，并将成为许多法律斗争的焦点。
法官可以使用ChatGPT撰写判决书吗？绝对不行，这在伦理上极其严重。ChatGPT会“产生幻觉”（编造不存在的事实和法律先例）。已有律师因引用人工智能编造的案例而受到处罚。司法需要事实真相，而非统计上的似真性。
我如何知道是否被算法评估过？根据《通用数据保护条例》和《人工智能法案》，你有权知道影响你的决定是否是自动化做出的，并且有权要求人工干预。透明度是一项基本权利。
结论：正义不是计算
效率是一种企业价值，而非司法价值。司法的目标不是尽可能在最短时间内处理最多的人，而是确保每个个体都得到公平的审判。人工智能凭借其统计和功利主义的逻辑，难以理解诸如“仁慈”、“减轻情节”或“合理怀疑”等概念。在我们将这些强大的工具整合到我们的法庭和警察局时，我们必须记住：算法可以计算风险，但只有人类的良知才能理解罪责，以及更重要的是，救赎的可能性。