合法性与同意
96一份判决之所以有约束力，是因为社会接受了做出裁决之人的权威。目前没有证据表明人们会接受由一台机器宣判的监禁、破产或抚养权丧失——法院靠的是这种接受，而非强制力。
从纸面上看，裁判似乎可以自动化：输入（证据、法律）、一个推理步骤、输出（一项裁决），全都是文本。法院正被积案淹没，一个能比人类裁决更快的软件听起来是显而易见的解药。这条流水线的部分环节确实正在快速自动化——检索、笔录、分诊，以及整整一类小额纠纷已经离开法庭，转向了在线解决。
但核心的交易却抗拒自动化，原因是社会性的，而非技术性的：一份判决之所以具有约束力，是因为败诉一方接受了做出裁决之人的权威。每一种法律体系都把这种权威导向一位具名、可问责、可被免职的人。真正诚实的问题不是AI能否起草出一份说得过去的裁决——它越来越能做到——而是社会是否会接受由一台机器判处监禁、破产，或剥夺一个人的子女。至今没有任何社会愿意尝试。
极低
Share of the work a machine could do
这份工作中或许有十分之一的工时——检索、起草常规命令、排期、笔录，以及大批量小额索赔的分诊——现实中已经可以自动化，在线法庭已经在吸收轻微纠纷。核心工作受到的保护，不仅来自技术上的困难，更来自宪法层面的设计：剥夺人的自由或财产，需要一位具名、其权威被接受、且可被追责的人。地球上没有任何立法机构把一份判决署上算法的名字。
Scored from the tasks, not the job title. Lower is safer.
Jobs AI cannot take →What machines cannot take
对剥夺自由的问责
93每一种法律体系都要求由一位具名、可被免职的人来为剥夺一个人的自由负责——可上诉、可弹劾、可被公开批评。算法可以被审计，却无法以宪法所指的意义承担责任。
不可重复事实中的公平
87量刑和家事案件取决于永远不会以同样组合再现的具体情境。基于过往模式训练的模型，恰恰在裁判最困难之处——真正前所未有的案件——结构上最为薄弱。
宪法层面的设计
84司法职位由宪法创设，明确规定人类任命、任期、宣誓与免职。让法官席自动化不是一次软件部署，而是对社会契约的重写，这正是没有任何国家尝试过它的原因。
临场可信度判断
76判断谁在撒谎至今仍是不完美的人类工作，但它建立在于宣誓下当面对质证人的基础之上——而对举止的推断，恰恰是机器学习偏见问题最为致命的领域。
What they already take
法律检索与初稿
72AI系统已能检索判例、总结诉状并起草常规命令；英格兰和美国多个州的司法指引如今允许此类使用——但每一次幻觉引证都由法官本人负责。
分诊、排期与笔录
68案件排期、流程管理、笔录和翻译是法院的后台事务，将其自动化能直接打击积案；印度的电子法院项目和中国的智慧法院系统正大规模开展这项工作。
小额索赔与交通违规裁决
55在线解决方案已经能端到端裁决低价值纠纷：加拿大不列颠哥伦比亚省自2016年起的民事纠纷解决法庭、杭州互联网法院自2017年起，以及eBay每年在没有任何法官参与的情况下解决数千万起纠纷的系统。
保释与量刑的风险评分
40COMPAS等算法风险评分已经在美国法院用于保释和量刑参考——2016年威斯康星州诉卢米斯案在附带警告的情况下维持了这一做法——而已被证实的种族偏见发现，使人工复核既是强制要求，也充满争议。
How the work is changing
法庭转移到线上
整整一层低价值纠纷正从实体法庭转向异步的在线法庭——不列颠哥伦比亚省、杭州、英格兰的在线金钱索赔——留给人类法官的案卷变小了，却更难，因为只剩下有争议、高风险的案件。
坐在你身边审判席上的算法
风险评分、量刑计算器和AI研究助手日益框定着法官的出发点。未来十年这门手艺面临的核心问题是锚定：当整套锚定心理学都指向相反方向时，法官能否把机器的输出仅仅当作众多参考之一。
被测量、被画像的法官
诉讼分析公司如今能根据个别法官的过往记录预测其行为——法国在2019年的司法改革中对此作出回应，直接全面禁止对法官进行画像分析，违者最高可判五年监禁，这是任何国家在司法数据周围划出的最严厉的法律界线。
身处围困中的法官席
法官日益成为攻击目标：自21世纪10年代末以来，针对美国联邦法官的威胁急剧上升，一家英国小报在2016年把高等法院法官称为“人民公敌”，波兰、以色列等地围绕司法独立的斗争已从法律评论走上街头。安全和政治化如今正在塑造这份工作本身。
New jobs branching off
在线纠纷解决设计师
构建在线法庭的流程、表单和和解算法——一半是律师，一半是产品设计师——这一角色在不列颠哥伦比亚省2016年的民事纠纷解决法庭证明这一模式之前几乎不存在。
法院数据科学家
在司法系统内部分析案件流转、积案和结果数据——印度的电子法院和中国的智慧法院项目都大量雇用此类人员——为首席大法官指明体系真正失灵之处。
仲裁员与私人法官
退休法官越来越多地通过仲裁机构和JAMS这类公司，出售一样无法被自动化的东西——受信赖的裁决能力——比他们离开的公共法官席更快、也更丰厚地裁决商业纠纷。
算法司法审计员
在法院采用风险评分、在线纠纷解决系统和AI研究工具之前和之后，测试其偏见和错误——这一学科诞生于COMPAS争议，如今已被写入多个司法辖区的采购规则。
Outlook
现实的近期前景是一份更小、更难的工作：软件和在线法庭剥离了案卷中常规的那一端——无争议的债务索赔、交通违规、小额金钱纠纷——而有争议、高风险的核心部分则集中到人类法官面前，他们拿到的是机器起草的检索资料和机器评分的风险评估，必须加以权衡，并且有权拒绝。
真正的压力点不是替代，而是影响：一个容易被锚定的人，身边坐着一个自信满满的算法，这是一种真正全新的宪政处境，卢米斯案的警告或法国的分析禁令都只是管理这一处境的最初尝试。可以预期，关于法官如何使用AI的法律，会比用AI取代法官的法律更多。
不变的是这一职位的根基。各社会保留法官，原因与四千年前发明这一职位时相同：当一切都有争议时，必须有一个可问责的人来做决定，而双方都必须能接受这个决定并继续生活下去。这不是软件能够满足的任务描述，因为归根结底，这不是一项任务——而是一种信任。
Keep exploring
More in Law & Public Service
👔
律师
为客户提供法律意见，起草具有约束力的文件，并在案件进入法庭时为其辩护——若建议有误，还须承担个人法律责任。
AI-resistant 58 🕊️外交官
从古代的王室使节和威尼斯的常驻大使，到维也纳会议和联合国，至今仍在一字一句谨慎地谈判和平。
AI-resistant 78 🚓경찰관
순찰하고 수사하며 치안을 지키는 선서 경찰관 — 비독의 잠입 수사관과 필의 1829년 순경들로부터 대중의 신뢰가 흔들리는 오늘날까지 이어져 온 직업이다.
AI-resistant 66 🚒소방관
모두가 도망치는 곳으로 뛰어드는 직업 — 로마의 비길레스와 에도의 마토이 대원부터 오늘날의 산불 진화대와 24시간 근무 구조대까지.
AI-resistant 90 📋공무원
선출직 인사들이 오고 가는 동안에도 법을 집행하고 공공서비스를 전달하며 정부를 계속 돌아가게 하는, 시험으로 선발된 국가의 상근 인력.
AI-resistant 42