正統性と同意
96判決が拘束力を持つのは、社会がそれを下した者の権威を受け入れるからだ。人々が刑務所、破産、親権喪失を機械から言い渡されることを受け入れるという証拠はまだ存在せず、裁判所はその受容の上に成り立っている。力の上にではない。
裁判は書類上、自動化可能に見える――入力(証拠、法)、推論の段階、出力(決定)、そのすべてがテキストだ。裁判所は滞留案件に溺れており、人間より速く決定するソフトウェアは明白な治療法に思える。実際、パイプラインの一部はすでに急速に自動化しつつある――調査、記録作成、振り分け、そして少額紛争の丸ごとの範疇がすでに法廷を離れオンライン解決へと移行している。
しかし核心の取引には抵抗がある。それは技術的というより社会的な理由からだ。判決が拘束力を持つのは、敗訴した側がそれを下した人物の権威を受け入れるからである。あらゆる法制度は、その権威を、名前があり、責任を負い、解任されうる人間を通して機能させている。正直な問いは、AIがもっともらしい判決を起草できるかどうか――それはますますできるようになっている――ではなく、社会が刑務所や破産、子どもの喪失を機械から受け入れるかどうかである。まだどの社会もそれを試みる意志を持っていない。
非常に低い
Share of the work a machine could do
この仕事の作業時間のおそらく1割――調査、定型命令の起草、日程調整、記録作成、そして大量処理される少額訴訟の振り分け――は現実的に今すぐ自動化可能であり、オンライン審判所はすでに軽微な紛争を吸収しつつある。しかし核心の業務は、技術的な難しさだけでなく憲法上の設計によって守られている。人の自由や財産を奪うには、権威を受け入れられ、責任を問われうる、名前のある人間が必要だ。地球上のどの立法府も、まだアルゴリズムの名を刑の宣告に付していない。
Scored from the tasks, not the job title. Lower is safer.
Jobs AI cannot take →What machines cannot take
自由に対する説明責任
93あらゆる法制度は、人の自由を奪うことについて答えを負う、名前のある解任可能な人間を必要とする――上訴でき、弾劾でき、公然と批判できる相手だ。アルゴリズムは監査できても、憲法が想定する意味では責任を負うことができない。
前例のない事実における公平性
87量刑や家事事件は、二度と同じ組み合わせでは起こらない事情に左右される。過去のパターンで訓練されたモデルは、裁判が最も難しい――真に前例のない事件――まさにその局面で構造的に最も弱い。
憲法上の設計
84裁判官職は、人間による任命、在職期間、宣誓、解任を明記した憲法によって創設されている。法壇の自動化はソフトウェアの導入ではなく、社会契約そのものの書き換えである。どの国もそれを試みていない理由はそこにある。
生の信用性評価
76誰が嘘をついているかを見極める作業は今も不完全な人間の仕事だが、それは宣誓のもとで証人と対面することに基づいている――そして態度からの推論こそ、機械学習の偏見に関する調査結果が最も手厳しく指摘する領域である。
What they already take
法律調査と初稿
72AIシステムはすでに判例を検索し、提出書類を要約し、定型命令を起草している。英国と米国の複数の州の司法指針は、幻覚による誤った引用のすべてについて裁判官自身が責任を負うという条件で、こうした利用をすでに認めている。
振り分け、日程調整、記録作成
68案件配置、事件の流れの管理、記録作成、翻訳は裁判所の裏方業務であり、これらの自動化は滞留案件に直接切り込む。インドのeコート計画や中国のスマート法廷システムはまさにこれを大規模に行っている。
少額訴訟と交通違反の裁定
55オンライン紛争解決はすでに低額の紛争を端から端まで裁定している――2016年以降のブリティッシュコロンビア州の民事解決審判所、2017年以降の杭州インターネット裁判所、そして裁判官なしで年間数千万件の紛争を解決するeBayのシステムだ。
保釈と量刑のリスクスコアリング
40COMPASのようなアルゴリズムのリスクスコアはすでに米国裁判所の保釈・量刑判断に用いられている――2016年のウィスコンシン州対ルーミス事件は警告付きでその使用を支持した――一方で文書化された人種的偏見の調査結果は、人間による上書きを必須かつ論争的なものにし続けている。
How the work is changing
法廷がオンラインへ移る
低額紛争の広い階層が、物理的な法廷から非同期のオンライン審判所へと移行しつつある――ブリティッシュコロンビア州、杭州、英国のオンライン金銭請求。人間の裁判官には、より小さいが、より難しい案件表が残される。争いのある高リスクの事件だけが残るからだ。
法壇の隣にいるアルゴリズム
リスクスコア、ガイドライン計算機、AI調査補助はますます裁判官の出発点を形作っている。次の10年間の技法上の問いは「錨づけ」だ――アンカリングの心理学が示すすべてが逆を示唆する中で、裁判官が機械の出力を複数ある入力の一つとして扱えるかどうかである。
計測され、プロファイリングされる裁判官
訴訟分析企業は今や個々の裁判官の行動を過去の記録から予測している――そしてフランスは2019年の司法改革で、最高5年の禁錮刑をもって、裁判官単位のプロファイリングを全面的に禁止した。司法データをめぐって各国が引いた最も鋭い法的境界線である。
包囲された法壇
裁判官はますます標的にされている――2010年代後半以降、米連邦判事への脅迫は急増し、英国のタブロイド紙は2016年に高等法院の裁判官を「人民の敵」と呼び、ポーランド、イスラエルなどでの司法の独立をめぐる争いは、法律誌の議論から路上へと移った。安全保障と政治化は今やこの仕事そのものを形作っている。
New jobs branching off
オンライン紛争解決デザイナー
オンライン審判所の流れ、フォーム、和解アルゴリズムを構築する――半分は法律家、半分はプロダクトデザイナー――2016年にブリティッシュコロンビア州の民事解決審判所がこのモデルを実証するまでほとんど存在しなかった職種である。
裁判所データサイエンティスト
司法内部の案件の流れ、滞留状況、結果データを分析する――インドのeコートや中国のスマート法廷計画は多数を雇用している――最高裁判所長官に制度がどこで実際に破綻しているかを伝えるためだ。
仲裁人・私設裁判官
退職した裁判官は、自動化できない唯一のもの――信頼された意思決定――を、JAMSのような仲裁機関や企業を通じてますます売っている。かつて去った公的な法壇よりも速く、実入りよく商事紛争を裁定している。
アルゴリズム司法監査人
裁判所が採用する前後に、リスクスコア、ODRシステム、AI調査ツールの偏見や誤りを検証する――COMPAS論争から生まれた分野で、今では複数の管轄区域の調達規則に組み込まれている。
Outlook
現実的な近い将来像は、より小さく、より難しい仕事だ。ソフトウェアとオンライン審判所は案件表の定型的な末端――争いのない債務請求、交通違反、少額の金銭紛争――を取り除き、争いのある高リスクの核心部分は、機械が起草した調査資料と機械が採点したリスク評価を携えて到着する人間の裁判官の前に集中する。それらは判断し、拒否する自由を持つ。
圧力点は代替ではなく影響力だ。錨づけされやすい人間が、自信満々のアルゴリズムを傍らに置いて決定するというのは、まさに新しい憲法上の状況であり、ルーミス判決の警告やフランスの分析禁止のような教義はそれを管理する最初の試みである。裁判官をAIで置き換える法律よりも、裁判官がAIをどう使ってよいかについての法律の方が増えるだろう。
変わらないのは、この職務の基盤である。社会が4000年前にこの職を発明したのと同じ理由で、社会は今も裁判官を維持している。すべてが争われるとき、責任を負う誰かが決めなければならず、双方がそれとともに生きていけなければならない。それはソフトウェアが満たせる作業内容ではない。なぜなら、それは根本において作業ではなく、信頼だからだ。
Keep exploring
More in Law & Public Service
👔
弁護士
依頼人に法的助言を与え、権利義務を縛る文書を起草し、法廷では代理人として弁論する——助言が誤っていれば自ら法的責任を負う職業。
AI-resistant 58 🕊️外交官
古代の王の使者やヴェネツィアの常駐大使から、ウィーン会議、そして国連まで――今なお一語一語を練り上げて平和を交渉し続ける仕事。
AI-resistant 78 🚓警察官
パトロールし、捜査し、治安を守る宣誓警察官。ヴィドックの潜入捜査官やピールの1829年の巡査から、今日の揺らぐ公的信頼まで。
AI-resistant 66 🚒消防士
誰もが逃げ出す場所へ自ら向かう仕事――古代ローマのウィギレスや江戸の纏持ちから、現代の山火事クルーや24時間交代の救助隊まで。
AI-resistant 90 📋公務員
法を執行し公共サービスを提供する、試験で選抜された政府の常勤スタッフ――選挙で選ばれた政治家が入れ替わっても動き続ける行政機構そのもの。
AI-resistant 42