Судить · Общество доверяет принимать решения людям: от стелы Хаммурапи до слушаний об освобождении под залог, оцениваемых искусственным интеллектом, самые трудные споры по-прежнему заканчиваются на глазах у одного ответственно…
На бумаге судебное разбирательство выглядит автоматизированным: входные данные (доказательства, закон), этап рассуждения, результат (решение), и все это — текст. Суды тонут в задержке дел, а программное обеспечение, которое принимает решения быстрее, чем человек, кажется очевидным лекарством. Части конвейера действительно быстро автоматизируются — исследования, транскрипция, сортировка и целые категории мелких споров уже покинули зал суда для онлайн-разрешения.
Но основная транзакция сопротивляется по причине скорее социальной, чем технической: судебное решение является обязательным, поскольку проигравшая сторона признает полномочия человека, вынесшего его. Каждая правовая система передает эту власть через поименованного, подотчетного и сменяемого человека. Честный вопрос заключается не в том, сможет ли ИИ вынести правдоподобный вердикт (а он все чаще может), а в том, смирится ли общество с тюрьмой, банкротством или потерей ребенка из-за машины. Никто еще не пожелал попробовать.
Возможно, десятая часть рабочих часов — исследования, составление рутинных приказов, планирование, расшифровка и сортировка больших объемов мелких претензий — теперь реально автоматизируется, а онлайн-суды уже рассматривают мелкие споры. Основные задачи защищены не только техническими трудностями, но и конституционным замыслом: для лишения людей свободы или собственности требуется поименованный человек, власть которого признается и которого можно привлечь к ответственности. Ни один законодательный орган в мире не включил название алгоритма в предложение.
Scored from the tasks, not the job title. Lower is safer.
Jobs AI cannot take →Приговор является обязательным, потому что общество признает авторитет того, кто его выносит. Пока нет доказательств того, что люди согласятся с тюрьмой, банкротством или потерей опеки, объявленными машиной, — и суды руководствуются этим признанием, а не силой.
Каждая правовая система требует, чтобы назначенный и сменяемый человек ответил за лишение человека свободы — подлежащей обжалованию, импичменту, публичной критике. Алгоритм можно проверить, но он не может быть подотчетным в том смысле, в каком его понимают конституции.
Приговоры и семейные дела включают обстоятельства, которые никогда не повторяются в одном и том же сочетании. Модели, обученные на прошлых моделях, структурно слабее всего именно там, где оценивать труднее всего: в действительно беспрецедентном случае.
Судебная должность создается конституциями, которые определяют назначение, срок пребывания в должности, присягу и увольнение человека. Автоматизация стенда — это не развертывание программного обеспечения; это переписывание общественного договора, поэтому ни одно государство не пыталось сделать это.
Решение о том, кто лжет, остается несовершенной человеческой работой, но оно основано на личной беседе со свидетелем под присягой, а выводы о поведении — это именно то место, где результаты предвзятости машинного обучения являются наиболее разрушительными.
Системы искусственного интеллекта уже извлекают прецеденты, обобщают документы и составляют стандартные приказы; Судебные руководства в Англии и некоторых штатах США теперь разрешают такое использование, при этом судья несет личную ответственность за каждое галлюцинаторное цитирование.
Составление списков, управление потоком дел, транскрипция и перевод — это вспомогательные функции суда, и их автоматизация напрямую влияет на очередь невыполненных дел; Индийская программа электронных судов и китайские системы интеллектуальных судов делают именно это в больших масштабах.
Онлайн-разрешение уже разрешает мелкие споры от начала до конца: Трибунал по гражданским делам Британской Колумбии с 2016 года, Интернет-суд Ханчжоу с 2017 года и система eBay, разрешающая десятки миллионов споров в год без какого-либо судьи.
Алгоритмические оценки риска, такие как COMPAS, уже используются при залоге и вынесении приговоров в судах США — их использование подтверждено предупреждениями в деле штата Висконсин против Лумиса (2016 г.), — в то время как задокументированные выводы о расовой предвзятости делают человеческое переопределение как обязательным, так и оспариваемым.
Целые уровни мелких споров оставляют физические залы судебных заседаний для асинхронных онлайн-трибуналов (Британская Колумбия, Ханчжоу, онлайн-претензии в Англии), оставляя судьям-людям дело меньшее, но более сложное, поскольку остаются только оспариваемые дела с высокими ставками.
Оценки рисков, калькуляторы рекомендаций и помощники исследователей по искусственному интеллекту все чаще становятся отправной точкой для судьи. Ремесленный вопрос следующего десятилетия – это привязка: смогут ли судьи рассматривать результаты машин как один из нескольких входных данных, когда вся психология привязки говорит об обратном.
Фирмы, занимающиеся судебным анализом, теперь прогнозируют поведение отдельных судей на основе их записей, а Франция в ответ полностью запретила профилирование на уровне судей в своей реформе правосудия 2019 года под страхом тюремного заключения сроком до пяти лет. Это самая резкая правовая линия, которую любая страна провела в отношении судебных данных.
Судьи все чаще становятся мишенью: угрозы в адрес федеральных судей США резко возросли с конца 2010-х годов, британский таблоид назвал судей Высокого суда «врагами народа» в 2016 году, а борьба за независимость судей в Польше, Израиле и других странах перешла от рассмотрения законов на улицы. Безопасность и политизация теперь определяют саму работу.
Создание потоков, форм и алгоритмов урегулирования онлайн-трибуналов — частично юрист, частично дизайнер продуктов — роль, которая практически не существовала до того, как Трибунал по гражданским делам Британской Колумбии доказал эту модель в 2016 году.
Анализ потока дел, количества невыполненных дел и результатов в судебных органах (электронные суды Индии и программы «умных судов» Китая используют их в цифрах) — чтобы сообщить главным судьям, где система на самом деле дает сбой.
Судьи в отставке все чаще продают то, что невозможно автоматизировать, — доверительное принятие решений — через арбитражные органы и такие фирмы, как JAMS, решая коммерческие споры быстрее и с большей прибылью, чем общественная коллегия, которую они покинули.
Тестирование оценок риска, систем ODR и инструментов исследования искусственного интеллекта на предмет предвзятости и ошибок до и после их принятия судами — дисциплина, возникшая в результате разногласий по поводу COMPAS и теперь включенная в правила закупок в нескольких юрисдикциях.
Реалистическое ближайшее будущее — это меньшая и более сложная работа: программное обеспечение и онлайн-суды избавляются от рутинных дел — незащищенных долговых требований, трафика, небольших денег — в то время как оспариваемые и важные ставки концентрируются перед судьями-людьми, которые приходят с машинными исследованиями и машинными оценками рисков, которые они должны взвесить и вольны отклонить.
Точкой давления является не замена, а влияние: человек, склонный к якорю, принимающий решения с уверенным алгоритмом под рукой, представляет собой действительно новую конституционную ситуацию, а такие доктрины, как предупреждения Лумиса или запрет аналитики во Франции, являются первыми попытками справиться с ней. Ожидайте больше законов о том, как судьи могут использовать ИИ, чем закона, заменяющего их.
Что не меняется, так это фундамент офиса. Общества сохраняют судью по той же причине, по которой они изобрели эту должность четыре тысячи лет назад: когда все спорно, кто-то ответственный должен принять решение, и обе стороны должны иметь возможность с этим жить. Это не то описание задачи, которое может удовлетворить программное обеспечение, потому что, по сути, это не задача — это доверие.
Создает, измеряет и контролирует устройства, использующие квантовые состояния для вычислений, зондирования, связи и исследования материалов.
AI-resistant 78 🧮От вавилонских писцов до медалистов Филдса и доказательства с помощью искусственного интеллекта: профессия, которая превращает сложные вопросы в постоянную уверенность, по одной теореме за раз.
AI-resistant 70 🧩Ученые, изучающие разум и поведение, от лейпцигской лаборатории Вундта 1879 года до терапевтического кабинета, обучены слышать то, что человек еще не может сказать сам.
AI-resistant 82 🎓Ученый платил за публичное изложение предмета — двадцать пять столетий преподавания и открытий, от рощи Платона до штатной должности и наставника ИИ.
AI-resistant 76 🫀Врач, который оперирует, чтобы вылечить, от древней ринопластики Сушруты до сегодняшних роботизированных операционных, по-прежнему один на один с решением за столом.
AI-resistant 92 💱Исследователи дефицита — от булавочной фабрики Адама Смита до комнаты принятия решений в центральном банке — по-прежнему просили предсказать то, что ни одна модель не отражает в полной мере.
AI-resistant 62Консультирует клиентов, составляет документы, обязывающие их, и аргументирует их дело, когда оно доходит до суда, неся личную юридическую ответственность, если совет окажется неверным.
AI-resistant 58 🕊️От древних королевских посланников и постоянных послов Венеции до Венского конгресса и ООН, которые все еще ведут мирные переговоры, одно осторожное предложение за раз.
AI-resistant 78 🚓Присяжный офицер, который патрулирует, расследует и поддерживает мир, от детективов под прикрытием Видока и констеблей Пиля 1829 года до сегодняшнего оспариваемого общественного доверия.
AI-resistant 66 🚒Торговля, которая направлена на то, чего бегут все остальные — от римских дежурств и носильщиков матой Эдо до сегодняшних бригад лесных пожаров и 24-часовых спасательных смен.
AI-resistant 90 📋Постоянные, отобранные на экзаменах сотрудники правительства, которые обеспечивают соблюдение законов и оказывают общественные услуги – механизм, который продолжает работать по мере того, как выборные должностные лица…
AI-resistant 42