Вы находитесь на странице: 1из 12

У концепции аффордансов есть параллели в природе метафоры.

Законы и другие данные, такие как метафоры, имеют неопределенный,


непредсказуемый набор возможных интерпретаций и применений, которые
развиваются, чтобы адаптироваться к изменяющимся социальным
контекстам. Более того, аффордансы очень контекстуальны.151 Аффордансы
набора данных или законов расположены в «рамках» или ментальных
моделях эволюционных агентов; 152 эти агенты постоянно обновляют свои
«рамки», находя новые аффордансы, которые: в свою очередь, расширить
потенциальное «фазовое пространство» - пространство соответствующих
наблюдаемых и параметров, внутри которого разворачивается система, -
непредсказуемым образом.153 Обучение предполагает новизну: какие
агенты в системе изучают - или могут учиться - не перечислено или не
перечислено из пространств предыдущей фазы системы.
Юридическую эволюцию можно охарактеризовать как бесконечную
серию «рамочных» изменений, которые меняют ландшафт юридической
аргументации. Например, до внесения поправок в гражданскую войну
рабство было санкционировано законом, и рабы считались собственностью,
охраняемой Пятой поправкой.154 Хотя поправки о гражданской войне
запрещали рабство, примерно тридцать лет спустя доктрина «разделения, но
равного» допускала расовую сегрегацию. в общественных помещениях.155 В
1954 году Верховный суд снова изменил правовой ландшафт, отменив
доктрину разделения, но равноправия и отменив расовую сегрегацию в
классах.156 Подход с использованием больших данных не мог предвидеть
эти изменения - он просто подтвердил и укрепил прошлые доктрины ,
начиная с произвольного фиксированного момента времени.
Тем не менее, эти изменения структуры важны для развития закона,
поскольку они позволяют закону быть адаптивным, гибким и новаторским.
Мы видим это в частном праве, например в договорах. В цепочках поставок
есть много неизвестных проблем, которые решаются за счет адаптации.
Например, цепочка поставок может быть «сфальсифицирована», что
означает, что материалы, доступные для определенных целей, используются
новыми способами для решения новых возникающих проблем. Мы не
можем заранее подписать контракт для цепочки поставок, рассчитанной на
присяжных. Скорее, мы оставляем бессрочные условия контракта, а затем
решаем, что является «справедливым». Суды действуют так же гибко, когда
считают условия контрактов неоднозначными. Суды определяют, какими
были бы разумные ожидания сторон, основываясь на прошлой практике
сторон, отраслевой практике и других внешних доказательствах, чтобы
определить разумные ожидания сторон157.
Эта открытая среда производит «комбинаторный взрыв» в форме
бесконечных возможных аффордансов, которые творческие адаптивные
агенты могут использовать по-новому, открывая разнообразный и постоянно
расширяющийся диапазон новых возможностей. В экономике, например,
«машина Тьюринга в конечном итоге превратилась во Всемирную паутину,
продаваемую во всемирной паутине, в веб-браузерах и iPad», - ни один из
них не был предварительно установлен во времена Тьюринга158.
Аналогичным образом, список торгуемых товаров выросла из небольшой
горстки, когда биологически современный человек появился среди
множества товаров, которыми торгуют в современной глобальной
экономике159.
В американской правовой системе длина законодательных актов со
временем резко возросла, и административные органы разработали
множество правил, регулирующих выполнение этих законов.160 Количество
законов и постановлений «резко возросло вместе с взрывом разнообразия в
экономике. - что позволяет не только создавать новые виды деятельности,
которые потенциально могут регулироваться, но и вводит новшества в
методы регулирования »161.
Таким образом, аффорданс закона действует как разрешающие
ограничения, которые направляют, но не определяют, развитие правовых и
экономических систем. Законы не просто ограничивают агентов, определяя
требуемое поведение, но они также делают возможными будущие
инновации, такие как регулирующий арбитраж.162 Но поскольку мы не
можем предсказать все возможные действия, которые позволит конкретный
закон, мы не можем полностью предотвратить непредвиденные последствия
законов. Таким образом, мы утверждали, что правовые институты не могут
быть спроектированы, потому что «эти институты со временем развиваются и
опережают первоначальный дизайн до такой степени, что первоначальные
институциональные конфигурации могут стать неузнаваемыми» 163.
Совместная эволюция агентных фреймов и аффордансов порождает
возникающие феномены, которые нельзя было предсказать на основе
предварительного знания фреймов и аффордансов системы. Таким образом,
«стихийный закон возникает в результате бесчисленных взаимодействий
судей, юристов, политиков, регулируемых субъектов и общества в целом»
164. Ни один человек не имеет полного знания или понимания
«развивающегося правового кодекса и его разрастающихся механизмов
обеспечения соблюдения . »165 Таким образом, неявная развивающаяся«
рамка »системы возникает из распределенного принятия решений
отдельными людьми.
Судья Сотомайор выразительно уловила возникающую,
развивающуюся динамику права в своем особом мнении по делу Юта против
Стриффа166. В этом уголовном процессуальном деле большинство
постановило, что, хотя офицер незаконно остановил движение
подозреваемого, его последующее обнаружение действующий ордер на
арест смягчил неконституционный характер незаконной остановки. Таким
образом, доказательства, которые он позже собрал при обыске
подозреваемого с целью задержания, были допустимы. В своем особом
мнении судья Сотомайор аргументировала это тем, что владение
большинством позволит правоохранительным органам проверять
невиновных людей на предмет ордеров на обыск и использовать эти ордера
для оправдания незаконных остановок дорожного движения с целью
допуска к аресту доказательств, полученных в результате инцидента167.
Важно отметить, что судья Сотомайор пояснил, что сотрудники
правоохранительных органов не будут интерпретировать аргументы
большинства изолированно. Ее несогласие показывает, как в совокупности
уголовно-процессуальная практика Суда представляет собой мозаику
возможностей для правоохранительных органов:
Офицерский контроль над вами не заканчивается остановкой. По
желанию полицейского, он может надеть на вас наручники и отправить в
тюрьму за превышение скорости, пешеходную прогулку или управление
пикапом с 3-летним сыном и 5-летней дочерью без пристегнутых ремней
безопасности. В тюрьме он может снять с вас отпечаток пальца, взять ДНК
изо рта и заставить принять душ с дезинфицирующим средством, пока вы
поднимаете язык, протягиваете руки, поворачиваетесь и поднимаете
гениталии. Даже если вы невиновны, теперь вы присоединитесь к 65
миллионам американцев с записями об арестах и испытаете «гражданскую
смерть» дискриминации со стороны работодателей, домовладельцев и
любого другого лица, проводящего проверку данных168.
Несогласие судьи Сотомайора демонстрирует противоположные
взгляды судей и сотрудников правоохранительных органов. В то время как
судьи выносят решения по делам поэтапно, рассматривая один вопрос за
раз, сотрудники правоохранительных органов используют судебную
практику судов на неопределенной, совокупной основе. Различные
юридические холдинги предоставляют полиции разнообразный набор ниш
или инструментов, которые она может использовать для достижения своих
целей. Эти владения представляют собой серию структурных изменений в
законе, каждое из которых обеспечивает новую смежную возможную нишу
для правоохранительных органов, и ни одна из которых не может быть
предусмотрена алгоритмически.
Со временем небольшие сдвиги в кадре могут накапливаться и стать
очень большими, возникающими изменениями кадра. В рассредоточенных
системах принятия решений эти юридические предприниматели, таким
образом, решают проблему фреймов, создавая распределенные,
неалгоритмические корректировки фреймов. Тем не менее,
алгоритмический анализ больших данных может учитывать только один кадр
за раз.

Б. Из-за проблемы фрейма прогнозная аналитика не работает в законе

По определению, алгоритмическая система не может изменить


фреймы анализа. Как описывает Тьюринг в «Возражении леди Лавлейс»,
«аналитическая машина [например, компьютер] не претендует на то, чтобы
что-либо создавать. Он может делать все, что мы знаем, как ему приказать
»169.
Сам Тьюринг отверг возражение Лавлейса, аргументируя это тем, что
на самом деле нет ничего нового под солнцем и что компьютеры можно
запрограммировать так, чтобы они «учились» всему. Но в творческом мире,
где система должна постоянно адаптироваться к непредвиденным и
непредвиденным изменениям, которые представляют новые возможности в
смежных возможностях, система должна быть способна к «адаптивным,
неалгоритмическим изменениям» 170.
Программисты не смогли решить проблему фрейма. В области
робототехники программисты обычно создают метаалгоритмы, чтобы
сделать алгоритмы адаптивными. Мета-алгоритмы - это, по сути, адаптивные
обучающие системы, которые используют анализ прошлых данных для
определения того, как алгоритмические правила будут меняться в ответ на
новые или неожиданные проблемы принятия решений.171 Однако этот
подход связан с проблемой бесконечного регресса между уровнями мета-
алгоритмов. . Каждый уровень метаалгоритма «потребует установки
некоторых граничных условий для создания фреймов новых задач
разрешимости на более низких уровнях». 172 Таким образом, уровни
метаалгоритмов, хотя и в некоторой степени адаптивны, по-прежнему
подвержены проблеме фрейма.
Точно так же, как мы не можем разработать правовую систему, которая
надежно и последовательно достигает определенных целей, как часы,
которые мы заводим и отпускаем, мы не можем свести правовую систему к
прогнозирующей модели, управляемой данными. Во-первых, проблема
измерения. Невозможно заранее точно знать, какие переменные,
внутренние или внешние, могут повлиять на развитие правовой системы. Не
зная заранее, какие переменные следует измерять, увеличивающийся набор
данных остается ограниченным и, вероятно, будет искажен предвзятым
предвзятым отношением.173
Эта проблема аналогична «проблеме многозадачности» в
экономике174. Любая задача имеет несколько измерений, только некоторые
из которых можно отслеживать при разумных затратах или даже вообще.
Если решения принимаются исключительно на основе измеренных
размеров, неизмеренными размерами, независимо от того, важны они или
нет, будут пренебрегать. Классическим примером является создание и
преподавание учебной программы, ориентированной на сдачу тестов, когда
результаты тестов определяют заработную плату учителей175.
Большие данные дают нам нечто подобное. Мы измеряем N
измерений M, где N <M. Если мы принимаем решения на основе больших
данных, мы пренебрегаем неизмеренными измерениями, не зная, имеют ли
эти измерения значимое влияние. И наоборот, мы можем переоценить
измеряемые нами измерения просто потому, что они измеримы, или
придавать слишком большое значение корреляциям, которые представляют
собой просто шум.
Далее возникает проблема дизайна. Парадигма больших данных
предполагает, что мы можем пассивно измерять мир и что он просто не
реагирует на такое измерение. Однако в реальном мире общественные
организации будут реагировать и адаптироваться к решениям,
принимаемым на основе измерений, и процесс измерения будет влиять на
лежащие в основе данные. Таким образом, данные становятся
рекурсивными и, соответственно, эволюция системы становится
саморефлексивной и циклической. Более того, множество возможных
интерпретаций и использования данных также непредсказуемо. Таким
образом, те, кто пытается разработать прогнозные модели для закона на
основе больших данных, могут столкнуться с неудачами как на этапе
измерения, так и на стадии проектирования. Данные, которые они
используют для проектирования институтов, будут по своей сути неполными
и будут развиваться непредсказуемым образом; а сами институты будут
продолжать развиваться непредсказуемым образом.

1. Инструменты оценки риска при вынесении приговора

Несмотря на эти ограничения, предиктивная аналитика значительно


расширила возможности уголовного права. Это развитие имеет прецедент в
истории Федеральных руководящих принципов вынесения приговоров
(«Руководящие принципы»), которые иллюстрируют противоречия между
алгоритмическими и дискреционными способами принятия юридических
решений. Конгресс разработал Руководящие принципы как часть
двухпартийных усилий по обеспечению единообразия и определенности при
вынесении приговоров.176 Руководящие принципы были призваны частично
снизить обеспокоенность политиков по поводу необоснованных
расхождений в приговорах по всей стране177.
Полученные в результате Руководящие принципы обеспечили более
или менее детерминированный подход к вынесению приговора, которому
судьи должны были следовать.178 Руководящие принципы, по сути,
представляют собой таблицу, которая дает оценку или общий уровень
правонарушения для конкретного осужденного на основе их базового уровня
правонарушения и уголовного преступления. История, в которой каждый
получает балл. Уровень правонарушения включает или вычитает баллы за
отягчающие или смягчающие обстоятельства, такие как роль наблюдателя в
правонарушении, связанном с незаконным оборотом наркотиков, что
повысит уровень правонарушения, или принятие ответственности, что снизит
уровень правонарушения.179 Система в первоначальном виде задумано,
работает во многом как алгоритм; входы сформулированы предложения.
Уменьшая дискреционные полномочия судей, Руководящие принципы
имели непредвиденные последствия в виде усиления полномочий Конгресса
и исполнительной власти в отношении политики вынесения приговоров, что,
в свою очередь, создало «односторонний восходящий храповик» в суровости
федеральных приговоров.180 Например, Руководящие принципы
сформировали нишу, которая предоставил прокурорам ряд инструментов
для осуществления власти над обвиняемыми по уголовным делам.
Поскольку Руководящие принципы являются сложными, жесткими и в
значительной степени зависят от фактов, они позволили прокурорам
установить многие факты и внести значительный вклад в определение
приговора еще до того, как дело было рассмотрено судьей181.
Более того, детерминированный подход Руководящих принципов
оказался несовместимым с исторически более открытым и дискреционным
характером вынесения приговоров. В частности, многие судьи считали
обязательный характер Руководящих принципов несправедливым в ряде
случаев, когда Руководящие принципы требовали неоправданно суровых
приговоров без предоставления дискреционных полномочий для учета
соответствующих смягчающих факторов в деле182.
В деле Booker 183 (и Apprendi184 на уровне штата) Верховный суд счел
Руководящие принципы рекомендательными, тем самым позволяя судье,
выносящему приговор, адаптировать приговор с учетом других
законодательных факторов.185 Суд пришел к выводу, что структура
Руководящих принципов, которая потребовал от судьи увеличить наказание
ответчика сверх установленного законом максимума, если преобладание
доказательств доказывает отягчающие обстоятельства, нарушает право
подсудимого по Шестой поправке на то, чтобы присяжные выносили
решение по этим фактам.186 В качестве средства правовой защиты от этого
конституционного нарушения Суд издал Руководящие принципы системное
консультирование. Результатом решения Суда стало восстановление
дискреционных полномочий судей при вынесении приговоров по уголовным
делам и обеспечение большей институциональной сбалансированности187.
Обязательные федеральные руководящие принципы вынесения
приговоров иллюстрируют недостатки основанной на данных,
детерминированной политики назначения наказаний. В Руководстве
делается попытка свести приговоры к алгоритмической модели с заранее
определенными входами и выходами. Тем не менее, эти обязательные
Руководящие принципы не работают, потому что только вынесение
приговора требует судебного усмотрения, чтобы рассмотреть человека в
целом, взвесить конкурирующие цели приговора и рассмотреть факторы, не
учтенные Руководящими принципами. Другими словами, «структура»
определения приговора непостоянна и требует индивидуальной оценки.
Переменные, которые были важны в одном процессе вынесения приговора,
могут иметь меньшее влияние в другом. Эти типы дискреционных
определений по своей сути не сводятся к жестким критериям или моделям.
В то время как при вынесении приговоров на федеральном уровне в
целом происходит отход от системы обязательных руководящих принципов к
более дискреционной системе, использование прогнозной аналитики
возвращает систему к более детерминированной системе. При вынесении
приговора судьи все чаще полагаются на модели оценки риска для
определения вероятности рецидивизма на основании криминального
прошлого правонарушителя, личных характеристик, преступного поведения
и других факторов188. Используя эти модели, судьи решают, какое из ряда
наказаний - с испытательного срока. тюремному заключению, наилучшим
образом отвечает профилю риска конкретного правонарушителя.189 Цель
состоит в том, чтобы использовать «исправительные методы, которые были
подтверждены научными исследованиями исправлений, чтобы работать»,
чтобы уменьшить рецидивизм правонарушителей »190.
Ли Эллис представляет необычайно яркий и тревожный пример
опасностей, которые мы должны связывать с научно обоснованными
оценками рисков в системе уголовного правосудия. Он говорит, что
биосоциальные подходы к преступности предполагают, что «генетические
факторы способствуют преступности. Следовательно, согласно таким
биологическим теориям, сокращение темпов воспроизводства людей с
«предрасположенными к преступности генами» по сравнению с людьми с
небольшим количеством таких генов должно снизить уровень преступности в
стране »191. Он явно называет эту стратегию« евгеническим подходом [] »,
борьба с преступностью.192 Отмечая, что использование антиандрогенных
препаратов «также называется химической кастрацией», он далее
утверждает, что «введение антиандрогенов молодым мужчинам в
постпубертатном периоде с высоким риском совершения правонарушений,
особенно в отношении насильственных преступлений, должно помочь
подавить резкий скачок тестостерона в годы сразу после полового
созревания. Мужчинам, испытывающим наибольшие трудности с обучением,
возможно, потребуется поддерживать антиандрогенное лечение в течение
целого десятилетия ». 193
Кроме того, эти типы моделей оценки риска подвергались критике как
несовершенные как в теории, так и на практике, в частности, бывшим
Генеральным прокурором Эриком Холдером. Холдер поставил под
сомнение, усиливают ли прогностические модели расовые предубеждения в
системе уголовного правосудия.194 Когда судьи рассматривают такие
факторы, как бедность и недостаток ресурсов общества, чтобы определить
вероятность рецидивизма, это повышает риск осуждения обвиняемых за
факторы, находящиеся вне их контроля, включая групповые: характеристики
уровня, 195 вместо того, чтобы наказывать их как отдельных лиц на
основании их преступного поведения и характеристик196.
В конечном счете, там, где алгоритмы не предоставляют причинно-
следственных связей, этика принятия решений становится непрозрачной.197
Хотя пункт о равной защите требует повышенного внимания к принятию
решений на основе статуса человека в защищенной категории, например
расы, религии или пола198 , Big Data не делает таких различий. В таких
контекстах, как вынесение приговора, защищенные категории, такие как
раса, могут сильно коррелировать с незащищенными категориями,
например, социально-экономическим статусом или прошлым уголовным
прошлым, а алгоритмы часто настолько сложны, что невозможно
определить, какие факторы были важны для результата199.
Хотя исследователи начали разрабатывать статистические методы,
которые могут позволить нам отслеживать, какие особенности входных
данных приводят к определенному результату, эти методы расскажут нам
только о том, как были объединены определенные переменные, а не почему
они были объединены таким образом. «Неуверенность в причинных
механизмах, которые привели к тому или иному сочетанию переменных,
которые являются хорошим предиктором того, что мы хотим знать» 201.
Более того, парадигма больших данных также неявно, но в значительной
степени нагружена ценностями в контексте вынесения приговора.
Прогностические аналитические модели не могут принимать во внимание
множество конкурирующих теорий закона о вынесении приговоров.202
Использование прогнозных аналитических моделей неявно использует
сильную утилитарную точку зрения на цели вынесения приговоров,
приоритезацию вопросов общественной безопасности и вероятность
рецидива по сравнению с другими факторами, такими как виновность
правонарушителя, необходимость соразмерности правонарушителей и
реабилитационные проблемы, среди прочего.203 Более того, приоритеты в
законе о вынесении приговора могут меняться и меняются со временем.
Хотя судьи могут полагаться на результаты прогностических моделей в
качестве простой отправной точки, 204 поведенческие исследования
показывают, что судьи склонны «привязывать» свои взгляды к
соответствующему приговору к критериям, таким как руководящие
принципы вынесения приговоров.205 Таким образом, вполне вероятно, что
модели «Рекомендации», даже если они не являются обязательными, будут
иметь большое влияние на приговоры правонарушителей. Система
уголовного правосудия не должна мириться с моделями оценки рисков и
неявно заложенными в них ценностями просто потому, что они кажутся
более «объективными» или «основанными на доказательствах». Скорее, как
и в случае с Руководством, мы должны задаться вопросом, отражают ли
модели надлежащие цели вынесения приговора и эффективны ли они для
определения риска правонарушителя206. В конечном счете, большие
данные не могут разрешить споры между утилитарными и
ретрибутивистскими взглядами на политику вынесения приговоров. В
лучшем случае «большие данные» могут помочь нам в наших суждениях об
эффективности этих политик и о том, выполняют ли они определенные
заранее определенные общественные цели.

2. Модели оценки рисков в финансовом регулировании

Недостатки прогнозных моделей также можно увидеть в финансовом


регулировании. Хотя финансовые системы подвержены риску, который
регулируется распределениями вероятностей, они также изобилуют
неопределенностью, которая в настоящее время неизмерима.207 Перед
лицом неопределенности мы не знаем пространства возможностей и не
можем назначать вероятности. Следовательно, адаптивные агенты в
экономике вынуждены решать проблемы путем экспериментирования с
различными методами до тех пор, пока не наткнутся на эффективный.208
система еще менее предсказуема.
По этим причинам мы скептически относимся к попыткам основывать
правовые и нормативные решения на прогностических аналитических
моделях, которые экстраполируют прошлые данные для предсказания
будущих тенденций. Например, регулирование, основанное на оценке риска,
которое регулирует деятельность на основе предполагаемого риска209,
занимало видное место в финансовом регулировании, но также имело ряд
явных недостатков210.
И Додд-Франк, и соглашение Базель III приняли усиленные правила
для системно значимых финансовых институтов (SIFI). Эти правила включают
повышенные требования к капиталу, лимиты кредитного плеча, требования к
ликвидности, мониторинг и надзор, а также регулярные стресс-тесты, чтобы
гарантировать, что SIFI могут противостоять финансовым кризисам.
Однако модели оценки риска, используемые в связи с Доддом-
Франком и Базелем III, подвергались критике за их опору на сомнительные
допущения, такие как стабильность кредита и определяемость цен на активы
во время кризиса - допущения, примерно аналогичные
детерминированному «фазовому пространству ”В физике.211 Модели,
основанные на чрезмерно оптимистичных или детерминированных
предположениях, основанных на прошлых тенденциях, могут создавать
самоуспокоенность и стимулировать дальнейшее принятие риска, что
противоречит цели модели - помочь минимизировать риск. Даже если эти
ошибочные предположения были исправлены, эконометрические модели
«VAR» не могут учесть «черных лебедей» или значительных, но редких
событий, квантовую неопределенность и не поддающиеся количественной
оценке, но важные факторы, такие как качество управления212. Короче
говоря, мы не можем решить эти проблемы просто путем создания «лучших»
моделей213.