Вы находитесь на странице: 1из 12

Персонализированный закон уже имеет прецедент в развитии

персонализированной и так называемой «доказательной» медицины, в


которой большие данные используются для индивидуализации лечения
индивидуума54. Такая адаптация медицины кардинально отличается от
прежних протоколов, которые основаны на рецепты лекарств по иерархии
протоколов, установленных для определенных состояний, связанных с
апокрифическим «средним пациентом».
Золотым стандартом доказательной медицины уже давно являются
рандомизированные контролируемое/клинические испытания (РКИ). В РКИ
методы лечения тестируются с помощью рандомизированных двойных
слепых исследований, в которых пациенты делятся на группы лечения и
контрольные группы. Однако достоверность РКИ все чаще ставится под
сомнение строгим статистическим анализом, который продемонстрировал
их эмпирические недостатки.55 Рандомизированные исследования пытаются
изолировать причинный эффект изучаемого лечения путем исключения
мешающих факторов, но «такая контролируемая стратификация не может
применяться. к тысячам возможных факторов, которые влияют на результат,
когда мы не знаем, что это за факторы »56. Более того, рандомизированные
клинические испытания создают протоколы для идеализированного«
среднего »человека и не принимают во внимание уникальные
характеристики людей, которые могут быть выбросами от модели. Наконец,
нормативный справочник «передовой практики» больниц, наряду с
сопоставимыми стандартами медицинской помощи в деликтном праве,
способствует единообразию лечения и, как следствие, препятствует
экспериментам и инновациям в медицине57.
Персонализированная медицина переворачивает парадигму
диагностики, основанную на «среднем человеке» с ног на голову, помещая
конкретное состояние и потребности пациента в центр протокола лечения и
сравнивая этого пациента с другими пациентами по множеству матриц
здоровья.58 Применение анализа вероятностей Применение этих методов к
обширным пулам данных о пациентах позволяет сделать выводы о
вероятности того, что конкретное лечение будет эффективным для
конкретного человека с учетом его или ее уникальных обстоятельств, и
рисков, которые может представлять лечение. Основываясь на этих данных,
врач и пациент могут затем оценить, какое лечение будет подходящим,
исходя из его относительной пользы и рисков. Подобно
персонализированной медицине, большие данные призваны заменить
традиционные юридические услуги индивидуализированными
юридическими решениями, основанными на данных59.
В правовой системе, основанной на данных, эмпирический анализ
превзойдет мнение экспертов. Например, в контексте вынесения приговора
к уголовной ответственности утверждалось, что «полагаться на интуицию и
опыт уже недостаточно. Это может быть даже неэтично - своего рода
злоупотребление служебным положением при вынесении приговора »60. Во
многих ситуациях не только больше не требуется вынесения приговора, но и
считается плохой юридической практикой.
Как и все эксперты, судьи и законодатели могут давать неверные
заключения. Этот риск возрастает, когда эксперты обладают монополией в
своей области знаний и могут выбирать других вместо того, чтобы просто
давать им советы.61 Поведенческие исследования показывают, что у
экспертов есть разные мотивы помимо поиска истины, и их мнения могут
быть искажены личными интересами. институциональные стимулы или
эффекты наблюдателя, такие как предвзятость репрезентативности,
предвзятость доступности и предвзятость корректировки и привязки.62
Более того, познание экспертов ограничено и ошибочно. Реалистическая
юридическая наука выявила внелегальные факторы, такие как личные
политические предубеждения судьи, которые могут повлиять на принятие
юридических решений63.
Подобно тому, как персонализированная медицина дискредитировала
все РКИ по принципу «один размер для всех», персонализированный закон
может подорвать многие «золотые стандарты» права, которые не имеют
тщательно изученной эмпирической основы.64 Например, гарантировано
использование присяжных для определения вины в уголовном процессе.
Шестой поправкой было обнаружено, что в тех случаях, когда доказательства
ДНК доказывали, что были осуждены невинные люди, были обнаружены
трагические недостатки.65 Отчасти причина непредсказуемости, даже
кажущейся произвольности судов присяжных состоит в том, что
руководящие правила основаны на сомнительных эмпирических
предположения. В контексте Правил доказывания судья Познер широко
критиковал сложную сеть исключений, основанных на слухах, за то, что они
не основаны на каких-либо эмпирических доказательствах, и за то, что они в
достаточной мере не позволяют здравому смыслу судьи рассматривать
надежность показаний с чужих слов в обстоятельства дела66.
Кроме того, эти неправомерные приговоры частично основывались на
«золотых стандартах» судебной медицины, которые, как выяснилось, также
основывались на сомнительных предположениях. Исследования ставят под
сомнение надежность основных методов судебной экспертизы, включая все,
от анализа укусов до снятия отпечатков пальцев.67 Действительно, недавний
отчет показал, что аналитики ФБР ложно свидетельствовали о точности
методов анализа волос на протяжении десятилетий68.
Есть надежда, что анализ данных откроет передовые методы поиска
истины, особенно когда ставки так высоки. Однако мы предостерегаем от
предположения, что большие данные способны преодолеть эти недостатки.
Как мы увидим, для больших данных требуется, чтобы данные собирались на
центральном сервере, где они анализировались алгоритмами,
разработанными в основном анонимными экспертами с неограниченной
мощностью. Таким образом, он может быть более подвержен «неудачам
экспертов», чем юридические процессы, которые его подменяют
энтузиасты.69

II. ОТСУТСТВИЕ ОБЪЕКТИВНОСТИ БОЛЬШИХ ДАННЫХ И


НЕОБХОДИМОСТЬ ТЕОРИИ

Предполагаемая объективность и предсказательная сила больших


данных преувеличены, по крайней мере, применительно к очень сложным
эволюционным системам, таким как правовая система. Данные всегда
требуют интерпретации, что требует теории и, соответственно, оценочного
суждения со стороны людей. Кроме того, большие данные не могут
предвидеть фундаментально творческую, неалгоритмическую эволюцию
правовой системы, и их предсказательная сила ограничена.
Данные по своей сути являются как субъективными, так и неполными,
а не объективными и определяющими70. Без фильтрации и теоретического
обоснования простые данные создают только бессмысленное море
корреляций и должны быть упрощены, чтобы их можно было понять. Этот
акт упрощения (и агрегирования), как и юридическая интерпретация, требует
теории. Даже сам процесс принятия решения, какие данные собирать в
первую очередь - что измерять и наблюдать, когда и как - требует теории.
Более того, частично определенные, частично предсказуемые
интерпретации закона и данных функционируют как аффордансы, которые
адаптивные агенты интерпретируют и используют новыми и
непредсказуемыми способами для достижения своих собственных целей.
Этот творческий эволюционный процесс приводит к тому, что система
постоянно обновляет свое «представление» о юридических проблемах
неалгоритмическими способами, которые не могут быть предсказаны с
помощью больших данных. Другими словами, любое изменение в
законодательстве или юридической практике, вызванное большими
данными, станет для неизвестных лиц инструментом для использования
неизвестными, непознаваемыми и непредсказуемыми способами для
неизвестных, непознаваемых и в настоящее время невообразимых целей.
Непознаваемость будущих целей и возможностей - это неистребимый
предел предсказательной силы больших данных.
С точки зрения законного потребителя недостатки больших данных
могут не иметь значения, если результаты полезны. Но с точки зрения
правовой системы широкое использование больших данных в долгосрочной
перспективе угрожает подорвать целостность и эффективность закона.

A. Зачем нужна теория данных, наблюдений и измерений

Связь между данными и теорией требует более пристального


внимания. Один из центральных мифов, связанных с данными, заключается в
том, что они в какой-то степени беспристрастны и чисты, а эта теория только
сбивает с толку. Утверждается, что вопросы истины и реальности должны
решаться эмпирически и на основе наблюдений, а не прибегать к теории. Но
понятие чистых данных, измерения или объективного наблюдения - это миф.
Большие данные не только не отменяют необходимости в теории, но и
делают ее роль еще более важной. Как мы обсудим позже, закон сам по себе
также теоретически нагружен, или, как выразился Дворкин, юридическое
обоснование по своей сути «заложено в теории» 71.

1. Данные и наблюдения основаны на теории

Проблема с приоритетом данных над теорией заключается в том, что


любое наблюдение и измерение по своей сути "теоретически нагружено".
Само понятие данных - или единственное «данное» (этимологически: данная
вещь или факт) - оспариваемый термин72. Как заметил философ Карл
Поппер, «любое наблюдение [или данные, которые мы могли бы вставить]
включает интерпретацию в свет теорий »73. Таким образом, у нас нет какой-
либо формы« прямого доступа »к данным, фактам или реальности через
наблюдение или восприятие.74 Ни человеческий аппарат восприятия
(зрение), ни какие-либо технологии, которые мы могли бы использовать для
наблюдения или измерения мир - предоставьте нам прямой доступ к
реальности. Теория нужна всегда.
Важность теории по отношению к данным и наблюдениям легко
иллюстрируется контекстами, в которых доступно (или даже необходимо)
очень мало данных, но, тем не менее, появляются идеи. Таким образом, не
количество данных, подразумеваемое «большими» данными, каким-то
образом дает нам окончательное понимание мира или природы реальности.
Скорее теории направляют нас к определенным данным и наблюдениям и
предлагают интерпретации, которые помогают нам понять мир. Некоторые
из наиболее фундаментальных научных открытий не были получены с
помощью большого набора данных или подавляющего числа наблюдений.
Наоборот. Например, единственная точка данных или наблюдение - так
называемый экспериментальный крест - основа для подтверждения теории
Ньютона о природе света. Точно так же общая теория относительности
Эйнштейна была подтверждена одним наблюдением, как это было
определено, основано и предсказано данными. Основные идеи пришли из
теории, а не из данных. Для проверки теории Эйнштейна потребовались
лишь минимальные данные (по сути, одно наблюдение: «маленькие»
данные), когда в 1919 году астроном и физик Артур Эддингтон наблюдал
солнечное затмение на острове Принсипи у побережья Африки. Теория
предоставила руководство относительно того, какие данные искать и
ожидать, а также как интерпретировать открытие75. Только с руководством
этой теории данные и наблюдения имеют смысл.
Хотя данные не могут окончательно «подтвердить» теорию в каком-то
сильном смысле, например, логического эмпиризма 20-го века, важное
наблюдение вполне может заставить ученых принять теорию в совокупность
результатов, которые считаются как бы «установленными до дальнейшего
уведомление. " Но основную интеллектуальную работу выполняет теория.
Теперь, естественно, было много повторений этих результатов (которые
первоначально могли использовать небольшие выборки) и много
дополнительных теоретических и эмпирических разработок. И теории,
конечно, неубедительны. И некоторые теории требуют больших объемов
данных, а в других случаях эмпирические аномалии приводят к дальнейшему
пониманию. Но теория всегда играет центральную роль, поскольку
наблюдения и сами данные теоретически нагружены. Таким образом,
наиболее значительный прогресс в науке и понимании произошел благодаря
теории, а не данным.
Теории нужны не только для интерпретации, но и для генерации
гипотез, предположений и идей о том, что в первую очередь следует
наблюдать и измерять. Теории - намеренные или непреднамеренные -
присущи данным, поскольку сам факт указания, какие данные собирать (и
как), обусловлен некоторыми ожиданиями относительно того, что можно и
нужно наблюдать и измерять. То, видят ли что-то и регистрируют (скажем, с
помощью научных инструментов или наблюдателя) и, таким образом, можно
ли рассматривать и собирать как данные, имеет много общего с теориями,
которые определяют ожидания и непосредственное наблюдение и сбор
данных. По словам Эйнштейна, «можете ли вы наблюдать что-то или нет,
зависит от теории, которую вы используете. Именно теория решает, что
можно наблюдать ».
Проблема измерения - и неопределенности данных - часто
обсуждалась физиками и философами науки. В статье «Против измерения»
физик Джон Белл подчеркивает, что измерение всегда зависит от
наблюдателя и, следовательно, по своей сути не объективно76. Наблюдение
всегда происходит с точки зрения, точки зрения и любой конкретной точки
данных или даже большого набора точек данных. , может соответствовать
одному взгляду на вещи. Но этот единственный путь, так называемая правда
или реальность, каким-то образом не исключает альтернативных объяснений
или интерпретаций. Даже внедрение научных инструментов и методологий
не стирает эффекта.77 Можно сказать, что сам акт измерения искажает
«чистоту» собираемых данных. Но, по иронии судьбы, теории, управляющие
этим измерением, хотя и искажают, но также предоставляют тот самый
механизм, который делает возможным понимание и объяснение.
Таким образом, роль теории состоит в том, чтобы указать нам, где
искать: какие данные искать, какие данные собирать и почему - и как их
интерпретировать. Философ Карл Поппер обсуждает идею «поискового
света» и «ведра» подходов к познанию.78 Теории ведра неявно
предполагают, что мы можем каким-то образом собрать «данные» в
большом ведре «фактов» - просто поглощая или ассимилируя стимулы и
наше окружение (чему, безусловно, способствуют большие данные) - а затем
укрепить наше понимание, просто позволяя фактам говорить сами за себя. С
этой точки зрения разум можно рассматривать как массивное
вычислительное устройство или камеру, которая хранит информацию о
своем окружении и делает правильные выводы. Однако подход к уму с
помощью прожектора признает, что «факты» можно «увидеть» только тогда,
когда мы проливаем на них свет исследования, и именно теория
подсказывает нам, куда направить прожектор исследования.79
Теории ведра предполагают, что ученые или технологии могут каким-
то образом автоматически и объективно собирать данные и обрабатывать их,
что, естественно, приведет к пониманию мира. Таким образом, теории ведра
хорошо вписываются в парадигму больших данных, поскольку основное
внимание уделяется захвату - объективно, как камера - как можно большего
количества информации, с предположением, что сами данные и наблюдения
дадут ответы и понимание. Однако теория познания, основанная на
поисковом свете, фокусируется на той роли, которую теории и внимание
играют в направлении нас к тому, какие данные искать в первую очередь и
почему. Теории раскрывают типы релевантных наблюдений и данных и дают
интуитивное представление о том, как интерпретировать данные.
Подобные философские вопросы могут, конечно, показаться далекими
от практики больших данных - особенно применительно к праву - но они
очень уместны, поскольку поднимают вопросы о том, что именно можно
установить с помощью данных, и о роли теории. в руководстве
наблюдением, а также при сборе и анализе данных. По крайней мере, идея о
том, что «теория мертва», выдвинутая некоторыми сторонниками больших
данных, безусловно, может быть подвергнута сомнению. Далее мы обсудим
эти последствия, поскольку они применимы к различным аспектам закона.
2. Закон и доказательства: видеть то, во что вы верите
Закон, конечно, в значительной степени сосредоточен на восприятии,
фактах и данных - таких факторах, как доказательства, наблюдение и
свидетельские показания. Например, Федеральные правила доказывания,
принятые в 1975 году, устанавливают закон и стандарты доказывания
доказательств. Он определяет такие вопросы, как то, что считается
доказательством, кто может считаться экспертом или свидетелем, какие
доказательства или показания допустимы и почему, что представляет собой
факт, а не слухи и т. Д.
Как мы объясняли, вся эта юридическая деятельность, связанная с
доказательствами, основана на основных предположениях о характере
наблюдения, данных и даже науки - и о том, как их можно использовать для
установления фактов, причинно-следственной связи и ответственности.
Короче говоря, Федеральные правила доказывания стремятся установить
истину. То есть они стремятся обеспечить «возможность установления
истины и справедливого определения судебного разбирательства» (Правило
102) 80. В уголовном праве состязательная система закона предусматривает
механизм проверки виновности или невиновности обвиняемого. Положение
о противостоянии Шестой поправки позволяет обвиняемому предстать
перед свидетелями и доказательствами, а также дает возможность для
контрдоказательства и перекрестного допроса.
Но данные, свидетели и доказательства, использованные в этом
процессе, конечно, не говорят сами за себя - они обязательно оживляются и
оживляются людьми, которые собирают, анализируют, представляют,
объединяют и судят на основе этих данных. и доказательства.81
Хотя нам могут потребоваться доказательства, наблюдения и
свидетели для объективной оценки вопросов, связанных с законом
(например, виновность или невиновность, ответственность), вся эта
деятельность обязательно руководствуется лежащими в основе
ожиданиями, теориями и интересами различных юридических и других
субъектов. участвует. Данные не обязательно нейтральны или объективны.
По конституции прокуроры обязаны действовать как «нейтральные и
независимые магистраты» 82. Но на практике они часто видят любые
доказательства или потенциальных свидетелей с точки зрения виновности
обвиняемого83. На адвокатов защиты по конституции возложена
«решительная и эффективная защита »своих клиентов.84 Поэтому они
должны смотреть на вещи сквозь призму невиновности. И они, вероятно, так
и делают, когда защита и хорошо оплачивается, и выбирается обвиняемым.
Но общественным защитникам часто не хватает адекватных стимулов и
ресурсов для обеспечения решительной защиты.85 В этом процессе не
обязательно присутствует предвзятость или какая-либо форма
злонамеренного действия, хотя, конечно, это возможно. Но стимулы, с
которыми сталкиваются противостоящие стороны, могут радикально
отличаться - а данные или сбор доказательств и успех соответствующих
сторон основаны на их предполагаемой миссии (или роли) по успешному
преследованию или защите обвиняемых, независимо от того, что на самом
деле произошло.
Конечно, даже без какой-либо предвзятости или злого умысла, весь
процесс сбора доказательств и данных априори определяется отношениями
человека с конкретным клиентом - на основе определенных ролей и
желаемого результата. Таким образом, когда кто-то, по сути, «настроен» на
поиск подтверждающих данных и доказательств для определенного
результата, он, вероятно, найдет такие доказательства.86 На самом деле, те
же самые доказательства, основанные на этом прайминге, могут быть
благосклонно истолкован для продвижения дела. Психологические и
перцептивные эксперименты подчеркивают, как наши ожидания или
первоначальные впечатления могут побуждать людей искать, воспринимать
и находить подтверждающие доказательства для определенных
интерпретаций.
Конечно, приведенный выше аргумент может предполагать, что
предоставление данных говорит само за себя приведет к лучшим
результатам, вместо того, чтобы полагаться на предвзятых и
ориентированных на стимулы людей, чтобы разобраться в том, что
произошло, скажем, в уголовном процессе. Но, как мы утверждали, данные
редко говорят сами за себя, но всегда требуют интерпретации и контекста.
Таким образом, состязательная система обвинения и защиты может
обеспечить проверку этой системы. Но нет никаких алгоритмов или
альтернатив, основанных на данных, которые каким-то образом могли бы
заменить эту систему.
Общий упор на данные и теория разума (обсуждавшаяся выше) в связи
с законом упускают из виду некоторые фундаментальные факты, связанные
со сбором доказательств и (в более широком смысле) восприятием87. Это
может быть уместно проиллюстрировано моделью Шерлока. доказательств
(аналогично вышеупомянутой модели «прожектора» Поппера), которую
можно легко противопоставить наивной, похожей на камеру модели
доказательств, аналогичной подходу, предлагаемому Big Data.88 Чтобы
конкретизировать этот момент: представьте себе преступление
Расследование сцены, где мы могли бы противопоставить подход наивного
полицейского и прототипного следователя, такого как Шерлок Холмс.
Наивный полицейский может попытаться собрать, обработать и, возможно,
сфотографировать все, что возможно на месте преступления - по сути,
создать форму больших данных, которые собирают как можно больше
информации. Однако проблема, конечно же, в том, что практически любая
информация с места преступления может иметь отношение к установлению
того, что произошло на самом деле. На месте преступления собраны
всевозможные факты, бесчисленные данные и возможные доказательства.
Все может быть актуальным. Хотя только некоторая, (очень) небольшая часть
этой информации действительно имеет отношение к рассматриваемому
делу. Тогда это создает общую проблему - актуальную для любого контекста
- между попытками оценить, какие данные или факты актуальны и важны, а
какие нет. Наивный полицейский стремится захватить все, в то время как
расследование Шерлока основывается на заговоре или теории. По словам
специалиста по восприятию Яна Кендеринка, проблема для наивного
полицейского состоит в том, что «размер этого файла [всех» потенциальных
данных с места преступления] потенциально безграничен, поскольку мир
бесконечно структурирован. . Нет конца тому факту, который, возможно,
даже в молекулярном масштабе (подумайте о следах ДНК), может в
конечном итоге оказаться важным. [Но] факты не являются
«доказательствами», это просто факты »89. В этом заключается проблема
больших данных или модели корзины. Простой сбор огромного количества
данных бессмыслен без какого-либо сюжета или теории о том, что могло
произойти, о том, что может иметь значение. Нет автоматического способа
обработки сцены. Нужен какой-то прожектор или теория - предоставленная
Шерлоком или человеческой интуицией. Сами данные, конечно, могут
предлагать и предоставлять подсказки о том, что произошло, но даже
идентификация этих улик и данных должна быть теоретически
обоснованной. Таким образом, в науке, как и в праве, данные не являются
своего рода панацеей для понимания того, что произошло, или для решения
проблем. Теоретическая интуиция должна направлять эту деятельность.
Нынешняя одержимость данными и связанные с этим предположения
о том, что мы сейчас живем в посттеоретическом мире, упускают из виду тот
факт, что данные - это просто вход для более высоких уровней понимания.
Это было признано некоторыми специалистами в области информатики90.
Данные находятся на самой нижней ступеньке так называемой иерархии или
пирамиды данных-информации-знаний (DIKW). Нет более высоких уровней
понимания без вопросов, исследований и теорий, которые ведут нас от
наблюдений и данных более низкого уровня к знаниям и мудрости более
высокого уровня. Так можно процитировать поэта Т.С. Элиот, который,
казалось бы, предвидел усиление акцента на нижних уровнях иерархии за
счет мудрости и понимания: «Где мудрость, которую мы потеряли в знании?
Где знания, которые мы потеряли в информации? »91
В юридическом контексте правовая система общего права может
рассматриваться как обеспечивающая именно этот тип мудрости, перемещая
нас от сырых исходных данных, таких как данные, к информации, знаниям и
мудрости. Правовую систему можно рассматривать как систему начисления
мудрости, в которой «карманы» мудрости можно найти через контекстную
информацию, местные знания и общую мудрость, которая проявляется в
споре и взаимодействии разрозненных юридических лиц с течением
времени. Другими словами, взаимодействие разнородных агентов с
разными мотивами и битами данных, информации и знаний приводит к
накоплению различных форм мудрости, которые реагируют на местные
обстоятельства. Этот процесс вряд ли является вычислительным, он скорее
требует человеческой интуиции и теоретической обработки, которую нельзя
оставлять на усмотрение только алгоритмов и данных.