Вы находитесь на странице: 1из 12

Кроме того, эти модели подчеркивают противоречивые мотивы

банковского регулирования. Политики признают, что банкам, как правило,


должно быть позволено обанкротиться, но также очевидно, что некоторые
банки слишком велики, чтобы обанкротиться, и поэтому должны
подвергаться строгому регулированию во избежание системных последствий
банкротства. Как общество, мы должны решить, являются ли банки слишком
большими, чтобы обанкротиться, и, следовательно, с ними следует
обращаться как с коммунальными предприятиями, или же банки являются
субъектами свободного рынка, подверженными силам созидательного
разрушения. Это вопрос, на который модели прогнозирования не могут
ответить.
Наконец, эконометрические модели не могут предвосхищать или
учитывать экономические инновации, которые коренным образом меняют
экономический и финансовый ландшафт. Такие инновации варьируются от
тогда еще новаторских коробочных магазинов несколько десятилетий назад,
которые часто вытесняли мелких розничных торговцев, до огромного
количества деривативов, которые были предназначены для хеджирования
финансовых рисков, но непреднамеренно спровоцировали крах 2008 года.
На самом деле, «большие данные» сами по себе просто такое
преобразующее нововведение, которое невозможно было представить до
изобретения Тьюринга и фон Неймана цифрового компьютера.
В общем, большие данные радикально неполны, и поэтому их
потенциальная прогностическая ценность ограничена. Хотя мы признаем, что
большие данные могут быть эффективными при анализе систем, в которых
привычки глубоко укоренились, а прошлое поведение в значительной
степени предсказывает будущие тенденции, социальные системы, такие как
правовая система, редко действуют так предсказуемо, особенно если
рассматривать большие временные рамки. Скорее, правовая система, по
крайней мере, частично неопределенна, и невозможно предвидеть, как
правовые доктрины могут со временем развиваться, уходя от своих
первоначальных предпосылок, чтобы соответствовать новым целям.
IV. ВИРУСНЫЙ ЗАКОН - НЕПРЕДНАМЕРЕННЫЕ ПОСЛЕДСТВИЯ ДЛЯ
БОЛЬШИХ ДАННЫХ

Наша позиция в отношении больших данных может показаться


излишне пессимистичной в свете великолепных возможностей, уже
продемонстрированных технологиями прогнозирования. Например, машины
превосходят людей во многих сферах жизни, включая прогнозирование
вкусов потребителей, консультирование клиентов по финансовым
возможностям и прогнозирование вероятности рака.214 По мере того, как
способность компьютеров собирать, хранить и обрабатывать данные
продолжает расти, они возможности, вероятно, будут расти в
геометрической прогрессии.
Хотя мы не ставим под сомнение огромные возможности больших
данных, мы утверждали, что эти возможности по своей природе ограничены.
В этом разделе мы будем утверждать, что эти ограничения обладают
опасным потенциалом для порождения нежелательных непреднамеренных
последствий для правовой системы, подрывая эволюцию закона и
концентрируя политическую власть недемократическими способами.
Большие данные - это не пассивный инструмент, а, скорее, активный (и
совершенно непрозрачный) участник нашей социальной жизни. Возьмем, к
примеру, недавнюю полемику по поводу новостных лент Facebook.
Консерваторы обвинили редакторов Facebook в том, что они проверяли
раздел «актуальные темы» на Facebook, чтобы освещать истории с
либеральным уклоном. Facebook защищался, объясняя, что процесс был
«нейтральным», потому что истории «всплыли с помощью алгоритма» 215.
Утверждение, что алгоритмы не могут быть предвзятыми, рисует
обманчиво наивный портрет алгоритмов. Хотя команды либеральных
программистов не вступали в активный сговор с целью фальсификации
новостных лент, нельзя сказать, что алгоритмы были «нейтральными» - они,
как минимум, были разработаны для оптимизации результатов в
соответствии с параметрами, выбранными компанией, такими как
увеличение количества комментариев и обмен новостями. Таким образом,
без предвзятости инструкции по оптимизации алгоритмов дали искаженный
результат. Несмотря на заявления Facebook о том, что его алгоритмы
полностью нейтральны, компания позже объявила об изменении политики,
которое ограничит публикации в новостных лентах с других страниц
Facebook, вместо этого отдавая приоритет сообщениям от семей и друзей
пользователей - изменение в алгоритмах, которое, несомненно, также
повлияет на результирующий пользовательский контент.216
Опасность больших данных заключается в их сложном и непрозрачном
воздействии на системы, которые они используются для анализа. Большие
данные не просто «предсказывают» поведение, они также влияют на это
поведение и в процессе влияют на распределение власти. Большие данные,
как и социальные сети, используются для обнаружения ранее
существовавших взаимосвязанных распределенных сетей - финансовых,
социальных, медицинских или других - и для подключения новых сетей. В то
же время данные из этих распределенных сетей собираются на
концентрированных серверах. Тот, кто контролирует сервер, имеет право
контролировать, как данные собираются и интерпретируются, и, в конечном
итоге, имеет право влиять на измеряемую систему. Таким образом, большие
данные одновременно централизованы и широко распределены, в
зависимости от того, рассматриваются ли они с точки зрения сети или с точки
зрения сервера.

A. Большие данные и проблема знаний: сдерживание правовой


эволюции

Парадигма больших данных будет использовать подход,


противоположный системам общего права, поскольку системы общего права
признают, по крайней мере косвенно, роль постепенного обучения и
эволюции в праве. Принципы общего права основываются на социальных
соглашениях и практиках, которые органически возникают из
приобретенного опыта отдельных лиц и организаций. Выступая за гибкие
правовые стандарты, такие как разумность деликтного права, американский
юрист Оливер Венделл Холмс-младший подчеркнул, что «[] он воплощает в
себе историю развития страны на протяжении многих веков, и с ним нельзя
обращаться так, как если бы он содержал только аксиомы и следствия книги
математики »217. Роль непредвиденных последствий в развитии социальных
институтов была центральной для юриспруденции Холмса.
Хотя систему общего права и, в частности, судебный надзор
критиковали как антидемократическую и медленно адаптирующуюся к
изменениям в общественном мнении (или быстро вызывающую
общественную реакцию) 219, мудрость системы общего права заключается в
сохранении приобретенная мудрость и коллективные социальные
знания220. Хайек утверждал, что незнание побуждает людей решать
проблемы путем экспериментов, пробуя разные методы, пока не наткнется
на эффективный.221 Окончательный правильный ответ может сильно
отличаться от первоначально предполагавшегося ответа, и разрыв между два
могли быть закрыты только путем слепого творческого
экспериментирования. Таким образом, человеческий прогресс достигается в
основном за счет экспериментов и инноваций, а не за счет заранее
определенных замыслов.
Правовая система, основанная на «больших данных», таким образом,
подорвет главный источник правовых инноваций в нашей системе общего
права - эволюцию права посредством принятия судебных решений в каждом
конкретном случае222. Действительно, важно, чтобы закон « разрастается »,
по мере того как в законе обнаруживаются новые значения, иногда даже
новые лазейки, которые позволяют создавать новые модели действий и
риска или вознаграждения, которые затем могут вызвать новый закон. Это
разрастание - эволюция закона. Это видно в британском общем праве и его
временной эволюции. Возникают новые практики, такие как аннулирование
присяжных, ранее непредвиденные. Такая практика ставит под сомнение
жесткость больших данных, анализ прошлого и препятствует мудрой
эволюции закона.
Эволюционная мудрость обычного права была убедительно
подтверждена поведенческими исследованиями процесса поиска и
изобретений. В контексте технологического изобретения Maggitti et al.
обнаружили, что «процесс поиска и обнаружения. . . по своей природе
сложен: нелинейный и несвязанный, а не линейный и кумулятивный ». 223
Работа Мэггитти и др. основана на моделировании эволюции Кауфмана
посредством исследования ландшафтов NK.224 Пейзаж фитнеса NK - это
эволюционная модель, которая моделирует взаимодействия адаптивных
агентов и эволюционная среда.
Ситуацию в Нагорном Карабахе можно сравнить с системой общего
права, где лица, принимающие решения, такие как стороны в судебном
процессе, юристы и судьи, адаптируют свои судебные стратегии и судебные
доктрины соответственно по мере изменения «ландшафта» прецедентов и
новых фактических ситуаций. Ландшафт NK содержит ряд отдельных
компонентов в системе и уровень взаимодействия между компонентами,
представленный переменными «N» и «K». Адаптивные агенты
запрограммированы на «случайные прогулки» по ландшафту, имитируя
слепой процесс эволюции. В процессе агенты сталкиваются с пиками и
спадами ландшафта, которые представляют различные возможные уровни
физической подготовки, которые могут быть достигнуты. Однако, если
агенты заходят слишком далеко в долину, они выбираются вне ландшафта,
потому что их приспособленность слишком низка, чтобы выжить. Таким
образом, соответствие достигается путем экспериментального обхода пиков
и спадов методом проб и ошибок.
Процесс поиска новых решений глубоко контекстуален. Изобретатели
используют процедуры, «включая приведение информации и
переклассификацию этой информации». 225 Этот процесс категоризации
происходит «на пересечении существующих, но, казалось бы,
несопоставимых ландшафтов, которые требуют от [изобретателей]
управления взаимозависимостями и реагирования на сложную систему
непрерывных изменений внутренние и внешние факторы »226. Точно так же
судьи используют сложную, иногда противоречивую систему прецедентов,
чтобы применить судебные правила к новым образцам фактов227.
Принимая решения, агенты классифицируют информацию на основе
своих воспоминаний, которые составляют репертуар прошлых ситуаций.
Агент опирается на воспоминания о прошлых ситуациях и предполагаемое
сходство между различными ситуациями.228 Точно так же судьи полагаются
на прошлые судебные решения, чтобы рассуждать по аналогии в будущих
делах229.
Напротив, информация, собираемая для моделей больших данных,
ограничена по объему «твердой» информацией и исключает неявную и
неявную информацию, тем самым гарантируя, что фактически будет собрана
только часть соответствующих знаний. В сложных системах использование
знаний людьми регулируется интуитивными правилами, возникающими в
результате естественного отбора; правила, ведущие к успешному
социальному порядку, заменяют правила, наименее адаптированные к
преобладающей социальной среде.230 Эти правила составляют
политические, культурные и другие социальные традиции, накопленные с
течением времени, которые становятся интуитивно понятными для
социальных отношений без сознательного навязывания или дизайна.231
Рациональная реконструкция система социальных правил в целом находится
вне досягаемости отдельных лиц.232 Более того, применение правил часто
не может быть сформулировано заранее, и становится очевидным только в
определенных контекстах.
Знания меняются со временем в процессе вариации, отбора и
сохранения. Эта эволюция порождает поток новизны в человеческих
знаниях233. Существенной частью проблемы с большими данными является
перевод знаний, которые неявно существуют как привычка и суждение, в
некую закодированную форму. Большие данные создают иллюзию знаний,
которых у нас нет. Если, как мы утверждали, изменения не являются
алгоритмическими, тогда большие данные будут казаться консервативной
силой, сопротивляющейся благотворным изменениям.
Более того, в реальном мире эволюция происходит не через
единичных агентов, а за счет сотрудничества взаимосвязанных агентов,
разделяющих распределенные знания. Другими словами, знание является
синекологическим, что означает, что «знающие» единицы часто не
индивиды, а скорее совокупность взаимодействующих индивидов. Эта идея
восходит к представлениям Адама Смита об экономической специализации
и диверсификации как об увеличении общественного благосостояния234.
Как учил нас Леонард Рид, никто не знает, как сделать карандаш. Знания о
создании карандашей существуют в системе в целом 235.
Таким образом, «интерпретация» реальности часто является
коллективным усилием, возникающим в результате взаимодействия между
людьми. В системе распределенных знаний разные участники вносят
уникальные знания, а функциональность системы является результатом
«паттернов взаимосвязей между элементами системы» 236. Благодаря
взаимодействиям и обмену информацией частично невежественные
субъекты могут точно интерпретировать сложные ситуации. Другими
словами, «хорошо функционирующие коллективы могут быть надежно
эффективными в условиях, которые настолько сложны, что отдельные
агенты, скорее всего, будут делать ошибки интерпретации» 237.
Этот подход подтверждается исследованием Eppstein et al. сравнение
эффективности рандомизированных клинических испытаний в медицине с
эффективностью альтернативного подхода, называемого «групповое
обучение», при котором группы медицинских работников обмениваются
опытом и информацией и обсуждают, как оптимизировать протокол лечения
без использования формального исследования РКИ 238. что альтернативные
методы работают по-разному в зависимости от сложности проблемы. В
простых задачах с независимыми причинными факторами РКИ немного
превзошли командное обучение.
Однако по мере увеличения взаимосвязи причинных факторов, а это
означает, что результаты, как правило, основывались на множественной
причинности, командное обучение превосходило РКИ. Более того, чем
больше многовариантность факторов, которые повлияли на конкретное
состояние, тем выше относительная эффективность командного
обучения.239 Работа Эппштейна и др. Предполагает, что групповой подход к
обучению может превосходить аналитический, централизованный подход к
решению проблем. вовлечение сложных систем с множественными
причинными путями.
Короче говоря, эволюционные инновационные процессы, такие как
принятие судебных решений, не основаны на логических рассуждениях в
заранее определенных рамках. Скорее, лица, принимающие решения,
расширяют и адаптируют рамки, чтобы различать новые возможности и
возможности в рамках смежных возможностей. Эти слепые процессы
экспериментирования и поиска по своей сути неалгоритмичны и, таким
образом, во многих отношениях противоречат подходу больших данных.
В то время как общее право рассматривает ландшафт юриспруденции
как постоянно развивающийся и расширяющийся с учетом новых ситуаций,
большие данные рассматривают правовой ландшафт как статичный и
детерминированный. В то время как общее право является контекстным и
ассоциативным, опираясь на прецеденты и аналогии, большие данные
полагаются на «последовательный, систематический поиск [ы]» 240
информации и сводят сложные отношения к простым корреляциям,
лишенным временного контекста или системных, взаимосвязанных
отношений. Кроме того, большие данные по своей сути централизованы и
полагаются на сервер; его нисходящий подход противоположен
распределенному знанию и командному обучению, которое характеризует
эволюцию в реальном мире.
Централизованный характер больших данных противоречит
верховенству закона. Как отмечает Фэллон, «верховенство закона должно
позволять людям планировать свои дела с разумной уверенностью, что они
могут заранее знать правовые последствия различных действий» 241. В
случае больших данных решения, такие как персонализированные правила
по умолчанию для наследования, принимаются в центр, который полагается
на информацию, собранную из многих источников. У каждого человека есть
лишь небольшая часть этого большого набора данных. Не имея информации,
лежащей в основе выбора, основанного на данных, сделанного в центре,
люди не могут иметь «разумную уверенность» в «юридических последствиях
различных действий» 242. Простые стандартные правила, такие как равное
разделение владений, могут быть известны и понятны. Непрозрачные
алгоритмы, генерирующие персонализированные «правила», непознаваемы
и непредсказуемы. Таким образом, одна из вещей, которую часто называют
величайшей силой больших данных, - персонализированный закон -
отменяет верховенство закона и подвергает людей бесполезно повышенной
неопределенности.
Абсурдные фразы «персонализированный закон» и
«персонализированное правление» являются оксюморонами, по крайней
мере, в контексте верховенства закона, сформулированного Дайси, Фэллон и
другими.243 Дайси говорит, что верховенство закона «означает, в первую
очередь, абсолютное превосходство или преобладание обычного права над
влиянием произвольной власти и исключает существование произвола,
прерогативы или даже широких дискреционных полномочий со стороны
правительства »244. Правила« обычного права »просты и униформа по
лицам. Сказать, что у нас будет «персонализированный закон», означает в
точности сказать, что у нас не будет нормального закона. Таким образом,
можно сказать, что у нас не будет верховенства закона. В этом смысле мы
можем сказать, что одни из самых высоких амбиций в отношении больших
данных в правовой системе - это схемы отказа от закона в пользу
непреодолимого множества идиосинкразических директив, исходящих из
всемогущего центра.

Б. Сетевые эффекты, эффекты Хердинга, централизация власти


больших данных

Хотя обещание больших данных заключается в «индивидуальном»


законе, большие данные угрожают заменить эволюционную, разнообразную
систему общего права своего рода универсальной системой, в которой
неявная «рамка» проблемы идентична во всех ситуациях и нововведениях. в
кадре непреднамеренно обескуражены. Такой подход не только подавил бы
правовую эволюцию, но и централизовал бы политическую власть
непрозрачным и недемократическим образом.
Поскольку алгоритмы не являются семантическими, они не могут
воспринимать аффордансы. Чем больше комбинаторное раздутие различных
возможностей, тем выше вычислительная сложность до «точки, в которой
алгоритмы могут заканчиваться бесконечными циклами» 245. Таким
образом, закон может стать саморефлексивным и рекурсивным.
Большие данные функционируют, используя преимущества сетевых
эффектов или циклов обратной связи, которые могут сделать сеть еще более
влиятельной или ценной.246 Сетевые эффекты могут быть вознаграждением
или наказанием; сеть приобретает известность благодаря положительным
эффектам и сохраняет доминирующее положение благодаря наказанию
сетевых эффектов, которые «блокируют» пользователей сети, чтобы они не
могли уйти.247
Классический пример - массовый рост Facebook благодаря сетевым
эффектам; чем больше людей присоединялось, тем больше росла ценность
сети. После того, как определенный порог был преодолен, Facebook стал
настолько распространенным инструментом социальных сетей, что
негативные сетевые эффекты удерживали людей от ухода - уходя, они теряли
жизненно важный источник социальных связей. Соответственно, возникла
система «победитель получает все», при которой были вытеснены
конкурирующие профильные сайты социальных сетей, такие как MySpace и
Friendster. Эти сетевые эффекты можно измерить количественно, как,
например, в использовании алгоритмов Google для обобщения
коллективных мнений о значении ранжирования веб-страниц248.
Большие данные усиливают эти сетевые эффекты, поскольку они
используют мощные серверы для сбора больших объемов данных в единый
пул, а также анализируют и влияют на эти сети в этом едином пуле. Однако
прогностические аналитические модели полагаются на алгоритмы, которые
по определению являются детерминированными. Алгоритм не может
обновлять свой фрейм или воспринимать новые возможности, а может
только реализовывать суждения или «веса», присвоенные данными.
Посредством машинного обучения алгоритмы обновляют эти «веса» на
основе наблюдений за изменениями в базовых данных.249 Таким образом
алгоритмы «учатся» решениям сложных проблем, особенно тех, для которых
существует множество потенциальных решений. Важно отметить, что веса
или значения, присвоенные данным, не изменяются в зависимости от
настроек кадра, которые выполняются алгоритмом. Скорее, веса изменяются
по мере изменения данных в зависимости от соответствия алгоритма
начальным весам или кадру, запрограммированным в алгоритме для
измерения приспособленности или оптимизации.
Более того, изменения в данных, наблюдаемых в модели, не всегда
являются результатом реально наблюдаемых изменений в базовых условиях
изучаемой системы, но могут быть фактически вызваны предыдущими
результатами (и оценками) модели. Модель создает новый набор
наблюдений из данных, который, в свою очередь, влияет на входные
данные, которые генерирует модель. В конечном итоге этот процесс создает
цикл обратной связи, в котором входные и выходные данные модели влияют
друг на друга, а корреляции между входными и выходными данными
усиливаются с каждой итерацией. Это создает конвергенцию входов и
выходов, что приводит к сетевым эффектам, когда небольшое количество
узлов оказывает чрезмерное влияние на остальную систему.
Подавление инноваций будет способствовать единообразию
законодательства и препятствовать разнородности. Хотя единообразие
может быть достоинством закона, бывают ситуации, когда уменьшение
разнообразия в процессе принятия решений может вызвать
неблагоприятные непредвиденные последствия для правовой системы. Как
объясняют Эйрес и Миттс, чрезмерное единообразие поведения
увеличивает системный риск, поскольку разнообразие важно для
адаптируемости или способности «реагировать на неожиданные потрясения
и изменения в условиях окружающей среды» 250. Более того, разнообразие
позволяет системе учиться более эффективно в более широком контексте.
количество альтернативных государств мира 251
Единообразие правил - это вообще хорошо. Единообразие мысли и
знаний - это вообще плохо. В децентрализованных системах, таких как
традиционное общее право, правила являются широкими и общими, а
знания, лежащие в основе эволюции системы, рассредоточены,
неоднородны и частны. При использовании больших данных правила по
своей природе могут стать централизованными, единообразными и общими.
Таким образом, продвижение больших данных к правовому единообразию
может «лишить [] общество знаний о выплатах, обусловленных будущим или
даже различными обстоятельствами в настоящем» 252. В конечном итоге,
большие данные рискуют вызвать стадное поведение, когда люди и рынки
следуют за «толпой» преследуя поведение друг друга, а не делая
рациональный выбор253. В этом сценарии юридическая эволюция вылилась
бы в кейнсианский «конкурс красоты» 254.
Серверы больших данных, по сути, воссоздают проблему вычислений,
которая мешает централизованному экономическому планированию,
усиливая «привычки контроля» с помощью нисходящего, общего и
контролируемого управления.255 Успешная правовая эволюция требует,
чтобы парадигма, регулирующая правовые вопросы, или «рамки» », Через
которые рассматриваются эти вопросы, - меняется по мере развития самой
правовой системы. Это требует распределенного принятия решений между
множеством различных участников, которые могут передавать и извлекать
выгоду из разрозненных знаний. Напротив, большие данные означают, что
информация собирается из централизованного пула данных и делаются
выводы из него. Интеллектуальный анализ данных становится достоинством,
а не пороком. Поскольку данные централизованы, принятие решений на
основе данных также централизовано. Таким образом, Big Data обостряет
проблему централизованного планирования в законодательном порядке.
Существенным аргументом в пользу «проблемы расчета» с самого
начала было предположение, что экономика и правовые системы являются
сложными адаптивными системами, которые реагируют на изменения.
Однако если бы мы могли волшебным образом избавиться от динамических
изменений «базовых данных», вычисления больше не были бы препятствием
для централизованного планирования.
Задолго до появления больших данных экономист Оскар Ланге
ожидал, что технологии могут продвинуться до такой степени, что
компьютеры смогут программировать экономику256. В 2012 году экономист
Глен Вейл повторил Ланге, заявив, что «все труднее понять, насколько
разрозненная информация создает проблему когда-то это было связано с
централизованным планированием »257. Однако большие данные не решат
проблем, вызванных централизованным планированием, поскольку сбор и
кодирование данных не может достаточно быстро скорректировать их«
рамки », чтобы адаптироваться к изменениям в базовых данных.