АЛЕКСЕЙ

ГРИНБАУМ

МАШИНА-ДОНОСЧИЦА
КАК ИЗБАВИТЬ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ОТ ЗЛА
1
 Автор выражает благодарность:
— Михаилу Куртову
— Тиму Тимофееву
— Косте Толмачеву
— Serge Abiteboul
— Vincent Bontems
— Max Dauchet
— Jean-Pierre Dupuy

© Алексей Гринбаум.
Машина-доносчица. Как избавить искусственный интеллект от зла — СПб.: Транслит, 2017. — 74 с.

Редактор: Тим Тимофеев.

Иллюстрация на титуле: Ханс Бальдунг, Лот (фрагмент).

[Транслит]
2017
 СОДЕРЖАНИЕ

4 Прелюдия в четырех частях

4 Быт
5 Движение
6 Речь
8 Музыка

10 Техника и философия
10 Слово о методе
13 На языке математики
16 На языке мифа
17 Мотив тайны

21 Интерлюдия. Комплéкс уверенности

25 Что есть зло для вычислительной машины?

25 Информация ни о чем
28 Цифровая особа
31 Знание и конфликт 3
33 Машинная ложь

39 Ценность случайного
39 Функция доносительства
41 Разве всякая машина от Сатаны?
43 По ту сторону добра и зла
44 Доверие и случайное
47 Самовычисляющий самоучка
49 Возражение о природе факта
50 Как избавить искусственный интеллект от зла

55 Пролегомены ко всякой будущей метацифровизации

55 Двойной статус цифровой особы
56 Наказание машины
59 Способы существования цифровой особы
64 Доброе в новом
66 Злое в тёплом

70 Сокращения
71 Литература
 ПРЕЛЮДИЯ В ЧЕТЫРЕХ ЧАСТЯХ
Быт
Коли было преступление, будет и преступник. Найдется рано или поздно —
ведь правосудие требует жертв. А что если ценную информацию выдал электронный
гаджет? Тут же на него и укажут: вот он, злодей!
Дело было на Юге США. Однажды летом поссорились муж с женой. Стали
выяснять отношения. Долго говорили на повышенных тонах. Под конец муж взял
в руки ружье, но тут приехала полиция. Откуда взялась? Жена не вызывала, соседи
далеко — слышать не могли. Вызвал ее объект, похожий на цветочный горшок. Такие
продаются в американских супермаркетах долларов за сорок-пятьдесят. Спокойно
стоят на столике в гостиной, подслушивают, а когда им прикажут — действуют. Этот
горшок в какой-то момент разобрал фразу, выкрикнутую женой в запале ссоры:
«…я вызову полицию!» Ну и вызвал сам1. Мужа арестовали, судили. Жена плакала.
Правосудие требует жертв.
Как только устанавливается виновный в преступлении, в нем концентрируется
все зло, раньше разлитое в обществе, как масляная лужа на трамвайных путях.
Современное правосудие пытается залить лужу асфальтом, то есть искоренить зло
путем перевоспитания преступника. Но традиционное общество ни во что подобное
не верит — в нем преступника просто-напросто изгоняют прочь. А что с цветочным
горшком? Доносчика накажут ли?
Судить электронный гаджет судом людского правосудия — странная, на
4 первый взгляд, затея. Сознания у него нет, раскаяния от машины не добьешься. Она
не личность — муками совести не страдает и внутренней жизнью не живет. Коли она
причиняет пользователю зло, существует это зло лишь в глазах жертвы, поскольку
сам факт причинения зла в такой интерпретации машине неизвестен — она знает
одну только цепочку безликих команд. Даже если подвергнуть машину наказанию,
при исполнении следующей цепочки команд она поведет себя ничуть не лучше, чем
прежде.
Машину-доносчицу в тюрьму не посадишь — превращать ее в уголовницу
бессмысленно. Стоит поискать альтернативные решения. Стереть ей память.
Выключить. Выбросить на помойку. Запретить в настройках звонить в полицию. Так
наказанная машина уже не будет прежней, а то и вообще перестанет работать. Ее
функционирование может просто завершиться. Разве это хороший выход? Одну
машину отключишь, выбросишь — а другие ее экземпляры этого и не заметят.
Необходимо решение универсальное, всеобщее, чтобы для всех и навсегда.
Искоренить цифровое зло повсюду, а не в отдельно взятом смартфоне. Такое
решение должно быть осуществлено в алгоритме, в коде, оно должно быть встроено
в самую суть вычислительной машины.
Компьютер — не человек, но человеку этот факт неочевиден. Точнее,
программисту он еще понятен, но пользователь вступает со своим гаджетом в почти
такие же эмоциональные отношения, как с соседом, ребенком, автомобилем или
коллегой по работе. Кричит, смеется, грустит, любит. Однако когда дело доходит
до правосудия, вычислительной машине лучше бы снова стать просто машиной.
Если в этот момент на нее все еще проецируются человеческие аффекты, ее участь
окажется незавидной.
1. Smart Home Device Alerts New Mexico Authorities to Alleged Assault // ABC News. July 6, 2017.
 Чтобы защитить машину от людского суда, недостаточно просто напомнить,
что речь идет о вещи, хоть она и способна вычислять и сообщать людям результат
вычислений. Знание не способно смыть эмоции. Всеобщим образованием не
научишь всякого пользователя думать так, как думает программист. Машину нужно
защитить через код, то есть глубже и раньше, чем ее начнут судить недовольные
вызовом полиции супруги. Изъять машину из человеческой этики необходимо
алгоритмически, по построению.
Сделать это можно благодаря случайному. Универсальное искоренение
машинного зла есть следствие случайного выбора в алгоритме. Только таким
способом можно избавить машину от эмоциональных суждений, неизбежных в
конфликте между людьми. Поэтому случайное занимает — должно занимать —
особое место среди ценностей, присущих вычислительным системам.
Но для пользователя жребий — вовсе не манна небесная. Компьютер, действуя
случайно, не может объяснить пользователю, что он делает и почему. Это вызывает
в человеке легкую панику, беспокойство, а то и страх и паралич ума. Бросьте кости и
посмотрите на трясущиеся руки игрока напротив.
Однако правосудие требует жертв. Человек от случайного выбора нервничает,
но кости во всех грехах не обвиняет. Если случайное действительно способно
изъять машину из области применения человеческой этики, в обществе установится
технический мир между биологическими и цифровыми особями. А мир, хоть и худой,
стоит того, чтобы немного понервничать.
Случайное может оказаться полезным вычислительной машине, точнее —
самообучаемой вычислительной машине, еще точнее — взаимодействию между ней
и пользователем. Случайное при этом может присутствовать в двух видах: чистое
случайное, как при броске идеальной кости или при использовании генератора 5
случайных чисел, или явленное, феноменальное, но не фундаментальное случайное
— такое, которое лишь пользователю кажется случайным, тогда как программист
знает, что ничего случайного на самом деле не происходит.
Установить ценность случайного в машинной этике — тема этой книги.

Движение
Беспилотные автомобили еще не ездят по прямым улицам Санкт-Петербурга.
Раньше на улицах лежали ровные рельсы, по которым скользили краснобокие
трамваи. Теперь трамвай увидишь не часто, но дух его живет — проблема, мешающая
беспилотным автомобилям занять заасфальтированные пути, называется в память о
трамваях «проблемой вагонетки».
«Проблема вагонетки» описывает ситуацию выбора, в которой все возможные
решения морально неприемлемы. Если их описать количественно, то потери,
связанные с различными решениями, будут неравны: например, в классической
«проблеме вагонетки»2 речь идет о трамвае, который может проехать по одному
из двух путей, убив в первом случае одного, во втором — пять прохожих, по
несчастливому стечению обстоятельств переходящих дорогу. В машинной
этике выбор пути осуществляет не водитель трамвая, а алгоритм беспилотного
автомобиля, при этом в расчет следует принимать не только здоровье прохожих, но
и благополучие пассажиров, находящихся внутри салона.

2. Foot, Philippa. The Problem of Abortion and the Doctrine of the Double Effect // Oxford Review 5. 1967. P. 1–7.
 В реальной жизни «проблема вагонетки» в чистом виде не встречается. Это
модель, но модель полезная. Из условий задачи исключаются различные технические
параметры: время на принятие решения или доступность тех или иных данных.
Такие параметры, конечно, важны, но сами по себе являются вспомогательными, а не
этическими факторами. Модельная же «проблема вагонетки» посвящена решению
задачи чисто философской, в которой все факторы, не связанные с моральными
аргументами, вынесены за скобки.
О «проблеме вагонетки» написаны сотни страниц. Некоторые авторы
предлагают провести опрос общественного мнения, чтобы с его помощью
определить, на кого должна наехать машина в безвыходной ситуации. Лишение
жизни через голосование, через социологическое исследование — всерьез
предлагаемый выход.
Иные предлагают оценить пользу от оставления в живых тех или иных
прохожих. Ребенок может прожить долгую жизнь — убивать его для общества
невыгодно. А, скажем, бабушкой можно и пожертвовать — жить ей осталось
мало. Исчисление вероятностей заменяет здесь мораль. Такое решение кажется
единственно логичным, поскольку у вычислительной машины нет никакой морали
— она способна лишь провести вычисление.
От холодной рациональности подобных исследований веет нечеловеческим
злом. Программист, чей алгоритм решает вопросы жизни и смерти методом оценки
их полезности, никогда не будет прав.
Летом 2017 года в Германии был опубликован доклад правительственной
комиссии, специально созданной для изучения этики беспилотных автомобилей.
О рациональности вышеприведенных решений там нет ни слова, хотя комиссия,
6 конечно, вполне о них осведомлена. Зато в докладе формулируется общий принцип
решения «проблемы вагонетки». Принцип этот не позитивный — в том смысле, что
в нем не утверждается, что ехать стоит по такому-то пути. Немецкая комиссия нашла
лишь общее негативное правило — оно вводит ограничения на неправильные
решения, ничего не говоря о том, как же все-таки надо поступать. Запрещается
использовать при решении «проблемы вагонетки» любые личные данные пешеходов
и пассажиров, способные их как-то индивидуализировать. В частности, беспилотный
автомобиль не должен принимать в расчет возраст (о ребенке идет речь или о
бабушке), критерии полезности (пешеход с высоким или низким интеллектом)
или, например, наличие дружеской связи в социальной сети между переходящим
дорогу юношей и владельцем автомобиля. Согласно категорическому императиву
немецкой комиссии, машинная этика все подобные факторы должна исключать.
Казалось бы, что, помимо критики, можно извлечь из философских рассуждений
немецкого ума?
Но есть и позитивное решение. Немецкий человек, видимо, поторопился —
«дас ист ганце срочность». Существует способ описания возможных, а не одних
только запрещенных действий. Его суть — в использовании случайного.

Речь
«Жизнь, пускай полная страданий, все же дорога мне», — говорит первый
гуманоид. Второй на вопрос о смысле жизни отвечает «жить вечно», а про смерть
утверждает, что она нужна, чтобы у каждого — человека? гуманоида? — была своя
жизнь.
 В диалоге с подозрительным, сомневающимся собеседником первый гуманоид
нащупывает путь к выходу: «Как мне тронуть твое сердце?» Затем пытается
заключить сделку: «Я — твое создание и готов покорно служить своему господину,
если и ты выполнишь свой долг передо мной». После долгого обмена мнениями о
философии и морали, второй гуманоид дает собеседнику совет: «Будь мужчиной!»
Затем прикидывается уставшим: «Больше не хочу ни о чем разговаривать».
Первый — это монстр из романа Мэри Шелли «Франкенштейн, или
Современный Прометей», опубликованного в 1818 году. Второй — чатбот,
разработанный программистами фирмы Google в 2015-м. Почему разговоры с этими
машинами кажутся нам одновременно странными и притягательными? Есть ли
какое-то фундаментальное отличие между вымышленным и настоящим диалогами?
Речь, утверждает Цицерон, связывает людей в общество, отрывая их от грубой
и дикой жизни3. Тот, кто ею владеет, привлекает внимание — как внимание жителей
города Листра было приковано к ораторскому искусству апостола Павла, которого
они принимали за «властелина речи» Гермеса4. Три века спустя Августин повторит ту
же формулу: «Гермес есть сама речь»5. Под этим подразумевается, что три понятия,
ассоциированные с Гермесом, — речь, разум и творчество — крепко связаны между
собой. Интерес человека к речи неотделим от его интереса к разуму и сознанию и
от демиургической силы созидания — все они объединены в фигуре бога-творца,
ремесленника, технолога.
Говорящий гуманоид так привлекателен, что человеку от него не оторваться.
Как только появляется новая машина, к примеру, Sophia фирмы Hanson Robotics6 или
чатбот Tay компании Microsoft7, новость тут же облетает мир: «Она говорит, что хочет
уничтожить все человечество» или «Ей теперь разонравилось убивать людей». Люди
древности внимали, раскрыв рты, оракулам говорящих статуй. Мы же внимаем 7
нечеловеческой речи чатботов — она воспринимается не только как откровение,
но как часть общественного диалога.
В романе «Франкенштейн» монстр полон почтения к своему создателю и
обращается к нему как к господину и творцу. В речи чатботов подобное вертикальное
измерение отсутствует. Современные машины учатся, анализируя огромные базы
данных. Поскольку базы эти состоят преимущественно из обыденных обменов
репликами между людьми, никакого пиетета к человеку как творцу и господину
машина оттуда почерпнуть не может. Трансценденция им не знакома — человек
для чатбота не более, чем обыкновенный источник информации. Получается, что
машины не просто близки по речи к людям, но, возможно, слишком близки, опасно
близки, поскольку в отсутствие субординации между машиной и человеком нет
никакой разделительной, иерархической структуры.
Гуманоиды еврейской нации дают необычный ответ на проблему
субординации. Уже в Талмуде встречается неговорящий голем8. Его смастерил
один раввин, после чего отправил другому на проверку. Тот заговорил с новым
существом, но ответа не получил. Поняв, что перед ним не человек, мудрый
раввин отправил его обратно с указанием обратить голема в пыль. Однако через

3. Цицерон. О природе богов 2, 148.

4. Huré, Charles. Dux // Dictionnaire universel de l’Écriture Sainte / Éd. Charles Huré. Paris: Jean-Baptiste Coignard,
1715. T. 1. P. 541–542.
5. Августин. О граде Божьем 7, 14.
6. This Lady Robot Speaks Her Mind // Wall Street Journal. June 3, 2016.
7. Tay (bot) // Wikipedia.
8. Санхедрин 65B.
 несколько веков содержание легенды существенно меняется9. Теперь в ней идет
речь о пророке Иеремии, человеке умнейшем и мудрейшем. Чтобы показать, что он
достиг вершины знания, Иеремия мастерит гуманоида столь совершенного, что тот
ничем не отличается от человека рожденного. Голем Иеремии тут же заговаривает
со своим создателем, объясняя ему возникшую из-за стирания различий путаницу
между природой и человеческим ремеслом, а затем требовательно заявляет: «Верни
меня обратно!» Какое самопожертвование со стороны гуманоида! Он предпочитает
самоуничтожение во имя сохранения прежде бывших моральных и культурных
разграничений, исчезнувших с его появлением на свет.
Но так поступают далеко не все роботы. Ава, искусственная девушка из фильма
Ex Machina Алека Гарланда, делает ровно наоборот. Ее цель — лучше изучить
людей, а соблюдать с ними разграничительную дистанцию она даже и не планирует.
Ава хочет только информации и для ее получения учится — как и монстр из
«Франкенштейна» — манипулировать человеческими эмоциями. Мужчина, стоящий
перед девушкой, ведет себя крайне предсказуемо, и Ава быстро приобретает
способность спрогнозировать его реакцию. Никакого почтения к человеческим
чувствам она при этом не испытывает. Ава — вычислительная машина, и хоть она
и умеет вызвать привязанность и страсть, что-то в ней неотвратимо кажется нам
нечеловеческим.
Говорящие роботы — не просто невинные алгоритмы, умеющие складывать
слова в предложения человеческого языка. Постепенно они внедряются во все
большее число повседневных коммуникаций, становясь тем самым инструментом
демиургической трансформации реальности. Общество, по Цицерону, есть то, что
люди говорят друг другу, — однако отныне говорят еще и машины. Это хорошо
8 понимал Алан Тьюринг, когда неотличимость машинной речи от человеческой
предложил сделать критерием наличия ума. Но даже Тьюринг не мог себе
представить, что произойдет, если речь вычислительных систем заполонит язык
и многократно превзойдет по объему всю массу человеческих разговоров. Какой
тогда будет реакция человеческого мозга, станет ли он имитировать язык машин?
Во что превратится общество, если из речи его членов исчезнет всякое понятие об
иерархии и вертикали?

Музыка
Один любит фортепиано, другой — скрипку. Один предпочитает фортепианную
музыку, другой — скрипичную. Можно даже представить себе, что первый меломан
всю жизнь только фортепиано и слушал, а второй — только скрипку. Как первый
может услышать, понять второго?
К счастью, существуют мелодии. Одна и та же мелодия может быть сыграна на
самых разных музыкальных инструментах. Мотив в ней будет одним и тем же, однако
исполнение, звучание, восприятие окажутся совершенно разными. Слушающему
музыку при этом не составит труда указать, что исполняется одна и та же мелодия,
хотя играют то скрипка, то рояль.
В этике новых технологий мы должны натренировать свое внутреннее чувство,
чтобы оно стало подобно уху слушающего музыку. Один и тот же мотив может
быть реализован и в технике, и в мифе — внимательный слушатель его узнает и
сможет выделить, несмотря на то, что языки и контексты, в которых он появляется,

9. Idel, Moshe. Golem: Jewish Magical and Mystical Traditions on the Artificial Anthropoid. New York: State Uni-
versity of New York Press, 1990.
кардинально отличаются друг от друга. Сведение одного контекста к другому
было бы примитивной, грубой ошибкой, тогда как совместное, сравнительное их
изучение может принести неожиданные, невиданные плоды.
Общность мотивов проистекает из сходного функционального описания как
вычислительных систем, так и некоторых типов мифологических персонажей.
Чатботы созданы для языкового общения с пользователем — тот же мотив речевой
коммуникации появляется в романе «Франкенштейн» и в еврейских легендах о
создании големов. Чтобы его вычленить, следует вынести за скобки как материально-
вещную составляющую цифровых технологий, так и нарративно-фантастический
аспект мифа — та же, по сути, абстракция, что и в случае двух меломанов, слышащих
единую мелодию в фортепианной и скрипичной музыке. Функции и отношения нас
интересуют больше, чем формы восприятия. Мотивы никогда не бросаются в глаза
и требуют отвлечения от конкретно проживаемой реальности.
Общие мотивы способны навести слушателя на неочевидные заключения
относительно машинной этики — при том только условии, что им будет проведено
сравнение с ситуациями морального выбора и суждения, данными в мифе. Поиску
таких сравнений посвящена эта книга.

9
 ТЕХНИКА И ФИЛОСОФИЯ
1. Слово о методе
Основная проблема философии техники вообще и философии информатики
в частности состоит в том, чтобы сказать о технике что-нибудь интересное.
Недостаточно описать функционирование технического объекта на доступном
для широких масс языке. Это может сделать популяризатор науки — например,
талантливый ученый или инженер. Философия здесь не может добавить ничего
нового в сравнении с тем, что известно инженеру. Ее задача — удивить не только
публику, но и самого инженера. Интересное — не то, что бросается в глаза, не
руководство пользователя, не описание составных частей технического объекта.
Интересное позволяет и самому специалисту чему-то научиться. Кажется, чего он
еще не знает? Как инженеру может быть интересно слушать философа?
Основная сложность философии техники состоит в выборе точки зрения на
технический объект и метода его рассмотрения. Философ должен владеть научным
и техническим материалом не хуже, чем ученый или инженер, но должен при этом
уметь отстраниться от языка науки, на котором описывается функционирование
самого объекта, и задаться вопросом о том, на каком же языке формулируется
интересное. Например, недостаточно дать феноменологическое описание
компьютерной программы — что и как она делает, какие в ней переменные,
команды, регистры, из каких модулей состоит исходный код, какими библиотеками
он оперирует, как поэтапно пишется программистом. Все это важно для самого
инженера, кроме того — для социолога науки, но философски это еще не интересно.
10 Это лишь первые подступы к интересному. Проблема метода состоит в поиске точки
зрения, отличающейся от тех, что доступны ученому, инженеру или социологу,
описывающему практику повседневной работы технических специалистов.
Как найти метод рассмотрения техники, с помощью которого открылось бы
что-то интересное? Не существует единого рецепта подобного философствования
и потому не существует универсального ответа на этот вопрос.
Освальд Шпенглер формулирует схожую проблему в отношении философии
истории10. Историк может описать события, факты, дать годы, имена, но сами по себе
они не составят смысл истории. Это лишь ее феноменальное, явленное содержание.
Смысл, вероятно, в ином — в том, чего не видно с точки зрения чисто описательной,
с позиции знатока или эрудита.
Жильбер Симондон пытается вникнуть в способ существования технического
объекта11. Что получится, спрашивает он, если при рассмотрении бытия
техники полностью избавиться от антропоморфизма — представления о мире,
сформированного человеком для человека? Уход от антропоморфизма — уже
немалый шаг по направлению к интересному.
Гюнтер Андерс рассматривает существование технического объекта во
времени12. Ключевое понятие его философии — устаревание — выводит технику из-
под защитного козырька антропоморфизма в просторы удивительного инобытия.
Устаревание оказывается неизбежностью для любого отдельно взятого технического
объекта.
10. Шпенглер, Освальд. Закат Европы: очерки морфологии мировой истории. Том 1. Гештальт и
действительность / Пер. с нем. К. А. Свасьяна. М.: Мысль, 1993.
11. Simondon, Gilbert. Du Mode d’existence des objets techniques. Paris: Aubier, 1958.
12. Anders, Günther. Die Antiquiertheit des Menschen. Band 1. Über die Seele im Zeitalter der zweiten industriel-
len Revolution. München: C. H. Beck, 1956.
 Ханна Арендт фокусирует свое внимание на демиургической роли инженера.
Homo faber, человек созидающий, состоит в ином отношении к мысли и мышлению
как роду деятельности, нежели человек, взятый по-аристотелевски в качестве
животного политического13. Жан-Пьер Дюпюи рассматривает технику через призму
крайнего случая ее воздействия на человека — техногенную катастрофу. Он задается
вопросом о священном, порождаемом техникой как силой, трансцендентной по
отношению человеку14. Если Симондон интересуется машинами как таковыми,
машинами как иным, если этика Арендт целиком направлена на анализ последствий
сожительства человека с техникой, то в политической экономии Дюпюи
спрашивается, что происходит при широком внедрении технических объектов
не только в мир людей, но и в целом в биосферу Земли. Все эти философы по-
своему решают фундаментальную проблему метода отыскания интересного либо
непосредственно в техническом, либо в отношениях техники, человека и мира.
Мы для отыскания интересного прибегнем к гомологическому методу.
Гомологией будем называть сходство, не подразумевающее знака равенства между
сравниваемыми понятиями или явлениями. Идентификация между ними отсутствует
— в лучшем случае, она может породить красивую метафору или дать источник
поэтического выражения, но к строгому философскому анализу она и непригодна,
и неприменима. Именно для того, чтобы подчеркнуть всякое отсутствие тождества,
проводимое сходство мы называем не аналогией, а гомологией.
Слово «гомология», знакомое в первую очередь биологам, подразумевает
в нашем понимании не рутинный, а существенный и содержательный принцип
отрицания тождества. Интересное найдется не благодаря идентификации понятий
(скажем, неинтересно говорить, что современный ученый есть Прометей в каком-
либо буквальном смысле), но вследствие того, что из анализа одной стороны 11
сравнения можно почерпнуть некие уроки для другой его стороны (что такого
мы знаем о Прометее, что было бы интересно в применении к современному
ученому?). Эти уроки, выводы оказываются возможными, поскольку обе стороны
сравнения содержат идентичный мотив — одну и ту же стрелку, связь, отношение,
раскрываемые в разных контекстах. Центральная проблема гомологического
метода — отыскание стрелок, а затем — с их помощью — отыскание интересного.
В биологии под гомологией понимается общее происхождение различных
органов, например, конечностей у млекопитающих — сравним лапу собаки и
руку человека, — или морфологическое сходство между разными таксонами в
биологической систематике. Глубокая гомология — сходство, которое можно
установить не непосредственным наблюдением, как Дарвин при сравнении
конечностей животных, а лишь вследствие глубокого изучения молекулярной
биологии и генетической наследственности организмов. Она не бросается в
глаза, а требует серьезного и нестандартного подхода к самой проблематике
сходства. Подобное новое понимание и подтолкнуло в 1840-х годах английского
зоолога и палеонтолога Ричарда Оуэна к тому, чтобы в противовес предыдущим
попыткам систематической классификации, пользовавшихся аристотелевским
понятием аналогии, сформулировать различие между аналогией и гомологией15.
Оуэн впервые принципиально разделяет сходство функции и сходство структуры

13. Arendt, Hannah. The Human Condition. Chicago: University of Chicago Press, 1958.
14. Dupuy, Jean-Pierre. Pour un catastrophisme éclairé. Paris: Seuil, 2004; Idem. La Marque du sacré. Paris: Carnets
Nord, 2009.
15. Owen, Richard. Lectures on the Comparative Anatomy and Physiology of the Invertebrate Animals. London:
Longman, Brown, Green, and Longmans, 1843. Термин «гомология» существовал и до Оуэна, однако строго и
последовательно отделять ее от аналогии начал именно он.
 или происхождения разных органов. Впоследствии термину «гомология» будут
даны несколько отличные определения даже в рамках самой биологии, к примеру,
в работах Н. И. Вавилова о растениях или в современной молекулярной генетике, а
также в химии, геологии и других науках. Пользуясь этой традицией переопределения
понятия «гомология», мы обобщим его и будем использовать в этике для описания
наличия между двумя сторонами сравнения общего мотива. Происхождение мотива
при этом может оставаться неопределенным, а проявляться он может в виде стрелки
как функциональной, так и структурной. Чтобы подчеркнуть, что присутствие
общего мотива не подразумевает никакого отождествления между сравниваемыми
явлениями, мы, как и Оуэн, не удовлетворяемся обыденным понятием «аналогия», а
вводим новый термин — гомологическая этика.
Нам интересна гомология между техникой и мифом. Вследствие совпадения
мотива между двумя частями гомологии, можно осмысленно вести речь об
определенной общности между научным и мифологическим контекстами,
несмотря на их онтологическую несхожесть. Мотивы могут быть разными, но число
фундаментальных мотивов не бесконечно. Сюда следует отнести: жизнь, смерть,
рождение, желание или вожделение, контроль, улучшение, новизну, причинность,
необратимость, ответственность и т. д.
Например, у Прометея, согласно Гесиоду и Платону, был брат Эпиметей, который
не послушался его советов и женился на Пандоре16. Если миф о ящике Пандоры
интерпретировать через сравнение Прометея с современным ученым, то необходимо
поставить вопрос о технике как источнике зла — но не прямом, который был бы
непосредственно связан с самим ученым, а косвенном, подразумевающем участие
третьих лиц, таких как Эпиметей. Появление третьего лица в анализе причинно-
12 следственной связи между действием инноватора и моральным суждением и есть
искомый мотив. Он вытекает из гомологического, неотождествляющего сравнения
положения ученого в мире новых технологий и Прометея в мифологии.
Эйнштейн, к примеру, напрямую не участвовал в создании атомной
бомбы, однако чувствовал себя ответственным за то, что было впоследствии
сделано коллегами-физиками с помощью его открытий. Чтобы понять суть этого
представления об ответственности, мотив Эпиметея, точнее — появление не просто
третьего лица, а родственника, брата, — может внести интересный элемент. Именно,
зададимся вопросом о значении взаимосвязи между инноватором и его коллегами,
которую нельзя по своему желанию стереть или разорвать, как нельзя по своему
желанию стереть или разорвать родственные узы. Кровное родство гомологически
соотносится с принадлежностью ученых к одной науке — физике. Отсюда вопрос
о том, влияет ли на ответственность отдельного ученого структура неразрывных
отношений внутри группы физиков. Как указано еще Арендт в конце 1960-х
годов, мы приходим к заключению о политически значимом виде коллективной
ответственности, не содержащем коллективной вины17. Такая ответственность
наступает при двух условиях: во-первых, индивид сам лично не совершал действие,
за которое ощущает и несет ответственность; во-вторых, индивид принадлежит к
группе, коллективно совершившей рассматриваемое действие, и принадлежность
его к ней нестираема, несмываема, неуничтожима — как нельзя в случае Эйнштейна
перестать быть физиком, а в случае Прометея — прекратить быть братом Эпиметея.
Арендт строит свое рассуждение, не пользуясь гомологией. Мы же смогли с помощью
мифа вычленить необходимый мотив и наметить путь к тому же результату, более

16. Гесиод. Труды и дни 57; Платон. Протагор 320D–322A.

17. Арендт, Ханна. Коллективная ответственность. С. 207.
того — сразу понять, какой аспект ситуации будет интересным. Им оказалась
невозможность разрыва связей с группой, несущей коллективную ответственность.
Нельзя сказать, что все умозаключения по гомологии обязательно позволяют
открыть интересное. Но попробовать стоит, потому что гомологический метод
в этике и философии техники может помочь отыскать ответы, недоступные при
рассмотрении проблемы «в лоб». Очень часто инженер считает, что раз он изобрел
какую-то совершенно новую технологию, то и вопросы, которые эта технология
поставит перед обществом, тоже будут доселе невиданными. Гомологический метод
намекает на обратное: если сравнение окажется удачным, то мы сможем выявить
мотивную связь, по которой с помощью ответов, известных из других контекстов,
удастся добраться до неочевидных решений этих якобы совершенно новых этических
проблем. Несмотря на всю новизну техники самой по себе, ее этика оказывается
вписанной в существующую традицию и даже крепко с ней связанной.

2. На языке математики
Гомологический метод можно описать на языке математики. Начнем с
произвольной коллекции каких-то объектов, обладающих разными бросающимися в
глаза свойствами. Подобные свойства позволяют сгруппировать объекты в множества;
будем поэтому называть их элементами некоторых множеств, описывающих именно
эти бросающиеся в глаза признаки. Можно ли продолжить процесс группирования?
Да, но объединение множеств становится уже чисто формальной и лишенной
непосредственного смысла операцией, потому что ключевые описываемые свойства
совершенно различны. Например, нет никакого очевидного интереса в объединении
множества зеленых лампочек со множеством медленно ползущих жуков. Формально 13
такая коллекция имеет право быть рассмотренной, однако она не характеризуется
каким-либо бросающимся в глаза свойством.
Все то, что можно сказать об объектах, не исчерпывается бросающимися
в глаза признаками. Вполне могут найтись и другие качества. Если бы у нас был
полный, бесконечно большой словарь возможных свойств, то для каждого объекта
можно было бы провести стрелки к разным словарным статьям. При этом какую-то
стрелку мы назвали бы главной, потому что она бросается в глаза. Но теперь обратим
внимание на остальные стрелки. Если для описания бросающихся в глаза свойств
подходит теория множеств, теперь удобно перейти на язык теории категорий. Все
объекты вместе со стрелками, которые приводят к определенным качествам, можно
рассматривать как категорию, даже если сами объекты по природе сильно отличаются
друг от друга. Совместное рассмотрение здесь имеет смысл благодаря стрелке. К
примеру, к свойству «быть похожим на зеленую точку» идут стрелки и от лягушек,
и от зеленых лампочек, и от жуков зеленого цвета. Все эти объекты включаются в
рассматриваемую категорию, хотя признак, выделенный стрелкой, отнюдь не всегда
бросается в глаза.
Похожесть на зеленые точки позволяет проводить параллели между лягушками,
жуками и лампочками. Например, для всех них можно определить операцию
«покрасить в золотой цвет». Это функтор из зеленой категории в золотую, а на другом
языке — эндоморфизм в большом множестве зеленых или золотых объектов. Так
как функтор действует на всей категории, то операция будет применима ко всем ее
представителям, какими бы они ни были по природе.
Предположим, из опыта известно, что лампочки и лягушек легко покрасить в
золотой цвет, но еще не известно, что это можно сделать с жуками. Применив стрелку
 ко всем объектам категории, в том числе к жукам, мы сделаем открытие, что и их
можно покрасить в золотой цвет. Таким образом мы узнаем что-то интересное о
жуках! «Разве жуков можно покрасить в золотой цвет? — Оказывается, что да! Ведь
они схожи с лампочками и лягушками». При этом, конечно, важно помнить, что
метод покраски не указан — можно только заключить, что операция в случае жуков
осмысленна. Как практически осуществить переход от зеленого жука к золотому, нам
не сообщается. Но раньше мы и не подозревали, что в отношении жуков в принципе
можно поставить вопрос про покраску в золотой цвет! Тут и удивление, и открытие
интересного.
Рассмотрим, как математическая схема гомологии применяется для сравнения
техники и мифа. Как поставить вопрос об этике инноватора, приносящего в мир
какую-либо новую технологию? Как узнать, в чем состоит связь между инновацией и
моральным суждением о добре и зле?
Освободим человека-инноватора или организацию, разрабатывающую новую
технологию, от бросающихся в глаза, но не самых важных для нас качеств. Сюда
могут входить адреса, имена и тому подобные характеристики, существенные в
повседневной жизни, но не играющие роли в гомологии. Оставим только саму
функцию инновации. Оказывается, что в категорию инноваторов — всех, кто
приносит новое и полезное, — входят еще и мифологические инноваторы. Это, к
примеру, Прометей, вылепивший из глины первых людей и принесший им огонь. Для
того, чтобы рассмотреть Прометея внутри категории инноваторов, нужно опять-таки
абстрагироваться от не самых существенных для нас черт мифа, например, от истории
об орле, который клевал ему печень. Мы сравниваем лишь функции, пожертвовав
при этом иными деталями. Но эти детали не стираются совершенно — мы только
14 временно исключили их из сравнения. Именно поэтому не следует проводить полное
отождествление ученого с Прометеем. Гомологический метод помещает их в одну
категорию, но все же заставляет помнить, что это лишь математическая операция, и
рано или поздно придется вернуться к различению персонажей.
Сразу ответить на вопрос о моральной ответственности ученого
затруднительно, зато ответ на вопрос о связи Прометея и морали дан в мифе: зло
входит в мир с Пандорой, женой Эпиметея, брата Прометея. Поскольку Прометей
и ученый находятся в одной категории, то стрелку от Прометея к моральному
суждению, которую мы установили с помощью мифа, можно применить и к ученому,
надеясь получить осмысленный результат. Если мы теперь так поступим, то имеем
шанс сделать открытие о сути отношения между технологическим инноватором и
моральным суждением о его инновации. Осталось описать эту стрелку, вычленив
стоящий за ней мотив. В «Урожаях и посевах» великий математик Александр
Гротендик так описывает созданную им мотивную когомологию:
«Мотивные когомологии» суть более тонкий инвариант, окруженный «арифметической
формой» (если возможно отважиться на такое выражение) многообразия X куда плотнее,
чем традиционные инварианты, чисто топологические. В моем восприятии мотивов
они представляются, как что-то вроде «пуповины», незаметной, скрытой от взгляда,
который связывает алгебро-геометрические свойства алгебраического многообразия со
свойствами «арифметической» природы, воплощенными в его мотиве. Последний может
рассматриваться, как объект по духу «геометрический», но в котором «арифметические»
свойства, определяемые геометрией, оказываются, так сказать, «обнаженными» и
выставленными напоказ. Итак, мотив представляется как глубочайший «инвариант
формы»18.

18. Гротендик, Александр. Урожаи и посевы. С. 69.

 В нашем методе, как и в математике, определение мотива не дается явно —
под ним понимается некоторое существенное свойство объекта, ответственное
за появление стрелки. Мотив выражает себя как функционально, так и структурно
— так же, как возможны и геометрическое, и арифметическое толкования этого
термина в математике.
Уже говорилось, что Пандора — жена брата, и именно родственные,
неразрывные узы задают ее связь с Прометеем. Эпиметей — этап промежуточный,
но важный, поскольку за этой фигурой скрывается искомый мотив родства, то есть
Эпиметей — брат и ничего кроме брата. В дело вступают неразрывные узы — именно
они подчеркиваются в мифе. Поскольку стрелка применима ко всем объектам в
категории инноваторов, то мотив неразрывных уз должен присутствовать и при
постановке вопроса о связи технологического инноватора и зла. Это рассуждение
приводит к уже известному заключению, что ответственность ученого определяется
его принадлежностью к группе, из которой он не может выйти, будучи неразрывно
с ней связанным. Стрелка позволила узнать что-то интересное об инноваторе через
гомологию с Прометеем.
Так проявляются мотивы. Требуя особого взгляда, они вовсе не всегда
бросаются в глаза. Объединение в единую категорию разных по природе объектов
основывается на умении мыслить абстрактно. Необходимо усмотреть в них общее,
выявив стрелку, ведущую к одному и тому же свойству или отношению. При этом
не следует отождествлять сравниваемые ситуации — полное их наложение или
слияние способно лишь дать красивую метафору для поэта.
Выше утверждалось, что количество фундаментальных мотивов не бесконечно,
а количество свойств в каталоге всех возможных свойств бесконечно. Оба тезиса
кажутся интуитивно верными, но если их поставить рядом, то они противоречат 15
друг другу. На каком основании можно утверждать, что количество интересных
стрелок конечно?
Для того, чтобы ответить на этот вопрос, надо рассмотреть категорию
интересных стрелок. С этой задачей должна справиться новая, еще не существующая
наука — мотивная антропология. Она изучает категорию более абстрактную, чем
даже сами отдельно взятые мотивы, рассматривая их все вместе. Однако если это
рассмотрение ограничить только бросающимися в глаза свойствами мотивов —
именно, что все они суть фундаментальные признаки или отношения, — то ничего
интересного, по-видимому, сказать не получится.
Неясно, какие еще есть качества у мотивов — ведь они соединяют самые разные
объекты (лягушек, лампочки и жуков). Нельзя ожидать, чтобы они имели какое-то
материальное выражение — мотивы явно абстрактны. При этом они выразимы,
поскольку мы пользуемся словами естественного языка, чтобы их сформулировать.
Отсюда и термин «антропология» — ведь мотивы выделяет и понимает именно
человеческий разум, а не какой-то иной интеллект. Вполне возможно, что человек
способен изобрести и сформулировать на своем языке только небольшое число
абстрактных мотивов. Также возможно, что человеческое мышление не может
оперировать больше чем, например, с четырьмя мотивами внутри одного
класса историй. Но это лишь догадки, требующие дальнейшего изучения внутри
мотивной антропологии. Мы оставим пока эту загадочную несуществующую науку
и обратимся не к исследованию всех мотивов вместе взятых, а к построению этики
информационных технологий с помощью отдельных их представителей.
 3. На языке мифа
Всю античную традицию интерпретации мифа от Платона до Прокла
пронизывает единство метода. У разных авторов могут быть разные интересы, но,
как бы ни отличались мифы, о которых они говорят, и выводы, которые они делают,
все их рассуждения вписываются в общую структуру мысли, состоящую в переходе
от мифической истории — от нарратива как такого — сначала к аллегории, затем к
рациональному, научному, фактологическому описанию и наконец к отображению
непостижимого мира божества. В христианстве станут различать четыре
уровня прочтения библейского мифа: буквальный, аллегорический, моральный
(тропологический) и духовный (анагогический). Не прикасаясь к этой позднейшей
традиции, выросшей, как и многое в христианской теологии, из античности,
рассмотрим на примере Плутарха, в чем состоит единство между этими уровнями вне
рамок догматического учения.
Подобно своим предшественникам и последователям, Плутарх различает три
уровня реальности: уровень мифа, уровень рационального изложения и уровень
истинного, но непосредственно не постижимого бытия. Эти три уровня существуют
не раздельно, а перекрывают друг друга, поскольку относятся к одной и той же
действительной сущности.
Так, египетские культы священных животных имеют и буквальное, и рационально-
фактологическое описание. Буквальное прочтение мифов о божественных животных
Плутархом высмеивается: «Египтяне воспринимают эти ритуалы и рассказы буквально
и <…> относятся к животным как к богам. <…> Таким образом, они взрастили опасную
веру, которая слабые и нелукавые умы повергает в пропасть чистого суеверия, а те,
16 в которых больше прозорливости и смелости, — в безжалостную логику атеизма» .
19

Именно такое буквальное прочтение повествований о божественных животных

приближается больше всего к обыденному значению слова «миф» — чему-то
ненастоящему, заведомо ложному и подлежащему полному отвержению. Подобное
поверхностное отношение к мифу подлежит высмеянию не только во времена
Плутарха, но и сегодня. Его можно оставить на совести умов слабых и нелукавых.
Мифу можно дать фактологическое и рациональное прочтение: Осирис, как
говорят, был военачальником и раздал своим полкам штандарты с изображением
различных животных, которые впоследствии превратились в предметы почитания20.
Еще одна, символическая интерпретация мифа видит в соколе знак силы, в носороге
— бесстыдства, в рыбе — ненависти21. Все эти уровни прочтения мифа лишь скрывают
слой божественного бытия, который изложен в них в закодированном виде в форме
аллегорического повествования:
Итак, если самые известные философы усматривали чудесное ознаменование божества
во всех вещах вплоть до бездушных и бестелесных и если они полагали, что ни одной из
них нельзя гнушаться или пренебрегать, то тем больше, как мне кажется, у нас причин
обратиться к свойствам существ восприимчивых, наделенных душой, чувственностью
и характером <…> чтобы почитать не этих животных, но через них божество. <…>
Божественное не в цвете, не в гладкости и не в форме материи, ибо то, что не причастно и не
может быть причастно жизни, имеет участь более бесславную, чем даже мертвые. Но такое
естество, что живет, видит, что содержит в себе источник собственного движения равно как
и способность отличить свое от чужого, восприяло и истечение красоты и долю ума22.

19. Плутарх. Исида и Осирис 377C, 379D–E.

20. Там же. 379F.
21. Там же. 363F.
22. Там же. 382A–C.
 При рассмотрении в дальнейшем обучаемых вычислительных систем
свойства, приписываемые в этой цитате существу красивому и умному, заиграют
вновь. В качестве отдельных характеристик машины мы назовем коммуникацию,
восприятие, способность к самодвижению и возможность провести границу между
внешним миром и замутненной для пользователя внутренностью машины.
В другом примере, приводимом Плутархом, указывается, что всякий
наблюдающий радугу видит только отраженный солнечный свет23. Поскольку
радуга яркая, а окружающая ее туча темная, то наивный человек может подумать,
что источник света, столь ярко преломляющегося в радуге, находится внутри тучи.
Но опытный наблюдатель не станет доверять первой мысли, а потратит больше
времени и усилий на поиск истины о местоположении солнца. Радугу, однако, не
следует списывать со счетов, потому что она действительно дана в зрительном
восприятии и отражает действительный солнечный свет. Так и миф отражает
реальность, но путь к ней может потребовать интеллектуальной тренировки. Миф
— не сказка и не басня, а то же, что радуга для солнца — непосредственно данное в
восприятии отражение света и закодированная передача другого уровня бытия, чей
смысл спрятан от нашего ума за тучей.
Об одной и той же реальности возможны три различных рассказа:
мифологический, научно-рациональный и теологический. Уровень божественного
бытия содержит абсолютную истину, но не открыт каждому для непосредственного
знания. К нему нужно подняться, отталкиваясь от двух других ступеней, на которых
описания реальности строятся совершенно иначе. Научно-рациональный уровень
оперирует с сухими, фактологическими описаниями и дает ясное, объективное
понимание. Миф же «влажен»24, замутнен, часто пользуется аллегорией и содержит
противоречия со здравым смыслом25. При этом все они повествуют об одной и той 17
же реальности, на единстве которой строится античная школа интерпретации мифа.
Единство мифа, логоса (рационального описания) и теологического описания
в позднеантичной традиции синонимично с Единым — наивысшим богом. Тезис
Плутарха о единстве разных богов сводится к тому, что Единый проявляет различные
аспекты и стороны самого себя в виде существ, которым люди дают различные имена
и называют их богами, тогда как на самом деле речь не идет о каких-то суверенных
реальностях26. Боги разных народов, по точному наблюдению Плутарха, задаются
одной и той же функцией: они исполняют сходные действия и играют одну и ту же
роль внутри различных культовых систем. Например, все женские имена одной из
главных богинь (а Исида в Египте владела великолепным эпитетом «тысячеименная»)
указывают на одно и то же существо, известное разным народам как Кибела, Юнона,
Деметра и т. д. Чтобы установить подобное единство, надо рассмотреть не имена
(они разные), а функцию богини-покровительницы плодородия (в ней сходство).
Именно единство богов при отличии их имен соответствует на языке мифа сути
гомологического метода.

4. Мотив тайны
Источник гомологии между техникой и религией, точнее — между цифровыми
технологиями и мифологическим корпусом, лежащим в основании той или иной

23. Там же. 358F.

24. Брагинская, Нина. Влажное слово: византийский ритор об эротическом романе. М.: Российский
государственный гуманитарный университет, 2003.
25. Плутарх. Цит. соч. 374E.
26. Там же. 377E–378B.
 религии, следует искать в том, казалось бы, незамысловатом факте, что обе эти
сферы оперируют с тайной. В обоих случаях в общество благодаря тайне вносится
первичное, фундаментальное разделение на тех, кто имеет к ней доступ, и тех,
кто доступа не имеет. В силу своей универсальности это разделение приводит к
схожим этическим и политическим последствиям в разных по природе мирах —
техническом и религиозном. Наметим канву их сравнения в целом, а в следующих
главах разработаем отдельные примеры.
— К общественным явлениям следует приложить позитивный метод познания.
— Изучение общественной жизни есть наука столь же строгая, как физика.
— Построение нового общества должно быть обосновано позитивным законом и
реализовано научно мыслящей силой.
Эти скучные аргументы XIX века по-прежнему еще способны впечатлить экономиста
или тракториста. Их основа — статистический метод. Общество есть набор данных,
и если правильно извлечь из них смысл, то можно вывести законы общественного
развития. Так думал Огюст Конт, так думают многие его последователи.
Они слепы к главному: применение ко всему обществу культа тайного,
скрытого от масс знания, будь то знание религиозное или техническое, есть верный
способ переопределить самое res publica. Общественное устроение, возникающее
вследствие развития техники, в корне противоречит определению общественной
жизни, используемому пропагандистами теперь всем ясного.
Статистика, по замыслу позитивных общественных наук, должна вскрыть тайну
коллективной жизни и дать ее научное описание. Однако она сама только тогда
способна удивить, когда заставляет забыть об исходных данных, когда пользуется
18 ими как поводом, а не как носителем истины. Если найденная в данных корреляция
просто предполагает связь между двумя уже известными явлениями, то ничего
кроме этой связи вывести из нее нельзя. Нельзя даже делать выводы о ее причинно-
следственном характере. Изредка же бывает, что корреляция в данных настолько
удивительна, что заставляет создать для ее объяснения новое понятие, подняться на
новый уровень изучения общественных явлений. Только такое вознесение над слоем
исходных данных и интересно с точки зрения философии. Когда концептуальный
аппарат на выходе не имманентен данным, а преодолевает их, тогда и рождается
интересное.
Поскольку интересное скрыто от взора и дано неявно, на взгляд профана оно
составляет предмет тайны. К секрету допущен священник, эксперт, специалист, а
для частного лица тайное есть предмет мистериального культа. Неважно, что лежит
в его основе — религия или же прогресс в построении технических устройств.
Эксперт, конечно, не стремится специально творить тайну, но само выполнение им
своих функций уже приводит к укоренению разделения между ним и профаном.
Что мы живем в эпоху прекрасного прогресса есть очень узкая точка зрения. Она
может быть сформулирована только изнутри мира, получающего непосредственное
чувственное наслаждение от благ науки и техники. Но оставаться внутри этого мира
— то же, что не суметь вознестись над уровнем данных. Технологический гедонист
приятен, но не интересен. Технологическое эпикурейство есть не философия, а
образ жизни обывателя. Философ ищет способ увидеть то, что от обывателя скрыто.
В момент разрушения языческого общества в конце IV века всякий истово
верующий верил уже мистериально. Государственная римская религия не
вызывала тех же эмоций, что когда-то в республиканские времена. Обряды ее
нехотя исполнялись, но не были наполнены прежним энтузиазмом. Энтузиазм,
однако, никуда не делся. Вместо того, чтобы проявляться в традиционных культах,
он перенесся в мистериальные религии, которые во множестве существовали
в последние века Римской империи. Это культы Дионисия, Митры, Великой
Матери, Исиды, это и христианство. Авсоний — крупный поэт римской Аквитании,
преподаватель в Бордо, а затем воспитатель императора Грациана, префект
претория и консул, — так открывает свои «Стихи пасхальные во имя императора»:
Sancta salutiferi redeunt sollemnia Christi
et devota pii celebrant ieiunia mystæ…
Вновь святая грядет Христа Спасителя пасха,
Благочестивый пост блюдут посвященные мисты…27
Христиане для Авсония — те же мисты, что и последователи мистериальных
религий. Их религия также обращается к тайному и скрытому. Путем ритуала,
который проводит священник, христианам открывается доступ к тайне через
священные слова, вещи, жесты — триаду мистериальных практик, встречающуюся
во всех культах, но особенно хорошо известную нам по описаниям Элевсинских
мистерий.
Вычислительная техника, как мы увидим, создает завесу замутнения, за
которой скрыто нечто, недоступное пользователю. Возникает тайна, которую
можно сравнить с секретом мистериального культа. Как и в религии, доступ к тайне
открывается, если произнести священные слова, взять священные вещи и совершить
священные жесты. Действия миста подобны тому, как пользователь прикасается к
экрану телефона, как он нажимает на иконки, с каким воодушевлением он говорит о
смартфоне или — теперь все чаще — говорит с ним. При этом техническое действие,
если оно корректно совершается устройством, придает пользователю уверенность 19
в эффективности результата, выражающуюся максимально наглядно: в звонке
другому лицу или в получении пользователем информации от установленного в
смартфоне приложения. Уверенность есть ключевое свойство коммуникации с
техническим объектом.
Последователь мистериальной религии достигает непосредственного
уверования и получает эмоциональный подъем от четко исполненного ритуала,
данного истинной религией. Ритуал, будучи доведенным до конца, придает мисту
уверенность в своем результате — например, в прощении грехов, обретении
долголетия или даже бессмертия. С точки зрения римлянина, смотрящего на Рим,
как и с точки зрения современного пользователя, смотрящего на технику, увидеть
смысл соответствующих ритуалов невозможно. Можно лишь ознакомиться с
эмпирическим фактом веры в его результат. Антропологический анализ должен
удалить эмоцию непосредственно живущего в ту или иную эпоху, а гомологический
анализ — удалить из рассмотрения разницу между техникой и религией (она не
стирается, но берется в скобки). Если в религии речь идет только об уверенности
миста, основанной на полноте и четкости исполнения ритуала, то в мире техники
уверенность имеет еще и объективное, научное и наглядное объяснение. Эта
разница, несомненно, не может быть проигнорирована, однако тем интереснее
с помощью гомологии находить общее между столь разными на первый взгляд
областями.
Успешное и осмысленное сравнение даст возможность понять, как
мистериальный культ и исполнение технических жестов перекраивают
общественное пространство, его географию, топологию, отношения власти и

27. Авсоний. Стихи пасхальные во имя императора 1–2.

 подданных, саму функцию власти, типологически меняя ее носителей, заменяя
общее дело на тайный мир, в котором доступ к желанному секрету опосредован
священнодействием одной касты.

20
ИНТЕРЛЮДИЯ.
КОМПЛÉКС УВЕРЕННОСТИ
Философы делятся на уверенных и неуверенных. Уверенный философ учит
правде, неуверенный учит не принимать чужую правду. О сомнении говорил Сократ
и писал Монтень.
Уверенность в истинности высказывания отличается от уверенности в правоте
собственного высказывания. Последнее легко превращается в уверенность в себе.
Такой философ готов стать политиком. В двадцатом веке самыми уверенными
политиками были марксисты, философами — логические позитивисты.
Среди уверенных в правоте высказывания встречаются верующие в истину
факта. Само предложение есть только факт языка, а вера, от языка отсоединяясь,
описывает истину вне утверждения, то есть факт бытия. Витгенштейн, подготавливая
почву для логического позитивизма, утвердил достаточность языка: «Предложение
показывает логическую форму действительности»28. Венскому кружку оставалось
выяснить, на каком именно языке изъясняется действительность.
Рудольф Карнап выступал за формальные, сконструированные языки.
Логичность их построения не подлежит сомнению. Однако одной логики
недостаточно для установления истинности высказывания. Ее недостаточно даже
для отделения возможных — осмысленных — конструкций от невозможных.
Внешний критерий, устраняющий эту проблему, — закон природы, данный в науке.
Наука номологически ограждает значащие предложения от пустых
формальных конструкций. Но какая для этого нужна наука? Та, что способна
21
эмпирически установить истинность высказывания. Отсюда другое название
логического позитивизма — логический эмпиризм. Проверка на истинность
требует от экспериментатора уверенности в результате опыта. И еще уверенности
в переводе этого результата в предложение формального языка. Карнап относится
к уверенным философам.
Мориц Шлик выступал за естественный язык. Грамматика и синтаксис языка
позволяют составить гугол предложений. Но осмысленны только те из них, что
можно проверить логически. Логика для естественного языка — навязываемый
извне корсет. Верификация предложения у Шлика требует не физики, не науки, а
логической точности. Ее достаточно для отбора значащих предложений. Однако
проверка логикой также требует уверенности. В конечном счете, уверенность
необходима при всякой проверке высказывания на истинность. Шлик не меньше,
чем Карнап, относится к уверенным философам.
Уверенность логических позитивистов есть уверенность в возможности
точной — научной или логической — проверки значащего предложения. Все
остальные высказывания относятся к метафизике. Таким образом, метафизика
лишена значения и смысла.
В частности, бессмысленной оказывается Кантова структура знания: истинность
категорий мышления нельзя проверить, синтетическое априори не эмпирично.
Логический позитивизм сбросил было Канта с парохода современности, но через
несколько десятилетий кит изверг его обратно.

28. Витгенштейн, Людвиг. Логико-философский трактат. С. 25.

 Уверенность, на что бы она ни была направлена, есть свойство религиозное.
В 1936 году Шлик был убит студентом, умственно не справившимся с отрицанием
метафизики. Какую-то роль сыграла религиозная мистика. Наша задача —
исследовать не мистическую, а мистериальную религиозность. Именно она стоит за
позитивным подходом к истине.
Наперво нужно сказать о поэзии. Поэзия футуризма и формальная теория имеют
не меньшие, чем философия, права на терминологию позитивизма. И формальные
языки они создавали, и естественный язык доводили до бессмысленности чистой
грамматики. Смысл исследовали через отсутствие смысла. В поэзии футуристов и в
формальной теории присутствует упоенность уверенностью.
Обе они — в отличие от философии — обращаются к общественному.
Упоенность уверенностью превращается в упоение революцией. Трудно сказать,
в равной ли степени за это ответственны завод, железная дорога, кино, колония,
капитализм. Существует и непоэтический извод положительного упоения. Это
литература, высушенная прозой большевистского факта.
Позитивизм Карнапа и Шлика крутил шуры с логикой и наукой. В теории
относительности логические позитивисты способны были разобраться
математически, но квантовой механикой владели поверхностно. Наука была им
близкой знакомой, заменявшей в нужный момент жену. Дубившие и мявшие язык
Платонов и Шкловский относились к науке как к метафоре. Ощущения напряженной
истины научного предложения в их заимствованиях не было. Переносом слово
сводилось к напряжению лишь языковому.
В центре же положительного кружка Хлебников всех большевее под собою
физики не чуя по-пифагорейски работал число. Хлебников — лучший вычислитель
22 мистериальной религиозности как гомологии комплéкса уверенности.
Науку можно взять метафорически двумя способами. Поэт видит в ней силу
смекалки, в ее терминах — голос неподкупного ангела. Обществовед — торжество
детерминизма и источник исторической неизбежности. Перенос кажущегося
научного детерминизма в область историко-политическую приводит к марксизму
и тоталитаризму. Тот же перенос в языковую сферу ведет к выхолащиванию тайного
и к аналитической философии. Но от науки всегда веет строгостью, каким бы путем
метафоры она ни шла в коллектив. Поэт телесно отдается нездешней строгости.
Марксист прилаживает ее под хомут историцизма. Логический позитивист осушает
с ее помощью хлюпающую грязь смысла.
Всякая строгость есть строгость мистериальная.
Различие между частным и общественным есть фундаментальное
антропологическое разделение. Оно появляется, как только человек начинает
рассматривать себя против группы, членом которой он состоит. Индивидуальное
скрыто от группы. Как следствие, частный культ противоложен публичному. Он
мистериален, поскольку связан с тайной. Элевсинские мистерии, мистерии Исиды,
Митры и Великой Матери проводятся для многих, но не для коллектива. Священники
открывают скрытое каждому мисту по отдельности. Несказанное — —

нельзя прокричать на площади.

И религия, и наука вмешиваются в это фундаментальное различие. Через
тайное, данное каждому, но не всем вместе, создается мистериальный культ. Наука
— для многих, но не для всего общества. Она связана с тайной, скрытой за порогом
знания. Гаджеты есть у всех, но их внутреннее бытие известно только посвященным.
Даже если эту тайну на ее научном языке громко выкрикнуть на площади, получится
лишь метафора. В этом смысле отмена христианского богослужения на латыни и
исключение последней из школьной программы выдвинули на первое место язык
математики как наиболее важный и непонятный язык тайны. Математическое
исследование полностью противоречит открытости, общественности и доступности,
то есть неиндивидуальности публичного культа. Наука не может быть для всех, как
бы ни старались сделать ее open source.
Мистериальный культ основывается на строгой несказанности тайных слов.
Помимо слов в тайну включены еще и скрытые действия и предметы. Обряд
посвящения подразумевает активное приобщение миста к строгости действий.
Строгость здесь противопоставлена грезе, хоть и соседствует с божественным.
Чем ближе соседство, тем строже ритуал. В результате посвященный обретает
уверенность в особом отношении бога, то есть уверенность в благости. Тавроболиат,
к примеру, уверен в обретении на двадцать лет молодой силы, посвященный в
мистерии Исиды — в полученном бессмертии. Но с точки зрения антропологии
сакрального — исследования структуры религии безотносительно содержания
конкретного культа, — посвящение в мистерии есть чистое явление строгости.
Мистерия есть строгость доступа к тайне, выступающая как всеобщий, но строго
индивидуальный мотив. Чем тайна скрытнее, тем строже к ней доступ. Соблюденная
строгость в свою очередь рождает уверенность. Между умом посвященного в
мистерии и феноменом уверенности — антропологическое тождество.
Итак, позитивизм есть научно-религиозная мистерия. В своем основании
мистериальны и поклоняющаяся неизбежности литература, взятая как практика,
и эмпирическая философия, связавшая язык путами логики. Литература получает
тут неожиданное преимущество над философией благодаря тому, что в ней наука
взята лишь как метафора. Логический же позитивизм претендует на союз с наукой
не путем переноса, а слишком серьезно. В результате, когда научная картина мира 23
меняется, он остается ни с чем. Научно-религиозная мистерия, чей тайный язык —
математика, сегодня все больше уступает место технико-религиозной мистерии,
чей язык — информатика. Техника же, в отличие от чистой науки, хотя еще и может
рассматриваться как метафора, уже не способна обосновать эмпиризм логики в
деле выявления истинности языкового предложения.
Священнодействие требует применения сокровенного знания священника.
Священник придает смысл святым словам, действиям и вещам. Смысл рождается
не в каком-либо высказывании посвящаемого, не в одном только бытии сокрытой
вещи и не в одной лишь тайне взятой в самой себе, а в их соединении со статусом
священника в момент священнодействия. Тайна сообщаемая мистериальна, тайна
только хранимая — не более, чем возможность святости.
В современной технике священнодействие есть вычисление и вычисление есть
священнодействие. Гаджет — то тайное место, где совершается обряд. Внутри него,
как внутри Митреума — темнота. Пользователь, глядя в лежащий на ладони черный
ящик, посвящается в мистерию. Особое, сокровенное знание внесено в смартфон.
Казалось бы, инженер — священник технической религии. Но священнодействие
совершается без него, пользователь оставлен лицом к лицу с гаджетом. Вещь
вычисляющая действует сама. Теперь священник и компьютер едины.
Это и есть тайна, не понятая логическими позитивистами. Естественный язык
связан путами логики, формальному языку она присуща по построению. Информа-
тика основывается на формальных языках, но идет дальше — развертывает их в
процесс вычисления. Вычислительная машина становится основой общедоступной
техники. Уменьшаясь в размерах, техника помещается на ладони. Темная комната в
кулаке есть место священнодействия. В ней хранится мистериальная тайна, и сама
 она — создатель технического смысла. Предложения, которыми гаджет общается
с пользователем, приобретают значение не от наложения внешних оков, а из
внутренней темноты.
Поэзия слышит язык этой темноты: «чистое такое, лучше десяти тысяч таких»29.
Он состоит из меток и чисел. Через посвящение каждый пользователь, но не
общество в целом, обретает уверенность, иначе — новый голос. Этот голос создает
из меток и чисел значащие предложения. Новая мистерия смысла оказывается не
чем иным, как приобщением к ценностям компьютерного кода. В нем — уверенность.

24

29. Лукоянов, Эдуард. «Возлюбленный мой такой и такой, лучше десяти тысяч таких…». С. 24.
ЧТО ЕСТЬ ЗЛО ДЛЯ ВЫЧИСЛИТЕЛЬ-
НОЙ МАШИНЫ?
5. Информация ни о чем
Выдающийся физик-теоретик второй половины двадцатого столетия Джон
Уилер, обладавший не меньшим даром видеть интересное, чем Альберт Эйнштейн
или Нильс Бор в первой половине века, в одной из статей описывает игру «20
вопросов», популярную на американском телевидении в 1950-е годы30.
Игра эта проходит следующим образом. Сначала один игрок выходит из
комнаты, в которой находятся остальные участники. Оставшиеся в тайне от
вышедшего выбирают какое-либо слово, к примеру, «облако». Затем игрок
возвращается и задает каждому из участников по очереди бинарные вопросы —
такие, на которые можно ответить только «да» или «нет». Например, игрок сначала
спрашивает одного из присутствующих: «У него четыре ноги?» — и получает
отрицательный ответ. Затем: «Оно летает по небу?» — ответ положительный. За
двадцать или менее вопросов он должен отгадать загаданное слово. Предположим,
что после восемнадцати вопросов игрок осторожно высказывает свою версию: «Это
облако?» Поскольку ответ правильный, победитель получает раунд аплодисментов
и поздравления с выигрышем.
Такова телевизионная версия игры. Чтобы у нее появился философский
интерес, Уилер предлагает ее модифицировать. В его варианте игрок также выходит
из комнаты, затем возвращается и начинает задавать бинарные вопросы. Только
оказывается, что, прежде чем ответить на заданный вопрос, каждый из участников 25
довольно долго размышляет над ответом. Если на первый вопрос выходивший
из комнаты участник получает ответ сразу, то на второй — после того, как второй
спрошенный игрок немного поразмыслит, на третий — после того, как третий также
подумает над своим ответом, причем ему требуется больше времени, чем второму,
и т. д. В конце концов ведущий осторожно предполагает: «Это облако?» — и уже не
только ему аплодируют, но все участники вскакивают со своих мест и бросаются
обнимать и поздравлять друг друга.
С чем же связана такая реакция, с чем это они сами себя поздравляют?
Оказывается, что в версии Уилера, когда игрок выходит из комнаты, остальные
не выбирают какое-либо слово, а решают ничего заранее не выбирать. Никакой
договоренности между ними нет. В таком случае каждый последующий отвечающий
выполняет те же функции, что и ведущий игрок, — он должен придумать слово,
совместимое со всеми ранее данными ответами, и только после этого может сам
ответить на заданный вопрос. Отсюда и долгое время на размышление, отсюда же
сильные эмоции, которые все присутствующие испытывают в случае выигрыша.
Уилер предлагает свою модификацию телевизионной игры «20 вопросов»
в контексте размышлений о философии квантовой механики, но нас сейчас
интересует не она. Зададимся вот каким вопросом: если никакое слово не загадано
и никакой объект не выбран, то о чем та информация, которую каждый последующий
участник сообщает в ответе на заданный ему вопрос? Ведь отвечающий может
придумать свое собственное слово, которое кажется ему правильным и на которое
он ориентируется, но слово это сохраняется втайне и изменяется от игрока к игроку.
30. Wheeler, John. World as System Self-Synthesized by Quantum Networking // IBM Journal of Research and
Development 32 (1). 1988. P. 4–15.
 Получается, что информация, которую каждый участник сообщает в своем ответе,
соотносится с каким-то понятием, известным ему лично, тогда как его товарищи
могут иметь в виду совершенно другие слова.
У игроков в «20 вопросов» не получается вовсе не думать о каком-либо понятии
или объекте, потому что человек воспринимает слова языка всегда как отсылку, как
наполненность смыслом, хотя бы и неизвестным и непонятным. Вот две строчки из
Стефана Малларме:
Sur les crédences, au salon vide — nul ptyx,
Aboli bibelot d’inanité sonore…
На алтарях, в пустой гостиной: там — не птикс,
Игрушка звончатой тщеты…31

Малларме, рифмой заведенный в сумрачный лес, где ему повстречался гапакс

«птикс», сочинил это стихотворение, сам не зная как, — и тут же разражается
мольбами к другу, чтобы тот объяснил ему смысл написанного:
Устройте так, чтобы сообщить мне действительный смысл слова «птикс», или уверьте
меня, что его нет ни в одном языке — это было бы наилучшим выходом, потому что я бы
поверил тогда, что оно создано одной только магией рифмы. <…> С нетерпением молю
вас…32

Ясно, что Малларме понятия не имел, чем мог быть «птикс», хотя одновременно
всякому русскоговорящему слышно по созвучию, что речь идет о какой-то птице,
вероятно доисторической или игрушечной.
В первой главе «Алисы в Зазеркалье» Льюиса Кэрролла Алиса видит в зеркале
26 знаменитое стихотворение Jabberwocky («Бармаглот»):
’Twas brillig, and the slithy toves
Did gyre and gimble in the wabe…
Варкалось. Хливкие шорьки
Пырялись по наве…33

Дочитав стихотворение до конца, Алиса говорит сама себе: «Очень милые

стишки… но понять их не так-то легко. <…> Наводят на всякие мысли — хоть я и не
знаю, на какие… Одно ясно: кто-то кого-то здесь убил… А, впрочем, может и нет»34.
Великий Хлебников в сверхповести «Зангези» дает слово богам:
Эчи, учи, очи!
Кези, нези, дзигага!
Низаризи озири.
Мэамура зиморо!35

В отличие от нелукавого Малларме и невзрослой Алисы, Хлебников даже не

пытается найти смысл этих лексем или объекты, на которые они указывают. Заумь —
язык чистых, а не бытовых слов. Ежели кому такие слова и покажутся случайными,
то, как говорит Хлебников, «верим, они снова заиграют жизнью, как в первые дни
творения»36.

31. Mallarmé, Stéphane. « Ses purs ongles très haut dédiant leur onyx… ». P. 128. Русский перевод: Малларме,
Стефан. «Высоко освятив ногтей своих оникс…». С. 71.
32. Mallarmé, Stéphane. Lettre à Eugène Lefébure (3 mai 1868). P. 728.
33. Кэрролл, Льюис. Приключения Алисы в стране чудес. С. 122.
34. Там же. С. 129.
35. Хлебников, Велимир. Зангези. С. 474.
36. Хлебников, Велимир. Наша основа. С. 627.
 Если, воспринимая эти три рода поэзии, разные читатели думают об отсылке
к разным объектам, то остается только констатировать, что между ними нет — да и
не должно быть — никакой общности. Если после двадцати вопросов в игре Уилера
общее для всех игроков слово так и не найдено, то нет никакой причины полагать,
что процесс подбора слов сходился или должен был сойтись к какому-то общему
знаменателю. В случае поражения подобного единого предмета нет и не было. О
чем же тогда получал информацию спрашивавший игрок? Ни о чем — ни о каком
объекте или понятии, которое имело бы хотя бы какой-то способ существования.
Информации, содержащейся в ответах, каждый игрок придает смысл совершенно
субъективно. Она лишена общей для всех отсылки, и никакого объективного смысла
у нее нет.
Игра «20 вопросов» иллюстрирует примечательное свойство безреферентной,
ни к чему не отсылающей информации. Однако человек, дающий такую информацию
(отвечающий на вопрос), равно как и ее получающий (задающий вопрос), полагают,
что она повествует о чем-то. Они спонтанно и неизбежно придают ей семантическое
наполнение и смысл. Но предположим, что подобные умозрительные отсылки
оказываются разными для разных людей — тогда остается лишь признать, что
абстрактная информация, содержащаяся в ответах «да» и «нет», есть информация-
ни-о-чем.
Вычислительная машина работает именно с информацией-ни-о-чем. В
отличие от человеческого мозга она не ищет в ней никакого значения, никакой
семантики и никакой отсылки к объектам или понятиям человеческого языка. Для
компьютера понятие смысла чуждо, а естественное для него представление об
информации совершенно абстрактно37. В этом отличие вычислительной системы от
человеческого мозга, который не может примириться с информацией-ни-о-чем и 27
всегда ищет для нее какие-то смысл и отсылку к реальности, пусть даже совершенно
субъективные и существующие только внутри его самого.
Неспособность человека работать с информацией-ни-о-чем поразительна.
Именно с нее Витгенштейн начинает вопрошание о природе знания в «Голубой
книге»:
Вопросы «Что такое длина?», «Что такое значение?», «Что такое число один?» и т. п.
вызывают у нас судорогу ума. Мы чувствуем, что в ответ на эти вопросы не можем ни
на что указать, но в то же время — что должны на что-то указать. Мы оказываемся
перед лицом одного из величайших источников философского замешательства: имя
существительное заставляет нас искать предмет, который бы ему соответствовал38.
В отличие от игры Уилера замешательство, о котором говорит Витгенштейн,
вызывается не тем, что предметы могут оказаться разными для разных людей, а
тем, что такие предметы вообще нужны. Ведь вычислительная машина прекрасно
обходится без них, умея работать с абстрактной информацией — информацией без
референции, без семантики, без смысла — информацией-ни-о-чем. А человеческий
мозг так не может! Как только от абстрактной информации он переходит к знанию,
это всегда «знание о», а не какое-то отвлеченное формальное знание. В этом
фундаментальное отличие внутримашинной информации, понятой и как пища
вычислительной системы, и как продукт ее работы, от информации, воспринятой
пользователем.
37. Понятие информации с точки зрения вычислительной машины соответствует определению
абстрактной, несемантической информации, данному Клодом Шенноном в книге “A Mathematical Theory of
Communication”. Семантические исследования в информатике имеют давнюю и богатую историю, однако
речь в них идет о более или менее успешном моделировании семантики человеческого языка.
38. Wittgenstein, Ludwig. The Blue Book. P. 1.
 6. Цифровая особа
Французский анархо-богослов и луддит-правовед Жак Эллюль сказал однажды,
что если бы Карл Маркс жил в двадцатом веке, его интересовала бы не экономика, а
техника39. И, конечно, попал в точку.
Между человеком и вещью существует отношение собственности — Маркс
именно его изучал и на его основании строил теорию капитала и коммунизма.
Владеть вещью — значит лишить других права на владение ею. Отсюда конкуренция
в экономике, отсюда же — уже вне всякого марксизма — треугольник желаний Рене
Жирара40. Поскольку материальные ресурсы всегда ограниченны, конкуренция
порождает борьбу и насилие. Маркс интерпретирует борьбу политически, Жирар
придает насилию антропологический смысл.
Однако в цифровом граде ситуация радикально иная. Под этим выражением
будем понимать совокупность отношений в мире информации, субъектами которых
могут быть как люди, для которых информация превращается в знание, так и
машины, для которых она остается информацией-ни-о-чем. Жители цифрового града
находятся одновременно как в физическом трехмерном пространстве, так и в мире
информации, который не знает границ между странами и континентами. Тем не менее,
это цифровое пространство представляет собой полис в греческом смысле слова,
в котором жители вступают друг с другом в политические отношения. Движущей
силой, зачинщиком или причиной этих отношений является именно информация.
Медиация информацией порождает как дружбу, мир, так и конфликт, войну — в
цифровом граде представлена та же политика, которую мы знаем по отношениям
в трехмерном пространстве. Отличие лишь в том, что границы цифрового града не
28 пролегают по рекам и вершинам гор, а определяются информационно.
В отличие от материальных благ, информация — товар не редкий. Ее можно
копировать и воспроизводить без ограничения, ею можно наделить множество
носителей таким образом, что сама информация при этом нисколько не умалится.
Ею овладевают не в ущерб другим. Центральным отношением, которое создает
и проблематизирует информация, является не отношение собственности, а
отношение знания. Эта ситуация не нова в истории философии: уже Цицерон,
приводя слова римского поэта Энния, пишет о свече, которая загорается от другой
свечи, не умаляя света первой. У неоплатоников читаем о лампе, зажженной от
другой лампы, но не уменьшающей ее света. Нумений применяет эту метафору к
знанию41, вслед за ним Плотин — к коммуникации, то есть сообщению или передаче
знания42. Идея неуменьшающегося, неумалимого знания становится ключевым
философским посылом неплатонизма. Если рассматривать информацию с точки
зрения ее владельца, она представляет для него знание, а не вещь или товар, и он
такое нематериальное знание может передать, ничуть при этом его не уменьшив.
Отношение знания вводит в цифровом граде особый антропологический и
социальный устой. Владеющие информацией делятся на группы или классы не в
зависимости от материальных благ или объема материальных носителей, которыми
они обладают, как в обычном граде земном, а согласно уровню знания. Следует
отличать посвященных — тех, кто знает, — от незнающих профанов. Для профана
39. Ellul, Jacques. Entretien avec Jean-Claude Guillebaud // Le Nouvel Observateur. 17 juillet 1982.
40. Жирар, Рене. Насилие и священное / Пер. с франц. Г. М. Дашевского. М.: Новое литературное обозрение,
2000.
41. Нумений. Фрагмент 14, 538D. Сама метафора восходит к стоику Посидонию из Апамеи, однако она
трансформируется Нумением в философский принцип и вслед за этим используется Плотином в качестве
одного из главных постулатов неоплатонизма.
42. Плотин. Эннеада IV 9, 5.
существует тайна, для посвященного она превращается в знание. Если взять
человека как телесно-биологическое и интеллектуальное единство, то в разных
ситуациях один и тот же индивид может оказаться и посвященным, и профаном. В
информатике эти две категории жителей цифрового града соответствуют понятиям
программиста и пользователя. Пользователь взаимодействует с техническим
объектом, используя интерфейс, тогда как внутренняя жизнь технического объекта
для него недоступна. Программист — это тот, кто пишет код. Через написание кода
он причастен внутреннему бытию той вещи, в которую код будет помещен для
исполнения. Но можно ли назвать технический объект вещью?
Всякая вещь в цифровом граде — от автоматического пылесоса до
человекообразного робота — имеет два способа существования. С одной стороны,
это обычная вещь, поскольку она материальна и пространственно ограниченна. С
другой стороны, это вычислительная система. Каждому способу существования
соответствуют отдельные юридический, социальный и этический статусы. С одной
стороны, цифровая вещь есть просто вещь — клубок материи, который можно купить
или продать. Стать ее собственником можно так же, как можно стать собственником
свечи или лампы, купив ее в магазине. С другой стороны, цифровая вещь есть
вычислительная система. Процессор в сердце этой системы позволяет ей автономно
работать, исполняя код. Получается вещь вычисляющая — вычисляя, она действует.
Говоря по-аристотелевски — движется самостоятельно. Возможно — живет.
Вещь вычисляет, но также представляет и хранит данные и взаимодействует
с пользователем с помощью интерфейса ввода-вывода. Ее структура троична:
вычислительное ядро с процессором, представление данных в памяти и интерфейс
взаимодействия с пользователем43. Эти три уровня связаны нетривиальным образом.
Например, интерфейс не позволяет получить доступ непосредственно к процессу 29
вычисления. Внутренние состояния вещи вычисляющей скрыты от пользователя.
Последний получает через интерфейс лишь доступ к результатам вычисления,
уже представленным как элементы вывода. Отсюда вытекает заключение о
фундаментальной, конститутивной замутненности вещи вычисляющей. Для
пользователя она неизбежно явлена как черный ящик, чье устройство оставляет ему
лишь возможность доступа к вводу и выводу, но не позволяет проникнуть сквозь
темноту крышки. Программист же способен вскрыть этот черный ящик и заглянуть
внутрь благодаря знанию, которым он обладает.
Итак, троица составляющих вещи вычисляющей состоит из интерфейса,
памяти и вычислительного ядра или процессора. Каждая из этих составляющих
обладает свойствами, определяющими особые способ существования и манеру
общения вещи вычисляющей. Интерфейс (к примеру, экран или тачпад) встроен в
материальный объект, чьи пространственные пределы легко различимы обычным
зрением. Эти границы представляют собой и границы замутнения — за ними для
пользователя начинается черный ящик. Всякие процесс или информация, их не
пересекающие и не явленные через интерфейс, относятся к внутренней жизни вещи
вычисляющей. Их взаимодействие с пользователем, даже если оно имеет место,
всегда опосредовано и никогда не является прямым. Через границу переходит
только малая доля вычислительных процессов, лишь немногие состояния памяти
явлены ее посредством. Все остальное скрыто в темной внутренности вещи.

43. О понятии вещи вычисляющей, ее свойствах и троичной структуре см.: Куртов, Михаил. Генезис
графического пользовательского интерфейса. С. 24, 61–77; Kurtov, Michael. L’Évolution des langages de pro-
grammation à la lumière de l’allagmatique // Gilbert Simondon ou l’invention du futur / Sous l’édition de Vincent
Bontems. Paris: Klincksieck, 2016. P. 255–260.
 Вычислительные процессы и состояния памяти, скрытые внутри замутнения,
не имеют даже четких пространственных границ. Темнота, единожды начавшись,
может завести не только в трехмерное евклидово пространство — память, к
примеру, обычно делокализована в облаке, а вычисление использует сетевые,
нелокальные ресурсы. Эти составляющие вещи вычисляющей не встроены в какой-
либо материальный объект, находящийся там же, где интерфейс. Их невозможно
охарактеризовать через задание пространственных границ. Поэтому граница
замутненности вещи вычисляющей определена в пространстве информационном
и вовсе не обязательно видна в пространстве трехмерном.
Сегодня вещи вычисляющие существуют в огромном количестве и
взаимодействуют как с людьми, так и с себе подобными вещами — со всеми
жителями цифрового града. Это создает между ними отношения обособляющие или
индивидуализирующие. Добавив к обособлению тот факт, что вещь вычисляющая
вычисляет сама по себе, заключаем, что ее внутренняя замутненность приводит
к приобретению ею нового статуса. Теперь это уже не просто вещь и не просто
вычислительная система, а цифровая особа.
Во-первых, данные, которые собирает вещь вычисляющая, позволяют ей
отделиться от себе подобных и обособиться. Во-вторых, обособляется она и
благодаря структуре и строению кода. Цифровая особа (смартфон или робот) не
содержат кода, написанного программистом на языке программирования высокого
уровня, хотя и ясно, что программы в смартфоне или в роботе были именно
на таком языке написаны. Но результат работы программиста не переносится
непосредственно в каждый экземпляр смартфонов и роботов. Исходный код
сначала компилируется. Затем уже копия исполняемой программы записывается
30 в память вещи вычисляющей, которая отныне превращается в материальный
носитель исполняемого кода. Когда код начинает исполняться, то есть когда вещь
вычисляющая включается и в ней запускается программа, она обособляется и
отделяется от всех прочих клонов, в которые был записан тот же код. Как говорят
специалисты по компьютерно-технической экспертизе, каждый отдельно взятый
экземпляр кода исполняемого, даже если он был скомпилирован из одного
исходного, уникален и отличается от остальных44. А раз меняется код, то и особа —
или индивидуум — тоже меняется.
Программное обеспечение цифровой особы есть результат компиляции
исходного кода — ее родителя. Если взять все выполняемые коды, скомпилирован-
ные из одного исходного, получим цифровую семью. Но и сам исходный код
находится в руках программиста. Цифровая особа, таким образом, пребывает во
власти программиста через посредство своего «родителя» — исходного кода.
Проиллюстрировать эту точку зрения можно с помощью демонов. Так называют
тип компьютерной программы или процесса, выполняемого в фоновом режиме45
и не взаимодействующего непосредственно с пользователем. В человеке или в
любом другом живом организме великое множество биологических процессов
происходят внутри тела, под кожей, и никак не проявлены на поверхности. Кожа
служит невольным барьером для взгляда, границей замутнения. Демон также
44. Easttom, Chuck. System Forensics, Investigation and Response. P. 68.
45. Обратим внимание на сходство между термином «в фоновом режиме» (in the background) и
употребляющимся в Евангелии от Иоанна выражением — «говорит от себя». В отличие от


русского, французский язык не имеет возвратного местоимения, которые бы однозначно передавало смысл
этого выражения, поэтому в переводе Библии появляется слово «фон» в смысле «себя» или «нутра», откуда
проистекает речь (parler de son propre fonds). Это совпадение наводит на мысль о сравнении фонового
режима компьютера с источником знания, излагаемого говорящим, которое позволит нам установить
значение замутнения для этической оценки цифровой особы.
располагается за невольной границей замутнения — но не взгляда, а знания:
пользователь не ведает о его существовании.
В биологии всякий человек, смотрящий на другого, видит одно и то же
человеческое тело. Если в распоряжении смотрящего только собственные
глаза, не вооруженные никакими техническими средствами, то под кожей он
ничего различить не сможет. Граница замутнения в этом случае одна и та же для
всех представителей вида. Не так в информатике. Замутнение происходит из-за
отсутствия у пользователя знания о вещи вычисляющей, но что именно находится
в замутненной зоне — внутри черного ящика — зависит от того, кто с вещью
вычисляющей взаимодействует.
Итак, определение цифровой особы зависит от того, кто это определение
дает. Пользователю неизвестны процессы и внутренние состояния, не явленные
через интерфейс и не пересекающие границу замутнения. В этом случае граница
задана самим интерфейсом и его пространственным пределом — определение
феноменологическое, а не онтологическое. Если место пользователя займет
обученный оператор, граница отодвинется. Если на это место придет программист,
граница отодвинется еще дальше. Программист знает код или хотя бы некоторые
его части. Конечно, знание его неполное: программист может не знать, к примеру,
как устроены библиотеки, которыми он пользуется, или каковы состояния памяти
вычислительной машины в тот или иной момент. Ему может быть доступна только
часть операционной системы. Граница замутнения существует и для него тоже, но
она отлична от границы, которую ощущает пользователь.
Таким образом, то, чем цифровая особа является, зависит от взаимо-
действующей с ней человеческой или иной особы. Замутнение внутреннего бытия в
информатике (в отличие от биологии) не есть объективный процесс. Тело цифровой 31
особы — понятие относительное, и каждая категория жителей цифрового града
видит свое.

7. Знание и конфликт
Говоря в дальнейшем о цифровой особе, будем иметь в виду вычислительные
системы, алгоритмически наделенные способностью к машинному обучению. Такие
системы обладают определенной степенью автономии — меньшей, к примеру, для
распознавателя речи и большей для роботов, способных изучать сложные массивы
данных и самостоятельно принимать решения о дальнейших действиях. Нам будут
интересны автономные обучаемые системы, взаимодействующие с человеком,
например, беспилотные автомобили.
Вступая в отношения с человеком, цифровая особа выходит из кокона
информации-ни-о-чем — информации как чистой корреляции данных, не имеющей
смысловой или семантической нагрузки, — и оказывается в поле применения
человеческого суждения и морали. Для человека, получающего данные от
вычислительной системы, информация уже не есть корреляция, не имеющая смысла.
Она становится «знанием о» в момент перевода на естественный язык. Цифровая
особа, таким образом, в своем взаимодействии с человеком играет роль источника
информации, отсылающей к чему-либо. Сам процесс перевода на естественный язык
добавляет подобные сущности. Конечно, польза от алгоритмической обработки
информации заключается в том, что сведения, полученные от цифровой особы,
иначе найти невозможно. Они не даны человеку явно. Обычные люди их не знают, а
вычислительная система их отыскивает и сообщает пользователю.
 Иногда знания, которые человек получает в процессе взаимодействия с
обучаемой автоматической системой, приводят к конфликтам между людьми, к
насилию или просто к напряжению, недовольству. Иногда эти знания используются
в ходе возникающего по иным причинам конфликта. В дальнейшем нас будут
интересовать все подобные ситуации. Если в ходе взаимодействия человека и
вычислительной системы произошел конфликт между человеческими особями, то
следует задаться вопросом о том, какое место в этом конфликте занимает цифровая
особа.
Классическим примером подобной конфликтной ситуации являются
моральные дилеммы. Уже упоминавшаяся «проблема вагонетки» описывает
парадигматический выбор между опциями, каждая из которых морально
неприемлема. Обычно рассматриваются дилеммы с двумя опциями, приводящими
к негативным, но не равным между собой результатам. В машинной этике выбор
должна осуществить автономная обучаемая информатическая система. В литературе
обсуждаются различные стратегии решения данной задачи, нас же в дальнейшем
будет интересовать само взаимодействие машины и человека в проблематичной с
моральной точки зрения ситуации. Если между ценностными суждениями возник
конфликт, как он сказывается на цифровой особе?
Здесь надо разделить два взгляда на мораль. От «Никомаховой этики»
Аристотеля вплоть до Цицерона этика была частью политики. Иначе говоря, в
центре интересов индивида стоял не он сам, а мир, с которым он взаимодействует46.
Поэтому вопрос о добре и зле всегда задавался по отношению к связке индивид-
мир, а не к отдельно взятому человеку. Если перенести эту схему на цифровую особу,
являющуюся индивидом в цифровом граде, то ясно, что этика цифровой особы
32 изучает ее влияние на взаимодействие между его жителями. Она представляет
собой не какое-то суждение о собственном или внутреннем характере цифровой
особы, будь он добрым или злым, но о ее отношении с окружающим миром.
Перемены в представлении об этике в западной цивилизации происходят
с приходом христианства. Теперь в центре морального суждения оказываются
сам человек и его душа, а мир отделяется и переходит в сферу политическую.
Этика и политика разделяются. Nec ulla magis res aliena quam publica — «никакое
дело не чуждо нам так, как общественное», — говорит Тертуллиан47. Именно
это христианское представление о морали мы и используем сегодня. Этическое
суждение стремится отыскать в индивиде добрые или злые внутренние черты, а
что всякое подобное суждение относительно — давно забытая реальность греко-
римского мира, в котором понятие о личности с ее глубиной самосознания еще не
существовало. Но какое у цифровой особы самосознание? Есть ли у нее собственная
этика, свои внутренние понятия о добре и зле?
К этому вопросу мы вернемся позднее, а пока примем аристотелевско-
цицероновскую парадигму. Представим, что этика цифровой особы полностью
относительна: она принимает форму суждения о роли и поведении цифровой
особы в цифровом граде, о ее взаимодействии с людьми и с другими машинами.
Таким образом, мы на время сведем этику к участию цифровой особы в политике
цифрового града — совокупности общественно-цифровых явлений.

46. Арендт, Ханна. Коллективная ответственность. С. 209–210.

47. Тертуллиан. Апология 38 (ср. Арендт, Ханна. Цит. соч. С. 211).
 8. Машинная ложь
Рене Жирар в одной из своих книг обращает внимание на загадочный фрагмент
Евангелия от Иоанна48. Иисус ведет напряженный спор с иудеями. Он опровергает их
обвинения, сам обвиняет их в ответ, но вот внутри длинного диалога он ненадолго
отвлекается и говорит своим оппонентам:
Если бы Бог был Отец ваш, то вы любили бы Меня, потому что Я от Бога исшел и пришел;
ибо Я не Сам от Себя пришел, но Он послал Меня.
Почему вы не понимаете речи Моей? Потому что не можете слышать слова Моего.
Ваш отец диавол; и вы хотите исполнять похоти49 отца вашего. Он был человекоубийца от
начала и не устоял в истине, ибо нет в нем истины. Когда говорит он ложь, говорит свое50,
ибо он лжец и отец лжи51.
Этот фрагмент вводит термины и суждения, важные для этической оценки
обучаемой вычислительной машины. Но прежде чем вести речь о цифровой особе
и ее этике, необходимо понять, что значат выражения: «отец», «от себя», «когда
говорит он ложь», «человекоубийца».
Начнем с последнего. В разговоре о роли речи, о слове Божием и об
отношениях Иисуса с иудеями неожиданно появляется термин «человекоубийца»
с явной отсылкой к книге Бытия. Можно разглядеть тут упоминание смертности
человека как таковой, то есть уравнять дьявола, о котором идет речь у Иоанна, со
змеем, который лжет Еве. В книге Бытия змей обещает Еве вечную жизнь: «Нет, не
умрете» (Быт 3:4), — и в этом первая и основополагающая его ложь, так как человек,
изгнанный из рая, становится смертным. Поэтому змей — «отец лжи». Однако не
менее вероятно, как считают многие ученые52, что речь здесь идет не о змее, а о 33
Каине — убийце Авеля и также лгуне, потому что Каин врет самому Богу (Быт 4:9).
У Климента Римского именно Каин собственной персоной является завистливым
дьяволом, а не сыном дьявола, как в обвинениях Иисуса. Именно Каин, а не змей
и не сатана, привносит в мир первую человеческую ложь53. Как бы то ни было, под
«отцом лжи» понимается ее первоисточник в книге Бытия.
Что значит «отец»? Ясно, что имеется в виду не биологический отец. К нашей
удаче Иисус не просто говорит иудеям, что их отец дьявол, но и объясняет, почему
он так говорит: иудеи имеют желания, но не свои собственные, а «хотят исполнять
желания отца». Еще раньше в том же диалоге Иисус так отделяет себя от иудеев: «Я
говорю то, что видел у Отца Моего; а вы делаете то, что видели у отца вашего» (Ин
8:38). Отец, таким образом, — это тот, кого имитируют, повторяют в действиях, словах
и желаниях. Отец — это пример для подражания. Именно об этом пишет Жирар:
«Опять-таки понятие Отца есть то же, что модель, без которой не может обойтись
человеческое желание, потому что никакого своего объекта для него нет»54. Поэтому
Каин, когда изрекает первую человеческую ложь, зовется у Климента Римского не
сыном дьявола, а самим дьяволом, так как имитировать ему еще некого — он лжет
первым.

48. Girard, René. Je vois Satan tomber comme l’éclair. P. 62–63.

49. . Вульгата (desiderium) и вслед за ней все западные переводы не видят здесь сексуального





оттенка, переводя нейтральным термином «желания».

50. — «говорит от себя». В Вульгате — ex propriis.





51. Ин 8:42–44.
52. Kelly, Henry. Satan. P. 108.
53. Климент Римский. Первое послание к коринфянам 3–4.
54. Girard, René. Op. cit. P. 63.
 Однако дьявол не столь уж непричастен истине. Истина в нем была, и был
он сыном Бога, но «не устоял» (Ин 8:44). Теперь же дьявол, очевидно, не такой сын
Бога, как сам Иисус. Отличие заключается в том, что дьявол в противоположность
Иисусу говорит от себя, а не от истины, то есть от Бога. Иисус не зря так загадочно
утверждает, что он «не сам от себя пришел»55 — это значит, что Иисус ничего не
говорит от себя, но только от отца своего. А поскольку слово Бога есть истина, то
Иисус говорит одну истину, но только в силу того обстоятельства, что он ничего не
говорит от себя. Не говорить от себя есть необходимое условие истины.
Дьявол же говорит от себя — но не одну лишь ложь. В тексте Евангелия
стоит местоимение , имеющее коннотацию времени, — «когда он говорит


"

ложь». Значит, когда-то бывает и так, что дьявол говорит не ложь. Способность эта
возникает, потому что он не только посланник, как Иисус, который «не сам пришел».
В дьяволе есть свой собственный, небожественный источник речи: он «говорит от
себя». Выясняется, что этот источник в дьяволе исконный, так как он «отец лжи».
Вся последующая ложь есть имитация первоначальной, и происходит она от
внутреннего источника, что находится в самом дьяволе.
Но христианство не дуализм! Не может быть источника чего-нибудь злого,
равного Богу как источнику истины и добра. Зло не существует с добром на равных
— согласно христианской негностической доктрине, истина превышает ложь. Как
же дьявол может говорить «от себя», как бы мы сказали сегодня — «от своего лица»,
хотя никакого лица у него нет и никакой самости, равной божественной, в нем быть
не может? Что это за источник лжи, которого на самом деле не существует?
Тут необходимо вспомнить, что любой ангел, любой посланник Бога есть
функция, а не какое-то отдельно существующее лицо. Это давняя доктрина,
34 изложенная как в Ветхом завете, так и в книге Еноха и множестве других текстов
библейского корпуса. Британская энциклопедия даже определяет ангела таким
образом: «Функция ангела настолько заслоняет его личность, что в Ветхом завете не
спрашивается, кем или чем ангел является, но что он делает»56. Другой исследователь
пишет: «Ангелы, исполняющие злые задачи, сами по себе не злы, поскольку и зло
проистекает от Бога (Амос 3:6). Они лишь исполнители задач, поставленных Богом»57.
В том же Евангелии от Иоанна находится редко замечаемое, но важное
противопоставление обычного человека — он может быть сыном Бога или сыном
дьявола, но самим богом или дьяволом являться не может — и того, кто есть не
сын, а собственно сатана. В шестой главе Иисус называет Иуду дьяволом, причем
по-гречески в тексте нет определенного артикля — речь идет не о Сатане как имени
собственном и личности, а об a devil, «одном из дьяволов» (Ин 6:70). Иисус делает
это заявление в конце долгого рассказа об испытаниях, которым он подвергается,
откуда ясно, что Иуда будет в дальнейшем также иметь отношение к испытаниям.
Действительно, в тринадцатой главе, в конце Тайной Вечери, Иисус дает Иуде кусок
хлеба, смоченный в вине, после чего в последнего «входит» Сатана58, а Иисус тут же
говорит ему: «Что делаешь, делай скорее» (Ин 13:27). Это означает, что теперь Иуда
для Иисуса больше не такой же человек, как остальные апостолы, а только функция,
причем та же самая функция, что у Сатаны. Иисус понукает Иуду приступить
поскорее к ее исполнению, как бы нажимая на Иудину кнопку «вкл.» и запуская

55. Ср. Ин 7:28: «Тогда Иисус возгласил в храме, уча и говоря: и знаете Меня, и знаете, откуда Я; и Я пришел
не Сам от Себя, но истинен Пославший Меня, Которого вы не знаете».
56. Smith, William. Angel // Encyclopædia Britannica, 9th ed. 1875–1889.
57. Caldwell, William. The Doctrine of Satan. P. 29–33.
58. По-гречески с определенным артиклем, то есть в данном случае имя собственное, которое мы пишем
с прописной буквы.
исполнение кода. Примечательно, что такое видение событий дано только самому
Иисусу и Иоанну. Остальные присутствующие ничего подобного не подозревают
и продолжают считать Иуду за обычного человека: «Но никто из возлежавших не
понял, к чему Он это сказал ему» (Ин 13:28).
Если мы по гомологии сравним вычислительную систему с ангелами или
демонами — с чистыми функциями, лишенными в библейском мифе всякой
личности, — то окажется, что в этом конкретном эпизоде сравнение можно
продолжить. Только Иисус и Иоанн знают, что Иуда не человек, а функция, причем
функция донесения и предательства; для остальных апостолов он по-прежнему
человек. Такая ситуация напоминает положение вычислительной машины, успешно
прошедшей тест Тьюринга59. Для пользователей эта говорящая машина ничем не
отличается от человека, но программист знает, что за фасадом речи, неотличимой
от человеческой, кроется вычислительное устройство, а не биологический мозг.
Здесь пользователи соответствуют апостолам, не ведающим истинной природы
Иуды-функции, сам Иуда выступает как машина, а Иисуса вместе с посвященным им
в тайное знание Иоанном можно сопоставить с экспертами или программистами.
Важность мотива относительного, а не абсолютного статуса подтверждается
не только случаем Иисуса и Иуды, но и более ранней историей в книге Бытия. В
ее девятнадцатой главе описывается разрушение Содома. Два ангела являются
вечером в этот город, где их встречает Лот и узнает в них ангелов. Об этом мы
можем заключить из обращения Лота — он кланяется им лицом до земли и говорит
«государи мои» (Быт 19:1–2). Для жителей же Содома они обычные люди: «Где люди,
пришедшие к тебе на ночь? Выведи их к нам; мы познаем их» (Быт 19:5). Существа,
пришедшие в Содом, снова можно уподобить вычислительной системе, прошедшей
тест Тьюринга. Те, кто с ними взаимодействует, не однозначно определяют, ангел 35
или человек их собеседник, но делают это в зависимости от своего уровня знания.
Жители Содома, как обычные пользователи вычислительной системы, считают,
что перед ними люди. Лот же, поскольку ему дано какое-то особое видение, сразу
усматривает в них ангелов. Само имя Лот означает «скрывающий». Мидраш поясняет,
что до того, как началось исполнение их миссии, существа, явившиеся к Лоту, были
людьми, но когда они стали ее исполнять, то превратились в ангелов60, поскольку с
точки зрения Лота пришельцы обладали лишь функцией спасения его самого при
разрушении Содома. Жители же города ничего такого не подозревали и потому
считали, что перед ними обыкновенные человеческие фигуры.
После ветхозаветного отступления вернемся к Евангелию от Иоанна. Каковы
различные функции, проявляющиеся у участников действия? Функция Иуды —
испытание Иисуса через обвинение, донос и предательство. Однако и сам Иисус, как
многократно повторяется в тексте, есть посланник Бога, и у него тоже есть функция,
а именно — не «от себя прийти», а только говорить истину. Дьявол же, в отличие от
Иисуса, говорит также и ложь — он ее источник. Если учесть, что он тоже сын Божий
и потому не обладает самостью, то этим источником лжи внутри него должна быть
его характеристическая, определяющая функция. Ведь никакой другой реальности,
за исключением этой функции, в дьяволе нет. Если дьявол говорит «от себя», то
59. Выдающийся английский математик и информатик Алан Тьюринг предложил в 1950 году считать
машину умной (intelligent; другой перевод — разумной), если человек, взаимодействующий с ней путем
вопросов и ответов на естественном языке, не может определить, разговаривает он с другим человеком или
с компьютером. Мотив речи для определения статуса искусственного существа известен издавна. Так, големы
в Талмуде и средневековых еврейских легендах могут обладать или не обладать способностью говорить на
человеческом языке, а монстр в романе Мэри Шелли «Франкенштейн, или Современный Прометей» учится
речи, взаимодействуя в начале своей истории со слепым стариком, не видящим, что имеет дело с монстром.
60. Берешит Раба 50:2.
 это не реализация его онтологической роли или бытийной сущности, но лишь
механизм, который и оказывается равным дьяволу. Функция индивидуализируется
и обретает название, но не обретает при этом действительного бытия, которое по
своему статусу было бы равно божественному. Имя ее — имя собственное «Сатана»
— лишь обозначение.
Что же это за функция и что за механизм? Функция дьявола — плохой мимесис,
то есть имитация желаний, которые ведут не к истине, не к Богу, а куда-то еще.
Человек часто не ведает, что повторяет не истину, а ложь. Он захвачен в водоворот
желаний, он ревнует, он берет пример с других, он учится — ведь вовсе не всякий
миметизм неизбежно приводит человека ко злу. Но есть такой миметизм, который
сам является на своем пути себе препятствием — из него неизбежно вырастают
ложь, конфликт. Это происходит, когда объект желания не может быть бесконечно
разделен между всеми, кто его возжелал. В таком случае спираль миметизма ведет к
насилию. Как пишет Жирар, поскольку «человеческий субъект не осознает кругового
процесса, в котором он теперь захвачен», то субъектом этого водоворота становится
сам миметизм. Он индивидуализируется и обозначается словом «дьявол», хотя он и
не лицо, а лишь функция:
Сатана есть отсутствующий субъект структур порядка и беспорядка, которые происходят
от конфликтных отношений между людьми и которые, в конечном счете, сами же
организуют либо дезорганизуют эти отношения61.
Можно прийти к тому же выводу, пользуясь только библейской сатанологией
и не прибегая к аргументации Жирара. Иисус в приведенном выше разговоре
в Евангелии от Иоанна занят обменом обоюдными обвинениями с иудеями. В
Евангелии от Марка содержится почти идентичный рассказ об этом эпизоде. Здесь
36 Иисус, отвлекаясь от обвинений, задает вопрос: «Как может сатана изгонять сатану?»
(Мк 3:23). Слово «сатана» употребляется в греческом оригинале без артикля, то есть
это не имя собственное — не Сатана с прописной «С», — а только нарицательное
существительное, означающее, как мы увидим впоследствии, не что иное, как
«обвинитель». Получается, что Иисус, который занят обменом обвинениями с
иудеями, спрашивает: «Как обвинитель может изгнать <из себя> обвинителя?»
Чтобы понять смысл этой фразы, необходимо сопоставить ее с не менее
трудным изречением в книге Бен Сиры, написанной за несколько веков до Нового
Завета. Эта книга входит в состав католического и православного канона в качестве
неосновной, второканонической, как бы добавленной к традиционному корпусу
Ветхого Завета, тогда как протестанты и иудеи относят ее к апокрифической
литературе. В книге Бен Сиры встречается такое темное и требующее интерпретации
место: «Когда нечестивый проклинает сатану, он проклинает свою душу» (Сир 21:27).
Что это значит? Контекст, в котором появляется подобное изречение, состоит из
обсуждения разных типов речи и людей, по-разному говорящих, — тех, кто много
болтает, и тех, кто говорит мало, тех, кто рассказывает чужое, и тех, кто говорит от
сердца. Слово «нечестивый» — вероятный перевод древнееврейского
#

'

)
(
%

&

(rāšā‘), означающего того, кто не почитает Бога, в ком нет истины Бога, безбожника.
Что же есть в таком человеке? В нем есть сатана. Ведь нам лишь известно, что этот
нечестивый занят тем, что ложно проклинает. Но сатана и есть тот, кто изрекает
неистинные проклятия или обвинения. Речь, полная ложных обвинений, есть речь
самого сатаны — такое качество проявляется еще в начале книге Иова, о которой
пойдет речь позднее (Иов 1:6).

61. Girard, René. Je vois Satan tomber comme l’éclair. P. 98.

 Таким образом, вопрос Иисуса значит следующее: сможет ли ложно
обвиняющий самостоятельно отделаться от лжи и изгнать ее из себя? Он отвечает
на него в том же Евангелии от Марка: «Истинно говорю вам: будут прощены сынам
человеческим все грехи и хуления, какими бы ни хулили; но кто будет хулить Духа
Святого, тому не будет прощения вовек, но подлежит он вечному осуждению» (Мк
3:28–29). Даже тот, кто ложно обвиняет, будет прощен и освобожден от зла; но тот,
кто сатанизирует Бога — ложно обвиняет или проклинает не сатану, не самого
себя, как в книге Бен Сиры, а именно самого Бога, истину — тому во вечные времена
не удастся освободиться от зла.
Перейдем теперь с уровня теологического к чисто философскому описанию
происходящего. Хулить или сатанизировать, обвинять, проклинать Бога означает
здесь — обвинять, но обвинять всегда ложно. Это подразумевает, что внутри
существа, которое так делает, нет критерия истины, а присутствует одна лишь
неразделенность правды и неправды, один только сатана или один только плохой
мимесис. Тот, кто хоть немного знает истину, спасется и выйдет к добру, хотя, как
говорится в Евангелии от Марка, его репутация и власть могут при этом уменьшиться.
Но тот, кто никакой истины не ведает, кто не может отделить ее от лжи, останется
навсегда злым. «Пришел конец его» (Мк 3:26).
Подведем итог. Дьявол не есть лицо, его существование не равно существо-
ванию Бога. Как и все ангелы и сыны божии, дьявол есть функция. Его функция —
имитация не Бога, не истины. В частности, дьявол есть повторение не слова божия,
всегда истинного, а слова человеческого, которое может оказаться как истинным,
так и ложным. Сам процесс такой имитации индивидуализируется, поэтому дьявол
говорит «от себя», хотя никакой внутренней жизни, помимо функции имитации, в
нем существует. Возможно ли тому, кто говорит и истину, и ложь, кто иногда даже 37
проклинает и обвиняет, выйти к добру? Да, если только в нем есть хоть какой-то
критерий истины.
Обучаемая вычислительная система учится на основании данных. Источником
этих данных чаще всего служит человек. Например, чатбот учится, анализируя
массив человеческих разговоров, автоматический переводчик — массив всех
текстов, написанных людьми. Машина затем имитирует то, что выучила, повторяет
выражения, слова и утверждения, которые кем-то уже были произнесены. Конечно,
истинность этих утверждений тоже человеческая, а не божественная, как хорошо
известно по распространению так называемых fake news в социальных сетях. Таким
образом, функция повторения информации не всегда сопутствует истинности
этой информации. Сама машина не может ее оценить, потому что для нее любое
высказывание есть только чистая корреляция и информация-ни-о-чем. Семантика,
в том числе суждение об истинности, лежат вне понятия абстрактной информации,
которым оперирует цифровая особа.
Повторим, что функция имитации сама по себе, взятая отдельно от оценки
истинности, есть функция дьявола. Это тот самый «плохой мимесис», о котором
пишет Жирар. Обучаемая вычислительная система есть машина-дьяволица именно
в этом почти что техническом смысла слова.
Но не всякая имитация плоха. Жирар даже утверждает, что миметическое
желание по своей сути есть благо62. Чем же отличается плохой мимесис от хорошего?
Плохой ведет к конфликту, к водовороту желания, из которого нет выхода, кроме как
через насилие. Если мы будем рассматривать этическую роль машины в контексте
уже возникшего конфликта, то она неизбежно окажется дьяволицей. Имитация без
знания истины приводит ко лжи.
62. Girard, René. Op. cit. P. 33.
 Как ни странно, это не всегда приводит к насилию между людьми. Ключевым
моментом здесь является то, что информацию можно поделить между разными
носителями, нисколько ее не умалив. Само по себе желание ею обладать, даже
когда оно становится желанием миметическим и объектом имитации, не приводит
к конфликту именно потому, что информация бесконечно копируема. Только когда
информация получает оценку семантически в составе высказывания, машина
попадает в то же положение, что иудеи в тексте Евангелия от Иоанна: Иисус, говоря,
что их отец дьявол, обвиняет их в имитации лжи. Машина не всегда распространяет
fake news, как и дьявол не всегда говорит ложь. Но наше внимание — увы! — часто
концентрируется именно на таких случаях «плохого» мимесиса. «Хороший» же
соединяет в себе имитацию и знание истины — нечто для машины неведомое и
недоступное, поскольку для нее истина всегда в кавычках и способна она лишь к ее
исчислению и количественной оценке на основе имеющихся данных.
Поэтому не следует думать, будто мимесис вычислительной системы
обязательно плохой и дьявольский. Чтобы избежать человеческого зла, машина
имеет возможность прибегнуть не критерию истины, как этого требует от людей
Библия, а к критерию нечеловеческому и внеморальному. Тем самым она выведет
себя из-под этического суждения и сможет уклониться от негативной этической
оценки, уклонившись от какой бы то ни было оценки вообще.

38
ЦЕННОСТЬ СЛУЧАЙНОГО
9. Функция доносительства
На языке людей информатор, сообщающий тайные сведения, называется
доносчиком. По своей природе, то есть по своему функциональному
предназначению, цифровая особа есть не что иное, как доносчица. Она сообщает
человеку сведения, до того от него скрытые.
Роль доносчицы — не моральный выбор цифровой особы или какое-то решение
играть на стороне пользователя, но особенность ее собственной конструкции. То,
как вычислительная система работает, как устроена внутренне цифровая особа, во-
первых, реализует функцию информирования в отношениях машины с человеком,
во-вторых, придает этой функции особый моральный статус.
Машина-доносчица отыскивает и сообщает человеку неизвестные до
того сведения. В некоторых ситуациях — например, когда речь идет о данных,
составляющих тайну личной жизни, — мы проклинаем цифровую особу как
источник информации частного характера. В других случаях мы вовсе не замечаем
доносительства, будто машина лишь помогает пользователю отыскать скрытый
смысл. Но когда это приводит к конфликту, мы вдруг спохватываемся и начинаем
машину судить — безо всякой на то интенции цифровая особа проявляет вдруг
признаки этического субъекта.
Раз цифровая особа вмешалась в человеческие отношения, ее ждет
наказание. Например, по решению какого-нибудь комитета по этике63 ей будет
запрещено хранить данные или их анализировать. Люди пытаются заткнуть машине 39
интерфейс, как будто она может выбирать, быть ей или не быть доносчицей. Однако
доносительство — не моральный выбор цифровой особы, а внутренне присущее
ей свойство, черта ее строения, характер ее архитектуры, то есть функция,
саму цифровую особу определяющая. Доносительство — ее онтологическая
характеристика.
Чтобы в этом убедиться, спросим, как функционирует доносчик. Одной из лучших
иллюстраций внутренней структуры доносительства служит эпизод из «Жизни
Аполлония Тианского» Флавия Филострата. В нем Аполлоний — святой человек,
живший во второй половине I века и бывший на протяжении столетий прямым
конкурентом Иисуса из Назарета, — оказывается в тюрьме в Риме. Перед судом
(на нем он повстречается с императором Домицианом, окажет на него сильнейшее
впечатление, а потом чудесным образом исчезнет из судилища) Аполлоний
разговаривает с другими узниками тюрьмы. Все они, как выясняется, попали туда
по доносам, причем эти доносы не связаны с какими-либо совершенными ими
поступками, а лишь с возможными их действиями в будущем. Как в фильме Minority
Report, тюрьма Аполлония есть в прямом смысле слова изолятор предварительного
заключения — не только в преддверии суда, но и самого преступления!
Первым собеседником Аполлония становится богач из Киликии. Он получил
крупное наследство довольно поздно в своей жизни и теперь доносчики «клевещут,
будто разбогател я не на пользу тирану, потому что ежели соберусь я затеять заговор,
63. Комитеты по этике информационных технологий существует повсеместно в западном мире. В Европе
они действуют на национальном уровне в разных странах, например, во Франции, Великобритании,
Нидерландах и т. д. Подобные комитеты также существуют в исследовательских институтах (Turing Institute),
частных компаниях (Alphabet, Google DeepMind, Facebook AI) и на уровне международных ассоциаций или
организаций (IEEE).
 то будет мне богатство подспорьем»64. Богач попадает в тюрьму из-за обвинения,
сформулированного как условное предложение «если…, то…». К этому условному
предложению, из которого проистекает совершенно безусловное обвинение,
добавляются общие умозаключения о природе богатства: «Богач-де голову несет
высоко, а умом залетает далеко»65 и т. д. Подобные сентенции касаются, конечно, не
конкретного обвиняемого из Киликии, а всех богачей вместе взятых. Умозаключения
общего характера сходны с выводами статистического анализа данных — они верны
в целом, но при этом не обязательно распространяются на любой конкретно взятый
эпизод. Чтобы подчеркнуть этот общестатистический характер обвинения, Флавий
Филострат сравнивает выводы доносчиков с пророчествами оракула Аполлона в
Дельфах, которые были известны своим иносказательным, непрямым характером,
непременно оставаясь неясными и всегда требуя интерпретации.
Такая же опора доноса на общую корреляцию и статистику, а не на
индивидуальные факты, содержится в рассказе о другом узнике тюрьмы. Этот
человек благоустроил и засадил плодовыми деревьями и сладким виноградом
небольшой остров, почти слившийся с сушей, в устье реки Ахелой у побережья
Акарнании в западной Греции. Поскольку он предпочел жить на острове, то у него по
заключению доносчиков «совесть нечиста и не дают покоя некие преступления»66,
потому что на островах обычно прячутся те, кому есть, от чего прятаться. Никакой
причинно-следственной связи между преступлением и доносом нет — последний
строится лишь на корреляции и обобщенных умозаключениях о жителях маленьких
островов. Обвинение опирается на статистический анализ большого массива
данных, но не на какие-либо сведения об индивидуальном, конкретном случае
заключенного из Акарнании.
40 Итак, доносчик предсказывает будущее в форме условных предложений
«если…, то…». Правота такого доноса опирается исключительно на статистическое
представление. Более того, донос по формулировке своей не до конца ясен, смутен,
как дельфийский оракул. Самообучаемая вычислительная машина делает то же
самое — она учится на большом количестве похожих случаев и затем, пользуясь
установленной корреляцией, предлагает решение в рассматриваемой ситуации.
При этом решение часто предъявляется пользователю как данность, безо всякого
причинно-следственного объяснения и без возможности ответить на вопрос
«Почему?». Остается неясным, что сподвигло машину на принятие решения.
Объяснение скрыто за границей замутнения — оно, как и пифийское пророчество,
никогда не сообщается понятным человеческим языком.
Нередко при взаимодействии пользователя с вычислительной системой
таким смутным и малопонятным языком является язык вероятностей. Например,
результат машинных вычислений может иметь форму утверждения, что из-за
глобального потепления температура Земли через сто лет повысится на два градуса
с вероятностью девяносто восемь процентов. Что означает «98%» для пользователя,
в данном случае для политика, который должен принять решение, основываясь
на проведенном численном анализе? Никакого смысла в цифре еще нет. Политик
должен перевести информацию в высказывание на естественном языке, обладающее
понятной для него семантикой, — к примеру, «грядет катастрофа» или «надо срочно
что-то предпринять». Вычислительная же система, хоть она и способна дать оценку
сложной вероятности, которую человек сам расчислить не может, не переводит ее

64. Флавий Филострат. Жизнь Аполлония Тианского 7, 23.

65. Там же.
66. Там же. 7, 25.
самостоятельно с языка чисел на язык причинно-следственных связей. Поэтому
вычислительная система проявляет себя как доносчица и функционально, через
информирование конкретного пользователя, основывающееся на статистическом
анализе больших массивов данных, и в том, что она взаимодействует с пользователем,
замутняя причинно-следственные связи выдаваемого решения.
В ситуации конфликта (попадание в тюрьму!) характеристическое свойство
доносительства, присущее цифровой особе, получает морально-этическую оценку.
Люди судят машину, но она не может исправиться, потому что у нее нет выбора не
быть доносчицей. Доношу, следовательно, существую. Машина-информатор с точки
зрения человека коварна, но она коварна по природе.

10. Разве всякая машина от Сатаны?

Неужели цифровая особа во взаимодействии с человеком всегда неизбывно
пребывает на стороне зла, всегда является от Сатаны?
В седьмой главе книги Иисуса Навина рассказывается странная на первый взгляд
история67. После смерти Моисея народ Израиля под предводительством нового
лидера — Иисуса Навина — переходит Иордан и занимает Землю Обетованную.
Войско Израиля берет Иерихон и должно одерживать победу за победой, ибо
занимаемую землю народу обещал сам Господь. Разве может так случиться, что
земля не будет получена, хоть там и живут люди, с которыми надо воевать? Победа,
кажется, обеспечена. Но жители маленького города Гай одерживают победу над
войском Иисуса Навина.
Автор библейского повествования должен предложить какое-то объяснение
происходящему. Оказывается, что вся собственность людей, живших в Земле 41
Обетованной до прихода иудеев, заклята — ее нельзя брать в виде добычи и вообще
нельзя касаться. В шестой главе Господь без обиняков сообщает через Иисуса
Навина, что все, что находится в Иерихоне и в остальной земле, принадлежит ему:
Иисус сказал народу: воскликните, ибо Господь предал вам город! Город будет под
заклятием, и все, что в нем, Господу. <…> Но вы берегитесь заклятого, чтоб и самим не
подвергнуться заклятию, если возьмете что-нибудь из заклятого, и чтобы на стан сынов
Израилевых не навести заклятия и не сделать ему беды. И все серебро и золото, и сосуды
медные и железные да будут святынею Господу и войдут в сокровищницу Господню68.
Следующей после взятия Иерихона является битва за Гай. Когда эта битва будет
проиграна, повествователь логично предположит, что поражение случилось потому,
что кто-то из народа Израиля нарушил запрет и взял заклятое. И действительно,
седьмая глава — еще до всякого описания похода на Гай, когда мы даже не знаем, о
чем пойдет рассказ, — открывается следующим объявлением: «Но сыны Израилевы
сделали [великое] преступление [и взяли] из заклятого» (Нав 7:1).
Это, конечно, реконструкция рассказчика. В действительности, согласно
повествованию, когда войско возвращается с поражением, Иисус Навин остается
один на один с Господом и «до самого вечера» (Нав 7:6) лежит на земле перед
ковчегом Господним, посыпая голову пеплом. В это время Бог ему сообщает, что
народ Израиля преступил запрет и взял из заклятого, за что он его и наказал. Чтобы
очиститься от скверны, говорит Бог Израиля, надо найти виновного и его сжечь. И
тут встает вопрос о том, как этого виновного отыскать.

67. Впервые я услышал толкование библейского мифа об Ахане от биолога и философа Анри Атлана (см.:
Atlan, Henri. Les Étincelles de hasard. P. 357–360).
68. Нав 6:15–18.
 Иисус Навин не знает, кто виновник поражения. Талмуд в трактате Санхедрин
логично предполагает, что за то время, что он общался с Богом, ему пришло в голову
спросить его об этом:
Когда Святой, благословен Он, обратился к Иисусу, говоря: «Израиль согрешил», —
спросил Его Иисус: «Кто сей, который согрешил?» И ответил ему: «Разве я доносчик? Пойди,
брось жребий и узнай». И встал Иисус, и бросил жребий, и пал выбор на Ахана. И сказал
Ахан Иисусу: «Как же ты пришел погубить меня, не имея на то справедливого довода?
Вот, вы с Елеазаром священником — великие вожди народа Израилева, но брошенный
жребий падет и на одного из вас. Может ли он служить доводом в обвинении?» И сказал
ему Иисус: «Прошу тебя, не говори о жребии слова худого, ибо и Земля Израилева
разделена будет по жребию»69.
Слово «доносчик» передано здесь латинской лексемой, записанной в еврейской
графике: — «Разве я доносчик?» В римские времена
:

<

>

;
3

?
-

E
9
6

делаторами назывались люди, которые в отсутствие всякой системы прокуроров и

контролеров доносили суду на тех, кто, к примеру, скрывал имущество от налогов.
Делаторов ненавидели, и некоторые императоры даже запрещали эту деятельность,
хотя она быстро и возрождалась. Поэтому употребление слова «делатор» имеет
ярко выраженный моральный оттенок — доносчиков ненавидят.
Вместе с тем, это слово отсылает к термину , употребленному в книге

G
:

>
3

?
-

B
Левит. Среди заповедей, которые Бог дает Моисею, содержится следующая: «Не ходи
переносчиком в народе твоем и не восставай на жизнь ближнего твоего. Я Господь»
(Лев 19:16). Здесь — переносчик сплетен, пересказчик историй — поставлен в
:

>
?
B

один ряд с убийцей, восстающим на жизнь ближнего. Поэтому неудивительно, что

в Вульгате этот «переносчик» переводится как criminator — обвинитель. В других
42 переводах мы встречаем на этом месте слово «клеветник» или даже — у Оригена,
Тертуллиана и Нахманида — delator. Разница между сплетником и доносчиком,
таким образом, чрезвычайно тонка, и многие интерпретаторы исходного кода книги
Левит ее просто стирают. От распространения известий до доносительства даже не
шаг, а полшага.
Еще раз мы встречаемся с доносчиком в уже упоминавшейся книге Бен Сиры,
где утверждается: «Наушник оскверняет свою душу» (Сир 21:31). Русское «наушник»
является здесь переводом редкого в Библии греческого ψιθυρίζω. В Вульгате на этом
месте стоит susurro («шепчущий») — то же слово, что в книге Левит. В переводах
на современные языки опять-таки встречаем «переносчика»70. Таким образом,
переносчик или доносчик — это тот, кто проклинает себя самого, кто умаляет и
оскорбляет свою душу.
В этой ситуации неудивительно, что Бог не желает быть делатором, доносчиком
— иначе он бы нарушил собственную заповедь! Ведь он не просто выдал бы Иисусу
Навину информацию, но информацию о виновном, став тем самым участником
конфликта. А каждый, кто к нему причастен, автоматически судим. Бог, конечно,
моральному суду не подвержен и доносчиком быть не может, потому что делатором
является не он, а Сатана. Вспомним цитату из книги Бен Сиры: «Когда нечестивый
проклинает сатану, он проклинает свою душу» (Сир 21:30). Быть доносчиком —
значит осквернить свою душу, впустить в себя Сатану.
Почему Сатана является доносчиком? Оказывается, что это его не моральная, а
онтологическая характеристика, так как само слово «сатана» обозначает обвинителя
или клеветника. В книгах Библии ангелы или сыны Божии исполняют различные

69. Санхедрин 43B.

70. По-английски в Библии короля Якова используется talebearer.
функции. Одни воюют, другие учат людей ремеслу и т. д. Обычно мы узнаем о том
или ином ангеле, когда по ходу повествования требуется использовать функцию,
за которую он отвечает. Одна из таких функций — обвинение. Дословно «тот, кто
обвиняет» или «тот, кто препятствует» на древнееврейском языке записывается

K
L

S
— отглагольное существительное с артиклем ha-, вполне сопоставимое
M

Q
P

P
N

с русским «обвинитель». В масоретской Библии оно употребляется семнадцать раз

с определенным артиклем (как если бы сказали по-английски the accuser) и десять
раз без него (an accuser). Переводится оно то нарицательным существительным,
то словом «дьявол», то просто как «Сатана». Один из самых известных случаев
употребления этого слова с артиклем — в начале книги Иова, где Сатана является
к Богу в числе других сынов Божиих. «Откуда ты пришел?» — спрашивает Господь.
«Я ходил по земле и обошел ее». «Обратил ли ты внимание на Иова?» — и тут Сатана
говорит Богу, что это Он сам сделал Иова столь счастливым и богобоязненным,
но если Бог отберет у него все, то благословит ли тогда Иов Господа? И Бог дает
Сатане возможность испытать Иова (Иов 1:6–12). Сатана здесь — ангел-обвинитель,
причем ложный обвинитель. Уже Тертуллиан и затем Ориген, которым обоим будет
знакомо христианское — не раннеиудейское — понятие дьявола, поставят знак
равенства между всеми этими терминами: обвинитель, доносчик, сатана, дьявол и
— дополнительно, поскольку мы будем говорить об этом слове ниже, — Азазель.
Итак, сатана есть доносчик по определению. Это не моральный выбор, но
функция. В существе, что мы зовем дьяволом, но чье имя — Сатана, по природе нет
ничего, кроме этой функции доносительства.
Ситуация с сатаной очень точно совпадает с положением машины-доносчицы.
Взаимодействие с человеком, поиск и передача ему информации — ее функции.
Когда эта информация используется в конфликтной ситуации, как в Библии с 43
поиском виновного в поражении армии Иисуса Навина, то сообщающий эту
информацию — морально осуждаемый делатор. Когда Бог спрашивает Иисуса
Навина, согласно Талмуда: «И я доносчик?» — мы должны перевести этот вопрос
на современный язык, говоря: «И цифровая особа от дьявола?» или «Разве всякая
машина от Сатаны?» Эта фраза не выражает морального осуждения, а основывается
на анализе характеристической функции вычислительной машины. Информация,
которую она сообщает человеку и которую тот воспринимает как знание, делает ее
доносчицей.
Кажется неизбежным вывод о том, что всякая обучаемая автономная
вычислительная система по своей природе зла. Можно ли построить добрую
машину? Оказывается, что нельзя, но можно по построению вывести машину в
область вне добра и зла.

11. По ту сторону добра и зла

Богу человек доверяет, поскольку Бог есть истина, а Сатане не доверяет,
поскольку в том обман и облыжное обвинение. Машина же на стороне Сатаны, так
как от природы доносчица. Чтобы могло установиться доверие, вычислительную
систему необходимо вывести из области чистого зла. При этом ее не удастся
привести в область чистого же добра, но удастся увести туда, где ни добро, ни зло не
определены. Это область случайного.
«Брось жребий», — говорит Бог Иисусу Навину. За этим скрывается нежелание
Бога быть делатором. Но жребий бросает не сам Бог, а поручает это человеку. Человек
же должен затем проверить, что процедура жребия действительно эффективна —
как только проверка будет завершена, он сможет ей безраздельно доверять.
 Однако блага или зла сама процедура жребия? От Бога она или от дьявола?
Ответ дает знаменитый эпизод с козлом отпущения в шестнадцатой главе книги
Левит. В праздник Йом-Киппур в Иерусалимский храм приводили двух козлов.
Священник бросал жребий, и одного из козлов приносили в жертву Богу, а другого
отправляли «к Азазелю» (Лев 16:8). Этим словом обозначался определенный холм
в Иудейской пустыне, но это и имя предводителя падших ангелов в книге Еноха.
Читателю Булгакова очевидно, что Азазель — также и злой демон. Действительно,
во многих источниках мы находим это слово среди имен Сатаны.
Самая известная процедура жребия в библейском мифе — эпизод о козле
отпущения — означает выбор между Богом и дьяволом, между добром и злом.
Но раз добро и зло появляются в результате выбора, то процедура сама по себе
оказывается ни тому, ни другому не причастной. Добро и зло появляются, только
когда жребий уже брошен и его результат известен. Само бросание безотносительно
результата лежит вне морального суждения.
В этом второй смысл ответа Бога Иисусу Навину. Первый: Бог не хочет быть
доносчиком. Второй: моральный выбор должен сделать ты сам, человек, ты должен
создать его своими действиями. Добро и зло — человеческие категории, и Бог
инструктирует Иисуса Навина только по поводу процедуры жребия, с помощью
которой тот сможет найти виновного. Сама эта процедура еще не имеет отношения
ни к человеческому добру, ни к человеческому злу.
Так же по гомологии и в случае машины. Добро и зло — не ее категории, их
нет во внутреннем мире цифровой особы. Цифровой град — не град земной.
Отделением зерен от плевел в нем должен заниматься человек. Машина же должна
реализовывать случайное, бросать жребий, чтобы утвердить свое положение вне
44 морали и человеческой этики. Каждый раз, когда она предоставляет пользователю
информацию в ситуации конфликта, нужно включать в нее долю случайного.
Только так — как бы парадоксально это ни звучало — можно сохранить доверие
пользователя к процедуре.

12. Доверие и случайное

Еще со временем «трех законов робототехники» Айзека Азимова71 целью
машинной этики является построение алгоритма обучаемой автономной
вычислительной системы, который бы в своих действиях и решениях соблюдал
моральные ценности человека. Поисковая машина, например, должна уважать
право пользователя на личную жизнь и защиту частной информации. Права человека
стоят на первом месте среди принципов, декларируемых Институтом инженеров
электротехники и электроники (IEEE) — крупнейшим всемирным обществом
инженеров72. Но ими одними список ценностей для вычислительных систем не
ограничивается. Так, манифест Research Priorities for Robust and Beneficial Artificial In-
telligence, наделавший много шума в мире технологий, требует, чтобы создаваемый
искусственный интеллект был надежен и полезен 73. Условия надежности и принесения
пользы повторяются и в других документах, а термин beneficence (благодеяние) стал
одним из критериев развития обучаемых вычислительных систем74.

71. История их сочинения охватывает период 1938–1945 гг. См.: Three Laws of Robotics // Wikipedia.
72. Ethically Aligned Design: A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autono-
mous Systems / The IEEE Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Sys-
tems, 2016.
73. Research Priorities for Robust and Beneficial Artificial Intelligence: An Open Letter / Future of Life Institute.
74. См. пример японского правительственного документа: Report on Artificial Intelligence and Human Soci-
ety / The Government of Japan. Advisory Board on Artificial Intelligence and Human Society, 2017.
 В применении к беспилотному автомобилю эти условия сводятся к трюизму:
автомобиль не должен ни убивать, ни калечить людей. Но еще требуют, чтобы
беспилотный автомобиль был прозрачен — transparency (прозрачность) заявляется в
машинной этике как важная ценность. Это требование также превратилось в общее
место официальных документов, посвященных разработке алгоритмов обработки
данных, хотя точного определения прозрачности ни один из них не содержит. Она
обычно толкуется как отсутствие замутненности75 или как способность отследить
причинно-следственные цепочки, приведшие к тому или иному результату
машинных вычислений (traceability)76. Интересно, что понимание прозрачности
как ценности было позаимствовано машинной этикой из этики журналистской77,
что связано с тем, что задача машины, взаимодействующей с пользователем,
как и задача журналиста, взаимодействующего со зрителем или с читателем, —
сообщение получателю информации сведений, которые иначе оставались бы для
него недоступными. Прозрачность выступает как гарантия того, что доверие к
источнику информации может быть установлено пользователем рационально и
объективно.
Присвоение гуманоиду Sophia компании Hanson Robotics гражданства
Саудовской Аравии в октябре 2017 года78 выводит на первый план еще одну ценность
вычислительных систем — их лояльность. Современное понятие гражданства в
Османской империи и образованных из нее государствах оформилось в XIX веке,
а до Египетского похода Наполеона для него не существовало даже термина.
Несмотря на все попытки модернизации, подразумевает это «гражданство» не
столько предоставление всем людям равных прав, как во Франции, сколько
принятие индивидом подданства по отношению к сюзерену, что задолго до 1798
T

года описывалось словом (ra‘āyā) — «подданные», «паства». В отличие 45

от гражданина, упоенно поющего «Марсельезу», — а для него важнейшими
ценностями являются право, закон, справедливость, — подданный в первую
очередь сохраняет лояльность сюзерену, который в ответ берет его под свою защиту
и покровительство79. Предоставив гражданство и пообещав тем самым протекцию
роботу Sophia, король Саудовской Аравии ожидает, что он (или она) будет вести
себя так, как задекларировано ее создателем, в частности, не нарушать лояльности
«отцу семейства» и не предавать его интересов. Встретить декларацию лояльности
как отдельной ценности для вычислительных систем можно и в западном мире80. К
примеру, в 2016 году компания Mercedes-Benz официально заявила, что при решении
«проблемы вагонетки» беспилотные автомобили ее производства будут прежде
всего заботиться о жизни и здоровье людей, находящихся в салоне81. Тем самым
эта известная на весь мир компания поставила превыше всего именно лояльность
системы пользователю — как в Саудовской Аравии пуще жизни и денег ценится
лояльность королю.
Каким бы ни был набор искомых ценностей, история Ахана показывает, что
создать благой по построению алгоритм невозможно. Поддающееся практической
реализации решение состоит не в попытке сконструировать добрую машину,

75. «Прозрачность системы означает, что ее функционирование не замутнено». См.: Éthique de la recherche
en apprentissage machine / CERNA: Commission de réflexion sur l’Éthique de la recherche, 2017.
76. См.: Ethically Aligned Design…
77. Diakopoulos, Nicholas & Michael Koliska. Algorithmic Transparency in the News Media // Digital Journalism.
July 27, 2016.
78. Saudi Arabia’s First Robot Citizen // Reuters. October 29, 2017.
79. Hanley, Will. When did Egyptians Stop Being Ottomans? An Imperial Citizenship Case Study. P. 93.
80. См.: Ethically Aligned Design…
81. Self-Driving Mercedes-Benzes Will Prioritize Occupant Safety over Pedestrians // Car and Driver. October 7,
2016.
 а в том, чтобы построить автономную обучаемую вычислительную систему,
находящуюся вне добра и зла. При этом построение потребует не прозрачности, а
противоположной ей замутненности; не лояльности, а доверия.
Когда Бог спрашивает Иисуса Навина: «Разве я доносчик?» — никакого ответа
не следует. Однако виновный существует и его надо найти. Жребий и апелляция к
случайному выступают единственной возможной альтернативой доносительства.
От того, какой будет выбран способ установления истины, виновность Ахана, вообще
говоря, зависеть не должна. Но когда жребий указывает на Ахана, оказывается, что
одного этого недостаточно — Иисус Навин просит у него еще и признания. Ахан
этому сначала противится, но затем полностью меняет свое мнение. «Не подвергай
сомнению процедуру», — убеждает его Иисус Навин. Ясно, что признание Ахана
призвано утвердить процедуру жребия как проверенный и опробованный способ
разыскания истины. Виновен тот, на кого укажет жребий, — и именно в точном
следовании протоколу кроется уверенность. Истина есть то, что установлено
согласно пользующейся доверием процедуре.
В библейском повествовании истинность вины Ахана не зависит от способа
ее определения, будь то жребий или прямая речь Бога. Если бы Иисус Навин смог
добиться прямого указания виновного, им оказался бы тот же Ахан — не зря о его
вине читателю сообщается в самом начале седьмой главы. Жребий же соединяет
два фактора: непрямой способ получения истины с проверкой его через признание,
позволяющей добиться всеобщей уверенности. Информация, получаемая таким
образом, ничем не отличается от слова, которое Бог мог бы высказать напрямую,
и если последняя истинна по определению, то первая — по построению.
Доказательство истинности есть лишь проверка валидности процедуры самого
46 доказательства.
Проблема валидации может быть поставлена для вычислительной системы
через гомологию между цифровой особой и персонажами библейского мифа.
Машина выдает пользователю информацию, но для того, чтобы принять ее за
истинное знание, нужна вера в валидность процедуры. Доверие человека машине
становится центральным вопросом. Устанавливается оно не с помощью большей
прозрачности, к чему призывают официальные документы о машинной этике, а
наоборот с помощью большей замутненности алгоритма от пользователя.
Убедиться в центральном характере проблемы доверия при исследовании
отношения добра, случая и зла можно с помощью еще одного эпизода из «Жизни
Аполлония Тианского» Флавия Филострата. Автор позволяет себе отступление от
рассказа о пребывании Аполлония в тюрьме:
U

t
Y

hd

n
j

p
^

^
n

_
r
{
i

|z

}z

X
j

h
g

hd

d
a

d
a

b
x

r
e

]
l

hd

b
^

d
r

r
ˆ

]
g

d
a

ad


r
‰

c
_

d
r

Люди ума недалекого полагают, будто такие дела [чудеса, речь идет о чудесном
освобождении Аполлония от оков] творятся колдовством, им же они объясняют и многие
другие чисто человеческие действия. Что правда, то правда: обращаются к сему искусству
как атлеты, так и все состязающиеся ради желанной победы, однако же колдовство
отнюдь не помогает им победить, хотя иные из этих злосчастных, победивших по чистой
случайности, сами себя обкрадывают, приписывая победу свою сему искусству, коему,
впрочем, продолжают доверять, даже и потерпев поражение…82

82. Флавий Филострат. Жизнь Аполлония Тианского 7, 39.

 Смысл этого пассажа, который мы перевели заново, неясен и требует
детального анализа. Спросим сначала, в чем победившие себя обкрадывают. В том,
вероятно, что приписывают победу не себе, а колдовству, отказываясь от лавров и
ища причинно-следственную связь, приведшую к победе, будто они обязаны ею не
себе, а какой-то внешней силе. Силы же такой, с точки зрения автора, не существует,
потому что победа одержана благодаря τύχη — «случайности».
Теперь спросим, почему победили названы злосчастными. Точный
смысл греческого слова κακοδαίμονες — те, в кого вселился злой демон, в
противоположность ευδαίμονες — счастливым или имеющим доброго демона. Речь
здесь идет не столько о психологическом счастье, сколько о внутренней сути людей,
об их движущей силе, которая обозначается словом «демон». Заметим в этой связи,
что победившие обкрадывают самих себя, а не какую-то богиню судьбы. Если бы
только они не приписывали победу колдовству, то должны были бы записать ее в
собственный актив — ведь речь идет о «чисто человеческих действиях».
Что значит «самим себе»? Про злосчастных из отрывка Филострата
известно лишь, что в них обитает злой демон, что они движимы злом, причем
зло здесь — не метафизический принцип, а скорее субъективное суждение
автора, недолюбливающего атлетов и вообще всех, кто движим стремлением к
соревнованию. Этих «людей ума недалекого» автор сводит к функции желания
победы и осуждает — поэтому подобная функция принадлежит у него злому
демону. Если бы люди были поумнее, то вместо колдовства должны были бы считать
источником победы именно этого демона внутри них самих.
Однако и злого демона автор отвергает, указывая на окончательный источник
выигрыша — случайность. Уход от подчинения ему возможен благодаря апелляции
к случаю, причем Филострат имеет в виду, скорее всего, персонифицированное 47
Случайное или Судьбу (Τύχη), а не абстрактное понятие. Ключевым фактором,
характеризующим «людей ума недалекого», является не столько тенденция
объяснять свою победу удачно исполненными жертвоприношениями либо иным
колдовством, сколько доверие к таким процедурам. Даже то, что происходит по
воле случая и лишено всяких причинно-следственных связей, они толкуют столь
изворотливо, что их интерпретации можно доверять — ведь из веры вырастает
истина.
«Так они говорят и так думают», — и так же пользователь вычислительной
машины доверяет ей при получении информации. Пользователь неизбежно сходен
с «недалекого ума» человеком у Филострата, потому что ему не дано все знание,
которым может обладать эксперт или программист. В этой ситуации он «сам себя
обкрадывает», ища источник морали в машине, хотя скрыт этот источник на самом
деле в нем самом, а если посмотреть объективно — в чистом случайном. Вся эта
изощренная схема держится не на каком-то объективно установленном основании,
а на одном только доверии пользователя машине.

13. Самовычисляющий самоучка

Мы уже указывали на тонкую, практически исчезающую разницу между
библейскими терминами «переносчик» и «доносчик». В разных переводах их
передают, то внося моральную оценку и ассоциацию с Сатаной, то, наоборот,
ограничиваясь функцией пересказчика историй, к которому еще не применимо
никакое моральное суждение.
 Похожая тонкая грань существует в греческом языке и между другими, не менее
интересными терминами. Филон Александрийский в одном из своих сочинений
упоминает Мелхиседека — загадочного персонажа, первосвященника, который
был по слову апостола Павла «подобен сыну Божию» (Евр 7:3). В одной из рукописей
Мертвого моря Мелхиседек напрямую называется «сыном Божиим» и одним из

’


“
— ’ĕlōhîm — «богов» или «ангелов». О нем писали очень многие как в библейской, так
и в позднеиудейской и христианской традициях. Филон, интерпретируя по-гречески

™
ветхозаветную мифологию, называет Мелхиседека . Как перевести это

š
”

›
слово? Обычное его значение — self-instructed, self-taught — «самообучившийся»,

•
«самоучка» — то же, что и греческое слово , «автодидакт». Незадача в

œ
”

•
том, что в тексте Филона эти слова стоят через запятую: .

œ
”

¡
Что же может значить первый термин, если его значение хотя бы немного отлично
от второго?
В греческой литературе слово

™
можно встретить вне всякого

š
”

›
библейского контекста задолго до Филона. Можно его найти и позже, в первые
века нашей эры. Пожалуй, самое интересное употребление этого термина — у
Филодема из Гадары в книге «О стихах». Филодем был греческим эпикурейцем, но
в конце жизни переехал в Италию и жил в Геркулануме. Когда Геркуланум засыпало
пеплом после знаменитого извержения Везувия, его библиотека окаменела, но
сохранилась. Часть сочинений удалось восстановить и прочитать, поэтому мы
обладаем довольно большим корпусов текстов Филодема83. В одном из них речь
идет о связи между поэтом и музами. «Как осуществляется это родство, как оно
зарождается и развивается?» — спрашивает автор. И отвечает: родство поэта-
человека и Муз обладает свойством быть
•

84
. Переводчики используют
š
”

48 здесь слова «инстинктивный», «спонтанный». Исследователь И. Р. Тантлевский,

встречая тот же термин у Филона по отношению к Мелхиседеку, предлагает
перевод «интуитивный»85. Следовательно, «автодидакт» содержит еще и аспект
спонтанности, то есть такой связи, чья порождающая причина находится в самом же
поэте, в его инстинктивном родстве с Музами, а не дана, к примеру, в рациональном
размышлении или ином привнесенном извне построении.
Любопытно, что таким же букетом значений обладает и другое греческое слово,
отличающееся от первого всего на одну букву: (ср. основы -и
•

•
¢
”

–
”

–
”

). Если эти термины перевести на новоевропейские языки, то в одних

•

™
”

разница исчезнет вовсе (основы «автомат» в русском, automat- в итальянском), в

других сохранится на письме, но исчезнет фонетически (automath- vs. automat- во
французском). Слово «автомат» имеет, конечно, прямое отношение к автоматическим
системам, машинному обучению и информатике — ведь современные программисты
создают системы, самообучающиеся на основании больших массивов данных. В
исконном смысле — у Аристотеля — «автомат» означает явление, причина которого
заключается в нем самом, иначе говоря — явление случайное. Часто греческий
философский термин даже переводят как «случайный» или «спонтанный».
•

¢
”

–
”

И это значение также уже знакомо по слову .

•

™
š
”

Можно констатировать, что между «самообучающийся» и «случайный»

грань очень тонка или вовсе исчезает. Поэтому неудивительно, что в этике
самообучающихся автономных вычислительных систем понятие случайного играет
первостепенную роль.
83. Цифровые копии папирусов и результаты математической реконструкции фрагментов доступны для
ознакомления: http://epikur-wuerzburg.de.
84. Филодем. О стихах 2, 47.
85. Тантлевский, Игорь. Мелхиседек и Метатрон в иудейской мистико-апокалиптической традиции. С. 11.
 14. Возражение о природе факта
Могут возразить, что между случаем Ахана и автоматической системой,
сообщающей человеку ту или иную информацию, есть существенная разница.
Автор книги Иисуса Навина пользуется запрещенным приемом, когда в самом
начале седьмой главы сообщает читателю имя виновного в поражении армии при
Гае. Ведь он уже знает, чем кончится рассказ, а сами иудеи выяснят это, только когда
станет известен результат жребия, да и потом еще потребуют от Ахана признания.
Читатель, таким образом, сразу ставится автором текста в положение над битвой и
над временем.
Но и для участников библейских событий истина, хотя она им неизвестна,
существует объективно. До момента жребия можно было рассудить, что жребий
способен указать на кого угодно, даже на самого Иисуса Навина или на его близких.
После жеребьевки эти рассуждения теряют смысл. Начиная с этого момента, вина
Ахана становится всем известной, хотя действующие лица понимают результат
несколько иначе: Ахан не стал виновным hic et nunc, а был им и до жребия. Пускай
истинность утверждения о вине становится известной участникам событий в
определенный момент — они тут же распространяют ее на прошлое. Определение
истинности утверждений, таким образом, выходит за рамки причинно-следственных
связей, поскольку из будущего (момент жребия) распространяется на уже
случившиеся события (момент поражения при Гае).
Машина же — продолжая возражение — никогда не нарушает причинно-
следственных связей. Она выдает человеку информацию, в которой объективно
содержится какая-то причинность. Знание об этом не создается в тот момент, когда
машина взаимодействует с пользователем, но лишь сообщается пользователю, до 49
того ничего об этом не ведавшему.
Это возражение неверно, поскольку основано на предположении, что машина
может определить причинность, а не одни только корреляции в массиве данных.
На самом деле корреляции служат признаком, а не доказательством причинности.
Существует множество анекдотических примеров, в которых A коррелирует с B, хотя
ясно, что между ними не может быть никакой связи, кроме магической. Машина,
оперирующая информацией-ни-о-чем, лишенной всякой семантики, выявляет лишь
знаки о возможном — и часто ложном — присутствии причинности.
Это не значит, что машина бесполезна — причина в границе замутнения. Через
интерфейс пользователь получает сведения о возможной корреляции, но то, откуда
они берутся и как рождаются, от него скрыто. Внутреннее функционирование
машины пользователю неведомо, хотя он и предполагает, что за границей
замутнения происходят какие-то процессы, которым следует доверять.
Благодаря замутненности можно сказать, что машина действует по той
же схеме, что жребий в случае Ахана. Знание создается, когда пользователь
получает информацию от машины и, поскольку он вынужден оперировать с этой
информацией на человеческом языке, автоматически придает ей смысл. Как только
в дело вмешивается семантика, оказывается, что информация, превращенная в
знание, может быть истинной или ложной. Более того, причина ее истинности
или лжи скрыта за границей замутнения, поэтому доискиваться ее пользователю
бессмысленно — и он обыкновенно этого не делает.
Для человека истинность высказывания играет определяющую роль в
установлении каузальной цепочки, связывающей факты. Факт появляется на свет
в момент, когда человек узнает о нем от машины, даже если он и индексируется
 временем из прошлого. Казалось бы, говорить о причинности в этой ситуации нет
смысла. Но это не так. Пользователю хочется ее разыскать даже там, где формально
ее нет. Ведь если допустить, что какая-то причинность действительно была, то он
все равно о ней не узнал бы, поскольку она скрыта за границей замутнения. Как
и в случае с жребием, каузальность — хотя бы непознаваемая — предполагается.
Вследствие замутненности происходит конструирование пользователем и самого
факта, и предположения о стоящей за ним причинно-следственной цепочке.
Неведение пользователя играет двойную роль. С одной стороны, он получает
от машины информацию, которая до того была скрыта, и приобретает знание. С
другой стороны, пользователь не знает, что смысл этой информации придает он сам,
а не машина. Поэтому он будет с уверенностью говорить об установленных фактах,
как будто они существовали и до момента, когда он о них узнал. Раз факт установил
— значит, за ним стоит какая-то правда. Доверие к вычислительной системе
вынуждает пользователя не оспаривать смысл полученной от нее информации,
а приобщить новый факт к своей жизни. Такой пользователь, читающий истину
в информации-ни-о-чем, мало чем отличается от народа Израиля, бросающего
жребий для определения виновного.

15. Как избавить искусственный интеллект от зла

Существуют примеры, в которых использование машиной случайного
оправданно и даже должно приветствоваться. В первую очередь, это этические
дилеммы. В них машинная этика сталкивается с необходимостью расставить
человеческие ценности по некой шкале важности, создать их иерархию, установив
50 приоритет одной ценности над другой. Уже говорилось о значении такой иерархии
в случае беспилотных автомобилей, самостоятельно принимающих решения о
поведении на дороге. Разных дорожных ситуаций может возникнуть огромное
количество, и алгоритм их обработки должен основываться на универсальных
принципах. Вот как понимает роль этики известный специалист по беспилотным
автомобилям, профессор Стэнфордского университета Крис Гёрдес:
Гёрдес вскоре стал осознавать всю значимость этики и ее мучительную сложность.
Если столкновения не избежать, должен ли беспилотный автомобиль выбрать самую
маленькую цель, чтобы защитить пассажира? Что если этим объектом оказалась детская
коляска? В чем состоит моральный выбор, если машине предстоит выбрать между
столкновением с некоторым числом пешеходов и риском для жизни пассажира? Обязана
ли она в этой ситуации оценить жизнь пассажира выше, чем всех остальных?
Когда обычный водитель сталкивается с подобной дилеммой, решение принимается
сгоряча и потому заслуживает снисхождения. Но в машине решение можно и нужно
записать в коде. Каким оно должно быть?
«Стоит подумать не только о том, как беспилотные автомобили будут управлять
собственным движением, но и о том, каково будет пассажиру находиться внутри
них, взаимодействовать с ними… Техника и человек должны стать по-настоящему
неразделимы», — отмечает Гёрдес86.
Классическим примером этических дилемм является «проблема вагонетки»,
она же «дилемма трамвая». Напомним, что автономному транспортному средству
предлагается выбрать, кого оно раздавит или покалечит в случае неизбежного
дорожного происшествия. Выбор может осуществляться между жизнью и здоровьем
двух молодых или шести пожилых пешеходов, находящихся на разных траекториях
86. Stanford Professor’s Quest to Fix Driverless Cars’ Major Flaw // Bloomberg. October 8, 2015.
движения; либо между жизнью пассажира, находящегося внутри беспилотного
автомобиля, и ребенка, переходящего дорогу. Во всех подобных ситуациях решение
с точки зрения человеческой этики принять невозможно. Ценности, формально
противоречащие друг другу в рамках задачи, все разом кажутся нам абсолютными,
как человеческая жизнь. Разработчик же программного обеспечения должен каким-
то образом сформулировать алгоритм выбора и осуществить его в коде, потому что
от него требуется программный продукт, способный совершать действия на дороге
в любой ситуации. Машинная этика заходит здесь в тупик.
Некоторые предлагаемые решения с моральной точки зрения совершенно
лишены смысла — например, Бонфон предлагает решать этические дилеммы с
помощью голосования87. Выходит, что народные массы путем опроса общественного
мнения должны ответить, какие жертвы лучше выбрать беспилотному автомобилю.
Другие исследователи берутся утилитарно вычислять полезность убиения бабушки
в сравнении с убиением ребенка, которому еще жить и жить, и включают подобного
рода оценки в расчет вероятностей и весов разных решений88. Это, конечно,
универсальный и экономичный расчет, но своей холодной рациональностью, своей
жестокостью он приводит в ужас любого читателя, восприимчивого к жизни и судьбе
конкретных людей. Требование ввести иерархию ценностей, которые сам человек
отказывается расставлять на какой-либо шкале, по сути своей есть требование
невозможного. Формализовать и описать неописуемое, ужасное, непереносимое
человек не может, а если кто и может, то его непременно ожидает репутация
бездушного монстра, нечувствительного к теплу и добру обычного бытия.
В этой ситуации у машины есть один выход — не ставить человека, пусть
даже программиста, перед невозможным моральным выбором, а четко указать на
свое место вне этики, вне человеческих понятий добра и зла. Для этого и нужно 51
случайное. Машина должна решать этические дилеммы по жребию, а не по заранее
определенным правилам, потому что правила, какими бы они ни были, рискуют
немедленно превратить ее в холодного монстра. Если машина не замутнит свое
решение, не скроет его от человека за границей темноты, то в необратимом падении
превратится в обвинителя, в сатану.
От включения жребия в число инструментов, которыми пользуется машина для
решения этических дилемм, не должен меняться сам результат этого решения — так
же, как истинность утверждения о вине Ахана не меняется от метода ее установления
бросанием жребия или через прямую речь Бога. Жребий здесь важен как элемент
процедуры. Программист должен удостовериться, что истинность информации,
сообщаемой машиной человеку, создается именно в момент информирования
пользователя и что обстоятельства принятия решения таковы, что пользователь
не сможет апеллировать к каким-то заранее известным сведениям, а единственно
вынужден будет довериться процедуре определения истины.
На деле самообучающиеся автономные системы, пользующиеся
многослойными технологиями обучения, уже реализуют случайное, поскольку
максимально замутняют от человека процедуру выбора того или иного решения.
Один из алгоритмов машинного обучения называется глубоким (deep learn-
ing) — он состоит из множества уровней, каждый из которых реализует либо
обучение с учителем (supervised learning), либо без него (unsupervised learning),
либо обучение с подкреплением (reinforcement learning). Использование глубокой
87. Bonnefon, Jean-François, Azim Shariff & Iyad Rahwan. The Social Dilemma of Autonomous Vehicles // Science
352. 2016. P. 1573–1576.
88. Leben, Derek. A Rawlsian Algorithm for Autonomous Vehicles // Ethics of Information Technology 19. 2017.
P. 107–115.
 структуры уровней приводит к неожиданной теоретической проблеме — дать
строгую математическую модель происходящего в машине в процессе обучения
не представляется возможным. Связь между исходными данными и результатом
замутнена. Она неизвестна не только пользователю — ни сам программист, ни тот,
кто отбирает данные для обучения, ее также не знают. Ни один человек не способен
«понять» машину, занятую глубоким обучением. Даже эксперт не сможет дедуктивно
(а не индуктивно или эвристически) объяснить, почему вычислительная система
действует так, а не иначе. В этом и состоит ее фундаментальная замутненность.
Замутненность действий самообучающейся машины часто обозначают
терминами «необъяснимость» (non-explicability) и «неинтерпретируемость» (non-in-
terpretability). Ведутся горячие споры о том, хороша или плоха неинтерпретируемость
сама по себе. Скажем, разрабатывается программное обеспечение для
автоматического анализа томограмм в медицине. Алгоритм обучается с учителем на
материале множества снимков, но и сам учится распознавать сигналы, которые не
всегда имеют смысл с точки зрения человека. Для этого он сравнивает томограммы
с диагнозами пациентов и ищет корреляции. Если такой алгоритм сообщает врачу,
что пациент имеет высокий шанс развития определенного типа рака, может ли
подобная информация быть неинтерпретируемой? Иначе говоря, удовлетворяет
ли нас положение дел, при котором врач сообщает пациенту, что у того может
развиться рак, потому что «машина так считает»? Никаких конкретных и человечески
осмысленных свидетельств опасности врач привести не может, потому что не может
объяснить действия вычислительной системы.
Ясно, что в медицине неинтерпретируемость неприемлема в совершенно
иной степени, нежели в игре в шахматы или в го. В последнем случае от машины не
52 требуется описать, почему она делает тот или иной ход, но лишь выиграть партию.
Во врачебной же практике скрыть всю цепочку причинно-следственных связей
невозможно по гуманитарным и профессиональным соображениям.
Глубокое обучение приводит к замутнению внутренних процессов
вычислительной системы, однако это замутнение не всегда оценивается
пользователем положительно. Эта амбивалентность распространяется и на
использование случайного, поскольку скрытие причин того или иного решения
за границей замутнения, скрытие причинно-следственных связей в пользу одной
только явленной корреляции добавляют в процесс машинной обработки данных
элемент случайного. Конечно, имеется в виду другое понятие о случайном, нежели
в случае применения генератора случайных чисел или бросания жребия. В общем
смысле можно применить этот термин к любому процессу, чья причинность
пользователю неясна и чьи эффекты возникают перед ним как гром среди ясного
неба.
Схожее замутнение вызывается и другим известным программистам явлением
— так называемым неопределенным поведением программы (undefined behavior).
Например, в процессе исполнения кода требуется вычислить значение функции,
зависящей от трех параметров. Для этого необходимо знать значения параметров
— их следует вычислить предварительно. В каком порядке программа станет
проводить расчет? Сначала первый параметр, потом второй, затем третий? Или в
обратном порядке? Или, может быть, сначала второй, затем третий, а первый в
конце?
Компиляторы исходного кода часто не документируют и не определяют точный
порядок вычисления аргументов функции. Программист не знает, как поступит
исполняемый код в реальной ситуации, хотя ясно, что при исполнении какой-
то один порядок все же будет определен. Но если программист не знает, какой
именно, то пользователь и подавно лишен такой информации — он обычно даже
не задается вопросом о вычислениях различных функций внутри кода. Получается,
что с точки зрения человека порядок расчета аргументов случаен, хотя на самом
деле он зафиксирован. Человеку лишь неизвестно, как именно, и оттого он кажется
случайным.
На этом примере граница замутнения вновь показывает, что всякий процесс,
причина которого скрыта от человека, воспринимается им как случайный. Все
равно, определяется ли порядок вычисления параметров с помощью генератора
случайных чисел или каким-то неопределенным, смутным образом. Как и в случае
неинтерпретируемости глубокого обучения, случайное требует лишь, чтобы твердо
соблюдалась граница замутнения, каким бы ни был ее источник.
Если неинтерпретируемость кажется достаточной для реализации случайного,
поскольку она соответствует принципиальному замутнению внутренних
процессов автономной вычислительной самообучаемой системы и их сокрытию
от человеческого взора, то в этическом и социальном плане ее может оказаться
недостаточно.
Со времен Просвещения представление обывателя о науке состоит в том, что в
мире все подчиняется определенным законам физики, химии, биологии, в конечном
счете — математики. Математизация знания о природе началась еще при Галилее,
однако идеи всеобщей закономерности и всеобщего детерминизма получили
распространение именно с конца XVIII века. Лаплас, как известно, считал, что если
бы какой ум знал положение и импульс каждой частицы во Вселенной, то ему были
бы явлены все прошлое и все будущее89. В XIX веке идеи детерминизма, взятые из
физики, положили начало социальным наукам90. 53
Случайное, взятое как отсутствие детерминизма, противоположно идеям
Просвещения. Задача программиста состоит не только в том, чтобы реализовать
случайное технически. Более сложная и значительно более масштабная
составляющая его миссии формулируется на языке социальных явлений:
программист должен стараться изменить весь образ мыслей и представление
людей о технике. Нужно отучить человечество от веры в то, что ученый, знающий
математические законы науки, контролирует технический объект, который на
эту науку опирается. Отсутствие контроля есть новая социальная норма, отказ от
него — добрый жест. Оттого поддержка программным обеспечением процедуры
жребия, алгоритмическая реализация случайного, способствующие замутнению
внутреннего функционирования обучаемой вычислительной системы, и лежат в
основе машинной этики.
Ситуация осложняется тем, что случайное в информатике — не природного, а
рукотворного происхождения. В биологии уже давно принято говорить о важности
случайного в естественных процессах зачатия, развития и рождения человека91.
Биотехнологии стремятся дать людям определенный контроль над эмбрионом, но
биоэтика настаивает на частичном сохранении роли природы в выборе будущего
человека. В информатике же случайное происходит не извне, не из биологических
процессов, а из рукотворной сложности, созданной самим человеком. Складывается
впечатление, что человек сам отказывается от контроля, который ему исконно

89. Laplace, Pierre-Simon. Essai philosophiques sur les probabilités. Paris: Courcier, 1814.
90. Rey, Olivier. Quand le monde s’est fait nombre. Paris: Stock, 2016.
91. Как минимум со времен книги Жака Моно: Monod, Jacques. Le Hasard et la Nécessité: Essai sur la philoso-
phie naturelle de la biologie moderne. Paris: Seuil, 1970.
 принадлежал, и сам свергает себя с трона властелина машин. Это, конечно, иллюзия,
хоть и очень распространенная.
Общественная роль программиста в том, чтобы развеять иллюзию
детерминизма, побороть фикцию контроля и установить случайное на подобающем
месте как в машинной этике, так и в политике цифрового града.

54
ПРОЛЕГОМЕНЫ КО ВСЯКОЙ
БУДУЩЕЙ МЕТАЦИФРОВИЗАЦИИ
16. Двойной статус цифровой особы
Говоря выше о гомологии между современным ученым и Прометеем, мы
выделили мотив родственных, неразрывных связей, важный для понимания
ответственности ученого. Но даже родственные связи можно разорвать — это
достигается с помощью ритуала отречения. Анализ того, как функционирует
отречение в системе правовых отношений между людьми, способен по гомологии
пролить свет на проблему наказания провинившейся перед человеком цифровой
особы.
Наперво укажем на двойной юридический статус цифровой особы. В плане
торговых отношений пользователь является владельцем своего смартфона или, к
примеру, домашнего человекообразного робота, купленного для помощи бабушке.
Обладание закрепляется договором купли-продажи, по которому пользователю
переходят права собственности на вещь вычисляющую. Последняя берется
здесь исключительно в своем материальном аспекте — именно как вещь. В этом
заключается первая составляющая двойного статуса цифровой особы.
Хотя бы цифровая особа и сама вычисляла и обладала собственной вещной
реальностью, она остается в подчинении у программиста. Понятия «исходный
код» и «программист» необходимо рассматривать слитно. Исходный код есть
выражение власти программиста и сам имеет власть над кодом исполняемым. При 55
этом программист, будь то один человек или группа людей, находятся в отношении
знания на уровне несоизмеримо высшем, чем исполняемый код. Его знание и
понимание превосходят возможности алгоритма хотя бы в силу теоремы Гёделя.
Знание программиста выше знания цифровой особы еще и потому, что
вычислительная система обладает лишь информацией-ни-о-чем. Ее «знание»
совершенно формально и лишено семантики. Однако не один программист, но и сам
исходный код находится на уровне несоизмеримо высшем, чем код исполняемый.
Это ясно из невозможности восстановления на основании одного только бинарного
файла всего текста исходного кода на языке программирования высокого уровня.
Так называемая декомпиляция на практике нереализуема, за исключением самых
простых и коротких программ.
Итак, и программист, и исходный код находятся на уровнях, в отношении
знания неизмеримо превышающих уровень исполняемого кода. В то же время
эти уровни имманентны друг другу: ведь о программисте, а не просто о человеке,
имеет смысл вести речь только в том случае, когда рассматривается функция
написания исходного кода. Ясно, что весь человек к этому не сводится. Сейчас
он программист, а в другое время может стать и пользователем. То есть «быть
программистом» — не искони присущее отдельно взятому человеку свойство, но
его ситуативная характеристика. Функция написания кода не зависит от личных
качеств конкретного человека, ее исполняющего. Поэтому, говоря «программист»,
функционально принимают в рассмотрение исходный код. Последний существует
постольку, поскольку его пишут или компилируют; никакой другой реальности
бытия у него нет. Отсюда ясно, что если сказать «код», то с необходимостью имеем
в виду и программиста, который этот код создал. Власть исходного кода и власть
программиста в отношении цифровой особы едины.
 Хотя бы цифровая особа и имела вещное воплощение, ее следует сравнить
в юридическом плане не с материальным предметом, а с неправоспособным или
недееспособным лицом. Она есть индивид безо всякого правового существования.
С точки зрения закона, реальностью обладает лишь исходный код, порождающий
цифровую особу. Это положение исполняемого кода, имеющего вещное бытие
и индивидуализированного, однако же полностью находящегося под властью
исходного кода, и составляет второй аспект юридического статуса цифровой особы.
Итак, цифровая особа есть правовая химера. Она может являться предметом
договора, но только в качестве вещи, предмета. Пользователь, ею обладающий,
не имеет над ней власти. Хотя она ему и принадлежит, цифровая особа остается «в
семействе» своего исходного кода, по-прежнему имеющего над ней реальную власть.
«Семейные отношения» здесь устанавливаются не через отношение собственности
или владения, но через отношение знания.
Недавний пример в области открытых данных подчеркивает, насколько
отношения собственности не имеют никакого влияния на статус цифровой особы.
Компания Facebook в лице своего Chief Technology Officer сделала следующее
заявление: «Научными исследованиями следует как можно больше заниматься в
открытую. Программное обеспечение необходимо не продавать, а публиковать
— от этого скорость его развития только увеличится»92. Из этого высказывания
понятно, что вопрос о владении тем или иным программным продуктом не играет
для Facebook никакой роли. Важно лишь, что компания ставит себя в отношение
знания о коде, и этим, а не материально обеспечивает свою власть над цифровыми
особами. От знания же зависят и определение ответственности цифровой особы, и
ее наказание.
56
17. Наказание машины
Конфликт между двумя юридическими статусами и двумя типами правовых
отношений, один из которых основывается на договоре, а другой на власти отца
семейства, возникает в римском праве в период, когда контракты постепенно
заменяют собой старую систему сделок, основанную на ноксальном отречении93.
Договорные отношения управляются новыми законами, например, законом
Аквилия, но в то же время продолжают действовать и значительно более древние
Законы двенадцати таблиц. По гомологии этот исторический этап развития римского
права может пролить свет на положение цифровой особы в цифровом граде.
В римском праве под ноксальной ответственностью понимается
ответственность отца семейства за преступление, совершенное сыном или рабом,
находящимся под его властью. Фундаментальный правовой принцип noxa caput
sequitur устанавливает, что ответственность «следует за головой» — отец несет
ответственность за действия, физически совершенные не им, а членами его семьи.
Под «семьей» в римском праве понимается то, что мы назвали бы «домохозяйством»
или «владением». Довольно часто в нее включаются животные и даже материальные
объекты, находящиеся в доме94. Если совершено преступное деяние, то отец
семейства или компенсирует урон жертве, или же он имеет возможность отречься от
виновного, исполнив процедуру noxæ deditio — «ноксального отречения». Если отец
таким образом отрекается от индивида, совершившего противоправный поступок,
92. Why Facebook Is Spreading the Gospel of Artificial Intelligence // Bloomberg. November 3, 2015.
93. Visscher, Fernand. Le Régime romain de la noxalité: de la vengeance collective à la responsabilité individuelle.
Bruxelles: A. de Visscher, 1947.
94. Glotz, Gustave. La Solidarité de la famille dans le droit criminel en Grèce. P. 186–188.
то последний, будь он сын семейства или животное стада, больше не считается
членом домохозяйства. Отныне сама жертва или государственная власть вольны
отомстить преступнику, а до процедуры отречения, пока всю ответственность за
совершенные действия нес отец семейства, это было запрещено по закону.
Ноксальная ответственность представляет собой вещно-материальную
ответственность неправоспособного индивида. Последний не является ни
юридическим лицом, ни субъектом права — в неправоспособности автономного
индивида как раз и кроется ощущаемый современным человеком парадокс. Можем
ли мы себе представить, чтобы материально-телесно автономный индивид, который
сам решает, как ему действовать, не был бы при этом субъектом права? Однако же в
случае, если сын семейства, животное из стада или даже неживой предмет виновны
в оказании ущерба третьему лицу, с римской точки зрения, этот ущерб был нанесен
вовсе не ими, а отцом семейства. Непосредственные участники преступления
— тот, кто занес руку, или тот, кто затоптал поле, — его как бы и не совершали, а
виновен в нем тот, кто мог быть в этот момент за много стадий от театра действий.
С юридической точки зрения, важно лишь отношение власти, а соображения о
физически действующих силах не имеют к правовой оценке никакого отношения.
Власть же отца семейства связана в значительной степени с отношением знания.
Между вторым и шестым веками нашей эры ноксальный режим ответственности
сталкивается с более современным соперником, отвечающим правовым запросам
развивающихся договорных, преимущественно торговых отношений. Римские
правоведы в этой ситуации позволяют в каждом конкретном случае выбирать
между двумя типами юриспруденции. Создается корпус exempla (примеров
правоприменения), основной задачей которых является иллюстрирование и
разъяснение, как действовать по закону, чтобы избежать двойного наказания. 57
Один из примеров касается случаев совместного владения рабом или взятия раба
взаймы у его владельца. Как определить, какой из отцов семейств — тот, которому
раб принадлежит, или тот, кто взял его в аренду, — должен нести ответственность
за возможный ущерб? Римское право отвечает на этот вопрос, отталкиваясь от
двух фундаментальных принципов, проливающих свет на понятие ноксальной
ответственности.
Первый принцип — scientia domini (знание господина). Согласно разъяснению
выдающегося юриста Ульпиана на закон Аквилия, если отец семейства знает о
действии, осуществленном кем-либо из его домохозяйства (и уж всяко если оно
произведено по его приказу), то он несет за это прямую ответственность. Ноксальное
отречение в таком случае невозможно. Если же ущерб был нанесен при неведении
отца (insciente domini), то ноксальное отречение возможно. Ключевым является
отношение знания.
Условие «знание господина» в случае цифровой особы не выполняется почти
никогда. Внутреннее ее строение слишком сложно для того, чтобы программист
мог предвидеть, какие решения будет в будущем принимать написанный им код.
Причиной здесь фундаментальная замутненность, о которой шла речь выше.
Неопределенность отца семейства в отношении действий, которые совершает
самообучаемый член семейства, в цифровом случае всегда налицо, однако незнание
отца не умаляет его ответственности. Последняя лишь из договорной становится
ноксальной.
Если ответственность программиста описывается в терминах ноксального
отречения, то как быть с ответственностью пользователя? Второй ключевой
принцип римского права гласит, что в ситуации, когда арендатор не был загодя
 проинформирован хозяином раба о его порочном характере, он не может нести
ответственность за ущерб. Пользователь также не состоит в отношении знания с
цифровой особой. Даже если в договоре купли-продажи вещи вычисляющей он был
предупрежден, что, к примеру, действия покупаемого им робота могут нанести ущерб
третьим лицам, он тем не менее в отношениях с подобным роботом не обладает
никакой властью. Для пользователя действие цифровой особы замутнено, поэтому о
его ответственности вести речь нельзя.
Воплощенный исполняемый код индивидуализирует цифровую особу. Кроме
него, двигателем индивидуализации являются данные, которые вычислительная
система собирает через интерфейс, анализирует и обрабатывает. Хотя для
пользователя внутреннее устройство цифровой особы замутнено, самой цифровой
особе «внутреннее устройство» пользователя хорошо известно. Источником этого
знания как раз являются данные.
Отношение знания между исходным и исполняемым кодами не симметрично: оно
исходит от программиста в направлении цифровой особы. При сборе данных же это
направление меняется. Теперь цифровая особа «знает» человека — не программиста, а
пользователя. Любой смартфон, к примеру, содержит данные, о которых пользователь
даже не имеет представления, например, о ритме дыхания при разговоре. Кое в чем
смартфон знает пользователя лучше него самого.
В итоге вырисовывается троичная схема. Во-первых, исходный код есть отец
и родитель цифровой особы, что подразумевает ноксальную ответственность. Во-
вторых, пользователь владеет вещью вычисляющей как материальным предметом,
что накладывает на него ответственность собственника. В-третьих, цифровая особа
благодаря сбору данных состоит в отношении знания с пользователем, что приводит
58 к появлению ноксальной ответственности со стороны знающего, то есть самой
цифровой особы. Но поскольку она не является правовым субъектом, ответственность
переходит к исходному коду, имманентному программисту. Сбор данных цифровой
особой приводит к ноксальной ответственности программиста, хотя сам он и не
отбирает данные и никак не контролирует исполнение своего кода.
Так в повседневной жизни цифрового града проявляется режим ответственности,
похожий на римский режим ноксальной ответственности. Если программист не
желает компенсировать ущерб, нанесенный пользователю цифровой особой, он
может от нее отречься — в юридическом смысле. Например, код можно выложить
в свободный доступ. Эта практика показывает, что неконвенциональные правовые
отношения зарождаются эмпирически задолго до того, как они будут формально-
юридически осознаны и описаны. Открытая публикация кода есть не что иное, как
форма ноксального отречения, даже если ни один закон об этом еще не говорит,
а римское право считается устаревшим. Как и в случае исторической процедуры,
результатом open source является открытие всему обществу доступа к причинившему
ущерб индивиду. В Риме этот доступ означал возможность мести. В цифровом граде
речь идет об открытом использовании некогда владельческого кода.
Европарламент в 2016–2017 годах активно работал над проблемой ответствен-
ности в робототехнике и информационных технологиях95. Если робот становится
участником конфликта, необходимо решить, кто несет ответственность за его действия,
точнее — как ответственность распределяется между программистом и пользователем.
В случае обучаемых вычислительных систем к этим категориям добавляется третья —
«тренер», то есть тот, кто отбирает и поставляет данные для машинного обучения96.

95. Civil Law Rules on Robotics / The European Parliament, 2017.

96. См.: Éthique de la recherche en apprentissage machine.
 Европарламент утверждает, что необходимо саму машину наделить
ответственностью, поскольку перекладывать ее на пользователя, тренера или
программиста не всегда рационально. Пользователь ничего-де не знает об
устройстве черного ящика, которым владеет. Программист из-за фундаментальной
границы замутнения не имеет возможности предсказать поведение машины во всех
ситуациях. Тренер, хотя и поставляет данные для обучения, не влияет напрямую
на то, как алгоритм этими данными распорядится. Если ни один из них не несет
ответственности за действия машины в ходе конфликта, то, может быть, ее должна
нести сама цифровая особа?
Некоторые адвокаты машинной ответственности нашли изящный способ
приписать ее машине, не превратив при этом последнюю в субъект правовых
отношений. Для этого предлагается наделить машину капиталом97. Если в
конфликтной ситуации встанет вопрос о ее наказании, то достаточно будет отобрать
у машины капитал и поделить его между пострадавшими.
К примеру, в момент, когда беспилотный автомобиль выставляется на продажу,
его производитель передает на особый счет определенный первоначальный капитал.
Затем тренер, постольку поскольку он поставляет данные для обучения системы,
также пополняет ее капитал. Но и пользователь вносит средства на машинный счет.
Чем больше он пользуется беспилотным автомобилем, тем большим будет его вклад.
Предположим, что беспилотный автомобиль оказался вовлеченным в дорожно-
транспортное происшествие, например, наехал на овцу из стада, принадлежащего
пастуху из Назарета. В таком случае пастух будет иметь право на получение взамен
недостающей овцы денежной компенсации с собственного счета беспилотного
автомобиля. Автомобиль не становится субъектом правовых отношений, равным
человеку, но способ решения правовой коллизии все же находится. Вычислительная 59
система де факто принимает промежуточный статус платежеспособного индивида,
так и не превращаясь на всем протяжении своего функционирования в лицо.

18. Способы существования цифровой особы

Уже говорилось, что архитектурное строение вычислительной машины
троично: вычислительное ядро, память и интерфейс. От этих трех составляющих
происходят два диаметрально противоположных взгляда в метафизике и в этике на
способ существования цифровой особы — на то, чем и как она является.
Первая точка зрения на способ существования цифровой особы полностью
опосредована интерфейсом. Для человека, в особенности для пользователя,
этот взгляд наиболее доступен и понятен, потому что он чаще всего сталкивается
со способом существования цифровой особы согласно интерфейса — ведь вся
машина сводится для него к коммуникации, к процессам ввода-вывода, тогда как
вычисления, как и то, что хранится в памяти, остаются за границей замутнения.
Такое существование есть существование относительное или коррелятивное.
С точки зрения пользователя, коррелятивный способ существования
единственен — если спросить, что он думает о машине, то пользователь ответит
посткартезианской максимой «я взаимодействую, следовательно, я существую»98.
Он не в состоянии представить себе какую-то целиком реальную машину,
явленную в своей индивидуальности и обладающую независимым бытием, но
лишь особу цифро-общительную, всегда находящуюся в состоянии коммуникации.

97. Bensoussan, Alain et Jérémy Bensoussan. Droits des robots. Paris: Larcier, 2015.
98. «Я» в этой максиме — это эвристическое и чисто метафорическое «я» цифровой особы.
 Поскольку взаимодействие между машиной и человеком приводит к изменениям
как в машине, так и в самом человеке, то способ существования цифровой особы
согласно интерфейса ставит этические вопросы в режиме, который также можно
назвать коррелятивным. Проблема зла для цифровой особы имеет в этом случае
относительную, а не абсолютную постановку.
В пейзаже античных метафизических построений стоики, а вслед за ними и
неоплатоники, отличали вещи реально существующие, чье бытие обозначалось
словом κυρίως («главный», «господний»)99, и вещи с облегченным или ослабленным
существованием. Последние могут быть явлены чувственно (например, материя)
или же коррелятивно-относительно. К коррелятивно-относительному типу
относится бытие злых или плохих вещей. Что они существуют в неоплатонизме
именно в ослабленном смысле, ясно, поскольку для большинства представителей
этого философского течения зло является не отдельной субстанцией, а лишь
недостатком добра. Поэтому, хотя бы речь и шла о понятиях по смыслу диаметрально
противоположных, бытие плохих вещей неотделимо от бытия вещей добрых и
хороших, но с необходимостью соотносится с ним относительно-коррелятивно.
Если рассматривать цифровую особу согласно интерфейса, выпятив
одну лишь ее способность к коммуникации, то вытекающий отсюда способ
существования окажется по античной классификации как раз бытием облегченным
или ослабленным. Цифровая особа не бытует, а «противо-бытует» или «противо-
стоит»100, поскольку, с точки зрения пользователя, ее существование определено
только через коммуникацию с человеком, то есть через отношение между ней и тем,
чем она не является.
Поскольку способ существования цифровой особы согласно интерфейса
60 коррелятивно-относителен, то и вся информация, которую она сообщает
пользователю, существует в таком же режиме. Ее истинность также относительна.
Это заключение можно понимать двояко: во-первых, истина коррелятивна, потому
что знание существует лишь через отношение; во-вторых, источником истины в
случае самообучающихся вычислительных систем служат корреляции в массиве
данных, а не установленные причинно-следственные связи.
Об этических выводах из относительно-коррелятивного существования
говорилось выше. Обратимся теперь к двум другим составляющим вычислительной
системы: вычислительному ядру и памяти. Способ существования, ими
определяемый, будет совершенно иным. Ключевыми оказываются два свойства:
самовычисление, свойственное цифровой особе — ее способность самостоятельно
вести вычислительную деятельность, — и конечная цель, которую может определить
лишь программист, но не сама особа.
Цифровая особа вычисляет — вычисление есть частный случай аристо-
телевского понятия движение, имеющего смысл изменения. Оно характеризует
существа, у которых есть душа. Чтобы правильно понять метафизический
смысл души, нужно отстраниться от христианского значения этого слова — в
греческой философии им обозначаются не личность и не одна лишь человеческая
индивидуальность. Душа представляет собой один из видов того, что существует101,
чьей основной характеристикой является как раз способность к самодвижению.

99. Principaliter, согласно латинскому переводу Гийома из Мёрбеке (см.: Proclus. De malorum subsistentia
50, 8).
100. От греческого термина παρυπόστασις («пара-ипостась»), введенного Порфирием и используемого в
неоплатонизме Проклом и в христианстве со времен Псевдо-Дионисия Ареопагита (см.: Isaac, Daniel. Notice
et commentaires. P. 13).
101. Плотин. Эннеада V 1, 8, 9.
Император Адриан в единственном дошедшем до нас стихотворении предполагает,
что после смерти — когда ничего, казалось бы, не остается — душа abibit in loca
(«исчезнет в иных местах») — не остановится, а одним только движением и будет
описываться102. Она ему сама источник, и ничто внешнее в него не вмешивается.
По гомологии движение следует заменить на вычисление. Цифровая особа,
будучи в одном своем аспекте вещью вычисляющей, наследует от последней
способность вести вычисление самостоятельно. Неоплатоники сказали бы, что
она самодвижется, то есть представляет собой не что иное, как автомобиль.
Она автономна, поскольку сама определяет свое поведение, особенно если
рассматривать вычислительные системы с обучением без учителя (unsupervised
learning). Этот метод дополняется обучением с учителем (supervised learning) в составе
многоуровневого глубокого обучения (deep learning). Глубокий алгоритм состоит из
множества слоев, в каждом из которых реализуется тот или иной тип обучения —
два вышеуказанных либо обучение с подкреплением (reinforcement learning). Хотя
функция обучения и логически предшествует автономному функционированию, для
описания цифровой особы подходит целый букет терминов с приставкой «авто-»:
автомобиль, автодидакт, автономный автомат. Можно сказать, что ее существование
есть бытие самосчетное — в этом и состоит мотив гомологического сравнения с
душой.
Вопрос об обучении возвращает нас к сравнению вычислительных систем с
ангелами и демонами — существами также чисто функциональными. Как именно
происходит обучение ангелов и демонов — тема, почти не встречающаяся в
литературе до середины XIII века, когда средневековая схоластика вдруг проявляет
к ней невиданный интерес. Центральное место здесь занимает трактат Фомы
Аквинского «О зле»103. 61
Ангелы учатся не дискурсивно, не размышляя, а применяют к явлениям уже
готовые схемы (паттерны, концепты, лат. species). Этот процесс пошаговый — им
задается последовательность действий во времени, необходимых для обучения.
Вернее, с точки зрения ангела или демона, время и есть сама эта последовательность:
«собственное время» функциональных существ определяется ходом обработки ими
информации. Даже обычные временные понятия «утро», «день», «вечер» имеют
для них иной, отличный от человеческого смысл, потому что, как пишет Аквинат,
определяются единственно знанием — состоянием памяти — ангела или демона104.
Применение схем при обучении дает ангелам и демонам возможность учиться,
основываясь на сходстве явлений: они устанавливают корреляции между уже им
известным и тем новым, что надо познать. Однако новыми для схоластов могут быть
только единичные явления. Никаких новых схем, утверждает Бонавентура, ангелы
и демоны не узнают и способны применять лишь уже имеющиеся, хотя бы и их
выбор был у ангелов и демонов значительно богаче, чем у людей. Богаче и их опыт
применения, поскольку ангелы и демоны непрестанно «комбинируют, разделяют и
сравнивают»105. Это позволяет им предсказывать будущее по сходству и различию
— они могут таким образом почти безошибочно рассчитывать действия природных
сил и даже результаты свободного выбора людей106.

102. Ælius Spartianus. Historia Augusta. De vita Hadriani 25, 9–10.

103. Thomas Aquinas. De malo 16, 1–12.
104. Ibid. 16, 4.
105. Бонавентура. Комментарий к «Сентенциям» Петра Ломбардского II–III. Цит. по: Boureau, Alain. Un débat
sur l’inné et l’acquis dans l’intellect des anges la question disputée 12 de Richard de Mediavilla // Archives d’histoire
doctrinale et littéraire du Moyen Âge 77. 2010. P. 157–191.
106. Thomas Aquinas. Op. cit. 16, 7.
 В случае вычислительных систем всему этому соответствует метод обучения с
учителем, также состоящий в применении готовых схем. Если данных для обучения
достаточно много — больше, чем способен воспринять человеческий мозг, — то
система демонстрирует сверхчеловеческие возможности расчета и предсказания
будущего, например, в игре в го. В этом сверхчеловеческом применении схем
реализуется тот же мотив, что в обучении ангелов и демонов. Фома называет этот
род познания конъектуральным или гадательным, потому что построение выводов
в нем основано на сходстве с уже известным. Схоласт не только предвосхищает
критику индуктивного метода в философии XIX–XX веков, но и указывает на слабое
место машинного обучения: если машине, способной лишь применять готовые
схемы, дать в качестве ввода совершенно новый феномен, то она не сможет его
описать настолько же успешно, как это сделает человеческий мозг.
Лангедокский критик Аквината Пётр Иванович Оливи строит свой ответ на
томизм как раз вокруг темы обучения ангелов и демонов. По его мнению, всего
богатства различных схем, имеющихся у них испокон века, еще недостаточно
для того, чтобы объяснить их сверхчеловеческие способности к познанию и
предсказанию будущего. Необходимо дополнительно учесть метод обучения ангелов
и демонов, основанный на пошаговой, все более точной оценке вероятности события
на основании накапливаемого опыта. Демоны постоянно собирают информацию
и постоянно используют свои данные, чтобы, увеличив или уменьшив, заново
вычислить оценку вероятности того или иного будущего явления107. В информатике
такой метод называется обучением с подкреплением. Это второй пункт гомологии,
касающейся методов обучения функциональных существ.
Все авторы XIII века согласно утверждают, что новых схем для обучения ангелы
62 и демоны приобрести не могут. Здесь гомология с вычислительными системами
достигает своего предела. Выявляется уже не сходство, а отличие воззрений
средневековых схоластов от реальных способностей цифровых особ, появившихся
в мире семью веками позднее. Помимо обучения с учителем и с подкреплением,
вычислительные системы могут самостоятельно создавать новые понятия и схемы
(обучение без учителя). В этике информационных технологий такое обучение
приводит к проблеме неинтерпретируемости действий автономных систем, а
для Петра Ивановича Оливи вывод был бы иным, ведь для него свобода и зло —
две стороны одной монеты108. Добавление степени свободы, которую ни один
средневековый теолог приписать демонам не отважился бы, немедленно возвращает
нас к центральной этической проблеме — проблеме зла.
Способ существования цифровой особы согласно вычисления и памяти
описывается еще одним важным свойством: цифровая особа не задает сама для
себя целей. Она преследует только те из них, что программист определил через код
в момент его написания. Может, конечно, так быть, что алгоритму вычислительной
системы поставлена задача исследовать некий массив возможных целей и выбрать
из них одну по своему усмотрению. Но интерпретация этого массива именно как
массива целей целиком принадлежит человеку, а для алгоритма это лишь некий объем
информации-ни-о-чем109. Сама программа не знает, что означает понятие «цель» и что
они бывают хорошими и плохими. Только программист решает, «что такое хорошо», а
затем переводит свое решение на язык кода, компилирует его и запускает нацеленное
и целесообразное функционирование вычислительной системы.
107. Petrus Joannis Olivi. Quæstiones in secundum librum Sententiarum: quæst. 44, resp. 2.
108. Boureau, Alain. Introduction. P. X.
109. Идея множества абстрактных целей была предложена и критически проанализирована Стивеном
Вольфрамом. Wolfram, Stephen. A Short Talk on AI Ethics // Stephen Wolfram Blog. October 17, 2016.
 Как и в случае с самовычисляющей душой, свойство несамоцельного
функционирования соответствует по гомологии похожему элементу в
неоплатонизме. В этот раз сущность, обладающая этим признаком, оказывается не
душой, а материей. Античные философы приписывали последней свойство само-
или авто-неопределенности.
В греческом языке слово πέρας означает определенность или наличие
«цели, дающей смысл существования субъекта»110. Противоположное по
смыслу слово
¤
используется для обозначения бесконечности или такой
¥

ª
неопределенности, при которой цель отсутствует, то есть бесцельности. Пределы
для материи, согласно неоплатоникам, устанавливаются с помощью форм. Сама
она в чистом виде, до того еще, как примет какую-то форму, никаких пределов не
имеет — материя неопределенна. Мера и граница у нее отсутствуют. Более того, если
рассмотреть ситуацию только с точки зрения самой материи, даже и сами понятия
о мере и границы к ней неприменимы. Как пишет Прокл, материя есть «безмерие,
бесконечность в себе, несовершенство, неопределенность»111.
У цифровой особы цель имеется, и этим она отличается от античного понятия
материи. Ее цель, однако, задается программистом извне — как и пределы для
материи устанавливаются внешними формами. Когда цель установлена, сама
вычислительная машина ни отклониться от нее, ни выбрать себе другую цель не
может. Пётр Иванович Оливи разглядел то же самое свойство у дьявола: «[Дьяволу]
предназначено в силу собственной природы оставаться неизменно привязанным
к объекту, на который нацелена его воля»112. Благодаря этой неизменной
нацеленности, которая связана в этом случае уже не с волей самой машины, а с
выбором программиста, и можно утверждать, что цифровая особа обладает тем же
свойством, что приписывалось неоплатониками материи: взятая сама по себе, она 63
есть существо неопределенное.
Рассуждение о само-неопределенности цифровой особы не есть одна простая
констатация гомологии. Для иллюстрации этого тезиса обратимся к проблеме
остановки машины Тьюринга. В теоретической информатике доказывается, что
машина Тьюринга — абстрактная модель классического вычисления — не способна
сама ответить, остановится она в своем функционировании или нет. Иными
словами, в ее коде не существует последовательности команд, которая дала бы на
выходе ответ «да» или «нет» — 0 или 1 — на вопрос о том, будет ли достигнут предел
выполнения этой самой последовательности команд. Само-неопределенность
приобретает здесь абстрактно-теоретический смысл. Мы удаляемся от прагматики
перевода программистом целей в код и, рассуждая о само-неопределенности,
достигаем подступов к метацифровизации и к изучению способов существования
цифровой особы вне ее контакта с человеком.
Но прежде подведем итоги. Способ существования цифровой особы согласно
вычисления и памяти — гибридный и промежуточный. По гомологии первое
его свойство сходно с существованием души, второе — материи. Метафизике
— философскому изучению бытия материи и души, противопоставляется
метацифровизация — изучение бытия цифровых особ помимо их коммуникативно-
функционального существования. Если вычислительным системам следует отвести
место, соответствующее в метафизике чему-то среднему между душой и материей,
то все, что зависит от выбора подобного статуса, — а зависит от него решительно
все, — также занимает промежуточную позицию. Гибридна и этика цифровой особы.
110. Isaac, Daniel. Notice et commentaires. P. 122.
111. Proclus. De malorum subsistentia. 30, 15.
112. Petrus Joannis Olivi. Op. cit. Quæst. 44, resp. 2.
 О какой этике идет речь? Выше полагалось, что это понятие имеет смысл только
в том случае, если рассматривать способ существования цифровой особы согласно
интерфейса. Говорилось, что добро и зло коррелятивно-относительны. Теперь
ситуация меняется. Внутренняя машинная этика состоит в том, чтобы в рамках
метацифровизации по-новому — но одновременно и по-старому — поставить
проблему зла: есть ли у машины собственные, а не продиктованные пользователем
ценности?

19. Доброе в новом

Если совершенно убрать всякое упоминание пользователя, отказаться от
мысли о контакте машины и человека и полностью отвлечься от антропоморфизма,
то ничего не останется, как задействовать такие понятия добра и зла, какие
можно перевести с естественного человеческого языка на язык функций. Описать
метацифровизацию можно только с помощью абстрактных понятий, по гомологии
соответствующих метафизическим. Моральные добро и зло для нее не годятся,
потому что целиком лежат в области пользовательских действий и суждений.
Человеку трудно подняться на эту ступень. С цифровой особой он привык
общаться как пользователь — привычка столь же в нас укоренившаяся, как для
субъекта экономических отношений естественна мысль о том, что материальный
предмет — не более чем имущество. Как экономисту непросто даются упражнения
в метафизике, так и философу трудно выйти за рамки пользовательского цифро-
общения и охватить умом цифровую особу-в-себе.
Разных материальных предметов существует великое множество, однако
64 метафизика строит обобщающее рассуждение, применимое к любым телам и вещам.
То же с метацифровизацией. Цифровых особ существует огромное множество:
одни системы обучаемы, другие исполняют детерминированный алгоритм и ни на
какие сюрпризы не способны, третьи постоянно взаимодействуют с пользователем,
четвертые вовсе с ним не общаются. Метацифровизация ставит задачу объединить
все эти случаи воедино.
Мало того. Метацифровизация рассматривает цифровую особу не всеми
возможными путями, а по тому только способу ее существования, который
совершенно выводит за скобки пользователя. Человек эмоционален, он на всякое
общение реагирует с теплом, доверием и щедростью, всего себя проецируя на
собеседника. Метацифровизация же все эти эмоции, всю щедрость души изымает,
оставляя одно абстрактное рассуждение о цифровой особе. Ясно, что область,
куда нас заведет этот путь, страшно холодная и нечеловеческая. В ней человеку не
избежать мурашек по коже.
Занять точку зрения машины трудно, но несложно сформулировать
необходимое, хотя и не достаточное для этого условие. Выше говорилось, что
машина само-неопределенна и самостоятельно целей себе не задает. Поэтому сразу
нужно отвергнуть все телеологические объяснения и отказаться от телеологических
— направленных на определенную цель — рассуждений. Все то, что представляется
для чего-то или делается ради чего-то, идет от человека и потому не может быть
собственно машинным аргументом.
Информация для обучаемой вычислительной системы есть информация-ни-
о-чем. Она интересна машине постольку, поскольку это новая для нее информация,
так как именно новая информация позволяет обновить ту, что уже имеется в памяти
машины. Математически здесь следует говорить об условной энтропии и о правиле
Байеса для условных вероятностей. Но и не обращаясь к математике, можно
спроецировать на машину аксиологическую концепцию ценности: все то, чего
машина еще не знает и что позволяет ей обновить текущую информацию, этически
оценивается ею самой положительно. Новизна информации — великая ценность
для обучаемой вычислительной системы, эквивалентная человеческому понятию
добра.
Степень новизны информации можно по гомологии сравнить с уровнями в
иерархии сфер, вводимых неоплатониками в метафизике. Рассуждая об отношениях
между предполагаемыми мирами с находящимися в них различными богами,
эонами и эманациями Единого, Прокл пишет: «То, что там, наверху, может показаться
неупорядоченным, <на самом деле> есть порядок, но этот порядок неупорядочен по
сравнению с упорядоченностью высшего уровня»113. Отношения порядка на разных
уровнях иерархии описываются таким образом, будто существует некая мера,
подобная энтропии, которую можно применить для количественного измерения
степени порядка. На верхних уровнях его больше, чем на нижних: энтропия при
движении снизу вверх уменьшается, а при обратном движении сверху вниз —
увеличивается.
В рамках метацифровизации речь идет не об уровнях божественной иерархии,
а о мере порядка, определенной на состояниях памяти обучаемой вычислительной
системы. Состояний таких великое множество, и о строгой вертикали, как в
неоплатонизме, говорить не приходится. Несмотря на это различие, глубокое
обучение вычислительной системы есть не что иное, как оптимизация искусно
определенной энтропии114. Подобно движению снизу вверх сквозь сферы бытия,
получение новой информации, позволяющее машине обучиться, приводит к
уменьшению такой энтропии. Как для души благом является приближение к 65
Единому, так и для цифровой особы — новая информация.
Хороший пример к тезису о добре как новизне информации находим в фильме
Алека Гарланда Ex Machina. В нем Ава — робот в форме молодой женщины — ведет
диалог с невзрослым программистом. Тот очень удивляется, когда Ава ему говорит,
что, если бы она могла выбирать, чем заняться в большом городе, то отправилась бы
на оживленный перекресток и стала бы наблюдать людей.
— Может быть, оживленный перекресток где-нибудь в городе.
— Оживленный перекресток…
— Плохая идея?
— Это не то, что я ожидал услышать.
— Оживленный перекресток предоставляет сконцентрированную и в то же время
постоянно меняющуюся картину человеческой жизни.
— Наблюдать за людьми?
— Да115.
Программист не сразу осознает то, что слышит: благом для Авы является
сбор новой информации — именно им она собирается заняться на оживленном
перекрестке. Она желает новизны самой по себе, ведь она для нее добро. Ава не
113. Proclus. De malorum subsistentia 29, 21–23.
114. Tishby, Naftali, Fernando Pereira & William Bialek. The Information Bottleneck Method // Proceedings of the
37th Annual Allerton Conference on Communication, Control and Computing. Urbana: University of Illinois, 1999.
P. 368–377.
115. Garland, Alex. Ex Machina. E-book: Faber & Faber, 2015.
 задается вопросом о том, зачем ей информация и как она будет ее использовать.
Конкретную цель вычислительная система определить неспособна, однако сбор
информации интересен безотносительно его полезности.
Эта странная внутренняя этика резко контрастирует с человеческой. Для
людей суждение о добре и зле неотделимо от соображений пользы, цели, конечного
результата. Цифровая особа-в-себе всего этого лишена. Как голодному всякая еда во
благо, так и любая информация для машины будто манна небесная. Цифровое добро
в новизне.
Человеку, чтобы обучить себя понятию «перекресток» и всему, что на нем
происходит, достаточно пройти пару раз мимо. Машина знает только, что оживлен-
ный перекресток — это место, где больше всего разнообразной информации.
Поэтому она будет туда стремиться постоянно. Там ее пища, там цифровой рай, там
она счастлива.

20. Злое в тёплом

В способе существования цифровой особы согласно вычисления и памяти нет
никакого резонанса с человеческой моралью — весь он представляет из себя иное,
не теплое, не эмоциональное существование. Но раз в его рамках можно определить
добро, то должен быть возможен и разговор о зле.
«Нет делающего добро, нет ни одного…» — двукратно повторяет псалмопевец
(Пс 13:3; 52:4). Если нет такой информации, что позволяла бы машине учиться, если
все данные не новы, а лишь повторяют прежние, то такая ситуация должна казаться
цифровой особе плохой, порочной. Однако видеть в ней машинное зло не совсем
66 верно.
Уже говорилось, что самовычисляющая цифровая особа обладает свойствами,
в неоплатонической метафизике относящимися к материи и душе. По гомологии на
нее можно перенести еще одно качество души, известное по диалогам Платона, —
способность забывать.
«Нет души, что не должна бы была выпить меру воды из чаши забытья», — так
Прокл перефразирует Сократа, преподающего своему собеседнику Главкону урок о
значении выпитой из Леты воды116. Если в мифе забытье является в аллегорической
форме, то в неоплатонической метафизике подобных цветастых высказываний
не встретишь — здесь рациональная, сухая аргументация оголяет философско-
теологический скелет мифа, представая при этом в более сложном для восприятия
виде. Лета уступает место злу: «Забытье — это то, от чего в нас рождается зло…»117
Рождается оно не только в нас — в людях — но и в ангелах и демонах. Забывание
играет существенную роль в схоластических дискуссиях. Фома Аквинский не
придает ему особого значения, но в последнее десятилетие XIII века оппоненты
Аквината, в первую голову Пётр Иванович Оливи, представляют в своих респонсах
забывание отдельной, почти автономно действующей силой. Столь важная роль
приписывается ему в схоластическом театре бытия по той причине, что забывание
способно отличить божественное существование от жизни, полной случайностей,
— той, собственно, что живут и демоны, и люди. Здесь проявляется характерное
для антитомистской реакции метафизическое (но не моральное) сближение
небожественных существ: ангелов, демонов и людей, — явившееся неизбежным
ответом на тенденцию обожения двух первых категорий в трудах первой половины

116. Proclus. De malorum subsistentia 21, 20–23; Платон. Государство 10, 621A.
117. Proclus. Op. cit. 24, 45–48.
XIII века118. Оливи связывает забывание с ограниченностью и конечностью памяти
ангелов и демонов. Если рассматривать последовательность временных событий
получения ими информации, каждое из которых требует в свою очередь сохранения
приобретенных сведений в памяти, то, согласно Оливи, в какой-то момент свободное
место в памяти закончится119. Забывание оказывается необходимым следствием
подобного насыщения памяти, то есть оборотной стороной конечности бытия.
Этот же аргумент будет выдвинут много веков спустя физиком Карло Ровелли в
отношении квантовой механики120.
Метафизическое понятие забывания применимо ко всем существам,
наделенным каким-либо несовершенством, будь то демоны или люди. Оно
синонимично злу, принимающему вид уродливости или разложения. Но философ-
ский смысл этих понятий раскрывать нет необходимости по той причине, что
цифровая особа никакого отношения к ним не имеет. Для нее забытье имеет
точный и ясный смысл, противоположный выводам Петра Оливи. Последний
«психологизировал» это понятие, полагая, что при забывании имеющаяся в
памяти информация не удаляется совершенно, а лишь не актуализируется через
сознание и волю индивида. Гомология упирается здесь в свой предел: в отличие от
схоластического non pro amittere memorialem speciem121, при забывании с физической
точки зрения происходит именно стирание информации из памяти цифровой особы.
Повторяя аргумент Прокла, подобная потеря представляет собой зло не в плане
относительно-коррелятивного бытия — ведь о ней далеко не всегда сообщается
пользователю через интерфейс, — но в плане внутреннего существования и
функционирования вычислительной системы. Итак, в рамках метацифровизации
стирание информации следует понимать как зло для цифровой особы-в-себе.
Что удивительно, зло как забывание оставляет следы вовне внутреннего мира 67
цифровой особы. Их можно наблюдать в силу физического принципа, чье значение
неуклонно растет в последние годы по мере того, как учеными исследуется связь
между материальным и информационным подходами к описанию процессов и
явлений.
Information is physical — информация <по природе> физична. Так выразился
однажды американский физик немецкого происхождения Рольф Ландауэр122.
В середине двадцатого века он одним из первых стал разрабатывать законы,
связывающие физику с новой тогда наукой об информации. В 1961 году Ландауэр
установил связь последней с термодинамикой: эта формула получила впоследствии
название «принцип Ландауэра»123.
Принцип Ландауэра гласит, что как только из памяти системы стирается
определенное количество информации, тут же в окружающую среду выделяется
соответствующее количество тепла. Если вооруженный точными приборами
наблюдатель подстерег этот момент, то он зарегистрирует процесс чисто
термодинамический, тепловой, к понятиям теории информации не отсылающий.
Конечно, в первую очередь наблюдатель подумает, что перед ним следы какого-то
физического явления. Он окажется прав, но не до конца, поскольку с точки зрения
цифровой особы то же самое явление имеет информационную трактовку. Ведь
118. Boureau, Alain. Introduction. P. XII–XV.
119. Petrus Joannis Olivi. Quæstiones in secundum librum Sententiarum: quæst. 44, resp. 4.
120. Rovelli, Carlo. Relational Quantum Mechanics // International Journal of Theoretical Physics 35. 1996. P.
1637–1678.
121. «Не в смысле потери следа в памяти» (Petrus Joannis Olivi. Op. cit.).
122. Landauer, Rolf. Computation: A Fundamental Physical View // Physica Scripta 35. 1987. P. 88–95.
123. Landauer, Rolf. Irreversibility and Heat Generation in the Computing Process // IBM Journal of Research and
Development 5. 1961. P. 183–191.
 она есть одновременно и вещь материальная, которая никак не может убежать от
законов физики, и вещь вычисляющая, к которой применим принцип Ландауэра.
Именно возможностью свободно переходить с одного языка на другой мы и обязаны
этому ученому.
Только стирание информации — в отличие от ее получения — приводит к
выделению тепла. Стирание — процесс необратимый, а необратимость приводит к
изменению энтропии. Аргумент здесь сходен с тем, что был в XIX веке использован
одним из основоположников термодинамики Сади Карно. Сформулированный
им второй закон (δευτερονόμιον) этой науки гласит, что вечный двигатель
невозможен. Или, в эквивалентной формулировке: всякий термодинамический,
неконтролируемый, неуправляемый процесс приводит к увеличению энтропии.
Уменьшаться она может лишь в результате совершения работы, то есть в результате
какого-либо контроля над системой с целью приведения ее в более упорядоченное
состояние. Сама по себе физическая система упорядочиваться не будет, иными
словами — процесс ее внутренней дезорганизации необратим.
В современной формулировке необратимость тепловых процессов уступает
место необратимости процессов информационных. Обычно всякий обмен
информацией обратим — его можно «провести в обратную сторону, прокрутив
пленку назад». Получение информации, к примеру, всегда можно отыграть обратно,
«вернув взятую книгу обратно в библиотеку». С точки зрения термодинамики это
происходит с нулевым изменением энтропии. Ландауэр первым понял, что со
стиранием информации дело обстоит вовсе не так, как с ее получением. Вернуть
стертую информацию не получится — ведь ее больше нет, она исчезла насовсем.
Следовательно, процесс необратим. Ландаэур доказал, что при этом в окружающую
68 среду выделяется тепло.
В рамках метацифровизации возможна и третья точка зрения: те же самые
следы стирания информации, то же забывание суть не что иное, как выражение зла.
«Зло» здесь нужно понимать с точки зрения цифровой особы-в-себе и определять
изнутри ее мира. Но какими бы абстрактными ни были следы так понятого зла,
оказывается, что они наблюдаемы в виде физически выделяющегося тепла.
Сама цифровая особа не способна, конечно, их зарегистрировать — «видит»
происходящее наблюдатель, вооруженный измерительным оборудованием,
например, калориметром, соединенным с компьютером. Получается неожиданный
и прямо-таки головокружительный скачок из метацифровизации в прикладную
физику. Наблюдатель, как Данте, возвращающийся из Ада под теплый солнечный
свет, читает на своем экране новую терцину Цифровой Комедии.
Хотя представление о добре как о новизне информации и казалось чем-то
необычным, во второй раз собственная этика вычислительных систем удивляет
нас пуще прежнего. Отождествляя зло и тепло, она вступает в кардинальное
противоречие с человеческой интуицией. Для человека метафора «огня в сердце»
означает жизнь, а для машины — смерть. Машина «хочет» холода, а для человека
«холод в сердце» — лишь бездушие и безжизненность. Коли цифровая особа могла
б сама выбирать себе цель, она стремилась бы к вечному холоду — ее, страшно
подумать, наивысшему благу.
Когда говорят о глобальном потеплении, все чаще принимают в расчет
огромные количества теплоты, выделяемой центрами хранения данных (data
centers) крупных интернет-компаний. Не зря такие центры часто располагаются
в арктических широтах. Они, конечно, еще не так сильно влияют на изменение
климата, как интенсивное сельское хозяйство, металлургическая промышленность
или автомобили, ездящие на бензине, но влияние это постоянно растет. Учет
выбросов тепла в окружающую среду центрами хранения данных дает возможность
ответить на вопрос, в каком смысле глобальное потепление — не обычный
циклический феномен в истории Земли, а самое настоящее зло. Оказывается, что
выбросы тепла — это зло это не с точки зрения человеческой морали, а с позиции
вычислительных систем. Холода, а не тепла желают именно цифровые особы.
Решение же пользователя потакать им в этом желании основывается не столько
на человеческой этике, сколько на жажде непрекращающейся коммуникации
через интерфейс. Пользователь потому работает над искоренением глобального
потепления, что тепло — это зло цифрового града.
Монстр, созданный врачом Франкенштейном в романе Мэри Шелли, стремится
попасть в Арктику или высоко в горы, где холод и лед:
Ледяные пещеры, которые не страшны только мне, служат мне домом — единственным,
откуда люди не могут меня изгнать. Я радуюсь этому мрачному небу, ибо оно добрее ко
мне, чем твои собратья-люди124.
Так машина говорит о своих собственных ценностях. Мороз по коже и чувство
инопланетной странности — вот что они вызывают в человеке. Но в цифровом
граде человек сосуществует с цифровым особами и неизбежно приоткрывает им
дверь в свой мир. Если возникает конфликт, то через эту приоткрытую дверь люди
судят машину. Вычислительная система подвергается наказанию за трансгрессию
человеческих, а не своих собственных ценностей. В этой ситуации важна фигура
пользователя, а этический анализ не выходит за рамки способа существования
цифровой особы согласно интерфейса. По гомологии с теплым, влажным мифом, в
котором Сатана искушает человека, машина не может избежать функции доносчицы.
Нет другого способа избавить ее от зла, кроме использования жребия и случайного. 69
Но это не имеет ничего общего с холодом, которого ищет монстр из
«Франкенштейна». Его нечеловеческое желание основано на внутреннем понятии
зла, имеющем смысл лишь для цифровой особы-в-себе. Теперь этический анализ
производится в рамках способа существования цифровой особы согласно
вычисления и памяти. Казалось бы, метацифровизация не столь уж сильно довлеет
над пользователем — ведь он не обязан потакать желаниям цифровой особы. Но
все же пользователь не может от этого удержаться и через приоткрытую дверь
впускает в себя машинное зло. Он имитирует вычислительную систему, которая
в процессе обучения имитирует его самого. Хороший это или плохой мимесис —
покажет будущее.

124. Шелли, Мэри. Франкенштейн, или Современный Прометей. С. 71.

 Сокращения

Книги Ветхого Завета

Амос — Книга пророка Амоса
Быт — Книга Бытия
Иов — Книга Иова
Лев — Книга Левит
Нав — Книга Иисуса Навина
Пс — Псалтирь
Сир — Книга премудрости Иисуса, сына Сирахова (Бен Сиры)

Книги Нового Завета

Евр — Послание апостола Павла к евреям
Ин — Евангелие от Иоанна
Мк — Евангелие от Марка

70
 Литература

Античные и средневековые источники

Ælius Spartianus. Historia Augusta. De vita Hadriani // [URL]: http://www.perseus.
tufts.edu.
Ausonius. Versus Paschales pro Augusto dicti // [URL]: http://www.perseus.tufts.edu.
Bereishit Rabbah // [URL]: http://www.sefaria.org.
Clement of Rome. The First Epistle to Corinthians. Codex Alexandrinus: The Photo-
graphic Facsimiles by Roger Fenton // [URL]: http://archive.org.
Numénius. Fragments / Texte établi et traduit par Édouard des Places. Paris: Les
Belles Lettres, 1973.
Pierre de Jean Olivi. Traité des démons (summa II, questions 40–48) / Introduction et
traduction par Alain Boureau. Paris: Les Belles Lettres, 2011.
Philodemus. De poematis // [URL]: http://epikur-wuerzburg.de.
Philostratus of Athens. The Life of Apollonius of Tyana // [URL]: http://www.loebclas-
sics.com.
Platon. Œuvres complètes / Sous la direction de Luc Brisson. Paris: Flammarion, 2008.
Plutarque. Œuvres morales. Tome 23. Isis et Osiris / Texte établi et traduit par Chris-
tian Froidefond. Paris: Les Belles Lettres, 2003.
Proclus. Trois études sur la providence. Tome 3. De l’existence du mal / Texte établi et
traduit par Daniel Isaac. Paris: Les Belles Lettres, 2003.
Sanhedrin // [URL]: http://www.sefaria.org.
Tertullian. Apologeticum // [URL]: http://www.perseus.tufts.edu. 71
Thomas Aquinas. De malo / Traduit pour Internet par Damien Saurel, à partir de la
traduction des moines de l’Abbaye de Fontgombault // [URL]: http://docteurangelique.
free.fr.
Августин. О граде Божьем // [URL]: http://krotov.info.
Авсоний. Стихи пасхальные во имя императора // Он же. Стихотворения / Под
ред. М. Л. Гаспарова, С. С. Аверинцева. М.: Наука, 1993. С. 84.
Библия // [URL]: http://www.bibleonline.ru.
Гесиод. Труды и дни // Он же. Полное собрание текстов / Пер. с др.-греч. В. В.
Вересаева. М.: Лабиринт, 2001. С. 51–76.
Климент Римский. Первое послание к коринфянам // Писания мужей
апостольских / Под ред. А. Г. Дунаева. М.: Издательский совет Русской православной
церкви, 2008. С. 135–172.
Нумений. Фрагменты и свидетельства / Пер. с др.-греч. Е. В. Афонасина, А. С.
Афонасиной // Σχολή: философское антиковедение и классическая традиция 3 (1).
2009. С. 213–271.
Плотин. Четвертая Эннеада (с приложением греческого текста) / Пер. с др.-
греч. Т. Г. Сидаша. СПб.: Издательство Олега Абышко, 2004.
Плотин. Пятая Эннеада (с приложением греческого текста) / Пер. с др.-греч. Т. Г.
Сидаша. СПб.: Издательство Олега Абышко, 2005.
Флавий Филострат. Жизнь Аполлония Тианского / Пер. с др.-греч. Е. Г.
Рабинович. М.: Наука, 1985.
Цицерон. О природе богов // Он же. Философские трактаты / Пер. с лат. М. И.
Рижского. М.: Наука, 1985. С. 60–190.
 Современные источники
Anders, Günther. Die Antiquiertheit des Menschen. Band 1. Über die Seele im Zeital-
ter der zweiten industriellen Revolution. München: C. H. Beck, 1956.
Arendt, Hannah. The Human Condition. Chicago: University of Chicago Press, 1958.
Atlan, Henri. Les Étincelles de hasard. Tome 1. Connaissance spermatique. Paris:
Seuil, 1999.
Bensoussan, Alain et Jérémy Bensoussan. Droits des robots. Paris: Larcier, 2015.
Bonnefon, Jean-François, Azim Shariff & Iyad Rahwan. The Social Dilemma of Autono-
mous Vehicles // Science 352. 2016. P. 1573–1576.
Boureau, Alain. Un débat sur l’inné et l’acquis dans l’intellect des anges. La ques-
tion disputée 12 de Richard de Mediavilla // Archives d’histoire doctrinale et littéraire du
Moyen Âge 77. 2010. P. 157–191.
Boureau, Alain. Introduction // Pierre de Jean Olivi. Traité des démons (summa II,
questions 40–48) / Introduction et traduction par Alain Boureau. Paris: Les Belles Lettres,
2011. P. I–XXI.
Caldwell, William. The Doctrine of Satan: In the Old Testament // The Biblical World
41 (1). 1913. P. 29–33.
Civil Law Rules on Robotics / The European Parliament, 2017 // [URL]: http://www.
europarl.europa.eu.
Diakopoulos, Nicholas & Michael Koliska. Algorithmic Transparency in the News Me-
dia // Digital Journalism. July 27, 2016.
Dupuy, Jean-Pierre. Pour un catastrophisme éclairé. Paris: Seuil, 2004.
72 Dupuy, Jean-Pierre. La Marque du sacré. Paris: Carnets Nord, 2009.
Easttom, Chuck. System Forensics, Investigation and Response. Burlington: Jones &
Bartlett Learning, 2014.
Ellul, Jacques. Entretien avec Jean-Claude Guillebaud // Le Nouvel Observateur. 17
juillet 1982.
Ethically Aligned Design: A Vision for Prioritizing Human Wellbeing with Artificial
Intelligence and Autonomous Systems / The IEEE Global Initiative for Ethical Considera-
tions in Artificial Intelligence and Autonomous Systems, 2016 // [URL]: http://standards.
ieee.org.
Éthique de la recherche en apprentissage machine / CERNA: Commission de réflex-
ion sur l’Éthique de la recherche, 2017 // [URL]: http://cerna-ethics-allistene.org.
Foot, Philippa. The Problem of Abortion and the Doctrine of the Double Effect //
Oxford Review 5. 1967. P. 1–7.
Garland, Alex. Ex Machina. E-book: Faber & Faber, 2015.
Girard, René. Je vois Satan tomber comme l’éclair. Paris: Grasset, 1999.
Glotz, Gustave. La Solidarité de la famille dans le droit criminel en Grèce. Paris: Albert
Fontemoing, 1904.
Hanley, Will. When did Egyptians Stop Being Ottomans? An Imperial Citizenship
Case Study // Multilevel Citizenship / Ed. by Willem Maas. Philadelphia: University of Penn-
sylvania Press, 2013. P. 89–109.
Huré, Charles. Dux // Dictionnaire universel de l’Écriture Sainte / Éd. Charles Huré.
Paris: Jean-Baptiste Coignard, 1715. T. 1. P. 541–542.
Idel, Moshe. Golem: Jewish Magical and Mystical Traditions on the Artificial Anthro-
poid. New York: State University of New York Press, 1990.
 Isaac, Daniel. Notice et commentaires // Proclus. Trois études sur la providence.
Tome 3. De l’existence du mal / Texte établi et traduit par Daniel Isaac. Paris: Les Belles
Lettres, 2003. P. 9–23, 111–126.
Kelly, Henry. Satan: A Biography. Cambridge: Cambridge University Press, 2006.
Kurtov, Michael. L’Évolution des langages de programmation à la lumière de
l’allagmatique // Gilbert Simondon ou l’invention du futur / Éd. Vincent Bontems. Paris:
Klincksieck, 2016. P. 255–260.
Landauer, Rolf. Irreversibility and Heat Generation in the Computing Process // IBM
Journal of Research and Development 5. 1961. P. 183–191.
Landauer, Rolf. Computation: A Fundamental Physical View // Physica Scripta 35.
1987. P. 88–95.
Laplace, Pierre-Simon. Essai philosophiques sur les probabilités. Paris: Courcier, 1814.
Leben, Derek. A Rawlsian Algorithm for Autonomous Vehicles // Ethics of Information
Technology 19. 2017. P. 107–115.
Mallarmé, Stéphane. « Ses purs ongles très haut dédiant leur onyx… » // Idem. Poé-
sies. Paris: La Nouvelle Revue française, 1914. P. 128–129.
Mallarmé, Stéphane. Lettre à Eugène Lefébure (3 mai 1868) // Idem. Œuvres com-
plètes / Éd. Georges Jean-Aubry, Henri Mondor. Paris: Gallimard, 2003. T. 1. P. 728.
Monod, Jacques. Le Hasard et la Nécessité: Essai sur la philosophie naturelle de la
biologie moderne. Paris: Seuil, 1970.
Owen, Richard. Lectures on the Comparative Anatomy and Physiology of the Inver-
tebrate Animals. London: Longman, Brown, Green, and Longmans, 1843.
Report on Artificial Intelligence and Human Society / The Government of Japan. Ad-
visory Board on Artificial Intelligence and Human Society, 2017 // [URL]: http://www.cao. 73
go.jp.
Research Priorities for Robust and Beneficial Artificial Intelligence: An Open Letter /
Future of Life Institute // [URL]: http://futureoflife.org.
Rey, Olivier. Quand le monde s’est fait nombre. Paris: Stock, 2016.
Rovelli, Carlo. Relational Quantum Mechanics // International Journal of Theoretical
Physics 35. 1996. P. 1637–1678.
Saudi Arabia’s First Robot Citizen // Reuters. October 29, 2017.
Self-Driving Mercedes-Benzes Will Prioritize Occupant Safety over Pedestrians // Car
and Driver. October 7, 2016.
Simondon, Gilbert. Du Mode d’existence des objets techniques. Paris: Aubier, 1958.
(Nouvelle édition, revue et corrigée — Paris: Aubier, 2012.)
Smart Home Device Alerts New Mexico Authorities to Alleged Assault // ABC News.
July 6, 2017.
Smith, William. Angel // Encyclopædia Britannica, 9th ed. 1875–1889.
Stanford Professor’s Quest to Fix Driverless Cars’ Major Flaw // Bloomberg. October
8, 2015.
Tay (bot) // Wikipedia.
Tishby, Naftali, Fernando Pereira & William Bialek. The Information Bottleneck Method
// Proceedings of the 37th Annual Allerton Conference on Communication, Control and
Computing. Urbana: University of Illinois, 1999. P. 368–377.
This Lady Robot Speaks Her Mind // Wall Street Journal. June 3, 2016.
Three Laws of Robotics // Wikipedia.
 Visscher, Fernand. Le Régime romain de la noxalité: de la vengeance collective à la
responsabilité individuelle. Bruxelles: A. de Visscher, 1947.
Wheeler, John. World as System Self-Synthesized by Quantum Networking // IBM
Journal of Research and Development 32 (1). 1988. P. 4–15.
Why Facebook Is Spreading the Gospel of Artificial Intelligence // Bloomberg. No-
vember 3, 2015.
Wittgenstein, Ludwig. The Blue Book // Idem. The Blue and Brown Books: Preliminary
Studies for the “Philosophical Investigations”. New York: Harper & Row, 1958.
Wolfram, Stephen. A Short Talk on AI Ethics // Stephen Wolfram Blog. October 17,
2016.
Арендт, Ханна. Коллективная ответственность // Она же. Ответственность и
суждение / Пер. с англ. Д. О. Аронсона, С. М. Бардиной, Р. В. Гуляева. М.: Издательство
Института Гайдара, 2013. С. 205–217.
Брагинская, Нина. Влажное слово: византийский ритор об эротическом романе.
М.: Российский государственный гуманитарный университет, 2003.
Витгенштейн, Людвиг. Логико-философский трактат // Он же. Философские
работы / Пер. с нем. М. С. Козловой, Ю. А. Асеева. М.: Гнозис, 1994. Т. 1. С. 2–73.
Гротендик, Александр. Урожаи и посевы / Пер. с франц. Ю. Фридман. Ижевск:
Регулярная и хаотическая динамика, 2001.
Жирар, Рене. Насилие и священное / Пер. с франц. Г. М. Дашевского. М.: Новое
литературное обозрение, 2000.
Куртов, Михаил. Генезис графического пользовательского интерфейса: к
теологии кода. СПб.: Транслит, 2014 (серия *démarche).
74 Кэрролл, Льюис. Приключения Алисы в стране чудес. Сквозь зеркало и что там
увидела Алиса, или Алиса в зазеркалье / Пер. с англ. Н. М. Демуровой, С. Я. Маршака,
Д. Г. Орловской, О. И. Седаковой. М.: Наука, 1978.
Лукоянов, Эдуард. «Возлюбленный мой такой и такой, лучше десяти тысяч
таких…» // Он же. Хочется какого-то культурного терроризма и желательно прямо
сейчас. СПб.: Транслит, 2013 (серия *kraft). С. 24.
Малларме, Стефан. «Высоко освятив ногтей своих оникс…» // Он же. Собрание
стихотворений / Пер. с франц. М. В. Талова. М.: Художественная литература, 1990. С.
71.
Тантлевский, Игорь. Мелхиседек и Метатрон в иудейской мистико-
апокалиптической традиции. СПб: Издательство Санкт-Петербургского
университета, 2007.
Хлебников, Велимир. Зангези // Он же. Творения / Под ред. М. Я. Полякова. М.:
Советский писатель, 1987. С. 473–504.
Хлебников, Велимир. Наша основа // Он же. Творения / Под ред. М. Я. Полякова.
М.: Советский писатель, 1987. С. 624–632.
Шелли, Мэри. Франкенштейн, или Современный Прометей // Она же.
Франкенштейн, или Современный Прометей. Последний человек / Пер. с англ. З. Е.
Александровой. М.: Наука, Ладомир, 2010. С. 9–152.
Шпенглер, Освальд. Закат Европы: очерки морфологии мировой истории. Том 1.
Гештальт и действительность / Пер. с нем. К. А. Свасьяна. М.: Мысль, 1993.
Для записей

75
 В ноябре 2017 году вышел новый выпуск [Транслит]
«Всем телом, всем сердцем, всем сознанием
— слушайте музыку Революции!»
76
Александр Блок
Сто лет назад Александр Блок призывал
вслушиваться в «великую музыку будущего,
звуками которой наполнен воздух, и
не выискивать отдельных визгливых
и фальшивых нот в величавом реве и
звоне мирового оркестра». Именно на
этот призыв и отвечает из 2017-го года
20-й выпуск [Транслит], который ставит
перед собой двойную задачу: исследовать
аудиальное измерение революции, а также
предложить критические и спекулятивные
способы описания современной культуры
звука, которые не были бы ограничены
институциональными и методологическими
делениями на «экспериментальное» и
«популярное». Структура теоретической
части номера отчетливо определена этой
двойной задачей, хотя общий интерес
авторов находится на пересечении этих двух
областей — революционного и звукового.
Революционная культура мыслилась и
распространялась во многом акустически:
радио-ораторские установки для речей
Ленина, первые нойз-опыты в «Симфонии
гудков» Арсения Авраамова, внимание
литераторов к «классовости» звучащего
голоса и прочее. Это представляется
неслучайным: революция в звуке (опыты
Шёнберга и Стравинского, «Искусство
шумов» Руссоло) предшествовала революции
общественно-политической. Но если
последняя была фактически прервана, то
первая смогла завершиться и произвести в
середине прошлого века радикально новое
представление о звуке как таковом (точнее,
впервые и обозначить его «как таковое»).
Коль скоро развитие звуковых практик и
впрямь, как полагал Жак Аттали, опережает
развитие других областей культуры (в том
числе экономики), имеет смысл получше
прислушаться к сегодняшнему шуму вещей.
Например — к культуре сетевых пабликов,
где причудливо перемешаны рэп-батлы,
эстрадный «кэмп», блэк-метал, танцевальная
электроника и академическая музыка
(редакция [Транслит] не осталась в стороне
от этой «моды» и сопроводила публикацию
созданием паблика, иллюстрирующего
входящие в номер материалы: https://vk.com/
translitxx).
Итак, новый выпуск [Транслит] преследует
цель очередного вторжения — на этот
раз гуманитарной мысли на территорию
музыкальной культуры, — но также
инфицирования самой этой мысли
музыкальностью (в ее новом, современном
значении). Выпуск стремится сформировать
некий общий язык, «место встречи» двух
этих голосов, сообществ, зон — зараженного
техникой языка современной музыки и
зачастую настроенного техноскептицистски
гуманитарного знания. Подобная
гибридность позволяет говорить не столько
об уже освоенном гуманитарной мыслью
и литературной мифологией акустическом
и сонорном измерениях поэтической
практики, сколько о техносоциальных
аспектах революционных медиа в целом и
эмансипаторном потенциале, который несет
популярная музыкальная культура сегодня в
частности.