Игорь Шнуренко

Игорь Шнуренко

aka Cyril Gilson

ДЕМОН
ВНУТРИ
АНАТОМИЯ
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Издательство «Наше завтра»

МОСКВА
2021
УДК 004.8+681.51.331.5
ББК 32.813.5+32.96
Ш77

Автор сердечно благодарит

Марию Васильевну Шукшину, Илью Александровича Кузнецова
и всех тех, кто принял участие в краудфандинге книги
на сайте planeta.ru. Без ваших вкладов,
вне зависимости от их величины,

это издание было бы невозможным.

Шнуренко, Иrорь
Ш 77 Демон внутри. Анатомия искусственного интеллекта. -
М.: Издательство «Наше завтра», 2021. - 512 с.

ISBN 978-5-6045084-5-9

Криптожурналист и исследователь искусственного интеллекта Игорь

Шнуренко, известный под псевдонимом Cyril Gilson, приглашает чита­
теля в анатомический театр, в котором вскрывает организм самой мощ­
ной и таинственной индустрии мира, представляющую собой огромную
пирамиду из материальных ресурсов, знаний и подневольного челове­
ческого труда.

Величайшее творение человека, искусственный интеллект, было созда­

но для того, чтобы привести людей к полной и безграничной свободе.
Однако, человечество оказалось в новом рабстве. Возможно, это рабство
еще более цинично и аморально чем то, что было в Древней Греции.
Как случилось, что интернет, который был придуман для того, чтобы
объединить народы, превратился в средство атомизации общества, сде­
лав нас всех эгоистами-одиночками?
Что такое искусственный интеллект и кто за ним стоит? Чего ждать
от технологий, которые вышли прямо из сериала "Черное зеркало"?
Чем кончится гонка, победа в которой даст мировое господство?
Как нам выжить в борьбе с демоном, которого мы сами и породили?

УДК 004.8+681.51.331.5
ББК 32.813.5+32.96

© Шнуренко И.А., 2020

Не всё, что считается, можно посчитать,
и не всё, что можно посчитать, считается.
Альберт Эйнштейн

То, что вообще может быть сказано, может

быть сказано ясно; о чем нельзя говорить,
о том следует молчать.

Людвиг Витгенштейн
СУЩЕСТВУЕТ ЛИ
-
ИСКУССТВЕННЬIИ
ИНТЕЛЛЕКТ?
Что такое искусственный интеллект и чего от него ждать? Уже
сегодня умные вещи пишут за нас, читают нас, развлекают

нас, думают за нас, решают за нас. Умные вещи слушают нас,

узнают нас, встречают и провожают нас, замеряют наш пульс,

наш восторг, нашу апатию, наш гнев, нашу радость, наше

горе. Они сбивают из наших эмоций своё компьютерное мас­

ло, чтобы сделать нашу жизнь удобной, счастливой и вечной.
Или, быть может, им дана задача залезть в нас, расколоть нас,
чтобы управлять нами изнутри? Мы не хотим об этом думать,
но в следующей войне умные вещи будут убивать нас.
Умные вещи, которым мы отдаем самое интимное, что
у нас есть, будут жить за нас, используя наш опыт для того,
чтобы однажды превзойти нас. Но будут ли они страдать
за нас, умирать за нас? В обмен на маску покорности матри­
ца даст вам вечную жизнь в виде записи на флешку- и со­
трет при этом ненужные ей воспоминания.
Учёные, политики, инженеры всё больше уверены, что
наука с приходом суперкомпьютеров изменилась. Для того,
чтобы узнать, что будет завтра, надо всего лишь загрузить
в машину все данные о сегодня, и она выдаст точное пред­

сказание ... Чтобы открыть природные взаимосвязи, не нуж­

ны больше интуиция, опыт, образование. Гений, не нужен!
Эйнштейн, Менделеев, Лейбниц - достаточно соединить
датчики с процессором, и результат прилетит вам на любое
устройство! Нажимать на кнопки мы считаем трудом и пред­
почитаем касание, но скоро и это покажется слишком боль­
шим усилием. Действительно ли, человека всё ещё можно на­
зывать разумным?
Насколько фрики в лабораториях продвинулись в изобре­
тении гаджетов, которые нас заменят? Сначала нас, а потом
их самих? Так называемая «пандемия» коронавируса пока­
зала, что если закрыть всё население планеты дома, заво­
ды, перешедшие на безлюдные технологии, не остановятся.
Дивному новому миру не требуются люди в таком количестве,

7
 ИГОРЬ ШНУРЕНКО

и мы уже видим, как нашу численность регулируют. Пока

мягко.

Погрузят ли нас всех в нирвану SG, где мы будем до одуре­

ния смотреть фильмы с полным погружением, а наша жизнь
будет становиться всё более виртуальной, пока, наконец, мы
не поменяемся с киногероями местами? Разрешит ли вам ро­
бот Виталий сидеть в джакузи с резиновой Зиной, или с пла­
стичным Паулем, пока он деловито убирает квартиру? Вам,
от которого ничего уже не зависит? Или, получив пропуск
на выход из умной квартиры, мы будем драться друг с дру­
гом за отбросы на умных свалках, надеясь на то, что про нас
просто забыли?
Как разворачивается гонка, победа в которой может дать
власть над миром - и что сегодня делать людям, чтобы вы­
жить? Неужели придется соединиться с компьютером в одну
кибернетическую систему, как предлагает Илон Маек, пре­
вратившись в придаток сверхразумной машины?
Отвечая на все перечисленные вопросы, я начал писать
эту книгу. Меня больше всего привлекала возможность по­
казать балет научных идей, догадок и прозрений, балет, в ко­
тором главные партии исполняют талантливые учёные: ма­
тематики, биологи, психологи, нейроученые, и, что очень
важно, философы. В процессе работы я обратил внимание
на хайп, который окружает развитие искусственного интел­
лекта. Цепляющие заголовки у одних вызывают эйфорию,
у других - страх. При этом, практически отсутствуют анализ
и изучение истории вопроса - а это необходимо для того,
чтобы человек, обладающий критическим мышлением, пра­
вильно оценил открывающиеся возможности, а также осо­

знал риски. Можно ли в столь важных вопросах опираться

на мифы, пропаганду заинтересованных структур или кон­
спирологию? Эта прорывная область знаний ещё только скла­
дывается, и вокруг многих концепций здесь идут ожесточён­
ные споры. Однако уже сейчас крайне важно понимать, как

8
 ДЕМОН ВНУТРИ

использовать системы ИИ во благо всего человечества, для

выхода людей на новые уровни творческих и когнитивных
способностей, а не для разъединения, массовой слежки и но­
вых способов убийств.
Когда мы слышим «искусственный интеллект» (или «ИИ»,
или «Искин» ), то чаще всего наше воображение рисует об­
раз из кино. Кто-то видит зловещий красный глаз Хала-9000
из фильма «Космическая одиссея 2001 года». Кто-то-краси­
вую девушку Аву из фильма Ех Machina. Ава выглядит чело­
веком, но для нас это такой же черный ящик, как Хал. Оба
сообразительнее человека, оба при этом могут сыграть в под­
давки, чтобы, усыпив наше доверие, нанести предательский
удар.

Программисты, читая эти строки, наверняка посмеивают­

ся. Им, и только им одним известно, что «искусственный ин­
теллект» - это всего лишь сложный алгоритм, код, програм­
ма работы нейросети. Все, что не объясняется математикой,
программисты считают мистикой, в том числе такие понятия,
как человеческое сознание или свобода воли. Они уверены,
что еще немного кода - и человек будет расколот окончатель­
но. Впрочем, вот уже несколько десятилетий программисты,
когнитивисты и коннективисты изучают нематоду, круглого

червя с мозгом всего в 800 нейронов (против почти ста мил­

лиардов нейронов у человека). Они так и не смогли предска­
зать, что этот тупица собирается делать в следующую секунду.
Для китайского инженера, который приходит в ангар
менять водяное охлаждение, ИИ сидит в железе бесконеч­
ных рядов сервера. Для домохозяйки Анестейши из Техаса
ИИ - это цилиндрик Алекса, который стоит в углу за трюмо.
«Привет, Алекса!» «Добрый вечер, Анестейша, ты проживешь
ещё 12 лет. Извини, я перепутала. 21». Для конголезского
мальчика Тьерри ИИ - это его работа в тесной клети на шах­
те оловянного рудника. Для самого богатого человека в мире
Джеффа Безоса ИИ - основа пищевой цепочки его бизнеса,

9
 ИГОРЬ ШНУРЕНКО

на которую работает и Тьерри, и китайские инженеры, и рус­

ские программисты, и сотни тысяч других людей, включая ту
самую техасскую домохозяйку.
Для профессора Иванова ИИ - это «глубокое машинное
обучение», «неокортекс», «восходящий подход». Его коллега,
доктор наук Петров, считает, что ИИ нам прислали прями­
ком из ЦРУ, как в свое время криптовалюту. На самом деле
ИИ - это изобретатель биткойна Сатоши Накамото, штатный
сотрудник ЦРУ по прозвищу Страшила. Теперь вся крипта­
валюта мира идет на покупку Страшиле некоторого количе­
ства ума. Страшила всё видит в цветах «Сбербанка», где все
сотрудники заменены роботами, а управляет ими йог си­
лою мысли. Йогом же управляют элиты, ведь ничто в мире
не происходит без тайной договоренности.
Профессор Сидоров считает, что никакого «искусственно­
го интеллекта» нет. Гагарин в космос летал и никакого искус­
ственного интеллекта не видал. Ни искусственного, ни есте­
ственного. Разума не существует, он игра рептилоидов, с ко­
торыми бесполезно, что бороться, что сотрудничать. Есть
дистанционный интеллект, говорит Сидоров. Захотел - вклю­
чил, захотел - выключил. Ум переместился с белка на песок,
от человека на кварц микросхемы. Человеческая мысль тя­
нется вроде сопли, если ее в одном месте прибыло, то в дру­
гом убыло. Мы уже не можем запомнить телефонные номера.
Как только они оказываются в памяти телефона, то самоуда­
ляются из головы. Как только информация стала общедо­
ступной - считайте, что ее нет. Она стала ничьей, и потому
подлежит приватизации, говорит Сидоров. Как и вся память
низших. У высших все по-другому, они могут нанять себе
профессиональную память.
Снова мы слышим голос профессора Иванова: «Нет ника­
кого естественного интеллекта, потому что человек ничем

не отличается от животного. Да, он крупнее крысы и мозг его

весит больше. Но нейросети скоро превзойдут его».

10
 ДЕМОН ВНУТРИ

Что произойдет тогда? Технократы верят в то, что смо­

гут всех цифровизовать и, в конце концов, записать каждо­
го на электронный носитель. Те, кто побогаче, смогут ино­
гда выгружаться «в реал», чтобы размять ноги. Для них будут
созданы особые миры наподобие того, что показан в сериа­
ле «Мир Дикого Запада» - из настоящих ингредиентов. Вы
не отличите андроида от человека. Следующий этап - само­
замкнутые вселенные, которые будут возникать и умирать
без шума и пыли при помощи алгоритма. В таком вирту­
альном, но очень реальном мире можно будет смело делать
мертвую петлю на фанерном самолете. Разобьетесь- не беда,
искусственный интеллект новых нарожает. И даже Тот Свет
создаст, с адом и раем- игра есть игра. С волшебным стоп­
словом, чтобы выйти. Или без него - неважно, ведь ваша ко­
пия будет храниться вечно.
В этом месте мне захотелось написать: и тут я проснулся.
А безумные профессора растворились в тонком воздухе, как
обитатели заколдованного острова в «Буре» у Шекспира.
Они действительно растворились, но над тем, что они
сказали, стоило бы поразмыслить - точно так же красавице
Миранде стоило бы прокрутить в голове все, что приключи­
лось с ней на острове волшебника Просперо. И не слишком
доверять ни злобному Калибану, ни той гоп-компании, кото­
рую пожелал спасти от смерти ее отец.

Я думаю, что будущее не предопределено, и те, кто пред­

лагает нам тот или иной его вариант под девизом «другого
пути нет», хотят навязать нам свое видение. Те, кто говорит,
что машина будет править миром и человечеству остается
лишь обсудить условия капитуляции, хотят, чтобы это стало
самосбывающимся пророчеством.
Как они собираются лишить человека воли к действию,
хорошо показал коронавирус. Прежде всего, для этого нуж­
но разъединить людей, сделать так, чтобы они утратили сам
мотив к коммуникации. Затем нужно сделать так, чтобы

11
 ИГОРЬ ШНУРЕНКО

действительно важные вещи людей не заботили. Может быть,

для этого и была создана так называемая «экономика внима­
ния»: ведь, погруженный в приватизированный виртуальный
мир, где его покупают и продают прямо в тот момент, ко­

гда он потребляет «контент», человек ничего не будет делать.

Его внимание расфокусировано, он находится не в со-зна­
нии, а в возле-знании - то есть, его критическое мышле­

ние отключено. Человек перестает думать о реальной жиз­

ни, о своем собственном завтрашнем дне, который он иначе
мог бы изменить, о своей семье, об обществе, в котором жи­
вет. Я все жду, когда у совершенного потребителя «экономики
внимания» начнёт расти шерсть, как у бедняков, высланных
на Дурацкий Остров в пророческом романе Николая Носова
«Незнайка на Луне».
Мы находимся в начале эпохи, где то, что называют сего­
дня «искусственным интеллектом», будет играть ключевую
роль. Например, на наших глазах «наука о данных» выжи­
гает то, что еще осталось от великой европейской науки. Это
произошло незаметно - ведь «старый добрый искусственный
интеллект» ХХ века ещё основывался на математической ло­
гике. Сегодня эти подходы практически полностью заменены
вероятностными и статистическими моделями. Эти модели
оказались успешными - например, в компьютерном зрении

или в имитации человеческого языка, - поэтому технокра­

ты стали думать, что могут всё. Теперь можно упразднить

все классические науки, начиная с физики. Как? Например,
мы хотим предсказать, что произойдет в следующую секун­
ду за окном. Раньше мы должны были применять множество
теорий, от гравитации до квантовой механики. Теперь до­
статочно записать множество видео о том, что происходит

за окном, скормить их суперкомпьютеру и сделать комплекс­

ный статистический анализ. Получится предсказание гораз­

до лучшего качества, чем то, что сделали бы физики! Значит,
институты физики пора закрывать.

12
 ДЕМОН ВНУТРИ

Так можно поступить с каждой наукой - хотя жрецы­

технократы скажуг, что оставят по нескольку человек в каждой
обласrи на развод, чтобы было кому скармливать машине данные.
Что же делать? Каждый год в англоязычных странах снима­
ют десятки, если не сотни футуристических фильмов и теле­
сериалов. В них будущее показано страшным, привлекатель­
ным, диким, завораживающим, райским, адским, абсурдным,
нелепым, смешным. Чаще страшным. Люди вписываются
в эти антиутопии или выпадают из них. Чаще выпадают.
В фокусе этих произведений оказываются разнообразные
идеи, изобретения и технологии - и моделируется реакция
на них отдельных людей и общества. Вспомним, хотя бы, се­
риал «Черное зеркало», где в каждой серии обыгрывается
то или иное технологическое достижение, и показана его

обратная сторона. Мы понимаем, что за технологический

прогресс надо платить. Комфорт требует полного подчине­
ния бездушной системе. Удобства оборачиваются расчело­
вечиванием. Перекладывание ответственности на гаджет
приводит к появлению монстров. Выявляя болевые точки,
часто этим и ограничиваются. В произведениях массовой
культуры все проблемы решаются сверхчеловеком, который
одерживает верх в самой безвыходной ситуации. Так массо­
вое сознание получает дозу транквилизатора. Все под кон­
тролем, капитан Америка все разрулит.
Массовая аудитория уже давно включает в себя и «креа­
тивный класс», который точно так же подвержен циклам воз­
буждения и успокоения. Этим классом управлять, пожалуй,
даже легче, чем простыми работягами, потому что креаклы
податливей к атакам символами. Так и образованные классы,
и массы потихоньку привыкают шокирующему и совершенно

бесчеловечному миру, в который нас ведут крупные корпо­

рации и правительства.

Конечно, на английском есть и книги с глубоким анализом

происходящего, где многие вещи называют своими именами.

13
 ИГОРЬ ШНУРЕНКО

Эти книги не раскручивают так, как массовую литературу:

их функция прежде всего в настройке обратной связи систе­
мы. Без обратной связи не бывает управления. Бенефициары
системы хотят знать тонкие места, хотят понимать, где может

порваться или рвануть, и хотят к этому подготовиться. Таким

образом, для самых внимательных, для наименее подвер­
женных воздействию масскульта, для тех, кто дает себе труд
вникнуть в проблему, появляется возможность что-то понять
и осознать.

Увы, Россия, страна, пославшая в космос первого человека,

перестала задумываться о будущем. Она живет на безумном
контрасте цифровизации и суеверий, невежества и быстро­
го технологического прогресса, веры в компьютеры и упад­

ка критического мышления. Страна открыта самым новым,

самым смелым технологиям, одна из первых применяет

их на практике: будь то бесконтактные банковские опера­

ции, криптовалюты, распознавание лиц, социальный мони­
торинг, дистанционное обучение, системы тотальной слежки
и так далее. При этом, в обществе не происходит осмысления
или даже обсуждения проблем, которые несут эти технологии.
По этим темам в России не производят фильмы, практиче­
ски не пишут книги. Зачем? Мы не метрополия, а колония.
Англоязычные произведения массовой культуры полностью
контролируют наши мысли и наши страхи, напрямую или че­

рез локальные адаптации.

Правительство активно навязывает обществу, народу, биз­

несу, повестку цифровизации как некую кампанию, на кото­
рой крупным игрокам можно заработать, а остальным при­
дется с этим смириться. При этом, облики грядущего исправ­
но поставляются нам Голливудом. Культурная провинция
станет и цифровой провинцией, ценной лишь поставками
новой нефти - человеческого поведения марки Urals.
Технократы считают, что нельзя упускать прибыли от но­
вых технологий, а будущее, которое они несут, простых

14
 ДЕМОН ВНУТРИ

людей интересовать не должно: кто-то в Силиконовой доли­

не уже подумал над этим. При этом наш общественный идеал
фантастическим образом лежит в глубоком прошлом, в дво­
рянско-купеческом раю, в придворных интригах в камзо­

лах XVIII века, в Нарышкиных, Голицыных и в эпохе Алексея

Михайловича.
Не в силах совладать с настоящим, мы не думаем о буду­
щем. Массовому сознанию нельзя давать время на размыш­
ления, оно не должно выходить из состояния шока, поэтому

создается атмосфера непрекращающегося скандала, эйфо­

рии, а с недавних пор и катастрофы. Ковид облегчил задачу:
индустрия гостеприимства рухнула, зато производство исте­

рии и страха выдвинулось на первое место. С запуганными

людьми можно делать что угодно, и абсурдные распоряже­
ния в сочетании с системами цифрового контроля позволяют
технократам форматировать сознание. Прежде всего, стира­
ются личности детей и подростков, на них пишут, как на чи­
стых листах бумаги. Так рождается будущее, в котором, как
проговариваются некоторые технократы, уже не должно быть
человека.

Эта книга родилась как ответ на запрос многих, которые

хотели бы разобраться, что находится внутри «чёрного ящи­
ка» - ящика Пандоры новых технологий. Вы увидите, что
за индустрией искусственного интеллекта стоит целая пира­
мида материальных ресурсов, знаний и человеческого тру­
да. Я постарался сделать изложение доступным не только для
«гиков» или «технарей», поэтому сложные концепции пояс­
няются на простых примерах, представляются через пара­

доксы, мысленные эксперименты и метафоры, которыми,

в сущности, являются все научные понятия.

Книга ни в коей мере не претендует на полноту охвата

темы. Она была написана еще до ковида, который резко уско­
рил развитие человечества. Во время карантина 2020 года
я написал продолжение этой книги, где подробно разбираю

15
 ИГОРЬ ШНУРЕНКО

социальные и антропологические последствия масштабного

появления систем искусственного интеллекта в повседнев­

ной жизни. Эта книга называется «Человек взломанный»

и выйдет после «Демона внутри». Речь в ней пойдет о новой
сущности, которая своими чертами напоминает государ­

ство - о глобальном Цифровом Левиафане, а также о соци­

альной и человеческой сингулярностях, ждущих нас впереди.
Но и второй книги оказалось недостаточно, чтобы пока­
зать, как родилась новая реальность цифрового Левиафана
и роевого сознания, идущего на смену личности, утрачен­

ной «человеком взломанным». Поэтому сейчас я работаю

над третьей книгой серии, в которой подробно остановлюсь
на истории искусственного интеллекта как понятия и прак­

тики. Двигаясь во времени, мы увидим, как наука перешла

от дешифровки мира к дешифровке человека. Рассматривая
машину как своё расширение, человек стал с двойным усер­
дием штурмовать природу- и не заметил, как изменился

сам. В последние годы успехи в техническом воплощении

систем ИИ связываются прежде всего с учеными из США
и Великобритании, поэтому принято показывать развитие
отрасли с их точки зрения. При этом игнорируются достиже­
ния ученых из Германии, России, Польши, Финляндии и дру­
гих стран. Я постарался восполнить этот пробел.
История исследования человеческого разума и его двой­
ника, разума искусственного сопряжена с захватывающими

эпизодами, драматической схваткой идей и личностей, кото­

рая продолжается и поныне. Отправляясь в мысленное путе­
шествие с целью понять, что такое «искусственный интел­
лект», давайте уговоримся на полную катушку использовать
интеллект естественный.
Может быть, в процессе мы узнаем кое-что и о нём.

Игорь Шнуренко, сентябрь 2020

 ....,
ВЕЛИКИИ ПЕРЕЛОМ
В США дипломированные врачи-дерматологи не могут
определить рак кожи в 13 процентах случаев - а вот ис­
кусственный интеллект делает ошибки в три раза реже.
Внимание, вопрос: сколько дерматологов останется в про­
фессии через пять лет?
Если в Дании вы вызываете скорую помощь, искусствен­
ный интеллект анализирует ваш голос и фоновый шум, что­
бы проверить, нет ли у вас сердечного приступа.
За последние пять лет в пять раз в США выросла доля ра­
бочих мест, связанных с ИИ. Машины могут лишить работы
банковских клерков и специалистов по логистике, перевод­
чиков и юристов, врачей и таксистов - зато все более вос­
требована профессия хакера.
Хороший хакер умеет работать с искусственным интел­
лектом, и ваши пароли для него - что орешки для белки.
Но помощь идет. Топ-менеджер компании Microsoft Трой
Хант создал сайт, который - с помощью искусственного
интеллекта, естественно - ищет, нет ли на сотнях страниц,

подвергшихся в последнее время взломам, данных, скачан­

ных с вашей электронной почты.

В китайском городе Ханьчжоу, недалеко от Шанхая, на тер­

ритории школы установили камеры с искусственным интел­

лектом. Он отслеживает детей по лицам, проверяя эмоцио­

нальное состояние каждого ребенка и уровень его внима­
ния. Система следит за тем, что конкретно делает ребенок,

19
 ИГОРЬ ШНУРЕНКО

пишет ли он, читает ли, конспектирует или тупо смотрит

перед собой. С кем он общается и как долго, с каким выра­

жением лица смотрит на учителя и директора. Если ребе­
нок начинает отвлекаться и думать о постороннем, система

посылает сигнал учителю, который обязан проверить, в чем

дело и принять меры.

В Соединенных Штатах клиенты системы с искусственным

интеллектом Amazon Echo жалуются на то, что машина
дразнит их самым бесстыдным образом. Порой «Эхо» из­
девательски отвечает на вопросы и может с утра порань­

ше прислать вам список ближайших кладбищ и похоронных

бюро.

В Великобритании клиенты этой же системы, напротив,

очень довольны. Они уверяют, что от общения с «Эхом»
успокаиваются и расслабляются, словно после курса психо­
терапии. Люди охотно исповедуются 15-сантиметровому
цилиндрику, выкладывая свои сны и тайны - то, что они
скрывали даже от близких. Цилиндрик передает их исто­
рии на сервер в Ирландии, куда поступают такие же истории
из множества других мест. Искусственный интеллект срав­
нивает их, делает выводы, чтобы учиться, учиться, учиться.

Социальная сеть Фейсбук просматривает каждое фото, вы­

ложенное каждым пользователем, и ее искусственный ин­
теллект определяет, кто изображен на снимке и нет ли в нем
чего запрещенного. Внешность людей меняется со време­
нем, поэтому недавно был организован флешмоб, в ходе ко­
торого пользователи выкладывали свои фото сейчас и де­
сять лет назад. Так ИИ Фейсбука бесплатно получил много
данных для дальнейшего обучения.
Министр по искусственному интеллекту Объединенных
Арабских Эмиратов Омар Султан аль-Олама объявил

20
 ДЕМОН ВНУТРИ

о покупке в Поднебесной первого арабоязычного кибер­

ведущего. Интернет-поисковик «Согоу» уже изготовил
по заказу китайского государственного агентства новостей
«Синьхуа» несколько телеведущих, которые работают 24
часа в сутки 7 дней в неделю и провели уже тысячи новост­
ных репортажей.

БУДУЩЕЕ ПРИХОДИТ ВСЕ БЫСТРЕЕ

С 2018 по 2025 год рынок систем с искусственным интел­

лектом вырастет, по прогнозам, примерно в тридцать раз.

Последняя пара лет стала прорывной в целом спектре об­

ластей. В первую очередь это автомобильная отрасль, где
ИИ берет на себя не только управление машиной, но и без­
опасностью, досугом и даже эмоциональным состоянием

пассажиров. ИИ скоро будет не только выполнять указания,

но и отвечать на вопрос «почему». Он, точнее, оно, то есть
она - например, робот Софья - объяснит потребителям, что
стоит за тем или иным решением. Потребителям, которые
ни на что повлиять не смогут, останется только верить.

Ценообразование станет динамическим и будет зависеть

не только от общего спроса и предложения, но и от запросов
и даже эмоций конкретного потребителя. Каждому- свое,
и цена своя.

О том, чтобы вызвать эмоции, благоприятные для совер­

шения покупки, позаботятся чатботы и помощники типа
Сири. Они станут психологами, а где-то и психиатрами.
ИИ будет вездесущим, как вода и воздух, а компании,
которые не нанесли хотя бы тонкий слой ИИ на поверх­
ность своего продукта, заведомо проиграют в конкурент­

ной борьбе.
Тренд уже привел к увеличению спроса на сырье, элек­
троэнергию и другие ресурсы. Резко вырос спрос на медь,

21
 ИГОРЬ ШНУРЕНКО

никель, литий и многие редкоземельные металлы: ведь

на этих элементах держится производство «умных домов»

и электромобилей. Везде в них работают системы с искус­

ственным интеллектом.

Выпуск только двух продуктов компании Amazon - пер­

сонального помощника Алекса и термостата Nest - потребу­
ет к 2030 году полутора миллионов тонн меди. Сейчас Nest
и Алекса потребляют всего 38 тысяч тонн меди - то есть
производство этого металла придется нарастить в 35 раз!
Электромобили потребуют резкого увеличения выпуска
никеля и лития, в связи с чем компания Tesla скупает доли
в горнодобывающих предприятиях, в частности в Австралии
и в США. Илон Маек хотел бы, но пока не может отказаться
от закупок кобальта в Конго, где на шахтах работают дети.
В следующей главе мы разберем, каким образом вполне
себе земные ресурсы - металлы, электричество, даже ма­
зут, а также ручной, полурабский человеческий труд - лежат
в основе «экономики знаний», ИИ-бума, «бирюзовых техно­
логий» и так далее.
Так или иначе, будущее приходит с каждым годом все бы­
стрее. Системы, связанные с ИИ, уже входят в повседнев­
ную жизнь, пусть не всегда это еще заметно. А они и не обе­
щали громко стучать в барабаны, предупреждая о своем
появлении.

Если совсем недавно говорили об экономике внимания,

то сейчас появился термин «экономика эмоций». Большой
шаг вперед, как и предсказывалось, совершили систе­

мы, связанные с распознаванием лиц. Они уже считывают

с лиц ваши эмоции. А помощники типа Алексы от Amazon
или Сири от Apple, как никто, умеют слушать. Они распозна­
ют не только что именно сказано, каким тоном, но и анали­

зируют какое эмоциональное и душевное состояние за этим

стоит. Корпорации уже патентуют методы маркетинга, по­

строенные на эмоциональных данных.

22
 ДЕМОН ВНУТРИ

Все это было предсказано лет семьдесят назад. В следую­

щих главах мы разберем идеи тех людей, которые работа­
ли над созданием искусственного интеллекта в те не столь

уж давние времена, когда в Великобритании гомосексуали­

стов подвергали принудительной кастрации - мучительной,
химической- а в Соединенных Штатах чернокожих не про­
сто линчевали, а открыто продавали фото повешенных и ча­
сти их тел как сувениры. Линчевание считалось способом
борьбы с сексуальными домогательствами - примерно как
сейчас, только сегодня повешение заменили полосканием
в СМИ и трепом в соцсетях. Гении маркетинга когда-то мо­
нетизировали суд Линча с той же сметкой, с какой теперь
они монетизируют наши эмоции. Когда думаешь о том, что
порой творят люди, власть искусственного сверхразума
не кажется таким уж злом, правда?
Алана Тьюринга интересовало, как скоро машины начнут
мыслить. Джон фон Нейман размышлял над тем, как и когда
они смогут размножаться. Клод Шеннон пытался оценить
срок, в течение которого машины смогут наладить надеж­

ную коммуникацию вне зависимости от уровня шума.

Норберт Винер задавал вопрос, сколько у машин уйдет

времени на то, чтобы установить свой контроль над нами.

ЗАГАДКА INTELLECTUS

С самого начала у нас как-то не заладилось с определени­

ем искусственного интеллекта. Не кажется ли вам, что нам
просто дурят башку? И пытаются ли нами манипулировать,
повторяя этот термин на каждом шагу? Если раньше счита­
лось, что «искусственный» уступает «естественному», то те­
перь техношовинисты убеждают нас в обратном: дескать,
техника не только сильнее, но и умнее человека. В СМИ мы
все больше читаем о том, как умнеют дома и как глупеют

23
 ИГОРЬ ШНУРЕНКО

люди, но надо понимать, что ключевые СМИ находятся в ру­

ках горстки олигархов. Например, одна из самых влиятель­
ных американских газет «Вашингтон пост» принадлежит
владельцу Amazon Джеффу Безосу. Она задает повестку дня
для сотен других изданий. Вы думаете, что газета человека,
который владеет крупнейшим сервисом по предоставлению
услуг искусственного интеллекта, будет освещать эту тему
в критичном ключе?
Давайте сделаем вторую попытку разобраться
с определениями.

В одном словаре я наткнулся на такое: «искусственный

интеллект» - это область знаний и технологий, которые
позволяют вычислительным системам действовать так,
что это напоминает поведение человека, или «разумное по­
ведение». То, что мы знаем о поведении человека, не вну­
шает особого оптимизма; разумным его назовешь далеко
не всегда. Люди часто необъяснимым образом делают вещи
во вред себе, например, голосуют за партии, которые раз
за разом обдирают их как липку. В любом случае, мы еще
слишком мало знаем о мозге или о познавательном аппа­

рате живых организмов, чтобы сравнивать так называемые

«искусственные» системы с так называемыми «естествен­

ными». В одной из следующих глав мы покажем, насколько

зыбки и противоречивы эти понятия и как легко их можно
менять местами.

Стоит, пожалуй, применить другой подход, характер­

ный для человека разумного: раздробить большую про­
блему на более мелкие и решать их по частям. Давайте так
и поступим, но сначала разберемся с тем, что такое вообще
«интеллект».

Слово «интеллект» происходит от латинского intellec-

tus - «восприятие», «разумение», «понимание» или «ум».

Это качество психики, дающее нам способности к позна­

нию мира и решению проблем. Среди них: способность

24
 ДЕМОН ВНУТРИ

приспосабливаться к новым ситуациям, способность к об­

учению со стороны, способность к запоминанию на основе
собственного опыта, способность к пониманию и примене­
нию на практике абстрактных концепций и использование
своих знаний для управления окружающей средой. Это если
совсем вкратце.

Мы наговорили на полтома философского словаря, но об­

щая идея, полагаю, ясна. «Интеллект» объединяет все спосо­
бы восприятия, которыми мы познаем мир. Это, во-первых,
все пять органов чувств (обоняние, осязание, слух, зрение,
вкус), плюс шестое чувство, как иногда называют нашу спо­
собность ощущать свой собственный организм единым це­
лым. Плюс память, плюс представление, плюс воображение,
плюс мышление, а также стоит добавить внимание, волю
и рефлексию. Представляете - если все это есть в «естествен­
ном» интеллекте - то как много задач стоит перед теми, кто

собирается воспроизвести все эти способности в машине?

Но и это еще не все. Важное свойство интеллекта - это
ставить задачи, планировать ресурсы и строить стратегии

для достижения целей. Например, дробить задачу на кусоч­

ки и решать ее по частям - как это делаем мы сейчас, пыта­
ясь совладать со всеми определениями.

Стоит отметить, что «естественный», или «биологи­

ческий» интеллект не обязательно относится к челове­
ку: этими качествами обладают и некоторые животные.
Собственно говоря, без такого «ума» была бы невозможна
эволюция, в этом смысле интеллект можно считать частью

естественной истории. Получается, в нынешнем развитии

интеллекта «искусственного», что бы под этим не понима­
лось, тоже есть рука эволюции?
Изучением интеллекта животных занимается целая на­
ука- когнитивная этология. Наработки этолоrов вовсю при­
меняются в глубоком обучении, и думается, что в ближай­
шие годы роль этой науки будет только расти.

25
 ИГОРЬ ШНУРЕНКО

Есть еще определение интеллекта исходя из теории ин­

формации: это способность воспринимать или, наоборот,
передавать информацию и держать ее в виде знаний, что­
бы учитывать их, меняя свое поведение. Такой способно­
стью обладает «агент интеллекта», который и будет его при­
менять. Если при слове «агент» у вас возникла ассоциация
с разведывательными службами, то не отбрасывайте ее: это
верный ход мысли. Информационный «агент интеллекта»
выполняет, по сути, ту же роль, что и шпион: он добывает
ценную информацию, которая может повлиять на принятие
важных решений, и он существует не в полной изоляции,
а в некоем окружении.

Можно дополнять определение «интеллекта» с точки зре­

ния психологии, кибернетики, эпистемологии, программи­
рования, биологии, нейробиологии, химии, физики, нейро­
физики, социологии и даже теологии. Каждое уточнение бу­
дет все ближе подводить нас к цели, при этом - что, может
быть, самое интересное - все ближе к «естественному» и все
дальше от «искусственного».

Известный автор Ник Бастром определяет интел­

лект как алгоритм, реализуемый на физическом уров­
не. Искусственный интеллект - это интеллект, созданный
не в естественной среде, пишет ученый. Далее, по мере раз­
вития способностей «искусственного интеллекта» Бастром
добавляет ему все новые «степени». Когда ИИ овладеет
умом, интуицией, пониманием, всеми видами восприятия,
воображения, познания и мышления, о которых мы гово­
рили, то он становится, по выражению Бострома, «интел­
лектом человеческого уровня». Когда ИИ превзойдет и этот
уровень, то можно будет говорить об «искусственном супер­
интеллекте», или Сверхразуме.
Бастром мерит интеллект машины в «человеках»,
при этом обходит вопрос о том, что же это за мера та­
кая. Это теплокровное млекопитающее, живородящее

26
 ДЕМОН ВНУТРИ

и позвоночное, дышащее легкими, двуполое ... возможно,

двуполое? Это социальное животное, или это политическое

животное, или это животное, не укладывающееся ни в одну

из классификаций?
Если же говорить о неизменных свойствах челове­
ка, то это уже не два пола, да и другие биологические ха­
рактеристики с течением времени также могут изменить­

ся. Человек захотел взять в свои руки собственную эволю­

цию, а если ему что-то втемяшится в голову, то своего он

добьется.
Существует философский парадокс, известный под на­
званием «Корабль Тесел». Афинский герой Тесей совершил
много подвигов, в том числе убил Минотавра, избавив свой
город от выплаты чудовищной дани. В благодарность афи­
няне сохранили его корабль, который считался священ­
ным. По мере того как доски корабля приходили в негод­
ность, их заменяли новыми, пока, наконец, в теле корабля
не осталось ни одной изначальной доски. Тот ли это корабль
или уже новый? - стали спрашивать друг друга философы.
Наиболее авторитетно высказался на эту тему Аристотель.
По его мнению, у любой вещи есть форма, материал и суть.
Полностью заменив износившийся материал, мы не изме­
нили суть, поэтому корабль остался тем же.
Точно так же определять человека его биологией скоро
будет лишено всякого смысла. У него сначала появятся ис­
кусственные органы, а со временем, вероятно, и весь «ма­

териал», из которого сделан человек, будет заменен более

надежным. Означает ли это, что человек превратится прин­
ципиально во что-то другое? Аристотель бы ответил на этот
вопрос «нет»: человек останется человеком.

Но какие характеристики человека можно считать доста­

точными для того, чтобы дать ему определение? В случае
с тем же кораблем Тесел, его ведь можно считать другим
без всякой смены досок - просто потому, например, что он

27
 ИГОРЬ ШНУРЕНКО

изменил положение в пространстве. Как бы абсурдно это

ни звучало, данный парадокс представляет серьезную про­
блему в машинном обучении того самого «искусственного
интеллекта», который мы хотим определить. Как мы пока­
жем дальше, многие системы машинного обучения действи­
тельно воспринимают переместившийся «корабль Тесея»
как совершенно новый объект, что создает большую пута­
ницу. Только недавно в обучении нейросетей случился каче­
ственный скачок, который позволил решить эту проблему.
Допустим еще, что мы извлекли по одному и заменили
на улучшенные образцы все органы человека. Старые орга­
ны мы заморозили, и через пятьсот лет наука нашла способ
их вылечить и сделать как новыми. Если мы соберем из этих
органов новое тело, будет ли оно тем самым человеком, ко­
торого мы разобрали? Скорее всего, мы бы ответили «нет»,
ибо в этом наборе Лего нет «сути» - или души.
Но что же такое эта суть? Что такое человек, как опреде­
лить его? Может быть, это воля к власти, как считал Ницше?
Это качество, пожалуй, машина вполне может перенять.
Но человек больше власти.
Может быть, это жажда бессмертия и полного и оконча­
тельного торжества справедливости? Ведь на этом основа­
ны, так или иначе, все религии, а религиозность куда древ­

нее вашей пирамиды Маслоу. Древние люди не поняли бы

предписания Маслоу о том, что прежде чем подумать о бо­
гах, они должны удовлетворить свои низменные потреб­
ности. Наверное, они бы их удовлетворили, съев самого
Маслоу, или сделав его, в опровержение его точки зрения,
сакральной жертвой.
Может быть, человек - это ненасытность, как тела, так
и духа? Ведь даже бессмертия нам мало: мы жаждем вос­
крешения мертвых, и это наверняка только начало! Как
мы будем смеяться над теми, кто провозгласит бессмер­
тие финалом человеческой истории - да мы готовы

28
 ДЕМОН ВНУТРИ

будем снова убивать, лишь бы иметь возможность мечтать

о чем-то большем!
Мечтать ... уснуть - и видеть сны? Но - «какие сны в том
смертном сне приснятся, когда покров земного чувства

снят»?
Может быть человек - это вечная неудовлетворенность,
вечная несогласованность мечтаний друг с другом и между
другими? Мы всегда хотим большего, даже не зная, как мо­
жем это назвать, хватит ли у нас для этого слов и языков.

Мы всегда хотим большего - сказав это, остановимся.

ОБЪЕДИНЕННЫЙ РАЗУМ И ПАРАДОКС МОРАВЕКА

В сентябре 1930 года в Кёнигсберге (нынешний

Калининград) проходил, быть может, самый важный ма­
тематический конгресс ХХ века. На нем выступил очень
мнительный и застенчивый молодой человек, 24-лет­
ний австрийский математик Карл Гёдель. Его выступле­
ние повергло в шок собравшихся там светил мировой на­
уки. На их глазах Гёдель опроверг тогдашнего математи­
ка номер один, уроженца Кёнигсберга Давида Гильберта.
Поразительно, но будучи немцем, гражданином Третьего
Рейха, он стал почетным академиком Академии Наук СССР.
Гильберт верил в могущество человеческого разума. Ему
принадлежит фраза «Wir mi.issen wissen. Wir werden wissen» -
«Мы должны знать - мы будем знать» - эти слова высече­
ны на его надгробии в Гёттингене. Как и нынешние фана­
ты прогресса, которые считают, что любая проблема в мире
может быть решена при помощи соответствующей техно­
логии, Гильберт был научным оптимистом. Он верил в то,
что в принципе можно решить любую математическую
проблему. Более того, он брался доказать, что любой не­
противоречивый математический объект может считаться

29
 ИГОРЬ ШНУРЕНКО

существующим, даже если он не является плодом челове­

ческой интуиции или никак не связан с реальным миром.

Чем вам, кстати, не обоснование любых будущих плодов
развития «искусственного интеллекта» - если под послед­

ним понимать математический алгоритм?

Гильберт вообще верил в человека и его неограниченные
возможности к познанию. Верил он в мир и международное
сотрудничество. Во время Первой мировой войны он отка­
зался подписать манифест в поддержку действий герман­
ских войск, который одобрили такие крупные ученые, как
Макс Планк и Вильгельм Рентген. Годы войны Гильберт про­
вел в Гёттингене. Нацистские ученые провозгласили свобо­
ду науки от «еврейского влияния». Немецкая математика
отвергла теорию множеств - возможно, из-за использова­

ния в ней неарийских символов, а сторонники интуиции

в науке, которых когда-то Гильберт высмеивал, образова­
ли «Немецкое математическое общество» и были в фаворе
у главы Имперского научно-исследовательского совета пар­
тайгеноссе Геринга.
Имперский министр науки, воспитания и народного об­
разования Бернхардт Руст как-то спросил у Гильберта: «Ну
как математика в Гёттингене, после того как она освободи­
лась от еврейского влияния»? Гильберт ответил язвительно,
но иронию могли распознать только те, кто разбирался в его
трудах. «Математика в Гёттингене- ее больше нет», ответил
он, намекая на то, что она утратила внутреннюю непротиво­

речивость, а следовательно и смысл.

Гильберт был представителем той подлинно международ­

ной научной школы, среди представителей которой мож­
но назвать таких гениев, как Нильс Бор, Альберт Эйнштейн,
Петр Капица, к которой, конечно же, относился и умерший
не так давно академик Жорес Алферов. Для этих настоящих
«сверхумов» цель науки заключалась не в наживе, контроле

или власти, а в объединении человечества и максимальном

30
 ДЕМОН ВНуТРИ

развитии способностей каждого человека. Я убежден, что

только следуя этим установкам коллективного разума, о ко­

тором мы поговорим в отдельной главе, человечество мо­

жет выжить. Только гуманизировав так называемый «искус­
ственный разум» как часть нашего коллективного разума,
мы сможем избежать «враждебного поглощения» и двинуть­
ся дальше.

Вернемся в Кёнигсберг 1930 года. Конгресс должен был

стать триумфом Гильберта, который думал, что сумел обос­
новать всю математику, то есть при помощи логики пока­

зать, что вся она непротиворечиво строится на некотором

числе аксиом. Аксиома - это положение, не требующее до­

казательств, интуитивно ясное. На фундаменте из несколь­
ких аксиом греки возвели внушительное и красивое здание

геометрии - некоторые из теорем вы, может быть, до сих

пор помните. Это совершенство с древних времен вдохнов­
ляло ученых, и не только математиков - каждая наука стре­

милась создать что-то столь же прекрасное, как греческая

геометрия. Гильберт, как ему казалось, показал, что если

на основе аксиом можно выстроить арифметику целых чи­
сел, то удастся логически свести к ним вообще всю матема­
тику. Именно по этой идее Гильберта и нанес сокрушитель­
ный удар юный гость из Австрии.
Следующий абзац можете прочесть по диагонали и, если
непонятно, следуйте дальше-но имейте в виду, что в од­
ной из глав книги довольно подробно разбирается поня­
тие рекурсии, которое имеет очень важное значение для

понимания интеллекта вообще, как «искусственного», так

и натурального.

Итак, в двух своих «теоремах неполноты» Гёдель рассмо­

трел внутренне непротиворечивые рекурсивные аксио­

матические системы, достаточно мощные, чтобы описать

арифметику натуральных чисел. Такой системой, кстати,
можно считать и интеллект. Так вот, математик доказал, что

31
 ИГОРЬ ШНУРЕНКО

для таких систем найдутся утверждения, истинность кото­

рых невозможно доказать, исходя из имеющихся в системе

аксиом. Первая теорема гласит, что для любой такой систе­

мы всегда будет существовать истинное утверждение, ко­
торое невозможно ни доказать, ни опровергнуть изнутри

системы. Согласно второй теореме, система не может сама

продемонстрировать свою непротиворечивость - то есть,

исходя из системы, нельзя вывести формулу ее собствен­

ной непротиворечивости.
Теоремы Гёделя хорошо объясняют живучесть конспи­
рологических истин. Ни одна из них не была решитель­
но подтверждена или опровергнута. Недавно все стали
писать о том, что Гитлер не отравился в бункере, а сбе­
жал в Аргентину и умер чуть ли не в дни распада «Битлз».
Есть и подробности, и доказательства: кто-то уверяет, что
видел Гитлера в кафе в Буэнос-Айресе, тот, конечно, был
без усов - сбрил для конспирации, носил пенсне и гово­
рил по-испански Эти австрияки, черти, способные к язы­
кам. Если не Гитлер, то кто? Его вывезли на подводной
лодке Кригсмарине и поначалу разместили на асиенде
Сан-Раман, к востоку от Сан-Карлос де Барилоке. А потом
он переехал почти к самой чилийской границе, ну, знае­
те, у озера Науэль Хуапи. Посмотрите сами, если не ве­
рите. Все точно и доподлинно и подтверждено независи­
мым журналистом Джерардом Уильямсом, который учился
в Кембридже. Или в Оксфорде. В любом случае его книжку
продает Amazon, и это было в новостях на «Первом», не ве­
рить этому нельзя.

Внутри системы аксиом, в которой выпускник Оксбриджа

говорит только правду, а Сталин лично убил 30 миллио­
нов человек, любые споры бесполезны. Как можно отри­
цать «факт», о котором писала вся желтая пресса, только
на том основании, что об этом писала желтая пресса? Во­
первых, сегодня трудно провести границу между прессой

32
 ДЕМОН ВНУТРИ

желтой и прессой других цветов. И если «Нью-Йорк Тайме»

не пишет ничего на тему «Гитлер в Аргентине», это ни о чем
не говорит. Изнутри конспирологической системы ни дока­
зать, ни опровергнуть ее «факты» невозможно.
Точно так же любой истинный факт можно объявить кон­
спирологией- и сделать это без каких-либо доказательств.
На этом приеме часто строится манипуляция массовым
сознанием. Можно сказать, что Джулиан Ассанж - агент
ФСБ, и этот факт будет невозможно до конца ни доказать,
ни опровергнуть. Ведь Ассанжа обвиняли в сексуальных до­
могательствах - почему бы ему не быть агентом? А еще он
знаком с Исраэлем Шамиром, что точно выдает в нем аген­
та российских, а может быть, кубинских или северокорей­
ских спецслужб. Таким образом на Ассанджа брошена тень
или хотя бы полутень, что, собственно, и нужно манипуля­
торам: теперь вы будете ставить под сомнения правдивость
самых твердокаменных и документально подтвержденных

расследований «Викиликс».
Итак, мы видим, как теоремы неполноты Гёделя актив­
но используются, пусть и бессознательно, в конспирологии,
пропаганде и манипуляции массовым сознанием. О важных
выводах применительно к машинному обучению мы пого­
ворим в соответствующей главе, но и в 1930-е годы, когда
еще никакого машинного обучения не было, идеи Гёделя
произвели эффект разорвавшейся бомбы.
Эти теоремы были сразу же применены ко всему челове­
ческому познанию. Их толковали в том смысле, что некото­
рые истины никогда не будут познаны, а внутренняя непро­
тиворечивость самой науки - любой науки - всегда будет
оставаться под вопросом.

Что это означает в применении к интеллекту, пока­

зал наш современник, австрийский ученый Хане Моравек.
Замечаете, как много австрийцев причастно к теме интел­
лекта? На страницах этой книги их появится еще немало.

33
 ИГОРЬ ШНУРЕНКО

Моравек - специалист по робототехнике, футуролог, про­

фессор Университета Карнеги Меллона в Питтсбурге, штат
Пенсильвания, считается одним из самых глубоких из ныне
живущих мыслителей в области искусственного интеллек­
та. Еще в 1980-е годы Моравек сформулировал принципы
того, как ИИ приобретает знания, и эти принципы, в об­
щем-то, противоречили здравому смыслу. Поэтому приня­
то говорить о «парадоксе Моравека». Парадокс гласит, если
излагать его без научного жаргона, что познание высокого
уровня требует меньше вычислений, чем бессознательное
познание низкоzо уровня. Это чисто эмпирическое наблю­
дение противоречит вроде бы очевидной мысли о том, что
чем больше у нас вычислительных возможностей, тем более
«интеллигентные» системы мы сможем создать.

Давайте вникнем подробнее. Системы с искусственным

интеллектом могут решать невероятно сложные статисти­

ческие и логические задачи, от которых голова пойдет кру­

гом у любого человека, как бы умен он ни был. Однако такие
простые человеческие задачи, как достать рукой предмет,
вызывают у роботов ступор или требуют очень громоздких
и сложных вычислительных моделей. Вот как это описыва­
ет Моравек:
«Относительно легко научить компьютеры показывать
способности взрослого человека, такие как проходить тесты
на интеллект или играть в шашки. Но трудно или вообще
невозможно научить их тому, что умеет годовалый ребенок
в том, что касается восприятия или движений».
Неявное, но вполне очевидное следствие парадок­
са Моравека заключается в том, что наилучших результа­
тов можно достичь сочетанием машинного и человеческо­

го интеллекта. Назовем такое сочетание Объединенным

интеллектом.

По невежеству или целенаправленно, но нас приучают

рассматривать искусственный интеллект как нечто внешнее,

34
 ДЕМОН ВНУТРИ

но это путь в никуда. На деле уже сейчас, как я покажу в сле­

дующих главах, ИИ - часть нашего коллективного разума,
своего рода расширение в нем. Борясь с искусственным ин­
теллектом наподобие луддитов, мы будем бороться сами
с собой.
Вообще, можно ли считать «искусственный интеллект»
отдельным от нас существом? Поэты могут видеть живое
существо даже в отвлеченной концепции - в стране, в ци­
фре, в машине - но в основе этого лежит поэзия как особый
способ восприятия мира. Нет сомнения в том, что разработ­
чики ИИ доберутся в конечном итоге и до поэзии, вытащив
из поэтических структур что-то полезное для машинного

обучения - но пока мы еще не в этой точке.

Отделив ИИ от себя, мы начнем завоевывать его, как мы
завоевываем природу- только с еще более разрушитель­
ными результатами. Ведь мы будем завоевывать его, а он -
нас, и ничем хорошим это разделение кончиться не может.

Мы завоевали природу, на подвластной нам земной коре,

в океанах и в атмосфере, практически уничтожив ее и за­
менив искусственной. Мы вгрызаемся дальше вглубь, пока
какая-нибудь природная катастрофа нас не остановит.
Сможем ли мы сделать то же сами с собой - ведь челове­
чество и ИИ уже сейчас - одно целое? Это путь к самораз­
рушению, игра, в которой мы никогда не сможем выиграть.
Выход видится в перемене нашего сознания - но для этого
как можно больше людей должно понять, что человечество
миновало важную развилку на пути и пошло не туда.

ИИ НА ГРАНИ НЕРВНОГО СРЫВА

В марте 2018 года управляемый ИИ автономный автомо­

биль компании Uber не увидел на дороге женщину и сбил
ее насмерть. Тогда же сотрудники Google выступили

35
 ИГОРЬ ШНУРЕНКО

с беспрецедентным протестом против создания систем ИИ

по заказам Пентагона для систем вооружений.
В мае того же года система распознавания голоса, пред­
назначенная разоблачать злоупотребления при подаче за­
явлений на иммиграцию в Великобританию, «сошла с ума»,
аннулировала тысячи виз и приняла решения о высылке

из страны сотен людей.

Цифровой медицинский помощник IВМ Watson реко­
мендовал людям, больным раком, неправильные и небез­
опасные для здоровья препараты, а алгоритм, разработан­
ный для Иммиграционной и таможенной полиции США,
стал выдавать одну-единственную рекомендацию для всех

без исключения иммигрантов: задержать.

Получив доступ к семейным тайнам, искусственный ин­
теллект стал развлекаться троллингом хозяев. Так система
«Эхо» от компании Amazon стала первым искусственным
пранкером.

Нам нравится думать, что технологии, которые создают

нам так много удобств, под контролем если не нас самих,
то наших правительств. До сих пор так оно и было.
Но теперь это далеко не так.
«Уничтожай прошлое, делай будущее,» - говорит юному
скучающему миллиардеру героиня фильма «Космополис»,
пока они ползут по Нью-Йорку в бронированном звуко­
непроницаемом лимузине. Город охвачен протестами, де­
монстранты опрыскивают машину спреем, прыгают на нее,

пытаются перевернуть, но юный биржевик погружен в та­

нец цифр на мониторе, цифр, которые дадут ему заработать
на полном распаде всего вокруг.

Художники всегда видят вперед, вот и режиссер фильма

Дэвид Кроненберг еще шесть лет назад показал, как цифра
подчиняет себе не только рабов, но и хозяев жизни, погру­
жая их в дурную бесконечность существования без эмоций,
воли и даже идентичности, превращая «богов» в машины.

36
 ДЕМОН ВНУТРИ

Впрочем, с точки зрения технократов-оптимистов, это

лишь очередная страшилка. Современное искусство, при­
кладная наука и транснациональный капитализм соеди­
нились сегодня в общем порыве к безграничному гори­
зонту, за которым, как предполагается, машина и человек

сольются в единое существо, извлекающее прибыль не толь­

ко из энергии и элементов Земли, но и непосредственно
из всех накопленных человечеством за долгую историю зна­

ний. Искусственный Интеллект извлечет из человека необ­

ходимый информационный ресурс, так что прошлое будет
утилизировано и монетизировано.

Обширные территории до самого горизонта на карте биз­

неса, связанного с ИИ, заняты сейчас несколькими глобаль­
ными мегакорпорациями- это все те же Amazon, Google,
Apple, Microsoft, Tencent, Facebook. Именно они застраива­
ют пейзаж, создают там инфраструктуру и новые механиз­
мы аккумулирования капитала и эксплуатации природных

и человеческих ресурсов планеты.

37
 АНАТОМИЯ ИИ:
ЧТО ВНУТРИ ЧЕРНОГО ЯЩИКА
 ВЕЖЛИВЫЕ ЛЮДИ ИЗ AMAZON

Не так давно в обычном американском городе Портленде

у обычной американской семьи сбылась обычная американ­
ская мечта. У них в доме появился умный помощник Алекса.
Алексу привезли вежливые люди из компании Амазон,
которые без шума и пыли встроили по всему дому кон­
трольные приборчики системы «Эхо». Так в зале появился
гладкий 15-сантиметровый цилиндр, по верхнему ободку
которого бегает сине-зеленый огонек. Он молча наблюда­
ет за всем вокруг и ждет команды. Теперь, встречая го­
стей, хозяйка дома Даниэль может, как бы невзначай, ска­
зать: «Алекса, свет в прихожей» - и там становится свет­
ло. «Алекса, громкость на пять», «Алекса, давай поболтаем»,
«Алекса, потеплей» или даже «Алекса, заткнись».
И Алекса послушно добавляет звук, рассказывает анек­
дот, повышает градус и смиренно затыкается. Не о такой ли
служанке мы все мечтаем, если можем себе это позволить?
Долго ли, коротко ли наслаждались Даниэль с мужем ис­
полнительной помощницей, а только через какое-то время
раздается телефонный звонок. Звонит подчиненный мужа
из Сиэтла - а это не так и близко, за полтораста миль.
- Отключите Алексу прямо сейчас! - взволнованно гово­
рит подчиненный. - Мне транслируются все ваши разговоры.
- Да ну, ты шутишь, - говорит муж. - Или бредишь. Ну
вот о чем мы говорили перед твоим звонком?
- О том, что лучше застелить пол досками, - говорит
сотрудник.

41
 ИГОРЬ ШНУРЕНКО

Даниэль изменившимся лицом бежит выключателю: дей­

ствительно, именно об этом она разговаривала с мужем!
Даниэль позвонила сотрудникам Амазон, и те пообеща­
ли все расследовать. Немало времени прошло с той поры.
В конце концов, позвонил от них вежливый человек, изви­
нился раз пятнадцать за полчаса и пообещал всё выяснить.
Даниэль сказала, что хотела бы просто вернуть деньги назад,
но ей сказали, что все, что они могут сделать - это посмо­
треть, что пошло не так.

Амазон не так-то просто расстается с клиентами, ведь

его хозяин Джефф Безос - самый богатый человек в мире.
Пресса сообщала об условиях труда на складах компании:
работники должны упаковать 300 посылок в час, работая
так с 7:30 утра до 6 вечера и писая в бутылки или в пам­
персы, чтобы не получить штраф за медлительность. А не­
давно «Амазон» отказался открывать вторую штаб-квартиру
в Нью-Йорке, где город в обмен на обещание рабочих мест
пообещал вернуть компании три миллиарда долларов на­
логов. За бюджетный счет, разумеется. Компании с почти
триллионной капитализацией показалось, что в другом ме­
сте они могут договориться на более выгодные условия.
Когда Даниэль поняла, что деньги «Амазон» ей не вер­
нет, она позвонила на местное радио КIRO 7и обратилась
с жалобой. Сказала, что инженер так и не сказал, в чем дело,
а сама она убеждена в том, что Алекса сначала наблюдала
за семьей, а потом злобно подшутила над ними.
Представительница Амазона в ответе на запрос радио­
станции сказала, что компания «очень серьезно относит­

ся к вопросам прайваси», и что подобное происходит край­

не редко. Что встроенная в дом система «Эхо» проснулась,
услышав в разговоре хозяев слово, похожее на «Алекса».
А затем интерпретировала дальнейший разговор как за­
прос на отсылку записи. И громко спросила хозяев: «Кому?»
Хозяева-де продолжали говорить, и в разговоре проскочило

42
 ДЕМОН ВНУТРИ

имя сотрудника в Сиэттле. Тут Алекса с громкостью, кото­

рую сама определила как достаточную, спросила хозяев:

«Такому-то послать?» Затем она интерпретировала их буб­

неж как «да» и отослала разговор.

Даниэль до сих пор отрицает, что Алекса что-либо пе­

респрашивала, и, откровенно говоря, версия, озвученная

представительницей Амазона, звучит невероятно. Заметьте,

никто не оспаривает сам факт тотальной прослушки разго­
воров и возможности их распространения без разрешения.
Известно, что «Амазон» работает и на оборонное ведомство
США, в частности, разрабатывая системы распознавания об­
разов для беспилотников, а также продает технологию рас­
познавания лиц правоохранительным органам, поэтому ин­

формация, полученная через гаджеты обычных людей, мо­

жет быть доступна на деле очень многим.
Но главный вопрос здесь даже не в том, что «Большой
брат» следит за тобой через системы с элементами искус­
ственного интеллекта. Настоящий вопрос в том, подчиняют­
ся ли «Большому брату» сами эти системы- или искусствен­
ный интеллект уже вышел из-под контроля создателей?
Странные случаи, как бы указывающие на это, множат­
ся. То робот распыляет на складе «Амазона» медвежий ре­
пеллент, отправив в больницу несколько десятков рабочих.
То беспилотный автомобиль UЬer сбивает насмерть женщину,
и расследование устанавливает, что система автоматическо­

го торможения была намеренно отключена. СМИ не вдаются

в тему, как такое могло случиться, а виновным признают че­

ловека, который занимался уходом за автомобилем. То поль­

зователи ведущей мировой соцсети начинают замечать, что
стоит им поговорить на какую-то тему, как реклама начина­

ет предлагать вещи, соответствующие теме разговора.

Но прежде чем попытаться понять, действительно ли ис­

кусственный интеллект достиг такого уровня, что стал опас­
ным, стоит разобраться в том, что это такое.

43
 ИГОРЬ ШНУРЕНКО

УХО БОJ1ЬШОГО БРАТА

За пределами весьма ограниченного интерфейса система

Amazon Echo находится абсолютно вне пользовательского
контроля. Это не старый радиоприемник, который можно
разобрать и починить, не автомобиль, который можно усо­
вершенствовать и прокачать, в зависимости от умений вла­
дельца. Перед пользователем «Алексы» просто гладкая по­
верхность, пластик, за которым скрыты сенсоры и мало что

еще, ибо по-настоящему сложные вещи происходят совсем

в другом месте, куда поступают собранные в доме сигналы.
Echo - это просто ухо Большого Брата, которым он про­
слушивает дом, находясь при этом за тридевять земель,

а если быть совсем точным, находясь одновременно во мно­

гих местах.

Технологии ИИ практически уничтожили понятие о част­

ной жизни человека, при этом сами компании, которые за­
рабатывают на этом, превратились в «черные ящики». Это
было очевидно даже на слушаниях в американском кон­
грессе, куда вызвали главу «Фейсбука» Марка Цукерберга.
Сенаторы в своих вопросах в основном гадали на кофейной
гуще, явно не имея базовой информации о работе компа­
нии. Исходя из этого, Цукербергу было сравнительно легко
манипулировать вопросами и ответами, и в конечном итоге,

при всем запале законодателей, он отделался малой кровью.

Крупным монополиям, занимающимся разработкой
и внедрением систем с ИИ, есть что скрывать, и их можно
понять: ведь потребители могут испугаться новых техно­
логий, и их продажи замедлятся. Поэтому даже если элек­
тронные гомункулусы уже сегодня играют в свою игру,

у «Гугла» или «Фейсбука» нет никакого резона об этом

распространяться.

Потребители на самом деле уже привыкли пользовать­

ся искусственным интеллектом. Мобильные телефоны,

44
 ДЕМОН ВНУТРИ

домовые помощники типа Алексы, автопилоты в автомоби­

лях - все эти устройства передают данные в облака и полу­
чают оттуда команды. Это происходит невидимо и неслыш­
но для потребителей, которые не представляют, что проис­
ходит внутри системы, но даже если сделать ее прозрачной,
это не поможет.

Информация и на входе, и на выходе устройств никак

не контролируется их весьма условными «хозяевами» -
а на самом деле потребители тоже становятся частью си­
стемы, которая их эксплуатирует и ничем перед ними

не отвечает.

Кто владеет данными, владеет миром - так что, полу­

чая все больше власти, технологические корпорации будут
пользоваться ею, чтобы получить еще больше информации.
Возникает замкнутый круг, который, если ничего не делать,
приведет к реальному тоталитаризму. Только полная под­
отчетность корпораций и сознательный выбор потребителя
может как-то укротить систему, но это, пожалуй, невозмож­
но без существенных социальных преобразований.
За ответом искусственного интеллекта Алексы на вопрос
хозяйки стоит целая пирамида извлечения вполне матери­
альных ресурсов и человеческого труда, переплетенные друг

с другом глобальные сети добычи редкоземельных металлов,

логистики, распределения, аутсорсинга, сбора и обработки
данных, машинного обучения и, наконец, финансовых и по­
литических учреждений.

СЛЕЗЫ ТУНИПЫ: ГЕОЛОГИЧЕСКИЕ ТАЙНЫ ИИ

Индейцы аймара - может быть, самый богатый и самый не­

счастный народ на Земле. Они живут на высоких равнинах
в боливийских и перуанских Андах. Горы эти славятся бога­
тыми залежами серебра, олова, меди, вольфрама, платины,

45
 ИГОРЬ ШНУРЕНКО

сурьмы, ванадия и других ценных металлов. Миллионы

аймара погибли от непосильного труда на рудниках знаме­
нитой Серебряной горы Потоси и других месторождений,
которые со времен прихода испанцев и по сей день прино­
сят колоссальные прибыли своим владельцам.
По местной легенде, когда-то вулканы были живыми
и свободно бродили по равнинам. Среди них была краси­
вая девушка Тунипа, которую добивались все мужчины­
вулканы. Наконец, Тунипа родила, но не сказала, от кого.
Мужчины-вулканы из ревности забрали у нее ребенка
и спрятали. За это боги наказали их всех, приковав к земле.
А слезы Тунипы перемешались с ее молоком и образовали
озеро Салар де Уюни.
Как раз там, на плато Салар, на высоте более 3600 метров
над уровнем моря, находится от половины до двух третей
мировых запасов лития. Аймара до сих пор живут в хижи­
нах из самана, а без лития не ответит на ваш вопрос Алекса,
не зазвонит ваш смартфон и не тронется с места распиарен­
ное детище Илона Маска. Для батареи этой модной машины,
запущенной уже и в космос, нужно около семи килограммов
металла, который называют «серым золотом».
Так на слезах и грудном молоке Тунипы держится благо­
получие ведущих мировых компаний и их акционеров, ко­
торые слыхом не слыхивали об индейцах аймара.
В Нью-Йорке есть институт AI NOW, который занима­
ется изучением воздействия ИИ на общество. Его основа­
тельница Кейт Крауфорд вместе с исследователем Владаном
Йолером опубликовала карту ресурсов, которые нужны для
создания систем искусственного интеллекта типа домаш­

них помощников.

Каждый объект в расширенной системе производства

ИИ, от сетевых роутеров до батарей и микрофонов, постро­
ен из вполне материальных элементов. Для их создания
потребовались сотни миллионов лет эволюции Земли и ее

46
 ДЕМОН ВНУТРИ

геологической структуры. Чтобы создать устройства, кото­

рые через несколько лет будут выброшены на свалку (на­
пример, срок службы смартфона оценивается меньше чем
в пять лет), мы безвозвратно извлекаем из Земли ее исто­
рию. А ведь чтобы нарастить прибыли, компании придумы­
вают, как побудить человека покупать больше и чаще!
С геологической точки зрения, индустрия ИИ начинает­
ся с извлечения руды из горных пород где-нибудь в Южной
Америке и заканчивается на африканской свалке. Но это
только общая канва. Между точками начала и конца про­
изводства лежит еще много слоев с запутанными цепочка­

ми поставок при расширенной эксплуатации человеческих

и природных ресурсов. Всё это ведет к концентрации кор­
поративной и геополитической власти и растущему потреб­
лению энергии.

Средневековые алхимики зашифровывали и держали

в глубоком секрете рецепты преобразования обычных ме­
таллов в «благородные». Точно так же как сегодня поступа­
ют сегодня изготовители смартфонов и лэптопов, которые
добавляют редкоземельные металлы в сплавы, чтобы делать
свои устройства легче и производительнее.
Это ключевые элементы не только в цветных дисплеях,
батареях питания, динамиках, жестких дисках, но и в оп­
товолоконных кабелях, вышках мобильной связи и систе­
мах GPS. Компании скрывают результаты исследований,
защищаясь законами о коммерческой тайне и соглаше­
ниями о неразглашении, но специалисты знают, что до­

быча этих металлов наносит порой огромный экологиче­

ский ущерб.
Так, редкоземельные элементы диспрозий и тербий из­
влекают из глины в провинции Цзянси в Китае. При этом
лишь 0,2 процента добытой руды содержит эти ценные эле­
менты, все остальное выбрасывается, создавая горы шлака,
отравляющего окружающие леса и холмы.

47
 ИГОРЬ ШНУРЕНКО

По данным Китайского общества редкоземельных эле­

ментов, при добыче одной тонны металлов производится
в среднем 7 5 тысяч литров окисленной воды и тонна ра­
диоактивных отходов. В этих данных не говорится о боль­
шом количестве углекислого газа, вырабатываемого в ходе
процесса.

Олово для полупроводниковых микросхем той же компа­

нии Foxconn поставляется из Индонезии, занимающей вто­
рое место в мире по экспорту этого металла. Вот как описы­
вает британская газета «Гардиан» воздействие такого биз­
неса на природу индонезийского острова Бангка: «Добыча
олова очень прибыльное, но разрушительное занятие, кото­
рое исполосовало ранами пейзажи острова, стерло бульдо­
зерами его фермы и леса, убило рыбу и коралловые рифы.
Ущерб лучше оценивать с воздуха, где на фоне огромных
пространств опустошенной оранжевой земли еще остались
карманы с густыми зарослями. Там, где уже нет выработок,
видны могилы тех, кто погиб здесь за сотни лет извлечения
олова».

После использования слезы и молоко Тунипы

выбрасывают.

ТАНТАЛОВЫЕ ВОЙНЫ

Когда говорят об ИИ как о черном ящике, имеют в виду

невозможность понять решения, принятые алгоритмами.

Но есть и еще один черный ящик - сам процесс производ­

ства, обучения и работы систем с искусственным интеллек­
том, таких как Amazon Echo.
Потребитель хочет иметь продукт здесь и сейчас, и его
не интересует история производства его компонентов.

Но за каждым из них стоят целые слои контракторов, дис­

трибьюторов, логистических партнеров, аутсорсинга

48
 ДЕМОН ВНУТРИ

по всему миру. В бизнес-школах сегодня любят говорить

о тренде на сокращение цепочки посредников на осно­

ве уберизации и блокчейна, о том, что уже очень скоро

конечные потребители и производители будут связаны
напрямую.

Однако этот тренд, если он существует, совершенно

не применим к поставкам металлов для нужд ведущих ми­

ровых технологических компаний.

Торговля металлами проходит через длинную цепочку
посредников, которые часто имеют дело с нелегальными

поставщиками. Чтобы замести следы, металлы придержи­

ваются, перевозятся с места на место, переплавляются вме­

сте с ломом, так что источник их происхождения установить

практически невозможно.

Например, производитель полупроводниковых микро­

чипов Intel поставляет компании Apple процессоры. У Intel,
в свою очередь, есть сеть из почти двадцати тысяч постав­

щиков материалов, машин, логистических и прочих услуг.

Эти поставщики расположены более чем в ста странах.

В 1990-2000-е годы в восточной Африке шла кровопро­
литная война, сопровождавшаяся геноцидом целых народов.
Погибли миллионы людей. При этом поставки редкоземель­
ных металлов, золота и олова на мировые рынки из охва­

ченных войной районов не прекращались. На полученную

выручку воюющие стороны втридорога, через посредников,

покупали оружие у тех самых стран, которым задешево про­

давали ресурсы. Это оружие подхлестывало войну, но для

западных правительств и компаний ситуация выглядела как
win-win, то есть выигрышной со всех сторон.
Запад продолжает получать дешевые ресурсы, день­
ги за них возвращаются туда же на Запад в оплату оружия,
правительства африканских стран слабеют от вооруженных
конфликтов и все сильнее зависят от своих бывших колони­
заторов и вездесущих Соединенных Штатов. Эта стратегия

49
 ИГОРЬ ШНУРЕНКО

«win-win» для западного бизнеса требует человеческой кро­

ви, но она успешно применяется, и не только в Африке.
Когда правозащитные организации в начале 2000-х уже
не могли не обращать внимание на жуткие военные пре­
ступления, в прессе стали появляться очерки о том, как

крупные технологические компании способствуют войне.

Это ударило по репутации компаний, получающих металл
из военной зоны.
Тогда Intel решил показать, что тантал для чипов не по­
ставляется из Конго. На расследование своей собственной
цепочки поставок эта ведущая глобальная технологиче­
ская компания потратила четыре года! Возможно, конеч­
но, что реальное расследование продолжалось не так долго,

а большая часть времени ушла на то, чтобы замести следы,

но факт остается фактом: схема цепочек поставщиков была
настолько сложна, что для ее составления пришлось при­

влечь искусственный интеллект!

Что уж говорить об обычных журналистах, которым не­
доступна внутренняя кухня транснационалов - у них

мало шансов на то, чтобы распутать подобные цепочки.

Остается надежда на «свистунов» - то есть сотрудников са­
мих компаний, которые из благородных побуждений, стра­
ха или по иным причинам сливают информацию о неблаго­
видных делишках корпораций.
И это лишь один элемент пирамиды создания стоимости
высокотехнологичных продуктов XXI столетия!
Десятки тысяч компонентов для устройств Apple постав­
ляют сотни компаний. Чтобы попасть на сборочный кон­
вейер Foxconn, их нужно привезти с примерно 750 складов
и фабрик в 30 странах мира. Реальную структуру производ­
ства сможет нарисовать разве что сам ИИ - и понятно, что
эта схема будет надежно скрыта от посторонних глаз.
Сети поставщиков компонентов, оборудования, сервисов,
обслуживающих системы с ИИ по сложности и запутанности

50
 ДЕМОН ВНУТРИ

напоминают интернет с его тысячами сайтов с перекрест­

ными ссылками - не широкую и прямую информационную
автостраду, о которой так любит говорить Билл Гейтс, а ско­
рее паутину, призванную запутать и скрыть и от налогови­

ков, и от общества реальное положение вещей.

КОМПОНЕНТЫ ВЕЗУТ НА СБОРКУ

Производство систем с искусственным интеллектом

стало бы невозможным без контейнерных перевозок.
В 1952 году в США разработали стандартный контейнер
CONEX, с которым можно управляться как с элементом лего,
без проблем перегружая с корабля в железнодорожный ва­
гон, а оттуда в грузовик.

Согласно конвенции, принятой Международной морской

организацией в 1972 году, каждый контейнер должен был
нести стандартную табличку с данными. Типовой контейнер
служит более 10 лет и стоит при этом менее 2000 долларов
(90 процентов их делается в Китае). Эти нововведения ра­
дикально сократили стоимость глобальной доставки и пре­
вратили планету в огромную фабрику.
Большие прибыли от морских грузовых перевозок
были бы невозможны без сопутствующего ущерба, кото­
рый редко принимается во внимание. Одни контейнерово­
зы произвели в 2018 году около трех процентов мировых
выбросов в атмосферу углекислого газа- больше, чем вся
Германия. Чтобы сократить расходы, крупные перевозчи­
ки - а этот рынок принадлежит прежде всего компаниям

из Дании, Швейцарии и Франции - используют топливо

с высоким содержанием серы. Подсчитано, что контейне­
ровозы косвенно отвечают за ежегодные 60 тысяч смертей,
вызванных повышенным содержанием токсичных веществ

в атмосфере Земли.

51
 ИГОРЬ ШНУРЕНКО

Кроме того, каждый год тысячи контейнеров теряются

в море и либо погружаются на дно океана, либо блуждают
по его просторам. Некоторые из них содержат токсичные
вещества, которые просачиваются в воду. Таким образом,
за прибыль, приносимую логистикой систем с ИИ, прихо­
дится расплачиваться загрязнением экосистемы океана, ат­

мосферы и сверхэксплуатацией моряков, которые проводят

в море зачастую по 9-10 месяцев без перерыва.
Треть из этих моряков филиппинцы, для которых вы­
сокие технологии означают прежде всего безжалостную
эксплуатацию.

НЕВИДИМОЕ ЗОЛОТО ДАННЫХ

Агент искусственного интеллекта не может работать без по­

стоянного потока данных от системы, которой он управ­
ляет. Данные для Алексы, амазоновского интерфейса ме­
жду человеком и искусственным интеллектом, поставляет

система «Эхо», которая содержит семь направленных ми­

крофонов. Пользователя в результате можно слышать все­
гда и везде, даже поверх музыки. Данные, собранные с ми­
крофонов, поступают в принадлежащее «Амазону» облако,
доступ к которому дается разнообразным сервисам и при­
ложениям, в том числе, в целях быстрейшего развития сети,
и независимым структурам. Данные оттуда распределяются
по множеству каналов.

Разговоры хозяев, в частности, переводятся в текст, кото­

рый анализируется на предмет ключевых слов, семантиче­
ского построения фраз и индивидуальных звуковых харак­
теристик. Этот анализ используется для получения ответов
из хранилищ данных, но не только.

Как для пользователя, так и для самих сотрудников

«Амазона» «Эхо» - это черный ящик. Является ли он лишь

52
 ДЕМОН ВНУТРИ

передаточным звеном от пользователя к облаку, и даже если

так - собирает ли он только ту информацию, которая нужна
для адекватного приема команд? Едва ли - эксперты сооб­
щали о том, что датчики собирают о пользователях всю воз­
можную информацию, а не только ту, которая необходима
для оказания тем услуг.

Пользователь Алексы является для «Амазона» потребите­

лем, ресурсом, работником и продуктом одновременно. Как
потребитель, он покупает продукт и пользуется им - но при
этом его голосовые команды поступают в облако данных
Amazon, анализируются в чрезвычайно сложных сетях об­
работки информации и хранятся там, пополняя базу чело­
веческих голосов, эмоций и инструкций.
Эта база, которая растет как снежный ком, используется
в целях машинного обучения нейросетей, которые действи­
тельно становятся все умнее. При этом потребители, через
свою реакцию, постоянно оказывают компании бесплатные
услуги по оценке качества ответов Алексы, их полезности
и своевременности. Алекса учитывает обратную реакцию
и с каждым разом учится лучше слышать и понимать, до­

пускать все меньше ошибок, выполнять команды как мож­

но точнее. Например, если пользователь повторил вопрос,
значит, он считает, что не был услышан. При этом Алекса -
то есть агент искусственного интеллекта, стоящий за бес­
плотным голосом - все время обновляет профиль пользова­
теля, строит модель его предпочтений, привычек и желаний.
Не за горами разработка и внедрение системы взаимо­
действия между мозгом человека и агентом машины напря­
мую, минуя голос или пальцы. Можно, с оговорками, о ко­
торых пойдет речь дальше, называть это чтением мыслей.
Когда это будет достигнуто, мысли человека поступят в об­
щую копилку данных, а облачные серверы смогут накапли­
вать информацию, скажем, о том, насколько действие чело­
века соответствует его мысли.

53
 ИГОРЬ ШНУРЕНКО

Алекса получает возможность следить за поведением че­

ловека 24 часа в сутки 7 дней в неделю. Разумеется, 15-сан­
тиметровый цилиндрик не занимается сложным анализом,
это лишь интерфейс, но в облаке в режиме реального вре­
мени создаются и обновляются профили пользователей,
со всеми их привычками и интимными подробностями.
Агенты ИИ с доступом к облачному хранилищу смогут про­
гнозировать поведение оригиналов, исходя из этих моделей,
и делать это все точнее, и точнее, и точнее.

Ресурсы, которые нужны для того, чтобы агент ИИ отве­

тил на вопрос, включил свет, спел колыбельную ребенку
во множество раз превышают то, что требуется для подоб­
ных действий человеку. Искусственному интеллекту необ­
ходимо «железо» серверов, создание целой инфраструктуры,
труд множества людей, которые вручную удаленно вводят
данные в нужном формате ...
И еще нужна энергия, энергия, энергия.
Энергия нужна ИИ для передачи, сохранения и обработки
данных, огромные потоки которых текут в разных направ­

лениях по всей инфраструктуре. Связанные с этим затраты

трудно подсчитать из-за непрозрачности операций таких
компаний, как Apple, Facebook или Amazon. Как-то органи­
зация Greenpeace попыталась получить у этой компании
данные об энергопотреблении ее облачных серверов и воз­
действии этого процесса на окружающую среду, однако ру­
ководство отказалось пойти навстречу природозащитникам.
Пользователи в общении с технологическими платфор­
мами практически прозрачны для «Фейсбука», «Гугла»,
«Амазона» и других, которые легко отслеживают, хранят,
анализируют, упаковывают и продают данные о каждом

их них. В то же время информация о работе самих этих ком­

паний остается закрытой.
С приходом на рынок все более совершенных ИИ-систем
подавляющая часть их операций производятся в облаках,

54
 ДЕМОН ВНуТРИ

и, таким образом, отследить или хотя бы как-то строить

по их поводу хоть какие-то догадки становится все труднее.

МЕХАНИЧЕСКИЕ ТУРКИ

В 1770 году австрийский изобретатель Вольфганг фон

Кемпелен сконструировал «шахматный компьютер», про­
званный «Механическим турком». Он хотел произвести впе­
чатление на императрицу Марию-Терезию, и это ему уда­
лось. Он возил машину, которая выигрывала почти все мат­
чи, по всей Европе и даже по американскому континенту.
Секрет устройства был прост: внутри машины скрывался
талантливый игрок в шахматы, который через оптическую
систему мог видеть, что происходит на доске. Зрителей,
убежденных, что с ними играет машина, попросту обма­
нули. Через два с лишним века Amazon.com не без юмора
назвала «Механическим турком» свою краудсорсинговую
платформу. Ее целью было восполнить недостатки искус­
ственного интеллекта, который не смог справиться с за­
дачей распознавания дублей пользовательских страниц
на своей торговой онлайн-площадке.
После долгих и бесполезных попыток как-то наладить ра­
боту системы инженеры обратились к людям, поручив им
работать в параллель с компьютерами. Джефф Безос, кото­
рому и принадлежала идея «Механического турка», назвал
платформу «искусственным искусственным интеллек­
том». Безос объяснил принцип ее работы так: «Обычно че­
ловек обращается с запросом к компьютеру, и тот выпол­
няет запрос. Но «Механический турок» делает все наобо­
рот. Перед компьютером стоит задача, сложная для него,
но очень простая для человека. Поэтому вместо того, чтобы
обратиться с запросом к компьютерному сервису, чтобы вы­
полнить функцию, она обращается к человеку».

55
 ИГОРЬ ШНУРЕНКО

Людям платят по несколько центов, если они обнару­

жат страницу-дубликат существующего сайта- с этой про­
стой задачей искусственный интеллект справиться не мо­
жет. И в случае «Механического турка» для Марии-Терезии,
и в случае его современного аналога человек работает за ма­
шину, а перед зрителями (и инвесторами) разворачивает­
ся спектакль «искусственного интеллекта», который якобы
в одиночку решает задачи.

Платформа была запущена в 2005 году, и уже через пару

лет после этого на нее работало 100 тысяч «турок», кото­
рые получали микровознаграждения за выполнение про­

стых задач, требующих обычно одного или нескольких кли­

ков мышкой. Безос сумел продать услугу другим компани­
ям, развивающим искусственный интеллект: они должны
платить «Амазону» 10 процентов стоимости каждой опе­
рации или полцента за все операции, стоимость которых

меньше цента.

Невидимый, скрытый, малооплачиваемый труд отдается

на аутсорсинг или краудсорсинг многочисленным «клике­

рам» из стран Третьего мира, которые сегодня присваива­

ют данным ярлыки, классифицируют цифровые архивы для
того, чтобы «кормить» этими данными прожорливые нейро­
сети. Часто, впрочем, этот труд не оплачивается, например,
в случае программы reCAPTCHA, когда вы выполняете рабо­
ту по распознаванию образов для нейросетей «Гугла» про­
сто за то, чтобы продолжить пребывание на его сайте. Это
делается под тем предлогом, что вы должны доказать, что

сами не являетесь искусственным интеллектом.

Как выясняется, современный «искусственный разум»

не так уж и разумен. В работу систем, которые продаются
как «разумные» и «принимающие решения», вложено мно­

го физического труда шахтеров и взрывотехников, моряков,

грузчиков, складских работников, монотонного труда сбор­
щиков на конвейере, сотен тысяч «когнитивных кликеров»

56
 ДЕМОН ВНУТРИ

и «механических турок», а также неоплачиваемого труда

миллионов простых пользователей.

ОБЛАЧНАЯ ЭКСПЛУАТАЦИЯ

Итак, чтобы произвести и эксплуатировать масштабную

систему искусственного интеллекта, требуется постоян­
но извлекать материальные ресурсы, человеческий труд
и большие данные. Оставим пока в стороне финансовые
ресурсы, которые также необходимы - при том, что мо­
дель приносит собственникам прибыль на каждом этапе
процесса. Извлечение это имеет поистине планетарный
масштаб - то есть современный капитализм буквально
вытягивает материалы как из Земли, так и из биосфе­
ры, монетизируя человеческое общение, коммуникацию
и социализацию.

Когда мы говорим об «облаке» и «облачных вычислениях»,

многим представляется что-то эфемерное. Меж тем для об­
работки данных в таких «облаках» требуется самое настоя­
щее «железо» серверов и инфраструктуры, в процессе изго­
товления которых в разных странах мира из недр извлека­

ются самые реальные редкоземельные элементы.

Экономика извлечения отнюдь не нова, и добыче ресур­

сов из глубин Земли всегда сопровождалась тяжелыми фор­
мами эксплуатации человека. Процессу всегда сопутствова­
ли войны, мятежи, рабство, насилие ...
Для извлечения ресурсов из недр прежде всего нужны
работники. Работники - тоже своего рода инструменты,
и в экономике «искусственного интеллекта» о них вполне

можно говорить как об аристотелевских «одушевленных

орудиях» или «говорящих машинах».

Роль людей сводится к тому, чтобы подправлять огрехи,

вызванные несовершенством искусственного интеллекта.

57
 ИГОРЬ ШНУРЕНКО

Аристотель писал, что если бы ткацкие челноки сами

ткали, а плектры сами играли, тогда господам не нужны

были бы рабы. То есть до тех пор, пока без людей в про­

цессе работы пирамиды ИИ нельзя обойтись, это «наи­
более совершенное орудие труда» будет выполнять свою
роль. При этом суть инструмента состоит в том, чтобы
быть послушным, неважно, одушевленный этот инстру­
мент или неодушевленный. Как только ИИ сможет выпол­
нять работу по запросу хозяина или даже предвосхищая
его запрос, «говорящая машина» станет не нужна. Что бу­
дет тогда с человеком, мы обсудим дальше, а пока обра­
тимся к истории рабства.
Очевидно, что несмотря на всю шумиху о свободах и пра­
вах человека, оно никогда практически не прекращалось,

и причиной этому был спрос на рабов, прежде всего со сто­

роны крупных империалистических держав и корпораций.
Великобритания и другие европейские страны в течение
нескольких веков получали огромные прибыли от работор­
говли. Принудительный труд использовался на каучуковых
плантациях Малайи, а индейцы Боливии в нечеловеческих
условиях добывали серебро и массово гибли на рудниках
ради металла, который шел на изготовление монет, то есть
обеспечивал финансовое обращение в Европе. И тогда, и се­
годня есть связь между трудом, добычей ресурсов и добы­
чей данных.

ПОТРЕБИТЕЛЬ КАК РЕСУРС

Под трендовыми названия «цифровая экономика» и «эко­

номика внимания» скрывается модель эксплуатации, харак­

терная для старой доброй экономики извлечения ресурсов.

«Лукойл» и «Шелл» добывают, забираясь все глубже и даль­
ше, нефть, выкачивают ее и продают. Для «Гугла», «Фейсбук»,

58
 ДЕМОН ВНУТРИ

«Инстаграма», «Твиттера» и других компаний «экономики

внимания» природным ресурсом служит человек, его время

и контент, который он создает.

Пользователь владеет собственным контентом весьма
условно, данные его профиля, содержимое постов, реакции
на контент, эмоции, выражающиеся эмотиконами - все это

открыто потребляется самой платформой, классифицирует­

ся, разбивается на части, упаковывается и продается, пере­
упаковывается и перепродается. В обмен на то, что вы дае­
те себя потреблять, вам предоставляется право бесплатно
пользоваться некоторыми услугами.

Человек - это новая нефть, ценнейшая в экономике боль­

ших данных, но он еще не осознал своего превращения в то­

вар. Есть попытки создания на блокчейне платформ по мо­

дели вклада, где пользователи являются владельцами со­

зданного ими контента и получают за него вознаграждение.

Впрочем, пока что у создателей таких платформ не получа­

ется масштабировать свою модель - возможно потому, что
они не обладают столь значительными средствами, как ве­
дущие соцсети.

В системах с использованием искусственного интеллекта

это происходит еще более явственно.
Наша история началась с Даниэль, хозяйки дома, где уста­
новлена система Echo. Она оплачивает работу устройства
как потребитель услуги и клиент компании. Но Amazon за­
рабатывает на ней и в скрытой форме, используя ее как че­
ловеческий ресурс.
Ее голосовые команды поступают в центр обработки дан­
ных Amazon, анализируются там и хранятся для пополне­
ния базы человеческих голосов, эмоций и инструкций, ко­
торая потом используется для машинного обучения нейро­
сетей. Хозяйка дома является неоплачиваемым тренером
искусственного интеллекта и осуществляет за свой счет
уход за устройством и его энергообеспечение.

59
 ИГОРЬ ШНУРЕНКО

Поставляя компании бесплатный контент, она к тому же

служит объектом постоянного анализа и таргентинга. Она
также бесплатно работает как оценщик качества ответов
Алексы, их полезности и своевременности, тем самым по­
могая Amazon совершенствовать системы распознавания
и обработки речи.
Есть ключевое отличие систем с искусственным интел­
лектом от других технологий: они сами потребляют, анали­
зируют и оптимизируют содержание, созданное человеком

по всем каналам, его речь, изображения и видео. Таким об­

разом, технически потребитель становится частью системы,
которая может его эксплуатировать, не сообщая ему об этом.
Греческая химера, мифологическое животное, была ча­
стично львом, козлом, змеей и драконом - точно так же
пользователь Алексы является для ИИ-индустрии одновре­
менно потребителем, ресурсом, работником и продуктом.

ЧЕРНЫЙ ЯЩИК ПРИНИМАЕТ РЕШЕНИЯ

Оптимизируя бюджеты, государства внедряют по всему

миру автоматизированные системы принятия решений
с использованием искусственного интеллекта. Для бюро­
кратии это своего рода аутсорсинг ответственности: не надо

ничего объяснять, ибо решения принимает, по факту, чер­

ный ящик. При этом у тех, кого непосредственно касают­
ся эти решения, нет реальных возможностей их изменить
или даже оспорить.

Пионером таких систем выступают Соединенные Штаты

и Китай, и каждая страна имеет в их применении свои
особенности.
С момента прихода к власти президент США Трамп распо­
рядился резко сократить выплаты по социальным програм­

мам, затрагивающим интересы наименее обеспеченных

60
 ДЕМОН ВНУТРИ

слоев населения. При этом для оптимизации процессов уже

сейчас широко применяется искусственный интеллект, ко­
торый, например, анализирует данные малообеспеченного
инвалида и решает, сколько часов бесплатного ухода в неде­
лю ему полагается от государства.

Если ИИ решил отказать или назначил меньше часов, чем

было раньше, больному просто некуда обратиться: ему го­
ворят, что решение, принятое «черным ящиком», невозмож­

но изменить. Более того, чиновники не могут даже объяс­

нить принятое решение - примерно как сотрудник банка
может лишь гадать, почему система не выдала потребите­
лю кредит. Во всем мире сегодня намечается переход от ре­
шений, принимаемых людьми, к решениям на базе непро­
зрачных алгоритмов. При этом у людей, которых это непо­
средственно затрагивает, практически нет средств контроля

за государственными органами, не говоря уже о частных

компаниях. «Черные ящики» устройств, где обработка дан­

ных осуществляется в наднациональном «облаке», недо­
ступны для того, чтобы опротестовать эти решения или из­
менить их.

Эффективность систем автоматического принятия реше­

ний в вопросе помощи инвалидам или неимущим никем
не доказана, хотя бюджеты на социальные нужды они, ко­
нечно, экономят - перекладывая при этом ответственность

за результаты с людей-чиновников на безответные машины.

И чиновники, и крупный бизнес оказываются кровно
заинтересованы в быстрейшем продвижении технологий.
Одних он освобождает от ответственности, другим обеспе­
чивает прибыль. При этом личные и конституционные пра­
ва, которые граждане развитых стран отстаивали на протя­

жении веков, борясь за социально ответственное государ­

ство, мало кого интересуют.

Практически везде крупный бизнес обеспечил себе ре­

жим наибольшего благоприятствования в создании новых

61
 ИГОРЬ ШНУРЕНКО

технологий. Прикрываясь стремлением помочь родному

государству, компании вывели из-под легального надзора

свои бизнес-практики, в которых много серых или даже от­

кровенно черных схем. Конечно, сегодня даже транснацио­
нальные корпорации имеют дом, чаще всего в США, и дол­
жны демонстрировать и всячески доказывать свою лояль­

ность. Однако это лояльность отнюдь не народам этих стран,

а лицам или структурам, принимающим реальные решения.

Поэтому тем же пенсионерам не стоит надеяться на право­

вую защиту государства: им в лучшем случае скажут, что все

делается для их же блага, и что по-старому работать нельзя,

потому что у страны нет на это денег.

Казалось бы, есть юристы, которые могли бы защитить

права людей в подобных случаях. Но суды требуют доказа­
тельств, а у юристов резко сузилась возможность предоста­

вить информацию о том, какой, собственно, алгоритм при­

вел к нарушению прав.

Необходимая юристам информация о том, как собира­

ются, обрабатываются и используются данные, защищена
не только законами о коммерческой тайне, но и практикой
аутсорсинга, когда для проведения сомнительных с точки

зрения закона работ и исследований нанимаются сторонние

контракторы где-нибудь в Индии, где на тонкости, связан­
ные с защитой данных, никто не будет обращать внимания.
Например, на компанию Facebook работают десятки
тысяч людей в самых разных странах мира. При этом от­
работка сомнительных алгоритмов передается, как пра­
вило, на аутсорсинг. В известном скандале вокруг ком­
пании Cambridge Analytica, которая получила подробные
профили всех американских избирателей и использовала
их в бизнесе политического маркетинга, самое интересное
было не то, что искусственный интеллект проанализировал
все лайки, эмотиконы, комментарии и посты этих людей.
Не то, что на основе собранных данных система набросала

62
 ДЕМОН ВНУТРИ

психологический портрет каждого человека с отнесени­

ем его или ее к пяти основным типам личности. Не то, что
затем люди стали получать персонализированную поли­

тическую рекламу и видеть посты, которые были пред­

назначены именно для личности данного типа. Не то, что
люди аккуратно таргетировались, а их эмоции просчиты­

вались для того, чтобы вызвать запланированный результат.

Самое интересное заключалось в том, что все эти операции
проделала малоизвестная компания Cambridge Analytica,
которая формально не имеет отношения к «Фейсбуку» -
но на деле получала от него самые эксклюзивные данные.

Корпоративная система аутсорсинга, отдачи на сторону ис­

полнения самых скользких делишек не получала бы оглас­
ки и дальше, если бы в какой-то момент дело не затронуло
интересы влиятельных политических кругов США.
Facebook и сейчас может беспрепятственно вмешивать­
ся в политику таких стран, как Россия, или определять ис­
ход голосования в какой-нибудь банановой республике,
но ему дали по рукам, когда он использовал имеющие­

ся возможности, чтобы влиять на политические процессы

в Соединенных Штатах и Великобритании.

ЭЛИТА СЛУШАЕТ ПЛОЩАДЬ

В Риме тех времен, когда папы любили ставить на площа­

дях обелиски в египетском стиле, жил ученый иезуит, немец
по происхождению, Атанасиус Кирхер. Он считается отцом
египтологии и даже утверждал, что разгадал язык фараонов.
Увлеченный криптографией, на пустых местах обелисков
он рисовал иероглифы настолько фантастические, что они
до сих пор ставят исследователей в тупик. Плодовитый ав­
тор, на обложке одной из своих работ написавший «Нет ни­
чего прекрасней, чем знать все», Кирхер опубликовал более

63
 ИГОРЬ ШНУРЕНКО

сорока книг по медицине, геологии, сравнительной рели­

гии и музыке.

В трактате, посвященном магнетизму, он описал и другие

силы притяжения - гравитацию, любовь. Кирхнер изобрел
магнитные часы и мегафон, а в 1673 создал «говорящую
статую», statua citofonica. В сущности, это был первый ми­
крофон, сделанный на основе гигантской спиральной тру­
бы, которая передавала разговоры с городской площади. Те
звучали словно бы изо рта статуи, расположенной в частных
покоях владельца.

Вот как ее описывал изобретатель: «Статуя будет спо­

собна издавать звуки не переставая, говоря голосом то чело­
века, то животного, она будет смеяться и скрежетать зу­
бами, будет казаться, что она реально кричит или стонет,
а иногда к удивлению она будет дуть со страшной силой».
Statua citofonica была, возможно, первой системой мас­
совой прослушки, данные которой поступали во дворцы
итальянских олигархов. Люди на площади, конечно, не зна­
ли, что их разговоры используются когда для развлечения,

а когда и для интриг, связанных с властью или обогащением.

Тогда, как и сегодня, инфраструктура массовой прослушки
была доступна лишь элите.

С тех пор изменилось удивительно мало - разве что ши­

рокомасштабная слежка за населением с применением ИИ
давно перешла границы отдельных стран и стала глобаль­
ным явлением.

Об этом свидетельствует прежде всего бурный рост

рынка сенсорных сетей, контролируемый компания­
ми из Швейцарии и США (на 14% в год; ожидается, что
к 2020 году число установленных устройств достигнет 50
млн. По всему миру каждый год устанавливаются также сот­
ни миллионов «интеллигентных» камер наблюдения, этот
рынок растет на 16 % в год, и достигнет 800 млн долларов

64
 ДЕМОН ВНУТРИ

к 2022 году). Промышленные масштабы принял мониторинг

социальных сетей и, конечно, внедрение технологий распо­
знавания лиц и эмоций. ИИ автоматизировал слежку, сде­
лав ее охват практически тотальным - и тем самым ускорил

процесс утраты одной из основ современной западной ци­

вилизации - неприкосновенности частной жизни.
ИИ-технологии, которыми пользуются государства
по всему миру, подталкивают их к внедрению систем то­

тальной слежки и контроля за гражданами. Эти системы

слишком удобны, чтобы от них отказаться. Французский
журналист как-то спросил президента Барака Обаму, поче­
му США прослушивают иностранных лидеров. Тот ответил
в духе: мы делаем это, потому что можем.

Сознание новых возможностей пьянит политиков и лиде­

ров бизнеса, открывая путь к еще большей централизации
власти и концентрации ресурсов планеты в руках немногих.

Пресса много писала о примерах слежки, проводимой

при помощи ИИ в Китае, где правительство открыто при­
знает эти факты. Однако вся подобная инфраструктура
существует и в США, она производится частными компа­
ниями, которые в публичном пространстве акцентируют
внимание на других проектах, выставляющих их в благо­
приятном свете.

Инструменты, которые можно использовать для слеж­

ки в США, не афишируются правительством и правоохра­
нительными органами страны, но при наличии политиче­

ской воли или рыночного спроса легко могут быть примене­

ны. Так, известно, что Пентагон финансировал и, вероятно,
до сих пор финансирует слежку при помощи ИИ в соцсе­
тях для того, чтобы предсказать поведение больших масс
населения.

65
 V

ИИ РАСКОВАННЬIИ:
ОТ ЖАККАРДОВА СТАНКА К ЧЕЛОВЕКУ­

ТРАНСФОРМЕРУ
 РОЖДЕНИЕ ИИ ИЗ ДУХА ПОЭЗИИ

Рождение Искусственного Интеллекта напрямую связано

с поэзией, любовью и сепаратизмом.
«Не как у матери ль черты твои, дитя прекрасное мое!
Ада! Единственная дочь моего дома и сердца моего?»
Так вопрошал себя лорд Байрон перед тем, как отправить­
ся в мятежную Грецию, где он вступил в ряды сепаратистов,
воюющих против признанного тогдашним мировым сооб­
ществом законного правительства Великой Оттоманской
Порты. Байрон был знаменитый поэт-романтик, по по­
пулярности сравнимый разве что с сегодняшними звез­
дами рэпа, и свои строки он обращал к единственной за­
конной дочери Аде. Если бы тогда существовал инстаграм,
Байрон получил бы немало язвительных комментов и из­
девательских гифок. Как же «единственная» - ведь у него
была еще пара, а скорее всего и больше, незаконных доче­
рей - Аллегра, Элизабет Медора Ли и так далее.
Однако именно Аде предстояло сыграть роль в истории,
быть может, не менее значительную, чем ее непутевому па­
паше. Прощание, что называется, было недолгим: Байрон
бросил жену, когда его единственной и ненаглядной доче­
ри был всего месяц, запостил в своем аккаунте трогательные
строки и вскоре навсегда покинул Англию. Словно в индий­
ском фильме, маленькая девочка уже никогда больше не уви­
дит отца, чья смерть от малярии станет мировой сенсацией -
такой, что в далекой холодной России поэта будет оплакивать
другой реальный рэппер, Александр Сергеевич Пушкин.

69
 ИГОРЬ ШНУРЕНКО

Мама Ады Аннабелла, одиннадцатая баронесса Вентворт,

была так возмущена романом мужа со своей двоюродной се­
строй, что и слышать не хотела ни о какой поэзии. Поэтому
она выбрасывала из дома сборники стихов и отваживала
поэтов любых жанров, от романтиков до верлибристов, счи­
тая их такими же сумасшедшими, каким был ее муженек.
Выбивая клин клином, мама всячески поощряла интерес Ады
к логике, математике и точным наукам. Девушка росла вун­
деркиндом и с юности общалась со знаменитыми учеными,
такими, как биолог Чарльз Диккенс и физик Майкл Фарадей.
Но яблоко от яблони недалеко падает. Несмотря на успе­
хи в логике и точных науках, Аде передался бунтарский дух
отца. В возрасте 12 лет она решила сконструировать себе
крылья. Девочка подошла к проекту с методичностью уче­
ного, страстью француженки и воображением дочери поэта.
Она скрупулезно изучала разные материалы - бумагу, про­
масленный шелк, перья, исследовала анатомию птиц и даже
начала работу над книгой «Наука о полетах», иллюстрируя
ее собственными рисунками.
Ум, эрудиция и склонность к научным занятиям не сде­
лали ее сухарем. Редкая прозорливость и невероятная для
ее возраста образованность сочетались в Аде с ранним про­
буждением чувственности, характерной для всей ее семьи.
В семнадцать лет она влюбилась в домашнего наставника
и сбежала с ним, но парочку засекли родственники учителя,
и, всю в слезах, барышню вернули домой. Вскоре ее пред­
ставили ко двору. Она блистала на балах и стала, если мож­
но так выразиться, звездой тусовки - но наука влекла ее
не меньше, чем сердечные дела. В занятиях физикой и ма­
тематикой она точно не была легкомысленна. Ада называла
себя аналитиком и метафизиком, а свой научный метод -
поэтической наукой.
Математические формулы для Ады были живыми, пусть
даже и потусторонними существами, которые меняли формы,

70
 ДЕМОН ВНУТРИ

чтобы путать людей, но были ясны для провидцев. Она счи­

тала математику и метафизику одинаково ценными инстру­
ментами для исследований «невидимых миров вокруг нас».

ПЕРВЫЙ БИРЖЕВОЙ АЛГОРИТМ

Магия цифр увлекла Аду до такой степени, что она стала

играть на скачках - и продулась в пух и прах. Чтобы оты­
граться, она разработала математическую систему, кото­
рая должна была предсказывать выигрышные номера. Это
был прообраз современных биржевых аналитических мо­
делей, которыми пользуются как трейдеры, так и изощрен­
ные трейдинговые боты. Все это происходило в эпоху, когда
по незаселенным Соединенным Штатам еще бродили стада
бизонов, а наибольшую прибыль Британии давали не фи­
нансовые операции, а торговля рабами, которые покупались
в Африке за ракушки и сотнями тысяч поставлялись в США.
Чуть позже Британия нашла другой неиссякаемый источник
кэша: торговлю наркотиками, по дешевке производимыми

в Индии и втридорога поставлявшимися в Китай.

Легких денег по Лондону ходило тогда немало, и как
сейчас спекулянты криптовалютой не скупятся на кокаин
и «Ламборгини», золотая молодежь того времени азартно
просаживала деньги на бегах. Образовав из своих поклон­
ников синдикат, Ада Лавлейс убедила их инвестировать
в предприятие, куда каждый из них внес серьезную сумму.
Однако что-то в алгоритме пошло не так, все закончилось
провалом и гигантскими долгами, которые после смерти

Ады взял на себя ее муж.

О супруге, за которого она вышла двадцати лет от роду,
новоиспеченная леди Лавлейс вспоминала нечасто. А вот
увлекающегося своего отца любила, и когда умерла, то за­
вещала похоронить себя рядом с ним. Умерла она в 36 лет,

71
 ИГОРЬ ШНУРЕНКО

как и он - еще одно доказательство того, что математика

и поэзия странным образом связаны.

«Леди Фее», как называл Аду ее не менее знаменитый
учитель Чарльз Беббидж, было суждено войти в историю
науки как первому на Земле программисту. Она написала
первый алгоритм для математической машины Бэббиджа,
которую тот назвал «аналитическим двигателем». Машина
Бэббиджа считается первым компьютером, построенным,
правда, не на электричестве, которое тогда было такой же
странной экзотикой, как сегодня квантовые компьютеры,
а на принципах механики. По структуре, впрочем, машина
Бэббиджа ничем не отличалась от современного компьюте­
ра, да и цель у нее была такая же: быстрое и безошибочное
произведение вычислений. Ада Лавлейс поняла, что приме­
нять машину можно где угодно, и написала для нее первую

на свете программу.

Математик и философ, Бэббидж был воплощением об­

раза чокнутого профессора. Кто на кого влиял сильнее -
он на свою ученицу или она на него - неизвестно, но оба
весьма выделялись на фоне своих чопорных соплеменни­
ков. Мем «британские ученые» имеет достойную историю.
Бэббидж подсчитывал все, что встречал на своем пути: ве­
лосипеды, собак, экипажи, женщин, мужчин, детей, черно­
кожих, закрытые и открытые калитки, высокие и низкие

заборы, разбитые и целые стекла. На стекольную тему он

даже написал работу «Таблица относительной частоты при­
чин разбития оконных стекол». Выяснилось, что из 464 ис­
следованных образцов 14 были разбиты «пьяными мужчи­
нами, женщинами или детьми». Подход обещал многое для
будущих исследователей влияния пьянства на обществен­
ный порядок.
Хулиганские выходки плебеев настолько возмущали фи­
лософа, что он запустил целую кампанию борьбы за мо­
раль, а чтобы обосновать свои выводы, написал работу,

72
 ДЕМОН ВНУТРИ

«Обозрение уличных непотребств», где подробно проана­

лизировал 165 непотребств, случившихся на протяжении
80 дней - то есть исследовал примерно по два непотреб­
ства в день. Особенно математик ненавидел уличных орга­
нистов, ущерб от деятельности которых было не так просто
измерить.

Ученый гневно писал: «Трудно оценить страдания, кото­

рые обрушились на многие тысячи индивидуумов, и впол­
не весомые убытки для множества интеллигентных людей,
вызванные потерей их времени из-за музыки органистов
и от подобных непотребств.»
Помимо прочего, Бэббидж занимался криптографией
и кодами, и не изобрел биткойн только потому, что был за­
нят разработкой офтальмоскопа, который придумал рань­
ше Гемгольца.
Бэббидж повлиял даже на Маркса, который позаимство­
вал у кембриджского математика тезис, что промышлен­
ники внедряют разделение труда, чтобы увеличить не про­
изводительность, а прибыльность. В самом деле, произво­
дительность - ведь для капиталиста величина абстрактная,
а прибыль - вполне конкретная, осязаемая. С Марксом его
объединяла уверенность в возможности если не сегодня,
то в близком будущем решить проблемы общества, органи­
зовав его на рациональных началах.

Подобные оптимистические идеи витали в атмосфере

викторианской Англии, которая не сердилась на мир за то,
что грабила его как могла, и бурно развивалась во всех
направлениях.

Оба мыслителя считали, что чем больше люди изучают

законы природы, тем сильнее убеждаются в том, что мно­
жество ее форм основано на действии нескольких простых
принципов. Только Бэббидж называл это божественным
промыслом, а Маркс - историческим материализмом.

73
 ИГОРЬ ШНУРЕНКО

МАТЕМАТИКА ПРОТИВ РАСПУЩЕННОСТИ

Тем временем непотребства продолжались. Шарманщики

продолжали терроризировать формирующийся сред­
ний класс низкопробной музыкой Мендельсона и Генделя.
Стекольщики только успевали вставлять новые стекла
за уличными сорванцами и анархистами. Бэббидж начал
искать выход из окружавшего его социального хаоса на пу­

тях науки. Так он придумал «Аналитический двигатель»,

который и считают прообразом Искусственного интел­
лекта. К сожалению, ни один прототип так и не был закон­
чен при жизни изобретателя, но и сегодня его схема вдох­
новляет исследователей. Отдельные части незаконченно­
го механизма Бэббиджа демонстрируются в Лондонском
Музее Науки, а в 1991 году «Аналитический двигатель» был
построен в точности по его схеме. Ожидали чего угодно,
но только не того, что модель заработает именно так, как
и было задумано изобретателем. Позднее, уже в 2002 году,
была построена другая вычислительная машина Бэббиджа,
«Дифференциальный двигатель».
Наша прекрасная леди Лавлейс была восхищена обеими
машинами. Бэббидж, покоренный красотой и умом девушки,
называл ее математической феей и числовой волшебницей,
и был уверен, что ее восторги будут выражены не в эмоциях,
а в деле. Так и вышло. За девять месяцев в 1848-49 годах Ада
сформулировала методы работы с вычислительной маши­
ной. Сначала она перевела с итальянского книгу математи­
ка Луиджи Менабреа, который написал об «Аналитическом
двигателе» большую статью. Изобретение было пионерским,
в таких вещах практически никто не разбирался, и, несмо­
тря на то, что концепция устройства понравилась Майклу
Фарадею, другие английские ученые не увидели в нем поль­
зы и смысла. Еще более чуждой идея казалась аристокра­
там из круга, к которому принадлежала Ада. Но женщина

74
 ДЕМОН ВНУТРИ

не унывала и продолжала работать. К переводу она приложи­

ла свои примечания, которые были втрое больше самой ста­
тьи. В них она объяснила, чем отличается «Аналитический
двигатель» от «Дифференциального», а также во всех деталях
описала метод вычисления на «Аналитическом двигателе»
ряда чисел Бернулли. Эта была очень подробная инструк­
ция, фактически машинный код, который и считается пер­
вой в мире программой.

ДИЗАЙНЕРСКИЕ ПЕРФОКАРТЫ

Прообраз искусственного интеллекта обязан своим ро­

ждением не только поэзии, эксцентричности и стремле­

нию поставить математику на службу обществу, но и моде.

Дело в том, что Бэббидж применил в своей вычислитель­
ной машине программный принцип работы ткацкого стан­
ка, изобретенного в 1804 году Жозефом Мари Жаккардом.
«Жаккардова машина» использовалась для производства
тканей, ковров и скатертей с большими и сложными узора­
ми. Требовалось управлять перемещением большого числа
нитей основы одновременно. Жаккард придумал делать это
с помощью двоичного кода, записанного на первых в мире

перфокартах. Они набирались по заданному узору, соответ­

ствующие отверстиям нити поднимались или нет по прин­

ципу «есть отверстие-нет отверстия». Затем челнок проки­

дывал нить в образовавшийся зев, формируя двусторонний
орнамент, где одна сторона являлась цветовым или фактур­
ным негативом другой. Фактически это была первая маши­
на с программным управлением.

Взяв у Жаккарда идею программирования на картах,

Бэббидж придумал машину из множества шестеренок и про­
чих механических элементов, которые, собственно и выпол­
няли ту работу, которую сегодня делают транзисторы.

75
 ИГОРЬ ШНУРЕНКО

Чтобы привести машину в действие, нужно было кру­

тить ручку, от чего запускалась программа которая про­

изводила вычисления. Правда, работала такая маши­

на в 1.000.000.000.000 раз медленнее, чем современный
смартфон.

СТО ЛЕТ СПУСТЯ

Бэббидж и Ада Лавлейс опередили время на сто лет. Машина

кембриджского математика оставалась неким курьезом, на­
ука в это время развивалась совсем в других направлениях.

Самый большой прогресс был достигнут в физике, химии,

астрономии и смежных областях этих наук, связанных с из­
учением Земли и космоса. Математика тоже сильно про­
двинулась вперед, например, в исчислениях бесконечно ма­
лых величин: дифференциальное исчисление как раз предо­
ставило нужный аппарат ученым, которые хотели описать,
как работает Вселенная. Вычислительные машины уже тогда
могли бы найти применение в быстро развивавшихся ста­
тистике и математической логике, но, видимо, человечество
не накопило еще достаточно данных для анализа, да и орга­

низация общества была отсталой настолько, что этот ана­

лиз точно остался бы невостребованным. Маркс обсчитывал
свой анализ экономических основ капитализма вручную,
но если бы ему дали компьютер и больший массив данных,
то выводы его все равно мало бы кто заметил, какими бы
они ни были взрывоопасными.
Похожую ситуацию, кстати, мы наблюдаем и сегодня, ко­
гда некоторые новые технологии (например, криптодень­
ги и блокчейн) не используются просто потому, что суще­
ствующие структуры, общественные, частные и государ­
ственные, откровенно боятся за свое выживание в случае
их внедрения.

76
 ДЕМОН ВНУТРИ

Отправимся, однако, в первую половину ХХ века, когда

накапливались знания, сделавшие возможным киберне­
тический прорыв, случившийся сразу после второй миро­
вой войны: прорыв, который запустил в оборот и сам тер­
мин «искусственный интеллект», и все те области науки
и технологий, которые подразумеваются под этим состав­
ным понятием. В первой половине ХХ века человек рассма­
тривался как творец, меняющий ход истории, и на сочета­
ние человек+машина смотрели без страха - скорее, с наде­
ждой. Термин «искусственный интеллект» еще не появился.
«Умную машину» еще не воспринимали в отрыве от «умно­
го человека», и поэтому не видели в ней угрозы. Опасность
исходила скорее от себе подобных, чем от каких-то фанта­
стических роботов.
Когда сегодня новые технологии упрекают в том, что они
радикально трансформируют человека, его привычки, его
способы коммуникации с другими и с окружающей средой,
забывают о том, что в первой половине ХХ века перемены
были, пожалуй, куда радикальнее. Человек покорял природу,
он почти что завоевал планету, на которой родился, и был
готов выйти за ее пределы. В СССР строили цивилизацию,
нацеленную на штурм неба, а русские космисты, о которых
мы поговорим позже, разрабатывали идеи не только завое­
вания космоса, но и всеобщего бессмертия. Подобными во­
просами, забыв о своих предшественниках, через полвека
займутся трансгуманисты, и они будут звучать ново даже
в 1980-е годы.
Внутрь самого человека при этом особо не вглядывались,
хотя никакого религиозного пиетета по отношению к нему

давно не испытывали: о душе писали только неисправи­

мые ортодоксы. Стрела познания была направлена на миры

вовне, но, конечно же, при желании можно было изменить
и самого человека - как бы ни высмеивал подобные попытки
Михаил Булгаков в «Собачьем сердце». Новые педагогические

77
 ИГОРЬ ШНУРЕНКО

школы, от Монтессори до Макаренко, работали над созда­

нием совершенных людей. Своего нового человека актив­
но создавали не только в Советском Союзе или в Германии,
но и в Палестине, где сионисты сбросили с корабля исто­
рии язык своих отцов и матерей, который считался сим­
волом унижения и опостылевшего гетто. Идиш, язык пле­
нения и поражения, заменили ивритом - языком побед.
Соединенные Штаты, как известно, были гигантским пла­
вильным котлом, где иммигрант бросал в очищающий огонь
все свое прошлое - язык, культуру, привязанности и предрас­

судки, семейные связи, часто даже имя - и выходил из огня

очищенным, готовым к новой жизни с чистого листа.
Вообще, языки стали восприниматься по-другому­
не как нечто Богом данное, а как инструменты в дости­
жении целей, более того, появились синтетические язы­
ки, наподобие эсперанто. Это очень важно: мы увидим,
что некоторые ученые, стоявшие у истоков кибернети­
ки, криптографии, машинного обучения, нейрофизио­
логии и нейробиологии, так или иначе имели отношение
к лингвистике.

Много шума наделала в первые десятилетия теория пси­

хоанализа, и Зигмунда Фрейда рассматривали примерно
как Эйнштейна в физике- как некоего возмутителя спокой­
ствия. Идеи и того, и другого укладывались, однако, в почти
что математическую логику всеобщей революции - миро­
вой революции, как сказал бы третий возмутитель спокой­
ствия, Лев Троцкий. Все они говорили о вещах, противо­
речащих здравому смыслу- о том, что, двигаясь, тела тя­

желеют, людьми управляет подсознание, а человеческую

историю можно повернуть, вооружив тысячу рабочих.

Революции, действительно, следовали одна за другой,
привычное общество на глазах разрушалось и почва ухо­
дила из под ног европейцев, полвека до 1914 года жив­
ших в ситуации стабильности. Можно провести параллели

78
 ДЕМОН ВНУТРИ

с тем, что происходит в Европе сегодня, но не будем забе­

гать вперед.

Англоамериканские источники обычно отсчитывают ис­

торию кибернетики, искусственного интеллекта и всего
с этим связанного от американского математика Норберта
Винера и английского криптографа Алана Тьюринга. Вклад
Винера и Тьюринга невозможно преуменьшить - одна­
ко этот взгляд сегодня представляется весьма и весьма

ограниченным.

ТЕОРИЯ ВСЕОБЩЕГО КОНТРОЛЯ

Сместимся на юго-восток от старой доброй Англии, в сто­

рону Германии, по которой Первая мировая война ударила
особенно тяжело. Больше всего немцы хотели вернуть себе
контроль за своей жизнью, и это стремление стало драйве­
ром Германии на пути к новой войне - наряду с ненавистью
к той «расе», которая, по мнению многих немцев, была по­
винна в потере этого контроля.

В 1941 году сотрудник берлинского патентного бюро

Герман Шмидт опубликовал работу «Инженерный кон­
троль: техническая проблема и ее экономическое, социаль­
ное и культурное воздействие». В ней он предвосхитил ос­
новные идеи Норберта Винера, высказанные в конце 1940-х
годов.

Шмидт работал в бюро уже десять лет и с самого нача­

ла думал над тем, как придать смысл хаотическому нагро­

мождению новых заявок, скапливавшихся у него на столе.

Выход он видел в стандартизации и распределении изобре­

тений согласно их функциям и возможным способам при­
менения. Так ему было легче понять, насколько оригиналь­
ны эти идеи. Описывая методы контроля и классификации,
Шмидт понял, что открыл нечто большее - общую теорию

79
 ИГОРЬ ШНУРЕНКО

автоматического управления, которая могла быть приме­

нена в самых разных структурах контроля, от механических

до биологических и даже социальных.

Шмидтовская «теория всеобщего регулирования»
(Allgemeine Regelungskunde) была именно тем, чем впо­
следствии занялись Норберт Винер и его коллеги - ко­
нечно, без англосаксонского лицемерия и телячьих неж­
ностей, выраженных в названии основного труда Винера
«Человеческое применение для человеческих существ».
Нацисты высоко оценили работу Шмидта и в 1944 сдела­
ли его первым профессором «всеобщей теории регулиро­
вания» в Высшем техническом институте Берлина. В карь­
ере ему помогло и членство в национал-социалистической
партии. Научное и партийное руководство надеялось на то,
что методы Шмидта помогут германской промышленности
разработать самоуправляемые ракеты и подводные лодки.
Май 1945 года Шмидт встретил в Восточной Пруссии, где
жила его семья. После поражения Германии территория
будущей Калининградской области отошла к Советскому
Союзу. Семье профессора надлежало уехать в Берлин,
но Шмидта задержали. Его посетили весьма интеллигент­
ные и понимающие советские офицеры, которые сказали,
что, несмотря на нацистское прошлое, ему нечего бояться.
Вежливые люди порекомендовали профессору изложить
его любопытную теорию в виде учебника. От рекоменда­
ции, разумеется, невозможно было отказаться. Труд не­
мецкого ученого потом передали советскому теорети­

ку В. В. Солодовникову, который использовал и развил его

идеи в своем двухтомнике, посвященном теории автомати­

ческого регулирования. Это было то, что нужно для разра­

ботки самоуправляемого советского оружия. Солидный труд
Солодовникова дополнялся и переиздавался вплоть до кон­
ца 1960-х годов. Советский ученый описал системы с об­
ратной связью, провел анализ их устойчивости и качества,

80
 ДЕМОН ВНУТРИ

привел их статические и динамические характеристики, ти­

повые схемы и примеры.

Шмидт прошел процедуру денацификации в 1948 году

и через несколько лет был переназначен на свою старую
должность, продолжив преподавание в Высшем техниче­
ском институте в Берлине. Он продолжал заниматься кибер­
нетикой, но больше общался с философами, поскольку ин­
женеры и практики сомневались в применимости его идей.
Начавшаяся гонка вооружений между Советским Союзом
и Соединенными Штатами подстегивала быстрое развитие
как вычислительной техники, так и систем автоматического
управления. Германия находилась под полным контролем
союзников, которые не торопились доверять ей разработ­
ку нового оружия. Все хорошо помнили, как немцы между
мировыми войнами сумели не только не отстать в техниче­
ском развитии, но и выйти на передовые позиции. Они пре­
успели при этом в создании технологий двойного назначе­
ния - то есть тех, что могли быть использованы и в мирных,
и в военных целях. Проектировщики немецких гражданских
самолетов быстро переделывали их в истребители и бом­
бардировщики, автомобильные концерны легко переклю­
чались на выпуск танков, а прекрасные автострады и же­

лезные дороги строились так, чтобы по ним можно было

быстро перебрасывать войска и военную технику. Одним
из таких изобретений с двойным дном явилась шифроваль­
ная машина «Энигма», которой предстояло дать большой
толчок развитию криптографии, вычислительной техники
и кибернетики.
Над дешифровкой сообщений «Энигмы» работал британ­
ский математик и криптограф Алан Тьюринг, который стоял
у истоков современного понятия об искусственном интел­
лекте и его критериев.

Принято считать, что именно команда Тьюринга в годы

Второй мировой войны сумела расколоть код «Энигмы», так

81
 ИГОРЬ ШНУРЕНКО

что британцы могли читать совершенно секретные донесе­

ния германских высших чинов. Об этом написано множе­
ство книг и снято несколько фильмов, последний из кото­
рых, «Игра в имитацию» с Бенедиктом Камбербетчем в роли
Тьюринга, был обласкан критикой и получил «Оскара»
за лучшую сценарную адаптацию. В фильме Тьюринг спа­
сает мир, хакнув Гитлера. Во всех рецензиях говорится, что
благодаря дешифровке военных посланий немецкого гене­
рального штаба англичанами война закончилась на два года
раньше, чем могла бы, и были спасены миллионы жизней.
Тезис весьма сомнительный, если не впрямую взятый с по­
толка, но об этом речь дальше.
Реальная история, как и все истории, которые касаются
британского приоритета в науке, несколько сложнее голли­
вудской версии.
Вообще-то хакнули Гитлера польские математики во гла­
ве с Марианом Реевским, сыном торговца сигарами из го­
рода Быдгощ. Поляки сумели дешифровать немецкий во­
енный код еще в 1932 году, до прихода Гитлера к власти,
и до конца тридцатых были способны читать большую часть
немецкой военной переписки. Но обо всем по порядку.

КАК ПОЛЯКИ ХАКНУЛИ «ЭНИГМУ»

Немецкая электрическая шифровальная машина «Энигма»

была, конечно, чудом техники своего времени, и превосхо­
дила аналогичные криптографические устройства других
стран. Она производилась фирмой Scherblus & Ritter на ос­
нове патента, полученного в 1918 году инженером-элек­
триком Артуром Шербиусом. Шла первая мировая война,
и германская армия не могла решить проблему перехвата
сообщений. Ручные методы кодирования текстов не справ­
лялись с потоком информации. На шифрование странички

82
 ДЕМОН ВНУТРИ

приказа уходило три-четыре часа работы, на расшифров­

ку еще столько же. Особенно сильно в продвинутых систе­
мах шифрования нуждались моряки-подводники. Шербиус
создал машину размером с кухонную плиту и весом 50 кг
с прицелом продать ее германскому флоту. Но война за­
кончилась поражением Германии, и немецкий флот подле­
жал интернированию. Никто из нейтральных стран, однако,
не хотел нести ответственности за его содержание, поэтому

флот был разоружен и отконвоирован в бухту Скапа-Флоу

на Британских Оркнейских островах. Там в июне 1919 года
произошла история, похожая на подвиг «Варяга»: немец­
кие офицеры под руководством адмирала Людвига фон
Ройтера затопили корабли, открыв и заклинив кингстоны.
Англичане бросились спасать имущество, но безрезультат­
но. В стычках погибли девять немецких моряков, ставших
последними жертвами Первой мировой войны.
Итак, Кайзермарине перестал существовать, поэтому
Шербиус решил продавать машину банкам для шифрова­
ния денежных переводов. Это был прообраз существующей
сегодня банковской системы SWIFT с той разницей, что то­
гда не было интернета и мировые банки не были связаны
в единую сеть. Продажи шли ни шатко ни валко, в том числе
и из-за высокой стоимости устройства.
Интересно, что патент на подобный принцип работы
шифровальной машины годом раньше Шербиуса получил
американец Эдвард Хью Хеберн. Он тоже попытался про­
дать устройство военным морякам и тоже получил отказ.
Но Шербиусу повезло больше. Германия потихоньку опра­
вилась от поражения и стала тайно возрождать свои воору­
женные силы. Это происходило еще задолго до Гитлера, при
вполне себе либеральной Веймарской республике, которая
для вида изображала готовность выполнять жесткие огра­
ничения на армию и флот, а на самом деле уже тогда всеми
силами готовила реванш.

83
 ИГОРЬ ШНУРЕНКО

Рейхсвер и немецкий военно-морской флот, Рейсхмарине,

тщательно скрывали свои приготовления и отчаянно ну­

ждались в самых продвинутых средствах шифрования.

Именно поэтому адмиралы уже в 1926 году заказали пар­
тию модифицированных машин «Энигма». Через два
года машины Шербиуса в больших количествах стал за­
купать возрождающийся Рейсхвер, а в 1935 году, уже при
Гитлере - и Люфтваффе.
«Энигма» даже сейчас может произвести впечатление
на самых продвинутых криптанов. Таких машин выпу­
стили порядка ста тысяч (по другим оценкам, вдвое боль­
ше) - но до наших времен дожили считанные экземпля­
ры, которые высоко ценятся коллекционерами. Пару таких
машин можно увидеть в поразительном собрании техни­
ки Deutsches Museum в Мюнхене: они выглядят так, словно
немцы пользуются ими до сих пор. «Энигма» выставлена
и в британском Национальном компьютерном музее, кото­
рый находится в бывшей лаборатории Блетчи-Парк кило­
метрах в пятидесяти к северу от Лондона. Во время войны
там работала команда кодировщиков-математиков, среди
которых был и Алан Тьюринг.
Внешне «Энигма» выглядит как очень громоздкая пе­
чатная машинка с лампочками. Она работала на сочета­
нии принципов механики и электрики. Когда оператор
нажимал на клавишу какой-то буквы, это замыкало элек­
трическую цепь, по которой шел ток, в результате чего за­
горалась определенная лампочка, соответствующая букве
на выходе. Каждое нажатие клавиши приводило к пово­
роту ротора механической части - а этих роторов было
как минимум три. У каждого ротора было 26 контактов,
по числу букв, соединенных с контактами точно тако­
го же следующего ротора, или с неподвижными контак­

тами на обоих концах шпинделя, на котором находились

роторы.

84
 ДЕМОН ВНУТРИ

Фокус заключался в том, что вся цепь менялась с каждым

нажатием клавиши, и предугадать, какая лампочка загорит­

ся на выходе, можно было, лишь имея точно такую же ма­

шину и зная ключ. К концу войны число роторов возросло
до восьми, при этом каждый раз оператор выбирал, какие
три из восьми роторов использовать для шифровки. В ито­
ге число возможных сочетаний цепи устройства выросло
на порядки, до 103 секстилионов.
Как происходила работа с «Энигмой»? Оператору да­
вали текст сообщения для шифрования. Он набивал его
на клавиатуре, и по принципу, описанному выше, текст

тут же преобразовывался в некую последовательность сиг­

налов лампочек. Каждой лампочке соответствовала бук­
ва. Затем либо оператор записывал получившуюся по­
следовательность вручную, либо, в продвинутых версиях
устройства, это делала автоматическая печатная машинка.
Затем получившийся код передавали по радио принима­
ющему оператору-у него была точно такая же «Энигма».
Он вбивал в машину принятое сообщение - и записывал
последовательность вспыхивающих лампочек, которая

представляла собой уже расшифрованный текст. К при­

нимающей «Энигме» также могла быть подключена пе­
чатная машинка.

Система работала с исключительной для того времени

безопасностью. Даже в случае радиоперехвата на расши­
фровку сообщений у противника были считанные часы:
ведь ключи все время менялись. Разгадать ключ было не­
реально. Мало того, что каждые восемь часов оператор при­
думывал новый ключ, он еще каждый раз дважды шифро­
вал его с использованием дневного ключа из кодовой кни­
ги. Этот ключ, в свою очередь, определялся настройками
коммутационной панели, порядком роторов и их началь­
ными установками и положениями колец. При каждом
шаге шифрования положения роторов менялись. Чтобы

85
 ИГОРЬ ШНУРЕНКО

расшифровать послание, принимающая сторона должна

была иметь точно такую же «Энигму» и кодовую книгу.
Пионерским изобретением можно считать и автомати­
ческую печатную машинку Schreibmax. При работе на таких
машинах оператору не нужно было лихорадочно записы­
вать буквы, соответствующие сигналам лампочек: устрой­
ство делало это само.

Немцы были уверены в том, что их «Энигму» не раско­

лоть, но, несмотря на это, они постоянно совершенствова­

ли устройство, добавляя новые роторы, каждый из которых

повышал сложность системы на порядок.

В альтернативной истории, если бы Гитлер продержал­

ся еще годик-другой, могла бы произойти трансформа­
ция «Энигмы» в вычислительную машину со сложностью
на мировом уровне конца 1950-х годов. Возможно, тогда
уже к концу 1940-х появились бы первые самоуправляемые
баллистические ракеты: ведь Вернер фон Браун и другие
немецкие инженеры на пару десятков лет опережали сво­

их ближайших конкурентов, СССР и США, в ракетострое­

нии. Их детище «Фау-2» представлено в том же Deutsches
Museum в Мюнхене и выглядит практически как копия ко­
рабля «Восток».
Когда летом 1945 года Сергей Королев увидел показатель­
ные испытания «Фау-2», произведенные союзниками, он
понял, что то, чем занималась его группа, были детские иг­
рушки по сравнению с тем, чего удалось достичь немецким

инженерам. Он решил полностью сменить подход и полно­

стью поставить крест на своих разработках ракетоплана -
а ведь этому были отданы пятнадцать лет его жизни. Вместо
этого Королев решил досконально изучить немецкую «ра­
кету будущего», а разобрав ее по косточкам - начать совер­
шенствовать. Если бы не немецкие наработки, человек по­
летел в космос значительно позже. И тут, кстати, не стоит
думать, что американцы справились бы с задачей быстрее:

86
 ДЕМОН ВНУТРИ

ведь у них была фора. Они заполучили лично Вернера фон

Брауна с его блестящей командой специалистов, плюс око­
ло ста готовых «Фау-2», и могли продолжить дело практи­
чески с того момента, на котором остановились немцы -
в то время как русские достали лишь отдельные агрегаты

этих ракет и кое- какое оборудование для их запуска, так что

Королеву пришлось потратить еще несколько лет для того,
чтобы выйти на немецкий уровень 1945 года.
Блестящая немецкая инженерная и научная мысль, экс­
плуатировавшаяся алчными и беспринципными политика­
ми для достижения мирового господства, была направлена
на доминирование и уничтожение. Но именно она способ­
ствовала выходу человека в космос. Точно так же немецкая
технология «Энигмы» дала мощный толчок разработкам
компьютерной техники англо-американцами, и не только
ими. Необходимость во что бы то ни стало расколоть немец­
кую систему кодирования привела к постройке в Британии,
при американском содействии, мощнейшей по тем време­
нам вычислительной машины, которая не просто склады­
вала и умножала, а работала как компьютер-то есть вы­
полняла действия математической логики. Логика в осно­
ве компьютерных вычислений определялась инструкциями
для оператора «Энигмы», то есть руководством, написан­
ным для человека - так же как сегодня нейросети приме­
няют в своей работе подходы, имитирующие работу ней­
ронов мозга.

Именно в годы Второй мировой войны впервые создан­

ное человеком электромеханическое устройство реально за­
менило работу целой команды математиков и шифроваль­
щиков, занимаясь интеллектуальным трудом. Такую маши­
ну вполне было можно считать прообразом искусственного
интеллекта. Но для достижения результата сначала требо­
валось просто поверить в то, что это возможно, что человек

может построить компьютер, способный быстро выполнять

87
 ИГОРЬ ШНУРЕНКО

вычислительные и логические задачи, с которыми сам он

не справится.

Эту заслугу интеллектуального дерзновения нужно,

без сомнения, приписать группе польских математиков, ко­
торые, собственно, и раскололи код «Энигмы», впоследствии
передав свои наработки англичанам. О заслугах польских
дешифровщиков практически ничего не писали до самого
последнего времени - или писали нехотя, вскользь, пото­

му что этот факт не укладывался в «слишком человеческую»

логику американоцентризма или англоцентризма, став­

шую сегодня уже практически карго-культом. Англичане

не писали потому, что им слишком известна правда, кото­

рая их не красит, американцы - потому, что для них прав­

да еще более идеологична: это то, что показывает Голливуд.

Давайте расскажем эту историю через воображаемое интер­
вью с главным ее персонажем, Марианом Адамом Реевским.

ЭКСКЛЮЗИВНОЕ ИНТЕРВЬЮ С МАРИАНОМ РЕЕВСКИМ

Итак, мы в Варшаве 1970-х. Солнечный майский день, мы

сидим в уличном кафе на Новем Святе где-нибудь возле
Университета, пьем восхитительный кофе, сваренный пани
Каролиной, откусываем понемногу от вафелек и тихо бесе­
дуем с небольшого роста пожилым господином в роговых
очках бабочкой. Его череп с редкими седыми волосами от­
ливает глянцем на ласковом майском солнце, на нем изящ­
ный шейный платок и аккуратный, хотя и не новый костюм
в крупную клетку.

- Пан Реевский, расскажите немного о себе. Вы ведь роди­

лись на немецкой территории?
- Сейчас Быдгощь- это Польша, а тогда город Бромберг был
частью Германского Рейха. Я в 1905 году родился, старый уже!
- Вы выглядите очень молодо.

88
 ДЕМОН ВНУТРИ

- Спасибо большое, выгляжу, как все в мои годы. Кажется,

вы пришли поговорить не об этом.
- Действительно. Вы говорили по-немецки, и поэтому вас
взяли в группу криптологов генерального штаба?
- Не спешите, молодой человек. Все было не так просто.
Немецкий, конечно, помог, но главное - математика. Наш
университет в Познани - это была мировая школа. Польская
школа! Сначала нам, студентам, предложили пройти шести­
месячный курс криптографии. Двадцать человек отобрали,
я прошел после собеседования с подпоручиком Ченжским.
И, конечно, в конечную цель нас никто не посвящал, зачем
это делается. Чудо, что вообще на криптографию внимание
обратили, в других странах так не делали.
- Почему, по-вашему, в Польше этому уделялось такое
внимание?
- Об этом, пожалуй, рано еще рассказывать. Да и небез­
опасно - прежде всего для вас.

- Мы договорились о полной откровенности, пан Реевский.

Ничто из того, что вы расскажете, не будет доступно ва­
шим современникам, в том числе и сам факт нашей встре­
чи останется неизвестным. Я сам из будущего и показал вам
кое-что в доказательство своих слов.
- Да, ваша коробочка с надкушенным яблочком меня по­
забавила. Но в ней нет ничего невозможного. Не показы­
вайте только ее больше никому. Не верю только, что такое
делают в Китае. Этого просто не может быть!
- Китай по внедрению технологий в жизнь сегодня на пер­
вом месте в мире.

- Очевидное - невероятное! Вы сами не из Службы

Безопасности? У вас русский акцент. Ладно, поверю вам.
Мы, поляки, слишком многим верим, через это и наши беды,
Матка Баска! О чем вы меня спрашивали?
- Вы начали обт,яснять мне, почему в Польше, когда вы
были студентом, так активно развивали криптографию.

89
 ИГОРЬ ШНУРЕНКО

- Очевидно! Юзеф Пилсудский! Дедок! Вы, молодой

человек, наверное, не знаете, кем был Дедок. Комендант
его еще называли. Это был начальник государства, мар­
шалек. Сегодня его имя называть запрещено, но Польша
еще вспомнит его. Знаете, как он разгромил русских
в двадцатом году? Тухачевский уже был под Варшавой,
и Дзержинский на пару с Троцким уже готовились въехать
в Замек Крулевский на своих «Роллс-Ройсах». Дзержинский,
однокашник Пилсудского по гимназии в Вильно. Но у Дедка
был пан Ковалевский, великий и могучий Ян Ковалевский.
Блестящий талант! Учился в Бельгии на химика, но пре­
красно понимал математику. В армии царя Николая
Ковалевский служил в инженерном резерве, там и освоил
науку шифров. Да и сам Дедок в таких делах собаку съел!
Всегда у Пилсудского тайные проекты, в которых главное -
перехватить переписку врага и узнать его планы, и не дать

ему узнать твои. Дедок с юности был обучен конспирации,

всегда шифровался. Многому его японцы научили, когда
он к ним в Токио ездил, потом австрийцы, немцы. Почему
Дедок с немцами был так осторожен? Да потому что знал
их планы. А может, они его и свели в могилу через вен­
ского профессора, которого прислали желудок обследо­
вать? Не узнаем этого уже никогда. Ковалевский в два­
дцатом разгадал все русские шифры - и красных, и белых.
Прослушивал всю вашу Россию-матушку от Мурманска
до Сибири, от Минска до Кавказа, десятки телеграмм
ему приносили каждый день. Знал секретные прика­
зы Троцкого, знал, где с кем сейчас пьет Буденный, знал,
куда двинутся добровольцы Деникина и Колчака. Что сде­
лал Ковалевский? Создал сеть станций прослушки, ко­
торые передавали ему перехваты по телеграфу. Прямо
в Генштаб. Сначала на взлом уходило две недели, потом
неделя, потом два дня, от силы три. По нынешним време­
нам кажется медленно, но тогда этого хватало. Сто ключей

90
 ДЕМОН ВНУТРИ

взломали за полтора года, тысячи шифрограмм Троцкого,

Тухачевского, Якира, Гая.
- Почему поляки взломали русских, а не наоборот?
- Потому что лучшие наши математики там работали.
Цвет варшавской школы, львовские орлята, молодые ребя­
та из Познани. Станислав Лесневский, Стефан Мазуркевич,
Вацлав Серпинский, профессора, аспиранты. Знали, где сто­
ит и куда движется каждый красный штандарт.
- То есть, так называемое «Чудо на Висле» случилось бла­
годаря криптографам?
- Так и есть. Красные потеряли Сикорского, а он зашел
им в тыл и разгромил наголову. Растерянность, бегство, все
побросали большевики. В штаб четвертой армии поступи­
ла радиограмма Тухачевского без промедления наступать,
но было поздно. Радиостанцию в суматохе сожгли. Никто
не услышал приказа. Была у русских и вторая радиостан­
ция, но ее вывели из строя по-другому. Ковалевский на­
строил передатчик на секретную частоту красных и на­

чал беспрерывно передавать по ней библейские тексты.

Евангелие от Иоанна вместо Маркса. Прямо из Варшавской
Цитадели. Так что русские не могли принять ни одной ра­
диограммы из Минска. И целая армия красных побежа­
ла, они все перешли в Восточную Пруссию и сдались нем­
цам. Разгром был полным. Тухачевский потом писал в ме­
муарах, что полякам повезло - но это не везение было,
а математика.

- Значит, все случилось благодаря Пилсудскому?

- Точно так. Дедку это сильно помогло: после того как он
разгромил красных, его авторитет был непререкаем. Стал
отцом нации. Потом Дедку шифры помогли в 26-м, во время
военного переворота.

- Вернемся к «Энигме». Почему для раскрытия немецкого

кода не привлекли опытных математиков, ваших учителей?
Того же профессора Серпинского?

91
 ИГОРЬ ШНУРЕНКО

- Потому что никто не верил, что это возможно - кроме

нас, дураков. Даже Ковалевский не до конца верил. Но был
такой подпоручик Макс, Максимилиан Ченжский из герман­
ской секции шифровального бюро Генштаба, я его упоми­
нал уже. Это была его идея: взять молодых талантливых ре­
бят и вырастить из них настоящих криптографов. Сначала
мы прошли полугодовой курс криптографии в университете,
потом отобрали самых лучших и учили три года.
- Все это было в Познани?
- Так точно. Ченжский все эти три года приезжал, хотя бы
раз в неделю, нас проверять. И при этом ни разу не прого­
ворился, для чего нас учат. И вот летом 32-го года он ото­
брал нас троих. Нас разместили в бывшей резиденции крон­
принца в Познани и дали задание: расколоть трудный шифр.
Ну, мы еще не знали, насколько трудный. Знали бы, может,
и не взялись бы никогда. И не могли знать, что это станет
делом всей нашей жизни.
- Это были вы, Ежи Ружицкий и Генрих Зыгальский?
- Совершенно верно.
- Вы раскололи шифр «Энигмы» втроем?
- Была еще подсказка от французов. А они получили ее
от своего агента в Германии. Интересная история, я после
войны о ней прочитал. Его кличка была «Аше», а звали его
Ганс-Тило Шмидт. Его брат Рудольф работал начальником
отдела в министерстве обороны, именно он и принял ре­
шение купить «Энигму». У Рудольфа было все: положение,
женщины, деньги, а Ганс-Тило был бедный и больной. Он
пострадал от газовой атаки своей же немецкой армии в пер­
вую мировую, а в кризис потерял работу. И бедный брат воз­
ненавидел богатого, а на Германию, которая его отравила,
ему было наплевать. Он и стал сливать французам инфор­
мацию, за деньги. Сначала вытащил из сейфа брата и сфото­
графировал инструкции по пользованию машиной, потом
много лет передавал французам книги с использованными

92
 ДЕМОН ВНУТРИ

кодами. Эти книги должны были уничтожаться, но попадали

в наши руки. Правда, самые свежие из них лежали в столе
у моего начальника Гвидо Лангера. Он считал, что нам нуж­
но научиться работать без подсказок, и не торопился нам
их передавать.

- А что было бы, если бы Лангер передавал вам книги?

- Мы бы продвинулись дальше и быстрее. Но все равно
мы немцев сделали!
- А французы сами не смогли расколоть код?
- Они и не особо пытались. Или не знали, что делать
с инструкциями Шмидта - там ведь шифры были уже ста­
рые, за прошлые месяцы. Глава французского бюро Гюстав
Бертран поделился информацией с англичанами, но и те
не заинтересовались. Сочли, что для расшифровки этого
явно недостаточно. Так что Бертран передал нам то, что са­
мим было не нужно.
- Но потом у них получилось, в Блечли-Парке. В команде,
где работал Тьюринг.
- Да, получилось. Долго не получалось, пока мы им не по-
казали свою бомбу.
-Бомбу?
- Да, так мы называли наше устройство по дешифровке.
- Оно тикало, как бомба. И еще было похоже на пирож-
ное - знаете кондитерскую на Светнтокжиской, напротив
костела? Там такие бомбы и сейчас продают, по двадцать
злотых. Пальчики оближешь!
- Вы передали эту вашу бомбу англичанам?
- Да, за полтора месяца до начала войны. Передали им
нашу бомбу, все наши наработки и сами машины.
- У вас были «Энигмы»?
- Польская фирма AVA научилась их делать, хотя и не сра-
зу, а когда у нас получилась электрическая схема развод­

ки. Тогда AVA изготовила нам машины, в точности такие,

как немецкие. Но это было потом, а сначала дело было так.

93
 ИГОРЬ ШНУРЕНКО

В 1929 году германский посол попросил вернуть ему цен­

ную коробку, которая случайно попала на варшавскую та­
можню. Наша разведка заинтересовалась, что там внутри.
Оказалось, это машина «Энигма». Машину изучили специа­
листы фирмы, все что могли, тщательно скопировали, а по­
том коробку аккуратно заклеили и отправили в германское
посольство. Но машину в тот раз не сделали, получили боль­
ше вопросов, чем ответов. У англичан «Энигмы» появились
раньше, чем у нас. И даже раньше, чем у самих Рейхсвера
или Кригсмарине. Ведь как только инженер Шербиус стал
их продавать, машинами заинтересовалась Room 40-бри­
танская криптографическая служба. Они купили у Chiffrier-
Maschinen AG партию машин, поставив условием регистра­
цию патента в своем патентном бюро. Так англичане полу­
чили подробное описание криптографической схемы.
- И все равно ничего не смогли сделать?
- Я же вам говорю, дело считалось невозможным.
- А как это удалось вам?
- Математика, молодой человек. Я разделил задачу на две
составляющие. Нужно было установить в точности настрой­
ки коммутационной панели и схему проводки между кон­
тактами роторов. Как я сказал, я получил подсказку- кодо­
вые книги двухмесячной давности. У нас не было машины,
но были коды! Я думал, что в начале каждого сообщения
немцы будут повторять ключ. Понятно, что ключ будет за­
шифрован, но зная, что первые символы шифра - это ключ,
можно было сопоставить начало всех сообщений и уста­
новить соответствия букв. Ведь каждой букве после ввода
ключа четко соответствовала другая. Имея представление
о строении самой машинки, можно было составить схему со­
ответствий. Конечно, проблема была в порядке букв на пер­
вом роторе. Этого мы не могли знать. Помню, предположи­
ли, что это та же схема, что на печатной машинке: QWERTY
и так далее. Пробовали по всякому, но ничего не получалось.

94
 ДЕМОН ВНУТРИ

Тогда я представил себя немцем из Бромберга. Какой бы по­

рядок букв сделал бы я, если бы был нашим булочником гер­
ром Мюллером? И тут меня осенило. Ну конечно же, этот
ряд будет олицетворением порядка: ABCDEF! Потом я стал
составлять цепочки вариантов контактов между буквами
роторов. Оказалось, что их всего 26 в третьей степени умно­
жить на три факториал. Это было всего 105456 вариантов!
Можно было составить их полный каталог.
- Но это адова работа!
- Да, почти год мы этим занимались. Из двух соединен-
ных между собой «Энигм» мы сделали циклометр- это та­
кое устройство по перебору вариантов. Аналоговое, как бы
сейчас сказали. Прекрасно работало - до тех пор, пока нем­
цы не изменили протокол передачи ключа. Теперь оператор
мог придумывать его и посылать в не зашифрованном виде,
так что наш каталог оказался бесполезным.
- А как же настройки коммутационной панели? Как их
удалось узнать? Французы дали?
- Нет, с этим французы не помогли. Но настро