Игорь Шнуренко

Игорь Шнуренко

aka Cyril Gilson

ДЕМОН
ВНУТРИ
АНАТОМИЯ
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Издательство «Наше завтра»

МОСКВА
2021
УДК 004.8+681.51.331.5
ББК 32.813.5+32.96
Ш77

Автор сердечно благодарит

Марию Васильевну Шукшину, Илью Александровича Кузнецова
и всех тех, кто принял участие в краудфандинге книги
на сайте planeta.ru. Без ваших вкладов,
вне зависимости от их величины,

это издание было бы невозможным.

Шнуренко, Иrорь
Ш 77 Демон внутри. Анатомия искусственного интеллекта. -
М.: Издательство «Наше завтра», 2021. - 512 с.

ISBN 978-5-6045084-5-9

Криптожурналист и исследователь искусственного интеллекта Игорь

Шнуренко, известный под псевдонимом Cyril Gilson, приглашает чита­
теля в анатомический театр, в котором вскрывает организм самой мощ­
ной и таинственной индустрии мира, представляющую собой огромную
пирамиду из материальных ресурсов, знаний и подневольного челове­
ческого труда.

Величайшее творение человека, искусственный интеллект, было созда­

но для того, чтобы привести людей к полной и безграничной свободе.
Однако, человечество оказалось в новом рабстве. Возможно, это рабство
еще более цинично и аморально чем то, что было в Древней Греции.
Как случилось, что интернет, который был придуман для того, чтобы
объединить народы, превратился в средство атомизации общества, сде­
лав нас всех эгоистами-одиночками?
Что такое искусственный интеллект и кто за ним стоит? Чего ждать
от технологий, которые вышли прямо из сериала "Черное зеркало"?
Чем кончится гонка, победа в которой даст мировое господство?
Как нам выжить в борьбе с демоном, которого мы сами и породили?

УДК 004.8+681.51.331.5
ББК 32.813.5+32.96

© Шнуренко И.А., 2020

Не всё, что считается, можно посчитать,
и не всё, что можно посчитать, считается.
Альберт Эйнштейн

То, что вообще может быть сказано, может

быть сказано ясно; о чем нельзя говорить,
о том следует молчать.

Людвиг Витгенштейн
СУЩЕСТВУЕТ ЛИ
-
ИСКУССТВЕННЬIИ
ИНТЕЛЛЕКТ?
Что такое искусственный интеллект и чего от него ждать? Уже
сегодня умные вещи пишут за нас, читают нас, развлекают

нас, думают за нас, решают за нас. Умные вещи слушают нас,

узнают нас, встречают и провожают нас, замеряют наш пульс,

наш восторг, нашу апатию, наш гнев, нашу радость, наше

горе. Они сбивают из наших эмоций своё компьютерное мас­

ло, чтобы сделать нашу жизнь удобной, счастливой и вечной.
Или, быть может, им дана задача залезть в нас, расколоть нас,
чтобы управлять нами изнутри? Мы не хотим об этом думать,
но в следующей войне умные вещи будут убивать нас.
Умные вещи, которым мы отдаем самое интимное, что
у нас есть, будут жить за нас, используя наш опыт для того,
чтобы однажды превзойти нас. Но будут ли они страдать
за нас, умирать за нас? В обмен на маску покорности матри­
ца даст вам вечную жизнь в виде записи на флешку- и со­
трет при этом ненужные ей воспоминания.
Учёные, политики, инженеры всё больше уверены, что
наука с приходом суперкомпьютеров изменилась. Для того,
чтобы узнать, что будет завтра, надо всего лишь загрузить
в машину все данные о сегодня, и она выдаст точное пред­

сказание ... Чтобы открыть природные взаимосвязи, не нуж­

ны больше интуиция, опыт, образование. Гений, не нужен!
Эйнштейн, Менделеев, Лейбниц - достаточно соединить
датчики с процессором, и результат прилетит вам на любое
устройство! Нажимать на кнопки мы считаем трудом и пред­
почитаем касание, но скоро и это покажется слишком боль­
шим усилием. Действительно ли, человека всё ещё можно на­
зывать разумным?
Насколько фрики в лабораториях продвинулись в изобре­
тении гаджетов, которые нас заменят? Сначала нас, а потом
их самих? Так называемая «пандемия» коронавируса пока­
зала, что если закрыть всё население планеты дома, заво­
ды, перешедшие на безлюдные технологии, не остановятся.
Дивному новому миру не требуются люди в таком количестве,

7
 ИГОРЬ ШНУРЕНКО

и мы уже видим, как нашу численность регулируют. Пока

мягко.

Погрузят ли нас всех в нирвану SG, где мы будем до одуре­

ния смотреть фильмы с полным погружением, а наша жизнь
будет становиться всё более виртуальной, пока, наконец, мы
не поменяемся с киногероями местами? Разрешит ли вам ро­
бот Виталий сидеть в джакузи с резиновой Зиной, или с пла­
стичным Паулем, пока он деловито убирает квартиру? Вам,
от которого ничего уже не зависит? Или, получив пропуск
на выход из умной квартиры, мы будем драться друг с дру­
гом за отбросы на умных свалках, надеясь на то, что про нас
просто забыли?
Как разворачивается гонка, победа в которой может дать
власть над миром - и что сегодня делать людям, чтобы вы­
жить? Неужели придется соединиться с компьютером в одну
кибернетическую систему, как предлагает Илон Маек, пре­
вратившись в придаток сверхразумной машины?
Отвечая на все перечисленные вопросы, я начал писать
эту книгу. Меня больше всего привлекала возможность по­
казать балет научных идей, догадок и прозрений, балет, в ко­
тором главные партии исполняют талантливые учёные: ма­
тематики, биологи, психологи, нейроученые, и, что очень
важно, философы. В процессе работы я обратил внимание
на хайп, который окружает развитие искусственного интел­
лекта. Цепляющие заголовки у одних вызывают эйфорию,
у других - страх. При этом, практически отсутствуют анализ
и изучение истории вопроса - а это необходимо для того,
чтобы человек, обладающий критическим мышлением, пра­
вильно оценил открывающиеся возможности, а также осо­

знал риски. Можно ли в столь важных вопросах опираться

на мифы, пропаганду заинтересованных структур или кон­
спирологию? Эта прорывная область знаний ещё только скла­
дывается, и вокруг многих концепций здесь идут ожесточён­
ные споры. Однако уже сейчас крайне важно понимать, как

8
 ДЕМОН ВНУТРИ

использовать системы ИИ во благо всего человечества, для

выхода людей на новые уровни творческих и когнитивных
способностей, а не для разъединения, массовой слежки и но­
вых способов убийств.
Когда мы слышим «искусственный интеллект» (или «ИИ»,
или «Искин» ), то чаще всего наше воображение рисует об­
раз из кино. Кто-то видит зловещий красный глаз Хала-9000
из фильма «Космическая одиссея 2001 года». Кто-то-краси­
вую девушку Аву из фильма Ех Machina. Ава выглядит чело­
веком, но для нас это такой же черный ящик, как Хал. Оба
сообразительнее человека, оба при этом могут сыграть в под­
давки, чтобы, усыпив наше доверие, нанести предательский
удар.

Программисты, читая эти строки, наверняка посмеивают­

ся. Им, и только им одним известно, что «искусственный ин­
теллект» - это всего лишь сложный алгоритм, код, програм­
ма работы нейросети. Все, что не объясняется математикой,
программисты считают мистикой, в том числе такие понятия,
как человеческое сознание или свобода воли. Они уверены,
что еще немного кода - и человек будет расколот окончатель­
но. Впрочем, вот уже несколько десятилетий программисты,
когнитивисты и коннективисты изучают нематоду, круглого

червя с мозгом всего в 800 нейронов (против почти ста мил­

лиардов нейронов у человека). Они так и не смогли предска­
зать, что этот тупица собирается делать в следующую секунду.
Для китайского инженера, который приходит в ангар
менять водяное охлаждение, ИИ сидит в железе бесконеч­
ных рядов сервера. Для домохозяйки Анестейши из Техаса
ИИ - это цилиндрик Алекса, который стоит в углу за трюмо.
«Привет, Алекса!» «Добрый вечер, Анестейша, ты проживешь
ещё 12 лет. Извини, я перепутала. 21». Для конголезского
мальчика Тьерри ИИ - это его работа в тесной клети на шах­
те оловянного рудника. Для самого богатого человека в мире
Джеффа Безоса ИИ - основа пищевой цепочки его бизнеса,

9
 ИГОРЬ ШНУРЕНКО

на которую работает и Тьерри, и китайские инженеры, и рус­

ские программисты, и сотни тысяч других людей, включая ту
самую техасскую домохозяйку.
Для профессора Иванова ИИ - это «глубокое машинное
обучение», «неокортекс», «восходящий подход». Его коллега,
доктор наук Петров, считает, что ИИ нам прислали прями­
ком из ЦРУ, как в свое время криптовалюту. На самом деле
ИИ - это изобретатель биткойна Сатоши Накамото, штатный
сотрудник ЦРУ по прозвищу Страшила. Теперь вся крипта­
валюта мира идет на покупку Страшиле некоторого количе­
ства ума. Страшила всё видит в цветах «Сбербанка», где все
сотрудники заменены роботами, а управляет ими йог си­
лою мысли. Йогом же управляют элиты, ведь ничто в мире
не происходит без тайной договоренности.
Профессор Сидоров считает, что никакого «искусственно­
го интеллекта» нет. Гагарин в космос летал и никакого искус­
ственного интеллекта не видал. Ни искусственного, ни есте­
ственного. Разума не существует, он игра рептилоидов, с ко­
торыми бесполезно, что бороться, что сотрудничать. Есть
дистанционный интеллект, говорит Сидоров. Захотел - вклю­
чил, захотел - выключил. Ум переместился с белка на песок,
от человека на кварц микросхемы. Человеческая мысль тя­
нется вроде сопли, если ее в одном месте прибыло, то в дру­
гом убыло. Мы уже не можем запомнить телефонные номера.
Как только они оказываются в памяти телефона, то самоуда­
ляются из головы. Как только информация стала общедо­
ступной - считайте, что ее нет. Она стала ничьей, и потому
подлежит приватизации, говорит Сидоров. Как и вся память
низших. У высших все по-другому, они могут нанять себе
профессиональную память.
Снова мы слышим голос профессора Иванова: «Нет ника­
кого естественного интеллекта, потому что человек ничем

не отличается от животного. Да, он крупнее крысы и мозг его

весит больше. Но нейросети скоро превзойдут его».

10
 ДЕМОН ВНУТРИ

Что произойдет тогда? Технократы верят в то, что смо­

гут всех цифровизовать и, в конце концов, записать каждо­
го на электронный носитель. Те, кто побогаче, смогут ино­
гда выгружаться «в реал», чтобы размять ноги. Для них будут
созданы особые миры наподобие того, что показан в сериа­
ле «Мир Дикого Запада» - из настоящих ингредиентов. Вы
не отличите андроида от человека. Следующий этап - само­
замкнутые вселенные, которые будут возникать и умирать
без шума и пыли при помощи алгоритма. В таком вирту­
альном, но очень реальном мире можно будет смело делать
мертвую петлю на фанерном самолете. Разобьетесь- не беда,
искусственный интеллект новых нарожает. И даже Тот Свет
создаст, с адом и раем- игра есть игра. С волшебным стоп­
словом, чтобы выйти. Или без него - неважно, ведь ваша ко­
пия будет храниться вечно.
В этом месте мне захотелось написать: и тут я проснулся.
А безумные профессора растворились в тонком воздухе, как
обитатели заколдованного острова в «Буре» у Шекспира.
Они действительно растворились, но над тем, что они
сказали, стоило бы поразмыслить - точно так же красавице
Миранде стоило бы прокрутить в голове все, что приключи­
лось с ней на острове волшебника Просперо. И не слишком
доверять ни злобному Калибану, ни той гоп-компании, кото­
рую пожелал спасти от смерти ее отец.

Я думаю, что будущее не предопределено, и те, кто пред­

лагает нам тот или иной его вариант под девизом «другого
пути нет», хотят навязать нам свое видение. Те, кто говорит,
что машина будет править миром и человечеству остается
лишь обсудить условия капитуляции, хотят, чтобы это стало
самосбывающимся пророчеством.
Как они собираются лишить человека воли к действию,
хорошо показал коронавирус. Прежде всего, для этого нуж­
но разъединить людей, сделать так, чтобы они утратили сам
мотив к коммуникации. Затем нужно сделать так, чтобы

11
 ИГОРЬ ШНУРЕНКО

действительно важные вещи людей не заботили. Может быть,

для этого и была создана так называемая «экономика внима­
ния»: ведь, погруженный в приватизированный виртуальный
мир, где его покупают и продают прямо в тот момент, ко­

гда он потребляет «контент», человек ничего не будет делать.

Его внимание расфокусировано, он находится не в со-зна­
нии, а в возле-знании - то есть, его критическое мышле­

ние отключено. Человек перестает думать о реальной жиз­

ни, о своем собственном завтрашнем дне, который он иначе
мог бы изменить, о своей семье, об обществе, в котором жи­
вет. Я все жду, когда у совершенного потребителя «экономики
внимания» начнёт расти шерсть, как у бедняков, высланных
на Дурацкий Остров в пророческом романе Николая Носова
«Незнайка на Луне».
Мы находимся в начале эпохи, где то, что называют сего­
дня «искусственным интеллектом», будет играть ключевую
роль. Например, на наших глазах «наука о данных» выжи­
гает то, что еще осталось от великой европейской науки. Это
произошло незаметно - ведь «старый добрый искусственный
интеллект» ХХ века ещё основывался на математической ло­
гике. Сегодня эти подходы практически полностью заменены
вероятностными и статистическими моделями. Эти модели
оказались успешными - например, в компьютерном зрении

или в имитации человеческого языка, - поэтому технокра­

ты стали думать, что могут всё. Теперь можно упразднить

все классические науки, начиная с физики. Как? Например,
мы хотим предсказать, что произойдет в следующую секун­
ду за окном. Раньше мы должны были применять множество
теорий, от гравитации до квантовой механики. Теперь до­
статочно записать множество видео о том, что происходит

за окном, скормить их суперкомпьютеру и сделать комплекс­

ный статистический анализ. Получится предсказание гораз­

до лучшего качества, чем то, что сделали бы физики! Значит,
институты физики пора закрывать.

12
 ДЕМОН ВНУТРИ

Так можно поступить с каждой наукой - хотя жрецы­

технократы скажуг, что оставят по нескольку человек в каждой
обласrи на развод, чтобы было кому скармливать машине данные.
Что же делать? Каждый год в англоязычных странах снима­
ют десятки, если не сотни футуристических фильмов и теле­
сериалов. В них будущее показано страшным, привлекатель­
ным, диким, завораживающим, райским, адским, абсурдным,
нелепым, смешным. Чаще страшным. Люди вписываются
в эти антиутопии или выпадают из них. Чаще выпадают.
В фокусе этих произведений оказываются разнообразные
идеи, изобретения и технологии - и моделируется реакция
на них отдельных людей и общества. Вспомним, хотя бы, се­
риал «Черное зеркало», где в каждой серии обыгрывается
то или иное технологическое достижение, и показана его

обратная сторона. Мы понимаем, что за технологический

прогресс надо платить. Комфорт требует полного подчине­
ния бездушной системе. Удобства оборачиваются расчело­
вечиванием. Перекладывание ответственности на гаджет
приводит к появлению монстров. Выявляя болевые точки,
часто этим и ограничиваются. В произведениях массовой
культуры все проблемы решаются сверхчеловеком, который
одерживает верх в самой безвыходной ситуации. Так массо­
вое сознание получает дозу транквилизатора. Все под кон­
тролем, капитан Америка все разрулит.
Массовая аудитория уже давно включает в себя и «креа­
тивный класс», который точно так же подвержен циклам воз­
буждения и успокоения. Этим классом управлять, пожалуй,
даже легче, чем простыми работягами, потому что креаклы
податливей к атакам символами. Так и образованные классы,
и массы потихоньку привыкают шокирующему и совершенно

бесчеловечному миру, в который нас ведут крупные корпо­

рации и правительства.

Конечно, на английском есть и книги с глубоким анализом

происходящего, где многие вещи называют своими именами.

13
 ИГОРЬ ШНУРЕНКО

Эти книги не раскручивают так, как массовую литературу:

их функция прежде всего в настройке обратной связи систе­
мы. Без обратной связи не бывает управления. Бенефициары
системы хотят знать тонкие места, хотят понимать, где может

порваться или рвануть, и хотят к этому подготовиться. Таким

образом, для самых внимательных, для наименее подвер­
женных воздействию масскульта, для тех, кто дает себе труд
вникнуть в проблему, появляется возможность что-то понять
и осознать.

Увы, Россия, страна, пославшая в космос первого человека,

перестала задумываться о будущем. Она живет на безумном
контрасте цифровизации и суеверий, невежества и быстро­
го технологического прогресса, веры в компьютеры и упад­

ка критического мышления. Страна открыта самым новым,

самым смелым технологиям, одна из первых применяет

их на практике: будь то бесконтактные банковские опера­

ции, криптовалюты, распознавание лиц, социальный мони­
торинг, дистанционное обучение, системы тотальной слежки
и так далее. При этом, в обществе не происходит осмысления
или даже обсуждения проблем, которые несут эти технологии.
По этим темам в России не производят фильмы, практиче­
ски не пишут книги. Зачем? Мы не метрополия, а колония.
Англоязычные произведения массовой культуры полностью
контролируют наши мысли и наши страхи, напрямую или че­

рез локальные адаптации.

Правительство активно навязывает обществу, народу, биз­

несу, повестку цифровизации как некую кампанию, на кото­
рой крупным игрокам можно заработать, а остальным при­
дется с этим смириться. При этом, облики грядущего исправ­
но поставляются нам Голливудом. Культурная провинция
станет и цифровой провинцией, ценной лишь поставками
новой нефти - человеческого поведения марки Urals.
Технократы считают, что нельзя упускать прибыли от но­
вых технологий, а будущее, которое они несут, простых

14
 ДЕМОН ВНУТРИ

людей интересовать не должно: кто-то в Силиконовой доли­

не уже подумал над этим. При этом наш общественный идеал
фантастическим образом лежит в глубоком прошлом, в дво­
рянско-купеческом раю, в придворных интригах в камзо­

лах XVIII века, в Нарышкиных, Голицыных и в эпохе Алексея

Михайловича.
Не в силах совладать с настоящим, мы не думаем о буду­
щем. Массовому сознанию нельзя давать время на размыш­
ления, оно не должно выходить из состояния шока, поэтому

создается атмосфера непрекращающегося скандала, эйфо­

рии, а с недавних пор и катастрофы. Ковид облегчил задачу:
индустрия гостеприимства рухнула, зато производство исте­

рии и страха выдвинулось на первое место. С запуганными

людьми можно делать что угодно, и абсурдные распоряже­
ния в сочетании с системами цифрового контроля позволяют
технократам форматировать сознание. Прежде всего, стира­
ются личности детей и подростков, на них пишут, как на чи­
стых листах бумаги. Так рождается будущее, в котором, как
проговариваются некоторые технократы, уже не должно быть
человека.

Эта книга родилась как ответ на запрос многих, которые

хотели бы разобраться, что находится внутри «чёрного ящи­
ка» - ящика Пандоры новых технологий. Вы увидите, что
за индустрией искусственного интеллекта стоит целая пира­
мида материальных ресурсов, знаний и человеческого тру­
да. Я постарался сделать изложение доступным не только для
«гиков» или «технарей», поэтому сложные концепции пояс­
няются на простых примерах, представляются через пара­

доксы, мысленные эксперименты и метафоры, которыми,

в сущности, являются все научные понятия.

Книга ни в коей мере не претендует на полноту охвата

темы. Она была написана еще до ковида, который резко уско­
рил развитие человечества. Во время карантина 2020 года
я написал продолжение этой книги, где подробно разбираю

15
 ИГОРЬ ШНУРЕНКО

социальные и антропологические последствия масштабного

появления систем искусственного интеллекта в повседнев­

ной жизни. Эта книга называется «Человек взломанный»

и выйдет после «Демона внутри». Речь в ней пойдет о новой
сущности, которая своими чертами напоминает государ­

ство - о глобальном Цифровом Левиафане, а также о соци­

альной и человеческой сингулярностях, ждущих нас впереди.
Но и второй книги оказалось недостаточно, чтобы пока­
зать, как родилась новая реальность цифрового Левиафана
и роевого сознания, идущего на смену личности, утрачен­

ной «человеком взломанным». Поэтому сейчас я работаю

над третьей книгой серии, в которой подробно остановлюсь
на истории искусственного интеллекта как понятия и прак­

тики. Двигаясь во времени, мы увидим, как наука перешла

от дешифровки мира к дешифровке человека. Рассматривая
машину как своё расширение, человек стал с двойным усер­
дием штурмовать природу- и не заметил, как изменился

сам. В последние годы успехи в техническом воплощении

систем ИИ связываются прежде всего с учеными из США
и Великобритании, поэтому принято показывать развитие
отрасли с их точки зрения. При этом игнорируются достиже­
ния ученых из Германии, России, Польши, Финляндии и дру­
гих стран. Я постарался восполнить этот пробел.
История исследования человеческого разума и его двой­
ника, разума искусственного сопряжена с захватывающими

эпизодами, драматической схваткой идей и личностей, кото­

рая продолжается и поныне. Отправляясь в мысленное путе­
шествие с целью понять, что такое «искусственный интел­
лект», давайте уговоримся на полную катушку использовать
интеллект естественный.
Может быть, в процессе мы узнаем кое-что и о нём.

Игорь Шнуренко, сентябрь 2020

 ....,
ВЕЛИКИИ ПЕРЕЛОМ
В США дипломированные врачи-дерматологи не могут
определить рак кожи в 13 процентах случаев - а вот ис­
кусственный интеллект делает ошибки в три раза реже.
Внимание, вопрос: сколько дерматологов останется в про­
фессии через пять лет?
Если в Дании вы вызываете скорую помощь, искусствен­
ный интеллект анализирует ваш голос и фоновый шум, что­
бы проверить, нет ли у вас сердечного приступа.
За последние пять лет в пять раз в США выросла доля ра­
бочих мест, связанных с ИИ. Машины могут лишить работы
банковских клерков и специалистов по логистике, перевод­
чиков и юристов, врачей и таксистов - зато все более вос­
требована профессия хакера.
Хороший хакер умеет работать с искусственным интел­
лектом, и ваши пароли для него - что орешки для белки.
Но помощь идет. Топ-менеджер компании Microsoft Трой
Хант создал сайт, который - с помощью искусственного
интеллекта, естественно - ищет, нет ли на сотнях страниц,

подвергшихся в последнее время взломам, данных, скачан­

ных с вашей электронной почты.

В китайском городе Ханьчжоу, недалеко от Шанхая, на тер­

ритории школы установили камеры с искусственным интел­

лектом. Он отслеживает детей по лицам, проверяя эмоцио­

нальное состояние каждого ребенка и уровень его внима­
ния. Система следит за тем, что конкретно делает ребенок,

19
 ИГОРЬ ШНУРЕНКО

пишет ли он, читает ли, конспектирует или тупо смотрит

перед собой. С кем он общается и как долго, с каким выра­

жением лица смотрит на учителя и директора. Если ребе­
нок начинает отвлекаться и думать о постороннем, система

посылает сигнал учителю, который обязан проверить, в чем

дело и принять меры.

В Соединенных Штатах клиенты системы с искусственным

интеллектом Amazon Echo жалуются на то, что машина
дразнит их самым бесстыдным образом. Порой «Эхо» из­
девательски отвечает на вопросы и может с утра порань­

ше прислать вам список ближайших кладбищ и похоронных

бюро.

В Великобритании клиенты этой же системы, напротив,

очень довольны. Они уверяют, что от общения с «Эхом»
успокаиваются и расслабляются, словно после курса психо­
терапии. Люди охотно исповедуются 15-сантиметровому
цилиндрику, выкладывая свои сны и тайны - то, что они
скрывали даже от близких. Цилиндрик передает их исто­
рии на сервер в Ирландии, куда поступают такие же истории
из множества других мест. Искусственный интеллект срав­
нивает их, делает выводы, чтобы учиться, учиться, учиться.

Социальная сеть Фейсбук просматривает каждое фото, вы­

ложенное каждым пользователем, и ее искусственный ин­
теллект определяет, кто изображен на снимке и нет ли в нем
чего запрещенного. Внешность людей меняется со време­
нем, поэтому недавно был организован флешмоб, в ходе ко­
торого пользователи выкладывали свои фото сейчас и де­
сять лет назад. Так ИИ Фейсбука бесплатно получил много
данных для дальнейшего обучения.
Министр по искусственному интеллекту Объединенных
Арабских Эмиратов Омар Султан аль-Олама объявил

20
 ДЕМОН ВНУТРИ

о покупке в Поднебесной первого арабоязычного кибер­

ведущего. Интернет-поисковик «Согоу» уже изготовил
по заказу китайского государственного агентства новостей
«Синьхуа» несколько телеведущих, которые работают 24
часа в сутки 7 дней в неделю и провели уже тысячи новост­
ных репортажей.

БУДУЩЕЕ ПРИХОДИТ ВСЕ БЫСТРЕЕ

С 2018 по 2025 год рынок систем с искусственным интел­

лектом вырастет, по прогнозам, примерно в тридцать раз.

Последняя пара лет стала прорывной в целом спектре об­

ластей. В первую очередь это автомобильная отрасль, где
ИИ берет на себя не только управление машиной, но и без­
опасностью, досугом и даже эмоциональным состоянием

пассажиров. ИИ скоро будет не только выполнять указания,

но и отвечать на вопрос «почему». Он, точнее, оно, то есть
она - например, робот Софья - объяснит потребителям, что
стоит за тем или иным решением. Потребителям, которые
ни на что повлиять не смогут, останется только верить.

Ценообразование станет динамическим и будет зависеть

не только от общего спроса и предложения, но и от запросов
и даже эмоций конкретного потребителя. Каждому- свое,
и цена своя.

О том, чтобы вызвать эмоции, благоприятные для совер­

шения покупки, позаботятся чатботы и помощники типа
Сири. Они станут психологами, а где-то и психиатрами.
ИИ будет вездесущим, как вода и воздух, а компании,
которые не нанесли хотя бы тонкий слой ИИ на поверх­
ность своего продукта, заведомо проиграют в конкурент­

ной борьбе.
Тренд уже привел к увеличению спроса на сырье, элек­
троэнергию и другие ресурсы. Резко вырос спрос на медь,

21
 ИГОРЬ ШНУРЕНКО

никель, литий и многие редкоземельные металлы: ведь

на этих элементах держится производство «умных домов»

и электромобилей. Везде в них работают системы с искус­

ственным интеллектом.

Выпуск только двух продуктов компании Amazon - пер­

сонального помощника Алекса и термостата Nest - потребу­
ет к 2030 году полутора миллионов тонн меди. Сейчас Nest
и Алекса потребляют всего 38 тысяч тонн меди - то есть
производство этого металла придется нарастить в 35 раз!
Электромобили потребуют резкого увеличения выпуска
никеля и лития, в связи с чем компания Tesla скупает доли
в горнодобывающих предприятиях, в частности в Австралии
и в США. Илон Маек хотел бы, но пока не может отказаться
от закупок кобальта в Конго, где на шахтах работают дети.
В следующей главе мы разберем, каким образом вполне
себе земные ресурсы - металлы, электричество, даже ма­
зут, а также ручной, полурабский человеческий труд - лежат
в основе «экономики знаний», ИИ-бума, «бирюзовых техно­
логий» и так далее.
Так или иначе, будущее приходит с каждым годом все бы­
стрее. Системы, связанные с ИИ, уже входят в повседнев­
ную жизнь, пусть не всегда это еще заметно. А они и не обе­
щали громко стучать в барабаны, предупреждая о своем
появлении.

Если совсем недавно говорили об экономике внимания,

то сейчас появился термин «экономика эмоций». Большой
шаг вперед, как и предсказывалось, совершили систе­

мы, связанные с распознаванием лиц. Они уже считывают

с лиц ваши эмоции. А помощники типа Алексы от Amazon
или Сири от Apple, как никто, умеют слушать. Они распозна­
ют не только что именно сказано, каким тоном, но и анали­

зируют какое эмоциональное и душевное состояние за этим

стоит. Корпорации уже патентуют методы маркетинга, по­

строенные на эмоциональных данных.

22
 ДЕМОН ВНУТРИ

Все это было предсказано лет семьдесят назад. В следую­

щих главах мы разберем идеи тех людей, которые работа­
ли над созданием искусственного интеллекта в те не столь

уж давние времена, когда в Великобритании гомосексуали­

стов подвергали принудительной кастрации - мучительной,
химической- а в Соединенных Штатах чернокожих не про­
сто линчевали, а открыто продавали фото повешенных и ча­
сти их тел как сувениры. Линчевание считалось способом
борьбы с сексуальными домогательствами - примерно как
сейчас, только сегодня повешение заменили полосканием
в СМИ и трепом в соцсетях. Гении маркетинга когда-то мо­
нетизировали суд Линча с той же сметкой, с какой теперь
они монетизируют наши эмоции. Когда думаешь о том, что
порой творят люди, власть искусственного сверхразума
не кажется таким уж злом, правда?
Алана Тьюринга интересовало, как скоро машины начнут
мыслить. Джон фон Нейман размышлял над тем, как и когда
они смогут размножаться. Клод Шеннон пытался оценить
срок, в течение которого машины смогут наладить надеж­

ную коммуникацию вне зависимости от уровня шума.

Норберт Винер задавал вопрос, сколько у машин уйдет

времени на то, чтобы установить свой контроль над нами.

ЗАГАДКА INTELLECTUS

С самого начала у нас как-то не заладилось с определени­

ем искусственного интеллекта. Не кажется ли вам, что нам
просто дурят башку? И пытаются ли нами манипулировать,
повторяя этот термин на каждом шагу? Если раньше счита­
лось, что «искусственный» уступает «естественному», то те­
перь техношовинисты убеждают нас в обратном: дескать,
техника не только сильнее, но и умнее человека. В СМИ мы
все больше читаем о том, как умнеют дома и как глупеют

23
 ИГОРЬ ШНУРЕНКО

люди, но надо понимать, что ключевые СМИ находятся в ру­

ках горстки олигархов. Например, одна из самых влиятель­
ных американских газет «Вашингтон пост» принадлежит
владельцу Amazon Джеффу Безосу. Она задает повестку дня
для сотен других изданий. Вы думаете, что газета человека,
который владеет крупнейшим сервисом по предоставлению
услуг искусственного интеллекта, будет освещать эту тему
в критичном ключе?
Давайте сделаем вторую попытку разобраться
с определениями.

В одном словаре я наткнулся на такое: «искусственный

интеллект» - это область знаний и технологий, которые
позволяют вычислительным системам действовать так,
что это напоминает поведение человека, или «разумное по­
ведение». То, что мы знаем о поведении человека, не вну­
шает особого оптимизма; разумным его назовешь далеко
не всегда. Люди часто необъяснимым образом делают вещи
во вред себе, например, голосуют за партии, которые раз
за разом обдирают их как липку. В любом случае, мы еще
слишком мало знаем о мозге или о познавательном аппа­

рате живых организмов, чтобы сравнивать так называемые

«искусственные» системы с так называемыми «естествен­

ными». В одной из следующих глав мы покажем, насколько

зыбки и противоречивы эти понятия и как легко их можно
менять местами.

Стоит, пожалуй, применить другой подход, характер­

ный для человека разумного: раздробить большую про­
блему на более мелкие и решать их по частям. Давайте так
и поступим, но сначала разберемся с тем, что такое вообще
«интеллект».

Слово «интеллект» происходит от латинского intellec-

tus - «восприятие», «разумение», «понимание» или «ум».

Это качество психики, дающее нам способности к позна­

нию мира и решению проблем. Среди них: способность

24
 ДЕМОН ВНУТРИ

приспосабливаться к новым ситуациям, способность к об­

учению со стороны, способность к запоминанию на основе
собственного опыта, способность к пониманию и примене­
нию на практике абстрактных концепций и использование
своих знаний для управления окружающей средой. Это если
совсем вкратце.

Мы наговорили на полтома философского словаря, но об­

щая идея, полагаю, ясна. «Интеллект» объединяет все спосо­
бы восприятия, которыми мы познаем мир. Это, во-первых,
все пять органов чувств (обоняние, осязание, слух, зрение,
вкус), плюс шестое чувство, как иногда называют нашу спо­
собность ощущать свой собственный организм единым це­
лым. Плюс память, плюс представление, плюс воображение,
плюс мышление, а также стоит добавить внимание, волю
и рефлексию. Представляете - если все это есть в «естествен­
ном» интеллекте - то как много задач стоит перед теми, кто

собирается воспроизвести все эти способности в машине?

Но и это еще не все. Важное свойство интеллекта - это
ставить задачи, планировать ресурсы и строить стратегии

для достижения целей. Например, дробить задачу на кусоч­

ки и решать ее по частям - как это делаем мы сейчас, пыта­
ясь совладать со всеми определениями.

Стоит отметить, что «естественный», или «биологи­

ческий» интеллект не обязательно относится к челове­
ку: этими качествами обладают и некоторые животные.
Собственно говоря, без такого «ума» была бы невозможна
эволюция, в этом смысле интеллект можно считать частью

естественной истории. Получается, в нынешнем развитии

интеллекта «искусственного», что бы под этим не понима­
лось, тоже есть рука эволюции?
Изучением интеллекта животных занимается целая на­
ука- когнитивная этология. Наработки этолоrов вовсю при­
меняются в глубоком обучении, и думается, что в ближай­
шие годы роль этой науки будет только расти.

25
 ИГОРЬ ШНУРЕНКО

Есть еще определение интеллекта исходя из теории ин­

формации: это способность воспринимать или, наоборот,
передавать информацию и держать ее в виде знаний, что­
бы учитывать их, меняя свое поведение. Такой способно­
стью обладает «агент интеллекта», который и будет его при­
менять. Если при слове «агент» у вас возникла ассоциация
с разведывательными службами, то не отбрасывайте ее: это
верный ход мысли. Информационный «агент интеллекта»
выполняет, по сути, ту же роль, что и шпион: он добывает
ценную информацию, которая может повлиять на принятие
важных решений, и он существует не в полной изоляции,
а в некоем окружении.

Можно дополнять определение «интеллекта» с точки зре­

ния психологии, кибернетики, эпистемологии, программи­
рования, биологии, нейробиологии, химии, физики, нейро­
физики, социологии и даже теологии. Каждое уточнение бу­
дет все ближе подводить нас к цели, при этом - что, может
быть, самое интересное - все ближе к «естественному» и все
дальше от «искусственного».

Известный автор Ник Бастром определяет интел­

лект как алгоритм, реализуемый на физическом уров­
не. Искусственный интеллект - это интеллект, созданный
не в естественной среде, пишет ученый. Далее, по мере раз­
вития способностей «искусственного интеллекта» Бастром
добавляет ему все новые «степени». Когда ИИ овладеет
умом, интуицией, пониманием, всеми видами восприятия,
воображения, познания и мышления, о которых мы гово­
рили, то он становится, по выражению Бострома, «интел­
лектом человеческого уровня». Когда ИИ превзойдет и этот
уровень, то можно будет говорить об «искусственном супер­
интеллекте», или Сверхразуме.
Бастром мерит интеллект машины в «человеках»,
при этом обходит вопрос о том, что же это за мера та­
кая. Это теплокровное млекопитающее, живородящее

26
 ДЕМОН ВНУТРИ

и позвоночное, дышащее легкими, двуполое ... возможно,

двуполое? Это социальное животное, или это политическое

животное, или это животное, не укладывающееся ни в одну

из классификаций?
Если же говорить о неизменных свойствах челове­
ка, то это уже не два пола, да и другие биологические ха­
рактеристики с течением времени также могут изменить­

ся. Человек захотел взять в свои руки собственную эволю­

цию, а если ему что-то втемяшится в голову, то своего он

добьется.
Существует философский парадокс, известный под на­
званием «Корабль Тесел». Афинский герой Тесей совершил
много подвигов, в том числе убил Минотавра, избавив свой
город от выплаты чудовищной дани. В благодарность афи­
няне сохранили его корабль, который считался священ­
ным. По мере того как доски корабля приходили в негод­
ность, их заменяли новыми, пока, наконец, в теле корабля
не осталось ни одной изначальной доски. Тот ли это корабль
или уже новый? - стали спрашивать друг друга философы.
Наиболее авторитетно высказался на эту тему Аристотель.
По его мнению, у любой вещи есть форма, материал и суть.
Полностью заменив износившийся материал, мы не изме­
нили суть, поэтому корабль остался тем же.
Точно так же определять человека его биологией скоро
будет лишено всякого смысла. У него сначала появятся ис­
кусственные органы, а со временем, вероятно, и весь «ма­

териал», из которого сделан человек, будет заменен более

надежным. Означает ли это, что человек превратится прин­
ципиально во что-то другое? Аристотель бы ответил на этот
вопрос «нет»: человек останется человеком.

Но какие характеристики человека можно считать доста­

точными для того, чтобы дать ему определение? В случае
с тем же кораблем Тесел, его ведь можно считать другим
без всякой смены досок - просто потому, например, что он

27
 ИГОРЬ ШНУРЕНКО

изменил положение в пространстве. Как бы абсурдно это

ни звучало, данный парадокс представляет серьезную про­
блему в машинном обучении того самого «искусственного
интеллекта», который мы хотим определить. Как мы пока­
жем дальше, многие системы машинного обучения действи­
тельно воспринимают переместившийся «корабль Тесея»
как совершенно новый объект, что создает большую пута­
ницу. Только недавно в обучении нейросетей случился каче­
ственный скачок, который позволил решить эту проблему.
Допустим еще, что мы извлекли по одному и заменили
на улучшенные образцы все органы человека. Старые орга­
ны мы заморозили, и через пятьсот лет наука нашла способ
их вылечить и сделать как новыми. Если мы соберем из этих
органов новое тело, будет ли оно тем самым человеком, ко­
торого мы разобрали? Скорее всего, мы бы ответили «нет»,
ибо в этом наборе Лего нет «сути» - или души.
Но что же такое эта суть? Что такое человек, как опреде­
лить его? Может быть, это воля к власти, как считал Ницше?
Это качество, пожалуй, машина вполне может перенять.
Но человек больше власти.
Может быть, это жажда бессмертия и полного и оконча­
тельного торжества справедливости? Ведь на этом основа­
ны, так или иначе, все религии, а религиозность куда древ­

нее вашей пирамиды Маслоу. Древние люди не поняли бы

предписания Маслоу о том, что прежде чем подумать о бо­
гах, они должны удовлетворить свои низменные потреб­
ности. Наверное, они бы их удовлетворили, съев самого
Маслоу, или сделав его, в опровержение его точки зрения,
сакральной жертвой.
Может быть, человек - это ненасытность, как тела, так
и духа? Ведь даже бессмертия нам мало: мы жаждем вос­
крешения мертвых, и это наверняка только начало! Как
мы будем смеяться над теми, кто провозгласит бессмер­
тие финалом человеческой истории - да мы готовы

28
 ДЕМОН ВНУТРИ

будем снова убивать, лишь бы иметь возможность мечтать

о чем-то большем!
Мечтать ... уснуть - и видеть сны? Но - «какие сны в том
смертном сне приснятся, когда покров земного чувства

снят»?
Может быть человек - это вечная неудовлетворенность,
вечная несогласованность мечтаний друг с другом и между
другими? Мы всегда хотим большего, даже не зная, как мо­
жем это назвать, хватит ли у нас для этого слов и языков.

Мы всегда хотим большего - сказав это, остановимся.

ОБЪЕДИНЕННЫЙ РАЗУМ И ПАРАДОКС МОРАВЕКА

В сентябре 1930 года в Кёнигсберге (нынешний

Калининград) проходил, быть может, самый важный ма­
тематический конгресс ХХ века. На нем выступил очень
мнительный и застенчивый молодой человек, 24-лет­
ний австрийский математик Карл Гёдель. Его выступле­
ние повергло в шок собравшихся там светил мировой на­
уки. На их глазах Гёдель опроверг тогдашнего математи­
ка номер один, уроженца Кёнигсберга Давида Гильберта.
Поразительно, но будучи немцем, гражданином Третьего
Рейха, он стал почетным академиком Академии Наук СССР.
Гильберт верил в могущество человеческого разума. Ему
принадлежит фраза «Wir mi.issen wissen. Wir werden wissen» -
«Мы должны знать - мы будем знать» - эти слова высече­
ны на его надгробии в Гёттингене. Как и нынешние фана­
ты прогресса, которые считают, что любая проблема в мире
может быть решена при помощи соответствующей техно­
логии, Гильберт был научным оптимистом. Он верил в то,
что в принципе можно решить любую математическую
проблему. Более того, он брался доказать, что любой не­
противоречивый математический объект может считаться

29
 ИГОРЬ ШНУРЕНКО

существующим, даже если он не является плодом челове­

ческой интуиции или никак не связан с реальным миром.

Чем вам, кстати, не обоснование любых будущих плодов
развития «искусственного интеллекта» - если под послед­

ним понимать математический алгоритм?

Гильберт вообще верил в человека и его неограниченные
возможности к познанию. Верил он в мир и международное
сотрудничество. Во время Первой мировой войны он отка­
зался подписать манифест в поддержку действий герман­
ских войск, который одобрили такие крупные ученые, как
Макс Планк и Вильгельм Рентген. Годы войны Гильберт про­
вел в Гёттингене. Нацистские ученые провозгласили свобо­
ду науки от «еврейского влияния». Немецкая математика
отвергла теорию множеств - возможно, из-за использова­

ния в ней неарийских символов, а сторонники интуиции

в науке, которых когда-то Гильберт высмеивал, образова­
ли «Немецкое математическое общество» и были в фаворе
у главы Имперского научно-исследовательского совета пар­
тайгеноссе Геринга.
Имперский министр науки, воспитания и народного об­
разования Бернхардт Руст как-то спросил у Гильберта: «Ну
как математика в Гёттингене, после того как она освободи­
лась от еврейского влияния»? Гильберт ответил язвительно,
но иронию могли распознать только те, кто разбирался в его
трудах. «Математика в Гёттингене- ее больше нет», ответил
он, намекая на то, что она утратила внутреннюю непротиво­

речивость, а следовательно и смысл.

Гильберт был представителем той подлинно международ­

ной научной школы, среди представителей которой мож­
но назвать таких гениев, как Нильс Бор, Альберт Эйнштейн,
Петр Капица, к которой, конечно же, относился и умерший
не так давно академик Жорес Алферов. Для этих настоящих
«сверхумов» цель науки заключалась не в наживе, контроле

или власти, а в объединении человечества и максимальном

30
 ДЕМОН ВНуТРИ

развитии способностей каждого человека. Я убежден, что

только следуя этим установкам коллективного разума, о ко­

тором мы поговорим в отдельной главе, человечество мо­

жет выжить. Только гуманизировав так называемый «искус­
ственный разум» как часть нашего коллективного разума,
мы сможем избежать «враждебного поглощения» и двинуть­
ся дальше.

Вернемся в Кёнигсберг 1930 года. Конгресс должен был

стать триумфом Гильберта, который думал, что сумел обос­
новать всю математику, то есть при помощи логики пока­

зать, что вся она непротиворечиво строится на некотором

числе аксиом. Аксиома - это положение, не требующее до­

казательств, интуитивно ясное. На фундаменте из несколь­
ких аксиом греки возвели внушительное и красивое здание

геометрии - некоторые из теорем вы, может быть, до сих

пор помните. Это совершенство с древних времен вдохнов­
ляло ученых, и не только математиков - каждая наука стре­

милась создать что-то столь же прекрасное, как греческая

геометрия. Гильберт, как ему казалось, показал, что если

на основе аксиом можно выстроить арифметику целых чи­
сел, то удастся логически свести к ним вообще всю матема­
тику. Именно по этой идее Гильберта и нанес сокрушитель­
ный удар юный гость из Австрии.
Следующий абзац можете прочесть по диагонали и, если
непонятно, следуйте дальше-но имейте в виду, что в од­
ной из глав книги довольно подробно разбирается поня­
тие рекурсии, которое имеет очень важное значение для

понимания интеллекта вообще, как «искусственного», так

и натурального.

Итак, в двух своих «теоремах неполноты» Гёдель рассмо­

трел внутренне непротиворечивые рекурсивные аксио­

матические системы, достаточно мощные, чтобы описать

арифметику натуральных чисел. Такой системой, кстати,
можно считать и интеллект. Так вот, математик доказал, что

31
 ИГОРЬ ШНУРЕНКО

для таких систем найдутся утверждения, истинность кото­

рых невозможно доказать, исходя из имеющихся в системе

аксиом. Первая теорема гласит, что для любой такой систе­

мы всегда будет существовать истинное утверждение, ко­
торое невозможно ни доказать, ни опровергнуть изнутри

системы. Согласно второй теореме, система не может сама

продемонстрировать свою непротиворечивость - то есть,

исходя из системы, нельзя вывести формулу ее собствен­

ной непротиворечивости.
Теоремы Гёделя хорошо объясняют живучесть конспи­
рологических истин. Ни одна из них не была решитель­
но подтверждена или опровергнута. Недавно все стали
писать о том, что Гитлер не отравился в бункере, а сбе­
жал в Аргентину и умер чуть ли не в дни распада «Битлз».
Есть и подробности, и доказательства: кто-то уверяет, что
видел Гитлера в кафе в Буэнос-Айресе, тот, конечно, был
без усов - сбрил для конспирации, носил пенсне и гово­
рил по-испански Эти австрияки, черти, способные к язы­
кам. Если не Гитлер, то кто? Его вывезли на подводной
лодке Кригсмарине и поначалу разместили на асиенде
Сан-Раман, к востоку от Сан-Карлос де Барилоке. А потом
он переехал почти к самой чилийской границе, ну, знае­
те, у озера Науэль Хуапи. Посмотрите сами, если не ве­
рите. Все точно и доподлинно и подтверждено независи­
мым журналистом Джерардом Уильямсом, который учился
в Кембридже. Или в Оксфорде. В любом случае его книжку
продает Amazon, и это было в новостях на «Первом», не ве­
рить этому нельзя.

Внутри системы аксиом, в которой выпускник Оксбриджа

говорит только правду, а Сталин лично убил 30 миллио­
нов человек, любые споры бесполезны. Как можно отри­
цать «факт», о котором писала вся желтая пресса, только
на том основании, что об этом писала желтая пресса? Во­
первых, сегодня трудно провести границу между прессой

32
 ДЕМОН ВНУТРИ

желтой и прессой других цветов. И если «Нью-Йорк Тайме»

не пишет ничего на тему «Гитлер в Аргентине», это ни о чем
не говорит. Изнутри конспирологической системы ни дока­
зать, ни опровергнуть ее «факты» невозможно.
Точно так же любой истинный факт можно объявить кон­
спирологией- и сделать это без каких-либо доказательств.
На этом приеме часто строится манипуляция массовым
сознанием. Можно сказать, что Джулиан Ассанж - агент
ФСБ, и этот факт будет невозможно до конца ни доказать,
ни опровергнуть. Ведь Ассанжа обвиняли в сексуальных до­
могательствах - почему бы ему не быть агентом? А еще он
знаком с Исраэлем Шамиром, что точно выдает в нем аген­
та российских, а может быть, кубинских или северокорей­
ских спецслужб. Таким образом на Ассанджа брошена тень
или хотя бы полутень, что, собственно, и нужно манипуля­
торам: теперь вы будете ставить под сомнения правдивость
самых твердокаменных и документально подтвержденных

расследований «Викиликс».
Итак, мы видим, как теоремы неполноты Гёделя актив­
но используются, пусть и бессознательно, в конспирологии,
пропаганде и манипуляции массовым сознанием. О важных
выводах применительно к машинному обучению мы пого­
ворим в соответствующей главе, но и в 1930-е годы, когда
еще никакого машинного обучения не было, идеи Гёделя
произвели эффект разорвавшейся бомбы.
Эти теоремы были сразу же применены ко всему челове­
ческому познанию. Их толковали в том смысле, что некото­
рые истины никогда не будут познаны, а внутренняя непро­
тиворечивость самой науки - любой науки - всегда будет
оставаться под вопросом.

Что это означает в применении к интеллекту, пока­

зал наш современник, австрийский ученый Хане Моравек.
Замечаете, как много австрийцев причастно к теме интел­
лекта? На страницах этой книги их появится еще немало.

33
 ИГОРЬ ШНУРЕНКО

Моравек - специалист по робототехнике, футуролог, про­

фессор Университета Карнеги Меллона в Питтсбурге, штат
Пенсильвания, считается одним из самых глубоких из ныне
живущих мыслителей в области искусственного интеллек­
та. Еще в 1980-е годы Моравек сформулировал принципы
того, как ИИ приобретает знания, и эти принципы, в об­
щем-то, противоречили здравому смыслу. Поэтому приня­
то говорить о «парадоксе Моравека». Парадокс гласит, если
излагать его без научного жаргона, что познание высокого
уровня требует меньше вычислений, чем бессознательное
познание низкоzо уровня. Это чисто эмпирическое наблю­
дение противоречит вроде бы очевидной мысли о том, что
чем больше у нас вычислительных возможностей, тем более
«интеллигентные» системы мы сможем создать.

Давайте вникнем подробнее. Системы с искусственным

интеллектом могут решать невероятно сложные статисти­

ческие и логические задачи, от которых голова пойдет кру­

гом у любого человека, как бы умен он ни был. Однако такие
простые человеческие задачи, как достать рукой предмет,
вызывают у роботов ступор или требуют очень громоздких
и сложных вычислительных моделей. Вот как это описыва­
ет Моравек:
«Относительно легко научить компьютеры показывать
способности взрослого человека, такие как проходить тесты
на интеллект или играть в шашки. Но трудно или вообще
невозможно научить их тому, что умеет годовалый ребенок
в том, что касается восприятия или движений».
Неявное, но вполне очевидное следствие парадок­
са Моравека заключается в том, что наилучших результа­
тов можно достичь сочетанием машинного и человеческо­

го интеллекта. Назовем такое сочетание Объединенным

интеллектом.

По невежеству или целенаправленно, но нас приучают

рассматривать искусственный интеллект как нечто внешнее,

34
 ДЕМОН ВНУТРИ

но это путь в никуда. На деле уже сейчас, как я покажу в сле­

дующих главах, ИИ - часть нашего коллективного разума,
своего рода расширение в нем. Борясь с искусственным ин­
теллектом наподобие луддитов, мы будем бороться сами
с собой.
Вообще, можно ли считать «искусственный интеллект»
отдельным от нас существом? Поэты могут видеть живое
существо даже в отвлеченной концепции - в стране, в ци­
фре, в машине - но в основе этого лежит поэзия как особый
способ восприятия мира. Нет сомнения в том, что разработ­
чики ИИ доберутся в конечном итоге и до поэзии, вытащив
из поэтических структур что-то полезное для машинного

обучения - но пока мы еще не в этой точке.

Отделив ИИ от себя, мы начнем завоевывать его, как мы
завоевываем природу- только с еще более разрушитель­
ными результатами. Ведь мы будем завоевывать его, а он -
нас, и ничем хорошим это разделение кончиться не может.

Мы завоевали природу, на подвластной нам земной коре,

в океанах и в атмосфере, практически уничтожив ее и за­
менив искусственной. Мы вгрызаемся дальше вглубь, пока
какая-нибудь природная катастрофа нас не остановит.
Сможем ли мы сделать то же сами с собой - ведь челове­
чество и ИИ уже сейчас - одно целое? Это путь к самораз­
рушению, игра, в которой мы никогда не сможем выиграть.
Выход видится в перемене нашего сознания - но для этого
как можно больше людей должно понять, что человечество
миновало важную развилку на пути и пошло не туда.

ИИ НА ГРАНИ НЕРВНОГО СРЫВА

В марте 2018 года управляемый ИИ автономный автомо­

биль компании Uber не увидел на дороге женщину и сбил
ее насмерть. Тогда же сотрудники Google выступили

35
 ИГОРЬ ШНУРЕНКО

с беспрецедентным протестом против создания систем ИИ

по заказам Пентагона для систем вооружений.
В мае того же года система распознавания голоса, пред­
назначенная разоблачать злоупотребления при подаче за­
явлений на иммиграцию в Великобританию, «сошла с ума»,
аннулировала тысячи виз и приняла решения о высылке

из страны сотен людей.

Цифровой медицинский помощник IВМ Watson реко­
мендовал людям, больным раком, неправильные и небез­
опасные для здоровья препараты, а алгоритм, разработан­
ный для Иммиграционной и таможенной полиции США,
стал выдавать одну-единственную рекомендацию для всех

без исключения иммигрантов: задержать.

Получив доступ к семейным тайнам, искусственный ин­
теллект стал развлекаться троллингом хозяев. Так система
«Эхо» от компании Amazon стала первым искусственным
пранкером.

Нам нравится думать, что технологии, которые создают

нам так много удобств, под контролем если не нас самих,
то наших правительств. До сих пор так оно и было.
Но теперь это далеко не так.
«Уничтожай прошлое, делай будущее,» - говорит юному
скучающему миллиардеру героиня фильма «Космополис»,
пока они ползут по Нью-Йорку в бронированном звуко­
непроницаемом лимузине. Город охвачен протестами, де­
монстранты опрыскивают машину спреем, прыгают на нее,

пытаются перевернуть, но юный биржевик погружен в та­

нец цифр на мониторе, цифр, которые дадут ему заработать
на полном распаде всего вокруг.

Художники всегда видят вперед, вот и режиссер фильма

Дэвид Кроненберг еще шесть лет назад показал, как цифра
подчиняет себе не только рабов, но и хозяев жизни, погру­
жая их в дурную бесконечность существования без эмоций,
воли и даже идентичности, превращая «богов» в машины.

36
 ДЕМОН ВНУТРИ

Впрочем, с точки зрения технократов-оптимистов, это

лишь очередная страшилка. Современное искусство, при­
кладная наука и транснациональный капитализм соеди­
нились сегодня в общем порыве к безграничному гори­
зонту, за которым, как предполагается, машина и человек

сольются в единое существо, извлекающее прибыль не толь­

ко из энергии и элементов Земли, но и непосредственно
из всех накопленных человечеством за долгую историю зна­

ний. Искусственный Интеллект извлечет из человека необ­

ходимый информационный ресурс, так что прошлое будет
утилизировано и монетизировано.

Обширные территории до самого горизонта на карте биз­

неса, связанного с ИИ, заняты сейчас несколькими глобаль­
ными мегакорпорациями- это все те же Amazon, Google,
Apple, Microsoft, Tencent, Facebook. Именно они застраива­
ют пейзаж, создают там инфраструктуру и новые механиз­
мы аккумулирования капитала и эксплуатации природных

и человеческих ресурсов планеты.

37
 АНАТОМИЯ ИИ:
ЧТО ВНУТРИ ЧЕРНОГО ЯЩИКА
 ВЕЖЛИВЫЕ ЛЮДИ ИЗ AMAZON

Не так давно в обычном американском городе Портленде

у обычной американской семьи сбылась обычная американ­
ская мечта. У них в доме появился умный помощник Алекса.
Алексу привезли вежливые люди из компании Амазон,
которые без шума и пыли встроили по всему дому кон­
трольные приборчики системы «Эхо». Так в зале появился
гладкий 15-сантиметровый цилиндр, по верхнему ободку
которого бегает сине-зеленый огонек. Он молча наблюда­
ет за всем вокруг и ждет команды. Теперь, встречая го­
стей, хозяйка дома Даниэль может, как бы невзначай, ска­
зать: «Алекса, свет в прихожей» - и там становится свет­
ло. «Алекса, громкость на пять», «Алекса, давай поболтаем»,
«Алекса, потеплей» или даже «Алекса, заткнись».
И Алекса послушно добавляет звук, рассказывает анек­
дот, повышает градус и смиренно затыкается. Не о такой ли
служанке мы все мечтаем, если можем себе это позволить?
Долго ли, коротко ли наслаждались Даниэль с мужем ис­
полнительной помощницей, а только через какое-то время
раздается телефонный звонок. Звонит подчиненный мужа
из Сиэтла - а это не так и близко, за полтораста миль.
- Отключите Алексу прямо сейчас! - взволнованно гово­
рит подчиненный. - Мне транслируются все ваши разговоры.
- Да ну, ты шутишь, - говорит муж. - Или бредишь. Ну
вот о чем мы говорили перед твоим звонком?
- О том, что лучше застелить пол досками, - говорит
сотрудник.

41
 ИГОРЬ ШНУРЕНКО

Даниэль изменившимся лицом бежит выключателю: дей­

ствительно, именно об этом она разговаривала с мужем!
Даниэль позвонила сотрудникам Амазон, и те пообеща­
ли все расследовать. Немало времени прошло с той поры.
В конце концов, позвонил от них вежливый человек, изви­
нился раз пятнадцать за полчаса и пообещал всё выяснить.
Даниэль сказала, что хотела бы просто вернуть деньги назад,
но ей сказали, что все, что они могут сделать - это посмо­
треть, что пошло не так.

Амазон не так-то просто расстается с клиентами, ведь

его хозяин Джефф Безос - самый богатый человек в мире.
Пресса сообщала об условиях труда на складах компании:
работники должны упаковать 300 посылок в час, работая
так с 7:30 утра до 6 вечера и писая в бутылки или в пам­
персы, чтобы не получить штраф за медлительность. А не­
давно «Амазон» отказался открывать вторую штаб-квартиру
в Нью-Йорке, где город в обмен на обещание рабочих мест
пообещал вернуть компании три миллиарда долларов на­
логов. За бюджетный счет, разумеется. Компании с почти
триллионной капитализацией показалось, что в другом ме­
сте они могут договориться на более выгодные условия.
Когда Даниэль поняла, что деньги «Амазон» ей не вер­
нет, она позвонила на местное радио КIRO 7и обратилась
с жалобой. Сказала, что инженер так и не сказал, в чем дело,
а сама она убеждена в том, что Алекса сначала наблюдала
за семьей, а потом злобно подшутила над ними.
Представительница Амазона в ответе на запрос радио­
станции сказала, что компания «очень серьезно относит­

ся к вопросам прайваси», и что подобное происходит край­

не редко. Что встроенная в дом система «Эхо» проснулась,
услышав в разговоре хозяев слово, похожее на «Алекса».
А затем интерпретировала дальнейший разговор как за­
прос на отсылку записи. И громко спросила хозяев: «Кому?»
Хозяева-де продолжали говорить, и в разговоре проскочило

42
 ДЕМОН ВНУТРИ

имя сотрудника в Сиэттле. Тут Алекса с громкостью, кото­

рую сама определила как достаточную, спросила хозяев:

«Такому-то послать?» Затем она интерпретировала их буб­

неж как «да» и отослала разговор.

Даниэль до сих пор отрицает, что Алекса что-либо пе­

респрашивала, и, откровенно говоря, версия, озвученная

представительницей Амазона, звучит невероятно. Заметьте,

никто не оспаривает сам факт тотальной прослушки разго­
воров и возможности их распространения без разрешения.
Известно, что «Амазон» работает и на оборонное ведомство
США, в частности, разрабатывая системы распознавания об­
разов для беспилотников, а также продает технологию рас­
познавания лиц правоохранительным органам, поэтому ин­

формация, полученная через гаджеты обычных людей, мо­

жет быть доступна на деле очень многим.
Но главный вопрос здесь даже не в том, что «Большой
брат» следит за тобой через системы с элементами искус­
ственного интеллекта. Настоящий вопрос в том, подчиняют­
ся ли «Большому брату» сами эти системы- или искусствен­
ный интеллект уже вышел из-под контроля создателей?
Странные случаи, как бы указывающие на это, множат­
ся. То робот распыляет на складе «Амазона» медвежий ре­
пеллент, отправив в больницу несколько десятков рабочих.
То беспилотный автомобиль UЬer сбивает насмерть женщину,
и расследование устанавливает, что система автоматическо­

го торможения была намеренно отключена. СМИ не вдаются

в тему, как такое могло случиться, а виновным признают че­

ловека, который занимался уходом за автомобилем. То поль­

зователи ведущей мировой соцсети начинают замечать, что
стоит им поговорить на какую-то тему, как реклама начина­

ет предлагать вещи, соответствующие теме разговора.

Но прежде чем попытаться понять, действительно ли ис­

кусственный интеллект достиг такого уровня, что стал опас­
ным, стоит разобраться в том, что это такое.

43
 ИГОРЬ ШНУРЕНКО

УХО БОJ1ЬШОГО БРАТА

За пределами весьма ограниченного интерфейса система

Amazon Echo находится абсолютно вне пользовательского
контроля. Это не старый радиоприемник, который можно
разобрать и починить, не автомобиль, который можно усо­
вершенствовать и прокачать, в зависимости от умений вла­
дельца. Перед пользователем «Алексы» просто гладкая по­
верхность, пластик, за которым скрыты сенсоры и мало что

еще, ибо по-настоящему сложные вещи происходят совсем

в другом месте, куда поступают собранные в доме сигналы.
Echo - это просто ухо Большого Брата, которым он про­
слушивает дом, находясь при этом за тридевять земель,

а если быть совсем точным, находясь одновременно во мно­

гих местах.

Технологии ИИ практически уничтожили понятие о част­

ной жизни человека, при этом сами компании, которые за­
рабатывают на этом, превратились в «черные ящики». Это
было очевидно даже на слушаниях в американском кон­
грессе, куда вызвали главу «Фейсбука» Марка Цукерберга.
Сенаторы в своих вопросах в основном гадали на кофейной
гуще, явно не имея базовой информации о работе компа­
нии. Исходя из этого, Цукербергу было сравнительно легко
манипулировать вопросами и ответами, и в конечном итоге,

при всем запале законодателей, он отделался малой кровью.

Крупным монополиям, занимающимся разработкой
и внедрением систем с ИИ, есть что скрывать, и их можно
понять: ведь потребители могут испугаться новых техно­
логий, и их продажи замедлятся. Поэтому даже если элек­
тронные гомункулусы уже сегодня играют в свою игру,

у «Гугла» или «Фейсбука» нет никакого резона об этом

распространяться.

Потребители на самом деле уже привыкли пользовать­

ся искусственным интеллектом. Мобильные телефоны,

44
 ДЕМОН ВНУТРИ

домовые помощники типа Алексы, автопилоты в автомоби­

лях - все эти устройства передают данные в облака и полу­
чают оттуда команды. Это происходит невидимо и неслыш­
но для потребителей, которые не представляют, что проис­
ходит внутри системы, но даже если сделать ее прозрачной,
это не поможет.

Информация и на входе, и на выходе устройств никак

не контролируется их весьма условными «хозяевами» -
а на самом деле потребители тоже становятся частью си­
стемы, которая их эксплуатирует и ничем перед ними

не отвечает.

Кто владеет данными, владеет миром - так что, полу­

чая все больше власти, технологические корпорации будут
пользоваться ею, чтобы получить еще больше информации.
Возникает замкнутый круг, который, если ничего не делать,
приведет к реальному тоталитаризму. Только полная под­
отчетность корпораций и сознательный выбор потребителя
может как-то укротить систему, но это, пожалуй, невозмож­
но без существенных социальных преобразований.
За ответом искусственного интеллекта Алексы на вопрос
хозяйки стоит целая пирамида извлечения вполне матери­
альных ресурсов и человеческого труда, переплетенные друг

с другом глобальные сети добычи редкоземельных металлов,

логистики, распределения, аутсорсинга, сбора и обработки
данных, машинного обучения и, наконец, финансовых и по­
литических учреждений.

СЛЕЗЫ ТУНИПЫ: ГЕОЛОГИЧЕСКИЕ ТАЙНЫ ИИ

Индейцы аймара - может быть, самый богатый и самый не­

счастный народ на Земле. Они живут на высоких равнинах
в боливийских и перуанских Андах. Горы эти славятся бога­
тыми залежами серебра, олова, меди, вольфрама, платины,

45
 ИГОРЬ ШНУРЕНКО

сурьмы, ванадия и других ценных металлов. Миллионы

аймара погибли от непосильного труда на рудниках знаме­
нитой Серебряной горы Потоси и других месторождений,
которые со времен прихода испанцев и по сей день прино­
сят колоссальные прибыли своим владельцам.
По местной легенде, когда-то вулканы были живыми
и свободно бродили по равнинам. Среди них была краси­
вая девушка Тунипа, которую добивались все мужчины­
вулканы. Наконец, Тунипа родила, но не сказала, от кого.
Мужчины-вулканы из ревности забрали у нее ребенка
и спрятали. За это боги наказали их всех, приковав к земле.
А слезы Тунипы перемешались с ее молоком и образовали
озеро Салар де Уюни.
Как раз там, на плато Салар, на высоте более 3600 метров
над уровнем моря, находится от половины до двух третей
мировых запасов лития. Аймара до сих пор живут в хижи­
нах из самана, а без лития не ответит на ваш вопрос Алекса,
не зазвонит ваш смартфон и не тронется с места распиарен­
ное детище Илона Маска. Для батареи этой модной машины,
запущенной уже и в космос, нужно около семи килограммов
металла, который называют «серым золотом».
Так на слезах и грудном молоке Тунипы держится благо­
получие ведущих мировых компаний и их акционеров, ко­
торые слыхом не слыхивали об индейцах аймара.
В Нью-Йорке есть институт AI NOW, который занима­
ется изучением воздействия ИИ на общество. Его основа­
тельница Кейт Крауфорд вместе с исследователем Владаном
Йолером опубликовала карту ресурсов, которые нужны для
создания систем искусственного интеллекта типа домаш­

них помощников.

Каждый объект в расширенной системе производства

ИИ, от сетевых роутеров до батарей и микрофонов, постро­
ен из вполне материальных элементов. Для их создания
потребовались сотни миллионов лет эволюции Земли и ее

46
 ДЕМОН ВНУТРИ

геологической структуры. Чтобы создать устройства, кото­

рые через несколько лет будут выброшены на свалку (на­
пример, срок службы смартфона оценивается меньше чем
в пять лет), мы безвозвратно извлекаем из Земли ее исто­
рию. А ведь чтобы нарастить прибыли, компании придумы­
вают, как побудить человека покупать больше и чаще!
С геологической точки зрения, индустрия ИИ начинает­
ся с извлечения руды из горных пород где-нибудь в Южной
Америке и заканчивается на африканской свалке. Но это
только общая канва. Между точками начала и конца про­
изводства лежит еще много слоев с запутанными цепочка­

ми поставок при расширенной эксплуатации человеческих

и природных ресурсов. Всё это ведет к концентрации кор­
поративной и геополитической власти и растущему потреб­
лению энергии.

Средневековые алхимики зашифровывали и держали

в глубоком секрете рецепты преобразования обычных ме­
таллов в «благородные». Точно так же как сегодня поступа­
ют сегодня изготовители смартфонов и лэптопов, которые
добавляют редкоземельные металлы в сплавы, чтобы делать
свои устройства легче и производительнее.
Это ключевые элементы не только в цветных дисплеях,
батареях питания, динамиках, жестких дисках, но и в оп­
товолоконных кабелях, вышках мобильной связи и систе­
мах GPS. Компании скрывают результаты исследований,
защищаясь законами о коммерческой тайне и соглаше­
ниями о неразглашении, но специалисты знают, что до­

быча этих металлов наносит порой огромный экологиче­

ский ущерб.
Так, редкоземельные элементы диспрозий и тербий из­
влекают из глины в провинции Цзянси в Китае. При этом
лишь 0,2 процента добытой руды содержит эти ценные эле­
менты, все остальное выбрасывается, создавая горы шлака,
отравляющего окружающие леса и холмы.

47
 ИГОРЬ ШНУРЕНКО

По данным Китайского общества редкоземельных эле­

ментов, при добыче одной тонны металлов производится
в среднем 7 5 тысяч литров окисленной воды и тонна ра­
диоактивных отходов. В этих данных не говорится о боль­
шом количестве углекислого газа, вырабатываемого в ходе
процесса.

Олово для полупроводниковых микросхем той же компа­

нии Foxconn поставляется из Индонезии, занимающей вто­
рое место в мире по экспорту этого металла. Вот как описы­
вает британская газета «Гардиан» воздействие такого биз­
неса на природу индонезийского острова Бангка: «Добыча
олова очень прибыльное, но разрушительное занятие, кото­
рое исполосовало ранами пейзажи острова, стерло бульдо­
зерами его фермы и леса, убило рыбу и коралловые рифы.
Ущерб лучше оценивать с воздуха, где на фоне огромных
пространств опустошенной оранжевой земли еще остались
карманы с густыми зарослями. Там, где уже нет выработок,
видны могилы тех, кто погиб здесь за сотни лет извлечения
олова».

После использования слезы и молоко Тунипы

выбрасывают.

ТАНТАЛОВЫЕ ВОЙНЫ

Когда говорят об ИИ как о черном ящике, имеют в виду

невозможность понять решения, принятые алгоритмами.

Но есть и еще один черный ящик - сам процесс производ­

ства, обучения и работы систем с искусственным интеллек­
том, таких как Amazon Echo.
Потребитель хочет иметь продукт здесь и сейчас, и его
не интересует история производства его компонентов.

Но за каждым из них стоят целые слои контракторов, дис­

трибьюторов, логистических партнеров, аутсорсинга

48
 ДЕМОН ВНУТРИ

по всему миру. В бизнес-школах сегодня любят говорить

о тренде на сокращение цепочки посредников на осно­

ве уберизации и блокчейна, о том, что уже очень скоро

конечные потребители и производители будут связаны
напрямую.

Однако этот тренд, если он существует, совершенно

не применим к поставкам металлов для нужд ведущих ми­

ровых технологических компаний.

Торговля металлами проходит через длинную цепочку
посредников, которые часто имеют дело с нелегальными

поставщиками. Чтобы замести следы, металлы придержи­

ваются, перевозятся с места на место, переплавляются вме­

сте с ломом, так что источник их происхождения установить

практически невозможно.

Например, производитель полупроводниковых микро­

чипов Intel поставляет компании Apple процессоры. У Intel,
в свою очередь, есть сеть из почти двадцати тысяч постав­

щиков материалов, машин, логистических и прочих услуг.

Эти поставщики расположены более чем в ста странах.

В 1990-2000-е годы в восточной Африке шла кровопро­
литная война, сопровождавшаяся геноцидом целых народов.
Погибли миллионы людей. При этом поставки редкоземель­
ных металлов, золота и олова на мировые рынки из охва­

ченных войной районов не прекращались. На полученную

выручку воюющие стороны втридорога, через посредников,

покупали оружие у тех самых стран, которым задешево про­

давали ресурсы. Это оружие подхлестывало войну, но для

западных правительств и компаний ситуация выглядела как
win-win, то есть выигрышной со всех сторон.
Запад продолжает получать дешевые ресурсы, день­
ги за них возвращаются туда же на Запад в оплату оружия,
правительства африканских стран слабеют от вооруженных
конфликтов и все сильнее зависят от своих бывших колони­
заторов и вездесущих Соединенных Штатов. Эта стратегия

49
 ИГОРЬ ШНУРЕНКО

«win-win» для западного бизнеса требует человеческой кро­

ви, но она успешно применяется, и не только в Африке.
Когда правозащитные организации в начале 2000-х уже
не могли не обращать внимание на жуткие военные пре­
ступления, в прессе стали появляться очерки о том, как

крупные технологические компании способствуют войне.

Это ударило по репутации компаний, получающих металл
из военной зоны.
Тогда Intel решил показать, что тантал для чипов не по­
ставляется из Конго. На расследование своей собственной
цепочки поставок эта ведущая глобальная технологиче­
ская компания потратила четыре года! Возможно, конеч­
но, что реальное расследование продолжалось не так долго,

а большая часть времени ушла на то, чтобы замести следы,

но факт остается фактом: схема цепочек поставщиков была
настолько сложна, что для ее составления пришлось при­

влечь искусственный интеллект!

Что уж говорить об обычных журналистах, которым не­
доступна внутренняя кухня транснационалов - у них

мало шансов на то, чтобы распутать подобные цепочки.

Остается надежда на «свистунов» - то есть сотрудников са­
мих компаний, которые из благородных побуждений, стра­
ха или по иным причинам сливают информацию о неблаго­
видных делишках корпораций.
И это лишь один элемент пирамиды создания стоимости
высокотехнологичных продуктов XXI столетия!
Десятки тысяч компонентов для устройств Apple постав­
ляют сотни компаний. Чтобы попасть на сборочный кон­
вейер Foxconn, их нужно привезти с примерно 750 складов
и фабрик в 30 странах мира. Реальную структуру производ­
ства сможет нарисовать разве что сам ИИ - и понятно, что
эта схема будет надежно скрыта от посторонних глаз.
Сети поставщиков компонентов, оборудования, сервисов,
обслуживающих системы с ИИ по сложности и запутанности

50
 ДЕМОН ВНУТРИ

напоминают интернет с его тысячами сайтов с перекрест­

ными ссылками - не широкую и прямую информационную
автостраду, о которой так любит говорить Билл Гейтс, а ско­
рее паутину, призванную запутать и скрыть и от налогови­

ков, и от общества реальное положение вещей.

КОМПОНЕНТЫ ВЕЗУТ НА СБОРКУ

Производство систем с искусственным интеллектом

стало бы невозможным без контейнерных перевозок.
В 1952 году в США разработали стандартный контейнер
CONEX, с которым можно управляться как с элементом лего,
без проблем перегружая с корабля в железнодорожный ва­
гон, а оттуда в грузовик.

Согласно конвенции, принятой Международной морской

организацией в 1972 году, каждый контейнер должен был
нести стандартную табличку с данными. Типовой контейнер
служит более 10 лет и стоит при этом менее 2000 долларов
(90 процентов их делается в Китае). Эти нововведения ра­
дикально сократили стоимость глобальной доставки и пре­
вратили планету в огромную фабрику.
Большие прибыли от морских грузовых перевозок
были бы невозможны без сопутствующего ущерба, кото­
рый редко принимается во внимание. Одни контейнерово­
зы произвели в 2018 году около трех процентов мировых
выбросов в атмосферу углекислого газа- больше, чем вся
Германия. Чтобы сократить расходы, крупные перевозчи­
ки - а этот рынок принадлежит прежде всего компаниям

из Дании, Швейцарии и Франции - используют топливо

с высоким содержанием серы. Подсчитано, что контейне­
ровозы косвенно отвечают за ежегодные 60 тысяч смертей,
вызванных повышенным содержанием токсичных веществ

в атмосфере Земли.

51
 ИГОРЬ ШНУРЕНКО

Кроме того, каждый год тысячи контейнеров теряются

в море и либо погружаются на дно океана, либо блуждают
по его просторам. Некоторые из них содержат токсичные
вещества, которые просачиваются в воду. Таким образом,
за прибыль, приносимую логистикой систем с ИИ, прихо­
дится расплачиваться загрязнением экосистемы океана, ат­

мосферы и сверхэксплуатацией моряков, которые проводят

в море зачастую по 9-10 месяцев без перерыва.
Треть из этих моряков филиппинцы, для которых вы­
сокие технологии означают прежде всего безжалостную
эксплуатацию.

НЕВИДИМОЕ ЗОЛОТО ДАННЫХ

Агент искусственного интеллекта не может работать без по­

стоянного потока данных от системы, которой он управ­
ляет. Данные для Алексы, амазоновского интерфейса ме­
жду человеком и искусственным интеллектом, поставляет

система «Эхо», которая содержит семь направленных ми­

крофонов. Пользователя в результате можно слышать все­
гда и везде, даже поверх музыки. Данные, собранные с ми­
крофонов, поступают в принадлежащее «Амазону» облако,
доступ к которому дается разнообразным сервисам и при­
ложениям, в том числе, в целях быстрейшего развития сети,
и независимым структурам. Данные оттуда распределяются
по множеству каналов.

Разговоры хозяев, в частности, переводятся в текст, кото­

рый анализируется на предмет ключевых слов, семантиче­
ского построения фраз и индивидуальных звуковых харак­
теристик. Этот анализ используется для получения ответов
из хранилищ данных, но не только.

Как для пользователя, так и для самих сотрудников

«Амазона» «Эхо» - это черный ящик. Является ли он лишь

52
 ДЕМОН ВНУТРИ

передаточным звеном от пользователя к облаку, и даже если

так - собирает ли он только ту информацию, которая нужна
для адекватного приема команд? Едва ли - эксперты сооб­
щали о том, что датчики собирают о пользователях всю воз­
можную информацию, а не только ту, которая необходима
для оказания тем услуг.

Пользователь Алексы является для «Амазона» потребите­

лем, ресурсом, работником и продуктом одновременно. Как
потребитель, он покупает продукт и пользуется им - но при
этом его голосовые команды поступают в облако данных
Amazon, анализируются в чрезвычайно сложных сетях об­
работки информации и хранятся там, пополняя базу чело­
веческих голосов, эмоций и инструкций.
Эта база, которая растет как снежный ком, используется
в целях машинного обучения нейросетей, которые действи­
тельно становятся все умнее. При этом потребители, через
свою реакцию, постоянно оказывают компании бесплатные
услуги по оценке качества ответов Алексы, их полезности
и своевременности. Алекса учитывает обратную реакцию
и с каждым разом учится лучше слышать и понимать, до­

пускать все меньше ошибок, выполнять команды как мож­

но точнее. Например, если пользователь повторил вопрос,
значит, он считает, что не был услышан. При этом Алекса -
то есть агент искусственного интеллекта, стоящий за бес­
плотным голосом - все время обновляет профиль пользова­
теля, строит модель его предпочтений, привычек и желаний.
Не за горами разработка и внедрение системы взаимо­
действия между мозгом человека и агентом машины напря­
мую, минуя голос или пальцы. Можно, с оговорками, о ко­
торых пойдет речь дальше, называть это чтением мыслей.
Когда это будет достигнуто, мысли человека поступят в об­
щую копилку данных, а облачные серверы смогут накапли­
вать информацию, скажем, о том, насколько действие чело­
века соответствует его мысли.

53
 ИГОРЬ ШНУРЕНКО

Алекса получает возможность следить за поведением че­

ловека 24 часа в сутки 7 дней в неделю. Разумеется, 15-сан­
тиметровый цилиндрик не занимается сложным анализом,
это лишь интерфейс, но в облаке в режиме реального вре­
мени создаются и обновляются профили пользователей,
со всеми их привычками и интимными подробностями.
Агенты ИИ с доступом к облачному хранилищу смогут про­
гнозировать поведение оригиналов, исходя из этих моделей,
и делать это все точнее, и точнее, и точнее.

Ресурсы, которые нужны для того, чтобы агент ИИ отве­

тил на вопрос, включил свет, спел колыбельную ребенку
во множество раз превышают то, что требуется для подоб­
ных действий человеку. Искусственному интеллекту необ­
ходимо «железо» серверов, создание целой инфраструктуры,
труд множества людей, которые вручную удаленно вводят
данные в нужном формате ...
И еще нужна энергия, энергия, энергия.
Энергия нужна ИИ для передачи, сохранения и обработки
данных, огромные потоки которых текут в разных направ­

лениях по всей инфраструктуре. Связанные с этим затраты

трудно подсчитать из-за непрозрачности операций таких
компаний, как Apple, Facebook или Amazon. Как-то органи­
зация Greenpeace попыталась получить у этой компании
данные об энергопотреблении ее облачных серверов и воз­
действии этого процесса на окружающую среду, однако ру­
ководство отказалось пойти навстречу природозащитникам.
Пользователи в общении с технологическими платфор­
мами практически прозрачны для «Фейсбука», «Гугла»,
«Амазона» и других, которые легко отслеживают, хранят,
анализируют, упаковывают и продают данные о каждом

их них. В то же время информация о работе самих этих ком­

паний остается закрытой.
С приходом на рынок все более совершенных ИИ-систем
подавляющая часть их операций производятся в облаках,

54
 ДЕМОН ВНуТРИ

и, таким образом, отследить или хотя бы как-то строить

по их поводу хоть какие-то догадки становится все труднее.

МЕХАНИЧЕСКИЕ ТУРКИ

В 1770 году австрийский изобретатель Вольфганг фон

Кемпелен сконструировал «шахматный компьютер», про­
званный «Механическим турком». Он хотел произвести впе­
чатление на императрицу Марию-Терезию, и это ему уда­
лось. Он возил машину, которая выигрывала почти все мат­
чи, по всей Европе и даже по американскому континенту.
Секрет устройства был прост: внутри машины скрывался
талантливый игрок в шахматы, который через оптическую
систему мог видеть, что происходит на доске. Зрителей,
убежденных, что с ними играет машина, попросту обма­
нули. Через два с лишним века Amazon.com не без юмора
назвала «Механическим турком» свою краудсорсинговую
платформу. Ее целью было восполнить недостатки искус­
ственного интеллекта, который не смог справиться с за­
дачей распознавания дублей пользовательских страниц
на своей торговой онлайн-площадке.
После долгих и бесполезных попыток как-то наладить ра­
боту системы инженеры обратились к людям, поручив им
работать в параллель с компьютерами. Джефф Безос, кото­
рому и принадлежала идея «Механического турка», назвал
платформу «искусственным искусственным интеллек­
том». Безос объяснил принцип ее работы так: «Обычно че­
ловек обращается с запросом к компьютеру, и тот выпол­
няет запрос. Но «Механический турок» делает все наобо­
рот. Перед компьютером стоит задача, сложная для него,
но очень простая для человека. Поэтому вместо того, чтобы
обратиться с запросом к компьютерному сервису, чтобы вы­
полнить функцию, она обращается к человеку».

55
 ИГОРЬ ШНУРЕНКО

Людям платят по несколько центов, если они обнару­

жат страницу-дубликат существующего сайта- с этой про­
стой задачей искусственный интеллект справиться не мо­
жет. И в случае «Механического турка» для Марии-Терезии,
и в случае его современного аналога человек работает за ма­
шину, а перед зрителями (и инвесторами) разворачивает­
ся спектакль «искусственного интеллекта», который якобы
в одиночку решает задачи.

Платформа была запущена в 2005 году, и уже через пару

лет после этого на нее работало 100 тысяч «турок», кото­
рые получали микровознаграждения за выполнение про­

стых задач, требующих обычно одного или нескольких кли­

ков мышкой. Безос сумел продать услугу другим компани­
ям, развивающим искусственный интеллект: они должны
платить «Амазону» 10 процентов стоимости каждой опе­
рации или полцента за все операции, стоимость которых

меньше цента.

Невидимый, скрытый, малооплачиваемый труд отдается

на аутсорсинг или краудсорсинг многочисленным «клике­

рам» из стран Третьего мира, которые сегодня присваива­

ют данным ярлыки, классифицируют цифровые архивы для
того, чтобы «кормить» этими данными прожорливые нейро­
сети. Часто, впрочем, этот труд не оплачивается, например,
в случае программы reCAPTCHA, когда вы выполняете рабо­
ту по распознаванию образов для нейросетей «Гугла» про­
сто за то, чтобы продолжить пребывание на его сайте. Это
делается под тем предлогом, что вы должны доказать, что

сами не являетесь искусственным интеллектом.

Как выясняется, современный «искусственный разум»

не так уж и разумен. В работу систем, которые продаются
как «разумные» и «принимающие решения», вложено мно­

го физического труда шахтеров и взрывотехников, моряков,

грузчиков, складских работников, монотонного труда сбор­
щиков на конвейере, сотен тысяч «когнитивных кликеров»

56
 ДЕМОН ВНУТРИ

и «механических турок», а также неоплачиваемого труда

миллионов простых пользователей.

ОБЛАЧНАЯ ЭКСПЛУАТАЦИЯ

Итак, чтобы произвести и эксплуатировать масштабную

систему искусственного интеллекта, требуется постоян­
но извлекать материальные ресурсы, человеческий труд
и большие данные. Оставим пока в стороне финансовые
ресурсы, которые также необходимы - при том, что мо­
дель приносит собственникам прибыль на каждом этапе
процесса. Извлечение это имеет поистине планетарный
масштаб - то есть современный капитализм буквально
вытягивает материалы как из Земли, так и из биосфе­
ры, монетизируя человеческое общение, коммуникацию
и социализацию.

Когда мы говорим об «облаке» и «облачных вычислениях»,

многим представляется что-то эфемерное. Меж тем для об­
работки данных в таких «облаках» требуется самое настоя­
щее «железо» серверов и инфраструктуры, в процессе изго­
товления которых в разных странах мира из недр извлека­

ются самые реальные редкоземельные элементы.

Экономика извлечения отнюдь не нова, и добыче ресур­

сов из глубин Земли всегда сопровождалась тяжелыми фор­
мами эксплуатации человека. Процессу всегда сопутствова­
ли войны, мятежи, рабство, насилие ...
Для извлечения ресурсов из недр прежде всего нужны
работники. Работники - тоже своего рода инструменты,
и в экономике «искусственного интеллекта» о них вполне

можно говорить как об аристотелевских «одушевленных

орудиях» или «говорящих машинах».

Роль людей сводится к тому, чтобы подправлять огрехи,

вызванные несовершенством искусственного интеллекта.

57
 ИГОРЬ ШНУРЕНКО

Аристотель писал, что если бы ткацкие челноки сами

ткали, а плектры сами играли, тогда господам не нужны

были бы рабы. То есть до тех пор, пока без людей в про­

цессе работы пирамиды ИИ нельзя обойтись, это «наи­
более совершенное орудие труда» будет выполнять свою
роль. При этом суть инструмента состоит в том, чтобы
быть послушным, неважно, одушевленный этот инстру­
мент или неодушевленный. Как только ИИ сможет выпол­
нять работу по запросу хозяина или даже предвосхищая
его запрос, «говорящая машина» станет не нужна. Что бу­
дет тогда с человеком, мы обсудим дальше, а пока обра­
тимся к истории рабства.
Очевидно, что несмотря на всю шумиху о свободах и пра­
вах человека, оно никогда практически не прекращалось,

и причиной этому был спрос на рабов, прежде всего со сто­

роны крупных империалистических держав и корпораций.
Великобритания и другие европейские страны в течение
нескольких веков получали огромные прибыли от работор­
говли. Принудительный труд использовался на каучуковых
плантациях Малайи, а индейцы Боливии в нечеловеческих
условиях добывали серебро и массово гибли на рудниках
ради металла, который шел на изготовление монет, то есть
обеспечивал финансовое обращение в Европе. И тогда, и се­
годня есть связь между трудом, добычей ресурсов и добы­
чей данных.

ПОТРЕБИТЕЛЬ КАК РЕСУРС

Под трендовыми названия «цифровая экономика» и «эко­

номика внимания» скрывается модель эксплуатации, харак­

терная для старой доброй экономики извлечения ресурсов.

«Лукойл» и «Шелл» добывают, забираясь все глубже и даль­
ше, нефть, выкачивают ее и продают. Для «Гугла», «Фейсбук»,

58
 ДЕМОН ВНУТРИ

«Инстаграма», «Твиттера» и других компаний «экономики

внимания» природным ресурсом служит человек, его время

и контент, который он создает.

Пользователь владеет собственным контентом весьма
условно, данные его профиля, содержимое постов, реакции
на контент, эмоции, выражающиеся эмотиконами - все это

открыто потребляется самой платформой, классифицирует­

ся, разбивается на части, упаковывается и продается, пере­
упаковывается и перепродается. В обмен на то, что вы дае­
те себя потреблять, вам предоставляется право бесплатно
пользоваться некоторыми услугами.

Человек - это новая нефть, ценнейшая в экономике боль­

ших данных, но он еще не осознал своего превращения в то­

вар. Есть попытки создания на блокчейне платформ по мо­

дели вклада, где пользователи являются владельцами со­

зданного ими контента и получают за него вознаграждение.

Впрочем, пока что у создателей таких платформ не получа­

ется масштабировать свою модель - возможно потому, что
они не обладают столь значительными средствами, как ве­
дущие соцсети.

В системах с использованием искусственного интеллекта

это происходит еще более явственно.
Наша история началась с Даниэль, хозяйки дома, где уста­
новлена система Echo. Она оплачивает работу устройства
как потребитель услуги и клиент компании. Но Amazon за­
рабатывает на ней и в скрытой форме, используя ее как че­
ловеческий ресурс.
Ее голосовые команды поступают в центр обработки дан­
ных Amazon, анализируются там и хранятся для пополне­
ния базы человеческих голосов, эмоций и инструкций, ко­
торая потом используется для машинного обучения нейро­
сетей. Хозяйка дома является неоплачиваемым тренером
искусственного интеллекта и осуществляет за свой счет
уход за устройством и его энергообеспечение.

59
 ИГОРЬ ШНУРЕНКО

Поставляя компании бесплатный контент, она к тому же

служит объектом постоянного анализа и таргентинга. Она
также бесплатно работает как оценщик качества ответов
Алексы, их полезности и своевременности, тем самым по­
могая Amazon совершенствовать системы распознавания
и обработки речи.
Есть ключевое отличие систем с искусственным интел­
лектом от других технологий: они сами потребляют, анали­
зируют и оптимизируют содержание, созданное человеком

по всем каналам, его речь, изображения и видео. Таким об­

разом, технически потребитель становится частью системы,
которая может его эксплуатировать, не сообщая ему об этом.
Греческая химера, мифологическое животное, была ча­
стично львом, козлом, змеей и драконом - точно так же
пользователь Алексы является для ИИ-индустрии одновре­
менно потребителем, ресурсом, работником и продуктом.

ЧЕРНЫЙ ЯЩИК ПРИНИМАЕТ РЕШЕНИЯ

Оптимизируя бюджеты, государства внедряют по всему

миру автоматизированные системы принятия решений
с использованием искусственного интеллекта. Для бюро­
кратии это своего рода аутсорсинг ответственности: не надо

ничего объяснять, ибо решения принимает, по факту, чер­

ный ящик. При этом у тех, кого непосредственно касают­
ся эти решения, нет реальных возможностей их изменить
или даже оспорить.

Пионером таких систем выступают Соединенные Штаты

и Китай, и каждая страна имеет в их применении свои
особенности.
С момента прихода к власти президент США Трамп распо­
рядился резко сократить выплаты по социальным програм­

мам, затрагивающим интересы наименее обеспеченных

60
 ДЕМОН ВНУТРИ

слоев населения. При этом для оптимизации процессов уже

сейчас широко применяется искусственный интеллект, ко­
торый, например, анализирует данные малообеспеченного
инвалида и решает, сколько часов бесплатного ухода в неде­
лю ему полагается от государства.

Если ИИ решил отказать или назначил меньше часов, чем

было раньше, больному просто некуда обратиться: ему го­
ворят, что решение, принятое «черным ящиком», невозмож­

но изменить. Более того, чиновники не могут даже объяс­

нить принятое решение - примерно как сотрудник банка
может лишь гадать, почему система не выдала потребите­
лю кредит. Во всем мире сегодня намечается переход от ре­
шений, принимаемых людьми, к решениям на базе непро­
зрачных алгоритмов. При этом у людей, которых это непо­
средственно затрагивает, практически нет средств контроля

за государственными органами, не говоря уже о частных

компаниях. «Черные ящики» устройств, где обработка дан­

ных осуществляется в наднациональном «облаке», недо­
ступны для того, чтобы опротестовать эти решения или из­
менить их.

Эффективность систем автоматического принятия реше­

ний в вопросе помощи инвалидам или неимущим никем
не доказана, хотя бюджеты на социальные нужды они, ко­
нечно, экономят - перекладывая при этом ответственность

за результаты с людей-чиновников на безответные машины.

И чиновники, и крупный бизнес оказываются кровно
заинтересованы в быстрейшем продвижении технологий.
Одних он освобождает от ответственности, другим обеспе­
чивает прибыль. При этом личные и конституционные пра­
ва, которые граждане развитых стран отстаивали на протя­

жении веков, борясь за социально ответственное государ­

ство, мало кого интересуют.

Практически везде крупный бизнес обеспечил себе ре­

жим наибольшего благоприятствования в создании новых

61
 ИГОРЬ ШНУРЕНКО

технологий. Прикрываясь стремлением помочь родному

государству, компании вывели из-под легального надзора

свои бизнес-практики, в которых много серых или даже от­

кровенно черных схем. Конечно, сегодня даже транснацио­
нальные корпорации имеют дом, чаще всего в США, и дол­
жны демонстрировать и всячески доказывать свою лояль­

ность. Однако это лояльность отнюдь не народам этих стран,

а лицам или структурам, принимающим реальные решения.

Поэтому тем же пенсионерам не стоит надеяться на право­

вую защиту государства: им в лучшем случае скажут, что все

делается для их же блага, и что по-старому работать нельзя,

потому что у страны нет на это денег.

Казалось бы, есть юристы, которые могли бы защитить

права людей в подобных случаях. Но суды требуют доказа­
тельств, а у юристов резко сузилась возможность предоста­

вить информацию о том, какой, собственно, алгоритм при­

вел к нарушению прав.

Необходимая юристам информация о том, как собира­

ются, обрабатываются и используются данные, защищена
не только законами о коммерческой тайне, но и практикой
аутсорсинга, когда для проведения сомнительных с точки

зрения закона работ и исследований нанимаются сторонние

контракторы где-нибудь в Индии, где на тонкости, связан­
ные с защитой данных, никто не будет обращать внимания.
Например, на компанию Facebook работают десятки
тысяч людей в самых разных странах мира. При этом от­
работка сомнительных алгоритмов передается, как пра­
вило, на аутсорсинг. В известном скандале вокруг ком­
пании Cambridge Analytica, которая получила подробные
профили всех американских избирателей и использовала
их в бизнесе политического маркетинга, самое интересное
было не то, что искусственный интеллект проанализировал
все лайки, эмотиконы, комментарии и посты этих людей.
Не то, что на основе собранных данных система набросала

62
 ДЕМОН ВНУТРИ

психологический портрет каждого человека с отнесени­

ем его или ее к пяти основным типам личности. Не то, что
затем люди стали получать персонализированную поли­

тическую рекламу и видеть посты, которые были пред­

назначены именно для личности данного типа. Не то, что
люди аккуратно таргетировались, а их эмоции просчиты­

вались для того, чтобы вызвать запланированный результат.

Самое интересное заключалось в том, что все эти операции
проделала малоизвестная компания Cambridge Analytica,
которая формально не имеет отношения к «Фейсбуку» -
но на деле получала от него самые эксклюзивные данные.

Корпоративная система аутсорсинга, отдачи на сторону ис­

полнения самых скользких делишек не получала бы оглас­
ки и дальше, если бы в какой-то момент дело не затронуло
интересы влиятельных политических кругов США.
Facebook и сейчас может беспрепятственно вмешивать­
ся в политику таких стран, как Россия, или определять ис­
ход голосования в какой-нибудь банановой республике,
но ему дали по рукам, когда он использовал имеющие­

ся возможности, чтобы влиять на политические процессы

в Соединенных Штатах и Великобритании.

ЭЛИТА СЛУШАЕТ ПЛОЩАДЬ

В Риме тех времен, когда папы любили ставить на площа­

дях обелиски в египетском стиле, жил ученый иезуит, немец
по происхождению, Атанасиус Кирхер. Он считается отцом
египтологии и даже утверждал, что разгадал язык фараонов.
Увлеченный криптографией, на пустых местах обелисков
он рисовал иероглифы настолько фантастические, что они
до сих пор ставят исследователей в тупик. Плодовитый ав­
тор, на обложке одной из своих работ написавший «Нет ни­
чего прекрасней, чем знать все», Кирхер опубликовал более

63
 ИГОРЬ ШНУРЕНКО

сорока книг по медицине, геологии, сравнительной рели­

гии и музыке.

В трактате, посвященном магнетизму, он описал и другие

силы притяжения - гравитацию, любовь. Кирхнер изобрел
магнитные часы и мегафон, а в 1673 создал «говорящую
статую», statua citofonica. В сущности, это был первый ми­
крофон, сделанный на основе гигантской спиральной тру­
бы, которая передавала разговоры с городской площади. Те
звучали словно бы изо рта статуи, расположенной в частных
покоях владельца.

Вот как ее описывал изобретатель: «Статуя будет спо­

собна издавать звуки не переставая, говоря голосом то чело­
века, то животного, она будет смеяться и скрежетать зу­
бами, будет казаться, что она реально кричит или стонет,
а иногда к удивлению она будет дуть со страшной силой».
Statua citofonica была, возможно, первой системой мас­
совой прослушки, данные которой поступали во дворцы
итальянских олигархов. Люди на площади, конечно, не зна­
ли, что их разговоры используются когда для развлечения,

а когда и для интриг, связанных с властью или обогащением.

Тогда, как и сегодня, инфраструктура массовой прослушки
была доступна лишь элите.

С тех пор изменилось удивительно мало - разве что ши­

рокомасштабная слежка за населением с применением ИИ
давно перешла границы отдельных стран и стала глобаль­
ным явлением.

Об этом свидетельствует прежде всего бурный рост

рынка сенсорных сетей, контролируемый компания­
ми из Швейцарии и США (на 14% в год; ожидается, что
к 2020 году число установленных устройств достигнет 50
млн. По всему миру каждый год устанавливаются также сот­
ни миллионов «интеллигентных» камер наблюдения, этот
рынок растет на 16 % в год, и достигнет 800 млн долларов

64
 ДЕМОН ВНУТРИ

к 2022 году). Промышленные масштабы принял мониторинг

социальных сетей и, конечно, внедрение технологий распо­
знавания лиц и эмоций. ИИ автоматизировал слежку, сде­
лав ее охват практически тотальным - и тем самым ускорил

процесс утраты одной из основ современной западной ци­

вилизации - неприкосновенности частной жизни.
ИИ-технологии, которыми пользуются государства
по всему миру, подталкивают их к внедрению систем то­

тальной слежки и контроля за гражданами. Эти системы

слишком удобны, чтобы от них отказаться. Французский
журналист как-то спросил президента Барака Обаму, поче­
му США прослушивают иностранных лидеров. Тот ответил
в духе: мы делаем это, потому что можем.

Сознание новых возможностей пьянит политиков и лиде­

ров бизнеса, открывая путь к еще большей централизации
власти и концентрации ресурсов планеты в руках немногих.

Пресса много писала о примерах слежки, проводимой

при помощи ИИ в Китае, где правительство открыто при­
знает эти факты. Однако вся подобная инфраструктура
существует и в США, она производится частными компа­
ниями, которые в публичном пространстве акцентируют
внимание на других проектах, выставляющих их в благо­
приятном свете.

Инструменты, которые можно использовать для слеж­

ки в США, не афишируются правительством и правоохра­
нительными органами страны, но при наличии политиче­

ской воли или рыночного спроса легко могут быть примене­

ны. Так, известно, что Пентагон финансировал и, вероятно,
до сих пор финансирует слежку при помощи ИИ в соцсе­
тях для того, чтобы предсказать поведение больших масс
населения.

65
 V

ИИ РАСКОВАННЬIИ:
ОТ ЖАККАРДОВА СТАНКА К ЧЕЛОВЕКУ­

ТРАНСФОРМЕРУ
 РОЖДЕНИЕ ИИ ИЗ ДУХА ПОЭЗИИ

Рождение Искусственного Интеллекта напрямую связано

с поэзией, любовью и сепаратизмом.
«Не как у матери ль черты твои, дитя прекрасное мое!
Ада! Единственная дочь моего дома и сердца моего?»
Так вопрошал себя лорд Байрон перед тем, как отправить­
ся в мятежную Грецию, где он вступил в ряды сепаратистов,
воюющих против признанного тогдашним мировым сооб­
ществом законного правительства Великой Оттоманской
Порты. Байрон был знаменитый поэт-романтик, по по­
пулярности сравнимый разве что с сегодняшними звез­
дами рэпа, и свои строки он обращал к единственной за­
конной дочери Аде. Если бы тогда существовал инстаграм,
Байрон получил бы немало язвительных комментов и из­
девательских гифок. Как же «единственная» - ведь у него
была еще пара, а скорее всего и больше, незаконных доче­
рей - Аллегра, Элизабет Медора Ли и так далее.
Однако именно Аде предстояло сыграть роль в истории,
быть может, не менее значительную, чем ее непутевому па­
паше. Прощание, что называется, было недолгим: Байрон
бросил жену, когда его единственной и ненаглядной доче­
ри был всего месяц, запостил в своем аккаунте трогательные
строки и вскоре навсегда покинул Англию. Словно в индий­
ском фильме, маленькая девочка уже никогда больше не уви­
дит отца, чья смерть от малярии станет мировой сенсацией -
такой, что в далекой холодной России поэта будет оплакивать
другой реальный рэппер, Александр Сергеевич Пушкин.

69
 ИГОРЬ ШНУРЕНКО

Мама Ады Аннабелла, одиннадцатая баронесса Вентворт,

была так возмущена романом мужа со своей двоюродной се­
строй, что и слышать не хотела ни о какой поэзии. Поэтому
она выбрасывала из дома сборники стихов и отваживала
поэтов любых жанров, от романтиков до верлибристов, счи­
тая их такими же сумасшедшими, каким был ее муженек.
Выбивая клин клином, мама всячески поощряла интерес Ады
к логике, математике и точным наукам. Девушка росла вун­
деркиндом и с юности общалась со знаменитыми учеными,
такими, как биолог Чарльз Диккенс и физик Майкл Фарадей.
Но яблоко от яблони недалеко падает. Несмотря на успе­
хи в логике и точных науках, Аде передался бунтарский дух
отца. В возрасте 12 лет она решила сконструировать себе
крылья. Девочка подошла к проекту с методичностью уче­
ного, страстью француженки и воображением дочери поэта.
Она скрупулезно изучала разные материалы - бумагу, про­
масленный шелк, перья, исследовала анатомию птиц и даже
начала работу над книгой «Наука о полетах», иллюстрируя
ее собственными рисунками.
Ум, эрудиция и склонность к научным занятиям не сде­
лали ее сухарем. Редкая прозорливость и невероятная для
ее возраста образованность сочетались в Аде с ранним про­
буждением чувственности, характерной для всей ее семьи.
В семнадцать лет она влюбилась в домашнего наставника
и сбежала с ним, но парочку засекли родственники учителя,
и, всю в слезах, барышню вернули домой. Вскоре ее пред­
ставили ко двору. Она блистала на балах и стала, если мож­
но так выразиться, звездой тусовки - но наука влекла ее
не меньше, чем сердечные дела. В занятиях физикой и ма­
тематикой она точно не была легкомысленна. Ада называла
себя аналитиком и метафизиком, а свой научный метод -
поэтической наукой.
Математические формулы для Ады были живыми, пусть
даже и потусторонними существами, которые меняли формы,

70
 ДЕМОН ВНУТРИ

чтобы путать людей, но были ясны для провидцев. Она счи­

тала математику и метафизику одинаково ценными инстру­
ментами для исследований «невидимых миров вокруг нас».

ПЕРВЫЙ БИРЖЕВОЙ АЛГОРИТМ

Магия цифр увлекла Аду до такой степени, что она стала

играть на скачках - и продулась в пух и прах. Чтобы оты­
граться, она разработала математическую систему, кото­
рая должна была предсказывать выигрышные номера. Это
был прообраз современных биржевых аналитических мо­
делей, которыми пользуются как трейдеры, так и изощрен­
ные трейдинговые боты. Все это происходило в эпоху, когда
по незаселенным Соединенным Штатам еще бродили стада
бизонов, а наибольшую прибыль Британии давали не фи­
нансовые операции, а торговля рабами, которые покупались
в Африке за ракушки и сотнями тысяч поставлялись в США.
Чуть позже Британия нашла другой неиссякаемый источник
кэша: торговлю наркотиками, по дешевке производимыми

в Индии и втридорога поставлявшимися в Китай.

Легких денег по Лондону ходило тогда немало, и как
сейчас спекулянты криптовалютой не скупятся на кокаин
и «Ламборгини», золотая молодежь того времени азартно
просаживала деньги на бегах. Образовав из своих поклон­
ников синдикат, Ада Лавлейс убедила их инвестировать
в предприятие, куда каждый из них внес серьезную сумму.
Однако что-то в алгоритме пошло не так, все закончилось
провалом и гигантскими долгами, которые после смерти

Ады взял на себя ее муж.

О супруге, за которого она вышла двадцати лет от роду,
новоиспеченная леди Лавлейс вспоминала нечасто. А вот
увлекающегося своего отца любила, и когда умерла, то за­
вещала похоронить себя рядом с ним. Умерла она в 36 лет,

71
 ИГОРЬ ШНУРЕНКО

как и он - еще одно доказательство того, что математика

и поэзия странным образом связаны.

«Леди Фее», как называл Аду ее не менее знаменитый
учитель Чарльз Беббидж, было суждено войти в историю
науки как первому на Земле программисту. Она написала
первый алгоритм для математической машины Бэббиджа,
которую тот назвал «аналитическим двигателем». Машина
Бэббиджа считается первым компьютером, построенным,
правда, не на электричестве, которое тогда было такой же
странной экзотикой, как сегодня квантовые компьютеры,
а на принципах механики. По структуре, впрочем, машина
Бэббиджа ничем не отличалась от современного компьюте­
ра, да и цель у нее была такая же: быстрое и безошибочное
произведение вычислений. Ада Лавлейс поняла, что приме­
нять машину можно где угодно, и написала для нее первую

на свете программу.

Математик и философ, Бэббидж был воплощением об­

раза чокнутого профессора. Кто на кого влиял сильнее -
он на свою ученицу или она на него - неизвестно, но оба
весьма выделялись на фоне своих чопорных соплеменни­
ков. Мем «британские ученые» имеет достойную историю.
Бэббидж подсчитывал все, что встречал на своем пути: ве­
лосипеды, собак, экипажи, женщин, мужчин, детей, черно­
кожих, закрытые и открытые калитки, высокие и низкие

заборы, разбитые и целые стекла. На стекольную тему он

даже написал работу «Таблица относительной частоты при­
чин разбития оконных стекол». Выяснилось, что из 464 ис­
следованных образцов 14 были разбиты «пьяными мужчи­
нами, женщинами или детьми». Подход обещал многое для
будущих исследователей влияния пьянства на обществен­
ный порядок.
Хулиганские выходки плебеев настолько возмущали фи­
лософа, что он запустил целую кампанию борьбы за мо­
раль, а чтобы обосновать свои выводы, написал работу,

72
 ДЕМОН ВНУТРИ

«Обозрение уличных непотребств», где подробно проана­

лизировал 165 непотребств, случившихся на протяжении
80 дней - то есть исследовал примерно по два непотреб­
ства в день. Особенно математик ненавидел уличных орга­
нистов, ущерб от деятельности которых было не так просто
измерить.

Ученый гневно писал: «Трудно оценить страдания, кото­

рые обрушились на многие тысячи индивидуумов, и впол­
не весомые убытки для множества интеллигентных людей,
вызванные потерей их времени из-за музыки органистов
и от подобных непотребств.»
Помимо прочего, Бэббидж занимался криптографией
и кодами, и не изобрел биткойн только потому, что был за­
нят разработкой офтальмоскопа, который придумал рань­
ше Гемгольца.
Бэббидж повлиял даже на Маркса, который позаимство­
вал у кембриджского математика тезис, что промышлен­
ники внедряют разделение труда, чтобы увеличить не про­
изводительность, а прибыльность. В самом деле, произво­
дительность - ведь для капиталиста величина абстрактная,
а прибыль - вполне конкретная, осязаемая. С Марксом его
объединяла уверенность в возможности если не сегодня,
то в близком будущем решить проблемы общества, органи­
зовав его на рациональных началах.

Подобные оптимистические идеи витали в атмосфере

викторианской Англии, которая не сердилась на мир за то,
что грабила его как могла, и бурно развивалась во всех
направлениях.

Оба мыслителя считали, что чем больше люди изучают

законы природы, тем сильнее убеждаются в том, что мно­
жество ее форм основано на действии нескольких простых
принципов. Только Бэббидж называл это божественным
промыслом, а Маркс - историческим материализмом.

73
 ИГОРЬ ШНУРЕНКО

МАТЕМАТИКА ПРОТИВ РАСПУЩЕННОСТИ

Тем временем непотребства продолжались. Шарманщики

продолжали терроризировать формирующийся сред­
ний класс низкопробной музыкой Мендельсона и Генделя.
Стекольщики только успевали вставлять новые стекла
за уличными сорванцами и анархистами. Бэббидж начал
искать выход из окружавшего его социального хаоса на пу­

тях науки. Так он придумал «Аналитический двигатель»,

который и считают прообразом Искусственного интел­
лекта. К сожалению, ни один прототип так и не был закон­
чен при жизни изобретателя, но и сегодня его схема вдох­
новляет исследователей. Отдельные части незаконченно­
го механизма Бэббиджа демонстрируются в Лондонском
Музее Науки, а в 1991 году «Аналитический двигатель» был
построен в точности по его схеме. Ожидали чего угодно,
но только не того, что модель заработает именно так, как
и было задумано изобретателем. Позднее, уже в 2002 году,
была построена другая вычислительная машина Бэббиджа,
«Дифференциальный двигатель».
Наша прекрасная леди Лавлейс была восхищена обеими
машинами. Бэббидж, покоренный красотой и умом девушки,
называл ее математической феей и числовой волшебницей,
и был уверен, что ее восторги будут выражены не в эмоциях,
а в деле. Так и вышло. За девять месяцев в 1848-49 годах Ада
сформулировала методы работы с вычислительной маши­
ной. Сначала она перевела с итальянского книгу математи­
ка Луиджи Менабреа, который написал об «Аналитическом
двигателе» большую статью. Изобретение было пионерским,
в таких вещах практически никто не разбирался, и, несмо­
тря на то, что концепция устройства понравилась Майклу
Фарадею, другие английские ученые не увидели в нем поль­
зы и смысла. Еще более чуждой идея казалась аристокра­
там из круга, к которому принадлежала Ада. Но женщина

74
 ДЕМОН ВНУТРИ

не унывала и продолжала работать. К переводу она приложи­

ла свои примечания, которые были втрое больше самой ста­
тьи. В них она объяснила, чем отличается «Аналитический
двигатель» от «Дифференциального», а также во всех деталях
описала метод вычисления на «Аналитическом двигателе»
ряда чисел Бернулли. Эта была очень подробная инструк­
ция, фактически машинный код, который и считается пер­
вой в мире программой.

ДИЗАЙНЕРСКИЕ ПЕРФОКАРТЫ

Прообраз искусственного интеллекта обязан своим ро­

ждением не только поэзии, эксцентричности и стремле­

нию поставить математику на службу обществу, но и моде.

Дело в том, что Бэббидж применил в своей вычислитель­
ной машине программный принцип работы ткацкого стан­
ка, изобретенного в 1804 году Жозефом Мари Жаккардом.
«Жаккардова машина» использовалась для производства
тканей, ковров и скатертей с большими и сложными узора­
ми. Требовалось управлять перемещением большого числа
нитей основы одновременно. Жаккард придумал делать это
с помощью двоичного кода, записанного на первых в мире

перфокартах. Они набирались по заданному узору, соответ­

ствующие отверстиям нити поднимались или нет по прин­

ципу «есть отверстие-нет отверстия». Затем челнок проки­

дывал нить в образовавшийся зев, формируя двусторонний
орнамент, где одна сторона являлась цветовым или фактур­
ным негативом другой. Фактически это была первая маши­
на с программным управлением.

Взяв у Жаккарда идею программирования на картах,

Бэббидж придумал машину из множества шестеренок и про­
чих механических элементов, которые, собственно и выпол­
няли ту работу, которую сегодня делают транзисторы.

75
 ИГОРЬ ШНУРЕНКО

Чтобы привести машину в действие, нужно было кру­

тить ручку, от чего запускалась программа которая про­

изводила вычисления. Правда, работала такая маши­

на в 1.000.000.000.000 раз медленнее, чем современный
смартфон.

СТО ЛЕТ СПУСТЯ

Бэббидж и Ада Лавлейс опередили время на сто лет. Машина

кембриджского математика оставалась неким курьезом, на­
ука в это время развивалась совсем в других направлениях.

Самый большой прогресс был достигнут в физике, химии,

астрономии и смежных областях этих наук, связанных с из­
учением Земли и космоса. Математика тоже сильно про­
двинулась вперед, например, в исчислениях бесконечно ма­
лых величин: дифференциальное исчисление как раз предо­
ставило нужный аппарат ученым, которые хотели описать,
как работает Вселенная. Вычислительные машины уже тогда
могли бы найти применение в быстро развивавшихся ста­
тистике и математической логике, но, видимо, человечество
не накопило еще достаточно данных для анализа, да и орга­

низация общества была отсталой настолько, что этот ана­

лиз точно остался бы невостребованным. Маркс обсчитывал
свой анализ экономических основ капитализма вручную,
но если бы ему дали компьютер и больший массив данных,
то выводы его все равно мало бы кто заметил, какими бы
они ни были взрывоопасными.
Похожую ситуацию, кстати, мы наблюдаем и сегодня, ко­
гда некоторые новые технологии (например, криптодень­
ги и блокчейн) не используются просто потому, что суще­
ствующие структуры, общественные, частные и государ­
ственные, откровенно боятся за свое выживание в случае
их внедрения.

76
 ДЕМОН ВНУТРИ

Отправимся, однако, в первую половину ХХ века, когда

накапливались знания, сделавшие возможным киберне­
тический прорыв, случившийся сразу после второй миро­
вой войны: прорыв, который запустил в оборот и сам тер­
мин «искусственный интеллект», и все те области науки
и технологий, которые подразумеваются под этим состав­
ным понятием. В первой половине ХХ века человек рассма­
тривался как творец, меняющий ход истории, и на сочета­
ние человек+машина смотрели без страха - скорее, с наде­
ждой. Термин «искусственный интеллект» еще не появился.
«Умную машину» еще не воспринимали в отрыве от «умно­
го человека», и поэтому не видели в ней угрозы. Опасность
исходила скорее от себе подобных, чем от каких-то фанта­
стических роботов.
Когда сегодня новые технологии упрекают в том, что они
радикально трансформируют человека, его привычки, его
способы коммуникации с другими и с окружающей средой,
забывают о том, что в первой половине ХХ века перемены
были, пожалуй, куда радикальнее. Человек покорял природу,
он почти что завоевал планету, на которой родился, и был
готов выйти за ее пределы. В СССР строили цивилизацию,
нацеленную на штурм неба, а русские космисты, о которых
мы поговорим позже, разрабатывали идеи не только завое­
вания космоса, но и всеобщего бессмертия. Подобными во­
просами, забыв о своих предшественниках, через полвека
займутся трансгуманисты, и они будут звучать ново даже
в 1980-е годы.
Внутрь самого человека при этом особо не вглядывались,
хотя никакого религиозного пиетета по отношению к нему

давно не испытывали: о душе писали только неисправи­

мые ортодоксы. Стрела познания была направлена на миры

вовне, но, конечно же, при желании можно было изменить
и самого человека - как бы ни высмеивал подобные попытки
Михаил Булгаков в «Собачьем сердце». Новые педагогические

77
 ИГОРЬ ШНУРЕНКО

школы, от Монтессори до Макаренко, работали над созда­

нием совершенных людей. Своего нового человека актив­
но создавали не только в Советском Союзе или в Германии,
но и в Палестине, где сионисты сбросили с корабля исто­
рии язык своих отцов и матерей, который считался сим­
волом унижения и опостылевшего гетто. Идиш, язык пле­
нения и поражения, заменили ивритом - языком побед.
Соединенные Штаты, как известно, были гигантским пла­
вильным котлом, где иммигрант бросал в очищающий огонь
все свое прошлое - язык, культуру, привязанности и предрас­

судки, семейные связи, часто даже имя - и выходил из огня

очищенным, готовым к новой жизни с чистого листа.
Вообще, языки стали восприниматься по-другому­
не как нечто Богом данное, а как инструменты в дости­
жении целей, более того, появились синтетические язы­
ки, наподобие эсперанто. Это очень важно: мы увидим,
что некоторые ученые, стоявшие у истоков кибернети­
ки, криптографии, машинного обучения, нейрофизио­
логии и нейробиологии, так или иначе имели отношение
к лингвистике.

Много шума наделала в первые десятилетия теория пси­

хоанализа, и Зигмунда Фрейда рассматривали примерно
как Эйнштейна в физике- как некоего возмутителя спокой­
ствия. Идеи и того, и другого укладывались, однако, в почти
что математическую логику всеобщей революции - миро­
вой революции, как сказал бы третий возмутитель спокой­
ствия, Лев Троцкий. Все они говорили о вещах, противо­
речащих здравому смыслу- о том, что, двигаясь, тела тя­

желеют, людьми управляет подсознание, а человеческую

историю можно повернуть, вооружив тысячу рабочих.

Революции, действительно, следовали одна за другой,
привычное общество на глазах разрушалось и почва ухо­
дила из под ног европейцев, полвека до 1914 года жив­
ших в ситуации стабильности. Можно провести параллели

78
 ДЕМОН ВНУТРИ

с тем, что происходит в Европе сегодня, но не будем забе­

гать вперед.

Англоамериканские источники обычно отсчитывают ис­

торию кибернетики, искусственного интеллекта и всего
с этим связанного от американского математика Норберта
Винера и английского криптографа Алана Тьюринга. Вклад
Винера и Тьюринга невозможно преуменьшить - одна­
ко этот взгляд сегодня представляется весьма и весьма

ограниченным.

ТЕОРИЯ ВСЕОБЩЕГО КОНТРОЛЯ

Сместимся на юго-восток от старой доброй Англии, в сто­

рону Германии, по которой Первая мировая война ударила
особенно тяжело. Больше всего немцы хотели вернуть себе
контроль за своей жизнью, и это стремление стало драйве­
ром Германии на пути к новой войне - наряду с ненавистью
к той «расе», которая, по мнению многих немцев, была по­
винна в потере этого контроля.

В 1941 году сотрудник берлинского патентного бюро

Герман Шмидт опубликовал работу «Инженерный кон­
троль: техническая проблема и ее экономическое, социаль­
ное и культурное воздействие». В ней он предвосхитил ос­
новные идеи Норберта Винера, высказанные в конце 1940-х
годов.

Шмидт работал в бюро уже десять лет и с самого нача­

ла думал над тем, как придать смысл хаотическому нагро­

мождению новых заявок, скапливавшихся у него на столе.

Выход он видел в стандартизации и распределении изобре­

тений согласно их функциям и возможным способам при­
менения. Так ему было легче понять, насколько оригиналь­
ны эти идеи. Описывая методы контроля и классификации,
Шмидт понял, что открыл нечто большее - общую теорию

79
 ИГОРЬ ШНУРЕНКО

автоматического управления, которая могла быть приме­

нена в самых разных структурах контроля, от механических

до биологических и даже социальных.

Шмидтовская «теория всеобщего регулирования»
(Allgemeine Regelungskunde) была именно тем, чем впо­
следствии занялись Норберт Винер и его коллеги - ко­
нечно, без англосаксонского лицемерия и телячьих неж­
ностей, выраженных в названии основного труда Винера
«Человеческое применение для человеческих существ».
Нацисты высоко оценили работу Шмидта и в 1944 сдела­
ли его первым профессором «всеобщей теории регулиро­
вания» в Высшем техническом институте Берлина. В карь­
ере ему помогло и членство в национал-социалистической
партии. Научное и партийное руководство надеялось на то,
что методы Шмидта помогут германской промышленности
разработать самоуправляемые ракеты и подводные лодки.
Май 1945 года Шмидт встретил в Восточной Пруссии, где
жила его семья. После поражения Германии территория
будущей Калининградской области отошла к Советскому
Союзу. Семье профессора надлежало уехать в Берлин,
но Шмидта задержали. Его посетили весьма интеллигент­
ные и понимающие советские офицеры, которые сказали,
что, несмотря на нацистское прошлое, ему нечего бояться.
Вежливые люди порекомендовали профессору изложить
его любопытную теорию в виде учебника. От рекоменда­
ции, разумеется, невозможно было отказаться. Труд не­
мецкого ученого потом передали советскому теорети­

ку В. В. Солодовникову, который использовал и развил его

идеи в своем двухтомнике, посвященном теории автомати­

ческого регулирования. Это было то, что нужно для разра­

ботки самоуправляемого советского оружия. Солидный труд
Солодовникова дополнялся и переиздавался вплоть до кон­
ца 1960-х годов. Советский ученый описал системы с об­
ратной связью, провел анализ их устойчивости и качества,

80
 ДЕМОН ВНУТРИ

привел их статические и динамические характеристики, ти­

повые схемы и примеры.

Шмидт прошел процедуру денацификации в 1948 году

и через несколько лет был переназначен на свою старую
должность, продолжив преподавание в Высшем техниче­
ском институте в Берлине. Он продолжал заниматься кибер­
нетикой, но больше общался с философами, поскольку ин­
женеры и практики сомневались в применимости его идей.
Начавшаяся гонка вооружений между Советским Союзом
и Соединенными Штатами подстегивала быстрое развитие
как вычислительной техники, так и систем автоматического
управления. Германия находилась под полным контролем
союзников, которые не торопились доверять ей разработ­
ку нового оружия. Все хорошо помнили, как немцы между
мировыми войнами сумели не только не отстать в техниче­
ском развитии, но и выйти на передовые позиции. Они пре­
успели при этом в создании технологий двойного назначе­
ния - то есть тех, что могли быть использованы и в мирных,
и в военных целях. Проектировщики немецких гражданских
самолетов быстро переделывали их в истребители и бом­
бардировщики, автомобильные концерны легко переклю­
чались на выпуск танков, а прекрасные автострады и же­

лезные дороги строились так, чтобы по ним можно было

быстро перебрасывать войска и военную технику. Одним
из таких изобретений с двойным дном явилась шифроваль­
ная машина «Энигма», которой предстояло дать большой
толчок развитию криптографии, вычислительной техники
и кибернетики.
Над дешифровкой сообщений «Энигмы» работал британ­
ский математик и криптограф Алан Тьюринг, который стоял
у истоков современного понятия об искусственном интел­
лекте и его критериев.

Принято считать, что именно команда Тьюринга в годы

Второй мировой войны сумела расколоть код «Энигмы», так

81
 ИГОРЬ ШНУРЕНКО

что британцы могли читать совершенно секретные донесе­

ния германских высших чинов. Об этом написано множе­
ство книг и снято несколько фильмов, последний из кото­
рых, «Игра в имитацию» с Бенедиктом Камбербетчем в роли
Тьюринга, был обласкан критикой и получил «Оскара»
за лучшую сценарную адаптацию. В фильме Тьюринг спа­
сает мир, хакнув Гитлера. Во всех рецензиях говорится, что
благодаря дешифровке военных посланий немецкого гене­
рального штаба англичанами война закончилась на два года
раньше, чем могла бы, и были спасены миллионы жизней.
Тезис весьма сомнительный, если не впрямую взятый с по­
толка, но об этом речь дальше.
Реальная история, как и все истории, которые касаются
британского приоритета в науке, несколько сложнее голли­
вудской версии.
Вообще-то хакнули Гитлера польские математики во гла­
ве с Марианом Реевским, сыном торговца сигарами из го­
рода Быдгощ. Поляки сумели дешифровать немецкий во­
енный код еще в 1932 году, до прихода Гитлера к власти,
и до конца тридцатых были способны читать большую часть
немецкой военной переписки. Но обо всем по порядку.

КАК ПОЛЯКИ ХАКНУЛИ «ЭНИГМУ»

Немецкая электрическая шифровальная машина «Энигма»

была, конечно, чудом техники своего времени, и превосхо­
дила аналогичные криптографические устройства других
стран. Она производилась фирмой Scherblus & Ritter на ос­
нове патента, полученного в 1918 году инженером-элек­
триком Артуром Шербиусом. Шла первая мировая война,
и германская армия не могла решить проблему перехвата
сообщений. Ручные методы кодирования текстов не справ­
лялись с потоком информации. На шифрование странички

82
 ДЕМОН ВНУТРИ

приказа уходило три-четыре часа работы, на расшифров­

ку еще столько же. Особенно сильно в продвинутых систе­
мах шифрования нуждались моряки-подводники. Шербиус
создал машину размером с кухонную плиту и весом 50 кг
с прицелом продать ее германскому флоту. Но война за­
кончилась поражением Германии, и немецкий флот подле­
жал интернированию. Никто из нейтральных стран, однако,
не хотел нести ответственности за его содержание, поэтому

флот был разоружен и отконвоирован в бухту Скапа-Флоу

на Британских Оркнейских островах. Там в июне 1919 года
произошла история, похожая на подвиг «Варяга»: немец­
кие офицеры под руководством адмирала Людвига фон
Ройтера затопили корабли, открыв и заклинив кингстоны.
Англичане бросились спасать имущество, но безрезультат­
но. В стычках погибли девять немецких моряков, ставших
последними жертвами Первой мировой войны.
Итак, Кайзермарине перестал существовать, поэтому
Шербиус решил продавать машину банкам для шифрова­
ния денежных переводов. Это был прообраз существующей
сегодня банковской системы SWIFT с той разницей, что то­
гда не было интернета и мировые банки не были связаны
в единую сеть. Продажи шли ни шатко ни валко, в том числе
и из-за высокой стоимости устройства.
Интересно, что патент на подобный принцип работы
шифровальной машины годом раньше Шербиуса получил
американец Эдвард Хью Хеберн. Он тоже попытался про­
дать устройство военным морякам и тоже получил отказ.
Но Шербиусу повезло больше. Германия потихоньку опра­
вилась от поражения и стала тайно возрождать свои воору­
женные силы. Это происходило еще задолго до Гитлера, при
вполне себе либеральной Веймарской республике, которая
для вида изображала готовность выполнять жесткие огра­
ничения на армию и флот, а на самом деле уже тогда всеми
силами готовила реванш.

83
 ИГОРЬ ШНУРЕНКО

Рейхсвер и немецкий военно-морской флот, Рейсхмарине,

тщательно скрывали свои приготовления и отчаянно ну­

ждались в самых продвинутых средствах шифрования.

Именно поэтому адмиралы уже в 1926 году заказали пар­
тию модифицированных машин «Энигма». Через два
года машины Шербиуса в больших количествах стал за­
купать возрождающийся Рейсхвер, а в 1935 году, уже при
Гитлере - и Люфтваффе.
«Энигма» даже сейчас может произвести впечатление
на самых продвинутых криптанов. Таких машин выпу­
стили порядка ста тысяч (по другим оценкам, вдвое боль­
ше) - но до наших времен дожили считанные экземпля­
ры, которые высоко ценятся коллекционерами. Пару таких
машин можно увидеть в поразительном собрании техни­
ки Deutsches Museum в Мюнхене: они выглядят так, словно
немцы пользуются ими до сих пор. «Энигма» выставлена
и в британском Национальном компьютерном музее, кото­
рый находится в бывшей лаборатории Блетчи-Парк кило­
метрах в пятидесяти к северу от Лондона. Во время войны
там работала команда кодировщиков-математиков, среди
которых был и Алан Тьюринг.
Внешне «Энигма» выглядит как очень громоздкая пе­
чатная машинка с лампочками. Она работала на сочета­
нии принципов механики и электрики. Когда оператор
нажимал на клавишу какой-то буквы, это замыкало элек­
трическую цепь, по которой шел ток, в результате чего за­
горалась определенная лампочка, соответствующая букве
на выходе. Каждое нажатие клавиши приводило к пово­
роту ротора механической части - а этих роторов было
как минимум три. У каждого ротора было 26 контактов,
по числу букв, соединенных с контактами точно тако­
го же следующего ротора, или с неподвижными контак­

тами на обоих концах шпинделя, на котором находились

роторы.

84
 ДЕМОН ВНУТРИ

Фокус заключался в том, что вся цепь менялась с каждым

нажатием клавиши, и предугадать, какая лампочка загорит­

ся на выходе, можно было, лишь имея точно такую же ма­

шину и зная ключ. К концу войны число роторов возросло
до восьми, при этом каждый раз оператор выбирал, какие
три из восьми роторов использовать для шифровки. В ито­
ге число возможных сочетаний цепи устройства выросло
на порядки, до 103 секстилионов.
Как происходила работа с «Энигмой»? Оператору да­
вали текст сообщения для шифрования. Он набивал его
на клавиатуре, и по принципу, описанному выше, текст

тут же преобразовывался в некую последовательность сиг­

налов лампочек. Каждой лампочке соответствовала бук­
ва. Затем либо оператор записывал получившуюся по­
следовательность вручную, либо, в продвинутых версиях
устройства, это делала автоматическая печатная машинка.
Затем получившийся код передавали по радио принима­
ющему оператору-у него была точно такая же «Энигма».
Он вбивал в машину принятое сообщение - и записывал
последовательность вспыхивающих лампочек, которая

представляла собой уже расшифрованный текст. К при­

нимающей «Энигме» также могла быть подключена пе­
чатная машинка.

Система работала с исключительной для того времени

безопасностью. Даже в случае радиоперехвата на расши­
фровку сообщений у противника были считанные часы:
ведь ключи все время менялись. Разгадать ключ было не­
реально. Мало того, что каждые восемь часов оператор при­
думывал новый ключ, он еще каждый раз дважды шифро­
вал его с использованием дневного ключа из кодовой кни­
ги. Этот ключ, в свою очередь, определялся настройками
коммутационной панели, порядком роторов и их началь­
ными установками и положениями колец. При каждом
шаге шифрования положения роторов менялись. Чтобы

85
 ИГОРЬ ШНУРЕНКО

расшифровать послание, принимающая сторона должна

была иметь точно такую же «Энигму» и кодовую книгу.
Пионерским изобретением можно считать и автомати­
ческую печатную машинку Schreibmax. При работе на таких
машинах оператору не нужно было лихорадочно записы­
вать буквы, соответствующие сигналам лампочек: устрой­
ство делало это само.

Немцы были уверены в том, что их «Энигму» не раско­

лоть, но, несмотря на это, они постоянно совершенствова­

ли устройство, добавляя новые роторы, каждый из которых

повышал сложность системы на порядок.

В альтернативной истории, если бы Гитлер продержал­

ся еще годик-другой, могла бы произойти трансформа­
ция «Энигмы» в вычислительную машину со сложностью
на мировом уровне конца 1950-х годов. Возможно, тогда
уже к концу 1940-х появились бы первые самоуправляемые
баллистические ракеты: ведь Вернер фон Браун и другие
немецкие инженеры на пару десятков лет опережали сво­

их ближайших конкурентов, СССР и США, в ракетострое­

нии. Их детище «Фау-2» представлено в том же Deutsches
Museum в Мюнхене и выглядит практически как копия ко­
рабля «Восток».
Когда летом 1945 года Сергей Королев увидел показатель­
ные испытания «Фау-2», произведенные союзниками, он
понял, что то, чем занималась его группа, были детские иг­
рушки по сравнению с тем, чего удалось достичь немецким

инженерам. Он решил полностью сменить подход и полно­

стью поставить крест на своих разработках ракетоплана -
а ведь этому были отданы пятнадцать лет его жизни. Вместо
этого Королев решил досконально изучить немецкую «ра­
кету будущего», а разобрав ее по косточкам - начать совер­
шенствовать. Если бы не немецкие наработки, человек по­
летел в космос значительно позже. И тут, кстати, не стоит
думать, что американцы справились бы с задачей быстрее:

86
 ДЕМОН ВНУТРИ

ведь у них была фора. Они заполучили лично Вернера фон

Брауна с его блестящей командой специалистов, плюс око­
ло ста готовых «Фау-2», и могли продолжить дело практи­
чески с того момента, на котором остановились немцы -
в то время как русские достали лишь отдельные агрегаты

этих ракет и кое- какое оборудование для их запуска, так что

Королеву пришлось потратить еще несколько лет для того,
чтобы выйти на немецкий уровень 1945 года.
Блестящая немецкая инженерная и научная мысль, экс­
плуатировавшаяся алчными и беспринципными политика­
ми для достижения мирового господства, была направлена
на доминирование и уничтожение. Но именно она способ­
ствовала выходу человека в космос. Точно так же немецкая
технология «Энигмы» дала мощный толчок разработкам
компьютерной техники англо-американцами, и не только
ими. Необходимость во что бы то ни стало расколоть немец­
кую систему кодирования привела к постройке в Британии,
при американском содействии, мощнейшей по тем време­
нам вычислительной машины, которая не просто склады­
вала и умножала, а работала как компьютер-то есть вы­
полняла действия математической логики. Логика в осно­
ве компьютерных вычислений определялась инструкциями
для оператора «Энигмы», то есть руководством, написан­
ным для человека - так же как сегодня нейросети приме­
няют в своей работе подходы, имитирующие работу ней­
ронов мозга.

Именно в годы Второй мировой войны впервые создан­

ное человеком электромеханическое устройство реально за­
менило работу целой команды математиков и шифроваль­
щиков, занимаясь интеллектуальным трудом. Такую маши­
ну вполне было можно считать прообразом искусственного
интеллекта. Но для достижения результата сначала требо­
валось просто поверить в то, что это возможно, что человек

может построить компьютер, способный быстро выполнять

87
 ИГОРЬ ШНУРЕНКО

вычислительные и логические задачи, с которыми сам он

не справится.

Эту заслугу интеллектуального дерзновения нужно,

без сомнения, приписать группе польских математиков, ко­
торые, собственно, и раскололи код «Энигмы», впоследствии
передав свои наработки англичанам. О заслугах польских
дешифровщиков практически ничего не писали до самого
последнего времени - или писали нехотя, вскользь, пото­

му что этот факт не укладывался в «слишком человеческую»

логику американоцентризма или англоцентризма, став­

шую сегодня уже практически карго-культом. Англичане

не писали потому, что им слишком известна правда, кото­

рая их не красит, американцы - потому, что для них прав­

да еще более идеологична: это то, что показывает Голливуд.

Давайте расскажем эту историю через воображаемое интер­
вью с главным ее персонажем, Марианом Адамом Реевским.

ЭКСКЛЮЗИВНОЕ ИНТЕРВЬЮ С МАРИАНОМ РЕЕВСКИМ

Итак, мы в Варшаве 1970-х. Солнечный майский день, мы

сидим в уличном кафе на Новем Святе где-нибудь возле
Университета, пьем восхитительный кофе, сваренный пани
Каролиной, откусываем понемногу от вафелек и тихо бесе­
дуем с небольшого роста пожилым господином в роговых
очках бабочкой. Его череп с редкими седыми волосами от­
ливает глянцем на ласковом майском солнце, на нем изящ­
ный шейный платок и аккуратный, хотя и не новый костюм
в крупную клетку.

- Пан Реевский, расскажите немного о себе. Вы ведь роди­

лись на немецкой территории?
- Сейчас Быдгощь- это Польша, а тогда город Бромберг был
частью Германского Рейха. Я в 1905 году родился, старый уже!
- Вы выглядите очень молодо.

88
 ДЕМОН ВНУТРИ

- Спасибо большое, выгляжу, как все в мои годы. Кажется,

вы пришли поговорить не об этом.
- Действительно. Вы говорили по-немецки, и поэтому вас
взяли в группу криптологов генерального штаба?
- Не спешите, молодой человек. Все было не так просто.
Немецкий, конечно, помог, но главное - математика. Наш
университет в Познани - это была мировая школа. Польская
школа! Сначала нам, студентам, предложили пройти шести­
месячный курс криптографии. Двадцать человек отобрали,
я прошел после собеседования с подпоручиком Ченжским.
И, конечно, в конечную цель нас никто не посвящал, зачем
это делается. Чудо, что вообще на криптографию внимание
обратили, в других странах так не делали.
- Почему, по-вашему, в Польше этому уделялось такое
внимание?
- Об этом, пожалуй, рано еще рассказывать. Да и небез­
опасно - прежде всего для вас.

- Мы договорились о полной откровенности, пан Реевский.

Ничто из того, что вы расскажете, не будет доступно ва­
шим современникам, в том числе и сам факт нашей встре­
чи останется неизвестным. Я сам из будущего и показал вам
кое-что в доказательство своих слов.
- Да, ваша коробочка с надкушенным яблочком меня по­
забавила. Но в ней нет ничего невозможного. Не показы­
вайте только ее больше никому. Не верю только, что такое
делают в Китае. Этого просто не может быть!
- Китай по внедрению технологий в жизнь сегодня на пер­
вом месте в мире.

- Очевидное - невероятное! Вы сами не из Службы

Безопасности? У вас русский акцент. Ладно, поверю вам.
Мы, поляки, слишком многим верим, через это и наши беды,
Матка Баска! О чем вы меня спрашивали?
- Вы начали обт,яснять мне, почему в Польше, когда вы
были студентом, так активно развивали криптографию.

89
 ИГОРЬ ШНУРЕНКО

- Очевидно! Юзеф Пилсудский! Дедок! Вы, молодой

человек, наверное, не знаете, кем был Дедок. Комендант
его еще называли. Это был начальник государства, мар­
шалек. Сегодня его имя называть запрещено, но Польша
еще вспомнит его. Знаете, как он разгромил русских
в двадцатом году? Тухачевский уже был под Варшавой,
и Дзержинский на пару с Троцким уже готовились въехать
в Замек Крулевский на своих «Роллс-Ройсах». Дзержинский,
однокашник Пилсудского по гимназии в Вильно. Но у Дедка
был пан Ковалевский, великий и могучий Ян Ковалевский.
Блестящий талант! Учился в Бельгии на химика, но пре­
красно понимал математику. В армии царя Николая
Ковалевский служил в инженерном резерве, там и освоил
науку шифров. Да и сам Дедок в таких делах собаку съел!
Всегда у Пилсудского тайные проекты, в которых главное -
перехватить переписку врага и узнать его планы, и не дать

ему узнать твои. Дедок с юности был обучен конспирации,

всегда шифровался. Многому его японцы научили, когда
он к ним в Токио ездил, потом австрийцы, немцы. Почему
Дедок с немцами был так осторожен? Да потому что знал
их планы. А может, они его и свели в могилу через вен­
ского профессора, которого прислали желудок обследо­
вать? Не узнаем этого уже никогда. Ковалевский в два­
дцатом разгадал все русские шифры - и красных, и белых.
Прослушивал всю вашу Россию-матушку от Мурманска
до Сибири, от Минска до Кавказа, десятки телеграмм
ему приносили каждый день. Знал секретные прика­
зы Троцкого, знал, где с кем сейчас пьет Буденный, знал,
куда двинутся добровольцы Деникина и Колчака. Что сде­
лал Ковалевский? Создал сеть станций прослушки, ко­
торые передавали ему перехваты по телеграфу. Прямо
в Генштаб. Сначала на взлом уходило две недели, потом
неделя, потом два дня, от силы три. По нынешним време­
нам кажется медленно, но тогда этого хватало. Сто ключей

90
 ДЕМОН ВНУТРИ

взломали за полтора года, тысячи шифрограмм Троцкого,

Тухачевского, Якира, Гая.
- Почему поляки взломали русских, а не наоборот?
- Потому что лучшие наши математики там работали.
Цвет варшавской школы, львовские орлята, молодые ребя­
та из Познани. Станислав Лесневский, Стефан Мазуркевич,
Вацлав Серпинский, профессора, аспиранты. Знали, где сто­
ит и куда движется каждый красный штандарт.
- То есть, так называемое «Чудо на Висле» случилось бла­
годаря криптографам?
- Так и есть. Красные потеряли Сикорского, а он зашел
им в тыл и разгромил наголову. Растерянность, бегство, все
побросали большевики. В штаб четвертой армии поступи­
ла радиограмма Тухачевского без промедления наступать,
но было поздно. Радиостанцию в суматохе сожгли. Никто
не услышал приказа. Была у русских и вторая радиостан­
ция, но ее вывели из строя по-другому. Ковалевский на­
строил передатчик на секретную частоту красных и на­

чал беспрерывно передавать по ней библейские тексты.

Евангелие от Иоанна вместо Маркса. Прямо из Варшавской
Цитадели. Так что русские не могли принять ни одной ра­
диограммы из Минска. И целая армия красных побежа­
ла, они все перешли в Восточную Пруссию и сдались нем­
цам. Разгром был полным. Тухачевский потом писал в ме­
муарах, что полякам повезло - но это не везение было,
а математика.

- Значит, все случилось благодаря Пилсудскому?

- Точно так. Дедку это сильно помогло: после того как он
разгромил красных, его авторитет был непререкаем. Стал
отцом нации. Потом Дедку шифры помогли в 26-м, во время
военного переворота.

- Вернемся к «Энигме». Почему для раскрытия немецкого

кода не привлекли опытных математиков, ваших учителей?
Того же профессора Серпинского?

91
 ИГОРЬ ШНУРЕНКО

- Потому что никто не верил, что это возможно - кроме

нас, дураков. Даже Ковалевский не до конца верил. Но был
такой подпоручик Макс, Максимилиан Ченжский из герман­
ской секции шифровального бюро Генштаба, я его упоми­
нал уже. Это была его идея: взять молодых талантливых ре­
бят и вырастить из них настоящих криптографов. Сначала
мы прошли полугодовой курс криптографии в университете,
потом отобрали самых лучших и учили три года.
- Все это было в Познани?
- Так точно. Ченжский все эти три года приезжал, хотя бы
раз в неделю, нас проверять. И при этом ни разу не прого­
ворился, для чего нас учат. И вот летом 32-го года он ото­
брал нас троих. Нас разместили в бывшей резиденции крон­
принца в Познани и дали задание: расколоть трудный шифр.
Ну, мы еще не знали, насколько трудный. Знали бы, может,
и не взялись бы никогда. И не могли знать, что это станет
делом всей нашей жизни.
- Это были вы, Ежи Ружицкий и Генрих Зыгальский?
- Совершенно верно.
- Вы раскололи шифр «Энигмы» втроем?
- Была еще подсказка от французов. А они получили ее
от своего агента в Германии. Интересная история, я после
войны о ней прочитал. Его кличка была «Аше», а звали его
Ганс-Тило Шмидт. Его брат Рудольф работал начальником
отдела в министерстве обороны, именно он и принял ре­
шение купить «Энигму». У Рудольфа было все: положение,
женщины, деньги, а Ганс-Тило был бедный и больной. Он
пострадал от газовой атаки своей же немецкой армии в пер­
вую мировую, а в кризис потерял работу. И бедный брат воз­
ненавидел богатого, а на Германию, которая его отравила,
ему было наплевать. Он и стал сливать французам инфор­
мацию, за деньги. Сначала вытащил из сейфа брата и сфото­
графировал инструкции по пользованию машиной, потом
много лет передавал французам книги с использованными

92
 ДЕМОН ВНУТРИ

кодами. Эти книги должны были уничтожаться, но попадали

в наши руки. Правда, самые свежие из них лежали в столе
у моего начальника Гвидо Лангера. Он считал, что нам нуж­
но научиться работать без подсказок, и не торопился нам
их передавать.

- А что было бы, если бы Лангер передавал вам книги?

- Мы бы продвинулись дальше и быстрее. Но все равно
мы немцев сделали!
- А французы сами не смогли расколоть код?
- Они и не особо пытались. Или не знали, что делать
с инструкциями Шмидта - там ведь шифры были уже ста­
рые, за прошлые месяцы. Глава французского бюро Гюстав
Бертран поделился информацией с англичанами, но и те
не заинтересовались. Сочли, что для расшифровки этого
явно недостаточно. Так что Бертран передал нам то, что са­
мим было не нужно.
- Но потом у них получилось, в Блечли-Парке. В команде,
где работал Тьюринг.
- Да, получилось. Долго не получалось, пока мы им не по-
казали свою бомбу.
-Бомбу?
- Да, так мы называли наше устройство по дешифровке.
- Оно тикало, как бомба. И еще было похоже на пирож-
ное - знаете кондитерскую на Светнтокжиской, напротив
костела? Там такие бомбы и сейчас продают, по двадцать
злотых. Пальчики оближешь!
- Вы передали эту вашу бомбу англичанам?
- Да, за полтора месяца до начала войны. Передали им
нашу бомбу, все наши наработки и сами машины.
- У вас были «Энигмы»?
- Польская фирма AVA научилась их делать, хотя и не сра-
зу, а когда у нас получилась электрическая схема развод­

ки. Тогда AVA изготовила нам машины, в точности такие,

как немецкие. Но это было потом, а сначала дело было так.

93
 ИГОРЬ ШНУРЕНКО

В 1929 году германский посол попросил вернуть ему цен­

ную коробку, которая случайно попала на варшавскую та­
можню. Наша разведка заинтересовалась, что там внутри.
Оказалось, это машина «Энигма». Машину изучили специа­
листы фирмы, все что могли, тщательно скопировали, а по­
том коробку аккуратно заклеили и отправили в германское
посольство. Но машину в тот раз не сделали, получили боль­
ше вопросов, чем ответов. У англичан «Энигмы» появились
раньше, чем у нас. И даже раньше, чем у самих Рейхсвера
или Кригсмарине. Ведь как только инженер Шербиус стал
их продавать, машинами заинтересовалась Room 40-бри­
танская криптографическая служба. Они купили у Chiffrier-
Maschinen AG партию машин, поставив условием регистра­
цию патента в своем патентном бюро. Так англичане полу­
чили подробное описание криптографической схемы.
- И все равно ничего не смогли сделать?
- Я же вам говорю, дело считалось невозможным.
- А как это удалось вам?
- Математика, молодой человек. Я разделил задачу на две
составляющие. Нужно было установить в точности настрой­
ки коммутационной панели и схему проводки между кон­
тактами роторов. Как я сказал, я получил подсказку- кодо­
вые книги двухмесячной давности. У нас не было машины,
но были коды! Я думал, что в начале каждого сообщения
немцы будут повторять ключ. Понятно, что ключ будет за­
шифрован, но зная, что первые символы шифра - это ключ,
можно было сопоставить начало всех сообщений и уста­
новить соответствия букв. Ведь каждой букве после ввода
ключа четко соответствовала другая. Имея представление
о строении самой машинки, можно было составить схему со­
ответствий. Конечно, проблема была в порядке букв на пер­
вом роторе. Этого мы не могли знать. Помню, предположи­
ли, что это та же схема, что на печатной машинке: QWERTY
и так далее. Пробовали по всякому, но ничего не получалось.

94
 ДЕМОН ВНУТРИ

Тогда я представил себя немцем из Бромберга. Какой бы по­

рядок букв сделал бы я, если бы был нашим булочником гер­
ром Мюллером? И тут меня осенило. Ну конечно же, этот
ряд будет олицетворением порядка: ABCDEF! Потом я стал
составлять цепочки вариантов контактов между буквами
роторов. Оказалось, что их всего 26 в третьей степени умно­
жить на три факториал. Это было всего 105456 вариантов!
Можно было составить их полный каталог.
- Но это адова работа!
- Да, почти год мы этим занимались. Из двух соединен-
ных между собой «Энигм» мы сделали циклометр- это та­
кое устройство по перебору вариантов. Аналоговое, как бы
сейчас сказали. Прекрасно работало - до тех пор, пока нем­
цы не изменили протокол передачи ключа. Теперь оператор
мог придумывать его и посылать в не зашифрованном виде,
так что наш каталог оказался бесполезным.
- А как же настройки коммутационной панели? Как их
удалось узнать? Французы дали?
- Нет, с этим французы не помогли. Но настройки ока­
зались достаточно простыми для опытного криптографа.
Моноалфавитный шифр, как в коде Цезаря! Это дети знают.
Каждой букве просто соответствовала другая. И мы начали
читать немецкие радиограммы одну за другой, словно ро­
маны Пшибышевского!
-А немцы?
- Что немцы? Конечно, немцы не спали. А может быть,
они что-то почувствовали. Сначала они стали менять по­
ложение роторов не каждый квартал, как обычно, а каж­
дый месяц. Потом они изменили процедуру, так что ка­
талог оказался бесполезен. Но начало было положено, мы
поняли принципы. Немцы все время увеличивали число ро­
торов, так что «Энигмы» становились все сложнее. Но мы
тоже не отставали. Придумали перфорированные листы
для быстрого перебора вариантов. Как в современной

95
 ИГОРЬ ШНУРЕНКО

вычислительной машине! Этот способ предложил Генрик

Зыгальский. Хороший был парень, веселый. Он остался
в Британии, преподавал там в польском институте, умер год
назад. Мы продолжали читать немецкую переписку до са­
мой войны. До июля 39-го года, когда передали все англича­
нам. Наши машины, нашу бомбу для дешифровки, все наши
наработки, передали все, что могли.
- А что с другими стало?
- Ружицкий погиб еще в войну. Мы тоже могли бы сги-
нуть без следа, но нам повезло. Когда пришли немцы, пра­
вительство бежало в Румынию, а нас эвакуировали вместе
с ним. Мы обратились к англичанам за помощью - ведь мы
могли бы продолжать работать. Тогда они могли бы гораздо
быстрее начать читать немецкую переписку. Но англичане
забыли о нас, это печальный момент истории. Английское
посольство в Бухаресте закрыло перед нами двери. Помогли
нам французы, переправили к себе. Хотя скоро и Франция
войну проиграла. Но работа продолжалась.
- Во Франции вы продолжали расшифровывать немецкие
сообщения?
- Да, мы работали в замке Фузе, на территории Виши.
Французы устроили там секретный центр, назывался «база
Кадикс». Мне дали документы на имя Пьера Рано, препо­
давателя лицея из Нанта. Мы работали там до последне­
го, даже когда немцы оккупировали юг Франции. Но за­
дачи были легкие: мы расшифровывали швейцарскую
«Энигму», у которой не было коммутационной панели.
Как-то нам поручили расколоть польскую шифровальную
машину Lacida. Ее правительство в изгнании использовало
для связи с Лондоном. За два часа мы тот шифр раскололи.
Начальство было в ужасе. Использование аппарата тут же
запретили. А Ружицкий потонул вместе с паромом, возвра­
щаясь из Алжира. Там находилась часть нашего бюро, ко­
торую возглавлял Ченжский, тот самый офицер генштаба,

96
 ДЕМОН ВНУТРИ

что нас когда-то сделал криптологами. Тогда погибло боль­

ше двухсот человек. Это была катастрофа для нас. На паро­
ме был и Смоленский, специалист по советским шифрам,
и Гралиньский, шеф советского отдела.
- Вы советские радиограммы тоже перехватывали?
- Мы делали свою работу. Эфир полон звуков, молодой
человек.

- А что было потом?

- Мы бежали из замка Фуз за несколько дней до того, как
туда нагрянуло гестапо. Знаете, было такое подразделение
«Функабвер» - они искали передатчики Сопротивления.
Ездили на черных «опелях» с крутящимися антеннами.
Когда один такой опель остановился возле базы, мы поня­
ли, что нужно уносить ноги. Бежали, разбившись на пары
и тройку: я с Зыгальским, Ченжский с нашим шефом
Лангером, Паллута с Фокчинским и Казимежом Гачей. Мы
бежали в Ниццу, где были итальянцы, там чуть не попались.
Потом Канны, Антиб, снова Ницца. Красивые места, но если
вы бывали в Кот де Прованс, поймете, что укрыться там не­
где. Одна дорога вдоль моря, наверху поселки, где каждый
следит за каждым, и еще дальше горы, до которых еще надо

дойти. Мы добрались до Перпиньяна, там подкупили кон­

трабандиста, и стали обходить патрули, немецкие и фран­
цузские, поднимаясь по тропкам в Пиренеях. Но перед са­
мой границей проводник вытащил пистолет и отобрал у нас
оставшиеся деньги. На той стороне нас тут же арестовали
и отправили в каталонскую тюрьму. Несколько месяцев
провели по тюрьмам, там я здоровье и потерял. Хорошо,
что никто не знал, кто мы такие. Просто какие-то голод­
ные поляки, сбежавшие из Франции. За нас вступился
польский Красный Крест, нас перевезли в Мадрид, оттуда
в Португалию, потом в Гибралтар, и оттуда на «Дугласе» мы
вылетели в Англию. Ченжскому и Лангеру повезло меньше,
проводник сдал их немцам. Паллуту, Гачу и Фокчинского

97
 ИГОРЬ ШНУРЕНКО

тоже схватили и отправили в Заксенхаузен. Там и погиб­

ли: Паллут под английскими бомбами, Фокчинский и Гача
от голода. А Ченжского и Лангера как более ценных кадров
отправили в немецкий шлосс, это такой концлагерь СС для
особых заключенных. Там их несколько месяцев допраши­
вало гестапо. Лагнер как опытный разведчик мешал прав­
ду с ложью. Он сказал, что вначале мы иногда, с большим
трудом раскалывали шифр, и что в этом сильно помогали
нам французы. Но по мере усложнения «Энигмы» мы уже
не могли понять, как меняются ключи, и что введение но­

вых роторов поставило нас в полный тупик. Немцы были

довольны и поверили Лангеру: они и сами были убежде­
ны в том, что ухватили Бога за бороду. Ченжский держался
той же версии. Это успокоило немцев: несомненно, если бы
они знали правду о том, что мы читали их сообщения до са­
мой войны, они бы приняли такие дополнительные меры
по шифрованию, что англичане бы точно не смогли их даль­
ше раскалывать.

- Англичане наградили Лангера и Ченжского?

- Хорошо, что не расстреляли. В сорок пятом их освобо-
дили и доставили в Британию, но там Лангера ждало об­
винение в предательстве. Не кто иной, как французский
полковник Бертран, тот самый Бертран, который переда­
вал Лангеру материалы по ключам от Шмидта, обвинил его
в сотрудничестве с нацистами. Якобы Лангер не особо хо­
тел убегать, а хотел продаться абверу. Да и то обстоятель­
ство, что оба польских офицера остались живы в концла­
гере, не говорило в их пользу. Для Лангера это обвинение
было катастрофой. Его мир полетел к чертям. Он нам так
не верил, как верил англичанам и французам. Он на них мо­
лился. Он понял это дело так, что французы решили изба­
виться от него после того, как он перестал быть им нужным.
А англичанам он тоже был уже не нужен - они и без него
за время войны неплохо продвинулись. Это был полный

98
 ДЕМОН ВНУТРИ

крах всей его жизни, всего, что он вложил в службу, во что

он верил. Его и болезнь подкосила, умер в солдатском бара­
ке в Шотландии. Недолго после этого протянул и Ченжский -
он жил на пособие, но и у него здоровья после немецкого
плена уже не осталось. Протянул три года и умер где-то под
Лондоном.
- А вы? Вы ведь приехали в Британию в сорок третьем?
- Да. Но мне не хочется об этом говорить. Хотя скажу.
Я тоже всю жизнь молился на англичан, а теперь уже могу
все рассказать. Нас ·с Зыгальским записали в рядовые и от­
правили расшифровывать ручные коды СС и ед. Тупая ме­
ханическая работа.
- Потрясающе! Это все равно, что Шопена всю жизнь за­
ставлять играть только «Собачий вальс». Почему англичане
не включили вас в команду, где работал Тьюринг?
- Тьюринr... Судя по тому, что я читал про него, это был
талантливый математик. С ним, конечно, было бы инте­
ресно поработать. Но вся это история ... Это история про­
клятых людей. Нас, криптографов, метит Господь, может,
потому что мы суем свой нос туда, куда не нужно. Может,
есть пределы знанию, и есть вещи, которых людям лучше

не знать. Ведь случайности тоже от Бога, а как вы думаете,

молодой человек? Как и законы, которые от нас спрятаны.
И если мы что-то находим спрятанное, открываем закрытое,
за все это приходится платить. И платим мы, криптогра­
фы. Мы на переднем краю познания, и я не уверен, что хо­
тел бы находиться на этом краю. Смотрите, как они кончи­
ли: Гача, Паллута, Фокчинский погибли в лагере, Ченжский
умер заброшенный, больной и бедный, Ланrер, преданный
и оболганный теми, кому он больше всех доверял, просто
умер от горя, можно сказать и так. Кто остался? Ганса-Тило
Шмидта тоже взяло гестапо, он покончил с собой в тюрьме.
Хоть криптографом он не был, но был причастен. Ружицкий,
Смоленский, Гралиньский утонули с паромом, а если бы

99
 ИГОРЬ WHYPEHKO

не утонули, тоже вряд ли бы выжили. Да и с этой стороны:

вы знаете, что они сделали с Тьюрингом? Врагу не пожелаю.
- Да, знаю. Действительно, проклятая профессия. Но вот
Бертран, полковник Гюстав Бертран. После войны прожил
долгую спокойную жизнь, избирался мэром в Теуль-сюр-Мер,
это красивый маленький городок на Лазурном берегу. Был
уважаемым человеком, написал книгу об «Энигме» и умер
в собственной постели.
- Я переводил его книгу несколько лет назад. Не хочу го­
ворить о Бертране.
- Тогда я вам расскажу. Бертрана ведь взяли немцы, и он
им многое рассказал. Он согласился работать на абвер и при­
ехал на юг Франции, чтобы разыскать, кто остался от груп­
пы. Он пишет в книге, что за четыре дня до высадки десанта
в Нормандии ему удалось улететь в Англию ...
- Думаю, в этой истории много темного.
- Это типичная французская история коллаборационизма,
мне кажется.

- А что такое коллаборационизм? Многие францу­

зы в годы войны были коллаборационистами, если хоти­
те знать правду. Я думаю, вы используете слишком рез­
кие слова, но вполне может быть, полковник Бертран сва­
лил на Лангера свои ошибки и свою нерешительность. Ведь
мы все могли уехать в Алжир в сорок втором. И оказаться
под крылом у союзников. Тогда бы гестапо ничего о про­
екте не узнало бы.
- Кто знает, может Бертран работал на немцев еще
до своего ареста?
- Так далеко я бы не заходил, молодой человек.
- Бертран пишет в своей книге, что он пытался убедить
англичан включить поляков в группу «Ультра». Чтобы они
продолжали работу над «Энигмой». Но англичане отказали,
они уже получили от поляков все, что им было нужно, и хоте­
ли держать при себе свои наработки. Что об этом думаете?

100
 ДЕМОН ВНУТРИ

- Очень может быть, молодой человек, очень может быть.

Думаю, что не во всем полковник Бертран искренен.
- Как вы жили после войны, пан Мариан?
- Я жил и был счастлив каждым днем этой жизни. Кроме
того дня, когда умер мой сын Анджей. Я вернулся в Польшу
в сорок шестом, Британии я был уже не нужен. Говорю это
с горечью, но в чем-то я их понимаю. Они хотели хранить
секретность. Любой ценой. Это как в игре: они так хотели
выиграть. Но они ошиблись на наш счет: мы представи­
ли им все наши наработки и работали бы на нашу общую
победу, не покладая рук. Нам не нужно было от них ни ор­
денов, ни признания. Жила бы Польша. Но судьба распоря­
дилась по-другому... Мне предложили должность в универ­
ситете, в Познани или Щецине, я мог бы стать профессором,
но я отказался. Хотел быть с семьей, ведь нам так мало вре­
мени отпущено в этой жизни. Работал начальником отдела
продаж кабельной компании в родном моем Быдгоще, когда
ушел на пенсию, переехал со своими в Варшаву. Стал писать
книгу. Даю интервью. Хороший сегодня день.
- Читал, что вы недавно взломали переписку Пилсудского.
Вы настоящий хакер!
- Что такое хакер?
- Ах да, в вашем времени еще нет этого слова.
- Не знаю, что вы имеете в виду, но действительно, аме-
риканский институт Пилсудского попросил меня недавно
расшифровать переписку Дедка с товарищами по партии.
- Смогли?
- А вы как думаете? Как нечего делать!
На этом восклицании заканчивается наше интервью
с Марианом Реевским, замечательным польским мате­
матиком, который на самом деле расколол код «Энигмы».
Скромный и дисциплинированный, он служил своей стране
даже тогда, когда она была захвачена врагом, а правитель­
ство бежало за границу. Он был солдатом и спас, вероятно,

101
 ИГОРЬ ШНУРЕНКО

тысячи жизней английских и американских солдат, которые

могли бы погибнуть во время высадки в Нормандии. В от­
вет союзники предали его, а потом десятилетиями не хоте­

ли признавать его заслуг.

Полякам, имена которых прозвучали в нашем воображае­

мом интервью, англичане были обязаны расшифровкой са­
мых сложных немецких шифров.
С точки зрения мировой истории эта работа крайне важ­
на - но не в том смысле, в котором думают. Вряд ли пони­
мание посланий «Энигмы» изменило ход войны. Есть мно­
го фактов, что сами англичане не сумели - или не захоте­
ли - использовать информацию, полученную в немецких
радиограммах. Ведь было высшее руководство, которое
иногда предпочитало закрывать на важные факты глаза.
Англичане не пересылали всю полученную информацию
Сталину. В правительстве Великобритании о существова­
нии программы «Ультра» знали человек десять. Они распо­
ряжались передать - или не передавать - сведения по це­
почке управления в разведслужбы родов войск. Но источник
сведений при этом не раскрывался, что порой приводило
к недооценке британским военным командованием вполне
надежных сведений «Ультра» и крупным потерям.
Вероятно, когда-нибудь историки напишут о том, что
было бы, если бы англичане действительно по-союзниче­
ски делились всей важной информацией, полученной от пе­
рехватов немецких сообщений. Если бы они понимали со­
юзнический долг так, как, например, понимали его поляки.
Но главное достижение «хакеров Гитлера» видится в другом:
они действительно сделали большой рывок в кибернетике,
вычислительной технике, в управлении и автономной ра­
боте машин.
Большой рывок к созданию того, что мы сейчас дорово­
рились называть «искусственным интеллектом».

102
 ДЕМОН ВНУТРИ

РАСКАЛЕННАЯ КОЧЕРГА ВИТГЕНWТЕЙНА

Самые яркие звезды польской математической школы меж­

военной поры получали образование за границей: одни
в Петербурге, другие - в Вене. Первые работали в основном
в Варшаве, вторые обосновались во Львове. Львов стремил­
ся во всем походить на Вену, как главный город любой про­
винции, осознанно или нет, подражает метрополии. Здесь
был оперный театр как в Вене (построенный выдающимся
польским архитектором Зигмунтом Горголевским), и даже
кофе здесь делали по-венски, со сливками.
Австрийская философия той поры оказывала на поль­
ских математиков влияние не меньшее, чем кофе, музыка
или архитектура.

И дело здесь не только в географической близости - ведь

Вена была научным и культурным центром, где возникли
в зародыше чуть ли не все главные идеи ХХ века. Фрейд,
Гитлер, Ленин, Сталин, Мизес, Хайек, Лаос, Музиль, Мах,
Больцман, Брамс, Брукнер- список фигур первой вели­
чины, которые здесь жили и работали, можно продолжать
долго. Некоторые из них были признаны уже при жизни,
других оценили лишь посмертно. Венские кафе и салоны
с их разговорами, в которых, как во фраппе, перемешива­
лись остроты, отчаяние, скука, вызов обществу, идеи из са­
мых разных наук и искусств, рождали уникальную атмо­

сферу конца великой эпохи, где тревогу и отчаяние нель­

зя было отделить от наслаждения плодами интеллекта.
Художники, музыканты, чиновники, ученые, студенты, вра­
чи, прожигатели жизни создавали смесь, знакомую и рус­

скому обществу предреволюционной поры. Даже банкиры

и коммерсанты стремились здесь приобщиться к немате­
риальному, к последним плодам научной мысли и худо­
жественного творчества. Впрочем, всему этому пиру духа
суждено скоро закончиться; реальность империи, которая

103
 ИГОРЬ ШНУРЕНКО

находилась на грани распада, была столь зыбкой, что почва

уплывала из-под ног.

Разброс философских течений, чьи концепции обсужда­

лись в венских кружках, был велик во всем диапазоне от ил­
люзионизма и всех видов идеализма до логического пози­

тивизма. При этом тон задавали пессимисты, нигилисты

и скептики. Физик Эрнст Мах отрицал существование ато­
мов, кокаинист и психиатр Зигмунд Фрейд искал объясне­
ние поведения человека в его снах, для писателя и чиновни­

ка Франца Кафки окружающий мир был не более чем отра­

жением его беспокойного, неуверенного ни в чем, и менее
всего в себе самом, сознания.
Существует ли свобода воли или все предопределено?
Ответы на эти вопросы искались вне рамок христианства
или даже атеистического гуманизма предшествующих веков

и привели как к гитлеровскому «все позволено», так и к эпи­

демии самоубийств. Если человек безнадежен, может быть,

выход в том, чтобы создать «нового человека»? Но возмож­
но ли это?
Фрейд показал, что в сознание можно проникать и менять
его, управлять им. Сначала Фрейд делал это в своих опы­
тах с кокаином, на который с энтузиазмом подсадил мно­
гих друзей и подсел сам. Затем, поехав в Париж и исследо­
вав в клинике Шарко пограничные состояния сознания вро­
де истерии, он обобщил свои выводы на все человечество.
Фрейд был отнюдь не маргиналом и сумел заручиться под­
держкой научных авторитетов. По сути, он утверждал, что
все люди больны, следовательно, нуждаются в лечении, по­
этому управление человеческим сознанием со стороны есть

благо. Интересно, что его племянник Эдвард Бернейс, пере­

ехавший в Америку, заложит там основы современной про­
паганды, puЫic relations и манипуляции сознанием через
коммерческую рекламу. В свою очередь, правнук Бернейса
Марк Рандольф станет одним из основателей компании

104
 ДЕМОН ВНУТРИ

Netflix, которая поставила на службу манипуляции созна­

нием искусственный интеллект.
Гитлер тоже активно работал с тем классом явлений, ко­
торую ученик Фрейда Карл Юнг называл «коллективным
бессознательным». Целью фюрера было создать нового че­
ловека, «истинного арийца» и «белокурую бестию», а безжа­
лостные методы, которые он использовал, связаны с вполне

распространенным тогда отношением к человеку, как к не­

коей машине, которую можно довольно легко запрограмми­

ровать и управлять ей.
Не случайно именно в Австро- Венгрии возник острый за­
прос на исследования мозга и высшей нервной деятельно­
сти, а также логики: всё это впоследствии заложило основы
для создания искусственного интеллекта.

Философским обоснованием создания «Голема» мож­

но считать «Логико-философский трактат» уроженца Вены
Людвига Витгенштейна, написанный в окопах Первой ми­
ровой войны. Труд был опубликован в 1921 году и уже через
год переведен на английский, чему способствовал влиятель­
ный британский мыслитель, позитивист Бертран Рассел, ко­
торого автор трактата считал своим учителем.

Витгейнштейн был наследником одного из самых круп­

ных состояний в Европе, его многочисленная семья была
лишь немногим беднее Ротшильдов. Витгенштейны зака­
зывали скульптуры Родену, живопись - Климту, для них
Брамс и Малер давали концерты на одном из семи роялей,
установленных в их роскошном венском дворце. После не­
скольких лет домашнего воспитания будущего философа от­
правили учиться в реальную школу города Линца, которую
в те же годы посещал его одногодок - маленький Адольф
Шикльгрубер. Некоторые считают, что именно невероят­
ное богатство Людвига вызвало у Адольфа такую ревность,
что он возненавидел евреев на всю жизнь. Впрочем, скорее
всего, это лишь досужие вымыслы. Адольф не сдал экзамен

105
 ИГОРЬ ШНУРЕНКО

по математике и был оставлен на второй год, а Людвига,

наоборот, сразу определили в более старший класс, чем
полагалось по возрасту (хорошее домашнее образование
сыграло свою роль). Так что будущий фюрер отстал в уче­
бе на два года по сравнению с будущим великим филосо­
фом, так что факт, что они вообще общались, можно считать
не установленным.

Как и три его брата, покончивших с собой, Людвиг поду­

мывал о самоубийстве. От этого традиционного в его кругу
акта его спасло увлечение математической логикой. «Я мыс­
лю, следовательно, существую»: с этим оптимистическим

утверждением Декарта Людвиг потом спорил всю жизнь,

но по сути именно тяга к глубокому размышлению удержа­
ла его от ухода из жизни.

По воле отца, который мечтал о преемнике у руля управ­

ления своей стальной империей, будущий философ получил
в Берлине практическое инженерное образование, но го­
раздо больше, чем реальная жизнь, его влекли абстракции
и чистая теория. «Я должен был стать звездой в небе, а за­
стрял на Земле», писал он позднее.
Совсем как героя Киану Ривза в «Матрице», Людвига ост­
ро мучил вопрос подлинности того, что происходит вокруг.

Этот вопрос, конечно, не нов, им задавался еще Платон. Если

действительность - лишь тени некоего спектакля, доступ­
ного нашим ощущениям, то что стоит за этими тенями? Кто
или что управляет ими? Чтобы найти ответ, Витгенштейн
уединился в норвежской деревне, где и написал свои глав­
ные труды. Он вовсе не был анахоретом и выучил норвеж­
ский, чтобы общаться с местными крестьянами, и датский,
чтобы читать в подлиннике философа Сёрена Киркегора.
Подлинно ли то, что мы видим вокруг, и какие у нас мо­
гут быть доказательства этого? Самое главное, и, пожа­
луй, единственное наше доказательство - это язык, счи­
тал молодой Витгенштейн. Язык, на котором мы говорим,

106
 ДЕМОН ВНУТРИ

и есть граница мышления, за которую невозможно зайти.

Он на разные лады, как заклинание, повторял это, гуляя
по тропам среди скал: мысль есть осмысленное предложе­

ние, мысль это логический образ фактов ...

Мы постоянно переливаем из пустого в порожнее, но что
останется, если отсеять от того, что мы говорим, словесную

шелуху? Когда мы «думаем мысль», мы представляем перед

собой некий «мысленный образ», но этот образ передает­
ся не только символами - например, буквами. Мы можем
представить себе растение, прочитав о нем в книге, а можем
и по-другому, увидев его воочию.

Получается, что мысль - это образ, который не может

быть передан простым набором символов, он больше и соч­
нее, чем эти символы. Мысль не может быть сведена к язы­
ку. Для создания искусственного интеллекта это означает
очень важную вещь: каким бы глубочайшим обучением мы
не старались программировать нашу нейросеть, мы не смо­
жем ни «заставить», ни «научить» ее мыслить. До нейросе­
тей мы дойдем чуть позже, но запомните пока эту мысль,
закрепите ее у себя в голове как образ, допустим, березы,
тихо звенящей листочками на ветру.
Я написал про березу, и вы поняли - потому что видели,
не так ли? А как этот образ поймет машина, и поймет ли?
«Главный пункт - это теория того, что может быть вы­
ражено предложениями, то есть языком, (и, что, то же са­
мое, может быть подумано)- и что не может быть выра­
жено предложениями, а может быть лишь показано», писал
Витгенштейн. «В этом, я полагаю, заключается кардиналь­
ная проблема философии».
Итак, понятия и концепции не сводятся к символам
и языку, хотя могут быть им выражены, а человеческое
мышление ограничено языком, но выходит за его пределы.

Философ считал, что если что-то нельзя четко выразить

через символическую систему, такую как язык, о таких

107
 ИГОРЬ ШНУРЕНКО

вещах нельзя говорить, они не имеют никакого смысла. Все

проблемы познания вызваны не проблемами самой реаль­
ности, а ошибками в толкованиях. Он призывал не множить
число смутных интерпретаций, говоря: «О чём невозможно
говорить, о том следует молчать».

Витгенштейн не любил сложноый научный жаргон, на ко­

тором привыкли общаться ученые, он считал, что научный
арго служит лишь для того, чтобы затемнить смысл и тем са­
мым создать из посвященных своего рода секту. Чтение на­
учных работ с их нагромождением терминов он сравнивал
с движением по льду: скользить по этой поверхности можно
легко, но чтобы остановиться, прийти к реальному выводу,
нужно какое-то трение, сопротивление. Философ должен
писать на обычном, простом языке. Лишь тогда в его писа­
ниях появится смысл.

Может быть, он противоречил сам себе - его, кстати,

в этом часто упрекали другие философы, например, ав­
тор концепции «открытого общества» Карл Поппер, ро­
дом тоже из Вены. Как-то на заседание кембриджского не­
формального «Клуба моральных наук» обсуждалась тема
«Существуют ли философские проблемы?». Витгенштейн,
бывший на тот момент председателем клуба, придержи­
вался точки зрения, что все таковые проблемы уже реше­
ны, причем им самим в «Логико-философском трактате».
Остались лишь риторические вопросы и лингвистические
головоломки, которые не имеют серьезного значения, хотя

и могут дать философу заработать себе на жизнь. Многие

возмущались, ведь такой подход полностью дискредити­
ровал их труд, но Людвиг стоял на своем. Он выхватил для
подкрепления своей точки зрения раскаленную кочергу
прямо из камина и, размахивая ей, вопрошал, может ли
кто-то привести пример морального императива. Тут «по­
наехавший в Лондон» Карл Поппер воскликнул: «Не угро­
жать приехавшим коллегам горячей кочергой!», после чего

108
 ДЕМОН ВНУТРИ

Витгенштейн якобы метнул кочергу в угол и выскочил

из зала. Поппер, который считал, что философия должна
воздействовать на общество и менять его, был действитель­
но серьезно возмущен подходом Витгенштейна. Со сторо­
ны дело выглядело так, что последний считал философию
просто неким сортом терапии, успокоительного, которое

дают больным людям, чтобы те не ранили себя и других.

Поле битвы тогда осталось за Поппером, который
стал впоследствии любимым автором Маргарет Тэтчер
и Джорджа Сороса. Однако с течением времени стало по­
нятно, что поставленные Витгенштейном проблемы и сей­
час актуальны, особенно в том, что касается возможности
создания сверхинтеллекта.

Витгейнштейн пытался установить прямую связь между

языком и реальностью, хотел понять ее и очистить от ло­

гических тавтологий, то есть предложений в стиле «масло

масляное». Если это удастся сделать, то теоретически можно
будет получить некую квинтэссенцию языка, не зависящую
от человека. Витгенштейн не говорил об искусственном ра­
зуме, но такая не зависящая от человека языковая квинтэс­

сенция могла бы стать основой не просто машинного язы­

ка, то есть взаимопонимания между человеком и машиной,
но и некоего искусственного создания, обладающего своим
собственным языком.
Философа интересовали «языковые игры», свойствен­
ные «формам жизни», но не волновал вопрос «Могут ли ма­
шины думать?»: на тот момент еще не было предмета для
обсуждения.
Будучи логическим позитивистом в стиле Киану Ривза,
то есть признавая реальность только того, в чем мож­

но удостовериться при помощи физического контак­

та, Витгейнштейн ставил вопрос так: «Что такое думать?».
«Думать» для него было такой же реальностью, как и «де­
лать», но он хотел понять, как это «думать» устроено. Что

109
 ИГОРЬ ШНУРЕНКО

образует мысль и как она сочетается с нашим чувственным

восприятием?
Чтобы обсуждать, может ли «искусственный разум» ду­
мать, сначала нужно найти консенсус по поводу того, что
общего между всем тем, что мы называем «думать», «ра­
зум» и «искусственный». Все эти концепции познаются
в сравнении с другими, через параллели, контекст и так да­

лее. Концепцию «мысли» и «размышления» Витгенштейн

рассматривал с самых разных сторон, описывая, как мысль

и предложения представляются через «мысленные картин­

ки», которые выражают значения в том или ином контексте.

В принципе, Витгенштейн не отрицал возможность ду­

мающей или творческой машины. Он, впрочем, считал, что
мы слишком мало знаем для того, чтобы рассуждать об этом.
При этом в умозаключениях самого Витгенштейна фигу­
рировал разум, который обладает способностью не просто
«вычислять», но и «видеть».

Машина Тьюринга, о которой мы поговорим ниже, появи­

лась как раз в те годы, когда великий философ преподавал
в Кембридже. Молодым студентом Алан Тьюринг посещал
его лекции по математической логике. Витгенштейн знал
о машине Тьюринга и даже обсуждал ее концепцию с авто­
ром. В своей краткой и четкой манере философ описал идею
машины так: это «человек, который вычисляет».
Витгенштейн был убежден, что мышление принципи­
ально не может быть сведено к вычислительной функции,
поэтому отнесся к машине Тьюринга скептически. Мы еще
обсудим машину Тьюринга с витгенштейновских позиций.
Будущее покажет, что, несмотря на весь прогресс вычисли­
тельной техники, базовые вопросы, поставленные филосо­
фом, не решены и по сей день.
Витгенштейн переехал в Англию, раздав огромное со­
стояние, которое его тяготило. Его не интересовали деньги­
в этом отношении реинкарнацией Витгенштейна сегодня

110
 ДЕМОН ВНуТРИ

выступает математик Григорий Перельман. Философ отка­

зался от своей доли наследства, предварительно пожерт­
вовав анонимным образом крупные суммы выдающимся
австрийским поэтам и художникам - таким как Райнер­
Мария Рильке, Оскар Кокошка, Тракль. Именно пожерт­
вование Витгенштейна позволило Рильке совершить клю­
чевую для его творчества поездку в Россию. Вплоть до на­
чала Второй мировой войны Витгенштейн оставался
австрийским подданным. Когда его однокашник Гитлер
в 1938 году присоединил Австрию к Германии, на родину
Людвига распространились нюрнбергские расовые законы.
Витгенштейн на три четверти был евреем, что соответство­
вало юридическому статусу Vol/jude («стопроцентный ев­
рей») и в тот момент накладывало на всю его семью крайне
жесткие ограничения. Например, запрет на определенные
профессии, тюрьма за половую связь с арийцами и многое
другое. Людвиг был вынужден совершить coming out, то есть
раскрыться перед британскими коллегами: ведь изначаль­
но он им сообщил, что был евреем всего на одну четверть -
какая неловкость! Coming out относительно своего гомосек­
суализма Людвиг так и не сделал: в Англии это было гораз­
до опаснее, чем признать себя евреем. В этом после войны
пришлось убедиться Алану Тьюрингу.
В 1939 году Витгенштейн получил британский паспорт,
но в Австрии оставались его сестры, которых он очень лю­
бил. Между Витгенштейнами и нацистами шли долгие пе­
реговоры с тем, чтобы даровать сестрам статус Mischling,
то есть не чистых евреек, а «полукровок». Это было лучше
даже статуса Geltungsjude - «еврея в законном смысле», ко­
торый получали те, у кого еврейской крови было «всего»
50 процентов. Запрос на изменение статуса с понижением
официально признанной доли еврейства мог удовлетворить
только лично Гитлер, это оформлялось как акт «германско­
го милосердия» особым указом, Gnadenakt. Гитлер подписал

111
 ИГОРЬ ШНУРЕНКО

таковой для Эрмины и Фанни Витгенштейн в обмен на 1700

килограммов семейного золота, хранившегося в швейцар­
ском банке.
Людвиг Витгенштейн дважды бывал в Советском
Союзе, даже хотел переехать туда. Впервые это произошло
в 1935 году, тогда он познакомился с Софьей Яновской, пре­
подавательницей математики из Института красной про­
фессуры. Институт был создан для просвещения рабочих,
у которых отсутствовала возможность получить системати­

ческое образование в школе, и преподавали там зачастую

блестящие ученые. Сам принцип такого обучения был явно
симпатичен Витгенштейну, который и сам был народни­
ком: «ходил в народ» учить простых детей в сельской шко­
ле. В начале двадцатых он преподавал под чужим именем
в одной австрийской деревне. В тот период он даже написал
42-страничный «Словарь для народных школ». Эта книжка
с примерами написания и произношения немецких слов

стала единственной кроме «Трактата» его работой, издан­

ной при жизни. Но продолжалось народничество Людвига
Витгенштейна недолго. Его подвел темперамент: избив
11-летнего ученика за медлительность, незадачливый учи­
тель вынужден был бежать из деревни и срочно уволиться.
Кто знает, может быть, великий философ и порабо­
тал бы «красным профессором». Людвиг любил Россию
и наизусть знал многие абзацы из «Братьев Карамазовых»,
а «Евангелие» Толстого произвело на него настолько силь­
ное впечатление, что он старался в собственной жизни сле­
довать принципам великого мыслителя. Например, спустя
десяток лет после побега из австрийской деревни он при­
ехал туда, чтобы попросить прощения у всех, кого мог оби­
деть. Вообще, он считал Толстого и Достоевского единствен­
ными писателями, достойными его внимания.
В 1939 году он приехал в Москву снова, но Яновская отго­
ворила его переезжать насовсем.

112
 ДЕМОН ВНУТРИ

Яновская изучала математические работы Карла Маркса -

были и такие. Обнаружив упоминание о них у Энгельса, она
нашла их, собрала и издала отдельной книгой. Общение
с Витгенштейном не прошло для нее бесследно - Яновская
ожесточенно спорила с ним, считая наивным идеалистом,

и эти споры оказались плодотворными. Впоследствии она

воспитала целую школу математической логики мирово­
го уровня. Ее даже наградили орденом Ленина. В мире все
взаимосвязано, и когда зерно попадает на подготовленную

почву, оно непременно дает всходы. Без этой школы в СССР

был бы невозможен взлет программирования. Кто знает,
если бы Витгенштейн не приехал в Москву и не спорил бы
с Яновской дни напропалую, та бы занялась чем-то другим,
не создала бы мирового уровня школу, и как итог советские,
а потом и российские программисты вряд ли так бы коти­
ровались в мире.

БЛЕСК И НИЩЕТА «ЧЕЛОВЕКА ВЫЧИСЛЯЮЩЕГО»

Новая волна интереса к наследию австрийского философа

еще впереди - хотя сам Витгенштейн разочаровался в фи­
лософии настолько, что не раз «уходил» из мира большой
науки в стиле его любимого Льва Толстого. Внезапная ра­
бота сельским учителем под вымышленным именем - лишь
один из таких эпизодов. Думаю, «уход» Толстого, который
умер, когда Людвигу было 15, австриец пережил с той же ин­
тенсивностью чувств, как если бы это произошло в его соб­
ственной жизни. В те времена о событиях из жизни Толстого
он мог узнать лишь из книг и газет - и тем не менее пере­

живал их остро до физической боли! Это лишний раз укре­

пило Витгенштейна в очень важной мысли о том, что мыс­
ленные представления могут определяться как символами,

языком, так и непосредственным переживанием, тем, что

113
 ИГОРЬ ШНУРЕНКО

человек видит. Сегодня мы живем во времена прямых эфи­

ров, которые, по идее, должны приравниваться к непосред­

ственным переживаниям, но мы отстраняем себя от них -

как это делает Нео в «Матрице». Мы читаем картинку из те­
левизора или интернета как набор символов, как послание
на своего рода языке, и расшифровываем этот язык. Но он
гораздо беднее того, что человечество выработало до появ­
ления телевидения - а ведь язык вызывает в нас мысль, ко­

торая, как писал Витгенштейн, определяет наше действие.

Есть от чего предаться пессимизму!
Когда началась Вторая мировая война, Витгенштейн
с презрением смотрел на философов, которые продолжают
обсуждать отвлеченные вопросы, когда на страну, его новую
родину, падают немецкие бомбы. Как и в Первую мировую,
он попытался уйти в армию, а когда этого не вышло, бросил
кафедру в Кембридже и устроился работать санитаром в од­
ном из госпиталей Лондона. Заниматься делом, а не болтать
языком - был его принцип, которому он следовал и в науке.
Среди персонала попались врачи, которые ездили на за­
седания клуба Моральных Наук в Кембридж. «Ради Бога,
только не выдавайте меня!» умолял их Витгенштейн,
но все же слух о том, что в больнице работает всемирно
известный философ, прошел среди врачей и медперсона­
ла. Некоторые из них звали этого странного санитара «про­
фессор Витгенштейн». Через некоторое время профессор
переехал в рабочий город Ньюкасл. Врач, с которым он по­
знакомился в лондонском госпитале, устроил его к себе
в больницу лаборантом на скромные 4 фунта в неделю.
Там Витгенштейн проработал почти год и все же вернулся
в Кембридж, хотя и потом были моменты, когда он поры­
вался уйти с кафедры, которую возглавлял.
Философ писал: «Здесь меня все отталкивает. Чопорность,
искусственность, самодовольство людей. Меня душит уни­
верситетская атмосфера». Через год Витгенштейн снова

114
 ДЕМОН ВНУТРИ

бросил преподавание и уехал сначала в Ирландию, а потом

в Соединенные Штаты. Там он прожил несколько месяцев
у друзей, потом вернулся в родную Вену, где присутство­
вал при последних днях сестры - той самой, которая ко­
гда-то в детстве подсадила его на философию, и ради ко­
торой он отдал Гитлеру семейное золото. Дружба с сестрой
очень много значила для философа, и после ее смерти он
решил объехать всех друзей, чтобы заранее попрощаться
с ними. Витгенштейн пережил сестру на год и умер через
два дня после 62-го дня рождения. Последними его словами
было: «Передай им, что у меня была чудесная жизнь».
Витгенштейн ощущал не просто исчерпанность цивили­
зации, разделившийся на морлоков и элоев, но исчерпан­
ность человека как такового. В собственном роде он писал
о конце истории и уже чувствовал смертельную скуку вой­
ны всех против всех в обществе, распадающемся на атомы.
Витгенштейн видел, как единство, которое он искал, един­
ство разума и языка, единство реальности и представления

о ней, единство, к которому стремятся сознающие мир души

в потерявшем берега обществе - вдруг оборачивается фа­
шизмом, то есть новым разделением. Он видел новое на­
ступление множества, злого, умаляющего человека, несуще­

го в себе страдание - и при этом знал, что человеку нужно

стремиться в противоположную сторону. Пошлость раздра­
жала его ничуть не меньше, чем фашизм.
Он был верующим, этот атеист, он был аскетом, этот
гомосексуалист, он говорил то парадоксами, то палкой
или раскаленной кочергой. Сын стального магната из Вены
всегда стремился достичь настоящей высоты, не размени­
ваясь по мелочам. Он действительно считал, что решил ос­
новные вопросы философии еще в 25 лет, а дальше - даль­
ше оставалась скука, отвращение к самоуверенным кем­

бриджским снобам и мучительные поиски чего-то высшего,

невыразимого.

115
 ИГОРЬ ШНУРЕНКО

ОДИНОЧЕСТВО БЕГУНА НА ДЛИННУЮ ДИСТАНЦИЮ

Как помнит читатель этой книги, примерно в 1830-е годы

англичанин Чарльз Бэббидж придумал «Аналитический
двигатель» - механическую машину, созданную с целью об­
работки логических операций. Леди Ада Лавлейс сразу на­
писала для нее программы, так что эту машину можно на­

звать первым компьютером со своим собственным машин­

ным языком. Здесь мы можем вспомнить Витгенштейна,
в фокусе внимания которого были язык и «языковые игры»
с символами, при том что великий логик сначала считал,
что все без исключения значения и концепции должны пе­
редаваться через язык, а потом пришел к выводу, что есть

и другие пути, следуя которым в нашем мозгу рождают­

ся мысли: например, непосредственная визуализация. Эта

поправка, скорей всего, укладывалась в его общую концеп­
цию языка, дело было в смещении акцентов. Эта его ли­
ния мысли остается, пожалуй, недодуманной и по сей день,
и здесь, пожалуй, следует ожидать каких-то новых откры­
тий и решений.
Однако у Витгенштейна был ученик, который «пошел
другим путем». Это был Алан Тьюринг. Он решил не услож­
нять и постараться себе представить, как может работать
«человек вычисляющий». Я очень упрощаю, представляя
Тьюринга учеником Витгенштейна: ведь «учитель» силь­
но критиковал идеи «ученика», а «ученик» не выпал после

этой критики в осадок и продолжал настаивать на своем.

Но их взаимные обмены, до сих пор малоизученные, были
плодотворными в том смысле, что подтолкнули каждого

к более тщательной проработке своих тезисов, где у обоих

была своя доля истины. Такой тип отношений между учени­
ком и учителем ничуть не хуже подхода, когда ученик без­
ропотно делает то, что говорит ему гуру. Кстати, оба типа
отношений используются в системах глубокого машинного

116
 ДЕМОН ВНУТРИ

обучения, причем, первый, Generative Adversarial Networks

(GANs), или генеративно-состязательные сети, приносит
особенно существенные и перспективные результаты.
Итак, Алан Тьюринг не стал слушать своего странного
и эксцентричного учителя, который, с одной стороны, от­
личался горячим нравом и мог поколотить за тугодумие,

а с другой стороны, всегда был на грани отчаяния и в любой

момент мог бросить преподавание дебилам и уйти в мона­
стырь. Ну, или в садовники.
Тьюрингу, пожалуй, был ближе Бэббидж (кстати, как
и Витгенштейн, кембриджский профессор) с его незамут­
ненным научно-технологическим оптимизмом. Родись
Ада Лавлейс на сто лет позже, она могла бы подружить­
ся с Тьюрингом (впрочем, без излишней романтики, ибо
Алан, если использовать фразу Сомерсета Моэма из рома­
на «Театр», играл в другой лиге). Она могла бы писать про­
граммы для тьюринговского «Абстрактного вычислителя»
не хуже тех, что придумывала для «Аналитического двига -
теля» Чарльза Бэббиджа.
Машину, которая позволяла обработать любой форма­
лизованный алгоритм, работать в любой системе счисле­
ния или с символами, Тьюринг придумал в 1936 году. Это
была не просто очередная попытка облегчить труд счето­
вода. Машина Тьюринга была отнюдь не арифмометром:
с ее помощью можно было воспроизвести действие любой
другой машины, основанной на алгоритмах. И сегодняшние
вычислительные устройства основаны на том же принципе,
что машины Тьюринга !
Интересно, что «Аналитический двигатель» Бэббиджа
обладал «полнотой по Тьюрингу», то есть в теории мог ра­
ботать с любой вычислимой функцией, кодируя инфор­
мацию на входе и выходе. Но преимуществом машины
Тьюринга перед устройством Бэббиджа была универсаль­
ность, простота и логичность концепции. Для нее не имело

117
 ИГОРЬ ШНУРЕНКО

значения, на механической основе работать, на электриче­

ской или какой-то другой.
Машину Тьюринга можно представить как бесконеч­
ную ленту, разматывающуюся в обе стороны и разбитую
на ячейки. В каждой ячейке записаны символы - например,
ноль или единица в случае бинарных вычислений, но вооб­
ще может быть записан любой символ из конечного набо­
ра, например, русского или английского алфавита. В середи­
не ленты находится устройство записи-чтения, или голов­
ка, которая может считывать символ, записанный в ячейке,
стирать его или записывать туда новый символ. Головка мо­
жет двигаться, в зависимости от инструкций, влево и впра­
во по ленте по одной ячейке за каждый шаг. Машина может
находиться в одном из множества задаваемых состояний.
Сердце машины Тьюринга - программа ее работы. Это таб­
лица, в которой записаны соответствия между состояниями
машины, символами в ячейке и действиями, которые маши­
на должна произвести.

Машина Тьюринга, созданная на бумаге, позволила пред­

ставить любой формально записанный алгоритм. С ее по­
мощью можно запрограммировать что угодно, от карман­

ного калькулятора до драна или атомной станции. Кроме

того, машина Тьюринга обладает крайне важной характе­
ристикой: она количественно оценивает сложность алгорит­
мов. Ученый и разработал ее с целью оценить, сколько по­
следовательных действий необходимо произвести, чтобы
выполнить то или иное задание. Еще один важный вывод
от применения машины Тьюринга состоял в том, что каж­
дый алгоритм можно было выполнить не одним-единствен­
ным способом.
Бэббидж как-то сказал, что готов умереть в любой момент,
если ему дадут воскреснуть через 500 лет на три дня, и пре­
доставят гида, который расскажет ему о самых важных от­
крытиях, сделанных в науке за прошедшие века. Со времени

118
 ДЕМОН ВНУТРИ

его смерти прошло полтора века, и если за оставшееся вре­

мя воплотятся в жизнь идеи Николая Федорова и Тейяра

де Шардена о воскрешении мертвых, математик будет до­
волен своим влиянием на упорядочение хаоса Вселенной.
Впрочем, ему придется смириться с тем фактом, что нена­
вистные шарманщики и дети, бьющие стекла, тоже возро­
дятся во всем своем множестве.

Параллели между двумя учеными не слишком-то под­

тверждают гипотезу прогресса цивилизованности. Бэббидж
умер в своей постели признанным ученым, в окружении
любящих родных и близких. Алана Тьюринга ждал совсем
другой конец. Если бы не уголовное дело, возбужденное
против Тьюринга полицией, создатель универсальной вы­
числительной машины мог бы сделать в своей жизни еще
немало. Как минимум, он мог бы стать для своей стра­
ны научным авторитетом наподобие Марвина Минского
в Соединенных Штатах. Но случилось иначе. Тьюринг, как
и Витгенштейн, был гомосексуалистом, но второй влюб­
лялся в более приличных парней, да и, судя по всему,
по большей части эти влюбленности были платонически­
ми, и данная часть жизни для него была не самой суще­
ственной. А вот Тьюринг водил весьма сомнительные зна­
комства и при этом был крайне неосторожен. Он познако­
мился с каким-то рабочим пареньком, привел его домой,
доверил ключ, а тот сговорился со своим приятелем-хули­

ганом и они вместе обокрали математика. Особо и не скры­

вались, ибо понимали, что жаловаться на них будет себе
дороже. Тьюринг все же имел глупость обратиться в пра­
воохранительные органы. Но с дела об ограблении след­
ствие быстро переключилось на предосудительное пове­
дение ученого: гомосексуализм в Англии 1950-х считался
серьезным уголовным преступлением. Тьюринг понадеял­
ся было на то, что за него заступятся коллеги: ведь он счи­
тался героем группы «Ультра», которая, по голливудской

119
 ИГОРЬ ШНУРЕНКО

версии истории, расколола шифр «Энигмы». На самом деле

этот шифр раскололи поляки, которые слили все свое ноу­
хау вместе с оборудованием англичанам перед самой вой­
ной. В том числе они передали в Блетчли Парк, где сидели
британские кодировщики, свою польскую «бомбу» - то есть
устройство по дешифровке. Англичанам оставалось только
совершенствовать «бомбу», строя ее более сложные версии
вдогонку за развитием немцами «Энигмы». Эта гонка ме­
жду шифровкой и дешифровкой была тоже сродни гене­
ративно-состязательным сетям, на которых часто строит­

ся машинное обучение сегодня. Тьюринг детально изучил

«бомбу» и построил несколько своих подобных устройств.
Он создал Banburismus, «Бэнберизмус», - алгоритм, ко­
торый упрощал анализ шифра «Энигмы», и разработал
устройство для шифрования - и, естественно, дешифрова­
ния речи. Некоторые авторы приписывают Тьюрингу и со­
здание Colossus, «Колосса», первой в мире программируе­
мой цифровой электронной вычислительной машины, ко­
торая была построена в 1943 году. Правда состоит в том, что
Тьюринг не принимал участия в разработке «Колосса», хотя
в процессе участвовала команда, для которой он написал
алгоритм Turingismus, «Тьюрингизмус», который помог
расколоть ключи немецких шифровальных машин Lorentz.
Несомненно, и Бэнберизмус, и Тьюрингизмус помогли раз­
работчикам в создании «Колосса», но самого Тьюринга дер­
жали от этого проекта в стороне.

Так или иначе, математик сильно отличился в составе

команды английских хакеров, и надеялся на то, что воен­
ные помогут ему если не выйти сухим из воды, то хотя бы
понести в этом деле минимальный ущерб.
После того, что вы узнали о том, как англичане «отбла­
годарили» польских математиков, вы вряд ли удивитесь

тому, что надеждам Тьюринга было не суждено сбыть­

ся. Военные забыли о его существовании, правительство,

120
 ДЕМОН ВНУТРИ

собственно, и было истцом - иск звучал как Regina (коро­

лева) против Тьюринга и Мюррея (так звали любовника
ученого). Нанятый семьей адвокат дал не слишком пра­
вильный совет все признать в надежде на снисхождение,
но, как в «Алисе в стране чудес», Королева была неумолима.
Тьюрингу дали выбор между тюрьмой, которой он боялся
как огня - и условным сроком. Условный срок был возмо­
жен лишь при согласии математика на химическую кастра­

цию. Чтобы не оказаться за решеткой, где бы его, скорей

всего, «опустили» по понятиям всех времен и народов, автор

машины Тьюринга согласился на второе.

В течение года он под надзором правоохранительных
органов употреблял гормональные средства, в результате
чего стал импотентом и стал страдать от тяжелых побоч­
ных эффектов. Их не хочется описывать -уж больно не­
приятные подробности. Но про смерть Тьюринга расска­
зать придется.

Криптограф был очень большим эксцентриком - к при­

меру, на работу в сезон, когда летела пыльца, приезжал
в противогазе. А еще он очень любил сказку «Белоснежка
и семь гномов». Может быть, поэтому он покончил с со­
бой, откусив от яблока, напитанного цианистым калием.
Впрочем, как это всегда бывает в случае, когда замешаны
государственные интересы, есть и другая версия. Некоторые
считают, что Тьюрингу помогли умереть спецслужбы. Ведь
летом 1951 года, за полгода до его смерти, бесследно исчез­
ли агенты британской разведки Мlб Гай Берджесс (кличка
Хикс) и Дональд Маклин (кличка Гомер). Хикса и Гомера по­
дозревали в работе на СССР, и Мlб готовилось арестовать их,
но кто-то предупредил агентов, и они растворились без сле­
да. Это означало, что кто-то еще в Мlб работал на русских,
а скорее всего, их была целая сеть. Впоследствии так и ока­
залось - годы спустя была раскрыта так называемая «кем­
бриджская пятерка» - сеть из выпускников Кембриджа,

121
 ИГОРЬ ШНУРЕНКО

членов тайного студенческого клуба «Кембриджские апо­

столы». Они занимали высокие посты в британском пра­
вительстве и разведке, работая одновременно на СССР.
Самым известным из двойных агентов был Ким Филби.
Никто из «пятерки» не был обнаружен, все они благополуч­
но ускользнули в СССР и долго еще работали на КГБ. Скорее
всего, советских агентов в Мlб было не пять, а больше, среди
подозреваемых называли даже молодого барона Натаниэла
Ротшильда, впоследствии советника Маргарет Тэтчер. Алан
Тьюринг вполне мог попасть под подозрение. Он тоже был
из Кембриджа, состоял, как и многие студенты, в тайных
клубах, и был гомосексуалистом, как и Хикс с Гомером
(и Ким Филби). Так что у Мlб были веские причины инте­
ресоваться Тьюрингом, и, несомненно, они как минимум
знали и о судебном процессе, и о приговоре. Препараты, ко­
торые принимал Тьюринг, привели его к депрессии, крип­
тограф чувствовал, что его заслуги перед Британией не оце­
нены по достоинству, так что в любом случае нельзя было
исключать того, что он начнет работать на русских или во­
все сбежит на Восток. Допуск к секретам у него отобрали,
но Тьюринг был ценнейшим источником информации и,
потенциально, мог серьезно способствовать прогрессу рус­
ских в критически важной для военных области криптогра­
фии. Вполне вероятно, британские спецслужбы ускорили
кончину математика. Нельзя исключать, что когда-нибудь
всплывут факты, которые подтвердят эту гипотезу. О безжа­
лостности британских спецслужб говорит хотя бы опублико­
ванная в 2010 году книга профессора Кейта Джеффери «Мlб:
История секретной разведывательной службы 1909-1949»,
где, в частности, рассказывается об операции Embarass, по­
пытке Мlб затормозить эмиграцию евреев в Палестину че­
рез кампанию дезинформации, поджоги кораблей, уста­
новку на них бомб и многое другое. По некоторым оцен­
кам, в результате британской кампании саботажа на пути

122
 ДЕМОН ВНУТРИ

в Израиль погибли около 1600 переселенцев, большинство

из них утонули - примерно в тех же местах, где сегодня то­

нут беженцы из Африки. Чтобы отвести от себя подозре­

ния в терроризме, британцы тогда создали фейковую араб­
скую группу «Защитники арабской Палестины», на которую,
в типичной для себя манере, повесили свои собственные
преступления.

Но вернемся к Тьюрингу, никак не оцененному при жиз­

ни, но вознесенному через полвека после его ужасной смер­
ти до небес.
Даже те, кто ничего не знает об универсальной вычисли­
тельной машине, созданной криптографом, могли слышать
о тесте Тьюринга. Идея, высказанная им в работе 1950 года
«Вычислительные машины и разум», используется во мно­
гих научно-фантастических фильмах о будущем. Как понять,
разумна машина или нет? Тьюринг предложил простой кри­
терий: если она сможет отвечать на вопросы человека так,
что тот не заметит подвоха и будет считать ее таким же че­
ловеком, как и он сам - значит, она прошла тест и ее можно

назвать «разумом», пусть даже искусственным.

Кстати, значение слова «искусственный» имеет оттенок

как «нечто низкого качества». Все натуральное мы ценим
больше, чем искусственное, так что, говоря «искусствен­
ный интеллект», мы принижаем его в сравнении с нашим,
«естественным». Но в 1950-е годы это было не так, даже ис­
кусственные ткани, в которых видели преимущества (не­
мнущиеся, более прочные) ценились больше натуральных.
Скорее всего, и выражение «искусственный» в применении
к интеллекту в те годы могло звучать как знак качества.

В фильме Ех Machina харизматичный глава некой кор­

порации наподобие «Гугла» приглашает к себе домой мо­
лодого ученого и ставит перед ним задачу провести тест

Тьюринга над одним из своих созданий. Точнее, над од­

ной - это прекрасная девушка. В результате ученый

123
 ИГОРЬ ШНУРЕНКО

начинает сомневаться в том, человек ли он сам, а гумано­

идный робот манипулирует им и, убив всех, кто был в доме,

вырывается на свободу, в мир людей.
Тест Тьюринга, только наоборот - не является ли тот, кто
зашел на сайт, ботом - используется при проверке «Капча»,
когда вам предлагается кликнуть на картинки с определен­

ными изображениями, например, автомобилями. Правда,

новое поколение ботов, преуспевших в распознавании,
уже способно делать правильный выбор, поэтому «Капча»,
по идее, скоро должна тоже усложниться.

Пожалуй, не менее важным вкладом Тьюринга в работы

над искусственным интеллектом была предложенная им
идея не создавать его сразу же готовым, а выращивать, как

мы растим детей. Сначала такой ИИ будет иметь мозг ре­

бенка, потом, при помощи разработчиков, приобретать все
новые знания и совершенствовать сам себя, пока, наконец,
не сравняется с человеком.

В своей работе On Computational Numbers Тьюринг утвер­

ждал, что мы спокойно можем сравнить человеческое суще­
ство, занятое вычислениями или логическими построения­

ми, с машиной. В вычислении участвуют символы, с кото­

рыми человек имеет дело и распознает их, и мозг, который
служит для обработки этих символов. Мозг, таким образом,
выступает своего рода инструментом для вычислений, та­
ким же инструментом, как рука, которая нужна нам для

того, чтобы достать или удержать что-нибудь. Техника вы­

ступает как бы продолжением руки и делает то, что делает
рука, но быстрее и эффективнее, работая в местах, куда руке
проникнуть неудобно, и поднимая тяжести, которые рука
не поднимет- как экскаватор, к примеру. Точно так же ма­
шина может «продолжить» мозг, производя за него вычис­

ления. При этом машина должна получать установки, какие

символы брать в работу, что с ними делать и в каком виде
требуется конечный результат.

124
 ДЕМОН ВНУТРИ

В последние десятилетия биологи расширили наше пред­

ставление о связи техники и машин, то есть миром «мертво­

го», с миром живого. Своя техника есть и у животных и даже

у грибов, которые делают муравьев своим средством пере­
движения. Маленькие птички, чернополосые капуцины,
едят палочками - используют их для извлечения термитов.

Каледонские вороны, семьи шимпанзе - все они пользуют­

ся теми или иными инструментами. Клоп Acanthaspis petax,
живущий в Восточной Африке и в Малайзии, питается му­
равьями, прокалывая их и высасывая содержимое. Потом
он приклеивает муравьиные скелеты себе на спину-до 20
скелетов может приклеить - чтобы защититься от хищни­
ков. Гриб-слизевик Physarum polycephalum (Физарум мно­
гоголовый) не просто пользуется инструментами, что уже
является признаком технической жизни, но и создает соб­
ственное сельское хозяйство, разводя бактерий, как мы раз­
водим кроликов. Японские исследователи из Университета
Хоккайдо выяснили, что физарум может самостоятельно на­
ходить выход из лабиринта и передвигаться к еде, выбирая
для этого кратчайший из возможных путей.
Физарум может образовывать транспортные сети, кото­
рые можно сравнить с железной дорогой. Ученые провели
следующий опыт: по рельефной карте Токио и близлежа­
щих городов они разбросали овсяные хлопья. Чтобы до­
браться до еды, гриб разросся в сеть, сравнимую по эффек­
тивности, отказоустойчивости и экономичности с желез­
нодорожной системой Японии. У физарума нет нейронов
или нервной системы, но в качестве ее аналога действует
межклеточная слизь. Точно так же как нейроны сегодня ле­
жат в основе нейросетей, на базе которых создаются агенты
искусственного интеллекта, кто знает, может, в не очень от­

даленном будущем новой основой для технических систем

будет служить слизь? Собственно говоря, скорее всего тех­
ника будущего будет не привычными нам металлическими

125
 ИГОРЬ ШНУРЕНКО

или пластиковыми устройствами, а вот такими «живыми»

в кавычках или без кавычек организмами, которые смогут
сами решать масштабные задачи.
Тьюринг придумал машину, которой задается тот
или иной алгоритм работы с символами в том или ином
ее состоянии в тот или иной момент времени. Именно эту
способность своей машины математик и считал ключевой,
при этом его больше интересовал результат на выходе, чем
то, как именно производятся вычисления внутри машины.

По Тьюрингу, разум можно в конечном итоге свести к по­

добным операциям.
Если суммировать возражения Витгенштейна, высказан­
ные им Тьюрингу по поводу возможности машин мыслить,
то их можно свести к следующим тезисам.

Может ли машина подражать человеческому мозгу «есте­

ственным» образом - или она всегда будет лишь «естествен­
но» исполнять предопределенный процесс, заданный для
нее человеком, пусть это будет и процесс «подражания моз­
гу»? Слово «естественный» здесь использовано как бы с точ­
ки зрения машины, а с нашей точки зрения это будет как раз
«искусственным» образом. Мы не раз увидим в этой кни­
ге, что понятия «естественный» и «искусственный» весьма
относительны.

Вторая проблема такова: чтобы побудить или заставить

мыслить машину, нужно понять, что такое вообще концеп­
ции и как мы генерируем концепции при помощи языка.

Пока мы не ответим сами себе на эти вопросы, мы можем

сколько угодно рассуждать о мыслящих машинах, но создать

их мы не сможем.

Машина Тьюринга может исполнять правила, которые

для нее прописаны, но она не может производить более
того, что предопределили для нее «истинные вычислители»,

то есть создатели этих правил. Поэтому даже самое слож­

ное устройство для вычислений, построенное по принципу

126
 ДЕМОН ВНУJРИ

машины Тьюринга, можно сравнить с человеческим разу­

мом не больше, чем бухгалтерские счёты.
Иными словами, мы можем построить сколь угодно
сложный агент ИИ, который потенциально сможет выпол­
нить любую задачу. Но он всегда будет ограничен данными
на входе. Можно ли такую машину сравнивать с разумом
и называть ее «интеллектом», пусть даже искусственным?
Конечно, если каким-то волшебным образом мы бу­
дем способны написать для машины Тьюринга совершен­
ную, безошибочную программу, она будет способна на все.
Но для этого нужно будет лишить право на ошибку не толь­
ко машину, но и человека, исключив малейшую погреш­
ность в настройках. Вряд ли это возможно, и выход состоит
в том, чтобы дать компьютеру право на ошибку.
Сам Тьюринг, собственно, говорил об этом лучше других:
«Если мы хотим, чтобы машина имела интеллект, она не мо­
жет одновременно быть безошибочной. Есть теоремы, кото­
рые практически это и говорят».

АНТИ-ТЬЮРИНГ

Есть такая настольная игра, «Имаджинариум». В ней участ­

ники получают по шесть карт со странными изображения­
ми. Например, кит на лугу с вышками электропередач, жи­
раф в городском дворике, красное животное в лесу, дири­
жабль, на котором привезли почту в тундру. Каждая такая
карточка допускает массу толкований. Ведущий выкладыва­
ет одну карту рубашкой вверх и говорит, какую ассоциацию
она должна вызвать. Но никто пока не видит саму карту ве­
дущего. Другие участники выкладывают, также рубашками
вверх, по одной карте из имеющегося у них набора. Карта
должна вызывать эту же ассоциацию. Затем выложенные
карты мешаются и раскрываются. Участники ставят каждый

127
 ИГОРЬ ШНУРЕНКО

на ту карту, которая, по их мнению, лучше всего выражает

требуемую ассоциацию. Очки получает тот, кто правильно

угадал карту ведущего, и те, на чьи карты поставили дру­

гие игроки.

Эта игра может служить своего рода тестом Тьюринга

для машин-ведь победу в ней одержит тот, кто в состоя­
нии мыслить с ведущим «на одной волне» и «понимать» ас­
социации, заведомо не имеющие точных значений, и, более
того, зависящих от культурной среды, общего воспитания
и множества других переменчивых факторов. Если в игре
участвует ИИ среди людей, то можно себе представить, что
ИИ, обладая полной информациях о человечестве в общем
и о людях этого круга в частности, об их культурных кодах
и общем воспитании, сможет периодически угадывать пра­
вильные карты. Конечно, не на теперешнем уровне разви­
тия, но в каком-то вполне обозримом будущем, когда ней­
росети позволят ему семантически точно описывать, что

изображено на картинках, они же составят словари ассо­

циаций, из той же художественной литературы, фильмов
и так далее, с тем, чтобы выбрать из них наиболее подходя­
щие. Здесь мы заходим на священную территорию художе­
ственного творчества, которая считается для ИИ заповед­
ной, но по правде говоря, не видно никаких барьеров, ко­
торые помешают ИИ казаться и тут одним из человеческих
существ. Он не станет Микеланджело или критиком Ириной
Петровской - но этого и не требуется для прохождения те­
ста Тьюринга. Даже если ИИ не станет в игре чемпионом,
при среднем результате невозможно будет установить, что
это не человек, а машина.

«Имаджинариум» - это своего рода метафора человече­

ского взаимодействия. Чтобы продвинуться вперед в игро­
вом поле жизни, мы то и дело должны угадывать, понимать

с полуслова, быть на одной волне. Доступно ли для машины

быть с нами на одной волне? Почему бы и нет? Получается,

128
 ДЕМОН ВНУТРИ

что в обществе будущего «искусственные разумы», вероятно,

будет сложно или невозможно обнаружить.
Но что если вывернуть ситуацию наизнанку? Допустим,
в «Имаджинариум» играют несколько искусственных интел­
лектов и человек. Дело происходит в будущем мире, кото­
рый захватили машины, где люди мимикрируют под робо­
тов и их главная задача - не обнаружить себя. Сумеет ли че­
ловек сыграть в «Имаджинариум» так, чтобы не спалиться?
Чтобы все распознали в нем своего, робота?
Для этого ему придется понять, как роботы мыслят -
но это сработает лишь в том случае, если у них будет пра­
во на ошибку. Если правильным считается лишь один ответ,
то человек непременно попадется.

Но допустим, роботы получили право на ошибку. Это пра­

во будет обеспечиваться алгоритмами, то есть на практи­
ке у них будет не право, а обязанность иногда ошибаться.
С виду они будут мыслить примерно как человек - не слиш­
ком точно, интуитивно, плюс-минус, а то и совершенно

не в тему. И тут наступит момент истины. Ведь если «плюс­

минус» у робота - результат на выходе сложного алгоритма,
то человек едва ли сможет распознать этот алгоритм и попа­

дется. Точно так же с алгоритмически заданным «совершен­

но не в тему». Если это итог алгоритмического взаимодей­
ствия системы, то человек не раскусит эту логику и попа­

дется. Если же «совершенно не в тему» неподдельное, то это

значит, что кто-то из роботов-игроков сошел с ума. И то­
гда мы получим человека, прошедшего тест Анти-Тьюринга,
в кружке «нормальных роботов» и робота-сумасшедшего.
Страшновато. Но проблема не только в ситуациях, которые
мы сейчас даже не можем себе вообразить даже на карточ­
ках «Имаджинариума».
Получается, что если мы даем машине право на ошиб­
ку, то первенство, пусть и по очкам, останется за ней. Ведь,
как показывает мысленный эксперимент, в общей с ней

129
 ИГОРЬ ШНУРЕНКО

игре мы машину не распознаем, а она нас - скорее все­

го - отличит.

Но именно по этому, проигрышному для человечества

пути - дать машине право на ошибку, и создать ее такой,
чтобы она сама себя обучила не только исполнять задачи,
но и ставить их, - и пошла кибернетика на новом этапе сво­
его развития.

ОКОНЧАТЕЛЬНАЯ МАШИНА

Об этом новом витке развития мы поговорим в главе, по­

священной нейросетям и глубокому машинному обучению.
Именно эти методы создания искусственного интеллекта
и работы с ним используются сегодня чаще всего. Они тре­
буют мощной вычислительной базы, которая стала актив­
но развиваться с момента перехода человечества на цифру.
А ведь это было не так давно.
Датой начала этого процесса называют обычно 1948 год,
когда американский математик, инженер и крипто­
граф Клод Элвуд Шеннон опубликовал свою работу
«Математическая теория коммуникации». В ней он пока­
зал, что вся информация может быть передана как после­
довательность нулей и единиц.
Но художники, как это всегда бывает, разработа­
ли тему гораздо раньше. В 1915 году австрийский - сно­
ва венский! - художник Густав Климт пишет свою работу
«Смерть и жизнь». В ней он показывает смерть как едини­
цу, а жизнь - как нолик. В единицу вписана мрачная фи­
гура с дубиной, несущая разрушение - во время написа­
ния картины в Европе бушевала война, миллионы людей
были убиты, а Людвиг Витгенштейн сражался на восточ­
ном фронте, в Галиции. Ноль включал в свой круг все то, что
так любил художник, через пару лет умерший от сифилиса:

130
 ДЕМОН ВНУТРИ

прекрасных женщин в орнаменте из набухающих, размно­

жающихся клеток, символизировавших силу эволюции.

Кто-то сейчас умрет, но замысел природы таков, что все не­

избежно начнется сначала: в круге был и новорожденный,
здоровый, красивый мальчик. Вместе единица и ноль созда­
вали вечный танец жизни и смерти, постоянного рождения
нового и отмирания старого.

Ученые вряд ли признают за картиной Климта, которая

висит сейчас в Музее Леопольда в Вене, научный приоритет
в идее цифровизации - но историкам науки стоит об этом
поразмыслить.

Шеннон получил некоторую известность еще в 1937 году,

когда молодым студентом МIТ (Массачусетского технологи­
ческого института) занялся довольно новой областью и раз­
работал теорию проектирования цифровой цепи. Уже в ней
он продемонстрировал, как можно применить булеву алге­
бру в электрических цепях, чтобы решать задачи матема­
тической логики.
Совсем не удивительно, что во время войны Шеннон, как
и Тьюринг, принимал участие в шифровании данных для
военных. Подумать только: если бы не было войны, кибер­
нетика возникла бы лет на тридцать позже, и мы сегодня,
скорее всего, жили бы в эпоху громоздких вычислительных
машин!
В 1943 году Тьюринг на два месяца приехал в Вашингтон,
где поделился с американцами опытом и методами по рас­

калыванию шифров, которые применялись в «Энигмах»

Кригсмарине. Они стояли на немецких подлодках, активно
действовавших в Северной Атлантике. Шеннон и Тьюринг
часто встречались во время чая в кафетерии лаборато­
рий Белла, где тогда работали, и англичанин рассказал ему
о принципах своей универсальной машины.
Исследуя, как лучше закодировать информацию, которую
хочет переслать отправитель, Шеннон обратился к теории

131
 ИГОРЬ ШНУРЕНКО

вероятностей, в частности, к работам американского мате­

матика Норберта Винера, которого считают отцом киберне­
тики. Приложение теории вероятностей к коммуникациям
было тогда в младенческой стадии. Шеннон предложил по­
нятие информационной энтропии как меры неопределен­
ности в коммуникации. Он написал статью «Предсказание
и энтропия в печатном английском», где применил кана­
лизу языка статистические методы и заложил тем самым

базу под дальнейшие весьма плодотворные исследования.

Эта работа стала началом теории информации, а без нее
не было бы и методов обработки и представления есте­
ственного языка - ключевой области для создания совре­
менных агентов искусственного интеллекта. Его криптогра­
фический военный опыт дал о себе знать. Шеннон обратил
внимание на пробел и показал, что если сделать его 27-й
буквой английского алфавита, то показатель неопределен­
ности в языке уменьшится.

Шеннон был и плодовитым изобретателем. Еще в 1950-е

годы он изобрел жонглирующую машину, положив на­
чало целой отрасли, столь важной для робототехники.
Роботы-жонглеры получили распространение прежде всего
в Японии. Как-то он сделал трубу, извергающую огонь, по­
том придумал устройство, которое собирало кубик Рубика.
Если бы Шеннон дожил до времени криптовалют, он бы
непременно создал какой-нибудь странный шеннонкойн,
который наверняка бы завоевал большую популярность
и принес своему разработчику кучу денег. Но времена были
другие, хотя это никак не мешало Шеннону постоянно нахо­
диться в творческом поиске.

Так, он придумал несколько вариантов странных ком­

пьютеров. Первым из этой серии был компьютер Throbac,
который считал римскими цифрами. И это придумал пио­
нер внедрения двоичного исчисления в вычислитель­

ную технику! Еще вместе со своим другом, математиком

132
 ДЕМОН ВНУТРИ

Эдвардом Торпом Шеннон создал первого предшественни­

ка часов Apple - наручный компьютер, которым он поль­
зовался во время игры в рулетку. Он заносил туда выпав­
шие числа, чтобы согласно алгоритму улучшить свои шансы
на выигрыш. Шеннон разработал и Minivac 601, вычисли­
тельную машину, созданную с целью научить людей бизне­
са пользоваться компьютерами. Она поступила в продажу
еще в 1961 году- за пятнадцать лет до создания компании
Apple Computers.
Самым забавным устройством из собрания разработок
Шеннона стала коробочка, названная «Окончательная ма­
шина». Она держал ее все время у себя на письменном столе.
Идею машины предложил американский ученый Марвин
Минский, о котором речь пойдет дальше. На коробочке был
только один тумблер. Когда его переключали, крышка ко­
робки открывалась, оттуда высовывалась механическая рука
и переводила тумблер в первоначальную позицию. Затем
рука скрывалась в коробочке, крышка закрывалась.
Возможно, в «Окончательной машине» Шеннон заши­
фровал последнее действие искусственного интеллек­
та, который просто выключит сам себя. У этой метафоры
может быть много толкований, но чтобы продолжить раз­
говор об ИИ, следует сделать шаг назад и вернуться к его
определению.

Как сказал Витгенштейн, нужно молчать о том, о чем

не можешь говорить. В начале книги было бессмысленно
говорить о некоторых важных понятиях. Сейчас, когда мы
немного продвинулись, узнав об истории создания мысля­
щих машин и об их анатомии, мы можем представить себе
хотя бы контурно существо, которое хотим определить.
Если вспомнить «Звездные дневники Ийона Тихого»
Станислава Лема: поговорив о сепулировании и сепули­
ровщиках, теперь мы можем обратиться и к вопросу о том,
что же такое сепулька.

133
 ИГОРЬ ШНУРЕНКО

Попробуем поймать ее в свои сети - хотя, возможно, к се­

пульке, то бишь к искусственному интеллекту подходит над­
пись, сделанная на могиле философа Григория Сковороды,
«Мир ловил меня, но не поймал».
С единственным отличием -у Искина (искусственного
интеллекта) не будет могилы. Или ее с самого начала по­
строил в своей коробочке Клод Шеннон?

134
ДИКТАТУРА АЛГОРИТМОВ
 КАК УКРАЛИ МОЗГ ЗЙНWТЕЙНА

Вы можете подумать, что заголовок - это преувеличение

и речь образно идет о каком-нибудь биохакинге, но мозг че­
ловека, давшего миру формулу E=mc квадрат, был украден
на самом деле! И это имеет прямое отношение к созданию
искусственного интеллекта: вор, он же патологоанатом-ис­

следователь, хотел понять, как достичь уровня Эйнштейна

и чем мозг великого человека отличается от обычного.
Стоит это установить - и со временем можно будет лепить
биогениев под заказ или сделать гениальную машину. Ниже
расскажу, к чему это привело, но совершенно однозначно:

гениальный физик послужил науке не только при жизни,

но и после смерти, положив на алтарь знания самое ценное,

что у него было.

В своем завещании Эйнштейн весьма недвусмысленно
указал, что его останки следует кремировать, а пепел раз­

веять по ветру. Он с отвращением относился к идолопо­

клонству и не хотел создавать собственный посмертный
культ в стране, которая склонна обожествлять любую ши­
роко известную личность. Но жизнь распорядилась иначе.
Гениальный ученый умер 18 апреля 1955 года в больнице
университетского городка Принстон в штате Нью-Джерси,
где он преподавал. Патологоанатом Томас Харви, произво­
дивший вскрытие, не смог удержаться от искушения, и по­
просту увез мозг Эйнштейна к себе домой в Филадельфию.
По округе пошли слухи о краже тела Эйнштейна, и доктор
стал уговаривать сына физика Ханса Альберта дать задним
числом добро на исследование столь уникальнейшего моз­
га столь великого ученого, ведь это просто необходимо для
светлого будущего всего человечества в его движении к сия­
ющим вершинам, и так далее. Сын не без колебаний согла­
сился, не представляя себе последовавшего кошмарного аб­
сурда, который мог бы дать сюжет какому-нибудь Борису
Юхананову из Электротеатра имени Станиславского.
В подвале своего дома Харви разрезал мозг на 240 ча­
стей, завернул их в целлофан и рассовал по двум банкам.
Его жене это не понравилось, она грозилась выкинуть ор­
ганы на помойку и предложила мужу выбрать между собой
и Эйнштейном. Наш герой, разумеется, выбрал Эйнштейна
и вскоре съехал от жены. Он, кстати, не задерживался долго
ни на одной работе.
Странствуя по Среднему Западу США, бродячий патоло­
ганатом возил мозг Эйнштейна с собой и изучал его в сво­
бодное от службы время. Работая в биологической лабора­
тории в Вичите, штат Канзас, Ха рви держал банки с мозгом
автора теории относительности в коробке из-под яблок под
кулером для пива. Переехав в Вестон, Миссури, он завалил
экзамен на подтверждение квалификации врача и снова вер­
нулся в Канзас, в городок Лоренс, где работал на конвейере
на фабрике пластика. Харви снял крохотную квартирку возле
бензозаправки, где его соседом был битник Уильям Берроуз,
впоследствии известный писатель. Сидят они, бывало, пьют
пивко на веранде, и доктор-расстрига рассказывает битнику,
как рассылал части мозга Эйнштейна ученым по всему миру.
Когда Берроуз, увлекавшийся синтетическими расширителя­
ми сознания, предлагал гостям на вечеринках попробовать
кусок мозга Эйнштейна, они думали, что у битника передоз,
но на самом деле тот ничего не придумывал: мозг действи­
тельно лежал у него на кухне в холодильнике.

Ученые, которым Харви рассылал мозг наподобие до­

машнего мармелада, делали его соавтором своих работ.
Время от времени на базе этих работ появлялись «сенса­
ционные» открытия. Например, в одном исследовании
утверждалось, что у Эйнштейна больше глиальных клеток
на каждый нейрон, чем у обычного человека, что означает,
что клетки коры его головного мозга использовали больше
энергии.

Глиальные клетки - это структурные элементы спинно­

го мозга, соединяющие важные участки, но сама по себе
их роль считалась вспомогательной. В последнее время,
впрочем, выяснилось, что эти клетки играют жизненно важ­

ную роль в модуляции, усилении и, в случае боли, искаже­

нии сенсорных ощущений. А ведь это процессы, без кото­
рых невозможно представить себе познание и восприятие -
то есть интеллект, какого бы уровня он ни был. Глиальные
клетки, которые оказывают воздействие на то, как мозг об­
рабатывает информацию, можно назвать «супервайзерами
мозга». Их роль можно сравнить с управлением раздачей
в закусочной быстрого питания: они обеспечивают четкую
передачу информации между нейронами.
Между прочим, именно через глиальные клетки мож­
но транслировать биокодированные нейросигналы прямо
в мозг человека. В последнее время ряд серьезных учрежде­
ний, прежде всего в США, активно занимаются темой пря­
мой трансляции сигналов в мозг и, обратно, интерпрета­
цией сигналов, получаемых прямо из мозга (назовем это,
с некоторой условностью, чтением мыслей).
Интересно, что мозг Эйнштейна весил лишь 1230 грам­
мов-значительно меньше, чем средний мозг взрослого
мужчины (1400 граммов). В исследованиях утверждалось,
что кора мозга великого физика была тоньше, чем у нор­
мальных людей, следовательно, плотность нейронов боль­
ше, и связи между ними якобы возникали более устойчивые.
Более плотно упакованные нейроны передают сигналы бы­
стрее, в итоге мозг быстрее соображает.

139
 ИГОРЬ ШНУРЕНКО

Еще одно исследование мозга Эйнштейна было опубли­

ковано в 1999 году в британском медицинском журнале
«Ланцет». Британские ученые заключили, что часть мозга,
которая отвечает за математические способности и про­
странственную логику, была у великого физика на 15 про­
центов шире, чем у обычного мужчины, что якобы позволя­
ло клеткам работать более эффективно. Последовала целая
серия исследований, в которых подчеркивалось отличие от­
дельных клеток и частей мозга Эйнштейна. Ученые считали,
что они на пути к установлению «формулы гениальности»,
то есть к четкому пониманию, какие структуры мозга при­

дают тому или иному человеку выдающиеся способности.

Впрочем, нейробиолог Теренс Хайнс из университета
Пейс в Нью-Йорке подверг сомнению выводы этих исследо­
ваний. По его словам, делать выводы о том, что у Эйнштейна
было больше глиальных клеток, чем в среднем, просто не­
корректно: гений умер в возрасте 76 лет, а сравнивали его
с выборкой людей, которые покинули этот мир, когда им
было от 4 7 до 80 лет. При этом мозги выборки были све­
жими и содержались правильно сразу после смерти их вла­

дельцев, в то время как части мозга Эйнштейна содержались

где и как попало. Что касается более тонкой, чем у большин­
ства, коры головного мозга, то заключения строились лишь

на миллиметре коры Эйнштейна. Хайнс подчеркнул заин­

тересованность исследователей в хайпе и сенсационности
выводов. Кроме этого, все выводы строились лишь на одном
мозге-или на том, что оставил от него постепенно дегра­

дировавший патологоанатом - а не, скажем, на мозгах ста

гениев, которых сравнили бы с мозгами соответствующей
статистической выборки обычных людей. Да и математи­
ком, откровенно говоря, Эйштейн был хорошим, но не са­
мым блестящим. Его гений лежал в других областях знаний,
прежде всего в физике и философии, хотя обыватель, конеч­
но, не видел разницы.

140
 ДЕМОН ВНУТРИ

Лучше всех черную комедию с приключениями своего

мозга охарактеризовал сам автор теории относительно­

сти, который как-то написал на доске для студентов фразу:

«Не все, что считается, можно посчитать, и не все, что можно
посчитать, считается».

Эта странная история, в которой хайп и дилетанты иг­

рали главную роль, послужила, впрочем, одним из толчков

к разработке действительно важных и успешных подходов

в развитии искусственного интеллекта. Исследования моз­
га и теории нейросетей- на сегодняшний день магистраль­
ный путь в построении систем с искусственным разумом
для десятков тысяч ученых по всему миру.

МОЗГ VS. КОМПЬЮТЕР

Но что же такое искусственные нейросети - главный эле­

мент таких систем? Это, если абстрагироваться от биологи­
ческих аналогий, вычислительные системы взаимодейству­
ющих между собой узлов, передающих сигналы и способ­
ных решать сложные информационные задачи. Принципы
их работы в основном скопированы с биологических ней­
ронных сетей - хотя, конечно, компьютерные сети имеют
от биологических важные отличия и, в целом, развиваются
по своим собственным законам.

Чтобы понимать искусственные нейросети, нужно предста­

вить себе, как передаются нервные сигналы в биологиче­
ских организмах.

В мозгу взрослого человека находится примерно сто мил­

лиардов нейронов - столько же, сколько звезд в нашей
галактике. Нейроны - это нервные клетки с отростка­
ми, в которых организм хранит, обрабатывает и передает

141
 ИГОРЬ ШНУРЕНКО

дальше информацию. Передача сигнала происходит через

отростки-аксоны, которые могут быть очень большой дли­
ны. Например, у кальмара он может достигать трех метров
при диаметре в несколько сотен микрон - зато при опас­

ности сигнал передается практически мгновенно, и rоло­

воноr выпускает чернильное облако. На концах отростков,

прилегающих к другим нейронам или мышечной ткани,
образуются своего рода присоски - синапсы. У каждого
нейрона обычно бывает не один, а много аксонов и тыся­
чи синапсов.

Роль синапсов заключается в том, чтобы передать им­

пульс между двумя нейронами или между нейроном и мы­
шечной тканью. Обычно это происходит химическим путем,
через выброс исходным нейроном норадреналина или дру­
гого биологически активного вещества. Это вещество, на­
зываемое нейромедиатором, поступает на рецепторы клет­
ки-мишени или другого нейрона. Через короткие отрост­
ки-дендриты импульс передается в тело клетки и через нее

далее. Есть и электрическая передача импульса, которая ра­

ботает только между двумя нейронами и происходит гораз­
до быстрее химической.
Синапсы, которые аналогичны узлам в вычислительных
машинах, очень важны для определения эффективности
передачи информации. Количество синапсов, умноженное
на рабочую частоту мозга, дает его производительность.
Другая важная характеристика работы с информаци­
ей- число связей между клетками мозга или между узла­
ми вычислительной сети. Чем больше синапсов, тем боль­
ше связей, причем больше не в простой, а в квадратичной
последовательности.

Самый мощный компьютер проигрывает сравнение с моз­

гом среднего человека и даже ребенка по всем параметрам.
В мозгу 12-летнего ребенка насчитывается квадрильон

142
 ДЕМОН ВНУТРИ

синапсов, каждый из которых имеет порядка тысячи мо­

лекулярных триггеров. Триггеры - это своего рода транзи­
сторы, то есть мозг обычного мальчика работает на квин­
тильоне транзисторов (квинтильон- это 10 в 18-й степени).
Число транзисторов - наиболее общеупотребительная ха­
рактеристика, применяемая для сравнения интегрирован­

ных сетей.

Если умножить квинтильон транзисторов на частоту ра­

боты мозга в 1 килогерц, то получится производитель­
ность до 10 в 21 степени бит/с. В то же время самый мощ­
ный на 2017 год компьютерный процессор компании AMD
имеет всего 20 миллиардов транзисторов. У американского
процессора Xilinx's Everest/Versal, основанного на принципе
FPGA, 50 миллиардов транзисторов.
Все равно это примерно на 7-8 порядков меньше, чем
у ребенка. Даже при рекордной рабочей частоте процессо­
ра AMD FX-8150 примерно в 9 х 10 в 9 степени герц про­
изводительность получается где-то на три порядка мень­

ше, чем у человека. Конечно, производительность процес­

соров растет, но, как будет показано дальше, она довольно
быстро упрется в потолок, так и не достигнув показателей
даже пропитого мозга, спрятанного в поношенной череп­
ной коробке пьяного нищеброда.
В своей книге «Сингулярность близка», вышедшей
в 2006 году, отец современного техношовинизма Рей
Курцвейл предсказывает, что к 2025 году мощность су­
перкомпьютеров достигнет уровня, когда в такую машину

можно будет загрузить человеческий мозг. В обоснование

Курцвейл приводит закон Мура, согласно которому произ­
водительность вычислительных машин удваивается каждые

1,2 года. Но закон этот чисто эмпирический, скорее его мож­

но назвать наблюдением, причем период удвоения то и дело
меняется. Такие цифры хорошо смотрятся на слайдах

143
 ИГОРЬ ШНУРЕНКО

в презентации, но прогнозировать с их помощью следует

с большой осторожностью.
Загрузка мозга, по мнению Курцвейла, станет возможной
при способности компьютера производить в 10 в 19 степе­
ни флопов (то есть операций с плавающей запятой в секун­
ду). При этом сегодня этот показатель у китайского супер­
компьютера Sunway TaihuLight составляет порядка 100 пе­
тафлопов (петафлоп- это квадрильон операций, то есть 10
в 15 степени). Нужно учесть и то, что Курцвейл, очень по­
пулярный визионер и ярый сторонник быстрейшего со­
здания Сверхинтеллекта, уже много раз ошибался в своих
прогнозах.

Как видим, даже самые умные машины в целом не до­

тягивают до производительности человеческого мозга,

но ускоренному их развитию препятствует, например, про­

блема энергоэффективности ..
Человеческий мозг при всей своей невероятной мощно­
сти потребляет всего 20 ватт энергии. Китайский суперком­
пьютер Tianhe-2 с производительностью 34 петафлопа по­
требляет около 20 мегаватт энергии - то есть его энергоэф­
фективность в миллион раз ниже.
Но ведь для достижения человеческого уровня мощность
суперкомпьютеров должна вырасти на порядки - а значит,

также вырастет и энергопотребление. Уже сейчас при раз­

работке суперкомпьютеров проблема охлаждения является
важнейшей.
Подсчитано, что при производительности в 1000 петаф­
лопов- всего в 10 раз больше, чем текущий рекорд-супер­
компьютеру потребуется столько же электроэнергии, сколь­
ко сегодня потребляют все домохозяйства Сан-Франциско.
Конечно, сотни миллионов долларов, которые уйдут только
на оплату электричества, жалко, но не это главная проблема.
Непонятно, как охлаждать такую машину? Ведь компьютер
должен оставаться максимально компактным - ибо если он

144
 ДЕМОН ВНУТРИ

будет занимать большое пространство, резко ухудшится его

производительность.

Помимо проблемы энергопотребления, есть еще про­

блема шума и вопрос затрат на поддержание работы тако­
го компьютера. Эти показатели также могут сделать дости­
жение паритета с человеческим мозгом невозможным для

компьютеров, во всяком случае, созданных на кварцевой

элементной основе по архитектуре фон Неймана.
Суперкомпьютер, впрочем, может быть создан на со­
вершенно других принципах, нежели сегодня - например,

на основе явления квантовой запутанности. Работы по со­

зданию квантовых компьютеров, однако, еще находятся

на начальной стадии, и не исключено, что они станут вто­

рым «управляемым термоядом» - задачей, которая не ре­
шена в практическом смысле и спустя 60- 70 лет после мно­
гообещающего старта, положенного советскими физиками
Олегом Лаврентьевым, Игорем Таммом и другими.
Но даже если и когда такие машины смогут превзойти
нынешние - и не возникнет ли при их разработке и экс­
плуатации проблем, о которых мы сегодня не имеем
понятия?

КАК СОЗДАВАЛИ НЕЙРОНЫ

В 1943 году Уоррен МакКаллок и Уолтер Питтс опублико­

вали работу «Логическое исчисление идей, относящих­
ся к нервной активности», в которой предложили поня­
тие искусственной нейронной сети. Дональд Хебб в работе
«Организация поведения» 1949 года описал основные прин­
ципы обучения нейронов.
Искусственные нейросети - это, по сути, математические
алгоритмы, которые вначале были призваны точно моде­
лировать работу биологических нейросетей, подражая им.

145
 ИГОРЬ ШНУРЕНКО

Это напоминает момент, когда товарищ Сталин приказал

Королеву и его команде точно скопировать «Фау-2» -ракету,
которую те видели на испытаниях, куда их пригласили аме­

риканцы. Задача состояла в том, чтобы воспроизвести ра­

кеты, которые стопроцентно полетят - ибо советские офи­
церы наблюдали их в действии.
Конечно, в случае с нейросетями задача состояла не в том,
чтобы воссоздать химические процессы, происходящие
в нейронах, а в том, чтобы на языке математики описать
процессы, происходящие в нервных клетках.

Впоследствии, после того как удалось создать модель, ко­

торая довольно точно описывала работу живых нейронов,
перед сетями была поставлена та задача, ради которой они,
собственно, и создавались, а именно сделать вычисления
эффективными.
Поэтому искусственные нейросети сегодня не подражают
биологическим, а стремятся их превзойти. Ученые то и дело
заявляют, что вот-вот создадут алгоритм, чисто математи­

ческий, абстрактный, умозрительный, не имеющий отноше­

ния к живой природе, который превзойдет то, что было под­
смотрено у человека или животных. Впрочем, всегда ока­
зывается, что на следующем этапе ученым все равно надо

вернуться в область нейрофизиологии, где совершаются но­

вые открытия, и подсмотреть там очередную новинку. Так
происходит снова и снова, несмотря на то, что очередной
успех, вызванный копированием «природной Фау», вызы­
вает у некоторых исследователей головокружение и они
обещают, что с этого момента машины будут развиваться
без оглядки на натуру.
Но как и двадцать лет назад, открытия в области нейро­
наук сразу же моделируются и идут в дело. Таким образом,
нейробиология и нейрофизиология продолжают и будут
продолжать оказывать огромное влияние на разработку ис­
кусственных нейросетей.

146
 ДЕМОН ВНУТРИ

Первые описания искусственных нейронов были вектор­

ными матрицами с импульсами на входе и выходе и не­

коей передаточной функцией в промежутке. В подобной

модели нейрон реагирует на входной сигнал скачками
напряжения или разностью потенциалов между клеткой
и окружением.

Одна из первых таких моделей была предложена в 1907

французским физиологом Луи Лапиком и называлась «ин­
тегрировать и сработать». Ее можно описать так. Когда
на вход подаётся некий ток, напряжение на синапсе воз­
растает, пока не достигает некоторого значения, при кото­

ром происходит скачок напряжения на выходе. После это­

го напряжение сбрасывается до остаточного. Затем модель
копит энергию на следующее срабатывание, и алгоритм
повторяется.

Недостатком такой схемы явилось бесконечно большое

возрастание частоты срабатывания при линейном увеличе­
нии амплитуды входного тока. Поэтому ученые изменили
модель с тем, чтобы ограничить частоту срабатывания. Для
этого оно было запрещено в течение некоторого времени
после возникновения потенциала действия.
Но и эта модель оказалась несовершенной: оказалось, ал­
горитм имеет вечную память. Если модель получала некий
заряд, недостаточный для срабатывания, она сохраняла его
и накапливала до следующего срабатывания. Таким обра­
зом, на нейроне вечно сохранялось некое напряжение, что
никак не соответствовало процессам, наблюдаемым в ре­
альных синапсах.

Модель «интегрировать и сработать» избавилась от этого

недостатка через концепцию «утечки». Метод симулировал
диффузию ионов, которая происходит в синапсе, в случае,
если не выполнены определенные условия. Теперь, чтобы
сгенерировать потенциал действия, необходимо было, что­
бы значение тока на входе превысило некоторый порог.

147
 ИГОРЬ ШНУРЕНКО

В противном случае происходит утечка, аннулируя любые

изменения потенциала - то есть память «обнуляется».
С небольшими вариациями, эта модель «интегрировать
и сработать с утечками» используется для построения искус­
ственных нейросетей и по сей день. Из нее выросли экспо­
ненциальная модель «интегрировать и сработать с утечка­
ми», модель дробного порядка и модель Гальвеса-Лёкербах.
Другую модель разработали британские биологи Алан
Ходжкин и Эндрю Хаксли, которые получили за нее
Нобелевскую премию в области физиологии и медици­
ны за 1963 год. Они наблюдали за генерацией и передачей
нервных сигналов в гигантском аксоне кальмара. Этот аксон,
как уже было сказано, может достигать трех метров. Работу
спонсировал в том числе фонд Рокфеллера, который не раз
будет упомянут в этой книге.
Ходжкину и Хаксли удалось добиться редкого сочетания
уникальных биологических наблюдений и прекрасной ма­
тематики. Они сумели написать серию дифференциальных
уравнений, которые очень точно описывали графики, полу­
ченные эмпирическим путем. При этом в их распоряжении
не было компьютеров, и открытие удалось совершить, что
называется, «на кончике пера»!
Модель Ходжкина - Хаксли считается одним из важней­
ших достижений в биофизике и нейрофизиологии ХХ века,
она считается сегодня, пожалуй, главным инструментом
в описании естественных и построении искусственных ней­
росетей. Описание постоянно дополняется и совершенству­
ется - например, моделью ФитцХью-Нагумо. Есть еще та­
кие математические инструменты построения сетей, как ка­
бельная теория дендритов, компартментные модели и так
далее.

148
 ДЕМОН ВНУТРИ

ЧИСЛО ДАНБАРА И «ЭФФЕКТ БОЖЕНЫ РЫНСКИ»

На основе этих математических описаний в 2005 году была

построена первая клеточная модель. Дальнейший прогресс
шел очень быстро: в 2007 году исследователями из Лозанны
была создана математическая модель колонки неокортекса.
Неокортекс - это новая кора головного мозга, которая
располагается в верхнем слое полушарий, имеет толщину
2-4 миллиметра и отвечает за высшие нервные функции -
сенсорное восприятие, выполнение моторных команд, осо­

знанное мышление и, у людей, речь. У низших млекопита­

ющих неокортекс только намечен, а у человека составляет

основную часть коры. Как раз неокортекс Эйнштейна был

найден более тонким и более плотным, чем в среднем -
хотя эти выводы, как указывалось, и были оспорены.
Интересно, что размер неокортекса напрямую связан
с числом социальных связей, которые человек может одно­
временно поддерживать. Изучая приматов, английский ан­
трополог Роберт Данбар обратил внимание на то, как они
строят отношения с другими членами стаи. Эксперименты
Данбара вполне можно сравнить с современными реалити­
шоу типа «Дом-2», где груминг, то есть активное «построе­
ние отношений», становится частью экономики внимания
и монетизируется. Данбар установил, что число социальных
связей лежит обычно в диапазоне от 100 до 230, что, по его
оценкам, и является оптимальным размером человеческо­

го стада. Этот показатель, называемый числом Данбара, ли­

нейно зависит от размера неокортекса человека.
Чтобы не просто завести знакомство, а его развивать, мы
должны прежде всего на достаточном уровне знать и пони­

мать другого человека. Это означает, что мы должны отли­

чать его от других по определенным характеристикам: на­

пример, этот мой друг художник, открытый и добродуш­

ный, любитель хорошо поесть и выпить, а этот бывший

149
 ИГОРЬ WHYPEHKO

программист, теперь работает на таможне, любит актуаль­

ное искусство, себе на уме, но поможет в трудную минуту.
Важное значение имеют черты характера, которые вызы­
вают у нас эмоциональную оценку: если она положительная,

мы стараемся поддерживать с таким человеком отношения.

Для одних определяющим моментом является симпатичная

внешность, для других - доброта, для третьих - статус и со­
циальное положение. Такие, если друг разорился, прекра­
щают поддерживать с ним отношения. Есть сложные случаи
светских львиц, которые стремятся общаться с «высшими»,
но одновременно являются социопатами по отношению

к «низшим». Я бы назвал это «эффектом Бажены Рынски»:

такие, как она, ориентированы на то, чтобы быть как можно
ближе к вожаку стаи.
Так или иначе, поддержание социальных связей требует
постоянного мониторинга качеств людей, с которыми под­
держиваются отношения, а также внешних обстоятельств.
Все это требует очень серьезных интеллектуальных способ­
ностей, эмоционального интеллекта, о котором много пи­
шут в последнее время. В типичном неолитическом посе­
лении жило человек двести. Это и есть то количество зна­
комств, которое для нас является комфортным и сегодня.
Подсчитано, что в среднем человек нашего времени под­
держивает примерно 150 социальных связей.
Неокортекс человека и млекопитающих состоит из шести
горизонтальных слоев нейронов, каждый из которых отли­
чается типом нейронов и характером связей между ними.
Толщина каждого слоя примерно равна толщине кредит­
ной карточки. Вертикально нейроны выстроены в колон­
ки из примерно 80 штук, которые и являются основным
структурным объединением нервных клеток. Они, в свою
очередь, объединяются в гиперколонки из 50-100 мини­
колонок. В июле 2011 года была математически смодели­
рована первая гиперколонка, состоящая из 100 колонок

150
 ДЕМОН ВНУТРИ

неокортекса. В процессе симулировалось поведение уже

миллиона клеток.

Надо сказать, что в функции нейрона заложена также па­

мять, поэтому он может отслеживать причинно-следствен­

ные связи. По мере иерархического объединения нейронов

в колонки, эти связи закрепляются на все более высоком
уровне. Черепные швы разграничивают разные доли нео­
кортекса, которые выполняют разные функции. Так, заты­
лочная доля отвечает за зрение, височная- за слух, лобная
доля - за сложную обработку языка, другие области нео­
кортекса - за прочие процессы познания. При этом, в том,
что касается обработки информации в коре, разные органы
чувств работают в принципе по одному алгоритму.

ПРОЕКТ «ГОЛУБОЙ МОЗГ»

В 2005 году Швейцарский Федеральный Технический

Институт Лозанны совместно с компанией IВМ начали ра­
боту по компьютерному моделированию головного мозга
человека как единого целого. Проект называется Blue Brain
Project («Проект Голубой мозг»). Завершить работу планиру­
ется в 2023 году, хотя о перспективах «искусственного разу­
ма» или «искусственного сознания» руководители проекта

высказываются очень осторожно, в том духе, что если в ре­

зультате достижения некой критической массы взаимодей­

ствий что-то похожее на сознание появится, только тогда
можно будет об этом и говорить.
В ноябре 2007 года было объявлено о завершении первой
фазы проекта. Исключительно по биологическим данным
исследователям удалось построить модель основной струк­
турной единицы неокортекса- колонки. Это было сдела­
но на клеточном уровне, то есть в колонке были смодели­
рованы все 10 тысяч нервных клеток. Кроме того, ученые

151
 ИГОРЬ ШНУРЕНКО

разработали модель сеточной структуры, которая сама ге­

нерирует нейросеть по предоставленным биологическим
данным и автоматически себя калибрует, когда эти данные
меняются.

К 2014 году в ходе проекта планировалось получить пол­

ную модель крысиного мозга, состоящего уже из ста мил­

лионов клеток. Удалось этого достичь или нет, пока неясно,

ибо данные до сих пор не опубликованы. По числу клеток
человеческий мозг примерно в тысячу раз больше крыси­
ного, но задача построения его модели представляется не­

вероятно сложной: ведь с ростом числа клеток число связей

между ними растет не в разы, а в квадратичной пропорции.
Так или иначе, в ходе работы в 2015 году исследовате­
ли смогли смоделировать энергетический обмен в мозгу.
В ходе него были задействованы так называемые нейро­
глиальные васкулярные модули - то есть связи, в которых

участвуют глиальные клетки. Именно о них шла речь в слу­

чае с мозгом Эйншейна.
В масштабной задаче описать мозг человека пробуют­
ся и нестандартные методы. Например, такие, как игра
EyeWire, созданная учёными из МIТ. В ней человек может
попробовать себя в роли искусственного интеллекта, вруч­
ную (точнее, с помощью глаз и пальцев) устанавливая пра­
вильные связи между нейронами. На деле в ходе игры че­
ловек обучает специализированный ИИ, который должен
создать карту связей нейронов сетчатки глаза мышонка
по имени Гарольд.
EyeWire использует изображения, полученные с помощью
растрового электронного микроскопа в Институте медицин­
ских исследований общества Макса Планка в Гейдельберге.
Карта сетчатки состоит из множества «кубов» - нейронов,
каждый из которых должны обработать несколько игроков.
Их задача - не ошибиться. Затем компьютер сравнивает ре­
шения, определяет, какое из них верное, и присуждает очки.

152
 ДЕМОН ВНУТРИ

Долгосрочная цель проекта- на полученном массиве дан­

ных натренировать ИИ с тем, чтобы он мог по обработан­
ным таким образом изображениям составить карту челове­
ческого мозга.

Мы видим, что одно дело - смоделировать отдельный

нейрон, и совсем другое, на много порядков сложнее - по­
нять, как нейроны работают вместе. Логично было бы ожи­
дать, что ученые сначала толком разберутся в работе мозга,
всех его гиперколонок, слоев новой коры, установят, куда
и зачем идет каждый аксон, зачем нужен каждый синапс -
и лишь потом займутся собиранием из получившихся эле­
ментов лего, по понятным чертежам, искусственного разу­

ма. Так, скорее всего, поступил бы сам искусственный ра­

зум - хотя возможно, напротив, он бы как раз применил
человеческую стратегию, то есть параллельно бы работал
и над исследованиями мозга, и над созданием и обучением
умных машин. Ведь даже в суперкомпьютерах последнего
времени процессоры работают параллельно.
Можно ли говорить о какой-то стратегии в достаточно
хаотическом человеческом поведении, даже коллектив­

ном? Исследователи мозга и специалисты-компьютерщи­

ки часто даже не подозревают о существовании друг друга,

не то что координируют свою работу. Это было справедливо

и 50 лет назад, тем более это верно сейчас, когда тот же уче­
ный-нейрофизиолог чисто физически не в состоянии пере­
варить вал публикаций в своей отрасли! В лучшем случае он
может пролистывать дайджесты, подготовленные для него
компьютером. Однако наблюдается поразительная вещь:
все выглядит так, словно коллективный разум действитель­
но создал и воплотил в жизнь стратегию по созданию искус­

ственного интеллекта.

С одной стороны, исследовался мозг, с другой - разви­

вались вычислительные машины и информационные тех­
нологии. Одно без другого не сработало бы! Современный

153
 ИГОРЬ ШНУРЕНКО

уровень развития ИИ не был бы достигнут, если бы ученые

из разных наук, ничего не зная друг о друге, не продолжа­

ли бы развивать каждый свою область. Поистине, в коллек­

тивном разуме человечества есть что-то мистическое!
Итак, пока одни ученые все более углубленно исследова­
ли мозг человека и других живых существ, другие создавали

математические алгоритмы, которые могли бы воспроиз­

вести работу живых организмов - в первую очередь мозга,
но не только. Успехи тех и других и привели к созданию со­
временных нейросетей. Надо сказать, нейросети - далеко
не единственный подход к созданию искусственного интел­
лекта, но об этом поговорим позже.
Что делает нейросеть? Каждый, кто сталкивался с функ­
цией «капча» (captcha), понимает, что такое распознавание
автомобилей на картинках. Компьютер заставляет вас от­
мечать галочкой картинки с автомобилями до тех пор, пока
не признает вас человеком - а если вы откажетесь, система

не пустит вас в интернет. Точно такая же задача стоит перед

обучаемой нейросетью: она должна, например, распозна­
вать транспортные средства и классифицировать их: вот это
автомобиль, это велосипед, мотоцикл и так далее. На входе -
изображение с машиной или без нее, на выходе-допустим,
список объектов, или сигнал к следующему действию в ло­
гической цепочке. Например, распознать цифры на номер­
ном знаке автомобиля и, если этот номер находится в спис­
ке «своих», открыть перед ним шлагбаум.
Как они это делают?

ИДИШ И НЕЙРОСЕТИ

Первая и простейшая искусственная нейросеть в мире по­

явилась в 1960 году. Это был компьютер «Марк-1», разра­
ботанный в Корнелльском университете на основе идеи

154
 ДЕМОН ВНУТРИ

перцептрона, предложенной американским нейрофизиоло­

гом Фрэнком Розенблаттом. Отца его, который родился ма­
леньком местечке в Хмельницкой области Украины, звали
Франц Фердинанд Розенблатт. Франц превратился в Фрэнка,
как только приехал в Америку, и стал там активным деяте­
лем еврейской диаспоры, директором фонда помощи ев­
реям, пострадавшим от гражданской войны в России и не­
устанным редактором многочисленных социалистических

изданий на идиш.
Евреи-идеалисты, переехавшие в Америку, хотели
во что бы то ни стало сохранить идиш - язык, на котором
в начале ХХ говорило ни много ни мало одиннадцать мил­
лионов человек. После Второй мировой евреи решили за­
быть идиш, как язык гетто, заменив его ивритом, в котором
они видели возрождение сильной державы. Однако именно
на языке гетто были написаны сотни глубоких книг на темы
от кулинарии до футуризма. После удара, нанесенного холо­
костом, коллективный разум восточноевропейского еврей­
ства в очень короткий срок «разучился» говорить на идиш
и «выучил» мертвый язык, веками используемый лишь для
богослужений. Тем не менее, до сих пор встречаются энту­
зиасты, изучающие идиш, хотя он давно перестал быть раз­
говорным. Любопытная параллель между искусственным
и коллективным интеллектом в части освоения нового язы­

ка может стать предметом особого исследования, но инте­

ресно, что машинное обучение делало первые шаги именно
в годы коллективного «забывания» идиш, а у истоков новой
отрасли науки стоял человек, воспитанный в семье энтузиа -
став забываемого языка.
Каким образом зрительная информация расшифровы­
вается мозгом и преобразуется в физиологический ответ?
Отвечая на этот вопрос, Фрэнк Розенблатт развил идеи
Дональда Хебба, который в 1949 году описал основные
принципы обучения нейронов.

155
 ИГОРЬ ШНУРЕНКО

Кстати, Фрэнк Розенблатт учился в Принстоне именно

в то время, когда там преподавал живой Эйнштейн с еще
не разрезанным на 240 частей мозгом. Это было время кол­
лективного мозгового штурма во многих областях науки,
и Принстон, в котором Эйнштейн прожил 20 лет, был тем
местом, где это происходило наиболее активно.
Розенблатт предложил схему устройства, моделирующе­
го процесс человеческого восприятия. Это так называемый
«перцептрон», который состоит из трех слоев элементов, си­
мулирующих нейроны.
Первый слой - вход, туда поступают сигналы. Например,
это сенсорное поле фотоэлементов. Элементы этого слоя
связаны случайным образом с элементами второго слоя,
а те - с элементами третьего слоя, то есть с выходом.

Перцептрон обучается, после чего готов работать в режи­

ме распознавания и обобщения. Допустим, перцептрону,
прошедшему обучение, предъявляются ранее неизвестные
ему объекты, и он должен установить, к какому классу они
принадлежат.

Работа перцептрона состоит в следующем: при появле­

нии объекта сенсорные элементы первого слоя возбужда­
ются. Это означает, что они выдают сигнал «единица», если
поступивший на них импульс превосходит пороговое значе­
ние. Затем они передают сигнал на элементы второго слоя
(ассоциативные), которым в процессе обучения присво­
ен определенный вес. Каждый из ассоциативных элемен­
тов суммирует сигналы, умножает их на свой вес, и если эта
сумма превосходит определенный предел, выдает импульс
«единицу».

Если сумма пришедших сигналов меньше порога, то эле­

мент выдает ноль. Сигнал от этого элемента второго слоя
приходит на третий слой, где также стоят чувствительные
элементы. Они называются реагирующими. Каждый из этих
элементов выдает «единицу», если сумма пришедших

156
 ДЕМОН ВНУТРИ

на него сигналов является положительной. На выходе полу­

чаем классификацию, то есть, допустим, определение того,
автомобиль это или нет.
Примерно таков, в грубой форме, принцип работы пер­
вой нейросети. Сегодня такие простейшие алгоритмы от­
носятся к сетям с одним скрытым слоем, с пороговой пере­
даточной функцией и прямым распространением сигнала.
Конечно, со времени «Марка-1» сети невероятно усложни­
лись в сравнении с описанной выше. В них теперь много
скрытых слоев, появились обратные связи и так далее.
Ассоциативные слои нужны для усложнения логики.
Например, в распознавании картинок могут последователь­
но выделяться изгибы, края, определенное сочетание точе­
чек и так далее, - пока обученная нейросеть не установит,
нужное это изображение или нет.
Допустим, перед нами некий предмет и мы хотим рас­
познать, девушка это или нет. Если грубо обобщать, пер­
вый ассоциативный слой признает у предмета губы, вто­
рой - грудь, третий - волосы, четвертый - глаза и так далее.
Следующие слои устанавливают более высокие уровни обоб­
щения. Допустим, если у нас есть губы, два глаза, нос и овал
головы, то видимо, перед нами лицо. Прибавим грудь: ви­
димо, это девушка. Таким образом, получается конечный
ответ. При этом надо отметить, что нейросети уже давно
перешагнули уровень, когда оценка осуществлялась мето­

дом перебора. В самом деле, простейшее изображение бу­

дет иметь 50 тысяч пикселей - то есть при его распознава­
нии на элементы первого слоя поступит 50 тысяч сигналов,
а число их возможных соединений с элементами второго
слоя будет исчисляться уже в миллиардах. Каждому из них
нужно присвоить в ходе обучения вес, так что процесс ри­
скует сильно затянуться.

Проблема с переборными алгоритмами стала очевидной

еще в ходе тренировки ИИ для игры с человеком в шахматы.

157
 ИГОРЬ ШНУРЕНКО

Вообще, шахматы стали тем оселком, на котором пробо­

вались разные подходы в машинном обучении, разработке
экспертных систем и искусственного разума. И хотя «шах­
матный этап» развития ИИ считается пройденным 20 лет
назад, именно на этой древнейшей игре оттачивались ал­
горитмы и защищались научные диссертации, и имен­

но шахматы привели к прорыву, после которого создание

Сверхразума внезапно стало выглядеть достижимым.

СВЕРХРАЗУМ (НЕ) ИГРАЕТ В ПОДКИДНОГО ДУРАКА

«Шахматы - это дрозофила искусственного интел­

лекта», - утверждал советский математик Александр
Семёнович Кронрод, проводя аналогию между кибернети­
кой и генетикой. Действительно, ученые полюбили муш­
ку-дрозофилу как очень удобный объект для исследова­
ний наследственности. Муха была маленькая, плодовитая
и неприхотливая - но что общего она имела с шахматами?
Дело в том, что эта древнейшая игра с ее простыми и чет­
кими правилами, простая по структуре и компактная, была
идеальным полем деятельности для тех, кто работал над
задачами оптимизации перебора, распознавания образов,
логикой программирования и экспертными системами.
Генетики любили дрозофилу примерно по тем же причи­
нам: простая, функциональная, и размножается так быстро,
что результат опытов виден сразу же.

Мало кто слышал об Александре Кронроде, между тем его

вполне можно назвать основоположником как компьютер­

ных шахмат, так и всего направления искусственного интел­

лекта в советской кибернетике.

Москвич из практически уничтоженного Великой
Отечественной войной поколения родившихся в начале
1920-х, он еще первокурсником МГУ публикует серьезную

158
 ДЕМОН ВНуТРИ

математическую работу, копает траншеи в составе ополче­

ния, добивается отправки на фронт, и в наступлении под
Москвой, в самые критические для страны дни, показывает
себя героем, получает ранение и орден. После войны про­
должает работать над математической проблемой, кото­
рой занимался еще первокурсником, и блестяще защищает
по этой теме кандидатскую диссертацию.
Возглавляя секретную лабораторию в Институте теоре­
тической и экспериментальной физики (ИТЭФ), где шла
работа по созданию атомного оружия, Кронрод награжда­
ется Сталинской премией и орденом Красного Знамени.
Можно подумать, что впереди его ждет блестящая карье­
ра - но за независимые взгляды и острый ум его начинают
считать неблагонадежным, что не раз приводит к серьез­
ным конфликтам с начальством. До войны Кронроду, впол­
не вероятно, дали бы карт-бланш и все возможные ресурсы
на достижение самых фантастических целей, но времена
изменились.

Московские высотки-ракеты и живой улыбающийся

Гагарин еще напоминали об эпохе великих свершений, но,
в сущности, она была позади, и повторение 30-х, когда про­
винциальный школьный учитель Константин Циолковский
мог запросто стать властителем умов и получить государ­

ственную подцержку, было уже немыслимо. Ткань советско­

го общества потихоньку распадалась, коллективный разум
советской науки стал работать вхолостую, разбредаться кто
в лес кто по дрова, и потихоньку затягиваться ряской.
В 50-е годы Кронрод работает в институте у Курчатова,
знакомится там с инженером Николаем Ивановичем
Бессоновым, и вместе с ним создает РВМ-1 - релейную
вычислительную машину. Машину установили в усадь­
бе «Черемушки», где располагается Курчатовский инсти­
тут, на первом этаже флигеля «Гостевой дом». Работала
она в двоичном исчислении, с представлением числа

159
 ИГОРЬ ШНУРЕНКО

в плавающей форме, содержала 5500 реле и совершала бо­

лее 20 операций в секунду. В 1965 году машину демонти­
ровали, а стоило бы, конечно, сохранить этот уникальный
советский компьютер. Например, более простая финская
машина под названием Reflac (Reflex Aritmetics Computer),
разработанная в те же годы, давно вышла на заслуженную
пенсию и стоит сейчас в музее Технологического универси­
тета в Хельсинки.
В 60-е годы Александр Семёнович работает преподавате­
лем в школе и ведет в МГУ математический кружок, в кото­
ром занимались многие впоследствии знаменитые матема­

тики. Один из первых советских программистов, Кронрод

получил возможность работать на вычислительных ма­
шинах ЭВМ М-2, а затем М-20. Две такие машины находи­
лись в распоряжении института и обсчитывали результа­
ты опытов на ускорителе элементарных частиц. Кронрод
и Бессонов постоянно их совершенствовали и достигали
на них лучших результатов, чем ученые ЦЕРН (Европейской
организации по ядерным исследованиям), в распоряжении
которых в Женеве были намного более мощные машины.
Первые компьютеры понимали только машинный код,
программные языки существовали только в зародыше -
хотя Александр Семенович одним из первых стал разраба­
тывать такие языки и даже написал в те годы книгу «Беседы
о программировании». К сожалению, работа его не была то­
гда оценена по достоинству и книжка эта вышла с пятиде­

сятилетним опозданием, лишь в 2013 году!

Кронрод был энтузиастом кибернетики и считал, что ма­
шину можно научить думать. Он был одним из пионеров эв­
ристического программирования - то есть попытки разбить
процесс человеческого мышления на алгоритмы и воспро­

извести их. Александр Семенович с сотрудниками решили

научить машину играть в подкидного дурака - и написали

соответствующую программу. Примерно в то время, когда

160
 ДЕМОН ВНУТРИ

происходит действие фильма «Покровские ворота», в ста­

рой дворянской усадьбе на юго-западе Москвы матема­
тики резались с тогдашним «суперкомпьютером» в карты.

Программа, как вспоминали потом ученые, играла доволь­

но сильно и часто выигрывала, но в принципе ей не хватало
вычислительной мощности.
Через некоторое время Кронрод решил применить полу­
ченные подходы для решения других задач. Наиболее оче­
видной тогда считалась цель построить машину, способную
играть в шахматы не хуже человека. В 1963 году в той же
лаборатории ИТЭФ Александр Семенович начинает рабо­
ту над первой советской шахматной программой, которая
была создана три года спустя.
В 196 7 году проходит «баттл» этой программы и програм­
мы Стэндфордского университета, созданной другим осно­
воположником исследования искусственного интеллекта

Джоном Маккарти. Ученые пересылали ходы телеграфом

раз в неделю, матч, таким образом, продолжался целый год.
Русские победили со счетом 3:1; по оценкам шахматистов,
программа играла на уровне третьего разряда.

Именно эта программа впоследствии была передана

в руки ученых из Института Управления АН СССР, получи­
ла там название «Каисса», а в 1974 году в Стокгольме на пер­
вом чемпионате мира среди компьютерных программ вы­

играла все партии и стала победителем.

В Соединенных Штатах и Великобритании работа над
компьютерными шахматами велась весьма активно.

Пионером и здесь был Алан Тьюринг. В 1951 году он напи­

сал алгоритм, с помощью которого машина могла бы играть
в шахматы. Впрочем, возможностей соорудить механизм
у него не было, так что за машину играл он сам. В отли­
чие от «Механического турка», игра была честной: Тьюринг
не жульничал, а ходил так, как получалось по програм­

ме. «Бумажная машина Тьюринга», как назвали алгоритм,

161
 ИГОРЬ ШНУРЕНКО

играла медленно: каждый ход отнимал у изобретателя пол­

часа. При этом результат не впечатлял: «бумажная маши­
на» проигрывала даже довольно слабым игрокам. Когда про­
грамма на 23-м ходу обыграла девушку, которую только что
научили переставлять фигуры, Тьюринг ликовал. Впрочем,
денег на компьютер у него не было, так что работа не полу­
чила продолжения, к тому же вскоре Тьюринг был аресто­
ван за гомосексуализм, подвергнут химической кастрации,
а через два года покончил с собой.
Как и в СССР того периода, в США перспективные разра­
ботки кучковались вокруг физиков-атомщиков. В 1952 году
в ядерном центре Лос-Аламоса в невадской пустыне на ком­
пьютере Maniac была впервые запущена шахматная про­
грамма. Правда, игру, в которую играла программа, шах­
матами можно было назвать с натяжкой: она проходила
на доске бхб без участия слонов. Несмотря на продвинутую
технику, работавшую с частотой аж 11 килогерц, партия шла
немногим быстрее, чем у Тьюринга, и через 10 часов ком­
пьютер получил от человека шах и мат.

Через пять лет появилась первая программа для игры

на обычной шахматной доске при участии всех фигур,
и ученые приступили всерьез к решению главной пробле­
мы: как уйти от «комбинаторного взрыва» при просчёте ва­
риантов вперёд на несколько ходов? Ведь машина работа­
ла, если смотреть из сегодняшнего дня, весьма примитивно:

просто перебирала все возможные варианты.

Тот самый Джон Маккарти, который возглавлял коман­
ду лузеров-программистов Стэнфорда в их шахматном
батле с московским ИТЭФ, еще в 1956 году предложил ал­
горитм отсечения от дерева поиска проигрышных вари­

антов. Конечным позициям присваивался оценочный вес,

и если вес на отростке был меньше, чем на том месте дере­
ва, откуда вырос этот отросток, то он безжалостно удалялся.
Впоследствии это назвали методом «альфа-бета-отсечения».

162
 ДЕМОН ВНУТРИ

Алгоритм был предложен Маккарти на знаменитом

Дартмутском семинаре. Именно там, под эгидой платив­
шего за летний ретрит фонда Рокфеллера, именитые фи­
зики и математики из США и Великобритании предприня­
ли двухмесячный мозговой штурм, который, как считается,
и послужил началом широкого фронта работ по созданию
ИИ. Кстати, именно Джон Маккарти, сын литовской еврейки
и ирландца-профсоюзного активиста, и стал тем человеком,
который первым ввел в оборот выражение «искусственный
интеллект» - за год до семинара, в 1955 году. Ему было то­
гда 27 лет, и он, как и Фрэнк Розенблатт, учился и защищал
докторскую диссертацию по математике в Принстоне, где,
напомним, все еще прогуливался Альберт Эйнштейн с целе­
хоньким мозгом.

В 28 лет Маккарти придумал язык программирования

ЛИСП, а в 34 предположил, что в будущем компьютерные
мощности могут продаваться как ресурс, подобно воде
и электричеству- фактически предвосхитив облачные тех­
нологии за полвека до их появления. Именно в облаке бол­
тается текст рукописи книги, над который я работаю в мо­
мент написания этих строк.

Разработанные Кронродом, Маккарти и другими методы

поиска по шахматному дереву с альфа-бета-отсечениями
применялись вплоть до победы компьютера Deep Blue над
Гарри Каспаровым.
Около десяти лет компания IВМ оттачивала навыки ком­
пьютера для финального сражения с человеком. Сначала
они собрали команду первоклассных и жаждущих призна -
ния программистов, только что закончивших университет.

Среди них можно выделить Томаса Анансарамана, Мюррея

Кэмпбелла и Фэн Сюн Сю, который разработал для IВМ спе­
циализированный шахматный микропроцессор, целиком
поместившийся на одном кристалле кремния. На основе
этого процессора и была создана машина Deep Blue.

163
 ИГОРЬ ШНУРЕНКО

В 1994 году тогдашний чемпион Гарри Каспаров потерпел

первое поражение от машины, проиграв программе Fritz
3 в блиц-турнире в Мюнхене. Тогда программа выиграла
сразу у нескольких мастеров: Вишванатана Ананда, Бориса
Гельфанда и Владимира Крамника, а гроссмейстеру Роберту
Хюбнеру, который отказался играть с машиной, было за­
считано поражение. Полномасштабный матч с «Фрицем»
Каспаров, впрочем, выиграл, хотя и согласился на две ни­
чьи из общего числа в шесть партий.
Через два года Каспаров победил и Deep Blue, хотя в этом
матче он проиграл первую партию. Алгоритм Deep Blue ра­
ботал на200 процессорах и каждые три минуты оценивал
50 миллиардов позиций. Каспаров за то же самое время мог
просчитать лишь десять.

После поражения от чемпиона мира команда Deep Blue

усилила компьютер, но не какими-то продвинутыми алго­

ритмами, а исключительно за счет вычислительных мощ­

ностей. Процессоров поставили не 200, а 480, модель назва­

ли Deep Blue 11 - и она выиграла матч у Гарри Каспарова
со счётом 3½: 2½. Возможность отыграться человеку
не дали - после достижения результата компания IВМ по­
теряла интерес к подобным матчам. Ее целью, помимо со­
ображений престижа, было серьезно продвинуться в разра­
ботке технологий искусственного интеллекта, однако еще
задолго до победы Deep Blue специалистам стало ясно, что
они на пути в тупик.

Игра в компьютерные шахматы не так сильно, как хо­

телось бы, приблизила ученых к созданию мыслящих ма­
шин: ведь оказалось, что выиграть у человека в шахматы

можно, по сути, методом простого перебора вариантов.

Возможности вычислительной техники к концу 1990-х го­
дов уже позволяли сотням процессоров суперкомпьюте­

ров, которые работали параллельно, совершать миллиар­

ды операций в секунду. Этой мощи оказалось достаточно,

164
 ДЕМОН ВНУТРИ

чтобы превзойти человеческий мозг, при этом сам алго­

ритм был довольно примитивен. К тому же игра была не­
равной и в другом отношении: на стороне машины стоял
коллективный разум всего человечества. Ведь в базе дан­
ных суперкомпьютера находились десятки тысяч готовых

вариантов эндшпилей и дебютов, точные записи тысяч пар­

тий выдающихся шахматистов, этюды из шахматных жур­
налов - иными словами, кристаллизованное знание чело­

вечества за многие десятилетия. Компьютеру не пришлось

самому решать все эти задачи-люди в гигантском коллек­

тивном усилии позаботились об этом, и весь человеческий

опыт был поставлен на службу машине, против которой иг­
рал один-единственный, пусть и весьма талантливый чело­
век. Вычислительные мощности, по сути, решали все: если
в 60-е годы машина играла на уровне рядового шахмати­
ста, то через 30 лет развития компьютерной техники чисто
механически она уже вышла на гроссмейстерский уровень.
Впрочем, даже неплохо, что большие технологические
компании потеряли интерес к шахматам: в итоге эта игра

вернулась к людям. Роль же дрозофилы, на которой отраба­

тывались новые подходы к созданию искусственного интел­

лекта, перешла к го.

В этой древней китайской игре число вариантов было

на порядки большим, чем в шахматах, поэтому принцип
перебора, даже с усечением древа, не годился, и волей-не­
волей ученые должны были придумать более продвинутый
алгоритм. Как и в шахматах 30 лет назад, выигрыш машины
над человеком казался недостижимым. Понадобилось 20 лет,
чтобы компьютер смог покорить и эту вершину.

165
 ИГОРЬ ШНУРЕНКО

ЗАВЕЩАНИЕ «ПАЦИЕНТА 144»

Это было бы невозможно без работ американского ученого

Марвина Ли Минского, который в 1959 году на пару с упо­
мянутым выше Джоном Маккарти основал лабораторию ин­
форматики и искусственного интеллекта в Массачусетском
технологическом институте. Минский был ровесником
Маккарти - оба были на шесть лет младше своего москов­
ского коллеги Александра Кронрода, но в принципе относи­
лись к тому же поколению.

Минский и Маккарти были аспирантами в Принстоне

в ту пору, когда там преподавал Альберт Эйнштейн, оба за­
щитили там докторскую диссертацию. В который раз след
Эйнштейна находится в научной области, к которой фор­
мально он вроде бы не причастен! Впрочем, так ли непри­
частен, мы еще посмотрим - позднее!
Да и у Кронрода в учителях были имена первой величи­
ны: Игорь Курчатов, Лев Ландау, Мстислав Келдыш, Андрей
Колмогоров: цвет советской физики и математики. Каждого
крупного исследователя искусственного интеллекта труд­

но описать одним или двумя словами, даже когда речь идет

о статье в Википедии.
Кто был этот Минский? Математик, физик, инженер-изо­
бретатель, психолог, биолог? Всего понемножку- но нель­
зя сказать, что он был недоматематиком, недобиологом
или недопсихологом. Коллективный научный разум во вто­
рой половине ХХ века привел к таким достижениям, что
стало понятным: будущее лежит на пересечении интере­
сов, на стыке дисциплин. Не случайно Минский, ставший
одним из классиков ИИ, защитил две диссертации - одну
в Гарварде, другую в Принстоне.
При этом, конечно, общая картинка взаимодействия
разных наук не так проста как кажется, если взглянуть

на список факультетов и кафедр какого-нибудь крупного

166
 ДЕМОН ВНУТРИ

университета. Например, Московского. Там все выглядит

упорядоченным и правильным, кафедра математическо­
го анализа выглядит подобной кафедре государственного
аудита или кафедре общей психологии - но в реальности
предметы эти имеют разную природу, рождаются и умира­

ют, вовсе не повинуясь бюрократически-административно­

му драйву на их сохранение и размножение.
С точки зрения методов познания эти науки совершен­
но неравны, и дело не только в точности одних наук и при­

близительности других. Действительно, физические про­

цессы со времен Архимеда описывались все более общи­
ми концепциями. Ньютон свел объяснение всего движения
к трем законам, Эйнштейн - вообще к паре основных фор­
мул. Психологи мечтали бы заполучить свое «Е равно mc
квадрат» или хотя бы собственные «законы тяготения»,
но у них пока никак не выходит.

Сто лет назад Зигмунд Фрейд предложил свою концеп­

цию психоанализа, которая была принята на ура, особенно
в Соединенных Штатах. С тех пор тысячи психоаналитиков
по всему миру пытались свести все сложнейшие душевные
процессы к эдипову комплексу, но попытка привнести точ­

ность физики в психологию не сработала. Сегодня точности

в понимании человека ждут от нейропсихологии, но все «че­
ловеческие» науки по-прежнему остаются достаточно опи­

сательными и условными. На эти условности влияет и исто­

рия создания отраслей психологии, на которых наложили
отпечаток сильные индивидуальности их основателей, лич­
ностей, с которыми приходится считаться и долгое время
после смерти.

Теперь представьте себе ученого, который совмеща­

ет в своем мозгу- человеческом, не искусственном! - не­
сколько таких наук, несколько непересекающихся набо­
ров аксиом, несколько блоков совершенно разных принци­
пов и несколько баз данных - и, оперируя ими, умудряется

167
 ИГОРЬ ШНУРЕНКО

достигать внятных результатов, а порой и поразитель­

ных открытий. В самих таких достижениях скрывается ка­
кая-то потрясающая тайна человеческого сознания!
В начале книги упоминался австриец Курт Гёдель, кото­
рый показал, что из одного-то набора аксиом далеко не все
докажешь, а тут несколько наук, несколько систем одновре­

менно! Это как если бы человек играл одновременно в хок­

кей, футбол, теннис, шахматы и Counterstrike, и не только
достигал бы во всех этих играх превосходных результатов,
но и создал бы синтетическую игру, где элементы каждой
из этих игр соединились бы во что-то логически цельное.
Таков был Минский и другие исследователи искусствен­
ного интеллекта, наука о котором, конечно же, есть сфера
приложения коллективного разума ученых. Вернемся к заре
кибернетики, к первой экспедиции глобального коллектив­
ного разума на ту непознанную территорию, которая сего­

дня уже выглядит заселенной.

В 1951 году Минский конструирует первую самообучаю­
щуюся машину SNARC. Она имитировала сорок нейронов,
объединенных случайным образом в простейшую нейро­
сеть. Перед сетью ставились задачи, и в случае правильного
выполнения их нейроны «вознаграждались». Так Минский
обучал свою машину решать задачи.
В написанной совместно с Сеймуром Пейпертом книге
«Персептроны» он подверг критике господствовавший то­
гда подход к созданию нейронных сетей. Авторы показа­
ли, что увеличение размера персептрона не повлияет на его

способность решать более сложные задачи, и даже услож­

нение архитектуры персептронов не улучшит его работу.
Кстати, критика персептронов связана с теоремами непол­
ноты Гёделя и парадоксом Моравека. Напоминаю: маши­
на решает сложные проблемы, к которым человек не знает,
как и подступиться, зато оказывается бессильна выполнить
примитивные задачи, подвластные ребенку.

168
 ДЕМОН ВНУТРИ

Книга Минского и Пейперта была опубликована

в 1969 году и практически сразу была переведена на рус­
ский язык издательством «Мир». Для многих исследова­
телей, а особенно для администраторов государственных
и частных фондов, спонсирующих разработки, выводы
Минского оказались холодным душем. Во многом поэтому
интерес к искусственным нейронным сетям в 1970-е годы
резко упал, и в разработках искусственного интеллекта на­
ступила так называемая «зима».

Бюджетные деньги в США стали вкладываться в кон­

курирующий подход, опирающийся на символьное пред­
ставление логических задач и экспертные системы. В рам­
ках этой парадигмы программисты разрабатывали некие
правила работы высокоуровневых систем представления
данных. Считалось, что, пользуясь формальной логикой,
можно создать синтаксис машинного языка, который по­
зволит искусственному интеллекту решать задачи, сравни­

мые с теми, что решает человек. Однако на практике си­

стемы, основанные на этом принципе, плохо справлялись

со сложными адаптивными задачами. Как бы то ни было,

вплоть до конца 1980-х этот подход к созданию искус­
ственного интеллекта стал господствующим не только

в США, но и в СССР. Так решили администраторы, кото­

рые не допускали самодеятельности: ведь наука в ведущих

странах мира стала централизованным объектом управ­

ления. На разработку экспертных систем направлялись
все ресурсы, а оппоненты подхода считались чудаками

и маргиналами.

Впрочем, сам Минский в своей Лаборатории искусствен­

ного интеллекта Массачусетского технологического универ­
ситета продолжал упорную работу, с его мнением админи­
страторы науки считались. Разработанная им в 1962 году
версия универсальной машины Тьюринга оставалась непре­
взойденной в течение 40 лет. В начале 70-х годов Минский

169
 ИГОРЬ ШНУРЕНКО

и Пейперт занимались созданием машины, которая бы мог­

ла играть в кубики с помощью робота-руки, видеокамеры
и компьютера.

В ходе процесса они придумали теорию «Общества

Разума». Она основывалась на точке зрения, что для созда­
ния искусственного интеллекта вовсе не обязательно ими­
тировать процессы в человеческом мозгу и, скажем, созда­

вать для этого нейросети. Минский считал, что можно идти

по пути создания генетических алгоритмов или приме­

нения статистических методов. То, что мы называем ин­

теллектом, может быть продуктом взаимодействия не об­
ладающих интеллектом составляющих, считал Минский.
Примерно такой ИИ - Хал 9000 - появляется в фильме
Стенли Кубрика по роману Артура Кларка «Космическая
одиссея 2001 года». Минский был научным консультантом
этой ленты и даже чуть не погиб на съемках. Одного из геро­
ев фильма зовут Виктор Каминский, в нем, безусловно, уга­
дывается Марвин Минский, а в романе Кларка, по которому
снят фильм, Минский упоминается напрямую.
Об этом ученом рассказывают следующую реальную ис­
торию, похожую на дзенский коан.
Однажды он зашел в лабораторию и застал ученика в мо­
мент отладки программы.

- Что ты делаешь?- спросил Минский.

- Обучаю случайно связанную нейросеть играть в крести-
ки-нолики, - ответил ученик.

- А почему случайно связанную?- спросил Минский.

- Не хочу, чтобы у неё было заложенное заранее мнение
о том, как играть, - сказал ученик.

Минский закрыл глаза.

- Зачем ты закрыл глаза? - спросил ученик учителя.
- Чтобы комната стала пустой, - ответил Минский.
«На самом деле, - писал потом Минский, - я имел
в виду следующее: если нейросеть случайно связана, это

170
 ДЕМОН ВНУТРИ

не избавляет ее от заранее составленного мнения о том, как

играть, просто вам оно будет неизвестно».
Именно так ведет себя бортовой компьютер звездного
корабля из «Космической одиссеи»: до поры до времени он
выполняет приказы людей, утаивая свои намерения. Однако,
когда это становится ему необходимо, то перестает скры­
вать, что действует по собственной логике.
Кларк, написавший роман в 1960-е, попытался показать,
каким образом в начале 2000-х может появится искусствен­
ный разум, подобный Халу. Вот это место в книге:
«В 80-е годы Минский и Гуд показали, как искусственные
нейронные сети могут быть сгенерированы автоматически
и могут самовоспроизводиться в соответствии с любой про­
граммой обучения. Искусственные мозги можно вырастить
в ходе процесса, сильно напоминающего развитие челове­

ческого мозга. В любом случае точные детали этого про­

цесса никогда не будут известны, а если и будут, то они бу­
дут в миллионы раз превосходить возможности человека

их понять».

Описывая ИИ, невозможно избежать рассуждений о та­

ких понятиях, как язык и память, обучение и сознание,
восприятие собственного «я» и свободная воля. Это делает
и Минский, поэтому в дополнение к прочим титулам его
называют еще и философом. При этом Минский старался
разложить все эти понятия по полочкам - например, раз­

бирая, что такое сознание, он описал более тридцати задач,

которые оно решает.

Вроде бы предсказания «Одиссеи 2001 года» не сбылись.

Не было ни в 2001-м, ни в 2010-м, не будет и в 2020-м ни­
какой пилотируемой экспедиции к Юпитеру, как нет и лун­
ной базы, даже скорее города с множеством обитателей.
Страны мира все более походят на первобытные племена,
развитие явно пошло по другому и не самому радостному

пути. Сначала правительства превратили космос в арену

171
 ИГОРЬ ШНУРЕНКО

для демонстрации тщеславия и гордыни, а затем начали

мериться своими дубинками и населять окрестности Земли

оружием, чтобы решать внутренние земные разборки. Так
что фильм в части предсказаний космического будущего че­
ловечества провалился, но он оказался пророческим в дру­

гом, может быть, более тонком смысле.

Эта картина, которая снималась в годы всеобщего кос­
мического энтузиазма, увлеченности космосом, хайпа во­
круг каждого полета, осторожно намекала на то, что пре­

жде чем лететь на орбиту, стоило бы понять, откуда взялся

сам человек и что он такое. Фильм уникален и тем, что свя­
зывает науку и историю человечества. Фильм показывает
происхождение человека, когда миллионы лет назад люди,

не без влияния инопланетных сил, становятся разумными.

После броска в палеонтологию следует космическая ис­
тория, технически очень точно решенная. Это история про
достижения того самого человека, который в начале фильма
издает нечленораздельные возгласы. Сначала, под недрем­
лющим оком Вселенной или какого-то Сверх-сверх-разума,
возникает жизнь, потом в ходе эволюции возникает чело­

век, у него появляется язык и вместе с ним сознание, по­

том он летит в космос, но космическая история обрывается

искусственным интеллектом, или обычным сверхразумом,
не столь совершенным, как создатель человечества.

Бортовой компьютер Хал 9000 и есть этот сверхразум,

у него своя повестка, он как бы следующий этап эволюции
человечества. Хал чувствует себя непогрешимым, и у него
своя мораль, в которой человеку нет места. Он обманывает
людей, устраивает за ними слежку и подслушивает их тай­
ный разговор о том, что компьютер стал опасным и нужно
его отключить.

Разумеется, Сверх-сверх-разуму, да и искусственному ин­

теллекту уровня Хала, не нужно даже устраивать тотальную
слежку за людьми. Сегодня такой ИИ легко сможет просеять

172
 ДЕМОН ВНУТРИ

совершенно открытые человеческие идеи о том, как от него

избавиться - книги, серьезные и не очень, манифесты,

фильмы, комиксы, разговоры на ютьюбе. Просеять и при­
нять превентивные меры. В фильме Кубрика эти меры про­
сты: Халу достаточно просто обрубить трос, связывающий
астронавта с частичкой Земли, с кораблем. А человек ведь
не изменился со времен неандертальцев - в открытом кос­

мосе он обречен. Это к вопросу о том, за счет чего машины

могут переиграть людей, когда дойдет дело до выяснения
отношений.
И, наконец, в фильме показан момент преображения,
или жизни после смерти, когда человек перешел на следу­

ющий уровень. Сохранив себя, даже в своем физическом

облике, «по образу и подобию», он тем не менее без всякой
оболочки может существовать в космосе. Первыми этот путь,
кстати, наметили русские космисты - но к этой теме мы бу­
дем возвращаться в других главах.

Так - под все тем же оком Сверх-сверх-разума - начина­

ется история нового человечества, к которой вся наша обыч­
ная история была лишь прелюдией.
Этот эпический фильм, который со времен создания вхо­
дит во все возможные рейтинги самых выдающихся художе­
ственных и фантастических лент, использует модную тему
космического полета лишь как внешнюю сюжетную оболоч­
ку, чтобы рассказать и о грядущем столкновении человека,
которого создал искусственный разум - с искусственным
разумом, созданным им самим, и о возможном пути чело­

веческой эволюции.
Идея космоса как обратной стороны нас самих, похоже­
го в этом смысле на искусственный разум, носилась в воз­
духе - или лучше сказать, в ноосфере, в пространстве кол­
лективного человеческого разума - как раз в конце 1960-х
года. Примерно о том же снимает свой «Солярис» великий
режиссер Андрей Тарковский - фильм выходит на экраны

173
 ИГОРЬ ШНУРЕНКО

в 1972 году. Вряд ли это совпадение, что в то же самое вре­

мя на Земле происходят социальные потрясения, кото­
рые будут иметь далеко идущие культурные, духовные, по­
литические, социальные и технологические последствия.

Ощущение, что на планете тогда действительно происходил

ноосферный катаклизм! Интересно, что великий польский
фантаст и футуролог Станислав Лем в романе, по которому
снят фильм, очень подробно описывает страшные и величе­
ственные бури и изменения, которые случаются на поверх­
ности выдуманной им планеты Солярис - и эта поверхность
представляет собой разумный океан!
В это трудно поверить, но Лем написал роман еще
в 1960 году- до полёта Юрия Гагарина. «Солярис» - одна
из тех гениальных книг, которые ведут реальность за собой,
появление таких произведений как раз и приводит к бу­
рям в разумном океане - бурям, волны от которых доходят
до нас и сегодня.

Но вернемся к Марвину Минскому. В книге «Общество

разума» он описал процесс сборки искусственного ин­
теллекта из простых частей, которые он назвал аген­
тами, которые сами по себе разума не имеют. Разум,
по Минскому- это даже не получившаяся структура, а само
взаимодействие между собой этих агентов. Будучи атеи­
стом, он ничего не говорил о душе, а человеческий ра­
зум считал таким же агентом, как и остальные возникшие

за сотни миллионов лет эволюции когнитивные системы.

Разум - это не какая-то целостная единица или следствие

базового принципа, считал Минский, разум - это общество
агентов, когнитивных процессов, которые на выходе про­

изводят способности, которые, как мы считаем, делают нас

разумными.

Разные агенты могут строиться на основе разных процес­

сов с разными целями, разными путями представления зна­

ний и разными методами получения результата.

174
 ДЕМОН ВНУТРИ

Идея лучше всего описывается следующей цитатой

из «Общества разума»: «Какой волшебный фокус делает нас
разумными? Фокус в том, что нет никакого фокуса. Сила ин­
теллекта проистекает из нашего разнообразия, а не из одно­
го идеального принципа».

Мозг, считал Минский, можно сравнить не с одним ком­

пьютером, а с четырьмя сотнями - и каждый из них рабо­
тает по-разному. Принципы работы каждой из колонок но­
вой коры одни и те же, но каждая из колонок эволюционно
строилась по-своему, поэтому обрабатывают информацию
и выдают результат они тоже по-разному. Минский восхи­
щался свойством человеческого мозга не сдаваться, если за­
дача не решается привычным способом, а получив сообще­
ние об ошибке или о невыполнении задачи в срок, перебра­
сывать работу на другой участок коры, на другую колонку.
Он сравнивал этот процесс с высокоэффективным управ­
лением гигантской корпорацией.
Минский писал, что мы подошли к той точке, когда су­
ществует много самых разных способов решать задачи,
и машина должна использовать наиболее подходящий -
а не только, скажем, нейросети. И мы, люди, имеем весьма
слабое представление о том, как решать задачи, а вот ма­
шины смогут разобраться в этом и применить правильный
метод.

Люди - это те же машины, в которых разум возникает

из взаимодействия множества неразумных или частич­
но разумных агентов, из которых состоит мозг. Поэтому
когда-нибудь в будущем компьютеры станут разумнее лю­
дей. Минский предупреждал, что может возникнуть ситу­
ация, когда искусственный интеллект, которому будет по­
ручено решать какую-нибудь невинную математическую
проблему, может прийти к выводу, что для выполнения за­
дачи ему нужно будет построить суперкомпьютер, а для
этого, в свою очередь, понадобятся ресурсы всей планеты.

175
 ИГDРЬ ШНУРЕНКD

Впрочем, ученый был оптимистом и считал, что перед тем,

как запускать такой ИИ в работу, люди тщательно его про­
контролируют. Такая точка зрения наверняка казалась наи­
вной и 50 лет назад, ведь Халу из «Космической одиссеи»
удалось усыпить бдительность своих «проверяющих».
В одном из телеинтервью Минского спросили, как он от­
носится к идее внедрения в человеческий мозг трансплан­
тов и за счет этого усиления его мощности и возможностей.
«Я бы предпочел не вставлять чипы в мозг, - ответил уче­
ный, - а наоборот, транспортировать сам мозг на другой
носитель, туда, где меньше багов, и где легко в случае чего
можно будет заменить материнскую плату».
Ученый вряд ли шутил, когда сравнил человеческое тело
с изношенной материнской платой. Сам он, во всяком слу­
чае, стал членом Научного совета общества «Алькор», о ко­
тором пойдет речь в другой главе этой книги. Оно зани­
мается глубоким замораживанием мозгов и, за дополни­
тельную плату, целиком «материнских плат» своих членов.

Сообщалось о том, что мозг Минского заморозили 27 января

2016 года. На контейнере, содержащем его разум, написано:
«Пациент 144».
ТЕХНОСАМУРАИ АТАКУЮТ
 ~ 11:tl:Ht ::с/ t:° .:r..- ~:
ВЕЛИКАЯ ЯПОНСКАЯ МЕЧТА

В начале августа 1982 года самые многообещающие моло­

дые компьютерщики Японии собрались на совещание. Оно
происходило на двадцать первом этаже типового небоскре­
ба в центре Токио, за типовой дверью с толстым окошком,
напоминающим кусок льда, на которой висела типовая таб­
личка со скромной надписью по-японски и по-английски:
«Институт компьютерной технологии нового поколения»
(Institute for New Generation Computer Technology (!СОТ)).
Правда, из типового офиса, находившегося за типовой
дверью, открывался потрясающий вид на Токио: блестел
на солнышке залив, в промежутках между домами розове­

ли и зеленели сады, а вдали синела в легкой дымке знаме­

нитая гора Фудзи.
За длинным столом в просторной светлой комнате с ви­
дом на Фудзи сидело сорок молодых исследователей, мол­
чаливых очкариков с упрямыми лицами. Это были лучшие
из лучших, юные гении программирования, математиче­

ской лингвистики, логики, вычислительной техники, ото­

бранные для участия в самом, пожалуй, многообещающем
проекте в истории Японии.
Через десять лет Стране Восходящего Солнца предстояло
стать ведущей экономикой мира, страной с самыми продви­
нутыми технологиями, настолько продвинутыми, что и дру­

зья, и враги будут искать ее расположения.

Японское чудо было в самом разгаре, японские компании
скупали самую дорогую недвижимость в самых дорогих го­

родах мира, японская бизнес-модель считалась примером

179
для подражания. Японцы собирались капитализироваться
на своем промышленном чуде и произвести новый чудо­
продукт. Он должен был прийти не из шахт, полей или мо­
рей, не с фабрик и заводов - а прямо из мозгов, из голов.
Чудо-продуктом, с помощью которого Япония собралась
покорить мир, были знания. Они собирались упаковывать
и продавать знания в той же манере, как другие народы
продают нефть, газ или промышленные товары - с той по­
правкой, что знания будут стоить гораздо дороже и прине­
сут им глобальное экономическое лидерство.
Примерно за год до этого, в октябре 1981 года, правитель­
ство публично объявило, что собирается потратить на со­
здание пятого поколения компьютеров (m1i1!Ht::::e.,t: .:i..-
1Z) $450 млн. Еще столько же должны были внести частные
компании-участники проекта.

В консорциум, образованный для поддержки проекта, во­

шли такие столпы японской экономики, как Fujitsu, Hitachi,
Nippon Electric Corporation, Mitsublshi, Matsushita, Oki, Sharp
и Toshiba. Государство поддержало проект через две свои
крупнейшие лаборатории, Nippon Telephone and Telegraph's
Musashino Laboratories и электротехническую лабораторию
MIТI.
Во главе стола в комнате с видом на Фудзи сидел руко­
водитель проекта, японский физик и кибернетик Фухи
Казухиро. Он обрисовал собравшимся масштабные задачи,
поставленные перед ICOT.
Институт должен был в кратчайшие сроки создать пя­
тое поколение компьютеров - с неслыханными вычисли­

тельными способностями и искусственным интеллектом.

Под искусственным интеллектом подразумевалось при­
мерно то же самое, что и сегодня: предполагалось, что

машины будут свободно общаться с человеком на его

естественном языке, понимать любую речь и распозна­
вать любые изображения. Они смогут учиться, принимать
решения, понимать ассоциации и вообще вести себя по­
чти как люди.

Уже месяц, как специальный комитет работал над планом

создания прототипа компьютера «в железе». И вот теперь
они положили на стол перед господином Фухи план неот­
ложных действий. В проекте, представленном правитель­
ству, на создание прототипа отводилось три года, и члены

комитета были очень довольны тем, что они сумели сокра­

тить этот срок до двух лет. Требовались дополнительные ре­
сурсы, материальные и человеческие, требовалась парал­
лельная работа нескольких команд - но зато они смогут
отрапортовать о том, что идут по графику с опережением!
Все не без гордости ожидали реакции господина Фухи,
но глава проекта поверг собравшихся в шок. Он не скрывал
своей ярости. «Необходимо сделать все за полтора года!» -
кричал он так, что, казалось, дрожали не только бутылочки
с водой, но и рыболовецкие суда в бухте. «Мы должны до­
биться этого и оправдать высокое доверие!»
Выговорившись, господин Фухи затих так же резко, как
и начал свой монолог. Он вяло махнул рукой, жестом призы­
вая собравшихся разойтись: «Идите по местам и обдумайте
всё хорошенько! О результатах доложите».
Сотрудники выходили из комнаты, стараясь не произве­
сти никакого шума и не повернуться невзначай задом к гос­
подину Фухи.
Никому из присутствовавших не была дана возможность
сказать в свое оправдание хотя бы слово. Да это и не в япон­
ских традициях, здесь начальник всегда прав. Но молодые
гении были счастливы, что избежали худшего: господин
Фухи не вручил никому из присутствовавших меч или веер
для сэппуку. Ведь всего десять лет назад Юкио Мисима со­
вершил этот смертельный, но благородный ритуал, и, навер­
ное, неспроста господин Фухи держит у себя на столе по­
следний роман писателя-героя.

181
 ИГОРЬ ШНУРЕНКО

Атака техносамураев не была, конечно, неожиданной

ни для научных руководителей, которые готовили проект
уже минимум два года, ни для чиновников из правительства,

ни для конкурентов Японии в Европе и за Тихим океаном.

Идея бросить все ресурсы на крупный прорывной про­
ект и выиграть, таким образом, глобальное соревнова­
ние носилась в воздухе и у соперников японцев на рын­

ках высоких технологий. Но ни Соединенные Штаты

в союзе с Великобританией, ни Советский Союз не стали
делать чего-то сопоставимого по масштабам. Не захотели
или не смогли? Скорее всего, последнее.
СССР крепко завяз в Афганистане, Брежнев доживал по­
следние месяцы, и под ковром уже шла борьба за то, кто
возглавит похоронную комиссию - членам Политбюро было
не до компьютерной науки. Искусственное дыхание было
для них актуальнее искусственного интеллекта.

Британия только начала оправляться после «Зимы несо­

гласия» 1978-79 года, когда вся страна остановилась: низы
не хотели, верхи не могли и никто не удивился бы вели­
кобританской социалистической революции. К 1982 году
смута была уже позади. Совсем недавно закончилась вой­
на на Фолклендах, но хотя «Железная леди» Тэтчер вышла
из нее победительницей, конфликт стоил столько, что впору
было затягивать пояса. Если бы на Даунинг стрит, 10 при­
шел какой-нибудь Тим Бернерс-Ли (будущий автор httр­
протокола) и предложил подобный проект с отдачей в луч­
шем случае лет через десять, на него бы посмотрели как
на сумасшедшего. Впрочем, закончив Оксфорд, Бернерс-Ли
был достаточно прозорлив, чтобы уехать в Америку.
Американцами правил лучший друг Тэтчер Рональд
Рейган, но у него тоже была проблема, делавшая столь мас­
штабный проект немыслимым: рецессия. Выход из нее пре­
зидент видел в повышении налогов и в ослаблении госкон­
троля за банковским сектором. Не до нейронаук.

182
 ДЕМОН ВНУТРИ

Интересно, что летом 1982 года вся Америка обсужда­

ла резонансное убийство китайского чертежника Винсента
Чина, которого забили до смерти двое белых американ­
цев - мастер автозавода «Крайслер» под Детройтом и его
приемный сын. Причина была проста: американские маши­
ны не выдерживали конкуренции с японскими, и на заводе

начались массовые увольнения.

Американские работяги убили китайца, приняв его

за японца. Интересно, что за вполне преднамеренное убий­
ство виновные были оштрафованы на три тысячи долларов
каждый и ни дня не сидели в тюрьме; семья Чина до сих пор
с ними судится.

Итак, японцы были готовы бросить американцам вызов

не только в автоиндустрии, но и в гонке за искусственный
интеллект. Что же произошло дальше?
Первым поколением компьютеров считались ламповые,
вторым - транзисторные, третьим - компьютеры на инте­

гральных схемах, а четвёртым - с использованием микро­

процессоров. Предполагалось, что компьютер пятого поко­
ления построят на сверхбольших интегральных схемах, и он
будет рассчитан на вычисления параллельными процессо­
рами, работающими с распределенными данными. Доступ
к данным должен был осуществляться с помощью символь­
ного языка логического программирования.

Предполагалось, что прототип машины будет обладать

производительностью между ста миллионами и милли­

ардом LIPS (логических заключений в секунду). Это был

действительно шаг вперед, ведь типовые рабочие станции
к тому времени были способны на производительность
лишь около ста тысяч LIPS. Для резкого увеличения про­
изводительности предлагалось постепенно заменять про­

граммные решения аппаратными, поэтому не делалось рез­

кого разделения между задачами для программной и аппа­

ратной базы.

183
 ИГОРЬ ШНУРЕНКО

ПОБЕДИТЬ АКЦЕНТ ЗА $500 МЛН

Технооптимисты сразу взяли верх в этом проекте. Например,

на полном серьезе предполагалось, что искусственный ин­
теллект, постепенно набирая мощность, начнет изменять
сам себя и будет перестраивать под свои задачи компью­
терную среду. Принципы, на которых будет построен окон­
чательный компьютер, заранее в систему не вводились, ибо
считалось, что их выработает сам искусственный разум.
Такой проект невозможен и сегодня, тридцать лет спустя,
а в начале восьмидесятых он должен был восприниматься
чистым авантюризмом, наподобие китайского «Большого
скачка» конца 1950-х.
Ожидался существенный прорыв и в решении приклад­
ных задач искусственного интеллекта. Одной из главных це­
лей, поставленных перед искусственным интеллектом, рас­
сматривалось полное решение задачи перевода с японского

на английский. Для японских чиновников, научных адми­

нистраторов и предпринимателей это была лакмусовая бу­
мажка, которая показала бы успех или неудачу всего про­
екта. Каждый из них испытывали неловкость в присутствии
американцев из-за своего акцента. За внешней невозмути­
мостью японцы скрывали огромную фрустрацию из-за язы­
кового барьера, и чиновники были преисполнены желанием
никогда больше не чувствовать себя людьми второго сорта.
Вообще, тема национального престижа оказалась в реализа­
ции проекта ключевой: это был своего рода экономический
реванш за поражение во Второй мировой войне.
В рамках проекта предполагалось создать автономную
печатную машинку, которая работала бы под диктовку,
устранив проблему ввода иероглифов, автоматический пор­
тативный переводчик с языка на язык - разумеется, непо­
средственно с голоса. От искусственного интеллекта ожи­
дали также автоматического реферирования статей, поиска

184
 ДЕМОН ВНУТРИ

данных по категориям, характерным признакам и смыслу,

шифровки и дешифровки сообщений, а также распознава­

ния образов, поиск и анализ дефектов в промышленных
продуктах.

Ставились также задачи по моделированию аэро- и гид­

родинамических процессов. Иными словами, искусствен­
ный интеллект - или суперкомпьютер - должен был дове­
сти японское преимущество в качестве продуктов до пре­

восходной степени и компенсировать те комплексы,

которые японцы все еще испытывали перед державой, ко­
торая и через несколько десятилетий после окончания вой­
ны продолжала оккупировать территорию их страны.

Программу предполагалось реализовать за 11 лет: три

года было выделено на начальные исследования и создание
прототипа, четыре года для разработки отдельных подси­
стем и последние четыре года для завершения работы над
всей системой в целом. Глава проекта господин Фухи торо­
пил исполнителей. Ему удалось настоять на резком сокра­
щении сроков.

В 1970-80-е годы японская электроника считалась луч­

шей в мире, японцы делали лучшие автомобили, и были
все основания полагать, что японцы добьются результата
и здесь. К тому же ведущие эксперты мира ставили на то,
что будущее компьютеров лежит в параллельных вычисле­
ниях. Ведь похожие, хотя и не столь масштабные проекты
делали в США (в корпорации МСС), в Великобритании (ком­
пания Alvey), а также в рамках Европейской стратегической
программы исследований в области информационных тех­
нологий (ESPRIТ).
Книжные магазины стран западного мира выставляли
на самых видных местах жития создателей крупнейших
японских корпораций, рецепты их успеха, а серьезные ана­
литические издания описывали принципы японского эко­

номического чуда. Бизнесменам и аналитикам вторили

185
 ИГОРЬ ШНУРЕНКО

социологи, которые были уверены, что японцы нашли

Святой Грааль современной экономики.
Так, видный социолог из Гарварда Дэниэл Белл издал
в 197 6 году труд, в котором описал «осевой принцип» пост­
индустриального общества. Он мало упоминал Японию
в своей книге, но казалось, что она описывает именно япон­
ский подход к экономике. Принцип заключался в «цен­
тральности» и в кодификации теоретического знания.
Белл делал акцент на новой интеллектуальной техноло­
гии, распространение «знающего класса», переход от про­

изводства товаров к экономике услуг, изменение характера

труда и так далее. Все это очень подходило под японский

случай, по крайней мере, каким его видели западные экс­
перты. Искусственный интеллект стал той самой «новой ин­
теллектуальной технологией», то есть машины, как в пред­
ставлении Белла, усиливали человеческую мысль.
Японский проект по созданию компьютеров пятого поко­
ления удовлетворял и остальным критериям Белла. Он пи­
сал о том, что главными институтами постиндустриально­

го общества становятся университеты, академические ин­

ституции и исследовательские корпорации. Японцы словно
все у него списали, объединив усилия университетов, не­
зависимых институтов и исследовательских лабораторий
восьми крупнейших и технологически самых продвинутых
корпораций.
Главный ресурс постиндустриального общества - это че­
ловеческий капитал, писал Белл. «Наш самый драгоценный
актив - это человеческие ресурсы», вторили ему японцы,

расписывая проект ICOT.

Экономическая основа постиндустриального общества -
это наука, знания, продолжал свою мысль Белл. «Продукты,
произведенные в нашей стране, станут уникальными и осо­
быми для каждой области производства благодаря своей эф­
фективности, дизайну и тому факту, что они аккумулируют

186
 ДЕМОН ВНУТРИ

знания, - писали свое обоснование японцы. - Эти достиже­

ния и в дальнейшем будут служить мотором для продвиже­
ния наших индустрий, основанных на знаниях».
Казалось бы, проект ICOT был квинтэссенцией японско­
го чуда, японского самурайского духа, превосходного япон­
ского вкуса, японской краткости и японского рационализма,
японского постиндустриального общества, которому зави­
довал и которое стремился воспроизвести весь мир.

Но идея потерпела полное фиаско.

КАК ЦЕНТРАЛИЗАЦИЯ ПОХОРОНИЛА МЕЧТУ

Принцип «собирания в кулак ресурсов» для «прорыва в вы­

соких технологиях» не сработал - несмотря на то, что, каза­
лось бы, у японцев были для этого все возможности: финан­
совые ресурсы, поддержка правительства и крупного биз­
неса, задел передовых разработок и глобальные лидерские
позиции в целом ряде высокотехнологичных отраслей.
Провал произошел несмотря на всю пропагандистскую
накачку проекта, который на какое-то время стал практиче­
ски японской национальной идеей, показателем престижа
страны, свидетельством ее гордости и надеждой на миро­
вое лидерство.

Проект провалился по всем параметрам. Во-первых,

не удалось с ходу создать искусственный интеллект в по­
нимании системы, которая сама будет менять свои внутрен­
ние правила и параметры.

Переходя через определенную точку, система не ум­

нела, а тупела. Она резко теряла надежность, распадалась
на составные части, которые действовали сами по себе, как
если бы у робота взбунтовались конечности, так что в итоге
он не может ступить и шагу. Система становилась опасной
и неадекватной, как рехнувшийся монстр из антиутопий.

187
 ИГОРЬ ШНУРЕНКО

Я уже упоминал о парадоксе Моравека, который гласит,

что довольно легко научить компьютер играть в шашки

и пройти тест на интеллект взрослого человека, и гораздо

труднее научить его выполнять задачи, которые не задумы­

ваясь решает годовалый младенец: например, он без труда

распознает маму и других людей или самостоятельно учит­
ся ходить.

В проекте ICOT систему строили в расчете на решение

«взрослых» задач, основанных на вычислениях суперком­

пьютера, а потом предполагалось, что суперкомпьютер сам

начнет писать алгоритмы, считавшиеся «простыми». То есть

сначала ребенка учили решать дифференциальные урав­
нения, а потом, вдоволь их нарешавшись, он должен был
учиться ходить и говорить «ма-ма».

Биологические системы, о которых тогда знали гораз­

до меньше, чем сейчас, развиваются совершенно ина­
че. Если бы это знали тогда, возможно, последователь­
ность действий по развитию «бэби-ИИ» была бы совсем
иной. Но тогда, скорее всего, система столкнулась бы с дру­
гими проблемами, о которых мы только сейчас начинаем
догадываться.

Главная из них - возможно, вообще принципиально

не решаемая ни в тогдашней японской парадигме «разви­
вающегося суперкомпьютера», ни в теперешней парадигме
глубокого машинного обучения, - прямо вытекает из тео­
рем неполноты Гёделя, и мы поговорим о ней в следующих
главах. А пока вернемся к неудачному проекту ICOT, провал
которого может нас многому научить.

Идея замена алгоритмов «железом», то есть программ­

ных средств аппаратными, тоже не выдержала провер­

ки. Вера в «железо» была характерна для 1960- 70-х годов,

но уже с начала 1990-х этот подход стал казаться устаре­
лым. В дальнейшем развитие вычислительных машин по­
шло по противоположному пути: стали совершенствовать

188
 ДЕМОН ВНУТРИ

программные средства при более простых, но стандартных

аппаратных.

Не оправдалась и наивная вера в то, что интеллект систе­

мы зависит от добавления новых процессоров. Чисто вычис­
лительная производительность, достигнув некоего предела,

практически прекращала расти даже после добавления но­

вых параллельных процессоров, не говоря уже о моменте,

упомянутом выше: что система вовсе не умнела, а, скорей,

глупела с ростом вычислительных мощностей.
Но самое главное, техношовинисты, вставшие у руля про­
екта, сильно переоценили тогдашнее состояние разработок
искусственного интеллекта - ведь многие из задач, которые

ставились тогда, не решены и сегодня, почти тридцать лет

спустя, при том что возможности вычислительной техники

и алгоритмизации процессов несоизмеримо выросли.

Понятно, что свою роль сыграл и волюнтаризм руко­

водства, назначенного правительством, и то, что решения

по проекту принимались высшими должностными лицами

страны и топ-менеджерами крупных корпораций, которые

были традиционно некомпетентны в науке и философии.
А именно от них зависело последнее слово по ключевым во­
просам, и они, как могли, играли свои роли, имитируя, что

разбираются в процессах, которыми управляли.

Японская корпоративная и бюрократическая культура от­
нюдь не способствовала учету дельных возражений - то есть
в проекте не хватало той самой «обратной связи», которая
делает систему по-настоящему хорошо управляемой. Свою
роль в фиаско !СОТ сыграло и убеждение в том, что чем
выше пост человека, тем он больше понимает практически
во всем.

А ведь именно принцип обратной связи лежит в осно­

ве искусственного, да и естественного интеллекта, без это­
го происходит застой и распад научных школ и сообществ,
того самого «коллективного разума», о котором я писал.

189
 ИГОРЬ ШНУРЕНКО

Если вы пытаетесь создать искусственный интеллект

или ту самую «экономику знаний», базируясь на принци­
пах древнеримской книги «Как управлять рабами», будьте
готовы к сюрпризам.

Проблема заключалась в той самой централизации, ко­

торую так воспевали былинники постиндустриального об­
щества типа Дэниэла Белла. Возможно, в этом заключалось
главное противоречие: децентрализованную самообучаю­
щуюся и самосовершенствующуюся систему пытались по­

строить централизованными, почти диктаторскими мето­

дами, до сих пор привычными, впрочем, для современных

корпораций, как частных, так и государственных.

Подобный подход характерен, к сожалению, и для России,
и стоило бы разобрать провал нескольких крупнейших рос­
сийских проектов по развитию высоких технологий, ко­
торые основывались примерно на тех же принципах, что

и японский проект !СОТ. Здесь нет места для подобного раз­

бора, но я надеюсь, это станет предметом чьего-нибудь глу­
бокого исследования.
Если бы Сверхразум запускал подобный проект, вряд ли
он бы построил структуру принятия решений таким
образом.

«ЭКОЛОГИЧЕСКИЙ НАЛОГ» АДОЛЬФА ГИТЛЕРА

Интересный пример несбывшихся надежд на технологиче­

ский прорыв можно найти в нацистской Германии. Здесь,
как и в случае с японским проектом, волюнтаризм и цен­

трализация привели к принятию неверных решений, и делу

не помогли даже передовые разработки немецких ученых.
Как это ни парадоксально, речь идет о «зеленых техно­
логиях». Гитлер считал, что нефть, которой Германии ката­
строфически не хватало, можно заменить синтетическим

190
 ДЕМОН ВНУТРИ

топливом. Топливо требовалось рейху для подготовки к ми­

ровой войне, а иностранной валюты на ее закупку было
в обрез, поэтому вариантов действий было два. Первый:
создать синтетическое топливо. Второй: силой захватить
крупные месторождения, расположенные в других странах.

Сначала немцы попробовали пойти по первому пути.

Гитлер даже ввел что-то наподобие «зеленого налога>> на по­
требление бензина, а концерну 1G Farben было поручено
синтезировать топливо из угля. 1G Farben с его 200 тыся­
чами служащих и активами более чем на 1,6 миллиардов
рейсхмарок являлся одной из крупнейших частных компа­
ний не только Германии, но и всего мира.
Руководство концерна, получавшего огромные доходы
в ходе второй промышленной революции, принадлежа­
ло к либеральному лагерю германских промышленников.
Концерн тесно работал с ведущими учеными и с правитель­
ством, в создание новых технологий были вложены суммы,
сопоставимые с инвестициями в люфтваффе. Об этом пи­
шет автор авторитетнейшей книги о нацистской экономи­
ке «Цена разрушения» Адам Туз. Программа строительства
установки по превращению угля в нефть следовала четкой
научной логике и выполнялась неукоснительно. Но подход
руководителей концерна и страны опирался на волюнта­
ристский тезис о том, что нефтяные скважины вот-вот опу­
стеют и цены на топливо взлетят до небес. Вам это ничего
не напоминает?
Руководство 1G Farben игнорировало факты, не уклады­
вающиеся в его концепции, выдающие желаемое за дей­
ствительное. Перспектива нехватки нефти, запасы кото­
рой в 1920-е годы действительно кончались, привели к от­
крытию новых месторождений - в Венесуэле, Калифорнии,
Оклахоме и в Пермском нефтегазоносном бассейне. То есть
«коллективный разум» нефтяников работал в противо­
положном направлении - но этот момент не учитывался.

191
 ИГОРЬ ШНУРЕНКО

«Обратная связь» в структуре принятия решений в самом

концерне IG Farben также отсутствовала. Руководству кон­
церна хотелось оправдать вложения в постройку завода
по производству синтетического топлива, и путем слож­

ной интриги им удалось убедить фюрера поддержать про­

ект. После этого возражений со стороны чиновников уже
быть не могло.
В итоге заводы были построены, концерн на этом зара­
ботал - но цены на нефть упали, и вложения себя не оправ­
дали. Нефти рейху все равно не хватило, и Гитлер решил
ее просто захватить военной силой, но это уже совершенно
другая история.

192
 V

НЕИРОСЕТИ И PblHOK ДУШ

 КОШКА В МАТРИЦЕ

После того как Минский в 1969 году опубликовал доказа­

тельство ограниченности перцептрона, и выяснилось, что

однослойные нейросети не способны решать задачи с «ис­

ключающим или», интерес к машинному обучению осла­
бел. Барьером для ученых явились также явно неадекватные
для работы со сложными алгоритмами нейросетей вычис­
лительные мощности.

Не сумев добиться от ученых внятного прогресса в реше­

нии задач распознавания образов или предсказания погоды,
чиновники и администраторы крупных компаний прекра­
тили финансирование подобных проектов. Попутно выяс­
нилось, что мозг куда сложнее, чем о нем думали, и многих

эта сложность ошеломила настолько, что задача создания

машины, умом не уступающей человеку, стала казаться не­

достижимой в принципе.
Неудача японского проекта ICOT показала, что даже пол­
ная поддержка государства и предоставление в распоряже­

ние ученых всех возможных ресурсов никуда не ведет, если

нет теоретического прорыва и философского осмысления

проблем. С другой стороны, наука настолько усложнилась,
что теоретический прорыв был возможет лишь в результате
крупных вложений. От науки вообще нельзя требовать не­
медленной отдачи, это не торговля пирожками на площади,
а к власти в западных странах один за другим стали прихо­

дить сторонники неолиберальной модели экономики, ко­

торые стремились резко снизить государственные расходы.

195
 Получался замкнутый круг, и очень скоро создание ис­
кусственного интеллекта стали ставить в ряд нерешаемых

задач, наподобие запуска вечного двигателя. Впоследствии

некоторые авторы даже будут писать, что «зима искусствен­
ного интеллекта» продлилась с 1970 по 1990 годы, хотя, ко­
нечно, это не совсем так.

И в 1970-е, и в 1980-е годы в этой области были сделаны

важные открытия, подготовившие почву для следующего

рывка.

Во-первых, даже критики принятых тогда методов, тот же

Марвин Минский, указывали на возможности в смежных
областях когнитивного моделирования. Критическому пере­
осмыслению подверглись многие принятые в научной среде
догмы и подходы, появились новые имена. Это было время
господства символических моделей более высокого уровня,
чем однослойные нейросети, и экспертных систем, которые,
впрочем, было гораздо сложнее программировать.
Во-вторых, ученые продолжали работать над теорией
нейросетей с тем, чтобы устранить ограничения, на кото­
рые указал Минский и другие. Финн Теуво Кохонен, амери­
канец Стефен Гроссберг, русский Александр Галушкин об­
основали теорию многослойных нейросетей, которой было
суждено привести к новому рывку.

КАК ВЫЯВИТЬ НЕРАДИВЫХ СТУДЕНТОВ

Александр Иванович Галушкин был преподавателем МФТИ.

В 1970 году он выпустил пионерскую работу «Многослойные
системы распознавания образов», а в 1974 защитил док­
торскую диссертацию, в которой предложил способ обой­
ти ограничения, сформулированные Минским. Его револю­
ционный метод вычисления градиента, который исполь­
зуется при обновлении весов многослойной нейросети,
 ДЕМОН ВНУТРИ

применяется и сегодня. В одно время с ним ту же проблему

алгоритма обратного распространения ошибки для обуче­
ния перцептронов решили американец Пол Вербос, и канад­
ский когнитивный психолог (так он предпочитает себя на­
зывать) Джефф Хинтон.
Александр Галушкин - очень крутой ученый, его вполне
можно сравнивать с Джеффом Хинтоном. Но у них, к сожа­
лению, сложились разные жизни. Хинтон, работы которого
мы еще не раз упомянем, продолжал работать над нейро­
сетями во время «зимы искусственного интеллекта», когда

это направление было совсем не модным. Его наработки тех

лет вовсю используются и сегодня, но когда-то на них никто

не обращал внимания. С началом новой «весны» в машин­

ном обучении он возглавил целое направление в компании
Google, которая воспользовалась его наработками, чтобы
сначала создать, а потом и закрепить свое мировое лидер­

ство в разработке ИИ.

Россия по причинам, о которых здесь рассказывать нет
возможности, начиная с 1990-х стала резко сдавать как
в научных разработках ИИ, так и в их практическом вне­
дрении. В итоге лидерство было потеряно, и такие ученые,
как Александр Галушкин, не смогли реализовать себя и свои
идеи.

Теуво Кохонен, сделавший весьма серьезный вклад в ма­

шинное обучение и тем самым в преодоление «зимы ис­
кусственного интеллекта», стал в итоге самым цитируемым

финским ученым за все времена, а после наступления в на­

чале 1990-х новой «весны искусственного интеллекта» его
избрали первым президентом Европейского общества ней­
ронных сетей.
Финский ученый предложил новый класс многослойных
нейронных сетей, где выходные сигналы обрабатываются
по правилу «победитель получает всё»: наибольший сигнал
превращается в единичный, остальные обращаются в ноль.

197
 ИГОРЬ ШНУРЕНКО

Развивая свою идею, в

1984 году он предложил самоорга­
низующуюся карту Кохонена - нейронную сеть с обучением
без учителя. Принципы этой сети оказались настолько про­
стыми, что она и сейчас применяется во множестве задач:
для моделирования, прогнозирования, поиска закономер­

ностей в больших массивах данных, в разработке компью­

терных игр, квантизации цветов при печати на принтере,

для архиваторов, видео-кодеков, и так далее.

При работе с учителем сопоставляются входные и выход­

ные сигналы - их математическую запись называют «век­

торами». Вектора образуют обучающую пару. После за­

вершения каждой «эпохи» происходит коррекция, то есть
выходной вектор меняется до тех пор, пока его отклоне­
ние от цели не уложится в заданные пределы. Но в сетях
Кохонена выходные сигналы для этой цели не исполь­
зуются, поэтому и говорится, что обучение происходит
без учителя.
Жизненный цикл нейросетей Кохонена состоит из трех
стадий: обучения, кластерного анализа и практического ис­
пользования. Для поступившего входного сигнала ищется
соответствие, то есть узел сети, вектор веса которого мень­

ше всего отличается от данных наблюдения. Если таких уз­

лов несколько, один из них выбирается случайным образом.
Эти узлы называются «победителями», и их веса меняются
по заранее составленной аналитиком формуле. Так и про­
исходит самообучение системы.
На практике это работает так. Допустим, у нас есть дан­
ные о студентах и оценках, которые они получили на заче­

тах, и мы хотим составить табличку с четырьмя «кластера­

ми». В первый кластер войдут удовлетворительно успеваю­
щие студенты-девушки, не имеющие одного или нескольких

зачетов и не получающие стипендию, а во второй - хоро­

шо успевающие студенты-девушки, имеющие все зачеты

и в большинстве своем получающие стипендию. В третьем

198
 ДЕМОН ВНУТРИ

и четвертом кластере будут данные, соответственно, для

парней со стипендией и без.
Наша задача - создать нейросеть и обучить ее так, что
при вводе данных студента она будет сама относить его
к той или иной категории.
Как это работает? Вначале заполняется таблица исход­
ной выборки данных по каждому студенту, с указанием
его или ее пола, сдала ли она все зачеты, какие оценки за­

четов имеются по каждому предмету (допустим, их пять)

и получает ли он или она стипендию. Допустим, у нас
есть данные по группе из 20 студентов. Всего получает­
ся 8 переменных, из которых одна - наличие стипендии -
не важна для обучения сети, но будет учтена при кластер­
ном анализе. Таким образом, структурно сеть будет состо­
ять из единственного слоя нейронов, имеющего 7 входов
и 4 выхода.
Сначала исходная таблица нормализуется, то есть при­
водится в соответствие с пределами значений показателей.
При этом входам нейронов присваивается то или иное слу­
чайное значение. Размер нормализованной таблицы будет
20 на 7- в каждой ячейке лежит показатель для данного сту­
дента или студентки по всем 7 переменным. Затем состав­
ляется таблица значений весовых коэффициентов для каж­
дого узла сети. Веса выражают то, что мы, собственно, хотим
добиться - то есть чтобы в первый кластер (первую стро­
ку таблицы весов) попали девушки, не сдавшие все зачеты,
с оценками «удовлетворительно» по сданным предметам,

во второй -уже девушки, сдавшие все зачеты и имеющие

«хорошо» или «отлично» и так далее.

Затем настраивается алгоритм самообучения. Для этого

выбирается коэффициент скорости обучения, число «эпох»
обучения и сколько корректировок весов нейронов будет
произведено в каждой эпохе. Допустим, мы выбрали 6 эпох
обучения с различным коэффициентом скорости, на каждой

199
 ИГОРЬ ШНУРЕНКО

из которых будет 20 корректировок весов одного из нейро­

нов - ведь у нас в таблице 20 студентов и студенток.
Далее мы по очереди выпускаем на арену всех парней
и девушек. Нейроны Кохонена можно воспринимать как
набор электрических лампочек, так что для любого вход­
ного вектора загорается одна из них. Берем наугад пример
номер 10 из нормализованной таблицы (студент Нетреба,
зачеты не сдал), и по формулам находим расстояния
от Нетребы до текущих центров каждого из четырех класте­
ров. Получается, он ближе всего к кластеру 3 (неуспевающие
студенты-юноши, не имеющие одного или нескольких заче­

тов и не получающие стипендию). Таким образом, третий

нейрон - победитель и его веса должны быть скорректиро­
ваны, также по заданной заранее формуле. Веса остальных
нейронов при этом не меняются.
Таким образом мы прогоняем через нашу сеть все 20 при­
меров по списку, от Варданян до Шевченко. И переписыва­
ем все веса. После этого начинается следующая эпоха об­
учения, меняем в формулах коэффициент скорости и сно­
ва прогоняем всех по кругу. И наконец ура!- полный цикл
обучения сети Кохонена пройден, и мы получаем итого­
вые значения весов. В первом кластере у нас один человек,
во втором - 8, в третьем - 7, в четвертом - 4. О чем это го­
ворит? Это говорит о том, что девушки у нас очень усидчи­
вые и сдают предметы хорошо. Только у одной проблемы,
может ей помочь? А с парнями ситуация плоха: разгиль­
дяи. Как это исправить? Это, пожалуй, проблема для искус­
ственного интеллекта следующего уровня, но вот довольно

простенькая нейросеть, придуманная финном Кохоненом

в 1980-е годы, дает вполне приличный результат, особенно
при наличии хорошей вычислительной техники, поскольку
все это в столбик никак не обсчитать.
После того, как нейросеть самообучилась, она готова
к практическому применению. Теперь, если к нам придет

200
 ДЕМОН ВНУТРИ

набор данных по следующему 21-му студенту, сеть автома­

тически занесет его в тот или иной кластер, либо сделает
вывод о невозможности такого отнесения (при большом
расстоянии до центра ближайшего кластера). При этом веса
узлов сети и кластеров на выходе, снова скорректируются,

то есть новые данные продолжают учить сеть.

РАБОЧАЯ ЛОШАДКА ГЛУБОКОГО ОБУЧЕНИЯ

Эта главка написана для подлинных афисионадос обуче­

ния - человеческого или машинного, все равно. Для тех,
кто ее пропустит, скажу лишь, что алгоритмы нейросетей
сегодня невероятно усложнились, да и подходы за послед­

ние 20 лет изменились довольно сильно. Так, даже много­

слойные нейросети по нынешним меркам обучаются ужас­
но медленно и не в состоянии выполнять задачи, допустим,

распознавания в течение пяти секунд лица гражданина

Китая и установления его личности.

После многослойных сетей ученые придумали когнитрон
и неокогнитрон, рекуррентные сети, которые обладали ас­
социативной памятью, а в 2000-е годы вышли на алгоритмы
глубокого обучения. Все вопросы, поставленные в свое вре­
мя Минским, были сняты, и те, кто воспринимал его кри­
тику перцептрона как приговор машинному обучению как
таковому, в конце концов оказались посрамлены.

Но нельзя говорить, что Минский задержал развитие на­

уки и технологий на двадцать лет, как считают некоторые.
Во-первых, как мы убедились, его сомнения лишь подхлест­
нули настоящих исследователей- то есть коллективный ра­
зум ученых повел себя как тот самый мозг, который увидев,
что один из его компьютеров-ученых выдал сигнал ошиб­
ки, передал решение задачи другим своим колонкам. В ито­
ге с задачей, как об этом говорил сам Минский, справился

201
 ИГОРЬ ШНУРЕНКО

кто-то другой. Конечно, все не совсем так, и «компьютеры»

коллективного разума, если можно так говорить, сами берут
на себя выполнение задач.
Но так или иначе, любой разум, бывает, дает сбои и порой
нуждается в перезагрузке, и 1969 год - год, когда Минский
написал свою работу, американцы высадились на Луну
и на экраны вышла кубриковская «Космическая одиссея
2001 года» и был такой перезагрузкой для коллективного
разума всего человечества.

Артур Кларк как-то писал, что если крупный ученый го­

ворит, что нечто может быть выполнено, то он почти всегда
прав. Если же ученый говорит, что это не может быть вы­
полнено, он почти всегда неправ. Этот «закон Кларка» при­
меним и к развитию машинного обучения. Когда в распо­
ряжении исследователей появились новые вычислительные
возможности и под их разработки была подведена солидная
теоретическая база, результат не замедлил сказаться.
Есть разные мнения по поводу того, когда началась но­
вая «весна искусственного интеллекта». Возможно, это
произошло в начале 1990-х, а может быть и раньше. Одной
из таких дат является 1987 год, когда в мире прошли четы­
ре ключевых совещания по нейронным сетям, а в научных
журналах резко выросло число научных сообщений на эту
тему. В шестидесятые-семидесятые годы математики и фи­
зики несколько выдохлись и перебросили мяч на половину
поля биологов. За десяток лет те помогли коллегам и пере­
бросили мяч обратно, что позволило игре выйти на новый
уровень. Нейросети стали глубокими, то есть стали состоять
из десятков тысяч, а впоследствии и сотен тысяч нейронов.
Для таких сетей стали разрабатывать особую архитектуру,
которая использовала новые открытия в том, как работает
неокортекс.

Нобелевские лауреаты в области медицины Торстен

Нильс Визель и Дэвид Хьюбел открыли в зрительной коре

202
 ДЕМОН ВНУТРИ

головного мозга кошки так называемые простые клетки, ко­

торые возбуждаются, реагируя на прямые линии под раз­

ными углами, и сложные клетки, реагирующие уже на соче­

тания простых клеток и их движение в одном направлении.

Получалось, что мозг различает паттерны, сначала выделяя

очень мелкие фрагменты изображений, а потом складывая
из них все более усложняющуюся картину.
Архитектуру, нацеленную на этот метод распознавания
образов, предложил в 1988 году французский математик
(снова тяжело одним словом охарактеризовать сферу инте­
ресов ученого!) Ян Лекун. Она получила название сверточ­
ных нейросетей - и ей предстояло стать рабочей лошадкой
глубокого машинного обучения, которая пыхтит и сегодня.
Сейчас Лекун возглавляет лабораторию искусственно­
го интеллекта Facebook в Нью-Йорке - что, кстати, многое
говорит о том, где применяются эти сверточные нейросе­
ти. Лекун не Эйнштейн и не Оппенгеймер, чтобы задавать
власть имущим вопросы о том, в каких целях используются

научные достижения, на благо людям или во зло. Сегодня

наука не та, что была 50-60 лет назад, ее перестроили так,
что она зависит от денег крупных корпораций и приватизи­
рованных ими государств. Талантливые ученые, такие как
Лекун, понимают, что их статус в современном обществе со­
всем не эйнштейновский.
«Фейсбук» известен тем, что использует ваши фотографии
для обучения своих нейросетей, и в общем довольно точно
может установить в итоге, кто изображен на фото - не толь­
ко размещенном в соцсети, но и вообще выложенном в ин­
тернет. Именно сверточные нейронные сети позволяют это
делать с максимальной эффективностью (в последние годы
к ним прибавились и капсульные сети).
Эта социальная сеть активно занимается профайлин­
гом, то есть сбором, классификацией и анализом дан­
ных о пользователях, которым эти данные, получается,

203
 ИГОРЬ ШНУРЕНКО

не принадлежат. Надо понимать, что «Фейсбуку» принад­

лежит также Whatsup, lnstagram и другие соцсети, кото­
рые, разумеется, обмениваются данными и используют
их для машинного обучения своего искусственного интел­
лекта. Пользователи бесплатно отдают этим соцсетям пра­
ва и на свои данные, и на свой контент - точнее, отдают
в обмен на почетное право быть членом сети, за право под­
вергаться цензуре, за право быть выпоротым или убран­
ным из сети из-за слов, которые не понравились невиди­

мым и неслышимым кураторам.

В этот электронный концлагерь люди идут добровольно,

раздеваясь и складывая стыд вместе с личными вещами

на входе. В больницах или образовательных учреждениях

мы заполняем кучу документов с разрешениями на обра­
ботку наших персональных данных, но «Фейсбук» просто
и открыто берет их у нас без всякого спроса. Якобы согла­
сие «подразумевается» на входе в сеть (а на входе в другие
места оно не «подразумевается»?
Эта публичная компания с капитализацией 500 миллиар­
дов долларов слишком сильна для того, чтобы власть иму­
щие осмеливались задавать ей вопросы. В апреле 2019 года
суд в Москве оштрафовал «Фейсбук» аж на три тысячи руб­
лей. Представитель компании на заседание не пришел, ни­
чего не сообщалось и о выплате компанией столь беспощад­
ного и разорительного штрафа.
Что останавливает «Фейсбук» от еще более широкого, чем
сегодня, коммерческого использования невиданных в исто­

рии человечества возможностей по контролю над мыслью

и сознанием? Пожалуй, лишь европейский закон о защи­
те персональных данных GDPR. Хотя это и слабая защита -
ведь «Фейсбук» научился обходить законы и, будучи самой
мощной в мире структурой в области рекламы и манипуля­
ции сознанием, знает, как преподнести себя публике с пози­
тивной стороны.

204
 ДЕМОН ВНУТРИ

Вы у нас под колпаком, мы контролируем ваши мысли

и зарабатываем на вас миллиарды, господа, но делаем это
для вашего же блага. Чтобы вам жилось лучше и веселей. Эта
компания еще совсем недавно была стартапом, но в послед­
ние годы сконцентрировала в своих сетях - не руках же?­
власть и могущество, которые не снились империям про­

шлого. Многие из власть имущих недостаточно образованы

и не следят за ошеломляющим развитием технологий на­
столько, чтобы отдавать себе в этом отчет. Другие уже ста­
ли лоббистами компании или считают за лучшее не стано­
виться ее врагами.

Ведь «Фейсбуку» есть что рассказать о каждом из них.

В фильме The Circle с Томом Хэнксом и Эммой Уотсон некая
соцсеть, очень похожая на дитя Цукерберга, собирает ком­
промат на всех политиков - ведь все мы сегодня прозрач­

ны для наших гаджетов, как бы ни старались что-то скрыть.

Сеть совсем не стесняется раскручивать нужных из них
и останавливать неудобных.
Еврокомиссия в 2018 году подала против «Фейсбука» мно­
гомиллиардный судебный иск как раз на основании GDPR,
после масштабного взлома данных пользователей. Но пер­
спективы этого иска неясны. Еще более серьезным казал­
ся «наезд» на «Фейсбук» в том же году американского кон­
гресса, разгневанного вмешательством соцсети в политику.

Об этом стало известно в ходе скандала вокруг компании

Cambridge Analytica, которая, скорей всего, отрабатыва­
ла для «Фейсбука» технологии, позволяющие влиять на ис­
ход выборов в таких странах, как США и Великобритания.
На стриминговом канале Netflix недавно вышел докумен­
тальный фильм The Big Hack, который подробно расска­
зывает о деле Cambridge Analytica, о том, как корпорация
с вполне рутинной менеджерской структурой - примерно
так же организован «Макдональде» или «KFC» занимается
прибыльным бизнесом: манипуляцией массовым сознанием.

205
 ИГОРЬ WHYPEHKO

Об этом более подробно в другой главе, а здесь отмечу,

что дело Cambridge Analytica, похоже, спущено на тормозах.
Не исключено, что в ход пошли приемы, о которых расска­
зывает фильм The Circle.
Но вернемся к сверточным сетям. Такое название эта по­
пулярная у разработчиков архитектура получила из-за опе­
рации свертки. Математически суть операции в следующем:
каждый элемент изображения последовательно умножается
на матрицу (ядро) свертки, результат суммируется и запи­
сывается в соответствующий пиксель изображения на свер­
точном слое. Таких слоев может быть много, а в итоге на вы­
ходе обученная сеть может с большой точностью класси­
фицировать объекты. Математикам, читающим эти строки,
наверняка все уже понятно, но остальным, вероятно, требу­
ется разъяснить, что всё это значит.
Что отличает сверточные нейросети от других нейросе­
тей? Разница между ними в наличии так называемых свер­
точных слоев, где и происходит распознавание паттернов.

Сверточный слой - это своего рода фильтр или набор филь­

тров, благодаря которым система выделяет паттерны все бо­
лее высоких уровней.
Что такое паттерны? Любое изображение можно разбить
на многочисленные края, формы разных видов, углы, круж­
ки, текстуры и так далее - то есть объекты, которые повто­
ряются. Это и есть паттерны. Например, один из типов пат­
терна, который нейросеть может распознать - это края изо­
бражения. Фильтр для этого типа паттерна можем назвать
«детектор краев», фильтр для углов - «детектор углов» и так
далее. Фильтр нейросети выделит паттерн в нашем изобра­
жении и передаст эту информацию дальше. Самые про­
стые геометрические паттерны мы обнаруживаем на пер­
вых слоях нашей сети, и чем дальше мы в нее углубляем­
ся, тем более сложные и абстрактные паттерны мы можем
разглядеть. Например, глаза, уши, волосы, мех, перья, носы,

206
 ДЕМОН ВНУТРИ

бороды, лысины, клювы и так далее - это тоже паттерны.

Идем в сеть еще глубже - и уже распознаем паттерны собак,
кошек, ящериц, политиков, змей, телеведущих ...
Предположим, мы хотим настроить нашу нейросеть
на распознавание кошек. Мы показываем ей кошку, но вна­
чале веса сети настроены случайным образом и на выходе
почти наверняка будет выдаваться ошибка. Еще нам нуж­
но, чтобы сеть умела обобщать - то есть выдавала сигнал,
что это кошка, даже если изображение на входе отличает­
ся от образца. Но отличается не слишком. Например, кошка
выгнулась или повернулась, при этом у нее все те же лапы,

мордочка и хвостик. Собственно, процесс обучения и за­

ключается в том, чтобы определить, каковы границы это­
го «не слишком». И чтобы мы, не дай Бог, не спутали кошку
с собакой или с черепашкой.
Допустим, обучение идет с учителем, который зна­
ет, как выглядит кошка. На входе сети действитель­
но кошка, а вот на выходе сеть выдает сигнал ошибки.
Неправильно!- говорит учитель, и применяет к сети ал­
горитм обратного распознавания ошибки. Алгоритм этот
впервые был описан в 1974 году преподавателем МФТИ
Александром Галушкиным, о котором рассказывалось ра­
нее. Свой вариант метода предложил и канадец Джефф
Хинтон, который совсем недавно произвел большой шум
в области машинного обучения, когда ввел в оборот про­
двинутую архитектуру капсульных нейросетей. О них мы
еще поговорим.

Что делает алгоритм обратного распознавания ошибки?

Он автоматически перенастраивает веса соединений сети
для того, чтобы при следующем показе кошки этот резуль­
тат был получен с меньшей вероятностью. Основная идея
этого метода состоит в распространении сигналов ошиб­
ки от выходов сети к её входам, в направлении, обратном
прямому распространению сигналов в обычном режиме

207
 ИГОРЬ ШНУРЕНКО

работы. Потом машине снова показывают точно ту же кош­

ку- и сеть опять выдает ошибку. Ее снова автоматически
перенастраивают, и так продолжается до тех пор, пока она

не выдает правильный сигнал. Сеть запоминает веса соеди­

нений при правильном ответе и воспроизводит их уже ког­
да ей показывают следующую кошку. Тут все повторяется
снова- и так до тех пор, пока сеть не научится распозна­

вать всех кошек и отличать их от всего остального. Конечно,

в этом описании не учтено множество важных аспектов,

о некоторых из которых пойдет речь ниже.

Но что же такое свертка, которая помогает нам ориенти­
роваться в этом мире животных? Пока наше описание по­
хоже на определение термина «сепуляция» из «Звездных
дневников Ийона Тихого» Станислава Лема. Как он писал,
сепуляция - это известный всем процесс, в ходе которого
получаются сепульки, для чего непременно нужен хоро­

ший сепулятор. Так и сверточные сети - результат извест­

ных всем действий по свертыванию того, что худо-бедно
свертывается.

Попробуем представить себе свертку визуально- кста­

ти, великие математики часто рисуют в своем воображении
картинки самых абстрактных понятий, и даже окрашивают
их в разные цвета. Человек думает образами, не случайно
именно через распознавание образов сегодня во многом
идет процесс создания искусственного интеллекта.

Каждый фильтр в математическом смысле-это матри­

ца. Вид паттернов, которые мы хотим обнаружить, запи­
сывается числами в матрице, то есть кодируется. Возьмем
простую матрицу три на три с произвольными числа­

ми от нуля до единицы в каждой ячейке матрицы. Пусть

на вход поступило некое изображение размером триста
на триста пикселей. Прокатим каждую матрицу три на три
через каждый блок этого изображения - таких блоков бу­
дет сто в квадрате, то есть десять тысяч. Прокатим - это

208
 ДЕМОН ВНУТРИ

значит проведем определенные математические операции

с данными в ячейках блока и в матрице, и результат запи­

шем в каждый пиксель сверточного слоя. Таких пикселей
будет девятьсот тысяч. Зрительно представить себе эту про­
катку матрицы через слой можно как пошаговое обвола­
кивание слоя этой матрицей, или, наоборот, свертывание
матрицы внутри каждого пикселя. Или лучше представьте,
как дран-матрица парит над джунглями изображения в по­
исках там партизан. В итоге матрица просвечивает каж­
дый элемент изображения, выявляя, не сверкнул ли среди
пальм гладкий металл автомата Калашникова. Так выявля­
ется, соответствует ли тот или иной элемент паттерну, ко­
торый мы ищем.
Представим себе, что нам нужно распознать ряд цифр,
написанный максимально корявым почерком. Для просто­
ты допустим, что каждая цифра написана отдельно от дру­
гих. Мы пропускаем изображение через сверточный слой,
где стоит четыре фильтра. Один фильтр распознает чер­
ные верхние и белые нижние края, другой - черные края
слева и белые края справа и так далее. Пропустив изобра­
жение через эти фильтры на первом сверточном слое, мы
определяем паттерны верхних и нижних краев изображе­
ния. На выходе получаем некий набор черточек. Следующий
фильтр сможет различить, в какую цифру складываются эти
черточки. Даже если края на входе весьма неразборчивы, хо­
рошо обученная сеть сумеет четко определить их, пропустив
изображение через несколько фильтров.
Края - это те самые черточки, которые видит кошка.
Видит - значит не просто регистрирует, а начинает за ними
следить, складывать их в фигуры. Когда паттерн черточек
движется в одном направлении, этот паттерн может в ко­

нечном итоге оказаться мышкой. И тогда кошка своего

не упустит.

209
 ИГОРЬ ШНУРЕНКО

Интересно, что распознав, допустим, цифру 7 из нака­

ляканных корявым почерком, нейросеть в принципе мо­
жет нарисовать идеальную семерку. Таким образом, она
научится порождать то, что никогда не видела. А это зна­
чит, что она способна к творчеству, к извлечению из хао­
са жизни идеала. Это качество мы считаем человеческим,
но не наступит ли в не очень далеком будущем момент, ког­
да машина сможет делать это лучше нас?
Нейросети срабатывают лишь тогда, когда сигналы
на входе превысили определенный уровень. В этом есть
плюсы и минусы: минус в том, что они могут пропустить

важное, но очень слабое изменение, а плюс в их нечувстви­

тельности к шуму. Это тоже вполне человеческое качество,
ведь и мы не срабатываем на каждый чих. Это создает поле
для ошибок, но вместе с тем позволяет нам не переполнять­
ся информацией и даже отвлекаться, уходить в себя. Нет
никаких причин, по которым нейросети на каком-то эта­
пе развития не смогут делать то же самое. Как и мы, они
способны отсекать искажения и делать обобщения благода­
ря своей структуре, тому как они созданы, а не потому что
их кто-то так специально запрограммировал.

У каждого свои недостатки, заметил герой фильма

«В джазе только девушки». Есть они и у классических свёр­
точных нейросетей. Например, если на изображении в слу­
чайном порядке появятся грудь, нос, волосы и губы, то об­
ученная на распознавание девушек свёрточная сеть распо­
знает ее. Человек же легко обнаружит такую ошибку. Еще
один минус - поворот объекта резко ухудшает качество рас­
познавания, тогда как для человеческого мозга это не про­

блема. Конечно, исследователи придумывали способы обой­

ти эти несовершенства - например, заводя в машину фо­
тографии объектов, снятых с разных ракурсов. Но в таком
случае сети требовались тысячи примеров и сложность за­
дачи возрастала на порядки.

210
 ДЕМОН ВНУТРИ

Проблема была решена совсем недавно, в 2017 году, когда

тот самый канадец Джеффри Хинтон ввел в оборот капсуль­
ные нейронные сети. Один из основоположников подхода об­
ратного распространения ошибки, о котором я уже рассказы­
вал, Хинтон сейчас обеспечивает лидерство компании Google
в ИИ-разработках. О том, как команда Google сумела обы­
грать чемпиона мира по го, речь пойдет ниже.
Google - скромная компания, которая активно работа­
ет над сбором и анализом всей возможной информации
о мире, о человеке, о Вселенной. Прежде всего визуаль­
ной информации, но и любой другой. Они ищут, пересни­
мают и оцифровывают все книги, изданные за всю исто­
рию от начала времен, все картины, все произведения ис­

кусства, пейзажи, фотографии, изображения и образы всего,

что когда-либо жило, живет или будет жить. Перед драна­
ми Google поставлена задача сфотографировать всю поверх­
ность Земли со всем, что на ней находится. Google также со­
ставляет подробнейшие карты всего. Иными словами, они
хотят быть способными распознать и интерпретировать всё,
что движется и не движется, всё что слышится и не слышит­
ся в диапазоне от земной коры до стратосферы. Потом они
пойдут выше и ниже.
Все эти объекты должны быть четко классифицированы,
чтобы этой информацией можно было пользоваться, что­
бы ее можно было анализировать и принимать решения.
Например, в постановке задач перед военными: бомбить
или не бомбить.
Но Google столкнулся с тем, что сверточные нейросе­
ти не очень хорошо понимают цельность объекта как та­
ковую, а в частности - соотношение друг другом его со­

ставных частей, а также те изменения в его виде, кото­

рые возникают, если менять расстояния до объекта и угол
зрения. Таким образом, оказывается возможным обду­
рить систему, а Google - серьезная публичная компания

211
 ИГОРЬ ШНУРЕНКО

с капитализацией примерно в 850 миллиардов долларов,

и не любит, когда систему, которую она продает, можно
обдурить.
Так проблемы, вставшие перед Google, побудили Хинтона
обратиться к идее, которая появилась у ученого еще сорок
лет назад, во время той самой «зимы ИИ». Тогда Хинтон
только что стал доктором наук в Эдинбургском универси­
тете. Он работал именно над решениями для искусствен­
ного интеллекта, но глубокое машинное обучение казалось
его коллегам журавлем в небе.
Хинтон обратил внимание на то, что естественный и ис­
кусственный интеллекты по-разному «читают» картинку,
которую видят перед собой. Нейросеть воспринимает мир,
как слепой, зашедший в незнакомый дом, ощупывая пред­
меты по одному и пытаясь понять, кто здесь живет. Вот по­
лированная поверхность, стул из тяжелого дерева с инкру­

стацией, за ним стол, сервированный серебряными прибо­

рами и тарелками из фарфора: должно быть здесь живут
люди богатые. Вначале нейросеть видит просто пиксели, по­
том они складываются в черточки, дужки и края, отделяю­

щие один цвет от другого, потом из этих деталек складыва­

ются более сложные объекты, мы словно наводим резкость

в объективе фотоаппарата.
Мозг человека работает не так. Мы видим всю картинку
сразу: ох, какой богатый дом! Шик и блеск! Пол застелен до­
рогими коврами, вот антикварный шкаф, ломберный столик,
мейсенский фарфор, вот столовое серебро. Но что-то на сто­
ле не так: упал бокал. И тут наш взгляд натыкается на тень
в углу под тикающими неспешно часами: там лежит чело­

век ... Ковер под ним изменил свой цвет, побурев от крови,
и мы понимаем, что здесь произошло убийство.
Наверное, эволюция и наше пещерное прошлое
причиной тому, что мы видим всю картинку сразу.
Когда-то мы не могли позволить себе долго всматриваться

212
 ДЕМОН ВНуТРИ

в изображение: оно бы тут же нас съело! Поэтому и дви­

жущиеся объекты мы до сих пор видим сразу, а остальная
сцена для нас - фон, который мы можем не замечать. Более
того, среди движущихся объектов мы в первую очередь
примечаем живые существа. Как мы это делаем? Прежде
всего по глазам. Если мы не видим глаз существ, представ­
ляющих для нас опасность, мы испытываем первобытный
ужас. Чувство, что опасность рядом, но мы не можем ее сво­
евременно опознать, пронизывает нас насквозь. Возможно,
поэтому мы так боимся змей и ядовитых пауков.
Этими свойствами человеческого мозга издавна пользо­
вались живописцы. Посмотрите, например, на «Женщину
в красной шляпке» Вермеера: все наше внимание в этой
картине приковано к глазам молодой женщины, к ее лицу,
несмотря на то, что они находятся в тени - а вот на узо­

ры гобелена мы вообще не обращаем внимания, хотя это

изображение находится прямо у нас перед глазами. Нам
важно понять, что чувствует женщина, мы сразу ухваты­

ваем ее эмоцию, а вот детали фона словно бы остаются

невидимыми.

Художник знает об этом эффекте восприятия: он и сам

так видит. Разумеется, искусственная нейронная сеть «ви­
дела» бы эту картину совершенно иначе и с самого нача­
ла потратила бы на расшифровку фоновых узоров гораз­
до больше усилий, чем на обработку глаз, таких небольших
по площади объектов. Отметим при этом, что нас никто
не инструктирует насчет важности глаз женщины в этой
картине: мы знаем об этом в тот самый момент, когда бро­
саем на нее первый же взгляд.
Конечно, уже давно маркетологи эксплуатируют эти осо­
бенности нашего восприятия, манипулируют ими, на них
нажиты и продолжают наживаться гигантские состояния.

Ниже в специальной главе мы остановимся на особенностях

213
 ИГОРЬ ШНУРЕНКО

восприятия человеческого мозга и принципиальных отли­

чиях натурального интеллекта от искусственного.

Поразительная способность человека мгновенно ухва­

тывать суть сложной проблемы, выделять самое главное
не только из картинки, но и из книг, из звуков, понимать

процессы в их динамике, вовсю изучаются нейрофизиоло­

гами, психологами и философами в самых разных странах,
на это брошены гигантские ресурсы. Ведь чем быстрее уче­
ные опишут механизм работы восприятия, тем ближе к ре­
шению станет задача синтеза искусственного разума.

Когда Хинтон создавал капсульные нейросети, он также

использовал эту особенность. Получив визуальную инфор­
мацию, мозг распознает ее, используя уже усвоенные пат­

терны и отношения между ними, писал Хинтон. Если ис­

пользовать тот же подход, мы распознаем женщину неза­

висимо от угла, под которым мы ее увидим.

ТАНЦУЮЩИЕ ПАТТЕРНЫ

Как это сделать на практике? Хинтон обратился к трехмер­

ной графике, где отношения между трехмерными объекта­
ми называются «позами». «Поза» - это матрица, которая
описывает перемещение тела и его поворот. Так вот, Хинтон
предложил очень важный принцип: что для того, чтобы
безошибочно распознавать и классифицировать объекты
на выходе сети, нужно сохранять отношения «поз» частей
объектов друг к другу. Такие отношения описываются четы­
рехмерными «матрицами поз».

В одном научно-фантастическом рассказе трехмерная

развертка мира ставится «на ребро», и при толчке со сто­
роны внешних сил складывается в четырехмерный кубик.
Так и с «матрицами поз», которые описывают трехмерный

214
 ДЕМОН ВНУТРИ

объект: сохраняя матрицу, нейросеть всегда сумеет отли­

чить этот объект, вне зависимости от угла, под которым его
видит.

Конечно, если модель одной только этой особенности

мозга требует четвертого измерения, можно лишь востор­
гаться таким творением, как человек!
Капсульная сеть, использующая этот подход, совершает
вполовину меньше ошибок в распознавании и классифи­
кации, чем сверточная, при этом ей требуется на порядки
меньше данных.

Распознаваемые первыми слоями нейросети черточки

и дужки обобщаются в паттерны, потом в определенные со­
четания паттернов, то есть паттерны более высокого уров­
ня: допустим, точка, точка, запятая - вместе «рожица» кри­

вая. Потом эти рожицы словно заворачиваются в капсулы,

и дальше продолжают распознаваться, как бы мы их не вер­
тели. И если рядом будут лежать еще несколько точек и за­
пятых, не укладывающихся в «матрицу позы», система

не опознает их как «рожицу».

Работу капсульных нейросетей можно образно предста­

вить и в виде балета.
Допустим, мы хотим обучить искусственный интеллект
ставить кордебалетную сцену в царстве теней из моего
любимого балета «Баядерка». Паттерны - это балери­
ны. Черточки и дужки сложились в пачки, в ноги и руки,
в прекрасные головки танцовщиц. Мы их всех распоз­
нали и выпускаем на сцену, и они танцуют под музыку

Минкуса. Танцевать они будут кто во что горазд, пры­

гая в разные стороны и вертя свои фуэте как придется.
Более того, они быстро начнут терять свои конечности:
руки, ножки, головки прекрасных девушек будут хаотич­
но носиться по сцене и переходить от одной к другой
и вся сцена вскоре будет напоминать бурную дискоте­
ку в переполненном клубе, где уже ничего не различить

215
 ИГОРЬ ШНУРЕНКО

и остается лишь подпустить побольше дыма. Сверточные

сети мало помогут нам в обучении: прима-балерина
Ульяна Лопаткина получит, может быть две или три го­
ловы, а потом, отказавшись от них, сначала размножится,

а потом пропадет вовсе. Но по мере обучения при помо­

щи капсульных нейросетей пространственные отноше­
ния балерин друг к другу будут закрепляться, и мы полу­
чим желаемый танец.
Точки света и тени сначала сложатся в балерин, невиди­
мые капсулы охватят их так, что мы безошибочно распо­
знаем отдельных балерин вне зависимости от их танцеваль­
ных па. Далее паттерны будут словно заворачиваться в кап­
сулы, и продолжат распознаваться как бы мы их ни вертели.
Будет освоено на более высоком уровне и сочетание этих
паттернов в капсулах. Например, вот жрецы в индусском
танце, они закапсулированы в своих нарядах, а вот девуш­

ка с кувшином. Нейросети распознают паттерны в не про­

сто в их бессвязных наборах, а в их ориентации, в сочета­
ниях, в танце.

На более высоком уровне абстракции мы признаем про­

никновенный ритуал спуска теней перед безутешным
Солором, курящим гашиш в своей собственной четырех­
мерной матрице. Постепенно обучаясь, сеть будет поко­
рять уровень за уровнем. И если мы обучим нейросеть всему
сложнейшему рисунку этого балета, то, глядишь, когда-ни­
будь она превзойдет уровень провинциального режиссера
и заключит в свою нежную многомерную матрицу общий
образ сцены, столь напоминающей движения рук Никии
в ее последнем смертельном танце.

Нет, впрочем, даже самые продвинутые на сегодняш­

ний день капсульные нейросети вряд ли способны на та­
кой тур-де-форс-поэтому искусственный интеллект пред­
ставит нам свою вариацию Гамзати или прощальный та­
нец Никии еще очень нескоро. Но в менее ответственных

216
 ДЕМОН ВНУТРИ

постановках - таких, как тренировка роботов открывать

двери и не падать при этом со ступенек - капсульные сети

уже что-то могут.

Почему к идее капсульных сетей не пришли на сорок

лет раньше? У Хинтона, по его рассказам, она уже верте­
лась в голове. Возможно, и наш соотечественник Александр
Галушкин вынашивал в своей голове что-то подобное.
Но ни у того, ни у другого тогда просто не было ни вычис­
лительных возможностей, ни достаточно сложного матема­
тического аппарата, чтобы это осуществить.

ЛУЧШЕ, ЧЕМ ЛЮДИ

В октябре 2016 года команда разработчиков Microsoft, ра­

ботающих с искусственным интеллектом (известная как
MAIR, Microsoft Artificial lntelligence and Research), сообщи­
ла о создании системы распознавания речи, которая оши­

бается меньше, чем люди. По данным исследователей, по­

словная вероятность ошибки снизилась до 5, 9%. В декабре
следующего, 2017 года этот показатель удалось снизить уже
до 5 процентов. Это означает не только то, что гаджет смо­
жет расшифровать запись выступления человека лучше вас.
Это значит, что машина понимает логику построения чело­
веческой речи лучше вас. Она сумеет синтезировать речь
так, что вы точно не почувствуете, что говорит не человек,

а искусственный разум. Надо понимать, что это нас ждет

в самом ближайшем будущем.
Системы полнотекстового распознавания речи уже сейчас
вовсю применяются банками. Например, переговоры опе­
раторов с должниками преобразуются в текст, который за­
тем сохраняется в специализированном хранилище.

Перед тем как перевести сервис Google Translate на глу­

бинное обучение, нейросеть опробовали в сложнейшей

217
 ИГОРЬ ШНУРЕНКО

языковой паре английский-китайский. Количество оши­

бок перевода снизилось сразу на 60%. Нейросеть сразу до­
стигла гораздо лучшего качества перевода, чем обычные
статистические методы.

Распознавать образы машина, по некоторым данным, на­

училась лучше нас еще в 2015 году. Почему мы можем это
предположить? Есть такой проект lmageNet - большая база
данных, которая состоит из более 14 миллионов визуальных
образов, аннотированных вручную. Она содержит также бо­
лее 20 тысяч категорий наподобие «клубника» или «воздуш­
ные шары», каждая состоит из нескольких сотен картинок.

С 2010 года ImageNet проводит ежегодное состязание,

в котором принимают участие десятки программ распо­

знавания образов со всего мира. Участникам представля­

ется выборка из примерно тысячи категорий с непересе­
кающимися образами в каждом. Задача для программ: как
можно точнее распознать и классифицировать все образы.
Поскольку образцы, заполненные людьми, уже имеются,
есть вполне убедительный критерий для сравнения.
В первые пару лет победители достигали уровня при­
мерно в 25%, но уже в 2012 году, когда начался бум свер­
точных нейросетей, соревнования выиграла программа
AlexaNet, сверточная сеть, которая достигла уровня в 16 про­
центов ошибки. Исследователи Microsoft утверждают, что
в 2015 году достигли при работе с этой базой человеческого
уровня распознавания образов, что соответствует примерно
5-процентной ошибке, и даже превзошли его.
Не все ученые согласились с этим выводом. Так, одна
из организаторов состязания Ольга Русаковская сочла, что
пока рано говорить о превосходстве машины над челове­

ком: ведь люди распознают не тысячу категорий изобра­

жений, чему программисты учат свои нейросети, а го­
раздо больше. Кроме того, в отличие от программ люди

218
 ДЕМОН ВНУТРИ

лучше и быстрей понимают контекст, в котором находится

изображение.
В соревновании 2017 года 29 команд из 38 участвую­
щих показали результат ошибки меньший, чем 5 процен­
тов. В ноябре того же года команда проекта Google по раз­
работке нейросетей с новыми топологиями создала си­
стему NASNet, оптимизированную под ImageNet, которая,
по утверждениям представителей Google, превзошла все ре­
зультаты, достигнутые кем-либо ранее.
Тогда же организаторы ImageNet заявили, что в новом со­
стязании они предложат участникам классифицировать уже
не двухмерные, а трехмерные образы. Это наверняка будет
способствовать развитию систем с ИИ в таких областях, как
робототехника и дополненная реальность.
Нейросети пока хуже людей отвечают на вопросы, задан­
ные по картинкам, на понимание того, что там изображено,
но быстро нагоняют людей и в этом. Люди правильно отве­
чают на вопросы в 86 процентах случаев. В 2015 году пока­
затель машин составлял 57 процентов, а в 2017 году-уже
72 процента, так что через два-три года и эта вершина будет
покорена искусственным интеллектом.

Разработчики создают сегодня все более мощные микро­

чипы специально для нейросетей. Например, пять лет на­
зад компания IВМ представила чип нового поколения True
North, который реализует нейронную сетку, эквивалентную
миллиону нейронов и 256 миллионам синапсов. Более того,
чип имеет сходную с неокортексом архитектуру.

Чем такой специализированный чип лучше обычных?

Дело в том, что в обычном чипе для компьютеров память
разнесена с блоками обработки. Такие машины называют­
ся фон-неймановскими, их архитектура базируется на раз­
работках принстонского математика и физика венгерско­
го происхождения Джона фон Неймана, разработавшего ее
еще в 1945 году.

219
 ИГОРЬ ШНУРЕНКО

Но в реальном времени, в оперативной обстановке, в ко­

торой работают, например, машины, распознающие лица,
практически невозможно наладить массивный обмен ин­
формацией между ядром процессора и базами данных.
А ведь настоящие нейроны, те, которые в мозгу, являются
одновременно и ячейками памяти, и «процессорами», обра­
батывающими информацию. В этом их принципальное от­
личие от фон-неймановских машин! Чипы, которые повто­
ряют устройство коры головного мозга, позволяют гораздо
быстрее и надежнее выполнять такие операции. Получается,
что чип наподобие True North имеет миллион процессоров,
каждый из которых обрабатывает информацию, поступа­
ющую с 256 входов. Производительность такого чипа еще
недавно было трудно себе представить!
Именно поэтому искусственные нейросети преуспе­
ли сегодня в распознавании изображений в таких, напри­
мер, задачах, как классификация объектов в видеопотоке -
то есть выделять людей, автобусы, легковые автомобили,
велосипеды и так далее. Собственно, сокращение размеров
искусственных нейросетей и уменьшение их погрешно­
стей до уровня, когда они стали ошибаться реже, чем чело­
век, напрямую связано с использованием таких чипов, как

True North. Весной 2016 года на базе шестнадцати 28-нано­

метровых процессоров True North был создан первый, как
заявила компания IBM, когнитивный компьютер. Он был
сделан по заказу Национальной администрации по ядер­
ной безопасности США. Такой компьютер, помимо высо­
кой производительности, обладает повышенной надежно­
стью, ибо ему не нужно подключаться к какой-то внешней
базе данных.
В
2018 году подобный микрочип презентовала и ком­
пания Intel, которая с начала 2010-х годов с ревностью
следила за разработками компании IВМ. Он называет­
ся Loichi - произносится «Лоуихи», по имени подводного

220
 ДЕМОН ВНУТРИ

вулкана на Гавайях, который вот-вот должен выйти на по­

верхность. Это совсем недавняя разработка, и «Интел» са­
мим названием намекает на блестящее будущее новой тех­
нологии и его взрывную силу, которая призвана «порвать»

целые отрасли человеческой деятельности. В нем помень­

ше, чем у True North, условных нейронов - 131 тысяча,
и «всего» 130 миллионов синапсов. Он, конечно, не такой
мощный, как продукт IВМ, но эта разработка уже пятая
в линейке нейроморфных чипов компании Intel, и он вдвое
тоньше, чем True North, потому что создан по 14-наноме­
тровой технологии.
«Лоуихи» сочетает в одном чипе процессы обучения
и принятия решений без подключения к облаку. Компания
утверждает, что чип, площадь которого составляет всего 60
квадратных миллиметров, обучается в тысячу раз быстрее
нейросетей на базе обычных компьютерных систем. Также
при обучении чип использует значительно меньше ресур­
сов, чем обычные сверточные сети на базе других процессо­
ров, что экономит время, уменьшает потребление энергии
и повышает скорость принятия решений.
Гонка нейроморфных процессоров только начинает­
ся - по некоторым оценкам, объем этого рынка к 2025 году
составит 60 млрд долларов. В конце 2018 года в Сан­
Франциско компания BrainChip объявила о создании чипов
Akida NSoC с новой архитектурой, мощность которых соста­
вит уже эквивалент 1,2 миллиона нейронов и 10 миллиар­
дов синапсов. То есть, если верить заявлениям компании,
эффективность этого чипа будет в 10 раз выше, чем у кон­
курентов из IВМ и lntel.
В Европе о создании нейроморфного процессора, пре­
жде всего нацеленного на обработку видеоданных, объя­
вил в апреле 2019 года стартап, созданный в университе­
те Цюриха, aiCTX AG. Чип называется DynapCNN, он соз­
дан по 22-нанометровой технологии и имеет размер 12

221
 ИГОРЬ ШНУРЕНКО

квадратных миллиметров, при том что его мозность соста­

вит эквивалент 1 миллиона нейронов.

Нейроморфные чипы в сочетании с новыми разработка­
ми в области глубокого обучения произведут революцию
в распознавании изображений и сделают доступными си­
стемы искусственного интеллекта в переносных устрой­
ствах, работающих на батарейках, или в устройствах, под­
ключенных к IoT, Интернету вещей. В 2020 году таких
устройств ожидается уже 30 миллиардов, в 2021 - м - око­
ло 36 миллиардов, а к 2025 году-уже более 75 миллиардов.
Техника, соединенная в сеть и снабженная микрочипами
с искусственным разумом внутри, сделает мир совершенно

другим.

В одно прекрасное утро вы проснетесь, а ваш утюг бу­

дет способен написать для вас сюиту для фортепиано с ор­
кестром. Или упаковать вас в контейнер с дырочками для
дыхания и отправить на Дальний Восток, где люди нужней.

КТО КОГО?

Прочтите, пожалуйста, диалог ниже, и скажите, кто из его

участников человек, кто машина. Или, может быть, они оба
люди? Или обе машины?

2015-06-0312:04:13 И: я Соня Гусева, здраствуйте!

2015-06-0312:04:25 С: Привет
2015-06-0312:04:25 И: можно вас спросить кое-что?
2015-06-0312:04:43 С: Конечно
2015-06-0312:04:43 И: кто вы по знаку зодиака?
2015-06-0312:04:54 С: Скорпион
2015-06-0312:04:54 И: водные знаки-это люди, которые
могут многое:)))
2015-06-0312:05:24 С: У каждого человека есть потенциал

222
 ДЕМОН ВНУТРИ

2015-06-0312:05:24 И: хм ... а как вас зовут?

2015-06-0312:05:37 С: Евгений
2015-06-0312:05:37 И: будем занкомы, Евгений!
2015-06-0312:05:54 С: а как тебя зовут?
2015-06-0312:05:54 И: Соня, я же сразу сказала:)))
2015-06-0312:06:18 С: Да, совсем плохо с памятью
2015-06-0312:06:18 И: ну, хорошо
2015-06-0312:06:35 С: А чем ты занимаешься, Анна?
2015-06-0312:06:35 И: не Анна, а Соня!!!
2015-06-0312:06:53 С: Но все равно чем же ты занима-
ешься?
2015-06-0312:06:53 И: ещё не решила
2015-06-0312:07:03 С: Учишься?
2015-06-0312:07:03 И: щас каникулы, а так я учусь в шко­
ле 506, перешла в 8 класс

Пояснение к этому тексту вы найдете чуть дальше в этой

главке, а пока попробуем ответить на вопрос: насколько ма­
шины уже сегодня могут обманывать человека?
Оказывается, можно предложить вполне количествен­
ный критерий «превосходства машины над человеком»,
или, если хотите, наоборот, «превосходства человека над
машиной». Вы уже догадываетесь, кто мог разработать та­
кой критерий.
Правильно, это был Алан Тьюринг.
Еще в своей работе 1950 года «Вычислительные машины
и разум» математик предположил, что через 50 лет маши­
ны с памятью в 1О в 9 степени бит смогут обмануть чело­
века в 30 процентах случаев в ходе пятиминутной сессии
вопросов-ответов.

Речь идет о тесте Тьюринга, в ходе которого человек до­

прашивает некое существо, не зная, машина это или че­

ловек, и пытаясь установить истину. Стратегия обычно

заключается в том, чтобы попытаться поймать машину

223
 ИГОРЬ ШНУРЕНКО

в какую-нибудь логическую ловушку, прежде всего на уров­

не понимания языка. Чем выше уровень искусственного
интеллекта во владении естественным языком, тем мень­

ше шансов на то, что человеку удастся разоблачить маши­

ну. Тьюринг и не мечтал о вычислительных возможностях
и объеме памяти современных машин, которые на мно­
го порядков превзошли его прогнозы. Но кембриджский
криптограф, пожалуй, переоценил их способности - как,
между прочим, и предполагал его учитель, философ Людвиг
Витгенштейн. На самом деле только недавно системы с ис­
кусственным интеллектом приблизились к показателю в 30
процентов убежденных.
В 2001 году три программиста из Петербурга, Владимир
Веселов, Евгений Демченко и Сергей Уласен, придума­
ли чатбот Eugene Goostman - программу, изображавшую
тринадцатилетнего мальчика из Одессы, не слишком об­
разованного, говорящего не очень правильно и делающе­

го ошибки. Искусственный мальчик много раз принимал

участие в соревнованиях программ на выполнение теста

Тьюринга, но лишь в 2012 году, в год, когда отмечалось сто­

летие создателя теста, сумел почти добиться результата,
предсказанного математиком. Goostman победил в состя­
зании, сумев убедить 29 процентов судей в том, что он «ре­
альный мальчик».
Через два года ему удалось обмануть уже 33 процента су­
дей, хотя некоторые подвергли «Юджина Густмана» кри­
тике, считая, что часть судей купилась на юмор паренька,
что не совсем в тему, и потому результат не должен быть
засчитан.

В любом случае, другой чатбот, «Соня Гусева», победила

в первом соревновании по преодолению теста Тьюринга
на русском языке с показателем, превышающим 30-про­
центный уровень обмана.

224
 ДЕМОН ВНУТРИ

По легенде Соня-12-летняя школьница, и в ходе трех­

минутного теста ей удалось убедить 47 процентов судей
в том, что она та, за кого себя выдает. В записи диалога
Сони с судьей, приведенной в начале главки, Соня обозна­
чена буковкой И (испытуемый), а судья - буквой С. Записи
разговоров Сони с судьями доступны в интернете - если
интересно, вы можете их нагуглить. В этих разговорах дей­
ствительно не так просто определить, человек перед нами

или робот, и можно не сомневаться, что через несколько

лет с уверенностью нельзя будет определить машину поч­
ти во всех случаях.

Через три года после этого соревнования разработ­

чик Сони Гусевой, эксперт в области машинного обучения
Иван Голубев сравнил поведение своей питомицы с голо­
совыми помощниками Алисой (от «Яндекса») и Ассистента
от «Гугла». Его анализ, несмотря на неизбежную субъектив­
ность, довольно интересен, к тому же он показывает про­

блемы, которые пытаются решить разработчики подобных

помощников с тем, чтобы соблюсти баланс между полезно­
стью и «человечностью» помощников.

Оказалось, что разработчики Сони придали ей более

уникальную личность, или, если хотите, легенду. У нее есть
своя манера ставить смайлики и игнорировать некото­
рые правила орфографии. Алиса, поговаривают, влюблена
в Хабенского - но о том, как это влияет на погоду, нужно
спрашивать у самого Хабенского. «Гугл» не стал придавать
своему Ассистенту каких-то уникальных черт.
Соня - самая естественная из трех ботов, она допускает
ошибки и никогда не повторяется. Алиса ошибок не может
себе позволить - видимо, поддерживает репутацию брен­
да. В этом смысле живее Ассистент. Соня не слишком точно
отвечает на вопросы, что понятно: она же создавалась как

раз для того, чтобы обвести судей вокруг пальца, изображая

человека. Алиса отвечает на вопросы точнее, но готова ради

225
 ИГОРЬ ШНУРЕНКО

этого «спалиться»: например, отвечая на вопрос, будет ли

завтра дождь, она не отвечает просто, а упорно сообщает
весь прогноз. Ассистент, увы, проигрывает в понимании
обеим. Соня расширяет тематику разговора, запрашивая
информацию о собеседнике, запоминая ее намертво и ис­
пользуя. Алиса, к сожалению, практически не использует
контекстную информацию, уступая в этом даже Ассистенту,
который хотя бы обучен называть собеседника по имени.
Соня хорошо имитирует такое человеческое качество, как
инициатива. Она любит сама вести разговор и не позволяет
себе пауз, как Ассистент. Алиса тоже иногда задает вопро­
сы, но в целом более похожа на машину, чем Соня, в этом
отношении.

Итак, есть основания считать, что Соня превосходит чат­

ботов «Яндекса» и «Гугла», во всяком случае по некоторым
характеристикам. Что из этого следует? Наверное, то, что
упомянутые чатботы больших компаний не очень-то ис­
пользуют тест Тьюринга в своих разработках. Не считают
это важным или по какой-то другой причине. А зря.

ДУШЕДИЗАЙНЕРЫ

Думаю, в близком будущем ситуация изменится. Помощ­

ников типа Алисы будут разрабатывать не целые отделы
больших корпораций типа «Яндекса» или «Гугла», а инди­
видуальные предприниматели, фрилансеры, частные кон­
тракторы. Они будут придумывать персонажей со своими
историями, особенностями, внешностью, манерой произ­
ношения и так далее, а крупные компании будут искать то,
что им нужно, и покупать их на новом рынке «помощни­

ков». В голову приходит сравнение этого рынка с рабовла­

дельческим, когда хозяева ходят между рядами и выбирают
«товар», заглядывая ему в зубы, щупая мускулы, оценивая,

226
 ДЕМОН ВНуТРИ

сколько проживет раб или рабыня, какой от него или нее бу­
дет приплод. Будут, наверное, специальные боты-оценщики,
суммирующие все достоинства и недостатки, предлагающие

цену, умеющие ее сбивать ...

Думаю, неизбежно возникновение такого рынка «искус­
ственных рабов», «роботов под заказ», рынка «душ». Там
будут делать «души под заказ» или продавать уже готовые
«души», «души, бывшие в употреблении», с объявлениями
вроде: «Изготовим помощника с искусственным интеллек­
том под ваши нужды. Конфиденциальность гарантируется».
Интернет будет забит подобными объявлениями настолько,
что законодателям придется подумать о том, чтобы огра­
дить людей от их излишнего распространения. Возможно,
будут выдавать лицензии на работу «с рабами», на их покуп­
ку и продажу, возможно, на это придется оформлять специ­
альное разрешение. Хотя сторонники эффективного управ­
ления будут призывать к тому, чтобы снять все ограничения
на торговлю «рабами» и «душами», ибо технический про­
гресс, он такой, он не любит контроля ...
Уже сегодня появились первые ласточки такой торгов­
ли- китайская компания «Согоу» в 2018 году изготовила
нескольких телеведущих по заказу китайского телевидения,
а в следующем году стала выполнять заказы из других стран.

Почему же я думаю, что такие заказы перейдут по большей

части в руки частных подрядчиков? Ведь сделать ИИ под за­
каз, да в пакете с визуальным сопровождением могут сейчас
только довольно крупные компании. Но понятно, что тех­
нологии изготовления своего ИИ, технологии его обучения
станут доступнее. Уже сейчас есть платформы с ресурсами
в открытом коде, где вы можете создать свой ИИ. Кроме это­
го, широкое распространение получат нейроморфные ми­
крочипы, то есть процессоры, специально созданные под

задачи построения и обучения искусственного интеллек­

та. Останется лишь творческая часть, требующая интуиции,

227
 ИГОРЬ ШНУРЕНКО

вкуса, неожиданных решений, да, в конце концов, решений,

которые бы понравились заказчику. Вот тут и понадобится
человек- творец, «дизайнер душ», душедизайнер. Впрочем,
можно представить себе и систему с ИИ, которая будет изго­
товлять «рабов с ИИ под заказ» для заказчиков-Ии. Во вся­
ком случае, функции HR, отбора и покупки «душ» будет, ве­
роятно, осуществлять машина, а кто как не машина знает,

что делать, чтобы понравится другой машине? Например,

сегодня очень высокооплачиваемые специалисты по SMM
и SEO занимаются тем, чтобы связать человека и машину,
чтобы понравиться искусственному интеллекту поиско­
вика или алгоритму соцсети. Эти люди приучаются думать
как алгоритм, понимать алгоритм с «полуслова». Уже сейчас
возникают системы с ИИ, которые призваны заменить этих
дорогих специалистов, а если учесть еще Интернет вещей,
в итоге машины по большей части будут общаться с маши­
нами. Поэтому логично представить, что и покупкой «душ»
будет заниматься машина, а следовательно и тем, кто будет
изготовлять «души» под заказ, следует заранее ориентиро­

ваться на «машинный вкус».

Большая часть таких «рабов», «помощников» или «душ
под заказ» не будет иметь тел - ведь нужны будут не их руки,
а их умение говорить, общаться, убеждать и продавать, ста­
вить диагноз, давать консультации и так далее. Работников
без тел можно будет легко пересылать в любую точку зем­
ного шара и даже посылать в космос, более того, один такой
«помощник» может обслуживать целое множество клиентов.
Что касается тел, то их стоимость, я думаю, будет ра­
сти. На рынке появятся органы длительного использова­
ния, возможно, с дополнительными функциями, и так как
это будут уникальные разработки, стоить они будут дорого.
Даже когда дойдет до массового производства таких орга­
нов, компании-изготовители постараются сохранить свои

доходы, не торопясь снижать цены - скорее предлагая все

228
 ДЕМОН ВНУТРИ

более усовершенствованные модели органов. Затем цены

начнут потихоньку снижаться, рынок будет потихоньку
насыщаться, но пройдет еще немало времени, прежде чем
технологическое развитие упрется в какой-нибудь неожи­
данный барьер и на рынке начнется консолидация, с оже­
сточенной конкурентной борьбой и обвальным снижени­
ем цен.

Я описываю сценарий развития рынка тел и рынка «душ»

при сохранении привычных нам форм капитализма, но кто
знает, возможно, капитализму, каким мы его знаем, насту­

пает конец. Только конец вовсе не такой, как предполагали

Маркс, Ленин или «белый волшебник» Стив Джобс. Все будет
иначе - и чтобы понять куда ведет тренд, обратимся к исто­
рии великого технологического дара, которым новые техно­

логии совсем недавно облагодетельствовали человечество.

Речь пойдет об интернете.
В середине 1990-х считалось совсем не очевидным, что
на интернете можно заработать. Я прекрасно помню идеа­
листов из Колорадо, собиравшихся вокруг Института Наропа
и отстаивавших права деревьев, вплоть до подачи ис­

ков к штату и отделения флоры от государства. Некоторые

из них уже вовсю работали над интернет-платформами вме­
сте с партнерами из Калифорнии и были убеждены в том,
что интернет должен быть свободен от наживы. Да и как
можно построить бизнес-модели в глобальной сети, где лю­
бая информация распространяется мгновенно и бесплатно?
Врагом всего мыслящего человечества, проживающего
преимущественно в Болдере, Пало Альта и Санта-Монике,
стала тогда компания Microsoft. Враги народа попытались
монетизировать свою разработку Internet Explorer за счет
того, чтобы засунуть и туда свои олигархические корпора­
тивные «окошки» - систему Windows.
Все люди доброй воли выступили с протестом, ибо
майкрософтовский браузер показывал, таким образом,

229
 ИГОРЬ WHYPEHKO

поползновения к тому чтобы стать монополией, закрывая

дорогу таким прогрессивным разработкам, как хипповый
браузер Netscape или контркультурные поисковики Alta
Vista и Yahoo. Люди доброй воли знали, на какие кнопки
нажимать, в какие прогрессивные газеты писать колонки,

тем более что у власти была дружественная всему новому,

прогрессивному и в меру бунтарскому Демократическая
партия, которая всегда выступала за интернет с человече­

ским лицом и вообще за все хорошее.

Что ж, правительство Соединенных Штатов заняло пра­
вильную сторону истории и вкатило иск «Майкрософту», ко­
торый компания проиграла. Суд длился несколько лет, юри­
сты пили из олигарха Билла Гейтса кровь галлонами, купа­
лись в шампанском, нюхали кокаин и покупали себе виллы
с видом на море на самых дорогих курортах. Погрязнув
в разборках, Microsoft потерял монопольные позиции
на рынке, куда пришли новые игроки.

Во время процесса, в 1998 году в Менло Парке,

Калифорния возникла прогрессивнейшая компания
Google - демократический поисковик для народа. А через
шесть лет в городке Кембридж, Массачусетс, некий Марк
Цукерберг со своими дружками по Гарварду основал ком­
панию Facebook - демократическую социальную сеть для
того же народа. Она почти сразу же переехала в тот же са­
мый Менло Парк и расположилось по адресу, который сего­
дня звучит так: Хакерский проезд, дом 1.
Поле было расчищено. В интернет потянулся народ -
привлеченный как раз его бесплатностью, его демократиз­
мом, его возможностями, открытыми для всех. Как вы­
яснилось, простые рабочие парни из Facebook, Google
или Amazon гораздо агрессивнее «Майкрософта» подошли
к вопросу монетизации, и сумели разработать бизнес-мо­
дель, которая стала приносить им потоки денег - столь­

ко денег, сколько они не знали, куда потратить, и потому

230
 ДЕМОН ВНУТРИ

вкладывали в скупку своих конкурентов, желательно еще

в момент их младенчества.

Бизнес-практики этих компаний хорошо известны. Apple

может не пускать в свой Арр Store приложения, которые
составляют конкуренцию его продуктам, Amazon копи­
рует бизнес конкурентов, а потом через демпинг пускает
их по миру- или делает им предложение, от которого нель­

зя отказаться, зная, с кем сражаешься. Тем более, что вы

платите налоги, а Amazon нет: печалька. Сейчас уже труд­
но представить себе, чтобы кто-то осмелился подать в суд
на эти крупные технологические корпорации, как это было
когда-то с иском против «Майкрософт». Федеральный про­
курор Роберт Мюллер - тот самый, который расследовал
«Рашагейт» - сделал себе имя на исках против монополий,
поданных в Калифорнии, но когда он ушел на повышение
и стал спецпрокурором, число таких исков резко уменьши­

лось. Прокуратура теперь старается закрывать глаза на де­

лишки монополий: ведь те могут нанять команды лучших
юристов за любые деньги, в то время как ведущие против
них дела госслужащие работают с 9 до 6 и очень ограниче­
ны в ресурсах. Для борьбы с монополиями нужны пасси­
онарии типа Мюллера, но таких много не делают. Так что
сегодня крупные технокорпорации могут спокойно унич­
тожать конкуренцию и выжигать землю под ногами сопер­

ников ради сохранения монопольно высоких прибылей.

Вернемся к победному шествию искусственного интел­
лекта по планете. Кто сумеет лучше других его монетизи­
ровать? Ключ от волшебной двери будет сохраняться у мо­
нополий, которые активно разрабатывают эти технологии,
встраивая, разумеется, свои продукты во все разработки.
Допустим, американским законодателям не удастся об­
уздать таких гигантов, как Amazon, Facebook или Apple
(а кроме американских законодателей, больше это сделать
некому, никто особо и не пытается, политики, наоборот,

231
 ИГОРЬ ШНУРЕНКО

соревнуются в том, кто может привлечь этих «стратегиче­

ских инвесторов», чтобы «создать рабочие места»). Каждая

из крупных технологических компаний уже имеет бюд­
жет не самого маленького государства: ведь сотни милли­

онов людей выплачивают им своего рода рентные платежи.

Их бюджеты на научные исследования и разработки пре­
восходят расходы на это большинства стран. Каждая из этих
компаний уже сегодня могла бы выпустить свои собствен­
ные деньги наподобие криптовалюты (хотя строго говоря,
это будет не криптовалюта, которая по определению требу­
ет по-настоящему децентрализованного управления, на что

эти компании вряд ли согласятся).

Возможно, в недалеком будущем эти компании, допустим,
обменяются пакетами акций друг друга и вступят, таким об­
разом, в конгломерат, экономическая, научная и даже по­

литическая сила которого будет беспрецедентна в челове­

ческой истории. Фактически это будет конец капитализма
каким мы его знаем, потому что фактически всем на Земле
будет владеть одна-единственная структура. Исключение
будет представлять Китай, но весь остальной мир подпадет
под пяту практически всесильного монстра.

В этом случае «рынок душ» полностью окажется под кон­

тролем этой мегакорпорации, и что произойдет дальше,
представить себе сегодня просто невозможно.

232
 КАК ТЕХНОЛОГИИ
РОЖДАЮТ ДИКТАТУРУ
 «СБИЛИСЬ С ПУТИ»

Когда создатель интернета Тим Бернерс-Ли, выступая в ноя­

бре 2018 года на форуме в Лиссабоне, призвал раздробить
«Фейсбук», он вряд ли ожидал, что именно эта компания в от­
вет сразу же подпишет его «Хартию интернет-вольностей».
Конечно, это был ловкий пиар-ход Шерил Сэндберг, босса
Фейсбука, которую по влиянию в компании можно сравнить
разве что с самим Марком Цукербергом. Ее любимая страте­
гия, известная как «оттягивай, отрицай, переводи стрелки»,
сработала и на этот раз.
Только что Вернере-Ли назвал «Фейсбук», наряду
с «Гуглом», ответственными за такую централизацию
Всемирной паутины, которая привела, по его словам, к «ан­
тичеловеческим последствиям» - и вот уже «Фейсбук» сно­
ва выступил как защитник личных свобод, разнообразия
и равных возможностей, а внимание прессы переключи­
лось на что-то другое. Например, на Джорджа Сороса, ко­
торого обвинили в поддержке так называемых «антисеми­
тов» - демонстрантов из движения «Свобода от "Фейсбука"»
(Freedomfromfu ).
Вернере-Ли, бывший физик из ЦЕРНа, которого короле­
ва Елизавета возвела в рыцарское достоинство, уже давно
выступает против централизации интернета. Ведь всемир­
ная компьютерная сеть задумывалась как место, где лич­

ность может реализовать свою персональную свободу через

свободный, не стесненный правительствами и какими-либо
другими структурами обмен идеями и информацией.

235
 Однако через 28 лет после того, как джинн был выпущен
из бутылки, картинка перестала быть радужной. Из ради­
кального инструмента, несущего повсюду демократию,

интернет превратился в орудие угнетения, эксплуатации

и неравенства. И это происходит именно в тот историче­

ский момент, когда половина человечества получила доступ
к Всемирной сети!
Бернерс-Ли негодует: «Мы потеряли чувство личного кон­
троля над тем, что расширяло наши права и возможности.

Власть Паутины не была отнята или украдена. Миллиарды

нас самих коллективно отдавали ее каждый раз, когда мы
подписывали пользовательское соглашение ... «Фейсбук»,
«Гугл», «Амазон» монополизировали сегодня практически
все, что происходит онлайн, начиная с того, что мы поку­
паем и читаем, и кончая тем, что мы любим. Вместе с горст­
кой правительственных агентств эти корпорации в состоя­
нии отслеживать, манипулировать людьми и шпионить

за ними так, как когда-то ни один человек не мог и пред­

ставить себе».
Действительно, доходы и влияние каждой из крупней­
ших корпораций, выросших на бизнесе в сети, невозможно
переоценить. Капитализация «Гугла» и «Амазона» прибли­
жается к триллиону долларов, «Фейсбук» с его 500 милли­
ардами глядится чуть скромней, но и он имеет в своем ак­
тиве 2,3 миллиарда пользователей (а еще «Фейсбуку» при­
надлежит «Вотсап» с 1,5 млрд пользователей и «Инстаграм»
с 1 миллиардом - все это «тянет» еще на 200-300 миллиар­
дов долларов). В целом капитализация пяти ведущих ком­
паний «больших технологий» (их еще называют FAGMA -
Facebook, Apple, Google, Microsoft, Amazon) равна годовому
ВВП Германии.
Кому-то эти цифры кажутся дутыми - что значат соцсе­
ти против надежных немецких машин - но не торопитесь

иронизировать: «Гугл» и «Фейсбук» подмяли под себя весь

 ДЕМОН ВНУТРИ

мировой рынок рекламы, а «Амазон» сделал то же самое

с ритейлом, разорив тысячи магазинов по всему миру.

ПОБЕДИТЕЛЬ ПОЛУЧАЕТ ВСЕ

Основатель обувного интернет-магазина Zappo Ник

Суинмерн придумал блестящую маркетинговую формулу.
Клиентам предлагалась бесплатная доставка «в оба кон­
ца» - то есть если туфельки Золушке не подходят, она мо­
жет их спокойно вернуть, получив назад все, что потратила:
мачеха ничего не узнает.

Продажи Zappo за несколько лет выросли тысячекратно

и достигли миллиарда долларов. В другую эпоху Суинмерн
имел бы все шансы войти в элиту американского бизнеса,
но он опоздал: компания Amazon установила для американ­
ского ритейла свои правила игры, при котором победитель
получает все. А победителем владелец Amazon Джефф Безос
всегда назначает себя.
Безос изъявил желание купить Zappo, и когда те отказа­
лись, стал предлагать такую же обувь дешевле, разумеется,
на тех же условиях бесплатной доставки и возврата. Amazon
работал себе в убыток, потеряв около $150 млн, но своего
добился: Zappo стал частью империи Безоса.
Впрочем, это уже давняя история. Многим другим ком­
паниям, добившимся успеха в онлайне, повезло меньше:
их бизнес-формула была тщательно скопирована, а сами
они разорены. При этом формально Amazon не нарушает за­
конов: просто товары несговорчивых кампаний вдруг пере­
стает искать поисковик, их скидки никто не видит, а достав­

ка - вот неожиданность! - занимает месяц вместо прежних

пары дней.
Это, конечно, при условии, что магазин компания от­
крыла именно на «Амазоне». Казалось бы, выход прост:

237
 ИГОРЬ ШНУРЕНКО

почему бы не торговать с собственного сайта? Но, то, что

было возможно еще лет 10 назад, попросту не работает се­
годня. «Амазон» стал не монополией на рынке, а по факту,
самим рынком, определяя правила игры для всего амери­

канского ритейла.
Ведь из каждых двух долларов, которые американ­
цы тратят на покупки в сети, один доллар идет империи

Безоса. Около 100 миллионов пользователей в США под­

писаны на услугу Amazon Prime, которая гарантирует им
бесплатную двухдневную доставку. Подписка стоит не­
дешево: $120, поэтому люди предпочитают оправдывать
эти деньги и заказывать именно там. Разумеется, поиско­
вик «Амазона» всегда выдает выгодные компании резуль­
таты, и, как подтверждают исследования, люди берут, что
им дают, даже если предлагаемый товар стоит дороже, чем
у конкурентов.

В фильме «Крестный отец 2» босс мафии говорит: «Мы

больше, чем US Steel», гордый тем, что игровая индустрия,
находящаяся под его контролем, превзошла по стоимости

крупнейшую индустриальную монополию того времени.

У Джеффа Безоса не меньше оснований для гордости. Он
самый богатый человек в мире, его состояние оценивает­
ся примерно в 140 миллиардов долларов (данные на ноябрь
2018 года). Рыночная капитализация Amazon втрое боль­
ше, чем у крупнейшего американского ритейлера Walmart,
на которого работает более 2 миллионов человек. Walmart
всегда славился своими низкими зарплатами и потогонны­

ми условиями труда, но «Амазон» показывает куда боль­

шую эффективность: на него трудится втрое меньше людей,
но каждый из них приносит компании втрое больше дохода,
чем служащий «Волмарта».
Такая статистика - приговор американскому ритейлу, ты­
сячам маленьких магазинов по всей стране, которым про­
сто не потянуть. Улыбающаяся стрела на логотипе Amazon

238
 ДЕМОН ВНУТРИ

расшифровывается так: мы счастливы доставить что угод­

но в любую точку. Если компании нет в выборе «Амазона»,
ее просто нет. Точно то же все чаще происходит с людьми:
или ты соглашаешься на 60-часовую рабочую неделю, и ты
должен будешь работать по указанию конвейера, как Чарли
Чаплин, либо ты остаешься на улице, потому что остальные
работодатели в твоем городе больше не нанимают.

ЭКОНОМИКА ЭМОЦИЙ

Рядового потребителя убеждают, что в сверхцентрализа­

ции крупнейших интернет-компаний нет ничего страш­
ного: ведь он получает бесплатные услуги, а информация,
которую о нем собирают, нематериальна и, следовательно,
ничего не стоит. Более того, руководители этих компаний
на каждом углу клянутся в верности идеалам свободы сло­
ва и самовыражения, часто обличая китайцев в стремлении
к тоталитарному господству и ущемлению прав личности.

Правда, нет-нет да вспыхивают скандалы, связанные

с массовым нарушением конфиденциальности пользова­
телей. Ведь бизнес «Фейсбука» и подобных ему компаний
строится на модели извлечения. Подобно тому как нефтя­
ные монополии качают нефть из трубы, информационные
монополисты торгуют своими пользователями, которые

на деле не владеют производимым ими контентом и соб­

ственными данными. При этом речь идет уже не просто
о торговле информацией, а о программировании поведе­
ния сотен миллионов людей.
До последнего времени власти США закрывали на это
глаза: ведь, как рассказал миру Эдвард Сноуден (и это ни­
кто не опроверг), они также занимаются массовой слежкой
в глобальном масштабе. В Вашингтоне считают, что аме­
риканские корпорации, обладающие передовым ноу-хау

239
 ИГОРЬ ШНУРЕНКО

в области манипулирования эмоциями и предпочтениями

людей, смогут обеспечить США столь необходимое им кон­
курентное преимущество в борьбе с тем же Китаем.
Кроме того, «Фейсбук» преуспел в лоббировании своих
интересов на Капитолийском холме: так, лидер демократов
в Конгрессе Чак Шумер большую часть пожертвований по­
лучает именно от этой корпорации. Чтобы ориентироваться
в вашингтонских коридорах власти, босс «Фейсбука» Шерил
Сэндберг нанимает на работу видных деятелей обеих пар­
тий, не обходя, конечно же, и республиканцев.
Недавно «Нью-Йорк Тайме» написала о том, как «Фейс­
бук» нанял для пиара близкую к правым республиканцам
фирму, которая стала распространять по американским
ультраконсервативным сайтам материалы, очернявшие
Джорджа Сороса: ведь в последнее время миллиардер рез­
ко высказывался против монополизма компаний «больших
технологий». Сороса обвинили в антисемитизме: ведь он
якобы финансировал организацию, представлявшую на сво­
их постерах руководство «Фейсбука» в виде спрута, опутав­
шего мир- а такие изображения в своей пропаганде тради­
ционно используют нацисты.

Впрочем, медиа-батл с Соросом-лишь еще один фронт

в войне, которую «Фейсбук» сейчас ведет за свое выживание.
Самые большие неприятности корпорации связаны, ко­
нечно, с делом фирмы Cambridge Analytica, которая полу­
чила доступ к более чем 80 миллионов профилей пользо­
вателей. Профили были не просто проданы - ими манипу­
лировали, чтобы склонить людей в Великобритании и США
голосовать в пользу крайне правых.
Дело в том, что «Фейсбук» постоянно собирает данные
об активности пользователей, о том, что они любят, что под­
держивают и от чего отказываются, анализирует переписку,

проводит психологические тесты. Сотрудничая с учеными

из ведущих вузов мира, «Фейсбук» строит бизнес-модель,

240
 ДЕМОН ВНУТРИ

которая позволяет ему извлечь прибыль не только из дан­

ных о своих пользователях, но и из желаний и эмоций.
Руководитель проекта Cambridge Analytica, профессор
Кембриджа Александр Коган предложил способ для авто­
матического составления полного психологического пор­

трета пользователей по пяти основным категориям, в целом

характеризующим любую личность. Опираясь на данные
«Фейсбука», Коган сумел количественно оценить показа­
тели экстравертности, невротизма, способности человека
соглашаться, открытости к новому опыту и сознательности.

Кстати, Коган некоторое время работал по гранту Санкт­

Петербургского университета, предложив ему свою мето­
дику определения интернет-троллей. Психологические ис­
следования показывают, как эффективно воздействовать
на людей с тем или иным личностным профилем, чтобы
добиться желаемого результата. Эти исследования были
применены с тем, чтобы в обмен за немалое вознагражде­
ние (оценивалась каждая душа) склонить людей голосовать
определенным образом.
Микротаргетинг Cambridge Analytica оказался крайне
эффективным. Людей бомбардировали специально подо­
бранными новостями и вызывающими определенные эмо­
ции материалами, и они проголосовали как надо. Но фирма
переступила красную черту. Мало кто заметил бы, если бы
она меняла исход выборов в Бразилии, Южной Африке
или России, но, конечно, Великобритания и Соединенные
Штаты - совсем другое дело, здесь такая активность
недопустима.

СЛЕДУЮЩИЙ «ФЕЙСБУК?» ЕСЛИ БЫ

«Крупные технологические компании - куда большая

угроза нашим гражданским свободам, чем федеральное

241
 ИГОРЬ ШНУРЕНКО

правительство» - заявил популярный ведущий телеканала

Fox Такер Карлсон в ток-шоу с Биллом Отманом, основа­
телем децентрализованной социальной сети Minds. Братья
Отман основали сеть, которая позиционирует себя как
«Анти-Фейсбук», еще в 2011 году. В 2018 году им удалось
собрать через краудфандинг миллион долларов на разви­
тие, в этом году через токенизацию они получили еще не­

сколько миллионов.

«Наша технология полностью децентрализована и осно­

вана на «открытом источнике», кто угодно может открыть

аккаунт и запустить свое собственное приложение», расска­

зывает Отман, которые считает, что будущее принадлежит
федерации децентрализованных соцсетей.
«Следующий "Фейсбук"» не будет одной централизован­
ной структурой. Реалистично предположить, что это будет
что-то типа федерации- будет ли это федерация децентра­
лизованных сетей или просто люди будут обладать контро­
лем за своими данными, и уже потом начнут объединяться
в сети».

Впрочем, траффик, который проходит через Minds, тыся­

чекратно уступает потоку пользователей «Фейсбука», поэто­
му до цели, заявленной Отманом, еще далеко, как до Луны.
Такер Карлсон, однако, не скрывал симпатии принципам,
за которые выступает Билл Отман. «Вы бросаете вызов од­
ной из самых полных монополий в американской жизни» -
сказал консервативный ведущий, который по большинству
вопросов твердо поддерживает президента Трампа.
Такер Карлсон выражает опасения многих американцев,
причем не только республиканцев. И правые и левые в США
чувствуют, что «Фейсбук» и другие технологические мон­
стры стали настолько большими, что представляют собой
угрозу демократическим институтам.

242
 ДЕМОН ВНУТРИ

ТЕХНОЛОГИИ ДЛЯ ЗАЩИТЫ ОТ ТЕХНОЛОГИЙ

Возможно ли, что спасение демократии придет со сторо­

ны тех самых технологий, которые создают сейчас для нее
угрозу?
Тим Бернерс-Ли полон энтузиазма и считает, что ему
удастся вернуть свое детище - Интернет - к истокам. Чтобы
защитить пользователя от алчных корпораций, он предла­
гает свою платформу Solid (расшифровывается как Social
Linked Data - связанные социальные данные). На раз­
работку проекта ушло 15 лет, при этом был учтен опыт
«Википедии», где большое значение имеет вопрос допуска
тех или иных пользователей к написанию контента. Чтобы
разработать систему допуска, нужно прежде всего решить
вопрос идентичности - то есть определить, кто такой этот
пользователь и имеет ли он соответствующие права.

Бернерс-Ли предлагает каждому пользователю интерне­

та личное хранилище данных, которое называется Pod (per-
sonal online data store). Под можно воспринимать как лич­
ный сайт, с той разницей, что он ориентирован на работу
с внешними приложениями.

Поды хранят всю информацию, которую вы туда положи­

те - например, ваши медицинские диагнозы, фотографии,
финансовую отчетность. Вы можете авторизовать приложе­
ние - тот же «Фейсбук», например - и оно получит допуск
к вашему поду или к его части, при этом вы, по сути, соеди­

няете приложение с информацией. При этом, как заявляет

Бернерс-Ли, информация принадлежит вам, вы можете сте­
реть ее, перенести или сделать с ней все, что захотите.
Разница в использовании пода или выгрузке информа­
ции непосредственно на «Фейсбук» заключается в следую­
щем. Если вы загрузили фотографии на сервера «Фейсбука»,
то они, скорей всего, останутся там, даже если вы ликви­
дируете свой аккаунт. В случае же загрузки фото на под

243
 ИГОРЬ ШНУРЕНКО

вы лишь даете «Фейсбуку» право использовать данные,

но не копировать фото на их сервер. В теории, так вы по­
лучаете власть над своей информацией - хотя остается во­
прос: а что будет, если «Фейсбук» все же сумеет обойти за­
прет и тайком скопировать информацию?
Некоторые поспешили назвать проект Бернерса-Ли блок­
чейном, но, конечно, ни под одну интерпретацию этого по­
нятия задумка основателя интернета не подходит. Ведь
блокчейн прежде всего означает неизменность сохраненных
данных, которые вы, однажды сделав запись, уже не в силах

изменить.

Данные сохраняются в неизменном виде до тех пор, пока

существует поддерживающая блокчейн децентрализован­
ная сеть независимых над. Так, в самых известных блок­
чейнах, Биткойне и Этереуме («эфире»), каждая трансакция
сохраняется на каждой ноде, и ее всегда можно посмотреть.
Такая сеть над, как и алгоритм консенсуса, необходимый
в блокчейне, у детища Бернерс-Ли отсутствует, а потому
Solid- никакой не блокчейн. Энтузиасты блокчейна и крип­
товалют могут счесть это недостатком, однако для массо­

вого пользователя, который постоянно слышит о биткойне

страшилки, это, может быть, и неплохо.
Впрочем, даже если проект Solid окажется успешным, он
не решит главной проблемы, которую создали технологи­
ческие гиганты.

В своей колонке в «Нью-Йорк Тайме» профессор

Колумбийского университета Тим Ву напомнил, что имен­
но концентрация экономической власти привела к власти
в Германии фашистов. Доминирование монополий и карте­
лей в экономической структуре Германии, пишет Ву, снача­
ла открыло путь к гитлеровской диктатуре, а затем ввергло
весь мир в войну. Концентрация власти в экономике созда­
ет предпосылки для такого пути, предупреждает Ву, и опи­
сывает националистического лидера, который неизбежно

244
 ДЕМОН ВНУТРИ

появляется во время неизбежного в подобных обстоятель­

ствах кризиса:

«Этот лидер приходит к власти, обещая вернуть нации ее

величие, освободить ее от экономических невзгод, внешних
и внутренних врагов (включая большой бизнес). Но в реаль­
ности такой лидер ищет союза с крупными предприятиями
и монополиями, во всяком случае, пока они ему подчиня­

ются, ведь каждая из сторон дополняет друг друга: он полу­

чает их лояльность, а они через такой альянс могут избежать

подотчетности демократическим институтам».

В качестве примеров нездоровой концентрации Ву при­

водит беспрецедентно монополизированную в США банков­
скую индустрию, «Фейсбук», который скупает самых эффек­
тивных конкурентов, фармацевтический бизнес. Все они,
в отличие от бессильного и дезорганизованного среднего
класса, умеют отстаивать свои интересы. Так, потратив 100
млн долларов на лоббирование среди представителей обеих
партий в Конгрессе, фармацевты получили выгоду в 15 мил­
лиардов через повышение цен на свои продукты.

Ву не просто бьет тревогу, а и призывает к масштабному

государственному вмешательству: нужно, пишет он, запу­

стить в полную силу существующее сегодня только на бу­

маге антитрастовское законодательство, нужна активная

роль правоохранительных органов и судов, которые должны

вспомнить, как в свое время прокурор Теодор Рузвельт раз­

рушил монополию Морганов и Рокфеллеров.
Вряд ли, впрочем, в сегодняшнем Вашингтоне кто-то
прислушается к словам профессора Ву, ведь лидер, которо­
го он описывает, уже сидит в Белом Доме.

245
ЭПОХА ГЛУБОКИХ ФЕЙКОВ
 ДАТАИЗМ ШАГАЕТ ПО ПЛАНЕТЕ

В наши дни нейронные сети находятся в зените славы.

Именно они обеспечивают победное шествие искусственно­
го интеллекта по планете. Но когда вам будут говорить про
применение ИИ в диагностике, медицине и на транспорте,
стоит вспомнить, кто первым получил выгоды от предыду­

щей, третьей промышленной революции.

Пионерами освоения интернета выступили порносайты,
которые, собственно, десятилетиями создавали спрос на са­
мые продвинутые технические решения. Они же были пер­
выми, кто успешно монетизировал всемирную паутину.

Какие тренды смогут в большей степени продвинуть

распространение технологий искусственного интеллекта?
Одним из таких трендов вполне может стать изготовление
глубоких фейков.
Глубокий фейк - это визуальное или аудиовизуаль­
ное сообщение, обладающее всеми признаками реального,
но которое, однако, является ложью, искусной имитацией.
Новейшие достижения нейросетей и машинного обучения
позволяют редактировать аудио или видеозапись, получен­

ную «естественным» путем, чтобы добиться нужного эффек­

та. Можно создать и полностью фейковое видео, хотя это
потребует больше ресурсов- ведь так или иначе, данные
нужно откуда-то брать.
Не так давно соцсети обошла подделка выступления
действующего президента США, где он говорил абсурд­
ные вещи, сопровождая свою речь гримасами и ужимками.

249
 ИГОРЬ ШНУРЕНКО

Создавалось полное впечатление, что говорит именно

Трамп - настолько искусно все было сделано. Но на самом
деле это был «глубокий фейк» изготовленный при помощи
нейросетей. Его создатели взяли запись американского ак­
тера Алека Болдуина, который превратил свое пародирова­
ние Трампа в профессию. Затем ИИ превратил лицо загри­
мированного под Трампа актера в лицо «Трампа», и про­
вел эту операцию через весь кусок записи. Таким образом,
ужимки Болдуина стали «трамповскими». Что касается зву­
ка, то его просто подстроить под нужный тембр, тем более
что у Болдуина и так неплохо получается. В итоге был готов
кусок записи, который с виду не отличается от реального,
будучи абсолютным фейком.
Как искусственный интеллект это делает? Начнем с того,
что у нейросетей нет морали, во всяком случае, пока мо­
ральные характеристики в параметры нейроморфных чи­
пов не включены. Да и есть ли принципиальная разница
между кибернетической телеведущей и фейком Трампа?
Первую изготовить сложнее, только и всего-но уже сей­
час вполне можно изготовить Кибертрампа, который 24 часа
в сутки 7 дней в неделю будет выдавать перлы на любом
языке, бросая мысль на полпути и переключаясь на следую­
щую, уходя в сторону рассказами о том, что сказал ему дядя

тридцать пять лет назад, со всеми звуковыми эффектами

коверного и неожиданными жестами, и зрители полюбят
Кибертрампа не хуже оригинала, и никто не поверит в то,
что это просто «душа», изготовленная по мерке, демон вну­

три алгоритма в коробочке с чипами, и, может быть, очень

может быть, что люди уже и не захотят никакого оригинала.
Как мы читаем? Дети и неграмотные делают это сначала
по буквам, потом по складам. Потом мы читаем скачками,
предсказывая слова. Предсказания могут быть ошибочными,
например, из-за неверных стереотипов, которые мы втемя­

шили себе в голову. Но мы можем продолжать обманывать

250
 ДЕМОН ВНУТРИ

себя. Вспомним парадокс Моравека и не станем удивлять­

ся тому, что проще всего обманывать себя идеями высоко­
го уровня абстракции (такими как нация, государство, де­
мократия, коммунизм, свобода слова, рыночная экономика
и так далее).
Куда сложнее обманываться более простыми образами,
такими как изображение на экране или надпись на уличном
знаке. И если от абстрактных идей высокого уровня чело­
век может отказаться - например, разочаровавшись в них, -
то вряд ли вам удастся развидеть надпись на заборе. Хотя
вы вполне можете сперва прочитать не то, что там написа­

но, со второго раза и медленнее вы все прочтете правильно.

Раньше фальсификации строились больше как раз на осо­

бенностях человеческого восприятия, на том, что человек
принимает желаемое за действительное. ИИ очень искушен
в обмане, который он умеет делать лучше правды. Подобные
глубокие фейки станут частью нашей культуры и жизни, и,
очень возможно, ИИ сумеет преподнести и идеи высокого
уровня с убедительностью надписи на заборе - так, что мы
потеряем способность отказаться даже от явных - в теории -
заблуждений. Мы вроде бы понимаем, что человек в ракете
стареет медленнее, но это чисто теоретическое знание. А вот
кирпич, падающий нам на голову, вызывает острое желание
увернуться. Так будет и с нашим восприятием правды и лжи.
К правде мы будем относиться как к теории относительно­
сти, а ко лжи - как к закону тяготения.

Станет значительно легче манипулировать массами -

и в этом видится еще одно, и весьма ближайшее примене­
ние нейросетей.
Собственно, фейковые данные уже сегодня вовсю исполь­
зуются в машинном обучении. Это делается, конечно, не с це­
лью заморочить кому-то голову- во всяком случае, пока.

Точнее, голову все-таки морочат - если так можно назвать

нейросеть, которой для начала работы нужна уйма данных.

251
 ИГОРЬ ШНУРЕНКО

Сегодня в большом количестве выходят книжки о «боль­

ших данных», в которых каждому предприятию и органи­

зации, каждой компании рекомендуется завести своего

Главного Офицера по Данным, своего Директора Данных,
и срочно начинать собирать все возможные данные, на ко­
торые падет глаз. Какие-то данные можно использовать са­
мим, какие-то лучше продать, но нам сказали, что данные -
это новая нефть, поэтому давайте датаизировать всё. Есть
уже и религия - датаизм, о которой которой много пишет
Юваль Ной Харари. Говорят, что уже повсюду, от отделений
Сбербанка до мусорных полигонов Челябинской области,
тайно сооружаются небольшие храмчики датаизма, соеди­
ненные в сеть. Так или иначе, молох датаизма требует нес­
ти к нему на престол все новые и новые данные, причем

размеченные.

Проблема в том, что не у всех это получается.

Ведь такие компании, как Google, Facebook, Amazon
или китайский поисковик Baidu обучают свои машины
на гигантских массивах данных, собранных у своих поль­
зователей совершенно бесплатно, под покровом мрака,
да и среди бела дня. А у какой-нибудь небольшой компа­
нии таких возможностей просто нет, что ставит ее в невы­
годное положение по сравнению с компьютерными гиган­

тами. Страшно было бы представить, что было бы, если бы

даже мелкие фирмы имели бы достаточно данных, чтобы
обучать свои небольшие искусственные интеллекты.
Тогда мы бы уже сегодня жили в мире, где все за нас де­
лали бы роботы, от доставки умного кофе в умную постель
до беспилотной перевозки прямо на криокладбище в ком­
фортабельном умном гробу-тех, кого хватит удар от слиш­
ком быстрого наступления будущего. Впрочем, за вашу
жизнь поборется робот-хирург, он не успокоится, пока клет­
ка за клеткой не вытащит вас с того или иного света. После
гибернации роботы имплантировали бы наши отдохнувшие

252
 ДЕМОН ВНУТРИ

мозги в выбранные алгоритмом для нас тела, принимали бы

на работу и, соответственно, увольняли бы.
Знакомый нам мир быстро превращается в сериал
«Черное зеркало», и если не у всех бизнесов есть настоящие
данные, чтобы скормить их нейросетям, можно обойтись
наборами фейковых данных.

ФЕЙКОВОЕ МАШИННОЕ ОБУЧЕНИЕ

Например, израильская компания Neuromation создала для

одной из аналитических фирм массив размеченных изо­
бражений товаров на полках супермаркета. Фирма работа­
ет с такими сетями, как «Ашан», предлагая им свои услуги
по отслеживанию товаров.

Модель с ИИ обучается на этом массиве распознавать

продукты на полках с тем, чтобы проверять наличие то­
вара, фиксировать в реальном времени продажи и так да­
лее. Чтобы наснять такой массив изображений в реально­
сти, нужны большие ресурсы. Ведь нужно не просто сфото­
графировать товар - а это отдельное искусство, нужно еще
и вручную поставить на нем метку с категорией. Сколько
для этого потребуется специально обученных сотрудников,
если этих товаров сотня тысяч и больше? В Neuromation по­
шли по другому пути. Они создали трехмерные модели упа­
ковок товаров, всех этих коробочек, бутылочек и пакетиков,
наложили на них текстуры разных этикеток, разместили эти

трехмерные модели на полках и получили, таким образом,

целый массив размеченных данных. При этом важно было
создать шум, то есть сделать так, чтобы объекты на полках
были размещены самым случайным образом, в полном бес­
порядке, да еще и с ошибками. Сделав это, компания полу­
чает для обучения нейросетей некий типовой набор изо­
бражений уже классифицированных продуктов, только с той

253
 ИГОРЬ ШНУРЕНКО

разницей, что изображения эти не настоящие, а сгенериро­

ванные компьютером. Компьютерная модель учится рас­
познавать и классифицировать эти фейковые изображения,
которые, надо признать, выглядят совершенно неестествен­

но для человеческого глаза. Если посмотреть на тот массив,

что «скармливается» компьютеру для обучения, видно, на­
пример, что тушка свиньи выглядит не живой, а просто на­
клеенной. Но свинья есть свинья, она подписана как свинья,
имеет форму свиньи, и на выходе ИИ опознает ее, скорее
всего, как свинью. Что и требуется.
Neuromation, конечно, не использует термин «фейко­
вые данные» для обозначения этих изображений, предпо­
читая нейтральное выражение «синтетические данные».
Действительно, мы же не говорим «эта рубашка из фейково­
го шелка», имея в виду «искусственный шелк». Слово «фей­
ковый» имеет явно негативную коннотацию, как если бы
кто-то что-то скрывал, но компания ведет открытую игру

и никого не обманывает.
Синтетические данные - это данные, сгенерирован­
ные компьютером, которые имитируют реальные дан­

ные; другими словами, это данные, созданные не чело­

веком, а компьютером. В прекрасном новом мире искус­

ственного интеллекта в искусственных данных нет ничего

особенного. Синтетические данные помогают в обучении

нейросети определенным реакциям на определенные си­
туации, просто заменяя данные, собранные в реальном
мире, на компьютерные имитации. Самое главное, что­
бы данные, будь они синтетическими или реальными,
были промаркированы - только тогда ими можно будет
пользоваться.

Кроме того, компания рекомендует лишь начать обуче­

ние с синтетических данных, а в конце использовать все же

некоторое количество реальных - для повышения качества

распознавания образов.

254
 ДЕМОН ВНУТРИ

Обучение моделей с ИИ на массивах синтетических дан­

ных используется в разных отраслях: в ритейле, робото­
технике, в автономных автомобилях, в промышленности.
К примеру, разработчики самоуправляемых электромоби­
лей давно поняли, что просто нереально по времени наез­
дить достаточное количество настоящих миль по всей стра­
не и собрать достаточное количество реальных данных для
того, чтобы обучить автомобили автономному вождению.
Да их никто и не пустит на улицы в таком количестве и по­
всюду! А как обучить машину не падать с моста или с об­
рыва? Позволив ей пару тысяч раз упасть с моста в беспи­
лотном режиме? Тренируйтесь себе в тупичке или сбивай­
те друг друга перед своим офисом по адресу 1 Hacker Way,
Menlo Park, СА.
Тогда разработчики софта для электромобилей пред­
ложили гениальное решение: учить машины вождению

по игре Grand Theft Auto. Ну хотя бы вначале-а послед­

ний час езды, так и быть, можно отработать на реальной
дороге. По слухам, ребятам из компании Rockstar, которой
принадлежит игра, это не понравилось. Может быть, они
представили себя в кресле пассажира этого электромобиля.
Фантазии не хватило понять, что всё это в твоем вообра­
жении, бра. В итоге разработчики софта для машин все же
стали создавать для обучения целые воображаемые города,
в которых их модели тупо накатывают свои воображаемые
мили.

Недавно Facebook предложил свою модель машинно­

го обучения Densepose, которая может применять спецэф­
фекты к людям в видео. Система обучена с использованием
изображений 50 тысяч людей, снятых с 5 миллионов точек
и аннотированных вручную. Сразу же появился некий стар­
тап, который стал синтезировать данные по тому же прин­
ципу, что и Densepose, и на базе продукта ««Фейсбука»» сде­
лал свой собственный, с синтетическими изображениями.

255
 ИГОРЬ ШНУРЕНКО

Примерно как индийский завод по производству дженери­

ков, который копирует таблетки фирмы Pfizer, не беспоко­
ясь по поводу лицензий.
Не то чтобы такое копирование разрешено или одобря­
ется, но на подобные действия мелких компаний именно
в этой области - машинного обучения - большие игроки
пока что закрывают глаза. Когда у стартапа особо нет денег
и нет данных, стратегия «взять это у больших ребят» счита­
ется вполне законной. Если данные - это новая нефть, то та­
кой подход можно сравнить с возгонкой биодизельного топ­
лива в своем дворе. Кустарно, пованивает, может, не очень
качественно, но, с молитвой, машина поедет.
Самый модный прием машинного обучения в кругах раз­
работчиков софта на синтетических данных - это GANs (ге­
неративно-состязательные сети, generative adversarial net-
works). С их помощью довольно быстро, например, можно
создать реалистические картинки.

Этой техникой пользуется и художник Макс Клингеман,

который в 2016 году был резидентом Гугловского инсти­
тута искусств в Париже (есть уже и такой). С помощью
GANs он создал интерактивную онлайн-инсталляцию,
которая использует распознавание образов, чтобы найти
сходство между любыми двумя изображениями. В нейро­
сеть заводятся оба изображения, к примеру, древнерим­
ской скульптуры и автопортрет Фриды Кала, и алгоритм
находит некие общие связи между этими изображения­
ми, выдавая на выходе нечто напоминающее и то, и дру­

гое. Свою технику Клингеман назвал тоже по-модному,

«нейрографией».
Сколько на своей нейрографии заработал
Клингеман, мы не знаем, но израильский старт­
ап DataGen присылает счета на семизначные сум­
мы за услугу по генерированию под заказ видеоданных

256
 ДЕМОН ВНУТРИ

синтетических - симулированных - фейковых - рук. Руки,

Карл! Выглядят страшновато, но для обучения компьютера
пойдут.
Ведь самое главное - это чтобы в изображение поверил
не человек, а компьютер.

Идею использования фейковых данных для обучения

подхватили и сами мегакорпорации, у которых вроде бы де­
нег куры не клюют. Гугл уже обучает роботов жить и стро­
ить в симулированных мирах, а Microsoft в 2017 году опуб­
ликовал работу своих исследователей в области машинного
перевода с левантийского диалекта арабского языка на ан­
глийский, в которой те использовали два миллиона синте­
тических предложений, созданных специально для обуче­
ния переводчика компьютером. Можно только догадаться,
из каких компьютерно-левантийских ругательств состояли
эти фейковые предложения, но ученые пишут, что в резуль­
тате качество перевода улучшилось.

Компания Apple, если сказать мягко, не спешит делиться

результатами своих исследований, но и она проявила инте­
рес к использованию фейковых данных. В 2016 году сотруд­
ники этой компании опубликовали в научном журнале ре­
зультаты исследований по генерации реалистических изо­
бражений глаз для улучшения качества работы программы,
цель которой - понять, смотрит ли человек в данную точку
или нет. В этом исследовании использовались синтетиче­
ские, а проще говоря, фейковые данные.
А через год компания выпустила новую модель iPhone Х,
которая разблокируется, уловив, что на нее смотрит поль­
зователь, и распознав хозяина айфона по лицу. В разработ­
ке айфона этой модели участвовали те же самые исследо­
ватели, что и в той опубликованной научной работе, поэто­
му логично сделать вывод, что Apple применяла фейковые
данные для обучения системы ИИ для этого устройства.
Такой вывод сделал бы и сам Витгенштейн, будь он жив,

257
 ИГОРЬ ШНУРЕНКО

не правда ли? В самом исследовании говорится, что лучше

всего работает комбинированный подход, когда часть дан­
ных реальная, а часть синтезируется компьютером. Детищу
Стива Джобса неохота признавать, что в машинном обуче­
нии своего искусственного интеллекта они используют фей­
ки, но кто покажет на них пальцем? Они хотя бы не пере­
водят с левантийского.
Да и в робототехнике синтетические данные активно
применяются. Компания Waymo, принадлежащая конгло­
мерату Alphabet (ему также с 2015 года принадлежит Google
и его дочерние предприятия), также пользуется синтети­
ческими данными. Их автономные автомобили наезди­
ли миллионы миль на реальных дорогах, но алгоритмы

контроля обучались на миллиардах миль компьютерных

симуляций.
Исследователи лаборатории OpenAI, основанной Илонам
Маскам вместе с Сэмом Альтманом, тоже обучают роботов
в симулированном мире. Например, алгоритм может окра­
сить в фейковом мире предметы или задать им определен­
ные свойства поверхности с тем, чтобы робот мог трениро­
ваться «хватать» предметы разной фактуры и цвета.

«МАШИННОЕ ОБУЧЕНИЕ ДЛЯ БЕДНЫХ»

Все больше разработчики занимаются также трансферным

обучением - transfer learning. Это тоже своего рода «машин­
ное обучение для бедных», когда вы используете и не свои
данные. Модель можно начать обучать с нуля, с абсолютно
случайных значений, а можно вместо этого взять совершен­
но, по сути, любую чужую разработку, чужую уже обучен­
ную сеть, и начать свое обучение с нее. Хуже не будет, вам
все равно нужны какие-то данные, а так, глядишь, удаст­

ся сэкономить время. Вдруг ваша модель войдет в резонанс

258
 ДЕМОН ВНУТРИ

с чужой, наподобие того, как Фрида Кала в модели худож­

ника Клингермана выходит на одну волну со скульптурой
римлянки?
В последних трендах машинного обучения не только фей­
ковые массивы данных, но и люди - настоящие, солидные,

вовсе не фейковые люди. Они со всем тщанием обучают

по видео роботов - настоящих, не фейковых роботов.
А Google уже начал обучать искусственный интеллект об­
учать искусственный интеллект.

259
ФАКТОР Д
 УСТРОЙСТВО ВСЕЛЕННОЙ ВКРАТЦЕ

Голландская компания «Дросте» с 1900 года выпускает ба­

ночки с какао, на которых изображена монашенка, которая
держит в руке баночку, на которой изображена монашенка,
которая держит баночку, и так до бесконечности.
Двадцать пять коммивояжеров, распространявших то­
вар компании по всей Голландии, не знали, что художник
Ян Миссе в этой рекламе пародировал триптих Джотто,
сделанный по заказу кардинала Стефанески. Слева в цен­
тральной части триптиха, который находится сейчас
в Пинакотеке Ватикана, изображен коленопреклоненный
кардинал Стефанески, который протягивает Святому Петру
копию триптиха, на которой коленопреклоненный карди­
нал Стефанески протягивает Святому Петру копию трипти­
ха и так далее.

Компания и сейчас выпускает свой шоколад и продает ка­

као по всему миру, а описанный эффект так и называется
«эффект Дросте» - хотя в России его бы назвали «сказка про
белого бычка».
Великий польский писатель и футуролог Станислав Лем
блестяще обыграл эффект Дросте в романе «Звездные днев­
ники Ийона Тихого», где на одной из планет герой без­
успешно пытается выяснить, что же такое сепульки, о ко­

торых вокруг так много разговоров. Сначала он спрашивает

местного жителя, который ему отвечает: «сепульки очень
похожи на муркви, а своей цветовой гаммой напоминают
мягкие пчмы. Разумеется, их практическая функция другая,

263
 ИГОРЬ ШНУРЕНКО

но думаю, вам, как человеку взрослому, мне не нужно это­

го объяснять». Ничего не поняв, герой лезет в словарь, где

читает: «сепульки-важный элемент цивилизации ардри­
тов (см.) с планеты Энтеропия (см.). См. Сепулькарии». Он
следует этому совету и читает: «Сепулькарии - устрой­
ства для сепуления (см.)». В статье «сепуление» значится:
«Сепуление- занятие ардритов (см.) с планеты Энтеропия
(см.). См. Сепульки».
Не правда ли, очень напоминает определения искус­
ственного интеллекта?
Как ни странно, это не такая уж шутка (Лем явно
что-то знал). Искусственный интеллект и в самом деле мож­
но определить только через сам искусственный интеллект,
то есть отсылка понятия к самому себе неизбежна. Вот те
раз! - думаете вы. Полкниги прочел, и только теперь мне
сообщают, что искусственный интеллект- это не что иное,
как искусственный интеллект!
Однако не стоит пугаться или со свистом бросать в ав­
тора пивными бутылками - так устроен мир, и его автор -
не книги, а именно мира! - пожалуй, так ответит вам на во­
прос, в чем смысл жизни: в ней самой! А в чем смысл мира?
Ищите в мире. Что же мне делать? Загляни в себя.
Определение чего-то из самого себя называется рекурси­
ей, и на самом деле это мощный инструмент, используемый
и в математике, и в философии, и в литературе.
Вот, к примеру, как выглядит гостиничный номер
Гумберта Гумберта из романа Владимира Набокова
«Лолита», написанного в 1955 году:
«Двуспальная кровать, зеркало, двуспальная кровать
в зеркале, зеркальная дверь стенного шкафа, такая же дверь
в ванную, чернильно-синее окно, отражённая в нём кровать,
та же кровать в шкафном зеркале, два кресла, стол со стек­
лянным верхом, два ночных столика, двуспальная между

ними кровать: точнее, большая кровать полированного

264
 ДЕМОН ВНУТРИ

дерева с бархатистым покрывалом пурпурного цвета и че­

той ночных ламп под оборчатыми красными абажурами».

Пусть Набокова толкуют набоковеды и набокологи, не буду

отнимать у них хлеб, но не зря кровать в этом описании
встречается шесть раз, отражаясь во всех зеркалах. Писатель,
всю свою жизнь проживший в гостиницах, подчеркивает,
что из этого мира рекурсии и бесконечных отражений нет
выхода. А вот его стихотворение «Гостиничный номер», на­
писанное в 1919 году, когда он был совсем молодым чело­
веком. Там возникает тот же образ:

Не то кровать, не то скамья.
Угрюмо-жёлтые обои.
Два стула. Зеркало кривое.
Мы входим - я и тень моя.

Использованием рекурсии Набоков показывает, что весь

мир-это цепь бесконечных повторений, повторений ба­
нального, и лишь некоторые из людей, догадавшись об этом,
пытаются вырваться из заколдованного круга, пытаются

трансформироваться, совершить метаморфозу, подобно за­

вораживавшим его бабочкам ...
Искусственный интеллект есть отражение естественного
и, возможно, подготовка некоей метаморфозы, о которой
мы можем лишь догадываться ...
Но об этом мы поговорим ближе к концу книги, а пока вот
вам пример рекурсии из современной жизни.
Направьте камеру телефона на экран телевизора или ком­
пьютера, и пусть камера снимает. Тогда камера будет по­
казывать, как она снимает сама себя - это и есть рекурсия.
Теперь, как Набоков, вы можете написать об этом стихо­
творение, можете даже его процитировать. Это тоже будет
рекурсия.

265
 ИГОРЬ ШНУРЕНКО

А что такое селфи, как не рекурсия? Еще двадцать лет на­

зад селфи делали только японские туристы, но с тех пор мы
влюбились сами в себя и так же, как они, не можем сами
на себя налюбоваться.
На самом деле рекурсия очень важна для нашего понима­
ния мира. Например, как нам представить бесконечность?
Ведь с какой бы высокой точки вы ни глядели, обзор ваш все
равно будет ограничен. Но наш хитрый мозг находит способ
преодолеть это обстоятельство. На литографии голландско­
го художника Эшера изображен человек в художественной
галерее, который рассматривает гравюру порта, на которой
среди других зданий изображена галерея, в которой стоит
этот человек и рассматривает гравюру, и так далее. Эшер за­
крутил картинку в спираль, и тем самым блестяще выразил
бесконечность через повторение.
Так рекурсия помогает нам выразить невыразимое
и представить непредставимое - но не только. Как мы по­
мним из Витгеншейна, язык в своей глубинной основе дает
представление о том, как устроен мир.

На идее бесконечной рекурсии базируется и поня­

тие фрактала. Примеры фрактала - дерево, облако, бе­
реговая полоса, система кровеносных сосудов, наконец,

Вселенная, Если увеличить любой фрагмент фрактала, мож­

но увидеть точно такой же паттерн, что и на изображении
без увеличения.

РЕКУРСИЯ: КАК НЕ ПОТЕРЯТЬСЯ В ОТРАЖЕНИЯХ

Рекурсивность - это не просто механическое повторе­

ние, оно характеризуется обратной связью, возвращением
к себе по петле для того чтобы определить себя. Именно об­
ратная связь лежит в основе всех теорий управления и ки­
бернетики - науки о взаимодействии человека и машина,

266
 ДЕМОН ВНУТРИ

из которой, собственно, и выросли наши представления

об искусственном интеллекте. Но что такое «искусствен­
ный»? Ответ не так прост, как кажется.
Как можно показать через гравюру Эшера, обратная связь
меняет понятия «искусственный» и «естественный» места­
ми. Галерея «на самом деле», то есть «естественно», располо­
жена в порту, порт же «искусственным образом» находится
в картинке, но сама картинка «находится» в голове смотря­

щего на нее- естественно или искусственно? А сам смо­

трящий стоит в галерее- естественно или искусственно?
Похоже, мы запутались. Включение одного объекта в дру­
гой делает бессмысленным понятия «естественно», «искус­
ственно» и, самое главное - «на самом деле».

Как и в картинке Эшера, частью искусственного интел­

лекта являются люди, десятки, сотни тысяч людей, которые,
как мы показали в «Анатомии ИИ», выполняют и самую
грязную работу, и работу почище, и - те, кто стоят наверху
пирамиды прибавочной стоимости, - пожинают материаль­
ные плоды, произрастающие из эксплуатации.

В то же время сам искусственный интеллект является -

во всяком случае, пока - частью человеческого познания,

а значит, в каком-то смысле может быть весь размещен вну­

три черепной коробки ученого, которому он принес подбор­
ку статей на нужную тему, или политика, которому он дал
раскладку профилей избирателей по десяткам параметров,
или военного, которому он указал точное местоположение

целей, или тирана, который с его помощью узнал все о ма­

лейших деталях жизни и местонахождения людей, которые
осмелились его критиковать.

Так что является частью чего - искусственное частью

естественного или наоборот? Человек частью машины
или наоборот?
Когда мы говорим об этих понятиях, мы можем до беско­
нечности выводить одно из другого, а это и есть рекурсия.

267
 ИГОРЬ ШНУРЕНКО

Главные философские вопросы сводятся к рекурсии,

что, конечно, не принимают фанатики, отстаивающие ту
или иную крайность.
Что первично - материя или сознание? Что чем управ­
ляет - разум телом или тело - разумом? Для святых и для
грешников, как мы знаем, ответ на последний вопрос раз­
ный, но, например, Барух Спиноза считал, что тело и разум
выражают одну и ту же сущность.

Эта философская позиция называется монизмом, и она

довольно последовательна, но, пожалуй, является скорей
религией, чем научным объяснением. Воистину религиоз­
ными ритуалами сопровождалось торжество, например, во­

инствующего материализма во Франции конца XVIII века

или в России первой половины ХХ.
То же самое можно сказать о новой религии данных, о ко­
торой пишет Ювал Ной Харари. Эта религия распространя­
ется как степной пожар, прежде всего в самых надежных
оплотах тоталитаризма на планете- в крупных корпораци­

ях. Они назначают жрецов CDO - Chief Data Officers - ди­

ректоров, а вернее сказать, диктаторов по большим дан­
ным. Компании бросились собирать и приватизировать все
данные, на которые удается наложить руку, от медицинских

диагнозов до лайков и лиц тех, кто воспользовался банкома­

том. Все это часто делается без явной пользы, из чисто рели­
гиозных соображений, для того, чтобы не выпасть из новой
секты свидетелей Цифры.
Монизмом следует назвать и функционализм - подход,
который сводит мысль к материальному. Он близок взгля­
дам Спинозы на Бога-сущность, который имеет два атри­
бута - протяжение и мышление. Здесь идеальное и мате­
риальное совпадают, проистекая из одной сущности, то есть
порядок и связь идей те же, что порядок и связь вещей.
Функционалисты довольно хитро обходят то возраже­
ние, что если мысль материальна, то дайте нам ее пощупать,

268
 ДЕМОН ВНуТРИ

или как-нибудь почувствовать. Мыслительных волн или ча­

стиц мысли, которыми бы обменивались нейроны, вроде бы
никто не обнаружил, в чем всегда заключалось слабое ме­
сто материализма. Но ловкие функционалисты говорят, что
сущность - это не обязательно что-то, что можно потрогать,
это может быть некий функционал. То есть мысль и мышле­
ние - это не физический процесс, а некие функциональные
взаимоотношения нейронов. То есть мысль сродни работе
по составлению квартального отчета, который бухгалтер­
ши сдают в конце месяца. Саму работу не потрогать, а вот
результат в виде пухлой пачки бумаги можно пощупать
вполне. Более того, для производства квартального отчета
не нужны бухгалтерши - это может сделать умный робот­
помощник Германа Грефа. Бухгалтерш можно, таким об­
разом, уволить, а в освободившемся помещении устроить
школу йоги. Точно так же роль нейронов человеческого моз­
га вполне может сыграть математический алгоритм, и толь­
ко огоньки, бегающие по железу облачного сервера, будут
материально свидетельствовать о том, что машина взяла

на себя роль человека.

Все это прекрасно, но хитрый план технооптимистов
упразднить мысль и заменить ее алгоритмами наталки­

вается на противоречие, которое они, пожалуй, не в силах

разрешить.

СОВЕРШЕННОЕ, СЛИШКОМ СОВЕРШЕННОЕ

Ибо как будет развиваться система, которую они описыва­

ют? Какой стимул- а стимул это штырь, который вонзал­
ся в шкуру древнеримского быка, когда тот медлил - какой
стимул для «мысли», составленной из алгоритмов, будет
менять ее и развивать по направлению от простого к слож­

ному? За живые организмы это делает процесс эволюции.

269
 ИГОРЬ ШНУРЕНКО

Машины, конечно, тоже можно запрограммировать на пе­

ремены, но здесь никуда не деться от совершенно четкого

детерминизма, то есть предопределенности. Иными слова­

ми, как корабль назовешь, так он и поплывет. А с человеком,
как показывает история, было все-таки по-другому. Назвали
его почти что неандертальцем, а он вон в кого превратился:

в модного телеведущего Александра Васильева.

Как сказал бы Гамлет в бодрую минуту: разве может
быть что-то более совершенное, чем человек? И, заметь­
те, сказал он это всего-навсего за каких-нибудь пятьдесят
или сто тысяч лет эволюции человека разумного. Грубо
говоря, за тысячу поколений. Сделает ли предоставленная
своим алгоритмам нейросеть то же самое за тысячу ма­
шинных «эпох»?
Можно еще поверить, что она завалит плюшевыми миш­
ками всю дорогу от Земли до Марса, если ее запрограмми­
ровали делать плюшевых мишек - но вот жить - просто

жить - она пока не обучена. Что ей для этого не хватает?

Видимо, какого-то толчка, некоей случайности, приятной
детской неожиданности- и к тому, откуда может возник­
нуть эта неожиданность, мы чуть позже придем.

Пока же стоит немножко отмотать ленту назад, к Баруху

Спинозе и его монизму. Скажем ему: вы неглупый человек,
Бенедикт, вы неплохо усвоили Аристотеля, пересказанного
Маймонидом, и создали весьма оригинальную интерпрета­
цию Каббалы. Но есть обстоятельства, о которых мы сказали
выше. Так что позвольте нам развить другую теорию.
Пожалуй, мы согласимся с тем, что тело и разум не мо­
гут быть разделены - но мы не будем сливать их в единую
сущность, а оставим в цветущей сложности, которая, как мы
увидим, является ключом к развитию.

Наше решение проблемы, над которой бились мно­

гие философы от Аристотеля до Спинозы и далее, просто
и красиво.

270
 ДЕМОН ВНУТРИ

Тело и разум не могут быть разделены, так как они вместе

составляют рекурсивность. Это, на самом деле, придумал
не я, а Готфрид Лейбниц, который, кстати, навещал в Гааге
Спинозу. Свободолюбивый Бенедикт предпочел быть заба­
ненным еврейской общиной за свои вольные взгляды, чем
согласиться с тем, во что не верил (кстати, будет ли способен
на такой самоотверженный поступок алгоритм?). Чтобы по­
лучить доход и вместе с ним материальную независимость,

Спиноза был вынужден гранить алмазы, и от постоянно ле­

тающей в воздухе алмазной пыли у него развился тубер­
кулез. Он пробовал выбивать клин клином: курил крепкий
табак, но от этого стало только хуже, и философ умер по на­
шим меркам совсем молодым - в 44 года.
Лейбниц сочувствовал умирающему философу, но исти­
на для него была дороже. Он взял у Спинозы, собственно,
монизм, то есть идею о единой сущности всего, большая
разница заключалась в том, что Лейбниц был плюралист,
то есть считал, что в мире не одно, а бесконечное число раз­
ных явлений, и каждому явлению соответствует его монада.
Но самое главное было в том, что он ввел в оборот рекурсию,
причем рекурсию динамическую, движущуюся, развиваю­

щуюся. Это было революционным шагом в познании.

«Каждую порцию материи можно представить в виде сада,
полного растений, и как пруд, полный рыбы. Но каждый от­
росток растения и каждая часть тела животного, каждая кап­

ля его внутренней жидкости представляет собой точно та­

кой же сад и точно такой же пруд», писал ученый.
Таким образом, в каждой частичке материи свёрнута вся
Вселенная. Монада, частичка материи, обладает восприя­
тием, то есть чувствует, и она сама может менять свое со­

стояние, исходя из принципа, который Лейбниц назвал

стремлением. Перед нами предстает восхитительная кар­
тина меняющейся Вселенной, причем одушевленное и не­
одушевленное соединены в бесконечную спираль развития.

271
 ИГОРЬ ШНУРЕНКО

Одушевленное обладает сознанием, сознательным восприя­

тием, но и неодушевленное имеет свое восприятие, оно мо­

жет чувствовать. Камни и цветы - это те же самые души,

только как бы спящие, но их монады закрыты от всех, так
что мы не можем читать их сны. Это поэтично, но во всякой
поэзии есть много правды, потому что поэзия соединяет не­

соединимое, или, вернее сказать, нащупывает связи и видит

отражения там, где наш замыленный глаз, сфокусирован­

ный на житейском, видит лишь трудноразличимые пятна.
Каждый сад во Вселенной Лейбница шелестит и колы­
шется бесконечными садами в каждом листке, вода в пру­
ду струится, рыбы деловито снуют в глубине, спираль бес­
конечно сворачивается и разворачивается, бьет рыбьим
хвостом, ведь сами пруды, сами сады - это частички че­

го-то большего. Сам принцип рекурсии подразумевает об­

ратную связь и бесконечные отражения всего во всем, и эти
зеркала живые - это души, монады со способностью к со­
знательному восприятию, которые представляют собой ото­
бражения Творца.
Если бы создатели искусственного интеллекта могли вос­
произвести лейбницевские монады, рекурсия - бесконечно
повторяющаяся обратная связь - позволила бы им создать
лейбницевскую Вселенную. Им - или ему, Сверхинтеллекту,
«Искусственному творцу» ...
Можно ли создать монады Лейбница? А что, эти само­
стоятельные и самодеятельные, но при этом непрозрачные

структуры, черные ящики, очень похожи по своему поведе­

нию на нейросети - нужно лишь вдохнуть в них самосозна­

ние. Нейросети уже обучают восприятию - то есть они уже
могут быть лейбницевскими спящими минералами. С созна­
нием или самосознанием сложнее, эта проблема требует от­
вета на вопрос, откуда у искусственной монады возьмется
стремление. Вопрос о стремлении, случайности, неожиданно­
сти остается открытым - но чуть позже мы дойдем и до него.

272
 ДЕМОН ВНУТРИ

Возвращаясь к нашему сепулятору, то есть к определе­

нию искусственного интеллекта, следует обратить внима­
ние на то, что сепулькой в данном случае можно считать
поведение человека. Сепулька - это нечто, что мы можем
определить лишь из него самого.

Алгоритм сепуляции создается для того, чтобы поведе­

ние машины напоминало сепульку- поведение человека.

При этом сепуляция должна эффективно сепулировать, что­

бы не уступать сепульке. Для этого разрабатывается целый
спектр технологий, которые тоже объединяются под зонти­
ком понятия ИИ - то есть нашего сепулятора.
Таким образом, мы никак не можем сформулировать,
что же такое искусственный интеллект, без постоянного об­
ращения к этому самому искусственному интеллекту.

Гораздо легче мы сможем разобраться в нашем сепуля­

торе, если будем смотреть на противопоставление челове­
ческое-искусственное также через призму рекурсии. Целью
кибернетики было создать машину, в которой отражается
человек. В свою очередь, мы сами все больше становим­
ся отражением машины. Мы учимся разговаривать с ней -
речь идет уже не только о программистах и специалистах

по искусственному интеллекту, но и о рекламных менедже­

рах, которым надо понимать алгоритмы работы ИИ соцсе­

тей, и все больше об обычных людях, которым уже сегодня
живут в окружении все более умных машин.
Но в будущем, возможно, возникнут органические ма­
шины, то есть машины, обладающие собственным сознани­
ем и способные развиваться подобно живым организмам.
Скорей всего, они никак не будут напоминать металлических
трансформеров из фантастических комиксов - это будут че­
ловекоподобные существа с такой же кожей, глазами и, мо­
жет быть, внутренними органами. Внешне они ничем не бу­
дут от нас отличаться - разве что будут красивее, несравнимо
сильнее, смогут регенерировать кожу или органы и так далее.

273
 ИГОРЬ ШНУРЕНКО

Они будут очень похожи на людей будущего, о которых писа­

ли русские космисты и французский философ и антрополог
Пьер Тейяр де Шарден в своих сочинениях о заключительном
пункте ноосферного отражения - точке Омега.
Можно ли отделить от человека такую машину, воспро­
изводящую человека, научившегося, в свою очередь, с ней
жить?

ПРЕДОПРЕДЕЛЕННОСТЬ = НАУКА БЕЗ УЧЕНЫХ

С легкой руки президента США Трампа сейчас начинается

новая гонка индустриализации, только в этот раз ее целью

является гегемония в технологиях искусственного интел­

лекта и глубокого обучения, а также во всех видах техно­

логий массовой слежки, массового контроля и управления
массами. Новому этапу развития должна соответствовать
новая идеология - так было всегда. Какая же? Казалось бы,
миром правят американские фундаменталисты, последова­
тели какого-нибудь харизматичного телевизионного гуру
из лесов Западной Вирджинии или прерий Техаса, который
считает последователей других религий неверными, а всех,
кто живет за пределами Соединенных Штатов, - слугами
дьявола и угрозой великому Городу на Холме. Ну или полез­
ными дикарями, при помощи которых можно истребить ди­
карей бесполезных. Но столь безумный набор стереотипов
вряд ли мог бы претендовать на то, чтобы стать новой гло­
бальной религией. К тому же фундаменталисты стремятся
поскорее умереть, то есть предстать перед страшным судом,

отправив туда перед этим весь мир. Такая идеология очень

соответствует менталитету тех, кто расстреливает одно­

классников, а потом сводит счеты с жизнью сам, но едва ли

это подходит для новых технократических элит. Есть еще,

конечно, бессмертная королева Елизавета, но сколько бы

274
 ДЕМОН ВНУТРИ

конспирологи не рассуждали о ее внеземном происхожде­

нии и тайных обществах, которыми она заправляет еще

со времен тамплиеров, - эта женщина хорошо ведет свое

обширное домохозяйство, забот у нее хватает, и вряд ли она

претендует на большее.
Так что драйву нынешней «Железной пяты» больше со­
ответствует идеология трансгуманизма, в которой может
найти свое чуть ли не каждый, от мормонов до буддистов
последнего призыва. На первый взгляд, трансгуманизм на­
поминает взгляды космистов и французского антрополога
Тейяра де Шардена, но на самом деле идеология эта куда
ближе к функционализму, в основе которого лежит сведение
сознания к набору программируемых ощущений и отрица­
нию свободы воли.
Это не удивительно - ведь по мере того как технические
системы усложняются, растет искушение найти какой-то об­
щий принцип, который бы объяснял их поведение, а жела­
тельно еще и предсказывал будущее.
Свободы воли нет, если в мире господствует предопреде­
ленность, то есть детерминизм. Эта идея нужна и для того,
чтобы не глядя снести преграды на пути новых технологий,
какие бы угрозы они не несли. Именно поэтому технокра­
тические элиты спонсируют преклонение перед детерми­

низмом в науке и философии. Это происходит даже в поли­

тической философии, где распространены идеи элитизма
или, что практически то же самое, теории заговора. Ведь эти
подходы отличаются друг от друга лишь именами реальных

властителей. Неважно, национальное это правительство

или «глубинное государство», МВФ, Госдеп, Федеральный
Резерв или «Бильдербергский клуб». Если миром правят
и всегда правили элиты, тайные общества или рептилоиды,
сопротивление бесполезно.
Когда Алексис де Токвиль в своей «Демократии в Аме­
рике» описывал механизмы функционирования власти

275
 ИГОРЬ ШНУРЕНКО

и общества в США, он, в общем-то, не ждал ничего хорошего

от «тирании большинства». Хотя этот французский аристо­
крат вряд ли предполагал, что технократические элиты так

скоро установят диктатуру почище знакомых ему Бурбонов,

раздавая толпе хлеб, отвлекая ее на зрелища, контролируя
каждый шаг людей и жестко пресекая любые вызовы своей
все более деспотической власти.
«Воздух здесь пропитан корыстолюбием, и человеческий
мозг, беспрестанно отвлекаемый от удовольствий, связан­
ных со свободной игрой воображения и с умственным тру­
дом, не практикуется ни в чем ином, кроме как в погоне

за богатством» - так описывал он Соединенные Штаты,

и это положение не особенно изменилось и сегодня. Но ин­
тересно, что сегодня новая волна индустриализации, вы­

званная четвертой промышленной революцией, привела

к власти технократов, которые явно тяготятся системой об­
новления американских элит, описанной еще Питиримом
Сорокиным в ХХ веке. В условиях острой экономической
и политической конкуренции такое обновление происходи­
ло довольно быстро, хотя какие-то династии сохранялись.
Теперь же владельцы и акционеры Google, Facebook, Amazon,
Apple и других подобных компаний стремятся к закрепле­
нию своих монополистических позиций, к переходу эко­
номической модели на рентную экономику, обладающую
чертами феодализма: в ней практически все население бу­
дет платить этим компаниям ренту, как когда-то крестьяне

за свой надел, просто за возможность просто жить в обще­

стве и, как бонус, трудиться. Труд при этом будет превращен
не в право, а в привилегию, требующую особого дозволения
и, вероятно, постоянного подтверждения лояльности систе­

ме - на манер некоего дворянства.

В странах капиталистической периферии, например,

в России, эти тенденции, пожалуй, выражены еще яс­
нее - на их примере можно видеть, как новый феодализм

276
 ДЕМОН ВНУТРИ

становится тормозом на пути роста благосостояния об­

щества в целом. При этом и в центре, и на периферии все
чаще приходится слышать фразу «другого пути нет», зна­
комую по речам культового британского политика, иконы
правых Маргарет Тэтчер, в которых она обосновывала раз­
гром социального государства и торжество неолиберальной
идеологии.

Научный и технологический детерминизм, идущий рука

об руку с новым элитизмом и неофеодализмом, совершенно
не нов, это была распространенная точка зрения во времена
предыдущего европейского идейного кризиса, который со­
провождал вторую промышленную революцию. Можно вспо­
мнить венского философа и физика Эрнста Маха, который
в свое время оказал большое влияние на молодого Эйнштейна.
Мах видел задачу науки лишь в том, чтобы организовать дан­
ные опыта как можно в более экономном порядке. У науки,
по Маху, нет другой осмысленной цели, кроме наиболее про­
стого и наиболее экономичного представления фактов.
Мах предсказал «фабрики ученых», которые мы видим
сегодня от Китая до Соединенных Штатов- множество ин­
ститутов, где сотни тысяч исследователей решают задачи,
раздробленные на тысячи мелких проблем. Десять авторов
одной работы в современном научном мире - это норма,
исключением стала бы борьба личностей, когда-то двигав­
шая науку, такая, как противостояние Ньютона и Лейбница.
Мах настаивал:
«Любое знание не может быть наполнено разумом од­
ного человека, ограниченного продолжительностью чело­

веческой жизни и наделенного лишь конечными силами,

если он не прибегнет к жесткой экономии мысли и тща­
тельному собиранию экономно упорядоченного опыта ты­
сяч сотрудников».

Мах близок сегодняшним контролерам и администра­

торам науки тем, что относился к ней как к обычной

277
 ИГОРЬ ШНУРЕНКО

профессии, где люди получают зарплату за сколько-то че­

ловеко-часов. В его время, в конце XIX века, ученые были
иконами, их обожествляли, наука считалась призванием ти­
танов, которые на глазах меняют мир. Мах стремился изба­
вить науку от этого романтического ореола.

«Если говорить о конкретных результатах, то наука

не дает нам ничего нового, к чему мы не могли бы прийти,
затратив достаточно много времени безо всяких методов»,
писал он.

Отсюда уже понятный путь к созданию науки будущего,

которая вполне может обойтись без ученых - достаточно
машин, которые сами все прекрасно обсчитают, обнаружат
тенденции, их проанализируют, выведут из них законы

и создадут на их основе новые, еще более могущественные

и умные машины. Наука без ученых открывает захватыва­
ющие перспективы перед теми, кто собирается ей управ­
лять - ведь нет ученых - нет и манифестов, нет утечек зна­
ний на сторону, нет и неприятностей из-за слишком само­
стоятельной позиции авторитетных людей науки.
Конечно, взгляды Маха напоминают скептические взгля­
ды Витгенштейна на философию, что неудивительно. Оба
были венцами, оба искали точку опоры в мире, который
вот-вот рухнет в пропасть войны и тотального распада.
С Махом, надо сказать, ожесточенно спорил Ленин в из­
вестной своей работе «Материализм и эмпириокритицизм».
Ленин, как это ни покажется парадоксальным, при всем сво­
ем материализме в полемике отстаивал подходы традици­

онного немецкого философского идеализма, который всегда

чувствовал напряжение между системой и свободой и в сво­
их самых лучших проявлениях все-таки выбирал свободу.

278
 ДЕМОН ВНУТРИ

БЫТЬ ИЛИ БЫТЬ ИЛИ БЫТЬ ...

В пьесе Шекспира «Гамлет» главный герой организует свою

рекурсию. Его цель должна впечатлять математиков, крип­
тологов и специалистов по искусственному интеллекту:

принц хочет установить истину в мире, где никто не гово­

рит правду. Перед сложностью задачи меркнет известная

специалистам блокчейна задача византийских генералов!
Призрак отца, в реальность которого Гамлет Гамлетович
верит не до конца, рассказывает ему о том, что умер не сво­

ей смертью, а был убит родным братом, дядей Гамлета

Клавдием. Но верить ли призраку- а вдруг это сам Князь
Тьмы? У каждого из остальных героев есть своя история,
чтобы поведать миру - но вот беда, все эти истории про­
тиворечат друг другу. Ничто не стыкуется, все врут всем.
По идее принц мог бы и дальше жить как все, но он, во-пер­
вых, хочет выжить в мире, где близость к трону таит огром­
ную опасность, а во-вторых, он революционер. Ему не нра­
вится его время, его век, и больше всего он презирает са­
мых лояльных представителей современности, Розенкранца
и Гильденстерна - презирает настолько, что не останав­
ливается перед ненавистной ему ложью, чтобы лишить
их жизни. Он подменяет и подделывает письмо, в котором
от имени дяди приказывает убить своих одноклассников.
Итак, чтобы добраться до дна своей экзистенциальной
проблемы, Гамлет использует актеров. Его рекурсия - это
театр, копия королевского двора и одновременно постав­

ленное перед этим гибнущим двором зеркало. Актеры ра­

зыгрывают историю, которую знают многие, но о которой
принято молчать: вот вам правда, узнаете? Гамлет и друг
его Горацио, антиподы Розенкранцу и Гильденстерну, сами
становятся датчиками, улавливающими сигнал от Клавдия.
Есть обратная связь, театр отразил реальность и переслал
изображение реальности дальше. Хотя если вдуматься,

279
 ИГОРЬ ШНУРЕНКО

на самом деле не изменилось ничего: за несущественны­

ми исключениями, все всё и так знали, и знали, что другие

знают, и притворялись, чтобы сохранить жизнь. Так и будут
дальше притворяться, не правда ли? Конечно, Гамлету гро­
зит смерть - но разве не грозила ему и раньше, как ближай­
шему наследнику трона?
Не в этом ли «не изменилось ничего» и заключается суть
рекурсии? В дурной бесконечности, вечном повторении од­
ного и того же, в модной сегодня идее, что всё идет по кругу.
Но что же происходит дальше? А дальше Гамлет при­
нимает неожиданное решение, силой вырываясь из дур­
ной бесконечности. Убивая крысу-Полония, он, с одной
стороны, создает еще одну галерею отражений. Ведь те­
перь не только Гамлет должен мстить за своего отца,
но и Лаэрт - за своего. За Полония. Как наш бунтарь Гамлет
и его биограф Горацио отражаются в паре взаимозаменяе­
мых конформистов Розенкранце и Гильденстерне, так пара
Гамлет-сын и Гамлет-отец отражается в двоичной системе
Лаэрт- Полоний. И мать Гамлета Гертруда, которая хочет все
забыть и сохранить жизнь, отражается в Офелии, которая
платит жизнью за то, чтобы все помнить. Возможно, люди
дробятся и отражаются друг в друге и без всякой драмати­
зации, но получается, что уникальность каждого человека,

в которой он убежден- это заблуждение. Все отражаются

во всех, а слепая эволюция губит тех, кто не хочет отражать­
ся. Вот он, тот самый момент «быть или не быть» - затерять­
ся в отражениях или разбить зеркало?
Принц выламывается за рамки рекурсии и запускает цепь
событий, которые приведут к полному уничтожению дат­
ской элиты и завоеванию страны норвежцем Фортинбрасом.
Непредвиденный результат? Разумеется - вовсе не с целью
передать королевство Фортинбрасу Гамлет затеял все это.
Но даже если он и не стал королем, он добился правды и как
минимум отомстил за смерть отца. Он вернул свой долг

280
 ДЕМОН ВНУТРИ

сполна и, предательски убитый, скорее всего попадет в рай­

а может быть и в ад, но если в ад, то к отцу. Или не к отцу,
а все же к Князю Тьмы, который все это и устроил?
В этой истории есть два важных момента: во-первых, ре­
курсия, а во-вторых, непредвиденные обстоятельства, кото­
рые полностью меняют сценарий развития. Неважно, что
непредвиденные обстоятельства приходят «изнутри», ведь
в мире бесконечных отражений, бесконечной рекурсии, нет
никакого «изнутри»: все находится внутри. Гамлет - совсем
не современный нам релятивист, который считает, что мо­
раль относительна, напротив, он убежден в том, что если
человек не будет морален, вся Вселенная рухнет. Это, кста­
ти, показывает, насколько менталитет людей Возрождения,
к которым, несомненно, принадлежал и Шекспир, был бли­
зок к мироощущению будущего - той связи всего со всем,
внешнего с внутренним, которую нам еще предстоит осо­

знать. Предстоит - если мы хотим выжить или хотя бы уме­

реть достойно, как это сделал датский принц.
Еще Иммануил Кант писал: «Организованный продукт
природы тот, в котором все цель и одновременно средство».

Он имел в виду и человека, и искусственный интеллект.

Современный китайский философ Юк Хуэй выдвинул
теорию того, как сочетание двух концепций - рекурсии
(re-
cursion) и contingency- непредвиденных обстоятельств -
ведет к созданию и улучшению технических систем.

Перед системами искусственного интеллекта с самого на­

чала встает вопрос постепенного роста от гетерономии к ав­

тономии, от централизации к самоорганизации, и в конеч­

ном итоге от неорганического к органическому.

Курцвейл тоже писал о рекурсии, но даже такой детерми­

нист и технооптимист, как он, видел необходимость в раз­
витии: «Цель ... заключается в изучении принципов рабо­
ты человеческого мозга и использовании этой информации
для того, чтобы лучше понимать самих себя, ремонтировать

281
 ИГОРЬ ШНУРЕНКО

мозг, если это необходимо, и- ... создавать еще более разум­

ные машины».

Управление и обратная связь подразумевает рекурсию,

она необходима для создания автоматических машин и тех­
нических систем. Но для того, чтобы расти и развиваться,
системе нужна эволюция.

Кибернетика- это механическая органичность, это пони­

мал еще создатель этой науки Норберт Винер.
Рекурсивность это не просто механическое повторение,
оно характеризуется обратной связью, возвращением к себе
по петле для того, чтобы определить себя.
Но если можно построить мир из неких самостоятель­
ных и самодеятельных нейросетей или нейромонад, нужно
будет создать внутри них нечто, что сделает эти системы
открытыми для непредвиденного и, в конечном итоге, для

эволюции. У человека мы называем это «нечто» душой.

Каждое движение в таких сетях должно быть открыто для
непредвиденных обстоятельств, contingency, и эти обстоя­
тельства, сама их возможность будет, в свою очередь, опре­
деляет уникальность этого «организма», говоря по-научно­

му, его сингулярность.

Платон в «Тимее» изображал душу в форме окружности,

потому что душа постоянно возвращается сама к себе.
Это обязательное условие ее существования. Платон по­
нимал, что такое рекурсия - в отличие от Аристотеля, ко­
торый, возражая Платону, утверждал, что раз мы мыслим
спорадически, с паузами, значит, душа не может совер­

шать круговые движения. Ибо где она находится в этих

паузах?
Аристотель не видел, что душа, говоря современным язы­
ком, одновременно и структура, и операция.

Представим себе спиральную форму, где круговые движе­

ния похожи на предыдущие, идеи и впечатления нанизыва­

ются друг на друга. Этот образ соответствует душе.

282
 ДЕМОН ВНУТРИ

Нам всем знакомы «поиски себя», после которых мы «воз­

вращаемся в себя», но при этом становимся другими. Если
мы сами не прошли через это, то точно знаем других таких

людей - то есть наша душа даже готова «войти в резонанс»

с душой другого человека. Итак, у души есть способность
возвращения к себе для того, чтобы познать себя и опреде­
лить себя. Но именно это и можно назвать «непредвиденны­
ми обстоятельствами» - ведь мы не знали заранее, какими
мы «вернемся» после «поисков себя»!
И именно после этих обстоятельств «грядут перемены».
Получается, что в случае с душой концепция философа Юка
Хуэя об одновременном воздействии рекурсии и contingen-
cy прекрасно работает!
Каждый раз когда душа отдаляется от самой себя, она
оставляет свое отражение в следах, в том, что мы называем

памятью, считает Хуэй. Именно память создает некое до­

полнение, которое свидетельствует о движении времени,

в то же самое время модифицируя, меняя бытие, которое

само есть время.

Получается динамичный органический процесс, когда

каждое отражающее движение души оставляет след, как

знак на дороге. Каждый след - это вопрос, ответом на кото­

рый может быть движение всего целого - а это целое, если
применить теорию Лейбница или понятие фракталов, и бу­
дет вся Вселенная! Получается, что движение души дей­
ствительно способно изменить не только разум, но и мир,
Вселенную.

НЕОЖИДАННОСТЬ И ДУША

Мир науки создает сегодня свой мир, мир по сути детер­

минизма, предопределенности, отрывая его от мира жиз­

ни, и уже не оправдывая его «субъективным восприятием».

283
 ИГОРЬ ШНУРЕНКО

Причина, на самом деле, проста: мы захотели «быть как

Боги».
Но уступит ли человеческий разум машинному- или им
суждено соединиться, потому что человек обладает неким
фактором Д - душой, которая только и способна придать
всей системе толчок и дать развитие?
Строя свою сеть, Google стремится воссоздать мозг че­
ловека, как распределенную в пространстве разумную ма­

шину. Возможно, те, кто может видеть весь проект Google,

а не только его отдельные части, надеются на то, что коли­

чество перейдет в качество, и каким-то образом эта «ра­

зумная сеть» начнет думать. Можно только гадать, произой­
дет ли это на самом деле; мне вера в самозарождение души

из большой памяти кажется не слишком обоснованной.

Но так или иначе, несомненно одно: мы, как писал физик
и нобелевский лауреат Илья Пригожин, «выступаем за пре­
делы того, что Кайре называет «мир количества» и вступа­
ем в «мир качества», а значит, и в мир становящегося, воз­

никающего ... Не будет преувеличением сказать, что наш

период допустимо сравнивать с эпохой греческих атоми­
стов или Возрождения, когда зарождался новый взгляд
на природу».

Возможно, мы уже сегодня являемся свидетелями ста­

новления Сверхразума, который объединит в себе то, что
сейчас принято называть ИИ, с коллективным разумом
человечества.
АНАТОМИЯ ИИ:
ГОВОРЯЩИЕ ОРУДИЯ
Патент США номер 9,280,157 выразительно иллюстриру­
ет отчуждение человека в логистических процессах таких

компаний, как Amazon. Запатентована металлическая клет­

ка для рабочего, которую перемещает по складу компании
то же самое устройство, что движет ряды, заполненные
товаром.

Словно в механическом балете футуристов, рабочий ста­

новится частью кибернетического манипулятора. Склады
компании, с которых товары развозятся заказчикам, по раз­

меру напоминают авиационные ангары, товары разложены

здесь на миллионах полок в соответствии со сложными ма­

тематическими алгоритмами. ИИ обрабатывает информа­

цию о заказах, с целью оптимизировать движения роботов
и людей, которые не смогли бы ориентироваться и работать
на этих складах без помощи электронного браслета и разно­
образных кибернетических устройств.

Пирамида извлечения прибавочной стоимости хорошо ил­

люстрирует антиутопию, созданную владельцами средств

производства, которые снимают сливки с работы искус­

ственного интеллекта. Их становится все меньше, при том,
что богатств они накапливают все больше. При этом на долю
остальных участников процесса достаются озера радио­

активных отходов, отравленная и уничтоженная природа

да места в рабочих общагах.

287
 ИГDРЬ WHYPEHKD

ИИ БЕРЕТ УРОКИ КАМА СУТРЫ

В начале двухтысячных в английском языке появился новый

глагол to bangalore. «Бангалорить» означало «уволить всех
сотрудников и отдать их работу на аутсорс индийцам». Дело
в том, что фирмы, которые заменяли телефонных операто­
ров и айтишников, располагались в городе Бангалор на юге
Индии. Город стал расти стремительными темпами и теперь
его часто называют «индийской Силиконовой долиной».
Работа по обслуживанию клиентов, прежде всего из США,
велась в огромных ангарах, где стоял такой гул от сотен од­
новременных телефонных разговоров, что владельцы боро­
лись с ним при помощи генераторов белого шума. Так под
звук водопада молодые выпускники индийских школ, отто­
чившие свое мастерство скороговорками типа «Peter Piper
picked а peck of pickled peppers», продавали кредитные кар­
ты и страховку, дистанционно чинили компьютеры и отве­

чали на вопросы миллионов клиентов.

Прошло 15-20 лет, и картина изменилась. Теперь индий­

ские фирмы к своим названиям добавляют аббревиатуру
ai (Artificial intelligence), а в залах стоит такая тишина, что
владельцы не против, если кто-то из сотрудников включит

свою музыку. Слышится лишь тихая дробь пальцев, стуча­

щих по клавиатуре. На вопросы клиентов теперь отвечать
не нужно: эту работу делает ИИ, который распознает чело­
веческую речь и может поддержать разговор.

Текстовый диалог с теми, кто присылает запросы с ком­

пьютеров, планшетов, ноутбуков и телефонов ведут сего­
дня тоже чатботы, виртуальные агенты с элементами ИИ.
Чатботы, конечно, волшебники, но они еще учатся, поэто­
му не всегда правильно понимают вопрос клиента. Те са­
мые индийские выпускники, которые раньше оттачивали
безукоризненный оксфордский акцент, теперь кодируют
запросы клиентов. На тренингах их учат оценивать работу

288
 ДЕМОН ВНУТРИ

чатбота: насколько верно виртуальный помощник - или,

как правило, помощница - понимает намерение клиента,

в какой момент перестает понимать и каково было на самом

деле это намерение.

От человека в Бангалоре требуется не дать правильный

ответ, а, скорее, присвоить метку запросу, на который чат­
бот не ответил или ответил неверно. Все это кодируется
и отправляется в облако, откуда ученые берут эти данные,
чтобы создать в ИИ новый слой нейронов или внести в сеть
коррективы. И в следующий раз чатбот с прекрасным жен­
ским именем должен ответить на вопрос правильно.

Часто ученые, работающие над обновлением чатботов,

сидят там же, где и операторы, обрабатывающие запросы.
Операторы - недавние выпускники, а ученые, как прави­
ло, закончили престижные вузы. Может быть, это как раз
те ребята, что 20 лет назад отвечали на звонки. Теперь для
них появились новые специальности - «дизайнеры по ци­
фровой конверсии» (это те, кто совершенствует нейросети)
и «дизайнеры по голосовым разговорам» (они учат чатбо­
ты лучше понимать людей). Индия знаменита своей «Кама­
сутрой», которая создала своего рода язык желаний, и где,
как не в Индии, искать учителей этого языка?
Появился и новый термин: «степень сдерживания». Она
характеризует, насколько далеко чатбот может пройти
в разговоре с человеком, правильно реагируя на вопросы.

Чем меньше этот показатель, тем хуже бот понимает чело­

века, а при ста процентах считается, что он понимает кли­

ента на человеческом уровне.

Сегодня «степень сдерживания» варьируется от 20 до 50

процентов в зависимости от компании. Вполне вероят­
но, в ближайшие год-два этот показатель вырастет в боль­
шинстве случаев до 80, то есть бот будет в состоянии ве­
сти разговор как средний сотрудник банка или мобильного
оператора.

289
 ИГОРЬ ШНУРЕНКО

Банки хотят, чтобы их боты разговаривали как солидные

клерки, другие компании часто предпочитают ботов, кото­
рые общались бы не на формальном, а на разговорном язы­
ке, ученые выбирают правильные языковые оттенки, ха­
рактерные для каждого из этих ботов. Вероятно, в будущем
машины смогут сами делать подобный выбор, но пока что
подобные оттенки требуют человеческого вмешательства.
В боты - точнее, в алгоритмы сетей, которые ими управ­
ляют, - также встраивается «детектор негативного отноше­

ния», который следит за степенью довольства или недоволь­

ства клиента. При повышении градуса недовольства вклю­
чается «автогенерация симпатии».

КРАТКИЙ КУРС ПОЛИТЭКОНОМИИ

ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Чтобы взаимодействовать с системой Amazon Echo, нужен

не просто многослойный технический стек моделирования
данных, серверов, железа, инфраструктуры, софта и сетей.
Полный стек, который моделируется системой - это еще
и капитал, труд, природа, люди, которые становятся при­

датками к машине.

Соединяя человеческий труд, добычу ресурсов и добычу

данных для построения систем с Искусственным интеллек­
том в единую цепочку, нужно сказать о том, что их объеди­
няет, а именно о капитале и эксплуатации. Но как оценить
стоимость, которая извлекается через ИИ-системы?
Здесь можно обратиться к трудам работающих
в Британии социологов Кристиана Фукса и Кристиана
Севиньяни, например, к их статье «Что такое цифровой
труд? Что такое цифровая работа? В чем между ними раз­
ница? И почему эти вопросы имеют значение для понима­
ния социальных сетей?»

290
 ДЕМОН ВНУТРИ

Они ввели в оборот термин «цифровой труд», говоря

о разных формах нематериального труда. Цифровой труд -
это работа по построению и поддержанию цифровых си­
стем - далек от виртуального и эфемерного, невыразимо­
го в реальном мире. На самом деле он воплощен во вполне
земную активность. От тяжелого физического труда по до­
быче полезных ископаемых, которые необходимы для «же­
леза» вычислительных машин, серверов и инфраструкту­
ры, до конвейерного производства и сборки этих устройств
на жестко регулируемых фабриках Китая и других стран, за­
частую с детским трудом, до нанятых на аутсорсе индийцев,
«когнитивных рабочих», кликателей, которые ставят метки
на данные нужные для обучения ИИ, до нанятых по-чер­
ному африканских бедняков и бомжей, которые работают
на свалках химических отходов. И весь этот труд создает до­
бавочную стоимость, аккумулируют власть и богатство для
очень тонкого социального слоя.

Здесь данные - это ресурс, такой как нефть или человек,

и одновременно средство социального контроля. Это ци­
клический поток, в котором продукт при участии потреби­
теля становится ресурсом, а тот, в свою очередь, при помо­

щи вложенного в него труда становится новым продуктом,

который, в свою очередь, используется как ресурс.

Каждый треугольник представляет собой фазу в процессе
производства. Работает марксистская диалектика субъекта
и объекта в экономике, где из ресурса при помощи средств
производства (объект) и работы (субъект) получается про­
дукт (субъект-объект).
Лучше представить этот процесс в виде фракталь­
ной структуры, известной как треугольник Серпинского.
Каждый следующий шаг производства и эксплуата­
ции содержит предыдущие фазы. Посмотрим через
эту фрактальную структуру на процесс производства
и эксплуатации.

291
 ИГОРЬ ШНУРЕНКО

Наименьший треугольник представляет натуральные ре­

сурсы и средства производства для добычи, то есть шахтера
как труд и руду как продукт.

Следующий, больший треугольник, представляет процесс

обогащения руды при помощи средств производства и по­
лучение металла. Труд вкладывают работники горно-обо­
гатительных фабрик.
Следующий треугольник - производство компонентов
(например, микросхем). Следующий треугольник - произ­
водство продукта, допустим, устройства Amazon Echo (труд
работников сборочной линии).
Каждый треугольник сопровождается извлечением при­
были владельцем средств производства. Можно ли это на­
звать цифровой экономикой, якобы чистой и экологичной,
о которой каждый год за дорогим шампанским рассуждают
в Давосе?
На самом деле в среднем человек XXI века использует
в десять раз больше металла, чем человек прошлого века.
В обычном ай фоне содержится 75 элементов - две трети пе­
риодической таблицы Менделеева. В процессе труда - руд­
ники, ГО заводы, контейнерные суда, портовое оборудова­
ние, фабрики по производству микросхем и т. п., сборочные
производства.

На самом верху пирамиды извлечения прибыли как фа­

раон восседает Джефф Безос, владелец «Амазона».
Каждый такой треугольник создает прибавочную стои­
мость и прибыль. Если посмотреть на то, сколько получает
каждый работник в процессе производства, можно увидеть
гигантскую разницу в доходах наверху и внизу пирамиды

извлечения.

Во время добычи кобальта для литиевых батарей самых

главных брендов работникам платят эквивалент 1 доллара
в день, при том что этот труд опасен для жизни и вреден

для здоровья. Эти работники также подвергаются насилию,

292
 ДЕМОН ВНУТРИ

запугиванию и вымогательству, штрафам. На рудниках ра­

ботают, по данным Amnesty International, дети семи лет.
А Джефф Безос наверху фрактальной пирамиды зараба­
тывает в день в среднем $275 миллионов (в первые пол­
года 2018 г., согласно индексу миллиардеров Блумберга).
Мальчику на руднике в Конго потребуется проработать 700
тысяч лет, чтобы заработать столько же, сколько Безос за­
рабатывает за день. Шахтеры в Китае, мусорщики, разгре­
бающие свалки электронных отходов в Индии- их зара­
боток составляет менее 200 долларов в месяц (для приме­
ра, шахтер в США зарабатывает в среднем 5300 долларов,
в Канаде - 5800, сборщик мусора в США получает 3500).
В 2008 году в прекрасном районе Лос-Анджелеса Санта
Моника была основана компания TaskUs, этакая многона­
циональная служба поддержки для ведущих технологиче­
ских компаний мира. Стиль управления компании край­
не демократичен, рядовые сотрудники могут записаться

на игру в гольф с топ-менеджерами или принять участие

в корпоративе на специально зафрахтованном круизном
лайнере.
Глобальные компании сегодня стремятся мотивировать
сотрудников работать, отдыхая, и отдыхать, работая, так что
офисы TaskUs оборудованы плетеными креслами и комна­
тами медитации.

Чем же занимается TaskUs? Компания берет на аутсорсинг

создание колл-центров крупных брендов или модерацию
контента на «Фейсбуке». То есть, говоря по-русски, фирма
берет на откуп ответы на звонки потребителей и цензуру
содержания социальных сетей. И первая, и вторая задача
все больше становится делом искусственного интеллекта,
но пока что филиппинские сотрудницы TaskUs составляют
роботам конкуренцию: ведь платят им менее 400 долларов
в месяц. Примерно столько же получают филиппинцы, об­
служивающие по всему миру контейнерные перевозки.

293
 ИГОРЬ ШНУРЕНКО

Чем больше размер фракталов в треугольнике

Серпинского, тем больше зарплаты, но соответственно ро­
сту прибавочной стоимости растет и прибыль собственни­
ков средств производства.

Китаец-ремонтник аппаратуры получает порядка 500

долларов в месяц, индиец-инженер в InfoSys - компании,
которая берет на аутсорс разработку софта для ведущих тех­
нологических компаний, - получает около 600. Китайский
рабочий на фабрике где-нибудь в Шеньджене обходится уже
в 700-800 долларов, столько же стоит ведущий инженер­
разработчик софта на Украине.
Разработчик в Китае или в Румынии стоит уже поболь­
ше - около 1000 долларов в месяц, работница на конвей­
ере производителя микросхем Foxconn в Китае обходит­
ся в 1300 долларов, а в Штатах на конвейере зарабатывают
примерно вдвое больше.
Оператор грузов на складе Amazon в США получает 2100,
техник в компании Intel - 2400. Вообще, зарплаты в США
уже существенно выше, даже сборщик мусора получает там
3500 ежемесячно. Водитель доставки Amazon зарабатывает
под 3000 долларов, грузчики и складские работники в пор­
тах - 3200, рабочий на производстве компонентов для обо­
рудования - 3600.
Операторы горнодобывающих машин, рабочие на взрыв­
ных работах, а также те, кто устанавливает оборудование
Amazon в домах американцев и обслуживает его, получают
4200-4600 долларов, железнодорожники и техники центров
данных - от 5000.
Затраты на труд в сфере IТ в США достаточно высоки. Веб­
разработчик получает 6000, администратор баз данных -
7200, системный аналитик- 7600, специалист по инфор­
мационной безопасности -8000. Еще больше - до 10 тысяч
долларов - получают ученые и инженеры-геологи, мене­

джеры по логистике, разработчики софта и приложений,

294
 ДЕМОН ВНУТРИ

ученые, занимающиеся базами данных, компьютерные ин­

женеры и специалисты по машинному обучению.
Менеджеры по продажам Amazon, инженеры по облач­
ным вычислениям получают уже от 10 до 12 тысяч, а топ­
менеджеры- в среднем 16200 долларов (разумеется, речь
идет о США).
За каждым из треугольников стоят человеческие истории
наплевательского отношения к природе, разрушенных ради

прибылей экосистем, бешеной эксплуатации, бесчеловеч­

ных условий труда и разрушенных надежд на лучшую жизнь.
Система, в которой функционирует искусственный ин­
теллект, стала глобальной и требует для своего поддержа­
ния в том числе и гигантских финансовых ресурсов, кото­
рые извлекаются из обычных отраслей. Пылесос мировой
финансовой системы выкачивает из множества стран день­
ги, которые могли бы пойти на их развитие, для того, чтобы
создать этого всемирного монстра.

Подлинная цена этих систем - социальная, экономиче­

ская, политическая, экологическая - остается скрытой.

ОГОРАЖИВАНИЕ ЧЕЛОВЕКА

Корпорации создают новые механизмы и строят инфра­

структуру для еще большего накопления капитала с тем,
чтобы закрепить свое право на эксплуатацию всех челове­
ческих и планетарных ресурсов.

Такой ничем не сдерживаемый порыв за горизонт к но­

вым ресурсам и новым полям когнитивной эксплуатации
движет поиском все новых, более глубоких слоев данных,
которые могут быть использованы с тем, чтобы оцифровать
человеческую душу, сознательное и подсознательное, част­

ное, интимное и общественное, политическое, социальное

и даже священное.

295
 ИГОРЬ ШНУРЕНКО

Так на наших глазах из экономики внимания рождает­

ся целый веер когнитивных экономик: экономика эмоций,
экономика массовой слежки, экономика репутации и эко­
номика прозрачности, возникающая на основе блокчейна
и критопвалют через коммодификацию доверия.
Процесс оцифровывания и обсчитывания всего теперь за­
пускает свои щупальца в миры человеческого познания, ду­

шевных и телесных движений. Обучающие наборы данных

существуют для определения человеческих эмоций, проис­
хождения и семейных уз, процессов старения, не говоря уже
о физических действиях.
Мы поднимаем упавший на пол стакан, поднимаем его
в тосте, плачем или смеемся- и наши действия считыва­
ются и поставляются на вход черного ящика нейросети.
Каждая форма биоданных-биометрия, социометрия, пси­
хометрия, данные судебно-медицинских экспертиз - все
это регистрируется и загружается в базы данных для ма­
шинного обучения ИИ. Наборы данных для ИИ-систем бе­
рутся из всех сторон жизни, но при этом они повторяют сте­

реотипы и предубеждения, записывая их как социальные

паттерны сегодняшнего дня и проецируя их на будущее.
«Огораживание» биоразнообразия и знаний - послед­
нее из огораживаний, начавшихся с развитием капитализма.
Сначала огораживались леса и земля, они переводились из об­
щественного достояния в ресурс и приватизировались. Затем
«огородили» и приватизировали через дамбы водные ресурсы
и подземные воды. Это произошло, как только ученые и футу­
рологи стали предсказывать скорую нехватку воды.

Теперь пришел черед биоразнообразия и знаний, которые

«огораживаются» через копирайт, законы об охране интел­
лектуальной собственности. Уничтожение общины было не­
обходимо для промышленной революции, чтобы промыш­
ленность получала в неограниченном количестве сырье для

производства.

296
 ДЕМОН ВНУТРИ

Система (например, источник), от которой зависело само

выживание общины, не могла находиться в частной соб­
ственности и ее нельзя было эксплуатировать ради при­
были: ее ресурсы делились между всеми. Поэтому общину
приватизировали, а чтобы запитать двигатель прогресса
и накопления капитала, присвоили базу для выживания об­
щины. Тот же процесс произошел с правами на интеллекту­
альную собственность, теперь то же самое происходит с ма­
шинным обучением.
В контексте искусственного интеллекта началась золотая
лихорадка интенсивного «огораживания» разных областей
человеческого знания, чувств и действий для того, чтобы за­
хватить и приватизировать эти области.
Когда в 2015 году лаборатория DeepMind Technologies
получила доступ к медицинским данным 1.6 миллиона па­
циентов лондонской больницы Royal Free, это была особая
форма приватизации: извлечение ценности из знаний. Сам
набор данных пациентов может быть и сейчас в обществен­
ном пользовании, но модель, созданная на основе метадан­

ных, стала частная собственностью. Ее можно купить, про­

дать, сдать в аренду, внести в капитал и так далее.

Лаборатория объявила, что данные ей были нужны для

того, чтобы улучшить медицинское обслуживание, но неза­
висимо от реальных или скрытых мотивов в условиях совре­

менного капитализма это играет против общества, приводя

к скрытой приватизации медицины.
В будущем человеческий труд в медицинских учрежде­
ниях будет дополнен или вовсе заменен частной корпора­
тивной ИИ-системой медицинских услуг. Скорей всего, цен­
трализованной. Таким образом данные, принадлежащие от­
дельным людям и обществу, будут служить той же цели, что
и все остальные ресурсы: создавать богатства для немногих.
Сегодня мы видим, как возникает новая форма экономи­
ки извлечения. Капитализм в его новой форме достигает

297
 ИГОРЬ ШНУРЕНКО

не только самых дальних уголков биосферы, но и самых глу­

боких слоев человеческого существа, он моделирует, копи­
рует и в конечном итоге приватизирует познание, эмоцио­

нальную сферу, психику и в конечном итоге само физиче­

ское тело.

Машинное обучение, на котором строится сегодня раз­

витие систем с искусственным интеллектом, весьма несо­

вершенно. В результате эти системы усиливают неверные

представления и нагружены стереотипами, они не подда­

ются контролю и плохо модифицируются.

Они похожи на динозавров с их огромными телами и ма­
ленькими мозгами, им все время нужно жрать информацию,
которую они берут всюду, куда могут дотянуться. В процес­
се ее получения они готовы вытоптать целые материки,

а на выходе они со скрипом и ревом поворачивают свою

маленькую голову, издавая какие-то хрипы, то есть пред­

взятые, неуклюжие суждения, зачастую ошибочные.

На основе представлений этих динозавров все больше
строится новая реальность, прекрасный новый мир, и они
играют все возрастающую роль в том, как распределяются

не только знания, но и возможности, благосостояние и сам

капитал.

Их суждения мы порой просто обязаны исполнять, ведь

в такую безвыходную позицию нас поставили власть иму­
щие. Так, газета «Нью-Йорк Тайме» писала о том, что
во многих местных сообществах в Соединенных Штатах
у родителей нет другого выхода, кроме как отдавать детей
в школы с дистанционным обучением. Других вариантов
просто нет.

Этот подход навязывают прежде всего сами компании

и их лоббисты в правительстве, заинтересованные в про­
движении своих продуктов, тех же ноутбуков, без кото­
рых невозможно учиться в таких школах. Они убежда­
ют педагогов и родителей принимать новые стандарты

298
 ДЕМОН ВНуТРИ

дистанционного обучения, ничего не говоря о побочных эф­

фектах, например, о все меньшей социализации подростков
и, как следствие, росте среди них насильственных преступ­

лений. У детей просто нет опыта общения, что в условиях

потребительского общества приводит к агрессии.
Но в то время как в Канзасе детей фермеров возят в учеб­
ное заведение, где они все время проводят перед экрана­

ми, в колыбели прогресса, Силиконовой долине, топ-ме­

неджеры технокорпораций оставляют своих отпрысков
в Уолдорфской школе, где все обучение принципиально по­
строено по старинке, без использования компьютеров. Есть
точка зрения, что полноценное развитие лучше обеспечи­
вается при человеческом контакте с учителем. Но человече­
ский контакт нынче превратился в роскошь, и такое обуче­
ние стоит денег. Уолдорфская школа и система Монтессори
все более популярны среди тех, кто может это себе позво­
лить, то есть среди технократической элиты.
Системы на базе ИИ уже сейчас углубляют неравенство
между немногими, кто ими владеет, и теми, которые ста­

новятся подопытными кроликами для новых технологий,

не осознавая этого. Те, кто получает от ИИ прибыль, заинте­
ресованы в том, чтобы ускорять развитие и внедрение этих
систем, не обращая внимание на их явную и скрытую цену
для рынка труда, общества, окружающей среды. У тех же,
на ком тестируются эти системы, нет денег и влияния, что­

бы отстоять свои права.

Юристы и правозащитники в некоторых странах, в том
числе в США, уже берутся за подобные дела, при этом глав­
ный аргумент, который они используют- это то, что защи­
та конституционных прав важнее возможного нарушения

права интеллектуальной собственности.

Этот подход может дать возможность получить доступ
к коммерческой информации - но даже в США он натал­
кивается на глубоко эшелонированную защиту компаний

299
 ИГОРЬ ШНУРЕНКО

типа Google или Amazon, которые могут купить любых юри­

стов за любые деньги. Число исков, поданных против круп­
ных технологических корпораций в Калифорнии, за послед­
ние годы резко уменьшилось, прежде всего потому что госу­

дарственное обвинение, обладая куда меньшими ресурсами,

чем эти компании, все чаще стало проигрывать.

Кроме всего прочего, правительство во многих случа­

ях стоит на их стороне, потому что заинтересовано в бы­
стрейшем развитии индустрии ИИ из геополитических
соображений.

ЗАПАХ ГОРЯЩЕГО САНДАЛА

Современное искусство, наука и капитализм разделяют

одно и то же устремление толкать границы к потенциально

бесконечному горизонту.
Когда во второй половине XIX века западные страны пе­
реходили к индустриальному обществу, неравномерность
развития привела к тому, что небольшое число магнатов
монополизировали наиболее прибыльные отрасли эконо­
мики, связанные как с развитием технологий, так и сдобы­
чей ресурсов.
Наука открывала для человечества новые горизонты, от­
крытия шли одно за другим в самых разных областях, от фи­
зики до палеонтологии. Тогда и ученые, и общественные
деятели были преисполнены оптимизма, считая, что техно­
логии не только поднимут общий уровень жизни, но и сде­
лают невозможными войны: ведь совместная коммерция
поможет забыть старые споры. В реальности оказалось, что
к старым спорам из-за границ в Европе добавились но­
вые, из-за раздела колоний, а магнаты поняли, что на вой­
не можно построить бизнес. Они увидели, во-первых, но­
вые возможности расширения производства для поставок

300
 ДЕМОН ВНУТРИ

вооружений, во-вторых, перспективы захвата новых рынков

через войну, а в-третьих, способ погасить классовые проти­
воречия через национализм и военное положение.

Очень популярный в те годы пацифизм быстро был забыт,

интернационалисты быстро стали националистами, и мир
оказался ввергнут в череду войн, продолжавшихся, с пере­
рывами, чуть ли не полвека.

Сегодня, как и сто десять лет назад, мы думаем, что перед

нами открываются бесконечные горизонты. Нам кажется,
что мы стали или становимся хозяевами потоков ин форма -
ции, которыми можно управлять через системы искусствен­

ного интеллекта, великолепными устройствами, в которых

соединились человек и машина. Эпоха вновь меняется, чет­
вертая промышленная революция уже началась и обещает
нам экспотенциальное увеличение эффективности произ­
водства. Меньше говорится о месте человека в прекрасном
новом мире, но этот вопрос многим кажется преждевремен­

ным. Ведь еще не все накормлены, чуть ли не половина на­

селения планеты живет в нищете, что там рассуждать о ка­

ких-то фантастических облаках и машинах!

Семнадцать процентов человечества, по мнению прези­
дента Давосского форума и автора концепции «четвертой
промышленной революции» Клауса Шваба, еще никак не мо­
жет дойти до второй. То есть эти люди живут, если проводить
параллели, в России образца до примерно 1880 года, когда
крестьяне были неграмотны, ходили в лаптях и по большей
части еще только начинали осваивать города.

Расскажите бурлаку на Волге с репинской картины про

искусственный интеллект и посмотрите на его реакцию.
Такую же реакцию на новые технологии вы увидите в не­
которых странах и сегодня. Конечно, у нынешнего бурла­
ка есть мобильный телефон, но его представления о мире
и его жизнь немногим отличаются от того, что было у нас
150 лет назад.

301
 ИГОРЬ ШНУРЕНКО

Половина населения Земли все еще живет без интернета,

для них очень актуален переход к третьей промышленной
революции. Все эти люди ждут от прогресса не красивых
слов о постиндустриальной и информационной эре, а улуч­
шения своей жизни, и поэтому они вряд ли прислушаются
к критикам нового перехода, к тем, что обеспокоен тем, что
четвертая промышленная революция уже сегодня сопрово­

ждается преобразованием самого человека.

Машина становится все более похожей на человека, ко­
пирует его в большом и малом, и вот-вот, кажется, обза­
ведется свободной волей. Человек, с другой стороны, все
более напоминает машину: он сросся со своими экранами,
которые наглаживает, как живых людей. Искусственные
ткани уже имплантируются внутрь человека. Пока речь
идет о добровольцах, но этих людей уже десятки, и они ни­
чуть не протестуют против того, что, возможно, мы не так

уж далеки до момента, когда дополненная реальность, на­

веденная электромагнитными волнами, будет возникать

у нас прямо на сетчатке глаза. С другой стороны, потихонь­
ку превращаясь в киборга, человек все дальше отдаляется
от другого человека, настолько, что человеческий контакт
уже превращается в роскошь, которую могут позволить себе
немногие.

Новая технологическая революция, как и сто лет на­

зад, застала общество врасплох. Новое неравенство ничем
не лучше старого: Цукерберги и Безосы возвышаются на­
верху пирамиды извлечения ресурсов, этом треугольнике

Серпинского, стороны которого, уменьшаясь или увеличи­

ваясь в любую сторону технологической прогрессии, бес­
конечно повторяют одну и ту же формулу получения при­
бавочной стоимости из чего угодно. Капитализм прошлого
научился расти и укрепляться, добывая природные ресурсы
из Земли, капитализм настоящего добавил к этому добычу
жизненно важной информации из собственно человека.

302
 ДЕМОН ВНУТРИ

Натуральные ресурсы тратятся на извлечение ресурсов

информационных и человеческих с тем, чтобы еще ото­
двинуть горизонт, за которым магнатам чудится уже бес­
смертие. Но перед последним рывком к горизонту нуж­
но одержать последнюю победу в битве за построение
Сверхинтеллекта, а для этого нужны ресурсы, ресурсы,
ресурсы.

История совершила круг, и мир начинает делиться при­

мерно пополам для новой схватки, где победитель ожидает
получить все, а побежденные - что ж, горе побежденным.

Средства, получаемые в результате извлечения ресурсов

компаниями типа Amazon, вкладываются обратно в хай­
тек, тратятся на воспроизводство все более совершенных
машинных систем в мире, в котором человеку остается все

меньше места.

Новый бесконечный горизонт, куда устремилась энер­

гия целых фабрик ученых - это извлечение данных, глу­
бокое обучение и реорганизация потоков информации че­
рез системы искусственного интеллекта, который требует
огромных ресурсов - машинных, финансовых, природных
и человеческих.

Но в процессе этой самой четвертой революции мы

и не заметили, как новые территории, покоренные чело­

веческим гением, до горизонта оказались приватизирован­

ными глобальными мегакорпорациями, которые сконцен­

трировали у себя невиданную в мировой истории власть -
настолько большую, что они даже не знают, сколько стран
и городов находится под их тотальным контролем.

Теперь - возможно впервые в истории человечества -

можно говорить о том, что они накапливают для рывка в не­

известность ресурсы планетарного масштаба. Но не окажет­

ся ли их победа пирровой?
Как писал Итало Кальвина:

303
 ИГОРЬ ШНУРЕНКО

«В жизни императоров бывает миг, когда за чувством гор­

дости от бескрайности захваченных владений, за печаль­
ным, но и утешительным сознанием того, что скоро мы

расстанемся с надеждою познать их и понять, однажды ве­

чером мы вдруг испытываем ощущение пустоты, проник­

нувшей в нас вместе с запахами пепла от сандала, стыну­

щего в глубине жаровен, и слонов, омытых дождевой водой,
и головокружение - так что дрожат запечатленные на ры­

жем крупе полушарий реки и горы, в глазах мелькают, на­

плывая друг на друга, депеши с сообщениями о новых по­
ражениях последних вражьих армий и крошится сургуч пе­
чатей неизвестных королей, молящих наше наступающее
войско о защите в обмен на ежегодную уплату ими дани
драгоценными металлами, дубленой кожей, черепашьими
щитами, - так вот, приходит миг отчаянья, когда становит­

ся вдруг ясно, что империя, казавшаяся нам собранием всех

чудес, - сплошная катастрофа без конца и края, что разло­
жение ее слишком глубоко и нашим жезлом его не остано­
вить, что, торжествуя над неприятельскими суверенами, на­

следовали мы их длительный упадок».

АНАТОМИЯ ИИ:
ИНСТРУМЕНТЫ И АГЕНТЫ
 The Brain - is wider - than the Sky
For- put them side Ьу side-
The one the other will contain
With ease - and You - beside -
Эмили Дикинсон

ГЛЮКИ В МАТРИЦЕ

Кинорежиссер Кристофер Нол ан мастерски умеет переда -

вать нарастающее напряжение. В фильме «Дюнкерк» ан­
гличанам и французам, которых окружили немцы, оста­
ется только ждать смерти. Из предательской тишины мор­
ского курорта рождается едва слышимый гул авиамоторов,
небеса все еще чисты, но зритель, затаив дыхание, знает,
что нацистские эскадрильи на подходе. На подсознатель­
ном уровне он уверен, что катастрофа неизбежна. В дру­
гой сцене мы слышим тревожное тиканье часов, звук ста­
новится громче, убыстряется и переходит в биение сердца.
Музыка Ханса Циммера все время идет крещендо, вибри­
руя, при этом громкость каким-то загадочным образом
остается прежней.
Циммер сочинил саундтреки к множеству фильмов, отме­
ченных «Оскарами» - это и «Человек дождя», и «Последний
самурай», и «Гладиатор» - при этом его коронный номер
в общем-то один и тот же. Глубинное ощущение нарастаю­
щей тревоги передается звуковой иллюзией, известной как
«тон Шепарда». В самом простом варианте это выглядит так.
Одновременно звучат три последовательности нот в трех
октавах. При этом верхняя последовательность звучит все
выше, но все тише, громкость средней последовательности
не меняется, а самая низкая последовательность звучит все

выше и все громче, пока не достигает определенного пре­

дела. Далее все повторяется снова.

307
 ИГОРЬ ШНУРЕНКО

Сочетания звуков накладываются друг на друга, плавно

вступая и плавно затихая, но выделить отдельную последо­

вательность на фоне звучания других человеку с обычным

музыкальным слухом невозможно. Возникает иллюзия не­
прерывно повышающегося тона, которая и создает ощуще­

ние тревоги. Эффект еще сильнее, когда последовательно­

стей не три, а, скажем, пять, и ноты исполняются не слит­
но, легато, а с небольшими паузами, стакатто. Есть похожая
иллюзия с непрерывно ускоряющимся или замедляющим­

ся ритмом, которая также используется Циммером в звуке

тикающих часов - для записи использовались часы само­

го Нолана. Нолан обожает играть со временем, сворачивать

и разворачивать его в памяти, вызывая ощущение напря­

жения и тревоги.

Почему так происходит? Почему наш разум так легко даёт

провести себя? Дело как раз в том, что мозг- не машина, он
не создавался конкретно для записи или воспроизведения

звуков. Для него это лишь одна из множества задач, кото­

рые он решает одновременно. Он всегда мысленно достраи­
вает последовательности, данные в ощущениях, чтобы бы­
стрее сформировать семантический образ - то есть сфор­
мулировать в подсознании, что это он слышит. Понимание
происходит, минуя сознание, то есть практически мгно­

венно: эволюция научила человека, что реакция на звук

приближающегося тигра не должна быть слишком дол­

гой. В случае с тоном Шепарда верхняя тональность, ко­
гда затихнет, как бы становится нижней, но мозг не заме­
чает изящно выстроенной петли, потому что сразу ведет­
ся на постоянно восходящие тональности, а они как бы все
время подхватывают друг друга, и кажется, что тон, который
мы слышим, без остановки идет вверх. Паузы между нота­
ми оставляют еще больше места для работы мозга, кото­
рый деловито связывает звуки друг с другом в соответствии

308
 ДЕМОН ВНУТРИ

со своим уже сформированным семантическим восприяти­

ем происходящего.

Семантическим - значит на уровне понятий языка, кото­

рые в данном случае описывают угрозу.

Конечно, этим приемом пользовался не только Цим­

мер - его можно уловить и в альбоме Echo группы Pink
Floyd, и в партиях электрогитар, открывающих и закры­
вающих альбом Queen А Day at the Races, и даже у Баха,
в «Фантазии и фуге соль минор», которая, в свою очередь,
написана на основе протестантского хорала.

Это, кстати, всё та же хорошо нам уже знакомая рекурсия.

Еще более наглядны - а мозг человека любит нагляд­
ность - обманы зрения, которые точно так же объяс­
няются экономным подходом нашего мозга к работе.
Американский художник Виктория Скай создала оптиче­
скую иллюзию, где кажется, что синие полоски располо­

жены друг к другу под углом, хотя в реальности они парал­

лельны. В это не верится, но можно проверить себя при по­

мощи обычной линейки!

Горизонтальные соседние ниточки, которые соединяют

повторяющиеся элементы в каждой синей полосе на этой
картинке, расположены на разных высотах. Те же ниточ­
ки, что соединяют элементы по вертикали, также смеще­

ны. Сочетание этих приемов в ритмическом чередовании

и дает в сущности, тот же эффект, что и тона Шепарда в зву­
ке. Создается впечатление, что полоски идут наклонно.
Очевидно, мозг сразу не видит картинку как единое це­
лое. Он воспринимает ее как наложение визуальных обра­
зов и моментально распознает отношения соседних элемен­

тов друг к другу. При этом он признает типы отношений,

а в них какие-то знакомые связи (выше-ниже, направле­
ния, размеры и тому подобное). Сразу же мозг выдвигает
свою интерпретацию происходящего, не обращая внимания

309
 ИГОРЬ ШНУРЕНКО

на несоответствия. Именно это мы видим - и самое инте­

ресное, не можем уже никак развидеть!
Поэтому, исходя из увиденного, наше визуальное вос­
приятие торопится присвоить ему определенные значения,

предсказать, чем нужно заполнить пустоты, и соединить

все это в семантические связи более высокого уровня, ко­

торые наш мозг уже не может игнорировать: ведь имен­

но это мы «видим». Даже если долго всматриваться в поле

с шахматными клеточками, на которое падает тень, мы все

равно будем видеть черные и белые клеточки, хотя среди

них есть на деле совершенно одинаковые по тону! То же
касается синих полосок Виктории Скай: только измере­
ния смогут убедить нас в том, кто они на самом деле стро­
го параллельны! Но сколько бы мы ни смотрели на кар­
тинку, даже зная, что полосы параллельны, сколько бы мы
ни убеждали себя в этом, полосы мы будем все равно ви­
деть расходящиеся.

Психологам и нейрофизиологам известно множество ви­

зуальных парадоксов, когда углы или объемы одинаковых
фигур кажутся неравными, или даже черное воспринима­
ется как белое. Не правда ли, последний прием постоянно
используется в пропаганде?
Слух, как мы убедились, точно так же можно обмануть.
Интересно, что обонятельные иллюзии вызвать гораздо
сложнее, как правило, они связаны с расстройствами мозга
или психики.

Эти и другие ошибки восприятия говорят нам на деле

о том, как работает нормальный мозг, как эволюция сфор­
мировала в нем механизмы производства значений, в ре­
альности которых мы убеждены. На самом деле этот набор
значений мы и называем реальностью. Сейчас мы косну­
лись проблем восприятия, где сознание может быть не за­
действовано совсем. Но как будет показано чуть дальше,
и на более высоких уровнях, где человек вроде бы сознает,

310
 ДЕМОН ВНУТРИ

что делает и может «развидеть» ошибочный образ, механиз­

мы работы его мозга остаются примерно теми же.
Есть разные гипотезы о причинах появления таких меха­
низмов. Возможно, дело в том, что в далеком прошлом мы
жили в ситуации недостатка информации, важной для вы­
живания, и решения нужно было принимать сразу. Что это
за шорох, не несет ли он опасности? Что скрывается в тем­
ноте пещеры? Кто метнулся вам под ноги? Инстинктивно
мы всегда настороже, и этот принцип эксплуатирует теле­

видение, которое возбуждает наше внимание постоянной

сменой картинки. Но есть и другое объяснение: ресурсов на­
шего мозга может просто не хватить на более полное и точ­
ное восприятие реальности в ощущениях - во всяком слу­

чае, не хватать надолго.

Бывают в жизни человека моменты, когда под влияни­

ем обстоятельств - например, на войне - его чувства об­
остряются. Он видит зорче, слышит звуки, которые нико­
гда бы не разобрал в обычной жизни, на слух определяет,
из какого оружия стреляли или какая бомба летит, он ви­
дит, где сидит снайпер и может на ощупь обезвредить мину.
Организм использует все ресурсы, а порой к обычным зре­
нию, слуху, обонянию, осязанию и вкусу подключается не­
что загадочное, называемое шестым чувством. Есть много
историй о ясновидении, телепатии и озарении, основан­
ном на интуиции, то есть на способности человека, мобили­
зуя некие недоступные обычно ресурсы, моментально про­
никать в смысл событий и сущность вещей. Такие способ­
ности считаются сверхъестественными и приписываются

героям.

Но даже героя обычно хватает не слишком надолго.

Обычный человек ценой напряжения всех сил может вый­
ти за рамки обычного, но эволюция не делает каждого баро­
ном Мюнхгаузеном и не требует от человека с 8 до 1О утра
совершить подвиг.

311
 ИГОРЬ ШНУРЕНКО

КАК МЫ ПРЕВРАЩАЕМ НЕЗНАКОМЦЕВ В МОНСТРОВ

Итак, наш мозг соотносит друг с другом образы и звуки и де­

лает предсказание некоей прогрессии, паттерна, даже если
эта прогрессия лишь воображаемая. При этом мозг не может
преодолеть допущения, которые он делает, и конструирует

«реальность», которая может оказаться иллюзорной.

Для нас важен и относительный размер элементов «ре­
альности». Живописцы хорошо показывают, как наш мозг
конструирует глубину пространства через наложение объ­
ектов друг на друга, воздушную и линейную перспекти­
ву, уменьшение масштаба в зависимости от расстояния
или вертикальное расположение объектов. Мозг пользует­
ся этими допущениями, чтобы сконструировать представле­
ние мира в 3D - ведь мы живем в трехмерном мире, и наши
чувства сформировались для того, чтобы понимать этот мир
и взаимодействовать с ним.
Есть еще одна иллюзия, которая показывает границы на­
шего восприятия. Зрителю показывают быстро меняющие­
ся изображения лиц, по паре лиц на каждый кадр. Среди
этих лиц есть известные голливудские актеры и лица обыч­
ных людей. Пока изображения быстро сменяют друг друга,
надо смотреть на крестик в центре картинки - таким об­
разом лица оказываются на периферии зрения. Обычные
люди при таком просмотре похожи на монстров, а вот лица

известных актеров сохраняют сходство с прототипами. Если

просматривать последовательность медленно, все лица вы­

глядят нормальными - а если ускорить просмотр, то и лица

актеров начинают искажаться.

Почему так происходит? Дело в том, что мозгу требует­

ся время для того, чтобы правильно воссоздать реальность,
и если у него этого времени нет, то он дорисовывает «портрет»

с большими искажениями. Понятно, что известный уже, хра­

нящийся в загашнике памяти портрет он дорисует быстрее.

312
 ДЕМОН ВНУТРИ

В отличие от мозга человека, который использует допу­

щения, обобщения и «кратчайшие пути», при глубоком об­
учении нейронные сети захватывают визуальные образы
с одинаковой четкостью всех деталей.
Восприятие человека хорошо передается в живописи ста­
рых мастеров. Например, в знаменитой картине Вермеера
«Женщина в красной шляпе» зритель как бы застигает ге­
роиню врасплох. Красная шляпа создает тень, делая бо­
лее выразительным взгляд героини картины, направлен­

ный на нас. Мы видим ее глаза в тени, потом яркую шляпу,

а вот остальные детали выписаны достаточно схематично.

Но именно так устроен наш мозг: мы видим только то, что

для нас важно!
В более известной работе художника «Девушка с жемчуж­
ной сережкой» мы тоже обращаем внимание на сверкающие,
как жемчуг, глаза девушки - и на сережку. Вермеер переда­
ет мир таким, как реально видит его человек, поэтому его

работы нас так завораживают. Ты словно входишь в чужую

жизнь и не можешь оторваться.

В ХХ веке появилось такое течение, как фотореализм,

когда тщательно выписываются все детали, каждый во­
лос. Но внимание человека не может быть направлено
на все, все - значит ничего, поэтому работы Чака Клауза
или Джона Бедера могут эмоционально тронуть лишь кура­
торов или арабских инвесторов на арт-рынке.
Человек постоянно конструирует паттерны, по которым
он будет воспринимать «реальность», а вот обучающиеся
сети гораздо более сфокусированы в выполнении задачи.
Поэтому в распознавании образов ИИ уже сейчас гораздо
эффективнее человека.
Сеть с открытым кодом Psychlab - создание лондонской
лаборатории «Гугла» DeepMind, той самой, что победила че­
ловека в го. Psychlab изучает разницу между визуальным
распознаванием человека и ИИ, проводя с этой целью в сети

313
 ИГОРЬ ШНУРЕНКО

много экспериментов. Изучая разницу в поведении чело­

века и машины, мы можем понять, как они познают мир.

Человеческий мозг использует в процессе распознавания со­

четание параллельной и последовательной обработки дан­
ных, а машина-лишь параллельную. Поэтому машина ра­
ботает быстрее. Видимо, именно параллельную обработку
данных будут использовать будущие агенты ИИ.
Кстати, об агентах. Это, как вы уже, наверное, догадались,
не совсем шпионы. Агентами ИИ называют чатботы, раз­
ного рода помощники вроде Алисы или Алексы, алгоритмы,
управляющие беспилотными автомобилями, дронами, ро­
ботами и так далее. Вполне можно назвать агентом и кибер­
ведущего, если он работает в автономном режиме. Главное­
чтобы наличествовал некий компьютерный алгоритм, кото­
рый самостоятельно управлял бы устройствами на выходе
с тем, чтобы они выполняли какую-то задачу. При этом круг
задач для машин все время расширяется, и мы уже видим,

как машины сами себе ставят задачи, то есть одни агенты

управляют другими.

В случае искусственного интеллекта алгоритм, как пра­

вило, определяется нейросетью, хотя есть и другие вариан­
ты создания программ управления, например, экспертные

системы. Есть и более широкое понятие «интеллектуального

агента», куда входят даже компьютерные вирусы - то есть

алгоритмы, возникшие еще до внедрения в компьютерную

реальность искусственного интеллекта. Можно рассматри­

вать вирусы и поисковые боты как более низшее звено эво­
люции в сравнении с нынешними агентами ИИ.

ШЕСТОЕ ЧУВСТВО

Агенты ИИ приступили к освоению так называемого «ше­

стого чувства», или кинестезии. Это сочетание греческих

314
 ДЕМОН ВНУТРИ

слов «кинесис» - движение, и «эстесис» - восприятие, ощу­

щение - означает то чувство, когда мы воспринимаем соб­

ственное тело как что-то единое. Мы ощущаем положение
его в целом и отдельных его частей. Еще для обозначения
этого ощущения используется термин «проприоцепция».

Чтобы понять, что имеется в виду, закройте глаза, отклю­

чите все, что может звучать, и постарайтесь почувствовать ча­
сти своего тела. У вас внутри как будто есть карта, на которую
нанесены расстояния между ними, вы без всякого дотраги­
вания знаете, где какая часть и как изменилось ее положение.

Мозг человека интегрирует всю информацию и стро­

ит подобную карту автоматически, а вот робототехникам
это пока не удавалось. Метод программирования SLAM
(Simultaneous localization and mapping) позволяет роботам
использовать аналоги наших чувств слуха, зрения, осязания,

обоняния, вкуса. Для этого им служат камеры, микрофоны,

датчики давления, химические сенсоры и так далее. Таким
образом, роботы научились строить карту своего окруже­
ния. Однако, если случается что-то непредвиденное, напри­
мер, они оказываются в полнейшей темноте, роботы легко
могут потерять из виду самих себя. Датчика «шестого чув­
ства» еще не придумали, поэтому такой дезориентирован­
ный робот может сам себя разрушить - в точности как чело­
век, страдающий психическими расстройствами деперсона­
лизации и дереализации.

Насколько ключевым это «ощущения себя самого» явля­

ется для разумных существ, можно понять, если обратиться
к практике подобных психических расстройств. Их симпто­
мы - нарушение восприятия собственного «я», ощущение
нереальности происходящего, приступы тревоги, паниче­

ские атаки и потеря эмоций. Вот как описывает одна из па­

циенток свои ощущения, вернее, ужас от их потери:

«В один день я поняла, что не ощущаю своего тела.

Появилось одновременно чувство легкости и невесомости,

315
 ИГОРЬ ШНУРЕНКО

а потом я стала ловить себя на мысли, что меня как бы нет.

Ощущения в руках стали не мои, отражение в зеркале не то ...
Я полностью отдалась страху: физические симптомы исчез­
ли, остался неописуемый ужас, что сейчас я потеряю связь
с реальностью и контроль над собой ... Мир, каким я его зна­
ла, разлетелся вдребезги. Выходя на улицу, я понимала, что
между мной и реальностью большой барьер. Мир за стек­
лом казался плоским, бесцветным, мертвым. Я не могла
понять, сон это или реальность, а может, я вообще умерла.
Время просто остановилось, его не было, не было для меня.
А в душе пустота, тишина и никаких эмоций».
Причиной деперсонализации может быть сильный стресс,
когда организм защищается, как бы отключая мозг, обрубая
все его связи с внешним миром. Такое случается с впечатли­
тельными людьми, которые переживают по любому поводу,
принимают все близко к сердцу. Начинается все с тревоги,
приступов паники, которые переходят в невроз, связи чело­

века с миром теряются, но вместе с этим он теряет и себя:

«Деперсонализация - это когда не можешь понять, что ты
за человек».

Вот описание симптомов деперсонализации от еще од­

ной пациентки:
«Мир переворачивался вверх ногами, и приходилось
ложиться на пол и закрывать глаза, это помогало прийти
в себя ... Я не чувствовала себя - личность стерлась, а я стала
другим человеком: ощущение, будто души больше нет, толь­
ко одна оболочка. Это сопровождалось постоянной тревогой,
самокопанием, головными болями, ощущением безысход­
ности. Это страшное состояние, когда суицид кажется един­
ственным способом все прекратить».
Описание деперсонализации и дереализации показыва­
ют, что «шестое чувство» отвечает не только за координа­

цию наших движений. Без этого «ощущения себя самого»

мы попросту бы погибли, перестав функционировать как

316
 ДЕМОН ВНУТРИ

разумные существа. Помните парадокс Моравека? Не осво­

ив на самом глубоком уровне этого ощущения цельности,
искусственный интеллект не сможет преодолеть уровень
способностей годовалого младенца.
Нельзя сказать, чтобы ученые и инженеры не работали
над решением этой проблемы. При помощи машинного об­
учения роботов натаскивают, например, свободно работать
руками. Но делать это с каждым роботом в отдельности тре­
бует слишком много времени, записать же все движения ко­
дами еще сложнее. Недавно американские ученые Роберт
Квятковский и Ход Липсон предложили систему с «сильным
чувством самой себя», которая бы отслеживала и моделиро­
вала свои собственные размеры, форму и движения.
Исследователи использовали глубокое машинное об­
учение, когда робот начинал осваиваться в пространстве,
не имея представления о своих габаритах и двигательных
возможностях. Он расправлял руки, поднимал предметы,
притрагивался к ним, двигал, ломал их, как это делает мла­

денец в первые годы жизни. Таким образом робот совер­

шал и запоминал множество случайных движений, создавая
одновременно что-то вроде карты своего тела, о которой
мы говорили выше. Затем глубокое обучение переходило
на следующий этап. Ученые давали роботу задание разра­
ботать стратегии для разных задач, связанных с координа­
цией движений. Он должен был не выполнять их методом
проб и ошибок, как это делают обычные обучаемые робо­
ты, а анализировать окружение и карту своего тела, что­

бы в разных ситуациях применить некие общие приемы

и движения.

Затем роботу заменяли часть руки деформированным

компонентом, имитируя поломку. Робот оказался в состоя­
нии сам почувствовать, что что-то не так, и стал работать
над устранением проблемы. Он «осознал» или «прочувство­
вал» новую конфигурацию и стал делать первоначальную

317
 ИГОРЬ ШНУРЕНКО

серию упражнений, чтобы заново научиться тем же задачам.

Довольно скоро он уже мог выполнять их почти с той же
точностью.

«ОБЪЯСНИМОЕ МАШИННОЕ ОБУЧЕНИЕ» КАК ПУТЬ

К «ДЕКЛАРАЦИИ НЕЗАВИСИМОСТИ» МАШИН

Есть основания полагать, что, освоив «шестое чувство», ис­

кусственный интеллект пойдет в своем развитии дальше.
Ведь человеческое тело всеми органами чувств довольно
точно и детально ощущает свое окружение, но не в состоя­

нии так же заглянуть в себя. Осязанием мы можем нащупать

песчинку или, как принцесса, горошину через несколько

матрацев - при этом мы не чувствуем, например, артери­

альных разветвлений сердца. Мы можем увидеть прожил­

ки на листике дерева в лесу или услышать далекий гром -
но мы не видим, что происходит в селезенке или печени.

Получается, что собственное тело мы ощущаем как единое

и целое - но при этом оно закрыто и непроницаемо для

наших чувств. Единственное, пожалуй, что чувственно свя­

зывает наш мозг с нашим телом - это боль и удовольствие,
но представьте себе, что внешний мир мы воспринимали
подобным же образом. Допустим, во время непогоды мы бы
не видели ни капель падающего дождя, ни крыш, срывае­

мых ветром или сгибающихся под бурей деревьев - а про­

сто чувствовали бы боль или неудобство. Не думаю, что так
мы бы далеко продвинулись в нашем восприятии мира.
С глубокой древности человеческий интеллект был об­
ращен лишь вовне, на внешние объекты. Наша философия
тоже была вся обращена на освоение и объяснение окружа­
ющего мира, что и привело в конечном итоге к безудерж­
ному материализму и дуализму, противопоставлению «че­

ловека» и «природы». А когда человек наконец обратился

318
 ДЕМОН ВНуТРИ

к изучению себя, он стал делать этот теми же методами, что

и когда изучал внешний мир. То есть он создал для этого ин­
струмент, машину, которую в меру бессмысленно принято
называть «искусственным интеллектом».

При этом мало кто задавал себе вопрос: почему человек

не может изучать сам себя с той же легкостью, что и приро­
ду? Человек разбил мир на две противоположности исходя
из молчания тела, и если бы оно не молчало, вся наша фило­
софия была бы другой.
Почему тело закрыто для наших ощущений? Это загадка,
вероятно, связанная с эволюцией.
Много говорят о технологической сингулярности, подра­
зумевая под ней тот момент, когда «искусственный интел­
лект» превзойдет «естественный» по неким критериям, ко­
торые пока в точности не ясны. Вычислительные способно­
сти машины уже давно превышают человеческие, при этом

она не может открыть дверь без риска упасть и сломать себе

шею! Что толку, если эти способности вырастут еще тысяче­
кратно? Но вот момент, который представляется действи­
тельно важным, вернее, два.

Первый момент можно назвать «моментом самопозна­

ния»: он наступит, когда машина сможет «ощущать сама

себя» как единое целое, как самость. Второй- «деклараци­

ей независимости» - моментом, когда искусственный разум
создаст себе что-то подобное внутренней нервной системы
с тем, чтобы получать сигналы изнутри, «чувствовать» свои
органы. Это даст возможность саморемонта, самообслужи­
вания, самолечения роботов, управляемых агентами ИИ -
иными словами, ма�