Игорь Шнуренко
ДЕМОН
ВНУТРИ
АНАТОМИЯ
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Шнуренко, Иrорь
Ш 77 Демон внутри. Анатомия искусственного интеллекта. -
М.: Издательство «Наше завтра», 2021. - 512 с.
ISBN 978-5-6045084-5-9
УДК 004.8+681.51.331.5
ББК 32.813.5+32.96
Людвиг Витгенштейн
СУЩЕСТВУЕТ ЛИ
-
ИСКУССТВЕННЬIИ
ИНТЕЛЛЕКТ?
Что такое искусственный интеллект и чего от него ждать? Уже
сегодня умные вещи пишут за нас, читают нас, развлекают
7
ИГОРЬ ШНУРЕНКО
8
ДЕМОН ВНУТРИ
9
ИГОРЬ ШНУРЕНКО
10
ДЕМОН ВНУТРИ
11
ИГОРЬ ШНУРЕНКО
12
ДЕМОН ВНУТРИ
13
ИГОРЬ ШНУРЕНКО
14
ДЕМОН ВНУТРИ
15
ИГОРЬ ШНУРЕНКО
19
ИГОРЬ ШНУРЕНКО
20
ДЕМОН ВНУТРИ
ной борьбе.
Тренд уже привел к увеличению спроса на сырье, элек
троэнергию и другие ресурсы. Резко вырос спрос на медь,
21
ИГОРЬ ШНУРЕНКО
22
ДЕМОН ВНУТРИ
ЗАГАДКА INTELLECTUS
23
ИГОРЬ ШНУРЕНКО
24
ДЕМОН ВНУТРИ
25
ИГОРЬ ШНУРЕНКО
26
ДЕМОН ВНУТРИ
из классификаций?
Если же говорить о неизменных свойствах челове
ка, то это уже не два пола, да и другие биологические ха
рактеристики с течением времени также могут изменить
добьется.
Существует философский парадокс, известный под на
званием «Корабль Тесел». Афинский герой Тесей совершил
много подвигов, в том числе убил Минотавра, избавив свой
город от выплаты чудовищной дани. В благодарность афи
няне сохранили его корабль, который считался священ
ным. По мере того как доски корабля приходили в негод
ность, их заменяли новыми, пока, наконец, в теле корабля
не осталось ни одной изначальной доски. Тот ли это корабль
или уже новый? - стали спрашивать друг друга философы.
Наиболее авторитетно высказался на эту тему Аристотель.
По его мнению, у любой вещи есть форма, материал и суть.
Полностью заменив износившийся материал, мы не изме
нили суть, поэтому корабль остался тем же.
Точно так же определять человека его биологией скоро
будет лишено всякого смысла. У него сначала появятся ис
кусственные органы, а со временем, вероятно, и весь «ма
27
ИГОРЬ ШНУРЕНКО
28
ДЕМОН ВНУТРИ
снят»?
Может быть человек - это вечная неудовлетворенность,
вечная несогласованность мечтаний друг с другом и между
другими? Мы всегда хотим большего, даже не зная, как мо
жем это назвать, хватит ли у нас для этого слов и языков.
29
ИГОРЬ ШНУРЕНКО
30
ДЕМОН ВНуТРИ
31
ИГОРЬ ШНУРЕНКО
32
ДЕМОН ВНУТРИ
расследований «Викиликс».
Итак, мы видим, как теоремы неполноты Гёделя актив
но используются, пусть и бессознательно, в конспирологии,
пропаганде и манипуляции массовым сознанием. О важных
выводах применительно к машинному обучению мы пого
ворим в соответствующей главе, но и в 1930-е годы, когда
еще никакого машинного обучения не было, идеи Гёделя
произвели эффект разорвавшейся бомбы.
Эти теоремы были сразу же применены ко всему челове
ческому познанию. Их толковали в том смысле, что некото
рые истины никогда не будут познаны, а внутренняя непро
тиворечивость самой науки - любой науки - всегда будет
оставаться под вопросом.
33
ИГОРЬ ШНУРЕНКО
34
ДЕМОН ВНУТРИ
35
ИГОРЬ ШНУРЕНКО
36
ДЕМОН ВНУТРИ
37
АНАТОМИЯ ИИ:
ЧТО ВНУТРИ ЧЕРНОГО ЯЩИКА
ВЕЖЛИВЫЕ ЛЮДИ ИЗ AMAZON
41
ИГОРЬ ШНУРЕНКО
42
ДЕМОН ВНУТРИ
43
ИГОРЬ ШНУРЕНКО
44
ДЕМОН ВНУТРИ
не отвечает.
45
ИГОРЬ ШНУРЕНКО
них помощников.
46
ДЕМОН ВНУТРИ
47
ИГОРЬ ШНУРЕНКО
ТАНТАЛОВЫЕ ВОЙНЫ
48
ДЕМОН ВНУТРИ
практически невозможно.
49
ИГОРЬ ШНУРЕНКО
50
ДЕМОН ВНУТРИ
в атмосфере Земли.
51
ИГОРЬ ШНУРЕНКО
52
ДЕМОН ВНУТРИ
53
ИГОРЬ ШНУРЕНКО
54
ДЕМОН ВНуТРИ
МЕХАНИЧЕСКИЕ ТУРКИ
55
ИГОРЬ ШНУРЕНКО
меньше цента.
56
ДЕМОН ВНУТРИ
ОБЛАЧНАЯ ЭКСПЛУАТАЦИЯ
57
ИГОРЬ ШНУРЕНКО
58
ДЕМОН ВНУТРИ
59
ИГОРЬ ШНУРЕНКО
60
ДЕМОН ВНУТРИ
61
ИГОРЬ ШНУРЕНКО
62
ДЕМОН ВНУТРИ
63
ИГОРЬ ШНУРЕНКО
64
ДЕМОН ВНУТРИ
65
V
ИИ РАСКОВАННЬIИ:
ОТ ЖАККАРДОВА СТАНКА К ЧЕЛОВЕКУ
ТРАНСФОРМЕРУ
РОЖДЕНИЕ ИИ ИЗ ДУХА ПОЭЗИИ
69
ИГОРЬ ШНУРЕНКО
70
ДЕМОН ВНУТРИ
71
ИГОРЬ ШНУРЕНКО
на свете программу.
72
ДЕМОН ВНУТРИ
73
ИГОРЬ ШНУРЕНКО
74
ДЕМОН ВНУТРИ
ДИЗАЙНЕРСКИЕ ПЕРФОКАРТЫ
75
ИГОРЬ ШНУРЕНКО
76
ДЕМОН ВНУТРИ
77
ИГОРЬ ШНУРЕНКО
78
ДЕМОН ВНУТРИ
ограниченным.
79
ИГОРЬ ШНУРЕНКО
80
ДЕМОН ВНУТРИ
81
ИГОРЬ ШНУРЕНКО
82
ДЕМОН ВНУТРИ
83
ИГОРЬ ШНУРЕНКО
84
ДЕМОН ВНУТРИ
85
ИГОРЬ ШНУРЕНКО
86
ДЕМОН ВНУТРИ
87
ИГОРЬ ШНУРЕНКО
не справится.
88
ДЕМОН ВНУТРИ
89
ИГОРЬ ШНУРЕНКО
90
ДЕМОН ВНУТРИ
91
ИГОРЬ ШНУРЕНКО
92
ДЕМОН ВНУТРИ
93
ИГОРЬ ШНУРЕНКО
94
ДЕМОН ВНУТРИ
95
ИГОРЬ ШНУРЕНКО
96
ДЕМОН ВНУТРИ
97
ИГОРЬ ШНУРЕНКО
98
ДЕМОН ВНУТРИ
99
ИГОРЬ WHYPEHKO
100
ДЕМОН ВНУТРИ
101
ИГОРЬ ШНУРЕНКО
102
ДЕМОН ВНУТРИ
103
ИГОРЬ ШНУРЕНКО
104
ДЕМОН ВНУТРИ
105
ИГОРЬ ШНУРЕНКО
106
ДЕМОН ВНУТРИ
107
ИГОРЬ ШНУРЕНКО
108
ДЕМОН ВНУТРИ
109
ИГОРЬ ШНУРЕНКО
110
ДЕМОН ВНуТРИ
111
ИГОРЬ ШНУРЕНКО
112
ДЕМОН ВНУТРИ
113
ИГОРЬ ШНУРЕНКО
114
ДЕМОН ВНУТРИ
115
ИГОРЬ ШНУРЕНКО
116
ДЕМОН ВНУТРИ
117
ИГОРЬ ШНУРЕНКО
118
ДЕМОН ВНУТРИ
119
ИГОРЬ ШНУРЕНКО
120
ДЕМОН ВНУТРИ
121
ИГОРЬ ШНУРЕНКО
122
ДЕМОН ВНУТРИ
123
ИГОРЬ ШНУРЕНКО
124
ДЕМОН ВНУТРИ
125
ИГОРЬ ШНУРЕНКО
их мы не сможем.
126
ДЕМОН ВНУJРИ
АНТИ-ТЬЮРИНГ
127
ИГОРЬ ШНУРЕНКО
гие игроки.
128
ДЕМОН ВНУТРИ
129
ИГОРЬ ШНУРЕНКО
го - отличит.
ОКОНЧАТЕЛЬНАЯ МАШИНА
130
ДЕМОН ВНУТРИ
131
ИГОРЬ ШНУРЕНКО
132
ДЕМОН ВНУТРИ
133
ИГОРЬ ШНУРЕНКО
134
ДИКТАТУРА АЛГОРИТМОВ
КАК УКРАЛИ МОЗГ ЗЙНWТЕЙНА
139
ИГОРЬ ШНУРЕНКО
140
ДЕМОН ВНУТРИ
141
ИГОРЬ ШНУРЕНКО
142
ДЕМОН ВНУТРИ
ных сетей.
143
ИГОРЬ ШНУРЕНКО
с большой осторожностью.
Загрузка мозга, по мнению Курцвейла, станет возможной
при способности компьютера производить в 10 в 19 степе
ни флопов (то есть операций с плавающей запятой в секун
ду). При этом сегодня этот показатель у китайского супер
компьютера Sunway TaihuLight составляет порядка 100 пе
тафлопов (петафлоп- это квадрильон операций, то есть 10
в 15 степени). Нужно учесть и то, что Курцвейл, очень по
пулярный визионер и ярый сторонник быстрейшего со
здания Сверхинтеллекта, уже много раз ошибался в своих
прогнозах.
блема энергоэффективности ..
Человеческий мозг при всей своей невероятной мощно
сти потребляет всего 20 ватт энергии. Китайский суперком
пьютер Tianhe-2 с производительностью 34 петафлопа по
требляет около 20 мегаватт энергии - то есть его энергоэф
фективность в миллион раз ниже.
Но ведь для достижения человеческого уровня мощность
суперкомпьютеров должна вырасти на порядки - а значит,
144
ДЕМОН ВНУТРИ
145
ИГОРЬ ШНУРЕНКО
146
ДЕМОН ВНУТРИ
147
ИГОРЬ ШНУРЕНКО
148
ДЕМОН ВНУТРИ
149
ИГОРЬ WHYPEHKO
150
ДЕМОН ВНУТРИ
151
ИГОРЬ ШНУРЕНКО
152
ДЕМОН ВНУТРИ
ственного интеллекта.
153
ИГОРЬ ШНУРЕНКО
ИДИШ И НЕЙРОСЕТИ
154
ДЕМОН ВНУТРИ
изданий на идиш.
Евреи-идеалисты, переехавшие в Америку, хотели
во что бы то ни стало сохранить идиш - язык, на котором
в начале ХХ говорило ни много ни мало одиннадцать мил
лионов человек. После Второй мировой евреи решили за
быть идиш, как язык гетто, заменив его ивритом, в котором
они видели возрождение сильной державы. Однако именно
на языке гетто были написаны сотни глубоких книг на темы
от кулинарии до футуризма. После удара, нанесенного холо
костом, коллективный разум восточноевропейского еврей
ства в очень короткий срок «разучился» говорить на идиш
и «выучил» мертвый язык, веками используемый лишь для
богослужений. Тем не менее, до сих пор встречаются энту
зиасты, изучающие идиш, хотя он давно перестал быть раз
говорным. Любопытная параллель между искусственным
и коллективным интеллектом в части освоения нового язы
155
ИГОРЬ ШНУРЕНКО
156
ДЕМОН ВНУТРИ
157
ИГОРЬ ШНУРЕНКО
158
ДЕМОН ВНуТРИ
159
ИГОРЬ ШНУРЕНКО
160
ДЕМОН ВНУТРИ
161
ИГОРЬ ШНУРЕНКО
162
ДЕМОН ВНУТРИ
163
ИГОРЬ ШНУРЕНКО
164
ДЕМОН ВНУТРИ
165
ИГОРЬ ШНУРЕНКО
о статье в Википедии.
Кто был этот Минский? Математик, физик, инженер-изо
бретатель, психолог, биолог? Всего понемножку- но нель
зя сказать, что он был недоматематиком, недобиологом
или недопсихологом. Коллективный научный разум во вто
рой половине ХХ века привел к таким достижениям, что
стало понятным: будущее лежит на пересечении интере
сов, на стыке дисциплин. Не случайно Минский, ставший
одним из классиков ИИ, защитил две диссертации - одну
в Гарварде, другую в Принстоне.
При этом, конечно, общая картинка взаимодействия
разных наук не так проста как кажется, если взглянуть
166
ДЕМОН ВНУТРИ
167
ИГОРЬ ШНУРЕНКО
168
ДЕМОН ВНУТРИ
и маргиналами.
169
ИГОРЬ ШНУРЕНКО
170
ДЕМОН ВНУТРИ
их понять».
171
ИГОРЬ ШНУРЕНКО
172
ДЕМОН ВНУТРИ
веческой эволюции.
Идея космоса как обратной стороны нас самих, похоже
го в этом смысле на искусственный разум, носилась в воз
духе - или лучше сказать, в ноосфере, в пространстве кол
лективного человеческого разума - как раз в конце 1960-х
года. Примерно о том же снимает свой «Солярис» великий
режиссер Андрей Тарковский - фильм выходит на экраны
173
ИГОРЬ ШНУРЕНКО
174
ДЕМОН ВНУТРИ
175
ИГDРЬ ШНУРЕНКD
179
для подражания. Японцы собирались капитализироваться
на своем промышленном чуде и произвести новый чудо
продукт. Он должен был прийти не из шахт, полей или мо
рей, не с фабрик и заводов - а прямо из мозгов, из голов.
Чудо-продуктом, с помощью которого Япония собралась
покорить мир, были знания. Они собирались упаковывать
и продавать знания в той же манере, как другие народы
продают нефть, газ или промышленные товары - с той по
правкой, что знания будут стоить гораздо дороже и прине
сут им глобальное экономическое лидерство.
Примерно за год до этого, в октябре 1981 года, правитель
ство публично объявило, что собирается потратить на со
здание пятого поколения компьютеров (m1i1!Ht::::e.,t: .:i..-
1Z) $450 млн. Еще столько же должны были внести частные
компании-участники проекта.
181
ИГОРЬ ШНУРЕНКО
182
ДЕМОН ВНУТРИ
183
ИГОРЬ ШНУРЕНКО
184
ДЕМОН ВНУТРИ
185
ИГОРЬ ШНУРЕНКО
186
ДЕМОН ВНУТРИ
187
ИГОРЬ ШНУРЕНКО
188
ДЕМОН ВНУТРИ
189
ИГОРЬ ШНУРЕНКО
190
ДЕМОН ВНУТРИ
191
ИГОРЬ ШНУРЕНКО
192
V
195
Получался замкнутый круг, и очень скоро создание ис
кусственного интеллекта стали ставить в ряд нерешаемых
рывка.
197
ИГОРЬ ШНУРЕНКО
198
ДЕМОН ВНУТРИ
199
ИГОРЬ ШНУРЕНКО
200
ДЕМОН ВНУТРИ
201
ИГОРЬ ШНУРЕНКО
202
ДЕМОН ВНУТРИ
203
ИГОРЬ ШНУРЕНКО
204
ДЕМОН ВНУТРИ
205
ИГОРЬ WHYPEHKO
206
ДЕМОН ВНУТРИ
207
ИГОРЬ ШНУРЕНКО
208
ДЕМОН ВНУТРИ
209
ИГОРЬ ШНУРЕНКО
210
ДЕМОН ВНУТРИ
211
ИГОРЬ ШНУРЕНКО
век ... Ковер под ним изменил свой цвет, побурев от крови,
и мы понимаем, что здесь произошло убийство.
Наверное, эволюция и наше пещерное прошлое
причиной тому, что мы видим всю картинку сразу.
Когда-то мы не могли позволить себе долго всматриваться
212
ДЕМОН ВНуТРИ
213
ИГОРЬ ШНУРЕНКО
ТАНЦУЮЩИЕ ПАТТЕРНЫ
214
ДЕМОН ВНУТРИ
215
ИГОРЬ ШНУРЕНКО
216
ДЕМОН ВНУТРИ
217
ИГОРЬ ШНУРЕНКО
218
ДЕМОН ВНУТРИ
219
ИГОРЬ ШНУРЕНКО
220
ДЕМОН ВНУТРИ
221
ИГОРЬ ШНУРЕНКО
другим.
КТО КОГО?
222
ДЕМОН ВНУТРИ
223
ИГОРЬ ШНУРЕНКО
224
ДЕМОН ВНУТРИ
225
ИГОРЬ ШНУРЕНКО
ДУШЕДИЗАЙНЕРЫ
226
ДЕМОН ВНуТРИ
сколько проживет раб или рабыня, какой от него или нее бу
дет приплод. Будут, наверное, специальные боты-оценщики,
суммирующие все достоинства и недостатки, предлагающие
227
ИГОРЬ ШНУРЕНКО
228
ДЕМОН ВНУТРИ
229
ИГОРЬ WHYPEHKO
230
ДЕМОН ВНУТРИ
в момент их младенчества.
231
ИГОРЬ ШНУРЕНКО
232
КАК ТЕХНОЛОГИИ
РОЖДАЮТ ДИКТАТУРУ
«СБИЛИСЬ С ПУТИ»
235
Однако через 28 лет после того, как джинн был выпущен
из бутылки, картинка перестала быть радужной. Из ради
кального инструмента, несущего повсюду демократию,
ставить себе».
Действительно, доходы и влияние каждой из крупней
ших корпораций, выросших на бизнесе в сети, невозможно
переоценить. Капитализация «Гугла» и «Амазона» прибли
жается к триллиону долларов, «Фейсбук» с его 500 милли
ардами глядится чуть скромней, но и он имеет в своем ак
тиве 2,3 миллиарда пользователей (а еще «Фейсбуку» при
надлежит «Вотсап» с 1,5 млрд пользователей и «Инстаграм»
с 1 миллиардом - все это «тянет» еще на 200-300 миллиар
дов долларов). В целом капитализация пяти ведущих ком
паний «больших технологий» (их еще называют FAGMA -
Facebook, Apple, Google, Microsoft, Amazon) равна годовому
ВВП Германии.
Кому-то эти цифры кажутся дутыми - что значат соцсе
ти против надежных немецких машин - но не торопитесь
237
ИГОРЬ ШНУРЕНКО
канского ритейла.
Ведь из каждых двух долларов, которые американ
цы тратят на покупки в сети, один доллар идет империи
238
ДЕМОН ВНУТРИ
ЭКОНОМИКА ЭМОЦИЙ
239
ИГОРЬ ШНУРЕНКО
240
ДЕМОН ВНУТРИ
241
ИГОРЬ ШНУРЕНКО
сколько миллионов.
242
ДЕМОН ВНУТРИ
243
ИГОРЬ ШНУРЕНКО
изменить.
244
ДЕМОН ВНУТРИ
245
ЭПОХА ГЛУБОКИХ ФЕЙКОВ
ДАТАИЗМ ШАГАЕТ ПО ПЛАНЕТЕ
249
ИГОРЬ ШНУРЕНКО
250
ДЕМОН ВНУТРИ
251
ИГОРЬ ШНУРЕНКО
размеченные.
252
ДЕМОН ВНУТРИ
253
ИГОРЬ ШНУРЕНКО
и никого не обманывает.
Синтетические данные - это данные, сгенерирован
ные компьютером, которые имитируют реальные дан
распознавания образов.
254
ДЕМОН ВНУТРИ
255
ИГОРЬ ШНУРЕНКО
256
ДЕМОН ВНУТРИ
257
ИГОРЬ ШНУРЕНКО
258
ДЕМОН ВНУТРИ
259
ФАКТОР Д
УСТРОЙСТВО ВСЕЛЕННОЙ ВКРАТЦЕ
263
ИГОРЬ ШНУРЕНКО
264
ДЕМОН ВНУТРИ
Не то кровать, не то скамья.
Угрюмо-жёлтые обои.
Два стула. Зеркало кривое.
Мы входим - я и тень моя.
265
ИГОРЬ ШНУРЕНКО
266
ДЕМОН ВНУТРИ
267
ИГОРЬ ШНУРЕНКО
268
ДЕМОН ВНуТРИ
269
ИГОРЬ ШНУРЕНКО
270
ДЕМОН ВНУТРИ
271
ИГОРЬ ШНУРЕНКО
272
ДЕМОН ВНУТРИ
273
ИГОРЬ ШНУРЕНКО
274
ДЕМОН ВНУТРИ
275
ИГОРЬ ШНУРЕНКО
276
ДЕМОН ВНУТРИ
277
ИГОРЬ ШНУРЕНКО
278
ДЕМОН ВНУТРИ
279
ИГОРЬ ШНУРЕНКО
280
ДЕМОН ВНУТРИ
281
ИГОРЬ ШНУРЕНКО
282
ДЕМОН ВНУТРИ
НЕОЖИДАННОСТЬ И ДУША
283
ИГОРЬ ШНУРЕНКО
287
ИГDРЬ WHYPEHKD
288
ДЕМОН ВНУТРИ
289
ИГОРЬ ШНУРЕНКО
датками к машине.
290
ДЕМОН ВНУТРИ
291
ИГОРЬ ШНУРЕНКО
извлечения.
292
ДЕМОН ВНУТРИ
293
ИГОРЬ ШНУРЕНКО
294
ДЕМОН ВНУТРИ
ОГОРАЖИВАНИЕ ЧЕЛОВЕКА
295
ИГОРЬ ШНУРЕНКО
производства.
296
ДЕМОН ВНУТРИ
297
ИГОРЬ ШНУРЕНКО
298
ДЕМОН ВНуТРИ
299
ИГОРЬ ШНУРЕНКО
бесконечному горизонту.
Когда во второй половине XIX века западные страны пе
реходили к индустриальному обществу, неравномерность
развития привела к тому, что небольшое число магнатов
монополизировали наиболее прибыльные отрасли эконо
мики, связанные как с развитием технологий, так и сдобы
чей ресурсов.
Наука открывала для человечества новые горизонты, от
крытия шли одно за другим в самых разных областях, от фи
зики до палеонтологии. Тогда и ученые, и общественные
деятели были преисполнены оптимизма, считая, что техно
логии не только поднимут общий уровень жизни, но и сде
лают невозможными войны: ведь совместная коммерция
поможет забыть старые споры. В реальности оказалось, что
к старым спорам из-за границ в Европе добавились но
вые, из-за раздела колоний, а магнаты поняли, что на вой
не можно построить бизнес. Они увидели, во-первых, но
вые возможности расширения производства для поставок
300
ДЕМОН ВНУТРИ
301
ИГОРЬ ШНУРЕНКО
302
ДЕМОН ВНУТРИ
меньше места.
303
ИГОРЬ ШНУРЕНКО
ГЛЮКИ В МАТРИЦЕ
307
ИГОРЬ ШНУРЕНКО
жения и тревоги.
308
ДЕМОН ВНУТРИ
309
ИГОРЬ ШНУРЕНКО
310
ДЕМОН ВНУТРИ
героям.
311
ИГОРЬ ШНУРЕНКО
312
ДЕМОН ВНУТРИ
313
ИГОРЬ ШНУРЕНКО
ШЕСТОЕ ЧУВСТВО
314
ДЕМОН ВНУТРИ
315
ИГОРЬ ШНУРЕНКО
316
ДЕМОН ВНУТРИ
317
ИГОРЬ ШНУРЕНКО
318
ДЕМОН ВНуТРИ