ТЕХНОЛОГИЧЕСКАЯ

СИНГУЛЯРНОСТЬ
Вернор Виндж

Исходный вариант этой статьи математик и писатель Вернор Виндж представил на симпозиуме VISION-21,
который проводился в 1993 году Центром космических исследований NASA им. Льюиса и Аэрокосмическим
институтом Огайо. В 2003 году автор дополнил статью комментариями.

ЧАСТЬ I: Что такое Сингулярность?

Ускорение технического прогресса - основная получится, несомненно, вскоре затем можно будет
особенность XX века. Мы на грани перемен, сконструировать еще более разумные существа).
сравнимых с появлением на Земле человека. Сугубая
 Крупные компьютерные сети (и их
причина этих перемен заключается в том, что
объединенные пользователи) могут "осознать
развитие техники неизбежно ведёт к созданию
себя" как сверхчеловечески разумные сущности.
сущностей с интеллектом, превышающим
 Машинно-человеческий интерфейс станет
человеческий. Наука может достичь такого прорыва
настолько тесным, что интеллект пользователей
разными путями (и это ещё один довод в пользу того,
можно будет обоснованно считать
что прорыв произойдёт):
сверхчеловеческим.
- Компьютеры обретут "сознание", и возникнет  Биология может обеспечить нас средствами
сверхчеловеческий интеллект. (В настоящее время улучшения естественного человеческого
нет единого мнения о том, сумеем ли мы создать интеллекта.
машину, равную человеку, однако, если это

1
 Первые три возможности напрямую связаны с "тысячи веков" (если они вообще произойдут), скорее
совершенствованием компьютерного аппаратного всего, случатся в ближайшие сто лет.
обеспечения. [В действительности, четвёртая
Вполне оправданно будет назвать данное
возможность также зависит от этого, хотя и косвенно.]
событие сингулярностью (даже Сингулярностью, по
Прогресс аппаратного обеспечения на протяжении
замыслу данного эссе). Это точка, в которой наши
уже нескольких десятилетий поразительно стабилен.
старые модели придётся отбросить, где воцарится
Исходя из этой тенденции, я считаю, что интеллект,
новая реальность. Это мир, очертания которого будут
превосходящий человеческий, появится в течение
становиться всё четче, надвигаясь на современное
ближайших тридцати лет. (Чарльз Платт заметил, что
человечество, пока эта новая реальность не заслонит
энтузиасты ИИ делают подобные утверждения уже
собой окружающую действительность, став
лет тридцать. Чтобы не быть голословным,
обыденностью. И всё же, когда мы такой точки,
отделавшись относительной временной
наконец, достигнем, это событие все равно станет
двусмысленностью, позвольте мне уточнить: я
великой неожиданностью и ещё большей
удивлюсь, если это случится до 2005 года или после
неизвестностью. В пятидесятые годы немногие
2030 года). [Прошло десять лет, но я по-прежнему
предвидели это. Стэн Юлам пересказывал однажды
считаю, что указанный срок справедлив.]
слова Джона фон Неймана: "Один разговор шел о
Каковы будут последствия этого события? непрерывно ускоряющемся техническом прогрессе и
Когда прогресс будет направляться интеллектом, переменах в образе жизни людей, которые создают
превосходящим человеческий, он станет куда впечатление приближения некоторой важнейшей
стремительнее. Фактически, нет оснований полагать, сингулярности в истории земной расы, за которой все
что прогресс не станет плодить всё более разумные человеческие дела, в том виде, в каком мы их знаем,
сущности всё более ускоренными темпами. Лучшая не смогут продолжаться".
аналогия, которую можно здесь провести - в
Фон Нейман даже использовал термин
эволюционном прошлом. Животные могут
"сингулярность", хотя, похоже, он думал о
приспособиться и проявлять изобретательность, но
нормальном прогрессе, а не о создании
не быстрее, чем работает естественный отбор. В
сверхчеловеческого интеллекта. (По-моему же
случае естественного отбора мир сам выступает в
мнению, в сверхчеловечности кроется сама суть
роли собственного симулятора. Мы, люди, обладаем
Сингулярности, без этого мы пресытимся избытком
способностью усваивать окружающий мир и
технических богатств, так и не сумев их как следует
выстраивать у себя в голове причинно-следственные
переварить).
связи, поэтому мы решаем многие проблемы в
тысячи раз быстрее, чем механизм естественного В шестидесятые года отмечались признаки
отбора. Когда же появится возможность некоторого вовлечения в нашу жизнь
просчитывать эти модели на более высоких сверхчеловеческого интеллекта. Ирвинг Джон Гуд
скоростях, мы войдём в режим, который отличается писал: "Определим сверхразумную машину как
от нашего человеческого прошлого не менее машину, которая способна значительно превзойти
радикально, чем мы, люди, сами отличаемся от все интеллектуальные действия любого человека, как
низших животных. бы умён тот ни был. Поскольку способность
разработать такую машину также является одним из
Такое событие аннулирует за ненадобностью
этих интеллектуальных действий, сверхразумная
весь свод человеческих законов, возможно, в
машина может построить ещё более совершенные
мгновение ока. Неуправляемая цепная реакция
машины. За этим, несомненно, последует
начнет развиваться по экспоненте безо всякой
"интеллектуальный взрыв", и разум человека
надежды на восстановление контроля над ситуацией.
намного отстанет от искусственного [далее здесь
Изменения, на которые, как считалось, потребуются
цитируются три более ранние работы Гуда]. Таким

2
образом, первая сверхразумная машина станет прессу будут иметь критики машинного разума. В
последним изобретением, которое выпадет на долю конце концов, пока не появится аппаратное
человека, при условии, что машина будет достаточно обеспечение, сравнимое по мощи с человеческим
покорна и поведает нам, как держать ее под мозгом, наивно надеяться создать интеллект,
контролем... И вероятность того, что в двадцатом сравнимый с разумом человека (или превосходящий
веке сверхразумная машина будет построена и станет его). (Есть малоправдоподобная вероятность, что
последним изобретением, которое совершит достичь уровня человеческого разума можно и на
человек, выше, чем вероятность того, что этого не менее мощном "железе", если мы готовы
случится". поступиться скоростью и нас устроит искусственное
существо, которое будет медленным в самом
Гуд уловил суть разгона прогресса, но не
буквальном смысле слова. Но, скорее всего,
рассматривал его самые тревожащие последствия.
составление программы для него окажется
Любая разумная машина того типа, что он описывает,
нетривиальным занятием и не обойдётся без
не будет "инструментом" человечества так же, как
многочисленных фальстартов и экспериментов. А раз
люди не стали орудиями кроликов, малиновок или
так, значит, эра машин, наделенных самосознанием,
шимпанзе.
не наступит, пока не будет разработано аппаратное
В шестидесятые, семидесятые и обеспечение, обладающее существенно большей
восьмидесятые годы осознание грядущего мощностью, чем природное снаряжение человека).
катаклизма ширилось и росло. Вероятно, первыми
Однако с течением времени мы будем
его влияние почувствовали фантасты. В конце концов,
наблюдать все больше симптомов. Дилемма,
ведь именно научной фантастике полагается
которую прочувствовали фантасты, станет
рассказывать о том, чем обернутся для нас все эти
восприниматься в контексте творческих усилий иного
технологии. Всё чаще писателей преследовало
рода. (Мне известно, что вдумчивые авторы
ощущение того, что будущее сокрыто за
комиксов уже беспокоятся о том, каким образом
непроницаемой стеной. Когда-то воображение с
придется создавать зрительные эффекты, когда все
лёгкостью переносило их на миллионы лет вперед.
видимое вокруг станет можно отображать при
Теперь же они обнаруживают, что их наиболее
помощи широко доступных технических средств.) Мы
усердные прогнозы относятся к неизвестному…
станем свидетелями того, как постепенно будут
завтра. Прежде галактические империи могли
автоматизироваться задачи всё более высокого
казаться постчеловеческимим реалиями. Ныне, как
уровня. Уже сейчас существуют инструменты
ни печально, даже межпланетные государства
(программы символической логики, САПР), которые
представляются таковыми.
освобождают нас от большинства нудной рутины.
[На самом деле теперь, в начале двадцать Есть и обратная сторона медали: истинно
первого столетия, романы о космических производительный труд становится уделом
приключениях делятся на группы, в зависимости от стабильно сокращающейся узкой элиты
того, каким образом их авторы справляются с человечества. С пришествием Сингулярности мы
вероятностью появления сверхчеловеческих машин. увидим, как, наконец, сбываются прогнозы о
Фантасты используют целый арсенал уловок, чтобы настоящей техногенной безработице.
доказать их невозможность или удерживать на
Другой признак движения к Сингулярности:
безопасном расстоянии от сюжета.]
сами идеи должны распространяться быстрее, и даже
Так что же ждет нас в эти два-три десятка лет, самые радикальные из них начнут моментально
пока мы движемся к краю? Как наступление становиться достоянием общественности.
Сингулярности станет утверждаться в человеческом
А каким же будет наступление самой
мировосприятии? До поры, до времени неплохую
Сингулярности? Что можно сказать об истинном

3
характере этого события? Поскольку дело касается И что же тогда случится через месяц или два
интеллектуального разгона, вероятно, это окажется (или через день-другой) после этого? Есть только
самой стремительной технической революцией из одна аналогия, которую я могу провести -
всех прежде нам известных. Свалится, вероятнее возникновение человечества. Мы очутимся в
всего, как снег на голову - даже вовлеченным в постчеловеческой эре. И несмотря на весь свой
процесс учёным. («Но ведь все наши технический оптимизм, мне было бы куда
предшествующие модели не двигались! Мы только комфортнее, если бы меня от этих
подкрутили кое-какие настройки...») Если сети сверхъестественных событий отделяли тысяча лет, а
достаточно широко распространены (в вездесущих не двадцать.
встроенных системах), может показаться, будто наши
Конец первой части.
артефакты вдруг обрели самосознание.

ЧАСТЬ II: Как избежать Сингулярности?

Опубликовано 06 сентября 2004 года
Ну, а может, Сингулярность вообще не
наступит. Порой я пытаюсь представить себе
признаки, судя по которым, нам станет понятно, что
Сингулярности можно не ждать. Есть популярные и
признанные аргументы Пенроуза и Сёрла
непрактичности машинного разума. В августе 1992
года сообщество "Мыслящих Машин" устроило
мозговой штурм с целью проверить тезис: "Как
построить мыслящую машину?" Как вы
догадались, из этого посыла следует, что участники
эксперимента не слишком-то поддерживали те
самые аргументы против машинного разума. В
действительности, принималась общая
договоренность о том, что разум может существовать
на небиологической основе, и что алгоритмы
являются важнейшей составляющей для разума. Тем
не менее, разгорелись жаркие споры по поводу
наличия в органических мозгах аппаратной мощности
в чистом виде. Меньшинство придерживалось
мнения, что крупнейшие компьютеры 1992 года по
мощности отставали от человеческого мозга на три
порядка. Большинство же участников соглашалось с
подсчетами Ганса Моравеца, по которым выходило,
что от аппаратного паритета в этом вопросе нас
отделяют еще десять-сорок лет. И все же было еще
одно меньшинство предполагавших,
вычислительные способности отдельных нейронов
могут быть намного лучше, чем принято считать. Если
это так, то наши современные компьютеры отстают
аж на десять порядков от того снаряжения, которое
скрыто у нас в черепной коробке. Если верен этот
тезис (или, в данном случае, если взгляды Пенроуза и
о Сёрла обоснованы), возможно, мы так никогда и не
доживем до Сингулярности. Вместо этого, в начале
XXI века обнаружится, что круто вздымавшиеся
кривые производительности нашего аппаратного
уже обеспечения начнут сглаживаться из-за нашей
неспособности автоматизировать конструкторскую
работу по разработке дальнейших
усовершенствований аппаратных средств. Все
кончится каким-нибудь очень мощным
компьютером, но без возможности двигаться вперед.
Коммерческая цифровая обработка сигналов будет
восхитительна, обеспечивая аналоговый выход,
сравнимый с цифровыми операциями, но "сознание"
не пробудится, а интеллектуальный разгон,
являющий собой самую суть Сингулярности, так и
начнется. Такое положение вещей, вероятно, следует
рассматривать как Золотой век… и конец прогресса.
Это будет нечто очень похожее на будущее,
предсказанное Гюнтером Стентом, который ясно дал
понять, говоря об идее создания надчеловеческого
разума, что это станет достаточным условием для
что того, чтобы его прогнозы не сбылись.
[В предыдущем абзаце не достает того, что я
считаю сильнейшим аргументом против вероятности

4
Технологической Сингулярности: даже если мы ближайшем будущем. Но Дрекслер оспаривает
сумеем создать компьютеры с чистой аппаратной способность человечества удерживать контроль над
мощью, вероятно, не получится организовать столь сверхчеловеческими устройствами, чтобы
имеющиеся компоненты таким образом, чтобы результаты их работы можно было оценить и
машина обрела сверхчеловеческий разум. Для надежно использовать.
техноманов-механистов это, по-видимому, выльется
Не соглашусь, что сохранение контроля так уж
в нечто вроде "неспособности решения проблемы
невозможно. Представьте себя запертым в
сложности программного обеспечения". Будут
собственном доме при единственном, ограниченном
предприниматься попытки запустить все более
некими вашими хозяевами канале доступа
крупные проекты по разработке ПО, но
информации извне. Если бы эти хозяева мыслили со
программирование не справится с задачей, а мы
скоростью, скажем, в миллион раз медленнее вас,
никогда не овладеем секретами биологических
едва ли стоит сомневаться в том, что через несколько
моделей, которые могли бы помочь воплотить в
лет (вашего времени) вы изобрели бы способ побега.
жизнь "обучение" и "эмбриональное развитие"
Я называю эту "быстро мыслящую" форму
машин. В конце концов, появится следующий
сверхразума "слабым сверхчеловеческим". Такая
полуфантастический контрапункт Мерфи к закону
"слабая сверхчеловеческая сущность" более чем
Мура: "Максимально возможная эффективность
ускорила бы течение времени эквивалентного
программной системы растет пропорционально
человеческому ума. Сложно сказать точно, что будет
логарифму эффективности (то есть скорости, полосе
из себя представлять "сильное сверхчеловеческое",
пропускания, объему памяти) подлежащего
но отличие, по-видимому, будет разительным.
программного обеспечения". В этом мире без
Вообразите, собаку с чрезвычайно ускорившейся
сингулярности будущее программистов уныло и
работой мысли. Сможет ли тысячелетний опыт
беспросветно. (Представьте себе необходимость
собачьего мышления что-то дать человечеству?
одолевать скопившиеся за столетия унаследованные
Многие предположения о сверхразуме, как кажется,
программы!) Так что в последующие годы, полагаю,
основываются на модели "слабого
следует обращать особое внимание на две
сверхчеловеческого". Я же думаю, что наиболее
важнейшие тенденции: прогресс в крупных проектах
верные догадки о постсингулярном мире можно
по разработке программного обеспечения и прогресс
строить на предположениях об устройстве "сильного
в применении биологических парадигм в
сверхчеловеческого". К этому вопросу мы еще
масштабных сетях и масштабных параллельных
вернемся.
системах.]
Другим подходом к проблеме сохранения
Но если технологической Сингулярности
контроля является идея о создании искуственных
суждено быть, то она случится. Даже если все
ограничений свободы действий сконструированной
государства мира осознают "угрозу" и перепугаются
сверхчеловеческой сущности. [например, Законы
до смерти, прогресс не остановится. Конкурентное
роботехники у Азимова]. Я полагаю, что любые
преимущество - экономическое, военное, даже в
правила, достаточно строгие, чтобы обеспечить их
сфере искусства - любого достижения в средствах
эффективность, приведут у создания устройства с
автоматизации является настолько непреодолимым,
возможностями, очевидно более узкими, чем у
что запрещение подобных технологий просто
нестесненных ограничениями версий (таким
гарантирует, что кто-то другой освоит их первым.
образом, соревновательность будет способствовать
Эрик Дрекслер составил впечатляющие развитию более опасных моделей).
прогнозы развития и совершенствования технических
Если Сингулярность нельзя предотвратить или
средств. Он соглашается с тем, что появление
ограничить, насколько жестокой может стать
сверхчеловеческого разума станет возможно в
постчеловеческая эра? Что ж, довольно жестокой.

5
Физическое вымирание человеческой расы - одно из наступление есть неминуемое следствие
возможных следствий. (Или, как сформулировал это естественной человеческой соревновательности и
Эрик Дрекслер, говоря о нанотехнологиях: со всеми возможностей, присущих технологиям. И все же мы -
подобными техническими возможностями, вероятно, инициаторы. Даже величайшая лавина вызывается
правительства решат, что простые граждане им мельчайшими действиями. Мы вольны
больше не нужны). Тем не менее, физическое устанавливать начальные условия, чтобы все
вымирание может оказаться далеко не самым происходило с наименьшим для нас ущербом.
страшным последствием. Вспомните о разного рода
[Будет ли прок от предвидения и вдумчивого
наших отношениях к животным. В постчеловеческом
планирования, может зависеть от того, как
мире по-прежнему останется множество ниш, в
произойдет технологическая Сингулярность. Будет ли
которых эквивлентная человеческой автономность
это "резкий переход" или "тихий переход". Резкий
будет востребована: встроенные системы в
переход - это тот, при котором сдвиг к
самоуправляющихся устройствах, автономные
сверхчеловеческому контролю произойдет за
демоны низшей функциональности в более крупных
несколько сотен часов (как в "Музыке крови" Грега
разумных существах. ("Сильное сверхчеловеческое,
Бэра). Мне представляется, что спланировать что-то в
по-видимому, будет представлять собой Общность
расчете на резкий переход будет чрезвычайно
Разума из нескольких очень умных компонентов".)
трудно. Он будет подобен лавине, о которой я писал
Некоторые из таких человеческих эквивалентов могут
в этом эссе в 1993 году. Наиболее кошмарная форма
использоваться исключительно для цифровой
резкого перехода может произойти из гонки
обработки сигналов. Прочие могут остаться весьма
вооружений, когда две державы подстегивают свои
человекоподобными, хотя и специализированными,
отдельные "манхэттенские проекты" с целью
с узким профилированием, из-за которого в наше
добиться сверхчеловеческой мощи. Эквивалент
время их поместили бы в психиатрическую клинику.
десятилетий шпионажа на человеческом уровне
Несмотря на то что никто из этих существ может не
может сжаться в последние несколько часов
быть уже людьми из плоти и крови, они останутся
существования расы, и весь человеческий контроль и
наиболее близкими к современному нам человеку в
рассудительность пасуют перед некими чрезвычайно
том новом окружении.
деструктивными целями.
[Уверен, Ирвингу Гуду было бы, что сказать на
С другой стороны, "тихий переход" может
этот счет (хоть я и не нашел у него упоминаний чего-
занять десятки лет, возможно, более века. Такая
то подобного). Гуд предложил золотое метаправило,
ситуация кажется более поддающейся планированию
которое можно переформулировать следующим
и вдумчивому экспериментированию. Ганс Моравец
образом: "Обращайся с братьями меньшими так, как
рассматривает такой "плавный переход" в книге
ты хочешь, чтобы старшие братья обращались с
"Робот: от простой машины к сверхразуму"].
тобой". Это чудесный парадокс (и большинство моих
друзей этому не верят), так как последствия, Конечно (как и в случае с лавинами), нельзя с
подсчитанные согласно теории игр, отчетливо уверенностью судить, каков именно на самом деле
выразить трудно.Тем не менее, если бы мы могли будет тот самый направляющий толчок.
следовать этому правилу, в каком-то смысле это
Конец второй части.
могло бы говорить о распространенности подобных
добрых намерений во вселенной.]

Я уже выражал выше сомнение в том, что мы

не можем предотвратить Сингулярность, что ее

6
 ЧАСТЬ III: Путь к Сингулярности
Опубликовано 10 сентября 2004 года
Когда говорят о существах со будут находить применение в УИ, и наоборот. Я
сверхчеловеческим разумом, обычно имеют в виду предлагаю понять, что в работах по созданию сетей и
проект по созданию искусственного интеллекта. Но интерфейса кроется нечто настолько же серьезное (и
как я отметил в начале этой статьи, есть и другие пути потенциально дикое), как и искусственный
к сверхчеловеческому. Компьютерные сети и интеллект. С таким пониманием мы сможем
человеко-машинные интерфейсы представляются различить проекты, не столь уже явно практические,
более приземленными, нежели ИИ, и все-таки они как обычные работы по интерфейсам и построению
способны привести к Сингулярности. Я называю этот сетей, но зато служащие делу нашего прогресса на
противоречивый подход Усилением Интеллекта (УИ). пути к Сингулярности вдоль тропы УИ.
УИ протекает вполне естественно, в большинстве
Вот несколько возможных проектов, которые
случаев его даже не осознают сами разработчики.
приобретают особое значение с точки зрения УИ:
Однако всякий раз, когда улучшаются наши
возможности доступа к информации и передачи ее Автоматизация человеко-машинной связки.
другим, в каком-то смысле мы достигаем прироста по Возьмите проблемы, которые обычно отводятся для
отношению к природному интеллекту. Сейчас уже решения машинам (вроде задач по методу
дуэт из человека-профессора и хорошей электронной итеративного спуска - hillclimbing), и программы
рабочей станции (даже не подключенной к сети), разработки и интерфейсы, использующие
вероятно, может с блеском сдать любой из преимущество человеческой интуиции с доступным
существующих письменных тестов. компьютерным оборудованием. Принимая во
внимание причудливость задач по hillclimbing более
И вполне возможно, что УИ является наиболее
высокого порядка (и стройных алгоритмов,
легким путем к достижению сверхчеловеческого,
придуманных для их решения), для человеческого
нежели ИИ в чистом виде. В том, что касается людей,
компонента связки можно разработать чрезвычайно
сложнейшие проблемы развития уже решены.
интересные дисплеи и средства управления.
Постепенное создание умных систем на основе
имеющихся у человека способностей представляется Симбиоз машины и человека в искусстве.
более легким, чем выяснение истинной сути людей и Объедините графические возможности современных
затем уже постройка аналогичных им машин и эстетическую чуткость людей. Конечно,
интеллектуальных машин. Предположительно, огромные усилия исследователей тратятся на
существует еще, по крайней мере, один прецедент в разработку компьютерных средств помощи
поддержку данной точки зрения. Кернс-Смит художникам. Я предлагаю четко нацелиться на
рассуждал о том, что биологическая жизнь вполне наибольшее совмещение умений, на максимально
могла зародиться в качестве случайного возможную кооперацию. Карл Бимс проделал
дополнительного свойства более примитивных форм замечательную работу в этом направлении.
жизни, основывавшихся на росте кристаллов. Линн
Человеко-машинные команды на шахматных
Маргулис выдвигала серьезные аргументы,
турнирах. У нас уже есть программы, которые играют
доказывая, что симбиоз является могучей движущей
в шахматы лучше подавляющего большинства людей.
силой эволюции.
Но сколько сделано, для того чтобы эту мощь мог
Заметьте, я совсем не предлагаю игнорировать использовать человек, с тем чтобы добиться каких-
работы по созданию ИИ. Достижения в области либо еще больших успехов? Если бы таким командам
разработки искусственного интеллекта зачастую разрешалось участвовать хотя бы в некоторых

7
шахматных турнирах, это могло бы оказать такое же базы данных совместного пользования можно было
положительное влияние на исследования УИ, какое бы задействовать полнее, нежели в обычных
допуск компьютеров к шахматным соревнованиям совещательных операциях.
оказывает на соответствующую нишу разработок ИИ.
- Интернет представляет собой
[В последние несколько лет гроссмейстер Гарри
комбинированный человеко-машинный инструмент.
Каспаров развил идею проведения шахматных
Из всего перечисленного в данном списке прогресс в
турниров между игроками, которым помогают
данной области идет наиболее быстрыми темпами.
компьютеры (поищите в интернете по ключевым
Сила и влияние интернета в немалой степени
словам "Каспаров" и "прогрессивные шахматы").
недооценивают. Сама по себе анархичность развития
Насколько мне известно, такие человеко-машинные
Всемирной сети является свидетельством ее
команды не допускаются к участию в серьезных
потенциала. Покуда наращиваются связность, полоса
соревнованиях по шахматам.]
пропускания, архивные объемы и
Интерфейсы, которые обеспечат доступ к производительность компьютеров, мы наблюдаем
компьютерам и сетям без обязательной привязки нечто похожее на представление Линн Маргулис о
человека к одному месту, за столом с монитором. биосфере, как своего рода конспекте процессора
(Данный аспект УИ настолько успешно согласуется с данных, только с в миллион раз большей
известными экономическими преимуществами, что в производительностью и с миллионами разумных
этом направлении уже работают очень активно.) человеческих агентов (нас самих).

Более симметричные системы поддержки [Брюс Стерлинг искусно иллюстрирует, как

решения. Популярной областью исследований и подобное развитие может привести ко
разработок в последнее время стали системы всеобъемлющему проникновению в повседневную
поддержки решения. Это одна из форм УИ, только, жизнь ("Манеки-Неко", журнал Fantasy & Science
возможно, слишком сфокусированная на Fiction, май 1998 года). В качестве нехудожественного
прогностических системах. Столько же, сколько взгляда на возможности связки "человечество +
программа предоставляет информации технологии" как на сложносоставное существо я
пользователю, должно быть и руководства рекомендую книгу Грегори Стока "Метачеловек:
программой со стороны пользователя. слияние людей и машин в глобальный
сверхорганизм", издательство Simon & Schuster, 1993
Местные сети, которые сделают усилия группы
год. Но возникнет ли в результате самосознание?
людей эффективнее работы отдельных членов. Это и
Или, может быть, самосознание есть неотъемлемая
есть, в принципе, понятие о groupware; смена
черта интеллекта, заключенного в определенных
подхода в данном вопросе заключается в
границах?]
представлении групповой деятельности как работы
коллективного организма. Приведенные выше примеры иллюстрируют
исследование, которое можно провести в рамках
В определенном смысле цель такого
современных областей компьютерной науки.
предложения может заключаться в изобретении
Существуют и другие парадигмы. Например, многие
"Устава" для таких комбинированных операций.
работы по созданию искусственного интеллекта и
Например, направление деятельности группы легче
нейросетей только выиграют от более тесной связи с
было бы поддерживать, чем посредством
биологической жизнью. Вместо того чтобы просто
классических собраний. Умения отдельных
пытаться моделировать и воспроизводить
индивидуумов можно будет изолировать от
биологическую жизнь при помощи компьютеров,
эгоистических устремлений, с тем чтобы
исследования следует направить на создание
объединенные усилия разных членов группы
композитных систем, полагающихся на управление
концентрировались на общем проекте. Ну и, конечно,
со стороны биологической жизни, либо ради каких-то

8
свойств биологической жизни, которые
недостаточно понимаем, но все-таки стремимся
воспроизвести в аппаратном обеспечении.
Вековечной мечтой научной фантастики являются
прямые компьютерно-мозговые интерфейсы. На
практике, в этой области ведутся конкретные работы:
Протезирование конечностей представляет
собой область прямого коммерческого приложения.
Прямые нейро-кремниевые преобразователи можно
создать. Это восхитительно досягаемый первый шаг к
налаживанию прямой человеко-машинной связи.
Прямые каналы связи с мозгом кажутся вполне
осуществимыми, если битрейт достаточно низок:
учитывая развитую обучаемость человека, едва ли
потребуется точно выбирать мишени среди нейронов
живого мозга. Даже 100 бит в секунду будут
чрезвычайно полезны пострадавшим от паралича,
которым, в противном случае, придется оставаться в
заложниках у интерфейсов, построенных
структурированных меню.
Подсоединение к оптической магистрали сулит
потенциал пропускной способности порядка 1Мбит/с
или что-то около того. Однако для этого нам
необходимо разобраться в тончайшем устройстве
зрения, да еще потребуется вживление огромного
количества электродов с необычайной точностью.
Если мы хотим, чтобы широкополосное соединение
прибавило еще возможностей к тем способностям по
обработке данных, что уже имеются в человеческом
мозге, проблема становится гораздо неподатливее.
Простое вживление сети широкополосных
приемников в мозг определенно ни к чему не
приведет. Однако предположите, что такая
нейросеть уже присутствовала в структуре мозга на
стадии эмбрионального развития. А это
предполагает:
ЧАСТЬ IV: После Сингулярности
Опубликовано 17 сентября 2004 года
Сильное сверхчеловеческое и лучшее, на что
можно рассчитывать
мы Эксперименты с зародышами животных.
Какого-либо успеха в УИ в первые годы подобных
исследований я не ожидаю, но обеспечение
развивающемуся мозгу доступа к сложным
симулированным нейроструктурам могло бы, в
конечном итоге, привести к появлению животных с
дополнительными нервными связями и
интересными интеллектуальными способностями.
Я надеялся, что данное рассмотрение УИ
выявит какие-нибудь очевидно более безопасные
пути к Сингулярности (в конце концов, УИ допускает
наше участие в некой трансцендентальной форме).
Увы, я уверен почти лишь в том, что такие
предположения следует принять во внимание, что
они предоставят нам большую свободу выбора. Но,
что касается безопасности, некоторые из них
представляются достаточно устрашающими. УИ для
человеческих индивидуумов создает довольно
зловещую элиту. У нас, людей, за плечами миллионы
на
лет эволюционного развития, которые заставляют нас
представлять соперничество в мрачном свете. По
большей части, эта мрачность может оказаться
невостребованной в сегодняшнем мире, в котором
проигравшие перенимают приемы победителей и,
сплотившись, организуют выигрышные предприятия.
Существо, созданное "с чистого листа", может
оказаться гораздо благонамереннее, нежели тварь,
взращенная по законам клыка и когтя.
Проблема заключается не просто в том, что
Сингулярность представляет собой уход человечества
со сцены, но в том, что она противоречит нашим
сокровенным понятиям бытия. Полагаю, более
пристальное рассмотрение концепции сильного
сверхчеловеческого может прояснить причины
такого положения вещей.
Конец третьей части.
Предположим, нам удастся спланировать
Сингулярность. Предположим, нам удастся воплотить
самые сумасбродные мечты. Чего же нам еще тогда
9
останется желать? Что сами люди станут способность общаться на разных скоростях, включая
наследниками самих себя, что, какая бы более высокие, чем у речи и письма. Что произойдет,
несправедливость не случилась, она всегда будет когда части эго можно станет копировать и
уравновешена осознанием нашего собственного объединять, когда объем самосознания сможет
происхождения. Для не подвергшихся изменениям увеличиваться или сокращаться, подстраиваясь под
будет уготовано нарочито мягкое обращение масштаб решаемых задач? Это и есть существенные
(возможно, даже придание "отставшим" статуса черты сильного сверхчеловеческого и самой
хозяев богоподобных слуг). Может наступить золотой Сингулярности. При мысли о них начинаешь
век, не лишенный дальнейшего прогресса (минуя чувствовать, какой радикально чуждой и отличной
барьер Стента). Бессмертие (или, по меньшей мере, будет постчеловеческая эра, вне зависимости от того,
продолжительность жизни, ограниченная нашими насколько продуманно и милосердно мы к ней
способностями сохранить Вселенную) станет подойдем.
достижимым.
С одной точки зрения, картина вписывается во
Но в этом прекраснейшем и добрейшем из многие наши мечты о счастье: жизнь без конца и
миров одни только философские проблемы края, в которой мы научимся по-настоящему
становятся устрашающими. Разум, замкнутый в одних понимать друг друга и сокровеннейшие тайны бытия.
и тех же границах, не способен жить вечно, спустя С другой точки зрения, это все сильно напоминает
несколько тысяч лет он станет напоминать, скорее, худший сценарий развития событий, который я уже
бесконечно повторяющуюся закольцованную пленку, описывал выше в этом эссе.
нежели личность. (Наиболее жуткую картину чего-то
Какая же точка зрения обоснована? В
подобного нарисовал в "Этике безумия" Ларри
действительности, мне представляется, что новая эра
Найвен). Чтобы жить неограниченно долго, сам разум
будет настолько иной, что не сможет вписываться в
должен расти. А когда он разрастется до поистине
классические рамки противопоставления добра и
исполинских размеров и оглянется в прошлое, какие
зла. Такое понимание зиждется на понятии
родственные чувства он сможет испытывать по
изолированных, неменяющихся разумов,
отношению к тому, чем он являлся изначально?
объединенных тонкими связями с низкой пропускной
Разумеется, позднее бытие будет включать в себя все,
способностью. Зато постсингулярный мир прекрасно
чем жил оригинал, но и несравненно больше того!
вписывается в более значимую традицию эволюции и
Так что даже для индивидуума концепция Кернс-
коллективности, зародившуюся давным-давно
Смита или Линн Маргулис о новой жизни,
(может быть, еще до появления биологической
прирастающей из прежней, остается справедливой.
жизни). Я думаю, что этические нормы, применимые
Данная "проблема" бессмертия проявляется и в такую эпоху, все-таки есть. Дальнейшие
гораздо более непосредственным образом. Понятие исследования УИ и сверхширокополосных
эго и самосознания являлось основополагающим в коммуникаций должны улучшить понимание этого.
прожженном рационализме последних нескольких
Сейчас я вижу лишь отдаленные очертания
столетий. Однако ныне концепция самосознания
будущего. Есть Золотое Метаправило Добра.
подвергается нападкам со стороны приверженцев
Возможно, есть и законы для распознавания себя
искусственного интеллекта ("самосознание и прочие
среди прочих, основанные на пропускной
заблуждения"). Усиление интеллекта, в свою
способности связи. В то время как разум и личность
очередь, выбивает почву из-под концепции эго с
станут значительно лабильнее, чем в прошлом,
другой стороны. В постсингулярном мире
многого из того, что мы ценим (знания, память,
чрезвычайно распространятся сверхширокополосные
мышление), терять, тем не менее, не следует. Мне
сети. Главной особенностью сильных
кажется, Фримен Дайсон правильно это
сверхчеловеческих сущностей, вероятно, станет их

10
сформулировал: "Бог - это разум, переросший [Хочу поблагодарить Джона Кэрролла и
границы нашего понимания". Университет штата Калифорния в Сан-Диего и
Говарда Дэвидсона из Sun Microsystems за помощь в
обсуждении и подготовке данной статьи.]

Перевод - Олег Данилов.

http://www.computerra.ru/think/35815/

«Компьютерра», Опубликовано 01 сентября 2004 года

Vernor Vinge "The Coming Technological Singularity: How to Survive in the Post-Human Era"

11