Dangers of Molecular Manufacturing

http://www.crnano.org/dangers.htm

перевод: А.В.Турчин
avturchin@mail.ru

http://www.proza.ru/texts/2008/04/08/430.html

Опасности молекулярного производства

Обзор: Молекулярное производство (МП) будет значительным технологическим

прорывом, сравнимым, возможно, с индустриальной революцией, однако сжатым во
времени до нескольких лет. Это может нарушить многие аспекты жизни общества и
политики. Сила этих технологий может побудить две соревнующиеся нации вступить в
разрушительную и опасную гонку вооружений. Оружие и устройства для наблюдения
могут быть сделаны маленькими, дешёвыми, сильными и очень многочисленными.
Дешёвое производство и копирование чужих образцов может привести к экономическим
потрясениям. Излишнее использование сверхдешёвых продуктов может привести к
значительному ущербу окружающей среде. Попытки контролировать эти и другие риски
могут привести к злоупотреблению ограничениями, или создать спрос на черном рынке,
что создало бы много новых рисков и было бы практически неостановимо; небольшого
размера нанофабрики были бы очень удобным объектом для контрабанды и крайне
опасным. Имеет место несколько крайне серьёзных рисков - включая несколько
принципиально разных типов рисков – которые не могут быть предотвращены все вместе
с помощью одного и того же подхода. Простые и односторонние решения не будут
работать. Правильный ответ на эти риски вряд ли появится без тщательного
предварительного планирования.

Молекулярное производство внезапно создаст много разных рисков.

Потенциальная польза от МП огромна, но столь же велики и опасности. Чтобы

предотвратить эти опасности, мы должны тщательно обдумать их, и затем разработать
тщательные планы по их предотвращению. Как мы объясняем на страницах, посвящённых
Хронологии и Продуктам, ММ позволит быстро создавать прототипы и дёшево
производить широкий набор мощных продуктов. Эта возможность возникнет достаточно
внезапно, поскольку последние шаги в развитии этой технологии, вероятно, будут гораздо
более простыми, чем начальные шаги, и многие из этих шагов могут быть спланированы
заранее. Внезапное возникновение молекулярного производства может не дать времени,
чтобы адаптироваться к его последствиям. Таким образом, важна адекватная подготовка к
этому событию.

Центр ответственных нанотехнологий (CRN) идентифицировал несколько

отдельных серьёзных рисков.

Первый шаг в понимании опасностей состоит в их идентификации. CRN начинает

этот процесс на данных страницах, предлагая список и описание нескольких существенно
различных и серьёзных рисков. И хотя он, вероятно, не полон, этот список уже является
довольно пугающим.

• Экономическое разрушение, связанное с изобилием дешёвых продуктов.

 • Подавление экономического развития за счёт искусственно завышенных
цен.
• Угрозы личности в результате криминального или террористического
использования этих технологий.
• Личные или социальные риски, связанные со злоупотреблением
ограничениями.
• Социальные потрясения, связанные с появлением новых продуктов и
стиля жизни.
• Нестабильная гонка вооружений.
• Ущерб окружающей среде и здоровью от неподконтрольных
регулированию продуктов.
• Свободно распространяющиеся нанорепликторы (серая слизь)
• Чёрный рынок нанотехнологий (усиливает другие риски)
• Соревнование нанотехнологических программ (усиливает другие риски)
• Попытки добровольного отказа (усиливает другие риски)

Некоторые из описанных здесь опасностей являются угрозами человеческому

существованию, то есть они могут угрожать самому существованию человеческого рода.
Другие могут привести к серьёзным потрясениям, но не к нашему вымиранию. Сочетание
нескольких рисков может усугубить серьезность каждого из них; любое решение должно
принимать во внимание его влияние на другие риски.
Некоторые из этих рисков связаны с недостаточной регуляцией, а другие – со
слишком большой регуляцией. Несколько различных видов регуляции были бы
необходимы в нескольких разных областях. Экстремальная или полностью тормозящая
реакция на любой из этих рисков создаст благоприятную почву для других рисков.
Следует избегать соблазна применения простых и очевидных решений по отношению к
проблемам, взятым по отдельности. На других страницах мы обратимся к анализу
возможностей регуляции; здесь же мы сосредоточимся на анализе опасностей.

Крайне вероятны потрясения экономических основ.

Покупатель произведённого товара в настоящий момент платит за его проект,

исходные материалы, труд и оборудование для производства, транспорт, хранение и
продажу. Ещё часть денег – обычно небольшой процент - идёт в качестве дохода
владельцам всех этих бизнесов. Если личные нанофабрики смогут производить широкий
ассортимент там и тогда, когда они необходимы, большинство из этих усилий станут не
нужными. Это поднимает несколько вопросов о природе пост-нанотехнологической
экономики. Станут ли продукты дешевле? Исчезнет ли капитализм? Отправится ли
большинство людей на пенсию – или станет безработными? Гибкость молекулярного
производства, и радикальное улучшение качества продуктов приведёт к тому, что
ненанотехнологические продукты будет не конкурентоспособны во многих областях. Если
же технология нанофабрик будет находиться в чей-то исключительной собственности или
жёстко контролироваться, не создаст ли это крупнейшую в мире монополию с огромным
потенциалом для злоупотребления анти-соревновательными практиками? Если же она не
будет контролироваться, не приведёт ли доступность дешёвых копий к тому, что даже
конструкторы и создатели брендов не будут получать денег за свою работу? Требуются
значительные будущие исследования, но кажется понятным, что молекулярное
производство может значительно потрясти основания современной экономической
структуры, резко уменьшив ценность многих материалов и человеческих ресурсов,
включая значительную часть современной инфраструктуры. Несмотря на утопические
пост-капиталистические мечты, неясно, сможет ли работоспособная система замены
появиться вовремя, чтобы предотвратить последствия массовой утраты работы для людей.

Крупнейшие инвестиционные компании в курсе потенциального

экономического воздействия.

В майнстримном финансовом сообществе растёт признание того, что

нанотехнологии представляют собой значительную волну инноваций с потенциалом
полностью реструктурировать экономику. Вот, например, цитата из анализа,
подготовленного для инвесторов фирмой Credit Suisse First Boston:

«Нанотехнологии являются классической технологией общего назначения.

Другие технологии общего назначения, такие как паровые машины, электричество и
железные дороги, были основой для значительных экономических революций. Технологии
общего назначения обычно возникают как довольно грубые технологии, с ограниченным
использованием, но затем быстро распространяются к новым приложениям.
Все прошлые технологии общего назначения приводили к большим потрясениям
в экономике – то есть к процессу творческого разрушения. И нанотехнология может иметь
более значительные последствия, чем предшествовавшие ей технологии общего
назначения. Творческое разрушение – это процесс, посредством которого новая
технология или продукт предоставляет принципиально новое и лучшее решение,
приводящее к полной замене исходной технологии или продукта. Инвесторам следует
ожидать, что творческое разрушение не только продолжится, но также будет ускоряться, и
нанотехнологии будут во главе его.
Что это значит с практической точки зрения? Благодаря введению
нанотехнологий, как мы полагаем, новые компании заменят значительный процент
современных лидирующих компаний. Большинство компаний, составляющих индекс Доу-
Джонса, вряд ли останутся там через 20 лет». (Цитировано по книги «Большие деньги в
мышлении о малом» (Big Money in Thinking Small), авторами которой являются Майкл
Маубуссин и Кристен Бартольдсон.)

Согласно тому же источнику, Джош Вольф из Lux Capital, редактор Forbes/Wolfe

Nanotech Report, пишет: «Говоря попросту, миру предстоит быть перестроенным и
улучшенным снизу вверх, начиная с атомов. Это значит, что десятки триллионов долларов
будут потрачены на всё: одежду… еду… автомобили… дома… медицину… устройства
для коммуникации и отдыха… на качество воздуха, которым мы дышим… и на воду,
которую мы пьём – всему этому предстоит пройти сквозь глубокую и фундаментальную
перемену. И в результате изменения претерпит социальная и экономическая структура
мира. Нанотехнологии потрясут каждый бизнес на планете».

Нанотехнологически сконструированные продукты могут быть значительно

переоценены по отношению к своей себестоимости, что может привести к ненужной
бедности.

Согласно современным коммерческим стандартам, продукты, созданные

нанофабриками, будут обладать огромной ценностью. Монополия позволит
собственникам технологии прибавить высокую наценку ко всем продуктам, и получать
высокие доходы. Однако, если довести её до логического предела, такая практика будет
отрицать дешёвые сохраняющие жизнь технологии (такие простые, как фильтры для воды
и сетки от москитов) для миллионов нуждающихся в них людей. Конкуренция в конце
концов снизит цены, но монополия в первое время выглядит вероятной по нескольким
причинам. В силу существования других рисков, перечисленных на этой странице,
маловероятно, что будет позволено существование полностью нерегулируемого
коммерческого рынка. В любом случае, высокая цена разработки ограничит число
соревнующихся проектов. В конце концов, компания, которая достигнет цели первой,
может использовать получившиеся высокие доходы, чтобы сдерживать конкуренцию с
помощью таких средств, как широкое применение дорогих патентов и лоббирование
выгодных ей индустриальных ограничений.
Цена продукта обычно оказывается в промежутке между его ценностью для
покупателя и его себестоимостью для производителя. Молекулярное производство может
привести к возникновению продуктов, ценность которых на порядки будет превосходить
их себестоимость. Вероятно, что цена будет установлена ближе к ценности, чем к
себестоимости; в этом случае потребители не получат большинства благ
«нанотехнологической революции». Если оценка продуктов по их ценности будет принята,
то беднейшие люди будут продолжать умирать от бедности, в мире, где продукты ценой
всего в несколько центов могли бы в буквальном смысле спасти им жизнь. Если (как это
кажется вероятным) эта ситуация является более приемлемой для богатых, чем для
бедных, то социальные беспорядки могут прибавиться к проблемам ненужных
человеческих страданий. Недавним примером этой проблемы является соглашение, над
которым работала Всемирная Торговая Организация, чтобы обеспечить доступную
медицину для бедных стран – что администрация Буша частично предотвратила (следуя
мощному лоббирования со стороны американских фармацевтических компаний), несмотря
на яростную оппозицию со стороны всех других членов ВТО.

Преступники и террористы могут эффективно использовать

нанотехнологию.

Преступники и террористы с более сильными, более мощными и гораздо более

компактными устройствами могут принести серьёзный вред обществу. Защита от таких
устройств не может быть установлена немедленно или всесторонне. Химическое и
биологическое оружие станет гораздо более смертельным, и его будет гораздо проще
утаивать. Возможно много других типов ужасающих устройств, включая ряд
разновидностей устройств для удалённого убийства, которые будет трудно обнаружить
или избежать.
Благодаря наличию маленьких встроенных компьютеров, каждое
микроскопическое оружие может быть направленно на цели, удалённые во времени и
пространстве от атакующего. Это не только ослабит оборону, но также затруднит после
атаки обнаружение преступников и привлечение их к ответственности. Уменьшение
ответственности за свои поступки может уменьшить гражданское сознание и
безопасность, и увеличить привлекательность некоторых форм преступлений. Если
изготовленное с помощью нанофабрики оружие будет доступно на чёрном рынке или на
домашней фабрике, то будет крайне трудно обнаружить его до того, как оно будет
применено; случайный поиск, достаточно интенсивный, чтобы его обнаружить, должен
быть слишком проникающим, чтобы соответствовать современным стандартам прав
человека.

Могут быть предприняты попытки крайнего решения проблем и жёсткого

регулирования.

В ответ на описанные здесь риски может быть предпринят ряд крайних решений.
Это не будет очень хорошей идеей. Есть иллюзия, что многие из названных проблем
имеют очевидные решения. Однако, в каждом случае решение, принимаемое
исключительно в связи с необходимостью воздействовать на данную конкретную
проблему, может усилить другую проблему и сделать ситуацию в целом хуже. Набор
экстремальных решений наверняка был бы нежелательным; он будет или неэффективным
(и неэффективная политика всё ещё может быть очень вредной) или приведёт к
значительным человеческим страданиям или нарушениям прав человека.
Есть возможность, что будет предпринята попытка реализовать жёсткие
ограничения, как, например, круглосуточное наблюдение за каждым человеком. Такое
наблюдение может быть реализовано с помощью программ Искусственного интеллекта,
подобных той, что разрабатывается в Массачусетском Технологическом Институте,
которая способна анализировать видео-поток, выделять знакомые модели поведения и
замечать незнакомые. Молекулярное производство позволит создавать очень маленькие и
недорогие суперкомпьютеры, которые наверняка смогут выполнять программы по
непрерывному наблюдению за каждым. Будет легко производить устройства наблюдения
дёшево и в больших количествах. Тотальное наблюдение – это только один из видов
возможного злоупотребления нанотехнологиями. С появлением возможности изготовить
миллиарды устройств, каждое имеющее миллионы частей, по цене за всё в несколько
долларов, любая автоматизированная технология, которая может быть применена к одному
человеку, может быть применена и ко всем. Любой сценарий медицинского или
психиатрического контроля, который использует идеи нанотехнологий до предела, будет
звучать как научно-фантастический и невероятный. Однако проблемой является не
степень убедительности любого данного сценария; разброс возможностей в основном
ограничен уровнем воображения и жестокости тех, кто будет у власти. Жадность и власть
дают сильную мотивацию для создания жёстких систем контроля; страх того, что нанотех
и другие продвинутые технологии окажутся в частных руках, даёт дополнительный
стимул для жёсткого регулирования.

Общество может быть разрушено благодаря доступности новых

«аморальных» продуктов.

Новые продукты и образы жизни могут привести к серьёзным социальным

потрясениям. Например, медицинские устройства могут быть встроены в иглы, более
тонкие, чем бактерия, вероятно, позволяя осуществлять с лёгкостью модификацию или
стимуляцию мозга, что позволит создать эффекты любых психоактивных веществ. Многие
человеческие сообщества считают нужным запрещать определённые продукты: ружья в
Британии, арбузы без косточек в Иране, сексуальные игрушки в Техасе, разные наркотики
в разных странах, как, например, гашиш в США и алкоголь в мусульманских странах.
Хотя большинство из этих ограничений основано на моральных принципах, не
разделяемых большинством мировой человеческой популяции, тот факт, что ограничения
вообще существуют, означает чувствительность сообществ – или, во всяком случае, их
правителей, – к нежелательным продуктам. Способность создавать запрещённые продукты
с использованием личных нанофабрик следует рассматривать, по крайней мере, как
подрывающую человеческое сообщество, и способную породить стимул к крайне
широким и полностью тормозящим ограничениям технологии. Новые образы жизни,
вызванные новой технологией, также могут привести к социальным потрясениям. Там, где
спрос на запрещённый продукты уже существует, образ жизни формируется в течение
определённого времени, так что эффекты от изменения образа жизни будут менее
острыми. Однако некоторые возможности изменения образа жизни (особенно в областях
секса, наркотиков, развлечений, а также телесной и генетической модификации), вероятно,
будут настолько беспокоящими для внешних наблюдателей, что само их существования
может вызвать социальные потрясения.
 Нанотехнологическое оружие будет чрезвычайно мощным, и может привести
к нестабильной гонке вооружений.

Молекулярное производство создаёт возможность пугающе опасных видов

вооружений. Например, самое маленькое насекомое имеет размер около 200 микрон; это
даёт достоверную оценку возможного размера построенного с помощью нанотехнологий
устройства для уничтожения личного состава, способного осуществлять поиск
незащищённых людей и вспрыскивать в них токсин. Смертельная доза токсина ботулизма
для людей составляет примерно 100 нанограмм, или 1/100 объёма этого устройства. Целых
50 миллиардов несущих токсин таких устройств – теоретически могущих убить каждого
человека на Земле – могут быть упакованы в единственный чемодан. Стрелковое оружие
любого типа будет гораздо более сильным, и его пули станут самонаводящимися.
Аэрокосмическое оборудование будет гораздо более лёгким и будет иметь более высокую
производительность, будет построено с минимальным количеством металла или вовсе без
него, в результате чего его будет гораздо труднее обнаружить с помощью радара.
Встроенные компьютеры позволят осуществлять удалённую активацию любого оружия, и
более компактные источники питания позволят резко улучшить робототехнику. Эти идеи
только чуть-чуть намекают на масштаб открывающихся возможностей.

Важным вопросом является то, будет ли нанотехнологическое оружие

стабилизирующим или дестабилизирующим. Например, можно благодарить ядерное
оружие за то, что оно предотвратило масштабные войны после его изобретения. Однако
нанотехнологическое оружие не похоже на ядерное оружие. Ядерная стабильность
происходит, по крайней мере, из четырёх факторов. Наиболее очевидным является
огромная деструктивность тотальной ядерной войны. Тотальная нанотехнологическая
война вероятна и будет эквивалентна ядерной в краткосрочном плане, но ядерное оружие
имеет высокие долговременные последствия применения (выпадение радиоактивных
осадков, заражение), которые будут гораздо более слабыми в случае нанотехнологического
оружия. Ядерное оружие уничтожает без разбора; нанотехнологические вооружения могут
быть направленными. Ядерные вооружения требуют для своего создания значительных
исследовательских разработок и индустрии, которые могут быть обнаружены гораздо
проще, чем разработка нанотехнологических вооружений; нанотехнологическое
вооружение можно разрабатывать гораздо более быстро благодаря более быстрому и
дешёвому созданию прототипов. Наконец, ядерное оружие не просто доставить тайно на
место применения заранее; ситуация же с нанотехом противоположная. Большая степень
неопределённости в оценке потенциала врага, меньшее время для ответной атаки, и более
эффективное точнонацеленное разрушение видимых ресурсов врага в ходе атаки – всё это
делает нанотехнологическую гонку вооружений менее стабильной. Также, если
нанотехнологии не будут жёстко контролироваться, то число нанотехнологических наций
в мире может быть гораздо больше числа ядерных держав, увеличивая риск регионального
конфликта.
Адмирал Дэвид Джеремия, бывший вицепредседатель Объединённого комитета
начальников штабов, в обращении к конференции Форесайт института по Молекулярной
нанотехнологии, сказал: «Военные приложения молекулярного производства имеют
больший потенциал, чем ядерное оружие, к радикальному изменению баланса сил».
Прекрасное эссе Тома МакКарти (не связанного с CRN) разъясняет эту идею
более подробно. ( http://www.mccarthy.cx/WorldSystem/ ) Он обсуждает пути, которыми
нанотехнологии могут дестабилизировать международные отношения: молекулярное
производство уменьшит экономические влияния и взаимозависимость, что сделает более
привлекательным нацеливание оружия на людей, а не на фабрики и вооружения, и
уменьшит способность наций осуществлять мониторинг потенциальных врагов. Оно
может также, наделив множество стран способностью осуществить глобальное
уничтожение, отменить способность сильных наций быть «полицейскими» на
международной арене. Делая малые групп людей самодостаточными, МП может
побуждать к распаду существующие нации.

Совокупный ущерб окружающей среде является естественным следствием

дешёвого производства, равно как и риски для здоровья.

Молекулярное производство позволяет осуществлять дешёвое создание

невероятно мощных устройств и продуктов. Насколько много таких продуктов мы хотим?
Какой ущерб окружающей среде они причинят? Разброс возможного ущерба довольно
велик: начиная с личных сверхзвуковых самолётов, летящих на небольшой высоте и
причиняющих вред большому количеству животных – вплоть до потребления солнечной
энергии в значительных масштабах, способных изменить альбедо планеты и оказать
прямое воздействие на окружающую среду. Более прочные материалы позволят создавать
ещё более крупные машины, способные осуществлять раскопки или другие действия,
повреждая значительные территории с гораздо большей скоростью. Однако, с учётом
большого количества видов деятельности и целей, которые могли бы причинить ущерб
окружающей среде, если они будут реализованы в максимальном масштабе, а также
лёгкость доведения их до максимального масштаба с помощью молекулярного
производства, – кажется вероятным, что эта проблема стоит того, чтобы о ней
беспокоиться. Некоторые формы ущерба могут возникнуть как суммарный эффект
индивидуальных действий, каждое из которых будет почти безвредным. Трудно будет
предотвратить такой ущерб с помощью словесного убеждения, и законы часто тоже не
работают; централизованные ограничения технологий могут быть необходимой частью
решения проблемы. Наконец, крайняя компактность нанотехнологически произведённых
механизмов будет вызывать стремление пользоваться очень маленькими продуктами,
которые могут легко превратиться в нано-мусор, который будет трудно вычистить и
который может вызывать проблемы со здоровьем.

Серая Слизь – одна из самых ранних тревог, возникших в связи с

нанотехнологией.

Когда основанное на нанотехнология производство было впервые предложено,

возникла озабоченность по поводу того, что микроскопические производящие системы
могут вырваться наружу и «съесть» биосферу, превратив её только в копии себя самой. В
1986 году Эрик Дрекслер писал: «мы не можем себе позволить определённого класса
аварии с саморазножающимися репликаторами». Более недавние разработки Дрекслера и
других делают очевидным, однако, что реплицирующиеся ассемблеры не будут
использоваться для производства - нанофабрики будут гораздо более эффективны в
создании объектов, и нанофабрика ничем не напоминает наноробота «серой слизи».
Серая слизь подразумевает наличие пяти способностей, объединённых в одном
устройстве. Эти способности: Мобильность – то есть способность путешествовать в
окружающей среде. Оболочка – тонкий, но эффективный барьер, защищающий от
ультрафиолетовых лучей и окружающих химических веществ; Контроль – полный набор
чертежей и компьютеров для их интерпретации (даже при работе в наномасштабах это
устройство займёт значительное место); Метаболизм – способность расщеплять
различные вещества на простые питательные составляющие; и Производство –
превращение питательных веществ в наномеханизмы. Нанофабрики тоже будут
использовать микроскопических фабрикаторов, но они будут инертными, если их
вытащить или отключить от нанофабрики. Остальные из перечисленных требований для
своей реализации и интеграции потребуют значительных инженерных усилий.
 Серая слизь не возникнет в результате аварии, но, в конечном счёте, может
быть сделана нарочно.

Хотя серая слизь не имеет никакого существенного военного или коммерческого

значения, а также только ограниченную террористическую ценность, она может
использоваться для шантажа. Вычистка единичного выброса серой слизи была бы весьма
дорогостоящей и могла быть потребовать жёсткого физического разрушения окрестностей
выброса. (Слизи, распространяющиеся в атмосфере или в океане должны вызывать особое
беспокойство по этим причинам.) Другим возможным источником серой слизи могут быть
безответственные любители, для которых это будет хобби. Люди определённого
психологического типа, по-видимому, не могут избежать искушения возможностью
создавать и выпускать на волю самореплицирующиеся образования, что нам доказывает
большое количество существующих компьютерных вирусов. Вероятно, мы не имеем права
смириться с появлением сообщества хакеров-дилетантов, выпускающих множество
модифицированных версий серой слизи.
Развитие и использование молекулярного производства не создаёт абсолютно
никакого риска случайного создания серой слизи. Однако системы в духе серой слизи не
запрещены законами физики, и мы не можем игнорировать возможность того, что пять
высказанных выше требований могут быть реализованы одновременно в устройстве,
достаточно маленьком, чтобы зачистка от него была дорогостоящей и трудной. В силу
этого тезис Дрекслера 1986-го года должен быть исправлен: мы не должны позволить
преступникам безответственно злоупотреблять сверхмощными технологиями. Прожив с
угрозой ядерного оружия в течение полувека, мы уже это знаем.
Нам бы хотелось убрать серую слизь из списка опасностей CRN, но мы не можем.
Рано или поздно эта проблема может стать реальной и потребовать специальной политики
в отношении неё. Однако изготовить серую слизь будет крайне сложно, и
нереплицирующиеся нано-вооружения могут быть существенно более опасными и
неизбежными.

Примечание: в июне 2004 года Эрик Дрекслер и Крис Феникс опубликовали

новую статью «Безопасное молекулярное производство», в которой рассмотрели риски
«серой слизи». (http://www.crnano.org/PR-IOP.htm )

Слишком мало или слишком много регуляции может привести к

неограниченной доступности.

Неконтролируемая доступность технологии нанофабрик может быть следствием

недостаточной или чрезмерно усердной регуляции. Неадекватная регуляция сделает более
лёгким приобретение и использование незарегистрированной нанофабрики. Излишне
усердная регуляция создаст неудовлетворённый спрос на нанотехнологические продукты,
который, если станет достаточно сильным, будет финансировать шпионаж, взлом
ограничивающих технологий или независимую разработку, и, в конечном счёте, создаст
чёрный рынок, недоступный контролю центральных властей (нанофабрики очень удобны
для контрабанды). Отметьте, что достаточно жёсткая и ограничивающая регуляция может
стать мотивацией для внутреннего шпионажа; и по крайне мере один из атомных шпионов
в истории США был мотивирован идеалистическими идеями. Неконтролируемая
доступность значительно увеличивает многие из опасностей, перечисленных выше.

Соревнующие нанотехнологические программы увеличивают опасность.

Существование множества программ по развитию молекулярного производства

значительно увеличивает риски, перечисленные выше. Каждая программа предоставляет
независимые возможности для того, чтобы технологии были украдены или каким-то
другим образом оказались за пределами ограничений. Каждая страна с независимой
нанотехнологической программой потенциально является независимым игроком в
нанотехнологической гонке вооружений. Сниженные возможности для контроля могут
привести к тому, что ограничения будет труднее ввести, но это может привести к более
интенсивным попыткам установить грубое регулирование. Ослабление контроля сделает
также менее вероятным то, что будут развиты менее экономически подрывающие
решения.

Полный отказ неэффективен.

По мере осознания всех этих рисков будет расти искушение просто запретить эти
технологии. Однако мы не думаем, что это сработает. Многие страны уже тратят
миллионы на базовые нанотехнологии, и в течение десятилетия продвинутые
нанотехнологии будут уже достижимы для крупных корпораций. Они не могут быть
запрещены по всему миру. И если наиболее неприемлющие риск страны прекратят
работать над ними, то менее ответственные страны станут теми, кто продолжит развитие
этих технологий и будет иметь с ними дело. Помимо того, законодательное регулирование
не имеет большого влияния на скрытые военные программы.
Появление молекулярного производства может быть отложено с помощью
жёсткого регулирования, но это, вероятно, сделает ситуацию только хуже в долгосрочном
плане. Если МП будет откладываться до того момента, когда оно станет достаточно
простым, то тогда будет гораздо труднее следить за всеми программами его создания.
Кроме того, на более продвинутой технологической базе развитие нано-продуктов может
происходить даже быстрее, чем мы описали, оставляя меньше времени, чтобы
приготовиться к социальным потрясениям.

Решение этих проблем будет не просто.

Некоторые из описанных рисков происходят из слишком слабой регуляции, а

другие – из слишком сильной. Несколько различных видов регуляции будут необходимы
в нескольких разных областях. Крайняя или полностью тормозящая реакция на любые из
этих рисков просто создаст питательную почву для других рисков. Эти риски относятся к
нескольким принципиально разным классам, так что единственный подход
(коммерческий, военный или основанный на свободе информации) не может превратить
их всех. Некоторые из этих рисков настолько экстремальны, что общество не может
терпеть этот риск, в то время, пока будут испытываться разные подходы, чтобы
предотвратить его. Даже единственное высвобождение серой слизи или нестабильная
гонка вооружений – неприемлемы. Прокладывание пути между всеми этими рисками
потребует тщательного предварительного планирования.

Комментарии переводчика.

1. Достаточно один раз взломать или украсть нанофабрику, чтобы она

навсегда стала достоянием чёрного рынка, так как она в принципе
может воспроизводить сама себя.
2. Нанофабрика может производить наноассемблеры и наоборот, а также
серую слизь. Авторы явно подчёркивают преимущества нанофабрики
и преуменьшают её взаимоэквивалентность с микроскопическими
репликаторами.
3. Авторы не указывают на мощную связь био и нано технологий, что
усиливает риски обеих. Тоже касается влияния нанотехнологий на
увеличение риска появления ИИ и наоборот.
4. Нестабильная гонка вооружений побуждает ударить первым, а также
понизить нормы безопасности при разработке.
5. Возможность дешёвой добычи золота из морской воды подорвёт
основу мировой финансовой системы. Зато ценность земли, как
конечного ресурса, возрастёт. Дешёвое строительство и транспорт
сделают пригодными для освоения Сибирь, Сахару и даже океаны и
Антарктику.
6. Некоторые ресурсы могут сохранить свою ценность, например,
редкоземельные металлы, имеющие в ограниченном количестве мест
на земле. Страны, ориентирующие на производство для внешних
рынков, потерпят значительный ущерб – вроде Китая, Тайваня.