Вы находитесь на странице: 1из 1

План предотвращения глобальных рисков,

могущих привести к полному вымиранию человечества

Ориентировочные даты

2015

2020

2030

2040

Вторая половина 21 века

Исследования Общественное движение: Усиление роли ООН Контроль
Исследования
Общественное движение:
Усиление роли ООН
Контроль над рисками
Активные щиты
План А1
Создание полного
распространение идеи о важности
предотвращения рисков
Государства делегируют
Запреты
Создание всемирного центра
по предотвращению
глобальных рисков
списка рисков
часть своих полномочий в
• Международные запреты опасных технологий
• Геоинженерия против глобального
потепления
Синглетон
• Создание карты рисков
Группа авторитетных ученых,
Компьютерный тоталитаризм (всемирная
вездесущая система видеонаблюдения и
• Оценка вероятности
ООН для предотвращения
глобальных рисков
• Заморозка опасных проектов на 30 лет (SETI,
ITER, LHC) на основе принципа предосторожности
• Всемирная ПРО – система защиты от
ракет и астероидов
разделяющих правильное понимание
контроля)
“СверхООН”
• Анализ способов защиты
Некая малая катастрофа
проблемы и с низким уровнем
внутренних конфликтов
и создание плана действий
Стимулы
Всемирный центр быстрого реагирования
на риски
• Нанощит – распределенная система
контроля над опасными репликаторами
всемирная
• Убеждение общества (статьи, книги,
форумы, разные медиа)
система
помогает объединиться
человечеству для
противостояния ей
(пандемия, астероид,
локальная ядерная война)
• Дифференциальное развитие технологий
(первыми – повышающие безопасность, Бостром)
Мирное объединение планеты на основе
системы договоров
• Биощит – всемирный аналог иммунной
системы
• Единый центр принятия глобальных решений
• Общественная поддержка,
уличные протесты
(антиядерные протесты в 80-е)
• Законы и экономические стимулы
(Richard Posner, квоты на углекислый газ)
• Всемирная система управления, основанная на
искусственном интеллекте
контроля
Контроль
• Слияние государства,
интернета и всемирного ИИ в единую
систему контроля, безопасности и
управления
• Политические деятели и партии
• Международные системы контроля (МАГАТЭ)
• Научная структура: журнал, вики,
форум, панель
• Всемирная прозрачность: каждый наблюдает за
каждым (Дэвид Брин)
• Удаление источников рисков на
большое расстояние от Земли
Война за объединение планеты
• СверхИИ, решающий задачи предотвращения
всех мыслимых рисков и обеспечивающий
бессмертие и развитие всех людей
Прямая оккупация всех стран мира,
разгором соперников (вторая мировая,
холодная война)
• Освоение Солнечной системы, создание сферы
Дайсона, полеты к звездам
Использование одной из
Трансформация ценностей
Фатальная ошибка в работе
всемирной системы контроля
сверхтехнлологий для мгновенного захвата
Ошибочная комманда заставляет
• Освоение Галактики
“Закрытие” некоторых рисков
• Рост ценности жизни
власти над всей планетой и установления
вечного мира (нанотех)
защитные системы атаковать людей
• Ослабление религиозных и
национальных конфликтов
Геоинженерия идет насмарку
• Шантаж оружием судного дня
• Универсальные вакцины
• Уничтожение одной страной всех
• Слияние со Вселенной, победа над “тепловой
смертью” Вселенной
• Распространение трансгуманизма
• Обнаружение опасных астероидов или
доказательство их отсутствия (проект WISE)
Всемирный тоталитаризм ведет мир к
катастрофе
• Изменение картины будущего
остальных (Сев. Корея? биологическое
оружие)
• Переход на энергосберегающие, экологичные и
возобновляемые технологии, снижение выбросов
• Добыча полезных ископаемых в космосе
Глобальная
Глобальная
катастрофа
катастрофа
Продвижение
Теория
Дружественного ИИ
Практическое распространение
теории
Foam AI
• Исследование теории ИИ (MIRI)
• Пропаганда важности создания
дружественного ИИ
• Теория ценностей и теория принятия решений
Донесение теории Дружественного ИИ
• Создание и запуск небольшого ИИ-проекта, способного к самооптимизации и
основанного на теории Дружественного ИИ
• Доказанная безопасность ИИ
• Фандрайзинг
• Способ сохранения системы целей при самоапгрейте
до основных команд, создающих ИИ, и
убеждение их в ее применении
• Распространение принципов
рационального мышления (Less Wrong)
• ИИ становится сверх-ИИ и быстро берет под контроль всю планету, а затем устраняет смерть, страдания и
глобальные риски
• Теория проста для понимания и легко реализуема
на практике
• Тестирование ее на игрушечных моделях
• Возможно, создание AI Nanny – помогает предотвратить глобальные риски, но не более того
• Создание узкого ИИ, эмуляций мозга,
Недружественный ИИ
• Замедление опасных ИИ-проектов
(скупка умов, рецессия)
эксперименты в области загрузки систем
целей в ИИ.
• Уничтожает всех людей и реализует ценности, мало
имеющие отношения к человеческим (paperclip maximazer)
• Однако некая форма разумной жизни сохраняется и несет
определенную информацию о человечестве и наследует
некоторые из его целей и свойств
Повышение
устойчивости цивилизации
Повышение интеллекта и моральности людей
Ускоренное развитие,
План А3
Ноотропики, стимуляция мозга и генная терапия
для повышения IQ
чтобы быстро
проскачить зону рисков
Быстрое достижение индивидуального
бессмертия на максимально высоком технологическом уровне
• Системы с мощной защитой от дурака
• Нанотехнологическое бессмертное тело
Повышение разнообразия и
устойчивости людей и их жилищ
ИИ, основанный на симуляции мозга его создателя
Образование, рациональность, снижение
Инвестиции в прорывные технологии
(нанотех, био)
• Разделение человечества на несколько видов, способных жить в космосе:
Повышение
когнитивных искажений
более гибких и разнообразных
Универсальные превентивные
Дружествен к его личной системе ценностей
Высокий уровень моральности и эмпатии,
чтобы гении не стали супертеррористами
• Загрузка сознания в компьютер
неуничтожимости
средства (мощная медицина, вакцины)
Обогнать медленные процессы
деградации и исчерпания
• Слияние с ИИ и превращение в него
Естественное развитие системы ценностей при
самоапгрейте
Много здравомыслящих людей, способных
• Отказ от неограниченного самоапгрейта
самооорганизоваться и противостоять рискам
Устранение деструктивных верований, опасного
поведения и эгоизма
План А4
Временные убежища в космосе
Освоение Солнечной системы
Межзвездные перелеты
Распределенное по Галактике человечество
• Космическая станция как временное убежище
• Звездолеты с колонистами типа Орион на ядерном топливе
Расселение
в космосе
• Самообеспечивающиеся колонии на Марсе и
больших астероидах
• Множество несвязанных друг с другом космических
• Дешевые и безопасные ракеты и
космические аппараты
• Звездолеты на новых физических принципах и с бессмертными людьми
цивилизаций
• Зонды-репликаторы, удаляющиеся от Земли на максимальной скорости с ИИ и с человеческими эмбрионами
Новые типы рисков, охватывающие большие участки
• Создание космических поселений
на Луне и на Марсе (Элон Маск)
• Терраформинг планет и астероидов с
помощью роботов-репликаторов
• Миллионы независимых колоний внутри
астероидов и кометных тел в облаке Оорта
космоса (космические войны, взрывы планет и звезд,
ИИ и нанорепликаторы, внеземные цивилизации)
Постройка
• Подземные бункеры
Подготовка
Готовность к катастрофе
Восстановление цивилизации после катастрофы
План В
• Атомные подводные лодки
Перезапуск цивилизации
• Отдаленные острова
• Команды наготове в бункерах
• Восстановление численности населения
• Фандрайзинг и убеждение
• Подготовка экипажей и ротация
• Восстановление науки и техники
• Создание инструкций по восстановлению
• Может быть несколько циклов перезапуска
Естественные убежища
• Разные типы убежищ
• Создание условий невозможности следующей катастрофы
Пережить
цивилизации (Dartnell “Knowledge”)
• Племена без контакта
Создание кладов со знаниями, семенами и
• Замороженные эмбрионы
• В результате либо окончательная деградация,
либо переход в новое устойчивое состояние
• Отдаленные деревни
катастрофу
материалами (Doomsday Vault в Норвегии)
• Самообеспечивающиеся группы
сюрвайвалистов
• Корабли и автономные
морские поселения
• Полярные станции в Антарктиде
План С Оставить информацию

План С

Оставить

информацию

План С Оставить информацию   Капсулы с информацией  
 

Капсулы с информацией

 

Послания инопланетянам

 

Радиопослания,

Капсулы на Земле для будущих

нечеловеческих цивилизаций с ДНК человека и информацией

содержащие описания

человечества и ДНК людей

 

Клады на Луне:

Вечные диски от Long Now Foundation (или “M disks”)

замороженный мозг и эмбрионы

 

Космические аппараты типа Voyager с информацией о человечестве

Сохранение земной жизни

• Сохранение популяций высокоразвитых животных

• Создание условий для возникновения нового вида разумных существ на Земле • Направленная панспермия (Марс, Европа, космическая пыль с бактериями)

космическая пыль с бактериями) Роботы-репликаторы в космосе •

Роботы-репликаторы в космосе

• Механическая жизнь

• Сохранение информации о человечестве в течение миллиардов лет

• Специализированный безопасный ИИ

Воскрешение иной цивилизацией

• Возникновение цивилизации, разделяющей наибольшую часть человеческих свойств и ценностей

• Точное возвращение к жизни отдельных людей

к жизни отдельных людей Спасение нечеловеческим
к жизни отдельных людей Спасение нечеловеческим
к жизни отдельных людей Спасение нечеловеческим

Спасение нечеловеческим сверхразумом

• Может быть, инопланетяне

наблюдают за нами и спасут

• Второе пришествие или любое

другое чудо, вера в потусторонний мир и жизнь в нем.

• Радиопослания в космос с просьбой о помощи (если катастрофа неизбежна)

Максимально странная старетегия, чтобы избежать парадокса Ферми

Пустота космоса говорит о том, что все предыдущие цивилизации погибли, следовательно, пути, казавшиеся рациональными или обычными, никуда не вели, и нужно выбрать случайный неожиданный путь, наверняка отличающийся от прошлых

Квантовое бессмертие

• Если верна многомирная

интерпретация квантовой

механики, то по крайней мере один человек (я-наблюдатель) выживет в любой катастрофе (Моравек, Тегмарк)

• Можно связать мое выживание

с выживанием и других людей, (“мы на подлодке”)

• В бесконечной вселенной

всегда найдутся другие человеческие цивилизации

Предвидение будущего

• Использование квантовых эффектов для предвидения будущего и исключения опасных вариантов

• Использование новых физических эффектов для поиска потенциальных террористов или мест возможных аварий

• Специализированный ИИ

предсказывает новые риски и способы их предотвращения

Манипуляция вероятностью с помощью Doomsday argument

• Манипуляция общим числом

будущих рождений (Метод UN++, Бостром)

• Уменьшение плотности числа

рождений, чтобы выиграть больше времени

Управление симуляцией

• Жить интересной жизнью, чтобы не выключили симуляцию

• Не давать симуляторам догадаться, что мы знаем об их существовании

• Взломать симуляцию и отдавать ей правильные команды

• Вступить в переговоры с

симуляторами, просить их

Исследование глобальных рисков только увеличивает эти риски

• Скрывать опасную информацию от потенциальных террористов

• Не пропагандировать идею глобальной катастрофы

• Внедрение систем контроля только создает новые риски

• Невозможно измерить вероятность глобальной катастрофы и ее изменение

катастрофы и ее изменение Управляемый регресс •

Управляемый регресс

• Использование малой катастрофы для предотвращения большей (Wilard Wells)

• Луддизм (Качински) остановка развития науки

• Создание экологичной цивилизации без технологий (“World made by hand”)

• Cнижение общего интеллекта, чтобы никто не мог изобрести ничего плохого

Сокращение населения

• Экономия ресурсов, упрощение контроля

• Пандемии, войны, голод (Мальтус)

• Снижение рождаемости (Гейтс)

• Преднамеренная малая катастрофа (биооружие)

Поясненения к карте: все варианты плана А отражают разные точки зрения на наиболее позитивный сценарий развития. Все планы А имеют момент риска, то есть могут привести к глобальной катастрофе сами по себе. Карта составлена Алексеем Турчиным на основании его книги “Структура глобальной катастрофы”. В скобках указаны сторонники главные сторонники того или иного плана, а также поясняющие примеры.

(c) Alexey Turchin, 2014, mailto: alexei.turchin@gmail.com

https://www.scribd.com/avturchin

Недружественный ИИ лучше, чем полное вымирание

• Любой ИИ сохранит какую-то информацию о человечестве

• Он будет запускать

симуляции человечества, чтобы

исследовать вероятность своего возникновения

• Он сохранит долю человеческих

ценностей и распространит ее по Вселенной, а также нести отпечаток личности своего создателя

 

Притягивание позитивного будущего и прочия магия

Пребывать в максимально позитивном

мировоззрении, чтобы “притягивать” безопасное

 
 

будущее

 

Избегание негативных мыслей о конце света и насилии

Глобальная

катастрофа

Устроить пир во время чумы