Академический Документы
Профессиональный Документы
Культура Документы
РЕФЕРАТ
по дисциплине «История и философия науки»
г. Москва
2020
СОДЕРЖАНИЕ
Введение …………………………………………………………………………... 2
Часть 1. Далекое будущее наступит скоро…………………………………….… 4
Часть 2. Дорога к сверхинтеллекту…………………………………………….… 6
Часть 3. От слабого искусственного интеллекта к сильному…………………... 8
Часть 4. Что для нас может сделать искусственный интеллект?……………… 22
Заключение ………………………………………………………………………... 31
Литература ………………………………………………………………………... 33
ВВЕДЕНИЕ
2
все в итоге умирают». И это верно, ведь никто в прошлом не избежал смерти. Но и
самолеты не летали, пока их не изобрели.
Суть в том, что пока мы хотим рассуждать по-настоящему логически и
ожидаем, что историческая последовательность продолжится, мы должны прийти к
заключению, что с последующими десятилетиями изменится намного больше всего,
чем мы ожидаем. Логично также, что если самые развитые существа на планете
продолжат делать все более высокие скачки в темпах своего развития, то в какой-то
момент они коренным образом изменят жизнь и собственное восприятие себя как
людей. Подобно тому, как эволюция делала большие скачки на пути к разумным
существам, пока в конечном итоге не сделала такой большой скачок до хомо
сапиенса, который полностью изменил жизнь на Земле. Если вы следите за тем, что
происходит в мире науки и технологий сегодня, то вы начнете замечать множество
вещей, указывающих на то, что привычный жизненный ход вещей, возможно, не
выдержит следующий скачок.
ДОРОГА К СВЕРХИНТЕЛЛЕКТУ
Что такое ИИ? Если вы похожи на меня, то для вас искусственный разум - это
выдумка из мира фантастики, и вы не до конца понимаете суть, когда слышите, как
это обсуждают серьезные ученые.
Есть несколько причин, по которым людей смущает термин ИИ [21].
1) Мы связываем его с фильмами. Звездные войны, Терминатор,
Космическая одиссея-2001 с вымышленными персонажами - роботами, которые
заставляют нас думать об ИИ как о каком-то художественном вымысле.
2) ИИ - очень широкая тема. Он может быть представлен как в виде
калькуляторов, так и в виде самоуправляемых автомобилей или даже чего-то, что в
будущем сильно изменит нашу жизнь. ИИ относится ко всем этим вещам, что и
приводит к путанице.
3) Мы пользуемся им в повседневной жизни, не осознавая того, что это
ИИ. Джон Маккарти, который в ввел термин "искусственный интеллект" в 1956
году, жаловался: "Стоит ему действительно заработать, как все сразу перестают
называть его ИИ." Из-за этого феномена термин звучит больше как нечто из разряда
фантастики. В тоже время это звучит и как популярная концепция, которая так и не
была реализована. Курцвейл говорил, что часто слышит, как люди говорят что идея
ИИ изжила себя еще в 80-х, таких людей он сравнивает с теми, кто утверждает, что
интернет умер с пузырем доткомов.
Итак, давайте внесем некую ясность. Первым делом перестаньте думать о
роботах. Робот - это всего лишь оболочка ИИ, которая иногда подражает
человеческому образу, но ИИ - это только компьютер внутри робота. ИИ - это мозг,
а робот - это тело, если оно вообще есть. Например, помощник в iOS Siri (которая,
кстати, недавно заговорила по-русски - прим. пер.) - это ИИ, а женский голос - это
персонификация ИИ, и при этом нет никакого робота.
Во-вторых, вы наверное слышали термин «сингулярность» или «технологи-
ческая сингулярность». Этот термин используется в математике, чтобы описать
ситуацию, при которой обычные законы уже не действуют. В физике он
используется для того, чтобы описать феномены вроде черной дыры или состояния,
в котором пребывала Вселенная до Большого Взрыва. В 1993-м году Вернор Виндж
использовал этот термин в своем знаменитом эссе, чтобы описать поворотный
момент в истории, когда ИИ превысит человеческий, то есть жизнь изменится, и
7
советовать для добавления в друзья. Это целая сеть ANI-систем, которые работают
вместе, чтобы собрать необходимую информацию о вас и решить, что показывать в
дальнейшем. Так же на сайтах работает функция «Люди, купившие этот товар, также
купили это», чтобы повышать продажи и заставлять вас покупать больше.
Google-переводчик - еще один классический ANI, который очень хорошо
справляется с одной задачей. Распознавание голоса - это уже другой ANI, но многие
программы используют их вместе, что позволяет вам произнести целое
предложение, и ваш телефон воспроизводит его уже на другом языке.
Когда ваш самолет приземляется, то не человек выбирает выход на посадку, и
не человек определил стоимость вашего билета.
Лучшие игроки в шахматы, шашки, нарды и скрэббл теперь ANI-системы.
Поиск Google - это одна большая ANI со сложными методами отбора порядка
страниц, которая решает, что вам показать по вашему запросу в первую очередь.
И все это только из сферы потребления. Существуют экспертные системы, которые
помогают врачам ставить верные диагнозы. Вспомните Ватсона от IBM, который
содержал достаточное количество фактов и хорошо понимал речь Алекса Требека
(телеведущего), что обыграл всех чемпионов Своей Игры (их аналога, нашего Петра
Кулешова никто из ANI пока не обыгрывал). Современные ANI-системы не такие
уж страшные. В худшем случае глюченная или плохо спрограммированная ANI
может вызвать локальную катастрофу, например, отключение энергосистем на
атомной электростанции или спровоцировать обрушение рынка (вспомните Черный
вторник 6 мая 2010, когда ANI неправильно отреагировала на неожиданную
ситуацию, что привело к резкому обвалу биржевого рынка). Пока ANI еще не
представляют угрозу нашему существованию, нам следует понять всю эту большую
и сложную систему относительно безобидных компьютеров, так как они
предвещают надвигающийся ураган, который полностью изменит мир. Каждая
отдельная инновация ANI закладывает новый кирпичик в дороге к ASI. Эрон Саенз
сравнивает роль систем ANI в современном мире с «аминокислотам в первичном
бульоне Земли», материалом, который в конечном итоге привел к возникновению
живой клетки [21].
каждой книги, для того чтобы вступить с нами в полноценный диалог и дать ответы
на наши вопросы». И Google, и Курцвейл считают, что все дело в языке).
В 2011 году Курцвей стал соучредителем Университета Singularity, который
находится под опекой NASA и частично финансируется Google. Такое количество
достижений - точно неплохой результат для одной жизни.
Вся эта биографическая справка приводится мною неспроста. Когда Курцвейл
формулирует свое видение будущего, он звучит как помешанный, но важно
понимать, что это не так - он поразительно умен и эрудирован в этих вопросах. Вам
может показаться, что он не прав, но помните, что он далеко не дурак.
Несложно догадаться, почему у него так много страстных последователей,
известных как Сингуляританцы. Большинство его прогнозов широко разделяют
ученые из Уверенного уголка, среди которых Питер Диамандис и Бен Гёрцель. Вот
что, по их мнению, должно произойти:
Хронология
Курцвейл считает, что к 2029 году мы создадим ИИ, равный человеческому, а
к 2045 у нас будет не только сверхинтеллект, но и полномасштабный новый мир, и
этот момент он называет сингулярностью. Такой расчет до сих пор продолжает
казаться многим безумно преувеличенным (прим. технопредприниматель Мич
Капор даже поспорил с Курцвейлом на 200 000 долларов, что мы не достигнем AGI
к 2030 году), но с учетом того, как за последние 15 лет развились слабые системы
ИИ, все больше экспертов соглашается с Курцвейлом. Его прогноз по-прежнему
более амбициозный, чем прогноз среднего участника Бостромского опроса (AGI -
2040; ASI - 2060) но не так уж и сильно.
По мнению Курцвейла, к сингулярности в 2045 нас приведут три
одновременные революции в биотехнологиях, нанотехнологиях и, в наибольшей
степени, в области разработок ИИ.
Прежде чем мы двинемся далее, следует сказать, что нанотехнологии
являются неотъемлемой частью всех разработок, касающихся ИИ, так что давайте
сделаем небольшое отступление и обсудим нанотехнологии.
Отступление о нанотехнологиях
Нанотехнологии - термин для обозначения технологий, которые имеют дело
с манипуляцией материи, чей размер варьируется между 1 и 100 нанометрами.
Нанометр равен одной миллиардной части метра или миллионной части
миллиметра. Под этот диапазон от 1 до 100нм попадают вирусы (длинною в
100нм), ДНК (10нм в ширину), а также молекулы гемоглобина (5нм), глюкозы (1нм)
и многое другое. Если нанотехнологии станут подвластны нам, следующим шагом
станет возможность манипулировать атомами, которые всего на один порядок
величины меньше (~ 0,1нм). Следующий шаг будет намного сложнее - манипуляции
субатомными частицами в ядре атома, протонами и нейтронами. Они намного
меньше - диаметр протона составляет около 1,7 фемтометра, один фемтометр
является одной миллионной частью нанометра.
Впервые о нанотехнологиях заговорил Ричард Филлипс Фейнман в 1959. Тогда
он сказал следующее: «Законы физики, насколько я могу судить, не противоречат
возможности манипуляции атомами. В принципе, физик смог бы синтезировать
любое химическое вещество, записанное химиком. Каким образом? Расположив
атомы там, где попросит химик». Вот так все просто. Если понять, как
перемещать отдельные молекулы атомов, можно в буквальном смысле создать
что угодно. Серьезной сферой науки нанотехнологии стали в 1986 году, когда
22
инженер Эрик Дрекслер положил основы для науки в своей книге «Машины
творения». Сам Декслер советует всем, кому интересны современные концепции
нанотехнологий, прочитать его новую книгу, вышедшую в 2013, - «Радикальное
Изобилие».
Как только мы реально разберемся с нанотехнологиями, мы сможем
использовать их для создания сложных технических устройств, одежды, еды,
биопродуктов - искусственные клетки крови, микровируса, уничтожающего
раковые клетки, мускульные ткани и т.д. - да что угодно, по сути. В мире, где
будут широко применяться нанотехнологии, стоимость материалов будет
определятся не по их дефициту или сложности производства, а по тому, насколько
сложна их атомная структура. В мире нанотехнологий алмаз может быть
дешевле, чем ластик.
Но пока мы до этого не добрались. И неясно, преувеличиваем ли мы или,
наоборот, преуменьшаем трудность этого пути, но кажется, что мы не так
далеко. По мнению Курцвейла, это произойдет к 2020-м. Правительства разных
стран знают, что нанотехнологии могут изменить мир и поэтому инвестируют
огромные деньги в их исследование (США, Евросоюз и Япония в совокупности
потратили на это уже 5 миллиардов долларов).
Сложно даже представить, какие возможности откроются нам, если
искусственный сверхинтеллект получит доступ к наноассемблеру. Но
нанотехнологии придумал человек, пускай еще пока их и не освоил. Учитывая, что
все, на что способен наш разум, для системы ASI будет смехотворным, нам
остается предположить, что она разработает непостижимые нашему уму
технологии. По этой самой причине оптимистичный сценарий революции ИИ
сулит вещи, которые невозможно переоценить, учитывая их масштаб. Поэтому,
если все это вам кажется чересчур надуманным, примите во внимание, что наш
мозг даже не способен представить себе те вещи, которые могут произойти.
свет появится ASI, главной задачей которого станет истребление людей. Ничего
хорошего.
В случае, если ИИ окажется дружелюбным, это ничего не будет говорить о его
личностных качествах и означает лишь, что его влияние на человеческую жизнь
будет положительным. Соответственно, недружелюбный ИИ окажет негативное
влияние. Чтобы понять, почему это произошло, нам следует разобраться с тем, как
думает ИИ и что его мотивирует.
Ответ до боли прост: ИИ думает как компьютер, потому что он и есть
компьютер. Когда мы думаем о высокоразвитом ИИ, мы ошибочно антропо-
морфизируем его (проецируем человеческие ценности на нечеловеческий вид) - все
это оттого, что мы рассуждаем с человеческой позиции, и на данный момент равных
по разуму нам нет. Чтобы понять ASI, следует учитывать, что он умнее и при этом
абсолютно чужероден нам.
Но идея антропоморфизации будет еще более соблазнительной, когда ИИ
станет таким же умным, как человек, и будет казаться похожим на нас. Siri кажется
нам человекоподобной, потому что ее такой сделали люди, и нам кажется, что
сверхумная Siri будет очень веселой, доброй и заинтересованной в служении
человеку. Люди способны чувствовать такие сложные эмоции, как сострадани,е
только из-за процесса эволюции, т.е. нас таким образом запрограммировала
эволюция, но сострадание не является неотъемлемой частью развитого интеллекта
(хотя нам так и кажется на интуитивном уровне), если, конечно, его не
запрограммировать на сострадание. Если Siri путем самосовершенствования
достигнет сверхинтеллекта без сторонних вмешательств в свою архитектуру, она
быстро отбросит все, что напоминает в ней человека и будет ценить человеческую
жизнь не больше, чем ваш калькулятор.
Мы привыкли полагаться на моральный кодекс, или, как минимум, на
человеческую порядочность и на намек на чувство сострадания у других, чтобы всё
вокруг было более или менее надежным и предсказуемым. Но если таких
ориентиров у кого-то вообще не будет, что тогда?
Это приводит нас к вопросу о мотивации ИИ
Ответ прост - мотивация ИИ будет такой, какую мы запрограммируем.
Системы ИИ исполняют те задачи, которые перед ними поставил создатель - задача
вашего GPS-навигатора указывать наиболее эффективное направление движения,
задача Ватсона - точно отвечать на вопросы. Их мотивация состоит в выполнении
своих целей наилучшим образом. Если мы думаем, что став умнее, ИИ будет
способен поменять свою изначальную задачу, то мы опять применяем к нему
человеческие критерии, но Бостром считает, что уровень интеллекта и конечные
цели ортогональны, это означает, что любой уровень разума может обладать любой
окончательной целью. Если вы думаете, что выполнив свою конечную задачу, ИИ
двинется дальше решать другие более сложные задачи, вы опять судите об ИИ как о
человеке.
Итак, мы определились, что без специальных программ система ASI будет
аморальной и помешанной на выполнении своих задач. Отсюда и проистекает вся
опасность ИИ.
Когда вы пытаетесь добиться долгосрочной цели, вы решаете попутные
второстепенные задачи, которые помогают вам в достижении конечной цели. Такие
ступеньки на вашем пути принято называть инструментальными целями. Вы
28
обязательно нанесете чему-то вред при достижении такой цели, если только не
поставите перед собой обратную задачу.
Конечная цель человеческой особи - это дальнейшая передача собственных
генов. Для успешного выполнения этой задачи простой инструментальной целью
является самосохранение, если вы неспособны размножаться, вы мертвы. Для
выполнения этой цели людям необходимо избавиться от угроз существования,
поэтому мы покупаем ружья, пристегиваемся ремнями безопасности и пьем
антибиотики. Людям также необходимо поддерживать свою жизнедеятельность
различными ресурсами - еда, сон, укрытие и т.д. Для выполнения окончательной
цели нам нужно быть привлекательным для особей противоположного пола,
поэтому нам и приходится делать вещи типа стрижек. И когда мы это делаем,
каждый волосок становится жертвой наших инструментальных целей, но мы не
видим в этом нравственной ценности и с легкостью избавляемся от локонов. И пока
мы идем к достижению своей цели, мораль вмешивается лишь в нескольких
случаях, обычно когда речь заходит о вреде другому человеку.
Животные беспокоятся по этому поводу еще меньше. Паук убьет на своем
пути что угодно, если это поможет ему выжить. Поэтому суперумный паук
представляет большую опасность для нас. Не потому, что он злой или аморальный, а
потому что нанесение вреда людям для него может быть просто очередной
маленькой ступенью на пути к достижению окончательной цели.
Ситуация, в которой ИИ достигает уровня AGI (равного человеческому) и
потом резко уровня ASI (сверхителлекта), называется взлетом ИИ. Бостром считает,
что этот взлет может быть быстрым (т.е. произойти за считанные часы или даже
минуты), умеренным (за несколько лет) и медленным (за десятилетия или века).
Прогнозы по этому поводу расходятся, но Бостром, который не знает, когда стоит
ожидать появления AGI, уверен что быстрый взлет наиболее вероятен по причинам,
которые мы обсуждали с вами выше.
Но когда происходит взлет и машина достигает уровня сверхинтеллекта, у нее,
по словам Бострама, появляется внушительный набор суперспособностей.
Суперспособности в данном случае - это когнитивные умения, которые очень
сильно улучшаются, когда уровень интеллекта возрастает. Среди них существуют:
Усиление интеллекта. Компьютер начинает лучше вносить изменения в свой
интеллект и становится умнее.
Разработка стратегий. Компьютер может лучше выделять и анализировать
приоритетные задачи для достижения долгосрочной цели.
Социальная манипуляция. Машины улучшают методы убеждения.
Другие навыки - кодирование и взлом, технологии исследования и умение
работать в финансовой системе для заработка денег.
Помните, что ASI будут в тысячи раз лучше людей в каждом из этих умений.
Из всего, что я прочитал, мне стало понятно, что с появлением ASI любая попытка
людей его сдержать будет просто смехотворной. Мы будем мыслить на уровне
человеческого интеллекта, тогда как машины будут мыслить на уровне
сверхинтеллекта. Но так же, как обезьянка не может понять, как пользоваться
телефоном или вай-фаем, мы не можем представить, какие способы может
придумать ASI для соединения с внешним миром. Я мог бы попробовать придумать
один такой способ и сказать: “ASI могла бы распределить свои электроны в других
последовательностях и сделать новый тип исходящих волн”, но опять же, это только
то, что может вообразить мой человеческий мозг. ASI будет намного умнее.
29
ЗАКЛЮЧЕНИЕ
СПИСОК ЛИТЕРАТУРЫ
1). Искусственный интеллект и принятие решений, №4, С. Емельянов, Изд: Ленанд, ИСА РАН,
24;
2) [Электронный ресурс] https://thebell.io/moskva-ne-skryvaet-chislo-zarazhennyh-koronavirusom-
sobyanin/;
3) [Электронный ресурс] https://encyclopedia.mil.ru/encyclopedia/dictionary/details_rvsn.htm?
id=13200%40morfDictionary;
4) [Электронный ресурс] https://www.gazeta.ru/army/2019/11/06/12797810.shtml
5) [Электронный ресурс] https://cnews.ru/news/top/2020-03-23_minkomsvyazi_sozdast_sistemu;
6) [Электронный ресурс] https://nstarikov.ru/izmenilsja-obraz-zhizni-vsego-chelovechestva-
114415;
7) [Электронный ресурс] https://oko-planet.su/ekstrim/ekstrimsovet/573386-sobyanin-rasskazal-
putinu-o-sisteme-otslezhivaniya-potencialnyh-nositeley-koronavirusa.html;
8) [Электронный ресурс] https://yandex.ru/turbo?text=https%3A%2F%2Fvz.ru%2Fnews
%2F2020%2F3%2F17%2F1029277.html; https://cnews.ru/news/top/2020-03-
23_minkomsvyazi_sozdast_sistemu
9) [Электронный ресурс] https://www.bbc.com/russian/news-48463710;
10) [Электронный ресурс] https://www.technologyreview.com/s/614497/military-artificial-
intelligence-can-be-easily-and-dangerously-fooled/;
11) [Электронный ресурс]
http://static.government.ru/media/files/9gFM4FHj4PsB79I5v7yLVuPgu4bvR7M0.pdf;
12) [Электронный ресурс] https://www.vesti.ru/doc.html?id=3254343&tid=108446;
13) [Электронный ресурс] https://www.vesti.ru/doc.html?id=3254292;
14) [Электронный ресурс] https://yandex.ru/turbo?text=https%3A%2F%2Fhi-news.ru%2Frobots
%2Fvpervye-kompyuter-proshel-test-tyuringa.html;
15) [Электронный ресурс] http://www.consultant.ru/document/cons_doc_LAW_335184/;
16) Скиба И.Р. Проблема искусственного интеллекта: человек и машина [Электронный
ресурс] https://neuronus. com/stat/1392 problema iskusstvennogo intellekta chelovek i mashina.html;
17) [Электронный ресурс] https://ru.wikipedia.org/wiki/%D0%A2%D1%8F%D0%BD%D1%8C
%D1%85%D1%8D-2;
18) [Электронный ресурс] https://ru.wikipedia.org/wiki/%D0%97%D0%B0%D0%BA%D0%BE
%D0%BD_%D0%9C%D1%83%D1%80%D0%B0;
19) [Электронный ресурс] https://ru.wikipedia.org/wiki/%D0%9A%D0%B5%D0%B9%D0%BD
%D1%81%D0%B8%D0%B0%D0%BD%D1%81%D1%82%D0%B2%D0%BE;
20) [Электронный ресурс] https://ru.wikipedia.org/wiki/METI;
21) [Электронный ресурс] https://interpreted.d3.ru/perevod-revoliutsiia-iskusstvennogo-intellekta-
684922/?sorting=rating.