Вы находитесь на странице: 1из 10

ГОСУДАРСТВО И ПРАВО, 2018, № 9, с.

79-88

ПРАВО И ИНФОРМАТИКА

ПРАВОВОЕ РЕГУЛИРОВАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА:


РЕГУЛИРОВАНИЕ В РОССИИ, ИНОСТРАННЫЕ
ИССЛЕДОВАНИЯ И ПРАКТИКА

© 2018 г. И. А. Филипова

Нижегородский государственный университет им. Н.И. Лобачевского

E-mail: irinafilipova@yandex.ru

Поступила в редакцию: 10.08.2017 г.

Несколько лет назад робот для неспециалистов представлял собой выставочный экспонат,
имеющий мало общего с реальной жизнью, скорее являвшийся элементом абстрактного
будущего. Современный уровень развития технологий влечет включение искусственного
интеллекта в повседневную жизнь рядового человека: смартфоны, электронные ассистен-
ты, роботы-пылесосы, роботы-парковщики. Отношения, в которых задействован искус-
ственный интеллект, пока во многом не урегулированы правом. Расширение участия ро-
ботов в жизни людей может вызвать непредсказуемые последствия. Для минимизации
риска наступления неблагоприятных последствий требуется разработать правовые нормы,
содержание которых в настоящее время обсуждается юристами и инженерами.

Ключевые слова: искусственный интеллект, робот, нейронная сеть, робототехника, право


роботов, правосубъектность, электронное лицо, правовой статус искусственного интеллек-
та, ответственность роботов, кибербезопасность.

DOI: 10.31857/S013207690001517-0

Уровень развития технологий в современном жизнь роботов-помощников. Уже сейчас на про-


обществе сделал возможным создание систем ис- мышленных складах используются погрузчики-
кусственного интеллекта, обладающих широким роботы, в домашнем хозяйстве – роботы-
функционалом. Еще 10 лет назад роботы могли пылесосы, начат выпуск автомобилей, не требу-
выполнять относительно узконаправленные ющих управления человеком, летательные аппа-
функции “помощников” в физическом труде ли- раты-беспилотники вошли в нашу жизнь.
бо сборе и анализе больших объемов информа- По словам проф. РГУ нефти и газа им.
ции. К середине второго десятилетия XXI в. уро- И.М. Губкина А. Карцхия, современный человек
вень развития искусственного интеллекта повы- оказался вовлеченным в уникальный период трех
сился. Наиболее ярко это проявилось в распро- технологических революционных преобразований,
странении нейронных сетей, являющихся одним происходящих одновременно: бурный рост облач-
из направлений в разработке систем искусствен- ных вычислений (cloud computing), развитие интел-
ного интеллекта. Искусственная нейронная сеть лектуальных баз данных (Big Data) и всеохватыва-
моделирует работу человеческой нервной систе- ющее распространение мобильности. Это сопро-
мы, ее способность к обучению. Она способна вождается ростом по экспоненте массивов ин-
действовать на основании предыдущего опыта, формации, которые не могли бы быть обработаны
совершая все меньше ошибок. Сегодня нейрон- исключительно силами человека, что стимулирует
ные сети умеют быстро и эффективно решать развитие искусственного интеллекта1.
широкий круг задач: синхронно переводить, рас-
познавать лица, обучать людей и машины, гото- 1
См.: Карцхия А. Искусственный интеллект: “ларец Пан-
вить документы и т.д. Дальнейшее развитие тех- доры” или новая надежда? // Интеллектуальная собствен-
нологий предполагает внедрение в повседневную ность. Авторское право и смежные права. 2017. № 4. С. 24.

79
80 ФИЛИПОВА
В данной статье термины “искусственный Исследования в области искусственного
интеллект” и “робот” будут использоваться интеллекта проводятся по различным направ-
как синонимы, хотя стоит уточнить, что ис- лениям, но все они должны учитывать исход-
кусственный интеллект имеет различное во- ные правила – “законы робототехники”,
площение. Он может быть узконаправлен- сформулированные писателем-фантастом
ным (электронные ассистенты, шахматные А. Азимовым еще в 1942 г. Эти правила при-
программы и т.д.), общим (как правило, че- знаны универсальными и положены в основу
ловекоподобные роботы), есть и третий ва- развития робототехники.
риант – сверхинтеллект. Возможности по- 1. Робот не может причинить вред человеку
следнего будут сильно превосходить челове- или своим бездействием допустить, чтобы че-
ческие. Он рассматривается футурологами ловеку был причинен вред.
как несущий максимальные риски, что
2. Робот должен повиноваться всем приказам,
нашло отражение в фантастических фильмах
которые отдает человек, кроме случаев, когда
про восстание машин.
эти приказы противоречат первому закону.
Специализированное правовое регулирова-
3. Робот должен заботиться о своей без-
ние использования быстро развивающегося
опасности, если это не противоречит первому
искусственного интеллекта отсутствует. На
или второму законам.
данный момент робот является объектом, от-
ветственность за действия которого несет вла- В феврале 2017 г. Европарламент принял
делец. Вопрос о необходимости формирова- резолюцию для Еврокомиссии, предложив
ния специальной законодательной базы стоит признать специальный правовой статус элек-
на повестке дня в США, странах Европейско- тронного лица (electronic personhood) для
го союза, в Японии, Южной Корее, Китае и сложных роботов, принимающих самостоя-
т.д. Известный изобретатель и предпринима- тельные решения. По мнению ряда парламен-
тель И. Маск (глава компаний Tesla и SpaceX) тариев, это позволит возложить на роботов
называет искусственный интеллект основной ответственность за возмещение причиненного
угрозой для человечества, настаивая на необ- ущерба в первую очередь в секторе беспилот-
ходимости регулирования его развития, кото- ных автомобилей. Важность решения подоб-
рое может привести к замене людей на искус- ных вопросов обосновывается тем, что изме-
ственные алгоритмы2. В 2015 г. И. Маск вме- нения, связанные с развитием робототехники,
сте с рядом инвесторов основал некоммерче- с большой степенью вероятности затронут все
скую организацию OpenAI для исследования слои общества. Предполагается создание
безопасного развития технологий искусствен- фонда, из которого будут выплачиваться ком-
ного интеллекта. пенсации пострадавшим в авариях с беспи-
лотниками. Потребуется внесение поправок в
В США и Великобритании имеются от-
Венскую конвенцию о дорожном движении и
дельные правовые нормы, осуществляющие
в Гаагскую конвенцию о праве, применимом
регулирование в сфере робототехники. Есть и
к дорожно-транспортным происшествиям.
международные стандарты, к примеру, техни-
Планируется также создание Европейского
ческий стандарт ISO 13482:2014 “Robots and
агентства по робототехнике и искусственному
robotic devices. Safety requirements for personal
интеллекту, призванного обеспечивать техни-
care robots”, касающийся роботов – личных
ческую, этическую и нормативную экспертизу
помощников, утвержденный Международной
в данной сфере.
организацией по стандартизации, членами ко-
торой являются 163 государства, в том числе В России также начата разработка закона о
Россия. Комплексного регулирования искус- робототехнике. Рассмотрением Правительства
ственного интеллекта пока не осуществляется РФ от 28 июля 2017 г. № 1632-р утверждена
ни в одной стране мира. В то же время ведут- Программа “Цифровая экономика Российской
ся интенсивные поиски путей безопасного Федерации”, которая включает урегулирование
«включения» искусственного интеллекта в со- правовых вопросов в сфере робототехники и ис-
временную жизнь. И важную роль в этом кусственного интеллекта к середине 2019 г. Про-
призвано играть правовое регулирование. грамма включает формирование системы подго-
товки юридических кадров для нужд цифровой
2
См.: Higgins T. Elon Musk Lays Out Worst-Case Sce- экономики, в том числе центра компетенций,
nario for AI Threat // The Wall Street Journal. 2017. July 15. который обеспечит развитие юриспруденции в
ГОСУДАРСТВО И ПРАВО № 9 2018
ПРАВОВОЕ РЕГУЛИРОВАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА 81
сфере цифровой экономики в 2018 г. и запуск На непроработанность концепции указы-
специальных программ по подготовке юристов в вают известные российские юристы. Так, по
вузах в 2019 г. Программа содержит требование мнению А.А. Иванова, председателя упразд-
об обеспечении безопасного внедрения и ис- ненного в 2014 г. Высшего Арбитражного Су-
пользования в цифровой экономике новых тех- да РФ, создание новой главы о “роботизиро-
нологий, “включая облачные, туманные, кванто- ванных агентах” в Гражданском кодексе РФ
вые вычисления и системы искусственного ин- влечет признание роботов субъектами граж-
теллекта”. К 2020 г. должны быть утверждены данского права. Робот-агент имеет все при-
стандарты информационной безопасности в этих знаки юридического лица, за исключением
системах. До 2022 г. необходимо разработать и организационного единства. Признание робо-
внедрить системы обработки информации и тов субъектами права предполагает, что они
формирования возможных вариантов рекомен- обладают сознанием и волей, достаточными
даций для принятия врачебных решений с ис- для участия в гражданском обороте. Исходя
пользованием искусственного интеллекта, что из имеющегося уровня развития робототехни-
позволит снизить процент врачебных ошибок. ки, признание робота самостоятельным субъ-
Программа “Цифровая экономика Россий- ектом права, который без постоянного содей-
ской Федерации” предполагает разработку ствия людей может участвовать в граждан-
правового регулирования для роботов, обла- ском обороте, будет фикцией. Более того,
дающих автономностью в своих решениях: ав- концепция рассматривает роботов и как субъ-
томобилей-беспилотников, дронов, медицин- ектов, и как объектов права, у которых всегда
ских роботов и т.д. Это вызвано объективно есть собственник. Такой двойственный статус
имеющейся потребностью. Сегодня в России, порождает множество теоретических проблем.
например, ведется работа над созданием бес- Например, если у робота-агента есть имуще-
пилотного автомобиля для компании “Ка- ство, то какое право на это имущество он
мАЗ”, а робототехнический центр “Сколково” имеет: право собственности или ограниченное
поддерживает проекты по внедрению дронов вещное право? Ведь сам робот – объект права
в сфере диагностики линий электропередач, собственности конкретного человека.
промышленных, обслуживающих, образова- Суть концепции, как указывает А.А. Ива-
тельных и персональных роботов. нов, может быть сведена к ограничению от-
Первая концепция российского закона о ро- ветственности владельца за действия робота.
бототехнике была предложена основателем ин- Так, взыскание по долгам может быть об-
вестиционного фонда “Grishin Robotics”, предсе- ращено лишь на имущество робота-агента.
дателем совета директоров “Mail.Ru Group” Д. Кроме того, предлагаемое в концепции раз-
Гришиным в декабре 2016 г. Концепция пред- граничение собственника и владельца “ро-
полагает создание реестра роботов и формулиро- ботизированного агента” приведет к допол-
вание в законе пределов ответственности их со- нительным сложностям: владельцем робота
здателей и владельцев, что прояснит риски для может быть другой робот, что с учетом
потенциальных инвесторов компаний – разра- ограниченной ответственности по долгам
ботчиков роботов и риски для потребителей. роботов-агентов сделает эфемерным реаль-
Концепция предусматривает внесение измене- ное возмещение причиненных ими убытков.
ний в Гражданский кодекс РФ, в первой части По мнению А.А. Иванова, проблему право-
которого должна появиться глава, регулирующая вого регулирования отношений с участием
статус “роботизированных агентов”. Под ними роботов проще решить без признания их
понимаются роботы, зарегистрированные в спе- субъектами гражданского права. Достаточно
циальном едином государственном реестре и “в признать робота имуществом особого рода,
силу конструктивных особенностей” предназна- подробно урегулировав правовой режим это-
ченные для участия в гражданском обороте. Со- го имущества, и в любом случае нельзя
гласно концепции действие закона распростра- ограничивать ответственность собственника
няется на робота, если он внесен в реестр. Реги- или владельца робота 3.
страция в реестре является добровольной, реше-
3
ние о ней принимает владелец робота. Если ро- См.: Иванов А.А. Мечтают ли андроиды об электро-
бот не зарегистрирован, его действия рассматри- овцах? 2017. 15 февр. // Закон.ru. URL:
http://zakon.ru/blog/2017/2/15/mechtayut_li_androidy_ob_e
ваются как действия владельца. lektroovcah (дата обращения: 28.07.2017).

ГОСУДАРСТВО И ПРАВО № 9 2018


82 ФИЛИПОВА
С высказанными выше замечаниями согла- гаться в пределах определенной среды, вы-
сен и сотрудник Института законодательства полняя поставленные задачи”. Согласно мне-
и сравнительного правоведения при Прави- нию большинства исследователей, публика-
тельстве РФ С. Синицын, указывающий на ции которых представлены в одном из круп-
то, что проект выгоден только изготовителю нейших журналов по данной тематике
роботов, поскольку ограничивает его ответ- “Journal of Intelligent & Robotic Systems”, робот
ственность. Данная юридическая конструкция – это любая машина, способная восприни-
будет опасна для всех остальных. В проекте мать окружающую среду и реагировать на нее
робот одновременно является и объектом, и на основе самостоятельно принимаемых ре-
субъектом права, правоспособность которого шений. Главным отличием роботов от иных
можно отозвать. Даже техническая сторона машин считается автономность, поэтому ди-
вопроса остается для специалистов пока ту- станционно управляемые устройства не могут
манной, а юриспруденция не должна предре- считаться роботами. Тем не менее некоторые
шать развитие общества в этой сфере4. из них (роботизированные хирургические
Более того, в научном мире до сих пор не устройства, экзоскелеты, дроны и т.д.) тако-
сформулировано общепринятого определения выми признаются.
понятия “робот”, а концепция предлагает та- На сложность формулирования определе-
кое определение этого понятия, которое при ния робота как юридической конструкции
условии фиксации в законе не позволит до- обращают внимание авторы статьи “О неко-
стичь заявленных целей правового регулиро- торых вопросах теоретических оснований раз-
вания из-за его нечеткости и расплывчатости. вития законодательства о робототехнике: ас-
В концепции указано, что роботом признает- пекты воли и правосубъектности” в журнале
ся устройство, способное действовать, опре- “Закон”6, излагая предпосылки к рассмотре-
делять свои действия и оценивать их послед- нию возможной аналогии между роботами и
ствия без полного контроля со стороны чело- юридическими лицами. По мнению авторов
века по результатам обработки информации, статьи, создание законодательной базы
поступающей из внешней среды. Причем это осложняется тем, что фундаментальные поня-
не распространяется на программное обеспе- тия “личность” и “правосубъектность” исто-
чение, хотя многие программы имеют подоб- рически связаны с людьми, с физическими
ные возможности. Данное определение, лицами.
например, существенно отличается от взятого Все вышесказанное создает трудности для
за основу авторами исследования “Робототех- разработки закона о робототехнике. Почему
ника: прорывные технологии, инновации, ин- же важно формирование законодательной ба-
теллектуальная собственность”5, опублико- зы уже сегодня и нельзя отложить ее создание
ванного в журнале “Форсайт” в 2016 г., опре- на неопределенное будущее? Одним из фак-
деления из Энциклопедии “Британника”, со- торов, указывающих на необходимость право-
гласно которому роботом признается любая вого регулирования в этой сфере, является
автоматическая машина, выполняющая рабо- начавшееся на практике распространение
ту человека. Определение из “Британники” нейропротезов – медицинских имплантов,
гораздо больше соответствует определению, вживляемых в нервную систему с целью вос-
представленному на официальном сайте становления у людей двигательных или чув-
Международной федерации робототехники: ствительных функций. Ожидается, что к 2025
“Робот – это рабочий механизм, программи- г. глобальный рынок медицинских нейроим-
руемый по нескольким осям с некоторой сте- плантов достигнет 54.28 млрд долл.7 Кроме
пенью автономности и способный передви- того, скорее всего, нейропротезы станут ча-
4
См.: Новости. Высшая школа урбанистики 6
См.: Архипов В.В., Наумов В.Б. О некоторых вопро-
им. А.А. Высоковского. В Shukhov Lab прошел Tech сах теоретических оснований развития законодательства
Breakfast “Современный город, законодательство об ис- о робототехнике: аспекты воли и правосубъектности //
кусственном интеллекте и робототехнике: какими им Закон. 2017. № 5. С. 157–170.
быть?” 2017. 10 февр. URL: http://urban.hse.ru/news- 7
См.: Паевский А. Нейронауки в Science и Nature.
/206795842.html (дата обращения: 28.07.2017). Выпуск 58: кто будет виноват, если робот, управляемый
5
См.: Кайснер Э., Раффо Дж., Вунш-Винсент С. Робото- “силой мысли”, уронит ребёнка? // Нейроновости. 2017.
техника: прорывные технологии, инновации, интеллектуаль- 20 июля. URL: http://neuronovosti.ru/naturesci58-kto-
ная собственность // Форсайт. Т. 10. 2016. № 2. С. 8. vinovat/ (дата обращения: 28.07.2017).

ГОСУДАРСТВО И ПРАВО № 9 2018


ПРАВОВОЕ РЕГУЛИРОВАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА 83
стью повседневности и для здоровых людей, По мнению профессора кафедры коммер-
например в игровой индустрии. Технически ческого права Оксфордского университета
уже возможно управление роботами – до- Х. Айденмюллера, искусственный интеллект
машними помощниками по Wi-Fi с чипа, со- достаточно быстро меняет нашу жизнь. Ожи-
единенного напрямую с нервной системой дается, что к 2025 г. роботы займут примерно
человека. Подобное устройство может соби- треть рабочих мест в традиционных профес-
рать данные о состоянии здоровья человека, сиях, поэтому допустимые виды использова-
передавать их врачу посредством Интернета, ния искусственного интеллекта нужно опре-
автономно поддерживать уровень сахара в делить законом уже сейчас. Требуется ли
крови и т.д. предоставление статуса субъекта права робо-
Предположим, человек с нейропротезом там? Основными тезисами, выдвинутыми
держит ребенка и роняет его. Кто в этом Х. Айденмюллером, являются:
случае будет нести ответственность за при- необходимо специальное правовое регули-
чинение вреда: данный человек, производи- рование робототехники. Оно должно учиты-
тели или ученые-разработчики? Кроме того, вать микро- и макроэффекты “поведения ро-
возможно, связь с роботом была нарушена ботов” в конкретных сферах;
злоумышленниками, взломавшими систему существующие юридические категории
через Интернет. Применительно к описан- способны быть разумно применимыми к ро-
ной возможной ситуации с использованием ботам и регулировать их;
нейропротеза авторы статьи в журнале
законодательство о робототехнике форми-
“Science”8 выделяют три варианта регулиро-
руется “нормативной структурой” общества;
вания ответственности. Первый: “вето”,
встроенное в систему нейропротеза, делает “умные” роботы должны в недалеком буду-
возможным возложение ответственности на щем рассматриваться как подобные людям. Это
человека, своевременно не воспользовавше- означает, что они будут обладать правосубъект-
гося остановкой робота. Второй: признание ностью, получат право приобретать имущество и
халатности человека, использующего заве- владеть им, право заключать договоры и т.д.;
домо плохо управляемого робота для актив- позиция противников использования чело-
ности, связанной с возможным причинени- векоподобных роботов опирается на эпистемо-
ем вреда. Третий: ответственность произво- логические и онтологические аргументы: ма-
дителей потенциально опасных устройств за шины не могут думать, как люди, и, следова-
дизайн, производство и маркетинг продукта, тельно, не могут приравниваться к личности11.
включающий информирование потребителей Дискуссии ученых и практиков о взаимо-
о возможных рисках. действии между искусственным интеллектом,
Исследования в области развития искус- машинным обучением, роботами, виртуаль-
ственного интеллекта и правового регулиро- ной реальностью и правовой системой демон-
вания его использования активно ведутся в стрирует и опубликованный в 2016 г. матери-
разных странах мира. Появились соответ- ал группы исследователей из Стенфордского
ствующие учебные курсы в крупнейших уни- университета “Искусственный интеллект и
верситетах и первые учебники по “праву ро- жизнь в 2030 году” с подзаголовком “Столет-
ботов”: “Robot Law” группы специалистов из нее изучение искусственного интеллекта”. В
университетов Вашингтона, Майами и Отта- исследовании выявлены области, в которые
вы9, “The Laws of Robots” проф. Туринского будет интенсивно вовлечен искусственный
университета У. Пагалло10 и т.д. интеллект в ближайшем будущем: транспорт,
сервис, здравоохранение, образование, обще-
8
Clausen J., Fetz E., Donoghue J., Ushiba J., Spörhase U. ственная безопасность, труд и занятость, до-
et al. Help, hope, and hype: Ethical dimensions of neuro- моводство и развлечения. Имеющаяся зако-
prosthetics. Science. Vol. 356. 2017. Iss. 6345. P. 1338, 1339. нодательная база, по мнению авторов иссле-
9
См.: Robot Law / ed. by R. Calo, A.M. Froomkin, дования, заметно замедляет адаптацию по-
I. Kerr. Cheltenham, Massachusetts, 2016.
10
См.: Pagallo U. The Laws of Robots: Crimes, Con- 11
См.: Eidenmueller H. The Rise of Robots and the Law
tracts, and Torts (Law, Governance and Technology Series).
of Humans. Oxford, 2017. No. 27. URL:
Springer Science & Business Media, 2013.
http://ssrn.com/abstract=2941001 (дата обращения:
28.07.2017).

ГОСУДАРСТВО И ПРАВО № 9 2018


84 ФИЛИПОВА
требностей общества к уровню разработок но- Одним из европейских исследователей в об-
вых технологий. Закон выполняет ограничи- ласти нормативного регулирования искусствен-
тельную функцию. Он консервативен, что де- ного интеллекта является профессор Универси-
лает его “плохим” инструментом для борьбы с тета Льежа Н. Пети, читающий учебный курс
катастрофическими изменениями, которые “Право и регулирование искусственного интел-
повлечет быстрое развитие технологий искус- лекта”. В рамках курса акцентируется внимание
ственного интеллекта. Новые технологии за- на дилемме, связанной с внедрением искус-
тронут все аспекты социальной жизни: вопро- ственного интеллекта и роботизированных тех-
сы занятости и интеллектуального творчества, нологий: инженеры опасаются, что жесткие
создания ресурсов, новые способы передачи правила могут заглушить инновации, и предла-
данных и управление. Если законодательство гают предоставить иммунитет для исследования
хочет сохранить актуальность, ему придется определенных типов роботов. Философы же
быстро адаптироваться к новым задачам. Не- поднимают этические проблемы и прогнозиру-
обходимым станет и “структурирование” ис- ют последствия, подталкивающие к полному
кусственного интеллекта по видам и статусу12. запрету на исследования. В своей статье “Закон
Профессор Йельского университета Дж. Бал- и регулирование искусственного интеллекта и
кин обосновывает пути развития законодатель- роботов: концептуальная основа и нормативные
ства в области робототехники (Robotics Law) в последствия”15 Н. Пети предлагает “регулятор-
своей статье, опубликованной в Калифорний- ный компромисс”: соотношение угроз и воз-
ском юридическом журнале в 2015 г. и посвя- можностей, создаваемых введением правового
щенной “столкновению” закона и новых техно- регулирования в контексте технологической
логий. По мнению автора, технологии будут раз- эволюции.
виваться независимо от того, как люди их ис- Как и многие другие исследователи, автор
пользуют в своей жизни и в социальных отно- сознательно не делает различий между робо-
шениях. “Замораживание” исследований и но- тами и искусственным интеллектом, предпо-
вых разработок в любом случае не будет абсо- лагая высокую степень конвергенции между
лютным. Основные проблемы Дж. Балкин видит ними и указывая на то, что “интеллектуаль-
в урегулировании двух вопросов: ответствен- ные машины в мягкой или жесткой обертке
ность за последствия действий роботов, когда обладают способностью воздействовать на
одни люди будут использовать искусственный мир”. Н. Пети пишет о прогнозируемом рас-
интеллект, нарушая права других людей, и “эф- пространении искусственного интеллекта и
фект замещения” при замене людьми других вероятном доминировании его в будущем, что
людей или живых существ на роботов для опре- требует введения обществом “закона людей”,
деленных целей. Автор статьи считает, что не который предоставляет права меньшинства
только первая, общепризнанная, но и вторая людям и защищает человека от интеллекту-
проблема коснется различных областей права и альных машин.
вызовет продолжительные трудности в регулиро- В статье приводится таблица позитивных и
вании13. Его позицию поддерживает и канадский негативных изменений, которые произойдут в
юрист К. Марку, читающий курс лекций в Кем- результате роботизации. Пример негативного:
бридже и прогнозирующий в своих работах “ко- промышленный робот внезапно перезапуска-
эволюцию права и технологий”14. ется и убивает работника. Пример позитивно-
го: дрон видит вора на пути к месту доставки
12
См.: Stone P. et al. ‘Artificial Intelligence and Life in и предупреждает правоохранительные органы.
2030’. One Hundred Year Study on Artificial Intelligence: Негативным последствием будет и сокраще-
Report of the 2015–2016. Stanford: Stanford University.
URL: http://ai100.stanford.edu/2016-report (дата обраще- ние конфиденциальности, а позитивным –
ния: 28.07.2017). немедленное информирование о стихийных
13
См.: Balkin J.M. The Path of Robotics Law. Vol. 6. бедствиях и гуманитарных катастрофах.
California, 2015. P. 45–60.
14
См.: Markou Ch. The Conflict of Law and Technology: 15
См.: Petit N. Law and Regulation of Artificial Intelli-
A Systems Theory of Arificial Intelligence Regulation. The gence and Robots – Conceptual Framework and Normative
University of Cambridge. Faculty of Law. URL: Implications. URL: http://ssrn.com/abstract=2931339 or
http://www.law.cam.ac.uk/people/research-students/cp- http://dx.doi.org/10.2139/ssrn.2931339 (дата обращения:
markou/6574 (дата обращения: 28.07.2017). 28.07.2017).

ГОСУДАРСТВО И ПРАВО № 9 2018


ПРАВОВОЕ РЕГУЛИРОВАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА 85
Риски для человечества, связанные с раз- герский паспорт и несколько таблеток экста-
витием искусственного интеллекта, высоки. В зи, прежде чем он был “остановлен” швей-
то же время страны, создавшие сбалансиро- царской полицией. Имеющееся законодатель-
ванное законодательство, имеют высокие ство не дало возможности выдвинуть обвине-
шансы на опережающий экономический рост ния против робота или членов арт-группы16.
за счет инвестиций, привлекаемых “друже- К дискутируемым в инженерном и юриди-
ственным” к технологиям законодательством. ческом сообществах проблемам, которые воз-
В качестве примера последствий запрета на никают с развитием робототехники, относятся
развитие технологий Н. Пети приводит бри- также:
танский закон – “Red Flag Act” 1865 г. Вели-
замена человека интеллектуальными ма-
кобритания тогда была страной, лидировав-
шинами на производстве с исчезновением
шей в разработках автомобильного транспор-
многих существующих рабочих мест и влия-
та. Закон установил ограничение скорости до
нием на заработную плату оставшихся работ-
2 миль в час для автомобилей в городах и по-
ников;
требовал, чтобы впереди автомобиля на рас-
стоянии 60 ярдов шел сигнальщик с красным экзистенциальные угрозы и возможности,
флагом, оповещая прохожих об опасности. созданные искусственным интеллектом и ро-
Данный закон фактически уничтожил зарож- ботизированными приложениями. Эти угрозы
дающуюся автомобильную промышленность охватывают риск гибели человечества, созда-
Великобритании, в результате чего вперед ния роботов-убийц, сценарии захвата маши-
вышли Франция и Германия. нами мира. Возможности включают глубокое
проникновение в космос, повышение каче-
Итак, основной проблемой правового регу-
ства человеческой жизни и ее продолжитель-
лирования в сфере искусственного интеллекта
ности, виртуальное бессмертие и т.д.
является распределение ответственности за
вред, причиненный действиями робота. В Полный перечень проблем, которые будут
настоящее время не всегда непосредственный появляться с развитием искусственного ин-
причинитель ущерба несет ответственность. теллекта, требуя урегулирования, в том числе
Так, за работника ответственность может нормами права, предусмотреть невозможно.
нести работодатель, за ребенка – родители, Например, в 2017 г. выяснилось, что система
вместо владельца вещи вред может возмещать искусственного интеллекта, задействованная в
ее производитель (при обнаружении дефекта) Facebook, создала свой собственный язык и
и т.д. Имеющаяся юридическая конструкция больше не применяет английский. Фразы, ко-
предлагает потерпевшим от роботов два по- торые получаются при использовании данно-
тенциальных пути для возмещения убытков: го языка, составлены из английских слов, ка-
претензии к владельцу или к изготовителю. жутся бессмысленными человеку, но понятны
ботам – “роботизированным агентам”, обме-
Помимо проблемы распределения ответ-
нивающимся ими между собой17.
ственности есть и другие. Например, если са-
довый робот-помощник сделает фотографии Изучение проблем, связанных с правовым
захода солнца во время работы, владелец ро- регулированием искусственного интеллекта,
бота выложит эти фотографии на своем веб- вызывает закономерный интерес у молодых
сайте, а кто-то скопирует и использует для исследователей. В июне 2017 г. в Тилбургском
рекламы своего отеля на платформах типа университете (Нидерланды) была защищена
Booking.com, будут ли нарушены авторские диссертация по теме “Правовой статус искус-
права? Впрочем, уже имеется прецедент: ственных интеллектуальных роботов. Лич-
Управление охраны авторских прав США (US
16
Copyright Office) в 2014 г. установило, что фо- См.: Hernæs Ch.O. Artificial Intelligence, Legal Re-
sponsibility And Civil Rights. 2015. 22 Aug. URL:
тографу не принадлежат права на снимок,
http://techcrunch.com/2015/08/22/artificial-intelligence-
сделанный обезьяной, выхватившей из его legal-responsibility-and-civil-rights/ (дата обращения:
рук камеру. Другим примером, иллюстриру- 28.07.2017).
ющим наличие проблем, может служить ситу- 17
См.: Walker J. Researchers shut down AI that invented
ация, в которой швейцарская арт-группа со- its own language. 2017. 21 July. URL:
здала торгового робота с целью совершения http://m.digitaljournal.com/tech-and-science/technology/a-
step-closer-to-skynet-ai-invents-a-language-humans-can-t-
случайных покупок в Darknet. Роботу удалось read/article/498142 (дата обращения: 28.07.2017).
купить несколько предметов, в том числе вен-
ГОСУДАРСТВО И ПРАВО № 9 2018
86 ФИЛИПОВА
18
ность, налогообложение и контроль” . Автор деленность оказывает неблагоприятное воз-
диссертации подчеркивает, что внедрение ис- действие на инвестиции, а сбалансированное
кусственного интеллекта в промышленности нормативное регулирование может способ-
и в быту произведет революцию в современ- ствовать инновациям. Строгие стандарты по-
ных социальных структурах и потребует ре- буждают фирмы к повышению производи-
шения ряда задач правового характера, на ко- тельности, значит, “правильно спроектиро-
торые современное законодательство не гото- ванные” нормативные стандарты могут ини-
во ответить. Формулирование специального циировать инновации, которые будут частич-
правового статуса для искусственного интел- но или полностью компенсировать затраты,
лекта и определение содержания этого статуса содействуя конкуренции на рынке и побуждая
относительно ответственности, возможных фирмы участвовать в гонке за преимущества20.
прав и потенциальных обязанностей дает уве- Нельзя спрогнозировать с максимальной
ренность в отношении минимизации вредных степенью точности все риски развития искус-
последствий внедрения этих новых интеллек- ственного интеллекта (слишком много “сле-
туальных агентов в обществе. Автором указы- пых пятен”), а отказ от исследований и даль-
вается на необходимость работы по формули- нейшего развития технологий невозможен в
рованию функционального определения ис- планетарном масштабе (различные государ-
кусственного интеллекта с юридической точ- ства будут по-разному регламентировать воз-
ки зрения, по разработке эффективных меха- можности для исследователей). Поэтому для
низмов контроля, идентификации и индиви- достижения лучшего результата представляет-
дуализации для искусственных интеллекту- ся интересным японский опыт сочетания
альных агентов, по смягчению последствий оценки ex ante и ex post – предварительной
внедрения искусственного интеллекта на оценки воздействия вариантов регулирования
рынках труда при одновременном обеспече- и фактической оценки по итогам введения в
нии равномерности распределения преиму- действие. В Японии создаются так называе-
ществ технологий среди всего населения. мые “Tokku зоны”, позволяющие изготовите-
Мнение о необходимости признания робо- лям роботов провести практические испыта-
тов субъектами права – “электронными ли- ния на дорогах и в общественных местах21,
цами”, как было ранее указано, не является после чего потребности в правовом регулиро-
всеобщим и оспаривается некоторыми иссле- вании становятся более понятными и для ин-
дователями, работающими в этой сфере. женеров, и для юристов.
Например, проф. Университета Вуллонгонга К настоящему моменту в мире сложились
(Австралия) С. Солеман настаивает на том, два основных подхода к правовому регулиро-
что роботы не могут быть признаны субъек- ванию искусственного интеллекта. Первый,
тами права, так как не являются личностя- нередко именуемый юридическим или лега-
ми19. листским (legalistic approach), состоит в том,
Таким образом, исследования, посвящен- чтобы исходить из существующей правовой
ные социальным последствиям развития ис- системы и формулировать перечни проблем-
кусственного интеллекта и его правовому ре- ных вопросов, возникающих из-за использо-
гулированию, далеки от решения поставлен- вания роботов и связанных с ответственно-
ных вопросов. И если многие юристы настаи- стью, конфиденциальностью, кибербезопас-
вают на том, чтобы не торопиться с создани- ностью. Второй подход (условно его можно
ем специальных правовых норм в отношении назвать технологическим) предусматривает
искусственного интеллекта, то это вызывает “движение” от технологических изменений:
негативную реакцию некоторых экономистов, появления беспилотников, роботов – личных
так как, по их мнению, юридическая неопре- помощников, экзоскелетов и т.д. Сторонники

18 20
См.: Maia A.F. The Legal Status of Artificially Intelli- См.: Ashford N.A., Hall R.P. The Importance of Regu-
gent Robots: Personhood, Taxation and Control. 2017. lation-Induced Innovation for Sustainable Development. Sus-
1 June. URL: http://ssrn.com/abstract=2985466 (дата обра- tainability. 2011. No. 3. P. 270–292.
щения: 28.07.2017). 21
См.: Weng Y-H. et al. Intersection of “Tokku” special
19
См.: Solaiman S.M. Legal personality of robots, corpo- zone, robots, and the law: a case study on legal impacts to
rations, idols and chimpanzees: a quest for legitimacy. Artifi- humanoid robots. International Journal of Social Robotics.
cial Intelligence and Law. Vol. 25. 2017. Iss. 2. P. 155–179. Vol. 7. 2015. Iss. 5. P. 841–857.

ГОСУДАРСТВО И ПРАВО № 9 2018


ПРАВОВОЕ РЕГУЛИРОВАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА 87
технологического подхода настаивают на вто- нальные законодательства будут характеризо-
ричности права. Примером такого подхода ваться разнообразием регулятивных мер и
может служить Стратегия в области искус- нормативной конкуренцией в этой сфере.
ственного интеллекта, предложенная фран- Государства, устанавливающие более “друже-
цузским синдикатом “Syntec Numérique”, объ- ственные” к роботам законы, получат поло-
единяющим 1800 компаний (около 80% про- жительный экономический эффект в плане
даж цифрового сектора). Стратегия включает привлечения инвестиций, что будет стимули-
следующие положения: искусственный интел- ровать другие государства последовать их
лект не требует специальной правовой базы; примеру.
он проникнет во многие сферы, поэтому не На практике пока законотворческие ини-
стоит принимать общего закона, так как тех- циативы как в Российской Федерации, так и
нологий много; они различаются в транс- в Европейском союзе не имеют четкой мето-
портной сфере, в медицине и т.д. Разработчи- дологической основы. Принятая в 2017 г. Ре-
ки стратегии считают, что в случае ее реали- золюция Европейского парламента о правилах
зации Франция выйдет вперед в области ин- гражданского права в области робототехники
новаций. представляет собой скорее “сборник предло-
По мнению сторонников технологического жений” по регламентации без формулирова-
подхода, достаточным будет страхование от- ния принципов выбора средств правовой за-
ветственности роботов за их действия, когда щиты. Концепция, предложенная Д. Гриши-
от экономического эффекта при использова- ным для России, тоже является весьма проти-
нии робота в специальный фонд должен от- воречивой. В отличие от европейских парла-
числяться процент, из чего покрывается нане- ментариев, считающих, что в первую очередь
сенный роботом ущерб. С точки зрения при- стоит принять правовые акты по регулирова-
верженцев легалистского, более консерватив- нию беспилотного транспорта, Д. Гришин
ного подхода, правильным будет возложение настаивает на необходимости комплексного
ответственности за действия робота на запу- регулирования всей сферы искусственного
стившего его человека. На это сторонники интеллекта. С точки зрения деления на под-
технологического подхода возражают, ибо в ходы такая позиция ближе к легалистскому
странах, принявших за основу легалистский подходу, но предложение фактически умень-
подход, затормозится развитие робототехники шить ответственность владельцев “роботизи-
и произойдет серьезное экономическое отста- рованных агентов” уже относится к противо-
вание от стран, допускающих технологиче- положному – технологическому подходу.
ский подход. Тем не менее необходимость разработки в
В связи с тем, что значительное число иссле- России закона о робототехнике представляет-
дователей не пришли к каким-то законченным ся неоспоримой с учетом уровня развития ис-
выводам, можно выделить и третий подход – кусственного интеллекта в передовых странах,
комбинированный, разделяющий этику исполь- что меняет структуру общества в мире в це-
зования роботов и робототехнику. Правовое ре- лом, а также с учетом утвержденной в июле
гулирование будет касаться только первого. 2017 г. Правительством РФ Программы
В любом случае обеспечение баланса инте- “Цифровая экономика Российской Федера-
ресов – одна из главных задач формирования ции”. Принимая закон о робототехнике, за-
законодательства в сфере искусственного ин- конодатель должен максимально учитывать
теллекта и робототехники. Учитывая значи- все возможные проблемы, которые могут воз-
тельные различия в построении разных об- никнуть при обеспечении безопасности ис-
ществ, государствам будет сложно согласовать пользования роботов в потенциально сильно
общую политику. Это означает, что нацио- изменившейся окружающей человека среде.

ГОСУДАРСТВО И ПРАВО № 9 2018


88 ФИЛИПОВА

LEGAL REGULATION OF ARTIFICIAL INTELLIGENCE:


THE NEED FOR REGULATION IN RUSSIA, FOREIGN STUDIES
AND PRACTICE

© 2018 I. A. Filipova

Lobachevsky state University of Nizhny Novgorod

E-mail: irinafilipova@yandex.ru

Received: 10.08.2017

Тhe robots were exhibits that had little to do with real life, rather elements of the abstract future
for non-specialists several years ago. The modern level of technology development entails the in-
clusion of artificial intelligence in the everyday life of a person: smart phones, electronic assis-
tants, robot vacuum cleaners, parking robots. Relationships involving artificial intelligence have so
far not been largely regulated by law. Expanding the participation of robots in people's lives can
lead to unpredictable consequences. The development of legal norms is required to minimize the
risk of harm, lawyers and engineers are discussing the content of these norms.

Key words: artificial intelligence, robot, neural network, robotics, robot law, legal personality,
electronic personhood, artificial intelligence legal status, robot responsibility, cyber-security.

ГОСУДАРСТВО И ПРАВО № 9 2018