Академический Документы
Профессиональный Документы
Культура Документы
Правовое регулирование ИИ
Правовое регулирование ИИ
79-88
ПРАВО И ИНФОРМАТИКА
© 2018 г. И. А. Филипова
E-mail: irinafilipova@yandex.ru
Несколько лет назад робот для неспециалистов представлял собой выставочный экспонат,
имеющий мало общего с реальной жизнью, скорее являвшийся элементом абстрактного
будущего. Современный уровень развития технологий влечет включение искусственного
интеллекта в повседневную жизнь рядового человека: смартфоны, электронные ассистен-
ты, роботы-пылесосы, роботы-парковщики. Отношения, в которых задействован искус-
ственный интеллект, пока во многом не урегулированы правом. Расширение участия ро-
ботов в жизни людей может вызвать непредсказуемые последствия. Для минимизации
риска наступления неблагоприятных последствий требуется разработать правовые нормы,
содержание которых в настоящее время обсуждается юристами и инженерами.
DOI: 10.31857/S013207690001517-0
79
80 ФИЛИПОВА
В данной статье термины “искусственный Исследования в области искусственного
интеллект” и “робот” будут использоваться интеллекта проводятся по различным направ-
как синонимы, хотя стоит уточнить, что ис- лениям, но все они должны учитывать исход-
кусственный интеллект имеет различное во- ные правила – “законы робототехники”,
площение. Он может быть узконаправлен- сформулированные писателем-фантастом
ным (электронные ассистенты, шахматные А. Азимовым еще в 1942 г. Эти правила при-
программы и т.д.), общим (как правило, че- знаны универсальными и положены в основу
ловекоподобные роботы), есть и третий ва- развития робототехники.
риант – сверхинтеллект. Возможности по- 1. Робот не может причинить вред человеку
следнего будут сильно превосходить челове- или своим бездействием допустить, чтобы че-
ческие. Он рассматривается футурологами ловеку был причинен вред.
как несущий максимальные риски, что
2. Робот должен повиноваться всем приказам,
нашло отражение в фантастических фильмах
которые отдает человек, кроме случаев, когда
про восстание машин.
эти приказы противоречат первому закону.
Специализированное правовое регулирова-
3. Робот должен заботиться о своей без-
ние использования быстро развивающегося
опасности, если это не противоречит первому
искусственного интеллекта отсутствует. На
или второму законам.
данный момент робот является объектом, от-
ветственность за действия которого несет вла- В феврале 2017 г. Европарламент принял
делец. Вопрос о необходимости формирова- резолюцию для Еврокомиссии, предложив
ния специальной законодательной базы стоит признать специальный правовой статус элек-
на повестке дня в США, странах Европейско- тронного лица (electronic personhood) для
го союза, в Японии, Южной Корее, Китае и сложных роботов, принимающих самостоя-
т.д. Известный изобретатель и предпринима- тельные решения. По мнению ряда парламен-
тель И. Маск (глава компаний Tesla и SpaceX) тариев, это позволит возложить на роботов
называет искусственный интеллект основной ответственность за возмещение причиненного
угрозой для человечества, настаивая на необ- ущерба в первую очередь в секторе беспилот-
ходимости регулирования его развития, кото- ных автомобилей. Важность решения подоб-
рое может привести к замене людей на искус- ных вопросов обосновывается тем, что изме-
ственные алгоритмы2. В 2015 г. И. Маск вме- нения, связанные с развитием робототехники,
сте с рядом инвесторов основал некоммерче- с большой степенью вероятности затронут все
скую организацию OpenAI для исследования слои общества. Предполагается создание
безопасного развития технологий искусствен- фонда, из которого будут выплачиваться ком-
ного интеллекта. пенсации пострадавшим в авариях с беспи-
лотниками. Потребуется внесение поправок в
В США и Великобритании имеются от-
Венскую конвенцию о дорожном движении и
дельные правовые нормы, осуществляющие
в Гаагскую конвенцию о праве, применимом
регулирование в сфере робототехники. Есть и
к дорожно-транспортным происшествиям.
международные стандарты, к примеру, техни-
Планируется также создание Европейского
ческий стандарт ISO 13482:2014 “Robots and
агентства по робототехнике и искусственному
robotic devices. Safety requirements for personal
интеллекту, призванного обеспечивать техни-
care robots”, касающийся роботов – личных
ческую, этическую и нормативную экспертизу
помощников, утвержденный Международной
в данной сфере.
организацией по стандартизации, членами ко-
торой являются 163 государства, в том числе В России также начата разработка закона о
Россия. Комплексного регулирования искус- робототехнике. Рассмотрением Правительства
ственного интеллекта пока не осуществляется РФ от 28 июля 2017 г. № 1632-р утверждена
ни в одной стране мира. В то же время ведут- Программа “Цифровая экономика Российской
ся интенсивные поиски путей безопасного Федерации”, которая включает урегулирование
«включения» искусственного интеллекта в со- правовых вопросов в сфере робототехники и ис-
временную жизнь. И важную роль в этом кусственного интеллекта к середине 2019 г. Про-
призвано играть правовое регулирование. грамма включает формирование системы подго-
товки юридических кадров для нужд цифровой
2
См.: Higgins T. Elon Musk Lays Out Worst-Case Sce- экономики, в том числе центра компетенций,
nario for AI Threat // The Wall Street Journal. 2017. July 15. который обеспечит развитие юриспруденции в
ГОСУДАРСТВО И ПРАВО № 9 2018
ПРАВОВОЕ РЕГУЛИРОВАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА 81
сфере цифровой экономики в 2018 г. и запуск На непроработанность концепции указы-
специальных программ по подготовке юристов в вают известные российские юристы. Так, по
вузах в 2019 г. Программа содержит требование мнению А.А. Иванова, председателя упразд-
об обеспечении безопасного внедрения и ис- ненного в 2014 г. Высшего Арбитражного Су-
пользования в цифровой экономике новых тех- да РФ, создание новой главы о “роботизиро-
нологий, “включая облачные, туманные, кванто- ванных агентах” в Гражданском кодексе РФ
вые вычисления и системы искусственного ин- влечет признание роботов субъектами граж-
теллекта”. К 2020 г. должны быть утверждены данского права. Робот-агент имеет все при-
стандарты информационной безопасности в этих знаки юридического лица, за исключением
системах. До 2022 г. необходимо разработать и организационного единства. Признание робо-
внедрить системы обработки информации и тов субъектами права предполагает, что они
формирования возможных вариантов рекомен- обладают сознанием и волей, достаточными
даций для принятия врачебных решений с ис- для участия в гражданском обороте. Исходя
пользованием искусственного интеллекта, что из имеющегося уровня развития робототехни-
позволит снизить процент врачебных ошибок. ки, признание робота самостоятельным субъ-
Программа “Цифровая экономика Россий- ектом права, который без постоянного содей-
ской Федерации” предполагает разработку ствия людей может участвовать в граждан-
правового регулирования для роботов, обла- ском обороте, будет фикцией. Более того,
дающих автономностью в своих решениях: ав- концепция рассматривает роботов и как субъ-
томобилей-беспилотников, дронов, медицин- ектов, и как объектов права, у которых всегда
ских роботов и т.д. Это вызвано объективно есть собственник. Такой двойственный статус
имеющейся потребностью. Сегодня в России, порождает множество теоретических проблем.
например, ведется работа над созданием бес- Например, если у робота-агента есть имуще-
пилотного автомобиля для компании “Ка- ство, то какое право на это имущество он
мАЗ”, а робототехнический центр “Сколково” имеет: право собственности или ограниченное
поддерживает проекты по внедрению дронов вещное право? Ведь сам робот – объект права
в сфере диагностики линий электропередач, собственности конкретного человека.
промышленных, обслуживающих, образова- Суть концепции, как указывает А.А. Ива-
тельных и персональных роботов. нов, может быть сведена к ограничению от-
Первая концепция российского закона о ро- ветственности владельца за действия робота.
бототехнике была предложена основателем ин- Так, взыскание по долгам может быть об-
вестиционного фонда “Grishin Robotics”, предсе- ращено лишь на имущество робота-агента.
дателем совета директоров “Mail.Ru Group” Д. Кроме того, предлагаемое в концепции раз-
Гришиным в декабре 2016 г. Концепция пред- граничение собственника и владельца “ро-
полагает создание реестра роботов и формулиро- ботизированного агента” приведет к допол-
вание в законе пределов ответственности их со- нительным сложностям: владельцем робота
здателей и владельцев, что прояснит риски для может быть другой робот, что с учетом
потенциальных инвесторов компаний – разра- ограниченной ответственности по долгам
ботчиков роботов и риски для потребителей. роботов-агентов сделает эфемерным реаль-
Концепция предусматривает внесение измене- ное возмещение причиненных ими убытков.
ний в Гражданский кодекс РФ, в первой части По мнению А.А. Иванова, проблему право-
которого должна появиться глава, регулирующая вого регулирования отношений с участием
статус “роботизированных агентов”. Под ними роботов проще решить без признания их
понимаются роботы, зарегистрированные в спе- субъектами гражданского права. Достаточно
циальном едином государственном реестре и “в признать робота имуществом особого рода,
силу конструктивных особенностей” предназна- подробно урегулировав правовой режим это-
ченные для участия в гражданском обороте. Со- го имущества, и в любом случае нельзя
гласно концепции действие закона распростра- ограничивать ответственность собственника
няется на робота, если он внесен в реестр. Реги- или владельца робота 3.
страция в реестре является добровольной, реше-
3
ние о ней принимает владелец робота. Если ро- См.: Иванов А.А. Мечтают ли андроиды об электро-
бот не зарегистрирован, его действия рассматри- овцах? 2017. 15 февр. // Закон.ru. URL:
http://zakon.ru/blog/2017/2/15/mechtayut_li_androidy_ob_e
ваются как действия владельца. lektroovcah (дата обращения: 28.07.2017).
18 20
См.: Maia A.F. The Legal Status of Artificially Intelli- См.: Ashford N.A., Hall R.P. The Importance of Regu-
gent Robots: Personhood, Taxation and Control. 2017. lation-Induced Innovation for Sustainable Development. Sus-
1 June. URL: http://ssrn.com/abstract=2985466 (дата обра- tainability. 2011. No. 3. P. 270–292.
щения: 28.07.2017). 21
См.: Weng Y-H. et al. Intersection of “Tokku” special
19
См.: Solaiman S.M. Legal personality of robots, corpo- zone, robots, and the law: a case study on legal impacts to
rations, idols and chimpanzees: a quest for legitimacy. Artifi- humanoid robots. International Journal of Social Robotics.
cial Intelligence and Law. Vol. 25. 2017. Iss. 2. P. 155–179. Vol. 7. 2015. Iss. 5. P. 841–857.
© 2018 I. A. Filipova
E-mail: irinafilipova@yandex.ru
Received: 10.08.2017
Тhe robots were exhibits that had little to do with real life, rather elements of the abstract future
for non-specialists several years ago. The modern level of technology development entails the in-
clusion of artificial intelligence in the everyday life of a person: smart phones, electronic assis-
tants, robot vacuum cleaners, parking robots. Relationships involving artificial intelligence have so
far not been largely regulated by law. Expanding the participation of robots in people's lives can
lead to unpredictable consequences. The development of legal norms is required to minimize the
risk of harm, lawyers and engineers are discussing the content of these norms.
Key words: artificial intelligence, robot, neural network, robotics, robot law, legal personality,
electronic personhood, artificial intelligence legal status, robot responsibility, cyber-security.