Вы находитесь на странице: 1из 13

Цифровая экономика: теория и практика

DOI: 10.18721/JE.13101
УДК 339.972;004.67; 338.2

ТЕХНОЛОГИИ БОЛЬШИХ ДАННЫХ


КАК ИНСТРУМЕНТ ОБЕСПЕЧЕНИЯ НАЦИОНАЛЬНОЙ БЕЗОПАСНОСТИ

К.В. Иванов1, А.А. Балякин2, А.С. Малышев2


1
ФГБУН Институт проблем передачи информации им. А.А. Харкевича Российской академии наук,
г. Москва, Российская Федерация
2
НИЦ «Курчатовский институт», Санкт-Петербург, Российская Федерация

Как одна из характерных черт цифровизации рассматриваются технологии больших дан-


ных. Ожидается, что они будут неотъемлемой частью формирующегося цифрового общества. В
статье приведены основные характеристики данного феномена, обсуждаются различные под-
ходы правового регулирования оборота больших данных в разных странах. Отмечается, что к
настоящему времени термин «большие данные» все еще не получил однозначного нормативно-
правового толкования определения ни в одной из мировых юрисдикций. Показан постепен-
ный сдвиг в определении технологий больших данных от количественных характеристик к ка-
чественным; более того, в правовом поле зачастую преобладает понимание больших данных
как процесса, а не объекта. Описывается важность технологий больших данных для экономи-
ческого развития общества, приведены основные характеристики технологий больших данных.
Указывается, что изменения, вызываемые инновационными технологиями, институционально
зависимы. Показано, что обязательным требованием к развитию новых технологий должен
стать учет их социальных последствий, что равносильно формированию научной культуры ис-
пользования цифровой инфраструктуры. Сформулированы три подхода к формированию
цифровой реальности со стороны государства (запреты и ограничения, стандартизация и раз-
витие инфраструктуры, как физической, так и цифровой). Обсуждается ряд рисков и вызовов,
связанных с внедрением новых технологий. Предложено рассмотрение технологии больших
данных через призму национальной безопасности. На основании опыта обращения с больши-
ми данными в научной сфере сформулирован ряд действий, позволяющих снизить угрозы, свя-
занные с внедрением новых цифровых технологий. Акцентируется мысль, что государственная
политика в сфере цифровых технологий должна выстраиваться в логике регулирования тех
сущностей, над которыми возможен физический контроль. В частности, отстаивается идея о
невозможности и ненужности тотального контроля оборота больших данных и бесперспектив-
ность запретов. Предлагается сделать упор на развитие соответствующей инфраструктуры на
территории Российской Федерации, включая локализацию центров обработки данных на тер-
ритории РФ с целью обеспечения интересов национальной безопасности.
Ключевые слова: большие данные, национальная безопасность, социально-
экономическое развитие, цифровизация, цифровая экономика
Ссылка при цитировании: Иванов К.В., Балякин А.А., Малышев А.С. Технологии больших
данных как инструмент обеспечения национальной безопасности // Научно-технические ве-
домости СПбГПУ. Экономические науки. 2020. Т. 13, № 1. С. 7–19. DOI: 10.18721/JE.13101
Это статья открытого доступа, распространяемая по лицензии CC BY-NC 4.0
(https://creativecommons.org/licenses/by-nc/4.0/)

7
Научно-технические ведомости СПбГПУ. Экономические науки. Том 13, № 1, 2020

BIG DATA TECHNOLOGIES AS A NATIONAL SECURITY INSTRUMENT

K.V. Ivanov1, A.A. Balyakin2, A.S. Malyshev2


1
Institute for Information Transmission Problems (Kharkevich Institute), Moscow, Russian Federation
2
NRC Kurchatov Institute, St. Petersburg, Russian Federation

As one of the particular features of digitalization, big data technologies are considered. They are
expected to be an integral part of the emerging digital society. The main characteristics of this
phenomenon are presented, various approaches to the legal regulation of big data turnover in
different countries are discussed. It is noted that up to date, the term «big data» has not received an
unambiguous legal definition in any of the world jurisdictions yet. A gradual shift in the definition of
big data from quantitative to qualitative characteristics is shown; Moreover, in the legal field,
understanding of big data as a process rather than an object often prevails. The importance of big
data technologies for the economic development of society is described; the main characteristics of
big data technologies are given. It is indicated that the changes caused by innovative technologies are
institutionally dependent. It is shown that a mandatory requirement for the development of new
technologies should be the consideration of their social consequences, which is equivalent to the
formation of a scientific culture of digital infrastructure implementation. Three approaches to the
formation of digital reality by the state are formulated (prohibitions and restrictions, standardization
and development of infrastructure, both physical and digital). A number of risks and challenges
associated with the introduction of new technologies are discussed. Consideration of big data
technology through the prism of national security is proposed. Based on the experience of handling
big data in the scientific field, a number of actions have been formulated to reduce the threats
associated with the introduction of new digital technologies. The idea is emphasized that state policy
in the field of digital technologies should be based on the logic of regulation of those entities over
which physical control is possible. In particular, the idea of the impossibility and unnecessary total
control of the turnover of big data and the futility of prohibitions are upheld. It is proposed to focus
on the development of appropriate infrastructure in the Russian Federation, including the
localization of data processing centers in the Russian Federation in order to ensure national security
interests.
Keywords: big data, national security, socio-economic development, digitalization, digital
economy

Citation: K.V. Ivanov, A.A. Balyakin, A.S. Malyshev, Big Data Technologies as a National
Security Instrument, St. Petersburg State Polytechnical University Journal. Economics, 13 (1)
(2020) 7–19. DOI: 10.18721/JE.13101

This is an open access article under the CC BY-NC 4.0 license


(https://creativecommons.org/licenses/by-nc/4.0/)

Введение. Цифровая трансформация эконо- данных обозначены в числе «прорывных для


мики неразрывно связана с использованием мировой индустрии, в которых в перспективе
и внедрением новых методов сбора, хранения 10–15 лет с высокой вероятностью может быть
и анализа информации, особое место среди ко- обеспечена глобальная технологическая конку-
торых занимает технология больших данных. рентоспособность России» [1].
В частности, в Стратегии развития информаци- В ближайшей перспективе во всем мире
онного общества в Российской Федерации на ожидается построение глобальной информаци-
2017–2030 гг. технологии обработки больших онной инфраструктуры и усиление влияния

8
К.В. Иванов, А.А. Балякин, А.С. Малышев, DOI: 10.18721/JE.13101

цифровых технологий. Впоследствии это послу- возможностей анализировать огромные массивы


жит, по мнению экспертов, основой для перехо- данных (а в некоторых проблемных областях –
да к «интернету вещей», где важным элементом весь мировой объем данных) и с вытекающими из
выступает информация, правильным образом этого трансформационными последствиями [6].
собранная, структурированная, обработанная и Постепенно из этого определения стало вы-
дающая возможность принимать оптимальные мываться ограничение машинных мощностей об-
управленческие решения. При этом новая про- работки информации, основной упор стал делать-
мышленность будет высокоиндивидуальной: ся на методы и подходы по обработке исходных
предполагается привнести в промышленность данных. Так, основными программными метода-
гибкий сетевой подход (network-centric ми, применяемыми для обработки больших дан-
approach), когда каждый пользователь (потреби- ных, были средства массово-параллельной обра-
тель) становится со-производителем, конструи- ботки неопределенно структурированных дан-
руя необходимый товар. Во-вторых, большая ных, прежде всего, системами управления база-
часть действий должна будет производиться в ми данных категории NoSQL, алгоритмами
режиме онлайн, от проектирования образца и его MapReduce и реализующими их программными
численной обработки и до обмена данными. В- каркасами и библиотеками проекта Hadoop [7].
третьих, предполагается географическое разне- В дальнейшем к серии технологий больших дан-
сение различных элементов производства (про- ных стали относить разнообразные информаци-
изводство составных частей товара). В оптими- онно-технологические решения, в той или иной
стичных сценариях ожидается также сжатие ин- степени обеспечивающие сходные по характери-
новационного цикла, что, однако, представляет- стикам возможности по обработке сверхбольших
ся весьма сомнительным ввиду усиливающей массивов данных.
регуляторной функции государства в сфере вы- В редких упоминаниях темы правового регу-
соких технологий [2]. лирования больших данных в Российской Феде-
Сам термин «большие данные» (big data) не рации [8–10] поднимается вопрос о необходимо-
имеет единого общепринятого определения. Бо- сти создания некоего государственного операто-
лее того, ряд исследователей исключают техноло- ра с привлечением частных инвесторов, который
гии больших данных как самостоятельное будет распоряжаться сведениями о социальных
направление, считая его названием, включающим данных пользователей (предпочтения пользова-
в себя большое количество технологий, активно теля в интернете, социальные связи, круг обще-
применяющихся в повседневной жизни, относя- ния и др.). При этом основным источником
щихся к различным сферам деятельности и не об- больших данных видятся социальные сети [11], а
ладающих признаками инновационности [3]. правовые вопросы сводятся, в основном, к регу-
Ранее основным критерием отнесения к лированию доступа к персональным данным
большим данным служил объем обрабатываемой пользователя со стороны третьих лиц [12] или
информации, «размер которой превосходит воз- использованию собираемой информации для
можности типичных баз данных по занесению, решения юридических задач (например, локали-
хранению, управлению и анализу информации» зация пользователя по геотрекингу его мобиль-
[4], а сами «большие данные» определялись по- ного телефона) [13].
средством указания следующих основных харак- Практическое применение больших данных
теристик: большого объема (Volume), разнообра- видится, прежде всего, в экономике: банковские
зия данных (Variety) и высокой скорости их из- услуги, ритейл, рекламный бизнес; операторы
менения (Velocity) [5]. медицинских услуг заинтересованы в сборе и
В более широком смысле под большими дан- обработке максимально возможной информации
ными понимался социально-экономический фе- как об отдельном пользователе, так и о целевых
номен, связанный с появлением технологических группах пользователей [14–16].

9
Научно-технические ведомости СПбГПУ. Экономические науки. Том 13, № 1, 2020

Традиционно считается, что большие данные в из того, что алгоритмы молча структурируют нашу
основном продуцируются в сети интернет (посред- жизнь, снимая при этом ответственность с долж-
ством социальных сетей или путем фиксации дей- ностных лиц, обезличивая решения. Вместо надеж-
ствий пользователей в системах интернет торговли ности и объективности к иным неопределенным
и банкинга), при этом игнорируется тот факт, что процедурам возрастает восприимчивость алгорит-
исходно именно установки класса мегасайенс были мических моделей к человеческому смещению [20].
источником больших данных. В целом, несмотря Решением видится как более глубокие эмпириче-
на разнообразие источников больших данных, для ские исследования алгоритмических моделей, ис-
их обработки используются сходные подходы и пользуемых на практике [20], так и рост внутренней
алгоритмы [17], что позволяет использовать нара- ответственности, когда предлагается повышать во-
ботки из одной отрасли в других областях1. влеченность сотрудников, разрабатывающих алго-
Более того, развитие технологий больших ритмы, возлагая на них этическую ответственность
данных дает толчок к развитию ряда специали- за разрабатываемые решения [19]. Такой подход
зированных научных направлений, имеющих, в выглядит весьма спорным, поскольку не упоминает
том числе, двойное назначение. В частности, об ответственности заказчика, ставящего техниче-
речь идет о создании систем узкоспециализиро- ские задачи. Им, как правило, выступает государ-
ванного искусственного интеллекта (интеллекту- ство [21], которое в зависимости от своих целей и
альные системы обработки больших данных), задач реализует различные подходы (и, как след-
разработке механизмов оптимизации отбора ствие, демонстрирует спрос на разные алгоритмы).
данных при помощи статистико-вероятностного Например, построение цифровой экономики в Эс-
подхода и созданию новых методов углубленного тонии, основанной на технологии блокчейна, идет
анализа больших массивов данных, методов ре- более успешно и встречает меньше сопротивления
шения многомерной некорректной задачи. в обществе, чем в Великобритании, где культурные
В многочисленных работах, относящихся к традиции вкупе с большей численностью населе-
сфере больших данных, преобладают, в массе сво- ния создают проблемы для построения так называ-
ей, технические вопросы организации сбора, хра- емого алгоритмического правительства [21].
нения и обработки информации. Другое направ- Как правило, многие исследования затраги-
ление, представляющее интерес для авторов вают пограничные вопросы, связанные с улуч-
настоящей работы, – социо-экономические ас- шением технических характеристик системы,
пекты высоких технологий – представлен значи- приводящих к ее качественному росту. В частно-
тельно хуже. Например, автор [18] придает техно- сти, авторы [22, 23] показали, что рост числа ис-
логии больших данных «гуманитарную окраску», пользуемых данных не означает улучшения вы-
предлагая использовать понятие культурного и ходных результатов. Проблема связана как с не-
социального капитала, разработанное П. Бурдье, в линейным насыщением [23], так и с ростом вли-
отношении больших данных. По его мнению, яния шума при возрастании используемых дан-
большие данные, подобно культурному и соци- ных [22]. С другой стороны, алгоритм, использу-
альному капиталу, упрощают взаимодействие с емый в технологиях больших данных, сам по-
информационной средой, что создает условия для рождает новые большие данные [18]: сбор все
конвертации капитала в экономические блага, новых и новых данных делает информационную
которая таким образом формирует чистый доход. среду все более контролируемой и управляемой,
Общефилософские вопросы ответственности что, в свою очередь, создает возможность для
разбираются, например, в [19–20]. Авторы исходят сбора еще большего количества данных. Реше-
ние возникающих сложностей видится как в но-
1
Это реплицирование подходов, продуцирующее как вых алгоритмах и подходах [22, 23], так и в разра-
положительные, так и отрицательные последствия, явля- ботке новых этических правил и норм, относя-
ется одной из базовых характеристик технологий боль-
щихся не только к разработчикам алгоритмов
ших данных.

10
К.В. Иванов, А.А. Балякин, А.С. Малышев, DOI: 10.18721/JE.13101

(как предлагается в [20]), но и к системе в целом. тие в России цифровой экономики, неотъемле-
Так, в [24] на примере работы международных мым элементом которой выступает технология
научных коллабораций (в том числе на установ- больших данных, так и с важностью защиты
ках класса мегасайенс) предлагается в качестве национальных интересов в современном быстро
отправной точки использовать правила защиты меняющемся мире [1, 9].
интеллектуальной собственности сотрудников Цель исследования. Помимо позитивных
проекта, которые заранее разрабатываются сдвигов с развитием цифровых технологий воз-
и утверждаются участниками проекта. никает ряд новых рисков и вызовов, влияющих
Видно, что технологии больших данных – на экономическую реальность и формирование
комплексный феномен, изучение которого пред- стратегии развития (см, например, [25]). К ним
полагает как разработку технических решений, так относятся как информационное (или цифровое)
и осмысление гуманитарных аспектов высоких неравенство, неустранимое в ближайшей пер-
технологий. Характерной особенностью этого фе- спективе [26], противоречия между существую-
номена являются слабая прогнозируемость (не- щими и возникающими институтами, включая
определенность долгосрочных прогнозов), высокая деградацию социальных практик [27], отсутствие
вероятность развития технологий двойного приме- культуры обращения с большими данными [2].
нения и технологий, взрывающих устоявшийся Целью настоящей работы является рассмот-
порядок, в также критическая зависимость от пло- рение технологии больших данных через призму
хо формализуемых факторов (этика, традиции). национальной безопасности. При этом авторы
Перечисленные выше особенности внедре- фокусируют свое внимание не на поисках част-
ния больших данных, связь развития цифровых ных рисков и вызовов с возможными ответами
технологий с перестройкой существующего на них, а предлагают рассматривать проблему
уклада, привнесением в мир новых рисков и вы- больших данных как неотъемлемую часть фор-
зовов показывают важность изучения больших мирования цифровой экономики в целом, что
данных в увязке с обеспечением вопросов наци- предполагает формулировку универсальных ре-
ональной безопасности. Актуальность данной шений, применимых не только в отношении
темы связана как с общей установкой на разви- технологии больших данных.

Рис. 1. Составные части технологии больших данных


Fig. 1. Components of Big Data Technology

11
Научно-технические ведомости СПбГПУ. Экономические науки. Том 13, № 1, 2020

Важно отметить, что изменения, вызываемые ударства на переход к цифровой экономике, опи-
инновационными технологиями, институцио- рающейся на достижения в научной сфере (про-
нально зависимы [27]: их возможные отрица- грамма «Цифровая экономика Российской Феде-
тельные и положительные последствия завязаны рации»), а ее особенность – фокусировка на источ-
на надлежащее и своевременное развитие соци- никах больших данных в научной сфере и обсужде-
альных институтов. ние возможности переноса опыта управления уни-
Задачи исследования. В ходе исследования кальными научными установками в другие области
решались следующие задачи: экономической и социальной жизни общества.
– во-первых, анализ понятия «большие дан- При работе с документами, регламентирую-
ные» в различных областях деятельности (таких, щими оборот больших данных, использовались
как медицина, экономика, социальная сфера, методы системного анализа, сравнительный ана-
наука – прежде всего, научные установки класса лиз, сравнительно-правовой и формально-
мегасайенс); юридический методы; привлекались подходы
– во-вторых, анализ представления и взаимо- теории управления.
действия с большими данными, полученными в Спецификой данной области является отсут-
результате деятельности международных проек- ствие единого общепринятого глоссария. Как
тов класса мегасайенс; правило, термин «большие данные» характери-
– в-третьих, анализ существующих норматив- зуют тремя особенностями («три V»), включаю-
но-правовых норм Российской Федерации, ре- щими в себя большой объем (Volume), разнооб-
гламентирующих оборот больших данных, и разие данных (Variety) и высокую скорость их
сравнение его с зарубежными подходами; изменения (Velocity) [5]. Для обозначения ис-
– наконец, выявление особенностей, связанных ходного неструктурированного объема данных
с влиянием технологии больших данных на обес- используется термин «озера данных» (data lakes).
печение вопросов национальной безопасности. К настоящему времени термин «большие дан-
ные» все еще не получил однозначного норматив-
Объект и предмет исследования. Таким обра- но-правового определения ни в одной из мировых
зом, объектом исследования были выбраны во- юрисдикций. С правовой точки зрения «большие
просы правового регулирования оборота больших данные» в настоящий момент – не юридический
данных. Предметом исследования стали социо- термин, а скорее описание явления с множеством
экономические и социо-политические аспекты различных последствий для научных дисциплин,
оборота больших данных, оказывающие влияние таких как экономика, технические дисциплины,
на вопросы национальной безопасности. юридические и общественные науки [28].
Российское законодательство определяет
Методы исследования. В настоящей статье об- большие данные как сквозную технологию, что
суждаются промежуточные результаты междисци- прямо указано в распоряжении правительства
плинарных исследований, проводимых научным [29]. Стратегия научно-технологического разви-
коллективом в рамках проекта РФФИ № 18-29- тия Российской Федерации (СНТР) понимает под
16130 МК по изучению особенностей правового обработкой больших объемов данных совокуп-
регулирования оборота больших данных, получен- ность подходов, инструментов и методов автома-
ных в результате научных исследований. В ходе ра- тической обработки структурированной и не-
бот были проанализированы российские и зару- структурированной информации, поступающей
бежные подходы к вопросам регулирования оборо- из большого количества различных и разнород-
та больших данных в сфере науки и техники; были ных, в том числе разрозненных или слабосвязан-
выявлены ряд тенденций в отношении контроля ных, источников информации, в объемах, кото-
больших данных со стороны регулирующих орга- рые невозможно обработать вручную за разумное
нов. Актуальность работы связана с установкой гос- время [30]. Кроме того, в российской практике

12
К.В. Иванов, А.А. Балякин, А.С. Малышев, DOI: 10.18721/JE.13101

используется стратификация больших данных на практически, цифровые технологии – суть техноло-


большие пользовательские данные и большие гии штамповки уже принятых простейших реше-
промышленные данные, исходя из способа их по- ний, часто не эффективных, а порой ошибочных.
лучения [31], что порождает необходимость раз- Любые большие данные научны в том
личных правовых подходов к регулированию. плане, что они измеримы, отобраны по выбран-
На наш взгляд, из приведенных определений ной модели, обрабатываются априорно задан-
наиболее продуктивно понимание больших данных ными методами и алгоритмами.
как процесса, сочетающего в себе методики обра- Технологии больших данных активно ис-
ботки, хранения и передачи информации, равно пользуются как инструмент стратегического
как и социально-экономические последствия, вы- планирования, оказывая серьезное влияние на
званные использованием новых технологий. Прак- построение цифрового будущего. Тем самым
тически внутри этого понятия находятся две разно- цифровые (первоначально) решения приобрета-
форматные сущности: 1) сами данные в виде ис- ют социальное измерение.
ходного неструктурированного озера данных, 2) В практическом аспекте наблюдается широ-
технологии и способы по анализу, обработке, хра- кое распространение предельно рыночной моде-
нению, передаче и применению таких данных. Эти ли развития технологии больших данных, осно-
две составляющих выступают одновременно как ванной на безальтернативной монетизации [32].
единое целое и как антагонисты: озера данных Это приводит к развитию методов и подходов,
имеют тенденцию к неупорядоченному росту, тогда направленных на использование (или извлече-
как методы обработки информации предполагают ние из озер данных) персональной информации,
максимальное упорядочивание данных. позволяющей оптимизировать продажи (как
пример – таргетированная реклама).
Полученные результаты. На основании ана- На наш взгляд, внедрение технологии боль-
лиза существующих источников по данной тема- ших данных поднимает ряд новых вопросов, свя-
тике можно вкратце сформулировать ряд харак- занных с обеспечением национальной безопасно-
теристик больших данных: сти. Прежде всего, встает вопрос о регулировании
Исходным массивом информации считается оборота больших данных, предусматривающим
некоторое озеро данных: неструктурированное, как следование национальным интересам, так и
динамически меняющееся, разнородное. обеспечение защиты прав человека (в случае ис-
Большие данные возникают как результат пользования и обработки персональной инфор-
применения некоторой методики (модели) отбора мации). Следующий важный момент связан с со-
данных из всей совокупности информации в озере циальным измерением высоких технологий: ка-
данных, и включают в себя как сами данные, так и кие риски и вызовы связаны с становлением циф-
механизм (алгоритм) их отбора и анализа. ровой экономики? Называется целый спектр
Большие данные – это динамическая, не- угроз: от деформации структуры экономики до
стационарная система, находящаяся в постоян- построения тоталитарного общества всеобщего
ном процессе наполнения, обновления и кор- контроля (big data по аналогии с Big Brother).
ректировки. Для понимания возможных последствий ис-
Внутри больших данных прошит алгоритм пользования технологий больших данных требуется
их обработки, выдающий ответ на некоторый разделять источники возникновения данных (озера
запрос. При этом реализуется механизм обрат- данных): виртуальные данные (интернет: социаль-
ной связи: получаемые данные, в свою очередь, ные сети, форумы, электронные СМИ и пр.); кор-
модифицируют большие данные и/или механизм поративные данные (банки, реклама, ритейлеры);
их отбора из озера данных. физические данные (данные от датчиков, приборов
Технологиям больших данных имманентны и прочих устройств). Как мы уже заметили выше,
черты масштабируемости и экспансии (переноса): подобные разделения по источникам уже суще-

13
Научно-технические ведомости СПбГПУ. Экономические науки. Том 13, № 1, 2020

ствуют в Российской Федерации. Используемый практически происходит ранжирование данных


набор данных относится к различным сферам чело- и пользователей этих данных в зависимости от их
веческого общества, что, в свою очередь, приводит статуса (обсуждение существующих законода-
к различной расстановке приоритетов (объем – ди- тельных инициатив приведено в [36]). В области
намика изменения – вариативность данных). защиты персональных данных законодательство
Для поиска ответов на все поднимаемые вопро- США особое внимание уделяет сбору данных
сы возможно обратиться к опыту регулирования несовершеннолетних лиц, но менее требователь-
оборота больших данных, полученных в научной но относится к получению согласия на сбор и
сфере, где основными акторами являются государ- обработку персональных данных граждан [37].
ство, международные организации и научные кол- Российская Федерация занимает в вопросах
лаборации2. Например, одним из возможных реше- правового регулирования больших данных про-
ний (активно отстаиваемым и продвигаемым в Ев- межуточную позицию. Так, российское законо-
ропейском Союзе) видится концепция открытой дательство определяет большие данные как тех-
науки [33]. В рамках указанного подхода превали- нологию, что прямо указано в Распоряжении
рует идея об освобождении от каких-либо ограни- Правительства, классифицируя их как большие
чительных правовых режимов, что описывается пользовательские данные и большие промыш-
отдельными аналитиками понятием «ничьи дан- ленные данные, исходя из способа их получения.
ные» (см., например, отчет McKinsey [4]). В процессе обсуждения находится Законопроект
В целом законотворческий процесс в насто- № 571124-7, сводящий определение больших
ящее время ни в одной стране не успевает за раз- данных к совокупности информации из интерне-
витием цифровой реальности и требует оптими- та, что, по мнению авторов, сильно сужает воз-
зации. Общим признаком в области практик ре- можную сферу применения закона.
гулирования управления большими данными Базовая проблема в государственном регули-
является низкая степень проработки норматив- ровании технологий больших данных состоит в
но-правового регулирования в указанных сфе- метаниях законодателей и гражданского общества
рах. При существует специфика, связанная с об- между минимизацией избыточных законодатель-
щим общественно-политическим дискурсом в ных барьеров и ограничений в цифровой экоси-
разных странах. Так, примером антропоориен- стеме и растущей потребностью в защите персо-
тированного подхода служит европейское зако- нальных данных. 12 марта 2019 г. в окончательном
нодательство: в своей деятельности ЕС руковод- третьем чтении Государственной Думой РФ был
ствуется приматом социально-гуманитарных вы- принят законопроект № 424632-7 «О цифровых
зовов во всех проектах [34], а в сфере регулиро- правах». С 1 октября 2019 г. появился поимено-
вания оборота данных важнейшим принципом ванный договор об оказании услуг по предостав-
провозглашается защита персональной инфор- лению информации (новая статья 783.1 ГК РФ),
мации, что нашло свое крайнее выражение в согласно которому стороны договора получат
General Data Protection Regulation [35]. возможность закрепить условие о конфиденци-
В США на первом месте стоят вопросы не альности передаваемой информации.
контроля оборота больших данных, а техниче- С 1 октября вступил в силу закон «О внесе-
ская регулировка доступа: так называемый нии изменений в ч. 1, ч. 2 и ст. 1124 ч. 3 Граждан-
нейтральный интернет предполагает изменение ского кодекса РФ» (т.н. Закон «о цифровых пра-
физических параметров доступа и обработки вах»), закрепляющий нормы регулирования обо-
информации в зависимости от ее содержания; рота цифровых прав. В этом законе сформулиро-
ван также ряд положений о новых цифровых
2
Как правило, исходным пунктом становятся техни- объектах экономических отношений.
ческие характеристики технологий больших данных с
упором на обработку больших массивов информации и
На наш взгляд, на настоящий момент госу-
существовании алгоритмов принятия решений. дарственные органы могут влиять на формиро-

14
К.В. Иванов, А.А. Балякин, А.С. Малышев, DOI: 10.18721/JE.13101

вание цифровой реальности и становление циф- логий должна выстраиваться в логике регулиро-
ровой экономики тремя способами. вания тех сущностей, над которыми возможен
Во-первых, путем ограничений и запретов, физический контроль. Это приводит к идее отказа
напрямую прописанных в правоустанавливаю- от запретов и фокусировке на локализации цен-
щих документах. В этом русле был сформулиро- тров обработки данных на территории Россий-
ван европейский Общий регламент защиты пер- ской Федерации с возможностью предоставления
сональных данных [35], в том же ключе приняты их услуг внешним заказчикам. На втором месте
ряд российских законов, в том числе Федераль- должны стоять меры по принятию и продвиже-
ный закон по защите персональных данных [38]. нию планов развития (дорожных карт).
Во-вторых, посредством развития систем стан- В действительности, с практической точки
дартов, правил и требований на обработку и пере- зрения Российская Федерация последовательно
дачу информации. Эта деятельность включает в се- отстаивает права на контроль за источниками ин-
бя так же формирование общепринятого глоссария формации и методами (средствами) ее обработки.
в сфере цифровых технологий, разработку и приня- В качестве примера таких действий упомянем тре-
тие долгосрочных планов развития отрасли. Работы бования на размещение серверов баз данных на
в этом направлении (прежде всего – посредством территории нашей страны. В этой же логике сфор-
разработки дорожных карт) ведутся во всех странах, мулирован указ Президента Российской Федера-
в том числе и в Российской Федерации [39]. ции о развитии высоких технологий в России,
Наконец, третьим способом воздействия на предполагающий строительство и реконструкцию
формирующуюся цифровую экономику следует пяти крупнейших объектов класса мегасайенс на
рассматривать работы по созданию и поддержа- территории нашей страны. Эти работы будут спо-
нию требуемой инфраструктуры. Под последним собствовать как повышению связанности террито-
следует понимать не только строительство и под- рий, так и развитию методов сбора, хранения и об-
держание работоспособности дата-центров, но и работки больших объемов данных на мощностях,
разработку соответствующих алгоритмов, мето- локализованных на территории Российской Феде-
дов и подходов обработки информации. рации и находящихся под ее юрисдикцией [40].
Вышесказанное позволяет сформулировать Данная политика должна, по нашему мнению,
следующие предложения по оптимизации государ- получить дальнейшее развитие, выражающееся не
ственной политики в сфере цифровых технологий с только и не столько в требованиях на локализацию
учетом требований национальной безопасности. дата-центров на территории нашей страны, но и на
Информация становится инструментом реа- их опережающее строительство с возможной пер-
лизации государственной политики во всех сфе- спективой предоставления услуг нерезидентам.
рах. Ее целенаправленное использование позво-
ляет существенно изменить весь политико- Выводы. Проведенные исследования демон-
экономический и социальный ландшафт. В част- стрируют роль технологии больших данных как
ности, концентрация экономических рычагов, инструмента обеспечения национальной без-
полученных в результате владения и управления опасности. Осуществляемые на сегодня в пра-
большими данными, в конечном итоге может по- вовом поле действия российского государства
влиять не только на расстановку сил на рынке, но приведут, очевидно, к урегулированию части
и на способы политического влияния. проблем, связанных с большими данными3, и в
В практическом плане информация (данные)
3
в будущем будет продуцироваться из озер данных Так же в дальнейшем, по мнению авторов, возникнет
необходимость разграничения правовых режимов больших
(условно «ничейной» информации) путем исполь- данных в зависимости от источника получения. Возможно,
зования вычислительных мощностей и специали- также необходимо будет разграничить законодательно тех,
зированных алгоритмов. По мнению авторов, гос- кто данные собирает и хранит данные, и тех, кто данные об-
рабатывает. Возможно, это приведет к созданию специали-
ударственная политика в сфере цифровых техно- зированных посредников для хранения реестров метаданных.

15
Научно-технические ведомости СПбГПУ. Экономические науки. Том 13, № 1, 2020

целом Российская Федерация, по мнению авто- 4. Сформулирован ряд предложений по опти-


ров, выстраивает правильный подход к разви- мизации управленческих решений в сфере регули-
тию науки и исследований. рования оборота больших данных с учетом требо-
Основными результатами проведенных работ ваний национальной безопасности. Важнейшим
являются следующие: требованием становится локализация центров об-
1. Показана важность гуманитарной состав- работки данных на территории Российской Феде-
ляющей инновационных технологий и отмечена рации (банковские карты, медицинские данные и
сохраняющаяся неопределенность тезауруса в пр.) и физическом обеспечении приборной базы
сфере технологии больших данных. Необходимо вновь возникающих и традиционных технологий.
наличие целостного подхода к цифровой эконо-
мике и ее составным частям (таким, как техноло- Направления дальнейших исследований. Одним
гии больших данных). из частных вопросов, требующих отдельного
2. Выделены два подхода к регулированию рассмотрения, является приемлемость концеп-
больших данных. На одном полюсе стоит ции открытых данных для Российской Федера-
антропоцентрический подход (Европейский ции, упомянутая в настоящей статье. Представ-
Союз), на другом – примат государственных ляется, что за рядом исключений (также связан-
интересов (КНР). США и Российская Федера- ных с вопросами соблюдения требований наци-
ция занимают в этом вопросе промежуточную ональной безопасности) этот подход может быть
позицию. применен и в нашей стране.
3. Выявлены три способа влияния государства
на развитие цифровой экономики (запреты, регу- Благодарности. Авторы благодарят М.В. Нур-
лирование и развитие инфраструктуры). Озвучена бину и С.Б. Тараненко за полезные дискуссии и
идея о преимуществах косвенного регулирования обсуждение результатов работы.
(через определение стандартов, правил и развитие
цифровой инфраструктуры) перед политикой Работа выполнена при поддержке гранта РФФИ
прямых запретов и ограничений. № 18-29-16130 МК.

СПИСОК ЛИТЕРАТУРЫ

[1] О Стратегии развития информационного об- [7] Моррисон А. [и др.]. Большие Данные: как извлечь
щества в Российской Федерации на 2017 – 2030 годы : из них информацию // Технологический прогноз. 2010. № 3.
Указ Президента РФ № 203 от 09.05.2017 г. URL: https://4cio.ru/usercontent/1324/PwC_Technology-For
[2] Balyakin A.A., Malyshev A.S., Nurbina M.V., Titov M.A. ecast-Issue3%202010_rus.pdf (дата обращения: 11.12.2019).
Big data: Nil novo sub luna // Lecture Notes in Networks [8] URL: https://ria.ru/technology/20170919/150508
and Systems. 2020. No. 78. P. 364–373. 5765.html (дата обращения: 11.12.2020).
[3] Walker M., Burton B. Hype cycle for emerging [9] URL: http://ac.gov.ru/events/05301.html (дата
technologies. Gartner research, 2015. URL: https://www. обращения: 11.12.2020).
gartner.com/doc/3100227/hype-cycle-emerging-technolo [10] URL: https://www.itweek.ru/infrastructure/artic
gies- (дата обращения: 11.12.2019). le/detail.php?ID=175144 (дата обращения: 11.12.2019).
[4] Big data: The next frontier for innovation, compe- [11] Jiming H., Yin Zh. Discovering the interdiscipli-
tition, and productivity. McKinsey Global Institute, 2011. nary nature of big data research through social network
URL: http://www.mckinsey.com/business-functions/digital analysis and visualization // Scientometrics. 2017. No. 112.
-mckinsey/our-insights/big-data-the-next-frontier-for-inn P. 91–109. DOI: 10.1007/S 11192-017-2383-1.
ovation (дата обращения: 11.12.2019). [12] Соколова А.С. Влияние технологий анализа
[5] Lynch C. How do your data grow? // Nature. 2008. «больших данных» (big data) на законодательство
No. 455. P. 28–29. DOI: 10.1038/455028a. о персональных данных // Юриспруденция 2.0:
[6] Майер-Шенбергер В., Кукьер К. Большие дан- новый взгляд на право: матер. межвуз. науч.-практ.
ные. Революция, которая изменит то, как мы живём, конф. с междунар. участием. М.: РУДН, 2017.
работаем и мыслим. М.: МИФ, 2014. 240 с. С. 282–285.

16
К.В. Иванов, А.А. Балякин, А.С. Малышев, DOI: 10.18721/JE.13101

[13] Осипенко А.Л. Новые технологии получения и ном информационном пространстве // Фундамен-
анализа оперативно-розыскной информации: правовые тальные исследования. 2018. № 5. С. 64–68. URL:
проблемы и перспективы внедрения // Вестник Воро- http://fundamental-research.ru/ru/article/view?id=42144
нежского института МВД России. 2015. № 2. С. 13–19. (дата обращения: 11.12.2019).
[14] Савельев А.И. Проблемы применения зако- [27] Жулего В.Г., Балякин А.А., Нурбина М.В., Та-
нодательства о персональных данных в эпоху «боль- раненко С.Б. Цифровизация общества: новые вызовы в
ших данных» (big data) // Право. 2015. № 1. С. 43–66. социальной сфере // Вестник Алтайской академии
[15] Алмырзаева А.К., Костюк В.И., Неврединов А.Р. экономики и права. 2019. № 9–2. С. 36–43.
Роль bigdata в современном обществе // Экономика и [28] Perspectives in law, business and innovation.
предпринимательство. 2017. № 9–3 (86–3). С. 580–582. Springer Nature Singapore Pte Ltd. 2017. 341 p.
[16] Ючинсон К.С. Большие данные и законода- [29] Об утверждении программы «Цифровая эко-
тельство о конкуренции // Право. 2017. № 1. С. 216–245. номика Российской Федерации: Распоряж. Прави-
[17] Григорьева М., Голосова М., Рябинкин Е., тельства РФ № 1632-р от 28.07.2017 г.
Климентов А. Экзабайтное хранилище научных данных // [30] О Стратегии научно-технологического разви-
Открытые системы. СУБД. 2015. № 4. URL: https://www. тия Российской Федерации : Указ Президента РФ
osp.ru/os/2015/04/13047963/ (дата обращения: 11.12.2019). № 642 от 01.12.2016 г.
[18] Sadowski J. When data is capital: Datafication, [31] Савельев А.И. Направления регулирования
accumulation, and extraction // Big Data & Society. 2019. Больших данных и защита неприкосновенности част-
No. 6–1. DOI: 10.1177/2053951718820549 ной жизни в новых экономических реалиях // Закон.
[19] Martin K. Ethical implications and accountabil- 2018. № 5. С. 122–144.
ity of algorithms // J Bus Ethics. 2019. No. 160. P. 835– [32] Паризер Э. За стеной фильтров. Что Интер-
850. DOI: 10.1007/s10551-018-3921-3 нет скрывает от вас? М.: Альпина Бизнес Букс, 2012.
[20] Kemper J., Kolkman D. Transparent to whom? 304 с.
No algorithmic accountability without a critical audience [33] Мун Д.В., Балякин А.А. Формирование си-
// Information, Communication & Society. 2019. No. 22– стемы открытой науки в Европейском Союзе // Ин-
14. P. 2081–2096. DOI: 10.1080/1369118X.2018.1477967 формация и инновации. 2017. Спец. выпуск. С. 33–37.
[21] Engin Z., Treleaven Ph. Algorithmic government: [34] Florio M., Sirtori E. Social benefits and costs of
automating public services and supporting civil servants in large scale research infrastructures // Technological Fore-
using data science technologies // The Computer Journal. casting and Social Change. 2015. No. 112. DOI:
2019. No. 62–3. P. 448–460. DOI: 10.1093/comjnl/bxy082 10.1016/j.techfore.2015.11.024
[22] Triguero I., García-Gil D., Maillo J. [et al.]. [35] General data protection regulation. URL:
Transforming big data into smart data: An insight on the https://gdpr-info.eu/ (дата обращения: 11.12.2020).
use of the k-nearest neighbors algorithm to obtain quality [36] URL: http://www.ncsl.org/research/telecommun
data // WIREs Data Mining Knowl Discov. 2019. No. 9–2. ications-and-information-technology/net-neutrality-2019-
DOI: 10.1002/widm.1289 legislation.aspx (дата обращения: 11.12.2019).
[23] Succi S., Coveney P.V. Big data: the end of the [37] URL:
scientific method? // Philosophical Transactions of the https://leginfo.legislature.ca.gov/faces/billTextClient.xhtm
Royal Society A: Mathematical, Physical and Engineering l?bill_id=201720180AB375 (дата обращения: 11.12.2019).
Sciences. 2019. No. 377. DOI: 10.1098/rsta.2018.0145 [38] О персональных данных : Федер. закон РФ №
[24] Kahn M. Co-authorship as a proxy for collabora- 152-ФЗ от 27.07.2006 г.
tion: a cautionary tale // Science and Public Policy. 2018. [39] Дорожная карта развития «сквозной» цифро-
No. 45–1. P. 117–123. DOI: 10.1093/scipol/scx052 вой технологии «Нейротехнологии и искусственный
[25] The Global Information. Technology Report интеллект». URL: https://digital.gov.ru/ru/documents/66
2016. Innovating in the Digital Economy. 2016. URL: 58/ (дата обращения: 11.12.2019).
http://www3.weforum.org/docs/GITR2016/WEF_GITR_ [40] О мерах по развитию синхротронных и
Full_Report.pdf (дата обращения: 11.12.2019). нейтронных исследований и исследовательской ин-
[26] Зобова Л.Л., Щербакова Л.Н., Евдокимова Е.К. фраструктуры в Российской Федерации : Указ Прези-
Цифровая пространственная конкуренция в глобаль- дента РФ № 356 от 25.07.2019 г.

ИВАНОВ Кирилл Владимирович. E-mail: k.ivanov@iitp.ru


БАЛЯКИН Артем Александрович. E-mail: Balyakin_AA@nrcki.ru
МАЛЫШЕВ Андрей Сергеевич. E-mail: Malyshev_AS@nrcki.ru
Статья поступила в редакцию: 13.12.2019

17
Научно-технические ведомости СПбГПУ. Экономические науки. Том 13, № 1, 2020

REFERENCES

[1] Decree of the President of the Russian Federation [14] A.I. Savelyev, Problemy primeneniya
No. 203 of 05.09.2017 On the Strategy for the development zakonodatelstva o personalnykh dannykh v epokhu
of the information society in the Russian Federation for «bolshikh dannykh» (big data) [Problems of the application
2017–2030. of legislation on personal data in the era of «big data» (big
[2] A.A. Balyakin, A.S. Malyshev, M.V. Nurbina, data)], Pravo, 1 (2015) 43–66.
M.A. Titov, Big data: Nil novo sub luna, Lecture Notes in [15] A.K. Almyrzayeva, V.I. Kostyuk, A.R. Nevredinov,
Networks and Systems, 78 (2020) 364–373. Rol bigdata v sovremennom obshchestve [The role of
[3] M. Walker, B. Burton, Hype cycle for emerging bigdata in modern society], Ekonomika i predprinimatelstvo,
technologies. Gartner research, 2015. URL: https://www. 9–3 (86–3) (2017) 580–582.
gartner.com/doc/3100227/hype-cycle-emerging-technolo [16] K.S. Yuchinson, Bolshiye dannyye i zakonodatelstvo
gies- (accessed December 11, 2019). o konkurentsii [Big data and competition law], Pravo, 1
[4] Big data: The next frontier for innovation, (2017) 216–245.
competition, and productivity. McKinsey Global Institute, [17] M. Grigoryeva, M. Golosova, Ye. Ryabinkin,
2011. URL: http://www.mckinsey.com/business-functions A. Klimentov, Ekzabaytnoye khranilishche nauchnykh
/digital-mckinsey/our-insights/big-data-the-next-frontier- dannykh [Exabyte scientific data warehouse], Otkrytyye
for-innovation (accessed December 11, 2019). sistemy. SUBD, 4 (2015). URL: https://www.osp.ru/os
[5] C. Lynch, How do your data grow? Nature, 455 /2015/04/13047963/ (accessed December 11, 2019).
(2008) 28–29. DOI: 10.1038/455028a. [18] J. Sadowski, When data is capital: Datafication,
[6] V. Mayer-Shenberger, K. Kukyer, Big data. A accumulation, and extraction, Big Data & Society, 6–1
revolution that will transform how we live, work, and think. (2019). DOI: 10.1177/2053951718820549
Moscow, MIF, 2014. [19] K. Martin, Ethical implications and accountability
[7] A. Morrison [et al.], Bolshiye dannyye: kak izvlech of algorithms, J Bus Ethics, 160 (2019) 835–850. DOI:
iz nikh informatsiyu [Big Data: how to extract information 10.1007/s10551-018-3921-3
from them], Tekhnologicheskiy prognoz, 3 (2010). URL: [20] J. Kemper, D. Kolkman, Transparent to whom?
https://4cio.ru/usercontent/1324/PwC_Technology-Fore No algorithmic accountability without a critical audience,
cast-Issue3%202010_rus.pdf (accessed December 11, 2019). Information, Communication & Society, 22–14 (2019)
[8] URL: https://ria.ru/technology/20170919/150508 2081–2096. DOI: 10.1080/1369118X.2018.1477967
5765.html (accessed December 11, 2019). [21] Z. Engin, Ph. Treleaven, Algorithmic government:
[9] URL: http://ac.gov.ru/events/05301.html (accessed automating public services and supporting civil servants in
December 11, 2019). using data science technologies, The Computer Journal,
[10] URL: https://www.itweek.ru/infrastructure/artic 62–3 (2019) 448–460. DOI: 10.1093/comjnl/bxy082
le/detail.php?ID=175144 (accessed December 11, 2019). [22] I. Triguero, D. García-Gil, J. Maillo [et al.],
[11] H. Jiming, Zh. Yin, Discovering the Transforming big data into smart data: An insight on the
interdisciplinary nature of big data research through social use of the k-nearest neighbors algorithm to obtain quality
network analysis and visualization, Scientometrics, 112 data, WIREs Data Mining Knowl Discov, 9–2 (2019).
(2017) 91–109. DOI: 10.1007/S 11192-017-2383-1. DOI: 10.1002/widm.1289
[12] A.S. Sokolova, Vliyaniye tekhnologiy analiza [23] S. Succi, P.V. Coveney, Big data: the end of the
«bolshikh dannykh» (big data) na zakonodatelstvo o scientific method? Philosophical Transactions of the Royal
personalnykh dannykh [The influence of big data analysis Society A: Mathematical, Physical and Engineering
technologies on personal data legislation], Yurisprudentsiya 2.0: Sciences, 2019, no. 377. DOI: 10.1098/rsta.2018.0145
novyy vzglyad na pravo. Proceedings of the interuniversity [24] M. Kahn, Co-authorship as a proxy for
scientific-practical conference with international participation. collaboration: a cautionary tale, Science and Public Policy,
Moscow, RUDN, (2017) 282–285. 45–1 (2018) 117–123. DOI: 10.1093/scipol/scx052
[13] A.L. Osipenko, Novyye tekhnologii polucheniya i [25] The Global Information. Technology Report
analiza operativno-rozysknoy informatsii: pravovyye 2016. Innovating in the Digital Economy. 2016. URL:
problemy i perspektivy vnedreniya [New technologies for http://www3.weforum.org/docs/GITR2016/WEF_GITR_
obtaining and analyzing operational-search information: Full_Report.pdf (accessed December 11, 2019).
legal problems and prospects for implementation], Vestnik [26] L.L. Zobova, L.N. Shcherbakova, Ye.K. Yevdokimova,
Voronezhskogo instituta MVD Rossii, 2 (2015) 13–19. Tsifrovaya prostranstvennaya konkurentsiya v globalnom

18
К.В. Иванов, А.А. Балякин, А.С. Малышев, DOI: 10.18721/JE.13101

informatsionnom prostranstve [Digital spatial competition [33] D.V. Mun, A.A. Balyakin, Formirovaniye sistemy
in the global information space], Fundamentalnyye otkrytoy nauki v Yevropeyskom Soyuze [Formation of an
issledovaniya, 5 (2018) 64–68. URL: http://fundamental- open science system in the European Union], Informatsiya
research.ru/ru/article/view?id=42144 (accessed December i innovatsii. special issue (2017) 33–37.
11, 2019). [34] M. Florio, E. Sirtori, Social benefits and costs of
[27] V.G. Zhulego, A.A. Balyakin, M.V. Nurbina, large scale research infrastructures, Technological
S.B. Taranenko, Tsifrovizatsiya obshchestva: novyye Forecasting and Social Change, 112 (2015). DOI:
vyzovy v sotsialnoy sfere [Digitalization of society: new 10.1016/j.techfore.2015.11.024
challenges in the social sphere], Vestnik Altayskoy [35] General data protection regulation. URL: https://
akademii ekonomiki i prava, 9–2 (2019) 36–43. gdpr-info.eu/ (accessed December 11, 2019).
[28] Perspectives in law, business and innovation. [36] URL: http://www.ncsl.org/research/telecommuni
Springer Nature Singapore Pte Ltd. 2017. cations-and-information-technology/net-neutrality-2019-
[29] Decree of the Government of the Russian legislation.aspx (accessed December 11, 2019).
Federation of July 28, 2017 No. 1632-r On approval of the [37] URL: https://leginfo.legislature.ca.gov/faces/billT
program Digital economy of the Russian Federation. extClient.xhtml?bill_id=201720180AB375 (accessed December
[30] Decree of the President of the Russian Federation 11, 2019).
dated 01.12.2016, No. 642 On the Strategy for scientific [38] Federal law of the Russian Federation от
and technological development of the Russian Federation. 27.07.2006 No. 152-FZ On personal data.
[31] A.I. Savelyev, Napravleniya regulirovaniya [39] Roadmap for the development of end-to-end
Bolshikh dannykh i zashchita neprikosnovennosti chastnoy digital technology neurotechnology and artificial intelligence.
zhizni v novykh ekonomicheskikh realiyakh [Directions for URL: https://digital.gov.ru/ru/documents/6658/20172018
big data regulation and privacy protection in the new 0AB375 (accessed December 11, 2019).
economic realities], Zakon, 5 (2018) 122–144. [40] Decree of the President of the Russian
[32] E. Parizer, Za stenoy filtrov. Chto Internet Federation of July 25, 2019 No. 356 On measures to
skryvayet ot vas? [Behind the wall of filters. What is the develop synchrotron and neutron research and research
internet hiding from you?]. Moscow, Alpina Biznes Buks, 2012. infrastructure in the Russian Federation.

IVANOV Kirill V. E-mail: k.ivanov@iitp.ru


BALYAKIN Artem A. E-mail: Balyakin_AA@nrcki.ru
MALYSHEV Andrey S. E-mail: Malyshev_AS@nrcki.ru

© Санкт-Петербургский политехнический университет Петра Великого, 2020

19

Вам также может понравиться