Вы находитесь на странице: 1из 6

КУРГАНСКАЯ ОБЛАСТЬ

ОБРАЗОВАТЕЛЬНЫЕ УЧРЕЖДЕНИЯ
МБОУ СОШ №26
МБОУ "ГИМНАЗИЯ №32"

«ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ. ПРОБЛЕМЫ, СВЯЗАННЫЕ С


БЕСПИЛОТНЫМ УПРАВЛЕНИЕМ ТС ПРИ ПОМОЩИ
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА»

Авторы:
Петрякова Юлия Владимировна
Ученик 10 Б класса
МБОУ СОШ №26
Сибиряев Михаил Евгеньевич
Ученик 10 Ф класса
МБОУ "Гимназия №32"
Научный руководитель:
Корюкин Данил Дмитриевич
Студент 2 курса
ФГБОУ ВО «КГУ»

г. Курган
Курган 2021
Цели:

1) Выявить причины возникновения аномалий, факторов и угроз


безопасности управления беспилотными транспортными
средствами
2) Составить технологическую карту не допуска аномалий,
факторов и угроз

Задачи:

1) Выявить возможные аномалии и причины их возникновения


2) Выявить возможные угрозы безопасности и причины их
возникновения
3) Описать возможные последствия завладения контролем над
сетью злоумышленником
4) Описать возможные последствия неправильного обучения
искусственного интеллекта

Объект исследования:

Информационная безопасность.

Предмет исследования:

Информационная безопасность искусственного интеллекта.

Актуальность:

С развитием технологий и автоматизацией процессов вопрос о


творческом мышлении информационных систем становится все серьезнее,
так как это значительно повысит производительность труда.
Введение

В современном мире с развитием технологий и автоматизацией


процессов люди стали задумываться о возможности интеллектуальных
систем выполнять различные творческие функции. Именно с этим связано
появление искусственного интеллекта.

Сам термин «искусственный интеллект» появился в 1956 году, но


интерес к нему стали проявлять не так давно, связано это с увеличением
объемов данных, вычислительных мощностей и оптимизацией средств
хранения данных. [1]

Искусственный интеллект (ИИ) – это свойство интеллектуальных


систем, которое позволяет выполнять функции, ранее подвластные только
человеку, такие как обучение, рассуждение и логическое построение. [2, 3]

Основной задачей ИИ является помощь человеку, путем быстрой


обработки больших данных, управления транспортными средствами и
выполнения большого перечня задач, которые ранее выполнял человек.
Именно поэтому ИИ востребован практически во всех сферах нашей жизни.

На данный момент ИИ не является идеальным и ему свойственны


ошибки. Также, ИИ подвержен кибератакам, которые могут привести к
людским потерям, поэтому необходимо выявить возможные аномалии,
угрозы и риски безопасности, связанные с ИИ.
Кибербезопасность и безопасность использования ИИ - важный вопрос,
обсуждаемый в том числе и на государственном уровне [5, 6]. До 2024
планируется распределить 30,7 млрд рублей в рамках федерального проекта
“Информационная безопасность” [7].
Основная часть

В данной работе он будет рассматриваться на примере компании


«Cognitive pilot», где ИИ используется для управления сельскохозяйственной
техникой, чтобы сократить потерю урожая, уменьшить инциденты с
техникой, для сохранности парка, анализа карт урожайности и режимов
уборки, снижения расхода топлива, стабильности точности удержания
кромки для достижения максимальной производительности. [4]

ИИ обучается все время его работы, поэтому при получении неверных


входных данных будут выполнятся не те действия, которые требуются, то же
самое может произойти, если данные будут недостаточными. Та же ошибка
может произойти, если алгоритм, по которому работает ИИ, будет
некорректным. Поэтому для правильной работы ИИ необходимо:

1) Иметь корректный алгоритм, учитывающий различные


проблемы и имеющий наибольшее количество решений
различных ситуаций
2) Внесение полных и достоверных входных данных
Сеть, благодаря которой взаимодействует сельскохозяйственная
техника между собой и с сервером, подвергается возможным угрозам
безопасности, это связано с тем, что, получив к ней доступ, можно завладеть
контролем над всеми машинами и входными данными, которые получает
техника. Имея это, злоумышленник получит информацию о нахождении
всего транспорта, оснащенного беспилотным управлением с помощью ИИ,
культур. Так же он сможет вносить неверные входные данные или внести
правки в алгоритм для изменения траектории, расхода топлива и в целом для
некорректной работы техники. Контроль над транспортом может привести к
выведению его из строя или даже людским потерям, это уже зависит от
целей, которые преследует злоумышленник. Угрозы безопасности
управления беспилотными транспортными средствами могут быть связаны
не только со взломом, но и, как выше было сказано, с неправильным
обучением ИИ.
Если рабочий замечает некорректное поведение в управление
транспортного средства, необходимо обратиться к технологической карте не
допуска аномалий и угроз:
1) Отключить беспилотное управление у транспортного средства;
2) Проверить транспортное средство на наличие технических
неисправностей (Если неисправность есть перейти к пункту 3,
в противном случае к пункту 6);
3) Исправить неисправность по мере возможностей (Если
неисправность устранена, перейти к пункту 4, если нет, то
связаться с парком, отправить транспортное средство в
ремонт);
4) Возобновляем беспилотное управление;
5) Если проблема исчерпана, продолжить работу, если нет, то
перейти к пункту 6;
6) Приостановить беспилотное управление (если оно было
возобновлено), связаться с сервером, для проверки на наличие
постороннего вмешательства в сеть;
7) Если проблема локализована, продолжить работу если нет, то
перейти к пункту 8;
8) Ошибка связана с обучением ИИ, остановить работу, связаться
с сервером, описать ошибку, отправиться в автопарк.
Заключение
В ходе выполнения работы были выявлены аномалии и угрозы
безопасности, связанные с ИИ, причины их возникновения, представлена
технологическая карта не допуска аномалий и угроз безопасности.
Источники:

1) «Искусственный интеллект» - [Электронный ресурс]. – Режим


доступа: https://www.sas.com/ru_ru/insights/articles/analytics/what-
is-artificial-intelligence.html , свободный.
2) «Искусственный интеллект» - [Электронный ресурс]. – Режим
доступа: https://ru.wikipedia.org/wiki/%D0%98%D1%81%D0%BA
%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD
%D0%BD%D1%8B%D0%B9_%D0%B8%D0%BD
%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA
%D1%82 , свободный.
3) «Интеллектуальная система» - [Электронный ресурс]. – Режим
доступа: https://ru.wikipedia.org/wiki/%D0%98%D0%BD
%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA
%D1%82%D1%83%D0%B0%D0%BB%D1%8C%D0%BD
%D0%B0%D1%8F_
%D1%81%D0%B8%D1%81%D1%82%D0%B5%D0%BC
%D0%B0 , свободный.
4) «Cognitive Agro Pilot» - [Электронный ресурс]. – Режим доступа:
https://cognitivepilot.com/products/cognitive-agro-pilot/ ,
свободный.
5) «Видеообращение Михаила Мишустина к участникам
международного онлайн-тренинга по кибербезопасности Cyber
Polygon 2020» - [Электронный ресурс]. – Режим доступа:
http://government.ru/news/39983/
, свободный
6) «Распоряжение Правительства РФ от 19 августа 2020 г. № 2129-
р. Об утверждении Концепции развития регулирования
отношений в сфере технологий искусственного интеллекта и
робототехники на период до 2024 г.» - [Электронный ресурс]. –
Режим доступа:
https://www.garant.ru/products/ipo/prime/doc/74460628/,
свободный
7) «Паспорт федерального проекта Информационная безопасность»
- [Электронный ресурс]. – Режим доступа:
https://digital.ac.gov.ru/poleznaya-informaciya/material/Паспорт-
федерального-проекта-Информационная-безопасность.pdf,
свободный