МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РЕСПУБЛИКИ

КАЗАХСТАН

ASTANA IT UNIVERSITY

Научно – исследовательская работа студентов на тему:

«Обратная сторона технологий: угрозы искусственного интеллекта»

Выполнили: Акыт Е., Ибрагимова А.,

Мухамадиева А., Зейнулла А.

Группа SE - 2008
г. Нур – Султан

2021–2022 гг..
Тема: Обратная сторона технологий: угрозы искусственного интеллекта

Объект исследования: Искусственный интеллект

Предмет исследования: Опасность искусственного интеллекта

Актуальность темы:

Искусственный интеллект – современный тренд развития

информационных технологий. В настоящее время сфера применения ИИ
растет с каждым днем. И согласно недавним исследованиям уже около 77%
устройств, которые мы используем, используют ту или иную форму
искусственного интеллекта. Однако, стремительный рост его применения
вызывает обеспокоенность. И уже известные исследования о риске ИИ
подкрепляют наши страхи. Следовательно мы считаем, что изучение данной
темы поможет нам лучше подготовиться и предотвратить потенциально
негативные последствия в будущем, что позволит воспользоваться
преимуществами ИИ и уменьшить риски.

Цель исследования:

Анализ ключевых угроз ИИ, определённых на основе результатов

опроса проведенного среди учащихся AITU

Задачи исследования:

1. Изучение литературы по теме научного проекта

2. Осуществление практической части исследования: опрос
3. Анализ полученных результатов
4. Выявление возможных угроз, представляющих собой искусственный
интеллект
Источники:

1. Булавинова М.П. Риски и угрозы новых технологий, основанных на

искусственном интеллекте. (обзор) // Социальные и гуманитарные
науки. Отечественная и зарубежная литература. Сер. 8, Науковедение:
Реферативный журнал. 2018. №2. URL:
https://cyberleninka.ru/article/n/riski-i-ugrozy-novyh-tehnologiy-
osnovannyh-na-iskusstvennom-intellekte-obzor (дата обращения:
22.12.2021).
2. Разгильдиев Бяшир Тагирович Искусственный интеллект и
профилактика его общественной опасности // Вестник СГЮА. 2021.
№5 (142). URL: https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-i-
profilaktika-ego-obschestvennoy-opasnosti (дата обращения: 22.12.2021).
3. Шмагин В.С., Маслова М.А. ОБЗОР И АНАЛИЗ РАЗВИТИЯ
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА // Научный результат.
Информационные технологии. 2020. №4. URL:
https://cyberleninka.ru/article/n/obzor-i-analiz-razvitiya-iskusstvennogo-
intellekta (дата обращения: 22.12.2021).
4. Вислова А.Д. СОВРЕМЕННЫЕ ТЕНДЕНЦИИ РАЗВИТИЯ
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА // Известия КБНЦ РАН. 2020.
№2 (94). URL: https://cyberleninka.ru/article/n/sovremennye-tendentsii-
razvitiya-iskusstvennogo-intellekta (дата обращения: 22.12.2021).
5. Галаз, В., Сентено, М.А., Каллахан, П.В., Каушевич, А., Паттерсон, Т.,
Брасс, И.,… Леви, К. (2021). Искусственный интеллект, системные
риски и устойчивость. Технологии в обществе, 67, 101741.
https://doi.org/10.1016/j.techsoc.2021.101741
6. 101 Статистика искусственного интеллекта [обновлено на 2021 год].
(2019, 28 января). Получено 22 декабря 2021 г. с веб-сайта TechJury:
https://techjury.net/blog/ai-statistics/.
7. Переход на ИИ корпоративного уровня для промышленных продуктов.
(2016). Получено 22 декабря 2021 г. с веб-сайта IBM:
 https://www.ibm.com/gotit-leadership/institute-business-value/report/
industrial-products-ai.

Анализ научных статей:

Статья 1

1. Заголовок статьи.

Искусственный интеллект и профилактика его общественной

опасности

2. Автор(ы) статьи:

Разгильдиев Бяшир Тагирович

3. Откуда взята статья:

https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-i-profilaktika-ego-
obschestvennoy-opasnosti

4. Основная идея статьи:

Цель статьи заключается в предоставлении читателю некоторых

материалов по теме искусственного интеллекта и его использования для
личности, общества, государственной власти, мира и безопасности
человечества. Что объективно может стать носителем общественно опасных
угроз.

5. Дайте резюме статьи (не более 10-20 предложений).

Искусственный интеллект может существенно повышать социальные

возможности человека и развивать отношения, участником которых он
является. Вместе с тем он может оказаться носителем общественно опасных
угроз для человека, среды его обитания и мира в целом. Данная констатация
требует постановки и решения вопросов профилактики возможных
нежелательных последствий от внедрения искусственного интеллекта в
общественную практику. И целью этой статьи является создание правовых
механизмов профилактики возможных общественно опасных угроз,
исходящих от искусственного интеллекта.

6. Законспектируй отрывки из статьи, которые кажутся важными для

Вас.

«Цифровая (технологическая) составляющая не может иметь свойства,

придающие продукту агрессивность, насилие, разрушительность (в том числе
угрозу их проявления) в отношении окружающей действительности, включая
живую и неживую природу, человека. В теории для предотвращения»,
«Целью искусственного интеллекта, по моему мнению, выступает его
способность удовлетворять социальные потребности личности, общества,
государственной власти, мира и безопасности человека.

7. Укажите факты, которые оказались новыми для вас:

Существование оружия, оснащенного искусственным интеллектом и

даже частично применяемого, учитывая, что ИИ до сих пор считается
недостаточно безопасным.Укажите, какие тезисы противоречат вашим
взглядам.

8. Укажите, какие тезисы противоречат вашим взглядам

Таких тезисов нет. В тексте все тезисы сформулированы и

подкреплены примерами и фактами.

9. Укажите вопросы, которые остались без ответа в статье, и, если

можно дайте свой ответ кратко.

Таких вопросов нет. Автор дал полноценные ответы на все вопросы,

которые были заданы в статье.

10. Сделайте общую оценку статьи.

Статья Разгильдиева Б. Т. «Искусственный интеллект и профилактика его

общественной опасности», размещенной на сайте
https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-i-profilaktika-ego-
obschestvennoy-opasnosti . Актуальность темы заключается в предотвращении
возможных угроз в отношении искусственного интеллекта. Автор подробно
описывает искусственный и естественный интеллект, сравнивая их.
Аргументирует возможные опасения при внедрении искусственного
интеллекта. Автор также определил превентивные методы, определив
понятие правового регулирования и возможной уголовно-правовой защиты
искусственного интеллекта.

Статья 2.

1. Заголовок статьи:

Обзор и анализ развития искусственного интеллекта

2. Авторы статьи:

Шмагин В.С., Маслова М.А.

3. Откуда взята статья:

https://cyberleninka.ru/article/n/obzor-i-analiz-razvitiya-iskusstvennogo-
intellekta
4. Основная идея:
Цель данной статьи является раскрыть читателю понятие
искусственного интеллекта, рассмотреть ключевые этапы его развития и
разобрать представляет ли он собой угрозу человечеству.

5. Дайте резюме статьи (не более 10-20 предложений).

На данный момент существует огромное количество утверждений об

опасности и пользе искусственного интеллекта. Люди, занимающиеся
разработкой искусственного интеллекта, выражают два основных мнения:
во-первых, ИИ в будущем пойдет против человечества и просто уничтожит
его; во-вторых, люди найдут способ сосуществовать с ИИ. Чтобы наши
худшие опасения не сбылись, необходимо обеспечить независимость ИИ
от дурных влияний, заранее научить его, что такое «плохо», а что
 «хорошо». В этой статье будет рассмотрено, что такое искусственный
интеллект и представляет ли он угрозу для человечества или пользу.

6.Законспектируй отрывки из статьи, которые кажутся важными для

Вас.

Из-за быстрого развития ИИ стала настораживать как ученых, так и

обычного обывателя, следящего за развитием ИИ. В 2014 году некоторые
ученые начали бить тревогу и так Илон Маск заявил о том, что ИИ может
стать серьезной опасностью в будущем, так как созданные изобретения могут
оказаться намного опаснее даже любой ядерной боеголовки. Его
высказывания так же поддержал Стивен Хокинг – британский физик-
теоретик, космолог. Минус Искусственного Интеллекта – это отсутствие
человеческих эмоций, отсутствие моральных норм и элементарной
рассудительности. при создании ИИ нужно четко ставить задачу, которая
будет его целью, так как если эта задача не точно сформулирована, то позже
могут возникнуть из-за этого проблемы. Искусственный интеллект может
легко приобрести крайне опасные предубеждения.

7. Укажите факты, которые оказались новыми для вас:

1. Исследователи и экспериментаторы ИИ, работающие в социальных

сетях, хотели достигнуть и создать идеальных переговорщиков. На
примере разработок исследователей лаборатории ИИ Facebook (FAIR) –
дали задание ботам поменяться шляпами, шарами и книгами, каждому из
этих активов была присвоена определённая цена, но боты Боб и Элис в
результате придумали собственный язык, потому что так им проще
общаться.
2. Компания FDNA разработала ИИ который может определить с
помощью предоставленного фото врожденные болезни и генетические
отклонения, что является очень большим достижением для выявления
патологий. Протестировать работу данного ИИ можно и самим, скачав
приложение Face2Gene доступное для Android и iOS.
8. Укажите, какие тезисы противоречат вашим взглядам

1. Сейчас уже создаются ограничения на работу ИИ, различные фильтры

и доступ в социальные сети.
2. ИИ в будущем свергнет своего создателя и просто уничтожит его.

9. Укажите вопросы, которые остались без ответа в статье, и, если

можно дайте свой ответ кратко.

Статья не вызвала никаких вопросов и дала исчерпывающие ответы на

все вопросы, которые были до прочтения.

10. Сделайте общую оценку статьи.

Данная статья плоды отличной проделанной работы. Заметно, что

автор изучил и проанализировал большой объём материала. В статье
подробно раскрыты проблемы искусственного интеллекта, и приведенные
им примеры удачно подкрепляют его позицию.