Искусственный интеллект, о чем

мы говорим ?

25 марта 2022 года

Искусственный интеллект (или ИИ) все больше входит в нашу повседневную жизнь, в частности,
благодаря новым продуктам и услугам. Однако он основан на алгоритмах, требующих больших
объемов данных, часто включающих персональные данные, и его использование требует
соблюдения определенных мер предосторожности.
Что такое искусственный интеллект?
Искусственный интеллект - это не технология в строгом смысле слова, а скорее научная область, в
которой инструменты могут быть классифицированы, если они соответствуют определенным
критериям. Для ознакомления с этой областью может быть полезно обратиться к глоссарию по
искусственному интеллекту, опубликованному CNIL.
По определению Европейского парламента, искусственный интеллект - это любой инструмент,
используемый машиной для "воспроизведения поведения, связанного с человеком, такого как
рассуждение, планирование и творчество".
Это определение можно расширить, включив в него поведение, превышающее возможности
человека, поскольку современные компьютеры способны превзойти его в решении некоторых
задач (хотя компетенция компьютера обычно заканчивается на выполнении этой задачи).
Например, система искусственного интеллекта AlphaGo, способная победить чемпиона по игре в
го Ли Седоля, очень хорошо умеет разрабатывать стратегии для этой игры, но на этом ее
способности заканчиваются. Она не сможет играть в шахматы или выполнять другие задачи, пока
ее этому не обучат.
Поэтому любая система, реализующая механизмы, близкие к человеческому разуму, может быть
названа искусственным интеллектом.
Почему важно признать наличие искусственного интеллекта?
Как и любая новая технология, системы, использующие искусственный интеллект, все еще
подвержены сбоям и атакам, и могут оказывать пока еще незамеченное влияние на человека и
общество. Не ставя под сомнение преимущества, которые могут предложить эти системы, тем не
менее крайне важно осознавать риски, которым они подвергают пользователей.
Во-первых, как и люди, они склонны к ошибкам, будь то по причине неисправности или
дискриминации, заложенной в инструмент: это известно как предвзятость.
В связи с этим в Общем регламенте по защите данных указано, что :
Субъект данных имеет право не быть подвергнутым решению, основанному исключительно на
автоматизированной обработке [...], имеющей юридические последствия для него или
существенно влияющей на него подобным образом".
- Статья 22 RGPD
Другими словами, человек должен оставаться хозяином положения, о чем говорится в докладе
CNIL об этических проблемах искусственного интеллекта, где рассматриваются вопросы
автономии и автоматического принятия решений.