Вы находитесь на странице: 1из 61
Безопасность детей в интернете: Международный опыт и вызовы для

Безопасность детей в интернете:

Международный опыт и вызовы для России

Л. Фенвик, А. Киселев, Д. Аносова, Д. Кот Под редакцией С. Грина

2012 Москва
2012
Москва
А. Киселев, Д. Аносова, Д. Кот Под редакцией С. Грина 2012 Москва

Безопасность детей в интернете: международный опыт и вызовы для России [Электронный ресурс] / под ред. С. А. Грина. М.: Центр изучения интернета и общества, Российская экономическая школа, 2012

С тех пор, как интернет сделал возможным быструю передачу текста и изо - бражений, законодатели, общественные активисты и представители интернет отрасли озабочены вопросом, как создать безопасный интернет для детей. Данный доклад создан, чтобы помочь заинтересованным сторонам в России извлечь самые ценные уроки из сложного международного опыта, при этом не поставив под сомнение необходимость найти эффективное решение в самой России.

Центр изучения интернета и общества

Российская Экономическая школа 117418 г. Москва, Нахимовский проспект, д 47, офис 1918 Тел.: +7 495 956 9508 newmedia@nes.ru http://www.newmediacenter.ru http://www.nes.ru

http://www.newmediacenter.ru http://www.nes.ru This work is licensed under a Creative Commons

This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivs 3.0 Unported License. To view a copy of this license, visit http://creativecommons.org/licenses/by-nc-nd/3.0/ or send a letter to Creative Commons, 444 Castro Street, Suite 900, Mountain View, California, 94041, USA.

Содержание

Введение в тематику

4

Обзор законодательства

6

Системы фильтрации: особенности и проблемы

14

Фильтрация и «черные списки»

25

Системы маркировки и рейтингов

32

Саморегулирование и списочная фильтрация

36

Системы фильтраций и проблема гражданских свобод

45

Выводы и рекомендации

49

Введение в тематику

4

За последние 15 лет многие государства и представители гражданского общества предпринимали разные шаги, чтобы защитить несовершеннолетних

в Интернете. По крайней мере, исследования в США показывают, что дети нахо - дятся в большей безопасности в Интернете, чем это было на рубеже веков. 1 Дети, тем не менее, по-прежнему подвергаются риску в Интернете. 2 В ряде исследований установлена распространенность подверженности детей воздей -

ствию потенциально опасного контента. Валке и др. (2008) обнаружили, что 40,7 процента детей от 10 до 12 лет во Фландрии (по выборке из 1700 респондентов

в возрасте от семи до 12 лет) сталкивались с порнографией, насилием, расиз-

мом или ненавистью в Интернете. 3 В выборке из Великобритании 57% из 1511 несовершеннолетних от девяти до восемнадцати лет, которые пользовались Интернетом хотя бы раз в неделю, просматривали порнографию. 4 Многие дети и подростки также сообщали, согласно опросу Yahoo!, проведенному в авгу - сте 2011 года, что они обеспокоены и думают о безопасности в Интернете. По шкале от одного до пяти (где пять указывает на «крайне обеспокоен / много думаю [о безопасности в Интернете]», а один указывает» Совсем не обеспо- коен / совсем не думаю об этом [онлайн-безопасности]»), 36 процентов от 10 до 12-летних сообщили об оценке четыре или пять. Это сопоставимо с 45 про- центами подростков в возрасте от 13 до 17 лет. 5 Отчет компании Нортон 2010

года о проблемах Интернета в семье, на основе опроса 7000 взрослых и 2800 детей в возрасте от восьми до семнадцати лет в 14 странах, показал, что около двух третей детей имели «негативный опыт» в Интернете. 6 Пожалуй, самым исчерпывающим и широким исследованием является Интернет-опрос детей Европейского Союза (ЕС), проведенный в 25 странах с 2009 по 2011 гг. среди 25000 детей и подростков в возрасте от девяти до шестнадцати лет. 14 про- центов опрошенных видели некоторые сексуальные изображения в Интернете,

в то время как 12 процентов от 11 до 16 лет видели сайты, пропагандирующие ненависть, 10 процентов видели сайты, пропагандирующие анорексию, семь процентов видели сайты, пропагандирующие нанесение себе повреждений,

семь процентов - форумы про наркотики и пять процентов - сайты самоубийств. 7 В целом, 21 процент подростков от 11 до 16 лет просмотрели как минимум одну из этих категорий контента. 8 Для решения проблем онлайн безопасности детей существуют как законодательные, так и иные методы. В России, после приня- тия Государственной Думой и подписания Президентом Дмитрием Медведевым

в конце 2010 года закона № 436 «О защите детей от информации, наносящей

вред их здоровью и развитию» и приятия в июле 2012 года пакета поправок к нему и некоторым другим актам, с 1 ноября 2012 года планируется введение системы «ручной» фильтрации интернета в России, нацеленное в основном

Введение в тематику

на предотвращение распространения детской порнографии и информации о наркотиках и суицида. 9 Тем временем, продолжается обсуждение введения систем автоматизированной фильтрации. Целью данного исследования явля - ется изучение передовой международной практики, с тем, чтобы лучше осве - тить положения и последствия законотворческих инициатив в России. Были исследованы двенадцать стран: Бразилия, Канада, Китай, Франция, Германия, Индия, Индонезия, Япония, Южная Африка, Турция, Великобритания и США. В этой выборке представлены развитые страны Северной Америки (Канада, США), Европы (Франция, Германия, Великобритания) и Азии (Япония), а также страны с развивающейся экономикой в Азии (Китай, Индия, Индонезия), Азии/ Европе (Турция), в Южной Америке (Бразилия) и Африке (Южная Африка).

5

В исследовании рассматриваются законодательные подходы к усилению безопасности детей в Интернете. В Интернете существует целый спектр потен - циально опасных (агрессивных /предосудительных и т.д.) для несовершеннолет - них материалов, от незаконных (таких, как детская порнография) до разрешен - ных законом (например, порнография). 10 Почти все государства предусматри- вают уголовную ответственность за производство, распространение и хранение детской порнографии, в то время как другой контент остается законно доступ- ным для пользователей. 11 В некоторых странах имеются законы против других форм «непристойного» или «неуместного» материала.

Однако, учитывая трудности, связанные с запрещением всех форм потен - циально опасного контента, появились различные меры саморегулирования, совместного регулирования и цифровой грамотности с целью содействия без - опасности детей. В данной работе описаны четыре метода, которые в какой-то мере имеют отношение к России: отраслевые организации и этические кодексы; информационные и просветительские программы, а также горячие линии для сообщения о предположительно незаконном содержании; и технические меры, в том числе фильтры и оценка содержания. Существует, к сожале - нию, мало литературы об эффективности того или иного механизма (причина) для достижения онлайн-безопасности несовершеннолетних (следствие), в то же время исследования в развивающихся странах также весьма скудны. 12 В недав - нем докладе, опубликованном Институтом безопасности семьи в Интернете (FOSI) и Директорией глобальных ресурсов и информации (GRID), эта литера - тура охарактеризована следующими словами:

В целом, нехватка исследований, качественных и количественных, является самым большим препятствием для развития более глубокого понимания того, как технология влияет на жизнь детей, как положительно, так и отрицательно. 13

Обзор законодательства

6

Во всем мире, законодатели озабочены защитой детей от угроз их физиче-

скому и психологическому здоровью и благополучию. В этой связи, постоянно

и повсеместно принимаются законы и иные правила, регламентирующие нахож-

дение несовершеннолетних граждан в общественных местах, в транспорте,

и в прочих контекстах, где потенциально могут возникать угрозы. Издавна

и широко принято относить средства массовой информации к тому списку,

и с развитием интернета неудивительно, что законодатели обратили внимание

и на эту чрезвычайно динамичную и специфическую среду.

Ниже представлен обзор наиболее знаковых и прецедентных законода -

тельных инициатив в ведущих экономических и политических державах мира,

в том числе среди так называемых развивающихся стран и стран «БРИКС»

(Бразилия, Россия, Индия, Китай, ЮАР). Короткое резюме данного законода - тельного ландшафта предоставлено в Таблице 2.1.

Примечательно, в особенности, три момента:

Во-первых, главная угроза, на которую обращают внимание законода - тели – создание и распространение порнографического контента с участием или изображением несовершеннолетних, а также противоправные действия

в отношения детей, сопряженные с этими процессами. Во всех рассмотрен -

ных здесь странах предусматривается уголовная ответственность, по крайней мере, за производство и распространение детской порнографии в коммерческих целях. Существует множество других материалов, которые могут быть признаны

оскорбительными или непристойными для несовершеннолетних, из них которые

– с некоторыми исключениями – не являются регламентируемыми законом.

Во-вторых, практически во всех странах, законодательство и правоохрани -

тельная практика в защиту детей в интернете, в том числе в том, что касается детской порнографии, опирается прежде всего на существующие «оффлайн» законы и практики. Законы и правила, принятые в отношении интернета, чаще всего обеспечивают техническую ясность в отношении процедур и подходов к расследованию и преследованию противоправных действий совершенных

в интернете. Крайне редко законодатели создают законы и правила относящи- еся исключительно к интернету.

Обзор законодательства

И в-третьих, подход к урегулированию детской безопасности в интернете совпадает в целом с принятой в той или иной стране традицией урегулирования информационного пространства в целом. Там, где эта традиция сильно ограни- чена (например, в США, Великобритании, Франции, ЮАР, Бразилии, Германии), законодатели редко выходят за рамки строгой защиты детей от прямых угроз сексуального характера, и иные категории контента остаются в целом неурегу - лированными. Там, где государственное вмешательство и цензура имеют более глубокие корни, и где государство традиционно старается организовать инфор- мационное пространство в соответствии с той или иной официальной идео- логией (на пример, в Китае, Индонезии, Турцией и, отчасти, в Индии), наблю - даются намного более обширные попытки урегулировать безопасность детей в интернете.

7

Обзор законодательства

Юрисдикция

Детская порногра - фия и сексуальная эксплуатация несо - вершеннолетних

Иной контент сексу - ального характера

Контент насиль - ственного характе - ранасильственного характера

Иной нежелатель - ный контент

Европейский союз

Предписывает стра - нам-членам удалить контент Разрешает странам- членам препятство - вать распростране - ния контента

Не регламентируется

Не регламентиру - ется

Не регламентиру - ется

Франция

Уголовно преследует производство, хране - ние и распростране - ние контента ИП обязаны сообщить пользова - телям о доступных фильтрах ИП обязаны сооб - щить полиции о незаконном контенте

Не регламентируется

Не регламентирется

Не регламентиру - ется

Германия

Уголовно пресле-

KJM отслеживает

KJM отслеживает

KJM отслеживает и наказывает производителей и распространителей, которые прицельно предоставляют детям контент, воз - буждающий нена- висть или насилие, или приуменьшая преступления нацистского режима

дует производство,

и

наказывает

и наказывает производителей и распространителей, которые прицельно предоставляют детям контент, про - славляя насилие

хранение и распро - странение контента KJM мониторит

производителей и распространителей, которые прицельно

и

преследует про -

изводителей и рас - пространителей Система принуди - тельной фильтрации не введена, отме- нена законом

предоставляют пор - нографию детям

Великобритания

Уголовно преследует производство, хране - ние и распростране - ние контента

Не регламентируется

Не регламентиру - ется

Не регламентиру - ется

США

Уголовно пресле-

CIPA обязывает

Не регламентиру - ется

Не регламентиру - ется

дует производство,

учреждения, получа - ющие федеральное

хранение

   

и

распространение

финансирование (школы, библиотеки,

и

тд) фильтровать на

контента DOCA обязывает ИП сообщить властям о незаконном контенте

предмет порнографи -

ческого контента

8

Обзор законодательства

Канада

Уголовно пресле- дует производство, хранение и распро - странение контента, а также преднаме - ренный доступ Суды могут поста - новить удаление контента ИП и другие интернет компании обязаны сообщить властям о незакон - ном контенте

Не регламентиру-

   

ется

Не регламентиру - ется

Не регламентиру - ется

Япония

Уголовно пресле-

Не регламентиру-

Не регламентиру - ется

Требует верифи - кацию возраста для использования сайтов знакомств и других подобных сервисов

дует производство

ется

и распространение

 

контента

Бразилия

Уголовно преследует производство, хране - ние и распростране - ние контента

Не регламентиру-

Не регламентиру - ется

Не регламентиру - ется

ется

Индия

Уголовно преследует производство, хране - ние и распростране - ние контента

Полиция имеет право расследовать, кон - фисковать и удалить «непристойный» контент

Не регламентиру - ется

Полиция имеет

право расследовать,

 

конфисковать и

удалить контент,

 

создающий угрозу

 

для национальной

безопасности или

общественного

порядка

Индонезия

Уголовно преследует производство, хране - ние и распростране - ние контента

Широкий запрет на «непристойный» контент

Не регламентиру - ется

Не регламентиру - ется

ЮАР

Уголовно преследует производство, хране - ние и распростране - ние контента

Запрещает прицель - ное распространение порнографического контента несовер - шеннолетним

Не регламентиру - ется

Не регламентиру - ется

Турция

Уголовно преследует производство, хране - ние и распростране - ние контента Суды могут постано - вить удалить неза - конный контент

Суды могут постано - вить удалить контент сексуального или «непристойного» характера

Суды могут постано - вить удалить контент насильственного характера

Суды могут поста - новить удалить контент содержащий пропаганду азартных игр, суицида, нар - котиков или критику Ататюрка

Китай

Уголовно преследует производство, хране - ние и распростране - ние контента

Уголовно пресле- дует производство, хранение и распро - странение контента порнографического характера

Уголовно преследует

Уголовно преследует прицельное распро - странение несо - вершеннолетним контента изобража - ющего терроризм, азартные игры

прицельное распро - странение насиль - ственного контента

 

несовершеннолет-

ним

9

Таблица 2.1: Международный обзор законодательства в защиту детей в интернете

Обзор законодательства

Пример 1: Китай – Система тотальной фильтрации

10

В Китае существует целый лабиринт законодательства, регулирующий интернет. Статьей 11 Закона Китайской Народной Республики о защите несо - вершеннолетних 1992 года (с поправками 2006 года) задачей родителей / опе- кунов является профилактика вредных практик среди несовершеннолетних (в возрасте до 18 лет), в том числе интернет-зависимости. Статья 33 также возла - гает ответственность на государство за то, чтобы молодежь не развивала при- страстия к Интернету. При этом государство берет на себя обязательство спо- собствовать развитию технологий / услуг, которые служат этой цели, и «способ- ствуют здоровому развитию несовершеннолетних». Статья 34 предусматривает уголовную ответственность за продажу, аренду и / или распространение среди несовершеннолетних материалов, которые являются «пагубными для несовер - шеннолетних». Это включает в себя «аудиовизуальную продукцию, электрон - ные публикации и сетевую информацию о порнографии, насилии, убийствах, терроризме [и] азартных играх». Статья 31 предусматривает, что государствен - ные услуги Интернета не только доступны для несовершеннолетних, но и обе - спечивают «безопасные и разумные услуги» для их деятельности в Интернете. Коммерческие средства Интернета, которые предлагают материалы, не подхо - дящие для несовершеннолетних - в соответствии со статьей 36 - не могут уста - навливаться рядом с начальными и средними школами, и эти компании должны размещать уведомления о возрасте старше 18 лет и отвращать от них несо - вершеннолетних. 14 В марте 2010 года китайское Министерство культуры поста - новило, что онлайн-игры не должны содержать материалы, которые наносят ущерб физическому или психическому здоровью несовершеннолетних, или под - стрекают к действию против общественной морали и законов. 15

Китайское правительство, кроме того, решительно продолжает борьбу с порнографией в целом. Существует особо нетерпимое отношение к «развра - щающему» влиянию порнографических материалов на детей. В сентябре 2004 года Верховный народный суд и Верховная народная прокуратура опубликовали Интерпретации ряда вопросов по конкретному применению закона о рассмо - трении уголовных дел о производстве, воспроизведении, публикации, продаже и распространении порнографической электронной информации через Интер - нет, терминалы мобильной связи и станции звуковых сообщений. Интерпрета - ция применяет положения Уголовного кодекса, относящиеся к производству, воспроизведению, публикации и продаже или распространению порнографи - ческих материалов с целью получения прибыли в интернете. Статья 3 пред - усматривает уголовную ответственность за производство, воспроизведение, публикацию и продажу или распространение порнографических материалов не для получения прибыли в интернете, хотя количество материалов, необхо - димых для уголовного обвинения, выше в данном случае, чем это установлено для коммерческих поставщиков. Статья 6 предусматривает более суровое нака - зание (чем статьи 363 и 364 Уголовного кодекса) для физических лиц, которые участвуют в вышеперечисленных видах деятельности и вовлекают несовершен - нолетних в сам процесс или продают/распространяют это среди них. 16 В сентя- бре 2005 года канцелярия Госсовета и Министерство информационной промыш-

Обзор законодательства

ленности приняли Положение об администрировании информационных услуг для Интернет новостей. Статья 19 запрещает 11 категорий контента, включая, в пункте шесть, «распространение непристойности, порнографии, азартных игр, насилия, террора или подстрекательство к совершению преступления». 17

11

В других случаях порнографию регулирует Уголовный кодекс 1979 года

(пересмотрен в 1997 году) (статьи 363-367). В соответствии со статьей 152, лицам, причастным к контрабанде порнографических материалов с целью получения прибыли и / или распространения, грозит штраф и лишение сво - боды на срок от трех до десяти лет. Имеются смягчающие обстоятельства, изложенные в статьях 152 и 153. Помимо контрабанды, производство, копиро- вание, публикация, продажа и распространение порнографических материалов с целью получения прибыли является незаконным в соответствии со статьей 363, по которой виновным лицам грозит лишение свободы на срок до трех лет. Статья 364 идет еще дальше и, «если обстоятельства серьезны», предусматри- вает уголовную ответственность за распространение порнографических матери- алов. Публичный показ порнографии также является незаконным в соответствии со статьей 364, в то время как более жесткие наказания ждут преступников, которые производят или копируют порнографические аудиовизуальные матери- алы и организуют их просмотр. Распространение порнографических материалов среди несовершеннолетних влечет за собой более суровое наказание. 18

В Китае ISC по согласованию с правительством создал в июне 2004 года

Китайский центр жалоб на незаконные материалы в Интернете. Граждане могут подавать жалобы в Центр через сайт www.net.china.cn. Одной из заявленных целей Центра является «защита общества, в частности, несовершеннолетних, от влияния незаконной и вредной информации». В частности, Центр «глав - ным образом занимается противодействием контенту, вредному для здорового развития несовершеннолетних, такому как неприличные и порнографические материалы, игры с элементами насилия, терроризма, пособничеству в совер - шении преступлений, а также контенту, распространяющему расовую нена - висть, материалам клеветнического и оскорбительного характера, материалам, нарушающим права других лиц и права интеллектуальной собственности». Со времени возникновения Центр получил свыше 30.000 жалоб. 19 В офици- альном докладе, опубликованном правительством в июне 2010 года, также содержится упоминание других аналогичных организаций, включая сайт жалоб на сетевые преступления, центр по приему жалоб на вредную сетевую инфор- мацию и спам, а также центр по противодействию порнографии и приему жалоб на нарушение авторских прав. 20 При этом в официальном докладе также указы - вается на содействие государства в деле распространения «сетевых средств» и финансируемых государством образовательных модулей, предназначенных для укрепления безопасности несовершеннолетних в Интернете. Примером последних является программа образования для матерей. 21

Обзор законодательства

Пример 2: Турция – скользкий путь

12

В Турции, в апреле 2011 года, Бюро телекоммуникации связи (TIB) – основ- ной орган, уполномоченный следить за исполнением Закона № 5651 – предпри- няло попытку ввести фильтрацию по ключевым словам. Согласно этому плану, ИП и хостинг-провайдеры были обязаны блокировать сайты, которые показы - вают поиски, относящиеся к 138 ключевым словам. Основной целью было огра - ничить порнографию, и в перечень вошли слова и словосочетания «Адриана», «свободный», «жир», «пик» , «запрещенные турецкие слова», а также «юбки», «животные», «сестра жены» и немецкое слово «Verbot» (запрет). В связи с этим, Совет информационных технологий (BTK) – связанный с офисом премьер- министра – запланировал введение новой системы фильтрации в рамках про- цедур и принципов, касающихся безопасного использования Интернета на 22 августа 2011 года. Система находится в предполагаемой связи с Положением о правах потребителей в сфере электронной связи, опубликованным 28 июля 2010 года, которое предусматривает параметры для взаимодействия произво - дителя/оператора и потребителя, которое направлено на «безопасное исполь - зование Интернета» - которое закреплено как право потребителей. В качестве «положения о защите прав потребителей», система обязывает интернет-поль - зователей предоставлять контент для фильтрации, прежде чем они получат доступ к Интернету. Система изначально имела четыре различных параметра:

семья, дети, домашние дела и стандарт. Тем не менее, BTK отложило введение процедуры до 22 ноября в ответ на протесты гражданского общества и СМИ. Новый вариант положения появился 16 сентября. Он постановил, что система фильтрации будет «добровольной» (интернет-пользователи не обязаны уста - навливать программное обеспечение для фильтрации на своих компьютерах), и что будет две версии программы: для взрослых, которые могут получить доступ к сайтам, не находящимся в черном списке, и детей – которые могут получить доступ только к сайтам, утвержденным BTK. Система вступила в силу, как и планировалось, 22 ноября. Самая большая проблема с «добровольным» ярлыком, в любом случае, это то, что ИП, которые решили не предлагать про- граммы фильтрации, поступают против BTK и государства. То есть, существует значительное давление на всех ИП, чтобы они предлагали «добровольные» фильтры для пользователей. Больше всего беспокойства вызывает отсут- ствие третьего варианта для пользователей, с помощью которого лица имели бы доступ в интернет без фильтрации.

Пример 3: Европа – взаимодействие юрисдикций

Решения Европейского совета 2000/375/JHA от 29 мая 2000 года и 2004/68/ JHA от 22 декабря 2003 года направлены на противодействие сексуальной экс- плуатации детей и детской порнографии в Интернете. Оба содействуют раз - витию сотрудничества между государствами-членами, кроме того, во втором документе описано минимально необходимое национальное законодательство. Также недавно появилось предложение «Директивы Европейского Парламента

Обзор законодательства

и Совета по борьбе с сексуальным насилием, сексуальной эксплуатацией детей

и детской порнографией, отменяющие Рамочное решение 2004/68/JHA». 22 Компромиссный проект, впервые представленный Европейскому парламенту

в марте 2010 года, был согласован в июне 2011 года, а 27 октября 2011 пар-

ламент утвердил это предложение. 23 Государствам-членам остается ратифи- цировать этот документ и принять его резолюции. Директива предназначена для замены и укрепления положений Рамочного решения 2004/68/JHA, с целью предотвращения жестокого обращения с детьми и его преследования, а также усилению защиты жертв. Существенными среди положений Директивы явля -

ются информационные кампании и наращивание потенциала путем подготовки специалистов (оба в Статье 19), кроме того, на государства-члены возлагаются обязательства удалять любую детскую порнографию, размещенную на их соот - ветствующих территориях, а также сотрудничать с другими государствами,

в которых такой контент размещается на международном уровне (статья 21). О блокировании контента, в частности, статья 21 гласит:

13

Государства-члены могут принимать меры, чтобы блокировать доступ к веб-страницам, содержащим или распространяющим детскую порнографию среди пользователей Интернета на своей территории. Эти меры должны быть установлены прозрачными процедурами

и должны обеспечивать соответствующие гарантии, в частности для того,

чтобы ограничения оставались в пределах того, что является необходимым

и соразмерным, и чтобы пользователи информировались

о причине ограничения. Эти меры включают также возможность судебной защиты. 24

Наконец, важно отметить, что Директива об электронной торговле 2000/31/ ЕС (разделы 44-46) Европейского Парламента предусматривает также ответ - ственность ИП только в определенных случаях, когда поставщик информации осведомлен о передаче незаконного содержания. 25

Системы фильтрации:

особенности и проблемы

Введение

14

Как упомянуто выше, многие страны – то ли на уровне государства, то ли усилиями интернет-отрасли и общественности – предпринимают попытки ограничить доступ детей к различным нежелательным для их просмотра мате - риалам. Подобные инициативы принимают форму либо автоматизированной фильтрации, либо ручной фильтрации (так называемый «списочный метод»). Данная глава попытается разобраться в технической стороне фильтрации в целом, а затем в аспектах автоматизированной фильтрации более подробно. Анализ ручной фильтрации будет представлен в последующих главах в разных его вариантах.

Ключевая разница между автоматизированной и ручной фильтрации заключается в моменте принятия решения о том, показать или блокировать тот или иной контент. При ручной фильтрации, это решение принимается заранее и с участием людей. Тут возможны разные варианты: можно создать черные списки запрещенных к просмотру сайтов, или белые списки допущенных к про- смотру сайтов; можно создать систему маркировки, присваивая каждому сайту рейтинг «пригодности», обычно связано с возрастными категориями. В любом случае, система априорная и реактивная, железно блокируя доступ к сайтам о которых заранее известно, что он содержат «плохой» контент. В то же время, автоматизированные методы гибкие и проактивные, позволяя блокировать доступ пользователя к нежелательному контенту при помощи лингвистического анализа текстов, а также алгоритмического анализа статических и динамич- ных изображений. При этом, фильтрация происходит при каждом уникальном запросе данных (проще говоря, контента) – запрашиваемый контент сначала обрабатывается фильтром, а затем либо показывается пользователю, либо не показывается.

Между тем, главное различие между подходами к фильтрации, невзирая на то, какое техническое решение принято, касается не самих систем, а точек их применения. Фильтр может быт установлен на уровне государства (или, что равносильно, принудительно на уровне магистральных провайдеров), или на уровне индивидуального пользователя (точки доступа).

особенности и проблемы

Системы фильтрации:

От этого выбора зависит многое, в том числе прозрачность и подотчетность

системы, безопасность ее применения, и то, на чьи плечи ляжет вычислитель - ная нагрузка (то есть, на провайдера или на пользователя). Как покажем в этой

и дальнейших главах, все эти моменты имеют прямые последствия для эффек-

тивности системы в деле защиты детей, для свободы слова, и для экономиче- ского производства.

15

Примеры применения и технические особенности

Независимо от того, фильтруется ли контент автоматизировано или вруч - ную, если же фильтрация происходит на верхнем уровне, то существует три распространенных способа фильтрации – IP-адресов, DNS (системы доменных

имен) и URL – помимо контроля сетевых пакетов и различных гибридных техно - логий. 26 Фильтрация IP-адресов и DNS, в частности, вызывает проблему избы- точной блокировки. Блокировка IP-адреса эффективно предотвращает доступ

к предполагаемой ссылке, а ИП могут реализовать ее прямо на международных

межсетевых шлюзах или поблизости от них. 27 Это обычно простейший и самый дешевый способ фильтрации, так как почти не требует дополнительного опыта

и аппаратных средств. Система фильтрации IP-адресов может привести

к избыточной блокировке, так как делает недоступными другие страницы, раз -

мещенные на целевом сервере. Так, в Китае блокируется не менее, чем триста адресов. 28 Что касается фильтрации DNS – наиболее распространенной формы

фильтрации – то ИП может настроить работу своего DNS сервера таким обра- зом, чтобы он не выдавал запрашиваемый IP-адрес пользователю при получе - нии соответствующего запроса. 29

В Индии фильтрация DNS применяется чаще, чем фильтрация IP-адресов,

в основном, для ограничения доступа к контенту, угрожающему ее безопасно -

сти (скажем, к подрывному сектантскому материалу). В этом случае ИП Bharti выдает недействительный IP-адрес 0.0.0.0. 30 Одной из существенных проблем фильтрации DNS тоже является то, что цензуре подвергаются все страницы блокируемого домена, а не только URL, несущие незаконный контент. Фильтра - ция DNS также приводит к недостаточной блокировке: она не блокирует URL, содержащий IP-адрес, несмотря на то, что этот URL может сам по себе нести незаконный контент. 31 Однако, метод фильтрации DNS все-таки не столь гру -

бый, как фильтрация IP-адресов (так как один и тот же сервер может содержать несколько доменов). 32 В частности, в прошлом фильтрация DNS применялась

в Турции и Бразилии в целях блокировки домена YouTube. 33 В Турции также

использовалась фильтрация по ключевым словам методом URL (см ниже). В системе фильтрации против распространения детской порнографии (Child Sexual Abuse Anti-Distribution Filters или CSAADF) используется засорение кэша DNS – эта система действует в таких странах, как Дания, Финляндия, Италия, Мальта, Норвегия, Швеция, Швейцария и Новая Зеландия. В странах-участни - цах CSAADF феномен избыточной блокировки считается не проблемой, а ско - рее преимуществом, так как оказывает сдерживающее воздействие на владель - цев доменов. 34

особенности и проблемы

Системы фильтрации:

Метод фильтрации URL позволяет избежать как избыточной, так и недо - статочной блокировки, так как блокирует доступ к одной-единственной стра - нице с противозаконным содержанием. Это (наряду с блокировкой IP-адресов) применяется в Китае, где такая система анализирует определенные слова, содержащиеся в URL. 35 В Китае также используется контроль сетевых пакетов (значений хэш-функции), позволяющая анализировать контент и сканировать изображения. 36 Но у метода URL тоже есть свои недостатки: его реализация все более осложняется в связи с ростом числа пользователей, что представляет особую проблему для развивающихся стран; кроме того, его применение против определенного контента, например, порнографии, нельзя назвать эффектив- ным, а формирование «черного списка» URL представляет собой трудоемкий процесс. Наконец, подобно методам IP и DNS, технически подкованные пользо - ватели могут легко обойти фильтры, блокирующие URL. 37

16

В самом деле, комментаторы едины в своем мнении, что пользователи могут легко обойти механизмы фильтрации, используя такие средства, как ано - нимайзеры, прокси-серверы (рекурсивные преобразователи в случае фильтра - ции DNS или кодированные прокси-серверы в случае фильтрации URL), либо пиринговый обмен файлами. 38 Это справедливо в отношении даже сложной системы, применяемой в Китае. С точки зрения провайдеров контента филь- трация IP, DNS и URL тоже может быть малоэффективной. Например, системы CIRCAMP и Cleanfeed блокируют удаленные пункты, а не сам контент. 39 Поэтому для того, чтобы обойти блокировку, провайдер контента может просто перене - сти материал на другой IP-адрес, домен и/или URL. Это, однако, не проблема для системы блокировки по значениям хэш-функции, используемая Facebook

и AOL, где контент анализируется независимо от удаленного пункта. 40 Эта техно - логия фильтрации по значениям хэш-функции (или глубокий контроль сетевых пакетов) считается наиболее эффективной формой фильтрации, но и самой затратной и при этом ее тоже нельзя назвать эффективной на 100%. 41

Особенности применения систем фильтрации на негосударственном уровне

Существуют определенные проблемы, касающиеся негосударственных систем и взаимоотношений между фильтрацией и правами человека. Если в Европе надзор за системой фильтрации CIRCAMP DNS осуществляют право - охранительные органы, то в Великобритании контролем Cleanfeed занима - ется частная организация, что создает проблему легитимности, прозрачности

и подотчетности. 42 В Великобритании, как и в других странах Европы и Север -

ной Америки, у фильтрации нет законодательной основы – есть только «неофи -

циальная политика и обязательства»; существует мнение, что такая политика означает отказ государства от своих обязательств в отношении Интернета. 43 При этом ни Cleanfeed, ни CIRCAMP не находятся в ведении правоохрани - тельных органов, а прозрачный процесс работы с жалобами отсутствует. 44 Тем самым, «взаимоотношения блокировки» существуют только между конечным пользователем и ИП; места для конституционного и публичного права прак-

особенности и проблемы

Системы фильтрации:

тически не остается. 45 Поэтому решения, которые принимаются в отношении фильтрации – которые для некоторых являются аналогом частной цензуры – не видны общественности и находятся вне сферы законодательных и судебных решений. 46 В Великобритании, где «черные списки» сайтов не публикуются, лица, ответственные за формирование этих списков, также не разглашаются. 47

17

Фильтрация на уровне конечного пользователя

Системы фильтрации на уровне конечного пользователя, несмотря на отсутствие их связи с обусловленной требованиями государственных органов фильтрацией на уровне ИП, также является малоэффективной. 48 По данным исследований, опубликованных в период 2001-2003 годов, соответствующее программное обеспечение способно блокировать 10-30% вредного контента. 49 В проведенном в США в 2005-2006 годах исследовании поисковых систем Google and MSN, где рассматривались 685 самых популярных результатов поиска в AOL, MSN и Yahoo!, использовались 15 вариантов фильтров и их пара- метров. При этом обнаружилось, что, независимо от поисковой системы, фильтр блокировал 22,1 безопасных страниц на каждую страницу взрослого контента, заблокированную в Google, и 23 на каждую страницу взрослого контента, забло - кированного в MSN. Что же касается «самых популярных» результатов поиска, то по каждому верно оцененному результату поиска взрослого контента система блокировала 1,1 безопасный результат. При стандартном поиске указанное значение увеличивается до 7,6 безопасных результатов, которые блокируются на каждый результат поиска взрослого контента. 50 В докладе немецкой органи- зации Jugendschutz im Internet за 2010 год указывается, что вредных материа - лов не было на каждом пятом сайте, заблокированном при помощи программ добровольной фильтрации. При этом единственным удовлетворительным (befriedigend) результатом было то, что фильтры блокировали порнографи- ческий или сексуальный контент почти полностью. В других случаях они про- пускали каждый второй сомнительный сайт. На деле «за последние пять лет заметных улучшений [в эффективности технологий фильтрации] не произо - шло». 51 Но это еще не все: как отмечает турецкий исследователь Яман Акдениз, многие фильтры для конечных пользователей не дают родителям права выбора, а навязывают стандарты разработчиков программного обеспечения. При этом фильтрация обладает ограниченной функциональностью, так как не делает раз - личий между типами коммуникационной среды – чатом, пиринговыми сетями, серверами, которые используют протокол передачи файлов (FTP), и техно - логиями IP-телефонии (VoIP). 52 Наконец, в некоторых работах указывается на то, что программное обеспечение для цензуры в социальном плане приносит больше вреда, чем пользы. 53 Установка систем фильтрации или родительского контроля может подорвать атмосферу доверия между родителями и детьми, зато пассивный контроль родителей укрепляет эту атмосферу, а также содей - ствует диалогу и независимости детей, что приводит к более благоприятному когнитивному и эмоциональному развитию. 54

особенности и проблемы

Системы фильтрации:

Экономические аспекты фильтрации

18

Введение систем фильтрации информации в среде Интернет может серьезно отразиться на скорости Интернет-соединения, которое в России и так не на высоком уровне (об этом см. ниже). Так, исследование, посвящен - ное проблеме введение цензурирования информации в Австралии указывает, 55 что введение фильтрации приведет к снижению Интернет скоростей как мини- мум на 20%, что, в свою очередь, приведет к снижению производительности компаний, чья деятельность так или иначе связана с Интернетом.

Прямые издержки поддержки систем фильтрации – издержки осуществле - ния фильтрации, наем обслуживающего персонала и сотрудников call-центров – вероятнее всего будут переложены на потребителей. Падение скоростей нега - тивно отразиться на производительности малых и средних фирм – просто из-за снижения скорости выполнения операций онлайн.

Снижение скорости может свести на нет предыдущие успехи, достигнутые

увеличением скоростей. По мнению экспертов, 56 увеличение скорости доступа

в той же Австралии посредством широкополосного доступа могло увеличить

ВВП на величину от 12 до 90 млрд долларов (по состоянию на 2003 г.). Логично

предположить, что эффект от снижения скоростей будет обратным, создавая, если не прямые утери, то совершенно конкретную упущенную выгоду.

Наряду с фирмами потребители интернет-услуг являются одной из основ - ных групп, которая будет затронута в результате приведения в жизнь закона «О защите детей от информации, причиняющей вред их здоровью и развитию». Для начала рассмотрим общую ситуацию с развитием Интернета в России.

Согласно индексу e-intensity, оцениваемому компанией BCG и призванному определять и сравнивать уровень использования интернета, базируясь на трех показателях: доступности интернета, объеме продаж через интернет и актив- ности пользователей, Россия отстает от стран ОЭСР, однако является одним из лидеров среди активно развивающихся стран. 57 Региональные различия, тем не менее, очень существенны: Москва и Санкт-Петербург опережают все остальные регионы по значению индекса. 58

Об этом же говорят исследования Фонда Общественного Мнения (ФОМ):

в их исследовании «Мир Интернета» регионы России подразделены на 4 группы

по уровню проникновения интернета и потенциала роста его использования. В первой группе 15 регионов во главе с двумя городами федерального значе - ния; во второй группе – 16 субъектов, где при относительно высоком уровне проникновения интернета его возможности используются в малых объемах; третья группа, включающая 10 субъектов, отличается слабым уровнем проник-

новения и высокой активностью пользователей; в последней, четвертой, группе около 30 регионов со слабым уровнем проникновения и в целом пассивными пользователями. 59

19

особенности и проблемы

Системы фильтрации:

Рис. 1. Степень проникновения Интернета по регионам России

Интернета по регионам России Источник: проект «Мир

Источник: проект «Мир Интернета», опрос МегаФОМ – июнь 2011.

*Значения долей месячной аудитории для Ненецкого автономного округа, Республики Ингушетия, Чеченской Республики, Чукотского автономного округа представляют прогнозные значения регрессионной модели.

По оценкам авторов «между регионами-лидерами и регионами-аутсайде - рами сохраняется более чем двукратная разница по показателю доли месяч- ной интернет-аудитории (67–68% в двух столицах против 29% в Тыве или 34% в Мордовии)» 60

В целом по данным исследования средний российский показатель про - никновения Интернета составляет 48% 61 , при этом продолжается активный рост интернет аудитории. «По данным на второй квартал 2011 года общая числен -

особенности и проблемы

Системы фильтрации:

ность пользователей среди населения старше 18 лет составляет около 55 млн. человек, рост за квартал составил около 7%». 62

20

Являясь не только потребителями, но и производителями контента в среде Интернет, обычные пользователи первыми почувствуют на себе влияние дей- ствия закона в той или иной его форме. Согласно оценке экспертов BCG 63 , поль - зователи являются важной частью стека. Производство контента в их случае заключается в активности на различных ресурсах, в социальных сетях и блогах.

Рассмотрим основные возможные последствия приведения закона в жизнь для рядового пользователя сети Интернет.

Первый канал воздействия – тарифы на интернет-услуги. Необходимость внедрения систем фильтрации приведет к росту издержек интернет-провай-

деров. Часть издержек будет переложена на пользователей интернет-услуг,

в результате произойдет рост тарифов. Если рост окажется достаточно суще - ственным, небольшие интернет-провайдеры могут оказаться не в состоянии справиться с ростом издержек, что снизит уровень конкуренции в отрасли

в целом, что может еще привести к дальнейшему росту тарифов в силу частич-

ной монополизации отрасли. Рост тарифов хотя бы на 100 руб. в месяц приве - дет к совокупным потерям пользователей в размере 5,5 млрд. руб. 64 Негативные эффекты роста издержек пользования интернет-сервисами, видимо, в большей степени затронут регионы первой и третьей группы (по классификации, приво - димой в исследовании ФОМ «Мир Интернета») – области с наиболее активными пользователями. Рост тарифов может также привести к сокращению размеров интернет-аудитории. Негативные эффекты, вызываемые сокращением количе - ства пользователей интернет-услуг, будут более подробно рассмотрены в следу - ющей части обзора.

Однако введение фильтрации приведет не только к росту цен на интернет- услуги, но может снизить и их качество. Снижение интернет-скоростей, ложные срабатывания систем фильтрации (по некоторым оценкам степень ложного сра - батывания для наиболее эффективных систем фильтрации в среднем состав - ляет порядка 10000 сайтов на миллион, т.е. около 1% 65 (см. Рис. 2),

особенности и проблемы

Рис. 2. Результаты сравнения различных систем фильтрации 66

21

Системы фильтрации:
Системы фильтрации:

ограничение широты выбора и поиска информации, а также возможное ограничение свободы слова будут одними из факторов, оказывающих негативное влияние на качество интернет-услуг.

Еще одно из возможных последствий – снижение безопасности банков - ских данных, передаваемых через Интернет, доступ к которым будет возможен через систему фильтрации. В случае недостаточной защищенности системы опасения пользователей могут привести к значительному снижению интернет- продаж, а также степени использования банковских услуг через Интернет. Осу- ществление покупок и банковских операций через Интернет обычно связано с гораздо более низкими транзакционными издержками, следовательно, сниже - ние уровня безопасности данных приведет к снижению эффективности.

Помимо прочего, введение системы фильтрации приведет к росту вероят - ности сбоя системы. Для осуществления фильтрации потоки информации необ- ходимо централизовать, в результате, сбой в системе фильтрации может приве - сти к колоссальным потерям, т.к. затронет значительную часть информационных потоков. В настоящее время в мире наблюдается обратный тренд, а именно

особенности и проблемы

Системы фильтрации:

- децентрализация потоков информации с целью снижения вероятности сбоя системы и ожидаемого размера потерь в результате этого сбоя. 67

22

Однако, безусловно, наряду с негативными последствиями приведения в жизнь рассматриваемого закона, потребители ощутят на себе и положи- тельные эффекты. В первую очередь необходимо упомянуть ту часть насе -

ления, на которую, собственно, и направлен данный закон «О защите детей от информации, причиняющей вред их здоровью и развитию», а именно – дети

и подростки, а также их родители. Получаемые ими выгоды в основном нема -

териальны, поэтому не поддаются какой-либо количественной оценке. К числу этих выгод можно отнести: защита психического и морального состояния детей

и подростков, снижение беспокойства родителей, большая свобода детей и под -

ростков в пользовании Интернетом, т.к. при наличии фильтрации необходимость

непосредственного родительского контроля отпадает. В результате могу быть расширены возможности Интернета в сфере образования детей и подростков. Что касается материальной стороны вопроса, введение фильтрации снизит затраты тех родителей, которые уже сейчас активно пользуются специальными фильтрами, носящими название «родительский контроль», т.к. эти издержки теперь будут распределяться равномерно между всеми пользователями сети, а также интернет-провайдерами.

Предлагаемые в рассматриваемом законе изменения, безусловно, затро - нут интересы не только фирм и потребителей, но и государства в целом.

Во-первых, проведение мероприятий, указанных в законе, потребует зна - чительных бюджетных вливаний. Для сравнения, по словам сенатора Стивена Конроя, на введение плана по Интернет безопасности правительству Австралии потребуется потратить около 125.8 млн. долл. Учитывая различия в размерах стран и количестве пользователей (в Австралии по оценкам на июнь 2008 г. оно составляет около 7,23 млн. 68 ), для достижения аналогичных результатов затраты российского правительства должны быть в несколько раз выше.

Во-вторых, рост тарифов на интернет-услуги приведет к снижению числа пользователей, что означает снижение проникновения Интернета. Степень про- никновения Интернета – один из показателей, используемых ОЭСР для расчета индекса e-readiness, определяющего степень готовности страны к переходу

к информационному обществу, цели, к которой в настоящее время стремятся многие государства мира. 69

В-третьих, внедрение системы фильтрации с неизбежностью приведет

к снижению интернет-скоростей, что снизит качество интернет-связи. По данным

на второй квартал 2010 года по скорости интернета Россия занимает 27 место

среди 50 крупнейших по интернет-аудитории стран. Средняя скорость Интер - нета в России составляет 2,6 Мбит/с против средней скорости в 1,8 Мбит/с,

особенности и проблемы

Системы фильтрации:

рассчитанной по данным всех стран мира (см. Рис. 3). При этом порядка 80% пользователей получают доступ со скоростью от 256 кбит/с до 5 Мбит/с. 70

23

Многие авторы указывают на наличие положительной зависимости между

качеством коммуникаций и количеством инноваций, а также темпами экономи- ческого роста. 71 Согласно материалам Boston Consulting Group «в России вклад Интернета в национальный ВВП составляет $19,3 млрд. долл., или 1,6% ВВП. Вместе с тем эксперты полагают, что при условии развития инфраструктуры, логистики и законодательства этот показатель может существенно возрасти

в течение трех-четырех лет… Согласно оптимистичному сценарию, интернет-

экономика России в 2015 году может составить 3,7% от ВВП (или 5% от ВВП при исключении нефтегазовой составляющей), что приближается к уровню развитых стран». 72 В масштабах страны снижение интернет-скоростей также чревато падением конкурентоспособности и инвестиционной привлекательно - сти России. Для инвестора, раздумывающего о том, чтобы осуществить прямые или портфельные инвестиции в экономику России, снижение интернет-скоро - стей может значительно увеличить транзакционные издержки, что сделает Россию в его глазах куда менее привлекательным местом вложения средств.

Стоит также упомянуть тот факт, что внедрение системы фильтрации может привести к снижению свободы слова в России. При этом не стоит забы- вать о том, что Интернет играет важную роль в развитии прямой демократии

в России, 73 а значит, ограничение свободы слова в Интернете негативно ска -

жется на международном рейтинге России, что, в свою очередь, ухудшит инве - стиционный климат в стране.

особенности и проблемы

Системы фильтрации:

Рис. 3. Средняя скорость Интернета в 50 крупнейших по количество пользователей странах мира

24

в 50 крупнейших по количество пользователей странах мира 24

Фильтрация и «черные списки» в Великобритании, Германии и Франции

25

Великобритания, Германия и Франция являются тремя странами, в кото - рых интернет-контент может быть сначала занесен в черный список, а затем уже подвергнуться технологии фильтрации. В Великобритании, в то время как законодательство запрещает хранение, производство, распространение

и демонстрацию изображений детской порнографии (в соответствии с Зако -

ном об уголовном правосудии 1988 года, Законом о защите детей 1978 года

и Законом о сексуальных преступлениях 2003 года), нет никакой юридической

ответственности Интернет-провайдеров (ISP) по установке системы фильтра - ции для защиты несовершеннолетних в Интернете. Следуя выводам доклада Байрона от 2008 года, предпочтение отдается саморегулированию отрасли. В самом деле, большинство провайдеров установили системы фильтрации для блокирования контента с детской порнографией. British Telecom, например, использует систему, называемую «Cleanfeed», и действует по совету Фонда Наблюдения Интернета (IWF), который ведет обновляемый черный список сай- тов (по URL) и передает его интернет-провайдерам. Так, «Cleanfeed» блокирует содержание «черного списка», предоставленного Фондом, но активно не филь - трует его. Все крупные провайдеры в Великобритании, в настоящее время, уже применяют фильтрацию перечисленных сайтов из списка Фонда. В 2010 году Фондом были определены 16 739 «потенциально криминальных URL-адресов» с содержанием сексуального насилия детей из 43 190 рассматриваемых. Freedom House считает, что список IWF содержит от 500 до 800 живых ссылок в любое время, а OpenNet Initiative -- от 800 до 1200.

IWF ведет горячую линию для предоставления возможности пользовате - лям сообщать о нежелательном онлайн-контенте, который затем может быть внесен в черный список. После того, как сайт будет помечен, подготовленный «аналитик интернет контента» рассматривает все элементы изображения и кон - тента в целом, а также риски, присущие внесению в черный список. Процесс обозначен здесь. Размещенные на международном пространстве URL-адреса, (которые, следовательно, не могут быть удалены у истоков), но предлагаемые для черного списка, отправляются на рассмотрение комитета Совета. Комитет, состоящий по крайней мере, в соотношении два к одному независимому (пред - ставителю отрасли), решает, должен ли URL-адрес быть добавлен в черный список. Существует и «Аппеляционный процесс оценки контента». После того, как местный сайт был введен в черный список, IWF уведомляет об этом провай- деров и связывается с правоохранительными органами, после чего Интернет-

Фильтрация и «черные списки» в Великобритании, Германии и Франции

провайдеры обязаны удалить контент из своих сетей. Для незаконного кон - тента, хранящегося на международном пространстве, тоже существует черный список сайтов, который получают провайдеры, блокирующие контент. IWF также уведомляет различные организации охраны Интернета/организации горячих линий, основанных на той же юрисдикции, для возможной передачи в правоох- ранительные органы подозрительного контента. Это согласуется с принципами INHOPE по удалению источника. IWF не зависит от правительства Великобри- тании и существует от взносов со стороны ЕС и партнеров, включая Интернет- провайдеров, операторов мобильной связи, контент- и хостинг-провайдеров, фильтрационных и веб-поисковых компаний.

26

Что касается вопроса самого содержания, то практически все, что филь- труется Cleanfeed, является изображением детского сексуального насилия,

хотя британский регулятор Ofcom изучал идею о расширении прав Cleanfeed

и для охвата нарушения авторских прав. В декабре 2010 года Кинематографи-

ческая ассоциация (MPA) просила суд заставить British Telecom использовать Cleanfeed для блокировки одного файлообменного сайта, и Верховный Суд Великобритании приказал BT заблокировать сайт в октябре 2011 года.

Предпринимались попытки на законодательном уровне вносить сайты в черный список и блокировать содержание в Германии. Во-первых, 1 апреля 2003 года вступил в силу Межземельный Договор о Защите Несовершенно -

летних (Staatsvertrag über den Schutz der Menschenwürde und den Jugendschutz in Rundfunk und Telemedien – JMStV). Раздел 4, например, запрещает такой контент: подстрекательство к расовой ненависти, прославление насилия или войны, минимизацию зверств режима национал-социализма, демонстрацию сексуального насилия, насилия и скотоложства, призыв к убийствам, геноциду

и т.д. Раздел 5 учитывает такой контент, который может быть не незаконным,

но причиняющий вред несовершеннолетним. Комиссия по защите молодеж- ных средств массовой информации (KJM) имеет централизованный надзор за исполнением JMStV, и она может наложить санкции, которые применяются на государственном уровне. Она может рекомендовать блокировку сайтов, хотя окончательное решение стоит за Федеральным ведомством по защите моло - дежи от вредного контента (Bundesprüfstelle für Medien jugendgefährende - BPjM). Немецкие контент-провайдеры, уличенные в нарушении JMStV, будут преследо - ваться по закону, в то время как сайты будут внесены в черный список в соот - ветствии с разделом 24 статьи 5 Jugendschutzgesetz (JuSchG).

Во-вторых, Бундестаг ратифицировал закон в июне 2009 года, призванный препятствовать доступу к изображениям детского сексуального насилия - Закон о сокращении доступа к детской порнографии в сети (ZugErschwG). Согласно его положениям, Федеральное Криминальное Ведомство (Bundeskriminalamt - BKA) обязано составить «черный список» из доменных имен, IP-адресов и URL. Управление должно затем сообщить контент- и хостинг-провайдерам о «черных списках», и провайдеры с более чем 10000 клиентами, обязаны блокировать доступ к списку доменов, IP-адресов и URL-адресов, и перенаправлять поль -

Фильтрация и «черные списки» в Великобритании, Германии и Франции

зователей на «стоп-сигнал». Анонимный расчет пользователей, пытающихся получить доступ к заблокированным сайтам тоже должен вестись и направиться Интернет-провайдерам. Совет, состоящий из пяти «экспертов» должен встре - чаться четыре раза в год и решать, какие сайты блокировать.

27

Однако, несмотря на вступление ZugErschwG в силу 23 февраля 2010 года, Министерство внутренних дел посоветовало BKA отказаться от составле - ния черных списков. ZugErschwG затем был отменен в 2011 году и вычеркнут из законодательства в январе 2012 года. Несмотря на провал ZugErschwG, провайдеры все равно изымают материал с изображением сексуальных надру - гательств над детьми, по наводке горячих линий, которые составляют похожий список URL-адресов, как IWF в Великобритании (в соответствии с JMStV). Сами горячие линии – это Добровольный самоконтроль провайдеров мультимедиа (FSM), и Защита молодежи (все члены организации INHOPE). Аналитики прово - дят первоначальную оценку содержания перед передачей дела в соответству- ющие правоохранительные органы и информированием хостинг-провайдера (если размещение контента является местным). Если содержимое размещается

в другой стране, горячая линия будет информировать организации INHOPE

в той стране, или Интерпол, если INHOPE не представлен в данной стране.

Наконец, существует система фильтрации конечного пользователя, выпущен - ная BPjM, которая блокирует сайты из «черного списка» и которая используется

ИКТ-компаниями, являющимися членами FSM.

Франция, наконец, не имеет централизованной системы фильтрации, ни учрежденной законодательно, ни управляемой независимым учреждением. Статья 6, часть 1 Закона № 2004-575 июня 2004 года о поддержке доверия

в цифровой экономике, тем не менее, предусматривает, что все коммуникацион- ные провайдеры должны информировать абонентов о наличии программ-филь- тров, которые могут быть применены к любому аккаунту по запросу. Провай- деры также обязаны информировать правоохранительные органы о незаконном контенте, помещенном на их серверах.

Ассоциация Поставщиков связи и Интернет-услуг (AFA), созданная в 1997 году, представляет всю французскую отрасль ИКТ. В 1998 году AFA сформи- ровала Точку Контакта (Point de Contact), информационный сервис, предна - значенный для противодействия изображений детского насилия, а также под - стрекательства к расовой ненависти. В июне 2004 года AFA подписала Хартию о продолжении «более эффективной» борьбы против подобного материала.

Для достижения этой цели в отрасли создана горячая линия для жалоб населе - ния (www.pointdecontact.net), чтобы обеспечить более широкий доступ к инфор- мации, относящейся к безопасности в интернете для несовершеннолетних, оперативно реагировать на жалобы, передавать соответствующую информацию

в правоохранительные органы, и вводить концепцию добровольной системы фильтрации.

Фильтрация и «черные списки» в Великобритании, Германии и Франции

Черные списки и процедура фильтрации аналогичны тому, что использу- ется в Германии и Великобритании: горячая линия принимает жалобы и инфор- мирует правоохранительные органы и провайдеров URL, содержащих неза - конные материалы. Если контент локально доступен, провайдеры удаляют его с серверов, если он размещен в международном пространстве, то блокируют URL и Точка Контакта направляет его координаты членам INHOPE в данной стране или правоохранительным органам.

Сходства и различия систем

28

Есть несколько существенных различий между черными списками и систе - мами фильтрации в Великобритании, Германии и Франции. Во-первых, филь- трация в Великобритании и Германии действует против изображения детской порнографии, в то время как французские провайдеры фильтруют «контент, наносящий вред человеческому достоинству», в том числе изображения дет - ской порнографии, «доступный контент, наносящий вред несовершеннолетним», а также подстрекательство к расовой ненависти, совершению преступлений, терроризма, самоубийств. Во-вторых, немецкое правительство пыталось зако - нодательно учредить черные списки (которые составляются Федеральным Криминальным Ведомством) и систему фильтрации. Франция и Великобритания не принимали подобные законы. Хотя закон ZugErschwG и прошел в 2009 году, он был осужден многими как неконституционный и никогда не был реализован так, как его предусматривали авторы. Он был отменен в январе.

Однако, есть среди этих стран и общая процедура «уведомления и уда -

ления», которая находится под контролем неправительственных организаций

и реализуется отраслью. Она включает в себя системы горячих линий, анализ

жалоб и их передачу Интернет-провайдерам и/или правоохранительным орга - нам. Если материал размещается локально, провайдеры стремятся удалить его источник.

Саморегулирование по-прежнему остается правилом в Западной Европе,

и многие ИКТ компании – не только Интернет-провайдеры – могут получить

доступ к черным спискам, составленным горячими линиями, и, соответственно, заблокировать содержание. Например, Vodafone предлагает фильтр «управле -

ние контента», который «препятствует доступу к контенту 18+ на Vodafone Live!

(Мобильный Интернет) и

ния доступа к сайтам рейтинга 18+». Эта технология блокирует сайты из черного

списка, составленного Internet Watch Foundation.

работает с Интернет-фильтрацией для блокирова -

Фильтрация и «черные списки» в Великобритании, Германии и Франции

Проблемы «черных списков» и систем фильтрации

29

Во-первых, существуют опасения по поводу эффективности черных спи- сков и системы фильтрации. Конечно, эффективность системы фильтрации зависит от цели каждой системы. URL фильтры, действующие в Великобри- тании, Германии и Франции, кажутся успешными в блокировании случайного доступа к подозрительным сайтам с предположительным изображением дет - ской порнографии. В 2010 году ученый из Швеции, где действует аналогичная система, как во Франции и Германии, опросил пятнадцать осужденных за сексу- альные действия с детьми для своего исследования и обнаружил, что большин - ство из них, если не все, признавались, что в состоянии обойти системы филь- трации, хотя согласились, что система может блокировать случайный доступ. Таким образом, в то время как фильтры эффективны в блокировании случай- ного доступа, они, кажется, неэффективны в отношении тех, кто именно наме- рен получить доступ к незаконному содержанию. Другие ученые пришли к тому же заключению. В конечном счете, система Cleanfeed, а также системы филь- трации в Германии и Франции, блокируют источник, а не сам контент. Произво - дитель такого контента может просто перемещать материал на другой IP-адрес, домен и / или URL, чтобы избежать блокировки, в то время как технически подкованные пользователи легко обходят фильтрацию. (Other technical/pratical drawbacks:URL blocking is increasingly difficult to implement as the number of users grow; it is inefficient in proceeding against a certain type of content, say pornography, while building a blacklist of URLs is labour-intensive.)

Что касается фильтрации в общем, есть опасения, касающиеся при- ватизированных систем и отношений между системой и правами человека. В Великобритании, IWF -- это независимая, неправительственная организация, а Cleanfeed -- инициатива отрасли, и они не опираются на законодательство, поэтому возникают вопросы о легитимности системы, ее прозрачности и подот- четности. Вместо законодательно прикрепленных отношений, есть только «силь - ная политика и неформальные связи»; некоторые считают, что это лишь показы - вает отречение государства от своей ответственности в Интернете. «Отношение

блокировки» обладает только между конечным пользователем и Интернет-про- вайдером; это оставляет мало место праву. И не только. Cleanfeed не имеет судебного контроля, и сама процедура не является прозрачной. Исходя из этого, решения по фильтрации для кого-то может просто считаться частной цензурой

и не ясны для общественности и не попадают под законодательный и судеб-

ный контроль. Наконец, понятно, что «черные списки» нигде не публикуются,

и ответственные за составление списка также не идентифицируются.

Утверждения, что системы фильтрации нарушают гражданские права поль - зователей, хорошо описаны исследователями. Один пример имел место в Вели - кобритании, когда в 2008 году IWF заблокировал страницу Википедии, кото - рая содержала обложку музыкального альбома немецкой heavy-metal группы Scorpions, потому, что на альбоме был изображен голый ребенок. В конечном счете, из-за публичного осуждения IWF исключила страницу из «черного спи-

Фильтрация и «черные списки» в Великобритании, Германии и Франции

ска». В Европе, несмотря на заигрывание с идеей блокирования в начале 2000-х годов, ЕС считает, что фильтрация и / или блокирование является проблемным методом действия против незаконного контента в Интернете, предоставляя наи- меньшую безопасность несовершеннолетним. В работе CM / Rec (2009) 5 Коми- тета Министров о «государствах-членах по мерам защиты детей от вредного контента и поведения, а также поощрения их активного участия в новой инфор- мационно-коммуникационной среде» от июля 2009 отмечается, что блокирова - ние веб-сайтов в целях обеспечения онлайн-безопасности для несовершенно - летних рискует стать нарушением 10 Статьи Европейской Конвенции по Правам Человека. В Германии, как было показано, парламент объявил ZugErschwG неконституционным. Также озвучиваются опасения и сомнения по поводу цен - зуры, легитимности и прозрачности процедур.

30

Но есть и преимущества. Наиболее очевидный и социально благотворный результат действия «черного списка» и блокировки в Великобритании, Германии и Франции является уменьшение количества случаев распространения детской порнографии или же просто случайного доступа к подобным изображениям. Метод фильтрации URL также позволяет избежать проблемы чрезмерной блоки- ровки, от которой страдает, например, DNS блокирование, так как оно часто пре- пятствует доступу к контенту, который может не быть незаконным, но находится на том же домене. (IP блокирование слишком сильно подвергает цензуре весь законный контент).

Фильтрация и «черные списки» в Великобритании, Германии и Франции

 

Великобритания

Германия

Франция

Имеет ли система филь - траций / «черных списков» законодательную основу?

Нет

Сейчас нет, но были попытки (ZugErschwG)

Нет

Регулируется ли государ - ством?

Нет: «черный список» составляется IWF, затем провайдеры произво - дят фильтрацию (BT & Cleanfeed)

Нет: Фильтрация про - вайдерами происходит по рекомендациям горячих линий (Eco, Jugendschutz, FSM)

Нет: Фильтрация про - вайдерами происходит по рекомендациям горячих линий (Point de Contact)

Какой контент блокиру - ется?

Изображения детской пор - нографии; в одном случае, нарушение авторских прав

Изображения детской порнографии

«контент, наносящий вред человеческому достоинству», в том числе изображения детской порнографии, «доступный контент, наносящий вред несовершеннолетним», а также подстрекательство к расовой ненависти, совершению преступлений, терроризма, самоубийств

Как составляются «черные списки»?

Горячие линии для сообщений о вредном контенте; анализ жалоб; комитет Совета озвучивает свое окон - чаетльное решение, и контент добавляется в «черный список» /исклю - чается. IWF уведомляет об этом провайдеров и связывается с правоохра - нительными органами

Горячие линии для сооб - щений о вредном контенте; обученные специалисты просматривают жалобы и составляют рекомендации; уведомляет об этом про - вайдеров и связывается с правоохранительными органами

Горячие линии для сооб - щений о вредном контенте; обученные специалисты просматривают жалобы и составляют рекомендации; уведомляет об этом про - вайдеров и связывается с правоохранительными органами

Какая технология исполь - зуется для блокирования контента?

URL фильтрация

URL фильтрация

URL фильтрация

Какие существуют основ - ные возражения против системы?

Неэффективность бло - кировки; легитимность, отчетность и прозрачность действий IWF. Проблема свободы слова

Неэффективность бло - кировки; легитимность, отчетность и прозрачность действий горячих линий. Проблема свободы слова

Неэффективность бло - кировки; легитимность, отчетность и прозрачность действий Point de Contact. Проблема свободы слова

31

Системы маркировки и рейтингов

32

Несмотря на распространенность использования систем маркировки и рей- тингов для ограничения доступа детей к нежелательному контенту в других СМИ – в том числе в кино, музыке и компьютерных играх – попытки применить подоб - ное к интернету немногочисленны и в основном малоэффективны. Редкие зако - нодательные инициативы в этой области, в том числе относительно масштабный «эксперимент» по маркировке в Германии, были в последствии отвергнуты. Более успешные попытки были предприняты в рамках соглашений по саморегу- лированию отрасли. Все ключевые инициативы в этой области описаны ниже.

Идея о маркировке интернет-контента не нова. Первоначально Консорциум всемирной паутины (World Wide Web Consortium или W3C), возглавляемый ком- паниями отрасли, в ответ на обсуждение и ратификацию соглашения о доставке контента (CDA) в 1995/6 годах, реализовал платформу по выбору сетевого кон - тента (PICS). 74 Проект был специально задуман в качестве упреждающей меры государственному регулированию и цензуре. В целях ограничения аморального контента, такого как насилие, порнография, секс, в платформе были реализо - ваны два метода. Во-первых, каждый сайт должен был самостоятельно ранжи - ровать контент посредством метаданных либо по рейтинговой системе RSACi (разработка Консультативного совета по развлекательному программному обе - спечению), либо SafeSurf. 75 Если сайт содержал материалы, например, относя- щиеся к насилию или порнографии, провайдеры контента должны были марки- ровать его таким образом, который согласовывался со значениями рейтинговой системы SafeSurf. Затем фильтр в соответствии с параметрами настройки блоки- ровал контент, маркированный как вредный. Во-вторых, третьи лица могли также маркировать сетевой контент. Это давало свободу пользователям, так как им не приходилось полагаться на самостоятельную маркировку контента сайтами.

Компания Microsystems ввела в действие первый PICS сервер в феврале 1996 года, а Netscape и Microsoft обязались в следующем месяце установить PICS в свои браузеры. Система RSACi была установлена в браузере Internet Explorer версии 3-6 и в браузере Netscape 4.5. 76 Однако в связи с провалом CDA, которое по решению Верховного суда было объявлено в 1997 году противореча - щим конституции США, PICS тоже пришел конец. Платформа подверглась обви - нениям в цензуре; сайты не были обязаны маркировать свой контент. При этом в то время поисковые системы еще не имели достаточных стимулов для разра - ботки продуктов, ограничивающих результаты поиска сайтами,

Системы маркировки

и рейтингов

маркированными PICS. Поэтому технология PICS была подорвана целым рядом проблем: недостаточное количество сайтов с маркированным контентом (по некоторым данным, 120.000), отсутствие программного обеспечения для мар- кировки контента третьими лицами – при том, что самый эффективный метод маркировки – по заголовкам HTTP, а не по HTML веб-страниц – использовался редко, так как необходимые программы были разработаны всего несколькими компаниями. Согласно одному из мнений:

33

как только Верховный суд постановил, что CDA не соответствует конституции, разработка программного обеспечения для PICS практически прекратилась. Последующее отсутствие поддержки со стороны фирм по коммерческой фильтрации, участников W3C, а также других групп по защите прав детей, привело к отказу от PICS. 77

В Европе Программа ЕС за безопасный Интернет и Bertelsmann Stiftung (Германия) выделили средства Ассоциации по рейтингу сетевого контента (ICRA), которая должна была разработать систему взамен RSACi, используя технологию PICS. При этом были разработаны три версии системы – в 2000, 2005 и 2008 году. 78 Эта технология была направлена на нейтральную и объек- тивную оценку контента с помощью бинарных дескрипторов – например, нали - чия или отсутствия на изображениях обнаженной груди. Провайдеры должны были маркировать свой контент его с помощью этих дескрипторов, которые устанавливались в браузеры и которые родители могли настраивать либо вручную, либо по профилям фильтрации, разработанным сторонними органи- зациями. При этом информация теоретически должна была поступать от про- вайдера к конечному пользователю без промежуточной цензуры (кроме тех случаев, когда родители сами регулировали вопросы защиты своих детей). 79

Однако этот проект провалился. По словам одного из его разработчиков, провал был обусловлен несколькими причинами. Прежде всего, как и в случае технологии PICS, технический персонал ICRA столкнулись с нежеланием про- вайдеров контента маркировать сайты. Критическая масса сайтов так и не была достигнута, так как маркировку имели менее, чем 10.000 сайтов. Даже частные компании, представленные в совете ICRA, не делали этого. Другая проблема заключалась в том, что делать с немаркированными сайтами – блокировать их или нет. Окончательное решение так и не было принято. В Google, в конце кон - цов, была разработана система настраиваемого безопасного поиска, которая показывала результаты только по маркированным сайтам. Помимо незначитель - ного количества маркированных сайтов, не был назначен орган для контроля за соблюдением правил со стороны тех сайтов, которые не имели маркировки. Этот вопрос был критически важным в условиях терминологической неопреде - ленности: что, например, считать обнаженной натурой, т.е., при сколь малом количестве одежды тело будет считаться обнаженным?

Системы маркировки

и рейтингов

Кроме того, система ограничения доступа в браузерах так и не была акту- ализована (по сравнению с моделью RSACi), а родители не изменяли их конфи- гурацию для того, чтобы они могли читать маркировки ICRA. Сторонние органи - зации – кроме двух – тоже не разработали профили для фильтрации. Ситуация была во многом аналогична ситуации с PICS: у компаний не было достаточных стимулов для того, чтобы развивать и применять эту технологию; причем отри- цательные стимулы были еще более убедительными. Например, если компания разработала профиль, который впоследствии не обеспечил 100% эффектив- ность фильтрации (т.е. пропустил хотя бы одну нежелательную страницу), то это подрывало доверие к торговой марке. Создание фильтров для браузеров тоже было проблематичным: ни одна компания не хотела делать это добровольно. В итоге технические проблемы подорвали эффективность работы недофинан - сированного фильтра ICRA, при этом в ряде случаев при установке программы жесткие диски требовали переформатирования. Даже после того как программе ICRAplus в 2005/6 годах были выделены средства, программа продолжала стра - дать от нестабильной работы и технических проблем. В конце 2008 года реали - зация проекта была прекращена. 80

34

Вслед за программами PICS, RSACi и ICRA появилось еще несколько технологий маркировки контента. Преемником PICS является разработанный W3C протокол описания сетевых ресурсов (POWDER). По сравнению с PICS POWDER включает в себя ряд технологических наработок. 81 После того, как рабочая группа по POWDER прекратила свою деятельность, W3C в августе 2009 года рекомендовала эту технологию к использованию. POWDER предна - значен не для фильтрации вредного контента, а скорее для анализа страниц и ресурсов в соответствии, например, с коммерческими стандартами, клиниче - скими данными, а также информацией о лицензиях и материалах, защищен - ных авторским правом. 82 Проект ЕС Quatro Plus, опирающийся на технологию POWDER, направлен на то, чтобы адаптировать маркировку в целях обеспече - ния «прав пользователей». Это предполагает сопряжение с надежными техноло - гиями i-Sieve, которые, например, содержат систему фильтрации, осуществля- ющую обработку текстов и фотоматериалов при помощи технологий на основе значений хэш-функции. 83 Однако масштаб применения Quatro Plus намного шире, чем обеспечение защиты детей как конечных пользователей, и система предлагается целому ряду пользователей, включая «органы по маркировке, про- вайдеров контента, различных экспертов по доменам, просветительские орга - низации, групповых или индивидуальных пользователей». 84 В США в индустрии развлечений для взрослых применяется маркировка «только для взрослых» (RTA), принятая Ассоциацией сайтов, выступающих за защиту детей (ASACP). Эту маркировку должны иметь веб-страницы, принадлежащие участникам ассоциации и несущие коммерческий порнографический контент. Теоретически фильтры распознают маркировку и блокируют сайты, имеющие ее. Эта техноло - гия, по всей видимости, пользуется определенным успехом. 85

Еще пример, в Японии между IAJ и MIC было достигнуто соглашение о том, что фильтрация сетевого контента должна осуществляться не по распоряжению государственных органов, а по просьбе частных пользователей.

Системы маркировки

и рейтингов

По аналогии с Францией и Германией, IAJ передает пользователям по их просьбе фильтры для контента, а ряд японских ИП обеспечивают потребите - лей соответствующей технологией. 86 Программы фильтрации могут применять систему рейтинга SafetyOnline2, разработанную IAJ и оценивающую частный сетевой контент по шкале от 0 до 4. Система (где 0 соответствует безопасному контенту) оценивает материал на предмет обнаженной натуры, секса, наси- лия и ругательств. 87 К системе присоединились коммерческие партнеры. В мае 2009 года компания NTT Communications объявила о своем намерении ввести для подписчиков программу ONC Kids Care. Эта программа позволяет родите - лям или опекунам устанавливать параметры в отношении сетевого контента и пользования Интернетом. Услуга предоставляется на платной основе. 88 Дочер - няя компания NTT Resonant предлагает Kids-goo – образовательный Интернет- портал для детей, включающий в себя программу поиска в Интернете с филь- трацией результатов. 89

35

Системы маркировки и рейтинга должны вначале отрекомендовать себя. Они несут в себе перспективы информационной автострады, позволяющей дан - ным беспрепятственно двигаться от источника (провайдера контента) до конеч- ного пользователя – если только конечный пользователь не захочет восполь - зоваться фильтром. Однако, как показывает провал PICS и ICRA, маркировка контента вызывает целый ряд проблем. Маркировка может быть эффективной только при наличии критической массы сайтов – наверное, главной проблемой здесь стала невозможность заставить провайдеров контента маркировать свои сайты. Для этого не было предложено никаких финансовых стимулов, и поэ- тому сама маркировка превратилась даже в отрицательный стимул. С другой стороны, маркировка RTA и коммерческие системы, существующие в Японии, представляют собой инициативы относительно ограниченного масштаба, пред - лагающие участникам коммерческие стимулы. Однако отсутствие стимулов – не единственная проблема массовых систем рейтинга и маркировки. Как выяс- нилось в процессе реализации проекта ICRA, взрослые не хотят тратить время на конфигурацию фильтра и полагаются на других в плане обеспечения сетевой защиты своих детей. Любое решение, связанное с развертыванием систем мар- кировки и рейтинга контента, как представляется, должно прививать родителям чувство ответственности. Оно должно пересиливать все технические сложности, связанные с установкой и наладкой фильтров. 90

Саморегулирование и списочная фильтрация

Введение

36

Во многих странах мира ИП и другие ИКТ компании обязуются удалять дет - скую порнографию при получении уведомлений пользователей, «горячих линий» и/или правоохранительных органов. Пользователи могут также самостоятельно регулировать такой контент путем добровольной установки систем фильтра - ции. Эти системы могут настраиваться в зависимости от желаний потребителя

и могут, например, блокировать порнографические сайты.

Хотя по закону ИП не обязаны осуществлять мониторинг контента, про- ходящего через их сети или размещенного там, ряд провайдеров во Франции

и Германии предлагают клиентам услуги фильтрации. В ноябре 2005 года AFA

заключила договоренность с правительством и обязалась бесплатно предла -

гать клиентам услугу фильтрации. 91 При этом программа может быть настроена по трем профилям: дети (Enfants), при котором пользователи могут заходить на авторизованные сайты (liste blanche); подростки (adolescent), при котором пользователи могут заходить на любые сайты, кроме находящихся в «черном списке», сформированном программой, анализирующей слова на французском

и английском языке; и, наконец, взрослые (adulte), при котором обеспечивается доступ к любым сайтам. Родители/опекуны могут также регулировать время, проводимое в Интернете детьми. 92

Политики признают, что национальное законодательство не может адек -

ватно регулировать транснациональный характер Интернета. 93 Поэтому суще - ствует предпочтение, по крайней мере в Европе и США, для саморегулирования

в Интернете. 94 Группа оперативного реагирования PointSmart в США отмечала

в июле 2009 года:

что добровольная деятельность, получившая решительную поддержку отрасли, вероятно, будет значительно более эффективной, чем законодательно утвержденные или делегированные решения;

и облегченное регулирование в этой области является лучшим подходом

для поощрения компаний, богатых ресурсами, к разработке прогрессивных

и инновационных решений, как сейчас, так и в будущем. 95

Саморегулирование и списочная фильтрация

6.1 Европейский законодательный опыт

37

Европейский Совет в своих Рекомендациях 98/560/EC «О защите несо - вершеннолетних и человеческого достоинства в аудиовизуальных и информа- ционных услугах» призвал в 1998 году к созданию национальных механизмов

и кодексов поведения в государствах-членах, а также инициатив по отрасле -

вому саморегулированию, направленных на повышение осведомленности об опасностях ИКТ. 96 Эти рекомендации были далее дополнены еще одним пунктом в декабре 2006 года, 2006/952/EC, в котором рекомендовалось повы- шение осведомленности родителей и учителей о возможностях и опасностях информационно- коммуникационных технологий, создание кодекса поведения для компаний, специалистов, посредников и пользователей, введение «знака

качества» для ИП, который указывает на соблюдение данного кодекса поведе - ния, и учреждение эффективных инструментов для сообщений пользователей

о нарушениях. Кроме того, обсуждалась перспектива разработки систем филь- трации силами ИП. 97

В дополнение к этим рекомендациям, Европейский парламент ратифици-

ровал три так называемых «плана действий» по улучшению безопасности детей

в Интернете: План действий по обеспечению более безопасного Интернета

(SIAP) на 1999-2004 годы, а также Программу более безопасного Интернета

на 2004-08 годы и Программу более безопасного Интернета на 2009-13 годы. 98 План SIAP был направлен на создание горячих линий и информационно-пропа- гандистские кампании, системы фильтрации, маркировки и оценки содержания

и инициативы саморегулирования отрасли и кодексы поведения. 99 Фактически,

в рамках плана SIAP и программы более безопасного Интернета была реа - лизована сеть горячих линий по всей Европе для сообщений пользователей

о предполагаемом незаконном содержании, был учрежден «День безопасного

интернета» в феврале каждого года – организуемый на национальном уровне участвующими организациями (членами общеевропейской сети (Insafe), посвя- щенной повышению осведомленности), проводилась оценка эффективности программ фильтрации, и была оказана поддержка инициативам по саморегу- лированию отрасли. 100 Самая последняя Программа безопасного Интернета, от 16 декабря 2008 года, преследует аналогичные цели: повышение информи- рованности общественности, разработка контактных пунктов для публичного сообщения о предположительно незаконном контенте - особенно вотношении материала о сексуальных злоупотреблениях в отношении детей, вовлечения детей и кибер-издевательств, с целью содействовать инициативам по саморегу- лированию и привлечению детей к развитию более безопасной онлайн-среды, а также проведению исследований, чтобы понять тенденции и события в обла - сти ИКТ, которые могут повлиять на жизнь детей. 101

Совсем недавно, Европейская Комиссия в своей цифровой программе для Европы в августе 2010 года разграничила несколько целей, направленных на развитие ИКТ в Еврозоне. 102 Среди них – программа «Доверие и безопас- ность», и три цели, в частности, имеющие отношение к онлайн-безопасности

Саморегулирование и списочная фильтрация

детей. «Акт 36» определяет роль государств-членов в поддержке «инфор - мирования о незаконном контенте в Интернете и проведение информацион- ных кампаний по интернет-безопасности для детей», в то время как «Акт 40»

утверждает, что государства-члены должны создать горячие линии для пред - упреждения о вредном контенте. 103 Программы безопасного Интернета к насто - ящему времени создали центры безопасного Интернета в государствах-членах, которые ввели горячие линии. Каждый центр - это часть сети INHOPE - работает

в направлении повышения уровня осведомленности, просвещая детей, роди -

телей и педагогов о безопасном пользовании Интернетом, и борьбы с незакон - ными материалами в Интернете. 104

38

«Акт 37» Цифровой программы направлен на содействие «саморегули - рованию в использовании онлайн-сервисов». 105 До сих пор, пожалуй, самым выдающимся результатом Программы является Коалиция «Сделать Интернет лучше для детей», созданная 1 декабря 2011 года. Коалиция является добро - вольной инициативой, которую подписали следующие компании: Apple, BSkyB, BT, Dailymotion, Deutsche Telekom, Facebook, France Telecom - Orange, Google,

Hyves, KPN, Liberty Global, LG Electronics, Mediaset, Microsoft, Netlog, Nintendo, Nokia, Opera Software, Research In Motion, RTL Group, Samsung, Sulake, Telefonica, TeliaSonera, Telenor Group, Tuenti, Vivendi и Vodafone. Подписавшиеся взяли на себя обязательство принять в 2012 году несколько мер. К ним отно - сятся: внедрение простых инструментов для пользователей для сообщений

о наличии вредного контента, наличие соответствующих возрасту параметров

конфиденциальности, более широкое применение классификации контента (в области видеоигр), большая доступность и использование функции родитель - ского контроля, а также эффективное блокирование материалов, показывающих

насилие против детей. Коалиция создала рабочие группы для изучения кон - кретно этих пяти вопросов, будет индивидуально взаимодействовать с участ- никами и заинтересованными сторонами (и с Европейской комиссией), а также будет проводить обзоры по ходу ее реализации летом 2012 года. 106

Европейская комиссия также продолжает продвигать саморегулирование

в веб-приложениях 2.0. Принципы более безопасных социальных сетей для ЕС

февраля 2009 года направлены на максимизацию положительного опыта детей, которые используют технологии социальных сетей или которые часто посе- щают сайты социальных сетей, и сведению к минимуму потенциальных рисков

для детей. 107 Эти принципы включают информационно-просветительские про- граммы в области образования, направленные на пользователей, учителей, родителей и воспитателей, соответствующие возрасту механизмы контроля, развитие технологий и программного обеспечения, которые повышают защи- щенность частной жизни, простые в использовании механизмы для сообщений

о потенциально опасном материале, эффективные механизмы для выявления

и удаления вредных материалов, понятный и доступный для пользователя

доступ к параметрам конфиденциальности, и процедуры самооценки. В число подписавших входят Google, Facebook, Bebo, DailyMotion, MySpace

и Yahoo Europe. 108

Саморегулирование и списочная фильтрация

В мае и августе 2011 года оценки соблюдения Принципов безопасной соци- альной сети продемонстрировали некоторые обнадеживающие результаты. Кон- тент-провайдеры, проверенные в мае, включали Arto, Bebo, Facebook, Giovani, Hyves, IRC-Galleria, Myspace, Nasza-Klasa, Netlog, One, Rate, SchuelerVZ (Vznet Netzwerke), Tuenti и Zap. В августе проверялись Dailymotion, Habbo Hotel, Skyrock, Stardoll, Windows Live, Xbox Live (игровая онлайн платформа и кон - соль), Flickr, Yahoo! Pulse и YouTube. Тесты показали, что, в целом, лучше всего соблюдается Первый Принцип (повышение осведомленности), в то время как информация о безопасности, предоставленная каждым поставщиком в ходе августовской проверки, была оценена как в целом соответствующая возрасту, легкая для понимания и легко находимая. 109 В августе, семь сервисов полу - чили оценку «очень удовлетворительно» по Второму Принципу, касающемуся «соответствующих возрасту сервисов». Две другие услуги получили «скорее удовлетворительные» оценки. В общем, Третий Принцип о «расширении прав и возможностей пользователей», был худшим по уровню соответствия; в мае шесть услуг были признаны «неудовлетворительными», пять «скорее удовлет - ворительными» и три – «очень удовлетворительными». В августе, однако, пять сайтов получили рейтинг «очень удовлетворительно», а четыре – «скорее удов - летворительно».

39

Восемь из девяти провайдеров в августе были оценены как «очень удов - летворительные» по Четвертому, Восьмому и Девятому Принципам в отноше - нии механизмов сообщения и ответов поставщика, а другой поставщик получил «относительно удовлетворительно». При проведении в мае оценки Четвертого Принципа, однако, только три поставщика получили оценку «очень удовлет - ворительно», а десять были оценены «скорее удовлетворительно» и один «неудовлетворительно». Ни один из сервисов в мае не получил оценку «очень удовлетворительно» по всем Принципам, которые оценивались в их собствен - ных заявлениях, а двоим удалось это в августе. Тем не менее, в целом, оценок «неудовлетворительно» было мало.

6.2 Саморегулируемые организации и Кодексы поведения

Группы гражданского общества и корпорации развивают в рамках ЕС сотрудничество для содействия саморегулированию среди заинтересованных сторон. Кодексы поведения также разрабатывались по мере того, как органам саморегулирования рекомендовалось сформулировать условия работы и обя- занности, скажем, сервис-провайдеров, контент-провайдеров и конечных поль - зователей. Кодексы поведения являются важными с точки зрения прав чело - века, так как они «разъясняют для конечных пользователей, что они должны знать о том, что компании будут или не будут делать в ответ на требования со стороны государства». 110

Министерство внутренних дел Великобритании в 2001 году создало Рабо - чую группу по защите детей в Интернете. В эту группу входят представители

Саморегулирование и списочная фильтрация

отрасли, органов социальной защиты детей, правительства и правоохранитель - ных органов. Она консультирует компании, родителей и детей по надлежащей практике, направленной, в конечном счете, на повышение уровня информиро- ванности об опасностях в Интернете. 111 Ранее, в 1999 году, 11 некоммерческими организациями, работавшими в интересах детей, была создана детская благо - творительная коалиция по Интернет-безопасности (CHIS). В настоящее время она работает со всеми заинтересованными сторонами, включая представителей отрасли ИКТ, в целях содействия изменению и улучшению детской безопасно - сти в Интернете, а также тесно сотрудничает с британским Советом по детской безопасности в Интернете (UKCCIS) по выполнению рекомендаций доклада Байрона 2008 года, особенно относительно мер саморегулирования для повы- шения безопасности в Интернете. 112 В Совет входят организации и представи- тели правительства, отрасли, правоохранительных органов, научных кругов и организаций гражданского общества. 113

40

В январе 2004 года несколько телефонных компаний – в том числе Orange,

O2, T-Mobile, Virgin Mobile и Vodafone – подписали Кодекс практики саморегули - рования новых форм контента для мобильных телефонов. Кодекс был направ - лен на ограничение доступа несовершеннолетних к незаконному контенту посредством мониторинга и контроля контента. Обзор, проведенный в 2008 году и основанный на опросах операторов и заинтересованных сторон, показал, что кодекс был «эффективным» в предотвращении доступа к незаконным мате - риалам. Это было «хорошим примером саморегулирования отрасли». 114

В 2006 году был создан Британский Центр защиты детей от эксплуатации

в интернете (CEOP). Центр объединяет представителей правительства, орга - низаций гражданского общества, правоохранительных органов и отрасли ИКТ, а также стремится к созданию базы данных («черные списки», например), кото - рой могут пользоваться все заинтересованные стороны, чтобы сделать Интер - нет безопасным для несовершеннолетних. 115 Он также управляет информаци- онным сайтом для детей и родителей, а Информационно-оперативный отдел содействует в деле отслеживания и захвата преступников. 116 Совсем недавно, 28 октября 2011 года, четыре ИП – BT, Sky, TalkTalk и Virgin – запустили новый кодекс практики по защите несовершеннолетних в Интернете. В соответствии с руководящими принципами, новые клиенты будут иметь выбор за или про- тив активации родительского контроля (выбора по умолчанию не предусмо- трено), в то время как существующие клиенты будут проинформированы и им будет предложена эта новая услуга. 117 В Германии несколько организаций осуществляют инициативы по саморегулированию и консультируются с KJM по наилучшей практике среди ИКТ-компаний. В последнее время KJM объ - единился с Selbstkontrolle Freiwillige der Filmwirtschaft (FSK) и Unterhaltungs- Software Selbstkontrolle (USK), чтобы достичь консенсуса по надлежащей прак- тике среди представителей киноиндустрии и индустрии компьютерных игр, соответственно. 118 Возможно, самой важной является организация Freiwillige

Selbstkontrolle Multimedia-Diensteanbieter (FSM), которая была основана в 1997 году для предотвращения распространения нелегального контента и вредного влияния на несовершеннолетних.

Саморегулирование и списочная фильтрация

Она консультирует в режиме онлайн группы и компании, в том числе ИП,

41

в соответствии с законом JMStV. Google является ее членом, и некоторые пои-

ски по Google.de могут соответственно дать отфильтрованные результаты. 119

При надзоре со стороны KJM, FSM может даже осуществлять преследование членов и принимать ряд карательных мер.

В США Ассоциация ИП (ISPA) заключила в 2006 году соглашение с www.

cyertipline.com, по которому ИП обязались сообщать о случаях потенциально

незаконной информации, хранящейся в их сетях. Закон «Защитим наших детей» 2008 года с тех пор сделал обязательными для ИП сообщения об изо - бражении сексуального насилия над детьми (см. выше). Ассоциация ISPA

в своих основополагающих принципах не делает никаких ссылок на материалы,

которые могут быть вредными для несовершеннолетних, хотя она подчеркивает, что ИП не несут ответственности за контент, созданный, передаваемый и храня- щийся у пользователей. 120

В Канаде Министерство общественной безопасности и готовности к чрез -

вычайным ситуациям опубликовало в мае 2004 свою Национальную страте - гию по защите детей от сексуальной эксплуатации в Интернете сроком на пять лет. 121 Национальная стратегия была обновлена в феврале 2009 года. Три федеральных организации руководят ее реализацией: Министерство обще - ственной безопасности и готовности к чрезвычайным ситуациям Канады, Министерство промышленности Канады (программа SchoolNet) и Королевская канадская конная полиция. Стратегия нацелена на расширение сотрудничества между правоохранительными органами по всей Канаде, в целях содействия сообщениям граждан и осведомленности, а также создания альянса и консен - суса, который охватывает государственный и частный сектор. 122

В целом, была проведена большая работа для предоставления инфор-

мации и расширения сотрудничества между заинтересованными сторонами, а также повышения информированности государственных, частных и правоох - ранительных структур. Национальный координационный центр по эксплуатации детей (NCECC) и «Канада, пригодная для детей», например, стремятся к уста - новлению сотрудничества и взаимодействию с правоохранительными органами

и гражданским обществом. 123

NCECC проводит Канадский курс по эксплуатации детей в Интернете, кото - рый готовит сотрудников правоохранительных органов по специальным требо- ваниям к расследованию и отслеживанию онлайн-преступности. 124

Интернет Ассоциация Японии (IAJ) является саморегулируемой организа - цией отрасли, включающей около 277 членов и созданной в 2001 году при под - держке Министерства внутренних дел и коммуникаций (MIC) и Министерства Экономики, Торговли и Промышленности (METI).

Саморегулирование и списочная фильтрация

IAJ предоставляет Кодекс поведения и различные ресурсы для детей и родите - лей / опекунов, призванные содействовать про-социальному серфингу. 125

42

В Бразилии многосторонний подход к этому вопросу считается решающим

для эффективной саморегуляции. Представители правительства, профессио- нального сообщества, гражданского общества и академических кругов состав - ляют бразильский Руководящий комитет по Интернету (CGI.br), который был образован в 1995 году для консультирования по вопросам управления использо - ванием Интернета в Бразилии. В рамках этого форума обсуждаются стратегии и принимаются решения. CGI покровительствует группам, таким как неправи- тельственная организация SaferNet Бразилии и инициативам по повышению осведомленности, таким как ежегодный бразильский День Безопасного Интер - нета. 126

В дополнение к этому, Управление Федеральной государственной бразиль -

ской прокуратуры имеет Рабочую группу по борьбе с кибер-преступлениями в Сан-Паулу, занимающуюся расследованиями и уголовным преследованием преступлений на почве ненависти и изображений случаев жестокого обращения с детьми в Интернете. 127 Рабочая группа сотрудничает с CGI.br, правоохрани - тельными органами, законодательной властью и организациями гражданского общества для того, чтобы создать консенсус и объединенную правовую, техно - логическую и эксплуатационную инфраструктуру в ответ на обеспокоенность безопасностью детей. Рабочая группа заключила соглашение с рядом бра- зильских ИП в 2005 году, согласно которому поставщики услуг взяли на себя обязательство помочь государственным обвинителям в сборе доказательств по делам, где пользователи могут совершить преступление. В июле 2008 года рабочая группа подписала соглашение с Google Бразилии и SaferNet. Google заявила о своем намерении развивать технологии фильтрации для своей соци- альной сети Orkut. Компания обязалась, по распоряжению суда или в некоторых случаях в одностороннем порядке, предоставлять все имеющиеся доказатель - ства в отношении конкретных пользователей (сохраняются в течение 180 дней), удалять «возможно незаконные материалы» и разработать фильтр для удале - ния изображений жестокого обращения с детьми. Google также решила снять все потенциально незаконные материалы, определенные SaferNet или другими организациями. 128

Бразильская ассоциация интернет-провайдеров (ABRANET) выпустила кодекс поведения в апреле 2007 года, так называемый ‘Código De Auto- Regulamentação De Operadores De Rede E De Serviços Internet’. Согласно главе II, подписавшиеся обязуются отказывать в размещении детской порнографии, расистских материалов, материалов, содержащих подстрекательство к наси- лию, и предвзято относящихся к происхождению, расе, национальности, полу, сексуальной ориентации, цвету кожи, возрасту или религиозным убеждениям. ИП должны, кроме того, обеспечить прозрачные услуги и воздерживаться от использования неопытности несовершеннолетних. В соответствии с главой III, подписавшиеся обязуются не только удалять незаконные материалы в слу -

Саморегулирование и списочная фильтрация

чае получения уведомления, но и следить за своими сервисами на предмет контента, который может оказаться вредным, особенно для несовершеннолет- них. ИП должны также сообщать властям об изображениях жестокого обраще - ния с детьми на своих серверах, и должны информировать взрослых / опекунов о технологии для фильтрации нежелательного контента для несовершенно - летних. 129 В Индии Ассоциация интернет-провайдеров Индии (ISPAI) является добровольной инициативой, созданной ИП в 1998 году, чтобы «содействовать […] Интернету на благо всех». Ее кодекс поведения указывает, что ее члены обязаны придерживаться индийской правовой базы и не будут «сознательно допускать, чтобы какой-либо пользователь или другой участник занимался любой незаконной деятельностью. Они также не будут «очевидно поощрять что- либо, что в любом случае незаконно» (раздел 5.1). 130 Индонезийская ассоциация интернет-провайдеров (IISPA) была создана в 1996 году для развития рынка ИКТ в Индонезии. 131 IISPA сотрудничала с организациями гражданского обще - ства и средствами массовой информации в Инициативе по контенту и сотруд - ничеству в сообществе в конце 2010/начале 2011 года. Инициатива была раз - работана, исходя из стремления к увеличению государственного регулирования деятельности в Интернете и контента, и предназначена для создания форума по свободе слова и цензуре в Интернете. Планируемые результаты включают кодекс этики, вебсайт-портал и семинары. 132 В Южной Африке Ассоциация интернет-провайдеров (SAISPA) предусматривает в Кодексе поведения пункт 17:

43

Участники должны принимать разумные меры для обеспечения того, чтобы не предлагать несовершеннолетним услуги подписки на платное содержание без письменного разрешения родителей или опекунов.

Согласно пункту 18:

Участники должны предоставлять клиентам доступ в Интернет с информацией о процедурах и программных приложениях, которые могут быть использованы для оказания помощи в области контроля и мониторинга доступа несовершеннолетних к интернет-контенту. Это требование не распространяется на корпоративных клиентов, где нет несовершеннолетних, имеющих доступ к Интернету. 133

Кодекс поведения (статья 24) предусматривает также, что, когда незакон - ный материал находится на сервере участника, провайдер услуг должен при- остановить учетную запись пользователя и сообщить об этом правоохранитель - ным органам «в течение разумного периода времени». Это соответствует Статье 77 (1) Закона об электронных средствах связи и операциях (ECT) 2002 года, который предусматривает, что пользователи могут просить ИП удалить «неза - конные» материалы. SAISPA предлагает услуги для этой цели. 134 Все члены SAISPA обязуются соблюдать ECT. В Разделе 78 ECT, однако, отмечается, что ИПне обязаны активно контролировать свои серверы. Поэтому они имеют иммунитет относительно незаконной информации, хранящейся на серверах до тех пор, пока о его незаконности не известно. 135

Саморегулирование и списочная фильтрация

В Китае, наоборот, непонятно, где заканчивается влияние государства

и вступает в силу «саморегулирование отрасли». Пожалуй, точнее было

бы писать о совместном регулировании. Интернет-общество Китая (ISC) было создано в 2001 году при поддержке китайского правительства, которое, кажется, сохраняет значительное присутствие в ISC через различные министерства.

Официально, по крайней мере, ISC включает в себя более 170 компаний, в том числе телекоммуникационные компании, ИП, поставщиков аппаратного обо - рудования и ученых. Оно стремится к развитию самодисциплины в отрасли

в продвижении развития Интернета через политические консультации и попу-

ляризаторские кампании. 136 Одним из документов ISC, регулирующим участву -

ющие ИКТ бизнесы, является «Общественное обязательство саморегулирова -

ния и профессиональной этики для китайской интернет-индустрии», принятое

в марте 2004 года. 137 Согласно статье 9, участвующие ИП обязаны:

44

Воздерживаться от производства, размещения и распространения пагубной информации, которая может поставить под угрозу безопасность

государства и нарушить социальную стабильность, противоречит законам и правилам и распространяет предрассудки и непристойности. Следить за информацией, опубликованной пользователями на веб-сайтах

в соответствии с законом и удалять вредоносную информацию

в кратчайшие сроки.

Статья 10 предусматривает, что ИП будут проводить мониторинг отече -

ственных и зарубежных веб-сайтов и будут блокировать доступ к URL, которые «распространяют вредную информацию». 138 ISC также опубликовал «Положе - ние о саморегулировании относительно нераспространения порнографической

и другой вредной информации через Интернет-сайты», «Общественный залог

саморегулирования относительно [

залог саморегулирования о блог-сервисах», «Общественный залог саморегули -

рования по вопросу [

по вопросу о защите авторских прав [в] интернет-индустрии Китая». 139

Интернет-вирусов», и «Декларацию саморегулирования

вредоносных программ», «Общественный

]

]

Системы фильтраций и проблема гражданских свобод

45

Обвинения в том, что системы фильтрации нарушают гражданскую сво - боду пользователей, тщательно документированы комментаторами. 140 Эти обвинения предъявляются на основании того, что фильтрация противоречит международному законодательству области прав человека, в том числе статьям

19 и 20 Международного пакта о гражданских и политических правах (ICCPR), 141

и статье 19 Всеобщей декларации прав человека ООН, согласно которой:

Каждый человек имеет право на свободу убеждений и на свободное выра - жение их; это право включает свободу беспрепятственно придерживаться своих убеждений и свободу искать, получать и распространять информацию и идеи любыми средствами и независимо от государственных границ. 142

В статье 10 Европейской конвенции о правах человека (ECHR) также закреплена свобода выражения убеждений, хотя – в разделе II – предусмотрена оговорка, что это право «может быть сопряжено с определенными формаль- ностями, условиями, ограничениями или санкциями, которые предусмотрены законом и необходимы в демократическом обществе». 143 Хотя по вопросу блоки- ровки детской порнографии практически существует единое мнение, в европей - ских странах существуют, как мы уже видели, различные культурные нюансы. Так, Jugendschutz.net в Германии рекомендует блокировать экстремистский контент правого толка. 144

Несмотря на увлечение идеями блокировки в начале 2000-х годов, в ЕС фильтрация и/или блокировка считается сомнительным способом борьбы с нелегальным сетевым контентом, и еще менее эффективным как средство обеспечения защиты несовершеннолетних. В Рекомендации CM/Rec(2008)6 Комитета министров о мерах по обеспечению свободы выражения мнений

и информации применительно к Интернет-фильтрам, которая была направлена государствам-членам, отмечается, что:

…добровольное и ответственное использование Интернет-фильтров… может способствовать доверию пользователей, в частности, детей и молодежи, к Интернету и ихсетевой безопасности, но при этом [мы] должны осознавать,

Системы фильтраций и проблема гражданских свобод

что применение таких фильтров может ущемлять право на свободу выражения мнений и информации, предусмотренное статьей 10 Европейской конвенции о правах человека. 145

46

Государство должно осознавать, что отказ в доступе к общедоступной информации посредством общей блокировки или систем фильтрации может

также являться нарушением статьи 10 в условиях наличия установленного консультативного порядка обеспечения соблюдения положений раздела II Евро - пейской конвенции. При обеспечении защиты несовершеннолетних от вред - ного контента не нужно блокировать доступ взрослым. 146 В Рекомендации CM/ Rec(2009)5 Комитета министров о мерах по защите детей от вредного контента

и поведения и по обеспечению их активного участия в новой информационно-

коммуникационной среде, которая в июле 2009 года была направлена государ -

ствам-членам, снова отмечалось, что блокировка сайтов в целях обеспечения сетевой безопасности несовершеннолетних может привести к нарушению статьи 10 Европейской конвенции. 147

Согласно статье 19 раздела III Европейской конвенции, ограничение сво - боды выражения мнений допускается лишь в том случае, когда это предусмо- трено законом и, во-первых, «для защиты прав или репутации других лиц», а, во-вторых, «в интересах национальной безопасности, общественного право - порядка, для охраны здоровья или нравственности». 148 Тем не менее, толко - вание этих положений можно считать субъективным, и в некоторых странах

речь может идти о мандате общества на блокировку определенного контента. 149 Одним из примеров является блокировка порнографии в Индонезии; в Турции «горячая линия» приняла тысячи жалоб на нарушение закона № 5651. Однако

в отношении обоих примеров необходимо проявлять крайнюю осторожность,

особенно с учетом недавних жалоб общественных организаций на угрозы индо -

незийского правительства ввести законодательно обязывающую блокировку, а также неоднократных массовых протестов в Стамбуле в 2011 году против нового режима фильтрации. 150 Ситуация в Индонезии и Турции может на деле быть отражением тирании со стороны наиболее активных и могущественных групп меньшинства населения при поддержке государства. С точки зрения положений Европейской конвенции самым терпимым примером можно считать меры правительства Индии по удалению сайтов политических экстремистов

в интересах национальной безопасности. Но даже в Индии климат ИКТ отлича -

ется неопределенностью, так как Google, Facebook и Yahoo!, а также 18 других

компаний в настоящее время угрожает судебное разбирательство в Нью-Дели

в связи с требованием обязательной фильтрации всего контента до его разме -

щения в Интернете. Это требование предполагает большие затраты времени

и средств на контроль контента, который не только подрывает свободу выраже - ния мнений, но также препятствует развитию ИКТ в Индии. 151

Аналогичным образом, неопределенность терминов, характеризующих незаконный сетевой контент, может способствовать государственной цен - зуре и вызывать небезосновательные опасения в нарушении прав человека. Наверно, самым ярким примером терминологической неопределенности в отно -

Системы фильтраций и проблема гражданских свобод

шении того, что считается незаконным, является Китай, где законной можно считать любую фильтрацию контента. 152 В Турции закон № 5651 допускает широкое применение, на что указывает количество сайтов, заблокированных согласно его положениям. С мая 2009 года, когда число сайтов, заблокирован - ных по закону № 5651, составило 2601, что на 433 сайта больше, чем в мае 2008 года, TIB больше не публикует соответствующую статистику. 153 Согласно докладу Организации по безопасности и сотрудничеству в Европе (ОБСЕ), кото - рый был опубликован в январе 2010 года, по состоянию на декабрь 2009 года было заблокировано 3700 сайтов. 154 По другим оценкам к середине 2010 года было заблокировано около 5000 сайтов. 155 В 2011 году, по данным независимого наблюдателя (Engelliweb.com), TIB заблокировал доступ к 3027 сайтам на осно - вании решения, принятого в январе, и еще 2735 на основании другого решения, принятого в апреле. С тех пор в «черный список» попали новые сайты. 156 Корре- ляция между количеством заблокированных сайтов и ростом сетевой безопас- ности детей не прояснена, а приведенные цифры могут указывать на избыточ - ную блокировку и нарушение международных соглашений о правах человека. 157

47

В целом, существует определенная напряженность между сетевой без - опасностью, обеспечиваемой за счет фильтрации, и нарушением актов между - народного законодательства о правах человека. 158 По мнению Мари Энеман, необходимо достичь равновесия между гражданскими свободами и проблемой злоупотреблений в отношении детей в контексте права ребенка на свободу от сексуальной или иной эксплуатации. 159 Эту позицию разделяют практически все. 160 При этом нет оснований сомневаться в возможности обеспечить такое равновесие, если государство и ИП в своем стремлении фильтровать контент будут обращаться за консультациями по вопросу соблюдения международных актов о правах человека и содействовать открытости, прозрачности и подотчет - ности. Одним из примеров попытки сотрудничества между компаниями отрасли (Google, Microsoft и Yahoo!), общественными организациями и научными кругами с целью оценки рисков нарушения прав человека в области ИКТ и, в частности, «защиты и распространения» свободы выражения мнений и защиты частной жизни является созданная в 2008 году Глобальная сетевая инициатива (Global Network Initiative или GNI). 161 Дон Нунциато видит в перспективе три этапа леги- тимизации любой формы фильтрации. Во-первых, должно быть «четкое и точ- ное определение того, какие выступления следует регулировать»; во-вторых, фильтрация должна осуществляться прозрачно с тем, чтобы пользователи и провайдеры контента были осведомлены о блокировке страниц и ее причинах; в-третьих, операторы систем фильтрации должны предоставить пользователям и/или провайдерам контента возможность для обращения в судебные органы по поводу любых соответствующих решений. 162 В неэффективной фильтра - ции больше всего убивает то, что «…возникает […] абсолютно реальный риск, что жертвой блокировки могут быть провозглашенные конституцией ценности, связанные со свободой выражения мнений и защитой тайны коммуникации – но, хуже всего, эта жертва может быть принесена при том, что заявленная в таких системах цель так и не будет достигнута». 163

Системам фильтрации присущи и другие недостатки. Может произойти так,

Системы фильтраций и проблема гражданских свобод

что после обеспечения эффективной блокировки детской порнографии, цензура распространится и на другой контент, например, по подозрению в нарушении авторских прав, расизме или других вредных проявлениях. В США и Канаде действуют требования о том, что ИП должны в обязательном порядке расследо - вать случаи (но не осуществлять мониторинг) в связи с подозрением на разме - щение детской порнографии. 164

48

Выводы и рекомендации

49

В том, что нужно делать интернет безопаснее для детей, ограждая самых уязвимых людей от угроз их физическому и психическому здоровью, не сомне - вается никто. С тех пор, как интернет сделал возможным быструю передачу текста и изображений, законодатели, общественные активисты и представители интернет отрасли озабочены вопросом, как это сделать эффективно. За послед - ние 20 лет предпринято множество попыток усилить безопасность детей с помо- щью законов, саморегулирующих инициатив и образовательных программ. Мно- гие из этих попыток привели к относительным успехам, а многие провалились по самым разным причинам. Задача данного доклада – помочь заинтересован - ным сторонам в России извлечь самые ценные уроки из сложного международ - ного опыта, при этом не поставив под сомнение необходимость найти эффек- тивное решение в самой России.

Пять выводов из международного опыта

1. В значительном количестве аналитических работ содержится вывод

о невозможности эффективно регулировать Интернет через национальное законодательство. В конце концов, Интернет – это децентрализованная между - народная система, выходящая за пределы границ любого государства. Госу - дарству целесообразно адаптировать свою политику в соответствии с между - народными нормами и конвенциями. 165 России еще предстоит ратифицировать факультативный протокол ООН к Конвенции о защите прав ребенка, касаю - щийся торговли детьми, детской проституции и детской порнографии (2000), при том, что статья 242 Уголовного кодекса РФ не обеспечивает несовершенно -

летним достаточную степень защиты. 166 Законом фактически все еще разреша - ется обладать детской порнографией (при отсутствии намерения распростра- нять, рекламировать или продавать ее).

2. Провал системы PICS в Северной Америке и ICRA в Европе может

указывать на сложности, которые могут возникать в России при реализации собственной системы рейтинга и маркировки, что предлагается в Законе № 436. Для того, чтобы рейтинговая система работала, нужно – помимо технических аспектов – обеспечить выполнение, как минимум, трех предварительных усло - вий: наличие достаточного финансирования (здесь нужны цифры и финансовая аргументация), динамичного надзорного органа и стимулов (стимулом в россий-

Выводы и рекомендации

ских реалиях должен стать закон) для провайдеров контента маркировать свои сайты. Закон № 436 подразумевает удовлетворение первого и второго из этих условий. Однако с третьим, возможно, самым главным условием, может полу - читься осечка, как в Северной Америке и Европе. Если стимулом для провай- деров контента будет принуждение – и соответствующая угроза санкций – это подорвет гражданские свободы и принесет вероятный экономический эффект «охлаждения» среды ИКТ в условиях принуждения и строгого регулирова - ния. В частности, это может задушить инновации. 167 Российская ассоциация электронных коммуникаций (РАЭК) и так уже столкнулась с возможными про- блемами в связи с предложенной системой рейтинга и маркировки. В частности, РАЭК отметила «техническую невозможность» маркировать весь российский контент, не говоря уже о международном, неспособность ИП обеспечить дина- мическую модерацию контента, а также опасность цензуры, если мониторинг контента будет осуществляться до его загрузки. 168

50

3. Закон № 436 предполагает фильтрацию контента на уровне ИП. 169

Как мы уже видели, ни одна из технологий фильтрации не является на 100% эффективной и может быть преодолена. Самой эффективной и при этом самой дорогой технологией представляется глубокая фильтрация пакетов. В России МГТС объявила о намерении ввести глубокую фильтрацию пакетов в школах. 170 Однако фильтрация на уровне ИП имеет и другую цену. Возможно, самой оче - видной из них является потенциальное нарушение международных конвенций о правах человека, особенно свободы выражения мнений. Хотя фильтрация порнографии, в целом, не считается нарушением этой свободы, фильтрация другого контента по требованию государства должна отвечать строгим крите - риям. 171 В случае России «необходимость» в фильтрации (в терминах статьи 19[3] ICCPR) представляется сомнительной, а с учетом широкого определения вредного контента в Законе № 436 Россия может в этом плане оказаться среди таких стран, как Китай и Турция. В Законе № 436 присутствует терминологиче- ская неопределенность, включающая в себя классификацию «непристойных выражений» и «порочение семейных ценностей». Другими словами, можно ли считать непристойным слово «черт» или «дерьмо»? Одни могут сказать, что да, другие – нет.

4. Цена фильтрации не сводится исключительно к стоимости создания

и пользования соответствующего программного обеспечения и вычислительных мощностей, хотя и эта стоимость не ничтожна. По нашим оценкам, стоимость системы автоматизированной фильтрации в российских условиях может достиг- нуть 500 млн долларов только для ее создания и первоначального внедрения. Без дополнительных инвестиций в сетевую инфраструктуру, такая система также приведет к снижению скорости передачи данных примерно на 20%, что может привести в своей очереди к снижению на 2-5% потенциального ВВП страны. Система ручной фильтрации имеет более низкие прямую и косвенную стоимость, но и ее нельзя игнорировать. Система блокировки по IP адресам не так дорога в создании и управлении (примерно 600 тыс долларов в первый год и 300 тыс долларов в каждом последующем году для каждого крупного ИП), но по сути перекладывает финансовую нагрузку на владельцев многочисленных

Выводы и рекомендации

не нарочно блокированных сайтов, пропорция которых к намеренно блокиро- ванным сайтам нередко исчисляется 1000 к одному. 172 Блокировка по URL адре - сам более точна, но сложнее технически, и создание и введение такой системы для ИП стоит примерно в 10 раз больше системы блокировки по IP адресам. 173

51

5. Эффективность систем ручной (или списочной) фильтрации высока по отношению к блокировке сайтов включенных в список, но она низка по отно - шению к проблеме защиты детей в целом. Так, самая известная подобная система – британская Internet Watch Foundation, согласно своему годовому отчету, получает примерно 40 тыс запросов о блокировки в год, и ежегодно блокирует примерно 1,5 тыс доменов уже четвертый год подряд, что свидетель - ствует о том, что масштаб проблемы не уменьшается.

О важности цифровой грамотности

Как показывают проведенные в мире исследования, лучшим средством обеспечить защиту несовершеннолетних в Интернете является не сосредоточе - ние власти в руках государственных цензоров или организаций, выполняющих требования государства, а коллективная ответственность. Другими словами, ответственность следует перевести на уровень совместного участия всех заин -

тересованных сторон. 174 Так, Таня Байрон в своем докладе «Безопасность детей

в цифровом мире» (2008) рекомендует формировать «культуру ответственно -

сти» – коллективный подход, где заинтересованные стороны «работают вме- сте, помогая детям защищать себя, помогая родителям защищать своих детей и помогая друг другу оказывать содействие детям и родителям в выполнении этой задачи». 175 Этому может способствовать «национальная стратегия сете - вой безопасности детей, включающая в себя совершенствование механизмов саморегулирования, информирования и образования детей и семей». 176 Что же

касается оценки результатов, то, как полагает Байрон, на 2010 год коллектив- ные попытки, осуществляемые в Великобритании под эгидой UKCCIS, движутся

в правильном направлении. В плане информационно-разъяснительной работы

по повышению компьютерной грамотности, в частности, был сделан важнейший первый шаг, хотя «многое еще предстоит сделать». 177 В докладах, опубликован - ных в США в 2008 и 2009 году, также содержится призыв к коллективному под - ходу. Такие организации, как рабочая группа PointSmart.ClickSafe и Техническая

рабочая группа по сетевой безопасности (ISFTF), включающие в себя предста - вителей отрасли, общественных организаций, сферы образования, здравоохра - нения, научных кругов и технологического сектора, отстаивали важность сотруд - ничества и инноваций. По словам ISFTF:

Участники Интернет-сообщества, в том числе социальные сети, должны продолжать разработку и интеграцию ряда технологий в рамках своей стратегии по защите несовершеннолетних от вредного воздействия в Интернете. В этом процессе им следует работать в тесном контакте со специалистами по безопасности детей, психотерапевтами, техническими

Выводы и рекомендации

специалистами, консультантами по вопросам государственной политики, правоохранительными органами, а также друг с другом. При этом им не следует чрезмерно полагаться на какую-нибудь одну технологию

или совокупность технологий как на единственное средство защиты детей

в Интернете. Поскольку нет однозначного решения проблемы сетевой

безопасности несовершеннолетних, любой технологический подход нужно соответствующим образом адаптировать к тому контексту, в котором он работает, с учетом широкого спектра услуг, имеющихся в Интернете. Родители, педагоги, наставники, социальные службы, правоохранители и сами дети должны играть свою роль в обеспечении сетевой безопасности всех несовершеннолетних – в плане содействия решению этой проблемы ничья роль не может быть принижена или упразднена. 178

52

Ничто не может заменить работу по обеспечению компьютерной грамот - ности детей, которая может научить их более эффективно избегать сетевых

рисков. Интересно, что в августе 2011 Президент РФ Дмитрий Медведев высту - пил против «тупых запретов» в Интернете и за обучение детей сетевой безопас- ности. 179 Школы должны взять на себя ответственность за обучение детей, ока - зание им помощи и укрепление компьютерной грамотности. 180 Родители должны укреплять собственные возможности и заниматься с детьми как при выходе

в Интернет, так и при отключении от него, используя имеющиеся механизмы

контроля сетевого контента. 181 В частности, Яман Акдениз выступает за повы - шение роли родителей, педагогов и других лиц, пользующихся авторитетом,

в процессе обучения несовершеннолетних преимуществам и опасностям Интер -

нета. Он считает, что взрослым не следует полагаться ни на технологию, в част- ности, фильтры, ни на саморегулирование отрасли. 182 По его мнению:

Государству и органам регулирования нужно скорее вкладывать больше средств в информационно-разъяснительную работу, чем заниматься распространением малоэффективных средств рейтинга и фильтрации, создающих у родителей и педагогов ложное ощущение безопасности, между тем, как дети быстро находят лазейки в этих системах. Мой совет заинтересованным пользователям и, особенно, родителям, таков: учите

своих детей и не доверяйтесь технологиям или отрасли, которая считает, что может лучше защитить детей, чем их родители. Решение проблемы –

в формировании ответственности у родителей, а не в распространении цензуры. 183

Со своей стороны, общественные организации должны проводить разъяс- нительную работу со школами, родителями и обществом в целом и тем самым содействовать развитию компьютерной грамотности. 184 В России этот проект

уже имеет определенное обеспечение ресурсами, так как целый ряд организа - ций и компаний работают над тем, чтобы добиться участия школ и родителей

в содействии сетевой безопасности. Рекомендации по сетевой безопасности

для родителей есть у Google, проект Kids Online (ФРИ) предлагает родителям и детям соответствующие советы и консультации в Интернете, а другие проекты

Выводы и рекомендации

– например, Российский детский фонд и «Смешарики» – способствуют повы- шению компьютерной грамотности и распространению информации об опасно- стях Интернета. 185 Общественные организации могут при этом помочь решению проблемы существенного дефицита исследований в этой области в партнер - стве с научными кругами и государственными научными организациями. Нужно больше знать о потребностях детей и целесообразных методах смягчения последствий их отрицательного опыта взаимодействия с Интернетом. 186

53

Саморегулирование: польза и недостатки

Саморегулирование отрасли, как мы убедились, широко практикуется

в мире и приобретает центральную роль при коллективном подходе к сетевой

безопасности детей. 187 Оно может принимать различные формы, включая эти- ческие кодексы, «горячие линии», фильтры и системы классификации. В России за саморегулирование выступает РАЭК, представляющая свыше 60 ИКТ компа- ний. 188 Игорь Щеголев, бывший министр связи и массовых коммуникаций, также недавно высказался в пользу саморегулирования Интернета. 189 Основания для этого есть: существуют соглашения о саморегулировании и, как минимум, две «горячих линии», http://old.saferunet.ru/hotline/content.php/ и http://hotline. friendlyrunet.ru/?l=ru, посредством которых российские пользователи могут подать жалобу на незаконный сетевой контент, хотя в последней применяется чрезмерно широкое определение незаконного контента, превосходящее даже те категории, которые используются в Законе № 436. 190

Однако проблемы саморегулирования отрасли остаются; для их реше- ния может также потребоваться разработка общенациональных принципов или даже пересмотр правовых концепций, относящихся к саморегулированию. 191 Так, этические кодексы не будут работать без протоколов отчетности и кон - троля, на основе которых оценивается их соблюдение. 192 На этой почве могут возникнуть проблемы, связанные с подотчетностью и исполнением. Даже если отчетность будет эффективной и полноценной, меры воздействия в отношении компаний, нарушающих принципы, изложенные в этических кодексах или согла - шениях о саморегулировании, часто являются несущественными. 193 Другой воз - можной сложностью является то, что отрасль ИКТ связана с интересами акцио- неров, которые вкладывают средства для того, чтобы получать прибыль.

Проблема в отношении прав человека может представлять собой побоч- ную сложность. 194 Проблематичность частных систем фильтрации состоит

в том, что во избежание ответственности ИП могут блокировать все подряд. 195

Как мы уже видели, это, возможно, и происходит в Турции и Индонезии. И этим последствия не ограничиваются – в Китае Интернет-провайдеры, включая Google, занимаются цензурой контента. 196 Если компании будут выполнять требования государства таким образом, ценой этому станет ущемление граж - данских свобод. В Китае, опять же, для того, чтобы получить доступ к рынку, ИП подписывают с государством соглашение о гарантиях. 197

Выводы и рекомендации

Нужна корпоративная ответственность. Недостатки саморегулирования можно компенсировать за счет соблюдения соответствующей прозрачности

и подотчетности. Одним из таких примеров является доклад Google, в котором

приводятся сведения о полученных от государственных органов требованиях удалить тот или иной контент и выполнении или невыполнении компанией этих

требований. 198 Работа отрасли должна быть прозрачной, а также приводить – при помощи соглашений и инструментов оценки, таких как Принципы социаль - ных сетей ЕС – к разработке более адаптированных для различных возрастных групп и удобных в использовании параметров конфиденциальности, инструмен- тов родительского контроля, средств безопасности и механизмов подотчетности. Как и в Германии, Google (Россия) и Yandex предлагают услугу безопасного (или семейного) поиска (Google это делает во всех странах) с фильтрацией резуль - татов. У портала YouTube в России (тоже во всех странах) тоже есть безопасная поисковая система. 199 В конечном счете, если ИКТ компании будут соблюдать принципы, изложенные в кодексах и проектах, таких как Глобальная сетевая инициатива (несмотря на препятствия в виде недостаточного числа участников), страны, занимающиеся фильтрацией, будут нести убытки в плане экономики

и развития в результате оттока иностранных инвестиций. Однако требования

китайского правительства можно также считать грубой формой экономического

протекционизма. 200

54

Государству по-прежнему отводится значительное место при любых попыт- ках саморегулирования. Согласно рекомендациям проведенного в ЕС обследо - вания Kids Online, если при обеспечении сетевой безопасности делать ставку на саморегулирование, то государство должно обеспечивать мощный контроль для того, чтобы регулирование было «всеобщим, эффективным и ответствен - ным». Эта проблема уже рассматривалась выше. Кроме того, государство, не ограничиваясь лишь направлением саморегулирования отрасли, должно содействовать сетевой безопасности путем просвещения, поощрения, финан- сирования и стимулирования социальных служб по работе с детьми и молоде - жью. 201 В плане такой информационно-разъяснительной работы, как рекоменду - ется в докладе Kids Online, заинтересованные стороны должны выяснять мне- ние детей, особенно из числа уязвимых слоев населения.

Выводы и рекомендации

Что дальше

55

Применяемый правительством РФ разрозненный подход к регулированию Интернета путем регулирования вредного контента в соответствии с законом № 436 может подорвать развитие ИКТ, нарушить гражданские свободы и препят- ствовать развитию компьютерной грамотности. К сожалению, в других предло - жениях, которые сейчас направлены в Думу, ставится вопрос об ответственно - сти ИП за хранение порнографических материалов на их серверах и о формиро- вании «черного списка» сайтов, доступ к которым должен блокироваться ИП.

Положительный международный опыт указывает, наоборот, о необходимо- сти комплексного подхода к безопасности детей, который опирается на участие всех заинтересованных сторон, начиная с государственных органов и закан - чивая компаниями отрасли, НКО, школами, родителями и, наконец, самими детьми, и при котором ценится вклад каждого из этих участников.

Наряду с этим очевидна необходимость в появлении рамочного законода - тельства по отношению к интернету в целом, который определил бы базовые принципы государственной прерогативы в отношении онлайн-среды. Среди установленных принципов должны значиться верховенство конституционных и международных принципов свободы выражения и доступа к информации, принцип сетевой нейтральности, а также принцип «самой острой лезвии», озна - чающий, что любое техническое решение, принятое министерством или иным органом власти для блокировки того или иного ресурса, должно быть макси- мально точным.

Примечания

1 См.: D. Boyd & H. Jenkins, ‘Myspace and Deleting

Online Predators Act (DOPA),’ MIT Tech Talk, May 2006. URL: http://www.danah.org/papers/MySpaceDOPA.html; J. Wolak, D. Finkelhor, K. Mitchell, M. Ybarra, ‘Online «Predators» and Their Victims’, American Psychologist, 63/2 (2008), pp. 111-28; U.S. Department of Health and Human Services, ‘Fourth National Incidence Study of Child Abuse and Neglect (NIS-4): Report to Congress’, 2010. (дата обращения: 5.01.2012)

URL:http://www.acf.hhs.gov/programs/opre/abuse_neglect/ natl_incid/nis4_report_congress_full_pdf_jan2010.Pdf; S. Wastler, ‘The Harm in «Sexting»?: Analyzing the Consti- tutionality of Child Pornography Statutes That Prohibit the Voluntary Production, Possession, and Dissemination of Sexually Explicit Images by Teenagers’, Harvard Journal of Law & Gender, 33/2 (2010), pp. 687-702. (дата обращения:

8.01.2012)

URL: http://www.law.harvard.edu/students/orgs/jlg/ vol332/687-702.pdf (дата обращения: 8.01.2012)

2 См.: F. Lazarinis, ‘Online risks obstructing safe Internet

access for students’, The Electronic Library, 28/1 (2010), pp. 157-70 (esp. pp. 160-4); U. Gasser, C. Maclay, J. Palfrey, ‘Working Towards a Deeper Understanding of Digital Safety

for Children and Young People in Developing Nations’, Berkman Center for Internet and Society at Harvard Uni- versity/UNICEF, June 16, 2010, pp. 16-25. URL: http://

cyber.law.harvard.edu/sites/cyber.law.harvard.edu/files/Gas-

ser_Maclay_Palfrey_Digital_Safety_Developing_Nations_ Jun2010.pdf (дата обращения: 16.12.2011)