Содержательный подход к измерению количества информации

i
2 ≤N
i – количество информации в битах, которое несет сообщение о том что
произошло одно из N равновероятных событий.
Алфавитный подход к измерению количества информации
Количество информации, которое содержит сообщение, закодированное с
помощью знаковой системы, равно количеству информации, которое несет
один знак (i), умноженному на количество знаков (k).
I =k⋅i
Вычисление информационного объема текстового сообщения
i
2 ≥N
N – мощность алфавита, i –информационный объем одного символа.
I =k ∙ i
k – количество символов в сообщении.
Задачи для самостоятельного решения
1. В велокроссе участвуют 119 спортсменов. Специальное устройство
регистрирует прохождение каждым из участников промежуточного финиша,
записывая его номер с использованием минимально возможного количества
бит, одинакового для каждого спортсмена. Каков информационный объем
сообщения, записанного устройством, после того как промежуточный финиш
прошли 70 велосипедистов?
2. Считая, что каждый символ кодируется одним байтом, определите,
чему равен информационный объем следующего высказывания Алексея
Толстого:
Не ошибается тот, кто ничего не делает, хотя это и есть его основная
ошибка.
3. Мощность алфавита равна 256. Сколько Кбайт памяти потребуется для
сохранения 160 страниц текста, содержащего в среднем 192 символа на
каждой странице?
4. Автоматическое устройство осуществило автоматическую
перекодировку информационного сообщения на русском языке из 16-битного
представления Unicode в 8-битную кодировку КОИ при этом
информационное сообщение уменьшилось на 240 бит. Какова длина
сообщения в символах?
5. Для передачи секретного сообщения используется код, состоящий из
прописных латинских букв (всего используется 20 различных символов). При
этом все символы кодируются одним и тем же (минимально возможным)
количеством битов. Определите информационный объём сообщения длиной
в 200 символов.