Вы находитесь на странице: 1из 47

ТЕОРЕТИЧЕСКИЕ

ОСНОВЫ
ИНФОРМАТИКИ
Информац
ия
р м а ци я ?
к о е ин ф о
Что т а
Точного  определения  информация 
        

не имеет.
Информация -  это  отражение  в 
голове  человека  материального  и 
нематериального мира.
Например:
a) газета или журнал г) рисунок
б) телевизионная передача д) план города
в) дерево е) письмо
ж) пример 10 + 23 = ?
своему объясняет ее сущность.
Первая концепция (концепция К.Шеннона), отражая
количественно-информационный подход, определяет информацию как
меру неопределенности (энтропию) события. Количество информации в
том или ином случае зависит от вероятности его получения: чем более
вероятным является сообщение, тем меньше информации содержится в
нем. Этот подход, хоть и не учитывает смысловую сторону информации,
оказался весьма полезным в технике связи и вычислительной технике,
послужил основой для измерения информации и оптимального
кодирования сообщений. Кроме того, он представляется удобным для
иллюстрации такого важного свойства информации, как новизна,
неожиданность сообщений. При таком понимании информация - это
снятая неопределенность или результат выбора из набора возможных
альтернатив.
Вторая концепция рассматривает информацию как свойство
(атрибут) материи. Ее появление связано с развитием кибернетики и
основано на утверждении, что информацию содержат любые
сообщения, воспринимаемые человеком или приборами. Наиболее ярко
и образно эта концепция информации выражена академиком В.М.
Глушковым. Он писал, что "информацию несут не только испещренные
буквами листы книги или человеческая речь, но и солнечный свет,
складки горного хребта, шум водопада, шелест травы". Иными словами,
информация как свойство материи создает представление о ее природе
и структуре, упорядоченности, разнообразии и т.д. Она не может
существовать вне материи, а значит, она существовала, и будет
Третья концепция основана на логико-семантическом (семантика
– изучение текста с точки зрения смысла) подходе, при котором ин­
формация трактуется как знание, причем не любое знание, а та его
часть, которая используется для ориентировки, для активного
действия, для управления и самоуправления. Иными словами,
информация - это действующая, полезная, "работающая" часть знаний.
Представитель этой концепции В.Г. Афанасьев, развивая логико-се­
мантический подход, дает определение социальной информации:
"Информация, циркулирующая в обществе, используемая в управлении
социальными процессами, является социальной информацией. Она
представляет собой знания, сообщения, сведения о социальной форме
движения материи и о всех других формах в той мере, в какой она
используется обществом...".
Социальная информация - многоуровневое знание. Она
характеризует: общественные процессы в целом - экономические,
политические, социальные, демографические, культурно-духовные и
т.д.; конкретные процессы, происходящие в различных ячейках
общества, - на предприятиях, в кооперативах, семьях и т.д.; а также
интересы и стремления различных социальных групп - рабочего класса,
молодежи, пенсионеров, женщин и др. В самом общем смысле под
социальной информацией понимают знания, сообщения, сведения о
социальной форме движения материи и о всех других ее формах в той
мере, в какой они используются обществом. Другими словами,
информация есть содержание логического мышления, которая,
Четвертая концепция основана на контекстной теории
информации, изложенной в работах А.В. Могилева. Согласно
контекстной теории информации, информацию следует рассматривать
совместно с контекстом, представляющим собой правила порождения,
обработки и использования информации. Определенное количество
информации может быть свернуто в ал­горит­мический кон­текст.
Итак, рассмотренные подходы в определенной мере дополняют
друг друга, освещают различные стороны сущности понятия
информации и облегчают тем самым систематизацию ее основных
свойств. Из множества определений информации наиболее
целесообразным предс­тавляется следующее: информация - это
сведения, снимающие неопределенность об окружающем мире,
которые являются объектом хранения, преобразования, передачи
и использования. Сведения - это знания, выраженные в сигналах,
ысообщениях,
и задания:известиях, уведом­лениях и т.д.
ди примеры информации.
сходство и различие информации в примерах урока.
на, билет в кино. Какую информацию можно получить из этих предм
ини точки с помощью цифр. Какую информацию ты получишь после
оты?
Виды представления
информации.
1. Текстовая информация - это информация, состоящая из слов.
Например: Ехали медведи на велосипеде.
2. Числовая информация - это информация, состоящая из цифр.
Например: 378000.
3. Графическая информация - это информация, состоящая из графических
знаков, рисунков.
Например: //##&&ЖЖ__++.
Это основные виды информации.
Информация бывает смешанной, то есть когда в ней 2 или более видов
представления информации.
Например: 14 мая ( числовая и текстовая ) .
$ - 14 ( графическая и числовая ) .
Вопросы и задания:
1. Приведи 2 примера текстовой, числовой и графической информации.

2. В каком виде представлена информация:


а) примеры по математике
б) письмо
в) картина
г) газета с новостями
3. С какими видами информации умеет работать
компьютер?
4. С какими видами информации работает человек?
5. Нарисуй смешанный вид информации.
информацией?
                  
        Информацию можно:
а) хранить ( стихотворение хранится в книге, книга
хранится в библиотеке )
б) предавать ( рассказывать историю другу, написать
письмо )
в) обрабатывать
Хранение, ( обдумывать
передача задачу
и обработка - это)
информационные процессы. Все, что происходит с
информацией включает в себя хранение, передачу и
обработку.
Хранение информациии.
        Всякая работа с информацией позволяет ее хранить.
        Устройства, на которых хранится информация называются
информационными
носителями.
формационный носитель для ЭВМ -магнитный диск
Для хранения информации на магнитном диске пользуются магнитными
свойствами
материала, из которого сделан диск: намагниченный участок
поверхности диска означает
число 1, а не намагниченный – число 0. Так можно обозначить любой
знак, значит на
диске можно сохранить любую записанную информацию: 11000101
001011.

Вопросы и задания:
1. Как люди носитель
пример могут узнать о жизни своихвид информацииживших много лет
предков,
назад?
а) билет на самолет
2. Как хранится информация на фотопленке? В каком виде она
б) табличка с номером дома
представлена?
3.в) Запиши
письмо бабушке
информационный носитель и вид информации:
г) пластинка с песнями
Хранить, чтобы искать.
Информацию не достаточно сохранить. Надо сделать так, чтобы потом, когда
она понадобится, ее можно быстро найти. Для этого придуманы различные
способы хранения информации.
Способы организации хранения информации:
1. В алфавитном порядке.
2. По темам, по индексу, по содержанию.
3. По приоритету.

Вопросы и задания:
1. Зайди в библиотеку и посмотри, как хранится информация о книгах.
2. Загляни в школьный классный журнал и посмотри, каким способом расположены
фамилии учеников?
А каким способом лучше расположить названия предметов?
3. В расписании самолетов указано в какой город и в какое время вылетает
каждый рейс. В каком порядке надо расположить эту информацию, чтобы было
удобно пассажиру, покупающему билет?
А как будет удобнее диспетчеру аэропорта?
Передача информации.
         В передаче информации участвуют 2 стороны: тот, кто
передает информацию - источник и тот, кто ее получает -
приемник.
Источник Информаци Приемник
я
Обратная связь

ИСТОЧНИК --------------> ПРИЕМНИК

телевизор --------------> человек


человек --------------> человек
человек --------------> компьютер
компьютер --------------> компьютер
Вопросы и задания:

1. Приведи несколько примеров передечи информации людьми, животными.


2. Какое важное требование передачи информации нарушается в игре
"Испорченный телефон"?
3. Укажи источник информации и приемник информации:

источник приемник

ты читаешь письмо
учитель пишет на доске
звенит будильник

4. Запиши списобы передачи информации:


1.
2.
3.
4.
Искажения при передаче информации.
Ошибки, возникающие при передаче информации:
1. Часть передаваемой информации заменяется на неверную.
Например: Тише едешь - баба-яга.
2. К передаваемой информации добавляется лишнее, постороннее сообщение.
Например: У квадрата 4 стороны, был южный ветер.
3. Часть информации при передаче пропадает.
Например: Жили - были ... у них курочка-ряба...
опросы и задания:
Приведи примеры искажения информации, которые случались с тобой.

2. Укажи вид а) Без труда из пруда.


искажения: б) Ехали медведи на шарике.
в) В лесу родилась елочка, зм.
г) Если поставить воду на горячую плиту, то она закипит, пустит
ростки.
д) На дворе трава - на дрова.

рисуй рисунок с искажениями при передаче информации.


Обработка информации.
Информация, которую обрабатывают называют исходной. После обработки
исходной информации получается новая информация.

Старая Новая
информация Обработка
информация

Информация обрабатывается людьми, животными, техническими устройствами.


Калькулятор - производит сложные вычисления. Введенный в него пример - исходная
информация, а ответ - новая информация.
Компьютер - специальный прибор, созданный человеком для обработки информации.

Вопросы и задания.
1. Приведи примеры обработки информации.
2. Прочитай рассказ. Подчеркни хранение( ^^^^^^^^^), передачу(---------),
обработку(-- -- -- --) информации:
        Пошел котенок Васька в лес позавтракать. Увидел ягоду бруснику. 
Попробовал - кислая. Учуял гриб-боровик, попробовал его - горький.
        Вдруг слышит шуршание. Видит - в траве комочек взъерошенный. "  Ну,"- 
думает - "тобой позавтракаю." Хотел лапой к себе подкатить поближе, да 
как закричит: "Ой! Ай!". Комочек тот ежом оказался.
        Сел Васька на пень и задумался. Подумал и решил, что с ежом не сотоит 
связываться, а лучше кислых ягод поесть.
Алгоритмы обработки инфомации.
Обработка инфомации всегда происходит по каким-то правилам. Правило
обработки инфомации называется алгоритмом.
Компьютер всегда обрабатывает инфомацию по точным алгоритмам:
Например: 3 → 7 

7 → 11  ПЕРВОЕ ЧИСЛО + 4 = ВТОРОЕ ЧИСЛО
11 → 15
Для обработки инфомации нужна входная инфомация ( та, которую мы
вводим ) и выходная инфомация ( та, которую получаем ).
Объект, в котором известны входная и выходная инфомация, но неизвестен
алгоритм, называется "Черный ящик".
Порядок работы над "Черным ящиком":
1. Накопление инфомации. 2. Выдвижение гипотезы. 3. Проверка гипотезы.
Вопросы и задания:
1. Что называют алгоритмом?
2. Что такое "Черный ящик"?
3. Каков порядок работы с "Черным ящиком"?
4. Составь свой алгоритм.
Кодирование информации.
Кодирование информации не является искажением.
Кодирование - это преобразование информации в удобную для хранения и
передачи форму. Например: Музыку можно закодировать с помощью нот

Дорожные знаки - это закодированное педупреждение водителю.


В армии слова закодированы с помощью цифр, а смысл передается друг
другу словами: 3227, 66400.(осторожно, мина!)
Информация всегда хранится и передается в виде кодов. Нельзя хранить
просто информацию без носителя. Информация всегда имеет какую-то форму,
то есть закодирована.

Вопросы и задания:
1. Чем кодирование толичается от искажения?
2. Закодируй слова так, чтобы поняли другие:
человек
лошадь
машина
солнце
календарь
Самостоятельная
работа
1. Определение информации.
2. Виды информации:
- самостоятельная работа по информатике
- фотография
- время
- сладкий чай
- аромат духов
- звонок будильника
- холодный снег

3. Что можно делать с информацией.
- друзья обсуждают новый фильм
- энциклопедия
- ученый пишет научный доклад после проведения опытов

4. Хранение информации.
Определение носителя информации.
Примеры:
5. Хранить, чтобы искать.
6. Передача информации.
1. Схема передачи информации.
2. Способы передачи:
7. Искажения при передаче информации.
8. Обработка информации.
1. Схема обработки информации
2. Выдели хранение, обработку и передачу информации.
        Пришел школьник Вася со школы. Сел обедать. Попробывал суп. Недосолен. 
Вылил в кастрюлю. Откусил котлету. Горячая. Отдал кошке. Хлебнул компот. 
Вкуусно. Выпил Вася компот и крикнул бабушке:"Спасибо, все было очень 
вкусно!"

9. Алгоритмы обработки информации.
1. Определение алгоритма, исполнителя.
2. Выполни алгоритм.
а). Отгадай загадки.
2. На квадратиках доски
1.Задачу ты решишь свободно:
Я - небольшая часть лица. Короли свели полки.
Но прочитай меня с конца - Нет для боя у полков
Во мне увидишь что угодно. Ни патронов, ни штыков.

4. В черном поле заяц белый


3. Два березовых кола
Через лес несут меня. Прыгал, бегал, петли делал.
Кони эти рыжи След за ним был тоже бел.
А зовут их ... Кто же этот заяц? ...
        б). Ответы запиши по такому алгоритму:
                Аа# Бб+ Вв$ Гг%
        3. Сколько загадок я могу загадать классу по этому алгоритму.
Почему?
10. Кодирование информации.
1. Определение.

2. Закодируй задачу при помощи арабских цифр и математических знаков:


        У меня было 2 яблока.Саша дал мне еще 3. Сколько яблок у меня стало?
11. Шифрование информации.
1. Определение.
2. Расшифруй шифровку."История появления названия весеннего цветка"
Тяльпбн. Нбзвбнйж цвжткб прйшлп к нбм йз Фрбнцжж, б Фрбнцфзь 
ппзбймствпвблй жгп йз Пжрсйй. Цвжтпк нбппмйнбжт ппвазкф нб гплпвж - 
тярббн.
АЛГОРИТ
М
Возникшая в 30-е годы нашего столетия, теория алгоритмов
ка­залась наиболее абстрактной и далекой от практических
приложений областью математики. В настоящее время положение
коренным образом изменилось. Ныне общепризнанно, что эта область
образует теоретический фундамент для создания и применения
быстродействующих вычислительных и управляющих систем. Резко
возрос удельный вес теории алгоритмов и в самой математике. Понятие
"алгоритм" давно уже стало привычным не только для математиков:
оно является концептуальной основой разнообразных процессов
обработки ин формации; именно наличие соответствующих алгоритмов
и обеспечивает возможность автоматизации таких процессов. Вместе с
математической логикой теория алгоритмов образует теоретический
фундамент современных вычислительных наук. Более того, в
значительной степени через теорию алгоритмов происходит ныне
проникновение математических методов в биологию, лингвистику,
экономику вплоть до философии естествознания.
Алгоритмы являются объектом систематического
исследования пограничной между математикой и информатикой
научной дисциплины, примыкающей к математической логике - теории
алгоритмов.
Как фундаментальное научное понятие алгоритм требует
более обстоятельного изучения. Оно невозможно без уточнения
понятия алгоритма, более строгого его описания или, как еще говорят,
без его формализации.
Развитие теории алгоритмов сталкивается с трудностью,
вызванной тем, что алгоритмы сами по себе суть объекты весьма
специфического типа и обладают свойством, нетипичных для математи­
ческих объектов, а именно семантическим свойством "иметь смысл". В
этом отношении теория алгоритмов подобна математической логи­ке,
чьи термы и формулы также имеют смысл. Смысл терма или формулы
"указателен": терм указывает на (т.е. обозначает) вещь, а формула - на
факт. Смысл алгоритма "повелителен": алгоритм должен быть
исполнен. Таким образом, теория, изучающая алгорит­мы, может
трактоваться как своего рода лингвистика повелительных
предложений. Математики еще не привыкли обращаться надлежащим
образом с лингвистическими объектами, несущими на себе смысл.
Поэтому при создании адекватной теории алгоритмов направляющую
роль должна играть семантика, чисто математический подход для этой
цели недостаточен (если считать, что чисто математический подход не
должен использовать - в качестве технического понятия - понятие
смысла). В теорию алгоритмов входит, на равных правах с понятием
алгоритма, еще и понятие исчисления. Подобно термам, формулам и
алгоритмам, исчисления также являются носителями смысла: однако
смысл их не "указателен" и не "повелителен", а "разрешителен".
Поэтому теорию алгоритмов - было бы правильнее именовать теорией
алгоритмов и исчислений.
Термин "алгоритм" происходит от латинской транслитерации
имени великого ученого аль-Хорезми (787- ок. 850 гг.).
Первоначально этим термином обозначались лишь правила
арифметических действий в десятичной системе счисления,
разработанные аль-Хо­резми. Постепенно этот термин стал
применяться в более широком смысле.
“Алгоритм можно понимать как точное, понятное предписание о
том, какие действия и в каком порядке необходимо выполнить, чтобы
решить любую задачу из данного класса однотипных задач (для
которого и предназначен этот алгоритм)” .
В этом интуитивном понятии еще много неясного. Например,
что значит "точное предписание", "понятное предписание",
"действие", "решить любую задачу". Объясним смысл этих слов.
1. "Точное предписание" - это предписание, задающее алгоритм,
построенное так, что его исполнение однозначно осуществимо и не
требует никаких свободно принимаемых (исполнителем) решений,
т.е. однозначно
2."Понятноеопределена последовательность
предписание" действий. что
- это такое предписание, Это каждое
одно
из свойств любого им
предусмотренное алгоритма,
действиеназываемое
выполнимоопределенностью
теми исполнителямиили
детерминированностью
(людьми с определенным алгоритма.
уровнем образования, определенными ЭВМ и
т.п.), которым адресовано само предписание. Иначе говорят, что это
действие должно принадлежать сис­теме действий (команд)
исполнителя. И еще одно обстоятельство необходимо учесть: чтобы
предписание было понятным, оно должно быть выражено с помощью
конечного текста. Таким образом, говоря "понятное предписание",
будем иметь в виду конечное предписание, предусматривающее
действия. Алгоритмы встречаются не только в математике.
4."Решить любую задачу" (разумеется, из данного класса
однотипных задач) означает, во-первых, что каждый алгоритм
предназначен для решения не од­ной единственной задачи, а любой
задачи из некоторого бесконечного класса однотипных задач. В этом
состоит свойство массовости алгоритма. Во-вторых, "решить задачу"
означает решить ее за конечное число шагов. Получение результата за
конечное число шагов составляет свойство результативности
алгоритма. В-третьих, так как предписание, задающее алгоритм,
обеспечивает получение результата за конечное число шагов, это
означает также, что всякий ал­горитм предстает в виде упорядоченного
конечного множества шагов, а следовательно, обладает свойством
дискретности.
5.Исходные объекты, промежуточные и окончательные результа­
ты любого алгоритма - конструктивны. Все попытки определить
понятие конструктивного объекта неизбежно сводятся либо к
расплывчатому описанию, либо к определению частных случаев
конструктивных объектов.
Наиболее изученными конструктивными объектами являются
слова в некотором конечном алфавите. В таком виде представимы
натуральные, целые, рациональные числа, многочлены с
рациональными коэффициентами, уравнения и неравенства с
рациональными коэффициентами. Поэтому их можно считать
конструктивными объектами. Вещественные числа не являются
конструктивными объектами.
Итак, подведя некоторый итог сказанному, можно дать и сле­
дующее объяснение термину "алгоритм": под алгоритмом понимаем
“единый общий метод решения определенного класса однотипных
задач, обладающий свойствами дискретности, массовости, определен­
ности, результативностью и оперирующий конструктивными
объектами”.
Однако каждое из двух введенных интуитивных понятий
алгоритмаУточнение
не является интуитивного понятия
его математическим алгоритма
определением, так как ис­
пользуемые в них
Согласно А.Н.слова не обозначают
Колмогорову, мы точные математические
отправляемся поня­
от следующих
тия.
наглядных представлений об алгоритмах:
1) алгоритм Г, примененный ко всякому "условию" ("начальному
состоя­ию") A из некоторого множества G (Г) ("области применимости"
алгоритма Г), дает "решение" ("заключительное состояние") B;
2) алгоритмический процесс расчленяется на отдельные шаги за­
ранее ограниченной сложности; каждый шаг состоит в "непосредствен­
ной перера­бот­ке" возникшего к этому шагу состояния S в состояние
S*=Wг(S);
3) процесс переработки A0=A в A1=Wг(A0), A1 в A2=Wг(A1), A2 в
A3=Wг(A2) и т.д. продолжается до тех пор, пока либо не произойдет
безрезультатная остановка (если оператор Wг не определен для полу­
чившегося состояния), либо не появится сигнал о получении "решения".
При этом не исключается возмож­ность неограниченного продолжения
процесса (если никогда не появится сигнал о решении);
лишь на осно­ва­нии информации о виде заранее ограниченной
"активной час­ти" состояния S и затрагивает лишь эту активную
часть.
Оператор Wг задается конечным набором правил. Каждое из
этих правил име­ет вид Ui в Wi; его применение состоит в том, что
если ак­тивная часть ком­п­лек­­са S есть Ui, то, чтобы получить
S*=Wг(S), следует Ui заменить на Wi, оста­вив неизменным S\Ui.
Алгоритмом принято называть систему вычислений, которая для
некоторого класса математических задач из записи А "условий" зада­
чи позволя­ет при помощи однозначно определенной
последовательности операций, совер­ша­емых "механически", без
вмешательства творческих способностей человека, получить запись B
"решения" задачи.
Во всех интересующих математиков случаях доступные
переработке данным алгоритмом записи условий А легко включаются
в занумеро­ванную неотрицательными целыми числами
последовательность A0,A1,A2,...,An,..., а записи могущих получиться
решений B - в последовательность B0,B1,B2,...,Bn,..., тоже
занумерованную неот­рицательными числами. Если обозначить через
G множество номеров n тех условий An, которые алгоритм способен
переработать в решения, то результат работы алгоритма,
осуществляющего переработку An в Bm, однозначно определяется
заданной на G числовой функцией m=f(n). Таким образом,
произвольный алгоритм сводится к алгоритму вычисле­ния значений
некоторой числовой функции (числа всюду далее имеются в виду
Обратно, если для функции f существует алгоритм, который, бу­
дучи применен к стандартной записи значения аргумента n из области
определения функции f, приводит к стандартной записи значния функ­
ции m=f(n), то функцию f естественно называть алгоритмически вы­
числимой, или для краткости просто вычислимой функцией. Поэтому
вопрос об опредлении алгоритма по существу равносилен вопросу об
определении вычислимой функции.
Виды формальных алгоритмов
В тридцатых годах нашего столетия появились
основополагающие работы К. Геделя, А. Черча, С.К. Клини, А.М.
Тьюринга и Э.Л. Поста, в которых были точно определены некоторые
специальные виды алгорит­мов. Для каждого из этих видов возникла
уверенность в том, что он с точностью до эквивалентности исчерпывает
все алгоритмы. Перечислим математические опреде­ления вычислимой
функции или алгоритма
А. Определение вычислимой функции как функции, значения
которой выводимы в некотором логическом исчислении (Гедель, Черч).
Б. Определение вычислимой функции как функции, значения
которой получаются при помощи исчисления g-конверсии Черча.
В. Определение вычислимой функции как функции частично
рекурсивной или для случая всюду определенной функции - как
общерекурсивной.
Г. Вычислительная машина Тьюринга.
Д. Финитный комбинаторный процесс Поста.
Е. Нормальный алгорифм Маркова.
Все эти возникшие исторически независимо друг от друга
подходы оказались впоследствии эквивалентными. Главная цель
формализации понятия алгоритма такова: подойти к решению
проблемы алгоритмической разрешимости различных математических
Алгоритмическая
задач, т.е. ответить на вопрос, теория
может ли информации А.Н.
быть построен алгоритм,
Колмогорова
приводящий к решению задачи.
“Алгоритмическая теория информации была основана А.Н.
Колмогоровым с целью придать таким интуитивным понятиям, как
“количество информации” и “энтропия”, точный смысл в применении к
индивидуальным объектам. В традиционной (основанной на
вероятности) теории информации, основанной Шенноном, эти понятия
применяются к случайным объектам, т.е., говоря более строго, к
случайным величинам. Вероятностная теория информации не
охватывает всех (прежде всего семантических) аспектов понятия
информации. Пока неясно, насколько эти различные аспекты могут
быть охвачены алгоритмической теорией информации. Реальные
достижения алгоритмической теории информации относятся к двум
направлениям. Первое состоит в выяснении, насколько формулы,
полученные для случайных величин, оказываются справедливыми
применительно к индивидуальным объектам. Второе заключается в
установлении соотношений между колмогоровской и шенноновской
энтропиями” .
Изложим основные из этих достижений.
Центральным в теории А.Н. Колмогорова является понятие сложности конечного объекта при
фиксированном (алгоритмическом) способе его описания; эта сложность определяется вполне
естественно как минимальный объем описания. А.Н. Колмогоров устанавливает, что среди
всевозможных алгоритмических способов описания существуют оптимальные – те, для которых
сложности описываемых объектов оказываются сравнительно небольшими; хотя оптимальный способ
и не единственен, для задан-ных двух оптимальных способов соответствующие им сложности
отличаются не более чем на аддитивную константу. Исходя из этой теории, стало возможным
определить количество информации в объекте “х” относительно объекта “у”
Ι A ( x : y) = K A ( y) − K A ( y / x )

где KA(y) – сложность объекта “у”, представляющая собой наименьшую длину программы “р”, по которой
можно получить объект “у” при методе описания “А”, т.е. КА(у)=min l(p); KA-(y/x) - относительная сложность
объекта “у” при заданном “х”, представляющая собой минимальную длину l(p) программы “р” получения “у”
из “х” при методе описания “А”.
       


min l ( p )
KA(y/x)=  A( p , x ) = y

 ∞, если нет такого р, что A( p, x ) = y

Это определение количества информации в прикладном отношении имеет то преимущество,


что оно относится к индивидуальным объектам, а не к объектам, рассматриваемым в качестве
включенных в множество объектов с заданным на нем распределением вероятностей.
Изучение проблемы связи алгоритмической и семантической 
теорий информации
Применим теорию Колмогорова к задаче, записанной на языке логики предикатов первого
порядка в форме фраз Хорна, взяв в качестве объекта “х” целевое утверждение задачи, в качестве “у”
базу знаний задачи, а в качестве метода “А” нормальные алгоритмы Маркова. При этом
K A ( y / x ) рассматривается как сложность базы знаний зада-чи “у”, представляющая собой наименьшую
длину прораммы “А” обработки с помощью нормальных алгоритмов Маркова базы знаний
задачи;
K A (y ) - условная сложность базы знаний задачи при из-вестном реше-нии “х”, т. е. наименьшая длина
программы, доказывающей, что “х” – решение задачи с базой знаний “у”, и, использующей для
доказательства нормальные алгоритмы Маркова. По формулеΙ A ( x : y ) = K A ( y ) − K A ( y / x )

можно определить количество информации, которое несет целевое утверждение о базе знаний задачи. В
этом заключается новых подходов к проблеме определения количества информации, который объединяет
алгоритмическую и семантическую теории информации.
Теория формальных языков и грамматик
Язык – это средство отражение и познание окружающего
мира. Всякий информационный процесс может осуществляться
лишь при наличии языка, описывающего объекты и связи между
ними. Язык – это множество слов, записанных в данном алфавите
согласно заданной грамматике. Алфавит – набор простейших
знаков. Слово – последовательность символов
алфавита. Грамматика – набор правил синтаксиса. Синтаксис –
правила, согласно которым образуются слова из алфавита данного
языка.
Кроме естественных языков, человеком используются
разнообразные формальные языки, которые является средством
записи и передачи информации.
Построение языков программирования, а также любых
формальных языков взаимодействия с компьютером опирается на
понятие КС–грамматик и КС–языков, которые, в свою очередь,
имеют несколько способов описания. Наиболее распространенным
является БНФ (Бекуса–Наура формы).
История возникновения, становления предмета
“Информатика”.
Контекстная теория информации.
Проблемы преподавания информатики в школе.
Проблема информации в современной науке.
Современные концепции подготовки учителя информатики.
Информационное общество и информационная культура.
История формирования понятия “алгоритм”.
Формальные грамматика как средства представления
информации.
Математические основы информатики.
Социальная информатика.
Социальные коммуникации: история, современность,
перспективы.
Информационные ресурсы общества.
Информатизация общества: социальные условия,
предпосылки и последствия.
Информационный образ жизни: общество и личность в
условиях информатизации.
Математические основы мышления и коммуникации.
Объектно–ориентированные модели представления
информации.
Языки фразовых структур.
Контекстно–свободные грамматики.
Логический подход к решению информационных проблем.
Проверь
свои знания
3. Назовите основные составные части информатики и основные
направления её применения.
4. Назовите процессы, приводящие к созданию информационного
общества.
5. Какие определения информации Вы знаете?
6. Какие формы существования информации Вы можете назвать?
7. Каким образом возникает, хранится, обрабатывается и передается
информация?
8. Какая форма представления информации используется в
информатике?
9. Что такое контекстная теория информации?
10.От чего зависит информативность сообщения, принимаемого
человеком?
11.Какие существуют подходы для определения количества
информации?
12.Почему количество информации в сообщении удобнее оценивать не
по степени увеличения знания об объекте, а по степени уменьшения
неопределённости наших знаний о нём?
13.Как определяется единица измерения количества информации?
14.В каких случаях, и по какой формуле можно вычислить количество
информации, содержащейся в сообщении?
15.Формулы Шеннона и Хартли?
16.Почему в формуле Хартли за основание логарифма взято число 2?
17.При каком условии формула Шеннона переходит в формулу Хартли?
1. Что определяет термин "бит" в теории информации и в
вычислительной технике?
2. Понятие формального языка и формальной грамматики.
3. Что такое цепочки? Как производятся операции над цепочками?
4. Понятие языка в алфавите? Какие операции можно производить над
языками?
5. Свойства формальных языков?
6. Понятие формальной грамматики.
7. Порождающие грамматики. Иерархия Хомского?
8. Как строятся грамматики, порождающие заданный язык?
9. Классификация грамматик. КС–грамматики и КС–языки.
10.Формы Бекуса–Наура.
1. Зачем в информатике
11.Формальные потребовалось
языки и их свойства. формализовать понятие
алгоритма?
2. Какие подходы к уточнению понятия алгоритма существуют?
3. Какие функции называют вычислимыми? Какие функции называют
частично вычислимыми?
4. Каково устройство абстрактной машины Поста? Команды машины
Поста?
5. Каково устройство абстрактной машины Тьюринга?
6. Что называется композицией машин Тьюринга?
7. Приведите примеры дедуктивных цепочек.
8. Дайте определение нормального алгоритма Маркова?
9. В чем общий принцип нормализации алгоритмов?
10.В чем состоит задача универсального алгоритма?
11.Какие виды нормальных алгоритмов Маркова существуют?
1. В чем смысл алгоритмической теории Колмогорова?
2. Что такое сложность объекта, условная сложность объекта по
Колмогорову?
2. Расскажите об информатике как об отрасли, как о науке, как о
прикладной дисциплине.
3. Почему компьютеризация хотя и является важным шагом к
информационному обществу, но еще не делает его таковым?
4. Приведите примеры передачи, хранения и обработки информации в
природе, технической и общественной деятельности человека.
5. Почему обе концепции информации – как функциональная, так и
атрибутивная – являются неполными?
6. В чем преимущество семантического способа определения
количества информации?
7. Связь алгоритмической теории информации Колмогорова с
семантикой.
1. Посчитайте количество информации, приходящейся на один
символ, в следующем тексте:
Организационно-правовые формы предприятий в своей основе
определяют форму их собственности, то есть, кому принадлежит
предприятие, его основные фонды, оборотные средства, материальные
и денежные ресурсы. В зависимости от формы собственности в России в
настоящее время различают три основные формы предпринимательской
деятельности: частную, коллективную и контрактную.
Указание: составьте таблицу, определив вероятность каждого
символа в тексте как отношение количества одинаковых символов
каждого значения ко всему числу символов в тексте. Затем по формуле
Шеннона подсчитайте количество информации, приходящееся на один
символ.
2. Посчитайте количество информации, приходящейся на один
символ, в следующем тексте:
Теоретические основы информатики – пока не вполне сложившийся и
устоявшийся раздел науки. Он возникает на наших глазах, что делает
его особенно интересным: нечасто удается наблюдать и даже
участвовать в рождении новой науки! Как и теоретические разделы
других наук, теоретическая информатика формируется в основном под
влиянием потребностей обучения информатике.
3. Посчитайте количество информации, приходящейся на один
символ, в следующем тексте:
Для решения прикладных задач существуют замечательные
программы, но для того, чтобы грамотно поставить прикладную задачу,
4. Оцените число символов алфавита, кодируемого с помощью двоичных
последовательностей длиной: а) 4 знака; б) 8 знаков; в) 12 знаков; г) 16 знаков.
5. При каком условии сообщение "Cаша завтра придёт в школу" будет содержать
1 бит информации?
• Сколько существует различных двоичных последовательностей из одного,
двух, трех, четырёх, восьми символов?
• Сколько бит необходимо, чтобы закодировать оценки: "неудовлетворительно",
"удовлетворительно", "хорошо" и "отлично"?
• Сколько байт памяти необходимо, чтобы закодировать изображение на экране
компьютерного монитора, который может отображать 1280 точек по
горизонтали и 1024 точек по вертикали при 256 цветах?
• Решите уравнение: 8x (бит) = 32 (Кбайт).

1. Решите систему уравнений


2х+2 (бит) = 8y-5 (Кбайт),
22y-1 (Мбайт) = 16x-3 (бит).
1. Составить программы машины Поста и Тьюринга, вычисляющие следующие
функции f(a)=a+3, f(a)=3a+5,
а − 1, если а > 1
f (a ) = 
 0, если а ≤ 1
2. Используя рекурсивные функции, постройте:
c) трехместную функцию сложения;
d) n-местную функцию сложения;
5. Используя рекурсивные функции, постройте:
f) двухместную функцию умножения;
g) трехместную функцию умножения;
h) n-местную функцию умножения.
9. Напишите и исполните программу машины Поста, складывающую два числа,
разделенные на ленте произвольным числом пробелов.
10. Напишите и исполните программу машины Поста, вычитающую два числа,
разделенные на ленте произвольным числом пробелов.
11. Напишите и исполните программу машины Поста, умножающую два числа,
разделенные на ленте произвольным числом пробелов.
12. Напишите и исполните программу машины Поста, делящую одно число на
другое, разделенные на ленте одним пробелов.
13. Постройте машины Тьюринга, вычисляющие простейшие арифметические
операции.
14. Имея машины Тьюринга, вычисляющие функции g  и h,  постройте машину,
вычисляющую:
• суперпозицию этих функций;
• функцию, получаемую из g и h  примитивной рекурсией.
1. Постройте машину Тьюринга, производящую обращение функции.
1. Постройте нормальный алгоритм Маркова, реализующий вычитание
двух целых чисел, представленных символами 1. Проверьте его
работу на примерах.
2. Задайте нормальный алгоритм Маркова, реализующий умножение
двух чисел, представленных символами 1.
Лабораторные работы
Лабораторная работа № 1
Машина Поста
Рекомендуемое время выполнения 4 часа.
Вариант 1
На ленте машины Поста расположен массив в N отмеченных секциях.
Необходимо справа от данного массива через одну пустую секцию
разместить мас­сив вдвое больший (он должен состоять из 2N меток).
При этом исходный мас­сив может быть стерт.
Вариант 2
На ленте машины Поста расположен массив в N меток. Составьте
программу, действуя по которой машина выяснт, делится ли число на 3.
Если да, то пос­ле массива через одну пустую секцию поставьте метку
V.
Вариант 3
На ленте машины Поста расположен массив из 2N отмеченных
секций. Сос­тавь­те программу, по которой машина Поста раздвинет на
расстояние в одну секцию две половины данного массива.
Вариант 4
На ленте машины Поста расположены 2 массива. Составьте
программу сти­рания того массива, который имеет большее количество
меток.
Вариант 5
На ленте машины Поста находится n массивов меток, после
последнего массива на расстоянии более трех пустых секций находится
одна метка. Массивы разделены тремя пустыми ячейками. Количество
меток в массивах не может быть меньше двух. Произвести обработку
массивов следующим образом: ес­ли количество меток в массиве кратно
Вариант
трем, 6
то стереть метки в данном массиве через одну, иначе – массив
Найти полностью.
стереть НОД двух чисел, находящихся
Каретка находится на
надленте машины
крайней левойПоста.
меткойМежду
этими числами
первого находится произвольное количество пустых секций.
массива.
Каретка находится над левой меткой левого числа.
Вариант 7
На ленте машины Поста находятся n массивов клеток. Каретка
находится где­то над первым массивом. Удалите все массивы с четными
номерами (сосед­ние массивы разделены тремя пустыми секциями).
Вариант 8
На информационной ленте машины Поста находится массив клеток.

Каретка находится где-то над массивом (но не над крайней клеткой).


Сотрите все метки, кроме крайних, таким образом, чтобы положение
каретки при этом не изменилось.
Вариант 9
Составьте программу сложения произвольного количества чисел,
запи­сан­ных на ленте машины Поста через одну пустую секцию.
Каретка обозревает край­нюю левую секцию левого числа.
Вариант 10
На информационной ленте машины Поста находятся два массива M и
N меток. Составьтеработа
Лабораторная программу
№ 2выяснения, одинаковы ли массивы по
длине
Машина Тьюринга
Рекомендуемое время выполнения 4 часа.
Вариант 1
Сконструируйте машину Тьюринга, которая выступит в качестве
двоично-восьмеричного дешифратора.
Вариант 2
Даны два натуральных числа m и n, представленных в унарной
системе счисления. Соответствующие наборы символов «» разделены
«-», вслед за пос­ледним символом набора n стоит знак «=».
Разработайте машину Тьюринга, которая будет находить разность
чисел m и n. При этом результат должен быть записан следующим
образом: если m >n, то справа от «=» должен стоять знак «+» и набор
символ «» в количестве m – n; если m= n, то справа от знака «=»
должна стоять пустая клетка; если m < n, то справа от «=» должны
стоять знак «-» и набор символов «» в количестве n-m.
Вариант 3
На ленте машины Тьюринга находится десятичное число.
Определите, делится ли это число на 5 без остатка. Если делится, то
запишите справа от числа слово «да», если нет – «нет». Каретка
находится где-то над числом.
Вариант 4
На ленте машины Тьюринга находится слово, состоящее из букв
ленту левее исходного слова через пробел. Каретка обозревает
крайнюю левую букву.
Вариант 5
Вариант
На 6
ленте машины Тьюринга находится массив 2N меток. Уменьшите
Намасив
этот информационной
в72 раза. ленте машины Тьюринга находится массив, сос­
Вариант
то­я­щий только из символов А и B. Сожмите массив, удалив из него все
На информационной ленте машины Тьюринга находится десятичное
элементы B.
число. Найти результат целочисленного деления этого числа на 2.
Вариант 8
На информационной ленте машины Тьюринга в трех секциях в
произволь-ном порядке записаны три цифры 1, 2, 3. Каретка обозревает
крайнюю левую цифру. Необходимо составить функциональную схему
машины Тьюринга, которая расположит эти цифра в порядке
возрастания.
Вариант 9
Найдите произведение двух натуральных чисел m и n, заданных в
унарной системе счисления. Соответствующие наборы символов «»
разделены знаком «*», а справа от последнего символа правого члена
стоит знак «=». Поместите результат умножения этих чисел вслед за
знаким «=».
Вариант 10
Даны два натуральных числа m и n, в унарной системе счисления.
Между
этими числами стоит знак «?». Выясните отношение m и n, т.е. знак