ДддdddMM L 1 2 Osnovy Modelirovania i Identifikatsii Sistem Modelirovanie-объединены

2.
Моделирование систем
X ОБЪЕКТ
ОБЪЕКТ Y
УПРАВЛЕНИЯ
СИСТЕМА
СИСТЕМА
Рис. 1 Классическая схема системы управления с обратной связью

X – вектор входных переменных, Y – вектор выходных переменных,
U – вектор управляющих воздействий.
Математическое моделирование. Ч1. Л.1.2 1
2.1 Этапы моделирования и проектирования систем управления
1) постановка задачи;
2) анализ характеристик объекта управления;
3) формализация и классификация переменных;
4) составление гипотезы моделирования;
5) выбор математического аппарата моделирования;
6) разработка уравнений модели;
7) параметрическая идентификация математической модели;
8) численное решение и проверка адекватности модели;
9) формализация и решение задач управления;
10) разработка алгоритмов системы управления;
11) разработка структуры БД и программного обеспечения;
12) оценка эффективности работы системы.

2.2 Модель – условный образ объекта исследования, получаемый для
того, чтобы отобразить характеристики объекта.
Моделирование – 1) метод исследования процессов или явлений по их
моделям; 2) процесс построения модели.
Математическое моделирование – метод исследования процессов
или явлений путем построения их математических моделей.
Априорная модель – модель, построенная до начала специальных
экспериментальных исследований.
Апостериорная модель – модель, построенная или уточненная по
результатам экспериментальных исследований.
Диагностическая модель – модель, с помощью которой выявляются
закономерности и характер связей между фактическим состоянием
диагностируемого объекта и некоторыми измеряемыми параметрами.
«Черный ящик» – система, у которой при неизвестной внутренней
организации, структуре и поведении элементов имеется возможность
наблюдать реакцию выходных величин на изменение входных воздействий.
Если структура известна, используют термин «серый ящик».
2.3 Классификация математических моделей
1. По стационарности процесса:
- динамические – для описания нестационарных процессов (в виде
системы дифференциальных или интегро-дифференциальных уравнений);
- статические (в виде системы алгебраических уравнений);
- смешанные.
2. По линейности зависимостей:
- линейные;
- нелинейные.
3. По наличию неопределенностей:
- детерминированные – неопределенности отсутствуют;
- стохастические – неопределенности присутствуют в виде случайных
величин или процессов, описываемых статистическими методами;
- нечеткие – неопределенности описаны нечеткими множествами;
- комбинированные.

4. По множеству области определения и значений переменных:
- непрерывные;
- дискретные;
- дискретно-непрерывные.
5. По характеру свойств объекта:
- функциональные – отображают процессы функционирования
объекта и чаще всего представлены в виде системы уравнений;
- структурные – отражают структурные свойства проектируемого
объекта, представлены в виде матриц, графов, списков векторов, выражая
взаимное расположение элементов в пространстве.
6. По способу представления свойств объекта:
- алгоритмические, представленные в виде алгоритмов, описывающих
последовательность однозначно интерпретируемых операций;
- аналитические, представленные в виде математических выражений;
- имитационные, предполагающие компьютерную имитацию процесса в
виде серии экспериментов с использованием случайных величин и
последующим статистическим анализом полученных результатов.
7. По предназначению:
- модели прогноза, используемые для прогнозирования поведения
системы во времени и пространстве на основании начальных данных;
- дескриптивные модели – для формального описания процесса;
- игровые модели, используемые для анализа конфликтных ситуаций;
- оптимизационные модели, предназначенные для оптимального
управления различными процессами (технологическими, экономическими…).
Цель управления:
𝑓(𝑥1 , … 𝑥𝑛 ) → max⁡⁡(min)
𝑥1 ,…𝑥𝑚

Математическое описание систем
1. Характеристики моделируемых систем

2. Математическое описание систем
3. Классификация систем

1. Моделируемая система – комплекс взаимосвязанных объектов и
явлений, обладающий свойствами, которые требуется предсказать.
Параметры системы (модели) – числовые характеристики ее
существенных свойств, остающиеся неизменными во времени и известные
без моделирования.
Вектор состояния системы (модели) – набор независимых числовых
характеристик ее существенных свойств, изменяющихся во времени и
однозначно описывающих все возможные состояния системы.
Размерность (порядок) системы (модели) – количество компонент в
векторе состояния (n).
Примером модели системы с конкретным набором параметров и

вектором состояния является модель вертикального падения
материальной точки в вакууме под действием силы тяжести.

Вектор состояния:
 высота в произвольный момент времени,
 скорость в произвольный момент времени.
Эти величины изменяются со временем. Изменяя их независимо

друг от друга, можно получить все допустимые состояния системы
Параметры:
 масса,
 ускорение свободного падения,
 начальная высота,
 начальная скорость.
Последние две величины – начальные условия задачи Коши

Пространство состояний системы (модели) – векторное
метрическое пространство с системой координат, имеющее по одному
измерению для каждой компоненты вектора состояния.
Если все компоненты вектора состояния – действительные числа,

то пространство состояний эквивалентно 𝑅𝑛 .
Если вектор состояния состоит из двух углов, каждый из которых

может изменяться от –π до π, пространство состояний
эквивалентно декартовому произведению [– 𝜋, 𝜋] × [– 𝜋, 𝜋].
Возмущения – немоделируемые свойства системы, то есть явления,

отсутствующие в модели, но имеющиеся в реальной системе.

Движение системы (модели) – изменение ее вектора состояния во
времени.
Движение системы не обязательно включает в себя физическое

перемещение, так как в вектор состояния могут входить такие
свойства, как температура, скорость передачи данных и др.
Траектория системы (модели) – функция зависимости вектора

состояния от времени. Иногда траекторией называют множество значений
вектора состояния. Каждая точка траектории принадлежит пространству
состояний.
Уравнения движения (модельные уравнения) – уравнения,
определяющие движение системы. Часто являются системой
дифференциальных уравнений с заданными начальными условиями.

2. Система ∑ – множество элементов, объединенных в структуру и
обладающих неким совокупным свойством преобразования так, что в
любой момент времени 𝑡 ∈ 𝑇 система получает входное воздействие
𝑥(𝑡) ∈ 𝑋 и порождает выходную величину 𝑦(𝑡) ∈ 𝑌.
Множества 𝑋, 𝑌 – множества допустимых значений входа и выхода.
В общем случае значение входного воздействия 𝑥(𝑡) в текущий
момент времени не однозначно определяет выход системы 𝑦(𝑡), который
зависит еще и от того, какими были предшествующие значения входа.
Текущее значение выхода 𝑦(𝑡) системы ∑ зависит от её состояния
𝑢(𝑡) в настоящий момент времени. Входное воздействие 𝑥(𝑡) изменяет
состояние системы 𝑢(𝑡) ∈ 𝑈, а состояние формирует выход системы:
𝑥(𝑡) → 𝑢(𝑡) → 𝑦(𝑡)
Таким образом, система определяется четырьмя характеристиками:
вход, выход, время, состояние.

Преобразования системы задаются:
1) переходной функцией состояния
𝑢(𝑡) = 𝜑(𝑡, 𝑥 (𝑡); 𝑡0 , 𝑢0 ), (1)
где 𝑢(𝑡) ∈ 𝑈 – состояние, в котором оказывается система в момент
времени 𝑡 ∈ 𝑇, если в начальный момент времени 𝑡0 ∈ 𝑇 она была в
состоянии 𝑢0 = 𝑢(𝑡0 ) ∈ 𝑈 и на ее вход воздействует 𝑥(𝑡) ∈ 𝑋.
График переходной функции состояний 𝜑 – это траектория системы.
2) функцией выхода
𝑦(𝑡) = 𝜓(𝑡, 𝑢(𝑡)), (2)
где пара (𝑡, 𝑢) называется фазой или событием системы, а множество
пар {(𝑡, 𝑢)} ∈ 𝑇 × 𝑈 – фазовым пространством или пространством событий
системы.
Таким образом, система – это шестерка объектов:
∑=< 𝑇, 𝑋, 𝑈, 𝑌, 𝜑, 𝜓 > (3)
3. Классификация систем
1) система стационарна, если ее реакция на входное воздействие не
зависит от того, в каком промежутке времени это воздействие имело место
(при условии, что система находится в заданном состоянии):
𝑢(𝑡) = 𝜑(𝑡0 , 𝑢0 , 𝑥 (𝑡)), 𝑦(𝑡) = 𝜓(𝑢(𝑡)) .
2) система дискретна, если 𝑇 – множество целых чисел; система
непрерывна, если 𝑇 – множество действительных чисел (континуум).
3) система конечномерна, если ее множество состояний является
конечномерным линейным пространством.
4) система линейна, если 𝑈, 𝑋, 𝑌 – линейные векторные пространства,
а 𝜑, 𝜓 линейные преобразования.

Элементы теории размерностей
1. Физические величины, единицы измерения, размерность,

числовая мера
2. Основные постулаты теории размерностей
3. Преобразования в теории размерностей

1. Физическая величина – характеристика (свойство) объекта, в
соответствие которой можно поставить число и для которой определена
операция сравнения.
Какие из нижеперечисленных характеристик не являются физическими

величинами: длина, угол, цвет, энергия, количество, вероятность, запах,
масса, эргономичность, время ?
Характеристики могут быть количественными и качественными. В

качественном понимании физическая величина имеется у многих объектов,
но в количественном она индивидуальна для каждого объекта.
Для физических величин всегда существуют точные операции
сравнения: две величины или равны между собой, или одна больше другой.
Обязательно ли для сравнения двух объектов выражать их

характеристики в количественном виде?

В компьютерной графике для представления цвета используются
цветовые пространства, где цвет задается с помощью вектора,
координатами которого может быть доля одного из базовых цветов,
яркость, насыщенность.
Единица измерения физической величины – одна конкретная

реализация физической величины, выбранная для измерения всех
остальных реализаций данной физической величины.
Сколько единиц измерения может быть у физической величины? Может

ли для физической величины не существовать единицы измерения?
Может ли являться единицей измерения нулевая физическая величина?
Единица измерения физической величины, через которую выражаются

другие, называется базовой. Остальные физические величины и их
единицы измерения называются производными.

Пример 1. В таблице 1 даны базовые единицы измерения. Дополнить
таблицу производными единицами
Базовая единица Длина Площадь Объем
метр (м) метр
гектар (га) гектар (га)
литр (л) литр (л)

Формула размерности (размерность) физической величины – связь ее
единицы измерения с единицами измерения базовых физических величин.
Пусть 𝑆∗ – единица измерения площади, и площадь выбрана в качестве
1/2
базовой величины, тогда размерность длины 𝐿∗ = 𝑆∗
Как правило, формулу размерности приводят в виде произведения
единиц измерения базовых величин, возведенных в некоторые степени.
𝑊∗ = 𝑋∗ 𝑇∗−2
где 𝑊∗ – единица измерения ускорения, 𝑋∗ , 𝑇∗ - базовые единицы
измерения координаты и времени.
Физическая величина может быть безразмерной, если для нее
существует хотя бы одна единица измерения, независимая от базовых
физических величин (угол в радианах, вероятность в долях).
Базовые соотношения – зависимости производных физических
величин от базовых. Иногда базовые соотношения не совпадают с
формулой размерности, как в случае с ускорением, скоростью и временем.

Числовая мера физической величины – безразмерное отношение
физической величины к ее единице измерения.
Под отношением величин понимается не отношение чисел, а количество

единиц измерения, содержащихся в физической величине. Объемы сосудов
можно сравнить, переливая жидкость из одного в другой. Если второй
сосуд наполняется при двукратном переливании из первого, взятого за
единицу измерения, то числовая мера объема второго сосуда равна двум.
Связь между рассмотренными понятиями показана в таблице 2.
Физическая Единица Безразмерная Соотношение

величина измерения числовая мера
Длина L L* l L= L*l
Площадь S S* s S= S*s
Время T T* t T= T*t

2. Основные постулаты теории размерности:
1. Физические величины не зависят ни от способа их измерения, ни от

единиц измерения.
2. В отношениях равенства, неравенства, сложения и вычитания могут
участвовать только величины, имеющие одинаковые единицы
измерения.
Диетологи утверждают, что масса тела человека оптимальна, если

разница между нею и ростом равна 110. Корректно ли сформулировано
утверждение?

Пример 3. Для человека оптимальной массой тела (кг) считается
разница между ростом (см) и числом 110. Очевидно, утверждение не
соответствует второму постулату. Корректнее такую зависимость
сформулировать таким образом:
𝑀𝑜𝑝𝑡 = 𝐾(𝐿 − 𝐿110 )
где 𝑀𝑜𝑝𝑡 – оптимальная масса, 𝐿 – рост человека, 𝐿110 – рост человека

высотой 110 см, 𝐾 – коэффициент, равный 1кг/см.

3. Преобразования в теории размерности
Запишем базовые соотношения в числовых мерах.
Площадь квадрата – квадрат длины стороны:
2
𝐿2∗ 2
𝑆=𝐿 , 𝑆∗ 𝑠 = 𝐿2∗ 𝑙2 , 𝑠 = 𝑙 = ∆1 𝑙2
𝑆∗
Скорость – производная координаты по времени:
𝑑𝑋 𝑋∗ 𝑑𝑥 𝑋∗ 𝑑𝑥 𝑑𝑥
𝑉= , 𝑉∗ 𝑣 = , 𝑣= = ∆2
𝑑𝑇 𝑇∗ 𝑑𝑡 𝑇∗ 𝑉∗ 𝑑𝑡 𝑑𝑡
Ускорение – производная скорости по времени:
𝑑𝑉 𝑉∗ 𝑑𝑣 𝑉∗ 𝑑𝑣 𝑑𝑣
𝐴= , 𝐴∗ 𝑎 = , 𝑎= = ∆3
𝑑𝑇 𝑇∗ 𝑑𝑡 𝑇∗ 𝐴∗ 𝑑𝑡 𝑑𝑡
Сила – произведение массы на ускорение:
𝑀∗ 𝐴∗
𝐹 = 𝑀𝐴, 𝐹∗ 𝑓 = 𝑀∗ 𝐴∗ 𝑚𝑎, 𝑓= 𝑚𝑎 = ∆4 𝑚𝑎
𝐹∗

Чтобы выполнялся второй постулат теории размерности,
коэффициенты ∆𝑖 должны быть безразмерными относительными
числами, как правило, равными единице
При измерении очень больших или малых чисел (расстояния между

объектами солнечной системы или размеры наночастиц) для удобства
эти коэффициенты принимают равными какому-то положительному
числу 10𝛼
Например, 𝐿∗ = 106 км, 𝑆∗ = 1м2 ⟹ ∆1 = 1018

Нормализация уравнений движения
Рассмотрим произвольную динамическую систему, модель движения
которой представлена дифференциальными уравнениями:
𝑑𝑋1
= 𝐹1 (𝑋1 , 𝑋2 , … , 𝑇, 𝐴1 , 𝐴2 , … , 𝐵1 , 𝐵2 , … )
𝑑𝑇
𝑑𝑋2 (1.1)
= 𝐹2 (𝑋1 , 𝑋2 , … , 𝑇, 𝐴1 , 𝐴2 , … , 𝐵1 , 𝐵2 , … )
𝑑𝑇
…
𝑋1 , 𝑋2 , … – фазовые переменные (компоненты вектора состояния
системы), 𝑇 – время, 𝐴1 , 𝐴2 , … , 𝐵1 , 𝐵2 , … – группы параметров, имеющих
одинаковые размерности, 𝐹1 , 𝐹2 – известные функции.
Нормализацией называется процедура перехода к безразмерным
уравнениям.
Нормализация уравнений (1.1) проводится в несколько этапов.

1) Запишем (1.1) в числовых мерах по всем входящим в нее величинам:
𝑇 = 𝑇∗ 𝑡, 𝑋1 = 𝑋1 ∗ 𝑥1 , … , 𝐴1 = 𝐴∗ 𝑎1 , … , 𝐵1 = 𝐵∗ 𝑏1 , …
𝑋1 ∗ 𝑑𝑥1
= 𝐹1 (𝑋1 ∗ 𝑥1 , 𝑋2 ∗ 𝑥2 , … , 𝑇∗ 𝑡, 𝐴∗ 𝑎1 , 𝐴∗ 𝑎2 , … , 𝐵∗ 𝑏1 , 𝐵∗ 𝑏2 , … )
𝑇∗ 𝑑𝑡
𝑋2 ∗ 𝑑𝑥2 (1.2)
= 𝐹2 (𝑋1 ∗ 𝑥1 , 𝑋2 ∗ 𝑥2 , … , 𝑇∗ 𝑡, 𝐴∗ 𝑎1 , 𝐴∗ 𝑎2 , … , 𝐵∗ 𝑏1 , 𝐵∗ 𝑏2 , … )
𝑇∗ 𝑑𝑡
…
2) Поделим каждое уравнение (1.2) на комбинацию множителей 𝑇∗ , 𝑋1 ∗ , …

определяющую размерность правой части этого уравнения:
𝑋1 ∗ 𝑑𝑥1
= 𝑓1 (𝑥1 , 𝑥2 , … , 𝑡, Δ1 , Δ2 , … )
𝑇∗ 𝐹1 ∗ 𝑑𝑡
𝑋2 ∗ 𝑑𝑥2 (1.3)
= 𝑓2 (𝑥1 , 𝑥2 , … , 𝑡, Δ1 , Δ2 , … )
𝑇∗ 𝐹2 ∗ 𝑑𝑡
…

𝑋𝑖 ∗
Введя обозначение 𝑇𝑖 = , система (1.3) примет вид:
𝐹𝑖 ∗
𝑇1 𝑑𝑥1
= 𝑓1 (𝑥1 , 𝑥2 , … , 𝑡, Δ1 , Δ2 , … )
𝑇∗ 𝑑𝑡
𝑇2 𝑑𝑥2 (1.3)
= 𝑓2 (𝑥1 , 𝑥2 , … , 𝑡, Δ1 , Δ2 , … )
𝑇∗ 𝑑𝑡
…
Уравнения (1.3) – безразмерные.
Множители 𝑇𝑖 имеют размерность времени и называются постоянными

времени переменных 𝑥𝑖 – компонент вектора состояния.
Безразмерные коэффициенты Δ1 , Δ2 , … в правых частях выражаются

через 𝑇∗ , 𝑋1 ∗ , … 𝐴∗ , 𝐵∗ , т.е. являются безразмерными комбинациями исходных
параметров и выбранных единиц измерения.

3) Определим класс движения, на котором будет рассматриваться
система (1.1). Единицы измерения выбираются так, чтобы на этом классе
абсолютные величины входящих в уравнения числовых мер не
превосходили чисел порядка единицы,
Выберем в качестве 𝑇∗ , 𝑋1 ∗ , … 𝐴∗ , 𝐵∗ характерные значения
соответствующих величин для этого класса:
– характерные значения фазовых переменных определяются
максимальными по модулю значениями их величин:
𝑋𝑖 ∗ = max |𝑋𝑖 | (1.4)
– характерное время определяется как время, за которое переменные
изменяются на величину порядка своего характерного значения
𝑇 ≤ 𝑇∗ (1.5)
– характерными параметрами (одинаковой размерности) являются их
максимальные по абсолютной величине значения:
𝐴∗ = max{|𝐴𝑘 |} , 𝐵∗ = max{|𝐴ℎ |} (1.6)
𝑘 ℎ

Процедура нормализации должна быть подчинена ряду правил:
1) выбор величин 𝑇∗ , 𝑋1 ∗ , … 𝐴∗ , 𝐵∗ должен сопровождаться заданием

базовых соотношений, связывающих их на данном классе движения;
2) для компонент одного вектора (радиус-вектора, скорости) следует
выбирать одинаковые единицы измерения;
3) нулевые физические величины не могут быть единицами измерения.
Задание характерных для рассматриваемого класса движения величин

𝑇∗ , 𝑋1 ∗ , … 𝐴∗ , 𝐵∗ и задание связывающих их соотношений определяют систему
единиц, индивидуализированную для данного класса движения.
В этой системе единиц абсолютные значения безразмерных

переменных 𝑥1 , 𝑥2 , … , 𝑡, изменяются по (1.4), (1.5) на интервале порядка
единицы, абсолютные значения безразмерных параметров не превосходят
по (1.6) величин порядка единицы.
На этом процедура нормализации уравнений завершается.

Регулярные и сингулярные возмущения
по малому параметру
Малым параметром задачи называется положительная безразмерная
величина, принимающая числовые значения намного меньше единицы.
Малость коэффициентов. Пусть в группе параметров одинаковой

размерности их числовые значения намного отличаются:
|𝐴𝑖 | ≪ |𝐴𝑗 |, 𝑖 ≠ 𝑗
Сделаем оценку 𝐴∗ = max{|𝐴𝑗 |}. Тогда в правых частях нормализованных

уравнений на месте 𝐴𝑖 появится малый безразмерный коэффициент 𝑎𝑖 ≪ 1.
В системе имеются объекты с различными массами – Земля (6*1024 кг) и

Луна (7*1022 кг). Как получить малый параметр и чему он равен?

Малость временных отношений. Дана модель динамики системы:
𝑑𝑋1
= 𝐹1 (𝑇, 𝑋1 , 𝑋2 , … )
𝑑𝑇
𝑑𝑋2 (1)
= 𝐹2 (𝑇, 𝑋1 , 𝑋2 , … )
𝑑𝑇
…
Пусть в системе (1) проведена нормализация и выбраны характерные
значения всех переменных, кроме времени:
𝑇1 𝑑𝑥1
= 𝑓1 (𝑡, 𝑥1 , 𝑥2 , … )
𝑇∗ 𝑑𝑡
𝑇2 𝑑𝑥2 (2)
= 𝑓2 (𝑡, 𝑥1 , 𝑥2 , … )
𝑇∗ 𝑑𝑡
…
После этой частичной нормализации значения постоянных времени
сильно разнятся по своим величинам: 𝑇1 ≪ 𝑇2 .
За счет выбора характерного времени 𝑇∗ могут быть получены разные
варианты зависимости системы от малого параметра.

 исследование быстрых процессов.
Пусть 𝑇∗ = 𝑇1 , то есть рассматриваются процессы, протекающие на
временах порядка меньшей постоянной времени 𝑇1 . Нормализованная
система имеет вид:
𝑑𝑥1
= 𝑓1 (𝑡, 𝑥1 , 𝑥2 , … )
𝑑𝑡
𝑑𝑥2 𝑇1 (3)
= 𝜇𝑓2 (𝑡, 𝑥1 , 𝑥2 , … ), 𝜇 = ≪1
𝑑𝑡 𝑇2
…
В такой системе скорости изменения переменных 𝑥1 и 𝑥2 сильно
отличаются по величине: 𝑥1̇ ~1, 𝑥2̇ ~𝜇 ≪ 1. При этом 𝑥1 называют быстрой
переменной, а 𝑥2 – медленной.

 исследование медленных процессов.
Рассмотрим процессы, протекающие на временах порядка 𝑇2 : 𝑇∗ = 𝑇2 .
Тогда нормализованная система (2) имеет вид:
𝑑𝑥1 𝑇1
𝜇 = 𝑓1 (𝑡, 𝑥1 , 𝑥2 , … ), 𝜇 = ≪1
𝑑𝑡 𝑇2
𝑑𝑥2 (4)
= 𝑓2 (𝑡, 𝑥1 , 𝑥2 , … )
𝑑𝑡
…
В (4) 𝑥1̇ ~1/𝜇 ≫ 1, 𝑥2̇ ~1.
Как и ранее, 𝑥1 – быстрая переменная, а 𝑥2 – медленная.

Малость координат.
Пусть на рассматриваемом классе движения одна или несколько
компонент вектора состояния малы по сравнению с выбранными для них
единицами измерения: |𝑋𝑖 | ≪ 𝑋𝑖 ∗ . Пусть 𝑖 = 1. Тогда существует 𝜀 ≪ 1:
|𝑋1 | ≤ 𝜀𝑋1 ∗ (5)
Кроме того, предположим, что система находится в состоянии
равновесия по переменной 𝑋1 , то есть при 𝑋1 = 0
𝐹1 (𝑇, 0, 𝑋2 , … ) = 0 (6)
𝑋1 𝜀𝑋1 ∗
Проведем нормализацию системы: 𝑥1 = ≤ = 𝜀𝑦1
𝑋1 ∗ 𝑋1 ∗
𝑥1
Введя обозначение 𝑦1 = , получим:
𝜀
𝑑𝑦1 𝑑𝑥1
𝜀 = = 𝑓1 (𝑡, 𝜀𝑦1 , 𝑥2 , … )
𝑑𝑡 𝑑𝑡
𝑑𝑥2 (7)
= 𝑓2 (𝑡, 𝑥1 , 𝑥2 , … )
𝑑𝑡
…
Разложим функцию 𝑓1 в ряд Тейлора по малому параметру при 𝑥1 = 0:
𝜕𝑓1
𝑓1 (𝑡, 𝑥1 , 𝑥2 , … ) = 𝑓1 (𝑡, 0, 𝑥2 , … ) + 𝜀 (𝑡, 0, 𝑥2 , … )𝑦1 +
𝜕𝑥1
𝜀 2 𝜕 2 𝑓1 2
𝜀 3 𝜕 3 𝑓1
+ 2
(𝑡, 0, 𝑥2 , … )𝑦1 + 3
(𝑡, 0, 𝑥2 , … )𝑦1 3 + ⋯ (8)
2! 𝜕𝑥1 3! 𝜕𝑥1
Обозначим через 𝑎1 (𝑡, 𝑥2 , … ) линейную часть разложения, через
𝑔1 (𝑡, 𝑥2 , … ) сумму членов более высоких порядков. Поделим на 𝜀. С учетом
предположения, что 𝑓1 (𝑡, 0, 𝑥2 , … ) = 0, первое уравнение (7) примет вид:
𝑑𝑦1
= 𝑎1 (𝑡, 𝑥2 , … )𝑦1 + 𝜀𝑔1 (𝑡, 𝑥2 , … ) (9)
𝑑𝑡
Из (9) видно, что наибольший вклад в движение системы вносят
линейные члены разложения правой части в ряд Тейлора, в то время как
нелинейные члены формально оцениваются малым множителем 𝜀.
Таким образом, целью введения малого параметра в модель является
упрощение уравнений модели и определение возможности пренебречь
факторами, вносящими малый вклад в поведение моделируемой системы.

Невозмущенной по малому параметру называется модель системы,
в которой значение малого параметра полагается равным нулю. Исходная
система (модель) называется возмущенной по малому параметру.
Возмущенные системы Невозмущенные системы

𝑑𝑥1
𝜇 = 𝑓1 (𝑡, 𝑥1 , 𝑥2 , … ), 𝜇 ≪ 1
𝑑𝑡
𝑑𝑥2
= 𝑓2 (𝑡, 𝑥1 , 𝑥2 , … )
𝑑𝑡
…
𝑑𝑥1
= 𝜀𝑓1 (𝑡, 𝑥1 , 𝑥2 , … ), 𝜀 ≪ 1
𝑑𝑡
𝑑𝑥2
= 𝑓2 (𝑡, 𝑥1 , 𝑥2 , … )
𝑑𝑡
…

Возмущенные системы Невозмущенные системы
𝑑𝑥1 0 = 𝑓1 (𝑡, 𝑥1 , 𝑥2 , … ), 𝜇 ≪ 1
𝜇 = 𝑓1 (𝑡, 𝑥1 , 𝑥2 , … ), 𝜇 ≪ 1
𝑑𝑡 𝑑𝑥2
𝑑𝑥2 = 𝑓2 (𝑡, 𝑥1 , 𝑥2 , … )
= 𝑓2 (𝑡, 𝑥1 , 𝑥2 , … ) 𝑑𝑡
…
𝑑𝑡
…
𝑑𝑥1 𝑑𝑥1
= 𝜀𝑓1 (𝑡, 𝑥1 , 𝑥2 , … ), 𝜀 ≪ 1 =0
𝑑𝑡 𝑑𝑡
𝑑𝑥2 𝑑𝑥2
= 𝑓2 (𝑡, 𝑥1 , 𝑥2 , … ) = 𝑓2 (𝑡, 𝑥1 , 𝑥2 , … )
𝑑𝑡 𝑑𝑡
… …
Движение системы, описанное моделью с невозмущенным параметром,

отличается от исходной.

Обозначим 𝑥̃𝑖 (𝑡) = 𝑥𝑖 (𝑡, 𝜇), 𝑥̅𝑖 (𝑡) = 𝑥𝑖 (𝑡, 0). Отличие между этими двумя
решениями оценивается как квадрат расстояния между ними на заданном
интервале времени 𝐷:
𝜌(𝜇, 𝐷) = 𝑠𝑢𝑝 ∑[𝑥𝑖 (𝑡, 𝜇) − 𝑥𝑖 (𝑡, 0)]2 = 𝑠𝑢𝑝 ∑[𝑥̃𝑖 (𝑡) − 𝑥̅𝑖 (𝑡)]2 (10)
𝑡∈𝐷 𝑡∈𝐷
𝑖 𝑖
Так как все компоненты вектора состояния нормализованной модели

безразмерны, их можно складывать и вычитать. Интервал времени 𝐷
определяется целью моделирования. Возможны три варианта:
1) Ограниченный конечный интервал:
𝐷 = [0, 𝑡1 ], 𝑡1 < ∞
2) Асимптотически большой конечный интервал:
𝑡1
𝐷 = [0, ] , 𝜇→0
𝜇
3) Бесконечный интервал:
𝐷 = [0, ∞)
На каждом таком интервале возможны две ситуации.
 Регулярно возмущенная по малому параметру модель:
𝑙𝑖𝑚 𝜌(𝜇, 𝐷) = 0
𝜇→0
С уменьшением величины малого параметра решение возмущенной

системы асимптотически приближается к решению невозмущенной на
рассматриваемом интервале времени, и использовать результаты анализа
невозмущенной системы для предсказания поведения исходной корректно.
 Сингулярно возмущенная по малому параметру модель:
∄ 𝑙𝑖𝑚 𝜌(𝜇, 𝐷) или 𝑙𝑖𝑚 𝜌(𝜇, 𝐷) ≠ 0
𝜇→0 𝜇→0
При уменьшении величины малого параметра решение возмущенной

системы не приближается к решению невозмущенной, и распространение
результатов анализа невозмущенной системы для предсказания поведения
возмущенной некорректно.
Одна система может быть регулярно возмущенной на ограниченном
интервале времени и сингулярно возмущенной в остальных случаях.

Как правило, системы, содержащие малый коэффициент при
производной в левой части дифференциального уравнения, являются
сингулярно возмущенными по малому параметру на любых временных
интервалах.
В редких случаях, при определенных начальных условиях, такие
системы могут быть регулярно возмущенными.

Нечеткие множества
1. Понятие нечеткого множества
2. Операции над нечеткими множествами
3. Подмножества 𝛼-уровня
4. Расстояние между нечеткими множествами
5. Измерение степени нечеткости
Математическое моделирование. Ч1. Л.3.1.1

1. Нечеткие множества
Пусть 𝑈 – некоторое универсальное множество , 𝑥 ∈ 𝑈.
Нечетким множеством A (нечетким подмножеством множества U)
называется множество упорядоченных пар
{𝑥 | 𝜇𝐴 (𝑥)}, ∀𝑥 ∈ 𝑈 (1.1)
где 𝜇𝐴 (𝑥) – степень принадлежности 𝑥 к 𝐴, 𝜇𝐴 (𝑥 ): 𝑈 → [0, 1].
Функция 𝜇𝐴 (𝑥) называется функцией принадлежности элемента 𝑥

множеству 𝐴.

2. Операции над нечеткими множествами
1) Равенство: 𝐴 = 𝐵 ⇔ ∀𝑥 ∈ 𝑈 𝜇𝐴 (𝑥 ) = 𝜇𝐵 (𝑥 )
2) Включение: 𝐴 ⊆ 𝐵 ⇔ ∀𝑥 ∈ 𝑈 𝜇𝐴 (𝑥 ) ≤ 𝜇𝐵 (𝑥 )
𝐴 ⊂ 𝐵 ⇔ ∀𝑥 ∈ 𝑈 𝜇𝐴 (𝑥 ) < 𝜇𝐵 (𝑥 )
3) Дополнение: 𝐴̅ = {𝑥 | 𝜇𝐴̅ (𝑥 ) = 1 − 𝜇𝐴 (𝑥 )}
4) Пересечение: 𝐴 ∩ 𝐵 = {𝑥 | 𝜇𝐴∩𝐵 (𝑥 ) = 𝑚𝑖𝑛(𝜇𝐴 (𝑥 ), 𝜇𝐵 (𝑥 ))}
5) Объединение: 𝐴 ∪ 𝐵 = {𝑥 | 𝜇𝐴∪𝐵 (𝑥 ) = 𝑚𝑎𝑥 (𝜇𝐴 (𝑥 ), 𝜇𝐵 (𝑥 ))}
6) Разность: 𝐴\𝐵 = 𝐴 ∩ 𝐵̅
7) Симметрическая разность: 𝐴⨁𝐵 = (𝐴 ∩ 𝐵̅) ∪ (𝐴̅ ∩ 𝐵)
8) Пустое множество: 𝐴 = ∅ ⇔ ∀𝑥 ∈ 𝑈 𝜇𝐴 (𝑥 ) = 0
9) Алгебраическое произведение: 𝐴 ⋅ 𝐵 = {𝑥 | 𝜇𝐴⋅𝐵 (𝑥 ) = 𝜇𝐴 (𝑥 ) ⋅ 𝜇𝐵 (𝑥 )}
10) Алгебраическая сумма:
̂ 𝐵 = {𝑥 | 𝜇𝐴+̂𝐵 (𝑥 ) = 𝜇𝐴 (𝑥 ) + 𝜇𝐵 (𝑥 ) − 𝜇𝐴 (𝑥 ) ⋅ 𝜇𝐵 (𝑥 )}
𝐴+

3. Подмножество 𝜶-уровня
Высота нечеткого множества A (hA) – максимальное значение

его функции принадлежности.
Нечеткое множество называется нормальным, если его высота

равна единице: ℎ𝐴 = 1.
Модой нечеткого множества A называется элемент 𝑥 ∈ 𝑈,

функция принадлежности которого равна высоте: 𝜇𝐴 (𝑥 ) = ℎ𝐴
Нормальное нечеткое множество унимодальное, если у него

только одна мода.
Носитель нечеткого множества – множество, состоящее из

объектов, функция принадлежности которых больше нуля:
𝑥 ∈ 𝑆𝐴 ⇔ 𝜇𝐴 (𝑥 ) > 0

Подмножеством 𝛼-уровня нечеткого множества A называется
множество
𝐴𝛼 = {𝑥 ∈ 𝑈 | 𝜇𝐴 (𝑥 ) ≥ 𝛼 }, 𝛼 ∈ [0, 1]
Функция принадлежности подмножества α-уровня:

1, если 𝜇𝐴 (𝑥) ≥ 𝛼
𝜇𝐴 𝛼 ( 𝑥 ) = {
0, если 𝜇𝐴 (𝑥 ) < 𝛼
Теорема о декомпозиции. Всякое нечеткое множество А можно

представить в виде:
𝐴 = max 𝛼𝑖 ∙ 𝐴𝛼𝑖 , 0 ≤ 𝛼𝑖 ≤ 1, 𝑖 = ̅̅̅̅̅

1, 𝑛
𝛼𝑖

4. Расстояние между нечеткими множествами
I. Универсальное множество конечно (|𝑈| = 𝑛)
1) Обобщенное расстояние Хемминга:
𝑛
𝑑 (𝐴, 𝐵) = ∑| 𝜇𝐴 (𝑥𝑖 ) − 𝜇𝐵 (𝑥𝑖 )| (4.1)

𝑖=1
2) Обобщенное относительное расстояние Хемминга:
𝑑 (𝐴, 𝐵)
𝛿 (𝐴, 𝐵) = (4.2)
𝑛
3) Евклидово (квадратичное) расстояние:
𝑛
𝑒(𝐴, 𝐵) = √∑( 𝜇𝐴 (𝑥𝑖 ) − 𝜇𝐵 (𝑥𝑖 ))2 (4.3)

𝑖=1
4) Относительное евклидово расстояние:

𝑒(𝐴, 𝐵)
𝜀 (𝐴, 𝐵) = (4.4)
√𝑛
II. Универсальное множество бесконечно (𝑈 ⊆ 𝑅)
5) Расстояние Хемминга:
∞
𝑑 (𝐴, 𝐵) = ∫ | 𝜇𝐴 (𝑥 ) − 𝜇𝐵 (𝑥 )| 𝑑𝑥 (4.5)
−∞
6) Евклидово расстояние:
∞
𝑒(𝐴, 𝐵) = √ ∫ ( 𝜇𝐴 (𝑥 ) − 𝜇𝐵 (𝑥 ))2 𝑑𝑥 (4.6)

−∞
Замечание. Если множество U ⊂ R – ограничено, то интегралы (4.5)

и (4.6) сходятся. В этом случае
𝑑 (𝐴, 𝐵) 𝑒(𝐴, 𝐵)
𝛿 (𝐴, 𝐵) = , 𝜀(𝐴, 𝐵) =
𝑏−𝑎 √𝑏 − 𝑎
a и b – соответственно левая и правая граница интервала.

5. Измерение степени нечеткости (метрический подход)
Ближайшим к нечеткому множеству 𝐴 (базисным множеством)
называется четкое множество 𝐴̃:
1, если 𝜇𝐴 (𝑥 ) > 0,5
𝜇𝐴̃ (𝑥 ) = {
0, если 𝜇𝐴 (𝑥 ) ≤ 0,5
Утверждение: ∀𝑥 ∈ 𝑈 | 𝜇𝐴 (𝑥 ) − 𝜇𝐴̃ (𝑥 )| = 𝜇𝐴∩𝐴̅ (𝑥 )
Индексом нечеткости называется величина
𝜉 (𝐴) = 𝑓 (𝜌(𝐴, 𝐴̃)) (1.1)
𝜌(𝐴, 𝐴̃) – расстояние между нечетким множеством 𝐴 и базисным

множеством 𝐴̃, 𝑓 – некоторая монотонная функция. Например,
а) 𝜉1 (𝐴) = 2𝛿(𝐴, 𝐴̃) – линейный индекс нечеткости;
б) 𝜉2 (𝐴) = 2𝜀(𝐴, 𝐴̃) – квадратичный индекс нечеткости.

НЕЧЕТКИЕ СИСТЕМЫ УПРАВЛЕНИЯ
1. Нечеткие лингвистические высказывания. База правил

2. Фаззификация
3. Принятие логических решений
4. Дефаззификация

1. Нечетким лингвистическим высказыванием называется
высказывание одного из следующих видов:
- простые высказывания:
а) «𝛽 есть 𝛼», где 𝛽 – наименование ЛП, 𝛼 – ее значение, которому
соответствует отдельный терм из базового множества 𝑇(𝛽);
б) «𝛽 есть ∇𝛼», где ∇ – модификатор, соответствующий словам
«очень», «более-менее», «слегка» и др.;
- составные высказывания, образованные из простых высказываний
и нечетких логических операций «и», «или», «не», «если-то»:
ЕСЛИ «𝛽1 есть 𝛼 1 » И (ИЛИ) «𝛽2 есть 𝛼 2 », ТО «𝛽3 есть 𝛼 3 » (1.1)
ЕСЛИ «β1 есть α1 », ТО «β2 есть α2 » И (ИЛИ) «β3 есть α3 » (1.2)

База правил предназначена для формального представления
эмпирических знаний и представляет собой конечное множество
правил, согласованных относительно используемых лингвистических
переменных и структурированных в виде:
ЕСЛИ «Условие 1» ТО «Заключение 1» (F1)
…
ЕСЛИ «Условие n» ТО «Заключение n» (Fn)
Fi – весовые коэффициенты соответствующих правил (от 0 до 1).
Совокупность лингвистических правил называется рабочим
правилом.
Условия заданы в виде нечетких лингвистических высказываний.

Обозначим 𝐷 = {𝑑 }, 𝐴 = {𝑎} множества входных и выходных
переменных.
𝑑 и 𝑎 – лингвистические переменные с фиксированными терм-
множествами соответственно:
𝑑 = {𝑑1 , … , 𝑑 𝑠 }, 𝑎 = {𝑎 1 , … , 𝑎 𝑟 }
Нечеткие множества с функциями принадлежности 𝜇𝑑𝑖 (𝑥) и 𝜇𝑎𝑗 (𝑦)

определены в универсальных множествах 𝑈 и 𝑉 соответственно.
В соответствии с этим система правил формулируется в виде:
ЕСЛИ «𝑑 = 𝑑 𝑖 » ТО «𝑎 = 𝑎 𝑗 »
Пример:
«ЕСЛИ давление пара очень высокое, ТО открыть клапан сильно»

2. Фаззификация представляет собой процедуру установления
соответствия между количественным значением входной переменной
и значением функции принадлежности соответствующего ей терма
лингвистической переменной.
Пусть на универсуме U задана лингвистическая переменная 𝑑 с
фиксированным терм-множеством {𝑑1 , 𝑑 2 , … , 𝑑 𝑠 }. Каждому терму 𝑑 𝑖
соответствует функция принадлежности 𝜇𝑑𝑖 (𝑥) (𝑖 = ̅̅̅̅
1, 𝑠).
Результатом фаззификации условия 𝑑 = 𝑑 𝑖 является значение
𝑦 𝑖 = 𝜇𝑑𝑖 (𝑥𝑗 ) (2.1)
где 𝑥𝑗 – численные значения входной переменной.

Этап фаззификации заканчивается, когда будут найдены все
значения истинности 𝑦 𝑖 , то есть множество 𝑌 = {𝑦1 , 𝑦 2 , … , 𝑦 𝑠 }.

3. Принятие логических решений: агрегирование подусловий;
активизация подзаключений; аккумулирование заключений.
3.1. Агрегирование – процедура определения степени
истинности условий по каждому из правил системы нечеткого вывода.
Исходным является множество значений истинности 𝑌.
Анализируется каждое из условий правил системы:
1) если условие представляет собой простое нечеткое
высказывание, то степень его истинности 𝑧 𝑖 = 𝑦 𝑖 ;
2) если условие состоит из нескольких подусловий типа (1.1),
причем ЛП в подусловиях попарно не равны друг другу, то степень
истинности сложного высказывания определяется по правилам:
𝑦 𝑖 = 𝑦 𝑖𝑗 ∧ 𝑦 𝑖𝑘 ⇒ 𝑧 𝑖 = 𝑚𝑖𝑛 {𝑦 𝑖𝑗 , 𝑦 𝑖𝑘 }, ⋀ − нечеткая конъюнкция
𝑦 𝑖 = 𝑦 𝑖𝑗 ∨ 𝑦 𝑖𝑘 ⇒ 𝑧 𝑖 = 𝑚𝑎𝑥 {𝑦 𝑖𝑗 , 𝑦 𝑖𝑘 }, ∨ − нечеткая дизъюнкция
Таким образом находятся все значения для каждого из правил,
входящих в базу правил – множество значений 𝑍 = {𝑧1 , 𝑧 2 , … , 𝑧 𝑛 }.
3.2. Активизация – процедура определения степени истинности
каждого из подзаключений правил базы правил. Заключения правил
могут быть заданы как в виде простых нечетких лингвистических
высказываний, так и составных типа (1.2).
Исходным является множество значений истинности всех условий
системы 𝑍 и значения весовых коэффициентов 𝐹𝑖 (𝑖 = ̅̅̅̅̅
1, 𝑛).
Степень истинности каждого из подзаключений равна:
𝑐 𝑖 = 𝑧 𝑖 ⋅ 𝐹𝑖 (3.1)
Таким образом находятся все значения степеней истинности

подзаключений для каждого из правил, входящих в базу правил
системы – множество значений 𝐶 = {𝑐1 , 𝑐 2 , … , 𝑐 𝑞 }, где 𝑞 – общее
количество подзаключений в базе правил.

На следующем шаге определяются функции принадлежностей
каждого из подзаключений для рассматриваемых выходных
лингвистических переменных. Для этого используются методы:
- min-активизация:
𝜇𝑎′ 𝑗 (𝑦) = 𝑚𝑖𝑛{𝑐 𝑗 , 𝜇𝑎𝑗 (𝑦)} (3.2)
- prod-активизация:
𝜇𝑎′ 𝑗 (𝑦) = 𝑐 𝑗 ⋅ 𝜇𝑎𝑗 (𝑦) (3.3)
- average-активизация:
𝜇𝑎′ 𝑗 (𝑦) = 0,5 ⋅ (𝑐 𝑗 + 𝜇𝑎𝑗 (𝑦)) (3.4)
𝜇𝑎𝑗 (𝑦) – функция принадлежности, соответствующая терму 𝑎 𝑗
выходной лингвистической переменной 𝑎 (𝑗 = ̅̅̅̅
1, 𝑟).
Процедура активизации заканчивается, когда для каждой из
выходных переменных, входящих в подзаключения, определены
функции принадлежности их термов 𝑎1 , 𝑎2 , … , 𝑎𝑞 .
3.3. Аккумулирование заключений представляет собой
процедуру нахождения функции принадлежности для каждой из
выходных переменных.
Результат аккумулирования для каждой их выходных переменных
𝑎𝑗 ∈ 𝐴 (𝑗 = ̅̅̅̅
1, 𝑟) определяется как объединение соответствующих ей
нечетких множеств 𝑎1𝑗 , 𝑎2𝑗 , … , 𝑎𝑞𝑗 .
Подзаключения, относящиеся к одной и той же выходной ЛП, могут

принадлежать различным правилам системы.
Этап аккумулирования завершается, когда для всех выходных

лингвистических переменных определены итоговые функции
принадлежности нечетких множеств их значений.

4. Блок дефаззификации предназначен для представления
получившихся в результате нечетких рассуждений лингвистических
значений выходных переменных в количественном виде.
Дефаззификацию называют также приведением к четкости.
Входными данными являются функции принадлежности всех

выходных лингвистических переменных 𝑎𝑗 ∈ 𝐴 (𝑗 = ̅̅̅̅
1, 𝑟)
соответствующим нечетким множествам, полученные в результате
аккумулирования.
Результат дефаззификации для выходной ЛП 𝑎𝑗 определяется в
виде количественного значения 𝑤𝑗 ∈ 𝑅.
Этап дефаззификации завершается, когда для каждой из
выходных переменных определены итоговые количественные
значения.

Методы дефаззификации
1) Метод центра тяжести:
𝑥𝑚𝑎𝑥
∫𝑥 𝑥 𝜇(𝑥)𝑑𝑥
𝑚𝑖𝑛
𝑤= 𝑥𝑚𝑎𝑥 (4.1)
∫𝑥 𝜇(𝑥)𝑑𝑥
𝑚𝑖𝑛
𝑤 – результат дефаззификации, 𝑥 – переменная, соответствующая

выходной ЛП 𝑎𝑗 , 𝜇(𝑥) – функция принадлежности нечеткому
множеству, соответствующему 𝑎𝑗 после аккумулирования, 𝑥𝑚𝑖𝑛 и 𝑥𝑚𝑎𝑥
– левая и правая точка интервала носителя нечеткого множества.
2) Метод центра тяжести для дискретных множеств:
∑𝑛𝑖=1 𝑥𝑖 𝜇(𝑥𝑖 )
𝑤= (4.2)
∑𝑛𝑖=1 𝜇(𝑥𝑖 )
3) Метод левого модального значения: 𝑤 = 𝑚𝑖𝑛{𝑥𝑚 }, 𝑥𝑚 – мода.

4) Метод правого модального значения: 𝑤 = 𝑚𝑎𝑥 {𝑥𝑚 }, 𝑥𝑚 – мода.

Основы моделирования и идентификации систем
1. Система и ее свойства
2. Моделирование систем
3. Идентификация систем

1. Системный подход – общее методологическое направление
исследования объектов и процессов как сложных систем.
Применение системного подхода к анализу конкретных прикладных
задач называется системным анализом.
Под системой понимается
1) теория (философская система Платона)
2) классификация (периодическая система элементов Менделеева)
3) завершённый метод практической деятельности (система
Станиславского)
4) некоторый способ мыслительной деятельности (система
исчисления)
5) совокупность объектов природы (Солнечная система)
6) некоторое явление общества (экономическая, правовая система)
7) совокупность установившихся норм жизни, правил поведения

Система – комплекс взаимосвязанных элементов и их свойств,
функционально направленных на реализацию поставленной цели.
Элемент – неделимый компонент системы.
Структура – совокупность элементов и связей между ними. Связи
элементов в системе могут быть информационными, вещественными и
энергетическими.
Иерархия – упорядоченность компонентов по степени важности.
Эволюция системы – изменение ее структуры во времени.
Целостность системы – особенность терять свойства (полностью
или частично) при исключении из системы элемента или связи.
Состояние системы – множество существенных свойств, которыми
система обладает в данный момент времени.
Поведение (функционирование) системы – изменение состояния
системы во времени.

Прямая связь – связь между элементами в соответствии с
последовательностью выполняемых ими функций.
Обратная связь – влияние результатов функционирования системы
на его характер.
Внешняя среда – множество элементов, которые не входят в систему,
но изменение их состояния вызывает изменение поведения системы.
Равновесие системы – способность системы в отсутствие внешних
возмущающих воздействий (или при постоянных воздействиях) сохранить
своё состояние сколь угодно долго.
Устойчивость системы – способность системы возвращаться в
состояние равновесия после того, как она была из этого состояния
выведена под влиянием внешних возмущающих воздействий.
Систему, законы изменений которой известны и поведение можно
предугадать, называют детерминированной. В противном случае система
называется вероятностной (стохастической).

Управление – целенаправленное воздействие на систему с целью
оптимизации ее функционирования.
Объект управления – компонент системы, который подвергается
управленческому воздействию.
Субъект управления – компонент системы, оказывающий
управленческое воздействие на объект.
ЛПР – «лицо, принимающее решение» – человек или коллегиальный
орган, наделенный полномочиями принимать управленческие решения.
В зависимости от степени автоматизации обработки информации
управление может осуществляться в ручном режиме, автоматическом или
автоматизированном.
В первом случае управление осуществляет ЛПР без использования
программно-технических средств.

Автоматическое управление предполагает отсутствие
вмешательства человека в процесс принятия решений. Системы
автоматического управления широко используются в управлении
технологическими процессами.
Автоматизированное управление подразумевает, что часть функций
управления или обработки информации реализуется автоматически, а
часть – вручную.
Автоматизированная система выполняет расчеты, осуществляет
прогнозы и в некоторых случаях дает рекомендации по управлению, но
окончательное решение принимает ЛПР.
Совокупность объектов, субъектов управления и их взаимосвязей
представляет собой систему управления.

3.1 Идентификация модели – определение структуры и параметров
математической модели, обеспечивающей наилучшее совпадение
выходных координат объекта и модели при одинаковых входных
воздействиях (процедура построения модели объекта по результатам
измерения и обработки входных и выходных сигналов объекта).
Основная задача системного анализа – определить выходной сигнал
системы по известному входному сигналу и характеристикам системы.
Задача идентификации – обратная задача системного анализа – по
заданным входному и выходному сигналам определить уравнения,
описывающие поведение системы.
Подход к построению модели на основе идентификации называют
экспериментальным; если модель разрабатывается на основании законов
физики, химии, материального, энергетического баланса – аналитическим
Структурная идентификация – моделирование структуры объекта;
Параметрическая идентификация – определение параметров модели
по заданной структуре.

3.2 Классификация методов идентификации
1. По объему исходной информации об исследуемом объекте:
- структурная (идентификация в широком смысле)
- параметрическая (идентификация в узком смысле)
2. По виду эксперимента:
- методы активного эксперимента, если возможно целенаправленно
формировать входные воздействия для исследуемого объекта;
- методы пассивного эксперимента, если можно только наблюдать и
обрабатывать входные и выходные сигналы объекта, но нельзя вмешаться
в его функционирование.
Пассивный эксперимент возможен почти всегда, а активный

эксперимент для многих объектов и процессов провести нельзя

3. По оперативности получения модели:
- методы ретроспективной (послеопытной) идентификации: вначале

проводится эксперимент, собираются и обрабатываются статистические
данные, которые служат основой для построения модели объекта;
- методы адаптивной идентификации, или идентификация в темпе со

временем: алгоритмы идентификации включаются в контур системы
управления, с появлением новых данных проводится перерасчет модели.
4. По типу исследуемого объекта или его математической модели

3.3 Процедура идентификации
Объект
η(t)
Вектор yоб(t)
параметров b
x(t)
Модель
Вектор yм (t) - e(t)

параметров β
𝑥(𝑡) – входное воздействие, 𝜂(𝑡) – неконтролируемое случайное

воздействие, 𝑦(𝑡) – выходной сигнал объекта, 𝑦𝑀 (𝑡) – выходной сигнал
модели, 𝑒(𝑡) – невязка между выходными сигналами объекта и модели,
𝑏, 𝛽 – соответственно векторы параметров объекта и модели.
Cвязь между входом и выходом описывается функцией 𝑓0 :
𝑦об (𝑡) = 𝑓0 (𝑥 (𝑡), 𝜂(𝑡), 𝑏), (1)
На основании информации об объекте формируется модель, под

которой подразумевается некоторый оператор 𝑓, преобразующий
наблюдаемое входное воздействие 𝑥 (𝑡) в реакцию 𝑦𝑀 (𝑡):
𝑦𝑀 (𝑡) = 𝑓(𝑥 (𝑡), 0, 𝛽), (2)
Модель (2) описывается системой уравнений. Выходная величина

зависит от вектора параметров 𝛽 = (𝛽0 , 𝛽1 … , 𝛽𝑚 ), для его определения
решается задача параметрической идентификации.
Задача идентификации состоит в построении модельного оператора 𝑓
из некоторого класса операторов (задача структурной идентификации) и
определении по наблюдениям 𝑥(𝑡) и 𝑦(𝑡) вектора параметров 𝛽
(параметрическая идентификация), такого, чтобы выходной сигнал модели
был бы наиболее близок к выходному сигналу объекта.

Разница между выходным сигналом объекта и модели характеризуется
невязкой 𝑒(𝑡):
𝑒(𝑡) = 𝑦об (𝑡) − 𝑦𝑀 (𝑡) (3)
Для оценки соответствия модели объекту вводится функционал

ошибки (функция невязки, риска или потерь), в любой момент времени
зависящий от выходов объекта и модели:
𝐸 (𝑡) = 𝐸 (𝑦об (𝑡), 𝑦𝑀 (𝑡), 𝛽)) (4)
Критерием идентификации является минимизация функционала ошибки:
𝐸(𝑡) → 𝑚𝑖𝑛 (5)
Возможности представления функционала ошибки:

𝑇
𝐸 (𝑦об (𝑡), 𝑦𝑀 (𝑡), 𝛽) = ∫0 𝑒 2 (𝑡)𝑑𝑡 (6)
𝐸 (𝑦об (𝑡), 𝑦𝑀 (𝑡), 𝛽) = ∑𝑛𝑖=1(𝑦об 𝑖 (𝑡) − 𝑦𝑀 𝑖 (𝑡))2 (7)

Практические методы моделирования
1. Постановка задачи
2. Метод Эйлера
3. Метод Рунге-Кутта
4. Формулы Рунге-Кутта
5. Метод Рунге-Кутта для системы дифференциальных уравнений
1. Постановка задачи
𝑦 ′ = 𝑓(𝑥, 𝑦) (1.1)
𝑦(𝑥0 ) = 𝑦0 (1.2)
На отрезке [𝑥0 , 𝑥𝑚 ] найти решение дифференциального уравнения

(1.1), удовлетворяющее начальному условию (1.2).
В реальных системах проинтегрировать уравнение аналитически
зачастую невозможно, поэтому применяют методы численного
интегрирования, то есть методы, доставляющие приближенное решение в
виде некоторой таблицы значений искомой функции 𝑦(𝑥) в заданных точках
𝑥𝑖 (𝑖 = 0,1,2, … ).
Совокупность таких точек называется сеткой на отрезке [𝑥0 , 𝑥𝑚 ], а сами
точки 𝑥𝑖 – узлами сетки.

2. Метод Эйлера
𝑑𝑦 𝑦(𝑥 + ∆𝑥 ) − 𝑦(𝑥)
= 𝑙𝑖𝑚
𝑑𝑥 ∆𝑥→0 ∆𝑥
Выберем ∆𝑥 = ℎ – достаточно малый шаг, ℎ > 0. В соответствии с (1.1)
𝑦 (𝑥 + ℎ ) − 𝑦 (𝑥 )
≈ 𝑓(𝑥, 𝑦)
ℎ
𝑦(𝑥 + ℎ) = 𝑦(𝑥 ) + ℎ𝑓 (𝑥, 𝑦) (2.1)
Таким образом, на отрезке [𝑥0 , 𝑥𝑚 ] строится равномерная сетка в виде

системы равноотстоящих узлов:
𝑥𝑖 = 𝑥0 + 𝑖ℎ, 𝑖 = ̅̅̅̅̅̅
1, 𝑚
Приближенные значения 𝑦𝑖 = 𝑦(𝑥𝑖 ) находятся в соответствии с (2.1):
𝑦𝑛+1 = 𝑦𝑛 + ℎ𝑓(𝑥𝑛 , 𝑦𝑛 ), 𝑛 = ̅̅̅̅̅̅̅̅̅̅̅

0, 𝑚 − 1 (2.2)

На практике метод Эйлера не применяется из-за низкой точности.
Существуют модификации метода Эйлера:
1) улучшенный метод Эйлера:
1
𝑦𝑛+1 = 𝑦𝑛 + (𝐾1 + 𝐾2 )
2
(2.3)
𝐾1 = ℎ𝑓 (𝑥𝑛 , 𝑦𝑛 )
𝐾2 = ℎ𝑓 (𝑥𝑛 + ℎ, 𝑦𝑛 + 𝐾1 )
2) модифицированный метод Эйлера:

𝑦𝑛+1 = 𝑦𝑛 + 𝐾2
𝐾1 = ℎ𝑓 (𝑥𝑛 , 𝑦𝑛 )
(2.4)
1 1
𝐾2 = ℎ𝑓 (𝑥𝑛 + ℎ, 𝑦𝑛 + 𝐾1 )
2 2

3. Метод Рунге-Кутта
Поставлена задача Коши (1.1) – (1.2).
𝑥0 , 𝑦0 – некоторые числа, для функции 𝑓(𝑥, 𝑦) существуют непрерывные
частные производные до некоторого порядка (𝑠 − 1) в соответствующей
области, содержащей точку (𝑥0 , 𝑦0 ). В этом случае решение уравнения (1.1)
в окрестности точки 𝑥 = 𝑥0 будет иметь непрерывные производные до 𝑠-го
порядка, и для него можно записать разложение в ряд Тейлора:
′
(𝑥 − 𝑥0 )2 𝑦0 ′′ (𝑥 − 𝑥0 )𝑠 𝑦0 (𝑠)
𝑦(𝑥 ) = 𝑦0 + (𝑥 − 𝑥0 )𝑦0 + + ⋯+ + 𝑜(|𝑥 − 𝑥0 |𝑠+1 )
2! 𝑠!
Пусть решение ищется в точке 𝑥 = 𝑥0 + ℎ, ℎ > 0
Обозначив ℎ = 𝑥 − 𝑥0 и отбросив 𝑜(|𝑥 − 𝑥0 |𝑠+1 ), получим
ℎ2 ′′
′
ℎ 𝑠 (𝑠)
𝑦(𝑥0 + ℎ) ≅ 𝑦0 + ℎ𝑦0 + 𝑦0 + ⋯ + 𝑦0 (3.1)
2! 𝑠!

Производные, входящие в выражение (3.1), можно непосредственно
вычислить, последовательно дифференцируя уравнение (1.1), но
получаемые при этом формулы оказываются чрезмерно громоздкими.
Карл Рунге предложил (Мартин Кутта развил идею) вместо вычислений
по формуле (3.1) искать линейные комбинации вида:
𝑞
𝑦(𝑥0 + ℎ) = 𝑦0 + ∑ 𝑃𝑖 𝐾𝑖 (ℎ) , (3.2)

𝑖=1
𝑃𝑖 – некоторые постоянные коэффициенты (𝑖 = ̅̅̅̅̅

1, 𝑞 ), 𝐾𝑖 (ℎ) – функции,
вычисляемые по формулам
𝐾𝑖 (ℎ) = ℎ𝑓(𝜉𝑖 , 𝜂𝑖 ) (3.3)
𝜉𝑖 = 𝑥0 + 𝛼𝑖 ℎ, 𝜂𝑖 = 𝑦0 + 𝛽𝑖1 𝐾1 (ℎ) + 𝛽𝑖2 𝐾2 (ℎ) + ⋯ + 𝛽𝑖,𝑖−1 𝐾𝑖−1 (ℎ)
𝑞 ≥ 1, 𝑖 = ̅̅̅̅̅
1, 𝑞,
𝛼𝑖 , 𝛽𝑖𝑗 – некоторые постоянные (𝛼1 = 0, 𝛽11 = 0)
Таким образом, функции (3.3) имеют вид:
𝐾1 = ℎ𝑓(𝑥0 , 𝑦0 )
𝐾2 = ℎ𝑓(𝑥0 + 𝛼2 ℎ, 𝑦0 + 𝛽21 𝐾1 )
𝐾3 = ℎ𝑓(𝑥0 + 𝛼3 ℎ, 𝑦0 + 𝛽31 𝐾1 + 𝛽32 𝐾2 ) (3.4)
…
𝐾𝑞 = ℎ𝑓(𝑥0 + 𝛼𝑞 ℎ, 𝑦0 + 𝛽𝑞1 𝐾1 + ⋯ + 𝛽𝑞,𝑞−1 𝐾𝑞−1 )
Выбрав шаг интегрирования ℎ и зная коэффициенты, можно

последовательно вычислить функции 𝐾𝑖 (ℎ) (𝑖 = ̅̅̅̅̅
1, 𝑞 ), а затем по формуле
(3.2) – искомое значение y(𝑥0 + ℎ).
На следующем шаге в качестве начальных условий берется точка 𝑥1 =
𝑥0 + ℎ и начальное значение 𝑦1 = 𝑦(𝑥1 ) и вычисляется значение 𝑦2 =
𝑦(𝑥2 ) = 𝑦(𝑥0 + 2ℎ).
Повторяя описанную процедуру, получим таблицу значений
дифференциального уравнения (1.1)
𝑦𝑖 = 𝑦(𝑥𝑖 ) = 𝑦(𝑥0 + 𝑖ℎ), 𝑖 = ̅̅̅̅̅̅
1, 𝑚
4. Формулы Рунге-Кутта
Для нахождения неизвестных коэффициентов введем функцию
погрешности (4.1), удовлетворяющую условиям (4.2)
𝑞
𝜑(ℎ) = 𝑦(𝑥0 + ℎ) − 𝑦0 − ∑ 𝑃𝑖 𝐾𝑖 (ℎ) , (4.1)

𝑖=1
𝜑(0) = 𝜑 ′ (0) = ⋯ = 𝜑 (𝑠) (0) = 0 (4.2)
𝜑 (𝑠+1) (0) ≠ 0
Разложим 𝜑(ℎ) в ряд Тейлора в окрестности 0:

𝑠
ℎ𝑖 𝜑 (𝑖) (0) ℎ 𝑠+1 𝜑 (𝑠+1) (𝜃ℎ)
𝜑 (ℎ ) = ∑ + , 0<𝜃<1 (4.3)
𝑖! (𝑠 + 1)!
𝑖=0
̅̅̅̅̅
Выбор коэффициентов 𝛼𝑖 , 𝛽𝑖𝑗 (𝑖 = 2, 𝑞, 𝑗 = ̅̅̅̅̅̅̅̅̅̅
1, 𝑞 − 1 ) и 𝑃𝑖 (𝑖 = ̅̅̅̅̅
1, 𝑞 ) в (3.2),
(3.4) подчиняется условию максимума 𝑠.
При выполнении условий (4.2) величина 𝑠 задает порядок точности
формулы, а погрешность пропорциональна 𝑂(ℎ 𝑠+1 ).
Замечание. Выполнение равенств (4.2) для всех значений 𝑞 из
формулы (3.2) одновременно обеспечить невозможно, поэтому будем
получать различные формулы разной точности, полагая 𝑞 = 1,2 …
1) 𝑞 = 1: 𝑦(𝑥0 + ℎ) = 𝑦0 + 𝑃1 𝐾1 (ℎ) = 𝑦0 + 𝑃1 ℎ 𝑓(𝑥0 , 𝑦0 )
𝜑(ℎ) = 𝑦(𝑥0 + ℎ) − 𝑦0 − 𝑃1 ℎ 𝑓(𝑥0 , 𝑦0 ), 𝜑(0) = 0
𝜑 ′ (ℎ) = 𝑦 ′ (𝑥0 + ℎ) − 𝑃1 𝑓(𝑥0 , 𝑦0 )
𝜑 ′ (0) = 𝑦 ′ (𝑥0 ) − 𝑃1 𝑓(𝑥0 , 𝑦0 ) = 𝑓(𝑥0 , 𝑦0 ) − 𝑃1 𝑓(𝑥0 , 𝑦0 )
𝜑 ′ (0) = 0 при 𝑃1 = 1
𝑦(𝑥0 + ℎ) = 𝑦0 + ℎ 𝑓(𝑥0 , 𝑦0 ) (4.4)

2
Метод Эйлера точности 𝑠 = 1, погрешность пропорциональна 𝑂 (ℎ ).

2) 𝑞 = 2: 𝑦(𝑥0 + ℎ) = 𝑦0 + 𝑃1 𝐾1 (ℎ) + 𝑃2 𝐾2 (ℎ)
𝑦(𝑥0 + ℎ) = 𝑦0 + 𝑃1 ℎ 𝑓(𝑥0 , 𝑦0 ) + 𝑃2 ℎ 𝑓(𝑥0 + 𝛼2 ℎ, 𝑦0 + 𝛽21 ℎ 𝑓(𝑥0 , 𝑦0 ))
𝜑 ′ (0) = 0 ⟹ 𝑃1 + 𝑃2 = 1
1 1
𝜑 ′′ (0) = 0 ⟹ 𝛼2 𝑃2 = , 𝛽21 𝑃2 =
2 2
𝜑 (3) (0) ≠ 0 ⟹ погрешность − 𝑂(ℎ3 )
1-й вариант:
1
𝛼2 = 𝛽21 = 1, 𝑃1 = 𝑃2 =
2
1
𝑦(𝑥0 + ℎ) = 𝑦0 + (𝐾1 + 𝐾2 )
2
(4.5)
𝐾1 = ℎ𝑓 (𝑥0 , 𝑦0 )
𝐾2 = ℎ𝑓 (𝑥0 + ℎ, 𝑦0 + 𝐾1 )
Улучшенный метод Эйлера точности 𝑠 = 2, погрешность – 𝑂(ℎ3 ).

2-й вариант:
1
𝛼2 = 𝛽21 = , 𝑃2 = 1, 𝑃1 = 0
2
𝑦(𝑥0 + ℎ) = 𝑦0 + 𝐾2
𝐾1 = ℎ𝑓(𝑥0 , 𝑦0 )
(4.6)
1 1
𝐾2 = ℎ𝑓 (𝑥0 + ℎ, 𝑦0 + 𝐾1 )
2 2
Модифицированный метод Эйлера, 𝑠 = 2, погрешность – 𝑂(ℎ3 ).
3) 𝑞 = 3:
1
𝑦(𝑥0 + ℎ) = 𝑦0 + (𝐾1 + 4𝐾2 + 𝐾3 )
6
(
𝐾1 = ℎ𝑓 𝑥0 , 𝑦0 )
(4.7)
1 1
𝐾2 = ℎ𝑓 (𝑥0 + ℎ, 𝑦0 + 𝐾1 )
2 2
𝐾3 = ℎ𝑓 (𝑥0 + ℎ, 𝑦0 − 𝐾1 + 2𝐾2 )

4) 𝑞 = 4:
1
𝑦(𝑥0 + ℎ) = 𝑦0 + (𝐾1 + 2𝐾2 + 2𝐾3 + 𝐾4 )
6
𝐾1 = ℎ𝑓 (𝑥0 , 𝑦0 )
1 1
𝐾2 = ℎ𝑓 (𝑥0 + ℎ, 𝑦0 + 𝐾1 ) (4.8)
2 2
1 1
𝐾3 = ℎ𝑓 (𝑥0 + ℎ, 𝑦0 + 𝐾2 )
2 2
𝐾4 = ℎ𝑓 𝑥0 + ℎ, 𝑦0 + 𝐾3 )
(
Точность 𝑠 = 4, погрешность – 𝑂(ℎ5 ).
В связи с тем, что процедура построения таблицы решений является

пошаговой и на каждом следующем шаге используется только информация,
полученная на предыдущем, метод Рунге – Кутта относится к классу
одношаговых методов численного интегрирования обыкновенных
дифференциальных уравнений.
5. Метод Рунге-Кутта для системы двух дифференциальных
уравнений
𝑦 ′ = 𝑓 (𝑥, 𝑦, 𝑧)
{ ′ (5.1)
𝑧 = 𝑔(𝑥, 𝑦, 𝑧)
𝑦(𝑥0 ) = 𝑦0
{ (5.2)
𝑧(𝑥0 ) = 𝑧0
На отрезке [𝑥0 , 𝑥𝑚 ] найти решение системы (5.1) – (5.2).

Предполагая гладкость функций 𝑓(𝑥, 𝑦, 𝑧) и 𝑔(𝑥, 𝑦, 𝑧), разложим искомое
решение в ряд Тейлора в окрестности точки 𝑥 = 𝑥0 :
(𝑥 − 𝑥0 )2 𝑦0 ′′ (𝑥 − 𝑥0 )𝑠 𝑦0 (𝑠)
𝑦(𝑥 ) = 𝑦0 + (𝑥 − 𝑥0 )𝑦0 ′ + + ⋯+ + 𝑜(|𝑥 − 𝑥0 |𝑠+1 )
2! 𝑠!
′
(𝑥 − 𝑥0 )2 𝑧0 ′′ (𝑥 − 𝑥0 )𝑠 𝑧0 (𝑠)
𝑧(𝑥 ) = 𝑧0 + (𝑥 − 𝑥0 )𝑧0 + + ⋯+ + 𝑜(|𝑥 − 𝑥0 |𝑠+1 )
2! 𝑠!

Обозначая ℎ = 𝑥 − 𝑥0 , перепишем приведенные разложения с
точностью до членов 𝑜(|ℎ|𝑠+1 )
′
ℎ2 ′′ ℎ 𝑠 (𝑠)
𝑦(𝑥0 + ℎ) ≅ 𝑦0 + ℎ𝑦0 + 𝑦0 + ⋯ + 𝑦0
2! 𝑠!
′
ℎ2 ′′ ℎ 𝑠 (𝑠)
𝑧(𝑥0 + ℎ) ≅ 𝑧0 + ℎ𝑧0 + 𝑧0 + ⋯ + 𝑧0
2! 𝑠!
𝑞
𝑦(𝑥0 + ℎ) = 𝑦0 + ∑ 𝑃𝑖 𝐾𝑖 (ℎ)
𝑖=1
𝑧(𝑥0 + ℎ) = 𝑧0 + ∑ 𝑅𝑖 𝐿𝑖 (ℎ)
𝑖=1
𝑃𝑖 , 𝑅𝑖 – некоторые постоянные коэффициенты (𝑖 = ̅̅̅̅̅

1, 𝑞 ), 𝐾𝑖 (ℎ) и 𝐿𝑖 (ℎ) –
функции, вычисляемые аналогично (3.3).

𝑞 = 4:
1
𝑦(𝑥0 + ℎ) = 𝑦0 + (𝐾1 + 2𝐾2 + 2𝐾3 + 𝐾4 )
6
1
𝑧(𝑥0 + ℎ) = 𝑧0 + (𝐿1 + 2𝐿2 + 2𝐿3 + 𝐿4 )
6
𝐾1 = ℎ𝑓(𝑥0 , 𝑦0 , 𝑧0 )
𝐿1 = ℎ𝑔(𝑥0 , 𝑦0 , 𝑧0 )
1 1 1
𝐾2 = ℎ𝑓 (𝑥0 + ℎ, 𝑦0 + 𝐾1 , 𝑧0 + 𝐿1 )
2 2 2
(5.3)
1 1 1
𝐿2 = ℎ𝑔 (𝑥0 + ℎ, 𝑦0 + 𝐾1 , 𝑧0 + 𝐿1 )
2 2 2
1 1 1
𝐾3 = ℎ𝑓 (𝑥0 + ℎ, 𝑦0 + 𝐾2 , 𝑧0 + 𝐿2 )
2 2 2
1 1 1
𝐿3 = ℎ𝑔 (𝑥0 + ℎ, 𝑦0 + 𝐾2 , 𝑧0 + 𝐿2 )
2 2 2
𝐾4 = ℎ𝑓 (𝑥0 + ℎ, 𝑦0 + 𝐾3 , 𝑧0 + 𝐿3 )
𝐿4 = ℎ𝑔(𝑥0 + ℎ, 𝑦0 + 𝐾3 , 𝑧0 + 𝐿3 )

Корреляционный анализ.
Регрессионные модели
1. Системы случайных величин
2. Корреляционные методы
3. Регрессионный анализ
Математическое моделирование. Ч2. Л3. 1

1.1 Системы случайных величин
Величины, возможные значения которых определяются n числами,
называются n-мерными.
(𝑋, 𝑌) – двумерная случайная величина, (𝑋, 𝑌, 𝑍) – трехмерная.
𝑋 и 𝑌 в совокупности образуют систему двух случайных величин.
Каждую из величин 𝑋 и У называют составляющей (компонентой).
Функциональной называется зависимость между величинами
𝑋 и 𝑌, при которой каждому значению величины 𝑋 ставится в
соответствие единственное значение величины 𝑌 (зависимость
площади квадрата от длины его стороны 𝑆 = 𝑎2 ).
Статистической называется зависимость, при которой каждому
значению величины 𝑋 ставится в соответствие некоторое
распределение величины 𝑌.
Корреляционной называется зависимость, при которой каждому
значению величины 𝑋 ставится в соответствие среднее значение
величины 𝑌.
1.2 Распределения двумерных случайных величин
Законом распределения дискретной двумерной случайной
величины называют перечень возможных значений этой величины, т.е.
пар чисел (𝑥𝑖 , 𝑦𝑗 ) и их вероятностей 𝑝(𝑥𝑖 , 𝑦𝑗 ), 𝑖 = 1, … , 𝑛, 𝑗 = 1, … , 𝑚:
𝑥1 … 𝑥𝑖 … 𝑥𝑛
𝑦1 𝑝(𝑥1 , 𝑦1 ) 𝑝(𝑥𝑖 , 𝑦1 ) 𝑝(𝑥𝑛 , 𝑦1 )
…
𝑦𝑗 𝑝(𝑥1 , 𝑦𝑗 ) 𝑝(𝑥𝑖 , 𝑦𝑗 ) 𝑝(𝑥𝑛 , 𝑦𝑗 )
…
𝑦𝑚 𝑝(𝑥1 , 𝑦𝑚 ) 𝑝(𝑥𝑖 , 𝑦𝑚 ) 𝑝(𝑥𝑛 , 𝑦𝑚 )
Сумма вероятностей всех клеток таблицы равна единице.

Вероятность того, что 𝑋 примет значение 𝑥𝑖 , равна сумме
вероятностей столбца 𝑥𝑖 . Вероятность того, что 𝑌 примет значение 𝑦𝑗 ,
равна сумме вероятностей строки 𝑦𝑗 .
Функция распределения непрерывной двумерной случайной
величины (𝑋, 𝑌):
𝐹(𝑥, 𝑦) = 𝑃(𝑋 < 𝑥, 𝑌 < 𝑦).
Плотность совместного распределения вероятностей 𝑓(𝑥, 𝑦)

двумерной непрерывной случайной величины (𝑋, 𝑌):
𝜕 2 𝐹 (𝑥, 𝑦)
𝑓(𝑥, 𝑦) =
𝜕𝑥𝜕𝑦
Геометрически эту функцию можно истолковать как поверхность,

которую называют поверхностью распределения.

2.1 Корреляционный момент и коэффициент корреляции
Корреляционным моментом (ковариацией) 𝜇𝑥𝑦 случайных
величин X и У называют математическое ожидание произведения их
отклонений:
𝜇𝑥𝑦 = 𝑐𝑜𝑣 (𝑋, 𝑌) = 𝑀{[𝑋 − 𝑀(𝑋)][𝑌 − 𝑀(𝑌)]} = 𝑀(𝑋𝑌) − 𝑀(𝑋)𝑀(𝑌) (2.1)
Какие недостатки величины 𝜇𝑥𝑦 ?
Коэффициентом корреляции 𝜌𝑥𝑦 случайных величин X и У

называют отношение корреляционного момента к произведению
средних квадратических отклонений этих величин:
𝜇𝑥𝑦 𝑀(𝑋𝑌) − 𝑀(𝑋)𝑀(𝑌)
𝜌𝑥𝑦 = = (2.2)
𝜎(𝑋)𝜎(𝑌) 𝜎(𝑋)𝜎(𝑌)

Выборочный коэффициент корреляции (Пирсона) является
оценкой коэффициента корреляции 𝜌𝑥𝑦 и отражает степень линейной
корреляционной зависимости между двумя величинами:
𝑐𝑜𝑣(𝑋, 𝑌) ∑𝑛𝑖=1(𝑥𝑖 − 𝑥̅ )(𝑦𝑖 − 𝑦̅)

𝑟𝑥𝑦 = = (2.3)
𝜎𝑥 ∙ 𝜎𝑦 √∑𝑛𝑖=1(𝑥𝑖 − 𝑥̅ )2 ∙ √∑𝑛𝑖=1(𝑦𝑖 − 𝑦̅)2
𝑥𝑦 − 𝑥̅ ∙ 𝑦̅
̅̅̅
𝑟𝑥𝑦 = (2.3′)
𝜎𝑥 ∙ 𝜎𝑦
где 𝑥̅ , 𝑦̅ – средние величин 𝑋 и 𝑌, 𝜎𝑥 , 𝜎𝑦 – средние квадратические

отклонения величин 𝑋 и 𝑌, 𝑥𝑦̅̅̅ – средняя произведения значений величин
𝑋 и 𝑌.

2.2 Свойства коэффициента корреляции Пирсона:
1) −1 ≤ 𝑟𝑥𝑦 ≤ 1;
2) при 𝑟𝑥𝑦 ≠ 0 величины коррелированы, при 𝑟𝑥𝑦 = 0 – нет.
3) положительное значение коэффициента корреляции указывает
на прямую зависимость, отрицательное – на обратную;
4) при 0 < |𝑟𝑥𝑦 | ≤ 0,3 зависимость слабая;
5) при 0,3 < |𝑟𝑥𝑦 | ≤ 0,5 зависимость умеренная;
6) при 0,5 < |𝑟𝑥𝑦 | ≤ 0,7 зависимость заметная;
7) при 0,7 < |𝑟𝑥𝑦 | < 1 зависимость сильная;
8) при |𝑟𝑥𝑦 | = 1 между величинами функциональная зависимость.

2.2 Корреляционное поле и корреляционная таблица
Пусть в результате 𝑛 независимых наблюдений за величинами 𝑋
и У зафиксированы пары их значений (𝑥1 , 𝑦1 ), … (𝑥𝑛 , 𝑦𝑛 ).
При большом числе наблюдений значение 𝑥 может повториться 𝑛𝑥

раз, значение 𝑦 - 𝑛𝑦 раз, одна и та же пара чисел (𝑥, 𝑦) может
наблюдаться 𝑛𝑥𝑦 раз.
Корреляционным полем называется графическое изображение

наблюдавшихся пар (𝑥𝑖 , 𝑦𝑖 ) в прямоугольной системе координат (𝑖 =
1, 2, … , 𝑛).
Корреляционная таблица – прямоугольная таблица, в столбцах и
строках которой указаны наблюдавшиеся значения величин 𝑋 и 𝑌, а на
пересечении – частоты 𝑛𝑥𝑖 𝑦𝑖 пар (𝑥𝑖 , 𝑦𝑖 ), (𝑖 = 1, 2, … , 𝑛).

Пример 1. В таблице 1 представлены результаты измерений входной
переменной 𝑋 и выходной 𝑌. Оценить зависимость между величинами.
Таблица 1 – Результаты измерений
𝑿 𝒀
13 18 24 16 17 15 20 23
15 13 15 12 11 13 16 18
18 15 19 12 12 17 14 16
20 9 7 11 13 12 10 8
23 10 12 11 14 9 13 15
26 5 9 7 6 7 12 10
31 10 6 3 2 2 4 8
Таблица 2 – Усредненный отклик
Х 13 15 18 20 23 26 31
Среднее значение Y 19 14 15 10 12 8 5

20
(13; 19)
18
16
(18; 15)
14
(15; 14)
12 (23; 12)
10
Y
(20; 10)
8
(26; 8)
6
(31; 5)
4
0
0 5 10 15 20 25 30 35
Х
Рисунок 1 – Корреляционное поле

Х
5 8 10 12 14 15 19
Y
13 1
15 1
18 1
20 1
23 1
26 1
31 1
Рисунок 2 – Корреляционная таблица (по данным таблицы 2)

Таблица 3 – Данные для расчета коэффициента корреляции Пирсона
Номер столбца
Величина Сумма Средняя
1 2 3 4 5 6 7
х 13 15 18 20 23 26 31 146 𝑥̅ = 20,86
y 19 14 15 10 12 8 5 83 𝑦̅ = 11,86
x2 169 225 324 400 529 676 961 3284 ̅̅̅2 = 469,14
𝑥
y2 361 196 225 100 144 64 25 1115 ̅̅̅
𝑦 2 = 159,29
xy 247 210 270 200 276 208 155 1566 ̅̅̅ = 223,71
𝑥𝑦
𝜎𝑥 = √𝑥̅2 − (𝑥̅ )2 = √469,14 − 20,862 = 5,84
𝜎𝑦 = √𝑦̅2 − (𝑦̅ )2 = √159,29 − 11,862 = 4,32

̅̅̅ − 𝑥̅ ∙ 𝑦̅
𝑥𝑦 223,71 − 20,86 ∙ 11,86
𝑟𝑥𝑦 = = = −0,94
𝜎𝑥 ∙ 𝜎𝑦 5,84 ∙ 4,32
3. Регрессионный анализ – раздел, посвященный изучению
методов аналитического описания корреляционной зависимости.
Кривая (линия) регрессии – это функция, аппроксимирующая
наблюдавшиеся значения (𝑥𝑖 , 𝑦𝑖 ) двумерной случайной величины
(𝑋, 𝑌), 𝑖 = 1,2, … , 𝑛. Если эта функция линейна, то регрессия
называется линейной, иначе – криволинейной.
Рассмотрим двумерную случайную величину (𝑋, 𝑌), где 𝑋 и 𝑌 –
зависимые случайные величины.
Представим одну из величин как функцию другой: 𝑋 – фактор, 𝑌 –
отклик, поэтому будем искать зависимость 𝑌 от 𝑋.
Уравнение линии регрессии в этом случае представлено в виде:
𝑦̂𝑥 = 𝜃0 + 𝜃1 𝑥 (3.1)
С учетом такой зависимости значения 𝑦𝑖 величины 𝑌 можно
выразить в виде 𝑦𝑖 ≈ 𝑦̂(𝑥𝑖 ), а пары значений – (𝑥𝑖 , 𝑦̂(𝑥𝑖 )).

Определение коэффициентов уравнения линии регрессии
осуществляется методом наименьших квадратов.
Коэффициенты 𝜃0 и 𝜃1 уравнения (3.1) находятся исходя из
условия, чтобы сумма квадратов отклонений в наблюдаемых точках
(𝑥𝑖 , 𝑦𝑖 ) от линии регрессии была минимальной:
𝑛
𝐹 = ∑(𝑦𝑖 − (𝜃0 + 𝜃1 𝑥𝑖 ))2 → 𝑚𝑖𝑛 (3.2)

𝜃0 ,𝜃1
𝑖=1
𝜕𝐹 𝜕𝐹
Приравнивая к нулю частные производные и , получается
𝜕𝜃0 𝜕𝜃1
система двух уравнений с двумя неизвестными:
𝑛
𝜕𝐹
= −2 ∑(𝑦𝑖 − (𝜃0 + 𝜃1 𝑥𝑖 )) = 0
𝜕 𝜃0
𝑖=1
𝑛 (3.3)
𝜕𝐹
= −2 ∑ 𝑥𝑖 (𝑦𝑖 − (𝜃0 + 𝜃1 𝑥𝑖 )) = 0
{𝜕 𝜃 1
𝑖=1

Решив систему (3.3), получим формулы для расчета коэффициентов:
1
∑ 𝑥𝑖 𝑦𝑖 − ∑ 𝑥𝑖 ∑ 𝑦𝑖
𝜃̂1 = 𝑛 (3.4)
1
∑ 𝑥𝑖 2 − (∑ 𝑥𝑖 )2
𝑛
𝑛 𝑛
1 𝜃1
𝜃̂0 = ∑ 𝑦𝑖 − ∑ 𝑥𝑖 (3.5)
𝑛 𝑛
𝑖=1 𝑖=1
∑ = ∑𝑛𝑖=1 − знак суммы составляющих от 1 до n.
Иначе,
̅̅̅̅̅̅
𝑥 ∙ 𝑦 − 𝑥̅ ∙ 𝑦̅
𝜃̂1 = (3.6)
𝐷в (𝑋)
𝜃̂0 = 𝑦̅ − 𝜃̂1 𝑥̅ (3.7)
𝐷в (𝑋) – выборочная дисперсия величины 𝑋.

20
18
16
14
12
10
Y
6
y = -0,6914x + 26,3
4 R² = 0,8725
0
0 5 10 15 20 25 30 35
Х
Рисунок 3 – Линейная регрессия Y на X из примера 1.

Особенности метода наименьших квадратов в
задачах идентификации
1. Алгоритм метода наименьших квадратов

2. Модель множественной регрессии
3. Ошибки измерений

1. Алгоритм метода наименьших квадратов
Пусть поставлена задача построить статическую характеристику

датчика первичной информации.
Под статической характеристикой понимается зависимость между

входом и выходом датчика в установившемся режиме.
Решение. Пусть измерения выхода производятся при заданных

входных воздействиях 𝑥1 , 𝑥2 , … , 𝑥𝑛 ∈ 𝑋, где 𝑋 – множество допустимых
значений входных воздействий.

Если по точкам (𝑥𝑖 , 𝑦𝑖 ) (𝑖 = 1, 2, … , 𝑛) построить кривую, то эта кривая
представляет функцию 𝑦(𝑥), характеризующую зависимость 𝑦 от 𝑥.
Аналитическое описание функции 𝑦(𝑥) в виде математического уравнения
дало бы возможность определить прогнозное значение 𝑦 путем
подстановки 𝑥 в уравнение в качестве аргумента. Проблема в том, что найти
точное описание данной кривой практически невозможно.
Поэтому пользуются приближенным, аппроксимируя кривую некоторой
известной функцией, расположенной как можно ближе к точкам (𝑥𝑖 , 𝑦𝑖 ).
Пусть для определенности зафиксирован класс линейных
аппроксимирующих функций, в котором каждая функция имеет вид
𝑦̂(𝑥) = 𝜃0 + 𝜃1 𝑥 (1.1)
Пусть проведено 𝑛 измерений, и эти измерения содержат некоторые

случайные ошибки 𝜉𝑖 . Тогда связь измерений с неизвестными параметрами
̅̅̅̅̅
𝑦(𝑥𝑖 ) = 𝜃0 + 𝜃1 𝑥𝑖 + 𝜉𝑖 , 𝑖 = 1, 𝑛 (1.2)

В развернутом виде выражение (1.2) имеет вид:
𝑦(𝑥1 ) = 𝜃0 + 𝜃1 𝑥1 + 𝜉1
𝑦(𝑥2 ) = 𝜃0 + 𝜃1 𝑥2 + 𝜉2
…
𝑦(𝑥𝑛 ) = 𝜃0 + 𝜃1 𝑥𝑛 + 𝜉𝑛
или 𝑦 = 𝐶𝜃 + 𝜉 (1.3)
𝑦 = (𝑦(𝑥1 ), … , 𝑦(𝑥𝑛 ))𝑇 – вектор измерений
𝜃 = (𝜃0 , 𝜃1 )𝑇 – вектор неизвестных параметров
𝜉 = (𝜉 (𝑥1 ), … , 𝜉 (𝑥𝑛 ))𝑇 – вектор ошибок измерений
1 𝑥1
𝐶 = (… … ) – матрица измерений
1 𝑥𝑛
Выражение (1.3) содержит аддитивную ошибку измерения 𝜉, поэтому

𝑦 ≈ 𝐶𝜃 (1.4)
По своей структуре (1.4) – система линейных алгебраических
уравнений относительно неизвестного вектора параметров 𝜃, но
обладающая особенностями, выделяющими ее из класса обычных СЛАУ:
а) матрица измерений 𝐶 прямоугольная, для нее не существует
обратной. Проблема решается умножением (1.4) слева и справа на
транспонированную:
𝐶 𝑇 𝑦 = 𝐶 𝑇 𝐶𝜃 (1.5)
Ранг матрицы 𝐶 𝑇 𝐶 = 2, в случае ее невырожденности существует

обратная, и тогда можно найти решение
𝜃 = (𝐶 𝑇 𝐶)−1 𝐶 𝑇 𝑦 (1.6)
б) решение зависит как от ошибок измерений, так и от набора значений

𝑥1 , … , 𝑥𝑛 . При другом наборе возможно изменение решения – значений
параметров аппроксимирующей функции. Но датчик остался тем же,
следовательно, задача будет иметь множество решений.

Задача состоит в определении наилучшего решения из приближенных.
Качество приближенного решения 𝜃 можно определить по длине
вектора невязки (1.7) или по квадрату длины вектора невязки (1.8):
𝑦 − 𝐶𝜃 = 𝜉 (1.7)
𝜉 2 = (𝑦 − 𝐶𝜃 )𝑇 (𝑦 − 𝐶𝜃) = 𝐼 (𝜃) (1.8)
Наилучшее приближение – решение экстремальной задачи (1.9):
𝜃̂ = arg min 𝐼 (𝜃) = arg min(𝑦 − 𝐶𝜃)𝑇 (𝑦 − 𝐶𝜃 ) (1.9)

𝜃 𝜃
Необходимое условие экстремума:
𝜕𝐼(𝜃)
=0
𝜕𝜃
𝐼 (𝜃 ) = 𝜉 2
𝜕𝐼 𝜕𝜉
= 2𝜉 = −2𝐶 𝑇 (𝑦 − 𝐶𝜃) = 0
𝜕𝜃 𝜕𝜃
𝑦 − 𝐶𝜃 = 0 ⟹ 𝐶𝜃 = 𝑦
𝐶 𝑇 𝐶𝜃 = 𝐶 𝑇 𝑦
𝑛
𝑛𝜃0 𝜃1 ∑ 𝑥𝑖
𝑖=1
𝐶 𝑇 𝐶𝜃 = 𝑛 𝑛
𝜃0 ∑ 𝑥𝑖 𝜃1 ∑ 𝑥𝑖 2
( 𝑖=1 𝑖=1 )
𝑛
∑ 𝑦𝑖
𝑖=1
𝐶𝑇𝑦 = 𝑛 , 𝑦𝑖 = 𝑦(𝑥𝑖 )
∑ 𝑥𝑖 𝑦𝑖
( 𝑖=1 )

𝑛 𝑛
𝑛𝜃0 + 𝜃1 ∑ 𝑥𝑖 = ∑ 𝑦𝑖
𝑖=1 𝑖=1
𝑛 𝑛 𝑛 (1.10)
𝜃0 ∑ 𝑥𝑖 + 𝜃1 ∑ 𝑥𝑖 2 = ∑ 𝑥𝑖 𝑦𝑖
{ 𝑖=1 𝑖=1 𝑖=1
Система (1.10) имеет решение, и оно единственное.

Оценки определяются следующим образом:
𝑛 𝑛
1 𝜃1
𝜃̂0 = ∑ 𝑦𝑖 − ∑ 𝑥𝑖 (1.11)
𝑛 𝑛
𝑖=1 𝑖=1
1
∑ 𝑥𝑖 𝑦𝑖 − ∑ 𝑥𝑖 ∑ 𝑦𝑖
𝜃̂1 = 𝑛 (1.12)
1
∑ 𝑥𝑖 2 − (∑ 𝑥𝑖 )2
𝑛
В формуле (1.12) суммирование от 1 до 𝑛.

При выборе другого класса аппроксимирующих функций получится
другой результат. Сравнивать качество решений можно только
внутри выбранного класса аппроксимирующих функций.
Выражения для определения наилучших приближенных значений 𝜃0 и

𝜃1 называются алгоритмами обработки измерений.
Алгоритм, основанный на идее использования метода наименьших
квадратов, называется МНК-алгоритмом.
Наилучшие приближения 𝜃̂0 и 𝜃̂1 называются оценками неизвестных
параметров 𝜃0 и 𝜃1 .
Вектор (𝜃̂0 , 𝜃̂1 )𝑇 = 𝜃̂мнк называется эмпирической оценкой метода
наименьших квадратов или МНК-оценкой.
Утверждение 1. МНК-оценка всегда существует.

Утверждение 2. МНК-оценка является несмещенной, эффективной и
состоятельной.

x1
x y x2 y
A A
...
xm
Рис. 1 Рис. 2
x1 y1
x2 Охарактеризуйте системы на
A y2 рис. 1–3. Моделирование какой из
... … них осуществляется с помощью
xm yn рассмотренного алгоритма?
Рис. 3

2. Модель системы с множеством входов
Пусть задана система с m входами и одним выходом:
x1
x2 y
A
…
xm
Она может быть описана регрессионной моделью вида
𝑦(𝑡) = 𝜃0 + 𝜃1 𝑥1 (𝑡) + 𝜃2 𝑥2 (𝑡) + ⋯ + 𝜃𝑚 𝑥𝑚 (𝑡) (2.1)
Модель (2.1) называется множественной регрессией.

Проведено n экспериментов, в результате которых получено n x m
значений измерений.

Пусть к обработке предъявляется выборка 𝑦1 , 𝑦2 , … , 𝑦𝑛 ⊂ 𝑌, такая, что ее
элементы статистически независимы, а математическая модель,
связывающая измерения с неизвестными параметрами, имеет вид
𝑦 = 𝐶𝜃 + 𝜉 (2.2)
𝑦 = (𝑦1 , … , 𝑦𝑛 )𝑇 – вектор измерений
𝜃 = (𝜃0 , … , 𝜃𝑚 )𝑇 – вектор неизвестных параметров
𝜉 = (𝜉1 , … , 𝜉𝑛 )𝑇 – вектор ошибок измерений
𝐶 − [𝑛 х (𝑚 + 1)] – матрица измерений:
1 𝑥11 𝑥12 … 𝑥1𝑚

1 𝑥21 𝑥22 … 𝑥2𝑚
𝐶=( )
… … … … …
1 𝑥𝑛1 𝑥𝑛2 … 𝑥𝑛𝑚

МНК-оценка
𝜃̂ = arg min(𝑦 − 𝐶𝜃)𝑇 (𝑦 − 𝐶𝜃) (2.3)

𝜃
Экстремальная точка удовлетворяет условию
𝜕𝐼(𝜃)
=0
𝜕𝜃
или 𝐶 𝑇 𝐶𝜃 = 𝐶 𝑇 𝑦 (2.4)
Решение системы линейных алгебраических уравнений (2.4) имеет вид
𝜃̂МНК = (𝐶 𝑇 𝐶 )−1 𝐶 𝑇 𝑦 (2.5)
или 𝜃̂МНК = 𝐿𝑦 (2.5′)
где 𝐿 – оператор алгоритма МНК:
𝐿 = (𝐶 𝑇 𝐶 )−1 𝐶 𝑇 (2.6)

3. Ошибки измерений
Проанализируем ошибки измерений – вектор 𝜉 = (𝜉 (𝑥1 ), … , 𝜉 (𝑥𝑛 ))𝑇 .

Будем считать, что случайные ошибки в каждом измерении имеют
нулевое среднее значение и постоянную дисперсию 𝜎 2 . 𝑀𝜉 = 0.
𝜉 (𝑥1 )𝜉 (𝑥1 ) 𝜉 (𝑥1 )𝜉 (𝑥2 ) … 𝜉 (𝑥1 )𝜉 (𝑥𝑛 )

𝜉 (𝑥 )𝜉 (𝑥1 ) 𝜉 (𝑥2 )𝜉 (𝑥2 ) … 𝜉 (𝑥2 )𝜉 (𝑥𝑛 )
𝑀𝜉𝜉 𝑇 = 𝑀 ( 2 )=
… … … …
𝜉 (𝑥𝑛 )𝜉 (𝑥1 ) Текст
𝜉 (𝑥𝑛 )𝜉 (𝑥2 ) … 𝜉 (𝑥𝑛 )𝜉 (𝑥𝑛 )
𝑀𝜉 2 (𝑥1 ) 𝑀𝜉 (𝑥1 )𝜉 (𝑥2 ) … 𝑀𝜉 (𝑥1 )𝜉 (𝑥𝑛 )

( ) ( )
= ( 𝑀𝜉 𝑥2 𝜉 𝑥1 𝑀𝜉 2 (𝑥2 ) … 𝑀𝜉 (𝑥2 )𝜉 (𝑥𝑛 ))
… … … …
2( )
𝑀𝜉 (𝑥𝑛 )𝜉 (𝑥1 ) 𝑀𝜉 (𝑥𝑛 )𝜉 (𝑥2 ) … 𝑀𝜉 𝑥𝑛
Матрица 𝑀𝜉𝜉 𝑇 называется ковариационной.

В зависимости от свойств ковариационной матрицы 𝑀𝜉𝜉 𝑇 , различают
следующие группы измерений:
1) ошибки измерений не коррелированы, тогда
𝑀𝜉 (𝑥𝑖 )𝜉(𝑥𝑗 ) = 0, 𝑖 ≠ 𝑗, 𝑖, 𝑗 = ̅̅̅̅̅̅

1, 𝑚
𝑀𝜉𝜉 𝑇 = 𝜎 2 ∙ 𝐸
𝐸 – единичная матрица, 𝑀 – оператор математического ожидания.
2) ошибки измерений коррелированы, тогда
𝑀𝜉 (𝑥𝑖 )𝜉(𝑥𝑗 ) ≠ 0, 𝑖 ≠ 𝑗, 𝑖, 𝑗 = ̅̅̅̅̅̅

1, 𝑚
𝑀𝜉𝜉 𝑇 = 𝜎 2 ∙ 𝐾
𝐾 – симметричная положительно определенная матрица, 𝑀 – оператор

математического ожидания.

6. Исследование уравнения регрессии
Уравнение регрессии:
𝑦̂ = 𝜃0 + 𝜃1 𝑥1 + 𝜃2 𝑥2 + ⋯ + 𝜃𝑚 𝑥𝑚
Вектор остатков:
𝜀 = 𝑦 − 𝑦̂
Вектор отклонений:
𝛿 = 𝑦 − 𝑦̅
Коэффициент детерминации
2
𝜀𝑇𝜀
𝑅 =1− 𝑇
𝛿 𝛿
Коэффициент детерминации характеризует долю дисперсии
результативного признака, объясненную регрессией, в общей дисперсии
результативного признака.
Математическое моделирование Л.6. 1
Анализ данных —> Регрессия
Уравнение регрессии:

1. Входной интервал Y – диапазон адресов ячеек в столбце,
содержащих значения yi.
2. Входной интервал X – диапазон адресов ячеек, содержащих
значения независимых переменных. Значения каждой переменной
представляются одним столбцом. Количество переменных 𝑚 ≤ 16.
3. Метки – включается, если первая строка во входном диапазоне
содержит заголовки, которые автоматически задают названия переменных.
4. Уровень надежности – задается надежность при построении
доверительных интервалов.
5. Константа-ноль – при включении коэффициент θ0 = 0.
6. Выходной интервал – адрес левой верхней ячейки выходного
диапазона, содержащего результаты вычислений.
7. Остатки – при включении этого параметра вычисляется столбец,
содержащий невязки 𝑦𝑖 − 𝑦̂𝑖 , 𝑖 = 1, … , 𝑛.
8. Стандартизованные остатки – столбец остатков, деленных на
исправленное отклонение.
Дисперсионный анализ. Значимость уравнения регрессии
Общая сумма квадратов отклонений переменной 𝑦 от среднего

значения 𝑦̅ может быть разложена на две составляющие
𝑆𝑦 = 𝑆факт + 𝑆е
𝑆𝑦 – общая сумма квадратов отклонений
𝑛
𝑆𝑦 = ∑(𝑦𝑖 − 𝑦̅)2
𝑖=1
𝑆факт – сумма квадратов отклонений, объясненная регрессией

𝑛
𝑆факт = ∑(𝑦̂𝑖 − 𝑦̅)2

𝑖=1
𝑆e – остаточная сумма квадратов отклонений (необъясненная)

𝑛
𝑆𝑒 = ∑(𝑦𝑖 − 𝑦̂𝑖 )2
𝑖=1

80
70
60
50
y = 4,172x + 31,782
Y 40
R² = 0,5524
30
20
10
0
0 1 2 3 4 5 6 7 8 9 10
X

Оценка статистической значимости уравнения регрессии
выполняется с помощью F-критерия Фишера. Выдвигается гипотеза о
равенстве нулю коэффициентов регрессии: 𝐻0 : 𝜃0 = 0, … , 𝜃𝑚 = 0
В этом случае факторы 𝑥𝑗 не оказывают влияния на результат, линия
регрессии параллельна оси Ox (𝑦̂ = 𝑦̅) и дисперсия результативного
признака 𝑦 обусловлена только воздействием неучтенных факторов. Тогда
𝑆𝑦 = 𝑆е
Если результат зависит только от факторов 𝑥𝑗 , то
𝑆𝑦 = 𝑆факт
Уравнение регрессии статистически значимо, если 𝑆факт > 𝑆е .
Сумма квадратов отклонений связана с числом степеней свободы, которое

зависит от числа наблюдений. Для сравнения 𝑆факт и 𝑆е их необходимо
поделить на соответствующее число степеней свободы, получив таким
образом средний квадрат отклонений (дисперсию на одну степень свободы)

𝑛
1
𝑠2𝑦 = ∑(𝑦𝑖 − 𝑦̅)2
𝑛−1
𝑖=1
𝑛
1
𝑠 2 факт = ∑(𝑦̂𝑖 − 𝑦̅)2
𝑚
𝑖=1
𝑛
1
𝑠2𝑒 = ∑(𝑦𝑖 − 𝑦̂𝑖 )2
𝑛−𝑚−1
𝑖=1
Таким образом, задача сводится к проверке нулевой гипотезы

𝐻0 : 𝐷факт = 𝐷е
при конкурирующей гипотезе
𝐻1 : 𝐷факт > 𝐷е
F-критерий:
𝑠 2 факт
𝐹= 2
𝑠 е
Дисперсионный анализ в MS Excel
df – число степеней свободы, в общей сложности равный 𝑛 − 1:
𝑚 – для строки регрессия, 𝑛 − 𝑚 − 1 – для строки остаток
SS – сумма квадратов отклонений, равная 𝑆𝑦 :
𝑆факт – для строки регрессия, 𝑆е – для строки остаток
MS – дисперсии, определяемые по формуле:
𝑆𝑆
𝑀𝑆 =
𝑑𝑓
F – значение критерия Фишера:
𝑀𝑆регрессия
𝐹=
𝑀𝑆остаток
Если 𝐹 < 𝐹табл, вероятность нулевой гипотезы выше заданного уровня
значимости 𝛼, и уравнение регрессии является статистически незначимым.
Значимость F – уровень значимости, соответствующий вычисленной
величине F-критерия (= 𝐹. РАСП. ПХ(𝐹; 𝑚; 𝑛 − 𝑚 − 1)
Регрессионная статистика
Множественный R – коэффициент множественной корреляции:
𝑅 = √𝑅2
R-квадрат – коэффициент детерминации:
𝑆𝑒
𝑅2 = 1 −
𝑆𝑦
Нормированный R-квадрат – коэффициент детерминации,
скорректированный на величину выборки:
2 𝑠2𝑒 𝑛−1
𝑅𝑎𝑑𝑗 =1− 2 =1− (1 − 𝑅2 )
𝑠 𝑦 𝑛−𝑚−1
Стандартная ошибка – оценка s для СКО 𝜎 ошибки:
𝑆𝑒
𝑠𝑒 = √ = √𝑠 2 𝑒
𝑛−𝑚−1
Наблюдения – число наблюдений 𝑛.

Значимость коэффициентов уравнения регрессии
Для проверки значимости коэффициентов формулируются гипотезы:

𝐻0 : 𝜃𝑗 = 0 (коэффициент незначим),
𝐻1 : 𝜃𝑗 ≠ 0 (коэффициент значим).
В качестве критерия проверки берется случайная величина
𝜃𝑗
𝑇𝑗 = ,
𝑠𝑗
имеющая при справедливости гипотезы 𝐻0 распределение Стьюдента
с 𝑛 − 𝑚 − 1 степенями свободы.
Коэффициент 𝜃𝑗 значимо отличается от нуля (принимается гипотеза 𝐻1
на уровне значимости 𝛼), если |𝑇𝑗 | > 𝑡кр .
𝑡кр = 𝑡кр (𝛼, 𝑛 − 𝑚 − 1) = СТЬЮДЕНТ. ОБР. 2Х(𝛼; 𝑛 − 𝑚 − 1)

Основная таблица
Коэффициенты – значения коэффициентов регрессии: 𝜃 = (𝐶 𝑇 𝐶)−1 𝐶 𝑇 𝑦
Стандартная ошибка – стандартные ошибки 𝑠𝑗 коэффициентов:
𝑠𝑗 = 𝑠√[(𝐶 𝑇 𝐶)−1 ]𝑗𝑗
где [(𝐶 𝑇 𝐶)−1 ]𝑗𝑗 – j-й диагональный элемент матрицы (𝐶 𝑇 𝐶)−1

t-статистика – вычисленное по выборке наблюдаемое значение
критерия Стьюдента для проверки значимости коэффициентов
𝜃𝑗
𝑡𝑗 =
𝑠𝑗
Р-значение – уровень значимости, соответствующий вычисленным
значениям t-критерия (= СТЬЮДЕНТ. РАСП. 2Х(ABS(𝑡𝑗 ); 𝑛 − 𝑚 − 1). Если эта
вероятность меньше уровня значимости 𝛼, то принимается гипотеза о
значимости соответствующего коэффициента регрессии.

Нижние 95%, Верхние 95%, Нижние p%, Верхние p% – соответственно
нижние и верхние границы доверительных интервалов для коэффициентов
𝜃𝑗 (с 95% надежностью вычисляются по умолчанию, p% задается
пользователем):
(𝜃𝑗 − 𝑡𝛾 𝑠𝑗 ; 𝜃𝑗 + 𝑡𝛾 𝑠𝑗 )
где 𝑡𝛾 = 𝑡(1 − 𝛾, 𝑛 − 𝑚 − 1) = СТЬЮДЕНТ. ОБР. 2Х(𝛼; 𝑛 − 𝑚 − 1)

Вывод остатка
Предсказанное 𝑦̂𝑖 – значения, вычисленные по уравнению регрессии
Остатки – значения невязок 𝑦𝑖 − 𝑦̂𝑖
Стандартные остатки:
𝑦𝑖 − 𝑦̂𝑖
𝑠𝜀

Исследование мультиколлинеарности
Мультиколлинеарность модели множественной регрессии – наличие
высокой взаимной коррелированности между факторами.
Последствия мультиколлинеарности:
 матрица (𝐶 𝑇 𝐶) может являться невырожденной, но величина её
определителя мала и, как следствие, элементы обратной матрицы
(𝐶 𝑇 𝐶)−1 становятся очень большими. В результате получаются
большие дисперсии коэффициентов 𝜃𝑗 ;
 оценки 𝜃𝑗 чувствительны к незначительному изменению результатов
наблюдений и объема выборки (могут меняться не только по
величине, но и по знаку), что делает модель непригодной для
анализа и прогнозирования;
 уменьшаются t-статистики коэффициентов, и оценка их значимости
по t-критерию теряет смысл, хотя в целом регрессионная модель
может оказаться значимой по F-критерию.

Подходы к оценке мультиколлинеарности факторов
Анализ матрицы парных коэффициентов корреляции факторов
𝑟𝑥1𝑥1 𝑟𝑥1𝑥2 … 𝑟𝑥1𝑥𝑚
𝑟𝑥1𝑥2 𝑟𝑥2𝑥2 … 𝑟𝑥2𝑥𝑚
𝑅𝑥 = ( … … … … )
𝑟𝑥1𝑥𝑚 𝑟𝑥2𝑥𝑚 … 𝑟𝑥𝑘𝑥𝑚
𝑥
̅̅̅̅̅
𝑖 𝑥𝑗 − 𝑥̅𝑖 𝑥̅𝑗
𝑟𝑥𝑖 𝑥𝑗 =
𝜎𝑥𝑖 𝜎𝑥𝑗
Таким образом выявляются пары переменных, имеющих высокие
коэффициенты корреляции (>0,7). Если такие переменные существуют, то
в модели наблюдается явление мультиколлинеарности.
Являются ли мультиколлинеарными факторы в примере 1?

Анализ определителя матрицы парных корреляций
Если факторы не коррелированы между собой, матрица парных
корреляций является единичной матрицей, и ее определитель равен 1:
1 0 … 0
0 1 … 0
det 𝑅𝑥 = | |=1
… … … …
0 0 … 1
Если между факторами существует функциональная зависимость, то
все коэффициенты корреляции равны единице, определитель равен нулю:
1 1 … 1
1 1 … 1
det 𝑅𝑥 = | |=0
… … … …
1 1 … 1
Следовательно, чем ближе определитель det 𝑅𝑥 к нулю, тем сильнее
мультиколлинеарность факторов и наоборот.

Методы устранения или уменьшения мультиколлинеарности
1) Исключение переменных из модели

Из двух факторов, имеющих высокий коэффициент парной корреляции,
одну переменную исключают из модели, оставляя ту переменную, которая
имеет больший коэффициент корреляции с зависимой переменной.
2) Изменение спецификации модели

Метод состоит в добавлении факторов, не учтенных в первоначальной
модели, но влияющих на результирующую переменную.
3) Преобразование переменных модели
Метод состоит в переходе от переменных 𝑥1 , 𝑥2 , … , 𝑥𝑚 , имеющих тесную
корреляционную связь, к новым переменным, которые между собой слабо
коррелированны или не коррелированны.
Например, от модели 𝑦̂ = 𝜃0 + 𝜃1 𝑥1 + 𝜃2 𝑥2 можно перейти к модели
𝑦̂ 𝑥1
= 𝜃0 + 𝜃1
𝑥2 𝑥2
Отбор факторов регрессионной модели
1) Удаление факторов. В качестве исходной выбирается
регрессионная модель с максимальным числом переменных и на каждом
шаге проводится удаление наименее значимого фактора.
2) Добавление факторов. В качестве исходной выбирается

однофакторная регрессионная модель и пошагово проводится добавление
наиболее значимого фактора. На первом шаге отбирается фактор x1,
имеющий с откликом Y наибольший коэффициент детерминации R2.
Чему равен коэффициент детерминации R2 для парной регрессии?
На втором шаге добавляется фактор x2, который вместе с x1 образуют

пару, имеющую с Y наиболее высокий (по сравнению с другими парами)
скорректированный коэффициент детерминации.
Процедура добавления новых переменных продолжается до тех пор,
пока будет увеличиваться скорректированный коэффициент детерминации.

МОДЕЛИРОВАНИЕ СИСТЕМ С НЕЧЕТКИМ
РЕГУЛЯТОРОМ
1. Лингвистическая переменная
2. Виды функций принадлежности
3. Моделирование систем с нечетким регулятором

1. Лингвистическая переменная (ЛП) – переменная, которая
принимает нечеткие значения и определяется как кортеж
< 𝐴, 𝑇(𝐴), 𝑈, 𝑉, 𝑀 > (1.1)
𝐴 – название переменной, характеристика элементов 𝑈 (возраст);

𝑇(𝐴) – терм-множество переменной 𝐴, то есть множество
наименований нечетких подмножеств 𝑈, представляющих собой
значения, которые может принимать лингвистическая переменная
(молодой, средний, старый);
𝑈 – универсальное множество, на котором заданы термы
(допустимые значения возраста людей);
𝑉 – синтаксическое правило, порождающее новые термы;
𝑀 – семантическое правило, которое ставит в соответствие каждой
нечеткой переменной из 𝑇(𝐴) нечеткое подмножество универсального
множества 𝑈.

Различают базовые термины и модификаторы (не, очень и другие),
которые могут применяться к базовым терминам и комбинациям
базового термина и модификатора. Синтаксическое правило 𝑉 задает
правила применения модификаторов.
Разница между базовыми терминами и модификаторами в том, что

для базовых терминов функции принадлежности задаются, а
модификаторы действуют как операторы над этими функциями,
например: 𝜇очень = 𝜇2
Семантическим пространством называется лингвистическая

переменная с фиксированным терм-множеством:
𝑆 =< 𝐴, 𝑇(𝐴), 𝑈, 𝑀 > (1.2)

2. Виды функций принадлежности
1) s-функция
0, если 𝑥 ≤ 𝛼
𝑥−𝛼 2
2( ) , если 𝛼 < 𝑥 ≤ 𝛽
𝛾−𝛼
𝑠(𝑥, 𝛼, 𝛽, 𝛾) = (2.1)
𝑥−𝛾 2
1 − 2( ) , если 𝛽 < 𝑥 < 𝛾
𝛾−𝛼
{ 1, если 𝑥 ≥ 𝛾
μ(x)
1 Индекс нечеткости s-функции
1
𝜉 (𝐴) = (𝛾 − 𝛼)
3
α U
β γ

2) z-функция
1, если 𝑥 ≤ 𝛼
𝑥−𝛼 2
1 − 2( ) , если 𝛼 < 𝑥 ≤ 𝛽
𝛾−𝛼
𝑧(𝑥, 𝛼, 𝛽, 𝛾) = (2.2)
𝛾−𝑥 2
2( ) , если 𝛽 < 𝑥 < 𝛾
𝛾−𝛼
{ 0, если 𝑥 ≥ 𝛾
μ(x)
1
α U
β γ

3) 𝜋-функция
𝛽
𝑠 (𝑥, 𝛾 − 𝛽, 𝛾 − , 𝛾) , если 𝑥 ≤ 𝛾
2
𝜋(𝑥, 𝛽, 𝛾) = 𝛽 (2.3)
𝑠 (𝑥, 𝛾, 𝛾 + , 𝛾 + 𝛽) , если 𝑥 > 𝛾
2
{ 1, если 𝑥 = 𝛾
μ(x) Индекс нечеткости 𝜋 -функции

1
2
𝜉 (𝐴 ) = 𝛽
3
U s, z и π-функции называются
γ-β γ γ+β
сплайн-функциями

4) функции (L-R)-типа
𝑎′ − 𝑥
𝐿( ) , если 𝑥 < 𝑎′ , 𝑎𝐿 > 0
𝑎𝐿
𝜇𝐴 (𝑥 ) = 𝑥 − 𝑎′′ (2.4)
𝑅( ) , если 𝑥 > 𝑎′′ , 𝑎𝑅 > 0
𝑎𝑅
{ 1, если 𝑥 ∈ [𝑎′ , 𝑎′′ ]
Примеры функций L и R:
μ(x) 𝑝
1 𝐿(𝑥 ) = 𝑒 −|𝑥| , 𝑝 ≥ 0
или 𝐿(𝑥 )
1 при 𝑥 ∈ [−1,1]
={
0 в ост. случаях
1
U 𝑅 (𝑥 ) = ,𝑝 ≥ 0
aL a' a'' aR 1 + |𝑥|𝑝

5) линейные функции (L-R)-типа
0, если 𝑥 ∉ [𝑎𝐿 , 𝑎𝑅 ]
𝑥−𝑎𝐿
′
, если 𝑥 ∈ [𝑎𝐿 , 𝑎′ )
𝑎 −𝑎𝐿
𝜇𝐴 (𝑥 ) = (2.5)
1, если 𝑥 ∈ [𝑎′ , 𝑎′′ ]
𝑎𝑅 − 𝑥
′′
, если 𝑥 ∈ (𝑎′′ , 𝑎𝑅 ]
{𝑎𝑅 − 𝑎
Линейные функции принадлежности (L-R)-типа при 𝑎′ < 𝑎′′

называются трапецеидальными, при 𝑎′ = 𝑎′′ = 𝑎 – треугольными.
μ(x) μ(x)
1 1
U U
aL a' a'' aR aL a aR

3. Система управления с нечетким регулятором состоит из
устройства сравнения, нечеткого регулятора, объекта управления и
цепи обратной связи:
Нечеткий
регулятор
База правил
x(t) Формирование y(t)

Объект
Фаззификация логических Дефаззификация
управления
решений
Рисунок 1 – Функциональная схема системы управления на базе

нечеткой логики
Нечеткий регулятор (fuzzu-controller) включает 3 основных блока:
- блок фаззификации
- блок принятия логических решений;
- блок дефаззификации.
Процедура фаззификации предназначена для перевода текущих

числовых значений входных переменных нечеткого регулятора в
лингвистические величины.
Во втором блоке на основании базы правил формируются

лингвистические правила, служащие для принятия решений.
Процедура дефаззификации предназначена для представления

получившихся в результате нечетких рассуждений лингвистических
значений выходных переменных в количественном виде.

Краткие сведения из теории вероятностей и
математической статистики
1. Понятие и характеристики случайной величины

2. Непрерывные случайные величины: функция и плотность
распределения, характеристики
3. Нормальное распределение и его свойства
4. Примеры распределений непрерывных случайных величин

1. Случайной называют величину, которая в результате испытания
примет одно и только одно возможное значение, наперед не известное и
зависящее от случайных причин, которые заранее не могут быть учтены.
Дискретной называют случайную величину, которая принимает
отдельные, изолированные возможные значения с определенными
вероятностями.
Непрерывной называют случайную величину, которая может
принимать все значения из некоторого промежутка.
Число возможных значений дискретной случайной величины конечно

или бесконечно? А непрерывной?
Закон распределения дискретной случайной величины – это

соответствие между возможными значениями и их вероятностями.
Х 𝑥1 𝑥2 … 𝑥𝑘
P 𝑝1 𝑝2 … 𝑝𝑘

Характеристики случайных величин
1) Математическое ожидание – сумма произведений всех
возможных значений случайной величины на их вероятности.
𝑘
𝑀(𝑋) = ∑ 𝑥𝑖 ∙ 𝑝𝑖 (1.1)
𝑖=1
2) Дисперсия случайной величины – математическое ожидание

квадрата отклонения случайной величины от ее математического
ожидания:
𝐷(𝑋) = 𝑀[𝑋 − 𝑀(𝑋)]2
или 𝐷(𝑋) = 𝑀(𝑋 2 ) − [𝑀(𝑋)]2 (1.2)
3) Средним квадратическим отклонением случайной величины

называют квадратный корень из дисперсии:
𝜎(𝑋) = √𝐷(𝑋) (1.3)

2.1. Функция распределения (интегральная функция) 𝐹 (𝑥 )
определяет вероятность того, что случайная величина 𝑋 в результате
испытания примет значение, меньшее 𝑥, т. е.
𝐹 (𝑥 ) = 𝑃 (𝑋 < 𝑥 ) (2.1)
Свойства функции распределения:
1) 0 ≤ 𝐹(𝑥) ≤ 1
2) 𝐹 (𝑥 ) – неубывающая функция
3) Вероятность того, что случайная величина примет значение,
заключенное в интервале (𝑎, 𝑏), равна:
𝑃(𝑎 ≤ 𝑋 < 𝑏) = 𝐹 (𝑏) − 𝐹(𝑎) (2.2)
4) Вероятность того, что непрерывная случайная величина 𝑋 примет
одно определенное значение, равна нулю.
5) Если возможные значения случайной величины принадлежат
интервалу (𝑎, 𝑏), то: 𝐹(𝑥) = 0 при 𝑥 ≤ 𝑎, 𝐹(𝑥) = 1 при 𝑥 ≥ 𝑏.

2.2. Плотность распределения вероятностей непрерывной
случайной величины X (дифференциальная функция) – функция 𝑓(𝑥 ):
𝑓(𝑥 ) = 𝐹′(𝑥)
Теорема. Вероятность того, что непрерывная случайная величина X
примет значение, принадлежащее интервалу (𝑎, 𝑏), равна:
𝑏
𝑃(𝑎 < 𝑋 < 𝑏) = ∫ 𝑓(𝑥)𝑑𝑥 (2.3)
𝑎
Зная плотность распределения 𝑓(𝑥), можно найти функцию 𝐹(х):
𝑥
𝐹 (𝑥 ) = ∫ 𝑓(𝑧)𝑑𝑧 (2.4)
−∞
Вероятностный смысл плотности распределения: вероятность того,
что случайная величина примет значение, принадлежащее интервалу
(𝑥, 𝑥 + ∆𝑥), приближенно равна произведению плотности вероятности в
точке х на длину интервала ∆𝑥.
Плотности распределений непрерывных случайных величин
называются законами распределений.

2.3. Характеристики непрерывных случайных величин
Математическое ожидание непрерывной случайной величины X,
возможные значения которой принадлежат отрезку [𝑎, 𝑏], равно:
𝑏
𝑀(𝑋) = ∫ 𝑥 ∙ 𝑓(𝑥)𝑑𝑥 (2.5)
𝑎
Дисперсией непрерывной случайной величины X, возможные
значения которой принадлежат отрезку [𝑎, 𝑏], называют математическое
ожидание квадрата ее отклонения:
𝑏
𝐷 (𝑋) = ∫ [𝑥 − 𝑀(𝑋)]2 ∙ 𝑓(𝑥)𝑑𝑥 (2.6)
𝑎
𝑏
𝐷(𝑋) = ∫ 𝑥 2 ∙ 𝑓(𝑥)𝑑𝑥 − [𝑀(𝑋)]2
𝑎
Среднее квадратическое отклонение непрерывной случайной
величины:
𝜎(𝑋) = √𝐷(𝑋) (2.7)

3.1. Нормальным распределением (распределением Гаусса)
называется распределение вероятностей непрерывной случайной
величины, описываемое плотностью
1 (𝑥−𝑎)2
−
𝑓 (𝑥 ) = 𝑒 2𝜎 2 (3.1)
𝜎√2𝜋
Чтобы задать нормальное распределение, достаточно знать два
параметра: 𝑎 – математическое ожидание и 𝜎 – среднее квадратическое
отклонение нормального распределения.
Нормированным называется нормальное распределение с
параметрами 𝑎 = 0, 𝜎 = 1. В противном случае задано общее нормальное
распределение.
Плотность нормированного распределения:
1 − 𝑥 2⁄2
𝜑 (𝑥 ) = 𝑒 (3.2)
√2𝜋
Эта функция табулирована.

Функция 𝐹 (𝑥 ) общего нормального распределения:
𝑥 (𝑧−𝑎)2
1 −
𝐹 (𝑥 ) = ∫ 𝑒 2𝜎 2 𝑑𝑧 (3.3)
𝜎√2𝜋 −∞
Функция нормированного распределения (табулирована):

𝑥
1 −
𝑧2
𝐹0 (𝑥 ) = ∫ 𝑒 2 𝑑𝑧 (3.4)
√2𝜋 −∞
Вероятность попадания нормированной нормальной величины X в

интервал (0, 𝑥) можно найти, пользуясь функцией Лапласа:
𝑥
1 −
𝑧2
Ф (𝑥 ) = ∫ 𝑒 2 𝑑𝑧 (3.5)
√2𝜋 0
Пользуясь формулами (2.3) и (3.5), вероятность попадания

нормальной случайной величины в заданный интервал (𝛼, 𝛽) равна:
𝛽−𝑎 𝛼−𝑎
𝑃 (𝛼 < 𝑋 < 𝛽 ) = Φ ( ) − Φ( ) (3.6)
𝜎 𝜎

Правило трех сигм
Случайная величина подчинена распределению 𝑁(𝑎, 𝜎), тогда
- около 68% ее реализаций лежат в интервале (𝑎 − 𝜎, 𝑎 + 𝜎)
- около 95% ее реализаций лежат в интервале (𝑎 − 2𝜎, 𝑎 + 2𝜎)
- около 99,7% ее реализаций лежат в интервале (𝑎 − 3𝜎, 𝑎 + 3𝜎)
Иначе говоря, если случайная величина распределена нормально, то

абсолютная величина ее отклонения от математического ожидания не
превосходит утроенного среднего квадратического отклонения.
Если распределение изучаемой случайной величины неизвестно, но

выполняется условие правила трех сигм, то есть основание
предполагать, что изучаемая величина распределена нормально
Центральная предельная теорема (Ляпунова): если случайная

величина 𝑋 представляет собой сумму очень большого числа взаимно
независимых случайных величин, влияние каждой из которых на всю
сумму ничтожно мало, то 𝑋 имеет распределение, близкое к нормальному.
3.2. Нормальной кривой (кривой Гаусса) называется график
плотности нормального распределения.
Рисунок 1 – Кривая Гаусса

Исследуем функцию методами дифференциального исчисления.
1) Функция определена на всей оси Ох;
2) При всех значениях х функция положительна;
3) Предел функции при возрастании х (по абсолютной величине)
равен нулю, т.е. ось Ох служит горизонтальной асимптотой графика.
4) Нахождение экстремума:
2
′
𝑥 − 𝑎 − (𝑥−𝑎)
𝑓 (𝑥) = − 𝑒 2𝜎 2
𝜎 3 √2𝜋
𝑓 ′ (𝑥 ) = 0 при 𝑥 = 𝑎, 𝑓 ′ (𝑥 ) > 0 при 𝑥 < 𝑎, 𝑓 ′ (𝑥 ) < 0 при 𝑥 > 𝑎, значит,
при 𝑥 = 𝑎 функция имеет максимум:
1
𝑓 (𝑎 ) =
𝜎√2𝜋
5) (𝑥 − 𝑎)2 , т.е. график симметричен относительно прямой 𝑥 = 𝑎.
6) 𝑓 ′′ (𝑥 ) = 0 при 𝑥 = 𝑎 + 𝜎 и 𝑥 = 𝑎 − 𝜎. При переходе через эти точки
𝑓 ′′ (𝑥 ) меняет знак, таким образом, найдены точки перегиба.
𝑓 (𝑎 + 𝜎) = 𝑓(𝑎 − 𝜎) = 1⁄𝜎√2𝜋𝑒
Влияние параметров нормального распределения
на форму кривой Гаусса
1) Изменение математического ожидания 𝑎 не изменяет формы
нормальной кривой, а приводит к ее сдвигу вдоль оси Ох: вправо, если 𝑎
возрастает, и влево, если 𝑎 убывает.
2) С возрастанием 𝜎 максимальная ордината нормальной кривой
убывает, а сама кривая становится более пологой, т. е. сжимается к оси
Ох; при убывании 𝜎 нормальная кривая становится более острой и
растягивается в положительном направлении оси Оу.
3) При любых значениях параметров 𝑎, 𝜎 площадь, ограниченная
нормальной кривой и осью х, всегда равна единице.
4) Асимметрия и эксцесс нормального распределения всегда равны
нулю.

Центральным моментом порядка k случайной величины X называют
математическое ожидание величины (𝑋 − 𝑀(𝑋))𝑘 :
𝑘
𝜇𝑘 = 𝑀 [(𝑋 − 𝑀(𝑋)) ]
2
𝜇1 = 𝑀[(𝑋 − 𝑀(𝑋))] = 0; 𝜇2 = 𝑀 [(𝑋 − 𝑀(𝑋)) ] = 𝐷(𝑋)
Рассмотренные моменты называются теоретическими. Моменты,

вычисленные по данным наблюдений, называются эмпирическими.
Асимметрия указывает на отличие кривой распределения случайной

величины от нормальной кривой:
𝐴𝑠 = 𝜇3 ⁄𝜎 3
Эксцесс указывает на остроту вершины кривой распределения по
сравнению с нормальной кривой:
𝐸𝑘 = 𝜇4 ⁄𝜎 4 − 3

Рисунок 3 – Асимметрия и эксцесс
4.1. Показательным (экспоненциальным) распределением
называется распределение вероятностей непрерывной случайной
величины 𝑋, заданное плотностью
0 при 𝑥 < 0
𝑓(𝑥 ) = { −𝜆𝑥 (4.1)
𝜆𝑒 при 𝑥 ≥ 0
где 𝜆 - постоянная положительная величина.
Примером непрерывной случайной величины, распределенной по
показательному закону, может служить время между появлениями двух
последовательных событий простейшего потока.
Функция распределения показательного закона:
𝑥 0 𝑥
𝐹 (𝑥 ) = ∫ 𝑓(𝑥 )𝑑𝑥 = ∫ 0𝑑𝑥 + 𝜆 ∫ 𝑒 −𝜆𝑥 𝑑𝑥 = 1 − 𝑒 −𝜆𝑥

−∞ −∞ 0
0 при 𝑥 < 0
𝐹 (𝑥 ) = { (4.2)
1 − 𝑒 −𝜆𝑥 при 𝑥 ≥ 0

Рисунок 4 – Графики плотности и функции показательного
распределения
Показательное распределение определяется одним параметром 𝜆. Эта

особенность указывает на его преимущество по сравнению с другими
распределениями. Как правило, параметры неизвестны, и приходится
находить их оценки (приближенные значения). Один параметр оценить
проще.

4.2. Распределение «хи-квадрат»
Пусть 𝑋𝑖 (𝑖 = 1,̅̅̅̅̅
𝑛) – нормальные независимые случайные величины:
𝑀(𝑋𝑖 ) = 0, 𝜎(𝑋𝑖 ) = 1. Сумма квадратов этих величин распределена по
закону 𝜒 2 c 𝑘 = 𝑛 степенями свободы:
𝑛
𝜒 2 = ∑ 𝑋𝑖2
𝑖=1
Если эти величины связаны линейным соотношением, то число
степеней свободы равно 𝑘 = 𝑛 − 1.
Плотность распределения:
0 при 𝑥 ≤ 0
𝑓 (𝑥 ) = { 1 (4.3)
⁄
𝑒 −𝑥⁄2 𝑥 (𝑘⁄2)−1 при 𝑥 > 0
2 Γ(𝑘 ⁄2)
𝑘 2
∞
где Γ(𝑥 ) = ∫0 𝑡 𝑥−1 𝑒 −𝑡 𝑑𝑡 – гамма-функция, в частности Γ(𝑛 + 1) = 𝑛!
Распределение 𝜒 2 определяется числом степеней свободы k. С
увеличением k распределение медленно приближается к нормальному.

4.3. Распределение Стьюдента
Пусть 𝑍 – нормальная случайная величина: 𝑀(𝑍) = 0, 𝜎(𝑍) = 1, а 𝑉 −
независимая от 𝑍 величина, которая распределена по закону 𝜒 2 с k
степенями свободы. Величина
𝑍
𝑇= (4.4)
√𝑉 ⁄𝑘
имеет распределение, которое называется t-распределением или
распределением Стьюдента, с k степенями свободы.
С возрастанием числа степеней свободы распределение Стьюдента
быстро приближается к нормальному.
4.4. Равномерным называется распределение вероятностей, если на

интервале, которому принадлежат все возможные значения случайной
величины, плотность распределения постоянна:
0 при 𝑥 ≤ 𝑎
1
𝑓 (𝑥 ) = { при 𝑎 < 𝑥 ≤ 𝑏
𝑏−𝑎
0 при 𝑥 > 𝑏
МОДЕЛИРОВАНИЕ СЛУЧАЙНЫХ ВЕЛИЧИН
Статистические оценки параметров
распределения
1. Основные понятия теории оценивания

2. Точечные оценки параметров распределения
3. Интервальные оценки параметров распределения
4. Определение объема выборки

Задачи идентификации:
1) определить, подчиняется ли наблюдаемый сигнал некоторому
заданному закону распределения вероятностей;
2) построить функцию распределения вероятностей сигнала или
функцию плотности вероятности;
3) аппроксимировать построенную функцию аналитическим
выражением (законом распределения);
4) оценить параметры распределения.

1.1 Генеральная и выборочная совокупность
Генеральной называют совокупность всех исследуемых объектов.
Выборочной совокупностью (выборкой) называют совокупность
единиц, отобранных для исследования.
Репрезентативность – свойство выборки объективно отражать
характеристики генеральной совокупности.
Выборка репрезентативна при выполнении условий:
 объекты выбраны случайным образом;
 обеспечен достаточно большой объем выборки.
Задача оценки параметров распределения: по данным выборки –

значениям количественного признака 𝑥1 , 𝑥2 , … , 𝑥𝑛 , полученным в
результате 𝑛 независимых наблюдений, найти статистическую оценку
неизвестного параметра теоретического распределения – функцию от
наблюдаемых случайных величин.

1.2. Несмещенные, эффективные и состоятельные оценки
Несмещенной называется статистическая оценка 𝛩̂, математическое
ожидание которой равно оцениваемому параметру 𝛩 при любом объеме
выборки:
𝑀(𝛩̂) = 𝛩 (1.1)
В противном случае оценка называется смещенной.
Эффективной называется статистическая оценка, которая при

заданном объеме выборки 𝑛 имеет наименьшую возможную дисперсию.
Состоятельной называется статистическая оценка, которая при

𝑛 → ∞ стремится по вероятности к оцениваемому параметру:
lim 𝑃{|𝛩̂ − 𝛩| < 𝜀} = 1, ∀ε > 0
𝑛→∞
Если дисперсия несмещенной оценки при 𝑛 → ∞ стремится к нулю, то

такая оценка оказывается и состоятельной.

1.3. Точность и доверительная вероятность оценки
Точечной называется оценка, определяемая одним числом.
Интервальной называется оценка, определяемая концами интервала.
Пусть найденная по данным выборки статистическая характеристика
𝛩̂ служит оценкой неизвестного параметра 𝛩. Оценка 𝛩̂ тем точнее
определяет параметр 𝛩, чем меньше разность |𝛩̂ − 𝛩|.
Точность оценки характеризуется числом 𝛿 > 0:
|𝛩̂ − 𝛩| < 𝛿 (1.2)
Надежностью (доверительной вероятностью) оценки называется
вероятность 𝛾, с которой выполняется неравенство (1.2):
𝑃(𝛩̂ − 𝛿 < 𝛩 < 𝛩̂ + 𝛿) = 𝛾 (1.3)
(1.3) определяет вероятность того, что интервал (𝛩̂ − δ, 𝛩̂ + δ)

заключает в себе (покрывает) неизвестный параметр 𝛩.
Доверительным называется интервал (𝛩̂ − 𝛿, 𝛩̂ + 𝛿), который
покрывает неизвестный параметр с заданной надежностью 𝛾.
Обычно надежность оценки задается наперед, числом, близким к единице.
Наиболее часто задают надежность 0,95; 0,99 и 0,999.
Доверительный интервал имеет случайные концы (доверительные

границы). В разных выборках получаются различные значения 𝛩̂,
следовательно, от выборки к выборке будут изменяться и концы
доверительного интервала, то есть доверительные границы являются
случайными величинами – функциями от x1, x2,…, хn.
Так как случайной величиной является не оцениваемый параметр 𝛩, а

доверительный интервал, то правильнее говорить не о вероятности
попадания 𝛩 в доверительный интервал, а о вероятности того, что
доверительный интервал покроет 𝛩.

2. Точечные оценки параметров распределения
1. Средняя 𝑋̅, вычисленная по 𝑛 независимым наблюдениям
случайной величины 𝑋 является несмещенной и состоятельной оценкой
математического ожидания.
Если случайная величина 𝑋 распределена нормально c параметрами
𝑁(𝑎, 𝜎), то оценка 𝑋̅ математического ожидания 𝑀(𝑋) имеет минимальную
дисперсию, равную
𝜎2
𝐷(𝑋̅) = (2.1)
𝑛
следовательно, 𝑋̅ – эффективная оценка.
2. Если выборка содержит 𝑛 независимых наблюдений случайной
величины 𝑋 c математическим ожиданием 𝑎 и дисперсией 𝜎 2 , то
несмещенной оценкой дисперсии генеральной совокупности 𝜎 2 является
исправленная выборочная дисперсия:
𝑛
𝑛 1
𝑠2 = 𝐷𝐵 = ∑(𝑥𝑖 − 𝑋̅)2 (2.2)
𝑛−1 𝑛−1
𝑖=1
2.1 Метод моментов состоит в приравнивании теоретических
моментов рассматриваемого распределения соответствующим
эмпирическим моментам того же порядка.
Начальные эмпирические моменты k-го порядка:
𝑛
1
𝜈̂ 𝑘 = ∑ 𝑥𝑖 𝑘
𝑛
𝑖=1
Центральные эмпирические моменты k-го порядка:

𝑛
1
𝜇̂ 𝑘 = ∑(𝑥𝑖 − 𝑋̅)𝑘
𝑛
𝑖=1
где 𝑘 = 1, 2, 3, 4

а) оценка одного параметра
Пусть задан вид плотности распределения 𝑓(𝑥, 𝛩), определяемой
неизвестным параметром 𝛩. Требуется найти его точечную оценку.
Приравнивается начальный теоретический момент первого порядка
𝑀(𝑋) начальному эмпирическому моменту первого порядка 𝑥̅ (выборочной
средней):
∞
𝑀(𝑋) = 𝑥̅ (2.3) 𝑀(𝑋) = ∫ 𝑥 𝑓(𝑥, 𝛩)𝑑𝑥 = 𝜑(𝛩) (2.4)

−∞
Подставив (2.4) в (2.3) и решив уравнение относительно 𝛩, найдем его

точечную оценку 𝛩̂, которая является функцией от выборочной средней и,
следовательно, от вариант выборки:
𝛩̂ = 𝜓(𝑥1 , 𝑥2 , … , 𝑥𝑛 ) (2.5)

б) оценка двух параметров
Пусть задан вид плотности распределения 𝑓(𝑥, 𝛩1 , 𝛩2 ), определяемой
неизвестными параметрами 𝛩1 , 𝛩2 .
Приравнивается начальный теоретический момент первого порядка
начальному эмпирическому моменту первого порядка и центральный
теоретический момент второго порядка центральному эмпирическому
моменту второго порядка:
𝑀(𝑋) = 𝑥̅
{ (2.6)
𝐷 (𝑋) = 𝐷в
Математическое ожидание и дисперсия являются функциями от 𝛩1 , 𝛩2 ,
поэтому (2.6) можно рассматривать как систему двух уравнений с двумя
неизвестными 𝛩1 , 𝛩2 . Решив систему относительно неизвестных
параметров, получим их точечные оценки:
𝛩̂ = ψ1 (𝑥1 , 𝑥2 , … , 𝑥𝑛 )
{ 1 (2.7)
𝛩̂2 = ψ2 (𝑥1 , 𝑥2 , … , 𝑥𝑛 )

Пример 2.1 Случайная величина 𝑋 (время безотказной работы
элемента) имеет показательное распределение. Ниже приведено
эмпирическое распределение среднего времени работы 1000 элементов
(среднее время 𝑥𝑖 безотказной работы одного элемента в часах и частота
𝑛𝑖 , то есть количество элементов, проработавших в среднем 𝑥𝑖 часов).
Найти методом моментов точечную оценку неизвестного параметра.
𝑥𝑖 5 15 25 35 45 55 65
𝑛𝑖 365 245 150 100 70 45 25
Решение. Плотность показательного распределения равна

𝑓 (𝑥 ) = 𝜆𝑒 −𝜆𝑥 (𝑥 ≥ 0)
Приравняем моменты первого порядка: 𝑀(𝑋) = 𝑥̅
Математическое ожидание показательного распределения 𝑀(𝑋) = 1/𝜆
1 1 1
𝑥̅ = ⟹𝜆= = = 0,05
𝜆 𝑥̅ 20
Ответ: 1/20.
2.2 Метод максимального правдоподобия
Пусть каждому элементу выборки 𝑥1 , 𝑥2 , … , 𝑥𝑛 ставится в соответствие
некоторая плотность распределения 𝑓(𝑥𝑖 , 𝛩), определяемая неизвестным
параметром 𝛩.
Функцией правдоподобия называется функция
𝐿(𝑥1 , 𝑥2 , … , 𝑥𝑛 , 𝛩) = 𝑓(𝑥1 , 𝛩) ∙ 𝑓(𝑥2 , 𝛩) ∙ … ∙ 𝑓 (𝑥𝑛 , 𝛩) (2.8)
В качестве точечной оценки параметра 𝛩 принимают такое его
значение 𝛩̂, при котором функция правдоподобия достигает максимума.
Оценку 𝛩̂ называют оценкой наибольшего правдоподобия.
Функции 𝐿 и ln 𝐿 достигают максимума при одном и том же значении 𝛩,
поэтому вместо поиска максимума функции 𝐿 ищут максимум функции ln 𝐿,
называемой логарифмической функцией правдоподобия.
𝑑 ln 𝐿
Для определения точки максимума производная приравнивается к
𝑑Θ
нулю. Корень уравнения – критическая точка, является максимумом, если
вторая производная отрицательна при 𝛩 = 𝛩̂.

Пример 2.2 Найти методом максимального правдоподобия точечную
оценку неизвестного параметра из предыдущего примера.
Решение. Функция правдоподобия имеет вид

𝐿 = (𝜆𝑒 −𝜆𝑥1 ) ∙ (𝜆𝑒 −𝜆𝑥2 ) … (𝜆𝑒 −𝜆𝑥𝑛 ) = 𝜆𝑛 𝑒 −𝜆 ∑ 𝑥𝑖
𝑛
ln 𝐿 = 𝑛 ln 𝜆 − 𝜆 ∑ 𝑥𝑖
𝑖=1
𝑛
𝜕 ln 𝐿 𝑛
= − ∑ 𝑥𝑖 = 0
𝜕𝜆 𝜆
𝑖=1
𝑛
𝑛 𝑛 1 1
= ∑ 𝑥𝑖 ⟹ 𝜆 = = =
𝜆 ∑ 𝑥𝑖 𝑥̅ 20
𝑖=1
𝜕 2 ln 𝐿 𝑛
= − < 0 ⟹ 𝜆 − точка максимума
𝜕𝜆2 𝜆2
Ответ: 1/20.

3. Доверительные интервалы для оценки математического
ожидания нормального распределения
а) среднее квадратическое отклонение 𝜎 известно
Рассмотрим выборочную среднюю 𝑥̅ количественных значений
нормально распределенного сигнала как случайную величину 𝑋̅.
𝜎
𝑀(𝑋̅) = 𝑎, 𝜎(𝑋̅) =
√𝑛
𝑃(|𝑋̅ − 𝑎| < 𝛿 ) = 2Φ(𝛿/𝜎(𝑋̅)) = 2Φ(𝛿 √𝑛/𝜎) = 2Φ(𝑡),
где 𝑡 = 𝛿 √𝑛/𝜎 ⇒ 𝛿 = 𝑡𝜎/√𝑛
Надежность оценки 𝑥̅ параметра 𝑎 определяется по формуле
𝑡𝜎 𝑡𝜎
𝑃 (𝑥̅ − < 𝑎 < 𝑥̅ + ) = 2Φ(𝑡) = 𝛾 (3.1)
√𝑛 √𝑛
Доверительный интервал (𝑥̅ − 𝑡𝜎/√𝑛 < 𝑎 < 𝑥̅ + 𝑡𝜎/√𝑛) с надежностью
𝛾 покрывает неизвестный параметр 𝑎. Точность оценки 𝛿 = 𝑡𝜎/√𝑛.
Число 𝑡 определяется по таблице функции Лапласа, исходя из
равенства 2Φ(𝑡) = 𝛾, или Φ(𝑡) = 𝛾⁄2.
б) среднее квадратическое отклонение 𝜎 неизвестно
По данным выборки можно построить случайную величину (ее
возможные значения обозначены через 𝑡), которая имеет распределение
Стьюдента с 𝑘 = 𝑛 − 1 степенями свободы:
𝑥̅ − 𝑎
𝑇=
𝑠/√𝑛
𝑥̅ – выборочная средняя, 𝑛 – объем выборки, 𝑠 – «исправленное»

среднее квадратическое отклонение:
𝑛
(𝑥𝑖 − 𝑥̅ )2
𝑠 = √∑ (3.2)
𝑛−1
𝑖=1
𝑃(𝑥̅ − 𝑡𝛾 𝑠/√𝑛 < 𝑎 < 𝑥̅ + 𝑡𝛾 𝑠/√𝑛) = 𝛾 (3.3)
Значения 𝑡𝛾 = 𝑡(𝛾, 𝑛) табулированы.

Пример 3.1 Выборка из большой партии электроламп содержит 100
ламп. Средняя продолжительность горения лампы выборки оказалась
равной 1000 ч. Найти с надежностью 0,95 доверительный интервал для
средней продолжительности горения лампы всей партии, если известно,
что среднее квадратическое отклонение продолжительности горения
лампы равно 40 ч. Предполагается, что продолжительность горения ламп
распределена нормально.
Решение. Формализация условий задачи:

𝑥̅ = 1000, 𝜎 = 40, 𝑛 = 100, 𝛾 = 0,95
Среднее квадратическое отклонение дано, поэтому воспользуемся
формулой (3.1). Для надежности 𝛾 = 0,95 определим 𝑡: 𝑡 = 1,96.
Точность оценки
𝑡𝜎 1,96 ∙ 40
𝛿= = ≈ 7,84
√𝑛 √100
𝑥̅ − 𝛿 ≈ 1000 − 7,84 = 992,16, 𝑥̅ + 𝛿 ≈ 1000 + 7,84 = 1007,84
Ответ: 992,16 < 𝑎 < 1007,84

4. Определение объема выборки
Объем выборки, при которой ошибка не превысит заданную
точность 𝛿, рассчитывается по формулам (4.1) и (4.2):
1) для повторной выборки
𝑡2𝜎 2
𝑛= (4.1)
𝛿2
2) для бесповторной выборки
𝑁𝑡 2 𝜎 2
𝑛= (4.2)
𝑁𝛿 2 + 𝑡 2 𝜎 2
𝜎 – среднее квадратическое отклонение, 𝛿 – точность,
n – объем выборки, N – объем генеральной совокупности,
𝑡 – коэффициент кратности ошибки, определяемый по таблице
значений функции Лапласа: 2Φ(𝑡) = 𝛾 (Φ(𝑡) = 𝛾⁄2),
𝛾 – доверительная вероятность

Пример 4.1. Определить объем выборки, чтобы с вероятностью 0,95
точность при определении среднего размера деталей не превышала бы
0,4 мм. Среднее квадратическое отклонение генеральной совокупности
размера деталей равно 2,5 мм.
Решение. Воспользуемся схемой повторной выборки.

𝛿 = 0,4
𝜎 = 2,5
2Φ(𝑡) = 0,95 ⇒ Φ(𝑡) = 0,475
Значению 0,475 в таблице функции Лапласа соответствует значение
аргумента 𝑡 = 1,96
𝑡 2 𝜎 2 2,52 ∙ 1,962
𝑛= 2 = = 150 (единиц)
𝛿 0,42
Ответ: объем выборки составляет 150 деталей.

5. Расчеты в MS Excel
Функция Лапласа 𝛷(𝑡):

= НОРМ. СТ. РАСП(𝑡; ИСТИНА) − 0,5
𝑡 – аргумент, ИСТИНА – логическое значение, определяющее форму
функции (возвращает интегральную функцию распределения)
Обратная функция Лапласа (для вычисления t):

= НОРМ. СТ. ОБР(1 − 𝛼/2)
𝛼 – уровень значимости, определяемый как 1 − 𝛾, где
𝛾 – доверительная вероятность
Точность оценки (для нормального распределения):

= ДОВЕРИТ. НОРМ(𝛼; 𝜎; 𝑛)
𝛼 – уровень значимости, 𝜎 – среднее квадратическое отклонение, 𝑛 –
объем совокупности

Обратное распределение Стьюдента (для вычисления 𝑡𝛾 ):
= СТЬЮДЕНТ. ОБР. 2Х(𝛼; 𝑘)
𝛼 – уровень значимости, 𝑘 – число степеней свободы: 𝑘 = 𝑛 − 1,
𝑛 – объем выборки
Точность оценки (для распределения Стьюдента):

= ДОВЕРИТ. СТЬЮДЕНТ(𝛼; 𝑠; 𝑛)
𝛼 – уровень значимости, 𝑠 – исправленное среднее квадратическое
отклонение, 𝑛 – объем выборки

Проверка статистических гипотез
1. Понятие статистической гипотезы
2. Статистический критерий проверки нулевой гипотезы
3. Определение критической области
4. Мощность критерия
5. Примеры проверки статистических гипотез

1. Статистической называют гипотезу о виде неизвестного
распределения или о параметрах известных распределений.
Примеры гипотез:
 математическое ожидание нормально распределенной
случайной величины равно 10;
 элемент откажет в следующем испытании;
 генеральная совокупность распределена по закону Пуассона;
 дисперсии двух генеральных совокупностей равны;
 на Марсе есть жизнь.
Все ли они являются статистическими?
Наряду с выдвинутой гипотезой рассматривают и противоречащую ей

гипотезу. Если выдвинутая гипотеза при проверке будет отвергнута, то
имеет место противоречащая гипотеза.

Нулевой (основной) называется выдвинутая гипотеза 𝐻0 .
Конкурирующей (альтернативной) называется гипотеза 𝐻1 , которая
противоречит основной.
Нулевая гипотеза 𝐻0 : 𝑎 = 10. В чем состоит альтернативная?
Простой называют гипотезу, содержащую только одно

предположение.
Сложной называют гипотезу, которая состоит из конечного или
бесконечного числа простых гипотез.
Примеры:
𝐻0 : 𝜆 = 10, где 𝜆 – параметр показательного распределения;
𝐻0 : 𝜆 > 10, 𝜆 – параметр показательного распределения;
𝐻0 : 𝑎 = 10, где 𝑎 – параметр нормального распределения (𝜎 известно);
𝐻0 : 𝑎 = 10, 𝑎 – параметр нормального распределения (𝜎 неизвестно);

Выдвинутая гипотеза может быть правильной или неправильной,
поэтому возникает необходимость ее проверки. Поскольку проверку
производят статистическими методами, ее называют статистической.
В итоге статистической проверки гипотезы в двух случаях могут быть
допущены ошибки двух родов, последствия которых важно анализировать.
Ошибка первого рода – будет отвергнута правильная гипотеза.
Ошибка второго рода – будет принята неправильная гипотеза.
Правильное решение может быть принято тоже в двух случаях:

1) гипотеза принимается, причем и в действительности она правильная;
2) гипотеза отвергается, причем и в действительности она неверна.
Вероятность совершить ошибку первого рода называется уровнем

значимости 𝛼.
Наиболее часто уровень значимости принимают равным 0,05 или 0,01.

2. Статистический критерий проверки нулевой гипотезы
Для проверки нулевой гипотезы используют специально подобранную
случайную величину, распределение которой известно:
 Z, если она распределена нормально,
 F – по закону Фишера-Снедекора,
 Т – по закону Стьюдента,
 𝜒 2 – по закону «хи квадрат»
Пусть эта величина обозначена в целях общности через К.
Статистическим критерием (критерием) называется случайная
величина K, которая служит для проверки нулевой гипотезы.
Пример 2.1 При проверке гипотезы о равенстве дисперсий двух
нормальных генеральных совокупностей в качестве критерия K
принимается отношение исправленных выборочных дисперсий:
𝑠12
𝐹= 2
𝑠2

Наблюдаемым значением Kнабл называется значение критерия,
вычисленное по выборке.
После выбора критерия множество его возможных значений разбивается

на два непересекающихся подмножества: одно из них содержит значения
критерия, при которых нулевая гипотеза отвергается, а другая – при
которых она принимается
Критической областью называется совокупность значений критерия,

при которых нулевую гипотезу отвергают.
Область принятия гипотезы (область допустимых значений) –
совокупность значений критерия, при которых гипотезу принимают.
Основной принцип проверки статистических гипотез: если
наблюдаемое значение критерия принадлежит критической области, то
гипотезу отвергают, если наблюдаемое значение критерия принадлежит
области принятия гипотезы – гипотезу принимают.

Критические точки (границы) kкр – точки, разделяющие критическую
область и область принятия гипотезы.
Правосторонней называют критическую область, определяемую
неравенством 𝐾 > 𝑘кр где 𝑘кр – положительное число.
Левосторонней называют критическую область, определяемую
неравенством 𝐾 < 𝑘кр где 𝑘кр – отрицательное число.
Односторонней называют правостороннюю или левостороннюю
критическую область.
Двусторонней называют критическую область, определяемую
неравенствами 𝐾 < 𝑘1 , 𝐾 > 𝑘2 , 𝑘1 < 𝑘2 .
Как определяется критическая область, если критические точки

симметричны относительно нуля?

K
0 kкр
K
kкр 0
K
k1 0 k2
Рисунок 1 – Правосторонняя, левосторонняя и двусторонняя
критические области

3. Определение критической области
Пусть надо найти правостороннюю критическую область. Для этого:
1) задается уровень значимости 𝛼.
2) по таблицам определяется критическая точка, исходя из требования:
при условии справедливости нулевой гипотезы вероятность того, что
критерий К примет значение, большее 𝑘кр , равна уровню значимости:
𝑃(𝐾 > 𝑘кр ) = 𝛼
3) когда критическая точка найдена, вычисляется наблюдаемое
значение критерия по данным выборок. Если 𝐾набл > 𝑘кр , нулевая гипотеза
отвергается, в противном случае нет оснований ее отвергнуть.
Наблюдаемое значение критерия может оказаться большим 𝑘кр в силу ряда

причин (малый объем выборки, недостатки метода проведения
эксперимента). В этом случае, отвергнув правильную нулевую гипотезу,
совершают ошибку первого рода. Чему равна вероятность этой ошибки?

Приняв нулевую гипотезу, ошибочно полагать, что она доказана, поэтому
корректнее говорить «данные наблюдений согласуются с нулевой
гипотезой». Отвергают гипотезу более категорично, чем принимают.
Определение левосторонней критической области проводится

аналогично, взяв за основу выражение
𝑃(𝐾 < 𝑘кр ) = 𝛼
Двусторонняя критическая область определяется двумя
неравенствами. Критические точки находятся исходя из требования:
𝑃(𝐾 < 𝑘1 ) + 𝑃(𝐾 > 𝑘2 ) = 𝛼
Если распределение критерия симметрично относительно нуля, то
𝑃(𝐾 < −𝑘кр ) = 𝑃(𝐾 > 𝑘кр )
𝛼
𝑃(|𝐾 | > 𝑘кр ) =
2
Критические точки находятся по соответствующим таблицам.
4. Мощностью критерия называется вероятность попадания
критерия в критическую область при условии справедливости
альтернативной гипотезы (вероятность того, что нулевая гипотеза будет
отвергнута, если верна альтернативная гипотеза).
Пусть для проверки гипотезы принят определенный уровень
значимости и выборка имеет фиксированный объем. Обозначим
вероятность ошибки второго рода через 𝛽, тогда мощность равна 1 − 𝛽.
Если мощность возрастает, вероятность 𝛽 совершить ошибку второго рода
уменьшается. Таким образом, чем мощность больше, тем вероятность
ошибки второго рода меньше.
Критическую область следует строить так, чтобы мощность
критерия была максимальной.
Мощность критерия – вероятность того, что не будет допущена ошибка

второго рода.

Очевидно, что чем меньше вероятности ошибок первого и второго рода,
тем критическая область «лучше». Однако при заданном объеме выборки
если уменьшить 𝛼, то 𝛽 будет возрастать. Например, при 𝛼 = 0 будут
приниматься все гипотезы, в том числе и неправильные, то есть
возрастает вероятность 𝛽 ошибки второго рода.
Выбор 𝛼 зависит от «тяжести последствий» ошибок для каждой
конкретной задачи. Например, если ошибка первого рода повлечет большие
потери, а второго рода – малые, следует принять возможно меньшее 𝛼.
Увеличение объема выборок является способом одновременного
уменьшения вероятностей ошибок первого и второго рода.

5.1 Сравнение двух дисперсий нормальных генеральных
совокупностей
Пусть генеральные совокупности X и Y распределены нормально. По
извлеченным из этих совокупностей независимым выборкам с объемами,
соответственно равными 𝑛1 и 𝑛2 , найдены исправленные выборочные
дисперсии 𝑠12 и 𝑠22 . Требуется по исправленным дисперсиям при заданном
уровне значимости 𝛼 проверить нулевую гипотезу:
𝐻0 : 𝐷(𝑋) = 𝐷(𝑌)
В качестве критерия проверки нулевой гипотезы о равенстве
генеральных дисперсий принимается отношение большей исправленной
дисперсии к меньшей, то есть случайная величина
𝑠12
𝐹= 2
𝑠2
Величина F при условии справедливости нулевой гипотезы имеет
распределение Фишера – Снедекора со степенями свободы 𝑘1 = 𝑛1 − 1,
𝑘2 = 𝑛2 − 1, где 𝑛1 и 𝑛2 – соответственно объемы выборок, по которым
вычислены большая и меньшая исправленные дисперсии.
Критическая область строится в зависимости от вида конкурирующей
гипотезы.
а) конкурирующая гипотеза 𝐻1 : 𝐷(𝑋) > 𝐷(𝑌)
Строится правосторонняя критическая область, исходя из требования,
чтобы вероятность попадания критерия F в эту область в предположении
справедливости нулевой гипотезы была равна уровню значимости 𝛼:
𝑃[𝐹 > 𝐹кр (𝛼, 𝑘1 , 𝑘2 )] = 𝛼
Критическая область определяется неравенством 𝐹 > 𝐹кр , а область
принятия нулевой гипотезы – неравенством 𝐹 < 𝐹кр .
Критическая точка 𝐹кр (𝛼, 𝑘1 , 𝑘2 ) находится по таблице критических точек
распределения Фишера – Снедекора или в MS Excel:
= 𝐹. ОБР. ПХ(𝛼; 𝑘1 ; 𝑘2 )
По данным выборок находится значение 𝐹набл .
Если 𝐹набл < 𝐹кр , нет оснований отвергнуть нулевую гипотезу, в
противном случае гипотеза отвергается.
б) конкурирующая гипотеза 𝐻1 : 𝐷 (𝑋) ≠ 𝐷(𝑌)
Строится двусторонняя критическая область, исходя из требования,
чтобы вероятность попадания критерия в эту область в предположении
справедливости нулевой гипотезы была равна уровню значимости 𝛼.
Левая 𝐹1 и правая 𝐹2 границы определяются из соотношения:
𝛼 𝛼
𝑃(𝐹 < 𝐹1 ) = , 𝑃(𝐹 > 𝐹2 ) =
2 2
Вероятности попадания критерия как в «правую», так и «левую» части

критической области равны α/2. Вероятность попадания критерия во всю
двустороннюю критическую область равна α/2+α/2=α. Почему?
Для проверки гипотезы 𝐻0 при конкурирующей гипотезе 𝐻1 : 𝐷(𝑋) ≠ 𝐷(𝑌)

𝛼
достаточно найти правую критическую точку 𝐹2 = 𝐹кр ( , 𝑘1 , 𝑘2 ).
2
Если 𝐹набл < 𝐹кр , нет оснований отвергнуть нулевую гипотезу, в


Пример 5.1. По двум независимым выборкам объемов 𝑛1 = 12, 𝑛2 = 15,
извлеченным из нормальных генеральных совокупностей X и Y, найдены
исправленные выборочные дисперсии 𝑠12 = 11,41, 𝑠22 = 6,52. При уровне
значимости 0,05 проверить нулевую гипотезу 𝐻0 : 𝐷(𝑋) = 𝐷(𝑌) при
конкурирующей гипотезе а) 𝐻1 : 𝐷 (𝑋) > 𝐷(𝑌); б) 𝐻1 : 𝐷(𝑋) ≠ 𝐷(𝑌).
Решение.
𝑠12 11,41
𝐹набл = 2= = 1,75
𝑠2 6,52
Уровень значимости 𝛼 = 0,05, степени свободы: 𝑘1 = 11, 𝑘2 = 14
а) критическая точка для уровня значимости 𝛼 = 0,05:
𝐹кр (0,05; 11; 14) = 2,565
б) критическая точка для уровня значимости 𝛼 = 0,025:
𝐹кр (0,025; 11; 14) = 3,095
В обоих случаях 𝐹набл < 𝐹кр ⟹ нет оснований отвергнуть гипотезу 𝐻0 .
Решить задачу при 𝑠12 = 17,8.
5.2 Проверка гипотезы о значимости выборочного
коэффициента корреляции
Пусть двумерная генеральная совокупность (X, Y) распределена
нормально. Из этой совокупности извлечена выборка объема n и по ней
найден выборочный коэффициент корреляции 𝑟в ≠ 0.
Так как выборка сформирована случайным образом, это еще не означает,

что коэффициент корреляции генеральной совокупности 𝑟г ≠ 0
При заданном уровне значимости 𝛼 проверить нулевую гипотезу:

𝐻0 : 𝑟г = 0
при конкурирующей гипотезе:
𝐻1 : 𝑟г ≠ 0
Если нулевая гипотеза отвергается, то выборочный коэффициент
корреляции значимо отличается от нуля (или значим), а X и Y
коррелированы, то есть связаны линейной зависимостью.

В качестве критерия проверки нулевой гипотезы принимается
случайная величина
𝑟в √𝑛 − 2
𝑇=
√1 − 𝑟в2
Величина Т при справедливости нулевой гипотезы имеет
распределение Стьюдента с 𝑘 = 𝑛 − 2 степенями свободы.
Поскольку конкурирующая гипотеза имеет вид 𝑟г ≠ 0, критическая
область – двусторонняя.
Критическая точка 𝑡кр (𝛼, 𝑘) для заданного уровня значимости 𝛼 и числа
степеней свободы 𝑘 = 𝑛 − 2 определяется по таблице критических точек
распределения Стьюдента или в MS Excel:
= СТЬЮДЕНТ. ОБР. 2Х(𝛼; 𝑛 − 2)
По выборочным данным вычисляется значение критерия 𝑇набл .

Если |𝑇набл | < 𝑡кр , то нет оснований отвергнуть нулевую гипотезу, в
Пример 5.2. По выборке объема 𝑛 = 122, извлеченной из нормальной
двумерной совокупности, найден выборочный коэффициент корреляции
𝑟в = 0,4. При уровне значимости 0,05 проверить нулевую гипотезу 𝐻0 : 𝑟г = 0
при конкурирующей гипотезе 𝐻1 : 𝑟г ≠ 0.
Решение.
𝑟в √𝑛 − 2 0,4√122 − 2
𝑇набл = = = 4,78
√1 − 𝑟в2 √ 1 − 0,16
Уровень значимости 𝛼 = 0,05, число степеней свободы 𝑘 = 120.
𝑡кр (0,05; 120) = 1,98
Так как 𝑇набл > 𝑡кр , нулевая гипотеза отвергается.

Иначе говоря, выборочный коэффициент корреляции 𝑟в значимо
отличается от нуля. Это означает, что величины X и Y коррелированы.

Язык

ДддdddMM L 1 2 Osnovy Modelirovania i Identifikatsii Sistem Modelirovanie-объединены

Загружено:

Сведения о документе

Авторское право

Доступные форматы

Поделиться этим документом

Поделиться или встроить документ

Параметры публикации

Этот документ был вам полезен?

Это неприемлемый материал?

Авторское право:

Доступные форматы

ДддdddMM L 1 2 Osnovy Modelirovania i Identifikatsii Sistem Modelirovanie-объединены

Загружено:

Авторское право:

Доступные форматы

2.

Рис. 1 Классическая схема системы управления с обратной связью

Математическое моделирование. Ч1. Л.1.2 2

Математическое моделирование. Ч1. Л.1.2 4

Математическое моделирование. Ч1. Л.1.2 6

1. Характеристики моделируемых систем

Математическое моделирование. Ч1. Л.1.4 1

Примером модели системы с конкретным набором параметров и

Математическое моделирование. Ч1. Л.1.4 2

Эти величины изменяются со временем. Изменяя их независимо

Последние две величины – начальные условия задачи Коши

Математическое моделирование. Ч1. Л.1.4 3

Если все компоненты вектора состояния – действительные числа,

Если вектор состояния состоит из двух углов, каждый из которых

Возмущения – немоделируемые свойства системы, то есть явления,

Математическое моделирование. Ч1. Л.1.4 4

Движение системы не обязательно включает в себя физическое

Траектория системы (модели) – функция зависимости вектора

Математическое моделирование. Ч1. Л.1.4 5

Математическое моделирование. Ч1. Л.1.4 6

Математическое моделирование. Ч1. Л.1.4 8

1. Физические величины, единицы измерения, размерность,

Математическое моделирование. Ч1. Л.2.1 1

Какие из нижеперечисленных характеристик не являются физическими

Характеристики могут быть количественными и качественными. В

Обязательно ли для сравнения двух объектов выражать их

Математическое моделирование. Ч1. Л.2.1 2

Единица измерения физической величины – одна конкретная

Сколько единиц измерения может быть у физической величины? Может

Единица измерения физической величины, через которую выражаются

Математическое моделирование. Ч1. Л.2.1 3

Базовая единица Длина Площадь Объем

метр (м) метр

гектар (га) гектар (га)

литр (л) литр (л)

Математическое моделирование. Ч1. Л.2.1 4

Математическое моделирование. Ч1. Л.2.1 5

Под отношением величин понимается не отношение чисел, а количество

Связь между рассмотренными понятиями показана в таблице 2.

Физическая Единица Безразмерная Соотношение

Математическое моделирование. Ч1. Л.2.1 6

1. Физические величины не зависят ни от способа их измерения, ни от

Диетологи утверждают, что масса тела человека оптимальна, если

Математическое моделирование. Ч1. Л.2.1 7

𝑀𝑜𝑝𝑡 = 𝐾(𝐿 − 𝐿110 )

где 𝑀𝑜𝑝𝑡 – оптимальная масса, 𝐿 – рост человека, 𝐿110 – рост человека

Математическое моделирование. Ч1. Л.2.1 8

Математическое моделирование. Ч1. Л.2.1 9

При измерении очень больших или малых чисел (расстояния между

Например, 𝐿∗ = 106 км, 𝑆∗ = 1м2 ⟹ ∆1 = 1018

Математическое моделирование. Ч1. Л.2.1 10

Математическое моделирование. Ч1. Л.2.2 1

2) Поделим каждое уравнение (1.2) на комбинацию множителей 𝑇∗ , 𝑋1 ∗ , …

Математическое моделирование. Ч1. Л.2.2 2

Уравнения (1.3) – безразмерные.

Множители 𝑇𝑖 имеют размерность времени и называются постоянными

Безразмерные коэффициенты Δ1 , Δ2 , … в правых частях выражаются

Математическое моделирование. Ч1. Л.2.2 3

Математическое моделирование. Ч1. Л.2.2 4

1) выбор величин 𝑇∗ , 𝑋1 ∗ , … 𝐴∗ , 𝐵∗ должен сопровождаться заданием

Задание характерных для рассматриваемого класса движения величин

В этой системе единиц абсолютные значения безразмерных

На этом процедура нормализации уравнений завершается.