Untitled

Лекции по Эконометрике.
Гетероскедастичность
Н. В. Артамонов
МГИМО МИД России
27 марта 2023 г.
Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 1 / 33

Содержание
1 Линейная регрессия с гетероскедастиностью
2 Диагностические тесты на гетероскедастичность
3 Статистические выводы для регрессии с гетероскедатичностью

LS-методы подгонки регрессии
Оценка ковариационной матрицы
Робастные тесты
Доверительные интервалы
Прогнозирование

CLRM-модель
Стандартная линейная регрессия CLRM: линейная спецификация
yi = xi′ β + ui
со сферической ошибкой
1 E(ui |X ) = 0
2 Var(ui |X ) = σ 2 , i = 1, . . . , n
3 cov(ui , uj |X ) = 0 при i ̸= j.
Второе условие – это условие однородности ошибки или условие
гомоскедастичности
Homoskedasticity (греч.) = однородное рассеивание
(относительно линии регрессии).

Линейная регрессия с гетероскедатичной
ошибкой
Линейная спецификация
yi = β0 + β1 xi1 + · · · + βk xik + ui = xi′ β + ui
с условием на ошибку
1 E(ui |X ) = 0
2 cov(ui , uj |X ) = 0 при i ̸= j.

Линейная регрессия с гетероскедатичной
ошибкой
Линейная спецификация
yi = β0 + β1 xi1 + · · · + βk xik + ui = xi′ β + ui
с условием на ошибку
1 E(ui |X ) = 0
2 cov(ui , uj |X ) = 0 при i ̸= j.
Допускается что Var(ui |X ) ̸= σ 2 . Например,
Var(ui |X ) = σi2 Var(ui |X ) = σ(xi ) Var(ui |X ) = f (zi )
Heteroskedasticity (греч.) = неоднородное рассеивание

(относительно линии регрессии)
Причины гетероскедастичности
Идея гетероскедастичности (неформально)

В разных наблюдениях “степень влияния неучтённых факторов”
может различаться.


Вопрос: Почему условие гомоскедастичности не всегда

“адекватно”?
Ответ: Это, например, связанно с неоднородностью данных
(например, данные разного масштаба).


Вопрос: Почему условие гомоскедастичности не всегда

“адекватно”?
Ответ: Это, например, связанно с неоднородностью данных
(например, данные разного масштаба).
Важно!
Явление гетероскедастичности не является “экзотикой” и
достаточно часто встречается в реальных данных.



Тестирование на гетероскедастичность
Два подхода
Визуализация
Формальные тест
▶ Тестируем нулевую гипотезу о гомоскедастичности при
разных альтернативах (Homo- vs Hetero-).
▶ Все тесты именные.
▶ Большинство тестов обоснованно применять только при
больших выборках (т.н. асимптотические тесты).

Графический анализ
Полезно рассматривать графики

û vs ŷ
û vs xj
|û| vs ŷ
|û| vs xj
и смотреть на “равномерность разброса” данных.

Общая схема тестирования
Базовые тесты на гетероскедастичность основаны на анализе

OLS-остатков регрессии ûi (вначале регрессию оцениваем
методом наименьших квадратов).


Как правило оценивается вспомогательная регрессия с остатками

в роли зависимой переменной. Эта регрессия не имеет
экономического смысла.



На основе вспомогательной регрессии вычисляется тестовая

статистика (как правило на основе R 2 ).



На основе вспомогательной регрессии вычисляется тестовая

статистика (как правило на основе R 2 ).
Такие тесты носят асимптотический характер.

LM/BP-тест
BP-тест1 ,2 : тестируется гипотеза
H0 : Var(ui |X ) = σ 2 vs
H1 : Var(ui |X ) = f (γ0 + γ1 zi1 + · · · + γK ziK ) = f (zi′ γ).
где z1 , . . . , zK – переменные, возможно влияющие на дисперсию

ошибки. Среди них могут быть регрессоры.
1
T.S. Breusch & A.R. Pagan (1979), A Simple Test for Heteroscedasticity and
Random Coefficient Variation. Econometrica 47, 1287–1294
2
R. Koenker (1981), A Note on Studentizing a Test for Heteroscedasticity.
Journal of Econometrics 17, 107–112
LM/BP-тест
BP-тест1 ,2 : тестируется гипотеза
H0 : Var(ui |X ) = σ 2 vs
H1 : Var(ui |X ) = f (γ0 + γ1 zi1 + · · · + γK ziK ) = f (zi′ γ).
где z1 , . . . , zK – переменные, возможно влияющие на дисперсию

ошибки. Среди них могут быть регрессоры.
Вспомогательная регрессия
û 2 на z1 , . . . , zK 2
Raux
1
T.S. Breusch & A.R. Pagan (1979), A Simple Test for Heteroscedasticity and
Random Coefficient Variation. Econometrica 47, 1287–1294
2
R. Koenker (1981), A Note on Studentizing a Test for Heteroscedasticity.
Journal of Econometrics 17, 107–112
LM/BP-тест
2
Тестовая статистика: nRaux .
Критическое значение: χ2cr = χ2df =K (α) (K – число регрессоров во

вспомогательной регрессии).
Статистическое правило: отвергаем H0 при

2
nRaux > χ2cr
P<α
В этом случае тест указывает на гетероскедастичность.

BP-тест: критическеи значения
Специальные статистические таблицы распределения χ2k .

Табличные процессоры
MS Excel 2007 RUS ХИ2ОБР
MS Excel 2007 ENG chiinv
MS Excel 2010 RUS ХИ2.ОБР.ПХ
MS Excel 2010 ENG CHI.INV.RT
Libre Office chiinv
Программирование (p, q = 1 − α)
R qchisq(p, df)
Python scipy.stats.chi2.ppf(q, df)

White’s test
White’s test3 : тестируется гипотеза
H0 : Var(ui |X ) = σ 2 vs H1 : Var(ui |X ) ̸= σ 2 .
3
White, H. (1980). A heteroskedasticity-consistent covariance matrix estimator
and a direct test for heteroskedasticity. Econometrica 48 (4): pp. 817-838.
White’s test
White’s test3 : тестируется гипотеза
H0 : Var(ui |X ) = σ 2 vs H1 : Var(ui |X ) ̸= σ 2 .
Вспомогательная регрессия
û 2 на xj , xj2 , xj xl 2
Raux .
3
White, H. (1980). A heteroskedasticity-consistent covariance matrix estimator
and a direct test for heteroskedasticity. Econometrica 48 (4): pp. 817-838.
White’s test
2
Тестовая статистика: nRaux .
Критическое значение: χ2cr = χ2df =K (α) (K – число регрессоров во

вспомогательной регрессии).
Статистическое правило: отвергаем H0 при

2
nRaux > χ2cr
P<α
В этом случае тест указывает на гетероскедастичность.
Альтернативный подход: проверить значимость вспомогательной
регрессии по F-тесту.

Гетероскедастичность как ошибка
спецификации
Важно!
Результаты тестов на гетероскедастичность зависят от
спецификации регрессии.

Гетероскедастичность как ошибка
спецификации
Важно!
Результаты тестов на гетероскедастичность зависят от
спецификации регрессии.
Пример
“Избавить от гетероскедастичости” может:
переход к логарифмам (для неоднородных данных);
включение квадратов объясняющих переменных.



Как состоятельно оценить модель?
Как состоятельно оценить коэффициенты модели?
Стандартно три способа:

Метод наименьших квадратов (OLS);


Взвешенный метод наименьших квадратов (WLS = Weighted
Least Squares);


Взвешенный метод наименьших квадратов (WLS = Weighted
Least Squares);
Доступный взвешенный метод наименьших квадратов
(FWLS = Feasible Weighted Least Squares).
Что на практике?
Обычно используется первый вариант.

Свойства OLS-оценок при гетероскедастичности
При гетероскедастичности любой формы OLS-метод

даёт состоятельные оценки коэффициентов;
эти оценки неэффективны в общем случае;
Важно!
OLS-тестовые t-/F-статистики не имеют нужных распределений!
Следствие
Стандартные OLS-тестовые статистики неприменимы для
тестирования гипотез о коэффициентах (значимость
коэффициента, значимость регрессии, совместная значимость
etc)

Технические детали
Последнее связно с тем, что при гетероскедастичности

b = s 2 (X ′ X )−1 уже не будет состоятельной оценкой
V
ковариационной матрицы Var(βbOLS )
В этом случаем говорят, что оценка V̂ = s 2 (X ′ X )−1 неробастна
Решение: использовать другие оценки Var(β̂OLS ), устойчивые к

гетероскедастичности (т.н. робастные оценки)



HC-оценки ковариационной матрицы
Нам нужна HC-оценка4 ковариационной матрицы, робастная к

гетероскедастичности.
Замечание
Таких HC-оценок несколько: HC0, HC1, HC2, HC3, HC4, HC4m,
HC5
Хорошая новость: всё вычисляется автоматически!
4
HC = Heteroskedasticity consistent
HC*-оценки
Общая HC-оценка или sandwich-оценка имеет вид
V̂HC = (X ′ X )−1 X ′ ΩX (X ′ X )−1
где
(X ′ X )−1 – bread
X ′ ΩX – meat
обычно
Ω = diag (ω1 , . . . , ωn )
n×n

Основные HC*-оценки
HC0 ωi = ûi2 White (1980)
n
HC1 ωi = n−k−1 ûi2 Hinkley (1977)
Chesher & Jewitt (1987)
HC2 ωi = ûi2 /(1 − hi ) Cribari-Neto (2004)
Kauermann & Carroll (2001)
HC3 ωi = ûi2 /(1 − hi )2 Davidson & White (1985)
Davidson & MacKinnon (1993)
HC4 ωi = û 2 /(1 − hi )di Cribari-Neto (2004)
OLS ωi = RSS /(n − k − 1)
Здесь hi – диагональные элементы матрицы H = X (X ′ X )−1 X ′ и

hi
di = min 4,
h̄

Ещё HC*-оценки
|ûi |
HC4m ωi = √ Cribari-Neto, da Silva (2010)
(1−hi )ηi
|ûi |
HC5 ωi = √ Cribari-Neto, Souza (2012)
(1−hi )αi
Здесь hi – диагональные элементы матрицы H = X (X ′ X )−1 X ′ и

hii hii
ηi = min 1, + min 1.5,
h̄ h̄

hii 0.7hmax
αi = min , max 4,
h̄ h̄

Проблема выбора HC-оценки
Проблема
Какой вариант выборать на практике?
Long, Ervin (2000): HC3 (среди HC0 – HC3)

Cribari-Neto (2004), Cribari-Neto, Souza, Vasconellos (2007),
Cribari-Neto, DaSilva (2011): HC4, HC5, HC4m соотвественно

Проблема выбора HC-оценки
Проблема
Какой вариант выборать на практике?
Long, Ervin (2000): HC3 (среди HC0 – HC3)

Cribari-Neto (2004), Cribari-Neto, Souza, Vasconellos (2007),
Cribari-Neto, DaSilva (2011): HC4, HC5, HC4m соотвественно
По умолчанию в программах
gretl: HC1
R: HC3



Робастные s. e.
Выберем sandwich-оценку ковариационной матрицы V

b HC
Робастные стандартные ошибки коэффициентов: квадратный

корень из диагональных элементов матрицы V
b HC
Обозначение: HC. s. e.(β)

Робастные t-статистики
Значимость коэффициента: для гипотезы H0 : β = 0 робастная

тестовая статистика
β̂
t=
HC. s. e.(β)

Робастные t-статистики
Значимость коэффициента: для гипотезы H0 : β = 0 робастная

тестовая статистика
β̂
t=
HC. s. e.(β)
Общий t-тест: для гипотезы H0 : β = θ робастная тестовая
статистика
β̂ − θ
t=
HC. s. e.(β)
Статистические выводы: как обычно, t-статистику сравниваем с
критическим значением tdf =n−k−1 -распределения

Робастные F-статистики
Гипотеза о линейных ограничениях H0 : Rβ = r : робастная

F -статистика
1 ′

′
−1
F = · (R β̂ − r ) R · VHC · R
b (R β̂ − r )
J
Статистические выводы: как обычно, F -статистику сравниваем с
критическим значением Fdf 1=J,df 2=n−k−1 -распределения
Замечение: F -статистика уже не выражается через R 2 .



Робастные доверительные интервалы
Выберем sandwich-оценку ковариационной матрицы V

b HC
соотвествующие ей робастные стандартные ошибки
коэффициентов
При заданной доверительной вероятности γ доверительный

интервал имеет вид

I(β) = β̂ − tcr · HC. s. e.(β) ; β̂ − tcr · HC. s. e.(β)
где tcr = tdf =n−k−1 (α = 1 − γ)



Прогнозирование при гетероскедастичности
Мы предполагаем экзогенность регрессоров
Следовательно, для вычисления точечного прогноза используем

подход CRLM-модели.

Untitled

Загружено:

Сведения о документе

Авторское право

Доступные форматы

Поделиться этим документом

Поделиться или встроить документ

Параметры публикации

Этот документ был вам полезен?

Это неприемлемый материал?

Авторское право:

Доступные форматы

Untitled

Загружено:

Авторское право:

Доступные форматы

Лекции по Эконометрике.

МГИМО МИД России

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 1 / 33

1 Линейная регрессия с гетероскедастиностью

2 Диагностические тесты на гетероскедастичность

3 Статистические выводы для регрессии с гетероскедатичностью

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 2 / 33

Стандартная линейная регрессия CLRM: линейная спецификация

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 3 / 33

yi = β0 + β1 xi1 + · · · + βk xik + ui = xi′ β + ui

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 4 / 33

yi = β0 + β1 xi1 + · · · + βk xik + ui = xi′ β + ui

Допускается что Var(ui |X ) ̸= σ 2 . Например,

Var(ui |X ) = σi2 Var(ui |X ) = σ(xi ) Var(ui |X ) = f (zi )

Heteroskedasticity (греч.) = неоднородное рассеивание

Идея гетероскедастичности (неформально)

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 5 / 33

Идея гетероскедастичности (неформально)

Вопрос: Почему условие гомоскедастичности не всегда

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 5 / 33

Идея гетероскедастичности (неформально)

Вопрос: Почему условие гомоскедастичности не всегда

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 5 / 33

2 Диагностические тесты на гетероскедастичность

3 Статистические выводы для регрессии с гетероскедатичностью

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 6 / 33

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 7 / 33

Полезно рассматривать графики

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 8 / 33

Базовые тесты на гетероскедастичность основаны на анализе

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 9 / 33

Базовые тесты на гетероскедастичность основаны на анализе

Как правило оценивается вспомогательная регрессия с остатками

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 9 / 33

Базовые тесты на гетероскедастичность основаны на анализе

Как правило оценивается вспомогательная регрессия с остатками

На основе вспомогательной регрессии вычисляется тестовая

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 9 / 33

Базовые тесты на гетероскедастичность основаны на анализе

Как правило оценивается вспомогательная регрессия с остатками

На основе вспомогательной регрессии вычисляется тестовая

Такие тесты носят асимптотический характер.

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 9 / 33

где z1 , . . . , zK – переменные, возможно влияющие на дисперсию

где z1 , . . . , zK – переменные, возможно влияющие на дисперсию

Критическое значение: χ2cr = χ2df =K (α) (K – число регрессоров во

Статистическое правило: отвергаем H0 при

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 11 / 33

Специальные статистические таблицы распределения χ2k .

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 12 / 33

White’s test3 : тестируется гипотеза

White’s test3 : тестируется гипотеза

Критическое значение: χ2cr = χ2df =K (α) (K – число регрессоров во

Статистическое правило: отвергаем H0 при

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 14 / 33

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 15 / 33

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 15 / 33

2 Диагностические тесты на гетероскедастичность

3 Статистические выводы для регрессии с гетероскедатичностью

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 16 / 33

Как состоятельно оценить коэффициенты модели?

Стандартно три способа:

Н. В. Артамонов (МГИМО) Эконометрика I 27 марта 2023 г. 17 / 33

Как состоятельно оценить коэффициенты модели?