Lecture4 Specification PDF

Лекции по Эконометрике.
Вопросы спецификации
Н. В. Артамонов
МГИМО МИД России
15 января 2023 г.
Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 1 / 41

Содержание
1 Вопросы спецификации
2 Функциональная форма
3 Диагностические тесты на функциональную форму
4 Сравнение моделей регрессии
5 Ошибки спецификации. Смещение OLS-оценок.

Нерелевантные регрессоры
Пропущенные «существенные» регрессоры

Будем рассматривать следующие вопросы:
1 выбор функциональной формы при заданных регрессорах:
▶ выбор зависимой переменной: y или log y ;
▶ объясняющая переменная: x или log x;
▶ нужно ли включать квадраты переменных?
▶ структурные сдивиги
▶ графический анализ
▶ формальные диагностические тесты.

2 Сравнение разных моделей регрессии.

2 Сравнение разных моделей регрессии.
3 Влияние выбора регрессоров на статистические свойства
регрессии:
▶ Что будет если включили что-то “лишнее”;
▶ Что будет если не включили что-то “важное”;
▶ Robustness check



Логарифмирование переменных в модели
Базовые рекомендации
1 логарифмируем зависимую переменную, если нужно оценить
процентный отклик на неё
2 логарифмируем регрессор, если хотим оценить эффект от
увеличения регрессора на 1%
3 ”выправление” неоднородных данных1
1
полезно посмотреть на описательные статистики и на распределение
наблюдений (гистограмма)
Логарифмирование переменных в модели
Важно!
Процентное изменение переменных не всегда экономически
оправдано. В таких случаях эти переменные не логаричимруются
Пример
Возраст, ставки, уровень образования

Включение квадратов регрессоров
Ключевая особенность линейной регрессии

Линейная регрессия
(log)y = β0 + β1 (log)x1 + · · · + βk (log)xk + error
описывает зависимость с постоянным предельным значением y

по xj (или постоянной эластичностью).
Очевидно, это особенность не всегда адекватна реальной

зависимости.

Важно!
Если нужно учесть непостоянство (как правило убывание)
предельного значения (эластичности) y по x, то в число
объясняющих переменных следует включить квадрат регрессора.
Иногда это можно увидеть на графиках

Важно!
В этом случае коэффициент при x и x 2 неинтерпретируемы

Пример (Зарплатное уравнение)

В регрессии
wage = β0 + β1 age + · · · + error .
отдача от возраста (“карьерный рост”) постоянна для всех
возрастов из генеральной совокупности.

Пример (Зарплатное уравнение. Продолжение)

Если генеральная совокупность содержит “длинный” возрастной
диапазон, то ожидать постоянного роста зарплаты (“карьерного
роста”) не стоит.


Если генеральная совокупность содержит “длинный” возрастной
диапазон, то ожидать постоянного роста зарплаты (“карьерного
роста”) не стоит.
В этом случае более разумна модель в которой отдача от

возраста убывает (модель с убывающим предельным значение).

Если мы ожидаем, что отдача от возраста убывает (“карьерный
рост” замедляется), то следует рассмотреть модель
wage = β0 + β1 age + β2 age 2 + · · · + error .

Если мы ожидаем, что отдача от возраста убывает (“карьерный
рост” замедляется), то следует рассмотреть модель
wage = β0 + β1 age + β2 age 2 + · · · + error .
В этой модели (среднее) предельное значение
∂(Ewage)
= β1 + 2β2 age
∂age
Очевидно, в этой модели β1 > 0 и β2 < 0.
Важно!
В этой модели коэффициенты β1 , β2 неинтерпретируемы!
Пример
Рассмотрим модель зависимости цены автомобиля price от его
возраста age:
log price = β0 + β1 age + · · · + u
В этой модели отдача от возраста постоянна: каждый год

стоимость автомобиля снижается на β1 · 100%.

Пример
Но в реальности (скорее всего) стоит ожидать, что с возрастом
падение цены будет замедляться.

Пример
Но в реальности (скорее всего) стоит ожидать, что с возрастом
падение цены будет замедляться.
Для моделирования этого феномена следует рассмотреть модель
log price = β0 + β1 age + β2 age2 + · · · + u
Очевидно, в этой модели β1 < 0 и β2 > 0.



Тесты на функциональную форму
Диагностические тесты на спецификацию:

графический анализ данных
RESET тест
Harvey-Collier тест
Rainbow тест

Графический анализ
Если (log)y зависит от (log)x линейно, то на плоскости

((log)x, (log)y ) данные как правило “группируются” вдоль
некоторой прямой или параболы с равномерным разбросом
“вверх-вниз”


Предварительно полезно смотреть на графики

yi vs xi ,
log yi vs xi ,
log yi vs log xi ,
yi vs log xi .


Предварительно полезно смотреть на графики

yi vs xi ,
log yi vs xi ,
log yi vs log xi ,
yi vs log xi .
Для выявления неоднородности данных полезно посмотреть на
гистограммы по зависимой переменной и регрессорам.

RESET-тест
RESET-тест (Regression Estimation Specification Error Test)2

Базовая модель
y = x ′β + u
Альтернативная модель
y = x ′ β + z ′ γ + error
Проводится F-тест для гипотезы (совместная значимость)
H0 : γ = 0
2
J.B. Ramsey (1969), Tests for Specification Errors in Classical Linear
Least-Squares Regression Analysis. Journal of the Royal Statistical Society, Series
B 31, 350–371
RESET-тест
Возможный выбор регрессоров для альтернативной модели

1 степени предсказанных значений (обычно M = 2, 3, 4)
⊤
z = (ŷ )2 · · · (ŷ )M
2 главные компоненты регрессоров

3 какие-то другие регрессоры
Важно!
Альтернативная регрессия как правило экономически
неинтерпретируема

Harvey-Collier тест
Harvey-Collier тест3 : тестируется форма зависимости от

выбранного регрессора
Вначале нужно выбрать регрессор и упорядочить по нему

данные
Основан на t-тесте для рекурсивных остатков
Нужно смотреть протоколы тестирования в R/Python
3
A. Harvey & P. Collier (1977), Testing for Functional Misspecification in
Regression Analysis. Journal of Econometrics 6, 103–119
Rainbow тест
Rainbow тест4 : тестируется форма зависимости от выбранного

регрессора
В начале нужно выбрать регрессор и упорядочить по нему

данные
Модель подгоняется по всему датасету и отдельно по
выбранной доли (параметр теста) «срединных» значений
Основан на F-тесте
Нужно смотреть протоколы тестирования в R/Python
4
J.M. Utts (1982), The Rainbow Test for Lack of Fit in Regression.
Communications in Statistics – Theory and Methods 11, 2801–2815


Сравнение моделей регрессии
Формальные критерии сравнения нескольких моделей регрессии

с одинаковой зависимой переменной на одних и тех же данных:
2
Radj (скорректированный R 2 )
информационные критерии
▶ Akaike
▶ Schwarz или Байесовский
▶ другие (Hannan-Quinn etc)

Сравнение моделей регрессии
Формальные критерии сравнения нескольких моделей регрессии

с одинаковой зависимой переменной на одних и тех же данных:
2
Radj (скорректированный R 2 )
информационные критерии
▶ Akaike
▶ Schwarz или Байесовский
▶ другие (Hannan-Quinn etc)
Важно!
Показатели критериев – это не тестовые статистики! А сами
критерии – это не тестирование гипотез!

Критерий скорректированного R 2
Для каждой модели вычисляется5
2 n−1
Radj = 1 − (1 − R 2 )
n−k −1
Важно!
2
Модель выбирается из условия max Radj .
5
Для каждой модели k своё!
Информационные критерии
Для каждой модели вычисляется показатель критерия6

RSS 2(k + 1)
AIC = log +
n n

RSS (k + 1) log n
BIC = SIC = log +
n n
Обозначения
AIC = Akaike Information Criterion (An Information Criterion)
BIC/SIC=Bayesian/Schwarz Information Criterion
6
для каждой модели RSS и k свои!
Важно!
”Оптимальная” модель с минимальным значением
информационного критерия!
Важно!
2
Критерии Radj , AIC , BIC могут давать разные ”оптимальные
модели”

Иногда показатели информационных критериев берутся такие (не

делим на n)

RSS
AIC = n log + 2(k + 1)
n

RSS
SIC = n log + (k + 1) log n
n



Влияние отбора регрессоров
Рассмотрим возможные ошибки спецификации, связанные с

выбором объясняющих переменных, и их последствия:
включение “лишнего” (нерелевантного) регрессора;
невключение “существенного” (релевантного) регрессора.

Влияние отбора регрессоров
Рассмотрим возможные ошибки спецификации, связанные с

выбором объясняющих переменных, и их последствия:
включение “лишнего” (нерелевантного) регрессора;
невключение “существенного” (релевантного) регрессора.
Будем использовать обозначения

DGP (Data Generating Process) – “истинная модель”;
SM (Statistical Model) – модель, оцениваемая по данным.



Нерелевантный регрессор
Рассмотрим модель
yi = xi′ β + zi′ γ + ui
со стандартными условиями
E(ui |X , Z ) = 0 Var(ui |X , Z ) = σ 2
и пусть известно, что γ = 0 и E(zi |X ) = const (фактор z

нерелевантный, т.е. «не коррелирует» с y и с другими
регрессорами).

Нас интересуют оценки коэффициентов β. Рассмотрим две

модели:
(A) : y = x ′ β + z ′ γ + error
(B) : y = x ′ β + error
Обе регрессии удовлетворяют условиям CLRM-модели.

(B) (A)
Тогда оценка β̂OLS «точнее» оценки β̂OLS в том смысле, что
стандартные ошибки меньше.
Вывод
Включение заведомо нерелевантного фактора снижает точность
оценивания. Это приводит к увеличению доверительных
интервалов и к снижению мощности тестов.



Пропущенный «существенный» фактор
Рассмотрим модель
(DGP) : yi = xi′ β + zi′ γ + ui
со стандартными условиями
E(ui |X , Z ) = 0 Var(ui |X , Z ) = σ 2 .
и пусть известно, что γ ̸= 0 и E(zi |X ) ̸= const (фактор z

«коррелирует» c y и с другими регрессорами).

Если эконометрист не знает про z, то он оценивает регрессию
(SM) : yi = xi′ β + vi (vi = zi′ γ + ui )

Если эконометрист не знает про z, то он оценивает регрессию
(SM) : yi = xi′ β + vi (vi = zi′ γ + ui )
В этой регрессии
E(vi |X ) = E(zi′ |X )γ ̸= 0,
т.е. не выполнено условие экзогенности объясняющих

переменных (регрессоры эндогенны по отношению к зависимой
переменной).

Это приводит к смещению и несостоятельности OLS-оценок

коэффициентов в SM-модели:
E(β̂|X ) ̸= β
β̂ −→ β + bias (n → +∞)

Вывод №1
Если не включить в модель регрессии релевантный фактор,
«коррелирующий» с другими объясняющими переменными, то
метод наименьших квадратов не даёт состоятельных оценок
коэффициентов и, следовательно, неприменим.

Вывод №1
Если не включить в модель регрессии релевантный фактор,
«коррелирующий» с другими объясняющими переменными, то
метод наименьших квадратов не даёт состоятельных оценок
коэффициентов и, следовательно, неприменим.
Вывод №2
Как следствие, стандартные тестовые статистики метода
наименьших квадратов неприменимы для тестирования гипотеза.
Их использование может привести к неверным выводам
(например, выводам о значимости)

Пример (Отдача от образования)

Рассмотрим зарплатное уравнение
log(wage) = β0 + β1 educ + · · · + u


log(wage) = β0 + β1 educ + · · · + u
Ошибка содержит ненаблюдаемый фактор «индивидуальные

способности» (ability) который положительно «коррелирует» с
уровнем образования.


log(wage) = β0 + β1 educ + · · · + u
Ошибка содержит ненаблюдаемый фактор «индивидуальные

способности» (ability) который положительно «коррелирует» с
уровнем образования.
Это приводит к смещению и несостоятельности OLS-оценки
отдачи от образования.

Пример (Отдача от образования. Продолжение)

Вывод: метод наименьших квадратов неприменим для оценивая
отдачи от образования!

Пример (Отдача от образования. Продолжение)

Вывод: метод наименьших квадратов неприменим для оценивая
отдачи от образования!
Важно! (Плохая новость)

Фактор «индивидуальные способности» невозможно измерить
объективно и явно включить в число объясняющих переменных.

Отдача от образования
Аналогичный результат имеет место в общем случае т.н.
«минцеровских» регрессий (J. Mincer) когда оценивается
влияние характеристик “человеческого капитала” на зависимую
переменную.

Как можно постараться идентифицировать/избежать?
Стандарт современного эконометрического исследования:


Включить в регрессию «дополнительные» контрольные
переменные, даже если нужно оценить отдачу только от
одного фактора.


Включить в регрессию «дополнительные» контрольные
переменные, даже если нужно оценить отдачу только от
одного фактора.
Посмотреть “устойчивость” оценок к изменению набора
контрольных переменных (robustness check).

Lecture4 Specification PDF

Загружено:

Сведения о документе

Оригинальное название

Авторское право

Доступные форматы

Поделиться этим документом

Поделиться или встроить документ

Параметры публикации

Этот документ был вам полезен?

Это неприемлемый материал?

Авторское право:

Доступные форматы

Lecture4 Specification PDF

Загружено:

Авторское право:

Доступные форматы

Лекции по Эконометрике.

МГИМО МИД России

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 1 / 41

3 Диагностические тесты на функциональную форму

4 Сравнение моделей регрессии

5 Ошибки спецификации. Смещение OLS-оценок.

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 2 / 41

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 3 / 41

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 3 / 41

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 3 / 41

3 Диагностические тесты на функциональную форму

4 Сравнение моделей регрессии

5 Ошибки спецификации. Смещение OLS-оценок.

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 4 / 41

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 6 / 41

Ключевая особенность линейной регрессии

(log)y = β0 + β1 (log)x1 + · · · + βk (log)xk + error

описывает зависимость с постоянным предельным значением y

Очевидно, это особенность не всегда адекватна реальной

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 7 / 41

Иногда это можно увидеть на графиках

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 8 / 41

Пример (Зарплатное уравнение)

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 9 / 41

Пример (Зарплатное уравнение. Продолжение)

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 10 / 41

Пример (Зарплатное уравнение. Продолжение)

В этом случае более разумна модель в которой отдача от

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 10 / 41

wage = β0 + β1 age + β2 age 2 + · · · + error .

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 11 / 41

wage = β0 + β1 age + β2 age 2 + · · · + error .

В этой модели (среднее) предельное значение

log price = β0 + β1 age + · · · + u

В этой модели отдача от возраста постоянна: каждый год

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 12 / 41

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 13 / 41

Для моделирования этого феномена следует рассмотреть модель

log price = β0 + β1 age + β2 age2 + · · · + u

Очевидно, в этой модели β1 < 0 и β2 > 0.

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 13 / 41

3 Диагностические тесты на функциональную форму

4 Сравнение моделей регрессии

5 Ошибки спецификации. Смещение OLS-оценок.

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 14 / 41

Диагностические тесты на спецификацию:

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 15 / 41

Если (log)y зависит от (log)x линейно, то на плоскости

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 16 / 41

Если (log)y зависит от (log)x линейно, то на плоскости

Предварительно полезно смотреть на графики

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 16 / 41

Если (log)y зависит от (log)x линейно, то на плоскости

Предварительно полезно смотреть на графики

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 16 / 41

RESET-тест (Regression Estimation Specification Error Test)2

Проводится F-тест для гипотезы (совместная значимость)

Возможный выбор регрессоров для альтернативной модели

2 главные компоненты регрессоров

Н. В. Артамонов (МГИМО) Вопросы спецификации 15 января 2023 г. 18 / 41

Harvey-Collier тест3 : тестируется форма зависимости от

Вначале нужно выбрать регрессор и упорядочить по нему

Rainbow тест4 : тестируется форма зависимости от выбранного