Econometria II

Lecture 2: Modelos ARMA

Prof.: Ricardo Masini

Graduação em Economia
2o Semestre de 2017
Ruı́do Branco (White Noise)

I Ruı́do branco é uma série fracamente estacionária, com média

zero, que não apresenta correlação serial
I A série {Yt } é um ruı́do branco, e denotaremos por
Yt ∼ wn(0, σ 2 ), se
(
σ2 j = 0
E(Yt ) = 0; E(Yt , Yt−j ) =
0 j 6= 0

I É a série temporal mais simples. Exceto, talvez, por sua

versão iid onde além da não-correlação, temos independência.
É chamada de ruı́do branco independente e denotado por
Yt ∼ iid(0, σ 2 )
I Como vamos ver, constitui o building block de vários
processos que vamos estudar...
Processos Média móvel

O caso mais simples deste tipo de processo é a média móvel de

ordem 1, MA(1), definido como:

Yt = c + t + θt−1 ;  ∼ wn(0, σ 2 ),

onde c e θ são constantes quaisquer

Momentos de um MA(1)
A esperança de um MA(1) é dada por

µ ≡ E(Yt ) = E(c + t + θt−1 ) = c

Usando a primeira relação, podemos reescrever o MA(1) como

(Yt − µ) = t + θt−1

Multiplicando ambos os lados por (Yt−j − µ) temos

(Yt − µ)(Yt−j − µ) = (t + θt−1 )(t−j + θt−j −1 )

= t t−j + θt t−j −1 + θt−1 t−j + θ2 t−1 t−j −1

Finalmente, aplicando esperança em ambos os lados


2 2
(1 + θ )σ j = 0

γj ≡ E[(Yt − µ)(Yt−j − µ)] = θσ 2 j = ±1

0 |j | > 1

Exemplos de MA(1)
Yt = − 1 + εt + 0.7εt−1

2.5

0.0

−2.5

Yt = 1 + εt − 0.5εt−1

2.5

0.0

−2.5

Yt = εt + 0.3εt−1

2.5

0.0

−2.5

50 100 150 200

FAC de um MA (1)

I Pela expressão anterior é fácil ver que um MA(1) é um

processo fracamente estacionário (por quê?)
I Além disso, lembre-se que a função de autocorrelação é
simplesmente uma normalização da função autocovariância

γj 1
 j =0
ρj ≡ θ
= 1+θ 2 j = ±1
γ0 
0 |j | > 1


I Portanto, a FAC de um MA(1) é truncada em zero para lags

maiores que 1
FAC/FACP de MA(1)
Yt = − 1 + εt + 0.7εt−1 Yt = 1 + εt − 0.5εt−1 Yt = εt + 0.3εt−1
0.50

0.25
FAC

0.00

−0.25

0.50

0.25
FACP

0.00

−0.25

1 2 3 4 5 1 2 3 4 5 1 2 3 4 5
lag
MA(q)

A generalização de um MA(1) é um processo média móvel de

ordem q, MA(q), definido como

Yt = c + t + θ1 t−1 + · · · + θq t−q ;  ∼ wn(0, σ 2 ),

onde c, θ1 , . . . , θq são constantes reais e q um inteiro positivo

Momentos de um MA(q)
A esperança de um MA(q) é dada por
µ ≡ E(Yt ) = E(c + t + θ1 t−1 + · · · + θq t−q ) = c
Usando a primeira relação, podemos reescrever o MA(q) como
(Yt − µ) = t + θ1 t−1 + · · · + θq t−q
Multiplicando ambos os lados por (Yt−j − µ), temos
q
! q !
X X
(Yt − µ)(Yt−j − µ) = θk t−k θk t−j −k
k =0 k =0
q
XX q
= θk θ` t−k t−j −` ,
k =0 `=0

onde θ0 = 0. Finalmente, aplicando esperança em ambos os lados

(
(θj + θj +1 θ1 + θj +2 θ2 + · · · + θq θq−j )σ 2 |j | = 0, 1, . . . , q
γj =
0 |j | > q
FAC de um MA(q)

Pela expressão anterior é fácil ver que um MA(q) é um processo

fracamente estacionário. Além disso, a função de autocorrelação é
dada por

1 j =0


γj θj +θj +1 θ1 +θj +2 θ2 +···+θq θq−j
ρj ≡ = 1+θ12 +···+θq2
|j | = 1, 2, . . . , q
γ0  
0 |j | > q

Portanto, a FAC de um MA(q) é truncada em zero para lags

maiores que q
Processos MA(∞)

Considere o caso de um MA(q) onde q → ∞. Neste caso temos

uma média móvel infinita, MA(∞) dado por
∞
X
Yt = c + θi t−i  ∼ wn(0, σ 2 ),
i=0

onde c, θ1 , . . . , θq são constantes reais e θ0 = 1

Neste caso, temos µ = c como no caso finito e
∞
!
X
γj = θj +i θi σ 2
i=0

Quais condições garantem que um MA(∞) seja fracamente

estacionário?
Resultado Importante

Motiva toda a modelagem ARMA. Informalmente pode-se dizer

que ”qualquer processo estacionário tem representação MA(∞)”,
formalmente
Decomposição de Wold: Qualquer processo {Yt , t ∈ Z}
estacionário puramente não determinı́stico pode ser escrito como
∞
X
Yt = µ + ψj t−j
j =0

onde t ≡ Yt − π(Yt |1, Yt−1 , Yt−2 , . . . ), ou seja, t é o erro de

projeção linear de Yt em (1, Yt−1 , Yt−2 , . . . )
Processos Autorregressivos

O caso mais simples é o processo autorregressivo de ordem 1,

AR(1), que é definido como

Yt = c + φYt−1 + t ,  ∼ wn(0, σ 2 )

onde c e φ são constantes quaisquer

Momentos de um AR(1)

Se assumirmos estacionariedade fraca, então, aplicado o operador

esperança e variância de ambos os lados, temos
c
µ = c + φµ ⇐⇒ µ ≡ E(Yt ) =
1−φ
σ2
γ0 = φ2 γ0 + σ 2 ⇐⇒ γ0 ≡ V(Yt ) =
1 − φ2

Usando a primeira relação, podemos reescrever o AR(p) como

(Yt − µ) = φ(Yt−1 − µ) + t

Multiplicando ambos os lados por (Yt−j − µ) e tomando a

esperança
γj = φγj −1 , j = 1, 2, . . .
Exemplos de AR(1)
Yt = − 0.5Yt−1 + εt
4

−2

Yt = 0.3Yt−1 + εt
4

−2

Yt = 0.95Yt−1 + εt
4

−2

50 100 150 200

FAC de um AR(1)

É fácil ver que a função de autocovariância será dada por

γj = φ|j | γ0 , j ∈Z

Portanto, a função de autocorrelação é simplesmente

γj
ρj = = φ|j |
γ0
Note que Yt e Yt−2 são correlacionados, mas poderı́amos nos
perguntar qual a correlação entre Yt e Yt−2 já descontando a
influência de Yt−1 ? Ou em outras palavras dado Yt−1 ?

Cor (Yt , Yt−2 |Yt−1 ) = Cor (c + φYt−1 + t , Yt−2 |Yt−1 ) = 0

Função de Autocorrelação Parcial (FACP)

Esse conceito pode ser generalizado para qualquer distância entre

as variáveis definindo-se a FACP como
(
Cor (Yt , Yt−1 ) ≡ ρ1 j =1
αj =
Cor (Yt − π(Yt ), Yt−j − π(Yt−j )) j ≥ 2,

onde π(·) é a melhor projeção linear em (Yt−j +1 , . . . , Yt−1 )

O que nós dá uma maneira fácil de estimar a FACP, basta estimar
por MQO o modelo abaixo para CADA j

Yt = α0 + α1 Yt−1 + · · · + αj Yt−j + ut

e o último coeficiente de CADA regressão α

bj é um estimador
consistente para αj
FAC/FACP de AR(1)
Yt = − 0.5Yt−1 + εt Yt = 0.3Yt−1 + εt Yt = 0.95Yt−1 + εt
1.0

0.5
FAC

0.0

−0.5
1.0

0.5
FACP

0.0

−0.5
1 2 3 4 5 6 7 8 9 10 1 2 3 4 5 6 7 8 9 10 1 2 3 4 5 6 7 8 9 10
lag
Estacionariedade de um AR(1)
Afinal, qual a condição para garantir a estacionariedade fraca de
um AR(1). Fazendo substituições recursivas, temos

Yt = c + φYt−1 + t
= c + φ(c + φYt−2 + t−1 ) + 
= c + φ(c + φ(c + φYt−3 + t−2 ) + t−1 ) + t
..
.
k −1
X k −1
X
j k
=c φ + φ Yt−k + φj t−j
j =0 j =0

Assim se |φ| < 1 e tomando-se o limite k → ∞, temos

∞
c X
Yt = + φj t−j
1−φ
j =0

onde o segundo termo é finito

Processo AR(p)

O processo autorregressivo de ordem p, AR(p), é a generalização

do AR(1), ou seja, para p ≥ 1:

Yt = c + φ1 Yt−1 + · · · + φp Yt−p + t ,  ∼ wn(0, σ 2 )

Qual condições em φ1 , . . . , φp precisamos para garantir a

estacionariedade? Poderı́amos adotar a estratégia de substituição,
mas fica muito complicado algebricamente...
Momentos de um AR(p)

Novamente, se assumirmos estacionariedade fraca podemos aplicar

o operador esperança de ambos os lados, temos
c
µ = c + φ1 µ + · · · + φp µ ⇐⇒ µ =
1 − φ1 − · · · − φp

Usando esta relação podemos reescrever o AR(p) como

(Yt − µ) = φ1 (Yt−1 − µ) + · · · + φp (Yt−p − µ) + t

Multiplicando ambos os lados por (Yt−j − µ) e tomando a

esperança
(
φ1 γj −1 + · · · + φp γj −p j = 1, 2, . . .
γj =
φ1 γ1 + · · · + φp γp j =0
Operador Lag (Defasagem)

O operador lag, L, é definido como

LYt = Yt−1
L2 Y (t) = L(LYt ) = L(Yt−1 ) = Yt−2
..
.
Lj Y (t) = L(L(L . . . LYt ) = Yt−j

Além disso, o operador e a multiplicação são comutativos, e o

operador lag é distributivo com relação a adição, ou seja:

L(cYt ) = c(LYt )
L(Yt + Xt ) = LYt + LXt
Polinômio no Operador Lag

Usando L podemos reescrever um AR(p) de média zero como

(1 − φ1 L − φ2 L2 − · · · − φp Lp )Yt = t

Note que o termo que ”multiplica”Yt é apenas um polinômio em L,

assim usamos a notação

Φp (L)Yt = t

Da mesma maneira podemos reescrever um MA(q) como

Yt = t + θ1 t−1 + θ2 t−2 + · · · + θq t−q

= (1 + θ1 L + θ2 L2 + · · · + θq Lq )t
≡ Θq (L)t
O inverso de um Polinômio no Operador Lag

Gostarı́amos de definir um operador (1 − φL)−1 , tal que

(1 − φL)−1 (1 − φL) = 1

Na verdade já o que encontramos quando fizemos a substituição

recursiva no AR(1). Ele é definido para |φ| < 1, como

(1 − φL)−1 = 1 + φL + φ2 L2 + φ3 L3 + . . .

Assim, podemos reescrever o AR(1) em representação MA(∞)

como
Yt = (1 − φL)−1 t
O operador (1 − φL)−1 nos será muito útil para transformar AR em
MA e vice-versa, além de nos ajudar a entender as condições que
fazem um processo ser ou não estacionário
Estacionariedade de um AR(p)
Podemos fatorar o polinômio de um AR(p) como

1 − φ1 L − · · · − φp Lp = (1 − λ1 L) . . . (1 − λp L)

onde λj = a1j para todo j = 1, . . . , p e a1 , . . . , ap são as p raı́zes

(reais ou complexas, distintas ou com multiplicidade) de um
polinômio de grau p. Assim, podemos reescrever o AR(p) como

(1 − λ1 L) . . . (1 − λp L)Yt = t

Se |λj | < 1 (ou equivalentemente |aj | > 1) para TODO

j = 1, . . . , p, então o polinômio inverso existe e podemos escrever
o AR(p) para um MA(∞) já que:

Yt = (1 − λ1 L)−1 . . . (1 − λp L)−1 t
≡ (1 + ψ1 L + ψ2 L2 + . . . )t
≡ Ψ∞ (L)t
Processo ARMA(p,q)

A junção de um AR(p) com um MA(q) dá origem a um processo

autorregressivo-média móvel, ARMA(p,q):

Yt = c + φ1 Yt−1 + · · · + φp Yt−p +
t + θ1 t−1 + · · · + θq t−q ;  ∼ wn(0, σ 2 ),

onde c, φ1 , . . . , φp , θ1 , . . . , θq são constantes reais; p e q são

inteiros positivos. Usando o operador lag

(1 − φ1 L − · · · − φp Lp )Yt = c + (1 + θ1 L + · · · + θq Lq )t
Φp (L)Yt = c + Θq (L)t
Estacionariedade e Invertibilidade de um ARMA(p,q)

Estacionariedade: Função apenas da parte AR do processo (Por

quê?). Basta verificar se as raı́zes do polinômio estão fora do
cı́rculo unitário

Φp (L) = 1 − φ1 L − φ2 L2 − · · · − φp Lp

Invertibilidade: Função apenas da parte MA do processo (Por

quê?). Basta verificar se as raı́zes do polinômio estão fora do
cı́rculo unitário

Θq (L) = 1 + θ1 L + θ2 L2 + · · · + θq Lq

A primeira nos garante uma representação MA(∞), a segunda um

AR(∞). Ambas importantes para estimação dos parâmetros.
Momentos de um ARMA(p,q)
Se o processo é estacionário, Φ−1
p (L) existe e podemos reescrever o
ARMA(p,q) em seu formato MA(∞):

Yt = µ + Ψ∞ (L)t

onde
p
c X
µ≡ ; Φ(1) = 1 − φj ; Ψ∞ (L) ≡ Φ(L)−1
p Θq (L)
Φ(1)
j =1

Dos resultados que obtivemos para o MA(q) temos para q = ∞

E(Yt ) = µ
∞
X
γj = σ 2 ψi ψi+|j | ,
i=0

onde ψ0 = 1
FAC de ARMA(p,q)

Para processos AR(p) é possı́vel mostrar que a FAC decai a uma

taxa geométrica com base igual ao inverso do menor valor em
módulo de suas raı́zes. Mostramos isso para o AR(1), ou seja
 j
1
ρj =
mini |ai |

Isso também é verdade para um processo ARMA(p,q) em geral

pois, após o lag q, a autocorrelação vem apenas da parte AR, uma
vez que a FAC da parte MA é truncada em q
FAC de ARMA(p,q)

I Em geral, é fácil identificar AR(p) ou MA(q) visualmente

usando a FAC/FACP. Uma vez que a FACP do AR é truncada
em p e a FAC do MA é truncada em q
I Para modelos ARMA(p,q) é mais complicado já que tanto a
FAC quanto a FACP não apresentam trucamentos.
I É verdade que no caso de um ARMA(p,q), a FAC decai
geometricamente após o lag q e a FACP decai
geometricamente após o lag p
I Vamos aprender outras maneiras de identificar a estrutura
ARMA de um processo
Resumo

Modelo FAC FACP

AR(p) Decai Truncada após lag p
MA(q) Truncada após lag q Decai
ARMA(p,q) Decai após lag q Decai após lag p