1

O O M MO OD DE EL LO O C CL L S SS SI IC CO O D DE E R RE EG GR RE ES SS S O O L LI IN NE EA AR R

I Metodologia da Econometria

1. Formulao da teoria ou da hiptese.
2. Especificao do modelo matemtico da teoria.
3. Especificao do modelo economtrico da teoria.
4. Obteno de dados.
5. Estimativa dos parmetros do modelo economtrico.
6. Teste de hiptese.
7. Previso ou predio.
8. Utilizao do modelo para fins de controle ou poltica.

A natureza da Anlise de Regresso

O termo regresso foi introduzido por Francis Galton. Ele verificou que, embora houvesse uma
tendncia de pais altos terem filhos altos e de pais baixos terem filhos baixos, a altura mdia dos filhos de pais
de uma dada altura tendia a se deslocar ou regredir at a altura mdia da populao como um todo. Em outras
palavras, a altura dos filhos de pais extraordinariamente altos ou baixos tende a se mover para a altura mdia da
populao.
A interpretao moderna da regresso diferente ocupa-se do estudo da dependncia de uma varivel
(chamada varivel endgena, resposta ou dependente), em relao a uma ou mais variveis, as variveis
explicativas (ou exgenas), com o objetivo de estimar e/ou prever a mdia (da populao) ou valor mdio de
dependente em termos dos valores conhecidos ou fixos (em amostragem repetida) das explicativas.

REGRESSO versus CAUSALIDADE

importante ressaltar que embora a anlise de regresso lide com a dependncia de uma varivel em
relao a outras variveis, ela no implica necessariamente em causa. Uma relao estatstica, por mais forte e
sugestiva que seja, jamais pode estabelecer uma relao causal. As idias sobre causa devem vir de fora da
estatstica, enfim, de outra teoria.

REGRESSO versus CORRELAO

A anlise de regresso conceitualmente muito diferente da anlise de correlao, cujo objetivo bsico
medir a intensidade ou o grau de associao linear entre duas variveis. Por exemplo, podemos estar
interessados em achar a correlao entre o hbito de fumar e o cncer no pulmo. Ou ainda, a correlao entre
as pontuaes em exames de estatstica e de matemtica.
Na anlise de regresso no estamos interessados em tal medio. Em vez disso, tentamos estimar ou
prever o valor mdio de uma varivel com base nos valores fixados de outras variveis. Assim, podemos querer
saber se possvel prever a nota mdia em uma prova de estatstica sabendo a nota de um estudante em uma
prova de matemtica. O coeficiente de correlao mede a intensidade da associao (linear)

A NATUREZA E AS FONTES DE DADOS PARA ANLISE ECONOMTRICA - O sucesso de
qualquer anlise economtrica depende basicamente da disponibilidade de dados apropriados.

Captulo 2 O conceito de Funo de Regresso Populacional (FRP) e Funo de Regresso Amostral
(FRA)

Funo de Regresso Populacional (FRP)

(2.1) E(Y/X
i
) = f(X
i
)

A mdia condicional uma funo de X
i
, em que f(X
i
) indica alguma funo da varivel explicativa X
i
.
A equao (2.1) conhecida como funo de regresso populacional (FRP) (ou equao de regresso linear) de
duas variveis. Como uma primeira aproximao ou uma hiptese de trabalho, podemos supor que FRP
E(Y/Xi) seja uma funo linear de Xi, do tipo
2


tica.

(2.2) E (Y/X
i
) = |
1
+ |
2
X
i
onde:
|
1
intercepto
|
2
coeficiente de inclinao

Especificao estocstica
(2.3) Y = |
1
+ |
2
X
i
+ u
i
. Onde ui uma varivel aleatria no-observvel que pode assumir valores
positivos ou negativos, tambm conhecido como termo de erro estocstico ou perturbao estocs

Funo de Regresso Amostral (FRA)

Na maioria das situaes prticas somente uma amostra de valores Y correspondentes e alguns Xs
fixos. A nossa tarefa estimar a FRP com base nas informaes da amostra.
Analogamente a FRP, que fundamenta a reta de regresso da populao, podemos desenvolver o
conceito de FUNO DE REGRESSO AMOSTRAL (FRA) para representar a reta de regresso amostral. A
amostra contrapartida da Equao (2.2) pode ser escrita como

i i
X Y
2 1

| | + = , onde:

i
Y

= estimador de E(Y/X
i
)
1

| = estimador de |
1

2

| = estimador de |
2


Estimador e Estimativa

Estimador, tambm conhecido como uma estatstica (baseado na amostra), simplesmente uma regra,
frmula ou mtodo que nos diz como estimar o parmetro da populao a partir das informaes dadas pela
amostra disponvel.

Estimativa um valor numrico particular obtido pelo estimador em uma aplicao conhecido como
uma estimativa.

Podemos expressar a FRA por sua frmula estocstica

i i i
u X Y + + =
2 1

| |


NOSSO PRINCIPAL OBJETIVO NA ANLISE DE REGRESSO ESTIMAR A FRP

Yi = |
1
+ |
2
Xi + ui

Com base na FRA

i i i
u X Y + + =
2 1

| |

MODELO DE REGRESSO LINEAR SIMPLES

O MTODO DOS MNIMOS QUADRADOS ORDINRIOS

FRP de duas variveis:

3

Y
i
= |
1
+ |
2
X
i
+ u
i

Entretanto a FRP no diretamente observvel. Ns a estimamos a partir de FRA:

i i i
i i i
u Y Y
u X Y

2 1
+ =
+ + = | |



Onde:
o valo (mdia condicional) estimado de Yi.
i
Y

i i i
Y Y u

=
i i i i
u X Y u

2 1
+ = | |


i
u (resduos) so simplesmente as diferenas entre os valores Y reais e estimados.

Podemos adotar o seguinte critrio:

( )

=
i i i
Y Y u

seja a menor possvel. Se adotarmos o critrio de minimizar esta soma todos os

resduos recebem o mesmo peso na soma embora alguns resduos estejam muito mais prximos de FRA que
outros. Ou seja, os resduos tm igual importncia, independentemente de quo prximas ou dispersas as
observaes individuais sejam relativamente a FRA.
A soma algbrica desses resduos zero. Podemos evitar este problema adotando o critrio dos mnimos
quadrados, segundo o qual a FRA pode ser fixada de tal modo que:

( ) ( )
2
2

=
i i i
Y Y u
( ) ( )
2
2 1
2

=
i i i
X Y u | |


Ao elevar
i
u ao quadrado, este mtodo d maior peso a resduos prximos da FRA do que os distantes.
A soma dos resduos elevados ao quadrado alguma funo dos estimadores
1

| e
2

| ;
O Mtodo dos mnimos quadrados escolhe
1

| e
2

| de tal maneira que, para uma dada amostra ou

conjunto de dados, ( )

i
u a menor possvel. Ou seja, para uma dada amostra, o mtodo dos mnimos
quadrados nos fornece estimativas nicas de |
1
|
2
que do o menor valor possvel de ( )

i
u .
Para chegar a este resultado trata-se de um exerccio simples de clculo diferencial.


DERIVAO DE ESTIMATIVAS POR MNIMOS QUADRADOS
EQUAES NORMAIS

Passo 1:

| |
| |
| |
) 2 . 3 ( 2
)

( 2
) ( )

( 2

)

(

( (

) (
) 1 . 3 ( 2
)

( 2
) 1 ( )

( 2

)

(

( (

) (
2
2 1
2 1
2
2
2 1
2
2
2
2
2
2 1
2 1
1
2
2 1
1
2
1
2
equao X
X X Y
X X Y
X Y
Y Y
equao
X Y
X Y
X Y
Y Y
i i
i i i
i i i
i i
i i i
i
i i
i i
i i
i i i

=
=
=
c
(

c
=
c
c
=
c
c
=
=
=
c
(

c
=
c
c
=
c
c

| |
| |
|
| |
| |

| |
| |
|
| |
| |

Passo 2: Equaes Normais. Para achar o ponto de mnimo igualamos as equaes do passo 1 a zero:

( )

+ =
=
=
=
=
=
+ =
=
=
=
=
2
2 1
2
2 1
2
2 1
2
2 1
2 1
2 1
2 1
2 1
2 1
2 1
2 1

) 4 . 3 (
0

0

0

0 )

(
0 )

( 2

) 3 . 3 (
0

0

0 )

(
0 )

( 2
i i i i
i i i i
i i i i
i i i i
i i i
i i i
i i
i i
i i
i i
i i
X X X Y equao
X X X Y
X X X Y
X X X Y
X X Y
X X Y
X n Y equao
X n Y
X Y
X Y
X Y
| |
| |
| |
| |
| |
| |
| |
| |
| |
| |
| |


Resolvendo as equaes normais simultaneamente, obtemos:
4

( )
( )
( )
( )
( ) | | { } | |
| |
( ) | |
( )
( )( )
( )
( )( )
( )
( )( )
( )

=
=

=
(
(

=
(
(

(
(

+ =
+ =
+
(
(

=
+ =
=
=
=
+ =
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2
2 2
2
2 1
2 1
2 1
2 1
2 1

) / 1 (
) / 1 (

) / 1 ( ) / 1 (

) 4 . 3 (

) 1 . 3 . 3 (

) 1 . 3 . 3 (


) 3 . 3 (
i
i i
i
i i
i
i i
i i
i i i i
i i
i i i i
i i i i i i
i i i i i i
i i
i i
i
i
i
i
i i
i i
i
i i i
i i
i i
i i
i i
i i i i
i i
i i
i i
x
y x
X X
Y Y X X
ou
X X
Y Y X X
X X n
Y X Y X n
X X n n
Y X Y X n n
Y X Y X n n X X n n
n
Y X Y X n
n
X X n
n
Y X
Y X
n
X
X
n
X
X
n
Y X
Y X
X
n
X
n
Y X
Y X
X X
n
X
n
Y
Y X
X X Y X equao
X Y equao
ou
n
X
n
Y
equao
X Y n
X n Y equao
|
|
|
|
|
|
|
|
|
| |
| |
| |
| |
| |
| |
| |


Onde:

( )
( )
( ) ( ) X X x
Y Y y
X X x
i i
i i
i i
=
=
=
2


5

O Modelo Clssico de Regresso Linear: As Hipteses Subjacentes ao Mtodo dos Mnimos Quadrados

O nosso objetivo no somente obter e , mas tambm fazer inferncias sobre os verdadeiros |
1

|
2

|
1
e
|
2
. Por exemplo, gostaramos de saber quo prximo do verdadeiro E(Y/X
i
Y

i
). Para tanto, devemos no
apenas especificar a forma funcional do modelo, como, mas tambm formular certas hipteses sobre o modo
pelo qual so gerados.
i
Y

Preciso ou Erros-padro das Estimativas por Mnimos Quadrados

As estimativas por mnimos quadrados so uma funo dos dados da amostra. Mas como os dados
provavelmente variam de amostra para amostra, as estimativas variaro. Conseqentemente, o que se necessita
de alguma medida de confiabilidade ou preciso dos estimadores e . Na estatstica, a preciso de uma
estimativa medida por seu erro-padro (ep).
1

|
2

|
Data as hipteses os erros-padro das estimativas por MQO podem ser obtidos:

o |
o |
o
|
o
|

=
=
=
=
2
2
1
2
2
2
1
2
2
2
2
2
)

(
)

var(
)

(
)

var(
i
i
i
i
i
i
x n
X
ep
x n
X
x
ep
x


2

2
2

=

n
u
i
o

Em que var = varincia e ep = erro-padro, e a varincia constante ou homoscedstica de ui da
Hiptese 4 (ver captulo 2 e 3).
2
o

Propriedades dos Estimadores de Mnimos Quadrados: O Teorema de Gauss-Markov.

Dada as hipteses do modelo clssico de regresso linear, as estimativas por mnimos quadrados
possuem algumas propriedades ideais ou timas. Estas propriedades esto contidas no conhecido teorema de
Gauss-Markov. Para entender este teorema, precisa considerar a propriedade do melhor estimador linear
no-viesado para um estimador.
O estimador de MQO , um melhor estimador linear no-viesado (MELNV) de , caso seja vlido
o seguinte:
2

|
2

|

1. linear, isto , uma funo linear de uma varivel aleatria, tal como a varivel dependente Y no
modelo de regresso.
2. no-viesado, isto , seu valor mdio ou esperado, E(
2

| ), igual ao valor verdadeiro,

2

| .
3. Tem mnima varincia na classe de todos esses estimadores lineares no-viesados; um estimador no-
viesado com a menor varincia conhecido como um estimador eficiente.




6

O Coeficiente de Determinao r
2
: Uma Medida do Grau de Ajuste.

O coeficiente de determinao r
2
(caso de duas variveis) ou R
2
(regresso mltipla) uma medida
sinttica que diz quo bem a reta de regresso da amostra se ajusta aos dados.

( )
( )
SQT
SQE
Y Y
Y Y
r
i
i
=

2
2
2

Seja:
SQT = SQE + SQR

SQT = Soma dos Quadrados Total (SQT)
SQE = Soma dos Quadrados Explicada (SQE)
SQR = Soma dos Quadrados dos Resduos (SQR)

Alternativamente podemos escrever:

( )
SQT
SQR
Y Y
u
r
i
i
=

1
2
2
2


A quantidade r
2
assim definida conhecida como coeficiente de determinao (da amostra) e a medida
utilizada do grau de ajuste de uma reta de regresso. Traduzindo, r
2
mede a proporo ou a porcentagem da
variao total em Y explicada pelo modelo de regresso.
Duas propriedades de r2 podem ser destacadas:

1. uma quantidade no-negativa.
2. Seus limites so 0<=r
2
<=1. Um r
2
igual a 1 significa um perfeito ajuste, isto
i i
Y Y =

para todo i.
Por outro lado, um r
2
igual a zero significa que no h nenhuma relao entre o regredido e o
regressor.
7