Obtenção dos estimadores

Obtenha os estimadores de β0 e β1 a partir do Método dos Mínimos Quadrados,

cujo objetivo é encontrar a reta que passa mais próxima ao mesmo tempo de
todos os pontos. Neste caso, encontre os estimadores βˆ0 e βˆ1 que minimizam a
soma dos erros ao quadrado.
Temos que o ŷi estimado é dado pela relação: ŷi = βˆ0 + βˆ1 xi
E o erro é: ei = yi − ŷi

yi = βˆ0 + βˆ1 xi + ei

n 
X 2
S(βˆ0 , βˆ1 ) = yi − βˆ0 − βˆ1 xi
i=1

Aplicando a regra da cadeia para a derivada parcial sobre os eixos:

 
∂S ∂S ∂ yi − βˆ0 − βˆ1 xi
= P  ·
∂ βˆ0

∂
n
i=1 yi − βˆ0 − βˆ1 xi ∂ βˆ0

Temos que:

n 
∂S X 
 Pn   = 2 yi − βˆ0 − βˆ1 xi
∂ i=1 yi − βˆ0 − βˆ1 xi i=1

 Pn  
∂ i=1 yi − βˆ0 − βˆ1 xi
= −1
∂ βˆ0

Impondo a condição de valor mínimo do parabolóide para βˆ0 :

n
∂S X 
=2 yi − βˆ0 − βˆ1 xi (−1) = 0
∂ βˆ0 i=1

n
∂S X 
= −2 yi − βˆ0 − βˆ1 xi = 0
∂ βˆ0 i=1

E para βˆ1 :

1
  
∂S ∂S ∂ yi − βˆ0 − βˆ1 xi
= P  ·
∂ βˆ1

∂
n ˆ ˆ
i=1 yi − β0 − β1 xi
∂ βˆ1

n
∂S X  
= −2 xi yi − βˆ0 − βˆ1 xi = 0
∂ βˆ1 i=1

Dividindo por 2n e distribuindo

Pn Pn Pn
−2 i=1 yi 2 i=1 βˆ0 2 i=1 βˆ1 xi 0
+ + =
2n 2n 2n 2n

Pn Pn Pn
− i=1 yi i=1 βˆ0 βˆ1 i=1 xi
+ + =0
n n n

−ȳ + βˆ0 + βˆ1 x̄ = 0

Chegamos à expressão para βˆ0 :

βˆ0 = ȳ − βˆ1 x̄

Na expressão acima ȳ é a Média Amostral de y e x̄ é a Média Amostral de x

Podemos substituir βˆ0 na relação original:

n
X  
−2 xi yi − ȳ + βˆ1 x̄ − βˆ1 xi = 0
i=1

n h
X i
xi (yi − ȳ) + xi βˆ1 (x̄ − xi ) = 0
i=1

n
X n
X
xi (yi − ȳ) + βˆ1 xi (x̄ − xi ) = 0
i=1 i=1

Que nos dá, isolando β1 :

Pn
ˆ xi (yi − ȳ)
β1 = Pni=1
i=1 xi (x̄ − xi )

2
Reescrevendo levando em conta as relações
n
X n
X
2
(xi − x) = (x2i − xi x)
i=1 i=0

e
n
X n
X
(xi − x)(yi − y) = (xi yi − yi x)
i=1 i=0

desenvolvidas mais abaixo, temos:

Pn
(xi − x̄) (yi − ȳ)
βˆ1 = i=1
Pn 2
i=1 (xi − x̄)

Relações auxiliares

Temos que
n
1X
xi = x
n i=1

portanto

n
X
xi = nx
i=1

e temos que

n
1X
yi = y
n i=1

portanto
n
X
yi = ny
i=1

Relação 1

A igualdade abaixo é importante para entendermos a fórmula dos β :

n
X n
X
(xi − x)(yi − y) = (xi yi − yi x)
i=1 i=0

Vamos estudar como reescrever a relação:

3
 n
X
(xi − x)(yi − y)
i=1

Aplicando a propriedade distributiva:

n
X
(xi yi − xi y − xyi + xy) =
i=1

n
X n
X n
X n
X
xi yi − y xi − x yi + xy 1=
i=1 i=1 i=1 i=1

n
X
xi yi − ynx − xny + xyn =
i=1

n
X
xi yi − nxy
i=1

A relação acima pode ser escrita como:

n
X n
X n
X
xi yi − nxy = xi yi − x yi =
i=1 i=1 i=0

n
X
(xi yi − yi x)
i=0

Relação 2

Outra relação importante é a seguinte :

n
X n
X
(xi − x)2 = (x2i − xi x)
i=1 i=0

Vamos estudar como reescrever a relação:

n
X
(xi − x)2
i=1

Expandindo o quadrado:

4
 n
X
(x2i − 2xi x + x2 ) =
i=1

n
X n
X
x2i − 2nx2 + x2i x2 =
i=1 i=1

n
X
x2i − 2nx2 + nx2i x2 =
i=1

n
X
x2i − nx2 =
i=1

n
X n
X n
X
x2i − x2i − xi x


xi x =
i=1 i=1 i=1