Вы находитесь на странице: 1из 49

Método dos

Mínimos Quadrados

Julia Sawaki Tanaka


Diagrama de Dispersão
interpolação ajuste ou aproximação
O Método dos Mínimos Quadrados é um método de aproximação
de funções.

É utilizado quando:

Conhecemos pontos discretos de uma função f.

Conhecemos a forma analítica de uma função f.

Desejamos aproximar a função f por uma função g.


r ( x)= f ( x)− g ( x) ∑ r ( x)
x

f(x)
g(x)

∑ ∣r ( x)∣ ∑ r 2 ( x)
x x
O problema é escolher adequadamente a família de funções
aproximadoras.

Para isso, normalmente faz-se a observação do comportamento


dos pontos no diagrama de dispersão para ver a forma geral dos
pontos ou então deve-se basear em fundamentos teóricos do
experimento.
Apresentaremos o Método dos Mínimos Quadrados começando
pelo caso particular de ajuste de uma reta a uma tabela de pontos
(Regressão Linear) e depois generalizaremos o raciocínio para
aproximar uma função f por uma g da família G de funções que são
combinações lineares de funções conhecidas, gk , k=0,1,2,... ,m.

m
g ( x)=∑ a k g k ( x)
k =0
Regressão Linear

O objetivo agora é aproximar uma função f tabelada nos pontos


xi , i=1,2,...,n, n  2, por uma função g da família a0 + a1 x , pelo
Método dos Mínimos Quadrados.

Isto significa determinar os parâmetros a0 e a1 da reta a0 + a1 x de


modo que a soma dos quadrados dos resíduos nos pontos dados, seja
mínima.

O resíduo em cada ponto ( xi , f (xi )) é dado por:

r ( x i )= f ( x i )− g ( x i )
g ( x)=a 0 +a 1 x

i 1 2 3 4

xi 2 4 6 8
f (xi ) 1 2 2,5 4

n n
E (a 0 , a 1 ) = ∑ (r ( x i ))2 = ∑ ( f ( xi )−g ( xi ))2
i=1 i=1

g ( x i )=a 0 +a 1 xi
g ( x i )=a 0 +a 1 xi
n n
E (a 0 , a 1 ) = ∑ ( f ( xi )−g ( xi ))2 = ∑ ( f ( x i )−a0−a 1 xi )2
i=1 i=1

∂ E (a 0 , a 1) ∂ E (a 0 , a 1)
=0 =0
∂ a0 ∂ a1
n n
2 ∑ ( f ( x i )−a 0−a 1 x i )(−1) = 0 2 ∑ ( f ( x i )−a 0−a 1 xi )(−x i ) = 0
i=1 i=1
n n n n n n
−∑ f ( x i )+ ∑ a 0+ ∑ a 1 x i = 0 −∑ xi f ( xi )+ ∑ a 0 xi + ∑ a 1 x 2i = 0
i=1 i=1 i=1 i=1 i=1 i=1

n n n n n n

∑ a 0 + ∑ a1 x i = ∑ f ( x i ) ∑ a 0 xi + ∑ a 1 x 2
i = ∑ x i f ( xi )
i=1 i=1 i=1 i=1 i=1 i=1

n n n n n n
a 0 ∑ 1+ a 1 ∑ xi = ∑ f ( x i ) a0 ∑ xi+ a1 ∑ x = ∑ xi f ( xi) 2
i
i=1 i=1 i=1 i=1 i=1 i=1
n n n
a0 ∑ 1 + a1 ∑ xi = ∑ f ( xi )
i=1 i=1 i=1
Equações Normais
n n n
a 0 ∑ x i + a 1 ∑ xi2 = ∑ xi f ( xi)
i=1 i=1 i=1

[ ] [ ]
n n
n
∑ 1 ∑ xi ∑ f ( xi)
i=1
n

∑ xi ∑ x
i=1
n
2
i
[]
a0 =
a1
i=1
n

∑ xi f ( xi )
Sistema Normal

i=1 i=1
i=1

Este Sistema tem determinante positivo, portanto sempre tem


solução.
n n n
a 0 ∑ 1 + a1 ∑ x i = ∑ f ( xi) Eq.1
i=1 i=1 i=1
Equações Normais
n n n
a 0 ∑ xi + a 1 ∑ x = ∑ xi f ( xi )
2
i Eq.2
i=1 i=1 i=1

n n n n n n n
a 0 ∑ 1 ∑ x + a1 ∑ x i ∑ x = ∑ f ( xi) ∑ xi
2 2 2
Eq.1 ∑x 2
i
i=1 i=1
i
i=1 i=1
i
i=1 i=1
Eq.3
i=1

n n n n n n n

Eq.2 −∑ x i −a 0 ∑ xi ∑ x i − a 1 ∑ x i ∑ xi2 = −∑ x i ∑ x i f ( x i ) Eq.4


i=1 i=1 i=1 i=1 i=1 i=1 i=1

n n n n n n n n

Eq.3 + Eq.4 a 0 ∑ 1 ∑ x i − a 0 ∑ xi ∑ x i = ∑ f ( x i ) ∑ x i − ∑ xi ∑ x i f ( x i )
2 2

i=1 i=1 i=1 i=1 i=1 i=1 i=1 i=1

( (∑ ) )
n n 2 n n n n
a0 n ∑ x − 2
i xi = ∑ f ( xi ) ∑ x 2
i − ∑ xi ∑ x i f ( x i )
i=1 i=1 i=1 i=1 i=1 i=1
n n n n

∑ f ( x i ) ∑ xi2 − ∑ xi ∑ xi f ( xi)
i=1 i=1 i=1 i=1
a0 = 2

(∑ )
n n
n ∑ xi2 − xi
i=1 i=1

n n n n n n
a 0 ∑ 1 ∑ x i2 + a 1 ∑ xi ∑ x i2 = ∑ f ( xi ) ∑ xi2 Eq.3
i=1 i=1 i=1 i=1 i=1 i=1

n n n n
n ∑ f ( xi ) ∑ x i − ∑ xi ∑ f ( xi)
i=1 i=1 i=1 i=1
a1 = 2

(∑ )
n n
n∑ x − 2
i xi
i=1 i=1
( a0 , a1 ) é um ponto de mínimo de E ( a0 , a1 ) se o seu Hessiano 2E (a0 , a1 ) é
uma forma definida positiva.

[ ]
2 2
∂ E ( ā0 , ā1 ) ∂ E ( ā0 , ā1 )
2
2 ∂ E ( ā0 , ā1 ) ∂ a 02 ∂ a1 ∂ a0
∇ E ( ā0 , ā1 ) = 2
= 2
∂a ∂ E ( ā0 , ā1 ) ∂2 E ( ā0 , ā1 )
∂ a0 ∂ a1 ∂ a1
2
Exemplo de Regressão Linear

Como resultado de algum experimento, suponha que tenhamos


obtido os seguintes valores para a função f :

i 1 2 3 4

xi 2 4 6 8
f (xi ) 1 2 2,5 4
i 1 2 3 4

xi 2 4 6 8
f (xi ) 1 2 2,5 4

g ( x)=a 0+ a 1 x
n n n n

∑ f ( xi )∑ x 2
i − ∑ xi ∑ xi f ( xi)
i=1 i=1 i=1 i=1
a0 = 2

(∑ )
n n
n ∑ xi2 − xi
i=1 i=1

n n n
n ∑ xi f ( xi) − ∑ xi ∑ f ( x i )
i=1 i=1 i=1
a1 = 2

(∑ )
n n
n∑ x − 2
i xi
i=1 i=1
a0 = 0 e a 1 = 0,475

g ( x) = 0,475 x

i 1 2 3 4

xi 2 4 6 8
f (xi ) 1 2 2,5 4
g (xi ) 0,95 1,9 2,85 3,8
Método dos Mínimos Quadrados
Caso Geral

Apresentaremos agora a aproximação de uma função f por uma função g


da família G:

∑ a k g k ( x) = a 0 g 0 ( x) + a 1 g 1 ( x) + ⋯ + a m g m ( x)
k=0

linear nos parâmetros, pelo Método dos Mínimos Quadrados.

A escolha das funções gk deve ser feita baseada tanto no comportamento


da função f quanto nas propriedades desejadas para a função aproximadora.
Podemos dividir os problemas de aproximação de uma função em
dois casos distintos:

quando a função f é tabelada, ou seja, o domínio da função que se quer


aproximar é discreto;

quando a forma analítica da função f é conhecida, ou seja, o domínio


de f é contínuo.
Domínio Discreto

Para aproximar uma função f tabelada em n pontos distintos x1 , x2 ,


x3 ,...,xn , por uma função g da forma:
m
g ( x) = ∑ a k g k ( x) = a 0 g 0 ( x) + a 1 g 1 ( x) + ⋯ + a m g m ( x)
k =0

precisamos determinar a0 , a1 , ..., am que minimizam a soma dos quadrados


dos resíduos nos pontos x1 , x2 , x3 ,...,xn .
n n
E (a 0 , a 1 , ... , a m ) = ∑ (r ( x i ))2 = ∑ ( f ( x i )− g ( x i ))2
i=1 i=1
n n
E (a 0 , a 1 , ... , a m ) = ∑ (r ( x i )) =
2
∑ ( f ( x i )− g ( x i ))2
=
i=1 i=1
n
= ∑ ( f ( x i )−a0 g 0 ( x i )−a 1 g 1 ( x i )− ⋯ −a m g m ( x i ))
2

i=1

n
∂ E (a 0 , ... , a m)
= 2 ∑ ( f ( x i )−a 0 g 0 ( xi )− ⋯ −a m g m ( x i ))(−g 0 ( x i )) = 0
∂ a0 i=1

n
∂ E (a 0 , ... , a m)
= 2 ∑ ( f ( x i )−a 0 g 0 ( xi )− ⋯ −a m g m ( x i ))(−g 1 ( xi )) = 0
∂ a1 i=1

⋮ ⋮
n
∂ E (a 0 , ... , a m)
= 2 ∑ ( f ( x i )−a 0 g 0 ( xi )− ⋯ −a m g m ( x i ))(−g m ( x i )) = 0
∂ am i=1

n
∂ E (a0 , ... , a m )
= 2 ∑ ( f ( x i )−a 0 g 0 ( x i )− ⋯ −a m g m ( x i ))(− g s ( x i )) = 0
∂ as i=1
0⩽ s ⩽m
n
2 ∑ ( f ( x i )−a 0 g 0 ( x i )− ⋯ −a m g m ( xi ))(−g s ( x i )) = 0
i=1
0⩽ s ⩽m

n n n
−∑ f ( xi ) g s ( x i )+ ∑ a 0 g 0 ( x i ) g s ( x i )+ ⋯ + ∑ a m g m ( x i ) g s ( x i ) = 0
i=1 i=1 i=1

n n n

∑ a 0 g 0 ( x i ) g s ( xi )+ ⋯ + ∑ a m g m ( xi ) g s ( xi ) = ∑ f ( xi ) g s ( xi )
i=1 i=1 i=1

 As Equações Normais para 0 ≤ s ≤ m são:

n n n
a 0 ∑ g 0 ( x i ) g s ( x i )+ ⋯ + a m ∑ g m ( x i ) g s ( x i ) = ∑ f ( x i ) g s ( x i )
i=1 i=1 i=1
Exemplo de um Caso Geral
com Domínio Discreto
Observando um sinal no osciloscópio, verifica-se que ele
corresponde à superposição de dois efeitos, um oscilatório e outro
crescente. Assim, vamos aproximá-lo por uma função da família g(x) =
a0 x + a1 cos(x).

i 1 2 3 4

xi 2 4 6 8
f (xi ) 1 2 2,5 4

Neste exemplo: n=4 e m=1


g ( x) = a 0 g 0 ( x) + a1 g 1 ( x)

g ( x) = a 0 x+ a 1 cos( x)

g 0 ( x) = x

g 1 ( x) = cos( x)
n n n n
a 0 ∑ g 0 ( x i ) g s ( x i )+ a 1 ∑ g 1 ( x i ) g s ( x i )+ ⋯ + a m ∑ g m ( x i ) g s ( x i ) = ∑ f ( x i ) g s ( x i )
i=1 i=1 i=1 i=1

0⩽ s ⩽m

Em particular, para n = 4 e m = 1 temos:

4 4 4
a 0 ∑ g 0 ( x i ) g 0 ( xi )+ a 1 ∑ g 1 ( x i ) g 0 ( x i ) = ∑ f ( x i ) g 0 ( xi )
i=1 i=1 i=1

4 4 4
a 0 ∑ g 0 ( x i ) g 1 ( x i )+ a 1 ∑ g 1 ( xi ) g 1 ( x i ) = ∑ f ( xi ) g 1 ( x i )
i=1 i=1 i=1
4 4 4
a 0 ∑ (g 0 ( x i ))2 + a 1 ∑ g 1 ( xi ) g 0 ( x i ) = ∑ f ( x i ) g 0 ( x i )
i=1 i=1 i=1

4 4 4
a 0 ∑ g 0 ( x i ) g 1 ( x i )+ a 1 ∑ ( g 1 ( x i ))2 = ∑ f ( xi ) g 1 ( x i )
i=1 i=1 i=1

g 0 ( x) = x g 1 ( x) = cos( x)

i 1 2 3 4

xi 2 4 6 8
f (xi ) 1 2 2,5 4
g0(xi ) 2 4 6 8
g1(xi ) -0,4161 -0,6536 0,9602 -0,1455
a 0 = 0,4778 e a 1 = −0,2945

g ( x) = 0,4778 x − 0,2945 cos( x)

i 1 2 3 4

xi 2 4 6 8
f (xi ) 1 2 2,5 4
g (xi ) 1,0782 2,1038 2,5842 3,8654
Exemplo de Aproximação por uma Família de
Funções Não Lineares nos Parâmetros

Agora desejamos ajustar uma função f por outra função g de uma


família não linear nos parâmetros.

g ( x) = a 0 g 0 ( x) + a 1 g 1 ( x) + a 2 g 2 ( x) + ⋯

A dificuldade, e em alguns casos até mesmo a impossibilidade de


resolver sistemas de equações não lineares, nos leva à linearização nos
parâmetros.
Vamos aproximar a função f tabelada, por uma função g não linear
nos parâmetros, da família:

g ( x) = a e b x

ln( g ( x)) = ln (a eb x ) = ln(a) + ln (e b x ) = ln(a) + b x

ln( g ( x)) = a 0 + a 1 x

onde a 0 = ln(a) e a1 = b

a0
a=e e b = a1
i 1 2 3 4

xi 2 4 6 8
f (xi ) 1 2 2,5 4
ln ( f (xi )) 0 0,6931 0,9163 1,3863

n n n n

∑ f ( x i ) ∑ xi2 − ∑ xi ∑ xi f ( xi)
i=1 i=1 i=1 i=1
a0 = 2

(∑ )
n n
n ∑ xi2 − xi
i=1 i=1

n n n
n ∑ xi f ( xi) − ∑ xi ∑ f ( x i )
i=1 i=1 i=1
a1 = 2

(∑ )
n n
n ∑ x 2i − xi
i=1 i=1
a 0 = −0,3466 e a 1 = 0,2191

bx
g ( x) = a e ln( g ( x)) = ln (a ) + b x = a 0 + a 1 x

onde a 0 = ln(a) e a1 = b

a0
a 0 = ln(a) ⇒ e =a ⇒ a = e−0,3466 ⇒

a = 0,7071

b = 0,2191

0,2191 x
g ( x) = 0,7071 e
g ( x) = 0,7071 e 0,2191 x

i 1 2 3 4

xi 2 4 6 8
f (xi ) 1 2 2,5 4
g (xi ) 1,0959 1,6986 2,6327 4,0805
Agora, vamos aproximar a função f tabelada, por uma função g não
linear nos parâmetros, da família:

g ( x) = a xb

ln( g ( x)) = ln (a x b ) = ln(a) + ln ( x b) = ln (a ) + b ln( x)

ln( g ( x)) = a 0 + a 1 ln ( x)

onde a 0 = ln(a) e a1 = b
a0
a=e e b = a1
g ( x) = a xb

ln( g ( x)) = a 0 + a 1 ln ( x) onde a 0 = ln(a) e a1 = b

i 1 2 3 4

xi 2 4 6 8
ln ( xi ) 0,6931 1,3863 1,7918 2,0794
f (xi ) 1 2 2,5 4
ln ( f (xi )) 0 0,6931 0,9163 1,3863

a 0 = −0,6627 e a 1 = 0,9489
a0
a 0 = ln(a) ⇒ a=e ⇒ a = e−0,6627 ⇒
a = 0,5155 b = 0,9489

g ( x) = 0,5155 x0,9489
Série de Taylor
Série de Potências
Uma Série de Potências é uma série da forma:

∑ cn x n = c0 + c 1 x + c 2 x 2 + c 3 x 3 + ⋯
n=0

onde x é uma variável e cn's são constantes chamadas de coeficientes


da série.

A forma geral de uma Série de Potências centrada em x = a é:



∑ n
c ( x−a)n
= c 0 + c 1 ( x−a) + c 2 ( x−a)2
+ c 3 ( x−a)3
+⋯
n=0

A Série de Potências fornece uma maneira de representar, de forma


polinomial, as funções que aparecem na matemática, física e química.
Série de Taylor
Seja f uma função representada por uma série de potências:

f ( x) = ∑ c n ( x−a )n
n=0

f ( x) = c 0 + c1 ( x−a) + c 2 ( x−a)2 + c3 ( x−a)3 + ⋯ + c n ( x−a)n + ⋯ (1)

Tomando x = a, obtemos:

f (a) = c 0 + c1 (a−a) + c 2 (a−a)2 + ⋯ + c n (a−a)n + ⋯

f (a) = c 0

c0 = f (a)
f ( x) = c 0 + c1 ( x−a) + c 2 ( x−a)2 + c3 ( x−a)3 + ⋯ + c n ( x−a)n + ⋯ (1)

Derivando a função (1), obtemos:

f ' ( x) = c 1 + 2 c 2 ( x−a) + 3 c 3 ( x−a )2 + ⋯ + n c n ( x−a)n−1 + ⋯ (2)

Tomando x = a, obtemos:

f ' (a) = c 1 + 2 c 2 (a−a) + 3 c 3 (a−a)2 + ⋯ + n c n (a−a )n−1 + ⋯

f ' (a) = c 1

f ' (a)
c1 =
1!
2 3 n−1
f ' ( x) = c 1 + 2 c 2 ( x−a) + 3 c 3 ( x−a ) + 4 c 4 ( x−a) + ⋯ + n c n ( x−a ) + ⋯ (2)

Derivando a função (2), obtemos:

2 n−2
f ' ' ( x) = 2 c 2 + 2⋅3 c 3 ( x−a ) + 3⋅4 c 4 ( x−a) + ⋯ + (n−1)⋅n c n ( x−a) + ⋯ (3)

Tomando x = a, obtemos:

2 n−2
f ' ' (a) = 2 c 2 + 2⋅3 c 3 (a−a) + 3⋅4 c 4 (a−a ) + ⋯ + (n−1)⋅n c n (a−a ) +⋯

f ' ' (a) = 2c 2

f ' ' (a)


c2 =
2!
2 n−2
f ' ' ( x) = 2 c 2 + 2⋅3 c 3 ( x−a) + 3⋅4 c 4 ( x−a) + ⋯ + (n−1)⋅n c n ( x−a) + ⋯ (3)

Derivando a função (3), obtemos:

f ' ' ' ( x ) = 2⋅3c3 + 2⋅3⋅4 c 4 ( x−a) + ⋯ + (n−2)⋅(n−1)⋅n c n ( x−a)n−3 + ⋯

Tomando x = a, obtemos:

f ' ' ' (a) = 2⋅3 c 3 + 2⋅3⋅4 c 4 (a−a) + ⋯ + (n−2)⋅(n−1)⋅n c n (a−a)n−3 + ⋯

f ' ' ' (a) = 2⋅3 c 3

f ' ' ' (a ) f (n) (a )


c3 = No caso geral: c n =
3! n!

f ( x) = ∑ n
c ( x−a )n

n=0

(n)
f (a)
Substituindo o coeficiente c n = na função f acima, obtemos:
n!

f (n) (a)
f ( x) = ∑ ( x−a)n
n=0 n!

conhecida como Série de Taylor da função f em x = a (ou ao redor de a


ou centrada em a).

O caso especial quando a = 0 é denominado Série de Maclaurin.


f (n) (0) n
f ( x) = ∑ x
n=0 n!

f (n) (a)
f ( x) = ∑ ( x−a)n
n=0 n!

f (1) (a) f (2) (a) f (n)


(a)
f ( x) = f (a) + ( x−a) + ( x−a)2 + ⋯ + ( x−a)n + ⋯
1! 2! n!

f (1) (a)
P 1 ( x) = f (a) + ( x−a)
1!

f (1) (a) f (2) (a)


P 2 ( x) = f (a) + ( x−a) + ( x−a)2
1! 2!
⋮ ⋮
f (1) (a) f (2) (a) f (n)
(a)
P n ( x) = f (a) + ( x−a) + ( x−a)2 + ⋯ + ( x−a)n
1! 2! n!
Exemplo de Série de Taylor
Vamos determinar os polinômios de Taylor para f (x) = sen (x) em a = 0.

Para n = 1:

f (1) (a)
P 1 ( x) = f (a) + ( x−a)
1!
f (1) (0)
Como a = 0: P 1 ( x) = f (0) + x
1!
cos(0)
P 1 ( x) = sen(0)+ x
1

P 1 ( x) = 0 + 1 x ⇒ P 1 ( x) = x
Para n = 2:

f (1) (a) f (2) (a)


P 2 ( x) = f (a) + ( x−a) + ( x−a)2
1! 2!

Como a = 0:

f (1) (0) f (2) (0) 2


P 2 ( x) = f (0) + x+ x
1! 2!

Como f (x) = sen (x):

cos(0) sen(0) 2
P 2 ( x) = sen(0) + x− x
1 2

0
P 2 ( x) = 0+ 1 x− ⇒ P 2 ( x) = x
2
Para n = 3:

f (1) (a) f (2) (a) 2 f (3) (a)


P 3 ( x) = f (a) + ( x−a) + ( x−a) + ( x−a)3
1! 2! 3!

Como a = 0:

f (1) (0) f (2) (0) 2 f (3) (0) 3


P 3 ( x) = f (0) + x+ x + x
1! 2! 3!

Como f (x) = sen (x):

cos(0) sen(0) 2 cos(0) 3


P 3 ( x) = sen(0) + x− x − x
1 2 6

1 x3
P 3 ( x) = 0+ 1 x−0− x 3 ⇒ P 3 ( x) = x−
6 6
Para n = 5:

f (1) (0) f (2) (0) 2 f (3) (0) 3 f (4) (0) 4 f (5) (0) 5
P 5 ( x) = f (0) + x+ x + x + x + x
1! 2! 3! 4! 5!

cos(0) sen(0) 2 cos(0) 3 sen(0) 4 cos(0) 5


P 5 ( x) = sen(0) + x− x − x + x + x
1 2 6 24 120

1 1 5
P 5 ( x) = 0+ 1 x−0− x 3+ 0+ x
6 120

x 3 x5
P 5 ( x) = x− +
6 120
Para n = 7:

cos(0) cos(0) 3 cos(0) 5 cos(0) 7


P 7 ( x) = x− x + x − x
1! 3! 5! 7!

1 1 5 1
P 7 ( x) = x− x 3+ x− x7
6 120 5040

x3 x5 x7
P 7 ( x) = x− + −
6 120 5040
Linearização por Expansão em Série de Taylor
Para linearizar uma função, podemos expandir a função não-linear
em Série de Taylor em torno de um ponto, desprezando-se todos os
termos após a primeira derivada.

f (1) (a)
f ( x) ≈ f (a) + ( x−a)
1!

f (a) ≈ f ( ā ) + f ' ( ā )(a−ā )

onde a− ̄a = ε0

f (a) ≈ f ( ā ) + f ' ( ā )ε0


bx
Vamos linearizar a função g ( x) = a e expandindo-a em Série de
Taylor em torno de um ponto a
̄ e desprezando todos os termos de
ordem superior a 1.

f (a) ≈ f ( ā ) + f ' ( ā )(a−ā )

h(a , b) = a eb x

̄ ∂ h( ā , ̄b ) ∂ h( ā , ̄b )
h(a , b) ≈ h( ̄a , b ) + (a− ̄a ) + (b−̄b )
∂a ∂b
onde: a− a
̄ = ε0 e b−̄b = ε1

∂ h( a
̄ , ̄b ) ∂ h( a
̄ , ̄b )
h(a , b) ≈ h( ā , ̄b ) + ε0 + ε1
∂a ∂b