21 Nov 2008 .

15:31
Clculo Numrico / Mtodos Numricos
Sistemas lineares
Mtodo dos Gradientes Conjugados
.
16:46
Relembrando: mtodo dos gradientes
Idia bsica. Para A simtrica > 0:
O vetor x que resolve Ax=b o mesmo vetor x que
minimiza:
F(x) = x
t
Ax - b
t
x
Por que ?
Isso ocorre pois grad(F(x)) = 0 , condio necessria
para mnimo implica Ax=b.
Alm disso, Hessiana = A > 0
.
16:46
Como resolver Min F(x) = x
t
Ax - b
t
x ?
chutamos um valor inicial: x
0
andamos na direo de menor decrescimento naquele
ponto: -grad(F(x
0
)), ou seja:
x
1
= x
0
- s grad(F(x
0
))
onde s o valor do passo! (o quanto andamos nesta
direo)
.
16:46
Interpretao grfica
Adaptado de http://www.dt.fee.unicamp.br/~valente/ia543.html - Prof. Paulo Valente
FEEC - Unicamp
passo
direo
.
16:46
Como achamos o passo ?
Buscamos o s que minimiza F(x + sr)
r a direo oposta ao gradiente: r = -grad(F) = b-Ax
s o passo
Min F(x + sr).
Isso ocorre quando dF/ds = 0.
Fazendo as contas:
.
16:46
Mtodo dos Gradientes - Algoritmo
Dados A, b, max e Erro
1) x
(0)
=0
2) k = 0
3) r = b - Ax
(k)
4) s = r
T
r/r
T
Ar
5) x
(k+1)
= x
(k)
+ s r
6) Se ||x
k+1
-x
k
||

/||x
k+1
||

< Erro ento faa soluo

= x
(k+1)
e PARE
7) k = k+1
8) Se (k<max) ento volte ao Passo 3.
9) Seno escreva que a soluo x
(k+1)
e o erro. PARE.
.
16:46
Mtodo dos Gradientes Conjugados
Definio 5.3 (Franco, 2007)
Dada a aplicao linear A, positiva definida, x e y so
direes conjugadas (A-ortogonais) se
(Ax,y) = (x,Ay) = 0.
i.e.
x
t
Ay = y
t
Ax = 0
.
16:46
Mtodo dos Gradientes Conjugados
Seja a matriz A simtrica (A
T=
A) e definida positiva
(x
T
Ax>0, para x 0). A base do mtodo dos
Gradientes Conjugados (CG) a seguinte propriedade:
Propriedade (Cunha, 2000): possvel escolher n
direes linearmente independentes, p
1
, p
2
,... p
n
, e por
meio da minimizao da funo F(x
(k)
+s
k
p
(k)
), em cada
uma das direes separadamente, construir uma
seqncia de aproximaes que fornea o mnimo da
funo F(x) = x
T
Ax b
T
x aps n passos (n o
nmero de equaes do sistema).
.
16:46
Idia:
Se A definida positiva e p
1
, p
2
... p
n
so n direes A-
ortogonais, ento essas direes so LI.
A soluo tima pode ser escrita como combinao
linear dessas n (dimenso de A) direes mais a
direo b.
No algoritmo anterior, se a cada passos usarmos uma
direo A-ortogonal, conseguiremos a soluo em n
passos.
.
16:46
Mtodo dos Gradientes Conjugados
Dada uma aproximao inicial x
(0)
, escolhemos a
primeira direo p
0
= r
0
= -grad(F(x
(0)
)).
As demais direes sero escolhidas de maneira que
cada direo seja perpendicular direo anterior.
Alm disso, fazemos com que cada direo seja uma
combinao do resduo anterior e da direo anterior:
coeficiente que ser determinado de modo que
p
k
seja conjugada a p
k-1
.
16:46
Mtodo dos Gradientes Conjugados
fazendo as direes conjugadas (obtendo ):
-
.
16:46
Mtodo dos Gradientes Conjugados
Passo:
x
k
= x
k-1
+ q
k
p
k
Obtemos como anteriormente: queremos o q
k
que
minimiza F.
.
16:46
derivando em relao a q
k
e igualando a zero:
.
16:46
.
16:46
Simplificaes
.
16:46
Simplificaes
Com isso, possvel simplificar as expresses de
q
k
(o passo)

k-1
(o multiplicador na expresso de p
(k)
)
.
16:46
Algoritmo
O primeiro passo como no caso dos gradientes
critrio de parada:
x x
x x
x x
x
x
-
-
.
16:46
Mtodo dos GC - Exemplo
Usando o mtodo dos GC resolva o sistema dado por:
E faa duas iteraes do mtodo dos gradientes
conjugados.

1
11
11
10 1 0
1 10 1
0 1 10
3
2
1
x
x
x
.
16:46
Exerccio I:
Use as propriedades:
Para simplificar:
.
16:46
Exerccio II
Dado os sistemas lineares:
a) construa funes quadrticas cujos mnimos sejam
solues dos sistemas.
b) resolva o sistema II pelo mtodo dos gradientes
c) resolva o sistema II pelo mtodo dos gradientes
conjugados.