Chap 1

Introduction
Lobjet de lanalyse numrique est de concevoir et dtudier des mthodes de rsolution de certains problmes
mathmatiques, en gnral issus de la modlisation de problmes rels", et dont on cherche calculer la solution
laide dun ordinateur.
Le cours est structur en quatre grands chapitres :
Systmes linaires
Systmes non linaires
Optimisation
Equations diffrentielles.
On pourra consulter les ouvrages suivants pour ces diffrentes parties (ceci est une liste non exhaustive !) :
P.G. Ciarlet, Introduction lanalyse numrique et loptimisation, Masson, 1982, (pour les chapitre 1 3 de ce
polycopi).
M. Crouzeix, A.L. Mignot, Analyse numrique des quations diffrentielles, Collection mathmatiques appli-
ques pour la maitrise, Masson, (pour le chapitre 4 de ce polycopi).
J.P. Demailly, Analyse numrique et quations diffrentielles Collection Grenoble sciences Presses Universi-
taires de Grenoble
L. Dumas, Modlisation loral de lagrgation, calcul scientique, Collection CAPES/Agrgation, Ellipses,
1999.
J. Hubbard, B. West, Equations diffrentielles et systmes dynamiques, Cassini.
P. Lascaux et R. Thodor, Analyse numrique matricielle applique lart de lingnieur, tomes 1 et 2, Masson,
1987
L. Sainsaulieu, Calcul scientique cours et exercices corrigs pour le 2me cycle et les coles dingnieurs,
Enseignement des mathmatiques, Masson, 1996.
M. Schatzman, Analyse numrique, cours et exercices, (chapitres 1,2 et 4).
D. Serre, Les matrices, Masson, (2000). (chapitres 1,2 et 4).
P. Lascaux et R. Theodor, Analyse numrique sapplique aux sciences de lingnieur, Paris, (1994)
R. Temam, Analyse numrique, Collection SUP le mathmaticien, Presses Universitaires de France, 1970.
Et pour les anglophiles...
M. Braun, Differential Equations and their applications, Springer, New York, 1984 (chapitre 4).
G. Dahlquist and A. Bjrck, Numerical Methods, Prentice Hall, Series in Automatic Computation, 1974, Engle-
wood Cliffs, NJ.
R. Fletcher, Practical methods of optimization, J. Wiley, New York, 1980 (chapitre 3).
G. Golub and C. Van Loan, Matrix computations, The John Hopkins University Press, Baltimore (chapitre 1).
R.S. Varga, Matrix iterative analysis, Prentice Hall, Englewood Cliffs, NJ 1962.
Ce cours a t rdig pour la licence de mathmatiques par tl-enseignement de luniversit dAix-Marseille 1.
Chaque chapitre est suivi dun certian nombre dexercices. On donne ensuite des suggestions pour effectuer les
exercices, puis des corrigs dtaills. Il est fortement conseill dessayer de faire les exercices dabord sans ces
indications, et de ne regarder les corrigs dtaills quune fois lexercice achev (mme si certaines questions nont
pas pu tre effectues), ceci pour se prparer aux conditions dexamen.
3
Chapitre 1
Systmes linaires
1.1 Objectifs
On note M
N
(IR) lensemble des matrices carres dordre N. Soit A M
N
(IR) une matrice inversible, et b
IR
N
, on a comme objectif de rsoudre le systme linaire Ax = b, cest dire de trouver x solution de :
_
x IR
N
Ax = b
(1.1)
Comme A est inversible, il existe un unique vecteur x IR
N
solution de (1.1). Nous allons tudier dans les deux
chapitres suivants des mthodes de calcul de ce vecteur x : la premire partie de ce chapitre sera consacre aux
mthodes directes" et la deuxime aux mthodes itratives". Nous aborderons ensuite en troisime partie les
mthodes de rsolution de problmes aux valeurs propres.
Un des points essentiels dans lefcacit des mthodes envisages concerne la taille des systmes rsoudre. Entre
1980 et 2000, la taille de la mmoire des ordinateurs a augment de faon drastique. La taille des systmes quon
peut rsoudre sur ordinateur a donc galement augment, selon lordre de grandeur suivant :
1980 : matrice pleine (tous les termes sont non nuls) N = 10
2
matrice creuse N = 10
6
2000 : matrice pleine N = 10
6
matrice creuse N = 10
8
Le dveloppement des mthodes de rsolution de systmes linaires est lie lvolution des machines infor-
matiques. Un grand nombre de recherches sont dailleurs en cours pour proter au mieux de larchitecture des
machines (mthodes de dcomposition en sous domaines pour proter des architectures parallles, par exemple).
Dans la suite de ce chapitre, nous verrons deux types de mthodes pour rsoudre les systmes linaires : les
mthodes directes et les mthodes itratives. Pour faciliter la comprhension de leur tude, nous commenons par
quelques rappels dalgbre linaire.
1.2 Quelques rappels dalgbre linaire
1.2.1 Norme induite
Dnition 1.1 (Norme matricielle, norme induite) On note M
N
(IR) lespace vectoriel (sur IR) des matrices
carres dordre N.
1. On appelle norme matricielle sur M
N
(IR) une norme sur M
N
(IR) t.q.
AB AB, A, B M
N
(IR) (1.2)
2. On considre IR
N
muni dune norme . On appelle norme matricielle induite (ou norme induite) sur
M
N
(IR) par la norme , encore note , la norme sur M
N
(IR) dnie par :
A = sup{Ax; x IR
N
, x = 1}, A M
N
(IR) (1.3)
4
1.2. QUELQUES RAPPELS DALGBRE LINAIRE CHAPITRE 1. SYSTMES LINAIRES
Proposition 1.2 Soit M
N
(IR) muni dune norme induite . Alors pour toute matrice A M
N
(IR), on a :
1. Ax A x, x IR
N
,
2. A = max
_
Ax ; x = 1, x IR
N
_
,
3. A = max
_
Ax
x
; x IR
N
\ {0}
_
.
4. est une norme matricielle.
Dmonstration :
1. Soit x IR
N
\ {0}, posons y =
x
x
, alors y = 1 donc Ay A. On en dduit
Ax
x
A et
donc Ax A x. Si maintenant x = 0, alors Ax = 0, et donc x = 0 et Ax = 0 ; lingalit
Ax A x est encore vrie.
2. Lapplication dnie de IR
N
dans IR par : (x) = Ax est continue sur la sphre unit S
1
= {x
IR
N
| x = 1} qui est un compact de IR
N
. Donc est borne et atteint ses bornes : il existe x
0
IR
N
tel
que A = Ax
0
3. La dernire galit rsulte du fait que

Ax
x
= A
x
x
et
x
x
S
1
pour tout x = 0.
Proposition 1.3 Soit A = (a
i,j
)
i,j{1,...,N}
M
N
(IR).
1. On munit IR
N
de la norme
et M
N
(IR) de la norme induite correspondante, note aussi
. Alors
A
= max
i{1,...,N}
N
j=1
|a
i,j
|. (1.4)
2. On munit IR
N
de la norme
1
et M
N
1
. Alors
A
1
= max
j{1,...,N}
N
i=1
|a
i,j
| (1.5)
3. On munit IR
N
de la norme
2
et M
N
2
.
A
2
= ((A
t
A))
1
2
. (1.6)
La dmonstration de cette proposition fait lobjet de lexercice 3 page 32
1.2.2 Rayon spectral
Dnition 1.4 (Valeurs propres et rayon spectral) Soit A M
N
(IR) une matrice inversible. On appelle valeur
propre de A tout Cl tel quil existe x Cl
N
, x = 0 tel que Ax = x. Llment x est appel vecteur propre de
A associ . On appelle rayon spectral de A la quantit (A) = max{||; Cl , valeur propre de A}.
Lemme 1.5 (Convergence et rayon spectral) On munit M
N
(IR) dune norme, note . Soit A M
N
(IR).
Alors :
1. (A) < 1 si et seulement si A
k
0 quand k .
2. (A) < 1 limsup
k
A
k
1
k
1.
3. liminf
k
A
k
1
k
< 1 (A) < 1.
4. (A) = lim
k
A
k
1
k
.
5. On suppose de plus que une norme matricielle (induite ou non). Alors
(A) A.
Analyse numrique I, Tl-enseignement, L3 5 Universit Aix-Marseille 1, R. Herbin, 18 janvier 2012
La dmonstration de ce lemme fait lobjet de lexercice 5 page 32. Elle ncessite un rsultat dapproximation du
rayon spectral par une norme induite bien choisie, que voici :
Remarque 1.6 (Convergence des suites) Une consquence immdiate du lemme 1.5 page 5 est que la suite (x
(k)
)
kIN
dnie par x
(k+1)
= Ax
(k)
, converge vers 0 pour tout x
(0)
donn si et seulement si (A) < 1.
Proposition 1.7 (Rayon spectral et norme induite) Soient A M
N
(IR) et > 0. Il existe une norme sur IR
N
(qui dpend de A et ) telle que la norme induite sur M
N
(IR), note
A,
, vrie A
A,
(A) + .
Dmonstration :
Soit A M
N
(IR), alors par le lemme 1.8 donn ci-aprs, il existe une base (f
1
, . . . , f
N
) de Cl
N
et une famille
de complexes (
i,j
)
i,j=1,...,N,ji
telles que Af
i
=
ji

i,j
f
j
. Soit ]0, 1[, pour i = 1, . . . , N, on dnit
e
i
=
i1
f
i
. La famille (e
i
)
i=1,...,N
forme une base de Cl
N
. On dnit alors une norme sur IR
N
par x =
(
N
i=1

i
i
)
1/2
, o les
i
sont les composantes de x dans la base (e
i
)
i=1,...,N
. Notons que cette norme dpend de
A et de . Soit > 0. Montrons que si bien choisi, on a A (A) + . Soit x =
i=1,...,N

i
e
i
. Comme
Ae
i
= A(
i1
f
i
) =
i1
ji
i,j
f
j
=
i1
ji
i,j
1j
e
j
=
1ji
ij
i,j
e
j
,
on a donc :
Ax =
N
i=1
1ji
ij
i,j
i
e
j
=
N
j=1
_
N
i=j
ij
i,j
i
_
e
j
On en dduit que
Ax
2
=
N
j=1
_
N
i=j
ij
i,j
i
__
N
i=j
ij
i,j
i
_
,
soit encore
Ax
2
=
N
j=1
j,j
j,j
j
+
N
j=1
k,j
(k,)=(j,j)
k+2j
k,j
,j
.
Comme ]0, 1[, on en conclut que :
Ax
2
(A)x
2
+N
3
(A)
2
x
2
.
Do le rsultat, en prenant tel que N
3
(A)
2
< .
Lemme 1.8 (Triangularisation dune matrice) Soit A M
N
(IR) une matrice carre quelconque, alors il existe
une base (f
1
, . . . , f
N
) de Cl et une famille de complexes (
i,j
)
i=1,...,N,j=1,...,N,j<i
telles que Af
i
=
i,i
f
i
+
j<i

i,j
f
j
. De plus
i,i
est valeur propre de A pour tout i {1, . . . , N}.
On admettra ce lemme.
Nous donnons maintenant un thorme qui nous sera utile dans ltude du conditionnement, ainsi que plus tard
dans ltude des mthodes itratives.
Thorme 1.9 (Matrices de la forme Id +A)
1. Soit une norme matricielle induite, Id la matrice identit de M
N
(IR) et A M
N
(IR) telle que A < 1.
Alors la matrice Id +A est inversible et
(Id +A)
1

1
1 A
.
2. Si une matrice de la forme Id + A M
N
(IR) est singulire, alors A 1 pour toute norme matricielle
.
Dmonstration :
1. La dmonstration du point 1 fait lobjet de lexercice 9 page 33.
2. Si la matrice Id + A M
N
(IR) est singulire, alors = 1 est valeur propre, et donc en utilisant la
proposition 1.7, on obtient que A (A) 1.
1.2.3 Matrices diagonalisables
Dnition 1.10 (Matrice diagonalisable) Soit A une matrice relle carre dordre n. On dit que A est diago-
nalisable dans IR si il existe une base (
1
, . . . ,
n
) et des rels
1
, . . . ,
n
(pas forcment distincts) tels que
A
i
=
i
i
pour i = 1, . . . , n. Les rels
1
, . . . ,
n
sont les valeurs propres de A, et les vecteurs
1
, . . . ,
n
sont
les vecteurs propres associs.
Vous connaissez srement aussi la diagonalisation dans Cl : une matrice relle carre dordre n est diagonalisable
dans Cl si il existe une base (
1
, . . . ,
n
) de Cl
n
et des nombres complexes
1
, . . . ,
n
(pas forcment distincts)
tels que A
i
=
i
i
pour i = 1, . . . , n. Ici et dans toute la suite, comme on rsout des systmes linaire rels, on
prfre travailler avec la diagonlaisation dans IR ; cependant il y a des cas o la diagonalisation dans Cl est utile et
mme ncessaire (tude de stabilit des systmes difrentiels, par exemple). Par souci de clart, nous prciserons
toujours si la diagonalisation considre est dans IR ou dans Cl .
Lemme 1.11 Soit A une matrice relle carre dordre n, diagonalisable dans IR. Alors
A = Pdiag(
1
, . . . ,
n
)P
1
,
o P est la matrice dont les vecteurs colonnes sont gaux aux vecteurs
1
, . . . ,
n
.
Dmonstration Soit P la matrice dnie (de manire unique) par Pe
i
=
i
, o (e
i
)
i=1,...,n
est la base canonique
de IR
n
, cest--dire que (e
i
)
j
=
i,j
. La matrice P est appele matrice de passage de la base (e
i
)
i=1,...,n
la base
(
i
)
i=1,...,n
; la i-me colonne de P est constitue des composantes de
i
dans la base canonique (e
1
, . . . , e
N
).
La matrice P est videmment inversible, et on peut crire :
A
i
= APe
i
=
i
i
,
de sorte que :
P
1
APe
i
=
i
P
1
i
=
i
e
i
.
On a donc bien P
1
AP = diag(
1
, . . . ,
n
) (ou encore A = Pdiag(
1
, . . . ,
n
)P
1
).
La diagonalisation des matrices relles symtriques est un outil quon utilisera souvent dans la suite, en particulier
dans les exercices.
Lemme 1.12 Soit E un espace vectoriel sur IR de dimension nie : dimE = n, n IN
, muni dun produit

scalaire i.e. dune application
E E IR,
(x, y) (x | y)
E
,
qui vrie :
x E, (x | x)
E
0 et (x | x)
E
= 0 x = 0,
(x, y) E
2
, (x | y)
E
= (y | x)
E
,
y E, lapplication de E dans IR, dnie par x (x | y)
E
est linaire.
Ce produit scalaire induit une norme sur E, x =
_
(x | x)
E
.
Soit T une application linaire de E dans E. On suppose que T est symtrique, c..d. que (T(x) | y)
E
= (x |
T(y))
E
, (x, y) E
2
. Alors il existe une base orthonorme (f
1
. . . f
n
) de E (c..d. telle que (f
i
, f
j
)
E
=
i,j
) et
(
1
. . .
n
) IR
n
tels que T(f
i
) =
i
f
i
pour tout i {1 . . . n}.
Consquence immdiate : Dans le cas o E = IR
N
, le produit scalaire canonique de x = (x
1
, . . . , x
N
)
t
et
y = (y
1
, . . . , y
N
)
t
est dni par (x | y)
E
= x y =
N
i=1
x
i
y
i
. Si A M
N
(IR) est une matrice symtrique, alors
lapplication T dnie de E dans E par : T(x) = Ax est linaire, et : (Tx|y) = Ax y = x A
t
y = x Ay =
(x | Ty). Donc T est linaire symtrique. Par le lemme prcdent, il existe (f
1
. . . f
N
) et (
1
. . .
N
) IR tels
que Tf
i
= Af
i
=
i
f
i
i {1, . . . , N} et f
i
f
j
=
i,j
, (i, j) {1, . . . , N}
2
.
Interprtation algbrique : Il existe une matrice de passage P de (e
1
, . . . , e
N
) base canonique dans (f
1
, . . . , f
N
)
dont la premire colonne de P est constitue des coordonnes de f
i
dans (e
1
. . . e
N
). On a : Pe
i
= f
i
. On a alors
P
1
APe
i
= P
1
Af
i
= P
1
(
i
f
i
) =
i
e
i
= diag(
1
, . . . ,
N
)e
i
, o diag(
1
, . . . ,
N
) dsigne la matrice
diagonale de coefcients diagonaux
1
, . . . ,
N
. On a donc :
1.3. LES MTHODES DIRECTES CHAPITRE 1. SYSTMES LINAIRES
P
1
AP =
_
i
0
.
.
.
0
N
_
_ = D.
De plus P est orthogonale, i.e. P
1
= P
t
. En effet,
P
t
Pe
i
e
j
= Pe
i
Pe
j
= (f
i
|f
j
) =
i,j
i, j {1 . . . N},
et donc (P
t
Pe
i
e
i
) e
j
= 0 j {1 . . . N} i {1, . . . N}. On en dduit P
t
Pe
i
= e
i
pour tout i = 1, . . . N,
i.e. P
t
P = PP
t
= Id.
Dmonstration du lemme 1.12 Cette dmonstration se fait par rcurrence sur la dimension de E.
1re tape.
On suppose dimE = 1. Soit e E, e = 0, alors E = IRe = f
1
avec f
1
=
e
e
. Soit T : E E linaire
symtrique, on a : Tf
1
IRf
1
donc il existe
1
IR tel que Tf
1
=
1
f
1
.
2me tape.
On suppose le lemme vrai si dimE < n. On montre alors le lemme si dimE = n. Soit E un espace vectoriel
norm sur IR tel que dimE = n et T : E E linaire symtrique. Soit lapplication dnie par :
: E IR
x (Tx|x).
Lapplication est continue sur la sphre unit S
1
= {x E| x = 1} qui est compacte car dimE < +; il
existe donc e S
1
tel que (x) (e) = (Te | e) = pour tout x E. Soit y E \ {0}, et soit t ]0,
1
y
[
alors e +ty = 0. On en dduit que :
e +ty
e +ty
S
1
donc (e) =
_
T
(e +ty)
e +ty
|
e +ty
e +ty
_
E
donc (e +ty | e +ty)
E
(T(e +ty) | e +ty). En dveloppant on obtient :
[2t(e | y) +t
2
(y | y)
E
] 2t(T(e) | y) +t
2
(T(y) | y)
E
.
Comme t > 0, ceci donne :
[2(e | y) +t(y | y)
E
] 2(T(e) | y) +t(T(y) | y)
E
.
En faisant tendre t vers 0
+
, on obtient 2(e | y)
E
2(T(e) | y), Soit 0 (T(e) e | y) pour tout y E \ {0}.
De mme pour z = y on a 0 (T(e) e|z) donc (T(e) e | y) 0. Do (T(e) e | y) = 0 pour tout
y E. On en dduit que T(e) = e. On pose f
n
= e et
n
= .
Soit F = {x E; (x | e) = 0}, on a donc F = E, et E = F
IRe : on peut dcomposer x E comme

(x = x (x | e)e + (x | e)e). Lapplication S = T|
F
est linaire symtrique et on a dimF = n 1. et
S(F) F. On peut donc utiliser lhypothse de rcurrence : (
1
. . .
n1
) IR
n
et (f
1
. . . f
n1
) E
n
tels
que i {1 . . . n 1}, Sf
i
= Tf
i
=
i
f
i
, et i, j {1 . . . n 1}, (f
i
| f
j
) =
i,j
. Et donc (
1
. . .
N
) et
(f
1
. . . f
N
) conviennent.
1.3 Les mthodes directes
1.3.1 Dnition
Dnition 1.13 (Mthode directe) On appelle mthode directe de rsolution de (1.1) une mthode qui donne
exactement x (A et b tant connus) solution de (1.1) aprs un nombre ni doprations lmentaires (+, , , /).
Parmi les mthodes de rsolution du systme (1.1) on citera :
- la mthode de Gauss (avec pivot)
- la mthode LU, qui est une rcriture de la mthode Gauss.
Nous rappelons la mthode de Gauss et la mthode LU et nous tudierons plus en dtails la mthode de Choleski,
qui est adapte aux matrices symtriques.
1.3.2 Mthode de Gauss et mthode LU
Soit A M
N
(IR) une matrice inversible, et b IR
N
. On cherche calculer x IR
N
tel que Ax = b. Le principe
de la mthode de Gauss est de se ramener, par des oprations simples (combinaisons linaires), un systme
triangulaire quivalent, qui sera donc facile inverser. On pose A
(1)
= A et b
(1)
= b. Pour i = 1, . . . , N 1, on
cherche calculer A
(i+1)
et b
(i+1)
tels que les systmes A
(i)
x = b
(i)
et A
(i+1)
x = b
(i+1)
soient quivalents, o
A
(i)
est une matrice de la forme suivante :
a
(N)
1,1
a
(N)
1,N
0
A
(N)
=
0
0
a
(N)
N,N
a
(1)
1,1
a
(i)
i,i
a
(i)
i+1,i
a
(i)
N,i
a
(i)
N,N
a
(1)
1,N
0
0
0 0
A
(i)
=
FIGURE 1.1 Allure des matrices de Gauss ltape i et ltape N
Une fois la matrice A
(N)
(triangulaire suprieure) et le vecteur b
(N)
calculs, il sera facile de rsoudre le systme
A
(N)
x = b
(N)
. Le calcul de A
(N)
est ltape de factorisation", le calcul de b
(N)
ltape de descente", et le calcul
de x ltape de remonte". Donnons les dtails de ces trois tapes.
Etape de factorisation et descente Pour passer de la matrice A
(i)
la matrice A
(i+1)
, on va effectuer des
combinaisons linaires entre lignes qui permettront dannuler les coefcients de la i-me colonne situs en dessous
de la ligne i (dans le but de se rapprocher dune matrice triangulaire suprieure). Evidemment, lorsquon fait ceci,
il faut galement modier le second membre b en consquence. Ltape de factorisation et descente scrit donc :
1. Pour k i et pour j = 1, . . . , N, on pose a
(i+1)
k,j
= a
(i)
k,j
et b
(i+1)
k
= b
(i)
k
.
2. Pour k > i, si a
(i)
i,i
= 0, on pose :
a
(i+1)
k,j
= a
(i)
k,j

a
(i)
k,i
a
(i)
i,i
a
(i)
i,j
, pour k = j, . . . , N, (1.7)
b
(i+1)
k
= b
(i)
k

a
(i)
k,i
a
(i)
i,i
b
(i)
i
. (1.8)
La matrice A
(i+1)
est de la forme donne sur la gure 1.3.2. Remarquons que le systme A
(i+1)
x = b
(i+1)
est
bien quivalent au systme A
(i)
x = b
(i)
.
Si la condition a
(i)
i,i
= 0 est vrie pour i = 1 N, on obtient par le procd de calcul ci-dessus un systme
linaire A
(N)
x = b
(N)
quivalent au systme Ax = b, avec une matrice A
(N)
triangulaire suprieure facile
inverser. On verra un peu plus loin les techniques de pivot qui permettent de rgler le cas o la condition a
(i)
i,i
= 0
nest pas vrie.
Etape de remonte Il reste rsoudre le systme A
(N)
x = b
(N)
. Ceci est une tape facile. Comme A
(N)
est une
matrice inversible, on a a
(i)
i,i
= 0 pour tout i1, . . . , N, et comme A
(N)
est une matrice triangulaire suprieure, on
peut donc calculer les composantes de x en remontant", cestdire de la composante x
N
la composante x
1
:
x
N
=
b
(N)
N
a
(N)
N,N
,
x
i
=
1
a
(N)
i,i
(b
(i)
j=i+1,N
a
(N)
i,j
x
j
), i = N 1, . . . , 1.
a
(1)
1,1
a
(i+1)
i+1,i+1
a
(i+1)
i+2,i+1
a
(i+1)
N,N
a
(1)
1,N
a
(i+1)
N,i+1
0
0
0
0
A
(i+1)
=
FIGURE 1.2 Allure de la matrice de Gauss ltape i + 1
Cot de la mthode de Gauss (nombre doprations) On peut montrer (on fera le calcul de manire dtaille
pour la mthode de Choleski dans la section suivante, le calcul pour Gauss est similaire) que le nombre doprations
ncessaires pour effectuer les tapes de factorisation, descente et remonte est
2
3
N
3
+O(N
2
).
En ce qui concerne la place mmoire, on peut trs bien stocker les itrs A
(i)
dans la matrice A de dpart, ce quon
na pas voulu faire dans le calcul prcdent, par souci de clart.
Dcomposition LU Si le systme Ax = b doit tre rsolu pour plusieurs second membres b, il est vident quon
a intrt ne faire ltape de factorisation (i.e. le calcul de A
(N)
), quune seule fois, alors que les tapes de descente
et remonte (i.e. le calcul de b
(N)
et x) seront faits pour chaque vecteur b. Ltape de factorisation peut se faire en
dcomposant la matrice A sous la forme LU.
On admettra le thorme suivant (voir par exemple le livre de Ciarlet cit en dbut de cours.
Thorme 1.14 (Dcomposition LU dune matrice) Soit A M
N
(IR) une matrice inversible, il existe une ma-
trice de permutation P telle que, pour cette matrice de permutation, il existe un et un seul couple de matrices
(L, U) o L est triangulaire infrieure de termes diagonaux gaux 1 et U est triangulaire suprieure, vriant
PA = LU.
Cette dcomposition peut se calculer trs facilement partir de la mthode de Gauss. Pour simplier lcriture, on
supposera ici que lors de la mthode de Gauss, la condition a
(i)
i,i
= 0 est vrie pour tout i = 1, . . . , N. Dans
ce cas, la matrice de permutation P du thorme 1.14 est la matrice identit. La matrice L a comme coefcients
i,j
=
a
(i)
k,i
a
(i)
i,i
pour k > i,
i,i
= 1 pour tout i = 1, . . . , N, et
i,j
= 0 pour j > i, et la matrice U est gale la
matrice A
(N)
. On peut vrier que A = LU grce au fait que le systme A
(N)
x = b
(N)
est quivalent au systme
Ax = b. En effet, comme A
(N)
x = b
(N)
et b
(N)
= L
1
b, on en dduit que LUx = b, et comme A et LU sont
inversibles, on en dduit que A
1
b = (LU)
1
b pour tout b IR
N
. Ceci dmontre que A = LU.
Techniques de pivot Dans la prsentation de la mthode de Gauss et de la dcomposition LU, on a suppos que
la condition a
(i)
i,i
= 0 tait vrie chaque tape. Or il peut savrer que ce ne soit pas le cas, ou que, mme si la
condition est vrie, le pivot" a
(i)
i,i
soit trs petit, ce qui peut entraner des erreurs darrondi importantes dans les
calculs. On peut rsoudre ce problme en utilisant les techniques de pivot partiel" ou pivot total", qui reviennent
choisir une matrice de permutation P qui nest pas forcment gale la matrice identit dans le thorme 1.14.
Plaons-nous litration i de la mthode de Gauss. Comme la matrice A
(i)
est forcment non singulire, on a :
det(A
(i)
) = a
(i)
1,1
a
(i)
2,2
a
(i)
i1,i1
det
_
_
_
_
a
(i)
i,i
. . . a
(i)
i,N
.
.
.
.
.
.
.
.
.
a
(i)
N,i
. . . a
(i)
N,N
_
_
_
_
= 0.
On a donc en particulier
det
_
_
_
_
a
(i)
i,i
. . . a
(i)
i,N
.
.
.
.
.
.
.
.
.
a
(i)
N,i
. . . a
(i)
N,N
_
_
_
_
= 0.
Pivot partiel On dduit quil existe i
0
{i, . . . , N} tel que a
(i)
i0,i
= 0. On choisit alors i
0
{i, . . . , N} tel que
|a
(i)
i0,i
| = max{|a
(i)
k,i
|, k = i, . . . , N}. On change alors les lignes i et i
0
(dans la matrice A et le second membre b)
et on continue la procdure de Gauss dcrite plus haut.
Pivot total A letape i, on choisit maintenant i
0
et j
0
{i, . . . , N} tels que |a
(i)
i0,j0
| = max{|a
(i)
k,j
|, k =
i, . . . , N, j = i, . . . , N}, et on change alors les lignes i et i
0
(dans la matrice A et le second membre b), les
colonnes i et j
0
de A et les inconnues x
i
et x
j0
.
Lintrt de ces stratgies de pivot est quon aboutit toujours la rsolution du systme (ds que A est inversible).
La stratgie du pivot total permet une moins grande sensibilit aux erreurs darrondi. Linconvnient majeur est
quon change la structure de A : si, par exemple la matrice avait tous ses termes non nuls sur quelques diagonales
seulement, ceci nest plus vrai pour la matrice A
(N)
.
1.3.3 Version programmable des algorithmes de Gauss et LU pour un systme carr
On donne dans ce paragraphe la version programmable de lalgorithme de Gauss et de la mthode LU pour une
matrice carre dordre n.
On souhaite rsoudre Ax = b, avec A M
n
(IR) inversible et un ou plusieurs second membres b IR
n
.
Mthode de Gauss sans pivot
1. (Factorisation et descente) Pour i allant de 1 n, on effectue les calculs suivants :
(a) On ne change pas la i-me ligne
u
i,j
= a
i,j
pour j = i, . . . , n,
y
i
= b
i
(b) On change les lignes i + 1 n (et le second membre) en utilisant la ligne i. Pour j allant de i + 1 n :
l
j,i
=
aj,i
ai,i
(si a
i,i
= 0, prendre la mthode avec pivot partiel)
pour k allant de i + 1 n, a
j,k
= a
j,k
l
j,i
a
i,k
(noter que a
j,i
= 0)
b
j
= b
j
l
j,i
y
i
2. (Remonte) On calcule x
Pour i allant de n 1,
x
i
=
1
ui,i
(y
i
n
j=i+1
u
i,j
x
j
)
Mthode LU sans pivot
La mthode LU se dduit de la mthode de Gauss en remarquant simplement que, ayant conserv la matrice L, on
peut effectuer les calculs sur b aprs les calculs sur A. Ce qui donne :
1. (Factorisation) Pour i allant de 1 n, on effectue les calculs suivants :
(a) On ne change pas la i-me ligne
u
i,j
= a
i,j
pour j = i, . . . , n,
(b) On change les lignes i + 1 n (et le second membre) en utilisant la ligne i. Pour j allant de i + 1 n :
l
j,i
=
aj,i
ai,i
(si a
i,i
= 0, prendre la mthode avec pivot partiel)
pour k de i + 1 n, a
j,k
= a
j,k
l
j,i
a
i,k
(noter que a
j,i
= 0)
2. (Descente) On calcule y (avec Ly = b)
Pour i allant de 1 n,
y
i
= b
i
i1
k=1
l
i,k
y
k
(on a implicitement l
i,i
= 1)
3. (Remonte) On calcule x (avec Ux = y)
x
i
=
1
ui,i
(y
i
n
j=i+1
u
i,j
x
j
)
Mthode LU avec pivot partiel
La mthode LU avec pivot partiel consiste simplement remarquer que lordre dans lequel les quations sont prises
na aucune importance pour lalgorithme. Au dpart de lalgorithme, on se donne la bijection t de {1, . . . , n} dans
{1, . . . , n} dnie par t(i) = i, et qui va tre mode au cours de lalgorithme pour tenir compte du choix du
pivot. On crit lalgorithme prcdent avec les nouveaux indices de ligne t(i), ce qui donne :
1. (Factorisation) Pour i allant de 1 n, on effectue les calculs suivants :
(a) Choix du pivot (et de t(i)) : on cherche k {i, . . . , n} t.q. |a
t(k),i
| = max{|a
t(l),i
|, l {i, . . . , n}}.
On change alors t en prenant t(i) = t(k) et t(k) = t(i).
On ne change pas la ligne t(i)
u
t(i),j
= a
t(i),j
pour j = i, . . . , n,
(b) On modie les lignes t(j) autres que les lignes t(1), . . . , t(n) (et le second membre), en utilisant la
ligne t(i). Donc pour t(j) {t(i + 1), . . . , t(n)} (noter quon a uniquement besoin de conna
1
2
tre
lensemble , et pas lordre) :
l
t(j),i
=
a
t(j),i
a
t(i),i
pour k de i + 1 n, a
t(j),k
= a
t(j),k
l
t(j),i
a
t(i),k
(noter que a
t(j),i
= 0)
2. (Descente) On calcule y
Pour i allant de 1 n,
y
i
= b
t(i)
i1
j=1
l
t(j),k
y
k
3. (Remonte) On calcule x
x
i
=
1
u
t(i),i
(y
i
n
j=i+1
u
t(i),j
x
j
)
NB : On a change lordre dans lequel les quations sont considres (le tableau t donne cet ordre). Donc, on a
aussi chang lordre dans lequel interviennent les composantes du second membre. Par contre, on na pas touch
lordre dans lequel interviennent les composantes de x et y.
Il reste maintenant signaler le miracle" de cet algorithme. . . Il est inutile de connaitre compltement t pour faire
cet algorithme. A ltape i de litem 1 (et dailleurs aussi ltape i de litem 2), il suft de connatre t(j) pour
j allant de 1 i, les oprations de 1(b) se faisant alors sur toutes les autres lignes (dans un ordre quelconque).
Il suft donc de partir dune bijection arbitraire de {1, . . . , n} dans {1, . . . , n} (par exemple lidentit) et de la
modier chaque tape. Pour que lalgorithme aboutisse, il suft que a
t(i),i
= 0 (ce qui toujours possible car A
est inversible). Pour minimiser des erreurs darrondis, on a intrt choisir t(i) pour que |a
t(i),i
| soit le plus grand
possible. Ceci suggre de faire le choix suivant de t(i) ltape i de litem 1(a) de lalgorithme (et cest cette
tape que t(i) doit tre dni) :
on cherche k {i, . . . , n} t.q. |a
t(k),i
| = max{|a
t(l),i
|, l {i, . . . , n}}. On change alors t en prenant t(i) = t(k)
et t(k) = t(i).
Remarque : Lintroduction des matrices L et U et des vecteurs y et x nest pas ncessaire (tout peut scrire
avec la matrice A et le vecteur b, que lon modie au cours de lalgorithme). Lintroduction de L, U, x et y peut
toutefois aider comprendre la mthode. Le principe retenu est que, dans les algorithmes (Gauss ou LU), on
modie la matrice A et le second membre b (en remplaant le systme rsoudre par un systme quivalent) mais
on ne modie jamais L, U, y et x (qui sont dnis au cours de lalgorithme).
Remarque Lalgorithme se ramene donc rsoudre LUx = b, en faisant Ly = b et Ux = y. Quand on fait
Ly = b les equations sont dans lordre t(1), . . . , t(n) (les composantes de b sont donc aussi prises dans cet ordre),
mais le vecteur y est bien (y
1
, . . . , y
n
)
t
(t signie ici transpos" pour obtenir un vecteur colonne). Puis, on fait
Ux = y, les equations sont toujours dans lordre t(1), . . . , t(n) mais les vecteurs x et y sont (x
1
, . . . , x
n
)
t
et
(y
1
, . . . , y
n
)
t
.
1.3.4 Mthode de Choleski
On va maintenant tudier la mthode de Choleski, qui est une mthode directe adapte au cas o A est symtrique
dnie positive. On rappelle quune matrice A M
N
(IR) de coefcients (a
i,j
)
i=1,N,j=1,N
est symtrique si
A = A
t
, o A
t
dsigne la transpose de A, dnie par les coefcients (a
j,i
)
i=1,N,j=1,N
, et que A est dnie
positive si Ax x > 0 pour tout x IR
N
tel que x = 0. Dans toute la suite, x y dsigne le produit scalaire des
deux vecteurs x et y de IR
N
. On rappelle (exercice) que si A est symtrique dnie positive elle est en particulier
inversible.
Description de la mthode
La mthode de Choleski consiste trouver une dcomposition de A de la forme A = LL
t
, o L est triangulaire
infrieure de coefcients diagonaux strictement positifs. On rsout alors le systme Ax = b en rsolvant dabord
Ly = b puis le systme L
t
x = y. Une fois la matrice A factorise", cestdire la dcomposition LL
t
obtenue
(voir paragraphe suivant), on effectue les tapes de descente" et remonte" :
1. Etape 1 : descente" Le systme Ly = b scrit :
Ly =
_
1,1
0
.
.
.
.
.
.
.
.
.
N,1
. . .
N,N
_
_
_
_
y
1
.
.
.
y
N
_
_ =
_
_
b
1
.
.
.
b
N
_
_.
Ce systme scrit composante par composante en partant de i = 1.
1,1
y
1
= b
1
, donc y
1
=
b
1
1,1
2,1
y
1
+
2,2
y
2
= b
2
, donc y
2
=
1
2,2
(b
2
2,1
y
1
)
.
.
.
.
.
.
j=1,i
i,j
y
j
= b
i
, donc y
i
=
1
i,i
(b
i
j=1,i1
i,j
y
j
)
.
.
.
.
.
.
j=1,N
N,j
y
j
= b
N
, donc y
N
=
1
N,N
(b
N

j=1,N1
N,j
y
j
).
On calcule ainsi y
1
, y
2
, . . . , y
N
.
2. Etape 2 : remonte" On calcule maintenant x solution de L
t
x = y.
L
t
x =
_
1,1

2,1
. . .
N,1
0
.
.
.
.
.
.
.
.
.
0 . . .
N,N
_
_
_
_
x
1
.
.
.
x
N
_
_
=
_
_
y
1
.
.
.
y
N
_
_
.
On a donc :
N,N
x
N
= y
N
donc x
N
=
y
N
N,N
N1,N1
x
N1
+
N,N1
x
N
= y
N1
donc x
N1
=
yN1N,N1xN
N1,N1
.
.
.
j=1,N
j,1
x
j
= y
1
donc x
1
=
y
1
j=2,N

j,1
x
j
1,1
.
On calcule ainsi x
N
, x
N1
, . . . , x
1
.
Existence et unicit de la dcomposition
On prouve lexistence et unicit en construisant la dcomposition, c..d. en construisant la matrice L.
Thorme 1.15 (Dcomposition de Choleski) Soit A M
N
(IR) avec N 1. On suppose que Aest symtrique
dnie positive. Alors il existe une unique matrice L M
N
(IR), L = (
i,j
)
N
i,j=1
, telle que :
1. L est triangulaire infrieure (cestdire
i,j
= 0 si j > i),
2.
i,i
> 0, pour tout i {1, . . . , N},
3. A = LL
t
.
Dmonstration : On sait dj par le thorme 1.14 page 10, quil existe une matrice de permutation et L tri-
angulaire infrieure et U triangulaire suprieure telles que PA = LU. Lavantage dans le cas o la matrice est
symtrique est dune part que la dcomposition est toujours possible sans permutation, et dautre part quon peut
donner une dmonstration constructive de lexistence et de lunicit de la dcomposition LL
t
.
I- Existence de L : dmonstration par rcurrence sur N
1. Dans le cas N = 1, on a A = (a
1,1
). Comme A est symtrique dnie positive, on a a
1,1
> 0. On peut donc
dnir L = (
1,1
) o
1,1
=
a
1,1
, et on a bien A = LL
t
.
2. On suppose que la dcomposition de Choleski sobtient pour A M
p
(IR) symtrique dnie positive, pour
1 p N et on va dmontrer que la proprit est encore vraie pour A M
N+1
(IR) symtrique dnie
positive. Soit donc A M
N+1
(IR) symtrique dnie positive ; on peut crire A sous la forme :
A =
_
_
B a
a
t
_
(1.9)
o B M
N
(IR) est symtrique, a IR
N
et IR. Montrons que B est dnie positive, c..d. que
By y > 0, pour tout y IR
N
tel que y = 0. Soit donc y IR
N
\ {0}, et x =
_
y
0
_
IR
N+1
. Comme A est
symtrique dnie positive, on a :
0 < Ax x =
_
_
B a
a
t
_
_
_
y
0
_
_
y
0
_
_
=
_
_
By
a
t
y
_
_
y
0
_
_
= By y
donc B est dnie positive. Par hypothse de rcurrence, il existe une matrice M M
N
(IR) M =
(m
i,j
)
N
i,j=1
telle que :
(a) m
i,j
= 0 si j > i
(b) m
i,i
> 0
(c) B = MM
t
.
On va chercher L sous la forme :
L =
_
_
M 0
b
t
_
(1.10)
avec b IR
N
, IR
+
tels que LL
t
= A. Pour dterminer b et , calculons LL
t
o L est de la forme (1.10)
et identions avec A :
LL
t
=
_
_
M 0
b
t
_
_
_
M
t
b
0
_
_
=
_
_
MM
t
Mb
b
t
M
t
b
t
b +
2
_
_
On cherche b IR
N
et IR
+
tels que LL
t
= A, et on veut donc que les galits suivantes soient
vries :
Mb = a et b
t
b +
2
= .
Comme M est inversible (en effet, le dterminant de M scrit det(M) =
N
i=1
m
i,i
> 0), la premire ga-
lit ci-dessus donne : b = M
1
a et en remplaant dans la deuxime galit, on obtient : (M
1
a)
t
(M
1
a)+
2
= , donc a
t
(M
t
)
1
M
1
a +
2
= soit encore a
t
(MM
t
)
1
a +
2
= , cestdire :
a
t
B
1
a +
2
= (1.11)
Pour que (1.11) soit vrie, il faut que
a
t
B
1
a > 0 (1.12)
Montrons que la condition (1.12) est effectivement vrie : Soit z =
_
B
1
a
1
_
IR
N+1
. On a z = 0 et
donc Az z > 0 car A est symtrique dnie positive. Calculons Az :
Az =
_
_
B a
a
t
_
_
_
_
B
1
a
1
_
_
=
_
_
0
a
t
B
1
a
_
_
.
On a donc Az z = a
t
B
1
a > 0 ce qui montre que (1.12) est vrie. On peut ainsi choisir =
a
t
B
1
a (> 0) de telle sorte que (1.11) est vrie. Posons :
L =
_
_
M 0
(M
1
a)
t
_
.
La matrice L est bien triangulaire infrieure et vrie
i,i
> 0 et A = LL
t
.
On a termin ainsi la partie existence.
II- Unicit et calcul de L. Soit A M
N
(IR) symtrique dnie positive ; on vient de montrer quil existe L
M
N
(IR) triangulaire infrieure telle que
i,j
= 0 si j > i,
i,i
> 0 et A = LL
t
. On a donc :
a
i,j
=
N
k=1
i,k
j,k
, (i, j) {1 . . . N}
2
. (1.13)
1. Calculons la 1-re colonne de L; pour j = 1, on a :
a
1,1
=
1,1
1,1
donc
1,1
=
a
1,1
(a
1,1
> 0 car
1,1
existe ),
a
2,1
=
2,1
1,1
donc
2,1
=
a
2,1
1,1
,
a
i,1
=
i,1
1,1
donc
i,1
=
a
i,1
1,1
i {2, . . . , N}.
2. On suppose avoir calcul les q premires colonnes de L. On calcule la colonne (q +1) en prenant j = q +1
dans (1.13)
Pour i = q + 1, a
q+1,q+1
=
q+1
k=1
q+1,k
q+1,k
donc
q+1,q+1
= (a
q+1,q+1
k=1
2
q+1,k
)
1/2
> 0. (1.14)
Notons que a
q+1,q+1
k=1
2
q+1,k
> 0 car L existe : il est indispensable davoir dabord montr lexistence
de L pour pouvoir exhiber le coefcient
q+1,q+1
.
On procde de la mme manire pour i = q + 2, . . . , N ; on a :
a
i,q+1
=
q+1
k=1
i,k
q+1,k
=
q
k=1
i,k
q+1,k
+
i,q+1
q+1,q+1
et donc
i,q+1
=
_
a
i,q+1
k=1
i,k
q+1,k
_
1
q+1,q+1
. (1.15)
On calcule ainsi toutes les colonnes de L. On a donc montr que L est unique par un moyen constructif de
calcul de L.
Calcul du cot de la mthode de Choleski
Calcul du cot de calcul de la matrice L Dans le procd de calcul de L expos ci-dessus, le nombre dop-
rations pour calculer la premire colonne est N. Calculons, pour p = 0, . . . , N 1, le nombre doprations pour
calculer la (p+1)-ime colonne : pour la colonne (p+1), le nombre doprations par ligne est 2p+1, car le calcul
de
p+1,p+1
par la formule (1.14) ncessite p multiplications, p soustractions et une extraction de racine, soit 2p+1
oprations ; le calcul de
i,p+1
par la formule (1.15) ncessite p multiplications, p soustractions et une division,
soit encore 2p + 1 oprations. Comme les calculs se font des lignes p + 1 N (car
i,p+1
= 0 pour i p), le
nombre doprations pour calculer la (p +1)-ime colonne est donc (2p +1)(N p). On en dduit que le nombre
doprations N
L
ncessaires au calcul de L est :
N
L
=
N1
p=0
(2p + 1)(N p) = 2N
N1
p=0
p 2
N1
p=0
p
2
+N
N1
p=0
1
N1
p=0
p
= (2N 1)
N(N 1)
2
+N
2
2
N1
p=0
p
2
.
(On rappelle que 2
N1
p=0
p = N(N 1).) Il reste calculer C
N
=
N
p=0
p
2
, en remarquant par exemple que
N
p=0
(1 +p)
3
=
N
p=0
1 +p
3
+ 3p
2
+ 3p =
N
p=0
1 +
N
p=0
p
3
+ 3
N
p=0
p
2
+ 3
N
p=0
p
=
N+1
p=1
p
3
=
N
p=0
p
3
+ (N + 1)
3
.
On a donc 3C
N
+ 3
N(N+1)
2
+N + 1 = (N + 1)
3
, do on dduit que
C
N
=
N(N + 1)(2N + 1)
6
.
On a donc :
N
L
= (2N 1)
N(N 1)
2
2C
N1
+N
2
= N
_
2N
2
+ 3N + 1
6
_
=
N
3
3
+
N
2
2
+
N
6
=
N
3
3
+ 0(N
2
).
Cot de la rsolution dun systme linaire par la mthode LL
t
Nous pouvons maintenant calculer le cot
(en termes de nombre doprations lmentaires) ncessaire la rsolution de (1.1) par la mthode de Choleski
pour A M
N
(IR) symtrique dnie positive. On a besoin de N
L
oprations pour le calcul de L, auquel il faut
rajouter le nombre doprations ncessaires pour les tapes de descente et remonte. Le calcul de y solution de
Ly = b seffectue en rsolvant le systme :
_
1,1
0
.
.
.
.
.
.
.
.
.
N,1
. . .
N,1
_
_
_
_
y
1
.
.
.
y
N
_
_ =
_
_
b
1
.
.
.
b
N
_
_
Pour la ligne 1, le calcul y
1
=
b
1
1,1
seffectue en une opration.
Pour les lignes p = 2 N, le calcul y
p
=
_
b
p
p1
i=1

i,p
y
i
_
/
p,p
seffectue en (p 1) (multiplications)
+(p2) (additions) +1 soustraction +1 (division) = 2p1 oprations. Le calcul de y (descente) seffectue donc
en N
1
=
N
p=1
(2p 1) = N(N + 1) N = N
2
. On peut calculer de manire similaire le nombre doprations
ncessaires pour ltape de remonte N
2
= N
2
. Le nombre total doprations pour calculer x solution de (1.1) par
la mthode de Choleski est N
C
= N
L
+ N
1
+ N
2
=
N
3
3
+
N
2
2
+
N
6
+ 2N
2
=
N
3
3
+
5N
2
2
+
N
6
. Ltape la plus
coteuse est donc la factorisation de A.
Remarque 1.16 (Dcomposition LDL
t
) Dans les programmes informatiques, on prfre implanter la variante
suivante de la dcomposition de Choleski : A =

LD
L
t
o D est la matrice diagonale dnie par d
i,i
=
2
i,i
,

L
i,i
=
L

D
1
, o

D est la matrice diagonale dnie par d
i,i
=
i,i
. Cette dcomposition a lavantage de ne pas faire
intervenir le calcul de racines carres, qui est une opration plus complique que les oprations lmentaires"
(, +, ).
1.3.5 Quelques proprits
Comparaison Gauss/Choleski
Soit A M
N
(IR) inversible, la rsolution de (1.1) par la mthode de Gauss demande 2N
3
/3 +0(N
2
) oprations
(exercice). Dans le cas dune matrice symtrique dnie positive, la mthode de Choleski est donc environ deux
fois moins chre.
Et la mthode de Cramer ?
Soit A M
N
(IR) inversible. On rappelle que la mthode de Cramer pour la rsolution de (1.1) consiste calculer
les composantes de x par les formules :
x
i
=
det(A
i
)
det(A)
, i = 1, . . . , N,
o A
i
est la matrice carre dordre N obtenue partir de A en remplaant la i-me colonne de A par le vecteur b,
et det(A) dsigne le dterminant de A.
Chaque calcul de dterminant dune matrice carre dordre N ncessite au moins N! oprations (voir cours L1-L2,
ou livres dalgbre linaire proposs en avant-propos). Par exemple, pour N = 10, la mthode de Gauss ncessite
environ 700 oprations, la mthode de Choleski environ 350 et la mthode de Cramer plus de 4 000 000. . . . Cette
dernire mthode est donc proscrire.
Conservation du prol de A
Dans de nombreuses applications, par exemple lors de la rsolution de systmes linaires issus de la discrtisation
1
de problmes rels, la matrice A M
N
(IR) est creuse", au sens o un grand nombre de ses coefcients sont nuls.
Il est intressant dans ce cas pour des raisons dconomie de mmoire de connatre le prol" de la matrice, donn
dans le cas o la matrice est symtrique, par les indices j
i
= min{j {1, . . . , N} tels que a
i,j
= 0}. Le prol de
la matrice est donc dtermin par les diagonales contenant des coefcients non nuls qui sont les plus loignes de
la diagonale principale. Dans le cas dune matrice creuse, il est avantageux de faire un stockage prol" de A, en
stockant, pour chaque ligne i la valeur de j
i
et des coefcients a
i,k
, pour k = i j
i
, . . . , i, ce qui peut permettre
un large gain de place mmoire, comme on peut sen rendre compte sur la gure 1.3.5.
Une proprit intressante de la mthode de Choleski est de conserver le prol. On peut montrer (en reprenant les
calculs effectus dans la deuxime partie de la dmonstration du thorme 1.15) que
i,j
= 0 si j < j
i
. Donc si on
a adopt un stockage prol" de A, on peut utiliser le mme stockage pour L.
Matrices non symtriques
Soit A M
N
(IR) inversible. On ne suppose plus ici que A est symtrique. On cherche calculer x IR
N
solution de (1.1) par la mthode de Choleski. Ceci est possible en remarquant que : Ax = b A
t
Ax = A
t
b car
det(A) = det(A
t
) = 0. Il ne reste alors plus qu vrier que A
t
A est symtrique dnie positive. Remarquons
dabord que pour toute matrice A M
N
(IR), la matrice AA
t
est symtrique. Pour cela on utilise le fait que
si B M
N
(IR), alors B est symtrique si et seulement si Bx y = x By et Bx y = x B
t
y pour tout
(x, y) (IR
N
)
2
. En prenant B = A
t
A, on en dduit que A
t
A est symtrique. De plus, comme A est inversible,
A
t
Ax x = Ax Ax = |Ax|
2
> 0 si x = 0. La matrice A
t
A est donc bien symtrique dnie positive.
La mthode de Choleski dans le cas dune matrice non symtrique consiste donc calculer A
t
A et A
t
b, puis
rsoudre le systme linaireA
t
A x = A
t
b par la mthode de Choleski symtrique".
Cette manire de faire est plutt moins efcace que la dcomposition LU puisque le cot de la dcomposition
LU est de 2N
3
/3 alors que la mthode de Choleski dans le cas dune matrice non symtrique ncessite au moins
4N
3
/3 oprations (voir exercice 14).
1. On appelle discrtisation le fait de se ramener dun problme o linconnue est une fonction en un problme ayant un nombre ni
dinconnues.
1.4. CONDITIONNEMENT CHAPITRE 1. SYSTMES LINAIRES
0
0
FIGURE 1.3 Exemple de prol dune matrice symtrique
Systmes linaires non carrs
On considre ici des matrices qui ne sont plus carres. On dsigne par M
M,N
(IR) lensemble des matrices relles
M lignes et N colonnes. Pour A M
M,N
(IR), M > N et b IR
M
, on cherche x IR
N
tel que
Ax = b. (1.16)
Ce systme contient plus dquations que dinconnues et nadmet donc en gnral pas de solution. On cherche
x IR
N
qui vrie le sytme (1.16) au mieux". On introduit pour cela une fonction f dnie deIR
N
dans IR
par :
f(x) = |Ax b|
2
,
o |x| =
x x dsigne la norme euclidienne sur IR

N
. La fonction f ainsi dnie est videmment positive, et sil
existe x qui annule f, alors x est solution du systme (1.16). Comme on la dit, un tel x nexiste pas forcment,
et on cherche alors un vecteur x qui vrie (1.16) au mieux", au sens o f(x) soit le plus proche de 0. On
cherche donc x IR
N
satisfaisant (1.16) en minimisant f, c..d. en cherchant x IR
N
solution du problme
doptimisation :
f(x) f(y) y IR
N
(1.17)
On peut rcrire f sous la forme : f(x) = A
t
Ax x 2b Ax + b b. On montrera au chapitre III que sil existe
une solution au problme (1.17), elle est donne par la rsolution du systme linaire suivant :
AA
t
x = A
t
b IR
N
, (1.18)
quon appelle quations normales du problme de minimisation. La rsolution approche du problme (1.16) par
cette procdure est appele mthode des moindres carrs . La matrice AA
t
tant symtrique, on peut alors employer
la mthode de Choleski pour la rsolution du systme (1.18).
1.4 Conditionnement
Dans ce paragraphe, nous allons dnir la notion de conditionnement dune matrice, qui peut servir tablir une
majoration des erreurs darrondi dues aux erreurs sur les donnes. Malheureusement, nous verrons galement que
cette majoration nest pas forcment trs utile dans des cas pratiques, et nous nous efforcerons dy remdier. la
notion de conditionnement est galement utilise dans ltude des mthodes itratives que nous verrons plus loin.
1.4.1 Le problme des erreurs darrondis
Soient A M
N
(IR) inversible et b IR
N
; supposons que les donnes A et b ne soient connues qu une
erreur prs. Ceci est souvent le cas dans les applications pratiques. Considrons par exemple le problme de la
conduction thermique dans une tige mtallique de longueur 1, modlise par lintervalle [0, 1]. Supposons que la
temprature u de la tige soit impose aux extrmits, u(0) = u
0
et u(1) = u
1
. On suppose que la temprature
dans la tige satisfait lquation de conduction de la chaleur, qui scrit (k(x)u
(x))
= 0, o k est la conductivit
thermique. Cette quation diffrentielle du second ordre peut se discrtiser par exemple par diffrences nies (on
verra une description de la mthode page 21), et donne lieu un systme linaire de matrice A. Si la conductivit
k nest connue quavec une certaine prcision, alors la matrice A sera galement connue une erreur prs, note
A
. On aimerait que lerreur commise sur les donnes du modle (ici la conductivit thermique k) nait pas une
consquence catastrophique sur le calcul de la solution du modle (ici la temprature u). Si par exemple 1%
derreur sur k entrane 100% derreur sur u, le modle ne sera pas dune utilit redoutable. . .
Lobjectif est donc destimer les erreurs commises sur x solution de (1.1) partir des erreurs commises sur b et A.
Notons
b
IR
N
lerreur commise sur b et
A
M
N
(IR) lerreur commise sur A. On cherche alors valuer
x
o x +
x
est solution (si elle existe) du systme :
_
x +
x
IR
N
(A+
A
)(x +
x
) = b +
b
.
(1.19)
On va montrer que si
A
nest pas trop grand", alors la matrice A+
A
est inversible, et quon peut estimer
x
en
fonction de
A
et
b
.
1.4.2 Conditionnement et majoration de lerreur darrondi
Dnition 1.17 (Conditionnement) Soit IR
N
muni dune norme et M
N
(IR) muni de la norme induite. Soit
A M
N
(IR) une matrice inversible. On appelle conditionnement de A par rapport la norme le nombre
rel positif cond(A) dni par :
cond(A) = A A
1
.
Proposition 1.18 (Proprits gnrales du conditionnement) Soit IR
N
muni dune norme et M
N
(IR)
muni de la norme induite.
1. Soit A M
N
(IR) une matrice inversible, alors cond(A) 1.
2. Soit A M
N
(IR) une matrice inversible et IR
, alors cond(A) = cond(A).

3. Soient A et B M
N
(IR) des matrices inversibles, alors cond(AB) cond(A)cond(B).
Proposition 1.19 (Proprits du conditionnement pour la norme 2) Soit IR
N
muni de la norme euclidienne
2
et M
N
(IR) muni de la norme induite. Soit A M
N
(IR) une matrice inversible. On note cond
2
(A) le condi-
tionnement associ la norme induite par la norme euclidienne sur IR
N
.
1. Soit A M
N
(IR) une matrice inversible. On note
N
[resp.
1
] la plus grande [resp. petite] valeur propre
de A
t
A (noter que A
t
A est une matrice symtrique dnie positive). Alors cond
2
(A) =
_
N
/
1
.
2. Si de plus A une matrice symtrique dnie positive, alors cond
2
(A) =
N
1
, o
N
[resp.
1
] est la plus
grande [resp. petite] valeur propre de A.
3. Si Aet B sont deux matrices symtriques dnies positives, alors cond
2
(A+B) max(cond
2
(A), cond
2
(B)).
4. Soit A M
N
(IR) une matrice inversible. Alors cond
2
(A) = 1 si et seulement si A = Q o IR
et Q
est une matrice orthogonale (cest--dire Q
t
= Q
1
).
5. Soit A M
N
(IR) une matrice inversible. On suppose que A = QR o Q est une matrice orthogonale.
Alors cond
2
(A) = cond
2
(R).
6. Soient A, B M
N
(IR) deux matrices symtriques dnies positives. Montrer que cond
2
(A + B)
max{cond
2
(A), cond
2
(B)}.
La dmonstration de deux propositions prcdentes fait lobjet de lexercice 18 page 35.
Thorme 1.20 Soit A M
N
(IR) une matrice inversible, et b IR
N
, b = 0. On munit IR
N
dune norme ,
et M
N
(IR) de la norme induite. Soient
A
M
N
(IR) et
b
IR
N
. On suppose que
A
<
1
A
1
. Alors la
matrice (A+
A
) est inversible et si x est solution de (1.1) et x +
x
est solution de (1.19), alors
x

cond(A)
1 A
1

A
b
+

A
A
_
. (1.20)
Dmonstration :
On peut crire A +
A
= A(Id + B) avec B = A
1
A
. Or le rayon spectral de B, (B), vrie (B)
B
A
A
1
< 1, et donc (voir le thorme 1.9 page 6 et lexercice 9 page 33) (Id +B) est inversible et
(Id + B)
1
=
n=0
(1)
n
B
n
. On a aussi (Id + B)
1

n=0
B
n
=
1
1 B

1
1 A
1

A
. On en
dduit que A+
A
est inversible, car A+
A
= A(Id+B) et comme Aest inversible, (A+
A
)
1
= (Id+B)
1
A
1
.
Comme Aet A+
A
sont inversibles, il existe un unique x IR
N
tel que Ax = b et il existe un unique
x
IR
N
tel
que (A+
A
)(x+
x
) = b+
b
. Comme Ax = b, on a (A+
A
)
x
+
A
x =
b
et donc
x
= (A+
A
)
1
(
b
A
x).
Or (A+
A
)
1
= (Id +B)
1
A
1
, on en dduit :
(A+
A
)
1
(Id +B)
1
A
1
A
1
1 A
1

A
.
On peut donc crire la majoration suivante :
x

A
1
A
1 A
1

A
_

b
A x
+

A
A
_
.
En utilisant le fait que b = Ax et que par suite b A x, on obtient :
x

A
1
A
1 A
1

A
_
b
b
+

A
A
_
,
ce qui termine la dmonstration.
Remarquons que lestimation (1.20) est optimale. En effet, en supposant que
A
= 0. Lestimation (1.20) devient
alors :
x
cond(A)
b
. (1.21)
Peut-on avoir galit dans (1.21) ? Pour avoir galit dans (1.21) il faut choisir convenablement b et
b
. Soit x
IR
N
tel que x = 1 et Ax = A. Notons quun tel x existe parce que A = sup{Ax; x = 1} =
max{Ax; x = 1} (voir proposition 1.2 page 5) Posons b = Ax; on a donc b = A. De mme, grce
la proposition 1.2, il existe y IR
N
tel que y = 1, et A
1
y = A
1
. On choisit alors
b
tel que
b
= y
o > 0 est donn. Comme A(x +
x
) = b +
b
, on a
x
= A
1
b
et donc :
x
= A
1
b
= A
1
y =
A
1
=
b
A
1
. On en dduit que
x
=
x
=
b
A
1
A
b
car b = A et x = 1.
Par ce choix de b et
b
on a bien galit dans (1.21). Lestimation (1.21) est donc optimale.
1.4.3 Discrtisation dquations diffrentielles, conditionnement efcace"
On suppose encore ici que
A
= 0. On suppose que la matrice A du systme linaire rsoudre provient de la
discrtisation par diffrences nies dune quation diffrentielle introduite ci-dessous (voir (1.22)). On peut alors
montrer (voir exercice 26 page 39 du chapitre 1) que le conditionnement de A est dordre N
2
, o N est le nombre
de points de discrtisation. Pour N = 10, on a donc cond(A) 100 et lestimation (1.21) donne :
x
100

b
b
.
Une erreur de 1% sur b peut donc entraner une erreur de 100% sur x. Autant dire que dans ce cas, il est inutile de
rechercher la solution de lquation discrtise. . . Heureusement, on peut montrer que lestimation (1.21) nest pas
signicative pour ltude de la propagation des erreurs lors de larsolution des systmes linraires provenant de la
discrtisation dune quation diffrentielle ou dune quation aux drives partielles
2
. Pour illustrer notre propos,
nous allons tudier un systme linaire trs simple provenant dun problme de mcanique et sa discrtisation par
diffrences nies.
2. On appelle quation aux drives partielles une quation qui fait intervenir les drives partielles de la fonction inconnue, par exemple
2
u
x
2
+

2
u
y
2
= 0, o u est une fonction de IR
2
dans IR
x
x
x
x
x
x
0
= 0 x
1
x
i
= ih
u(x)
u
i
x
N+1
= 1
x
x
x
x x
FIGURE 1.4 Solution exacte et approche de u
= f
Discrtisation par diffrences nies de u
= f Soit f C([0, 1], IR). On cherche u tel que

_
u
(x) = f(x)
u(0) = u(1) = 0.
(1.22)
On peut montrer (on ladmettra ici) quil existe une unique solution u C
2
([0, 1], IR). On cherche calculer
u de manire approche. On va pour cela introduire la mthode de discrtisation dite par diffrences nies. Soit
N IN
, on dnit h = 1/(N + 1) le pas de discrtisation, c..d. la distance entre deux points de discrtisation,
et pour i = 0 . . . N + 1 on dnit les points de discrtisation x
i
= ih (voir Figure 1.4.3), qui sont les points o
lon va crire lquation u
= f en vue de se ramer un systme discret, c..d. un systme avec un nombre ni

dinconnues. Remarquons que x
0
= 0 et x
N+1
= 1. Soit u(x
i
) la valeur exacte de u en x
i
. On crit la premire
quation de (1.22) en chaque point x
i
, pour i = 1 . . . N.
u
(x
i
) = f(x
i
) = b
i
i {1 . . . N}.
On peut facilement montrer, par un dveloppement de Taylor, que si u C
4
([0, 1], IR) (ce qui est vrai si f C
2
)
alors
3
u(x
i+1
) +u(x
i1
) 2u(x
i
)
h
2
= u
(x
i
) +R
i
avec |R
i
|
h
2
12
u
(4)
. (1.23)
La valeur R
i
sappelle erreur de consistance au point x
i
.
On introduit alors les inconnues (u
i
)
i=1,...,N
quon espre tre des valeurs approches de u aux points x
i
et qui
sont les composantes de la solution (si elle existe) du systme suivant
_

u
i+1
+u
i1
2u
i
h
2
= b
i
, i {1 N},
u
0
= u
N+1
= 0.
(1.24)
On cherche donc u =
_
_
u
1
.
.
.
u
N
_
_ IR
N
solution de (1.24). Ce systme peut scrire sous forme matricielle :Au = b
avecb = (b
1
, . . . , b
N
)
t
et A la matrice carre dordre N de coefcients (a
i,j
)
i,j=1,N
dnis par :
_
_
a
i,i
=
2
h
2
, i = 1, . . . , N,
a
i,j
=
1
h
2
, i = 1, . . . , N, j = i 1,
a
i,j
= 0, i = 1, . . . , N, |i j| > 1.
(1.25)
3. En effet, par dveloppement de Taylor, on a :
u(x
i+1
) = u(x
i
) +hu
(x
i
) +
h
2
2
u
(x
i
) +
h
3
6
u
(x
i
) +
h
4
24
u
(4)
(
i
) o
i
(x
i
, x
i+1
) et
u(x
i1
) = u(x
i
) hu
(x
i
) +
h
2
2
u
(x
i
)
h
3
6
u
(x
i
) +
h
4
24
u
(4)
(
i
) o
i
(x
i
, x
i+1
).
En faisant la somme de ces deux galits, on en dduit que : u(x
i+1
) + u(x
i1
) = 2u(x
i
) +
h
2
u
(x
i
) +
h
4
24
u
(4)
(
i
) +
h
4
24
u
(4)
(
i
), et
donc R
i
dni par (1.23) vrie :
|R
i
| = |
u(x
i+1
)+u(x
i1
)2u(x
i
)
h
2
+u
(x
i
)| |
h
4
24
u
(4)
(
i
) +
h
4
24
u
(4)
(
i
)|
h
2
12
u
(4)
.
1.5. MTHODES ITRATIVES CHAPITRE 1. SYSTMES LINAIRES
On remarque immdiatement que A est tridiagonale. On peut montrer que A est symtrique dnie positive (voir
exercice 26 page 39). On peut aussi montrer que
max
i=1...N
{|u
i
u(x
i
)|}
h
2
96
u
(4)
.
En effet, si on note u le vecteur de IR
N
de composantes u(x
i
), i = 1, . . . , N, et R le vecteur de IR
N
de com-
posantes R
i
, i = 1, . . . , N, on a par dnition de R (formule (1.23)) A(u u) = R, et donc u u

A
1
. Or on peut montrer (voir exercice 28 page 40, partie I) que A

1
1/8, et on obtient donc

avec (1.23) que u u
h
2
/96u
(4)
.
Cette ingalit donne la prcision de la mthode. On remarque en particulier que si on rafne la discrtisation,
cestdire si on augmente le nombre de points N ou, ce qui revient au mme, si on diminue le pas de discrtisa-
tion h, on augmente la prcision avec laquelle on calcule la solution approche. Or on a dj dit quon peut montrer
(voir exercice 26 page 39) que cond(A) N
2
. Donc si on augmente le nombre de points, le conditionnement de
A augmente aussi. Par exemple si N = 10
4
, alors
x
/x = 10
8
b
/b. Or sur un ordinateur en simple
prcision, on a
b
/b 10
7
, donc lestimation (1.21) donne une estimation de lerreur relative
x
/x de
1000%, ce qui laisse dsirer pour un calcul quon espre prcis.
En fait, lestimation (1.21) ne sert rien pour ce genre de problme, il faut faire une analyse un peu plus pousse,
comme cest fait dans lexercice 28 page 40. On se rend compte alors que pour f donne il existe C IR
+
ne
dpendant que de f (mais pas de N) tel que
u
C
b
avec b =
_
_
f(x
1
)
.
.
.
f(x
N
)
_
_. (1.26)
Lestimation (1.26) est videmment bien meilleure que lestimation (1.21) puisquelle montre que lerreur relative
commise sur u est du mme ordre que celle commise sur b. En particulier, elle naugmente pas avec le nombre
de points de discrtisation. En conclusion, lestimation (1.21) est peut-tre optimale dans le cas dune matrice
quelconque, (on a montr ci-dessus quil peut y avoir galit dans (1.21)) mais elle nest pas signicative pour
ltude des systmes linaires issus de la discrtisation des quations aux drives partielles.
1.5 Mthodes itratives
1.5.1 Origine des systmes rsoudre
Les mthodes directes que nous avons tudies dans le paragraphe prcdent sont trs efcaces : elles donnent la
solution exacte (aux erreurs darrondi prs) du systme linaire considr. Elles ont linconvnient de ncessiter
une assez grande place mmoire car elles ncessitent le stockage de toute la matrice en mmoire vive. Si la matrice
est pleine, c..d. si la plupart des coefcients de la matrice sont non nuls et quelle est trop grosse pour la mmoire
vive de lordinateur dont on dispose, il ne reste plus qu grer habilement le swapping" cestdire lchange
de donnes entre mmoire disque et mmoire vive pour pouvoir rsoudre le systme.
Cependant, si le systme a t obtenu partir de la discrtisation dquations aux drivs partielles, il est en
gnral creux", c.. d. quun grand nombre des coefcients de la matrice du systme sont nuls ; de plus la matrice
a souvent une structure bande", i.e. les lments non nuls de la matrice sont localiss sur certaines diagonales.
On a vu au chapitre prcdent que dans ce cas, la mthode de Choleski conserve le prol" (voir ce propos page
17). Prenons par exemple le cas dune discrtisation du Laplacien sur un carr par diffrences nies. On cherche
rsoudre le problme :
u = f sur =]0, 1[]0, 1[,
u = 0 sur ,
(1.27)
On rappelle que loprateur Laplacien est dni pour u C
2
(), o est un ouvert de IR
2
, par
u =

2
u
x
2
+

2
u
y
2
.
Dnissons une discrtisation uniforme du carr par les points (x
i
, y
j
), pour i = 1, . . . , M et j = 1, . . . , M avec
x
i
= ih, y
j
= jh et h = 1/(M + 1), represente en gure 1.5.1 pour M = 6. On peut alors approcher les
drives secondes par des quotients diffrentiels comme dans le cas unidimensionnel (voir page 21), pour obtenir
un systme linaire : AU = b o A M
N
(IR) et b IR
N
avec N = M
2
. Utilisons lordrelexicographique"
pour numroter les inconnues, c..d. de bas en haut et de gauche droite : les inconnues sont alors numrotes de
1 N = M
2
et le second membre scrit b = (b
1
, . . . , b
N
)
t
. Les composantes b
1
, . . . , b
N
sont dnies par :pour
i, j = 1, . . . , M, on pose k = j + (i 1)M et b
k
= f(x
i
, y
j
).
2 3 4 5 6
7 8 9
31
10 11 12
13 14 15 16 17 18
19 20 21 22 23 24
30 29 28 27 26 25
32 33 34 35 36
1 i = 1
j = 1
x
y
FIGURE 1.5 Ordre lexicographique des inconnues, exemple dans le cas M = 6
Les coefcients de A = (a
k,
)
k,l=1,N
peuvent tre calculs de la manire suivante :
_
_
Pour i, j = 1, . . . , M, on pose k = j + (i 1)M,
a
k,k
=
4
h
2
,
a
k,k+1
=
_

1
h
2
si j = M,
0 sinon,
a
k,k1
=
_

1
h
2
si j = 1,
0 sinon,
a
k,k+M
=
_

1
h
2
si i < M,
0 sinon,
a
k,kM
=
_

1
h
2
si i > 1,
0 sinon,
Pour k = 1, . . . , N, et = 1, . . . , N;
a
k,
= 0, k = 1, . . . , N, 1 < |k | < N ou |k | > N.
La matrice est donc tridiagonale par blocs, plus prcisment si on note
D =
_
_
_
_
_
_
_
_
_
_
_
4 1 0 . . . . . . 0
1 4 1 0 . . . 0
0
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
0
.
.
.
.
.
.
.
.
. 1
0 . . . 0 1 4
_
_
_
_
_
_
_
_
_
_
_
,
les blocs diagonaux (qui sont des matrices de dimension M M), on a :
A =
_
_
_
_
_
_
_
_
_
_
D Id 0 . . . . . . 0
Id D Id 0 . . . 0
0 Id D Id 0
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
0
.
.
. Id D Id
0 . . . 0 Id D
_
_
_
_
_
_
_
_
_
_
, (1.28)
o Id dsigne la matrice identit dordre M.
On peut remarquer que la matrice A a une largeur de bande" de M. Si on utilise une mthode directe genre
Choleski, on aura donc besoin dune place mmoire de N M = M
3
. (Notons que pour une matrice pleine on a
besoin de M
4
.)
Lorsquon a affaire de trs gros systmes issus par exemple de lingnierie (calcul des structures, mcanique
des uides, . . . ), o N peut tre de lordre de plusieurs milliers, on cherche utiliser des mthodes ncessitant le
moins de mmoire possible. On a intrt dans ce cas utiliser des mthodes itratives. Ces mthodes ne font appel
qu des produits matrice vecteur, et ne ncessitent donc pas le stockage du prol de la matrice mais uniquement
des termes non nuls. Dans lexemple prcdent, on a 5 diagonales non nulles, donc la place mmoire ncessaire
pour un produit matrice vecteur est 5N = 5M
2
. Ainsi pour les gros systmes, il est souvent avantageux dutiliser
des mthodes itratives qui ne donnent pas toujours la solution exacte du systme en un nombre ni ditrations,
mais qui donnent une solution approche cot moindre quune mthode directe, car elles ne font appel qu des
produits matrice vecteur.
Remarque 1.21 (Sur la mthode du gradient conjugu)
Il existe une mthode itrative miraculeuse" de rsolution des systmes linaires lorsque la matrice A est sym-
trique dnie positive : cest la mthode du gradient conjugu. Elle est miraculeuse en ce sens quelle donne la
solution exacte du systme Ax = b en un nombre ni doprations (en ce sens cest une mthode directe) : moins
de N itrations o N est lordre de la matrice A, bien quelle ne ncessite que des produits matrice vecteur ou
des produits scalaires. La mthode du gradient conjugu est en fait une mthode doptimisation pour la recherche
du minimum dans IR
N
de la fonction de IR
N
dans IR dnie par : f(x) =
1
2
Ax x b x. Or on peut montrer
que lorsque A est symtrique dnie positive, la recherche de x minimisant f dans IR
N
est quivalent la rso-
lution du systme Ax = b. (Voir paragraphe 3.2.2 page 116.) En fait, la mthode du gradient conjugu nest pas
si miraculeuse que cela en pratique : en effet, le nombre N est en gnral trs grand et on ne peut en gneral
pas envisager deffectuer un tel nombre ditrations pour rsoudre le systme. De plus, si on utilise la mthode du
gradient conjugu brutalement, non seulement elle ne donne pas la solution en N itrations en raison de laccumu-
lation des erreurs darrondi, mais plus la taille du systme crot et plus le nombre ditrations ncessaires devient
lev. On a alors recours aux techniques de prconditionnement". Nous reviendrons sur ce point au chapitre 3.
La mthode itrative du gradient pas xe, qui est elle aussi obtenue comme mthode de minimisation de la
fonction f ci-dessus, fait lobjet des exercices 29 page 41 et 70 page 139.
1.5.2 Dnition et proprits
Soit A M
N
(IR) une matrice inversible et b IR
N
, on cherche toujours ici rsoudre le systme linaire (1.1)
cestdire trouver x IR
N
tel que Ax = b.
Dnition 1.22 On appelle mthode itrative de rsolution du systme linaire (1.1) une mthode qui construit
une suite (x
(k)
)
kIN
(o litr" x
(k)
est calcul partir des itrs x
(0)
. . . x
(k1)
) cense converger vers x
solution de (1.1)).
Dnition 1.23 On dit quune mthode itrative est convergente si pour tout choix initial x
(0)
IR
N
, on a :
x
(k)
x quand n +
Puisquil sagit de rsoudre un sytme linaire, il est naturel dessayer de construire la suite des itrs sous la forme
x
(k+1)
= Bx
(k)
+ c, o B M
N
(IR) et c IR
N
seront choisis de manire ce que la mthode itrative ainsi
dnie soit convergente. On appellera ce type de mthode Mthode I, et on verra par la suite un choix plus restrictif
quon appellera Mthode II.
Dnition 1.24 (Mthode I) On appelle mthode itrative de type I pour la rsolution du systme linaire (1.1)
une mthode itrative o la suite des itrs (x
(k)
)
kIN
est donne par :
_
Initialisation x
(0)
IR
N
Itration n x
(k+1)
= Bx
(k)
+c.
o B M
N
(IR) et c IR
N
.
Remarque 1.25 (Condition ncessaire de convergence) Une condition ncessaire pour que la mthode I converge
est que c = (Id B)A
1
b. En effet, supposons que la mthode converge. En passant la limite lorsque n
tend vers linni sur litration n de lalgorithme, on obtient x = Bx + c et comme x = A
1
b, ceci entrane
c = (Id B)A
1
b.
Remarque 1.26 (Intrt pratique) La mthode I est assez peu intressante en pratique, car il faut calculer
A
1
b, sauf si (Id B)A
1
= Id, avec IR. On obtient dans ce cas :
B = A+Id
et c = b
cestdire
x
n+1
= x
n
+ (b Ax
n
).
Le terme b Ax
n
est appel rsidu et la mthode sappelle dans ce cas la mthode dextrapolation de Richardson.
Thorme 1.27 (Convergence de la mthode de type I) Soit A M
N
(IR) Ainversible, b IR
N
. On considre
la mthode I avec B M
N
(IR) et
c = (Id B)A
1
b. (1.29)
Alors la mthode I converge si et seulement si le rayon spectral (B) de la matrice B vrie (B) < 1.
Dmonstration
Soit B M
N
(IR).
Soit x la solution du systme linaire (1.1) ; grce (1.29), x = Bx +c, et comme x
(k+1)
= Bx
(k)
+c, on a donc
x
(k+1)
x = B(x
(k)
x) et par rcurrence sur k,
x
(k)
x = B
k
(x
(0)
x), k IN. (1.30)
On en dduit par le lemme 1.5 que la mthode converge si et seulement si (B) < 1. En effet
() Supposons que (B) 1 et montrons que la mthode I ne converge pas. Si (B) 1 il existe y IR
N
tel
que B
k
y
k+
0.
En choisissant x
(0)
= x +y = A
1
b +y, lgalit (1.30) devient : x
(k)
x = B
k
y
k+
0 par hypothse
et donc la mthode nest pas convergente.
() Supposons maintenant que (B) < 1 alors lgalit (1.30) donne
x
(k)
x = B
k
(x
(0)
x)
k+
0
car (B) < 1. Donc x
(k)
k+
x = A
1
b. La mthode est bien convergente.
Dnition 1.28 (Mthode II) Soit A M
N
(IR) une matrice inversible, b IR
N
. Soient

M et

N M
N
(IR)
des matrices telles que A =

M

N et

M est inversible (et facile inverser).
On appelle mthode de type II pour la rsolution du systme linaire (1.1) une mthode itrative o la suite des
itrs (x
(k)
)
kIN
est donne par :
_
Initialisation x
(0)
IR
N
Itration n

Mx
(k+1)
=

Nx
(k)
+b.
(1.31)
Remarque 1.29 Si

Mx
(k+1)
=

Nx
(k)
+b pour tout k IN et x
(k)
y quand n +alors

My =

Ny+b,
c..d. (

M

N)y = b et donc Ay = b. En conclusion, si la mthode de type II converge, alors elle converge bien
vers la solution du systme linaire.
Thorme 1.30 (Convergence de la mthode II) Soit A M
N
(IR) une matrice inversible, b IR
N
. Soient

M
et

N M
N
(IR) des matrices telles que A =

M

N et

M est inversible. Alors :
1. La mthode dnie par (1.31) converge si et seulement si (

M
1

N) < 1.
2. La mthode itrative dnie par (1.31) converge si et seulement si il existe une norme induite note telle
que

M
1

N < 1.
Dmonstration
1. Pour dmontrer le point 1, il suft de rcrire la mthode II avec le formalisme de la mthode I. En effet,
Mx
(k+1)
=

Nx
(k)
+b x
(k+1)
=

M
1

Nx
(k)
+

M
1
b = Bx
(k)
+c,
avec B =

M
1

N et c =

M
1
b.
2. Si il existe une norme induite note telle que

M
1

N < 1, alors en vertu du lemme 1.5, (

M
1

N) < 1
et donc la mthode converge ce qui prcde.
Rciproquement, si la mthode converge alors (

M
1

N) < 1, et donc il existe > 0 tel que (

M
1

N) =
1 . varepsilon Prenons maintenant =

2
et appliquons la proposition 1.7 : il existe une norme induite
telle que

M
1

N (

M
1

N) + < 1, ce qui dmontre le rsultat.
Pour trouver des mthodes itratives de rsolution du systme (1.1), on cherche donc une dcomposition de la
matrice A de la forme : A =

M

N, o

M est inversible, telle que le systme

My = d soit un systme facile
rsoudre (par exemple

M soit triangulaire).
Thorme 1.31 (Condition sufsante de convergence, mthode II) Soit A M
N
(IR) une matrice symtrique
dnie positive, et soient

M et

N M
N
(IR) telles que A =

M

N et

M est inversible. Si la matrice

M
t
+

N
est symtrique dnie positive alors (

M
1

N) < 1, et donc la mthode II converge.
Dmonstration On rappelle (voir exercice (5) page 32) que si B M
N
(IR), et si est une norme induite sur
M
N
(IR) par une norme sur IR
N
, on a toujours (B) B. On va donc chercher une norme sur IR
N
, note
telle que

M
1

N
= max{

M
1

Nx
, x IR
N
, x
= 1} < 1,
(o on dsigne encore par .
la norme induite sur M

N
(IR)) ou encore :

M
1

Nx
< x
, x IR
N
, x = 0. (1.32)
On dnit la norme
par x
Ax x, pour tout x IR
N
. Comme Aest symtrique dnie positive,
est bien une norme sur IR

N
, induite par le produit scalaire (x|y)
A
= Ax y. On va montrer que la proprit (1.32)
est vrie par cette norme. Soit x IR
N
, x = 0, on a :

M
1

Nx
2
= A

M
1

Nx

M
1

Nx. Or

N =

MA, et
donc :

M
1

Nx
2
= A(Id

M
1
A)x (Id

M
1
A)x. Soit y =

M
1
Ax; remarquons que y = 0 car x = 0
et

M
1
A est inversible. Exprimons

M
1

Nx
2
laide de y.

M
1

Nx
2
= A(x y) (x y) = Ax x 2Ax y +Ay y = x

2
2Ax y +Ay y.
Pour que

M
1

Nx
2
< x
2
(et par suite (

M
1

N) < 1), il suft donc de montrer que 2Ax y +Ay y < 0.
Or, comme

My = Ax, on a : 2Ax y + Ay y = 2

My y + Ay y. En crivant :

My y = y

M
t
y =
M
t
y y, on obtient donc que : 2Ax y + Ay y = (

M

M
t
+ A)y y, et comme A =

M

N on obtient
2Ax y + Ay y = (

M
t
+

N)y y. Comme

M
t
+

N est symtrique dnie positive par hypothse et que
y = 0, on en dduit que 2Ax y +Ay y < 0, ce qui termine la dmonstration.
Estimation de la vitesse de convergence On montre dans lexercice 43 page 47 que si la suite (x
(k)
)
kIN

IR est donne par une mthode I" (voir dnition 1.24 page 25) convergente, i.e. x
(k+1)
= Bx
(k)
+ C (avec
(B) < 1), et si on suppose que x est la solution du systme (1.1), et que x
(k)
x quand k , alors
x
(k+1)
x
x
(k)
x
(B) quand k +(sauf cas particuliers) indpendamment de la norme sur IR
N
. Le rayon
spectral (B) de la matrice B est donc une bonne estimation de la vitesse de convergence. Pour estimer cette
vitesse de convergence lorsquon ne connat pas x, on peut utiliser le fait (voir encore lexercice 43 page 47) quon
a aussi
x
(k+1)
x
(k)
x
(k)
x
(k1)
(B) lorsque n +,
ce qui permet dvaluer la vitesse de convergence de la mthode par le calcul des itrs courants.
1.5.3 Mthodes de Jacobi, Gauss-Seidel et SOR/SSOR
Dcomposition par blocs de A :
Dans de nombreux cas pratiques, les matrices des systmes linaires rsoudre ont une structure par blocs", et on
se sert de cette structure lors de la rsolution par une mthode itrative.
Dnition 1.32 Soit A M
N
(IR) une matrice inversible. Une dcomposition par blocs de A est dnie par un
entier S N, des entiers (n
i
)
i=1,...,S
tels que
S
i=1
n
i
= N, et S
2
matrices A
i,j
M
ni,nj
(IR) (ensemble des
matrices rectangulaires n
i
lignes et n
j
colonnes, telles que les matrices A
i,i
soient inversibles pour i = 1, . . . , S
et
A =
_
_
A
1,1
A
1,2
. . . . . . A
1,S
A
2,1
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
. A
S1,S
A
S,1
. . . . . . A
S,S1
A
S,S
_
_
(1.33)
Remarque 1.33
1. Si S = N et n
i
= 1 i {1, . . . , S}, chaque bloc est constitu dun seul coefcient.
2. Si A est symtrique dnie positive, la condition A
i,i
inversible dans la dnition 1.32 est inutile car A
i,i
est ncessairement symtrique dnie positive donc inversible. Prenons par exemple i = 1 ; soit y IR
n1
,
y = 0 et x = (y, 0 . . . , 0)
t
IR
N
. Alors A
1,1
y y = Ax x > 0 donc A
1,1
est symtrique dnie positive.
3. Si A est une matrice triangulaire par blocs, c..d. de la forme (1.33) avec A
i,j
= 0 si j > i, alors
det(A) =
S
i=1
det(A
i,i
).
Par contre si A est dcompose en 2 2 blocs carrs (i.e. tels que n
i
= m
j
, (i, j) {1, 2}), on a en
gnral : det(A) = det(A
1,1
)det(A
2,2
) det(A
1,2
)det(A
2,1
).
Mthode de Jacobi
On peut remarquer que le choix le plus simple pour le systme

Mx = d soit facile rsoudre (on rappelle que cest
un objectif de la mise sous forme mthode de type II) est de prendre pour

M une matrice diagonale. La mthode
de Jacobi
4
consiste prendre pour

M la matrice diagonale D forme par les blocs diagonaux de A :
4. Carl Gustav Jakob Jacobi, (Potsdam, 1804 - Berlin, 1851), mathmaticien allemand. Issu dune famille juive, il tudie lUniversit de
Berlin, o il obtient son doctorat en 1825, peine g de 21 ans. Sa thse est une discussion analytique de la thorie des fractions. En 1829, il
devient professeur de mathmatique lUniversit de Knigsberg, et ce jusquen 1842. Il fait une dpression, et voyage en Italie en 1843. son
retour, il dmnage Berlin o il sera pensionnaire royal jusqu sa mort. Dans une lettre du 2 juillet 1830 adresse Legendre, Jacobi crit :
M. Fourier avait lopinion que le but principal des mathmatiques tait lutilit publique et lexplication des phnomnes naturels ; mais un
philosophe comme lui aurait d savoir que le but unique de la science, cest lhonneur de lesprit humain, et que sous ce titre, une question de
nombres vaut autant quune question du systme du monde. Lexpression est reste, et renvoie un dbat toujours dactualit.
D =
_
_
A
1,1
0 . . . . . . 0
0
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
. 0
0 . . . . . . 0 A
S,S
_
_
.
Dans la matrice ci-dessus, 0 dsigne un bloc nul.
On a alors

N = E +F, o E et F sont constitus des blocs triangulaires infrieurs et suprieurs de la matrice A :
E =
_
_
0 0 . . . . . . 0
A
2,1
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
. 0
A
S,1
. . . . . . A
S,S1
0
_
_
et
F =
_
_
0 A
1,2
. . . . . . A
1,S
0
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
. A
S1,S
0 . . . . . . 0 0
_
_
.
On a bien A =

M

N et avec D, E et F dnies comme ci-dessus, la mthode de Jacobi scrit :
_
x
(0)
IR
N
Dx
(k+1)
= (E +F)x
(k)
+b.
(1.34)
Lorsquon crit la mthode de Jacobi comme une mthode I, on a B = D
1
(E +F) ; on notera J cette matrice.
En introduisant la dcomposition par blocs de x, solution recherche de (1.1), c..d. : x = [x
1
, . . . , x
S
]
t
, o
x
i
IR
ni
, on peut aussi crire la mthode de Jacobi sous la forme :
_
_
_
x
0
IR
N
A
i,i
x
(k+1)
i
=
j<i
A
i,j
x
(k)
j

j>i
A
i,j
x
(k)
j
+b
i
i = 1, . . . , S.
(1.35)
Si S = N et n
i
= 1 i {1, . . . , S}, chaque bloc est constitu dun seul coefcient, et on obtient la mthode de
Jacobi par points (aussi appele mthode de Jacobi), qui scrit donc :
_
_
_
x
0
IR
N
a
i,i
x
(k+1)
i
=
j<i
a
i,j
x
(k)
j

j>i
a
i,j
x
(k)
j
+b
i
i = 1, . . . , N.
(1.36)
Mthode de Gauss-Seidel
Lide de la mthode de Gauss-Seidel
5
est dutiliser le calcul des composantes de litr (k + 1) ds quil est
effectu. Par exemple, pour calculer la deuxime composante x
(k+1)
2
du vecteur x
(k+1)
, on pourrait employer la
nouvelle" valeur x
(k+1)
1
quon vient de calculer plutt que la valeur x
(k)
1
comme dans (1.35) ; de mme, dans le
5. Philipp Ludwig von Seidel (Zweibr
1
2
cken, Allemagne 1821 ? Munich, 13 August 1896) mathmaticien allemand dont il est dit quil a
dcouvert en 1847 le concept crucial de la convergence uniforme en tudiant une dmonstration incorrecte de Cauchy.
calcul de x
(k+1)
3
, on pourrait employer les nouvelles" valeurs x
(k+1)
1
et x
(k+1)
2
plutt que les valeurs x
(k)
1
et x
(k)
2
.
Cette ide nous suggre de remplacer dans (1.35) x
(k)
j
par x
(k+1)
j
si j < i. On obtient donc lalgorithme suivant :
_
x
(0)
IR
N
A
i,i
x
(k+1)
i
=
j<i
A
i,j
x
(k+1)
j

i<j
A
i,j
x
(k)
j
+b
i
, i = 1, . . . , S.
(1.37)
Notons que lalgorithme de GaussSeidel par points (cas ou S = N et n
i
= 1) scrit donc :
_
x
(0)
IR
N
a
i,i
x
(k+1)
i
=
j<i
a
i,j
x
(k+1)
j

i<j
a
i,j
x
(k)
j
+b
i
, i = 1, . . . , N.
(1.38)
La mthode de GaussSeidel scrit donc sous forme de mthode II avec

M = D E et

N = F :
_
x
0
IR
N
(D E)x
(k+1)
= Fx
(k)
+b.
(1.39)
Lorsquon crit la mthode de GaussSeidel comme une mthode I, on a B = (D E)
1
F ; on notera L
1
cette
matrice, dite matrice de Gauss-Seidel.
Mthodes SOR et SSOR
Lide de la mthode de sur-relaxation (SOR = Successive Over Relaxation) est dutiliser la mthode de Gauss-
Seidel pour calculer un itr intermdiaire x
(k+1)
quon relaxe" ensuite pour amliorer la vitesse de convergence
de la mthode. On se donne 0 < < 2, et on modie lalgorithme de GaussSeidel de la manire suivante :
_
_
x
0
IR
N
A
i,i
x
(k+1)
i
=
j<i
A
i,j
x
(k+1)
j

i<j
A
i,j
x
(k)
j
+b
i
x
(k+1)
i
= x
(k+1)
i
+ (1 )x
(k)
i
, i = 1, . . . , S.
(1.40)
(Pour = 1 on retrouve la mthode de GaussSeidel.)
Lalgorithme ci-dessus peut aussi scrire (en multipliant par A
i,i
la ligne 3 de lalgorithme (1.40)) :
_
_
x
(0)
IR
N
A
i,i
x
(k+1)
i
=
_
_
j<i
A
i,j
x
(k+1)
j

j>i
A
i,j
x
(k)
j
+b
i
_
_
+(1 )A
i,i
x
(k)
i
.
(1.41)
On obtient donc
(D E)x
(k+1)
= Fx
(k)
+ b + (1 )Dx
(k)
.
Lalgorithme SOR scrit donc comme une mthode II avec
M =
D
E et

N = F +
_
1
_
D.
Il est facile de vrier que A =

M

N.
Lalgorithme SOR scrit aussi comme une mthode I avec
B =
_
D
E
_
1
(F +
_
1
_
D).
On notera L
cette matrice.
Remarque 1.34 (Mthode de Jacobi relaxe) On peut aussi appliquer une procdure de relaxation avec comme
mthode irative de base la mthode de Jacobi, voir ce sujet lexercice 36 page 43). Cette mthode est toutefois
beaucoup moins employe en pratique (car moins efcace) que la mthode SOR.
En symtrisant" le procd de la mthode SOR, c..d. en effectuant les calculs SOR sur les blocs dans lordre 1
N puis dans lordre N 1, on obtient la mthode de sur-relaxation symtrise (SSOR = Symmetric Successive
Over Relaxation) qui scrit dans le formalisme de la mthode I avec
B =
_
D
F
_
1
_
E +
1
D
_
. .
calcul dans lordre S...1
_
D
E
_
1
_
F +
1
D
_
. .
calcul dans lordre 1...S
.
Etude thorique de convergence
On aimerait pouvoir rpondre aux questions suivantes :
1. Les mthodes sontelles convergentes ?
2. Peut-on estimer leur vitesse de convergence ?
3. Peut-on estimer le coefcient de relaxation optimal dans la mthode SOR, c..d. celui qui donnera la plus
grande vitesse de convergence ?
On va maintenant donner des rponses, partielles dans certains cas, faute de mieux, ces questions.
Convergence On rappelle quune mthode itrative de type I, i.e. crite sous la forme x
(n+1)
= Bx
(n)
+ C
converge si et seulement si (B) < 1 (voir le thorme 1.27 page 25).
Thorme 1.35 (Sur la convergence de la mthode SOR)
Soit A M
N
(IR) qui admet une dcomposition par blocs dnie dans la dnition 1.33 page 27 ; soient D
la matrice constitue par les blocs diagonaux, E (resp. F) la matrice constitue par les blocs triangulaires
infrieurs (resp. suprieurs) ; on a donc : A = D E F. Soit L
la matrice ditration de la mthode SOR (et

de la mthode de GaussSeidel pour = 1) dnie par :
L
=
_
D
E
_
1
_
F +
1
D
_
, = 0.
Alors :
1. Si (L
) < 1 alors 0 < < 2.

2. Si on suppose de plus que A symtrique dnie positive, alors :
(L
) < 1 si et seulement si 0 < < 2.

En particulier, si A est une matrice symtrique dnie positive, la mthode de GaussSeidel converge.
Dmonstration du thorme 1.35 :
1. Calculons det(L
). Par dnition,
L
=

M
1

N, avec

M =
1
D E et

N = F +
1
D.
Donc det(L
) = (det(

M))
1
det(

N). Comme

M et

N sont des matrices triangulaires par blocs, leurs
dterminants sont les produits des dterminants des blocs diagonaux (voir la remarque 1.33 page 27). On a
donc :
det(L
) =
(
1
)
N
det(D)
(
1
)
N
det(D)
= (1 )
N
.
Or le dterminant dune matrice est aussi le produit des valeurs propres de cette matrice (comptes avec leur
multiplicits algbriques), dont les valeurs absolues sont toutes, par dnition, infrieures au rayon spectral.
On a donc : |det(L
)| = |(1 )
N
| ((L
))
N
, do le rsultat.
2. Supposons maintenant que A est une matrice symtrique dnie positive, et que 0 < < 2. Montrons
que (L
) < 1. Par le thorme 1.31 page 26, il suft pour cela de montrer que

M
t
+

N est une matrice
symtrique dnie positive. Or,
M
t
=
_
D
E
_
t
=
D
F,
M
t
+

N =
D
F +F +
1
D =
2
D.
La matrice

M
t
+

N est donc bien symtrique dnie positive.
Remarque 1.36 (Comparaison GaussSeidel/Jacobi) On a vu (thorme 1.35) que si A est une matrice sym-
trique dnie positive, la mthode de GaussSeidel converge. Par contre, mme dans le cas o A est symtrique
dnie positive, il existe des cas o la mthode de Jacobi ne converge pas, voir ce sujet lexercice 30 page 41.
Remarquons que le rsultat de convergence des mthodes itratives donn par le thorme prcdent nest que
partiel, puisquil ne concerne que les matrices symtriques dnies positives et que les mthodes Gauss-Seidel
et SOR. On a aussi un rsultat de convergence de la mthode de Jacobi pour les matrices diagonale dominante
stricte, voir exercice 32 page 41, et un rsultat de comparaison des mthodes pour les matrices tridiagonales par
blocs, voir le thorme 1.37 donn ci-aprs. Dans la pratique, il faudra souvent compter sur sa bonne toile. . .
Estimation du coefcient de relaxation optimal de SOR La question est ici destimer le coefcient de relaxa-
tion optimal dans la mthode SOR, c..d. le coefcient
0
]0, 2[ (condition ncessaire pour que la mthode
SOR converge, voir thorme 1.35) tel que (L
0
) < (L
) ]0, 2[.
Daprs le paragraphe prcdent ce
0
donnera la meilleure convergence possible pour SOR. On sait le faire dans le
cas assez restrictif des matrices tridiagonales par blocs. On ne fait ici qunoncer le rsultat dont la dmonstration
est donne dans le livre de Ph. Ciarlet conseill en dbut de cours.
Thorme 1.37 (Coefcient optimal, matrice tridiagonale) On considre une matrice A M
N
(IR) qui admet
une dcomposition par blocs dnie dans la dnition 1.33 page 27 ; on suppose que la matrice A est tridiagonale
par blocs, c..d. A
i,j
= 0 si |i j| > 1 ; soient L
1
et J les matrices ditration respectives des mthodes de
Gauss-Seidel et Jacobi, alors :
1. (L
1
) = ((J))
2
: la mthode de GaussSeidel converge (ou diverge) donc plus vite que celle de Jacobi.
2. On suppose de plus que toutes les valeurs propres de la matrice ditration J de la mthode de Jacobi sont
relles. alors le paramtre de relaxation optimal, c..d. le paramtre
0
tel que (L
0
) = min{(L
),
]0, 2[}, sexprime en fonction du rayon spectral (J) de la matrice J par la formule :
0
=
2
1 +
_
1 (J)
2
> 1,
et on a : (L
0
) =
0
1.
1.5.4 Recherche de valeurs propres et vecteurs propres
Les techniques de recherche des lments propres, c..d. des valeurs et vecteurs propres (voir Dnition 1.4 page
5) dune matrice sont essentielles dans de nombreux domaines dapplication, par exemple en dynamique des struc-
tures : la recherche des modes propres dune structure peut savrer importante pour le dimensionnement de struc-
tures sous contraintes dynamiques, voir ce propos lexemple clbre du Tacoma Bridge", dcrit dans les livres
de M. Braun (en anglais) et M. Schatzman (en franais) conseills en dbut de cours.
On donne dans les exercices qui suivent deux mthodes assez classiques de recherche de valeurs propres dune
matrice qui sont la mthode de la puissance (exercice 43 page 47) et celui de la puissance inverse (exercice 44
page 47). Citons galement une mthode trs employe, la mthode QR, qui est prsente dans de nombreuses
bibliothques de programmes. On pourra se rfrer aux ouvrages de Ph. Ciarlet et de M. Schatzman, de D. Serre
et de P. Lascaux et R. Theodor (voir introduction).
1.6. EXERCICES CHAPITRE 1. SYSTMES LINAIRES
1.6 Exercices
Exercice 1 (Matrices symtriques dnies positives) Suggestions en page 50, corrig en page 53.
On rappelle que toute matrice A M
N
(IR) symtrique est diagonalisable dans IR (cf. lemme 1.12 page 7). Plus
prcisment, on a montr en cours que, si A M
N
(IR) est une matrice symtrique, il existe une base de IR
N
,
note {f
1
, . . . , f
N
}, et il existe
1
, . . . ,
N
IR t.q. Af
i
=
i
f
i
, pour tout i {1, . . . , N}, et f
i
f
j
=
i,j
pour
tout i, j {1, . . . , N} (x y dsigne le produit scalaire de x avec y dans IR
N
).
1. Soit A M
N
(IR). On suppose que A est symtrique dnie positive, montrer que les lments diagonaux
de A sont strictements positifs.
2. Soit A M
N
(IR) une matrice symtrique. Montrer que A est symtrique dnie positive si et seulement si
toutes les valeurs propres de A sont strictement positives.
3. Soit A M
N
(IR). On suppose que Aest symtrique dnie positive. Montrer quon peut dnir une unique
matrice B M
N
(IR), B symtrique dnie positive t.q. B
2
= A (on note B = A
1
2
).
Exercice 2 (Normes de lIdentit)
Soit Id la matrice Identit" de M
N
(IR). Montrer que pour toute norme induite on a Id = 1 et que pour toute
norme matricielle on a Id 1.
Exercice 3 (Normes induites particulires) Suggestions en page 50, corrig dtaill en page 53.
Soit A = (a
i,j
)
i,j{1,...,N}
M
N
(IR).
1. On munit IR
N
de la norme
et M
N
. Montrer
que A
= max
i{1,...,N}
N
j=1
|a
i,j
|.
2. On munit IR
N
de la norme
1
et M
N
1
. Montrer
que A
1
= max
j{1,...,N}
N
i=1
|a
i,j
|.
3. On munit IR
N
de la norme
2
et M
N
2
. Montrer
que A
2
= ((A
t
A))
1
2
.
Exercice 4 (Norme non induite)
Pour A = (a
i,j
)
i,j{1,...,N}
M
N
(IR), on pose A
s
= (
N
i,j=1
a
2
i,j
)
1
2
.
1. Montrer que
s
est une norme matricielle mais nest pas une norme induite (pour N > 1).
2. Montrer que A
2
s
= tr(A
t
A). En dduire que A
2
A
s

NA
2
et que Ax
2
A
s
x
2
,
pour tout A M
N
(IR) et tout x IR
N
.
3. Chercher un exemple de norme non matricielle.
Exercice 5 (Rayon spectral) Suggestions en page 50, corrig dtaill en page 54.
On munit M
N
(IR) dune norme, note . Soit A M
N
(IR).
1. Montrer que (A) < 1 si et seulement si A
k
0 quand k .
2. Montrer que : (A) < 1 limsup
k
A
k
1
k
1.
3. Montrer que :liminf
k
A
k
1
k
< 1 (A) < 1.
4. Montrer que (A) = lim
k
A
k
1
k
.
5. On suppose ici que est une norme matricielle, dduire de la question prcdente que (A) A. ( On a
ainsi dmontr le lemme 1.5).
Exercice 6 (Valeurs propres nulles dun produit de matrices)
Soient p et n des entiers naturels non nuls tels que n p, et soient A M
n,p
(IR) et B M
p,n
(IR). (On rappelle
que M
n,p
(IR) dsigne lensemble des matrices n lignes et p colonnes.)
1. Montrer que est valeur propre non nulle de AB si et seulement si est valeur propre non nulle de BA.
2. Montrer que si = 0 est valeur propre de AB alors est valeur propre nulle de BA.
(Il est conseill de distinguer les cas Bx = 0 et Bx = 0, o x est un vecteur propre associ la = 0
valeur propre de AB. Pour le deuxime cas, on pourra distinguer selon que ImA = IR
n
ou non.)
3. Montrer en donnant un exemple que peut tre une valeur propre nulle de BA sans tre valeur propre de
AB.
(Prendre par exemple n = 1, p = 2.)
4. On suppose maintenant que n = p, dduire des questions 1. et 2. que lensemble des valeurs propres de AB
est gal lensemble des valeurs propres de la matrice BA.
Exercice 7 (Rayon spectral) Corrig en page 55.
Soit A M
N
(IR). Montrer que si A est diagonalisable, il existe une norme induite sur M
N
(IR) telle que
(A) = A. Montrer par un contre exemple que ceci peut tre faux si A nest pas diagonalisable.
Exercice 8 (Sur le rayon spectral)
On dnit les matrices carres dordre 2 suivantes :
A =
_
1 1
1 1
_
, B =
_
1 0
1 1
_
, C = A+B.
Calculer le rayon spectral de chacune des matrices A, B et C et en dduire que le rayon spectral ne peut tre ni
une norme, ni mme une semi-norme sur lespace vectoriel des matrices.
Exercice 9 (Srie de Neumann) Suggestions en page 50, corrig dtaill en page 55.
Soient A M
N
(IR) et une norme matricielle.
1. Montrer que si (A) < 1, les matrices Id A et Id +A sont inversibles.
2. Montrer que la srie de terme gnral A
k
converge (vers (Id A)
1
) si et seulement si (A) < 1.
Exercice 10 (Normes matricielles)
Soit . une norme matricielle quelconque, et soit A M
N
(IR) telle que (A) < 1 (on rappelle quon note (A)
le rayon spectral de la matrice A). Pour x IR
N
, on dnit x
par :
x
j=0
A
j
x.
1. Montrer que lapplication dnie de IR
N
dans IR par x x
est une norme.

2. Soit x IR
N
tel que x
= 1. Calculer Ax
en fonction de x, et en dduire que A
< 1.
3. On ne suppose plus que (A) < 1. Soit > 0 donn. Construire partir de la norme . une norme induite
.
telle que A
(A) + .
Exercice 11 (Dcomposition LDL
t
et LL
t
) Corrig en page 55
1. Soit A =
_
2 1
1 0
_
.
Calculer la dcomposition LDL
t
de A. Existe-t-il une dcomposition LL
t
de A?
2. Montrer que toute matrice de M
N
(IR) symtrique dnie positive admet une dcomposition LDL
t
.
3. Ecrire lalgorithme de dcomposition LDL
t
. La matrice A =
_
0 1
1 0
_
admet-elle une dcomposition LDL
t
?
Exercice 12 (Dcomposition LU et LL
t
de matrices 3 3)
1. Soit A =
_
_
_
_
2 1 4 0
4 1 5 1
2 2 2 3
0 3 9 4
_
_
_
_
. Donner la dcomposition LU de A.
2. Soit B =
_
_
_
_
2 1 0 0
1 2 1 0
0 1 2 1
0 0 1 2
_
_
_
_
. Donner la dcomposition LL
t
de B.
3. Que deviennent les coefcients nuls dans la dcomposition LL
t
ci-dessus ? Quelle est la proprit vue en cours
qui est ainsi vrie ?
Exercice 13
Soient a, b, c et d des nombres rels. On considre la matrice suivante :
A =
_
_
a a a a
a b b b
a b c c
a b c d
_
_
.
Appliquer lalgorithme dlimination de Gauss A pour obtenir sa dcomposition LU.
Donner les conditions sur a, b, c et d pour que la matrice A soit inversible.
Exercice 14 (Sur la mthode LL
t
) Corrig dtaill en page 58.
Soit A une matrice carre dordre N, symtrique dnie positive et pleine. On cherche rsoudre le systme
A
2
x = b.
On propose deux mthodes de rsolution de ce systme :
1. Calculer A
2
, effectuer la dcomposition LL
t
de A
2
, rsoudre le systme LL
t
x = b.
2. Calculer la dcomposition LL
t
de A, rsoudre les systmes LL
t
y = b et LL
t
x = y.
Calculer le nombre doprations lmentaires ncessaires pour chacune des deux mthodes et comparer.
Exercice 15 (Dcomposition LL
t
dune matrice tridiagonale symtrique)
Soit A M
N
(IR) symtrique dnie positive et tridiagonale (i.e. a
i,j
= 0 si i j > 1).
1. Montrer que A admet une dcomposition LL
t
, o L est de la forme
L =
_
_
_
_
_
_
_
_
1
0 . . . 0
2

2
0 . . . 0
0
.
.
.
.
.
. . . . 0
.
.
.
.
.
.
.
.
. . . .
.
.
.
0 0
N

N
_
_
_
_
_
_
_
_
.
2. Donner un algorithme de calcul des coefcients
i
et
i
, en fonction des coefcients a
i,j
, et calculer le
nombre doprations lementaires ncessaires dans ce cas.
3. En dduire la dcomposition LL
t
de la matrice :
A =
_
_
_
_
_
_
1 1 0 0 0
1 2 1 0 0
0 1 2 1 0
0 0 1 2 1
0 0 0 1 2
_
_
_
_
_
_
.
4. Linverse dune matrice inversible tridiagonale est elle tridiagonale ?
Exercice 16 (Choleski pour matrice bande) Suggestions en page 50, corrig en page 59
Soit A M
N
(IR) une matrice symtrique dnie positive.
1. On suppose ici que A est tridiagonale. Estimer le nombre doprations de la factorisation LL
t
dans ce cas.
2. Mme question si A est une matrice bande (cest--dire p diagonales non nulles).
3. En dduire une estimation du nombre doprations ncessaires pour la discrtisation de lquation u
= f
vue page 21. Mme question pour la discrtisation de lquation u = f prsente page 22.
Exercice 17 (Un systme par blocs)
Soit A M
N
(IR) une matrice carre dordre N inversible, b, c, f IR
N
. Soient et IR. On cherche
rsoudre le systme suivant (avec x IR
N
, IR) :
Ax +b = f,
c x + = .
(1.42)
1. Ecrire le systme (1.42) sous la forme : My = g, o M est une matrice carre dordre N + 1, y IR
N+1
,
g IR
N+1
. Donner lexpression de M, y et g.
2. Donner une relation entre A, b, c et , qui soit une condition ncessaire et sufsante pour que le systme
(1.42) soit inversible. Dans toute la suite, on supposera que cette relation est vrie.
3. On propose la mthode suivante pour la rsolution du systme (1.42) :
(a) Soient z solution de Az = b, et h solution de Ah = f.
(b) x = h
c h
c z
z, =
c h
c z
.
Montrer que x IR
N
et IR ainsi calculs sont bien solutions du systme (1.42).
4. On suppose dans cette question que A est une matrice bande, dont la largeur de bande est p.
(a) Calculer le cot de la mthode de rsolution propose ci-dessus en utilisant la mthode LU pour la
rsolution des systmes linaires.
(b) Calculer le cot de la rsolution du systme My = g par la mthode LU (en protant ici encore de la
structure creuse de la matrice A).
(c) Comparer et conclure.
Dans les deux cas, le terme dordre suprieur est 2Nq
2
, et les cots sont donc comparables.
Exercice 18 (Proprits gnrales du conditionnement) Corrig dtaill en page 60.
Partie I
On munit IR
N
dune norme, note , et M
N
(IR) de la norme induite, note aussi . Pour une matrice
inversible A M
N
(IR), on note cond(A) = AA
1
.
1. Soit A M
N
(IR) une matrice inversible. Montrer que cond(A) 1.
2. Montrer que cond(A) = cond(A) pour tout IR
.
3. Soit A, B M
N
(IR) deux matrices inversibles. Montrer que cond(AB) cond(A)cond(B).
Partie II
On suppose maintenant que IR
N
est muni de la norme euclidienne usuelle =
2
et M
N
(IR) de la norme
induite (note aussi
2
. On note alors cond
2
(A) conditionnement dune matrice A inversible.
1. Soit A M
N
(IR) une matrice inversible. On note
N
[resp.
1
] la plus grande [resp. petite] valeur propre
de A
t
A (noter que A
t
A est une matrice symtrique dnie positive). Montrer que cond
2
(A) =
_
N
/
1
.
2. On suppose maintenant que A est symtrique dnie positive, montrer que cond
2
(A) =
N
/
1
o
N
[resp.
1
] est la plus grande [resp. petite] valeur propre de A.
3. Soit A M
N
(IR) une matrice inversible. Montrer que cond
2
(A) = 1 si et seulement si A = Q o
IR
et Q est une matrice orthogonale (cest--dire Q

t
= Q
1
).
4. Soit A M
N
(IR) une matrice inversible. On suppose que A = QR o Q est une matrice orthogonale.
Montrer que cond
2
(A) = cond
2
(R).
5. Soit A, B M
N
(IR) deux matrices symtriques dnies positives. Montrer que cond
2
(A+B) max{cond
2
(A), cond
2
(B)}.
Exercice 19 (Minoration du conditionnement)
Soit . une norme induite sur M
N
(IR) et soit A M
N
(IR) telle que det (A) = 0.
1. Montrer que si AB <
1
A
1
, alors B est inversible.

2. Montrer que cond (A) sup
BMN(IR)
detB=0
A
AB
Exercice 20 (Minoration du conditionnement) Corrig dtaill en page 61.
On note une norme matricielle sur M
N
(IR). Soit A M
N
(IR) une matrice carre inversible, cond(A) =
AA
1
le conditionnement de A, et soit A M
N
(IR).
1. Montrer que si A+ A est singulire, alors
cond(A)
A
A
. (1.43)
2. On suppose dans cette question que la norme est la norme induite par la norme euclidienne sur IR
N
.
Montrer que la minoration (1.43) est optimale, cest--dire quil existe A M
N
(IR) telle que A+A soit
singulire et telle que lgalit soit vrie dans (1.43).
[On pourra chercher A de la forme
A =
y x
t
x
t
x
,
avec y IR
N
convenablement choisi et x = A
1
y.]
3. On suppose ici que la norme est la norme induite par la norme innie sur IR
N
. Soit ]0, 1[. Utiliser
lingalit (1.43) pour trouver un minorant, qui tend vers + lorsque tend vers 0, de cond(A) pour la
matrice
A =
_
_
1 1 1
1
1
_
_
.
Exercice 21 (Conditionnement du carr)
Soit A M
N
(IR) une matrice telle que detA = 0.
1. Quelle relation existe-t-il en gnral entre cond (A
2
) et (cond A)
2
?
2. On suppose que A symtrique. Montrer que cond
2
(A
2
) = (cond
2
A)
2
.
3. On suppose que cond
2
(A
2
) = (cond
2
A)
2
. Peut-on conclure que A est symtrique ? (justier la rponse.)
Exercice 22 (Calcul de linverse dune matrice et conditionnement) Corrig dtaill en page 62.
On note une norme matricielle sur M
N
(IR). Soit A M
N
(IR) une matrice carre inversible. On cherche ici
des moyens dvaluer la prcision de calcul de linverse de A.
1. On suppose quon a calcul B, approximation (en raison par exemple derreurs darrondi) de la matrice A
1
.
On pose :
_
_
e
1
=
B A
1
A
1
, e
2
=
B
1
A
A
e
3
= AB Id, e
4
= BAId
(1.44)
(a) Expliquer en quoi les quantits e
1
, e
2
, e
3
et e
4
mesurent la qualit de lapproximation de A
1
.
(b) On suppose ici que B = A
1
+E, o E A
1
, et que
cond(A) < 1.
Montrer que dans ce cas,
e
1
, e
2

cond(A)
1 cond(A)
, e
3
cond(A) et e
4
cond(A).
(c) On suppose maintenant que AB Id = E
avec E
< 1. Montrer que dans ce cas :

e
1
, e
2

1
, e
3
et e
4
cond(A).
2. On suppose maintenant que la matrice A nest connue qu une certaine matrice derreurs prs, quon note
A
.
(a) Montrer que la matrice A+
A
est inversible si
A
<
1
A
1
.
(b) Montrer que si la matrice A+
A
est inversible,
(A+
A
)
1
A
1
(A+
A
)
1
cond(A)
A
.
Exercice 23 (Discrtisation)
On considre la discrtisation pas constant par le schma aux diffrences nies symtrique trois points (vu en
cours) du problme (1.22) page 21, avec f C([0, 1]). Soit N IN
, N impair. On pose h = 1/(N + 1). On

note u est la solution exacte, x
i
= ih, pour i = 1, . . . , N les points de discrtisation, et (u
i
)
i=1,...,N
la solution du
systme discrtis (1.24).
1. Montrer que si u C
4
([0, 1], alors la proprit (1.23) est vrie, c..d. :
u(x
i+1
) +u(x
i1
) 2u(x
i
)
h
2
= u
(x
i
) +R
i
avec |R
i
|
h
2
12
u
(4)
.
2. Montrer que si f est constante, alors
max
1iN
|u
i
u(x
i
)| = 0.
.
3. Soit N x, et max
1iN
|u
i
u(x
i
)| = 0. A-t-on forcment que f est constante sur [0, 1] ? (justier la rponse.)
Exercice 24 (IP-matrice) Corrig en page 63
Soit N IN
, on note M
N
(IR) lensemble des matrices de N lignes et N colonnes et coefcients rels. Si
x IR
N
, on dit que x 0 [resp. x > 0] si toutes les composantes de x sont positives [resp. strictement positives].
Soit A M
N
(IR), on dit que A est une IP-matrice si elle vrie la proprit suivante :
Si x IR
N
est tel que Ax 0, alors x 0,
ce qui peut encore scrire : {x IR
N
t.q. Ax 0} {x IR
N
t.q. x 0}.
1. Soit A = (a
i,j
)
i,j=1,...,N
M
N
(IR). Montrer que A est une IP-matrice si et seulement si A est inversible et
A
1
0 (cest--dire que tous les coefcients de A
1
sont positifs).
2. Soit A =
_
a b
c d
_
une matrice relle dordre 2. Montrer que A est une IP-matrice si et seulement si :
_
_
_
ad < bc,
a < 0, d < 0
b 0, c 0
ou
_
_
_
ad > bc,
a > 0, d > 0,
b 0, c 0.
(1.45)
3. Montrer que si A M
N
(IR) est une IP-matrice alors A
t
(la transpose de A) est une IP-matrice.
4. Montrer que si A est telle que
a
i,j
0, pour tout i, j = 1, . . . , N, i = j,
a
i,i
>
N
j=1
j=i
|a
i,j
|, pour tout i = 1, . . . , N,
(1.46)
alors A est une IP-matrice.
5. En dduire que si A est telle que
a
i,j
0, pour tout i, j = 1, . . . , N, i = j,
a
i,i
>
N
j=1
j=k
|a
j,i
|, pour tout i = 1, . . . , N,
(1.47)
alors A est une IP-matrice.
6. Montrer que si A M
N
(IR) est une IP-matrice et si x IR
N
alors :
Ax > 0 x > 0.
cest--dire que {x IR
N
t.q. Ax > 0} {x IR
N
t.q. x > 0}
7. Montrer, en donnant un exemple, quune matrice A de M
N
(IR) peut vrier {x IR
N
t.q. Ax > 0} {x
IR
N
t.q. x > 0} et ne pas tre une IP-matrice.
8. On suppose dans cette question que A M
N
(IR) est inversible et que {x IR
N
t.q. Ax > 0} {x IR
N
t.q. x > 0}. Montrer que A est une IP-matrice.
9. Soit E lespace des fonctions continues sur IR et admettant la mme limite nie en + et . Soit L(E)
lensemble des applications linaires continues de E dans E. Pour f E, on dit que f > 0 (resp. f 0) si
f(x) > 0 (resp. f(x) 0) pour tout x IR. Montrer quil existe T L(E) tel que Tf 0 =f 0, et g E
tel que Tg > 0 et g > 0 (ceci dmontre que le raisonnement utilis en 2 (b) ne marche pas en dimension innie).
Exercice 25 (M-matrice)
Dans ce qui suit, toutes les ingalits crites sur des vecteurs ou des matrices sont entendre au sens composante
par composante.
Soit A = (a
i,j
)
i,j=1,...,n
une matrice carre dordre n. On dit que A est une M-matrice si A est une IP-matrice (A
est inversible et A
1
0, voir exercice 24) qui vrie de plus
(a) a
i,i
> 0 pour i = 1, . . . , n;
(b) a
i,j
0 pour i, j = 1, . . . , n, i = j ;
1. Soit A une IP-matrice ; montrer que A est une M-matrice si et seulement si la proprit (b) est vrie.
2. Soit A =
_
a b
c d
_
une matrice relle dordre 2. Montrer que A est une M-matrice si et seulement si :
_
_
_
ad > bc,
a > 0, d > 0,
b 0, c 0.
(1.48)
3. Les matrices A =
_
1 2
2 1
_
et B =
_
2 1
1 2
_
sont-elles des IP-matrices ? des M-matrices ?
4. Soit A la matrice carre dordre 3 dnie par :
A =
_
_
2 1
1
2
0 1 1
1 0 1
_
_
Montrer que A
1
0 mais que A nest pas une Mmatrice.
5. Soit A une matrice carre dordre n = m+p, avec m, p IN tels que m 1 et p 1, vriant :
a
i,i
0,
a
i,j
0, pour j = 1, . . . , n, j = i,
a
i,i
+
n
j=1
j=i
a
i,j
= 0
_
_
pour i = 1, . . . , m, (1.49)
a
i,i
= 1,
a
i,j
= 0, pour j = 1, . . . , n, j = i,
_
pour i = m+ 1, . . . , n. (1.50)
i m, (k
)
=1,...,Li
; k
1
= i, k
Li
> m, et a
k
,k
+1
< 0, = 1, . . . , L
i
. (1.51)
Soit b IR
n
tel que b
i
= 0 pour i = 1, . . . , m. On considre le systme linaire
Au = b (1.52)
5.1 Montrer que le systme (1.52) admet une et une seule solution.
5.2 Montrer que u est tel que min
k=m+1,n
b
k
u
i
max
k=m+1,n
b
k
. (On pourra pour simplier supposer que
les quations sont numrotes de telle sorte que min
k=m+1,n
b
k
= b
m+2
b
2
. . . b
n
= max
k=m+1,n
b
k
.)
6. On considre le problme de Dirichlet suivant :
u
= 0 sur [0, 1] (1.53a)

u(0) = 1 (1.53b)
u(1) = 1. (1.53c)
6.1 Calculer la solution exacte u de ce problme et vrier quelle reste comprise entre -1 et 1.
6.2 Soit m > 1 et soient A et b et la matrice et le second membre du systme linaire dordre n = m + 2 obtenu
par discrtisation par diffrences nies avec un pas uniforme h =
1
m
du problme (1.53) (en crivant les conditions
aux limites dans le systme). Montrer que la solution U IR
n
du systme AU = b vrie 1 u
i
1.
Exercice 26 (Valeurs propres du Laplacien discret 1D) Suggestions en page 51, corrig dtaill en page 64.
Soit f C([0, 1]). Soit N IN
, N impair. On pose h = 1/(N +1). Soit A la matrice dnie par (1.25) page 21,
issue dune discrtisation par diffrences nies (vue en cours) du problme (1.22) page 21.
1. Montrer que A est symtrique dnie positive.
2. Calculer les valeurs propres et les vecteurs propres de A. [On pourra commencer par chercher IR et
C
2
(IR, IR) ( non identiquement nulle) t.q.
(x) = (x) pour tout x ]0, 1[ et (0) = (1) = 0].

3. Calculer cond
2
(A) et montrer que h
2
cond
2
(A)
4
2
lorsque h 0.
Exercice 27 (Conditionnement, raction diffusion 1d.)
On sintresse au conditionnement pour la norme euclidienne de la matrice issue dune discrtisation par Diffren-
ces Finies du problme aux limites suivant :
u
(x) +u(x) = f(x), x ]0, 1[,

u(0) = u(1) = 0.
(1.54)
Soit N IN
. On note U = (u
j
)
j=1,...,N
une valeur approche de la solution u du problme (1.54) aux
points
_
j
N+1
_
j=1,...,N
. On rappelle que la discrtisation par diffrences nies de ce problme consiste chercher
U comme solution du systme linaire AU =
_
f(
j
N+1
)
_
j=1,...,N
o la matrice A M
N
(IR) est dnie par
A = (N + 1)
2
B +Id, Id dsigne la matrice identit et
B =
_
_
_
_
_
_
_
_
_
2 1 0 . . . 0
1 2 1
.
.
.
.
.
.
0
.
.
.
.
.
.
.
.
. 0
.
.
.
.
.
. 1 2 1
0 . . . 0 1 2
_
_
_
_
_
_
_
_
_
1. (Valeurs propres de la matrice B.)
On rappelle que le problme aux valeurs propres
u
(x) = u(x), x ]0, 1[,

u(0) = u(1) = 0.
(1.55)
admet la famille (
k
, u
k
)
kIN
,
k
= (k)
2
et u
k
(x) = sin(kx) comme solution. Montrer que les vecteurs
U
k
=
_
u
k
(
j
N+1
)
_
j=1,...,N
sont des vecteurs propres de la matrice B. En dduire toutes les valeurs propres
de la matrice B.
2. En dduire les valeurs propres de la matrice A.
3. En dduire le conditionnement pour la norme euclidienne de la matrice A.
Exercice 28 (Conditionnement efcace".) Suggestions en page 51, corrig en page 65.
Soit f C([0, 1]). Soit N IN
, N impair. On pose h = 1/(N +1). Soit A la matrice dnie par (1.25) page 21,
issue dune discrtisation par diffrences nies (vue en cours) du problme (1.22) page 21.
Pour u IR
N
, on note u
1
, . . . , u
N
les composantes de u. Pour u IR
N
, on dit que u 0 si u
i
0 pour tout
i {1, . . . , N}. Pour u, v IR
N
, on note u v =
N
i=1
u
i
v
i
.
On munit IR
N
de la norme suivante : pour u IR
N
, u = max{|u
i
|, i {1, . . . , N}}. On munit alors M
N
(IR)
de la norme induite, galement note , cest--dire B = max{Bu, u IR
N
t.q. u = 1}, pour tout
B M
N
(IR).
Partie I Conditionnement de la matrice et borne sur lerreur relative
1. (Existence et positivit de A
1
) Soient b IR
N
et u IR
N
t.q. Au = b. Remarquer que Au = b peut
scrire :
_
1
h
2
(u
i
u
i1
) +
1
h
2
(u
i
u
i+1
) = b
i
, i {1, . . . , N},
u
0
= u
N+1
= 0.
(1.56)
Montrer que b 0 u 0. [On pourra considrer p {0, . . . , N+1} t.q. u
p
= min{u
j
, j {0, . . . , N+
1}.]
En dduire que A est inversible.
2. (Prliminaire. . . ) On considre la fonction C([0, 1], IR) dnie par (x) = (1/2)x(1 x) pour tout
x [0, 1]. On dnit alors IR
N
par
i
= (ih) pour tout i {1, . . . , N}. Montrer que (A)
i
= 1 pour
tout i {1, . . . , N}.
3. (calcul de A
1
) Soient b IR
N
et u IR
N
t.q. Au = b. Montrer que u (1/8)b [Calculer
A(u b) avec dni la question 2 et utiliser la question 1]. En dduire que A
1
1/8 puis
montrer que A
1
= 1/8.
4. (calcul de A) Montrer que A =
4
h
2
.
5. (Conditionnement pour la norme ). Calculer A
1
A. Soient b,
b
IR
N
. Soient u,
u
IR
N
t.q.
Au = b et A(u +
u
) = b +
b
. Montrer que

u
u
A
1
A
b
.
Montrer quun choix convenable de b et
b
donne lgalit dans lingalit prcdente.
Partie II Borne raliste sur lerreur relative : Conditionnement efcace"
On se donne maintenant f C([0, 1], IR) et on suppose (pour simplier. . . ) que f(x) > 0 pour tout x ]0, 1[. On
prend alors, dans cette partie, b
i
= f(ih) pour tout i {1, . . . , N}. On considre aussi le vecteur dni la
question 2 de la partie I.
1. Montrer que
h
N
i=1
b
i
i

_
1
0
f(x)(x)dx quand N
et que
N
i=1
b
i
i
> 0 pour tout N IN .
En dduire quil existe > 0, ne dpendant que de f, t.q. h
N
i=1
b
i
i
pour tout N IN
.
2. Soit u IR
N
t.q. Au = b. Montrer que Nu
N
i=1
u
i
= u A

h
(avec donn la question 1).
Soit
b
IR
N
et
u
IR
N
t.q. A(u +
u
) = b +
b
. Montrer que

u
u

f
L
(]0,1[)
8
b
.
3. Comparer A
1
A (question I.5) et
f
L
(]0,1[)
8
(question II.2) quand N est grand" (ou quand N
).
Exercice 29 (Mthode itrative du gradient pas xe"
6
) Suggestions en page 51
Soit A M
N
(IR) une matrice symtrique dnie positive, b IR
N
et IR. Pour trouver la solution de
Ax = b, on considre la mthode itrative suivante :
Initialisation : x
(0)
IR
N
,
Iterations : x
(n+1)
= x
(n)
+ (b Ax
(n)
).
1. Pour quelles valeurs de (en fonction des valeurs propres de A) la mthode est-elle convergente ?
2. Calculer
0
(en fonction des valeurs propres de A) t.q. (Id
0
A) = min{(Id A), IR}.
Exercice 30 (Non convergence de la mthode de Jacobi) Suggestions en page 51.
Soit a IR et
A =
_
_
1 a a
a 1 a
a a 1
_
_
Montrer que A est symtrique dnie positive si et seulement si 1/2 < a < 1 et que la mthode de Jacobi
converge si et seulement si 1/2 < a < 1/2.
Exercice 31 (Une matrice cyclique) Suggestions en page 51, corrig en page ??
Soit IR et soit A M
4
(IR) la matrice dnie par
A =
_
_
_
_
1 0 1
1 1 0
0 1 1
1 0 1
_
_
_
_
Cette matrice est dite cyclique : chaque ligne de la matrice peut tre dduite de la prcdente en dcalant chaque
coefcient dune position.
1. Dterminer les valeurs propres de A.
2. Pour quelles valeurs de la matrice A est-elle symtrique dnie positive ? singulire ?
3. On suppose ici que = 0. Soit b = (b
1
, b
2
, b
3
, b
4
)
t
IR
4
donn. On considre la mthode de Jacobi pour
la rsolution du systme Ax = b. Soit (x
(n)
)
nIN
la suite de vecteurs donns par lalgorithme. On note x
(n)
i
pour i = 1, . . . , 4 les composantes de x
(n)
. Donner lexpression de x
(n+1)
i
, i = 1, . . . , 4, en fonction de x
(n)
i
et b
(n)
i
, i = 1, . . . , 4. Pour quelles valeurs de la mthode de Jacobi converge-t-elle ?
4. On suppose maintenant que A est symtrique dnie positive. Reprendre la question prcdente pour la
mthode de Gauss-Seidel.
Exercice 32 (Jacobi pour les matrices diagonale dominante stricte) Suggestions en page 52, corrig en page
67
Soit A = (a
i,j
)
i,j=1,...,N
M
N
(IR) une matrice diagonale dominante stricte (cest--dire |a
i,i
| >
j=i
|a
i,j
|
pour tout i = 1, . . . , N). Montrer que A est inversible et que la mthode de Jacobi (pour calculer la solution de
Ax = b) converge.
Exercice 33 (Jacobi pour pour un problme de diffusion )
Soit f C([0, 1]) ; on considre le systme linaire Ax = b issu de la discrtisation par diffrences nies de pas
uniforme gal h =
1
N+1
du problme suivant :
_
u
(x) + u(x) = f(x), x [0, 1],

u(0) = 0, u(1) = 1,
(1.57)
o 0.
1. Donner lexpression de A et b.
2. Montrer que la mthode de Jacobi applique la rsolution de ce systme converge (distinguer les cas > 0
et = 0).
Exercice 34 (Jacobi et diagonale dominance forte)
1. Soit A M
N
(IR) une matrice symtrique dnie positive.
(a) Montrer que tous les coefcients diagonaux de A sont strictement positifs.
(b) En dduire que la mthode de Jacobi pour la rsolution du systme linaire Ax = b, avec b IR
n
, est bien
dnie.
Soit M M
N
(IR) une matrice carre dordre n, avec n > 1. On dit que la matrice M est irrductible si :
pour tous ensembles dindices I {1, . . . , N}, I = , et J = {1 . . . , N} \ I, J = , i I, j J; a
i,j
= 0.
(1.58)
2 (a) Montrer quune matrice diagonale nest pas irrductible. En dduire quune matrice inversible nest pas
forcment irrductible.
2 (b) Soit M M
N
(IR) une matrice carre dordre n, qui scrit sous la forme :
M =
_
A 0
B C
_
o Aet C sont des matrices carres dordre p et q, avec p+q = n, et B M
q,p
(IR). La matrice M peut-elle
tre irrductible ?
3. Soit A M
N
(IR), N > 1 une matrice irrductible qui vrie de plus la proprit suivante :
i = 1, . . . , N, a
i,i

j=i
|a
i,j
| (1.59)
(On dit que la matrice est diagonale fortement dominante). Montrer que la mthode de Jacobi pour la rsolution
du systme linaire Ax = b, avec b IR
n
, est bien dnie.
4. Soit A M
N
(IR), N > 1 une matrice irrductible qui vrie la proprit (1.59). On note J la matrice
ditration de la mthode de Jacobi pour la rsolution du systme linaire Ax = b, avec b IR
N
, et (J) son
rayon spectral. On suppose que A vrie la proprit supplmentaire suivante :
i
0
; a
i0,i0
>
j=i0
|a
i,j
|. (1.60)
(a) Montrer que (J) 1.
(b) Montrer que si Jx = x avec || = 1, alors |x
i
| = x
, i = 1, . . . , N, o x
= max
k=1,...,N
|x
k
|.
En dduire que x = 0 et que la mthode de Jacobi converge.
(c) Retrouver ainsi le rsultat de la question 2 de lexercice 33.
5. En dduire que si A est une matrice qui vrie les proprits (1.58), (1.59) et (1.60), alors A est inversible.
6. Montrer que la matrice A suivante est symtrique dnie positive et vrie les proprits (1.59) et (1.60).
A =
_
_
1 0 0 0
0 2 1 1
0 1 2 1
0 1 1 2
_
_
La mthode de Jacobi converge-t-elle pour la rsolution dun systme linaire dont la matrice est A?
Exercice 35 (Diagonalisation dans IR )
Soit E un espace vectoriel rel de dimension N IN muni dun produit scalaire, not (, ). Soient T et S deux
applications linaires symtriques de E dans E (T symtrique signie (Tx, y) = (x, Ty) pour tous x, y E). On
suppose que T est dnie positive" (cest--dire (Tx, x) > 0 pour tout x E \ {0}).
1. Montrer que T est inversible. Pour x, y E, on pose (x, y)
T
= (Tx, y). Montrer que lapplication (x, y)
(x, y)
T
dnit un nouveau produit scalaire sur E.
2. Montrer que T
1
S est symtrique pour le produit scalaire dni la question prcdente. En dduire, avec
le lemme 1.12 page 7, quil existe une base de E, note {f
1
, . . . , f
N
}, et il existe {
1
, . . . ,
N
} IR t.q.
T
1
Sf
i
=
i
f
i
pour tout i {1, . . . , N} et t.q. (Tf
i
/f
j
) =
i,j
pour tout i, j {1, . . . , N}.
Exercice 36 (Mthode de Jacobi et relaxation) Suggestions en page 52, corrig en page 68
Soit N 1. Soit A = (a
i,j
)
i,j=1,...,N
M
N
(IR) une matrice symtrique. On note D la partie diagonale de A,
E la partie triangulaire infrieure de A et F la partie triangulaire suprieure de A, cest--dire :
D = (d
i,j
)
i,j=1,...,N
, d
i,j
= 0 si i = j, d
i,i
= a
i,i
,
E = (e
i,j
)
i,j=1,...,N
, e
i,j
= 0 si i j, e
i,j
= a
i,j
si i > j,
F = (f
i,j
)
i,j=1,...,N
, f
i,j
= 0 si i j, f
i,j
= a
i,j
si i < j.
Noter que A = D E F. Soit b IR
N
. On cherche calculer x IR
N
t.q. Ax = b. On suppose que D est
dnie positive (noter que A nest pas forcment inversible). On sintresse ici la mthode de Jacobi (par points),
cestdire la mthode itrative suivante :
Initialisation. x
(0)
IR
N
Itrations. Pour n IN, Dx
(n+1)
= (E +F)x
(n)
+b.
On pose J = D
1
(E +F).
1. Montrer, en donnant un exemple avec N = 2, que J peut ne pas tre symtrique.
2. Montrer que J est diagonalisable dans IR et, plus prcisement, quil existe une base de IR
N
, note {f
1
, . . . ,
f
N
}, et il existe {
1
, . . . ,
N
} IR t.q. Jf
i
=
i
f
i
pour tout i {1, . . . , N} et t.q. Df
i
f
j
=
i,j
pour
tout i, j {1, . . . , N}.
En ordonnant les valeurs propres de J, on a donc
1
. . .
N
, on conserve cette notation dans la suite.
3. Montrer que la trace de J est nulle et en dduire que
1
0 et
N
0.
On suppose maintenant que A et 2D A sont symtriques dnies positives et on pose x = A
1
b.
4. Montrer que la mthode de Jacobi (par points) converge (cest--dire x
(n)
x quand n ). [Utiliser un
thorme du cours.]
On se propose maintenant damliorer la convergence de la mthode par une technique de relaxation. Soit
> 0, on considre la mthode suivante :
Initialisation. x
(0)
IR
N
Itrations. Pour n IN, D x
(n+1)
= (E +F)x
(n)
+b, x
(n+1)
= x
(n+1)
+ (1 )x
(n)
.
5. Calculer les matrices M
(inversible) et N
telles que M
x
(n+1)
= N
x
(n)
+ b pour tout n IN, en
fonction de , D et A. On note, dans la suite J
= (M
)
1
N
.
6. On suppose dans cette question que (2/)D A est symtrique dnie positive. Montrer que la mthode
converge (cest--dire que x
(n)
x quand n .)
7. Montrer que (2/)D A est symtrique dnie positive si et seulement si < 2/(1
1
).
8. Calculer les valeurs propres de J
en fonction de celles de J. En dduire, en fonction des

i
, la valeur
optimale" de , cest--dire la valeur de minimisant le rayon spectral de J
.
Exercice 37 (M
1
2
thodes de Jacobi et Gauss Seidel pour une matrice 3 3)
On considre la matrice A =
_
_
2 1 0
1 2 1
0 1 2
_
_
et le vecteur b =
_
_
1
0
1
_
_
. Soit x
(0)
un vecteur de IR
3
donn.
1. Mthode de Jacobi
1.a Ecrire la mthode de Jacobi pour la rsolution du systme Ax = b, sous la forme x
(k+1)
= B
J
x
(k)
+c
J
.
1.b Dterminer le noyau de B
J
et en donner une base.
1.c Calculer le rayon spectral de B
J
et en dduire que la mthode de Jacobi converge.
1.d Calculer x
(1)
et x
(2)
pour les choix suivants de x
(0)
:
(i) x
(0)
=
_
_
0
0
0
_
_
, (ii)x
(0)
=
_
_
0
1
2
_
_
.
2. Mthode de Gauss-Seidel.
2.a Ecrire la mthode de Gauss-Seidel pour la rsolution du systme Ax = b, sous la forme x
(k+1)
= B
GS
x
(k)
+
c
GS
.
GS
.
GS
et en dduire que la mthode de Gauss-Seidel converge.
2.d Comparer les rayons spectraux de B
GS
et B
J
et vrier ainsi un rsultat du cours.
2.d Calculer x
(1)
et x
(2)
(0)
:
(i) x
(0)
=
_
_
0
0
0
_
_
, (ii) x
(0)
=
_
_
0
1
1
_
_
.
3. Convergence en un nombre ni ditrations.
3.1 Soit et des rels. Soit u
(0)
R et (u
(k)
)
kIN
la suite relle dnie par u
(k+1)
= u
(k)
+ .
3.1.a Donner les valeurs de et pour lesquelles la suite (u
(k)
)
kIN
converge.
3.1.b On suppose que = 0, et que la suite (u
(k)
)
kIN
converge vers une limite quon note u. Montrer que sil
existe K N tel que u
K
= u, alors u
(k)
= u pour tout k IN.
3.2 Soit N > 1, B une matrice relle carre dordre N et b IR
N
. Soit u
(0)
IR
N
et (u
(k)
)
kIN
la suite dnie
par u
(k+1)
= Bu
(k)
+c.
3.2.a Donner les conditions sur B et c pour que la suite (u
(k)
)
kIN
converge vers une limite indpendante du choix
initial u
0
IR
N
.
3.2.b On suppose que la suite (u
(k)
)
kIN
converge vers une limite quon note u. Montrer quon peut avoir u
(1)
= u
avec u
(0)
= u.
Exercice 38 (Jacobi et Gauss-Seidel pour une matrice tridiagonale)
Soit A = (a
i,j
)
i,j=1,...,N
M
N
(IR) une matrice carre dordre N tridiagonale, cest--dire telle que a
i,j
= 0 si
|i j| > 1, et telle que la matrice diagonale D = diag(a
i,i
)
i=1,...,N
soit inversible. On note A = D E F o
E (resp. F) est la partie triangulaire infrieure (resp. suprieure) de A, et on note J et Gles matrices ditration
des mthodes de Jacobi et Gauss-Seidel associes la matrice A.
1.a. Pour Cl , = 0 et x Cl
N
, on note
x
= (x
1
, x
2
, . . . ,
k1
x
k
,
N1
x
N
)
t
.
Montrer que si est valeur propre de J associe au vecteur propre x, alors x
vrie (E +
1
F)x
= Dx
. En
dduire que si = 0 est valeur propre de J alors
2
est valeur propre de G.
1.b Montrer que si
2
est valeur propre non nulle de G, alors est valeur propre de J .
2. Montrer que (G) = (J)
2
. En dduire que lorsquelle converge, la mthode de Gauss-Seidel pour la rsolution
du systme Ax = b converge plus rapidement que la mthode de Jacobi.
3. Soit L
la matrice ditration de la mthode SOR associe A. Montrer que est valeur propre de J si et
seulement si
est valeur propre de L
, o
=
2
et
vrie
2
+ 1 = 0.
En dduire que
(L
) = max
valeur propre de J
{|
|;
2
+ 1 = 0}.
Exercice 39 (Mthode de Jacobi pour des matrices particulires) Suggestions en page 52, corrig en page 72
On note M
N
(IR) lensemble des matrices carres dordre N coefcients rels, et Id la matrice identit dans
M
N
(IR). Soit A = [a
i,j
]
i,j=1,...,N
M
N
(IR). On suppose que :
a
i,j
0, i, j = 1, . . . , N, i = j, (1.61)
a
i,i
> 0, i = 1, . . . , N. (1.62)
N
i=1
a
i,j
= 0, j = 1, . . . , N. (1.63)
Soit IR
+
.
1. Pour x IR
N
, on dnit
x
A
=
N
i=1
a
i,i
|x
i
|.
Montrer que
A
est une norme sur IR
N
.
2. Montrer que la matrice Id +A est inversible.
3. On considre le systme linaire suivant :
(Id +A)u = b (1.64)
Montrer que la mthode de Jacobi pour la recherche de la solution de ce systme dnit une suite (u
(k)
)
kN

IR
N
.
4. Montrer que la suite (u
(k)
)
kIN
vrie :
u
(k+1)
u
(k)
A
(
1
1 +
)
k
u
(1)
u
(0)
A
,
o = min
i=1,...,N
a
i,i
.
5. Montrer que la suite (u
(k)
)
kIN
est de Cauchy, et en dduire quelle converge vers la solution du systme
(1.64).
Exercice 40 (Une mthode itrative particulire)
Soient
1
, . . . ,
n
des rels strictement positifs, et A la matrice n n de coefcients a
i,j
dnis par :
_
_
a
i,i
= 2 +
i
a
i,i+1
= a
i,i1
= 1
a
i,j
= 0 pour tous les autres cas.
Pour > 0 on considre la mthode itrative Mx
(k+1)
= Nx
(k)
+ b avec A = M N et N = diag(
i
)
(c..d
i
pour les coefcients diagonaux, et 0 pour tous les autres).
1. Soit C une valeur propre de la matrice M
1
N ; montrer quil existe un vecteur x C
n
non nul tel que
Nx x = Mx x (o x dsigne le conjugu de x). En dduire que toutes les valeurs propres de la matrice M
1
N
sont relles.
2. Montrer que le rayon spectral (M
1
N) de la matrice vrie : (M
1
N) max
i=1,n
|
i
|
3. Dduire de la question 1. que si >

2
, o = max
i=1,n

i
, alors (M
1
N) < 1, et donc que la mthode
itrative converge.
4. Trouver le paramtre minimisant max
i=1,n
|
i
|
.
(On pourra dabord montrer que pour tout > 0, |
i
| max( , ) pour tout i = 1, . . . , n, avec
= min
i=1,...,n

i
et = max
i=1,...,n

i
et en dduire que max
i=1,n
|
i
| = max( , )) .
Exercice 41 (Une matrice 3 3) Suggestions en page 52, corrig en page 73
Soit A M
3
(IR) dnie par A = Id E F avec
E =
_
_
0 2 0
1 0 0
0 0 0
_
_
, et F =
_
_
0 0 0
0 0 0
1 1 0
_
_
.
1. Montrer que A est inversible.
2. Soit 0 < < 2. Montrer que pour (
1
Id E) est inversible si et seulement si =
2/2.
Pour 0 < < 2, =
2/2, on considre la mthode itrative (pour trouver la solution de Ax = b)

suivante :
(
1
Id E)x
n+1
= (F +
1
Id)x
n
+b.
Il sagit donc de la mthode I" du cours avec B = L
= (
1
Id E)
1
(F +
1
Id).
3. Calculer, en fonction de , les valeurs propres de L
et son rayon spectral.

4. Pour quelles valeurs de la mthode est-elle convergente ? Dterminer
0
]0, 2[ t.q. (L
0
) = min{(L
),
]0, 2[, =
2/2}.
Exercice 42 (Mthode des directions alternes)
Soit N IN et N 1, Soit A M
N
(IR) une matrice carre dordre N symtrique inversible et b IR
N
.
On cherche calculer u IR
N
, solution du systme linaire suivant :
Au = b, (1.65)
On suppose connues des matrices X et Y M
N
(IR), symtriques. Soit IR
+
, choisi tel que X + Id et
Y + Id soient dnies positives (o Id dsigne la matrice identit dordre N) et X +Y + Id = A.
Soit u
(0)
IR
N
, on propose, pour rsoudre (1.65), la mthode itrative suivante :
_
(X + Id)u
(k+1/2)
= Y u
(k)
+b,
(Y + Id)u
(k+1)
= Xu
(k+1/2)
+b.
(1.66)
1. Montrer que la mthode itrative (1.66) dnit bien une suite (u
(k)
)
kIN
et que cette suite converge vers la
solution u de (1.1) si et seulement si
_
(Y + Id)
1
X(X + Id)
1
Y
_
< 1.
(On rappelle que pour toute matrice carre dordre N, (M) dsigne le rayon spectral de la matrice M.)
2. Montrer que si les matrices (X+
2
Id) et (Y +
2
Id) sont dnies positives alors la mthode (1.66) converge.
On pourra pour cela (mais ce nest pas obligatoire) suivre la dmarche suivante :
(a) Montrer que
_
(Y + Id)
1
X(X + Id)
1
Y
_
=
_
X(X + Id)
1
Y (Y + Id)
1
_
.
(On pourra utiliser lexercice 6 page 32).
(b) Montrer que
_
X(X + Id)
1
Y (Y + Id)
1
_

_
X(X + Id)
1
_
_
Y (Y + Id)
1
_
.
(c) Montrer que
_
X(X + Id)
1
_
< 1 si et seulement si la matrice (X +

2
Id) est dnie positive.
(d) Conclure.
3. Soit f C([0, 1] [0, 1]) et soit A la matrice carre dordre N = M M obtenue par discrtisation de
lquation u = f sur le carr [0, 1] [0, 1] avec conditions aux limites de Dirichlet homognes u = 0
sur , par diffrences nies avec un pas uniforme h =
1
M
, et b le second membre associ.
(a) Donner lexpression de A et b.
(b) Proposer des choix de X, Y et pour lesquelles la mthode itrative (1.66) converge dans ce cas et
qui justient lappellation mthode des directions alternes" qui lui est donne.
Exercice 43 (Mthode de la puissance) Suggestions en page 52, corrig en page 74
1. Soit A M
N
(IR) une matrice symtrique. Soit
N
IR valeur propre de A t.q. |
N
| = (A) et soit
x
(0)
IR
N
. On suppose que
N
nest pas une valeur propre de A et que x
(0)
nest pas orthogonal
Ker(A
N
Id). On dnit la suite (x
(n)
)
nIN
par x
(n+1)
= Ax
(n)
pour n IN. Montrer que
(a)
x
(n)
(
N
)
n
x, quand n , avec x = 0 et Ax =
N
x.
(b)
x
(n+1)
x
(n)
(A) quand n .
Cette mthode de calcul sappelle mthode de la puissance".
2. Soit A M
N
(IR) une matrice inversible et b IR
N
. Pour calculer x t.q. Ax = b, on considre la mthode
itrative appele mthode I" en cours, et on suppose B symtrique. Montrer que, sauf cas particuliers
prciser,
(a)
x
(n+1)
x
x
(n)
x
(B) quand n (ceci donne une estimation de la vitesse de convergence).
(b)
x
(n+1)
x
(n)
x
(n)
x
(n1)
(B) quand n (ceci permet destimer (B) au cours des itrations).

Exercice 44 (Mthode de la puissance inverse) Suggestions en page 52.
Soient A M
N
(IR) une matrice symtrique et
1
, . . . ,
p
(p N) les valeurs propres de A. Soit i {1, . . . , p},
on cherche calculer
i
. Soit x
(0)
IR
N
. On suppose que x
(0)
nest pas orthogonal Ker(A
i
Id). On suppose
galement connatre IR t.q. 0 < |
i
| < |
j
| pour tout j = i. On dnit la suite (x
(n)
)
nIN
par
(AId)x
(n+1)
= x
(n)
pour n IN. Montrer que
1. x
(n)
(
i
)
n
x, quand n , avec x = 0 et Ax =
i
x.
2.
x
(n+1)
x
(n)

1
|i|
quand n .
Exercice 45 (Mthode QR pour la recherche de valeurs propres)
Soient u et v deux vecteurs de IR
N
. On rappelle que la projection orthogonale proj
u
(v) du vecteur v sur la droite
vectorielle engendre par u peut scrire de la manire suivante :
proj
u
(v) =
v u
u u
u,
o u v dsigne le produit scalaire des vecteurs u and v. On note la norme euclidienne sur IR
N
.
1. Soient (w
1
, . . . , w
N
) une base de IR
N
. On rappelle qu partir de cette base, on peut obtenir une base orthogo-
nale (v
1
, . . . , v
N
) et une base orthonormale (u
1
, . . . , u
N
) par le procd de Gram-Schmidt quon rappelle :
v
1
= w
1
, u
1
=
w
1
w
1
v
2
= w
2
proj
v1
(w
2
), u
2
=
v
2
v
2
v
3
= w
3
proj
v1
(w
3
) proj
v2
(w
3
), u
3
=
v
3
v
3
v
4
= w
4
proj
v1
(w
4
) proj
v2
(w
4
) proj
v3
(w
4
), u
4
=
v
4
v
4
.
.
.
.
.
.
v
k
= w
k
k1
j=1
proj
vj
(w
k
), u
k
=
v
k
v
k

On a donc
v
k
= w
k
k1
j=1
w
k
v
j
v
j
v
j
v
j
, u
k
=
v
k
v
k
. (1.67)
1.a Montrer par rcurrence que la famille (v
1
, . . . , v
N
) est une base orthogonale de IR
N
.
1.b Soient A la matrice carre dordre N dont les colonnes sont les vecteurs w
j
et Q la matrice carre dordre N
dont les colonnes sont les vecteurs u
j
dnis par le procd de Gram-Schmidt (1.67), ce quon note :
A =
_
w
1
w
2
. . . w
N
, Q =
_
u
1
u
2
. . . u
N
.
Montrer que
w
k
= v
k
u
k
+
k1
j=1
w
k
v
j
v
j
u
j
.
En dduire que A = QR, o Rest une matrice triangulaire suprieure dont les coefcients diagonaux sont positifs.
1.c. Montrer que pour toute matrice A M
N
(IR) inversible, on peut construire une matrice orthogonale Q(c.. d.
telle que QQ
t
= Id) et une matrice triangulaire suprieure R coefcients diagonaux positifs telles que A = QR.
1.d. Donner la dcomposition QR de A =
_
1 4
1 0
_
.
Soit A une matrice inversible.
Pour trouver les valeurs propres de A, on propose la mthode suivante, dite mthode QR : On pose A
1
= A et
on construit une matrice orthogonale Q
1
et une matrice triangulaire suprieure R
1
(par exemple construites la
question 2, bien que cette mthode ne soit pas celle utilise en pratique, en raison dinstabilit numrique) telles
que A
1
= Q
1
R
1
. On pose alors A
2
= R
1
Q
1
, qui est aussi une matrice inversible. On construit ensuite une matrice
orthogonale Q
2
et une matrice triangulaire suprieure R
2
telles que A
2
= Q
2
R
2
et on pose A
3
= R
3
Q
3
. On
continue et on construit une suite de matrices A
k
telles que :
A
1
= A = Q
1
R
1
, R
1
Q
1
= A
2
= Q
2
R
2
, . . . , R
k
Q
k
= A
k
= Q
k+1
R
k+1
. (1.68)
Dans de nombreux cas, cette construction permet dobenir les valeurs propres de la matrice A sur la diagonale
des matrices A
k
. Nous allons dmontrer que ceci est vrai pour le cas particulier des matrices symtriques dnies
positives dont les valeurs propres sont simples (on peut le montrer pour une classe plus large de matrices).
On suppose partir de maintenant que A est une matrice symtrique dnie positive qui admet N valeurs propres
(strictement positives) vriant
1
>
2
> . . . >
N
. On a donc :
A = PP
t
, avec = diag(
1
, . . . ,
N
), et P est une matrice orthogonale. (1.69)
(La notation diag(
1
, . . . ,
N
) dsigne la matrice diagonale dont les termes diagonaux sont
1
,... ,
N
).
On suppose de plus que
P
t
admet une dcomposition LU et que les coefcients diagonaux de U sont strictement positifs. (1.70)
On va montrer que A
k
tend vers = diag(
1
, . . . ,
N
).
2. Soient Q
i
et R
i
les matrices orthogonales et triangulaires suprieures dnies par (1.68).
2.1 Montrer que A
2
=

Q
2

R
2
avec

Q
k
= Q
1
Q
2
et

R
k
= R
2
R
1
.
2.2 Montrer, par rcurrence sur k, que
A
k
=

Q
k

R
k
, (1.71)
avec
Q
k
= Q
1
Q
2
. . . Q
k1
Q
k
et

R
k
= R
k
R
k1
. . . R
2
R
1
. (1.72)
2.3 Justier brivement le fait que

Q
k
est une matrice orthogonale et

R
k
est une matrice triangulaire coefcients
diagonaux positifs.
3. Soit M
k
=
k
L
k
.
3.1 Montrer que PM
k
=

Q
k
T
k
o T
k
=

R
k
U
1
k
est une matrice triangulaire suprieure dont les coefcients
diagonaux sont positifs.
3.2 Calculer les coefcients de M
k
en fonction de ceux de L et des valeurs propres de A.
3.3 En dduire que M
k
tend vers la matrice identit et que

Q
k
T
k
tend vers P lorsque k +.
4. Soient (B
k
)
kIN
et (C
k
)
kIN
deux suites de matrices telles que les matrices B
k
sont orthogonales et les matrices
C
k
triangulaires suprieures et de coefcients diagonaux positifs. On va montrer que si B
k
C
k
tend vers la matrice
orthogonale B lorsque k tend vers linni alors B
k
tend vers B et C
k
tend vers lidentit lorsque k tend vers
linni.
On suppose donc que B
k
C
k
tend vers la matrice orthogonale B. On note b
1
, b
2
, . . . , b
N
les colonnes de la matrice
B et b
(k)
1
, b
(k)
2
, . . . , b
(k)
N
les colonnes de la matrice B
k
, ou encore :
B =
_
b
1
b
2
. . . b
N
, B
k
=
_
b
(k)
1
b
(k)
2
. . . b
(k)
N
_
.
et on note c
(k)
i,j
les coefcients de C
k
.
4.1 Montrer que la premire colonne de B
k
C
k
est gale c
(k)
1,1
b
(k)
1
. En dduire que c
(k)
1,1
1 et que b
(k)
1
b
1
.
4.2 Montrer que la seconde colonne de B
k
C
k
est gale c
(k)
1,2
b
(k)
1
+ c
(k)
2,2
b
(k)
2
. En dduire que c
(k)
1,2
0, puis que
c
(k)
2,2
1 et que b
(k)
2
b
2
.
4.3 Montrer que lorsque k +, on a c
(k)
i,j
0 si i = j, puis que c
(k)
i,i
1 et b
(k)
i
b
i
.
4.4 En dduire que B
k
tend B et C
k
tend vers lidentit lorsque k tend vers linni.
5. Dduire des questions 3 et 4 que

Q
k
tend vers P et T
k
tend vers Id lorsque k +.
6. Montrer que

R
k
(

R
k1
)
1
= T
k
T
k1
. En dduire que R
k
et A
k
tendent vers .
1.7. SUGGESTIONS CHAPITRE 1. SYSTMES LINAIRES
1.7 Suggestions
Exercice 1 page 32 (Matrices symtriques dnies positives)
3. Utiliser la diagonalisation sur les oprateurs linaires associs.
Exercice 3 page 32 (Normes induites particulires)
1. Pour montrer lgalit, prendre x tel que x
j
= sign(a
i0,j
) o i
0
est tel que
j=1,...,N
|a
i0,j
|
j=1,...,N
|a
i,j
|,
i = 1, . . . , N, et sign(s) dsigne le signe de s.
2. Pour montrer lgalit, prendre x tel que x
j0
= 1 et x
j
= 0 si j = j
0
, o j
0
est tel que

i=1,...,N
|a
i,j0
| =
max
j=1,...,N
i=1,...,N
|a
i,j
|.
3. Utiliser le fait que A
t
A est une matrice symtrique positive pour montrer lingalit, et pour lgalit, prendre
pour x le vecteur propre associ la plus grande valeur propre de A.
Exercice 5 page 32 (Rayon spectral)
1. Pour le sens direct, utiliser la proposition 1.7 page 6 du cours.
2. On rappelle que limsup
k+
u
k
= lim
k+
sup
nk
u
n
, et liminf
k+
u
k
= lim
k+
inf
nk
u
n
. Utili-
ser la question 1.
3. Utiliser le fait que liminf
k+
u
k
est une valeur dadhrence de la suite (u
k
)
kIN
(donc quil existe une suite
extraite (u
kn
)
nIN
telle que uu
kn
liminf
k+
u
k
lorsque k +.
4. Raisonner avec
1
A o IR
+
est tel que (A) < et utiliser la question 2 pour dduire que
limsup
k+
A
k
1
k
(A).
Raisonner ensuite avec
1
A o IR
+
est tel que liminf
k+
A
k
1
k
< et utiliser la question 3.
Exercice 9 page 33 (Srie de Neumann)
1. Montrer que si (A) < 1, alors 0 nest pas valeur propre de Id +A et Id A.
2. Utiliser le rsultat de la question 1 de lexercice 5.
Exercice 16 page 34
2. Soit q le nombre de sur- ou sous-diagonales (p = 2q + 1). Compter le nombre c
q
doprations ncessaires pour
le calcul des colonnes 1 q et N q + 1 N, puis le nombre d
n
doprations ncessaires pour le calcul des
colonnes n = q +1 N q. En dduire lestimation sur le nombre doprations ncessaires pour le calcul de toutes
les colonnes, Z
p
(N), par :
2c
q
Z
p
(N)2c
q
+
Nq
n=q+1
c
n
.
Exercice 18 page 35 (Proprits gnrales du conditionnement)
Partie II
1. On rappelle que si A a comme valeurs propres
1
, . . . ,
N
, alors A
1
a comme valeurs propres
1
1
, . . . ,
1
N
et A
t
a comme valeurs propres
1
, . . . ,
N
.
2. Utiliser le fait que AA
t
est diagonalisable.
5. Soient 0 <
1

2
. . .
N
et 0 <
1

2
. . .
N
les valeurs propres de A et B (qui sont s.d.p.). Montrer
dabord que :
cond
2
(A+B)

N
+
N
1
+
1
.
Montrer ensuite que
a +b
c +d
max(
a
c
,
b
d
), (a, b, c, d) (IR
+
)
4
.
et conclure
Exercice 26 page 39 (Valeurs propres et vecteurs propres de A.)
Chercher les vecteurs propres IR
N
de A sous la forme
j
= (x
j
), j = 1, . . . , N o est introduite dans
les indications de lnonc. Montrer que les valeurs propres associes ces vecteurs propres sont de la forme :
k
=
2
h
2
(1 cos kh) =
2
h
2
(1 cos
k
N + 1
).
Exercice 28 page 40 (Conditionnement efcace)
Partie 1
1. Pour montrer que A est inversible, utiliser le thorme du rang.
2. Utiliser le fait que est un polynme de degr 2.
3. Pour montrer que A
1
=
1
8
, remarquer que le maximum de est atteint en x = .5, qui correspond un point
de discrtisation car N est impair.
Partie 2 Conditionnement efcace
1. Utiliser la convergence uniforme. 2. Utiliser le fait que A = (1 . . . 1)
t
.
Exercice 29 page 41(Mthode itrative du gradient pas xe".)
1. Calculer le rayon spectral (B) de la matrice ditration B = IdA. Calculer les valeurs de pour lesquelles
(B) < 1 et en dduire que la mthode itrative du gradient pas xe converge si 0 < <
2
(A)
.
2. Remarquer que (Id A) = max(|1
1
|, |1
N
1|, o
1
, . . . ,
N
sont les valeurs propres de A
ordonnes dans le sens croissant. En traant les graphes des valeurs prises par |1
1
| et |1
N
1| en
fonction de , en dduire que le min est atteint pour =
2
1+N
.
Exercice 30 page 41 (Non convergence de la mthode de Jacobi)
Considrer dabord le cas a = 0.
Si a = 0, pour chercher les valeurs de a pour lesquelles A est symtrique dnie positive, calculer les valeurs
propres de A en cherchant les racines du polynme caractristique. Introduire la variable telle que a = 1 .
Pour chercher les valeurs de a pour lesquelles la mthode de Jacobi converge, calculer les valeurs propres de la
matrice ditration J dnie en cours.
Exercice 31 page 41 (Une matrice cyclique)
1. On peut trouver les trois valeurs propres (dont une double) sans calcul en remarquant que pour = 0 il y a 2
fois 2 lignes identiques, que la somme des colonnes est un vecteur constant et par le calcul de la trace.
2. Une matrice A est symtrique dnie positive si et seulement si elle est diagonalisable et toutes ses valeurs
propres sont strictement positives.
3. Appliquer le cours.
Exercice 32 page 41 (Jacobi et diagonale dominante stricte.)
Pour montrer que A est inversible, montrer que Ax = 0 si et seulement si x = 0. Pour montrer que la mthode de
Jacobi converge, montrer que toutes les valeurs propres de la matrice A sont strictement infrieures 1 en valeur
absolue.
Exercice 36 page 43 (Mthode de Jacobi et relaxation.)
1. Prendre pour A une matrice (2,2) symtrique dont les lments diagonaux sont diffrents lun de lautre.
2. Appliquer lexercice 35 page 42 en prenant pour T lapplication linaire dont la matrice est D et pour S lappli-
cation linaire dont la matrice est E +F.
4. Remarquer que (J) = max(
1
,
N
), et montrer que :
si
1
1, alors 2D A nest pas dnie positive,
si
N
1, alors A nest pas dnie positive.
6. Reprendre le mme raisonnement qu la question 2 4 avec les matrices M
et N
au lieu de D et E +F.
7. Chercher une condition qui donne que toutes les valeurs propres sont strictement positives en utilisant la base
de vecteurs propres ad hoc. (Utiliser la base de IR
N
, note {f
1
, . . . , f
N
}, trouve la question 2.)
8. Remarquer que les f
i
de la question 2 sont aussi vecteurs propres de J
et en dduire que les valeurs propres

()
i
de J
sont de la forme
()
i
= (
i
11/). Pour trouver le paramtre optimal
0
, tracer les graphes des fonc-
tions de IR
+
dans IR dnies par |
()
1
| et |
()
N
|, et en conclure que le minimum de max(|
()
1
|, |
()
N
|)
est atteint pour =
2
21N
.
Exercice 39 page 44 (Mthode de Jacobi et relaxation.)
2. Utiliser lexercice 32 page 41
Exercice 41 page 45 (Convergence de SOR.)
1. Calculer le dterminant de A.
2. Calculer le dterminant de
I
d
E.
3. Remarquer que les valeurs propres de L
annulent det(
1
Id+F(
I
d
E)). Aprs calcul de ce dterminant,
on trouve
1
= 1 ,
2
=
1
1+
2
,
3
=
1
1
2
.
Montrer que si <
2, (L
) = |
3
| et que (L
) = |
1
| si
2.
4. Utiliser lexpression des valeurs propres pour montrer que la mthode converge si >
2
1+
2
et que le paramtre
de relaxation optimal est
0
= 1.
Exercice 43 page 47 (Mthode de la puissance pour calculer le rayon spectral de A.)
1. Dcomposer x
0
sur une base de vecteurs propres orthonorme de A, et utiliser le fait que
N
nest pas valeur
propre.
2. a/ Raisonner avec y
(n)
= x
(n)
x o x est la solution de Ax = b et appliquer la question 1.
b/ Raisonner avec y
(n)
= x
(n+1)
x
(n)
.
Exercice 44 page 47 (Mthode de la puissance inverse)
Appliquer lexercice prcdent la matrice B = (AId)
1
.
1.8. CORRIGS CHAPITRE 1. SYSTMES LINAIRES
1.8 Corrigs
Exercice 1 page 32 (Matrices symtriques dnies positives)
1. Supposons quil existe un lment diagonal a
i,i
ngatif. Alors Ae
i
e
i
0 ce qui contredit le fait que A est
dnie positive.
2. Soit x IR
N
, dcomposons x sur la base orthonorme (f
i
)
i=1,N
: x =
N
i=1
x
i
f
i
. On a donc :
Ax x =
N
i=1
i
x
2
i
. (1.73)
Montrons dabord que si les valeurs propres sont strictement positives alors A est dnie positive :
Supposons que
i
0, i = 1, . . . , N. Alors pour x IR
N
, daprs (1.73), Ax x 0 et la matrice A est
positive. Supposons maintenant que
i
> 0, i = 1, . . . , N. Alors pour x IR
N
, toujours daprs (1.73),
(Ax x = 0) (x = 0), et la matrice A est donc bien dnie.
Montrons maintenant la rciproque : si A est dnie positive, alors Af
i
f
i
> 0, i = 1, . . . , N et donc
i
> 0,
i = 1, . . . , N.
3. Comme A est s.d.p., toutes ses valeurs propres sont strictement positives, et on peut donc dnir lapplication
linaire S dans la base orthonorme (f
i
)
i=1,N
par : S(f
i
) =
i
f
i
, i = 1, . . . , N. On a videmment S S = T,
et donc si on dsigne par B la matrice reprsentative de lapplication S dans la base canonique, on a bien B
2
= A.
Exercice 3 page 32 (Normes induites particulires)
1. Par dnition, A
= sup
xIR
N
,x=1
Ax
, et
Ax
= max
i=1,...,N
|
j=1,...,N
a
i,j
x
j
| max
i=1,...,N
|
j=1,...,N
|a
i,j
||x
j
|.
Or x
= 1 donc |x
j
| 1 et
Ax
max
i=1,...,N
|
j=1,...,N
|a
i,j
|.
Posons maintenant = max
i=1,...,N
|
j=1,...,N
|a
i,j
| et montrons quil existe x IR
N
, x
= 1, tel que
Ax
= . Pour s IR, on note sign(s) le signe de s, cestdire sign(s) = s/|s| si s = 0 et sign(0) = 0.

Choisissons x IR
N
dni par x
j
= sign(a
i0,j
) o i
0
est tel que

j=1,...,N
|a
i0,j
|

j=1,...,N
|a
i,j
|, i =
1, . . . , N. On a bien x
= 1, et
Ax
= max
i=1,...,N
|
N
j=1
a
i,j
sgn(a
i0,j
)|.
Or, par choix de x, on a
j=1,...,N
|a
i0,j
| = max
i=1,...,N
j=1,...,N
|a
i,j
|. On en dduit que pour ce choix de x,
on a bien Ax = max
i=1,...,N
|
j=1,...,N
|a
i,j
|.
2. Par dnition, A
1
= sup
xIR
N
,x1=1
Ax
1
, et
Ax
1
=
i=1,...,N
|
j=1,...,N
a
i,j
x
j
|
j=1,...,N
|x
j
_
_
|
i=1,...,N
|a
i,j
|
_
_
max
j=1,...,N
|
i=1,...,N
|a
i,j
|
j=1,...,N
|x
j
|.
Et comme
j=1,...,N
|x
j
| = 1, on a bien que A
1
max
j=1,...,N
i=1,...,N
|a
i,j
|.
Montrons maintenant quil existe x IR
N
, x
1
= 1, tel que Ax
1
=
i=1,...,N
|a
i,j
|. Il suft de considrer
pour cela le vecteur x IR
N
dni par x
j0
= 1 et x
j
= 0 si j = j
0
, o j
0
est tel que

i=1,...,N
|a
i,j0
| =
max
j=1,...,N
i=1,...,N
|a
i,j
|. On vrie alors facilement quon a bien Ax
1
= max
j=1,...,N
i=1,...,N
|a
i,j
|.
3. Par dnition de la norme 2, on a :
A
2
2
= sup
xIR
N
,x2=1
Ax Ax = sup
xIR
N
,x2=1
A
t
Ax x.
Comme A
t
A est une matrice symtrique positive (car A
t
Ax x = Ax Ax 0), il existe une base orthonorme
(f
i
)
i=1,...,N
et des valeurs propres (
i
)
i=1,...,N
, avec 0
1

2
. . .
N
tels que Af
i
=
i
f
i
pour tout
i {1, . . . , N}. Soit x =
i=1,...,N

i
f
i
IR
N
. On a donc :
A
t
Ax x =
_

i=1,...,N
i
f
i
_
_

i=1,...,N
i
f
i
_
=
i=1,...,N
2
i
i

N
x
2
2
.
On en dduit que A
2
2
(A
t
A).
Pour montrer quon a galit, il suft de considrer le vecteur x = f
N
; on a en effet f
N
2
= 1, et Af
N
2
2
=
A
t
Af
N
f
N
=
N
= (A
t
A).
1. Si (A) < 1, grce au rsultat dapproximation du rayon spectral de la proposition 1.7 page 6, il existe > 0
tel que (A) < 1 2 et une norme induite .
A,
tels que A
A,
= (A) + = 1 < 1. Comme .
A,
est une norme matricielle, on a A
k
A,

k
0 lorsque k . Comme lespace M
N
(IR) est de dimension
nie, toutes les normes sont quivalentes, et on a donc A
k
0 lorsque k .
Montrons maintenant la rciproque : supposons que A
k
0 lorsque k , et montrons que (A) < 1. Soient
une valeur propre de A et x un vecteur propre associ. Alors A
k
x =
k
x, et si A
k
0, alors A
k
x 0, et donc
k
x 0, ce qui nest possible que si || < 1.
Remarque On vient de montrer que si i(A) < 1 alors il existe une norme matricielle induite t.q. A < 1, et on
a dduit que la srie de terme gnral A
k
converge.
Mais par contre, ttention cependant au pige : pour toute matrice A, on peut toujours trouver une norme pour
laquelle A < 1, alors que la srie de terme gnral A
k
peut ne pas
a
tre convergente.
Exemple dans IR, x =
1
4
|x|. Pour x = 2 on a x =
1
2
< 1. Et pourtant la srie de terme gnral x
k
nest pas
convergente ;
le problme ici est que la norme choisie nest pas une norme matricielle (on na pas xy xy).
De mme, on peut trouver une matrice et une norme telles que A 1, alors que la srie de terme gnral A
k
converge...
2. Si (A) < 1, daprs la question prcdente on a : A
k
0 donc il existe K IN tel que pour k K, A
k
<
1. On en dduit que pour k K, A
k
1/k
< 1, et donc en passant la limite sup sur k, limsup
k+
A
k
1
k
1.
3. Comme liminf
k+
A
k
1/k
< 1, il existe une sous-suite (k
n
)
nIN
IN telle que A
kn
1/kn
< 1
lorsque n +, et donc il existe N tel que pour n N, A
kn
1/kn
, avec ]0, 1[. On en dduit que pour
n N, A
kn

kn
, et donc que A
kn
0 lorsque n +. Soient une valeur propre de A et x un vecteur
propre associ, on a : A
kn
x =
kn
x; on en dduit que || < 1, et donc que (A) < 1.
4. Soit IR
+
tel que (A) < . Alors (
1
A) < 1, et donc par la question 2,

limsup
k+
A
k
1
k
< , > (A).
En faisant tendre vers (A), on obtient donc :
limsup
k+
A
k
1
k
(A). (1.74)
Soit maintenant IR
+
tel que liminf
k+
A
k
1
k
< . On a alors liminf
k+
(
1
A)
k
1
k
< 1 et donc par
la question 3, (
1
A) < 1, donc (A) < pour tout IR

+
tel que liminf
k+
A
k
1
k
< . En faisant tendre
vers liminf
k+
A
k
1
k
, on obtient donc
(A) liminf
k+
A
k
1
k
. (1.75)
De (1.74) et (1.75), on dduit que
limsup
k+
A
k
1
k
= liminf
k+
A
k
1
k
= lim
k+
A
k
1
k
= (A). (1.76)
5. Si . est une norme matricielle, alors A
k
A
k
et donc daprs la question prcdente, (A) A.
6. On a montr que (A) < 1 si et seulement si A
k
0 et que donc, si (A) 1 alors A
k
0. On rappelle aussi
que A
k
0 si et seulement si A
k
y 0, y IR
N
.
() On dmontre limplication par contrapose. Si (A) 1 il existe y IR
N
tel que A
k
y
k+
0.
() Supposons maintenant que (B) < 1 alors lgalit (1.30) donne
x
(k)
x = B
k
(x
(0)
x)
k+
0
car (B) < 1. Donc x
(k)
k+
x = A
1
b. La mthode est bien convergente.
Il suft de prendre comme norme la norme dnie par : x
2
=
N
i=1

2
i
o les (
i
)
i=1,N
sont les composantes
de x dans la base des vecteurs propres associs A.
Pour montrer que ceci est faux dans le cas o A nest pas diagonalisable, il suft de prendre A =
_
0 1
0 0
_
, on a
alors (A) = 0, et comme A est non nulle, A = 0.
Exercice 9 page 33 (Srie de Neumann)
1. Si (A) < 1, les valeurs propres de A sont toutes diffrentes de 1 et 1. Donc 0 nest pas valeur propre des
matrices Id A et Id +A, qui sont donc inversibles.
2. Suppposons que (A) < 1. Il est facile de remarquer que
(
N
k=0
A
k
)(Id A) = Id A
N+1
. (1.77)
Si (A) < 1, daprs la question 1. de lexercice 5 page 32, on a A
k
0 lorsque k 0. De plus, Id A est
inversible. On peut donc passer la limite dans (1.77) et on a donc (Id A)
1
=
+
k=0
A
k
.
Rciproquement, si (A) 1, la srie ne peut pas converger en raison du rsultat de la question 1 de lexercice 5
page 32.
Exercice 11 page 33 (Dcompositions LL
t
et LDL
t
)
1. On pose L =
_
1 0
1
_
et D =
_
0
0
_
.
Par identication, on obtient = 2, =
1
2
et =
1
2
.
Si maintenant on essaye dcrire A = LL
t
avec L =
_
a 0
b c
_
, on obtient c
2
=
1
2
ce qui est impossible dans IR.
En fait, on peut remarquer quil est normal que A nadmette pas de dcomposition LL
t
, car elle nest pas dnie
positive. En effet, soit x = (x
1
, x
2
)
t
IR
2
,, alors Ax x = 2x
1
(x
1
+ x
2
), et en prenant x = (1, 2)
t
, on a
Ax x < 0.
2. 2. Reprenons en ladaptant la dmonstration du thorme 1.3. On raisonne donc par rcurrence sur la dimension.
1. Dans le cas N = 1, on a A = (a
1,1
). On peut donc dnir L = (
1,1
) o
1,1
= 1, D = (a
1,1
), d
1,1
= 0, et
on a bien A = LDL
t
.
2. On suppose que, pour 1 p N, la dcomposition A = LDL
t
sobtient pour A M
p
(IR) symtrique
dnie positive ou ngative, avec d
i,i
= 0 pour 1 i N et on va dmontrer que la proprit est encore
vraie pour A M
N+1
(IR) symtrique dnie positive ou ngative. Soit donc A M
N+1
(IR) symtrique
dnie positive ou ngative ; on peut crire A sous la forme :
A =
_
_
B a
a
t
_
(1.78)
o B M
N
(IR) est symtrique dnie positive ou ngative (calculer Ax x avec x = (y, 0)
t
, avec y IR
N
pour le vrier), a IR
N
et IR.
Par hypothse de rcurrence, il existe une matrice M M
N
(IR) M = (m
i,j
)
N
i,j=1
et une matrice diagonale
D = diag(d
1,1
, d
2,2
, . . . , d
N,N
) dont les coefcients sont tous non nuls, telles que :
(a) m
i,j
= 0 si j > i
(b) m
i,i
= 1
(c) B = M

DM
t
.
On va chercher L et D sous la forme :
L =
_
_
M 0
b
t
1
_
_
, D =
_
D 0
0
_
_
, (1.79)
avec b IR
N
, IR tels que LDL
t
= A. Pour dterminer b et , calculons LDL
t
avec L et D de la forme
(1.79) et identions avec A :
LDL
t
=
_
_
M 0
b
t
1
_
_
_
D 0
0
_
_
_
_
M
t
b
0 1
_
_
=
_
_
M

DM
t
M

Db
b
t

DM
t
b
t

Db +
_
_
On cherche b IR
N
et IR tels que LDL
t
= A, et on veut donc que les galits suivantes soient
vries :
M

Db = a et b
t

Db + = .
La matrice M est inversible (en effet, le dterminant de M scrit det(M) =
N
i=1
1 = 1). Par hypothse
de rcurrence, la matrice

D est aussi inversible. La premire galit ci-dessus donne : b =

D
1
M
1
a. On
calcule alors = b
t
M
1
a. Remarquons quon a forcment = 0, car si = 0,
A = LDL
t
=
_
_
M

DM
t
M

Db
b
t

DM
t
b
t

Db
_
_
qui nest pas inversible. En effet, si on cherche (x, y) IR
N
IR solution de
_
_
M

DM
t
M

Db
b
t

DM
t
b
t

Db
_
_
_
_
x
y
_
_
=
_
_
0
0
_
_
,
on se rend compte facilement que tous les couples de la forme (M
t
by, y)
t
, y IR, sont solutions. Le
noyau de la matrice nest donc pas rduit {0} et la matrice nest donc pas inversible. On a ainsi montr que
d
N+1,N+1
= 0 ce qui termine la rcurrence.
3. On reprend lalgorithme de dcomposition LL
t
:
Soit A M
N
(IR) symtrique dnie positive ou ngative ; on vient de montrer quil existe une matrice L
M
N
(IR) triangulaire infrieure telle que
i,j
= 0 si j > i,
i,i
= 1, et une matrice D M
N
(IR) diagonale
inversible, telles que et A = LDL
t
. On a donc :
a
i,j
=
N
k=1
i,k
d
k,k
j,k
, (i, j) {1, . . . , N}
2
. (1.80)
1. Calculons la 1re colonne de L; pour j = 1, on a :
a
1,1
= d
1,1
donc d
1,1
= a
1,1
,
a
2,1
=
2,1
d
1,1
donc
2,1
=
a
2,1
d
1,1
,
a
i,1
=
i,1
1,1
donc
i,1
=
a
i,1
1,1
i {2, . . . , N}.
2. On suppose avoir calcul les n premires colonnes de L. On calcule la colonne (n+1) en prenant j = n+1
dans (1.13)
Pour i = n + 1, a
n+1,n+1
=
n
k=1
2
n+1,k
d
k,k
+d
n+1,n+1
donc
d
n+1,n+1
= a
n+1,n+1
k=1
2
n+1,k
d
k,k
. (1.81)
On procde de la mme manire pour i = n + 2, . . . , N ; on a :
a
i,n+1
=
n+1
k=1
i,k
d
k,k
n+1,k
=
n
k=1
i,k
d
k,k
n+1,k
+
i,n+1
d
n+1,n+1
n+1,n+1
et donc, comme on a montr dans la question 2 que les coefcients d
k,k
sont tous non nuls, on peut crire :
i,n+1
=
_
a
i,n+1
k=1
i,k
d
k,k
n+1,k
_
1
d
n+1,n+1
. (1.82)
Exercice 13 page 34 (Sur la mthode LL
t
)
Appliquons lalgorithme de Gauss ; la premire tape de llimination consiste retrancher la premire ligne
toutes les autres, c..d. multiplier A gauche par E
1
, avec
E
1
=
_
_
1 0 0 0
1 1 0 0
1 0 1 0
1 0 0 1
_
_
.
On obtient :
E
1
A=
_
_
a a a a
0 b a b a b a
0 b a c a c a
0 b a c a d a
_
_
.
La deuxime tape consiste multiplier A gauche par E
2
, avec
E
2
==
_
_
1 0 0 0
0 1 0 0
0 1 1 0
0 1 0 1
_
_
.
On obtient :
E
2
E
1
A=
_
_
a a a a
0 b a b a b a
0 0 c b c b
0 0 c b d b
_
_
.
Enn, la troisime tape consiste multiplier A gauche par E
3
, avec
E
3
=
_
_
1 0 0 0
0 1 0 0
0 0 1 0
0 0 1 1
_
_
.
On obtient :
E
3
E
2
E
1
A =
_
_
a a a a
0 b a b a b a
0 0 c b c b
0 0 0 d c
_
_
.
On A = LU avec L = (E
3
E
2
E
1
)
1
= (E
1
)
1
(E
2
)
1
(E
3
)
1
; les matrices (E
1
)
1
, (E
2
)
1
et (E
3
)
1
sont
faciles calculer : la multiplication gauche par (E
1
)
1
consiste ajouter la premire ligne toutes les suivantes ;
on calcule de la mme faon (E
2
)
1
et (E
3
)
1
. On obtient :
(E
1
)
1
=
_
_
1 0 0 0
1 1 0 0
1 0 1 0
1 0 0 1
_
_
, (E
2
)
1
=
_
_
1 0 0 0
0 1 0 0
0 1 1 0
0 1 0 1
_
_
, (E
3
)
1
=
_
_
1 0 0 0
0 1 0 0
0 0 1 0
0 0 1 1
_
_
,
et donc L =
_
_
1 0 0 0
1 1 0 0
1 1 1 0
1 1 1 1
_
_
et U =
_
_
a a a a
0 b a b a b a
0 0 c b c b
0 0 0 d c
_
_
.
La matrice L est inversible car produit de matrices lmentaires, et la matrice A est donc inversible si et seulement
si la matrice U lest. Or U est une matrice triangulaire qui est inversible si et seulement si ses lments diagonaux
sont non nuls, c..d. a = 0, b = c et c = d.
Exercice 14 page 34 (Sur la mthode LL
t
)
Calculons le nombre doprations lmentaires ncessaires pour chacune des mthodes :
1. Le calcul de chaque coefcient ncessite N multiplications et N 1 additions, et la matrice comporte N
2
coefcients. Comme la matrice est symtrique, seuls N(N + 1)/2 coefcients doivent tre calculs. Le
calcul de A
2
ncessite ncessite donc
(2N1)N(N+1)
2
oprations lmentaires.
Le nombre doprations lmentaires pour effectuer la dcomposition LL
t
de A
2
ncessite
N
3
3
+
N
2
2
+
N
6
(cours).
La rsolution du systme A
2
x = b ncessite 2N
2
oprations (N
2
pour la descente, N
2
pour la remonte,
voir cours).
Le nombre total doprations pour le calcul de la solution du systme A
2
x = b par la premire mthode est
donc
(2N1)N(N+1)
2
+
N
3
3
+
3N
2
2
+
N
6
=
4N
3
3
+O(N
2
) oprations.
2. La dcomposition LL
t
de A ncessite
N
3
3
+
N
2
2
+
N
6
, et la rsolution des systmes LL
t
y = b et LL
t
x = y
ncessite 4N
2
oprations. Le nombre total doprations pour le calcul de la solution du systme A
2
x = b
par la deuxime mthode est donc
N
3
3
+
9N
2
2
+
N
6
=
N
3
3
+O(N
2
) oprations.
Pour les valeurs de N assez grandes, il est donc avantageux de choisir la deuxime mthode.
Exercice 16 page 34 (Dcomposition LL
t
dune matrice bande)
On utilise le rsultat de conservation du prol de la matrice nonc dans le cours. Comme A est symtrique,
le nombre p de diagonales de la matrice A est forcment impair si A; notons q =
p1
2
le nombre de sous- et
sur-diagonales non nulles de la matrice A, alors la matrice L aura galement q sous-diagonales non nulles.
1. Cas dune matrice tridiagonale. Si on reprend lalgorithme de construction de la matrice L vu en cours, on
remarque que pour le calcul de la colonne n + 1, avec 1 n < N 1, on a le nombre doprations suivant :
Calcul de
n+1,n+1
= (a
n+1,n+1
k=1
n+1,k
n+1,k
)
1/2
> 0 :
une multiplication, une soustraction, une extraction de racine, soit 3 oprations lmentaires.
Calcul de
n+2,n+1
=
_
a
n+2,n+1
k=1
n+2,k
n+1,k
_
1
n+1,n+1
:
une division seulement car
n+2,k
= 0.
On en dduit que le nombre doprations lmentaires pour le calcul de la colonne n + 1, avec 1 n < N 1,
est de 4.
Or le nombre doprations pour la premire et dernire colonnes est infrieur 4 (2 oprations pour la premire
colonne, une seule pour la dernire). Le nombre Z
1
(N) doprations lmentaires pour la dcomposition LL
t
de
A peut donc tre estim par : 4(N 2) Z
1
(N) 4N, ce qui donne que Z
1
(N) est de lordre de 4N (le calcul
exact du nombre doprations, inutile ici car on demande une estimation, est 4N 3.)
2. Cas dune matrice p diagonales.
On cherche une estimation du nombre doprations Z
p
(N) pour une matrice p diagonales non nulles (ou q
sous-diagonales non nulles) en fonction de N.
On remarque que le nombre doprations ncessaires au calcul de
n+1,n+1
= (a
n+1,n+1
k=1
n+1,k
n+1,k
)
1/2
> 0, (1.83)
et
i,n+1
=
_
a
i,n+1
k=1
i,k
n+1,k
_
1
n+1,n+1
, (1.84)
est toujours infrieur 2q + 1, car la somme
n
k=1
fait intervenir au plus q termes non nuls.
De plus, pour chaque colonne n+1, il y a au plus q +1 coefcients
i,n+1
non nuls, donc au plus q +1 coefcients
calculer. Donc le nombre doprations pour chaque colonne peut tre major par (2q + 1)(q + 1).
On peut donc majorer le nombre doprations z
q
pour les q premires colonnes et les q dernires par 2q(2q+1)(q+
1), qui est indpendant de N (on rappelle quon cherche une estimation en fonction de N, et donc le nombre z
q
est O(1) par rapport N.)
Calculons maintenant le nombre doprations x
n
ncessaires une colonne n = q + 1 N q 1. Dans (1.83) et
(1.84), les termes non nuls de la somme sont pour k = i q, . . . , n, et donc on a (n i + q + 1) multiplications
et additions, une division ou extraction de racine. On a donc
x
n
=
n+q+1
i=n+1
_
2(n i +q + 1) + 1
_
=
q+1
j=1
_
2(j +q + 1) + 1
_
= (q + 1)(2q + 3) 2
q+1
j=1
j
= (q + 1)
2
.
Le nombre z
i
doprations ncessaires pour les colonnes n = q + 1 N q 1 est donc
z
i
= (q + 1)
2
(N 2q).
Un encadrement du nombre doprations ncessaires pour la dcomposition LL
t
dune matrice p diagonales est
donc donne par :
(q + 1)
2
(N 2q) Z
p
(N) (q + 1)
2
(N 2q) + 2q(2q + 1)(q + 1), (1.85)
et que, q constant, Z
p
(N) = O((q +1)
2
N)). Remarquons quon retrouve bien lestimation obtenue pour q = 1.
3. Dans le cas de la discrtisation de lquation u
= f traite dans le cours page 18, on a q = 1 et la mthode de

Choleski ncessite de lordre de 4N oprations lmentaires, alors que dans le cas de la discrtisation de lquation
u = f traite dans le cours page 25-26, on a q =
N et la mthode de Choleski ncessite de lordre de N

2
oprations lmentaires (dans les deux cas N est le nombre dinconnues).
On peut noter que lencadrement (1.85) est intressant ds que q est dordre infrieur N
, < 1.
Exercice 18 page 35 (proprits gnrales du conditionnement)
Partie I
1. Comme est une norme induite, cest donc une norme matricielle. On a donc pour toute matrice A M
N
(IR),
Id A A
1
ce qui prouve que cond(A) 1.

2.Par dnition,
cond(A) = A (A)
1
= || A
1
||
A
1
= cond(A)
3. Soient A et B des matrices inversibles, alors AB est une matrice inversible et
cond(AB) = AB (AB)
1
= AB B
1
A
1
A B B
1
A
1
,
car est une norme matricielle. Donc cond(AB) cond(A)cond(B).
Partie II
1. Par dnition, on a cond
2
(A) = A
2
A
1
2
. Or on a vu lexercice 3 que A
2
= ((A
t
A))
1/2
=

N
.
On a donc
A
1
2
= (((A
1
)
t
A
1
))
1/2
=
_
(AA
t
)
1
)
_
1/2
; or ((AA
t
)
1
) =
1

1
,
o
1
est la plus petite valeur propre de la matrice AA
t
. Or les valeurs propres de AA
t
sont les valeurs propres
de A
t
A : en effet, si est valeur propre de AA
t
associe au vecteur propre x alors est valeur propre de AA
t
associe au vecteur propre A
t
x. On a donc
cond
2
(A) =
_
1
.
2. Si Aest s.d.p., alors A
t
A = A
2
et
i
=
2
i
o
i
est valeur propre de la matrice A. On a dans ce cas cond
2
(A) =
1
.
3. Si cond
2
(A) = 1, alors
_
N
1
= 1 et donc toutes les valeurs propres de A
t
A sont gales. Comme A
t
A est
symtrique dnie positive (car A est inversible), il existe une base orthonorme (f
1
. . . f
N
) telle que A
t
Af
i
=
f
i
, i et > 0 (car A
t
A est s.d.p.). On a donc A
t
A = Id A
t
=
2
A
1
avec =

. En posant Q =
1
A,
on a donc Q
t
=
1
A
t
= A
1
= Q
1
.
Rciproquement, si A = Q, alors A
t
A =
2
Id,

N
1
= 1, et donc cond
2
(A) = 1.
4. A M
N
(IR) est une matrice inversible. On suppose que A = QR o Q est une matrice orthogonale. On a
donc :
cond
2
(A) = A
2
A
1
2
= QR
2
R
1
Q
t
2
.
On a aussi cond
2
(A) =
_
1
o
1
. . .
N
sont les valeurs propres de A
t
A. Or A
t
A = (QR)
t
(QR) =
R
t
Q
1
QR = R
t
R. Donc cond
2
(A) = cond
2
(R).
5. Soient 0 <
1

2
. . .
N
et 0 <
1

2
. . .
N
les valeurs propres de A et B (qui sont s.d.p.). Alors
cond
2
(A+B) =

N
1
, o 0 <
1
. . .
N
sont les valeurs propres de A+B.
a) On va dabord montrer que
cond
2
(A+B)

N
+
N
1
+
1
.
Remarquons en premier lieu que si A est s.d.p., alors
cond
2
(A) =
sup
x=1
Ax x
inf
x2=1
Ax x
En effet, si A est s.d.p., alors sup
x2=1
Ax x =
N
; il suft pour sen rendre compte de dcomposer x sur la
base (f
i
)
i=1...N
. Soit x =
N
i=1
i
f
i
. Alors : Ax x =
N
i=1
2
i
i

N
2
i
=
N
. Et Af
N
f
N
=
N
.
De mme, Ax x
1
2
i
=
1
et Ax x =
1
si x = f
1
. Donc inf
x=1
Ax x =
1
.
On en dduit que si A est s.d.p., cond
2
(A) =
sup
x=1
Ax x
inf
x=1
Ax x
Donc cond
2
(A+B) =
sup
x=1
(A+B)x x
inf
x=1
(A+B)x x
Or sup
x=1
(Ax x +Bx x) sup
x=1
Ax x + sup
x=1
Bx x =
N
+
N
et inf
x=1
(Ax x +Bx x) inf
x=1
Ax x + inf
x=1
Bx x =
1
+
1
donc
cond
2
(A+B)

N
+
N
1
+
1
.
b) On va montrer que
a +b
c +d
max(
a
c
,
b
d
), (a, b, c, d) (IR
+
)
4
.
Supposons que
a +b
c +d

a
c
alors (a + b)c (c + d)a cestdire bc da donc bc + bd da + db soit
b(c +d) d(a +b) ; donc
a+b
c+d

b
d
. On en dduit que cond
2
(A+B) max(cond
2
(A), cond
2
(B)).
Exercice 20 page 36 (Minoration du conditionnement)
1. Comme A est inversible, A + A = A(Id +A
1
A), et donc si A+ A est singulire, alors Id +A
1
A
est singulire. Or on a vu en cours que toute matrice de la forme Id + B est inversible si et seulement si
(B) < 1. On en dduit que (A
1
A) 1, et comme
(A
1
A) A
1
A A
1
A,
on obtient
A
1
A 1, soit encore cond(A)
A
A
.
2. Soit y IR
N
tel que y = 1 et A
1
y = A
1
. Soit x = A
1
y, et A =
y x
t
x
t
x
,on a donc
(A+ A)x = Ax
y x
t
x
t
x
x = y
y x
t
x
x
t
x
= 0.
La matrice A+ A est donc singulire. De plus,
A =
1
x
2
y y
t
A
t
.
Or par dnition de x et y, on a x
2
= A
1
2
. Dautre part, comme il sagit ici de la norme L
2
, on a
A
t
= A
1
. On en dduit que
A =
1
A
1
2
y
2
A
1
=
1
A
1
.
On a donc dans ce cas galit dans (1.43).
3. Remarquons tout dabord que la matrice Aest inversible. En effet, detA = 2
2
> 0. Soit A =
_
_
0 0 0
0
0
_
_
.
Comme det(A+ A) = 0, la matrice A+ A est singulire, et donc
cond(A)
A
A
. (1.86)
Or A = 2 et A = max(3, 1 + 2) = 3, car ]0, 1[. Donc cond(A)
3
2
.
Exercice 22 page 36 (Calcul de linverse dune matrice et conditionnement)
1. (a) Linverse de la matrice A vrie les quatre quations suivantes :
_
_
_
X A
1
= 0, X
1
A = 0,
AX Id = 0, XAId = 0.
Les quantits e
1
, e
2
, e
3
et e
4
sont les erreurs relatives commises sur ces quatre quations lorsquon
remplace X par B; en ce sens, elles mesurent la qualit de lapproximation de A
1
.
(b) On remarque dabord que comme la norme est matricielle, on a MP MP pour toutes
matrices M et P de M
N
(IR). On va se servir de cette proprit plusieurs fois par la suite.
() Comme B = A
1
+E, on a
e
1
=
E
A
1

A
1
A
1
= .
() Par dnition,
e
2
=
B
1
A
A
=
(A
1
+E)
1
A
A
.
Or
(A
1
+E)
1
A = (A
1
(Id +AE))
1
A
= (Id +AE)
1
AA
= (Id +AE)
1
(Id (Id +AE))A
= (Id +AE)
1
AEA.
On a donc
e
2
(Id +AE)
1
AE.
Or par hypothse, AE AE cond(A) < 1 ; on en dduit, en utilisant le thorme
1.11, que :
(Id +AE))
1

1
1 AE
, et donc e
2

cond(A)
1 cond(A)
.
() Par dnition, e
3
= AB Id = A(A
1
+E) Id = AE AE AA
1
=
cond(A).
() Enn, e
4
= BAId = (A
1
+E)AId EA EA cond(A).
(c) () Comme B = A
1
(Id +E
), on a
e
1
=
A
1
(Id +E
) A
1
A
1
Id +E
Id .
() Par dnition,
e
2
=
(Id+E
)
1
AA
A
=
(Id+E
)
1
(A(Id+E
)A)
A
(Id +E
)
1
Id (Id +E
)

1
car < 1 (thorme 1.1).
() Par dnition, e
3
= AB Id = AA
1
(Id +E
) Id = E
.
() Enn, e
4
= BAId = A
1
(Id+E
)AId = A
1
(A+E
AA) A
1
AE

cond(A).
2. (a) On peut crire A +
A
= A(Id + A
1
A
). On a vu en cours (thorme 1.11) que si A
1
A
< 1,
alors la matrice Id + A
1
A
est inversible. Or A
1
A
A
1
A
, et donc la matrice A +
A
est inversible si
A
<
1
A
1
.
(b) On peut crire (A+
A
)
1
A
1
= (A +
A
)
1
(Id (A +
A
)A
1
(A +
A
)
1
Id
Id
A
A
1
(A+
A
)
1
A
A
1
. On en dduit le rsultat.
Exercice 24 page 37 (IP-matrice)
1. Supposons dabord que A est inversible et que A
1
0 ; soit x IR
n
tel que b = Ax 0. On a donc
x = A
1
b, et comme tous les coefcients de A
1
et de b sont positifs ou nuls, on a bien x 0.
Rciproquement, si A est une IP-matrice, alors Ax = 0 entraine x = 0 ce qui montre que A est inversible.
Soit e
i
le i-me vecteur de la base canonique de IR
n
, on a : AA
1
e
i
= e
i
0, et donc par la proprit de
IP-matrice, A
1
e
i
0, ce qui montre que tous les coefcients de A
1
sont positifs.
2. La matrice inverse de A est A
1
=
1
_
d b
c a
_
avec = ad bc. Les coefcients de A
1
sont donc
positifs ou nuls si et seulement si
_
_
_
ad < bc,
a 0, d 0
b 0, c 0
ou
_
_
_
ad > bc,
a 0, d 0,
b 0, c 0.
Or on a forcment ad = 0 : en effet sinon on aurait dans le premier cas) bc < 0, or b 0 et c 0, ce
qui aboutit une contradiction. De mme dans le deuxime cas, on aurait bc > 0, or b 0 et c 0. Les
conditions prcdentes sont donc quivalentes aux conditions (1.45).
3. La matrice A
t
est une IP-matrice si et seulement A
t
est inversible et (A
t
)
1
0. Or (A
t
)
1
= (A
1
)
t
.
Do lquivalence.
4. Supposons que Avrie (1.46), et soit x IR
N
tel que Ax 0. Soit k 1, . . . , N tel que x
k
= min{x
i
, i =
1, . . . , N}. Alors
(Ax)
k
= a
k,k
x
k
+
N
j=1
j=k
a
k,j
x
j
0.
Par hypothse, a
k,j
0 pour k = j, et donc a
k,j
= |a
k,j
|. On peut donc crire :
a
k,k
x
k
j=1
j=k
|a
k,j
|x
j
0,
et donc :
(a
k,k
j=1
j=k
|a
k,j
|)x
k

N
j=1
j=k
|a
k,j
|(x
j
x
k
).
Comme x
k
= min{x
i
, i = 1, . . . , N}, on en dduit que le second membre de cette ingalit est positif ou
nul, et donc que x
k
0. On a donc x 0.
5. Si la matrice A vrie (1.47), alors la matrice A
t
vrie (1.46). On en dduit par les questions prcdentes
que A
t
et A sont des IP-matrices.
6. Soit 1 le vecteur de IR
N
dont toutes les composantes sont gales 1. Si Ax > 0, comme lespace IR
N
est
de dimension nie, il existe > 0 tel que Ax 1. Soit = A
1
1 0 ; on a alors A(x ) 0 et donc
x , car A est une IP-matrice.
Montrons maintenant que > 0 : tous les coefcients de A
1
sont positifs ou nuls et au moins lun dentre
eux est non nul par ligne (puisque la matrice A
1
est inversible). On en dduit que
i
=
N
i=1
(A
1
)
i,j
> 0
pour tout i = 1, . . . , N. On a donc bien x > 0.
7. Soit Ala matrice nulle, on a alors {x IR
N
t.q. Ax > 0} = , et donc {x IR
N
t.q. Ax > 0} {x IR
N
t.q. x > 0}. Pourtant A nest pas inversible, et nest donc pas une IP-matrice.
8. Soit x tel que Ax 0, alors il existe 0 tel que Ax + 1 0. Soit maintenant b = A
1
1; on a
A(x + b) > 0 et donc x + b > 0. En faisant tendre vers 0, on en dduit que x 0.
9. Soit T L(E) dni par f E Tf, avec Tf(x) = f(
1
x
) si x = 0 et f(0) = , avec = lim
f.
On vrie facilement que Tf E. Si Tf 0, alors f(
1
x
) 0 pour tout x IR ; donc f(x) 0 pour tout
x IR \ {0} ; on en dduit que f(0) 0 par continuit. On a donc bien f 0.
Soit maintenant g dnie de IR dans IR par g(x) = | arctan x|. On a g(0) = 0, donc g > 0. Or Tg(0) =

2
et Tg(x) = | arctan
1
x
| > 0 si x > 0, donc Tg > 0.
Exercice 26 page 39 (Valeurs propres et vecteurs propres de A.)
1. Pour montrer que A est dnie positive (car A est videmment symtrique), on va montrer que Ax x > 0 si
x = 0.
On a
Ax x =
1
h
2
_
x
1
(2x
1
x
2
) +
N1
i=2
x
i
(x
i1
+ 2x
i
x
i+1
) + 2x
2
N
x
N1
x
N
_
On a donc
h
2
Ax x = 2x
2
1
x
1
x
2
N1
i=2
_
x
i
x
i1
+ 2x
2
i
_
i=3
x
i
x
i1
+ 2x
2
N
x
N1
x
N
=
N
i=1
x
2
i
+
N
i=2
x
2
1i
+x
2
N
2
N
i=1
x
i
x
i1
=
N
i=2
(x
i
x
i1
)
2
+x
2
1
+x
2
N
0.
De plus, Ax x = 0 x
2
1
= x
N
= 0 et x
i
= x
i1
pour i = 2 N, donc x = 0.
Pour chercher les valeurs propres et vecteurs propres de A, on sinspire des valeurs propres et vecteurs propres du
problme continu, cestdire des valeurs et fonctions telles que
_

(x) = (x) x ]0, 1[

(0) = (1) = 0
(1.87)
(Notons que ce truc ne marche pas dans nimporte quel cas.)
Lensemble des solutions de lquation diffrentielle
= est un espace vectoriel dordre 2, donc est

de la forme (x) = cos
x + sin
x ( 0) et et dont dtermins par les conditions aux limites

(0) = = 0 et (1) = cos
+ sin
= 0 ; on veut = 0 car on cherche = 0 et donc on obtient

= k
2
2
. Les couples (, ) vriant (1.87) sont donc de la forme (k
2
2
, sin kx).
2. Pour k = 1 N, posons
(k)
i
= sin kx
i
, o x
i
= ih, pour i = 1 N, et calculons A
(k)
:
(A
(k)
)
i
= sink(i 1)h + 2 sin k(ih) sin k(i + 1)h.
En utilisant le fait que sin(a +b) = sin a cos b + cos a sin b pour dvelopper sin k(1 i)h et sin k(i + 1)h, on
obtient (aprs calculs) :
(A
(k)
)
i
=
k
(k)
i
, i = 1, . . . , N,
o
k
=
2
h
2
(1 cos kh) =
2
h
2
(1 cos
k
N + 1
)
On a donc trouv N valeurs propres
1
. . .
N
associes aux vecteurs propres
(1)
. . .
(N)
de IR
N
tels que
(k)
i
= sin
ki
N + 1
, i = 1 . . . N.
Remarque : Lorsque N +(ou h 0), on a
(h)
k
=
2
h
2
_
1 1 +
k
2
2
h
2
2
+O(h
4
)
_
= k
2
2
+O(h
2
)
Donc
(h)
k
k
2
2
=
k
h 0.
Calculons cond
2
(A). Comme A est s.d.p., on a cond
2
(A) =

N
1
=
1 cos
N
N+1
1 cos

N+1
.
On a : h
2
N
= 2(1 cos
N
N+1
) 4 et
1

2
lorsque h 0. Donc h
2
cond
2
(A)
4
2
lorsque h 0.
Exercice 28 page 40 (Conditionnement efcace")
Partie I
1. Soit u = (u
1
, . . . , u
N
)
t
. On a
Au = b
_
1
h
2
(u
i
u
i1
) +
1
h
2
(u
i
u
i+1
) = b
i
, i = 1, . . . , N,
u
0
= u
N+1
= 0.
Supposons b
i
0, i = 1, . . . , N, et soit p {0, . . . , N + 1} tel que u
p
= min(u
i
, i = 0, . . . , N + 1).
Si p = 0 ou N + 1, alors u
i
0 i = 0, N + 1 et donc u 0.
Si p {1, . . . , N}, alors
1
h
2
(u
p
u
p1
) +
1
h
2
(u
p
u
p+1
) 0
et comme u
p
u
p1
< 0 et u
p
u
p+1
0, on aboutit une contradiction.
Montrons maintenant que A est inversible. On vient de montrer que si Au 0 alors u 0. On en dduit par
linarit que si Au 0 alors u 0, et donc que si Au = 0 alors u = 0. Ceci dmontre que lapplication linaire
reprsente par la matrice A est injective donc bijective (car on est en dimension nie).
2. Soit C([0, 1], IR) tel que (x) = 1/2x(1 x) et
i
= (x
i
), i = 1, N, o x
i
= ih.
(A)
i
est le dveloppement de Taylor lordre 2 de
(x
i
), et comme est un polynme de degr 2, ce dvelop-
pement est exact. Donc (A)
i
=
(x
i
) = 1.
3. Soient b IR
N
et u IR
N
tels que Au = b. On a :
(A(u b))
i
= (Au)
i
b(A)
i
= b
i
b.
Prenons dabord

b
i
= b
i
+b 0, alors par la question (1),
u
i
+b
i
0 i = 1 . . . N.
Si maintenant on prend

b
i
= b
i
b 0, alors
u
i
b
i
0 i = 1, . . . , N.
On a donc b
i
b
i
.
On en dduit que u
; or
=
1
8
. Do u

1
8
b.
On peut alors crire que pour tout b IR
N
,
A
1
b

1
8
b, donc
A
1
b
1
8
, do A
1

1
8
.
On montre que A
1
=
1
8
en prenant le vecteur b dni par b(x
i
) = 1, i = 1, . . . , N. On a en effet A
1
b = ,
et comme N est impair, i {1, . . . , N} tel que x
i
=
1
2
;or
= (
1
2
) =
1
8
.
4. Par dnition, on a A = sup
x=1
Ax, et donc A = max
i=1,N
j=1,N
|a
i,j
|, do le rsultat.
5. Grce aux questions 3 et 4, on a, par dnition du conditionnement pour la norme , cond(A) = AA
1
=
1
2h
2
.
Comme A
u
=
b
, on a :
u
A
1
b
b
A
1
Au
b
,
do le rsultat.
Pour obtenir lgalit, il suft de prendre b = Au o u est tel que u = 1 et Au = A, et
b
tel que
b
= 1
et A
1
b
= A
1
. On obtient alors
b
=
1
A
et
u
u
= A
1
.
Do lgalit.
Partie 2 Conditionnement efcace
1. Soient
(h)
et f
(h)
les fonctions constantes par morceaux dnies par
h
(x) =
_
(ih) =
i
si x ]x
i
h
2
, x
i
+
h
2
[, i = 1, . . . , N,
0 si x [0,
h
2
] ou x ]1
h
2
, 1].
et
f
(h)
(x) =
_
f(ih) = b
i
si x ]x
i
h
2
, x
i
+
h
2
[,
f(ih) = 0 si x [0,
h
2
] ou x ]1
h
2
, 1].
Comme f C([0, 1], IR) et C
2
([0, 1], IR), la fonction f
h
(resp.
h
) converge uniformment vers f (resp. )
lorsque h 0. On a donc
h
N
i=1
b
i
i
=
_
1
0
f
(h)
(x)
(h)
(x)dx
_
1
0
f(x)(x)dx lorsque h 0.
Comme b
i
> 0 et f
i
> 0 i = 1, . . . , N, on a videmment
S
N
=
N
i=1
b
i
i
> 0 et S
N

_
1
0
f(x)(x)dx = > 0 lorsque h 0.
Donc il existe N
0
IN tel que si N N
0
, S
N

2
, et donc S
N
= min(S
0
, S
1
. . . S
N0
,

2
) > 0.
2. On a Nu = N sup
i=1,N
|u
i
|
N
i=1
u
i
. Dautre part, A = (1 . . . 1)
t
donc u A =
N
i=1
u
i
; or u A =
A
t
u = Au car A est symtrique. Donc u A =
N
i=1
b
i
i

h
daprs la question 1. Comme
u
= A
1
b
,
on a donc
u
A
1

b
; et comme Nu

h
, on obtient :

u
u

1
8
hN
b
. Or hN = 1 et on
a donc bien :
u

f
b
.
3. Le conditionnement cond(A) calcul dans la partie 1 est dordre 1/h
2
, et donc tend vers linni lorsque le
pas de discrtisation tend vers 0, alors quon vient de montrer dans la partie 2 que la variation relative
u
u
est
infrieure une constante multiplie par la variation relative de

b
b
. Cette dernire information est nettement plus
utile et rjouissante pour la rsolution effective du systme linaire.
Exercice 30 page 41 (Non convergence de la mthode de Jacobi)
Si a = 0, alors A = Id, donc A est s.d.p. et la mthode de Jacobi converge.
Si a = 0, posons a = (1 ), et calculons le polynme caractristique de la matrice A en fonction de la
variable .
P() = det
a a a
a a a
a a a
= a
3
det
1 1
1 1
1 1
= a
3
(
3
3 + 2).
On a donc P() = a
3
( 1)
2
( + 2). Les valeurs propres de la matrice A sont donc obtenues pour = 1 et
= 2, cestdire :
1
= 1 a et
2
= 1 + 2a.
La matrice A est dnie positive si
1
> 0 et
2
> 0, cestdire si
1
2
< a < 1.
La mthode de Jacobi scrit :
X
(n+1)
= D
1
(D A)X
(n)
,
avec D = Id dans le cas prsent ; donc la mthode converge si et seulement si (D A) < 1.
Les valeurs propres de D A sont de la forme = 1 o est valeur propre de A. Les valeurs propres de
DA sont donc
1
== a (valeur propre double) et
2
= 2a.. On en conclut que la mthode de Jacobi converge
si et seulement si 1 < a < 1 et 1 < 2a < 1, i.e.
1
2
< a <
1
2
.
La mthode de Jacobi ne converge donc que sur lintervalle ]
1
2
,
1
2
[ qui est strictement inclus dans lintervalle
]
1
2
, 1[ des valeurs de a pour lesquelles la matrice A est s.d.p..
Exercice 32 page 41 (Jacobi pour les matrices diagonale dominante stricte)
Pour montrer que A est inversible, supposons quil existe x IR
N
tel que Ax = 0 ; on a donc
N
j=1
a
ij
x
j
= 0.
Pour i {1, . . . , N}, on a donc
|a
i,i
||x
i
| = |a
i,i
x
i
| = |
j;i=j
a
i,j
x
j
|
j;i=j
|a
i,j
|x
, i = 1, . . . , N.
Si x = 0, on a donc
|x
i
|
j;i=j
a
i,j
x
j
|
|a
i,i
|
x
< x
, i = 1, . . . , N
, ce qui est impossible pour i tel que
|x
i
| = x
.
Montrons maintenant que la mthode de Jacobi converge : Avec le formalisme de la mthode II du cours, on a
M = D =
_
_
a
1,1
0
.
.
.
0 a
N,N
_
_, et N = M A.
La matrice ditration est
J = M
1
N = D
1
N =
_
_
a
1
1,1
0
.
.
.
0 a
1
N,N
_
_
_
_
0 a
i,j
.
.
.
a
i,j
0
_
_
=
_
_
0
a1,2
a1,1
. . .
.
.
.
a1,1
aN,N
. . . 0
_
_.
Cherchons le rayon spectral de J : soient x IR
N
et IR tels que Jx = x, alors
j;i=j
a
i,j
a
i,i
x
j
= x
i
, et donc |||x
i
|
j;i=j
|a
i,j
|
x
|a
i,i
|
.
Soit i tel que |x
i
| = x
et x = 0, on dduit de lingalit prcdente que ||
j;i=j
|ai,j|
|aii|
< 1 pour toute
valeur propre . On a donc (J) < 1. Donc la mthode de Jacobi converge.
Exercice 36 page 43 (Mthode de Jacobi et relaxation)
1. J = D
1
(E +F) peut ne pas tre symtrique, mme si A est symtrique :
En effet, prenons A =
_
2 1
1 1
_
.
Alors
J = D
1
(E +F) =
_
1
2
0
0 1
__
0 1
1 0
_
=
_
0
1
2
1 0
_
=
_
0 1
1
2
0
_
.
donc J nest pas symtrique.
2. On applique lexercice prcdent pour lapplication linaire T de matrice D, qui est, par hypothse, dnie
positive (et videmment symtrique puisque diagonale) et S = E +F, symtrique car A est symtrique.
Il existe donc (f
1
. . . f
N
) base de E et (
1
. . .
N
) IR
N
tels que
Jf
i
= D
1
(E +F)f
i
=
i
f
i
, i = 1, . . . , N, et (Df
i
, f
j
) =
ij
.
3. Par dnition de J, tous les lments diagonaux de J sont nuls et donc sa trace galement. Or TrJ =
N
i=1
i
.
Si
i
> 0 i = 1, . . . , N, alors TrJ > 0, donc i
0
;
i
0 et comme
1

i0
, on a
1
0. Un
raisonnement similaire montre que
N
0.
4. La mthode de Jacobi converge si et seulement si (J) < 1 (thorme 1.27 page 25). Or, par la question
prcdente, (A) = max(
1
,
N
). Supposons que
1
1, alors
1
= , avec 1. On a alors
D
1
(E+F)f
1
= f
1
ou encore (E+F)f
1
= Df
1
, ce qui scrit aussi (D+E+F)f
1
= D(1)f
1
cestdire (2DA)f
1
= Df
1
avec 0. On en dduit que ((2DA)f
1
, f
1
) = 0, ce qui contredit
le fait que 2D A est dnie positive. En consquence, on a bien
1
1.
Supposons maintenant que
N
= 1. On a alors D
1
(E + F)f
1
= f
N
, soit encore (E + F)f
N
=
Df
N
. On en dduit que Af
N
= (D E F)f
N
= D(1 )f
N
= Df
N
avec 0. On a
alors(Af
N
, f
N
) 0, ce qui contredit le fait que A est dnie positive.
5. Par dnition, on a :D x
(n+1)
s = (E+F)x
(n)
+b et x
(n+1)
= x
(n+1)
+(1)x
(n)
. On a donc x
(n+1)
=
[D
1
(E+F)x
(n)
+D
1
b]+(1)x
(n)
cestdire x
(n+1)
= [Id(IdD
1
(E+F))]x
(n)
+D
1
b,,
soit encore
1
Dx
(n+1)
= [
1
D(D(E +F))]x
(n)
+b. On en dduit que M
x
(n+1)
= N
x
(n)
+b avec
M
=
1
D et N
=
1
D A.
6. La matrice ditration est donc maintenant J
= M
1
qui est symtrique pour le produit scalaire

(, )
M
donc en reprenant le raisonnement de la question 2, il existe une base (

f
1
, . . . ,

f
N
) (IR
N
)
N
et (
1
, . . .
N
) IR
N
tels que
J

f
i
= M
1
N

f
i
= D
1
_
1
D A
_

f
i
=
i

f
i
, i = 1, . . . , N,
et
1
D

f
i

f
j
=
ij
, i, = 1, . . . , N, j, = 1, . . . , N.
Supposons
1
1, alors
1
= , avec 1 et D
1
(
1
D A)

f
1
=

f
1
, ou encore
1
D A
f
1
=
D

f
1
. On a donc
2
D A
f
1
= (1 )
1
D

f
1
, ce qui entrane (
2
D A)

f
1

f
1
0. Ceci contredit
lhypothse
2
D A dnie positive.
De mme, si
N
1, alors
N
= avec 1. On a alors
(
1
D A)

f
N
=
1
D

f
N
,
et donc A
f
N
= (1)
1
D

f
N
ce qui entrane en particulier que A
f
N

f
N
0 ; or ceci contredit lhypothse
A dnie positive.
7. On cherche une condition ncessaire et sufsante pour que
_
2
D A
_
x x > 0, x = 0, (1.88)
ce qui est quivalent
_
2
D A
_
f
i
f
i
> 0, i = 1, . . . , N, (1.89)
o les (f
i
)
i=1,N
sont les vecteurs propres de D
1
(E +F). En effet, la famille (f
i
)
i=1,...,N
est une base de
IR
N
, et
_
2
D A
_
f
i
=
_
2
D D + (E +F)
_
f
i
=
_
2
1
_
Df
i
+
i
Df
i
=
_
2
1 +
i
_
Df
i
.
(1.90)
On a donc en particulier
_
2
D A
_
f
i
f
j
= 0 is i = j, ce qui prouve que (1.88) est quivalent (1.89).
De (1.89), on dduit, grce au fait que (Df
i
, f
i
) = 1,
__
2
D A
_
f
i
, f
i
_
=
_
2
1 +
i
_
.
On veut donc que
2
1 +
1
> 0 car
1
= inf
i
, cestdire :
2
<
1
1, ce qui est quivalent :
<
2
1
1
.
8. La matrice ditration J
scrit :
J
=
_
1
D
_
1
_
1
D A
_
= I
, avec I
= D
1
(
1
D A).
Soit une valeur propre de I
associe un vecteur propre u; alors :

D
1
_
1
D A
_
u = u, i.e.
_
1
D A
_
u = Du.
On en dduit que
(D A)u +
_
1
1
_
Du = Du, soit encore
D
1
(E +F)u =
_
1
1
+
_
u.
Or f
i
est vecteur prore de D
1
(E +F) associe la valeur propre
i
(question 2). On a donc :
D
1
(E +F)f
i
=
i
f
i
=
_
1
1
+
_
f
i
,
ce qui est vrai si
i
= 1
1
+ , cestdire =
i
1
1
. Donc
()
i
=
_
i
1
1
_
est valeur
propre de J
associe au vecteur propre f

i
.
On cherche maintenant minimiser le rayon spectral
(J
) = sup
i
|(
i
1
1
)|
On a
(
1
1
1
) (
i
1
1
) (
N
1
1
),
et
(
N
1
1
) (
1
1
1
) (
i
1
1
),
donc
(J
) = max
_
|(
N
1
1
)|, | (
1
1
1
|)
_
dont le minimum est atteint (voir Figure 1.8) pour
(1
1
) 1 = 1 (1
N
) cestdire =
2
2
1
N
.
1
1
1N
1
11
|(1
1
) + 1|
|(1
N
) + 1|
max(|(1
N
) + 1|, |(1
1
) + 1|)
2
21N
FIGURE 1.6 Dtermination de la valeur de ralisant le minimum du rayon spectral.

Exercice 37 page 43 (Jacobi et Gauss-Seidel pour une matrice tridiagonale)
On considre la matrice A =
_
_
2 1 0
1 2 1
0 1 2
_
_
et le vecteur b =
_
_
1
0
1
_
_
. Soit x
(0)
un vecteur de IR
3
donn.
1. Mthode de Jacobi
1.a Ecrire la mthode de Jacobi pour la rsolution du systme Ax = b, sous la forme x
(k+1)
= B
J
x
(k)
+c
J
.
La mthode de Jacobi Dx
(k+1)
= (E +F)x
(k)
+b avec
D =
_
_
2 0 0
0 2 0
0 0 2
_
_
, E =
_
_
0 0 0
1 0 0
0 1 0
_
_
et F =
_
_
0 1 0
0 0 1
0 0 0
_
_
.
La mthode de Jacobi scrit donc x
(k+1)
= B
J
x
(k)
+c
J
avec B
J
= D
1
(E+F) =
_
_
0
1
2
0
1
2
0
1
2
0
1
2
0
_
_
et c
J
=
_
_
1
2
0
1
2
_
_
.
J
et en donner une base.
On remarque que x KerB
J
si x
2
= 0 et x
1
+x
3
= 0. Donc KerB
J
= {t
_
_
1
0
1
_
_
, t IR}.
J
et en dduire que la mthode de Jacobi converge.
Le polynme caractristique de B
J
est P
J
() = det(B
J
Id) = ((
2
+
1
2
) et donc (B
J
) =
2
2
< 1. On
en dduit que la mthode de Jacobi converge.
1.d Calculer x
(1)
et x
(2)
(0)
:
(i) x
(0)
=
_
_
0
0
0
_
_
, (ii) x
(0)
=
_
_
0
1
2
_
_
.
Choix (i) : x
(1)
=
_
_
1
2
0
1
2
_
_
, x
(2)
=
_
_
1
2
1
2
1
2
_
_
.
Choix (ii) : x
(1)
=
_
_
1
1
1
_
_
, x
(2)
=
_
_
1
1
1
_
_
.
2. Mthode de Gauss-Seidel.
2.a Ecrire la mthode de Gauss-Seidel pour la rsolution du systme Ax = b, sous la forme x
(k+1)
=
B
GS
x
(k)
+c
GS
.
La mthode de Gauss-Seidel scrit (D E)x
(k+1)
= Fx
(k)
+b, o D, E et F ont t dnies la question 1.a.
La mthode scrit donc x
(k+1)
= B
GS
x
(k)
+c
GS
avec B
GS
= (D E)
1
F et c
GS
= (D E)
1
b. Calculons
(D E))
1
F et (D E))
1
b par chelonnement.
_
_
2 0 0 0 1 0 1
1 2 0 0 0 1 0
0 1 2 0 0 0 1
_
_
;
_
_
2 0 0 0 1 0 1
0 2 0 0
1
2
1
1
2
0 1 2 0 0 0 1
_
_
;
_
_
2 0 0 0 1 0 1
0 2 0 0
1
2
1
1
2
0 0 2 0
1
4
1
2
5
4
_
_
On a donc
B
GS
=
_
_
0
1
2
0
0
1
4
1
2
0
1
8
1
4
_
_
et c
GS
=
_
_
1
2
1
4
5
8
_
_
.
GS
. Il est facile de voir que x Ker(B
GS
) si et seulement si x
1
= 0. Donc
KerB
GS
= {t
_
_
1
0
0
_
_
, t IR}.
GS
et en dduire que la mthode de Gauss-Seidel converge.
Le polynme caractristique de B
GS
est P
GS
() = det(B
GS
Id). On a donc
P
GS
() =
1
2
0
0
1
4

1
2
0
1
8
1
4

= ((
1
4
)
2
+
1
16
) =
2
(
1
2
)
et donc (B
GS
) =
1
2
< 1. On en dduit que la mthode de Gauss-Seidel converge.
2.d Comparer les rayons spectraux de B
GS
et B
J
et vrier ainsi un rsultat du cours.
On a bien (B
GS
) =
1
2
= (B
J
)
2
, ce qui est conforme au thorme 1.36 du cours.
2.d Calculer x
(1)
et x
(2)
(0)
:
(i) x
(0)
=
_
_
0
0
0
_
_
, (ii) x
(0)
=
_
_
0
1
1
_
_
.
Choix (i) : x
(1)
=
_
_
1
2
1
4
5
8
_
_
, x
(2)
=
_
_
5
8
5
8
1
_
_
.
Choix (ii) : x
(1)
=
_
_
1
1
1
_
_
, x
(2)
=
_
_
1
1
1
_
_
.
3. Convergence en un nombre ni ditrations.
3.1 Soit et des rels. Soit u
(0)
R et (u
(k)
)
kIN
la suite relle dnie par u
(k+1)
= u
(k)
+ .
3.1.a Donner les valeurs de et pour lesquelles la suite (u
(k)
)
kIN
converge.
La suite (u
(k)
)
kIN
converge pour les valeurs suivantes de (, ) :
1. || < 1, IR, auquel cas la suite converge vers u =

1
,
2. = 1, = 0, auquel cas la suite est constante et gale u
0
.
3.1.b On suppose que = 0, et que la suite (u
(k)
)
kIN
converge vers une limite quon note u. Montrer que
sil existe K N tel que u
K
= u, alors u
(k)
= u pour tout k IN.
Si u
K
= u, comme u
K
= u
K1
+ et que u = u + , on en dduit que 0 = u
K
u = (u
K1
u),
et comme = 0, ceci entrane u
K1
= u. On en dduit par rcurrence que u
k
= u pour tout k K 1. On
remarque ensuite que si u
K
= u alors u
K+1
= u
K
+ = u + = u. On en dduit par rcurrence que u
k
= u
pour tout k IN.
3.2 Soit N > 1, B une matrice relle carre dordre N et b IR
N
. Soit u
(0)
IR
N
et (u
(k)
)
kIN
la suite
dnie par u
(k+1)
= Bu
(k)
+c.
3.2.a Donner les conditions sur B et c pour que la suite (u
(k)
)
kIN
converge vers une limite indpendante du
choix initial u
0
IR
N
.
Pour que la suite (u
(k)
)
kIN
converge, il faut quil existe u tel que u = Bu +c, ou encore c = (Id B)u.
Supposons que cest le cas. On a alors u
(k+1)
u = B(u
(k)
u), et donc u
(k)
u = B
k
(u
(0)
u). On veut donc
que B
k
(u
(0)
u) tende vers 0 pour tout choix initial u
(0)
, c. .d. que B
k
tende vers 0. On en dduit, par le lemme
1.5 que la suite (u
(k)
)
kIN
converge si et seulement si (B) < 1.
3.2.b On suppose que la suite (u
(k)
)
kIN
converge vers une limite quon note u. Montrer quon peut avoir
u
(1)
= u avec u
(0)
= u.
En prenant B = B
J
, c = c
J
et u
(0)
= (0, 1, 2)
t
, on sait par la question 1.2 quon ar u
(1)
= (1, 1, 1)
t
= u avec
u
(0)
= u.
Exercice 39 page 44 (Mthode de Jacobi pour des matrices particulires)
1. Soit x IR
N
, supposons que
x
A
=
N
i=1
a
i,i
|x
i
| = 0.
Comme a
i,i
> 0, i = 1, . . . , N, on en dduit que x
i
= 0, i = 1, . . . , N. Dautre part, il est immdiat
de voir que x + y
A
x + y
A
pour tout (x, y) IR
N
IR
N
et que x
A
= ||x
A
pour tout
(x, ) IR
N
IR. On en dduit que
A
est une norme sur IR
N
.
2. Posons

A = Id+Aet notons a
i,j
ses coefcients. Comme IR
+
,et grce aux hypothses (1.61)(1.63),
ceux-ci vrient :
a
i,j
0, i, j = 1, . . . , N, i = j, (1.91)
a
i,i
>
N
i=1
j=i
a
i,j
, i = 1, . . . , N. (1.92)
La matrice

A est donc diagonale dominante stricte, et par lexercice 32 page 41, elle est donc inversible.
3. La mthode de Jacobi pour la rsolution du systme (1.64) scrit :
Du
(k+1)
= (E +F)u
(k)
+b, (1.93)
avec

D = Id+D, et A = DEF est la dcomposition habituelle de Aen partie diagonale, triangulaire
infrieure et triangulaire suprieure. Comme a
i,i
0 et IR
+
, on en dduit que

D est inversible, et que
donc la suite (u
(k)
)
kIN
est bien dnie dans IR.
4. Par dnition de la mthode de Jacobi, on a :
u
(k+1)
i
=
1
a
i,i
+
(
j=1,N
j=i
a
i,j
u
(k)
j
+b
i
).
On en dduit que
u
(k+1)
i
u
(k)
i
=
1
a
i,i
+
j=1,N
j=i
a
i,j
(u
(k)
j
u
(k1)
j
).
et donc
u
(k+1)
u
(k)
A

N
i=1
a
i,i
a
i,i
+
j=1,N
j=i
a
i,j
(u
(k)
j
u
(k1)
j
).
Or
a
i,i
a
i,i
+

1
1 +

ai,i
1
1 +
. On a donc
u
(k+1)
u
(k)
A

1
1 +
N
j=1
(u
(k)
j
u
(k1)
j
)
j=1,N
j=i
a
i,j
.
Et par hypothse,
j=1,N
j=i
a
i,j
= a
j,j
. On en dduit que
u
(k+1)
u
(k)
A

1
1 +
u
(k)
u
(k1)
A
.
On en dduit le rsultat par une rcurrence immdiate.
5. Soient p et q = p +m IN, avec m 0. Par le rsultat de la question prcdente, on a :
u
(q)
u
(p)
A

m
i=1
u
(p+i)
u
(pi1)
A
u
(1)
u
(0)
A
(
1
1 +
)
p
m
i=0
(
1
1 +
)
i
Or > 0 donc la srie de terme gnral (
1
1+
)
i
, et on a :
u
(q)
u
(p)
A
u
(1)
u
(0)
A
(
1
1 +
)
p
+
i=0
(
1
1 +
)
i
(1 +
1
)u
(1)
u
(0)
A
(
1
1 +
)
p
0 lorsque p +.
On en dduit que pour tout > 0, il existe N tel que si p, q > N alors u
(q)
u
(p)
A
, ce qui montre
que la suite est de Cauchy, et donc quelle converge. Soit u sa limite. En passant la limite dans (1.93), on
obtient que u est solution de (1.64).
Exercice 41 page 45 (Une mthode itrative particulire)
1. Det (A) = 1 et donc A est inversible.
2. Det (
1
Id E) =
1
_
1
2
2
_
. Or ]0, 2[. Donc la matrice
1
Id E est inversible si =
2
2
.
3. Les valeurs propres de L
sont les complexes tels quil existe x C

3
, x = 0, t.q : L
x = x, cestdire :
_
F +
1
Id
_
x =
_
1
Id E
_
x,
soit encore M
,
x = 0, avec M
,
= F + E + (1 )Id.
Or
Det (M
,
) = (1 )((1 )
2
2
2
2
)
= (1 )(1 (1 +
2))(1 (1
2))
Les valeurs propres de L
sont donc relles, et gales
1
= 1 ,
2
=
1
1 +
2
et
3
=
1
1
2
.
0 0.2 0.4 0.6 0.8 1 1.2 1.4 1.6 1.8 2
3
2
1
0
1
2
3
FIGURE 1.7 Graphe des valeurs propres
1
et
3
Par dnition, le rayon spectral (L
) de la matrice L
est gal max(|

1
|, |
2
|, |
3
|). Remarquons tout dabord
que |1 +
2| > 1, ]0, 2[, et donc |

1
| > |
2
|, ]0, 2[. Il ne reste donc plus qu comparer |
1
| et |
3
|.
Une rapide tude des fonctions |
1
| et |
3
| permet dtablir le graphe reprsentatif ci-contre.
On a donc :
(L
) = |
3
()| =
1
1
si ]0,
2]
(L
) =
1
() = |1 | si [
2, 2[.
4. La mthode est convergente si (L
) < 1 ; Si [
2, 2[, (L
) = 1 < 1 ; si ]0,
2[,
(L
) =
1
1
< 1
ds que
1
2 1
< 1, cest dire >
2
1 +
2
.
Le minimum de (L
) est atteint pour

0
= 1, on a alors (L
) = 0.
Exercice 43 page 47 (Mthode de la puissance pour calculer le rayon spectral de A)
1. Comme A est une matrice symtrique, A est diagonalisable dans IR. Soit (f
1
, . . . , f
N
) (IR
N
)
N
une base
orthonorme de vecteurs propres de A associe aux valeurs propres (
1
, . . . ,
N
) IR
N
. On dcompose
x
(0)
sur (f
i
)
i=1,...,N
: x
(0)
=
N
i=1

i
f
i
. On a donc Ax
(0)
=
N
i=1

i
i
f
i
et A
n
x
(0)
=
N
i=1

n
i

i
f
i
.
On en dduit :
x
(n)
n
N
=
N
i=1
_

i
N
_
n
i
f
i
.
Comme
N
nest pas valeur propre,
lim
n+
(

i
N
)
n
= 0 si
i
=
N
. (1.94)
Soient
1
, . . . ,
p
les valeurs propres diffrentes de
N
, et
p+1
, . . . ,
N
=
N
. On a donc
lim
n+
x
(n)
n
N
=
N
i=p+1

i
f
i
= x, avec Ax =
N
x.
De plus, x = 0 : en effet, x
(0)
/ (Ker(A
N
Id))
= V ect{f
1
, . . . , f
p
}, et donc il existe i {p +
1, . . . , N} tel que
i
= 0.
Pour montrer (b), remarquons que :
x
(n+1)
=
N
i=1
n+1
i

i
et x
(n)
=
N
i=1
n
i

i
car (f
1
, . . . , f
N
) est une base orthonorme. On a donc
x
(n+1)
x
(n)
=
n
N
x
(n+1)
n+1
N
x
(n)
N
x
x
=
N
lorsque n +.
2. a) La mthode I scrit partir de x
(0)
connu : x
(n+1)
= Bx
(n)
+ c pour n 1, avec c = (I B)A
1
b.
On a donc
x
(n+1)
x = Bx
(n)
+ (Id B)x x
= B(x
(n)
x).
(1.95)
Si y
(n)
= x
(n)
x, on a donc y
(n+1)
= By
(n)
, et daprs la question 1a) si y
(0)
Ker(B
N
Id)
o
N
est la plus grande valeur propre de B, (avec |
N
| = (B)et
N
non valeur propre), alors
y
(n+1)
y
(n)
(B) lorsque n +,
cestdire
x
(n+1)
x
x
(n)
x
(B) lorsque n +.
b) On applique maintenant 1a) y
(n)
= x
(n+1)
x
(n)
avec
y
(0)
= x
(1)
x
(0)
o x
(1)
= Ax
(0)
.
On demande que x
(1)
x
(0)
/ Ker(B
N
Id)
comme en a), et on a bien y

(n+1)
= By
(n)
, donc
y
(n+1)
y
(n)
(B) lorsque n +.
Exercice 45 page 47 (Mthode QR pour la recherche de valeurs propres)
En cours de rdaction.

Chap 1

Загружено:

Сведения о документе

Авторское право

Доступные форматы

Поделиться этим документом

Поделиться или встроить документ

Параметры публикации

Этот документ был вам полезен?

Это неприемлемый материал?

Авторское право:

Доступные форматы

Chap 1

Загружено:

Авторское право:

Доступные форматы

Introduction

3. La dernire galit rsulte du fait que

, muni dun produit

IRe : on peut dcomposer x E comme

x x dsigne la norme euclidienne sur IR

, alors cond(A) = cond(A).

= f Soit f C([0, 1], IR). On cherche u tel que

= f en vue de se ramer un systme discret, c..d. un systme avec un nombre ni

. Or on peut montrer (voir exercice 28 page 40, partie I) que A

1/8, et on obtient donc

la norme induite sur M

est bien une norme sur IR

= A(x y) (x y) = Ax x 2Ax y +Ay y = x

(et par suite (

la matrice ditration de la mthode SOR (et

) < 1 alors 0 < < 2.

) < 1 si et seulement si 0 < < 2.

est une norme.

en fonction de x, et en dduire que A

et Q est une matrice orthogonale (cest--dire Q

, alors B est inversible.

< 1. Montrer que dans ce cas :

, N impair. On pose h = 1/(N + 1). On

= 0 sur [0, 1] (1.53a)

(x) = (x) pour tout x ]0, 1[ et (0) = (1) = 0].

(x) +u(x) = f(x), x ]0, 1[,

(x) = u(x), x ]0, 1[,

(x) + u(x) = f(x), x [0, 1],

en fonction de celles de J. En dduire, en fonction des

est valeur propre de L

3. Dduire de la question 1. que si >

Id E) est inversible si et seulement si =

2/2, on considre la mthode itrative (pour trouver la solution de Ax = b)

et son rayon spectral.

(B) quand n (ceci permet destimer (B) au cours des itrations).

Analyse numrique I, Tl-enseignement, L3 47 Universit Aix-Marseille 1, R. Herbin, 18 janvier 2012

et en dduire que les valeurs propres

= . Pour s IR, on note sign(s) le signe de s, cestdire sign(s) = s/|s| si s = 0 et sign(0) = 0.

A) < 1, et donc par la question 2,

A) < 1, donc (A) < pour tout IR

= f traite dans le cours page 18, on a q = 1 et la mthode de

N et la mthode de Choleski ncessite de lordre de N

ce qui prouve que cond(A) 1.

(x) = (x) x ]0, 1[

= est un espace vectoriel dordre 2, donc est

x ( 0) et et dont dtermins par les conditions aux limites

= 0 ; on veut = 0 car on cherche = 0 et donc on obtient

et x = 0, on dduit de lingalit prcdente que ||

qui est symtrique pour le produit scalaire

associe un vecteur propre u; alors :

associe au vecteur propre f

FIGURE 1.6 Dtermination de la valeur de ralisant le minimum du rayon spectral.

sont les complexes tels quil existe x C

sont donc relles, et gales

est gal max(|

2| > 1, ]0, 2[, et donc |

) est atteint pour

comme en a), et on a bien y

Вам также может понравиться