Universidad de Chile

Departamento de Ingeniería Matemática

0011 0010 1010 1101 0001 0100 1011

Métodos Numéricos
para Sistemas de
Ecuaciones
No Lineales

Cálculo Numérico
Dr. Gonzalo Hernández Oliva
Dr. Gonzalo Hernandez DIM - MA-33A 1
 Sistemas de Ecuaciones No Lineales: SENL
1) Motivación: Optimización No-Lineal Con y Sin
0011 0010 1010 1101 0001 0100 1011

Restricciones
2) Introducción
n
3) Métodos Numéricos para SENL: \ y \
4) En \: Punto Fijo, Bisección y Newton-Raphson
n
5) En \ : Newton-Kantorovich y Punto Fijo
6) Aplicación: Métodos Optimización Sin Restricciones
7) Bibliografía
Dr. Gonzalo Hernandez DIM - MA-33A 2
 Motivación: Optimización No-Lineal Restringida

Programación No - Lineal
0011 0010 1010 1101 0001 0100 1011
min f ( x)
s . a.

x2 g 2 ( x) ≤ 0 gi ( x) ≤ 0 i = 1,..., p
x ∈\n

g1 ( x) ≤ 0
g 4 ( x) ≤ 0
g3 ( x) ≤ 0
x1

Dr. Gonzalo Hernandez DIM - MA-33A 3

 Motivación: Optimización No-Lineal Restringida
Ejemplo Programación NL
0011 0010 1010 1101 0001 0100 1011

min x − x x + x2
1
3 2 2
1 2
3
s .a .

g1 ( x) = x + x2 − 1 ≤ 0
1
2 2

g 2 ( x) = − x1 ≤ 0
g3 ( x) = − x2 ≤ 0

> [x,y] = meshgrid(-2:0.05:2);

> z=x.^3.-x.^2.*y.^2.+y.^3; Visualización en Matlab
> mesh(x,y,z);
Dr. Gonzalo Hernandez DIM - MA-33A 4
 Motivación: Ejemplo Programación No-Lineal Rest.
min x13 − x12 x2 2 + x23 cpnl.m
0011
s .a .0010 1010 1101 0001 0100 1011
function [c,ceq] = cpnl(x)
g1 ( x) = x12 + x2 2 − 1 ≤ 0 c = zeros(3,1);
g 2 ( x) = − x1 ≤ 0 c(1) = x(1)^2 + x(2)^2 - 1;
c(2) = -x(1);
g3 ( x) = − x2 ≤ 0
c(3) = -x(2);
epnl.m ceq = [];
function y = epnl(x,a)
y = x(1)^3 +a*x(1)^2*x(2)^2 + x(2)^3; Optimización en Matlab

>x0=[1;1]; a=-1;
>[xmin,f_xmin]=fmincon(@(x)epnl(x,a),x0,[],[],[],[],[],[],@(x)cpnl(x));
Dr. Gonzalo Hernandez DIM - MA-33A 5
 Motivación: Optimización No-Lineal Restringida
Condiciones de Optimalidad: Karush - Kuhn - Tucker
0011 0010 1010 1101 0001 0100 1011
−∇f ( x )
x2 ∇g 2 ( x ) ∇g1 ( x ) p G
∇f ( x ) + ∑ μ k ∇g k ( x ) = 0
k =1

μk g k ( x) = 0 ∀k = 1,..., p
x
g k ( x) ≤ 0 ∀k = 1,..., p
g 2 ( x) = 0
g1 ( x) = 0

x1

Dr. Gonzalo Hernandez DIM - MA-33A 6

 Motivación: Optimización No-Lineal Restringida
Métodos Numéricos:
0011 0010 1010 1101 0001 0100 1011

Mínimos Globales
Programación Lineal Simplex y Punto Interior:
Complejidad Polinomial
SEL
Mínimos Locales
Métodos 1er y 2o Orden
Programación No - Lineal Complejidad NP
Métodos Cuasi-Newton
SENL
Dr. Gonzalo Hernandez DIM - MA-33A 7
 SENL: Introducción
Problema: Dadas n funciones no-lineales f i : \ → \
0011 0010 1010 1101 0001 0100 1011
n

diferenciables, encontrar x = ( xi )i =1,...,n

solución del sistema de ecuaciones:

f1 ( x1 , x2 ,..., xn ) = 0 Problema Complejo

en Matemáticas !
f 2 ( x1 , x2 ,..., xn ). = 0
.
.. . .. .
. .
. .
f n ( x1 , x2 ,..., xn ) = 0
Dr. Gonzalo Hernandez DIM - MA-33A 8
 SENL: Introducción
Ejemplo SENL:
0011 0010 1010 1101 0001 0100 1011
5 x 21 − x2 2 = 0
x2 + 0.25(sin x1 + cos x2 ) = 0

Dr. Gonzalo Hernandez DIM - MA-33A 9

 SENL: Introducción
Ejemplos SENL:
0011 0010 1010 1101 0001 0100 1011

−x 21 − x 1  2x 2 − 18  0
x 1 − 1 2  x 2 − 6 2 − 25  0

ln( x12 + x2 2 ) − sin( x1 x2 ) − ln(2π ) = 0

e( x1 − x2 ) + cos( x1 x2 ) = 0
3 x1 − cos( x2 x3 ) − 12 = 0
x12 − 81( x2 + 0.1) 2 + sin x3 + 1.06 = 0
e − x1x2 + 20 x3 + (10π − 3) = 0
Dr. Gonzalo Hernandez DIM - MA-33A 10
 Métodos Numéricos para SENL
Punto Fijo
Bisección
0011 0010 1010 1101 0001 0100 1011
Una Dimensión: \ Secante
Newton
Conv. Global
Punto Fijo Vel. Lineal
Conv. Global
Primer Orden Vel. Lineal
n
Varias Dimensiones: \ Conv. Local
Newton Vel. Cuadrática
Conv. Global
Cuasi - Newton Vel. Sup - Lin.
Dr. Gonzalo Hernandez DIM - MA-33A 11
 SENL: Métodos Numéricos en \
Método de Punto Fijo
0011 0010 1010 1101 0001 0100 1011

ƒ Diremos que una función g : \ → \ tiene un punto

fijo en x0 ssi:
g ( x0 ) = x0
ƒ El problema de punto fijo (pf) está relacionado con el
problema de encontrar un cero:
Si x0 es cero de f ⇒ x0 es pf de g ( x) = x − f ( x)
Si x0 es pf de g ⇒ x0 es cero de f ( x) = x − g ( x)
Dr. Gonzalo Hernandez DIM - MA-33A 12
 SENL: Métodos Numéricos en \
Método de Punto Fijo
0011 0010 1010 1101 0001 0100 1011

ƒ Teorema: Sea g una función continua en [a,b]

a) Si a ≤ g ( x) ≤ b ⇒ g tiene un punto fijo en [a,b]
b) Si además g es derivable en (a,b) y g '( x) ≤ 1
para x ∈ (a, b) ⇒ el punto fijo es único
ƒ Método de Punto Fijo:
Encontrar x ∈ (a, b) tal que se cumple teo. anterior
Iteración PF: x0 ∈ ( a , b ) Convergencia
Global y Lineal
xk +1 = g ( xk )
Dr. Gonzalo Hernandez DIM - MA-33A 13
 SENL: Métodos Numéricos en \
Ejemplo Método de Punto Fijo
0011 0010 1010 1101 0001 0100 1011

La ecuación:
x3 + 4 x 2 − 10 = 0
x3 + 4x2 – 10

Tiene una raíz en [1,2].

Mediante el Método de
Punto Fijo determinar
esta raíz

Dr. Gonzalo Hernandez DIM - MA-33A 14

 SENL: Métodos Numéricos en \
Ejemplo Método de Punto Fijo
0011 0010 1010 1101 0001 0100 1011
Ceros de Polinomios
20

La ecuación:
x4 3 3 2 5 15

− x − x − 2x + = 0
2 2 2 10

Tiene 2 raíces en [-4,4].

p(x)
5

Mediante el Método de 0

Punto Fijo determinar -5

estas raíces
-10
-4 -3 -2 -1 0 1 2 3 4
x

Dr. Gonzalo Hernandez DIM - MA-33A 15

 SENL: Métodos Numéricos en \
Método de la Bisección
0011 0010 1010 1101 0001 0100 1011
f(x)

ε0
f(x1)
f(x0)

z1 z2 z3 z4 z5
x0 x1

Dr. Gonzalo Hernandez DIM - MA-33A 16

 SENL: Métodos Numéricos en \
Método de la Bisección
0011 0010 1010 1101 0001 0100 1011

ƒ Dividir por la mitad el intervalo que contiene la raíz

repetidamente, localizando en cada iteración la mitad
que contiene la raíz
ƒ Sea ε n el tamaño del intervalo n-és. Convergencia
Global y Lineal
εn ε0
ε n+1 = ⇒ εn = n
2 2 Precisión
⎛ ε0 ⎞ Buscada
ƒ Número de iteraciones: n = log 2 ⎜ ⎟
⎝ε ⎠
Dr. Gonzalo Hernandez DIM - MA-33A 17
 SENL: Métodos Numéricos en \
Método de la Secante f (x)
0011 0010 1010 1101 0001 0100 1011

1 5
4 3 2 x

Dr. Gonzalo Hernandez DIM - MA-33A 18

 SENL: Métodos Numéricos en \
Método de Newton - Raphson
0011 0010 1010 1101 0001 0100 1011

Dada una función f : \ → \ suficientemente regular,

el Teorema de Taylor asegura que:
f ''(ξ ( x))
f ( x ) = f ( x) + f '( x)( x − x) + ( x − x) 2

2
Si x − x ≈ 0 y f ( x ) = 0
f ( x)
x = x−
f '( x)
Dr. Gonzalo Hernandez DIM - MA-33A 19
 SENL: Métodos Numéricos en \
Método de Newton - Raphson
0011 0010 1010 1101 0001 0100 1011
Iteración del Método:

x0 ∈ \ cercano a x
f ( xk )
xk +1 = xk −
f '( xk )

Se calcula f '( xk ) en forma exacta o aproximada según:

f ( xk ) − f ( xk −1 )
f '( xk ) = xk − xk −1 ≤ ε
xk − xk −1
Dr. Gonzalo Hernandez DIM - MA-33A 20
 SENL: Métodos Numéricos en \
Método de Newton - Raphson
0011 0010 1010 1101 0001 0100 1011

ƒ Teorema: Sea f ∈ ζ 2
[a, b]. Sea x tal que:

f (x ) = 0
f '( x ) ≠ 0
Entonces existe δ > 0 tal que el método de Newton
∞
genera una sucesión {xk } k =1 que converge a x
para cualquier x0 ∈ ( x − δ , x + δ )
Dr. Gonzalo Hernandez DIM - MA-33A 21
 SENL: Métodos Numéricos en \
Método de Newton - Raphson
0011 0010 1010 1101 0001 0100 1011
Propiedades Principales
ƒ Convergencia Local:
x0 ∈ ( x − δ , x + δ )
ƒ Velocidad Cuadrática:
f ''( xk )
f ( x ) = f ( xk ) + f '( xk )( x − xk ) + ( x − xk )2
2
f ''(ξ ) 2
x − xk +1 = x − xk ξ ∈ ( xk , x )
2 f '( xk )
Dr. Gonzalo Hernandez DIM - MA-33A 22
 SENL: Métodos Numéricos en \
Método de Newton – Raphson: Divergencia
0011 0010 1010 1101 0001 0100 1011

x 2 1

Dr. Gonzalo Hernandez DIM - MA-33A 23

 n
SENL: Métodos Numéricos en \
Método de Punto Fijo
0011 0010 1010 1101 0001 0100 1011

Un campo vectorial F : \ n → \ n
⎛ f1 ( x) ⎞
⎜ f ( x) ⎟
x → F ( x) = ⎜ 2 ⎟
⎜ # ⎟
⎜ ⎟
⎝ f n ( x) ⎠
formado por n campos escalares fi : \ → \ tiene un
n

punto fijo x en D = [ a1 , b1 ] × [ a2 , b2 ] ×"[ an , bn ] si:

F (x ) = x
Dr. Gonzalo Hernandez DIM - MA-33A 24
 n
SENL: Métodos Numéricos en \
Método de Punto Fijo
0011 0010 1010 1101 0001 0100 1011
ƒ Teorema: Sea F un campo vectorial continuo en D
a) Si F ( x) ∈ D ∀x ∈ D ⇒ F tiene un punto fijo en D
b) Si además F es derivable con continuidad en D y:
∂fi K para x∈ D y K < 1 ⇒ el pf es único
≤
∂x j n ∀i,j = 1,…,n
Convergencia Global
ƒ Método de Punto Fijo: Velocidad Lineal

→ Encontrar D tal que se cumple teorema anterior

k +1
→ Sea x0 ∈ D x = F (x ) k
Dr. Gonzalo Hernandez DIM - MA-33A 25
 n
SENL: Métodos Numéricos en \
Método de Punto Fijo: Ejemplo
0011 0010 1010 1101 0001 0100 10113x
1 − cos( x2 x3 ) − 12 = 0
x12 − 81( x2 + 0.1)2 + sin x3 + 1.06 = 0
e− x1x2 + 20 x3 + (10π − 3) = 0
k x1 x2 x3 x k − x k −1
∞

0 0.10000000 0.10000000 -0.10000000 -

1 0.49998333 0.0094115 -0.52310127 0.423
2 0.49999593 0.00002557 -0.52336331 9.4×10-3
3 0.50000000 0.00001234 -0.52359814 2.3×10-4
4 0.50000000 0.00000003 -0.52359847 1.2×10-5
5 0.50000000
Dr. Gonzalo Hernandez
0.00000002
DIM - MA-33A
-0.52359877 3.1×10-726
 n
SENL: Métodos Numéricos en \
Método de Newton – Kantorovich:
0011 0010 1010 1101 0001 0100 1011

Dado un campo vectorial F : \ → \ n n

⎛ f1 ( x) ⎞
⎜ f ( x) ⎟
x → F ( x) = ⎜ 2 ⎟
⎜ # ⎟
⎜ ⎟
⎝ f n ( x) ⎠
formado por n campos escalares fi : \ → \ n

n
regulares. El Teorema de Taylor en \ asegura que:
1
fi ( y) = fi ( x) + ∇fi ( x) ( y − x) + ( y − x)t ∇2 f (ξ ( x))( y − x)
t

2
Dr. Gonzalo Hernandez DIM - MA-33A 27
 n
SENL: Métodos Numéricos en \
Método de Newton – Kantorovich:
0011 0010 1010 1101 0001 0100 1011

Para el campo vectorial F, se tiene entonces que:

F ( y ) = F ( x) + ∇F ( x)( y − x) + O y − x ( 2
)
⎡ ∂f1 ( x) ∂f1 ( x) ⎤
⎢ " ⎥
⎡ 1 ⎤ ⎡ 1 ⎤ ⎢ 1
f ( y ) f ( x ) ∂ x ∂ x ⎡ y1 − x1 ⎤
n
⎥⎢
⎢ # ⎥=⎢ # ⎥+⎢ #
⎢ ⎥ ⎢ ⎥ ⎢
% # ⎥
⎥ ⎢
# ⎥
⎥ (
+O y − x
2
)
⎢⎣ fn ( y)⎥⎦ ⎢⎣ fn ( x)⎥⎦ ⎢ ∂fn ( x) ∂fn ( x) ⎥ ⎢⎣ yn − xn ⎥⎦
"
⎢⎣ ∂x1 ∂xn ⎥⎦

Dr. Gonzalo Hernandez DIM - MA-33A 28

 n
SENL: Métodos Numéricos en \
Método de Newton - Kantorovich
0011 0010 1010 1101 0001 0100 1011

x 0 ∈ \ n cercano a x
−1
x k +1
= x − ⎡⎣∇F ( x ) ⎤⎦ F ( x k )
k k

∂fi ( x)
Donde: [∇F ( x) ]ij =
∂x j
Convergencia Local
Sus propiedades son: Velocidad Cuadrática
Inversión Matricial
Dr. Gonzalo Hernandez DIM - MA-33A 29
 n
SENL: Métodos Numéricos en \
Método de Newton - Kantorovich: Ejemplo
0011 0010 1010 1101 0001 0100 1011
3 x1 − cos( x2 x3 ) − 12 = 0
x12 − 81( x2 + 0.1) 2 + sin x3 + 1.06 = 0
e − x1x2 + 20 x3 + (10π − 3) = 0
k x1 x2 x3 x k − x k −1
∞

0 0.10000000 0.10000000 -0.10000000 -

1 0.50003702 0.01946686 -0.52152047 0.423
2 0.50004593 0.00158859 -0.52355711 1.79×10-2
3 0.50000034 0.00001244 -0.52359845 1.58×10-3
4 0.50000000 0.00000000 -0.52359877 1.24×10-5
Dr. Gonzalo Hernandez DIM - MA-33A 30
 SENL: Métodos Numéricos en
Método de Newton - Raphson
0011 0010 1010 1101 0001 0100 1011
Algunos ejemplos:
1) −x 21 − x 1  2x 2 − 18  0 ⎛ −1 ⎞
n
x =⎜ ⎟
0

2\
x 1 − 1  x 2 − 6 2 − 25  0 ⎝8⎠

2) lnx 21  x 22  − sinx 1 x 2  − ln2  0 ⎛ 2⎞

x =⎜ ⎟
0

e x 1−x 2  cos x 1 x 2  0 ⎝ 2⎠

3) x 31  x 21 x 2 − x 1 x 3  6  0 ⎛0⎞
9x 2  x 21  sin x 3  1. 06  0. 9  0 x 0 = ⎜⎜ 0 ⎟⎟
⎜0⎟
60x 3  3e −x 1 x 2  10 − 3  0 ⎝ ⎠
Dr. Gonzalo Hernandez DIM - MA-33A 31
 n
SENL: Métodos Numéricos en \
Métodos de Optimización Sin Restricciones:
0011 0010 1010 1101 0001 0100 1011
ƒ Se pueden aplicar los métodos de optimización sin
restricciones a la búsqueda de ceros de campos
vectoriales.
ƒ En efecto, se tiene que:
El vector x ∈ \ verifica: f k ( x) = 0 ∀k = 1,..., n
n

ssi soluciona el problema de optimización no lineal:

n
min ∑ [ f k ( x1 ,..., xn ) ]
2

x1 ,..., xn
k =1
Dr. Gonzalo Hernandez DIM - MA-33A 32
 n
SENL: Métodos Numéricos en \
Métodos de Optimización Sin Restricciones:
0011 0010 1010 1101 0001 0100 1011
Método del Gradiente y Variedades
Primer Orden Método del Gradiente Conjugado
Método de Fletcher-Reeves

Métodos de Newton
Segundo Orden
Variedades

DFP: Davidon - Fletcher - Powell

Cuasi-Newton
BFGS
Dr. Gonzalo Hernandez DIM - MA-33A 33
 Bibliografía SENL
1) R. Burden & J. D. Faires, Análisis Numérico, Séptima
0011 0010 1010 1101 0001 0100 1011

Edición, Thomson Learning, 2002.

2) M. Minoux, Mathematical Programming: Theory and
Algorithms, John Wiley and Sons, 1995.
3) G. Hernández: Apuntes Cálculo Numérico 2006
4) G. Hernández: Apuntes Optimización No-Lineal 2006

Dr. Gonzalo Hernandez DIM - MA-33A 34