Mtodo de Newton-Raphson Ma130 - p.

1/7
lgebra Matricial y Optimizacin
Ma130
Mtodo de Newton-Raphson
Departamento de Matemticas
ITESM
Introducci on
Newton-Raphson
Ejemplo
Tarea
Mtodo de Newton-Raphson Ma130 - p. 2/7
Introduccin
El mtodo de Newton-Raphson es un mtodo de optimizacin
iterativo que se basa en aproximar la funcin a optimizar por medio
de la serie de Taylor hasta orden 2. Tiene la ventaja sobre el
mtodo de ascenso ms rpido que no requiere un proceso
iterativo para determinar hasta donde moverse.
Introducci on
Newton-Raphson
Ejemplo
Tarea
Mtodo de Newton-Raphson Ma130 - p. 3/7
Mtodo de Newton-Raphson
Suponga que se desea minimizar la funcin f(x)
con n variables y que sta se aproxima utilizando
el desarrollo de Taylor hasta orden. As
f(x) (x) = f(x
o
)+(xx
o
)

f(x
o
)+
1
2
(xx
o
)

H
f
(x
o
) (xx
o
)
Si la aproximaxin de f(x) por (x) es buena, un
mnimo relativo f(x) se podra aproximar por un
mnimo relativo de por (x). Supongamos que x
1
es un mnimo relativo de (x), entonces x
1
es un
punto estacionario para (x), as (x
1
) = 0.
Desarrollando el gradiente de (x), sustituyendo
x
1
por x e igualando a 0 tenemos:
f(x
o
) +H
f
(x
o
)(x
1
x
0
) = 0
Introducci on
Newton-Raphson
Ejemplo
Tarea
Mtodo de Newton-Raphson Ma130 - p. 4/7
Si la matriz hessiana H
f
(x
o
) es invertible, tenemos
que
x
1
= x
o
H
f
1
(x
o
)f(x
o
)
La expresin anterior se usa como una ecuacin
de recurrencia para dado un punto inicial generar
una sucecin de puntos que deben converger al
mnimo local de f(x). Como calcular la inversa de
una matriz tiene una mayor complejidad (8/3 n
3
)
que resolver un sistema de ecuaciones (2/3 n
3
), la
expresin H
f
1
(x
o
)f(x
o
) se obtiene resolviendo
el sistema
[H
f
(x
o
)|f(x
o
)]
Introducci on
Newton-Raphson
Ejemplo
Tarea
Mtodo de Newton-Raphson Ma130 - p. 5/7
Ejemplo
Ejecute dos iteraciones del mtodo de Newton-Raphson con la
funcin:
f(x, y) = x + y + x
2
y + xy
2
partiendo del punto P(0.3, 0.6).
Soluci on
Introducci on
Newton-Raphson
Ejemplo
Tarea
Mtodo de Newton-Raphson Ma130 - p. 5/7
Ejemplo
Ejecute dos iteraciones del mtodo de Newton-Raphson con la
funcin:
f(x, y) = x + y + x
2
y + xy
2
partiendo del punto P(0.3, 0.6).
Soluci on
f
x
= 1 + 2 xy + y
2
f
y
= 1 + x
2
+ 2 xy
f
xx
= 2 y
f
xy
= 2 x + 2 y
f
yy
= 2 x
Introducci on
Newton-Raphson
Ejemplo
Tarea
Mtodo de Newton-Raphson Ma130 - p. 5/7
Ejemplo
Ejecute dos iteraciones del mtodo de Newton-Raphson con la
funcin:
f(x, y) = x + y + x
2
y + xy
2
partiendo del punto P(0.3, 0.6).
Soluci on
f
x
= 1 + 2 xy + y
2
f
y
= 1 + x
2
+ 2 xy
f
xx
= 2 y
f
xy
= 2 x + 2 y
f
yy
= 2 x
f(x) =

1 + 2 xy + y
2
1 + x
2
+ 2 xy

y H
f
(x) =

2 y 2 x + 2 y
2 x + 2 y 2 x

Mtodo de Newton-Raphson Ma130 - p. 6/7

Con estos clculos procedemos a hacer la siguiente tabla: (en ella, la coma se usa
para indicar que los puntos deben considerarse como vector columna)
i x
i
f(x
i
) H
f
(x
i
)
1
x
i+1
0 (0.3,0.6) (1.72,1.45)

0.238 0.714
0.714 0.476

(-0.326, 0.0619)
1 (-0.326, 0.0619) (0.9634, 1.0660)

1.8113 1.4676
1.4676 0.3437

(-0.5068, 1.8423)
2 (-0.5068, 1.8423) (2.5265, -0.6106)

0.0932 0.2457
0.2457 0.3390

(-0.5924, 1.0144)
Introducci on
Newton-Raphson
Ejemplo
Tarea
Mtodo de Newton-Raphson Ma130 - p. 7/7
Tarea
Aplique el mtodo de ascenso ms rpido y el
mtodo de Newton Raphson (modicndolo para
obtener mximos en lugar de mnimos) para las
funciones:
1. f(x, y) = 2 + x + 2 y x
2
3 y
2
iniciando en
x = 1 y y = 3
2. f(x, y, z) = 2 + x 2 y z 2 x
2
y
2
3 z
2
iniciando en x = 1,y = 0 y z = 1.