MTODOS DE RESOLUCIN DE ECUACIONES NO LINEALES 1: MTODOS

TIPO NEWTON
1. Introduccin

La resolucin de ecuaciones algebraicas no lineales es la tarea principal en la simulacin de
procesos en estado estacionario. Para ambos modos, modular y orientado a ecuaciones, hay que
resolver las ecuaciones obtenidas a partir de las operaciones unitarias, las propiedades fsicas y la
topologa derivada de los diagramas de flujo.
Los problemas se pueden plantear en un formato estndar : resolver f(x)=0, o bien en el formato
denominado de punto fijo, es decir x=g(x).
Ambas formas son equivalentes, y los mtodos que se describen a continuacin se pueden aplicar a
ambos formatos, ya que
f(x)=x-g(x)=0
o bien:
x=x +h(f(x))=g(x).
~
donde h es cualquier funcin siempre que h(y) = 0 si y solo si y = 0.
De hecho el formato de punto fijo es ms sencillo de operar cuando se requiere la convergencia
de corrientes de recirculacin trabajando en modo modular.
Este tema corresponde a la descripcin de los mtodos tipo Newton utilizando el formato
estndar. El mtodo de Ncwton-Raphson es el ms utilizado en la resolucin de ecuaciones no
lineales. En la simulacin de procesos es el algoritmo esencial para el modo orientado a
ecuaciones y se utiliza a menudo para la resolucin de las ecuaciones de las operaciones
unitarias, en particular para los modelos de separacin detallados. Tambin se vern mtodos
quasi-Newton o Broyden.
En el tema siguiente se abordarn los mtodos de punto fijo de primer orden. A diferencia de los
de Newton, no requieren informacin de las derivadas de las ecuaciones, pero convergen ms
lentamente. Se utilizan en convergencia de recirculaciones y en otros procedimientos de clculo
cuando las derivadas son difciles de obtener.

2. METODOS TIPO NEWTON
Considrese el problema en su forma estndar f(x)= 0, donde x es un vector de n variables
reales y f() un vector de n funciones reales. Si se establece una estimacin de las variables en un
punto dado, se puede realizar una expansin en serie de Taylor para extrapolar alrededor del
punto de resolucin (X*):
fi(x*)=0=f
o bien:
donde Vf
i
(x) y Vf
i
{x) son el vector gradiente y la matriz llessiana de la funcin J{x)>
respectivamente.
Si se trunca la serie (slo dos primeros trminos), se tiene:
f ( x' +p) =o = f ( x' ) +J { x' ) p

Donde se ha definido el vector p - (x* - x') como direccin de bsqueda y la matriz J con elementos
{J}
ij
=df
i
/dx
j

para la fila i y la columna j de la matriz J. Esta matriz se denomina Jacobiano. Si J no es singular, se
puede resolver directamente para obtener p, con una aproximacin lineal a la solucin de las
ecuaciones no lineales:
p=-(J(x))
-1
f(x)
fisto permite una estrategia recursiva para encontrar el vector solucin x*
p
k
=-(J
k
)
-1
f(x
k
) x
k+1
=x
k
+p
k

Siendo x
0
la primera estimacin, k el contador de iteraciones y J
k
= J(x
k
). La estrategia recursiva se puede
formalizar en el siguiente algoritmo bsico para el mtodo de Newton:
ALGORITMO
0. Suponer x, k = 0
1. Calcular f(x
k
), J
k

2. Calcular p
k
=-(J
k
)
-1
f(x
k
)
3. Establecer x
k+1
=x
k
+p
k

4. Comprobar convergencia: Si f(x
k
)
T
f(x
k
)
1
, y p
k
<
2
, terminar (
1 y

2
son valores prximos a cero)
5. En caso de no convergencia, k=k+1, volver al paso 1


El mtodo de Newton tiene algunas propiedades de convergencia muy adecuadas particular, tiene
una rpida velocidad de convergencia cerca de la solucin. De manera ms precisa, el mtodo de
Newton converge a una velocidad cuadrtica dada por la expresin:

donde ||x||= (x
t
x)
1/2
es la norma Euclidea que define la longitud de un vector x determinado.
Una forma de interpretar esta relacin es considerar que si K = 1 y se tiene un decimal de precisin
para x
k-1
, es decir ||x
1
x
*
|| = 0.1, entonces, en la siguiente iteracin se tendrn dos dgitos de
precisin, cuatro, ocho, y as sucesivamente.
Por otro lado, esta convergencia tan rpida solamente tiene lugar si el mtodo funciona
adecuadamente. El mtodo puede fallar en problemas de simulacin complicados. Las condiciones
suficientes de manera cualitativa para la convergencia del algoritmo de Newton son:
Las funciones f(x) y J(x) existen y estn acotadas para cualquier valor de x
La suposicin inicial x
0
, debe de estar cerca de la solucin real.
La matriz J(x) no debe de ser singular para ningn valor de x.
3. FUNCIONES ACOTADAS Y DERIVADAS
3.1. Funciones acotadas y derivadas
Mediante un anlisis detallado, se pueden evitar los casos en los que las funciones resultan divididas por
cero, o bien no tienen valores posibles, como es el caso del logaritmo de nmero negativo. Adems se
pueden especificar nuevas variables aadiendo tambin nue ecuaciones. En los dos ejemplos siguientes
se detallan estas consideraciones:
Ejemplo I:
Para resolver f(t) = 10 e = 0, se observa que para valores de t prximos a cero, el termino exponencial
aumenta de valor muy rpidamente, asi como la derivada de la funcin, -3e '. Si se define una nueva
variable x - 3//, y se aade la ecuacin xl -3 = 0, se tienen mayor nmero de ecuaciones a resolver, pero
en este caso las funciones estn perfectamente acotadas, de modo que se debera de resolver el
sistema:
f
1
(x)=10-e
x
=0
f
2
(x)=xt-3=0

Siendo la matriz jacobiana:

() [

]
Hay que destacar que tanto ambas funciones f
1
y f
2
como J tienen valores acotados definidos pata
valores finitos de x, sin embargo J puede llegar a ser singular para determinados valores de x y t.
Ejemplo 2
Para la funcion f(x)= ln x-5, la funcin no tiene soluciones vlidas para valores negativos de x. I ie
problema se puede reformular introduciendo una nueva variable y una nueva ecuacin.
Se define x
2
=lnx
1
o bien f
1
=x
1
-exp(x
2
). El sistema de ecuaciones que resulta es:
f
1
=x
1
-exp(x
2
)=0
f
2
=x
2
-5=0

Siendo la matriz jacobiana
() [

]
De nuevo en esTe caso ambas funciones y las derivadas tienen valores acotados
3.2. Proximidad a la solucin

En general, asegurar un punto de partida prximo a la solucin no es prctico, de tal modo que
normalmente se comienza por una estimacin lejana, o arbitraria, y lo que importa es el control de
acercamiento, esto es, el paso de aproximacin del mtodo de Newton para asegurar que se progresa
hacia la solucin. Con este objetivo, el paso de acercamiento se modifica, de tal modo que el nuevo
punto es solamente una fraccin del paso mximo que predice el mtodo de Newton para cada
iteracin.

X
k+1
=x
k
+p
k
Siendo un numero entre 0 y 1, y p
k
el paso en la direccin predicha por la iteraccion del mtodo de
Newton. Si a = I el paso a dar es el predicho por el mtodo de Newton. Para evaluar a
automticamente se ha de llevar a cabo un mtodo que proporcione una convergencia adecuada. Para
ello se define una funcin objetivo a minimizar:

(x)=1/2f(x)
T
f(x)

Utilizando a para calcular el nuevo punto se tiene:
k+1
=x
k
+p
k


Para un a suficientemente pequeo, el paso de la iteracin del mtodo de Nevvton hace que 4(\')
disminuya. Esta propiedad permite crear un algoritmo y mejorar la estimacin de 4>(a*).
Se podra minimizar entonces la funcin <|>(a'
A
+ ap
k
) y encontrar un valor de a ptimo. Este proceso, no
obstante, resulta excesivo debido a la gran cantidad de clculos a realizar y la posible direccin cambiante,
sobre todo en las ltimas iteraciones. En lugar de esta opcin, se elegir un paso de iteracin a
k
que
proporciona suficiente disminucin de la funcin <|(a*). Esta aproximacin se conoce como la bsqueda
de la lnea de Armijo, y se ilustra en la fig. I.
Comenzando en el origen, se observa la pendiente negativa incluso cuando a = 0, y tambin se observa que
hay un valor del paso de iteracin para el cual <|>(a'
A
+ op
k
) es mnimo. En vez de una inmunizacin directa
de a, se define como condicin suficiente para reducir el valor de la funcin, cuando <|)(a- + ap
k
) est por
debajo de la cuerda de Amiijo, esto es:
<KA* + cx/>*) - <KA* ) < -28a<t>(A**)
siendo 8 la fraccin de la pendiente (normalmente comprendida entre 0 y 14) que define esta cuerda. De
esta manera se asegura que hay una disminucin satisfactoria de <J>(.v) que es al menos una traccin, 8>
de la velocidad de disminucin en el punto presente, a*\


Si esta relacin se satisface para un valor suficientemente alto de ct, se toma este paso como valido. En
caso contrario, se considera el caso de la figura I donde =0. En este caso el valor de X
k+1
=x
k
+p
k
se
encuentra por encima de la cuerda de Armijo, en consecuencia, no hay i educcin de la funcin $( \ ), por
lo que hay que elegir un paso de iteracin ms pequeo. Hay que procurar tambin que este paso no sea
demasiado pequeo (en el intervalo, por ejemplo, comprendido entre a, y a
u
), de otro modo, los
movimientos en la direccin .* tendern a cero antes de que la funcin converja. Para lograr este
propsito se hace una interpolacin cuadrtica para a, definiendo una funcin de interpolacin <|>q(a)
basada en tres parmetros: el valor de ^(.v) en un punto base, x , en el nuevo punto de iteracin, a* +
(X/
1
> y la pendiente en el punto base, d<|>
q
(0)/ da =-2 ({>( a**). La minimizacin de <(
q
(a) se puede
hacer analticamente, de modo que se llega a un valor de a ( denominado q) que normalmente se
encuentra dentro del intervalo antes mencionado. Basndose en estas propiedades, se describe a
continuacin el algoritmo de bsqueda de la lnea de Armijo, ello requiere sustituir el paso 3 del
algoritmo de Newton detallado en el apartado 2.

Tpicamente, 8 = = 0.1. Este procedimiento proporciona robustez y confianza al mtodo de
Newton, especialmente si el valor inicial est lejos de la solucin real. Sin embargo, si no se encuentra la
longitud del paso despus de 5 iteraciones por este algoritmo, la direccin del mtodo de Newton, p
k

puede ser no adecuada debido al mal planteamiento del problema (por ejemplo, porque J(x
k
) sea casi
singular). Ello llevara al fracaso del mtodo de bsqueda, recomendndose en este caso la inspeccin de
las ecuaciones del problema. En el caso extremo de que J(x) sea singular, entonces no existira el paso
del mtodo de Newton y el algoritmo de Newton no se podra aplicar. En este caso se pueden adoptar
las estrategias para resolver el problema que se detallan a continuacin.
Ejemplo: Sea la funcin : f(x) = 0.05.x
4
-3
La derivada de la funcin ser df(x)/dx=0.2x
3

)
()

|


Y de acuerdo con el mtodo de Newton, el siguiente punto se obtendr mediante la expresin:



De este modo se pueden calcular los nuevos valores de x mediante un numero de iteraciones que se
muestran en la siguiente tabla, que implica el valor de la funcin, la derivada y el nuevo valor calculado.

k x f(x) df(x) x
k+1

0 10 497 200 7.515
1 7.515 156.473 84.882 5.672
2 5.672 48.736 36.488 4.336
3 4.336 14.672 16.303 3.436
4 3.436 3.969 8.113 2.947
5 2.947 0.770 5.118 2.796
6 2.796 0.057 4.373 2.783
7 2.783 0.000 4.312 2.783


3. 3 Si ngul ari dad del J acobi no. Modi f i caci n del paso del mtodo de Newton
Si el Jacobiano es singular o casi singular, en cuyo caso el problema est mal planteado, el paso del mtodo
de Newton es casi ortogonal a la direccin del gradiente mximo para la funcin <|>(..v). La direccin del
gradiente mximo est definida como -V()(.v) y, para un paso pequeo, el gradiente da la mxima
reduccin para la funcin <K-v). Como resultado, se podra considerar el gradiente mximo en vez de la
direccin de Newton, cuando la direccin de Newton no es la adecuada. El gradiente mximo viene dado
por la siguiente expresin:
p
sd
=-V(x
k
)= J ( x )
T
f ( x
k
)
Este paso tiene la propiedad de ser el gradiente mximo, pero solamente una velocidad lineal de

El paso p se conoce como paso de Cauchy. Se puede demostrar que la longitud de este paso nunca es
superior a la longitud del paso de Newton: p
N
-J
l
f(x). Para una fraccin de longitud de paso deseada y,
sn puede calcular la direccin de avance para el mtodo pata de perro de Powell. Si se desea ajustar la
Traccin de la longitud y automticamente, la direccin de avance,/*, se puede determinar de la siguiente
manera:
Si la fraccin de la longitud de paso y es pequea, se elige la direccin del gradiente mximo; si es grande,
se elige el paso de Newton. Para valores de y entre los pasos de Newton y Cauchy, se elige una
combinacin lineal de estos pasos, como se ha mostrado en la figura 2. Como esta aproximacin se
necesitan solamente dos direcciones predeterminadas y clculos sencillos para la determinacin del
tamao del paso, y es ms rpido que el mtodo de Levenberg-Marquardt. Incluso en los casos en los que
el jacobiano est mal condicionado, y consiguientemente el paso de Newton se hace demasiado largo,
este mtodo sencillamente se autorregula considerando pasos de Cauchy con fracciones de longitud y
finalmente, debe mencionarse que las aproximaciones de ambos mtodos se agrupan en una clase general
de algoritmos denominada mtodos de la regin de confianza. Para estos problemas, la fraccin de la
longitud del paso y corresponde al tamao de la regin alrededor del punto x
k
en la que la aproximacin
cuadrtica de p (basado en una linealizacin de f(x)
t
esto es Vi(f(x
k
+ Jp)
T
(f(x ) + J p)) es una
representacin apropiada de
Una minimizacin aproximada de este modelo cuaditico necesita el ajuste bien de ?v, bien de para cada
iteracin en los mtodos de Levenberg-Marquardt o de Powell, respectivamente.
Enque los mtodos de la regin de confianza pueden ser ms costosos que la estrategia de la
bsqueda de la lnea de Ai mijo, poseen una mayor capacidad de convergencia, particularmente pava
aquellos problemas con problemas de condicionamiento inicial.
3.4. Mtodos de continuacin: tratamiento de la singularidad del Jacobinno
Para jacobianos singulares o mal condicionados de partida, se pueden tener en cuenta los mtodos de
continuacin. Estos mtodos, a diferencia de los mtodos de la regin de confianza, no se resuelven
forzando la funcin f(x) a cero. En su lugar, se evala la funcin para un valor inicial f(\'o) y se
resuelve un problema incluso ms simple, por ejemplo f(x) -0.9 f(xo) ~ 0. Se espera que este
planteamiento no precise un cambio excesivo para x
t
de tal modo que el mtodo de resolucin (por
ejemplo, Newton) no tenga dificultades a la hora de resolverlo. Si se llega a solucionar el problema
modificado con 0.9, se reduce este parmetro de continuacin a 0.8 y se repite la resolucin del
problema. Finalmente, reduciendo el parmetro a 0, se logra resolver el problema original.
Con esta aproximacin hay que tener en cuenta dos aspectos:
La rapidez en la reduccin del parmetro de continuacin
El coste de este mtodo en comparacin con los vistos previamente.
El uso de un parmetro fijo es una forma algebraica del mtodo de continuacin. Existen diferentes
modificaciones al mtodo que incluyen por ejemplo, alternar el parmetro de continuacin con una
variable, en el momento en el que se detecta un jacobiano singular. La sustitucin de este parmetro
puede dar lugar a un jacobiano no singular, de tal modo que se incrementa la posibilidad de xito en
problemas ms difciles, aunque no sin un aumento del coste computacional.