You are on page 1of 35

MTODO DE LA SECANTE

Este mtodo se basa en la frmula de Newton-Raphson, pero evita el clculo de la derivada usando la siguiente aproximacin:

Sustituyendo en la frmula de Newton-Raphson, obtenemos:

Que es la frmula del mtodo de la secante. Ntese que para poder calcular el valor de anteriores y . , necesitamos conocer los dos valores

Obsrvese tambin, el gran parecido con la frmula del mtodo de la regla falsa. La diferencia entre una y otra es que mientras el mtodo de la regla falsa trabaja sobre intervalos cerrados, el mtodo de la secante es un proceso iterativo y por lo mismo, encuentra la aproximacin casi con la misma rapidez que el mtodo de NewtonRaphson. Claro, corre el mismo riesgo de ste ltimo de no converger a la raz, mientras que el mtodo de la regla falsa va a la segura. Ejemplo 1 Usar el mtodo de la secante para aproximar la raz de comenzando con Solucin Tenemos que y , que sustitumos en la : , y hasta que . ,

frmula de la secante para calcular la aproximacin

Con un error aproximado de:

Como todava no se logra el objetivo, continuamos con el proceso. Resumimos los resultados en la siguiente tabla:

Aprox. a la raz 0 1 0.612699837 0.653442133 0.652917265

Error aprox. 100% 63.2% 6.23% 0.08%

De lo cual conclumos que la aproximacin a la raz es:

Ejemplo 2 Usar el mtodo de la secante para aproximar la raz de , comenzando con . Solucin Tenemos los valores y , que sustitumos : y , y hasta que

en la frmula de la secante para obtener la aproximacin

Con un error aproximado de:

Como todava no se logra el objetivo, continuamos con el proceso. Resumimos los resultados en la siguiente tabla:

Aprox. a la raz 0 1 0.823315073 0.852330280 0.853169121

Error aprox. 100% 21.4% 3.40% 0.09%

De lo cual conclumos que la aproximacin a la raz es:

Veremos a continuacin un ejemplo del metdo de la secante, con la siguiente ecuacin:

MTODO DE LA BISECCIN
El mtodo de biseccin se basa en el siguiente teorema de Clculo: Teorema del Valor Intermedio Sea contnua en un intervalo . Entonces para cada tal que tal que y supongamos que , existe un

. La misma conclusin se obtiene para el

caso que . Bsicamente el Teorema del Valor Intermedio nos dice que toda funcin contnua en un intervalo cerrado, una vez que alcanz ciertos valores en los extremos del intervalo, entonces debe alcanzar todos los valores intermedios. En particular, si y tienen signos opuestos, entonces un , y por lo tanto, el Teorema tal que en el

valor intermedio es precisamente

del Valor Intermedio nos asegura que debe existir , es decir, debe haber por lo menos una raz de intervalo . El mtodo de biseccin sigue los siguientes pasos: Sea contnua, tales que y

i) Encontrar valores iniciales , tienen signos opuestos, es decir,

ii) La primera aproximacin a la raz se toma igual al punto medio entre y :

iii) Evaluar siguientes casos:

. Forzosamente debemos caer en uno de los

En este caso,

tenemos que

tienen signos opuestos, y .

por lo tanto la raz se encuentra en el intervalo

En este caso, de aqu que

tenemos que y

tienen el mismo signo, y

tienen signos opuestos. Por lo tanto, la .

raz se encuentra en el intervalo

En este caso se tiene que y por lo tanto ya localizamos la raz. El proceso se vuelve a repetir con el nuevo intervalo, hasta que:

es decir,

Ejemplo 1 Aproximar la raz de hasta que . Solucin Sabemos por lo visto en el ejemplo 1 de la seccin anterior, que la nica raz de se localiza en el intervalo . As que este intervalo es nuestro punto de partida; sin embargo, para poder aplicar el mtodo de biseccin debemos checar que tengan signos opuestos. En efecto, tenemos que y

mientras que

Cabe mencionar que la funcin

es contnua en el intervalo

. As pues, tenemos todos los requisitos satisfechos para poder aplicar el mtodo de biseccin. Comenzamos: i) Calculamos el punto medio (que es de hecho nuestra primera aproximacin a la raz):

ii) Evaluamos iii) Para identificar mejor en que nuevo intervalo se encuentra la raz, hacemos la siguiente tabla:

Por lo tanto, vemos que la raz se encuentra en el intervalo . En este punto, vemos que todava no podemos calcular ningn error aproximado, puesto que solamente tenemos la primera aproximacin. As, repetimos el proceso con el nuevo intervalo . Calculamos el punto medio (que es nuestra segunda aproximacin a la raz):

Aqu podemos calcular el primer error aproximado, puesto que contamos ya con la aproximacin actual y la aproximacin previa:

Puesto que no se ha logrado el objetivo, continuamos con el proceso. Evaluamos , y hacemos la tabla:

As, vemos que la raz se encuentra en el intervalo Calculamos el punto medio,

Y calculamos el nuevo error aproximado:

El proceso debe seguirse hasta cumplir el objetivo. Resumimos los resultados que se obtienen en la siguiente tabla:

Error aprox. Aprox. a la raz 1.25 1.375 9.09% 1.3125 4.76% 1.28125 2.43% 1.296875 1.20% 1.3046875 0.59% As, obtenemos como aproximacin a la raz
Ejemplo 2 Aproximar la raz de Solucin Como vimos en el ejemplo 2 hasta que .

de la seccin anterior, la nica raz de

se localiza en el intervalo . Para poder aplicar el mtodo de biseccin, es importante checar que s se cumplen las hiptesis requeridas. Sabemos que y En efecto, es contnua en el intervalo tengan signos opuestos. , y checamos que

Mientras que,

Por lo tanto, s podemos aplicar el mtodo de biseccin. Calculamos el punto medio del intervalo ,

Que es la primera aproximacin a la raz de Evaluamos Y hacemos nuestra tabla de signos, .

Puesto que

tienen signos opuestos, entonces la raz se

localiza en el intervalo . En este punto, solo contamos con una aproximacin, a saber, , que es el primer punto medio calculado.

Repetimos el proceso, es decir, calculamos el punto medio ahora del intervalo ,

Que es la nueva aproximacin a la raz de . Aqu podemos calcular el primer error aproximado:

Puesto que no se cumple el objetivo, continuamos con el proceso. Evaluamos Y hacemos la tabla de signos: .

Puesto que

tienen signos opuestos, entonces la .

raz se localiza en el intervalo Calculamos el punto medio,

Y el nuevo error aproximado:

El proceso se debe continuar hasta que se logre el objetivo. Resumimos los resultados que se obtienen en la siguiente tabla:

Error aprox. Aprox. a la raz 0.5 0.75 0.625 0.5625 0.53125 0.515625 0.5234375 0.51953125

33.33% 20% 11.11% 5.88% 3.03% 1.49% 0.75%

De lo cual, vemos que la aproximacin buscada es

El mtodo de biseccin por lo general es lento, y en casos como el de la siguiente grfica, puede ser demasiado lento.

En un caso como ste, el proceso de biseccin comienza a acercarse a la raz de forma muy lenta, ya que el mtodo solamente toma en cuenta que la raz se encuentra dentro del intervalo, sin importar si se encuentra ms cerca de alguno de los extremos del intervalo. Sera bueno implementar un mtodo que tome en cuenta este detalle. Veremos a continuacin un ejemplo del metdo de la biseccin, con la siguiente ecuacin:

MTODO DE NEWTON-RAPHSON
Este mtodo, el cual es un mtodo iterativo, es uno de los ms usados y efectivos. A diferencia de los mtodos anteriores, el mtodo de Newton-Raphson no trabaja sobre un intervalo sino que basa su frmula en un proceso iterativo. Supongamos que tenemos la aproximacin a la raz de ,

Trazamos la recta tangente a la curva en el punto cruza al eje en un punto .

; sta

que ser nuestra siguiente

aproximacin a la raz

Para calcular el punto , calculamos primero la ecuacin de la recta tangente. Sabemos que tiene pendiente

Y por lo tanto la ecuacin de la recta tangente es:

Hacemos

Y despejamos

Que es la fmula iterativa de Newton-Raphson siguiente aproximacin:

para calcular la

, si
Note que el mtodo de Newton-Raphson no trabaja con intervalos donde nos asegure que encontraremos la raz, y de hecho no tenemos ninguna garanta de que nos aproximaremos a dicha raz. Desde luego, existen ejemplos donde este mtodo no converge a la raz, en cuyo caso se dice que el mtodo diverge. Sin embargo, en los casos donde si converge a la raz lo hace con una rapidez impresionante, por lo cual es uno de los mtodos preferidos por excelencia. Tambin observe que en el caso de que , el mtodo no se puede

aplicar. De hecho, vemos geomtricamente que esto significa que la recta tangente es horizontal y por lo tanto no intersecta al eje en ningn punto, a menos que coincida con ste, en cuyo caso mismo es una raz de ! Ejemplo 1 Usar el mtodo de Newton-Raphson, para aproximar la raz de , comenzando con Solucin En este caso, tenemos que y hasta que .

De aqu tenemos que:

Comenzamos con

y obtenemos:

En este caso, el error aproximado es,

Continuamos el proceso hasta reducir el error aproximado hasta donde se pidi. Resumimos los resultados en la siguiente tabla:

Aprox. a la raz 1 1.268941421 1.309108403 1.309799389

Error aprox. 21.19% 3.06% 0.052%

De lo cual conclumos que , la cual es correcta en todos sus dgitos! La misma idea puede aplicarse para crear algoritmos que aproximen races -simas de nmeros reales positivos. Observe que cuando el mtodo de Newton-Raphson converge a la raz, lo hace de una forma muy rpida y de hecho, observamos que el error aproximado disminuye a pasos agigantados en cada paso del proceso. Aunque no es nuestro objetivo establecer formalmente las cotas para los errores en cada uno de los mtodos que hemos estudiado, cabe

mencionar que si existen estas cotas que miden con rapidez lentitud del mtodo en estudio.

mayor precisin la

Veremos a continuacin un ejemplo del metdo de Newton Raphson, con la siguiente ecuacin:

MTODO DEL PUNTO FIJO


Este mtodo se aplica para resolver ecuaciones de la forma

Si la ecuacin es , entonces puede despejarse bien sumar en ambos lados de la ecuacin para ponerla en la forma adecuada. Ejemplos: 1) La ecuacin 2) La ecuacin . se puede transformar en se puede transformar en .

Dada la aproximacin frmula:

, la siguiente iteracin se calcula con la

Supongamos que la raz verdadera es

, es decir,

Restando las ltimas ecuaciones obtenemos:

Por el Teorema del Valor Medio para derivadas, sabemos que si contnua en tal que y diferenciable en . entonces existe

es

En nuestro caso, existe tal que:

en el intervalo determinado por

De aqu tenemos que:

O bien,

Tomando valor absoluto en ambos lados,

Observe que el trmino la

es precisamente el error absoluto en

sima iteracin, mientras que el trmino corresponde al error absoluto en la sima iteracin.

Por lo tanto, solamente si , entonces se disminuir el error en la siguiente iteracin. En caso contrario, el error ir en aumento. En resumen, el mtodo de iteracin del punto fijo converge a la raz si para en un intervalo que contiene a la raz y en

donde es contnua y diferenciable, pero diverge si dicho intervalo. Analicemos nuestros ejemplos anteriores: En el ejemplo 1, de que

y claramente se cumple la condicin

. Por lo tanto el mtodo s converge a la raz. y en este caso,

En el ejemplo 2,

. Por lo tanto, el mtodo no converge a la raz. Para aclarar el uso de la frmula veamos dos ejemplos: Ejemplo 1 Usar el mtodo de iteracin del punto fijo para aproximar la raz de , comenzando con y hasta que .

Solucin Como ya aclaramos anteriormente, el mtodo s converge a la raz. Aplicando la frmula iterativa tenemos,

Con un error aproximado de

Aplicando nuevamente la frmula iterativa tenemos,

Y un error aproximado de

Intuimos que el error aproximado se ir reduciendo muy lentamente. En efecto, se necesitan hasta 13 iteraciones para lograr reducir el error aproximado menor al 1%. El resultado final que se obtiene es:

Con un error aproximado igual al

Ejemplo 2 Usar el mtodo de iteracin del punto fijo para aproximar la raz de , comenzando con Solucin Si despejamos la a y hasta que .

del trmino lineal, vemos que la ecuacin equivale

de donde,

En este caso, tenemos que

. Un vistazo a la grfica,

nos convence que , para , lo que es suficiente para deducir que el mtodo s converge a la raz buscada. Aplicando la frmula iterativa, tenemos:

Con un error aproximado del 100%. Aplicando nuevamente la frmula iterativa, tenemos:

Con un error aproximado igual al 28.41%. En este ejemplo, el mtodo solo necesita de 5 iteraciones para reducir el error menor al 1%. Resumimos los resultados en la siguiente tabla:

Aprox. a la raz 0 -0.2 -0.1557461506 -0.1663039075 -0.163826372 -0.164410064

Error aprox. 100% 28.41% 6.34% 1.51% 0.35%

De donde vemos que la aproximacin buscada es:

Veremos a continuacin un ejemplo del metdo de la Punto Fijo con la siguiente ecuacin:

MTODO POSICIN FALSA


Como mencionamos anteriormente, sera bueno considerar si la raz de una ecuacin est localizada ms cerca de alguno de los extremos del intervalo. Consideremos nuevamente una grfica como la anterior,

Donde hemos agregado la lnea recta que une los puntos extremos de la

grfica en el intervalo . Es claro que si en lugar de considerar el punto medio del intervalo, tomamos el punto donde cruza al eje esta recta, nos aproximaremos mucho ms rpido a la raz; sta es en s, la idea central del mtodo de la regla falsa y sta es realmente la nica diferencia con el mtodo de biseccin, puesto que en todo lo dems los dos mtodos son prcticamente idnticos. Supongamos que tenemos una funcin intervalo y adems, y que es contnua en el tienen signos opuestos.

Calculemos la ecuacin de la lnea recta que une los puntos , . Sabemos que la pendiente de esta recta esta dada por:

Por lo tanto la ecuacin de la recta es:

Para obtener el cruce con el eje

, hacemos

Multiplicando por

nos da:

Finalmente, de aqu despejamos

Este punto es el que toma el papel de en lugar del punto medio del mtodo de biseccin. As pues, el mtodo de la regla falsa sigue los siguientes pasos: Sea contnua, tales que y

i) Encontrar valores iniciales , tienen signos opuestos, es decir,

ii) La primera aproximacin a la raz se toma igual a:

iii) Evaluar siguientes casos:

. Forzosamente debemos caer en uno de los

En este caso,

tenemos que

tienen signos opuestos, y .

por lo tanto la raz se encuentra en el intervalo

En este caso, de aqu que

tenemos que y

tienen el mismo signo, y

tienen signos opuestos. Por lo tanto, la .

raz se encuentra en el intervalo

En este caso se tiene que y por lo tanto ya localizamos la raz. El proceso se vuelve a repetir con el nuevo intervalo, hasta que:

Ejemplo 1 Usar el mtodo de la regla falsa para aproximar la raz de , comenzando en el intervalo y hasta que . Solucin Este es el mismo ejemplo 1 del mtodo de la biseccin. As pues, ya sabemos que es contnua en el intervalo dado y que toma signos opuestos en los extremos de dicho intervalo. Por lo tanto podemos aplicar el mtodo de la regla falsa. Calculamos la primera aproximacin:

Puesto que solamente tenemos una aproximacin, debemos seguir con el proceso.

As pues, evaluamos
Y hacemos nuestra tabla de signos:

De donde vemos que la raz se encuentra en el intervalo . Con este nuevo intervalo, calculamos la nueva aproximacin:

En este momento, podemos calcular el primer error aproximado:

Puesto que no se cumple el objetivo seguimos con el proceso. Evaluamos de signos: , y hacemos la tabla

De donde vemos que la raz se encuentra en el intervalo , con el cual, podemos calcular la nueva aproximacin:

Y el error aproximado:

Como se ha cumplido el objetivo, conclumos que la aproximacin buscada es:

Observe la rapidez con la cual converge el mtodo de la regla falsa a la raz, a diferencia de la lentitud del mtodo de la biseccin. Ejemplo 2 Usar el mtodo de la regla falsa para aproximar la raz de , comenzando en el intervalo y hasta que

. Solucin Este es el mismo ejemplo 2 del mtodo de la biseccin. As pues, ya sabemos que se cumplen las hiptesis necesarias para poder aplicar el mtodo, es decir, que sea contnua en el intervalo dado y que

tome signos opuestos en los extremos de dicho intervalo. Calculamos pues, la primera aproximacin:

Como solamente tenemos una aproximacin, debemos avanzar en el proceso. Evaluamos Y hacemos nuestra tabla de signos:

De lo cual vemos que la raz se localiza en el intervalo . As pues, calculamos la nueva aproximacin:

Y calculamos el error aproximado:

Puesto que no se cumple el objetivo, seguimos avanzando en el proceso. Evaluamos Y hacemos nuestra tabla de signos: .

De los cual vemos que la raz se localiza en el intervalo , con el cual podemos calcular al siguiente aproximacin:

Y el siguiente error aproximado:

Como se ha cumplido el objetivo, conclumos que la aproximacin buscada es:

Nuevamente observamos el contraste entre la rapidez del mtodo de la regla falsa contra la lentitud del mtodo de la biseccin. Por supuesto que puede darse el caso en el que el mtodo de la regla falsa encuentre la aproximacin a la raz de forma ms lenta que el mtodo de la biseccin. Como ejercicio, el estudiante puede aplicar ambos mtodos a la funcin , comenzando en el intervalo

, donde notar que mientras que el mtodo de biseccin requiere de 8 aproximaciones para lograr que falsa necesita hasta 16 aproximaciones. , el mtodo de la regla

Veremos a continuacin un ejemplo del metdo de la Posicin, Falsa con la siguiente ecuacin:

Mnimos cuadrados
Mnimos cuadrados es una tcnica de optimizacin matemtica que, dada una serie de mediciones, intenta encontrar una funcin que se aproxime a los datos (un "mejor ajuste"). Intenta minimizar la suma de cuadrados de las diferencias ordenadas (llamadas residuos) entre los puntos generados por la funcin y los correspondientes en los datos. Especficamente, se llama mnimos cuadrados promedio (LMS) cuando el nmero de datos medidos es 1 y se usa el mtodo de descenso por gradiente para minimizar el residuo cuadrado. Se sabe que LMS minimiza el residuo cuadrado esperado, con el mnimo de operaciones (por iteracin). Pero requiere un gran nmero de iteraciones para converger. Un requisito implcito para que funcione el mtodo de mnimos cuadrados es que los errores de cada medida estn distribuidos de forma aleatoria. El teorema de Gauss-Markov prueba que los estimadores mnimos cuadrticos carecen de sesgo y que el muestreo de datos no tiene que ajustarse, por ejemplo, a una distribucin normal. Tambin es importante que los datos recogidos estn bien escogidos, para que permitan visibilidad en las variables que han de ser resueltas (para dar ms peso a un dato en particular, vase mnimos cuadrados ponderados). La tcnica de mnimos cuadrados se usa comnmente en el ajuste de curvas. Muchos otros problemas de optimizacin pueden expresarse tambin en forma de mnimos cuadrados, minimizando la energa o maximizando la entropa

Formulacin del problema


Supngase el conjunto de puntos (xk,yk), siendo , sea una base de m funciones linealmente independientes fj(x), con . Queremos encontrar una funcin combinacin lineal de las funciones base tal que , esto es:

Se trata de hallar los m coeficientes cj que hagan que la funcin aproximante f(x) sea la mejor aproximacin a los puntos (xk,yk). El criterio de mejor aproximacin puede variar, pero en general se basa en aqul que d un menor error en la aproximacin. El error en un punto (xk,yk) se podra definir como: ek = yk f(xk)

En este caso se trata de medir y minimizar el error en el conjunto de la aproximacin. Dicho error podr ser Error Mximo: Error Medio: Error Cuadrtico Medio: La aproximacin mnimo cuadrada se basa en la minimizacin del error cuadrtico medio o equivalentemente del radicando del error, el llamado error cuadrtico, definido como:

Para llegar a este objetivo, suponemos que la funcin f es de una forma particular que contenga algunos parmetros que necesitamos determinar. Por ejemplo, supongamos que es cuadrtica, lo que quiere decir que , donde no conocemos an , y . Ahora buscamos los valores de , y que minimicen la suma de los cuadrados de los residuos (S):

Esto explica el nombre de mnimos cuadrados. A las funciones que multiplican a los coeficientes buscados, esto es, a x2, x y 1, se les conoce con el nombre de funciones base de la aproximacin. Dichas funciones base pueden ser cualesquiera funciones, y para ese caso se deduce a continuacin la frmula general en el caso de que la aproximacin sea discreta y lineal. La aproximacin de mnimos cuadrados es la mejor aproximacin al conjunto de puntos (xk,yk), segn el criterio del error mnimo cuadrtico. Es posible generar otro tipo de aproximaciones si se toman los errores mximo o medio, pero la dificultad que entraa operar con ellos debido al valor absoluto de su expresin hace que apenas se usen.

Solucin del problema de los mnimos cuadrados


La aproximacin mnimo cuadrada tiene solucin general para el caso de un problema de aproximacin lineal en sus coeficientes cj cualesquiera sean las funciones base fj(x) antes expuestas. Por lineal se entiende f(x) es una

combinacin lineal de dichas funciones base. Para hallar la expresin de la frmula general, es posible o bien minimizar el error cuadrtico arriba expuesto, para lo cual se hara uso del clculo multivariable (se tratara de un problema de optimizacin en cj), o alternativamente hacer uso del lgebra lineal en la llamada deduccin geomtrica. Para los Modelos estticos uniecuacionales, el mtodo de mnimos cuadrados no ha sido superado, a pesar de diversos intentos para ello, desde principios del Siglo XIX.

Deduccin geomtrica del problema discreto


La mejor aproximacin deber tender a interpolar la funcin de la que proviene el conjunto de pares (xk,yk), esto es, deber tender a pasar exactamente por todos los puntos. Eso supone que se debera cumplir que: f(xk) = yk,k = 1,2,...,n Sustituyendo f(x) por su expresin:

Esto es, se habra de cumplir exactamente un sistema de n ecuaciones y m incgnitas, y como en general n>m, dicho sistema estara sobredeterminado, y no tendra solucin general. De ah surge la necesidad de aproximar. Dicho sistema podra expresarse en forma matricial como:

Esto es: Ac = b La aproximacin trata de hallar el vector c que mejor aproxime el sistema Ac = b. Con dicho vector c aproximante, es posible definir el vector residuo como: r = b Ac De manera que el mnimo error cuadrtico supone minimizar el residuo, definiendo su tamao en base a la norma eucldea o usual del residuo:

siendo (r,r)2 el producto interior o escalar del vector residuo sobre s mismo. Si etendemos al sistema Ac = b, entonces se ve claramente que al multiplicar A y c, lo que se realiza es una combinacin lineal de las columnas de A:

El problema de aproximacin ser hallar aquella combinacin lineal lo ms cercana posible al vector b. Se comprueba que el conjunto de las columnas de A engendran un espacio vectorial del que son base, esto es, que forman un Span lineal: span(A1,A2,...,Am), pero al que el vector b no tiene porqu pertenecer. Entonces, de los infinitos vectores del span(A1,A2,...,Am) que son combinacin lineal de los vectores de la base, se tratar de hallar el ms cercano al vector b. De entre todos ellos, el que cumple esto es la proyeccin ortogonal del b sobre span(A1,A2,...,Am), y que por tanto hace que el tamao del vector r, que ser el vector que una los extremos de los vectores b y proyeccin ortogonal de b sobre el span, sea mnimo, esto es, que minimiza su norma eucldea. Es inmediato ver que si el residuo une b con su proyeccin ortogonal, entonces es a su vez ortogonal al span(A1,A2,...,Am), y a cada uno de los vectores de la base, esto es, ortogonal a cada columna de A. La condicin de minimizacin del residuo ser:

Esto solo es cierto si:

A su vez, cada una de las m condiciones de perpendicularidad se puede agrupar en una sola:

Atr = 0 Sustituyendo el residuo por su expresin:

Por tanto, la mejor aproximacin mnimo cuadrada lineal para un conjunto de puntos discretos, sean cuales sean las funciones base, se obtiene al resolver el sistema cuadrado: AtAc = Atb. A esta ecuacin se le llama ecuacin normal de Gauss, y es vlida para cualquier conjunto de funciones base. Si estas son la unidad y la funcin x, entonces la aproximacin se llama regresin lineal. En el ejemplo anterior, f es lineal para los parmetros a, b y c. El problema se simplifica considerablemente en este caso y esencialmente se reduce a un sistema lineal de ecuaciones. Esto se explica en el artculo de los mnimos cuadrados lineales. El problema es ms complejo si f no es lineal para los parmetros a ser determinados. Entonces necesitamos resolver un problema de optimizacin general (sin restricciones). Se puede usar cualquier algoritmo para tal problema, como el mtodo de Newton y el descenso por gradiente. Otra posibilidad es aplicar un algoritmo desarrollado especialmente para tratar con los problemas de mnimos cuadrados, como por ejemplo el algoritmo de Gauss-Newton o el algoritmo de Levenberg-Marquardt.

Mnimos cuadrados y anlisis de regresin


En el anlisis de regresin, se sustituye la relacin

por

Siendo el trmino de perturbacin una variable aleatoria con media cero. Obsrvese que estamos asumiendo que los valores x son exactos, y que todos los errores estn en los valores y. De nuevo, distinguimos entre regresin lineal, en cuyo caso la funcin f es lineal para los parmetros a ser determinados (ej., f(x) = ax2 + bx + c), y regresin no lineal. Como antes, la regresin lineal es mucho ms sencilla que la no lineal. (Es tentador pensar que la razn del nombre regresin lineal es que la grfica de la funcin f(x) = ax + b es una lnea. Ajustar una curva f(x) = ax2 + bx + c, estimando a, b y c

por mnimos cuadrados es un ejemplo de regresin lineal porque el vector de estimadores mnimos cuadrticos de a, b y c es una transformacin lineal del vector cuyos componentes son f(xi) + i). Los parmetros (a, b y c en el ejemplo anterior) se estiman con frecuencia mediante mnimos cuadrados: se toman aquellos valores que minimicen la suma S. El teorema de Gauss-Markov establece que los estimadores mnimos cuadrticos son ptimos en el sentido de que son los estimadores lineales insesgados de menor varianza, y por tanto de menor error cuadrtico medio, si tomamos f(x) = ax + b estando a y b por determinar y con los trminos de perturbacin independientes y distribuidos idnticamente (vase el artculo si desea una explicacin ms detallada y con condiciones menos restrictivas sobre los trminos de perturbacin). La estimacin de mnimos cuadrados para modelos lineales es notoria por su falta de robustez frente a valores atpicos (outliers). Si la distribucin de los atpicos es asimtrica, los estimadores pueden estar sesgados. En presencia de cualquier valor atpico, los estimadores mnimos cuadrticos son ineficientes y pueden serlo en extremo. Si aparecen valores atpicos en los datos, son ms apropiados los mtodos de regresin robusta.

Interpolacin de Lagrange
Explicacin:
Interpolacin es, a partir de una serie de puntos, obtener una ecuacin cuya curva pase por todos ellos o lo mas cerca posible. En el mtodo de Lagrange, se utiliza una ecuacin que aunque se va alargando conforme mas puntos se quieran unir, es siempre del mismo tamao y de la misma forma por lo que una de sus ventajas es que es mas claro y fcil de hacer.

Procedimiento:
Primero se deben tener ya los puntos que se quieren interpolar: Despus se empieza a rellenar la ecuacin de Lagrange comenzando por el primer punto a tomarlo como el punto o sea x0 de referencia.

El mtodo de Lagrange se compone por una serie de sumandos, cada uno se "arma" tomando como referencia cada uno de los puntos a interpolar empezando desde el primero, si se analiza la ecuacin de arriba, se puede ver como es que se forma cada sumando, en el caso de arriba con el primer punto como referencia. As el segundo sumando quedara de la siguiente manera:

Como se puede observar, el tomar un punto de referencia significa ignorarlo en el numerador y utilizarlo en el denominador y utilizar su f(x) para multiplicar al final. Al final, si se tienen n nmeros para unir, la ecuacin resultante tendr como grado n-1 as si se quieren unir 3 puntos, la ecuacin que resulta tiene grado 2. Faltan 2 puntos, ahora se toma como referencia el x2 y la ecuacin va quedando de la siguiente manera:

Por ultimo se toma como referencia el siguiente punto que es x3 y se termina de escribir la ecuacin que queda de la siguiente manera:

Ahora solo se simplifican los trminos y se termina la ecuacin.

Interpolacin polinmica
Dada una funcin f de la cual se conocen sus valores en un nmero finito de abscisas x0,x1,...,xm, se llama interpolacin polinmica al proceso de hallar un polinomio pm(x) de grado menor o igual a m, cumpliendo . A este polinomio se le llama Polinomio interpolador de grado m de la funcin f.

Motivacin del polinomio interpolador


La interpolacin polinmica es un mtodo usado para conocer, de un modo aproximado, los valores que toma cierta funcin de la cual slo se conoce su imagen en un nmero finito de abscisas. A menudo, ni siquiera se conocer la expresin de la funcin y slo se dispondr de los valores que toma para dichas abscisas. El objetivo ser hallar un polinomio que cumpla lo antes mencionado y que permita hallar aproximaciones de otros valores desconocidos para la funcin con una precisin deseable fijada. Por ello, para cada polinomio interpolador se dispondr de una frmula del error de interpolacin que permitir ajustar la precisin del mismo.

Clculo del polinomio interpolador


Se dispone de dos mtodos generales de interpolacin polinmica que permiten aproximar una funcin por un polinomio de grado m. Uno de los mtodos es la interpolacin de Lagrange, siendo el otro la interpolacin de Hermite.

Interpolacin de Lagrange
Sea f la funcin a interpolar, sean x0,x1,...,xm las abscisas conocidas de f y sean f0,f1,...,fm los valores que toma la funcin en esas abscisas, el polinomio interpolador de grado n de Lagrange es un polinomio de la forma

donde lj(x) son los llamados polinomios de Lagrange, que se calculan de este modo:

Ntese que en estas condiciones, los coeficientes lj(x) estn bien definidos y son siempre distintos de cero. Disponemos de un mtodo alternativo para calcular el polinomio interpolador de una funcin f dada: el mtodo de las Diferencias Divididas de Newton. ste mtodo es ms algortmico y resulta sumamente cmodo en determinados casos, sobre todo cuando queremos calcular un polinomio interpolador de grado elevado. Tomemos f una funcin y escribamos su polinomio interpolador de Lagrange de grado m como sigue:

Los coeficientes ai son las llamadas diferencias divididas. Estos coeficientes se calculan mediante los datos que conocemos de la funcin f como sigue:

Como se ve en la frmula, las diferencias divididas se calculan de modo recursivo usando coeficientes anteriores. Comenzamos el cclulo entendiendo que .

Una vez hayamos realizado todos los clculos, notaremos que hay (muchas) ms diferencias divididas que coeficientes ai. El clculo de todos los trminos intermedios debe realizarse simplemente porqu son necesarios para poder formar todos los trminos finales. Sin embargo, los trminos usados en la construccin del polinomio interpolador son todos aqullos que involucren a x0, tal que as:

Mostramos ahora una tabla mnemotcnica con las diferencias divididas de una cierta funcin f dada para construir un polinomio interpolador de grado 2:

Veamos en el ejemplo siguiente el clculo de un polinomio interpolador de Lagrange usando los mtodos mencionados:

Ejemplo: Queremos hallar el valor de la funcin usando un polinomio interpolador de Lagrange de grado 2. Para ello usamos los siguientes datos:

para x = 0.75

Usamos primero el mtodo directo para calcular el polinomio interpolador de Lagrange. Con las condiciones dadas, los polinomios de Lagrange son:

Calculamos ahora el polinomio interpolador de grado 2:

Ahora evaluamos este polinomio en x = 0.75 para obtener un valor aproximado de e1.75:

Si usamos una calculadora para efectuar el clculo obtenemos , por lo que el error cometido es el siguiente:

Se trata de un error del orden del 0.66 %. Vamos a realizar ahora la interpolacin mediante el mtodo de las Diferencias Divididas de Newton:

Diseamos una tabla de Diferencias Divididas esquemtica y realizamos los pertinentes clculos pra obtener los siguientes coeficientes:

Ahora debemos tomar de estos coeficientes los que necesitamos para escribir el polinomio interpolador. Recordemos, segn lo apuntado anteriormente, que slo usamos aqullos coeficientes que involucren a As las cosas, obtenemos el polinomio interpolador de Lagrange de grado 2:

Y, como podemos ver, llegamos al mismo polinomio pero con relativamente menos trabajo.

Mtodo de Runge-Kutta
El mtodo de Runge-Kutta es un mtodo genrico de resolucin numrica de ecuaciones diferenciales. Este conjunto de mtodos fue inicialmente desarrollado alrededor del ao 1900 por los matemticos C. Runge y M. W. Kutta. Se trata de un mtodo por etapas que tiene la siguiente expresin genrica:

, donde:

i = 1,...,e con aij,bi,ci constantes propias del esquema numrico. Los esquemas Runge-Kutta pueden ser explcitos o implcitos dependiendo de las constantes aij del esquema. Si esta matriz es triangular inferior con todos los elementos de la diagonal principal iguales a cero; es decir, aij = 0 para j = i,...,e, los esquemas son explcitos. Ejemplo: Esquema Runge-Kutta de dos etapas, una en t = tn y otra en t = tn + tn. F(u, t) en la primera etapa es: Fn = k1 = F(un;tn) y para estimar F(u, t) en t = tn + tn usamos un esquema Euler Fn + 1 = k2 = F(un + tnk1;tn + tn) Con estos valores de F introducidos en la ecuacin nos queda la expresin:

Las constantes propias de este esquema son: b1 = b2 = 1 / 2;a21 = 1;c2 = 1.

Existen variantes del mtodo de Runge-Kutta clsico, tambin llamado Runge-Kutta explcito, tales como la versin implcita del procedimiento o las parejas de mtodos Runge-Kutta (o mtodos Runge-Kutta-Fehlberg).

Este ltimo consiste en ir aproximando la solucin de la ecuacin mediante dos algoritmos Runge-Kutta de ordenes diferentes, para as mantener el error acotado y hacer una buena eleccin de paso.

Mtodos de Runge-Kutta
Mtodos de Runge-Kutta Los Runge-Kutta no es solo un mtodo sino una importante familia de mtodos iterativos tanto implcitos como explcitios para aproximar las soluciones de ecuaciones diferenciales ordinarias (E.D.Os), estas tcnicas fueron desarrolladas alrededor de 1900 por los matematicos alemanes Carl David Tolm Runge y Martin Wilhelm Kutta El clsico mtodo Runge-Kutta de cuarto orden

Un miembro de la familia de los mtodos Runge-Kutta es usado tan comnmente que a menudo es referenciado como RK4 o como el mtodo Runge-Kutta. Definamos un problema de valor inicial como:

Entonces el mtodo RK4 para este problema esta dado por la siguiente ecuacin:

Donde

As, el siguiente valor (yn+1) es determinado por el presente valor (yn) mas el producto del tamao del intervalo (h) por una pendiente estimada. La pendiente es un promedio ponderado de pendientes: k1 es la pendiente al principio del intervalo;

k2 es la pendiente en el punto medio del intervalo, usando k1 para determinar el valor de y en el punto tn + h/2 usando el mtodo de Euler k3 es otra vez la pendiente del punto medio, pero ahora usando k2 para determinar el valor de y k4 es la pendiente al final del intervalo , con el valor de y determinado por k3 Promediando las cuatro pendientes, se le asigna mayor peso a las pendientes en el punto medio:

El mtodo RK4 es un mtodo de cuarto orden lo cual significa que el error por paso es del orden de h5 , mientra que el error total acumulado tiene el orden h4 Mtodos de Runge-Kutta Explcitos La familia de los metodos Runge-Kutta explcitos esta dado por la generalizacion del mtodo RK4 mencionado antes, esta dado por:

Donde

Para especificar un mtodo en particular , se necesita proveer un valor entero s (numero de etapas), y los coeficientes aij (para 1 j < i s), bi (para i = 1, 2, ..., s) and ci (para i = 2, 3, ..., s). Esos valores usualmente son organizados en una tabla conocida como Butcher tableau o arreglo de Butcher (por John C. Butcher):
0 c2 a21 c3 a31 a32

cs as1 as2 b1 b2

as,s 1 bs 1 bs

El mtodo Runge-Kuta es consistente si

Tambin existen requerimientos adicionales si queremos que el mtodo tenga cierto orden p, significando esto que el error de truncamiento es O(hp+1). Eso puede ser derivado de la definicin de error de truncamiento, por ejemplo, un mtodo de dos etapas tiene grado 2 si b1 + b2 = 1, b2c2 = 1/2, y b2 a21 = 1/2.