Mtodo de mnimos cuadrados para la aproximacin de datos experimentales

Aproximacin por rectas que pasan por el origen A continuacin, efectuaremos el clculo de la pendiente de la recta que pasa por el origen que mejor se aproxima a un conjunto de valores (x1 , y1 ), ( x 2 , y 2 ),..., ( x N , y N ) experimentales. Este procedimiento es de gran importancia debido a que en las experiencias muchas veces las magnitudes fsicas dependen linealmente, como por ejemplo, la intensidad de corriente elctrica es directamente proporcional a la diferencia de potencial en los elementos hmicos. En reiteradas ocasiones, nos ser til encontrar la pendiente de la recta que mejor aproxime los datos experimentales, debido a que tendr un importante significado fsico. En el ejemplo anterior, la pendiente del grfico diferencia de potencial (V) en funcin de la intensidad (I) es la resistencia elctrica (R) del elemento a estudio. En los casos en los que la relacin entre las variables no es lineal, muchas veces se puede linealizar las relaciones para llevarlas a este caso. Podemos expresar la relacin lineal entre ambas magnitudes de la siguiente forma:

y = ax
En donde a es la pendiente de la recta, o sea, el valor que deseamos hallar. En el ejemplo anterior, y corresponde a la diferencia de potencial (V), x a la intensidad (I), y a es una constante de proporcionalidad, la cual es igual a la resistencia (R) del elemento. Cuando tratemos datos provenientes de una experiencia, debido a los errores experimentales, generalmente los datos experimentales no satisfacern exactamente dicha ecuacin, sino que estarn prximos a la recta, pero no perfectamente alineados. Es decir la distancia de cada punto del grfico a la recta, calculado como i = a xi yi no ser exactamente cero:

y = a x

i = a xi yi
yi

xi

Pgina 1 de 12

La suma de las distancia de cada punto del grfico a la recta elevada al cuadrado, que nos da una idea de cuan cerca esta la recta de los datos experimentales, llamada desviacin cuadrtica de los puntos respecto a la recta, estar dada entonces por la siguiente expresin:
N N N 2 N N 2 2 2 E = i = (axi yi ) = xi a 2 2 xi yi a + yi i =1 i =1 i =1 i =1 i =1

Observemos que la desviacin cuadrtica de los puntos respecto a la recta es una funcin de la recta, cada recta (o sea cada pendiente a) genera distancias de cada punto a dicha recta y por ende un valor de su suma al cuadrado. Lo que deseamos obtener es la recta (calcular la pendiente a) que minimice dicha funcin, o sea, obtener la recta que, en cierto sentido, est ms cerca de los puntos experimentales. Recordemos que para una parbola del tipo f ( x ) = Ax 2 + Bx + C la abscisa del su B vrtice es x = . Si el coeficiente A es positivo, entonces dicha parbola tendr 2A concavidad positiva y por ende la abscisa del vrtice corresponde al valor de x en el que la funcin f (x ) toma su valor mnimo.
La expresin de E como funcin de a es una parbola, con coeficientes 2 2 A = xi , B = 2 xi yi , C = yi . Observemos que corresponde a una parbola de concavidad positiva, ya que el coeficiente A, el que multiplica a a 2 , es Ello hace que dicha funcin tenga un mnimo para un valor de a =

x y x
i

2
i

> 0.

. Dicho valor

de a corresponde a la pendiente de la recta que minimiza la suma de las distancias al cuadrado de cada punto experimental a la misma. Otra manera de obtener el mismo resultado es pensar que E es una funcin a, y lo que deseamos es obtener el valor de a que minimiza dicha funcin. Para lograr dicho objetivo, debemos imponer la siguiente condicin de extremo:
dE (a ) =0 da Al hacer la derivada de la funcin E como funcin de a obtenemos:
0=
N N N N dE (a ) N 2 2 = 2( y i axi )xi = 2 xi y i 2 axi = 2 xi y i 2a xi da i =1 i =1 i =1 i =1 i =1

Pgina 2 de 12

0 = 2 x i y i 2 a x i a =
2 i =1 i =1

x y
i =1 N i

x
i =1

2 i

Cuya solucin es la anteriormente citada. En conclusin, hemos obtenido la pendiente a de la recta de la forma y = ax que mejor aproxima los datos experimentales. Llegamos a la conclusin, que la pendiente de la recta que minimiza la suma de las distancias al cuadrado de los valores experimentales a la recta (la recta que en cierto modo ms se aproxima a los valores experimentales) tiene como pendiente:

a=

x y
i =1 N i

x
i =1

2 i

Aproximacin por rectas que no necesariamente pasan por el origen

Calculemos ahora la mejor aproximacin de un conjunto de valores experimentales (x1 , y1 ), (x 2 , y 2 ),..., (x N , y N ) por una recta general, que no necesariamente pase por el origen. Podemos expresar la relacin entre ambas magnitudes de la siguiente forma: y = ax + b en donde a es la pendiente de la recta y b es el punto de corte de la recta con el eje y , o sea, los valores que deseamos hallar. Procedamos de la misma manera que en el caso anterior.

y = a x + b

i = a xi + b yi
yi

xi

x
Pgina 3 de 12

 i = a xi yi . Nuevamente calculemos la suma de las distancia de cada punto del

Ahora, la distancia de cada punto del grfico a la recta tendr la expresin

grfico a la recta elevada al cuadrado, que nos da una idea de cuan cerca esta la recta de los datos experimentales. La misma estar dada por la siguiente expresin:

E = i = (axi + b y i ) 2 = (a 2 xi + b 2 + y i 2axi y i 2by i + 2abxi ) =

2 2 2 i =1 i =1 i =1 N N N 2 N N N 2 = a 2 xi + b 2 1 + ab 2 xi + a 2 xi y i + b 2 y i + y i i =1 i =1 i =1 i =1 i =1 i =1

Observemos que la desviacin cuadrtica de los puntos respecto a la recta es una funcin de la recta, cada recta (o sea cada pendiente a y punto de corte b) genera distancias de cada punto a dicha recta y por ende un valor de su suma al cuadrado. Lo que deseamos obtener es la recta (calcular la pendiente a y punto de corte b) que minimice dicha funcin, o sea, obtener la recta que, en cierto sentido, est ms cerca de los puntos experimentales. En al caso anterior, cuando las rectas pasan por el origen, la funcin E dependa de una sola variable, a, y encontrar el valor que la minimizaba fue una tarea sencilla. En este caso la funcin E depende de dos variables, a y b, y debemos encontrar la pareja de valores que la minimizan. El trabajo es un poco ms complicado. Primeramente hagamos una demostracin sin hacer uso de derivadas. Para un cierto valor dado del parmetro b, podemos pensar la funcin E como funcin solo de a:
N N N N N 2 N 2 f b (a ) = a 2 xi + a 2 xi y i + 2b xi + b 2 1 2b y i + y i i =1 i =1 i =1 i =1 i =1 i =1

Para dicho valor de b la funcin E (como funcin solamente de a) es una parbola de concavidad positiva, por lo que debemos elegir el valor de a para minimizarla como:
N N 2 xi y i + 2b xi B i =1 i =1 = a= = N 2A 2 2 xi i =1

xi y i b xi
i =1 i =1

x
i =1

2 i

Por otro lado, para un cierto valor dado del parmetro a, podemos pensar la funcin E como funcin solo de b:
N N N N N N 2 2 f a (b ) = b 2 1 + b 2a x i 2 y i + y i + a 2 x i 2a x i y i i =1 i =1 i =1 i =1 i =1 i =1

Pgina 4 de 12

Para dicho valor de a la funcin E (como funcin solamente de b) es nuevamente una parbola de concavidad positiva, por lo que debemos elegir el valor de b para minimizarla como:
N N N N 2 a x i 2 y i + a x i + y i B i =1 i =1 i =1 i =1 b= = = N N 2A 2 1 1 i =1 i =1

En definitiva, hemos obtenidos dos relaciones que se deben satisfacer simultneamente para minimizar la funcin, E, las que forman un sistema de dos ecuaciones y dos incgnitas:
N N x i y i b x i i =1 a = i =1 N N N 2 N N N 2 N 2 a x i = x i y i b x i a x i + b x i = x i y i xi i =1 i =1 i =1 i =1 i =1 i =1 i =1 N N N N N N N N b 1 = a x + a x + b 1 = y a xi + yi i yi i i i =1 i =1 i =1 i =1 i =1 i =1 i =1 i =1 b = N 1 i =1

Resolviendo dicho sistema de ecuaciones, obtenemos los valores de a y b deseados:

N N N N xi y i y i xi i =1 i =1 i =1 a= 2 N N 2 N xi xi i =1 i =1 N N 2 N N y i xi xi y i xi i =1 i =1 i =1 i =1 b= 2 N N 2 N xi xi i =1 i =1

Otra manera ms general de obtener el mismo resultado es pensar que E es una funcin de dos variables, a y b, y lo que deseamos es obtener los valores de a y b que minimizan dicha funcin. Para lograr dicho objetivo, debemos imponer la siguiente condicin de extremo: E (a,b ) =0 a E (a,b ) = 0 b Calculando dichas derivadas parciales de la expresin de E como funcin de a y b, obtenemos:

Pgina 5 de 12

N E (a,b ) N 2 N = 2a xi + b 2 xi + 2 xi y i 0= a i =1 i =1 i =1 N N N 0 = E (a,b ) = 2b 1 + a 2 x + 2 y i i b i =1 i =1 i =1

Dicho sistema de ecuaciones es el mismo sistema de ecuaciones que habamos encontrado y por ende tiene las mismas soluciones. Calculando las derivadas segundas se comprueba fcilmente que el punto encontrado es efectivamente el nico mnimo de la funcin E. Este segundo razonamiento es ms directo, aunque el anterior no utiliza derivaciones, y por ende puede resultar comprensible si no se conoce el clculo diferencial. En conclusin hemos encontrado las la pendiente a y el punto de corte el eje y, b, de la recta de la forma y = ax + b que mejor aproxima los datos experimentales. Llegamos a la conclusin que la pendiente y el punto de corte con el eje y de la recta que minimiza la suma de las distancias al cuadrado de los valores experimentales a la recta (la recta que en cierto modo ms se aproxima a los valores experimentales) tienen como expresiones:
N N N N xi y i y i xi i =1 i =1 i =1 a= 2 N N 2 N xi xi i =1 i =1 N N N 2 N y i xi xi y i xi i =1 i =1 b = i =1 i =1 2 N N 2 N xi xi i =1 i =1

Pgina 6 de 12

Aproximacin por polinomios de grado m

Calculemos ahora la mejor aproximacin de un conjunto de valores experimentales (x1 , y1 ), (x 2 , y 2 ),..., (x N , y N ) por un polinomio de grado m. Podemos expresar la relacin entre ambas magnitudes de la siguiente forma:
y = a m x m + a m 1 x m 1 + ... + a1 x + a 0

en donde los a j j = 0,1,..., m son los coeficientes del polinomio, o sea, los valores que deseamos hallar. Procedamos de la misma manera que en los casos anteriores.

y = a m x m + a m 1 x m 1 + ... + a1 x + a0

i = a m x m + a m 1 x m 1 + ... + a 1 x + a 0 y i
yi

xi

Ahora, la distancia de cada punto del grfico al polinomio tendr la expresin i = a m xi m + a m 1 xi m 1 + ... + a1 xi + a 0 y i . Nuevamente calculemos la suma de las distancias de cada punto del grfico al polinomio elevada al cuadrado, que nos da una idea de cuan cerca esta el polinomio de los datos experimentales. La misma estar dada por la siguiente expresin:
E = i = a m xi + a m 1 xi
2 m i =1 i =1 N N

m 1

+ ... + a1 xi + a 0 y i

Observemos que la desviacin cuadrtica de los puntos respecto al polinomio es una funcin del polinomio, cada polinomio (o sea cada conjunto de coeficientes a j j = 0,1,..., m ) genera distancias de cada punto a dicho polinomio y por ende un valor de su suma al cuadrado. Lo que deseamos obtener es del polinomio (o sea el conjunto de coeficientes a j j = 0,1,..., m ) que minimice dicha funcin, o sea, obtener el polinomio de grado m que, en cierto sentido, est ms cerca de los puntos experimentales.
Pgina 7 de 12

En los casos anteriores, cuando tenamos rectas pasan por el origen, la funcin E dependa de una sola variable, a, y encontrar el valor que la minimizaba fue una tarea sencilla; luego, para rectas generales la funcin E dependa de dos variables, a y b, y encontrar los valores que la minimizaba fue un poco ms complicado. En este caso general, la funcin E depende de m+1 variables a j j = 0,1,..., m y debemos encontrar el conjunto de valores que la minimizan. El trabajo actual es un poco ms complicado, aunque es una simple generalizacin del procedimiento anterior al caso de m+1 variables. Para lograr dicho objetivo, debemos imponer la siguiente condicin de extremo: E (a m , a m 1 ,..., a1 , a 0 ) =0 a 0 E (a m , a m 1 ,..., a1 , a 0 ) =0 a1 : E (a m , a m 1 ,..., a1 , a 0 ) =0 a m Calculando dichas derivadas parciales de la expresin de E como funcin las m+1 variables a j j = 0,1,..., m , obtenemos: 0= 0= : 0= : 0=
n E m m 1 m = 2 a m xi + a m 1 xi + ... + a1 xi + a 0 y i ( xi ) a m i =1 n E m m 1 j = 2 a m xi + a m 1 xi + ... + a1 xi + a 0 y i ( xi ) a j i =1 N E m m 1 = 2 a m xi + a m 1 xi + ... + a1 xi + a 0 y i a 0 i =1

) )

N E m m 1 = 2 a m xi + a m 1 xi + ... + a1 xi + a 0 y i ( xi ) a1 i =1

Dichas ecuaciones pueden ser rescritas de la siguiente manera:

Pgina 8 de 12

 yi = an xi + an1 xi
m i =1 N i =1 i =1

m 1

+ ... + a1 xi + a 0 1
i =1 N i =1 m 2 N

y x
i =1 i

= a m xi
i =1 N

m +1

+ a m 1 xi + ... + a1 xi + a 0 xi
i =1 i =1 i =1 N N N

y i x i = a m xi
j i =1 i =1

m+ j

+ a m 1 xi
i =1 N

m 1+ j

+ ... + a1 xi
i =1 N

1+ j

+ a 0 xi
i =1 N

y i xi = a m xi
m i =1 i =1

m+ j

+ a m 1 xi
i =1

m 1+ m

+ ... + a1 xi
i =1

1+ m

+ a 0 xi
i =1

O, para ganar claridad pueden ser escritas en forma matricial de la siguiente manera.
N 0 xi i =1 N x1 i i =1 N 2 xi i =1 N m xi i =1

xi x x
i =1 i =1 N i =1 N i

xi x x
i =1 i =1 N i =1 n i

3 i

4 i

xi
i =1

m +1

x
i =1

m+2 i

N 0 y i xi i =1 a 0 i =1 N N m +1 a y i xi 1 xi 1 i =1 i =1 N a2 = N m+ 2 2 xi y i xi i =1 i =1 a N m N m 2m xi y i xi i =1 i =1

xi

Por lo tanto, la solucin del sistema es

N 0 xi i =1 a0 N x1 a i 1 i =1 a 2 = Inv N 2 xi i =1 a m N m xi i =1

x x x
i =1 i =1 N i =1 N

1 i 2

x x x
i =1 i =1 N i =1 n

2 i 3 i 4 i

i 3 i

x
i =1

m +1 i

x
i =1

m+ 2 i

N 0 y i xi i =1 i =1 N N m +1 y x1 xi i i i =1 i =1 N N m+ 2 2 xi y i xi i =1 i =1 N N m 2m xi y i x i i =1 i =1

En donde Inv [A] significa la matriz inversa de A. En conclusin hemos encontrado el conjunto de coeficientes a j j = 0,1,..., m del polinomio de grado m de la forma
y = a m x m + a m 1 x m 1 + ... + a1 x + a 0 que mejor aproxima los datos experimentales. Llegamos a la conclusin los coeficientes del polinomio de que minimiza la suma de las distancias al cuadrado de los valores experimentales al polinomio (el polinomio que en cierto modo ms se aproxima a los valores experimentales) tienen las expresiones anteriormente calculadas.
Pgina 9 de 12

Aproximacin por familias arbitrarias de funciones

En todos los ejemplos anteriores procuramos aproximar un conjunto de datos experimentales (x1 , y1 ), (x 2 , y 2 ),..., ( x N , y N ) por una recta o polinomio. En definitiva, tenamos un conjunto de posibles rectas o polinomios parametrizados por un conjunto de parmetros. Por ejemplo a es el parmetro que describe las rectas que pasan por el origen; a y b es el conjunto de parmetros que describen las rectas generales, y los coeficientes de los polinomios son los parmetros que describen a los polinomios. En caso general, uno puede tener una familia de funciones f que dependen de varios parmetros 1 , 2 ,..., m reales: f
1 , 2 ,..., m

(x )

y desea encontrar entre dicha familia de funciones la que mejor aproxima los datos experimentales. El mtodo de mnimos cuadrados es aplicable en dicha situacin. Para ello uno debe considerar las distancias i = f ( xi ) y i de los puntos experimentales a la curva de ajuste. Nuevamente consideramos la suma de todas las distancias elevadas al cuadrado:
E = i = ( f (xi ) y i )
2 i =1 i =1 N N 2

La que resulta una funcin de los parmetros 1 , 2 ,..., m , ya que para cada conjunto de parmetros obtenemos una funcin f y por ende un conjunto de distancias i . Entonces E resulta ser una funcin de los parmetros 1 , 2 ,..., m o sea E ( 1 , 2 ,..., m ) . El mtodo de mnimos cuadrados consiste en minimizar E, por lo que se debe hacer es imponer la siguiente condicin de extremo: E ( 1 , 2 ,..., m ) =0 1 : E ( , ,..., ) 1 2 m =0 m Obtenemos la solucin del problema (los parmetros 1 , 2 ,..., m ) al resolver dicho sistema. Adems hay que asegurarse de obtener una solucin que corresponda efectivamente a un mnimo de E.

Pgina 10 de 12

La dificultad radica en que generalmente el sistema anterior es un sistema muy complicado de resolver, por lo general no lineal. Afortunadamente disponemos de muchos mtodos numricos para obtener una solucin aproximada del mismo.

Mnimos cuadrados ponderados

En todos los ejemplos anteriores calculamos las distancias de los datos experimentales i a una familia de rectas, polinomios o curvas que dependan de ciertos parmetros. Seguidamente sumamos todas las distancias elevadas al cuadrados, y al resultado lo llamamos E. Luego encontramos los parmetros de las rectas o curvas que minimizaban dicha expresin. Hay situaciones en las que no todos los datos tienen la misma importancia en el clculo de E. Un ejemplo es cuando hay ms incertidumbre asociada a una medicin que a las dems. En ese caso uno puede desear que dicha medicin tenga menos importancia en el momento de aproximar los datos por rectas o curvas que las restantes. Un posible procedimiento a seguir es el siguiente. A cada medicin se le asocia un peso wi . Tpicamente, se le suele asociar a cada medicin un peso que sea inversamente proporcional a la incertidumbre asociada a dicha medida elevada al cuadrado wi = 1 , aunque otras elecciones son posibles. (yi )2 En la definicin de E, tenemos en cuenta dicho peso: E = i wi
2 i =1 N

El resto del procedimiento es exactamente igual al de los casos anteriores, o sea minimizamos la expresin obtenida para E, teniendo en cuenta los factores wi . Observemos que el desarrollo de E es anlogo al caso anterior con la diferencia que cada sumando queda multiplicado por el factor de peso wi . O sea, cada vez que tenemos una sumatoria del tipo

....i la misma se transformar a una suma del tipo

i =1

.... w .
i =1 i i

Como ejemplo, para el caso de las rectas del tipo forma y = ax obtenemos

a=

w x y
i =1 N i i

w x
i =1 i

2 i

Para el caso de las rectas del tipo forma y = ax + b obtenemos:

Pgina 11 de 12

(cabe observar que el factor N en las frmulas anteriores provena de hacer N = 1 y

i =1

en los nuevos clculos se transforma en wi )

i =1

N N N N wi wi xi y i wi y i wi xi i =1 i =1 a = i =1 i =1 2 N N N 2 wi wi xi wi xi i =1 i =1 i =1 N N N N 2 wi y i wi xi wi xi y i wi xi i =1 i =1 i =1 b = i =1 2 N N N 2 wi wi xi wi xi i =1 i =1 i =1

Los mtodos y resultados en los dems casos son anlogos.

Pgina 12 de 12