Proyecto de Álgebra Lineal

Mı́nimos Cuadrados
Violeta Chamorro (00125047)
Camila Álvarez (00118760)
Andrés Fierro (00123242)
Nicole Cárdenas (00125602)

diciembre de 2015

Aproximación Lineal
Consideremos el conjunto O cuyos elementos son puntos cuyas coordenadas
se muestran en la siguiente tabla:

x y
0,14045 0,02062
0,79732 0,64472
0,06728 0,00456
0,64644 0,43472
0,99442 0,95482
0,26896 0,06879
0,45596 0,20092
0,99059 1,02479
0,19038 0,0347
0,13674 0,01931

En la Figura 1 se muestra los puntos pertenecientes al conjunto O.

1
 Figura 1: Conjunto O

Para encontrar la recta de mejor ajuste de estos puntos, y = ax + b, con-

sideremos que si ( xi , yi ) son las coordenadas del punto i, entonces se trata de
encontrar las constantes a y b que minimizen la suma de los errores cuadrados
2
∑in=1 (yi − ( axi + b)) . Esto es lo mismo a minimizar la distancia entre los vecto-
res  
y1
 y2 
y =  .. 
 
 . 
yn
y  
ax1 + b
 ax2 + b 
y0 =  .
 
..
 . 
axn + b

2
 Notemos que el vector y0 se puede escribir como y0 =
 
1 x a donde
 
1
 1 
1 =  .. 
 
 . 
1
 
x1
 x2 
x =  .. 
 
 . 
xn
 
b
a= .
a

Puesto que el vector de y0 es la combinación lineal de 1 y x que minimiza la

distancia con y entonces se debe cumplir que y0 es el punto del plano generado
por 1 y x más cercano a y, por lo tanto el vector y − y0 debe ser perpendicular
al plano generado por 1 y x, en particular es perpendicular a 1 y a x, entonces
1 T (y − y0 ) = 1 · (y − y0 ) = 0 y x T (y − y0 ) = x · (y − y0 ) = 0, esto se resume en la
siguiente ecuación:
T
(y − y0 ) = 0.

1 x
A partir del resultado anterior podemos obtener a:
T
(y − y0 ) = 0

1 x
 T  
1 x (y − 1 x a) = 0
 T    T
1 x 1 x a= 1 x y
 T  
si suponemos que 1 x 1 x es invertible entonces
 T    −1  T
a= 1 x 1 x 1 x y. (1)

Utilizamos la ecuación (1) para los puntos del conjunto O y encontramos que
   
b −0,16743
a= = .
a 1,08397

En la Figura 2 mostramos los puntos del conjunto O junto con la recta de mejor
ajuste y = 1,08397 · x − 0,16743. Escrita en forma vectorial, la recta de mejor ajuste
es      
x 1 0
= t+ .
y 1,08397 −0,16743

3
 Figura 2: Puntos del conjunto O junto con la recta y = ax + b

Para calcular el error asociado a esta aproximación solo debemos calcular la

distancia del punto y al plano genrado por los vectores 1 y x. Esta distancia es
igual a la longitud, e, del vector y − y0 , que viene dada por
e = y − y0

q
= (y − y0 ) · (y − y0 )
q    
= (y − 1 x a) · (y − 1 x a)
= 0,24482.

Aproximación Cuadrática
Ahora procedemos a buscar una aproximación cuadrática por el método de
los mı́nimos cuadrados. Para encontrar la mejor aproximación cuadrática y =
ax2 + bx + c buscamos las constantes a, b y c que minimizen la suma de los errores

2
cuadrados ∑in=1 yi − ( axi2 + bxi + c) . Esto es lo mismo a minimizar la distancia
entre los vectores  
y1
 y2 
y =  .. 
 
 . 
yn
y
ax12 + bxi + c
 
 ax2 + bx + c 
2 2
y0 =  .
 
..
 . 
axn2 + bxn + c

4
 Notemos que el vector y0 se puede escribir como y0 = 1 x x2
 
a donde 1
y x se definen como en el caso lineal y
 2 
x1
 x2 
 2 
x2 =  .. 
 . 
xn2
 
c
a =  b .
a

Puesto que el vector de y0 es la combinación lineal de 1, x y x2 que minimiza

la distancia con y entonces se debe cumplir que y0 es el punto del plano generado
por 1, x y x2 más cercano a y, por esto el vector y − y0 debe ser perpendicular al
plano generado por 1, x y x2 , en particular es perpendicular a 1, x y x2 , entonces
T
1 T (y − y0 ) = 1 · (y − y0 ) = 0, x T (y − y0 ) = x · (y − y0 ) = 0 y x2 (y − y0 ) =
x2 · (y − y0 ) = 0, esto se resume en la siguiente ecuación:
T
1 x x2 (y − y0 ) = 0.


A partir del resultado anterior podemos obtener a:

T
1 x x2 (y − y0 ) = 0

T
1 x x2 (y − 1 x x2 a) = 0
  
T  T
1 x x2 1 x x2 a= 1 x x2
  
y
T 
1 x x2 1 x x2
 
si suponemos que es invertible entonces
 T    −1  T
a= 1 x x2 1 x x2 1 x x2 y. (2)

Utilizamos la ecuación (2) para los puntos del conjunto O y encontramos que
   
c −0,003927
a =  b  =  0,021792  .
a 0,98873

En la Figura 3 mostramos los puntos del conjunto O junto con la parábola de

mejor ajuste y = 0,98873 · x2 + 0,021792x − 0,003927.

5
 Figura 3: Puntos del conjunto O junto con la recta y = ax + b

Para calcular el error asociado a esta aproximación solo debemos calcular la

longitud, e, del vector y − y0 , que viene dada por

e = y − y0

q
= (y − y0 ) · (y − y0 )
q
= (y − 1 x x2 a) · (y − 1 x x2 a)
   

= 0,057472.

Podemos observar que el error para la aproximación cuadrática es menor que

para la aproximación lineal.

Aproximación Cúbica
De manera similar se puede hacer una aproximación cúbica. Por lo desarro-
llado anteriormente, de manera natural se conjetura que si la mejor aproximación
cúbica (utilizando mı́nimos cuadrados) es y = a3 x3 + a2 x2 + a1 x + a0 y además
 
a0
 a1 
a=  a2 


a3

entonces
 T    −1  T
a= 1 x x2 x3 1 x x2 x3 1 x x2 x3 y. (3)

En la ecuación (3) x3 se define como x3 = x2 · x. La demostración de esta ecua-

ción es completamente similar a la del caso cuadrático o lineal.

6
 Utilizamos la ecuación (3) para los puntos del conjunto O y encontramos que
   
a0 0,011855
 a1   −0,140883 
a=  a2  =  1,359054  .
  

a3 −0,226634

En la Figura 4 mostramos los puntos del conjunto O junto con la función cúbi-
ca de mejor ajuste (de color rojo) y = −0,226634 · x3 + 1,359054 · x2 − 0,140883x +
0,011855.

Figura 4: Puntos del conjunto O junto con la recta y = ax + b

Para calcular el error asociado a esta aproximación solo debemos calcular la

longitud, e, del vector y − y0 , que viene dada por

e = y − y0

q
= (y − y0 ) · (y − y0 )
q
= (y − 1 x x2 x3 a) · (y − 1 x x2 x3 a)
   

= 0,0560123.

Encontramos que el error para la aproximación cúbica e = 0,0560123 es menor

que el de las aproximaciones cuadrática y lineal, por lo tanto la mejor aproxima-
ción obtenida hasta el momento es la cúbica.
Esta observación nos lleva a conjeturar que si aumenta el grado en la aproxi-
mación utilizando mı́nimos cuadrados, entonces la aproximación será cada vez
mejor, lo que se reflejará en un error cada vez más pequeño.

7
Nuevos Datos
Ahora consideramos el conjunto V, este conjunto contiene puntos obtenidos
con el mismo experimento por el cual fueron obtenidos los puntos del conjunto
O. Las coordenadas de estos nuevos puntos se muestran en la tabla siguiente:

x y
0,529423 0,284002
0,184810 0,035793
0,576934 0,331234
0,666697 0,465335
0,234738 0,055887

En la Figura 5 se añaden los puntos del conjunto V a la Figura 4.

Figura 5: Conjunto V

El error de estos nuevos datos (solo los nuevos datos, sin tener en cuenta los
anteriores) respecto a los modelos encontrados en las secciones anteriores vienen
dados por las fórmulas:
1. Aproximación lineal:
q    
e= (y − 1 x a) · (y − 1 x a)
= 0,053713.

2. Aproximación cuadrática:
q
e = (y − 1 x x2 a) · (y − 1 x x2 a)
   

= 0,0085479.

8
 3. Aproximación cúbica:
q
e = (y − 1 x x2 x3 a) · (y − 1 x x2 x3 a)
   

= 0,0069425.

Los resultados obtenidos indican que las aproximaciones son cada vez mejores a
medida que el grado de la aproximación polinómica aumenta. Además nos dicen
que si el grado de la aproximación polinómica es mayor, entonces este modelo
será mejor para predecir la tendencia de futuros datos sobre el mismo experi-
mento, esto se ve reflejado en el hecho de que, aunque los puntos del conjunto V
no fueron utilizados para realizar las aproximaciones polinómicas por mı́nimos
cuadrados, igual tienen un menor error cuando el grado de la paroximación es
mayor.

Nota Para evaluar los valores de los puntos en las ecuaciones se utilizó el pro-
grama de computadora Maxima y para realizar los gráficos se utilizó GeoGebra.

Referencias
[1] D. Lay, Álgebra Lineal y sus aplicaciones, Pearson, 4ta Ed., 2012.