Modulo de clases

Prof. Mara Angelica Vega U.

9.7. Mnimos cuadrados Discretos.
Consiste en buscar una una funcion aproximada que ajuste la forma de la tendencia que siguen los
datos sin pasar necesariamente por los puntos dados. Un modo de hacer esto es determinar una
curva que minimice la diferencia entre los puntos dados y la curva. Este metodo se conoce como
regresion por mnimos cuadrados. El caso mas simple de una aproximacion por mnimos cuadrados
es el ajuste de las observaciones mediante una lnea recta. La gura siguiente muestra la mejor
lnea recta.
Regresion lineal. Este problema clasico puede enunciarse : Dada una funcion continua f sobre
un intervalo [a, b] y un conjunto de n observaciones (x
1
, y
1
), (x
2
, y
2
), , (x
n
, y
n
), buscamos una
lnea recta de ecuacion
f(x) = a
0
+ a
1
x
tal que la diferencia entre el valor real de y y el valor aproximado obtenido por f(x) sea el menor
posible. Recordemos que se denio el error o residuo entre la funcion y) y su aproximacion como :
e = y a
0
a
1
x.
Como obtener la recta de regresion ? La regresion lineal es un metodo poderoso en el sentido
que ajusta los datos a la mejor lnea. Sabemos que este es un problema de optimizacion y debemos
encontrar los valores a
0
y a
1
de f(x) = a
0
+ a
1
x de modo que la suma
E
r
=
n

i=1
(e
i
)
2
=
n

i=1
(y
i
f(x
i
))
2
. (176)
sea mnima. Para ello derivamos la ecuacion (176) con respecto a cada coeciente e igualamos a
cero, de donde tenemos :
E
r
a
0
= 2

n
i=1
(y
i
a
0
a
1
x
i
) = 0
E
r
a
1
= 2

n
i=1
(y
i
a
0
a
1
x
i
)x
i
= 0
De aqu se tiene el sistema de ecuaciones lineales, escrito en la forma Aa = b:
_
n
i=1
1

n
i=1
x
i

n
i=1
x
i

n
i=1
x
2
i
__
a
0
a
1
_
=
_
n
i=1
y
i

n
i=1
x
i
y
i
_
o equivalentemente
_
n

n
i=1
x
i

n
i=1
x
i

n
i=1
x
2
i
__
a
0
a
1
_
=
_
n
i=1
y
i

n
i=1
x
i
y
i
_
Resolviendo el sistema matricial obtenemos los valores de a
0
y a
1
.
91
Ejemplo 9.2 Ajuste a una lnea recta los siguientes cinco puntos. Que puede decir del error que
se obtiene
P
1
(1, 5,12) , P
2
(3, 3) , P
3
(6, 2,48) , P
4
(9, 2,34) , P
5
(15, 2,18).
Solucion. Determinamos cada uno de los terminos que aparecen en (9.7)
Calculo de las sumas.
n = 5 ,

5
i=1
x
i
= 34

5
i=1
x
i
= 34 ,

5
i=1
y
i
= 15,12

5
i=1
y
i
= 15,12 ,

5
i=1
x
i
y
i
= 82,76

5
i=1
x
2
i
= 352 ,

5
i=1
y
2
i
= 51,5928
de donde tenemos el sistema de ecuaciones :
Sistema de ecuaciones
_
5 34
34 352
__
a
0
a
1
_
=
_
15,12
82,76
_
Usando eliminacion gaussiana encontramos los valores del vector a
a
0
= 4,15298 , a
1
= 0,166027.
de donde la ecuacion de la recta es:
L(x) = 4,15 0,17 x
Actividades 9.4
i) Encuentre el sistema matricial que se obtiene al ajustar, usando:
f(x) = P(x) = a
0
+ a
1
x + a
2
x
2
.
ii) Dado un conjunto de m observaciones (x
1
, y
1
), ..., (x
m
, y
m
). aproximar los datos con un poli-
nomio de grado n, usando el procedimiento de mnimos cuadrados. Observe que el polinomio
es ahora
f(x) = P(x) =
n

i=1
a
i
x
i
.
Problema 2. Supongamos que queremos ajustar n datos, P
1
(x
1
, y
1
), , P
n
(x
n
, y
n
) con una fun-
cion g(x) de dos parametros
1
y
2
, es decir
g(x) =
1

1
(x) +
2

2
(x).
Notemos que
1
(x) y
(
x) son funciones conocidas elementales de x que no son necesariamente
elementos de una base para los polinomios. Obviamente para encontrar la g(x) que minimiza el
cuadrado de los errores hay que determinar los parametros
1
y
2
. En efecto,
E(g) =
n

i=1
(y
i
g(x
i
))
2
. (177)
92
Derivando parcialmente con respecto a
1
y
2
, igualando a cero y reordenando se obtiene el
siguiente sistema de ecuaciones en forma matricial A = b
_
n
i=1

1
(x
i
)
1
(x
i
)

n
i=1

2
(x
i
)
1
(x
i
)

n
i=1

1
(x
i
)
2
(x
i
)

n
i=1

2
(x
i
)
2
(x
i
)
__

1

2
_
=
_
n
i=1

1
(x
i
)y
i

n
i=1

2
(x
i
)y
i
_
Las ecuaciones del sistema se denominan ecuaciones normales y cualquier modelo lineal (suma
ponderada de dos funciones) de dos parametros pueden ajustarse a un sistema de ecuaciones
lineales. El error en este caso puede determinarse luego de encontrar
1
y
2
, usando:
E(g) =
n

i=1
(y
i
)
2

1
n

i=1

1
(x
i
)y
i
+
2
n

i=1

2
(x
i
)y
i
_
(178)
Para ilustrar este modelo, tomemos el ejemplo 0.2 y ajustemos los datos usando una funcion de
dos parametros como sigue.
Ejemplo 9.3 Ajustar mediante el metodo de mnimos cuadrados, los datos del ejemplo 1.15 con
una hiperbola desplazada del tipo g(x) =
1
+

2
x
. Determine el error cometido al ajustar los datos
con la recta y con la parabola.
9.8. Algo sobre Normas de funciones.
Denicion 9.2 La norma de una funcion f que pertenece a alguna clase de funciones continuas
C es una funcion de C al conjunto de los n umeros reales no negativos :
|| || : C R
+
f ||f|| 0
tal que verica las siguientes propiedades :
i) ||f|| > 0 , ||f|| = 0 f = 0
ii) R y fC ||f|| = |||f||
iii) f, g C ||f + g|| |||f|| +||g||
Algunas normas conocidas con fC
i)
||f||

= max
axb
|f(x)|. (179)
Esta norma denida sobre [a, b] es llamada norma del maximo, norma innito o norma
de Tchebyshev. Vericar como ejercicio que satisface las propiedades de una norma.
93
ii)
||f||
p
=
_
_
b
a
|f(x)|
p
dx
_1
p
. (180)
conocida como p norma, donde f C[a, b] y p 1. Obviamente cada valor de p 1 es
una norma, aunque en la practica se utiliza p = 1 y p = 2.
Normas Discretas (es decir para fC(X))
i)
||f||

= max
0iN
|f(x
i
)|. (181)
llamada norma innito discreta.
ii)
||f||
p
=
_

N
i=0
|f(x
i
)|
p
dx
_
1
p
. (182)
conocida como p norma discreta, siendo p 1.
La desigualdad triangular es difcil de demostrar para esta ultima norma, excepto para p = 1 y
p = 2.
Nota 9.1 i) Observemos que se ha usado ||f||

para denotar dos normas diferentes (179) sobre

C[a, b] y (181) analogamente sucede con ||f||
p
.
ii) Existe la siguiente relaci on entre la norma (181) y las p normas (182) dada por :
lm
p
_

N
i=0
|f(x
i
)|
p
dx
_
1
p
= max
0ixN
|f(x
i
)|. (183)
iii) La mejor aproximacion respecto a la norma innito se llama aproximacion minimax,
puesto que esta aproximacion minimiza el error maximo ||f q||

sobre todo q P
n
(x)
iv) La mejor aproximacion respecto a la norma 2 se llama aproximacion mnimo cuadrado.
94