Regresin

Programacin Numrica
 Regresin Lineal
Se desea ajustar un serie de puntos (xi, yi) a una lnea recta dada
por:
y = a0 + a1x + e
Donde a0 y a1 son coeficientes que representan la interseccin
con el eje y la pendiente, y e es el error, o diferencia, entre el
modelo y las observaciones.
e = y a0 a1x
 Criterio del mejor ajuste

En el mtodo de mnimos cuadrados se desea minimizar la

suma de los cuadrados de los residuos.

n n n
S r e yi ,medida yi ,modelo yi a0 a1 xi
2 2 2
i
i 1 i 1 i 1
 Ajuste por mnimos cuadrados
Derivando respecto a a0 y a1.
n n n
S r e yi ,medida yi ,modelo yi a0 a1 xi
2 2 2
i
i 1 i 1 i 1

S r
Obtenemos 2 yi a0 a1 xi
a0
S r
2 yi a0 a1 xi xi
a1

Igualando a 0
0 yi a0 a1 xi
0 yi xi a0 xi a1 xi2

Resolviendo para a0 y a1
n xi yi xi yi
a1
n xi2 xi
2

a0 y a1 x
 Ejemplo
Ajustar con mnimos cuadrados los siguientes datos

X Y

1 0.5

2 2.5

3 2.0

4 4.0

5 3.5

6 6.0

7 5.5
 Tarea
Ajustar con mnimos cuadrados los siguientes datos

X Y
0 5
2 6
4 7
6 6
9 9
11 8
12 7
15 10
17 12
19 12
 Estadstica bsica
Promedio: y
y i

S t yi y
2
St
Desviacin estndar sy
n 1

S
yi / n
2 2
s t
2 y
Varianza: y
n 1 sy
2 1

n 1

sy
Coeficiente de variacin: c.v. 100%
y

y
Estimado normal estndar: t
sy / n
 Tarea

Escriba un archivo M para graficar la recta del mejor ajuste

utilizando mnimos cuadrados. Deber aceptar como
parmetros los valores de X y Y. Grafique los puntos con
crculos y la lnea de regresin con una recta.
 Error en la regresin lineal
n
S r yi a0 a1 xi
2
y
i 1 Medicin

La desviacin estndar de la lnea de

regresin es: yi a0 a1x n
i
res
g
Sr re
Sy/ x ea
de
n2 a0 + a1x
L n

La magnitud del error residual antes de la

regresin es:
x

S t yi y
2
En ajuste perfecto Sr = 0 y r = r2 = 1.
El coeficiente de determinacin es: Si r = r2 = 0, Sr = St, el ajuste no representa
St S r alguna mejora.
r
2

St n xi yi xi yi
El coeficiente de correlacin es: r r
2

n xi2 xi n yi2 yi
2 2
 Linealizacin de relaciones no
lineales
y y y

x
y 1e 1 x
y 2x 2
y 3
3 x

x x x

ln y log y 1/y

Pendiente = 3/
Pendiente = 1
Pendiente = 2 Interseccin = 1/3
x log x 1/x
Interseccin = ln 1 Interseccin = log 2
 Ejemplo
2
Ajustar los siguientes datos a y 2x
 ejemplo
Usar regresin de mnimos cuadrados para ajustar a una
ecuacin de taza de crecimiento de saturacin.
x
y 3
3 x

x 5 10 15 20 25 30 35 40 45 50
y 17 24 31 33 37 37 40 40 42 41

1 1 3 x 3 1 1

y 3 x 3 x 3
 Tarea
Dados los datos siguientes use regresin por mnimos cuadrados
para ajustar a) una lnea recta, b) una ecuacin exponencial, c)
una ecuacin de potencias.
x 5 10 15 20 25 30 35 40 45 50
y 17 24 31 33 37 37 40 40 42 41
 Regresin Polinomial
Ajuste a un polinomio cuadrtico
y = a0 + a1x + a2x2 + e
La suma de los cuadrados de los
S r yi a0 a1 xi a2 xi2
n
2
residuos es:
i 1

S r
De aqu obtenemos:
a0

2 yi a0 a1 xi a2 xi2
S r
a1

2 xi yi a0 a1 xi a2 xi2
S r
a2

2 xi2 yi a0 a1 xi a2 xi2
Reordenando se obtiene

x a y
na0 xi a1 2
i 2 i

x a x a x a y x
i 0
2
i 1
3
i 2 i i

x a x a x a x y
2
i 0
3
i 1
4
i 2
2
i i

El error estndar es:

Sr
Sy/x
n3
 Ejemplo
Ajustar a un polinomio de segundo grado.

x 5 10 15 20 25 30 35 40 45 50

y 17 24 31 33 37 37 40 40 42 41
 Tarea
Ajustar a un polinomio de segundo grado.

x 5 10 15 20 25 30 35 40 45 50

y 17 24 31 33 37 37 40 40 42 41

Escriba una funcin en C que calcule el polinomio de segundo

grado del mejor ajuste utilizando mnimos cuadrados.
Escriba un archivo M para graficar el polinomio de segundo
grado del mejor ajuste utilizando mnimos cuadrados.
 Regresin polinomial en C
void regrePoly(double x[],double y[],int n,int m,double a[]
[20])
{
int i,j,k,l;
double sum;
for(i = 0; i<m+1; i++){
for(j = 0; j<=i; j++){
k = i+j;
sum = 0;
for(l = 0; l<n; l++)
sum += pow(x[l],k);
a[i][j] = sum;
a[j][i] = sum;
}
sum = 0;
for(l = 0; l<n; l++)
sum += y[l]*pow(x[l],i);
a[i][m+1] = sum;
}
}
 Ejemplo de corrida
main(){
int j;
double a[20],b[20][20];
double x[]={0,1,2,3,4,5};
double y[]={2.1,7.7,13.6,27.2,40.9,61.1};
int n=6;
regrePoly(x,y,6,2,b);
print(b,3); 6 15 55 152.6
gauss(b,3,a);
15 55 225 585.6
for(j=0; j<3; j++)
cout << a[j]<<"\n"; 55 225 979 2488.8
system("PAUSE");
}
2.47857
2.35929
1.86071
 Ajuste a polinomios de orden
superior
Sea el polinomio de ajuste dado por
p(x) = a0 + a1 x + a2 x2 + + an xn
La desviacin de la curva respecto a cada punto es
ri = yi p(xi)
La suma de las desviaciones al cuadrado es
L
R ri 2
i 1
Igualando a cero las derivadas parciales respecto ai.
n
L
2 n 2 j k
L

j 0
xi
i 1
a j xin 1 k yi , k 0,2,..., n
i 1