UNIVERSIDAD DE LAS FUERZAS ARMADAS ESPE

DEPARTAMENTO ELECTRICA
Y ELECTRONICA
CONTROL INTELIGENTE

OCTUBRE 2015- FEBRERO 2016

PRIMER PARCIAL

Universidad de las Fuerzas Armadas ESPE

Actividad 5 y 6

UNIVERSIDAD DE LAS FUERZAS ARMADAS

Departamento El
ectrica Electr
onica
Control Inteligente

DESARROLLO ACTIVIDADES 5 Y 6
28 de octubre de 2015

PRIMER PARCIAL

Universidad de las Fuerzas Armadas ESPE

Actividad 5 y 6

Indice
1. Actividad 5
1.1. Apartado 6 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1.2. Apartado 7 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2. Actividad 6
2.1. Apartado
2.2. Apartado
2.3. Apartado
2.4. Apartado

1
2
3
4

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

2
2
3
5
5
6
9
12

PRIMER PARCIAL

Universidad de las Fuerzas Armadas ESPE

Actividad 5 y 6

1
SECCION

Entrenamiento de un perceptron para que realice clasificacion de aviones. Aprendizaje por

descenso de gradiente.

1.1.

Apartado 6

Escriba en detalle la ecuaci

on de c
alculo de actualizaci
on de cada peso.

wi =

wi

1
= (targ out)2
2
out = sigmoid(net)
net =

n
X

ini wi

i=0

net = in0 w0 + in1 w1 + in2 w2

out net
wi = (

)
out net wi
wi = [(targ out) (1) out (1 out) ini ]
wi = [(targ out) out (1 out) ini ]
w0 = [(targ out) out (1 out) in0 ]
w1 = [(targ out) out (1 out) in1 ]
w2 = [(targ out) out (1 out) in2 ]

UNIVERSIDAD DE LAS FUERZAS ARMADAS

Actividad 5

PRIMER PARCIAL

Universidad de las Fuerzas Armadas ESPE

Apartado 7

Modifique el programa de la regla de aprendizaje para que ejecute el entrenamiento por descenso de gradiente. Transcriba el programa y el gr
afico correspondiente.
El programa desarrollado en Matlab es el siguiente
%asignaci
on de pesos aleatorios
w0=rand();
w1=rand();
w2=rand();
in0=1;
alfa=1;
n=0.8; %factor de aprendizaje
inputs=[1 0.1;2 0.2;0.1 0.3;2 0.3; 2 0.3; 0.2 0.4;3 0.4;
0.1 0.5;1.5 0.5;0.5 0.5;1.6 0.7]
target=[1 1 0 1 0 1 0 1 0 0]; %salidas deseadas
for j=1:50 %n
umero de
epocas
err_t=0;
for i=1:10
net=(inputs(i,1)*w1+inputs(i,2)*w2+in0*w0);
out=1/(1+exp(-alfa*net)); % funci
on sigmoide
Delta_w0=n*(target(i)-out)*in0*alfa*out*(1-out);
Delta_w1=n*(target(i)-out)*inputs(i,1)*alfa*out*(1-out);
Delta_w2=n*(target(i)-out)*inputs(i,2)*alfa*out*(1-out);
%Actualizaci
on de pesos
w0=w0+Delta_w0;
w1=w1+Delta_w1;
w2=w2+Delta_w2;
err_i=1/2*(target(i)-out)^2;
err_t=err_t+err_i;
end
vector_epoca(j)=j;
vector_error(j)=err_t;
plot(vector_epoca,vector_error);
grid on
title(Aprendizaje de un perceptr
on por descenso de gradiente)
3

UNIVERSIDAD DE LAS FUERZAS ARMADAS

1.2.

Actividad 5 y 6

PRIMER PARCIAL

Universidad de las Fuerzas Armadas ESPE

Actividad 5 y 6

xlabel(Epocas)
ylabel(Error cuadr
atico)

UNIVERSIDAD DE LAS FUERZAS ARMADAS

end
%Pesos finales
w0
w1
w2
Los pesos obtenidos son los siguientes:
w0 = 0.9879
w1 = -0.7583
w2 = -1.4825

En la grafica se puede observar que mientras aumenta el numero de epocas el error medio
cuadratico disminuye, tambien se observa que la curva del entrenamiento por gradiente es mas
suave que la curva de la primera regla de aprendizaje.
4

PRIMER PARCIAL

Universidad de las Fuerzas Armadas ESPE

Actividad 5 y 6

2
SECCION

Estudio de la funcion de activacion sigmoide

2.1.

Apartado 1

Demuestre que la derivada de la funci

on de activaci
on sigmoide f (x)= f(x)(1f(x))
Sigmoide = f (x) =

1
1 + ex

Se deriva la exprecion en funcon de x se tiene:

f (x)
=
ex
x
(1 + ex )2
Se separa la expresion anterior y para no afectar la primera ecuacion se resta y se suma el
termino 1 en la parte de la expresion teniendo como resultado la siguiente ecuacion
1
1 1 + ex
f (x)
=
x
(1 + ex ) (1 + ex )
Se separa la expresion nuevamente teniendo lo siguiente:
f (x)
1
1 + ex
1
=
(

)
x
x
x
(1 + e ) (1 + e ) (1 + ex )
Como resultado se obtiene la siguiente ecuacion
f (x)
= f 0 (x) = f (x) (1 f (x))
x

UNIVERSIDAD DE LAS FUERZAS ARMADAS

Actividad 6

PRIMER PARCIAL

Universidad de las Fuerzas Armadas ESPE

Apartado 2

2. Considere una neurona con una sola entrada con funci

on de activaci
on sigmoide a=1. Grafique la funci
on out/in para los siguientes casos: a) w0=0; w1=1;
b) w0=0; w1=-1; c ) w0=0; w1 valores desde -1 a 2 en pasos de 1.
El programa desarrollado en Matlab es el siguiente
%LITERAL a
in=-5:0.5:5;
in0=1;
w0=0;
w1=1;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
figure(1)
plot(in,out)
grid on
xlabel(in)
ylabel(out)
%LITERAL b
in=-5:0.5:5;
in0=1;
w0=0;
w1=-1;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
figure(2)
plot(in,out)
grid on
xlabel(in)
ylabel(out)
%LITERAL c
in=-5:0.5:5;
in0=1;
w0=0;
w1=-1;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
figure(3)
plot(in,out,b)
6

UNIVERSIDAD DE LAS FUERZAS ARMADAS

2.2.

Actividad 5 y 6

PRIMER PARCIAL

Universidad de las Fuerzas Armadas ESPE

xlabel(in)
ylabel(out)
grid on
hold on
w1=1;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out,g)
xlabel(in)
ylabel(out)
w1=0;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out,r)
xlabel(in)
ylabel(out)
w1=2;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out,k)
xlabel(in)
ylabel(out)
legend(w0=0, w1=-1,w0=0, w1=1,w0=0, w1=0,w0=0, w1=2)
a) w0=0; w1=1

UNIVERSIDAD DE LAS FUERZAS ARMADAS

Actividad 5 y 6

PRIMER PARCIAL

Universidad de las Fuerzas Armadas ESPE

Actividad 5 y 6

c) w1 valores desde -1 a 2 en pasos de 1

UNIVERSIDAD DE LAS FUERZAS ARMADAS

b) w0=0; w1=-1

PRIMER PARCIAL

Universidad de las Fuerzas Armadas ESPE

Apartado 3

Considere una neurona con una sola entrada con funci

on de activaci
on sigmoide
alfa=1. Grafique la funci
on out/in para los siguientes casos:
a) w1=1; w0=3, 0, 4
b) w1=0.3; w0 = -3, 0, 4.
Encuentre los puntos de frontera para las tres curvas en cada caso (el punto de
frontera es aquel valor de in tal que w0+w1*in=0)
a) w1=1; w0=3, 0, 4
El programa desarrollado en Matlab es el siguiente
%LITERAL a
in=-5:0.5:5;
in0=1;
w0=3
w1=1
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out,g)
hold on
w0=0
w1=1
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out)
w0=4
w1=1
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out,r)
hold off
title(Funci
on de out/in)
xlabel(Entrada )
ylabel(Salida)
Grafica de la funci
on de out/in

UNIVERSIDAD DE LAS FUERZAS ARMADAS

2.3.

Actividad 5 y 6

PRIMER PARCIAL

Universidad de las Fuerzas Armadas ESPE

1.png

Punto de frontera in=-w0/w1

El punto de frontera para w0=3 es in=-3
El punto de frontera para w0=0 es in=0
El punto de frontera para w0=4 es in=-4
b) w1=0.3; w0 = -3, 0, 4.

El programa desarrollado en Matlab es el siguiente

%LITERAL b
in=-10:0.5:10;
in0=1;
w0=-3
w1=0.3
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out,g)
hold on
w0=0
w1=0.3
10

UNIVERSIDAD DE LAS FUERZAS ARMADAS

Actividad 5 y 6

PRIMER PARCIAL

Universidad de las Fuerzas Armadas ESPE

Actividad 5 y 6

UNIVERSIDAD DE LAS FUERZAS ARMADAS

x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out)
w0=4
w1=0.3
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out,r)
hold off
title(Funci
on de out/in)
xlabel(Entrada )
ylabel(Salida)

Grafica de la funci
on de out/in

Punto de frontera in=-w0/w1

El punto de frontera para w0=-3 es in=3/0.3= 10
El punto de frontera para w0=0 es in=0/0.3= 0
El punto de frontera para w0=4 es in=-4/0.3= -13.33

11

PRIMER PARCIAL

Universidad de las Fuerzas Armadas ESPE

Apartado 4

Resuma los efectos combinados que produce el ajuste de los pesos w0 y w1 durante
el aprendizaje
Durante el aprendizaje los efectos de modificar los pesos w0 y w1 :
Ajustar el peso w0 ajusta los puntos de frontera
Para un valor de w0 positivo el punto de frontera se desplaza a la izquierda
Para un valor de w0 negativo el punto de frontera se desplaza a la derecha.

Ajustar el peso w1 controla la pendiente.

Para un valor de w1 positivo la pendiente tendra valores positivos.
Para un valor de w1 negativo la pendiente tendra valores negativos.
Para un valor de w1 igual a cero la pendiente es cero.

12

UNIVERSIDAD DE LAS FUERZAS ARMADAS

2.4.

Actividad 5 y 6

PRIMER PARCIAL

Universidad de las Fuerzas Armadas ESPE

w0 y w1 alteraran la posicion y la forma respectivamente. El aprendizaje consiste en encontrar

los correctos pesos w0 y w1 .

13

UNIVERSIDAD DE LAS FUERZAS ARMADAS

Actividad 5 y 6