REDES NEURONALES ARTIFICIALES

Universidad Nacional de San Antonio Abad del Cusco

Departamento Acadmico de Informtica
Ing. Luis Palma

x2
w2

XW
w3 Si F() > T
x3 Salida
Activa

wn

xn

Ing. Luis Palma Redes Neuronales Artificiales

 CARACTERSTICAS DE LA COMPUTACIN
CONVENCIONAL
Exitosa resolviendo modelos matemticos.

Muy eficiente realizando tareas repetitivas

Incapaz de resolver eficientemente problemas de

reconocimiento de imgenes, voz y de entendimiento de
lenguaje natural.

Incapaz de adaptacin y/o aprendizaje.

Ineficiente en problemas de percepcin.

Ing. Luis Palma Redes Neuronales Artificiales

 CARACTERSTICAS DE LA COMPUTACIN
BIOLGICA
Todo organismo posee herramientas sofisticadas de
percepcin.
Los sistemas biolgicos muestran gran capacidad de
adaptacin y aprendizaje.
Masivamente paralela.
Altamente interconectada.
Tolerante al ruido en el medio ambiente y en sus
componentes.
Adaptiva.
Desarrollo evolutivo hacia sistemas ms complejos.

Ing. Luis Palma Redes Neuronales Artificiales

 NEURONA BIOLGICA
RED NEURONAL BIOLGICA

Ing. Luis Palma Redes Neuronales Artificiales

 NEUROBIOLOGA

Una neurona posee soma o cuerpo, axn, dendritas, y las

terminales sinpticas, el axn alcanza un lago tpico de
centmetros y o metros, y las sinapsis son ms tupidas y
numerosas

Ing. Luis Palma Redes Neuronales Artificiales

 NEURONA BIOLGICA

Las neuronas son ms lentas (milisegundos) que las

compuertas de silicio (nanosegundos); pero se compensa
por ser masivamente interconectada, se estima que hay
1010 neuronas 6x1013 conexiones sinpticas.

Ing. Luis Palma Redes Neuronales Artificiales

 SINAPSIS QUMICA

Ing. Luis Palma Redes Neuronales Artificiales

 SINAPSIS QUMICA

Ing. Luis Palma Redes Neuronales Artificiales

 SINAPSIS QUMICA

Sinapsis qumica: Una seal neural elctrica, llega al botn

sinptico. All, sta hace que las vesculas sinpticas (en
azul) se rompan, liberndose as una sustancia
(neurotransmisor). Esta sustancia qumica se difunde a
travs del espacio entre las neuronas. Luego, es captada
por la dendrita, en donde estimula la emisin de un nuevo
impulso elctrico.

Ing. Luis Palma Redes Neuronales Artificiales

 SINAPSIS QUMICA

Ing. Luis Palma Redes Neuronales Artificiales

 RED NEURONAL

Ing. Luis Palma Redes Neuronales Artificiales

 RED NEURONAL

Ing. Luis Palma Redes Neuronales Artificiales

 RED NEURONAL ARTIFICIAL
NEURONA ARTIFICIAL

Ing. Luis Palma Redes Neuronales Artificiales

 REDES NEURONALES ARTIFICIAL (RNA)

Las redes neuronales artificiales (RNA) son modelos

matemticos inspirados en sistemas biolgicos, adaptados
y simulados en computadoras convencionales.
[Wasserman 1989].

Ing. Luis Palma Redes Neuronales Artificiales

 MODELO NEURONAL ARTIFICIAL

x1
w1
x2
w2

x3 w3

XW Si F() > T
Activa
Salida

wn

xn
X = [x1, x2, , xn]: Vector de seales que llegan a la sinapsis.
W = [w1, w2, , wn] : Vector de pesos, que corresponde a la intensidad
=XW= x1.w1 + + xn.wn: Sumatoria de X.W
F: T: Funcin de activacin.
Salida: Umbral
Seal de salida de la neurona.
Ing. Luis Palma Redes Neuronales Artificiales
 FUNCIN DE ACTIVACIN

La funcin de activacin se aplica a las seales de salida

procesadas por las neuronas ( XW ) determinar el valor final
de salida. Su propsito es escalar la salida en el rango (0,1) o
rango (-1,+1)

Ing. Luis Palma Redes Neuronales Artificiales

 FUNCIN DE ACTIVACIN

Ing. Luis Palma Redes Neuronales Artificiales

 CLASIFICACION DE LAS REDES
NEURONALES ARTIFICIALES

Ing. Luis Palma Redes Neuronales Artificiales

 ARQUITECTURA DE LAS REDES NEURONALES
ARTIFICIALES

RNA Monocapa RNA Multicapa

Ing. Luis Palma Redes Neuronales Artificiales

 RNA - TIPO DE CONEXIN

RNA NO RECURRENTES RNA RECURRENTES

Ing. Luis Palma Redes Neuronales Artificiales

 ALGORITMO DE APRENDIZAJE DE RNA

Aprendizaje

No Supervisado Supervisado

Por Refuerzo Por Correccin

Ing. Luis Palma Redes Neuronales Artificiales

 ALGORITMOS DE APRENDIZAJE

Supervisado: la red neuronal recibe un conjunto de

patrones de entrenamiento (salidas deseadas), de tal
forma que los pesos son modificador de acuerdo al error
cometido al procesar cada conjunto de seales de
entradas.
Por refuerzo: Se conoce si la salida de la red corresponde o no a la
seal deseada (tipo booleano).
Por Correccin: en este tipo de aprendizaje se conoce la magnitud
del error cometido y esta determina la magnitud de cambio de
pesos.
No Supervisado: la red neuronal no conoce la seal que
debe dar la red neuronal, la red en este caso agrupa las
salidas, segn sus caractersticas, estas redes
proporcionan mtodos de clasificacin o clustering.

Ing.
Ing.Luis
LuisPalma
Palma Redes Neuronales
Inteligencia ArtificialArtificiales
 SISTEMAS DE REDES
NEURONALES ARTIFICIALES

Ing. Luis Palma Redes Neuronales Artificiales

 SISTEMAS DE REDES NEURONALES

Perceptrn

Perceptrn multicapa

Mapas auto-organizativos

Redes Neurodifusas

Red de Hopfield

Ing. Luis Palma Redes Neuronales Artificiales

 PERCEPTRON

El Perceptrn es un tipo de red neuronal artificial

desarrollado por Frank Rosenblatt, el cual consta de una
sola neurona que procesa las seales que llegan. Es una
especie de sensor que recibe varias seales y genera una
seal de salida.

Ing. Luis Palma Redes Neuronales Artificiales

 ALGORITMO DE ENTRENAMIENTO

1. Inicializar los pesos (W) y el umbral () con pequeos

nmeros aleatorios.
2. Leer un nuevo vector de entrenamiento X(x1, x2, x3, .,
xn) y su correspondiente salida D
3. Calcular la salida del perceptrn, usando la funcin escaln

= ( )
=1
1. Modificar los pesos de acuerdo a:
= +. .
=
Dnde coeficiente de aprendizaje 0 < <= 1, que determina la velocidad de
convergencia, estabilidad, desajuste en el estado estacionario con el sistema
ptimo.

Ing.
Ing.Luis
LuisPalma
Palma Redes Neuronales
Inteligencia ArtificialArtificiales
 PERCEPTRN MULTICAPA

El perceptrn multicapa es la red nauronal artificial ms

conocida y con un mayor nmero de aplicaciones. Un
perceptrn multicapa (MultiLayer Perceptron, MLP) es una
red formada por una capa de entrada, al menos una capa
oculta y una capa de salida.

Ing. Luis Palma Redes Neuronales Artificiales

 PERCEPTRON MULTICAPA

Ing. Luis Palma Redes Neuronales Artificiales

 ALGORITMO DE ENTRENAMIENTO
(Backpropagatin)
1. Inicializar los pesos en valores pequeos al azar.
2. Seleccionar el siguiente par de entrenamiento (vector de
entrada a la red y vector de salida deseada).
3. Calcular la salida de la red.
4. Calcular el error entre la salida de la red y la salida
deseada, acumular su valor en un total.
5. Ajustar pesos de la red de manera que se minimice el
error siguiendo la regla delta generalizada.
6. Repetir los pasos 2 al 5 para cada vector en el conjunto
de entrenamiento hasta que el error de todo el conjunto
sea suficiente bajo

Ing.
Ing.Luis
LuisPalma
Palma Redes Neuronales
Inteligencia ArtificialArtificiales
 MAPAS AUTO-ORGANIZATIVOS
SOM (Self-Organizing Maps)
Los mapas auto organizativos organizan los patrones de
entrada en un espacio de salida

Ing. Luis Palma Redes Neuronales Artificiales

 REDES NEURODIFUSAS
FANN: Fuzzy Artificial Neural Networks
Dentro de las RNA hay tres aproximaciones para usar
lgica difusa, siendo las dos
Usar entradas difusas
Usar pesos difusos (sus valores)
las dos anteriores (una combinacin)
La utilizacin de alguna de ellas da lugar a las fuzzy
artificial neural networks (FANN).

Ing. Luis Palma Redes Neuronales Artificiales

 RED N E U R O N A L HOPFIELD

Salida de seales

Entrada de seales
Ing. Luis Palma Redes Neuronales Artificiales
 CARACTERISTICAS DE LA
RED NEURONAL HOPFIELD
Una nica capa (construida y posteriormente entrenada).

Interconexin completa, retroalimentacin.

Respuesta dinmica: la red progresa con la entrada hasta

alcanzar un estado estable (hasta que la salida deja de
cambiar).

Aplicaciones: reconocimiento de patrones, almacenados en

sus pesos sinpticos.

Ing. Luis Palma Redes Neuronales Artificiales

 ARQUITECTURA RED HOPFIELD

Ing. Luis Palma Redes Neuronales Artificiales

 ALGORITMO DE ENTRENAMIENTO

1. Se calcula los pesos de la red mediante la siguiente

1
expresin: = =0 .

2. Inicializar la red con el patrn de entrada dado (X)

3. Repetir hasta converger (el valor de salida no

cambia):1 = . , 2 = 1. , 3 = 2.

Ing.
Ing.Luis
LuisPalma
Palma Redes Neuronales
Inteligencia ArtificialArtificiales
 APLICACIONES DE LA RED NEURONALES

Ing. Luis Palma Redes Neuronales Artificiales

 APLICACIONES

Lectura automtica de formularios manuscritos

Ing. Luis Palma Redes Neuronales Artificiales

 APLICACIONES

Identificacin de personas por rasgos fsicos (huella dactilar,

rostro, venas dedos, venas mano, iris del ojo, voz, etc.)

Ing. Luis Palma Redes Neuronales Artificiales

 APLICACIONES

Deteccin de enfermedades mediante tratamiento de

placas (fotografas)

Ing. Luis Palma Redes Neuronales Artificiales

 APLICACIONES

Reconocimiento de voz de entre un conjunto de voces y

ruidos

Ing. Luis Palma Redes Neuronales Artificiales

 APLICACIONES

Identificacin de nmero de placa de vehculos

Ing. Luis Palma Redes Neuronales Artificiales

 APLICACION

Resolver expresiones matemticas manuscritas

Ing. Luis Palma Redes Neuronales Artificiales

 APLICACIN

Reconocimiento automtico de rostros

Ing. Luis Palma Redes Neuronales Artificiales

 APLICACIIN

Reconocimiento de formas

Ing. Luis Palma Redes Neuronales Artificiales

 APLICACIN

Reconocimiento de catpchas

Ing. Luis Palma Redes Neuronales Artificiales

 APLICACIN

CATPCHA: Mecanismos que puede identificar si la peticin

a un determinado servicio ha sido realizada por un humano
o un autmata.

Ing. Luis Palma Redes Neuronales Artificiales

 APLICACIONES EXITOSAS RNA

Procesamiento de imgenes y de voz

Reconocimiento de patrones
Planeamiento
Interfaces adaptivas para sistemas
Hombre/mquina
Prediccin
Control y optimizacin
Filtrado de seales

Ing. Luis Palma Redes Neuronales Artificiales

 LIBRERIAS RNA

Neuralnet: Es un componente escrito en R se trata de un

entrenador de redes neuronales, usa backpropagation.
Neural Network Toolbox: es una Mathworks de MathLab,
que crea, entrena y simula redes neuronales, provee
funciones y aplicaciones para modelar sistemas complejos
no lineales.
Neuroph (Java Neural Network Framework):
Actualmente en su versin 2.8 es de libre distribucin se
trata de un framework para java que acelera el trabajo de
desarrollo de redes neuronales comunes
Etc.

Ing.
Ing.Luis
LuisPalma
Palma Redes Neuronales
Inteligencia ArtificialArtificiales
 FASES DEL DISEO DE RNA

1. Diseo: seleccin de la arquitectura (perceptron,

perceptron multicapa, hopfield, SOM, FANN), determinar
la candidad de capas escondidas de ser el caso.

2. Entrenamiento: Entrenar la red con el algoritmo

correspondiente de acuerdo a la arquitectura

3. Uso: Utilizar la red.

Ing. Luis Palma Inteligencia Artificial

 SIGUIENTE SESIN

Ejemplo del diseo de:

Perceptrn
Perceptrn Multicapa
Red Hopfield

Ing.
Ing.Luis
LuisPalma
Palma Redes Neuronales
Inteligencia ArtificialArtificiales