T6 SICivil 2013nn1

Sistemas Inteligentes en Ingeniera Civil Sistemas Inteligentes en Ingeniera Civil
Redes Neuronales Metaheursticas: GA, ES, NN,

Algoritmos
Inteligencia GA
Redes Neuronales artificial
Lgica borrosa
genticos
Evolucin
biolgica
Optimizacin heurstica en Optimizacin heurstica en
Redes
NN
proyecto y construccin proyecto y construccinES
neuronales
METAHEURSTICAS Estrategias
Bsqueda
tab evolutivas
GRASP Comportamiento
Bsqueda Mecnica de los insectos
local guiada estadstica
Colonias de
Bsqueda hormigas
... Aceptacin
local iterada Cristalizacin
por umbrales
simulada ...
Mster en Planificacin y Gestin en Ingeniera Civil >Valencia Curso 2012/2013 Mster en Planificacin y Gestin en Ingeniera Civil >Valencia Curso 2012/2013
Sistemas Inteligentes: NN Sistemas Inteligentes: NN
El cerebro de los animales presenta

Optimizacin heurstica en caractersticas muy heurstica
Optimizacin interesantes:
en
- Es robusto y tolerante a fallos (mueren neuronas sin
proyecto y construccin proyecto y construccin
afectar su rendimiento).
- Es flexible, se adapta a nuevos escenarios (aprendizaje)
y no hay que programarlo.
- Maneja informacin cualitativa, con ruido e incluso
NN contradictoria o inconsistente.
ES - Procesa informacin en paralelo.
GA - Es pequeo y consume poca energa (20% en humanos)
Las neuronas son lentas

Neurona biolgica: 10-3 s comparadas con 10-9 s para circuitos elctricos
Optimizacin heurstica
El cerebro humano consta en muy
de 1011 neuronas ElOptimizacin
cerebro usa cmputoheurstica en
masivamente paralelo
interconectadas (aproximadamente 1011 neuronas en el cerebro
proyecto y construccin
10000 conexiones/neurona).
104 conexiones por neurona
Dendrites
La neurona tiene tres componentes fundamentales:

Axon
Cell Body
Dentritas Synapse
Cuerpo de la clula o soma

Axn
1
Las dentritas son el receptor de la El ncleo de la neurona o soma, realiza la

neurona, son como heurstica
Optimizacin fibras nerviosasen
que suma de esas seales elctricas
Optimizacin heurstica de entrada.
en
cargan de seales elctricas el soma.
El axn es una fibra larga que lleva la El punto de contacto

seal desde el soma hacia otras neuronas. entre un axn de una
Optimizacin heurstica en Optimizacin
neurona y una dentrita de heurstica en
otra se llama sinapsis.
proyecto y construccin Laproyecto
longitud de la y construccin
sinapsis es determinada
por la complejidad del
proceso qumico que
estabiliza la funcin de la
red neuronal.
Funcionamiento de una neurona biolgica: Tipos de sinapsis:

(1) Las dentritas reciben las seales elctricas de De excitacin: cuyo
Optimizacin heurstica en
neuronas adyacentes y las transmiten al soma en forma Optimizacin
efecto es incrementar
heurstica en
de un potencial elctrico.
(2) Las seales elctricas son integradas por el soma. proyecto y construccin
el potencial en
neurona destino.
la
(3) Si ese potencial elctrico es superior a un valor

De inhibicin: hace
umbral, el soma genera un impulso elctrico.
decaer el potencial en
(4) Este impulso elctrico se transmite por el axn
la neurona destino.
(fibra nerviosa con milmetros<L<metros).
(5) El axn se ramifica y dirige el impulso elctrico a
otras neuronas a travs de los pontos de sinpsis.
2
Redes Neuronales McCulloch y Pitts (1943) propusieron un algoritmo

natural artificial (ANN) anlogo a la neurona biolgica
suma y transforma
dentritas soma proyecto y construccin

las redes neuronales son sistemas computacionales, de

implementacin en hardware o software, que imitan las
axn
habilidades sistema nervioso biolgico, usando un gran
conexiones con pesos (sinapsis)
nmero de simples neuronas artificiales interconectadas.
neurona
Procesamiento
Optimizacin
E heurstica en
de informacin
S Optimizacin heurstica en
proyecto y construccin neurona proyecto y construccin
x1 w1
a F(a) y
x2 w2
a = x1*w1 + x2*w2; y = F(a)
Las neuronas biolgicas tienen sinapsis,

dentritas, axones y somas.
Las neuronas artificiales tienen multiplicadores,
proyecto y construccin proyecto
sumadores yyfunciones
construccin
o umbrales .
3
Aprendizaje: puede aprender de un

Funciones de transferencia
entrenamiento (training) o experiencia inicial.

Auto-organizacin: una NN puede crear su
proyecto y construccin proyecto
propia y construccin
organizacin o representacin de la
informacin que recibe durante la etapa de
aprendizaje.
Tecnologa existente: se pueden obtener
chips especializados para NN que mejoran su
capacidad en ciertas tareas.
Tipos de aprendizaje Tipos de redes

Feed-forward networks- single layer perceptron
Aprendizaje supervisado en Optimizacin heurstica en
La informacin fluye directamente de - multilayer NN
- radial basis function
A la red se le provee de un conjunto de ejemplos que proyecto y construccin
las entradas de la red a la salida o
nets
representen la relacin entradas/salidas de las que salidas. Las salidas de una red slo
aprende dependen de los valores de entrada.
Aprendizaje no supervisado Recurrent networks - competitive networks
La nica informacin disponible para la red son las La informacin no fluye directamente; - Kohonens SOM
entradas. La red aprende a formar categoras a partir de - Hopfield network
las salidas de la red dependen del
un anlisis de las entradas - ART models
estado de la red y no slo de las
entradas.
Sistemas Inteligentes: NN Sistemas Inteligentes: NN perceptrn
Rosenblatt (1962) propuso a los 'Perceptrons' como

herramienta computacional.
Optimizacin heurstica en Optimizacin heurstica en neurona
proyecto y construccin x1
proyecto
w1 y construccin
a y F(a)
x2 w2
y = F(a)
y = 1, si (x1w1 + x2w2)
y = 0, si (x1w1 + x2w2) <
4
Sistemas Inteligentes: NN perceptrn Sistemas Inteligentes: NN multicapa
Redes neuronales multicapa
Optimizacin heurstica en Optimizacin

Las multicapas heurstica en
presentan al menos
una capa oculta.
Pueden estar total o
parcialmente
conectadas (poda).
Sistemas Inteligentes: NN multicapa Sistemas Inteligentes: backpropagation

Sistemas Inteligentes: backpropagation Sistemas Inteligentes: backpropagation
Supongamos: Y=ax1+bx2+cx3+C
Estimacin: y=w1x1+w2x2+w3x3+c1
Funcin error: Ep=1/2(Yj-yj)2
Iteracin: wi=wi+wi siendo wi= (Ep)/(wi)
= learning rate
Regresin lineal mnimos cuadrados mxima verosimilitud
(normal+indep.)
5
Uj=x1jw1+x2jw2+ Oj=f(Uj) Problemas de las redes feed-forward con backpropagation

-Sobreaprendizaje (demasidados parmetros)
Funcin error:Ep=1/2(Yj-Oj)2 Optimizacin heurstica en
-Mnimo local (algoritmo de gradiente)
Iteracin: wi(j+1)=wij+wij wij= (Ep)/(wi)
= learning rate proyecto y construccin
(Ep)/(wij)= [(Ep)/(Oj)][(Oj)/(Uj)][(Uj)/(wij)]
Logstica: f(u)=1/[1+exp(-u)] f(u)= f(u)[1-f(u)]
wij= (Ep)/(wi)=-[Yj-Oj][ Oj(1-Oj)][xij]
Soluciones: TEST CIEGO (testing)

-Early stopping -MATLAB (parar optimizacin)
-Redes podadas (PSE en lugar de MSE)
Regresin logstica
Yj=teaching signal
Las redes neuronales tiene muchos parmetros Sobreaprendizaje (demasidados parmetros)

modelos que ajustan bien pocos datos generalizacin? Early stopping -MATLAB (parar optimizacin)
Si p>10%N, hay que cuidar el posible overfitting Optimizacin heurstica en
En todo caso, p<<N (datos independientes)
El test debe ser completamente ciego proyecto y construccin
El mtodo debe definirse a priori
Sobreaprendizaje = engao: parece bueno pero es malo

Mnimo local = el modelo podra ser mejor
TEST CIEGO (testing) = una prueba del posible engao
Early stopping -MATLAB = para al detectar engao
Redes podadas PSE=MSE[1+2p/(N-p)]
Optimizacin heurstica en salida

entradas
entradas salida

Datos (informacin)= relaciones {entradas,salida}=N
Datos (informacin)= relaciones entradas-salida Entrenamiento (training): 75%N
Validacin (validation):10%N Chequeo (testing):15%N
Entrenamiento (training-datos para entrenar la red) MSE= mean squared error (medida del error)
Validacin (validation-datos para parar el entrenamiento) Early stopping: usa los datos de entrenamiento para reducir
MSE(train) y comprueba que MSE(valida) se reduce tambin; se para
Chequeo (testing- datos para el test ciego) el proceso cuando MSE(valida) aumenta. Se verifica con MSE(test)
6
Sistemas Inteligentes: backpropagation Sistemas Inteligentes: backpropagation-CLASH
Base de Datos CLASH rebase

entradas salida Optimizacin heurstica en
Entrenamiento (training): MSE siempre baja
Validacin (validation):
MSE baja al principio y sube despus (sobreaprendizaje)
Chequeo (testing): , Hm0,toe(m), Tm-10,toe(s)
El MSE(testing) suele ser >MSE(training) y es la mejor
h (m), ht (m), Bt (m), f, cot d, cot u, Rc (m)
estimacin del MSE del modelo obtenido.
Si MSE(testing) fuera <MSE(training), se toma el ltimo. B (m), hB (m), tan B, Ac, Gc
Sistemas Inteligentes: backpropagation-CLASH Sistemas Inteligentes: backpropagation-CLASH
h Hm0,toe Tm-1,0,toe ht Bt f d cot

cot u Rc B hb tan B Ac Gc
2.50E-03
20 Neurons in hidden layer

INPUT 2.25E-03
RMS Error
LAYER 2.00E-03
Optimizacin heurstica en 1.75E-03
1.50E-03
HIDDEN
LAYER proyecto y construccin ? 1.25E-03
1.00E-03
0 4
Testing Set
Training Set
8 12 16 20 24 28
Number of hidden Neurons
OUTPUT
bootstrapping
LAYER Preparacin de la Base de Datos
q (m3/s/m)
CREST LEVEL ASSESSMENT OF
COASTAL STRUCTURES BY
FULL-SCALE MONITORING,
NEURAL NETWORK PREDICTION
AND HAZARD ANALYSIS
Reduccin (RF=4; CF=4; q=0) 8,372 datos
Reducci
COMMISSION
OF THE EUROPEAN
ON PERMISSIBLE WAVE OVERTOPPING
Adimensionalizaci
Adimensionalizacin: Ley de Froude / Hm0,toe=1m
COMMUNITIES
CLASH Transformacin de la Salida log(Q)
log(Q)
EVK3-CT-2001-00058
FP5 - EESD
Sistemas Inteligentes: redes podadas-viajes Sistemas Inteligentes: redes podadas-viajes
MODELOS DE GENERACIN DE VIAJES. ANLISIS

COMPARATIVO DE LA UTILIZACIN DE REDES
NEURONALES Y REGRESIN LINEAL MLTIPLE Datos desagregados a nivel familiar, procedentes de
Diseo de un modelo de Generacin de viajes de personas en el rea
la Encuesta Domiciliaria de Movilidad de 1991 (Generalitat
Valenciana).
metropolitana de Valencia.
Por tipo de viaje:
4,175 familias en Valencia
Nmero total de desplazamientos por familia. ciudad
Nmero de desplazamientos mecanizados por familia. 7,049 familias
Por mbito: 2,874 familias en la corona
Familias residentes en la ciudad de Valencia. metropolitana
Familias residentes en la corona metropolitana
7
OPTIMIZACIN EVOLUTIVA: Algoritmos Genticos,

Variables consideradas: Estrategias Evolutivas (100+100)-ES
Tamao familiar.
en
Nivel de educ. familiar.
Inspirada en la Evolucin Natural de Darwin en
Mayores de 14 aos. Nivel de educ. cabeza fam. Laproyecto
mejor red tiende aydominar
construccin
la poblacin de soluciones
N de trabajadores. Motorizacin total y por
tipo de vehculo.
N de estudiantes.
La esposa trabaja.
N estudiantes nivel medio. u=Wi -
N estudiantes nivel sup.
N de hijos.
El cabeza de fam. Est
jubilado. f(u)
f(u)=1/[1+exp(-u)]
Tiempo medio de viaje.
N de hijos menores de 14.
Variables significativas

Sistemas Inteligentes: redes podadas-viajes Sistemas Inteligentes: redes podadas-diques
ARMOR DAMAGE ANALYSIS USING

Ajuste: MSE/var=31% Ajuste: MSE/var= 2.7%
NEURAL NETWORKS
20 20
Optimizacin
Wave storms
heurstica en
Armor damage
Red Neuronal
15 15
R. L. M.
10
5
10
5
NN
0
0
0 5 10 15 20
0 5 10 15 20
Datos (test) Red Neuronal {H,T} D=D(H) or D(H,Ir) 1980
{Hm0,T01,Nw} D=D(Hm0,Ir01,Nw) 1990
La red podada genera predicciones de los desplazamientos

totales muy parecidas a las del modelo lineal pero {Hm0(t),T01(t)} D=D({Hm0(t),T01(t)}) 2000
usando 3 variables en lugar de 8 (relaciones no lineales) Evolution of armor damage in

nonstationary conditions
8
Sistemas Inteligentes: redes podadas-diques Sistemas Inteligentes: redes podadas-diques
INTELLIGENT SYSTEMS NEURAL NETWORKS

supervised/unsupervised)
physical phenomena modelling
pattern classification
Feed-forward networks
- single layer perceptron
- multilayer NN
prediction/forecasting
optimization
- radial basis function nets
Recurrent networks
- competitive networks
Mase et al.(1995)
data mining - Kohonens SOM
- JWPCOE: breakwater armour damage
risk evaluation - Hopfield network
Van Gent&Van den Boogaard(1998)
- ART models
- ICCE98: forces on vertical structures
Neural Networks Evolutive Strategies Backpropagation:
- gradient descent search: local mimimum MSE
- overlearning? over-simplicity?
Medina(1999, 2002)
- CS99: runup ICCE02: overtopping
regular waves D0=D0(H,Ir,LAB,..) Evolutionary Strategy:
random waves Di+1=D(Di,{Hm0,Ir,N}) - parallel seach: global minimum PSE
- NO overlearning, NO over-simplicity
EVOLUTIVE OPTIMIZATION:
Redes totalmente conexionadas Genetic Algorithms (GA)
Redes podadas- en dos fases FORCE
Evolutive Strategies (ES): (400+400)-ES
Optimizacin heurstica en d
Evolutive Programming (EP)
Genetic Programming (GP)
en
proyecto
Rc/H y construccin
m0
Ir
Q>0?
Rc/Dn
U(m/s) the best solutions tend
Medina et al.(2002) to dominate the population
Q=0
Q=1 Evaluation: PSE = MSE [1 + 2P/(N-P)]
Rc/Hm0
Ir
N=n datos < pruned NN >
Q P=n parmetros
Rc/Dn
U(m/s) PSE= predicted mean-squared error
UPV UPV
Valencia
erosin
UCA
Santander
9
Experiments UPV+UCA: 149 cases Armor damage: observed vs estimated

significant
damage: Regular waves: (MSE)te st=27%
D>0.4 Learning Testing D<0.4
Optimizacin heurstica en Learning
80%
Testing
20%
1.8
I+R: LASA (Medina, 2001)
LAB
proyecto y construccin 1.6
1.4
NN estimation D*
Hi/H0
0=insignificant 1.2
Ir
1=significant 1
0.8
NN1 classifier: 7% > 3% if D(NN1)=1 0.6
0.4
LAB 0.2 D<0.4 D=0.8 D>2.4 D>8
Hi/H0 D*=D0.2 0
Ir 0 0.2 0.4 0.6 0.8 1 1.2 1.4 1.6 1.8
obse rved D*
NN2 quantifier: (PSE/Var)l=32% > (MSE/Var)t= 27%
Cross-validation: YES
Sistemas Inteligentes: redes podadas-diques Sistemas Inteligentes: redes podadas-rebase
inverse NN model OVERTOPPING ANALYSIS USING

D* NEURAL NETWORKS
Hi/HD=0
Ir
Optimizacin heurstica en (PSE/Var)l=24% (MSE/Var)t=26%
Optimizacin heurstica enrunup
OPTICREST(1998-2001):
CLASH(2002-2004): overtopping
proyecto y construccin Damage Levels (regular waves) proyecto y construccin
1.8
1.6 Zeebrugge
D=0.4
breakwater
Hi/HD=0
1.4 D=0.8
D=2.4
1.2
D=8.0
1 SPM(1984) Rc/Hm0
0.8 Ir
1.5 2 2.5 3 3.5 4 Rc/Dn
Q
Ir
U(m/s)
Sistemas Inteligentes: redes podadas-rebase Sistemas Inteligentes: redes podadas-rebase
NN modeling using ES
Optimizacin heurstica en Optimizacin heurstica

4 input variables: Hs, Ir, Rc, Uen
1 output variable: q
NN overlearning risk: N (data) < 10 P (free parameters)
NN (4-8-1): P= 57 N (data)> 600?
N= 113 (test matrix)
1/30 scale oversimplicity?
Toe Core Sand infiltration

Antifer Foundatio Bed protection
Berm n.
Filter Concrete structure
10

TITULO 1
NN1 classifier: significant (Q=1) vs insignificant (Q=0)
(4) input variables: {Hs, Ir, Rc, U} - (1) output variable: q
(4) input variables: Rc/Hm0, Ir, Rc/Dn, U(m/s)
(4) input variables: en
Rc/H , Ir, Rc/Dn, U(m/s) m0
Optimizacin
113 tests: 80%heurstica endata
OUTPUT: significant (Q=1) vs insignificant (Q=0)
learning data, 20% testing
-4.5 3
(1) Output variable: Q= log [q/(g H ) ] 3 0.5 q>10 m /s.m = limit for pedestrians and buildings
113 tests: 80% learning data, 20% testing data
m0
80% learning data: 23% (Q=0) + 77% (Q=1)
NN1 learning data: 23% (Q=0) + 23% (Q=1)= 42 tests
overtopping observations:
significant (Q=1) vs insignificant (Q=0) Rc/Hm0
Q= log [q/(g Hm03 )0.5
Ir
Q
overtopping estimation: Rc/Dn
NN1 classifier of significant events U(m/s)
NN2 overtopping estimator
NN1(P=11) correct: 94% learning data and 91% of testing data

TITULO 1
NN2 estimator: Q= log [q/(g Hm03 )0.5 cross-validation:
NN1 + NN2 = overtopping estimator
Q=-7 (q<10-4.5 m3/s.m) or Q= log [q/(g Hm03 )0.5
20% testing data
(4) input variables: Rc/Hm0, Ir, Rc/Dn, U(m/s)
Optimizacin OUTPUT:heurstica
Q= log [q/(g H ) en
113 tests: 80% learning data, 20% testing data
m0
3 0.5
-4.5 3
q>10 m /s.m = limit for pedestrians and buildings
original learning data: 23% (Q=0) + 77% (Q=1) proyecto y construccin
NN2 learning data: (4/5)77% (Q=1)= 56 tests NNestimation
(50%)q
Rc/Hm0
Ir
Q
Rc/Dn Observations
U(m/s)
NN(P=11+12=23) overtopping estimation:
NN2(P=12): MSE/Var=0.16 (learning) and MSE/Var=0.12 (testing) MSE/Var(final testing)= 0.18

NN overtopping model (P=23) Q= q = exp 2.8 3.4 Rc +1.8(Ir 4) 0.9 Rc 3

input: Rc/Hm0, Ir, Rc/Dn, U(m/s) Output: Q= log [q/(g Hm03 )0.5 ]
(P=4) gH 3
m0

H
m0
Dn

Optimizacin heurstica en Q( Rc/Hm0,Ir,Rc/Dn) Optimizacin heurstica en Q=LOG(q/[gHm0^3]^0.5)
-2
proyecto y construccin -2
Empirical estimation (Eq. 2)
-7 -6 -5 -4 -3 -2
1 1.5 2 2.5
Rc/Dn=3 -3
1.2< Rc/Hm0 <3.8
-3
simulation Ir=3
2.8< Ir <4.8
-4
NN estimation
-4 Ir=3 3.1< Rc/Dn <4.4

Ir=4
U=0
Ir=4 -5
-5
1.2< Rc/Hm0 < 2.5 Ir=5
-5<Q<-2.5
Ir=5
Rc/Dn= 3 and 4 -6
-6
Ir= 3, 4 and 5 Rc/Dn=4
-7
U(m/s)= 0.0 -7
NN estimation
windspeed=0 Rc/Hm0
11
3 storms
113 lab tests Um=Up/1.7? 36x30 min
Rc 1.5
(P=6) Q = exp 2.8 3.4

+ 1.8(Ir 4 ) 0.9
H m0
Rc
Dn

3 + 0.07(U )
-2
Optimizacin heurstica en Optimizacin heurstica en -7 -6 -5 -4 -3 -2
Empirical formula (Eq. 3)

-2 -3
proyecto y construccin -7 -6 -5 -4 -3
-3
-2
proyecto y construccin -4
Q(windspeed)
U=7 m/s
-4
U=5 m/s -5
-5
U=3 m/s
-6 -6
U=0 m/s prototype
-7 -7
Q(U=0)
Experimental observations
Sistemas Inteligentes: NN feed-forward multicapa Sistemas Inteligentes: NN feed-forward multicapa
Las redes neuronales tiene muchos parmetros Los filtros lineales (neuronas lineales): caso particular
uso tpico con muchos datos y algoritmos backpropagation
necesaria validacin cruzada (learning+testing= test ciego) Optimizacin heurstica en
Early stopping para evitar overfitting
el mtodo de validacin debe definirse a priori proyecto y construccin
MATLAB Neural Network Toolbox
Redes podadas permiten ajustar la complejidad de la red al tamao de la
base de datos. predictor de Moody(1991): PSE=MSE[1+2p/(N-p)]
Las redes podadas permiten eludir el problema de sobreaprendizaje
utilizando un predictor de error adecuado y permiten eliminar entradas no
significativas, pero el aprendizaje es muy lento comparado con los
algoritmos backpropagation
Sistemas Inteligentes: NN feed-forward multicapa Sistemas Inteligentes: Radial basin NN
Los sistemas de control dinmicos (NNPC,NARMA-L2,) Radial basin NN suelen utilizarse para clasificar
y suelen necesitar ms neuronas que las feed-forward
12
Sistemas Inteligentes: Self-Organizing Maps Sistemas Inteligentes: Learning Vector Quantization

Sistemas Inteligentes: Recurrent NN Sistemas Inteligentes: Recurrent NN
Redes Neuronales
Elman NN y Hopfield NN
MATLAB
Neural Network Toolbox
13

T6 SICivil 2013nn1

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

T6 SICivil 2013nn1

Transféré par

Droits d'auteur :

Formats disponibles

Sistemas Inteligentes en Ingeniera Civil Sistemas Inteligentes en Ingeniera Civil

Redes Neuronales Metaheursticas: GA, ES, NN,

Sistemas Inteligentes en Ingeniera Civil Sistemas Inteligentes en Ingeniera Civil

Sistemas Inteligentes: NN Sistemas Inteligentes: NN

El cerebro de los animales presenta

Sistemas Inteligentes en Ingeniera Civil Sistemas Inteligentes en Ingeniera Civil

Sistemas Inteligentes: NN Sistemas Inteligentes: NN

Las neuronas son lentas

La neurona tiene tres componentes fundamentales:

Cuerpo de la clula o soma

Sistemas Inteligentes: NN Sistemas Inteligentes: NN

Las dentritas son el receptor de la El ncleo de la neurona o soma, realiza la

Sistemas Inteligentes en Ingeniera Civil Sistemas Inteligentes en Ingeniera Civil

Sistemas Inteligentes: NN Sistemas Inteligentes: NN

El axn es una fibra larga que lleva la El punto de contacto

Sistemas Inteligentes en Ingeniera Civil Sistemas Inteligentes en Ingeniera Civil

Sistemas Inteligentes: NN Sistemas Inteligentes: NN

Funcionamiento de una neurona biolgica: Tipos de sinapsis:

(3) Si ese potencial elctrico es superior a un valor

Sistemas Inteligentes: NN Sistemas Inteligentes: NN

Redes Neuronales McCulloch y Pitts (1943) propusieron un algoritmo

las redes neuronales son sistemas computacionales, de

Sistemas Inteligentes en Ingeniera Civil Sistemas Inteligentes en Ingeniera Civil

Sistemas Inteligentes: NN Sistemas Inteligentes: NN

a = x1*w1 + x2*w2; y = F(a)

Sistemas Inteligentes en Ingeniera Civil Sistemas Inteligentes en Ingeniera Civil

Sistemas Inteligentes: NN Sistemas Inteligentes: NN

Las neuronas biolgicas tienen sinapsis,

Sistemas Inteligentes: NN Sistemas Inteligentes: NN

Aprendizaje: puede aprender de un

entrenamiento (training) o experiencia inicial.

Sistemas Inteligentes en Ingeniera Civil Sistemas Inteligentes en Ingeniera Civil

Sistemas Inteligentes: NN Sistemas Inteligentes: NN

Tipos de aprendizaje Tipos de redes

Sistemas Inteligentes en Ingeniera Civil Sistemas Inteligentes en Ingeniera Civil

Sistemas Inteligentes: NN Sistemas Inteligentes: NN perceptrn

Rosenblatt (1962) propuso a los 'Perceptrons' como

Sistemas Inteligentes: NN perceptrn Sistemas Inteligentes: NN multicapa

Redes neuronales multicapa

Optimizacin heurstica en Optimizacin

Sistemas Inteligentes en Ingeniera Civil Sistemas Inteligentes en Ingeniera Civil

Sistemas Inteligentes: NN multicapa Sistemas Inteligentes: backpropagation

Optimizacin heurstica en Optimizacin heurstica en

Sistemas Inteligentes en Ingeniera Civil Sistemas Inteligentes en Ingeniera Civil

Sistemas Inteligentes: backpropagation Sistemas Inteligentes: backpropagation

Sistemas Inteligentes: backpropagation Sistemas Inteligentes: backpropagation

Uj=x1jw1+x2jw2+ Oj=f(Uj) Problemas de las redes feed-forward con backpropagation

Soluciones: TEST CIEGO (testing)

Sistemas Inteligentes en Ingeniera Civil Sistemas Inteligentes en Ingeniera Civil

Sistemas Inteligentes: backpropagation Sistemas Inteligentes: backpropagation

Las redes neuronales tiene muchos parmetros Sobreaprendizaje (demasidados parmetros)

Sobreaprendizaje = engao: parece bueno pero es malo

Sistemas Inteligentes en Ingeniera Civil Sistemas Inteligentes en Ingeniera Civil

Sistemas Inteligentes: backpropagation Sistemas Inteligentes: backpropagation

Optimizacin heurstica en salida

proyecto y construccin proyecto y construccin

Sistemas Inteligentes: backpropagation Sistemas Inteligentes: backpropagation-CLASH

Base de Datos CLASH rebase

Sistemas Inteligentes en Ingeniera Civil Sistemas Inteligentes en Ingeniera Civil

Sistemas Inteligentes: backpropagation-CLASH Sistemas Inteligentes: backpropagation-CLASH

h Hm0,toe Tm-1,0,toe ht Bt f d cot

20 Neurons in hidden layer

Optimizacin heurstica en 1.75E-03

a = x1w1 + x2w2; y = F(a)