Académique Documents
Professionnel Documents
Culture Documents
INPE
So Jos dos Campos
2003
681.3.019
SANSO, J. C.
Aspectos de mapas caticos acoplados para processamento de informaes / J. C. Sanso. So Jos dos Campos: INPE, 2002.
202p. (INPE-10040-TDI/884).
1.Sistemas dinmicos. 2.Atratores estranhos. 3.Caos.
4.Redes neurais. 5.Otimizao. 6.Processamento de informaes. 7.Inteligncia artificial. I.Ttulo.
!
"
AGRADECIMENTOS
Agradeo a amizade, orientao, incentivo e apoio do Dr. Elbert E. N. Macau durante todo
o desenvolvimento do meu mestrado. Sua ateno, pacincia, conselhos e ensinamentos
fizero com que eu conseguisse estender meus horizontes de maneira a criar independncia
e conhecimento suficientes para continuar crescendo no meio cientfico.
Agradeo aos meus pais, Jos Luiz Sanso e Margareth Carvalho Sanso, e aos meu
irmos, Cristiano C. Sanso e Fabiano C. Sanso, pelo grande apoio e incentivo, no s
durante o mestrado, mas durante toda a minha vida. Tenho certeza que se no fosse pela
influncia destes, hoje eu no seria um mestre.
Agradeo aos meus amigos, principalmente a Dr. Maisa Oliveira Terra (Maisinha), sua
ajuda foi de extrema importncia, mas sua amizade foi fundamental; Jeferson da Silva
Cintra, Michele Aparecida Guimares e Anderson Luiz Portela, pelas risadas e apoio
quando eu precisei e Bruno Alos Forlin Roth, pelo companherismo durante todo o
mestrado.
Agradeo aos professores da CAP, no s pelo conhecimento transferido, mas o incentivo e
companheirismo que sempre demostraram, principalmente ao Dr. Haroldo Fraga de
Campos Velho, Dr. Fernando Manuel Ramos e Dr. Reinaldo Roberto Rosa.
Agradeo aos membros da banca pelo seu tempo e por suas importantes contrbuies.
Agradeo ao Dr. Clvis Solano Pereira e a toda equipe do LIT, principalmente a Margarete
Batista de Toledo Ribeiro e Horcio Hroiti Sawame, por todo o apoio que me foi dado.
Agradeo ao CNPq pelo apoio financeiro.
Agradeo ainda a todas as pessoas que de alguma maneira auxiliaram no desenvolvimento
deste trabalho.
RESUMO
Uma rede de mapas acoplados globalmente (GCM) uma rede de elementos globalmente
conectados. Neste trabalho primeiramente so investigados modelos baseados no GCM e na
rede de Hopfield. Atravs de modificaes, como mudana da dinmica local do GCM (SGCM) e auto-realimentao do elemento de processamento da rede de Hopfield, possvel
usar os modelos como uma memria associativa. Em segundo, atravs da explorao da
dinmica catica de modo a evitar mnimos esprios, foi possvel propor duas novas redes
que primeiramente foram aplicadas em problemas de otimizao, mas que so passveis de
processar informao de modo associativo. Uma delas uma modificao da rede S-GCM
com uma determinada taxa de auto-realimentao e a outra baseada em uma caracterstica
especfica do GCM quando da troca de atratores da rede atravs de perturbaes. Por fim,
os resultados das redes so confrotados de modo a analisar de forma numrica o tamanho
das bacias de atrao, restries impostas pelas arquiteturas, capacidade de memria, tempo
de associao e a capacidade de minimizao.
- /
- -
0
# < 3,'
;
=
9
:
;
= ;
3,'
7 )
;
= .
)
=
<
3,' (9
3,'
9=
7 )
;
=
>
< #
29
<
;<
;
;
;
= )
< ;
$
1
)
(93,' ;
9=
) 3,'>
;
=>
-
<
;
=
<
$
<
< <
$
<
1'
- ''''''''''''''''''''''''''''''''''''''''''''
0 ''''''''''''''''''''''''''''''''''''''''''''
02 '''''''''''''''''''''''''
3
! ''''''''''''''''''''''''''''''''' ).
??
4
.
@A
?@
%
.2
@A
)
''''''''''''''''''''''''''''''' )4
@?
6 &
5
B@
@@
4
:
#
)
BB
&*
%
BC
@@??
BD
@@?@
BE
@@?B
6
FG
@@?F
F@
4
#
$
F@
4
#
$
FF
@@?
@B
@B?
@B??
#
$ (
FF
@B?@
#
$ #91
$
FC
4
* #91
$
FH
6
#
$
FD
4 #
$ 7
CG
@B@??
C@
@B@?@
,
&
CF
@B?@?
@B@
@B@?
@B@@
6
#
$ 4
CC
@B@B
6
$
CH
@B@F
6
$ I
;97J
CD
@B@C
#
$
CE
@B@H
6
8
9"9.
CE
@B@A
6
@F
H?
6
H@
( , *
HF
B@
1
HH
BB
#
%
HA
BB?
% "
HD
BB@
HE
BBB
- "<
A?
BF
5
A@
BC
AB
BH
,
$ ,
,
AF
BH?
%2 "<
AA
BH@
%
D?
BHB
#
,
DB
6
DF
BA
7
/ -
'''''''''''''''''''''''''' 8*
F?
'
EG
F@
,
* 1
6 7 )
EB
F@?
- 6
EF
F@@
' 7 ) 3
$
EH
EA
%
EE
, '
?GG
FB
FB?
FF
FC
4
1$ ,
?GB
?GC
6
??G
FC?
FH
.
'''''''''''''''''''''''''' 333
C?
, 5
??@
C??
"
??B
C?@
. #
??B
C?@?
# "
??F
C?@@
# 9
??C
C?B
,
:
,
??C
C?F
%
"<
??H
C?F?
#
??A
C?F@
#
??D
4
% 9.
??D
C@?
#
,) #
??E
C@@
-
5
?@B
C@B
5
#
?@C
C@F
#
4
,) 7
?@A
C@C
7
?@E
C@H
'
?B@
6
?BA
C@
CB
6
'''''''''''''''''''''''''''''''''' 354
H?
?BE
H??
4
?FF
H?@
4
,
?FA
H?B
4
:
?CG
H?B?
'
?CG
H?B@
'
?CF
H@
3,' 9
?CC
H@?
'
?H@
H@@
4
:
?HC
(
,2
80
?HE
HB?
3,' 9
?HE
HB@
(93,' )
?A@
HBB
'
$
?AA
,
?D?
HF?
#
?DF
HF@
#
.(4
?DE
HB
HF
-
1'
@?
&
5
B?
@@
-2
)
BC
@B
BE
@F
6 ;
9
FG
@C
6 ;
F?
@H
6
F?
@A
F@
@D
FB
@E
.2
$
FF
@?G
FE
@??
$ 4
CH
@?@
$
CD
@?B
99
HG
@?F
1(
H@
B?
( 4
HC
B@
*
AB
F?
'*
DD
F@
, %
7 )
DE
FB
E?
FF
E@
FC
#
% F?E 4
3
K
#
?G?
FH
# &4
4K&4 (
9
2
&4
4
&49
FA
,
$ ,2
80
)9
7 )
C?
?GC
?GH
-
L
9
!
K B!
9
8
K
C@
?@G
%2
K CG EEE
?GBB
. ? K B K ? D K G @! . @ K @G K ? EC K G @
. B K K @ G K G @
CB
L
M=
CGG
&K?GG -1&.%L NDO
CF
?@@
?@F
5
@9
L K
?@H
K
K G @ ,
@GG # K?@
K?E@
@
CH
?@H
#
L
#
B9
CD
?@D
?@E
(
K@
9
K ? EC K G B K CG ?BB
CE
*9
( 2
9
#
9
2
K?CG #
?BF
C?G
?BF
C??
#
?BC
C?@
,
C??
?BH
H?
?FG
H@
HB
1
K
P K BG K FG
?F?
1
2
@G
HF
?F?
* 1
$
)
HC
?F@
(9'#4 2
1
$
G
G
$
HH
?F@
#
,-# F
K B F K G? K CG #
*
?FB
HA
'
)
@
HD
(93,'L ?GG
9
?FB
K @GG 1
* 9
?FF
HE
%2
"<
2
(93,'
?FC
H?G
.2
(93,'
?FH
H??
.2
3,'
?FH
H?@
5
@
?FD
H?B
(
&? $ &@
GBD@ GH?D
?FE
H?F
(93,'
?CG
H?C
%
(93,'
?C@
H?H
6
*
?CB
H?A
8
?CB
H?D
%
*
?CB
H?E
8
*
?CB
H@G
%
(93,
?CF
H@?
%
*
?CC
H@@
8
?CC
H@B
8
*
?CC
H@F
?CA
H@C
1
?CE
H@H
K GA K GGGH
?HG
H@A
%2
"<
?H?
H@D
.
0
$
H@E
?H?
?H@
HBG
,
?H@
HB?
8
$
9
) K ?
K ?
HB@
%
"<
9
?G
@?
?HB
?HF
HBB
,
9
K
?B?
@GG
HBF
?HC
,
9
K
?C
@GG
HBC
?HH
,
9
K
?A@
@GG
HBH
7 9
HBA
?HD
,
$ ,2
80
)9
7 )
HBE
?HD
,
,
HBD
?HA
?AG
6 ,2
0
?A?
HFG
,
?A?
HF?
8
%
?A?
HF@
8
* $
(93,'
.(4
)
9
HFB
?AB
%
$
(93,'
.(4
)
HFF
8
(93,'
.(4
HFC
?AB
?AB
8
* $
(93,' )
.(4
?AC
HFH
%
$
(93,' ) 9
.(4
HFA
?AH
8
) (93,'
.(4
?AH
HFD
8
*
.(4
?AE
HFE
?AE
HCG
%
.(4
?DG
HC?
-
2
?D?
HC@
-
?D?
HCB
.
7 ) 72C
?DC
HCF
.
(93,' 72C
?DH
HCC
.
&$; 72C
?DH
HCH
, '
7 ) (93,' &$; ?DA
HCA
6
HCD
#
F
.(4 7)
?DD
?EG
0
@?
-1&.%L ##49
.#5%"# ,1&.%&1 -&,
1%(
% #.:8#,
#1
.#1 % N?DO
B?
1'
BD
HH
B@
DC
F?
8#"16%( %
&%,%((#614(
4#6# 15.%6 1( 8#"16%(
%
H?
?G@
?HG
02
,-# 9
%%3 9 %
%
%4 9 %
4
3,' 9
".4 9
44( 9 4
4
(
(93,' 9
(9'#4 9
3
!
#
$
2
)
9
#
9
2
'
2
9
/
* *
4
9 $
9
*
9
1
2
*
/
*
S
=
,
*
$
1
9
6
)
9 N?@BFO %
NCHO
(=
-
NHO
%%3
%
#
@C
*
)
*
%
$
&
2
2 *
$ *)
%=
3
< (
NCO 5<
$ 2 NAO
%%3
* 2
%
S
= NDE?G??O
9
3,' T3< , ' 1 3,'
9
%
2
'
*
*
9
)
$
: N@O
) 3,'
% $
,-# T,
-
$
#
3,' &
,-#
,-#
$
$
$
4
$ &$; NBO
)
7 )
9
,
$
7 )
@H
&
*
9
#
$
$
$
%
*
*
!
,
9
!
*
0
$
!
:
* 3,'
)
)
*
$ #
7 % *
1 , * B
$
$ % *
9
!
*
9
"<
!
!
!
9
$ !
! 2
"<9
!
)
$
)
% *
@A
4
7 ) , * F
%
$
*
7 )
9
$
$ $
1 , * C
9
*
$
#
!
!
"<
&
9
*
9
& , * H
#
, * A
@D
)
6
)
) 9
L
9
9
4
' 4 N?@O 7 N?BO 69
N?FO I
; N?CO #
*
4
'
'
=< N?HO
9
4
?ED@
+
7 ) N?AO -
9
/
*
;
#
#
)
neurnios
comportam-se
como
somadores
algbricos;
adicionam
entradas
30
9
2
9
# -
@?
$
%
$
$
)
7
$ N@GO %
2
#
*)
9
0
2
B?
2
%9 0
?G
2
HG
2
N@@O # )
2
?G +
9
0
2
?G +
1
F?DHD +
? ? N@BO
1
2
9
%
$
2
$
2
0
1
L
N@FO %
$
L
)
2
%
$
%
0 2 %
2
%
9
0
#2
9
B@
$
)
! 2
*
)
*
%
$
$
9
&
44(
2
1
44(
$
9
,
44(
0
$% 1
44(
(
2
= 0
2
:
1
# -
@?
2
) &
BB
0
2
!
;
4
(
49
)
L
1
2
$
9
L
9
*
9
*
4
)
%4
4
2
#
$ L
$
2
BF
#
$
*
2
%4
#91
$L
)
9
$
1
L
)
2
;
.
L
%
*
0
*
3
$L
*
$
)')'3 ; #
"!"
# )
*L
'
9%
9 #
* %4
'9%
9 #
$
'
9%
9 '
2
*
) 0
.
* 1 /2
)
@@ %
0
# *
L
K
< 9
@?
L
K
1
@@
<
)
L
< K N< < < O
9
L
9 K N9 9 9 O
< 9
0, "0, (
#
K
<9
@B
1
9
.
2
% @? @B
'
9
9
?
BH
K ? K $
2
$
2 *
1
-
@@
2
@? @B
%
$
)
.
$ )
%
)
*
*
*
.
*
L
*
& @?
$
)
N?DO
1
* 9
*
$
0
* %4
4
$
L
!
!
2
%4L
%
* )
#
9
,
) 9
)9
$
2
# $
9
2 & 09
9
:
9
%2
9
L
BA
&
$
*
*
$
)
#
-
@B
Camada
de entrada
Camada
de Sada
$
(
#
)
2
*
#
$ 2
*
:
0
2
2
N?EO #
2
*
2
9
#
BE
1
*
.
*
1
0
*
*
1
) -
@F
;
9
Camada
de entrada
Camada Escondida
Camada
de Sada
#
-
@F
$
0
'
9
)
@C
% 4
2
*
-
@H &
9
*
#
-
@H
*
#
FG
Camada
de entrada
Camada Escondida
Camada
de Sada
=
$
#
9
$
9
%
$
$
N@FO
Elemento
de atraso
F?
0
#
)
-
@A
B
B
) -
@D
B2B
B
%
$
Camada de
Entrada
Camada de Sada
*
9
1
F@
Camada de
Entrada
Camada de Sada
$
9
# )
$
L
? #
!
@ #
*!
B #
9
0
9)
$
5
0 V
1
9
$ # -
@E
2
$
)
FB
* 0
*
)
1
*
0
,
)
9
9
)
%
$
*
9
*
#
*
2
FF
9* M
*
4
9
!
*
1
$
$ $
*
#
9
$
0
* )
$
$
2
)
2
,
$
9
L
$
0
)
* 4
$ T
9
%
$
& $9
(
#
2
0
2
%
$
9
$
)
*
0
4
$
$
*
!
T
)
-
0
#
9
$
:
$
$
#
9
$
4
#L ,
$
9
# 9
9
9
$
&
2
*
0
%
.
*
%
9
$ 9
$ 2
0
9
$
L
9
!
!
T
9
)
!
9
$ 9
$
- @?G 9
# -
@?G
!
,
K ?
*
#
$
L
<
O
9
$ 1
$
< 9 $
! 4
)
@?G 9L
< 9 #
K
@F
1
$
$
$ L
V
@C
1
2
$ 1
2
L
<
@H
FE
1
$ @C
)
1
*
2
L
<
9
)'5')'3 # # %#A# # /((
!
!
K
@A
1
$ 7
9
$!
)
7 N@GO %
$
9
$ ?EFE N?BO 1
T7
9
$
'
0
2
9
$ 7
(
7L
M
2
#
2 2
5
$
)
#
5
0
N?BO
7
$
*
)
*
# #
)
5
#
$ 5 *
2
# 5
5
* #
7
$
*
5
#
&
)
(
2
8
7 N@A@DO
L
CG
?
2
9
!
@
$
%
9
9
)
9 $
$
7 N@EOL
? '
L %
)
2
9
9
@ '
"L #
*
%
7
$
)
9 *) %
7
9
B '
:
L #
7
*
:
$ 7
9
9
*
$
%
* *
F '
,
0
,
L
7
)
0
9
9
%
9
)
$
)
%
$
7 $
0
4
9
$
7
* %
9
9
#
,
# 49
$
9
% )
49 )
)
L
7
L
9
7
9
#
97
L %
&9
7
K
< 9
C@
7 0
< 2
L
V
@D
1
$
G ? 4
9L
V K
< 9
@E
< 2
* %
$
$
7
#
% @D 9
2
)
4
$
9
V K
@?G
1
"
6
9L
V K " N
O
K
"
@??
%
V K N O
K # N W
@?@
W O
2
$!
#
*! W W
9
9
1
$
# % @?@
0
0
%29
% @?@
9
)
L
V K # N
WW O
@?B
1
% @?B
7
)
% @E 2
1
0, $
&'
!
)
9
$
".4
9
$
*
CF
1 2
".4
9
7
N@EO
%
)
NBBO
".4
$ 7 4
2
9
9
9
$
9
$ 2
&'# &9<99
97
".4
)
7
N@FO
K !
1
K
!
0
-
@?? 1
@?F
< 9
& K ? @
V K ! $%
@?C
&
x1
w i1
x2
w i2
w i3
x3
w ij
xj
1
net i
oi
net
-1
wi
w in
c(d i- o i) x
xn
x
di -o i
di
- @?? 9
$ 4
0
1
$
*
19
? 9? 0
$ L
V K @
@?H
< 9 K ?
%
< 9
@?H
! K $'
1 0
$
* 0
)'5')'5 1
# %#A#
#
$
*
1
K !
@?A
< 9
1
< 9
# 2
-
@?@ %
CH
*
! ,
)
L
#K
?
!
@
@?D
M L
#K
?
!
@
@?E
19
L
# K !
< 9 9
@@G
1
L
< 9
& K ? @
(#
K !
(
@@?
,
$
0
$9L
V
< K )
@@@
@@B
0 L
V K ) !
& K ? @
@@F
9
3
$
0
$ )
@?A 0
)L
V
@@C
CA
,
U
9
@@C
@@B )
1
$
9
x1
w i1
x2
Perceptron
Contnua
w i2
w i3
x3
oi
f(net i)
w ij
xj
w in
xn
wi
f'(net i)
c(d i- o i) x
-
x
d i -o i
di
- @?@ 9
$
#
$
NBFO
%
$
* 0 !
K
< 9 1
$
)
L
K !
<9
@@H
1
L
V
@@A
CD
L
V K !
< 9
& K ? @
@@D
%
@?A
1 0
L
V
< K "# 9
@@E
V K !
& K ? @
@BG
%
!
0
%
4
7
K ! ,
7 2
)
9
NBHO
*
NBAO 1
$
9
2
-
@?B %
,
<
@B?
w 11
x1
o1
w 1j
...
w 1n
...
wm1
w mj
xj
Neurnio
Vencedor
om
wmn
...
w p1
w pn
xn
...
w pj
op
- @?B 9
99
<
9<
K "
@B@
1
L
V K "
& K ? @
@BB
1
" G
$
$
#
2
9
L
< 9 K 2
< 9
HG
1
2
9
#
@B@
<
9<
%
0 %
$
*
0
# %
-
@?F
#
1
$
*
X* %
2
*
* 1
0
L
V
< K # <
@BF
1
L
V K !
K ? @
%
0
& 9
@BF )
L
K N
O
#
$
$
%
H?
*
*
9
@BF
*
o1
w 11
x1
w 1j
...
w 1n
...
wm1
w mj
xj
wmn
...
xn
w p1
w pn
...
w 1j
Neurnio
Vencedor
++
d1
B
op
-
w mj
dm
w pj
om
-
w pj
++
dp
- @?F 9
1(
)'7 $
*
$
9
*
&
9
2
2
2
%
0
2
%
2
0
.
9
%
)
2
$
1
$
T
9
9
)
0 #
H@
5
6
*
9
*
9
%
2
1
;
*
/
2
%
9
*
'
9
&;
%
(
NBEO 1
0
*
0
5 # 4
,
0
0, #
0
*
*
$
2
9
&
K *
9
*
9
(
*
NFGO
# 2
)
9
K
'
9
*
*
-
B? #
* 4
9
)
0
*
4
)
0
0
9
#
)
# + )
K
, $
0
$ +
2
, -
$
& 4
9
*
*, K - 0 ,
9
- P ?9
%
4
$
*
9
?9
'
,
?9
3 NF?O
9
$
$
HF
L
!
(.
K
!
!
(
B?
!
(.
K
!
(
B@
#
7
2
1
#
0
#
;
$
;
#
#
#
9
0
)
HC
0
*
%
$
1
$
? #9
,
#
NFGFBO
# 2
)
%
.
8
%
*
*
*
*
*
*
*
*
5') (
%
U
$
%
+ #
U
K K K 1
NFHO
HH
%2
*
)2
)2
$ K
& K K K
K %
)2 U
0
)2
1
)2
K
*
Y K G 4
)2
2
9
)
K 0 NFHO
1
1
K
G 1 *
*
&
*
9
U
L
4
*
K
)2
9
)2
)2
#
#
*
0
%
#
-
$
2
$
2
#"
*
*
NFAO
:
$
0
9
$
* )
0
NFEO
Y K P 10 K 0
BB
0Y K P !0 K ' 0
%
*
0 K G G (0
L
K
BF
0 K
0
1
L
2 P 10 K G
BC
P ! 20 K G
4
G G
$
)
L
2
1
KG
! 2
BH
HD
4
$
9
$ +
1
K
!
K3
#
Y K
9 3
BA
24
K G
2
$ +
1
$
L 3 24 K G 1
2 2
$ 3 )
*
1 *
3
1
$
*
,
0
NFAFDO
4
L
62 G
L !
62 G
L
!
62 K G
L
!
Y K 0
BD
0Y K ' 0
HE
4
2
*
K 0 # 2
.<
L
Y K 0 K 0 P
0
BE
Y K Y 0Y K 0Y
)
K 0 K 0 0
0 K ' 0 K G 9
$
L
Y K
P
0Y K
P
1
0 K P 10
0 K P !0
B?G
K
0
)2 K 0
.
$ )
L
1
3 K
!
%
$ +
B??
B?G
2
0
0
)2 , L
K
B?@
0 K 0 0
*
$ *
$
"<
NFBO
1
$
*
*
%
9
*
*
/2
$
NFBO
*
3 )
G 0
* NFAO
,
L
Y K
B?B
Y K
(0 K $9
#
4
2
#
0
# NFAO
# K
K
P P
P P
B?F
#
#Y 2
#
0
A?
,
*
# L /
/
"<
$
5 L
? # K G
@ # G
K
5 #Y G
5
(
#Y G
K
5
#
T
# #
@
9
*
#
$
5'7 0+"!"
)2
*
(
)2
0
NFAO
'
#
%
%
0
4
$
9
9
,
9
NFAO 1
NFBO
A@
'
$ +
#
9
*
NFBO
5'. ##
9
9
*
29
$
* * &
2
-
2
*
% ?EAD ' -
9
$
*
2
*
)
%
-
NF?FBO
- B@ 9
*
, 2
2
,
6
6
*
@
* @
4
2 *
AB
6
-
B@
*
8
)9
6
)2 @
@
6 K 6
K
? 0
%
$
NFBO ,
9
!
)2
2 K GC
$
"
?
#
"
2
$ %
-
L
#* 0,
0
)
2
2
*
$
9
&
9
) 2
2
0
2
9
1
9
*
U
$
!
)
* 9
9
%
* )
)
0
$
2
%
NFAFGO
%2
$
0
* 4
%
9
/2
*
9
1
9
#
(
9
NFAO #
9
)
L
8
,
&9
8
'L 2 )9
! # 9$
8
8
, 8
)
L
! K
B?C
&
7
$
AC
0
2
/2
)
9 & 2
*
0
*
* )
#
NFBFAO
%
* )
U
0
7
9
)
)
L
K
B?H
1
*
2
2
*
9
* 7 )
L
K
B?A
#
$9
3
94
NFBONFAO
8
2
2
0
2
G
B?D
K
2
?
NFAO
4
9
0
8
0 , ?
%
$
2
2
,
%
, -$
2
,
NFAO
4
2
0
)
$9 2
"<
"<
#
)
"<
9
*
9
2
)
0
"<
? NFAO
AA
,
*
9
$
0
/2 L 0 ,
/2
9
0
9 2
K ? @ 1 2
"<
2
)
L
2 K
K ?
B?E
%
2
)
%
B@G
&
9
9L
8 K
B@?
8 K 8 G 2
2
B@@
!
2 G
8 8 G
9
#
2
"<
)
K BL
AD
)2L
1
0
9
!
2
0
!
L 2
9
9
L 2
2
G G
*
2
2
"<
G
*
#
$
9
0 *
,
9
K @
2
$
/2 2
9
" 2
G P
2
* NFBO
2 G 0
# )
2
8
9
0
K
9 2 2
2
4
L
K 0
B@B
K P
AE
L
? P
9 K
B@F
, 9
9
)
)
2 9 K
K
G
B@C
% )
2
* "<
2
2 G
2 G 6
L
2 K
K
B@H
#
$
1
"<
/
)
L
3
B@A
3
$ +
K 0L
(
(
3 K
K
(
(
B@D
49
2
#
B
DG
5'6') %
1
) 2
"<
%
%
$
9 (
1 NCGO
2
"<
2
:
*
NCGO
4
)
9
9
U
1
NFBO
(
(
U
1
L
4 K
B@E
1
)
+
.9L
4 K
BBG
1
+
(
$
#
(
)
@
# % B@E
$
0
%
4
4
$
9
,
U
4
4
D?
1 1 P ?
#
# #*
$
S
9
G
BB?
,
9
2
)
)
9
$ 6
<
"
L
4 K
?"
BB@
#
4
$
(
BBB
% NFAO
9 L
4
K 4
BBF
#
$ 6
<
"
%
)
$
* 2
# 4
S
9(
)
$ * 2
#
#
$
#
S
'#
;
?EHC # )
(0
? (
0
1
?
$
# U
*
1
1 % )
L
?
1
: K
1
!
BBC
Y K 0
0Y K ; 0
BBH
;Y K 0 1;
DB
0,
$
9
#
9
#
* (
(
4 $
9
$
2
"<
0
L
!
*
!
#
*
#
0
2
2
# B@
*
NFBO
5'* $
'
* *
L
2 #
DF
4
6
,
%
%2
%
"<
S(
2 G
2 G
:KG
G 2
7 7
7 7 / (
*
L B
7K
)
* 9
1
$
2
"<
DC
DH
CAPTULO 4
REDE DE HOPFIELD
Na dcada de 80, usavam-se circuitos eletrnicos extremamente complicados na tentativa
de se produzirem respostas parecidas com a das redes neurais biolgicas [24]. Hopfield,
entretanto, julgava improvvel que esses circuitos complicados e altamente organizados
atingissem adequadamente seus objetivos. Ao invs disso, ele acreditava que se um
grande nmero de neurnios tivessem propriedades coletivas computacionais teis,
simplesmente surgidas devido ao seu nmero, existiria uma chance maior do uso de tais
blocos, que so mais simples e menos ordenados, melhor representarem a memria
biolgica. Hopfield mostrou em 1982, em seu artigo entitulado Neural networks and
physical systems with emergent collective computational abilities [17], que um grande
nmero de mdulos de neurnios altamente estilizados possui propriedades coletivas e
mostrou que um conjunto de mdulos de neurnios no-lineares operando de forma
assncrona podem armazenar informaes com estabilidade e eficincia, sendo que as
informaes podem ser recuperadas com alguma capacidade de correo de erros. Ele
mostrou tambm que alm do seu modelo ser muito robusto, este poderia trabalhar
mesmo com outros detalhes biolgicos adicionados.
A rede de Hopfield uma rede recorrente que introduziu um profundo princpio fsico. A
armazenagem de informao em uma configurao dinamicamente estvel. Assim, a rede
treinada de maneira que estados estveis correspondam a mninos locais de uma funo
de energia.
Antes do seu trabalho mais influente em 1982 [17], esta abordagem j tinha atrado a
ateno de vrios pesquisadores, Grossberg (1967,1968)
[51,52,53,54,55,56,57],
Amari (1972) [58] e Little (1974) [59], entre outros. O trabalho de alguns destes
predatam o trabalho de Hopfield em mais de uma dcada. Apesar disto, foi Hopfield
quem primeiro formulou o princpio fsico de armazenagem de informao em uma
rede dinamicamente estvel. A idia de Hopfield de localizar cada padro no fundo de
87
$
# -
F?
*
"
9
1 *
0, $
7 )
N@FO
& -
F@
9
)
,
5 #
6
)
F@
,
0
*
# -
F@
DD
/2 -
F@ ,
#
M
*
/
0
# -
F@
B
- F@ 9 , %
7 )
1
9
#
7 )
0,
# % 0
,
$
7 ) 0
#2
$9 7 ) 2
*L
DE
(
$
7 # S
Z
3 7 I
7 "
9
$
)
#
Z I
?EF?
I
?EF? N?AO
%
$
9
)
* ! 2
$
$
2
%
$
$
$
$
#
$
'
$
1
*
$
2
9
#
9
*
# -
FB
2
EG
9
- FB 9
L
K 9
F?
*
)
9
<
@ *
)
1
0
$9
)
0
1
$
L
9
)
0
#
)
* 2
9
#
$
)
9
1
$
9
0
E?
(
0
K ? @
0
1
) 9
*
9
- FF 9
#
9
%
# )
FF
$
*
*
) )
#
:
9
%
9
#
9
M
2
$
9 K ? @
)
9
9 &
E@
K
9
%
$
9
K ? @
'
#
#
# ( ( 9
2
*
6
*
$
0,
%
(
,$
'
*
+
P? ?
"
"
#
$
5
2
1
6
9
= :
(
$
0
= 6 K ? @
2
9
$
$ 7
*
@
& )
L
?
K
= =
F@
EB
1
6
&
9
)
&
7 )
9
" K G %
$
K
/
&
/
#
5" K 5
&9
"
" "
E
.
*
#
!
$
L
0
K
FB
)
L
K
0
FF
9
)
$
0
EF
$
0, L
E K CE
FC
FBL
0 G
FH
0, $
1
E $
#"
< 49 $
=
K =
=
K
= =
= =
K P
= = = =
FA
1
$
*
?
%
?
?
EC
$
?
?
"
9
?
9
2
L
=
?P
?
:
$
FD
)
$
)2
'
$
*
$
%
$
$
2
2
)2
(
7 ) )$
#
7 3
7 ( =< NH?H@O
?EDC
$
2
* 1
7
L
.K
?
0 0
@
FE
L
0
P?
K
?
N? P @ O
N? @ O
EH
F?G
*
*
9
4
9
9
#
:
)
*
"<
2
)2 %
*
0
)
)
0,
1
#K
?
@
E CE
F??
2
L
?
#K
0 0
@
F?@
EA
#
9
#
*
$
9
0
0 K V0
$ V #
#
$ $ 9L
V # K V0
!
?
?
0 P
0 "
@
@
$
$
V # K V0
0 K V0
F?B
C
L
F?F
4
$ 9
G V0
V #
G % L
G
G V0
G
F?C
4
1
*
%
#
K
6
$
$
$
) 2
NHCO
?
V# K
P 0
V0
@
F?H
&
*
) 0
*
0
( 2
ED
0
*
4
=
%2
= !
$
=
NH?O 4
2
L
F?A
= =
K
@
4
9
*
9
%
)
0
EE
% )
K G
$
0
= ?
F?D
= $
% F@ (
= 0 '
$
*
#
=
1
=
$
#
= K P?
= K
?
& 6
%
9
L
K 4
?
F?E
2
$
0
,
2
2
4
9
$
#
9
? *
9
?
$
#
?GG
$
K
'
2
3
-
FC
#
?
-
FC %
L
# %$
!
#$
K
?
$
$
K ?
1
F@G
0,
)
L
K
@>
2
?
!?
F@?
GGG?
G?GC
GGGBH
G?BD
GG?
G?DC
GGC
GBA
G?
GH?
G ?C
%
$
(
G ?DC
2
?[
'
=
?[
&
1
% NHHO
,
9
G G?
EE[ :
G
L
?
>
F@@
L
@
@
?
?
>
@
@
@
?G@
F@B
:
GG?
L
@
@
?
?
>
GG?
@
@
@
F@F
1
9 L
@
F@C
K
@
4
0
0
EE[
L
K
@
F@H
,
9
K
F
K @
%
G ?BD
0
0
0
0,
0, 5 "
1
$
%
9
3
9
2
)
$ .
&
\ *
$
%
4
$
(
&
!
4
9
* 4
&4
!$
%
&4 *
$
0
2
4
NHHO %
&49
2
&
?GF
%2
)
!$#* !$
%
* &49 %
$
0,
M
&49
"5
$
&49
4
2 T%2
=]
&49
=
$
TM
]
2
# )
2
F
7 )
NHAO
2
)
FA
K C #
0
%2 \ *
$
%
@
4
2 ?\
@
- FA 9 ,
$ ,2
80
)
7 )
2
& 9
2 2
0 9
$
$ 9
$
%
4
9
.
F?@ 9L
?
#K
@
&
F@A
1
Q R
*
0
1 *
# $ @
9
NG?O
1 0
0 )
F@A
0
$
#
0 $
# K ,
# K -
# K
# K 7
K &
F@D
K 0
F@E
FBG
FB?
$
1
F@D 2
?
$
%2
9
9
$
$
G %
?
1
#
% F@E
0)
%
2
?
$
,
*
2
0
# #
G
2
?
$ X 4
FBG
$
G #
$
?
$ #
# P # P #
*
G
$ $
0
$
)
#
9
0 $ 1
# )
FB?
$
9
#
$
!
)
$
G ?
?GD
(4.32)
Os valores de x e y usados como ndices respeito posio no espao das cidades. A matriz
de pesos resultantes e limiares correntes podem ser ento obtidos pela soma das energias
descritas acima da forma da energia total na Equao 4.27. Os pesos computados para este
problema so [67]:
(4.33)
109
19
$
7'6 $
#
7 )
)
,
$
9
7 )
#
7 )
0
$
% $
*
1
*
,
7 )
$ 2
%
*
$ *
$
0 0
#
7 )
$ 7 1 0
$
7 )
$
$
??G
.
(
9
)
# 2
2
9
*
&9"
%
9
)L
/
*
2
9
NBEO
6
$
9
S
=
S
= NEO ?EDB
0
% ?EE@
,7#1(
*
N?GO % ?EEF S
=
T.
<
#
, ' " I
(
)
#
9
*
U
9
/
#
9
*
!
???
@
0
9
4
2
/
9
!
B
#
9
*
$
F
#
NBEO
9
#
0
)
1 9
9
*
NBEO
??@
)
L
K P
C?
1
.'3'3
" "
#
$
*
%
2
1
2 *L
K ? "
C@
?
U
G
9
M
7 K @
7
,
=9.<
NBEO
4 )
L
&9
L
1
9
9
*
0
)
??B
K
'
P
'
P
'
)
K )
1
#
%
CB
49
L
# L K G ) K !
#
L
K ) K !
K ) K G
$
L
( '
(
?@
' @' P '
CF
1
?L V K P ? K ? .
9
1
"
L
"
L ' K
-
L ' K
(
*
*
??F
CC
49
*
4
2
9
*
L
K P
1
K
?
@ P
) " &
) " K @
CH
$
" #
(
K 1
@ P
) " *
%
8
5
)2 L
K 1
K 1 K G!
K
$9
L
K
K
!
??C
L
!
L 2
)2
)
K G
9
L
)
L K
!
)
L K , P -
)
L K 2
)
L K
9
*
#
!
K
K
K
K
K
CA
& 2
"<
2
2
2
"
(
??H
$ +
9
L
, K 3 3 3 3 K
3 3 K
(
CD
(
9
L
?
2 K
, ?
CE
K ? P
P
@
C?G
3 K
7
C??
?
?
G
?
C?@
K
1 K
?
@ P
P
) " &
) " K @
C?B
9
$
NBEO
.')
$" # # %!"=$%
1
, *
'
$
S
= NDO
$
9
*
*
9
/*
+
9
2
N@O 1 3,'
L
K ? P
K
C?F
1
*
L
K
C?C
??D
49
C?F
$
0 K
L
0
!
K ? 0 P
0 "
C?H
3 K ? 4 P
7
C?A
1
4
$
? 7
$
? , BH? 2
B@A
+
L
` K
& 9
3
C?D
1
C?D
` K B ` K B ?
& K @
9
B
?
? ? ?" %
)
1
?
2 P ? G
#
9
K
&
0
*
??E
(
*
=9
)
)
N O
#
9L
? #
!
@ #
2 K P ? ? ? ? !
B #
2
*
* K K ?
&
(
9
L
K ?
?@G
C?E
1
9
K # 9
4
9
)
&
%
+
9
C?F
% C?D (
C?D
?
(
9
0
)
9
,
9 L
1
2
"<
9
C?F
2
NDO
#
2
C?F
)
C@ %
9
(
\
\ \ \
\
\
\
(
$
)
$
\
\ \ \
#
S
9(
)
$
)
L
+K
K
! & K ?
C@G
2
&
*
(
)
?@?
?@@
0
.')') -
(!" # 0"
4
$
0
#
9
9
C )
9
- ,
L
! / K
?!
- 1
L
9
*% C K G C? K ?! / K 1 !
- 1
4
L 2
9
C
9$
9
&
*% C G +% C G! / K
?
%
0 0
"#* 0
#
$
9
9
*
& @
* @
2
*
?@B
- CB 9
L
M= CGG
&K?GG -1&.%L NDO
- .
L
!
*% C K ? / K
K ?
-
CB %
C?F
K ?F ?F? @G K GG@ GGF GF 1
?@
)
C G?
1
*
-
B@
-
CB
*
#
$
2
"<
B@? (
9
2
2
"<
"
)
)
2
@9
@
N??OL
K ? P
K ? P
"
-
CF 9
2
K
1
@
2
@
1
K
9
G C
@9
# -
CC
$
49
9
%
0,
C@H &
@
*
*
*
K G B # -
CF
*
%
)2
0
%
$
#
?@C
?@H
9
*
GB & -
CF
*
.')'7 1%$
%# # " #:"!" /G"
& -
C@
2
4
$
4
$
,
C@?
1
NO
$
#
)
(
K
&
1
)
#
-
CH 1
5
9
,
)
NG ?O NG ?O
)
CA 3
C@?
?@A
- CH 9 #
L
- CA 9 #
B9
9
#
@H@
9
L
+ K
,
,
,
C@@
1
,
& 9
#
+ ,
+
C@G + ,
$
.')'.
$" /G"
,
( #+
#
*!
*
$
*
2
*
#
2 ,
B9
-
CA 1
) ? G? GG % C?E K B
L
K
?
P
P
C@B
K
?
P
P
P
C@F
K
?
P
P
P
C@C
1
K
K
K
K P 9
9
*
K P
1
9
*
%
L
K P
K P
C@H
K
?
P
P
@
?BG
C@A
?
C@D
K
?
P
P
@
?
?
K ? P ?
@
C@E
#
B9
@9
9
1
*
9
*
9
*
*
#
9
9
9
(
2
) )
? ?
CBG
#
9
)
*
&
CBG
%
)
9
)
$
9
"
#
C?E "
%
9
$
9
%
/* NHEO
#
4
2
2
2
$ 0
)
N?O
)
*
$
,
* &
4
&
P #
0 *
0
(
(
)
#
? P ?
9
4
$
9
G? &
P
$
) 2
*
* ?
4
@
P
*
P
)
? P F ?
@ #
* &
P *
P
9
*
# -
CD
-
CE
9*
*
)
,
0
*
*
* P
9
$
-
CE
9
B
2
M
N@
O 9
B9
NB
?O
B
?BB
- CE 9
*9
( 2
9
#
9
2
K?CG #
?BF
- C?? 9 #
#
& )
C?? *
)
-
C?G
* @C
%
L
D
EP?D
E D
E
? D
E
D
E
D
E
D
E
P ? D
E
1
@
K #
9
9
.
)
NF?O
&
9
9
9
9
& -
C?@
9
*
)
*
)
%
?BC
K CG
L
D
EP?D
E D
E ? D
E D
E
D
E
P ? D
E P @ D
E
%
@9
L
?
9
L
!
@
9
L
9
9
(
$
$
49
*
*
/
*
%
4
*
*
(
9
#
9
?BH
#
*
*
*
)
1
&
9
0
.'5 $
* $
# *
1
$
KG? 0
*
#
#
*
/
* $
#
*
S
=
?BA
#
*
$
9
L
*
)
?BD
6
#
9
9
#
%
(9'#4
L
K ? P
H?
H@
@ 4
*
2
0
)
H@ HB
4
(9'#4
2
*
2
-
HF M
2
-
HC %
* 9
1 (93,'
9
M
?BE
- H? 9
*)
?
,-#
>
$
* ,-# *
# -
HH
*
)
9? ? K BF
K G? %
-
HA @
@ 1
)
* @
& -
HD
9
(93,'
9
)
* 9
# )
NDO
L
*
%
3,'
L ,-# %
?FG
- H@ 9 1 * K ? K ?F K @G 1 *
2
P K BG K FG
1
2
@G
?F?
- HF 9
* 1
$
)
- HC 9
(9'#4 2
1 9
$
G
9
G
$
?F@
- HH 9 #
,-# F
K B F K G? K CG #
*
L
*
%
L
?FB
- HD 9
(93,'L ?GG
9
K @GG 1
* 9
*
%
)
2
# -
HE
2
"<
""% 2
#
)
9
2
"<
2
2
@
*
2
) 2
*
H
)
9
)
%
9
?FF
?
K
?
9 N? ?O
? ?
HB
/- K
?
?
.
.
< .
/ K
/
HF
HC
-
F
*
.
<
*
F9
G /
2
$ 2 2
)
0
* 6 2
-
H?G H??
?FC
- H?G 9 .2
(93,'
- H?? 9 .2
3,'
/-
(93,'
3,'
(93,'
* M
(93,'
6 )
2 ?
0
#
)
8
/
0
2 ? % )
L
P ! 4 K ?
8 4 K
P ! 4 K ?
?FH
HH
? ?
8 N? ?O
* @ (9'#4 !
, *
HH
4 " *
* @ $
?GG[
1
9
-
H?G
*
%
* # 2
/
* #
)
9
*
2 AG
BG
4
*
)
K
,-# @
*
*
M
2 G C
# G C
?FA
$
# )
H?@
*
*
K CGG
6
9L
K
?
P
P ?
K
HA
1
?FD
*
G
%
* L
G P ?
G
?FE
9 4
? ?
9
H
? ?
L
x0
SGCM
xn
- H?F 9
(93,'
# -
H?F
(93,'
8
)
#
H??
9
%
$
? ?
'
0
9
K
?
==
HD
?CG
1
$
0
$
$ 7
@B@? ')
(93,'
HE
K ! K P
1
* #
L
H?G
1
*
2 )
,
# K #
#
9
1 HE
*
( #
)
$
% H?G *
*
*
-
H?C
$
*
M
*
$
0
$
#
& *
# -
H?D
?C?
?C@
- H?A 9 8
- H?D 9 %
*
- H?E 9 8
*
?CB
K P
H??
# )
H@? H@@ H@B
*
$
,
)
- H@? 9 %
*
- H@@ 9 8
- H@B 9 8
*
G
? *
L
H?@
K ?
H?B
? K /
?
N? P
?O
@
? K
1
H?F
/
$
7 ) 49 )
L
K
H?C
K P ? ?
@
H?H
. L
?
P 4
K
?V
/
K
"
/
H?A
1
"
$
GA GGGH M
2
S
=
L
4
K
H?D
?CH
?CA
% H?C H?D 9
L
K
H?E
,
% H?C H?E H?A H?D
H?C H?A H?H
3,' #
*
9
#
1
-
H@F
#
L
K P ?
H@G
K
H@?
#
9?
P ?
@
4 )
2
"<
0
H@G H@?
0
-
H@C
0
-
H@C %
2
?CD
- H@C 9 1
1
2
#
)2
:
,
*
G
(
)2
G
?
?
8
)2
(
)2
- H@H 9
K GA K GGGH
2
$
7
@B@? #
$
2
L
K
@= ? @= ?
H@@
&
1
= = = =
? G
'
0
$ =
*
)
7 )
# -
H@D
0
= ?H
9
)
H?E
?HG
# )
H@D
0
= ?
-
H@D
- H@D 9 .
0
9
$
0.6
0.6
p(4)
0.6
p(3)
0.6
p(2)
1
0.8
p(1)
1
0.8
0.4
0.4
0.4
0.4
0.2
0.2
0.2
0.2
0.5
p(0)
0.5
p(1)
0.5
p(2)
0.8
0.8
0.6
0.6
0.6
0.6
0.4
0.4
0.4
0.4
0.2
0.2
0.2
0.2
0.5
p(0)
0.5
p(1)
0.5
p(3)
0.5
p(3)
p(4)
1
0.8
p(3)
1
0.8
p(2)
(2)
1
0.8
p(1)
(1)
1
0.8
0.5
p(2)
4
)
G GE 2
G
-
HB?
2 9
)
0
G ?
1
*
*
&
?H@
- HB? 9 8
$
)9
K G
K ?
9
9
(
9
*
(
9
#
)
K N - O
*
1 )
L
?
W
K
G W
H@B
1 L
W K
?
<
H@F
1
2 # -
HB@
"<
2
9
?G
@? #
) B
# )
HBB
$
9
*
?HB
- HB@ 9 %
"<
9
?G
@?
*
)
C@?
?
K ?G 1
9
2
"<
29
G@
#
"
#
0
1
2 2
"<
2
2 GC ,
#
0
2
2 "<
2
G@ 1
?HF
16
14
12
kp(n)
10
20
40
60
80
100
n
120
140
160
180
200
1
*
1
9
$
L
)
!
?HC
16
14
12
kp(n)
10
20
40
60
80
100
n
120
140
160
180
200
)
$
1
2
4
(
$9
K -
?HH
16
14
12
kp(n)
10
20
40
60
80
100
n
120
140
160
180
200
G GD
K G
4
8 K K G GE K G K
?
G ?G
K ?
H@C
#
)
HBH
1
8 0
)
H@C H@B
M
$
2
2
,
-
HBA
?HA
q0
HOPFGCM
qn
- HBH 9
7 9
- HBA 9
,
,
, 2
"<
2
9G@ 1
"
%
(93,'
NHO
M
7
$
, 0
-
HBA
*
2
"<
2
GB
9
$
,
$
M
=
$
)
T
0
)
&
$
2 =
:
*
?HD
2
$
,
9
2
1
$
1
$
$
*
)
FC?!
$
&49 7 )
.(4
, * F
&
.(4
$
9
3,' 9
(93,'
$
# 2
.(4
7 )
0
$ &2&
-
HBD
,
2
0 K ?
& K ? #
)
HBD 2
$
.(4
- HBD 9 ,
$ ,2
80
)
7 )
( FC? 19
.(4
H@H
1
9
#
)2
)
# )
HBE
B
#
)
7 ) )
F@A FB? # -
HFG
-
HF?
)
F@A
& )
HFG HF?
L
* 2
"<
G
*
,
H@
?AG
q(Xi)
0.5
0.5
20
40
60
80
100
n
120
140
160
180
200
0.5
En
1.5
2.5
3.5
20
40
60
80
100
n
120
140
160
180
200
- HF? 9 8
%
?A?
*
$
$
*
$
0
$
9
$
N@O
% H?G
H?? "
*
2
$
-
HF@ #
9
*
*
*
%
2
L
*
G
?
2
$
2 0
%
9
*
(93,'
#
0
0
2 1
*
2 2
H?@ 1
3,'
49
)
HF@ HFB HFF
$
7 ) )
N@O
HD H?G
*
/
* %
?A@
0.8
0.6
0.4
0.2
0.2
0.4
0.6
0.8
10
15
20
25
30
35
40
45
50
- HF@ 9 8
* $
(93,'
.(4
)
9
4
En(i)
10
15
20
25
n
30
35
40
45
50
- HFB 9 %
$
(93,'
.(4
)
4
3.9
a(i)
3.8
3.7
3.6
3.5
3.4
10
15
20
25
n
30
35
40
45
50
- HFF 9 8
(93,'
.(4
?AB
$ *
$
T
$
/
9
L
K
H@A
H@D
# K
9
H@E
HBG
&
K '& P G@ &
& #& P ? #&
HB?
1
9
)
7 )
#
'
(93,'
)
4
9 *
)
*
,
* 2
"<
$
#
)
4
2 9
$
)
!
)
$
#
)
*
(93,'
9
?AF
0.8
0.6
0.4
v(i)
0.2
0.2
0.4
0.6
0.8
10
15
n
20
25
30
- HFC 9 8
* $
(93,' )
.(4
*
2
*
)
* 4
2
*
9
$ )
* %
*
$
$
*
$
1
2
*
N@O :
*
2
9
0
*
& )
HFC
2
$
-
HFH
)
HFA
*
?AC
0.6
0.4
0.2
En(i)
0.2
0.4
0.6
0.8
10
15
n
20
25
30
- HFH 9 %
$
(93,' )
.(4
3.9
3.8
a(i)
3.7
3.6
3.5
3.4
3.3
10
15
n
20
25
30
- HFA 9 8
) (93,'
.(4
?AH
*
*
?
2
#
FE
9
?
*
? *
?AA
#
)
% H@
*
4
*
0
2
H?@
)
(93,'
HB@ " *
*
1
)
)
CB CC 1
1
9
0
$
&
2
@
"
2 ?H #
)
0
HB@
& K @&
#&
HBB
#& K &
9&
HBF
HBC
' K
?
? P
HBH
?AD
1
&
#&
* &
* # -
HFD
@C *! )
HFE
*
-
HCG
3,'
1.2
0.8
v(Xi)
0.6
0.4
0.2
0.2
500
1000
1500
2000
2500
- HFD 9 8
*
.(4
0.9
0.8
0.7
v(Xi)
0.6
0.5
0.4
0.3
0.2
0.1
500
550
600
650
n
700
750
800
%
$
$
* 2
* )
0
$
@ # 9
@
?AE
0.5
En(Xi)
0.5
1.5
10
Iteracao
- HCG 9 %
.(4
0
C@H
$
)2 4
2
.(4
*
*
1
*
2
T 9
C@H
*
49
9
%
9
2
)
HC?
*
)
)
2
)
)
1
2
-
HC@
*
)
S
=
NDO
3,' 0
?DG
1
*
2
)
)
*
Qualquer destes itens devem ser suportados por qualificaes de informao. Observa-se
que a utilidade destas quantificaes fortemente dependente do nvel de correlao entre
os padres [70]. Em uma rede que armazena um nmero de padres altamente correlatos, a
recuperao de qualquer um dos padres prediz, com uma grande probabilidade, a estrutura
de um padro recuperado mediante qualquer outro estmulo, ou seja, altamente provvel
que o padro recuperado por um estmulo seja igual a outro recuperado por um estmulo
diferente. Por outro lado, se os padres armazenados so completamente no-correlatos, ou
ortogonais, ento a recuperao da memria por um estmulo completamente diferente do
resultado obtido por outro estmulo. Para estipular a capacidade mxima da rede, os padres
que sero utilizados como conjunto de prova sero vetores binrios ortogonais [35].
As principais propriedades que determinam a qualidade do sistema para armazenamento de
memrias so:
182
#
9
*
)
!
)
$
2
*
$
!
$
M
)
!
?
K
@
=
HBA
1
*
P?
=
# V
?DB
)
49
)
L
?
K
=
HBD
V
2
L
V K
?
@
HBE
1
$
0
M
9
9
(
(
2
9
2
2 $
$9
)
&
2
$
H?
H@
#
( HB
$
*
$
%
2
2
$
?
9? #
)2 ?GG
$
9? ?
4
9
?DF
- HCB 9 .
7 ) 72C
$
#
$
#
(93,'
?DC
- HCF 9 .
(93,'
72C
- HCC 9 .
&$;
72C
?DH
:
1
)
$
2
#
(93,'
2
0
#
NBO
1
9
)9
$ '
?G
7
?
# -
HCH
$
&
$
9? ? 4
2
9
@G[
?DA
)
4
) 9
2
?[
#
(93,' &$;
7 )
$
49
(93,'
&$;
$
/
$
(93,'
%
9?
? ,
( H?@ (93,'
9? ? 4
9
)
)2 ?GG
$
9? ? ,
) HCA
30
Hopfield
25
20
15
SGCM
10
10
15
20
25
30
35
40
45
50
Diferenca 1,1
?DD
2
#
(93,' )
$
#
3,'
$
$
7 )
$
)
?DE
?EG
*
%
0
9
-
2
$
1
7 ) 9
7 ) # 2
*
(93,' 3,' 9
* 3,' (93,'
$
#
$
(93,'
)
$
*
&
9
$
) 2 *
9
7 )
N?AO #
$
2
$ 1 )
NBO
$
EG[ $
.(4
#
(93,'
$
.(4
9? ?
2 1
$
)
?E?
N@O 1
$
2
"<
?
*
* #
#
*
*
2
$
%
*
2
(93,' ) %
*
$
* T
#
2
#
3,'
$
9
*
2
N@O NBO
1 (93,'
9
$
9? ?
%
9
9
$
0
#
*
)
9
1
2
$
#
*
*
2
9
#
2
*
3,'
2
?E@
,
9 0
9
'
#
2
$
0
?EB
?EF
REFERNCIAS BIBLIOGRFICAS
[1] Farmer, D.; Lapedes, A; Packard, N.; Wendroff, B. Evolution, games and learning:
models for adaptation in machines and nature. Physica D, v. 22, n. 1-3, r7 - r12
oct nov, 1986.
[2] Ishii, S.; Fukumizu, K.; Watanabe, S. A network of chaotic elements for information
processinng. Neural Networks, v. 9, n. 1, p. 25-40, 1996.
[3] Nozawa, H. A neural network model as a globally coupled map and applications based
on chaos. Chaos, v. 2, n. 3, p. 377-387, 1992.
[4] Aihara, K.; T.; Toyoda, M. Chaotic neural networks. Physics Letters A, v. 144, n. 6-7,
p. 333-340,1990.
[5] Eckhorn, R.; Bauer, R.; Jordan, W.; Brosch, M.; Kruse, W.; Reiboeck, H. J. Coherent
oscillations: a mechanism of feacture linking in the visual cortex ? Biological
Cybernetics, v. 60, n. 2, p. 121-130. 1988.
[6] Skarda, Christine A.; Freeman, W. J. How brains make chaos in order to make sense of
the world. Behavioral and Brain Sciences, n. 10, p. 161-173, 1987.
[7] Babloyanz, A.; Nicolis, C.; Salazar, M. Evidence of chaotic dynamics of brain activity
during the sleep cycle. Physics Letters A, v. 111, n. 3, p. 152-156, 1985.
[8] Kaneko, K. Clustering, coding, swhitching, hierarchical ordering, and control in a
network of chaotic elements. Physica D, v. 41, n. 2, p. 137-172, 1990.
[9] Kaneko, K. Pattern dynamics in spatiotemporal chaos. Physica D, n. 1-2, p. 1-41, 1989.
195
196
[20] Amit, D. Modelling brain function. Cambridge: Cambridge University Press, 1989.
540 p.
[21] Ramn y Cajl, S. Histologie du systme nerveux de lhomme et des vertbrs.
Paris: Maloine; Edition Fraaise Revue, 1952. Tome I. 652 p.
[22] Shepherd, G. M.; C. Koch. Introduction to synaptic circuits in The Synaptic
Organization of the Brain. New York: Oxford University Press, 1990.
[23] Faggin, F. VLSI implementation of neural networks. In: International Joint Conference
on Neural Networks, So Diego, 1995. Tutorial Notes. So Diego: Academic Press.
1995.
[24] Haykin, S. Neural networks: a comprehensive foundation. New York:
Macmillan/IEEE Press, 1994. 696 p.
[25] Freeman, W. J. Mass action in the nervous system. New York: Academic Press,
1975.
[26] Turing, A. M. The chemical basis of morphogenesis. Philosofical Transactions of the
Royal Society, Series B, v. 237, n. 641, p. 37-72, 1952.
[27] Stent, G. S. A physiological mechanism for Hebbs postulate of learning. Proceeding
of the National Academy of Science of the U.S.A. v. 70, n. 4, p. 997-1001, 1973.
[28] Changeux, J. P.; Danchin A. Selective stabilization of developing synapses as a
mechanism for the specification of neural networks. Nature, v. 264, p. 705, 1976.
[29] Brown, T.H.; Matan, O.; LeCun, Y.; Keenan, C.L. Hebbian synapses: biophysical
mechanism and algoritms. Annual Review of Neuroscience, v. 13, p. 475, 1973.
197
[30] Sejnowski, T.J. Strong covariance with nonlinearly interacting neurons. Jornal of
Mathematical Biology, v. 4, n. 4, p. 303, 1977.
[31] Sejnowski, T.J. Statistical constraints on synaptic plasticity. Journal of Theoretical
Biology, v. 69, n. 2, p. 385, 1977.
[32] Kelso, S. R.; Ganong, A. H.; Brown, T.H. Hebbian synapses in hippocampus.
Proceedings of the National Academy of the U.S.A, v. 83, n. 14, p. 5326-5330, 1986.
[33] Granger, R.; Whitson, J.; Larson, J.; Lynck, J. Non-Hebbian properties of LTP enable
high-capacity encoding of temporal sequences. Proceeding of the National Academy
of Sciences of the U.S.A, v. 91, n. 21, p. 10104-10108, 1994.
[34] McClelland, T. L.; D. E. Rumelhart; PDP Research Group. Parallel distributed
processing. Cambridge: The MIT Press, 1986.
[35] Widrow, B. Generalization and Information Storage in networks of adaline neurons.
In: Yovits, M.C.; Jacobi, G. T.; Goldstein, G.D. ed. Self-Organizing Systems.
Woshington DC: Spartan Books, p. 435-461, 1962.
[36] Anderson, J.A.A memory model using spatial correlation functions. Kybernetik, v. 5,
n. 3, p. 113, 1968.
[37] Hecht-Nielsen, R. Counterpropagation networks. Applied Optics., v. 26, n. 23,
p. 4984, 1987.
[38] University of St. Andrews Scotland. History of mathematics. [on line]. 05/2000.
<http://www-history.mcs.st-and.ac.uk/history/mathematicians>. May. 2000.
198
199
[49] Normand, C.; Pomeau, Y.; Velarde, M.G. Convective instability: a physicists
approach. Reviews of Modern Physics, v. 49, n. 3, p. 581-624, 1977.
[50] Ott, E. Chaos in dynamical systems. Cambridge: Cambridge University Press, 1993.
[51] Grossberg, S. Nonlinear difference-differential equations in prediction and learning
theory. Proceeding of the national academy of sciences, USA, v. 58, n. 4, p. 13291340, 1967.
[52] Grossberg, S. Some nonlinear networks capable of learning a spatial pattern of
arbitrary complexity. Proceeding of the National Academy of Science, USA, V. 59,
n. 2, p. 368-372, 1968.
[53] Grossberg, S. Some physiological and biochemical consequences of psychological
postulates. Proceedings of the National Academy of Sciences, USA, v. 10, n. 3,
p. 758-765, 1968.
[54] Grossberg, S. Embedding fields: a theory of learning with physiological implications.
Journal of Mathematical Psychology, v. 6, n. 2, p. 209-220, 1969.
[55] Grossberg, S. Neural expectation: cerebellar and retinal analogs of cells fired by
learnable or unlearned pattern classes. Kybernetik, v. 10, n. 1, p. 49-60, 1972.
[56] Grossberg, S. Adaptive pattern classification and universal recoding: I. Parallel
development and coding of neural feature detectors. Biological Cybernetics, v. 23,
n. 3, p. 121-134, 1976.
[57] Grossberg, S. How does the brain build a cognitive code ? Psychological Review,
v. 87, n. 1, p. 1-51, 1980.
200
[58] Amari. Learning patterns and pattern sequences by self-organization net of threshold
elements. IEEE Trans. Comput, v. 21, n. 11, p. 1197-1210, 1972.
[59] Little, W. A. The existence of persistent states in the brain. Mathematical
Biosciences, v. 19, n. 1, p. 101-120, 1974.
[60] Little, W. A.; Shaw, G. L. A statistical theory of short and long term memory.
Behavioral Biology, v. 14, n. 2, p. 115-133, 1975.
[61] Amit, D.; Gutfreund, H.; Sompolinsky, H. Spin-glass models of neural networks.
Physical Review A, v. 32, n. 2, p. 1007-1018, 1985.
[62] Amit, D.; Gutfreund, H.; Sompolinsky, H. Storing infinite numbers of patterns in a
spin-glass model of neural networks. Physical Review Letters, v. 55, n. 14, p. 15301533, 1985.
[63] Bruck, J. On the convergence properties of the Hopfield model. Proceedings of the
IEEE, v. 78, n. 10, p. 1579-1585, 1990.
[64] Goles, E.; Martinez, S. Neural and automata networks. Dordrecht, The Netherlands:
Kluver, 1990. 530 p.
[65] Zurada, J. M. Introduction to artificial neural systems. New York: West Publishing
Company, 1992. 634 p.
[66] Hertz, J., Krogh, A., Palmer, R. G. Introduction to the theory or neural
omputation:lecture notes. Santa Fe: Addison-Wesley, 1991.
[67] Hopfield, J.J., e Tank, D.W.. Neural computation of decision in optmization problems.
Biological Cybernetics, v. 52, n. 3, p. 141-152, 1985.
201
[68] Consenza, M.G.; Kapral R. Coupled maps on fractal lattices. Physics Review A, v. 46,
n. 4, p. 1850-1858, 1992.
[69] Hussain, A. K. Coherent structures and turbulence. Journal of Fluid Mechanics,
v. 173, p. 303-356, 1986.
[70] Little, W.A. and G. L. Shaw. Analytic study of the memory storage capacity of a
neural network. Mathematical Biosciences, v. 39, n. 3-4, p. 281-290, 1978.
202