Vous êtes sur la page 1sur 12

lvlENTES,

CFI{EBROS
Y I'R()(tR\trtAS

III. MENTES, CEREBROS Y PROGRAMAS*


JOHN R, SEARLE

a los esfuerzos
.OUIMpSRTANCIApsicolgica y filosfica debemos dar
rccientes que se han realizado para que las complttadoras simulen las habilidades cognoscitivas del ser hr-rmano? Para tesponder a esta pregunta,
nre parece til diferenciar entre lo que llamar Ia (inteligencia artificial)
"f uerte" e IA "dbil" o "cautelosa". Segrn la ra dbil, el principal valor que
tiene la computadora en el estudio de la mente es qlle nos proporciona una
hcrramienta muy poderosa que nos permite, por ejemplo, formular y com"fuerte",
pr:clbarhiptesis de modo ms riguroso 1' preciso. Empero, en la Ia
la computadora no es tan slo ua herramienta para estlldiar la mente;
rursbien, la computadora programada adectradamente es t'ealmente una
nrente en el sentido de que puede decirse literalmente que las computadoras
Llu e CUen fan con pr ggr am aS c or r ec ( oS c ot t t pr e t t d e t t y p o s e e n o t t o s e s t a d O s
cognoscitivos. En la IA fuerte, como la comprttadora progranrada cuenta
c6n estados cognoscitivos, los programas no Son meras herramientas que
nos permiten probar las explicaciones psicolgicas, sino que los programas
constituyen por s mismos las explicaciones
No tengo ninguna obiecin a lo que se dice acerca de la IA dbil, al menos
er-rlo que concierne a este artculo. Mi exposicin aqu I'ersar en tor-no a
las afirmaciones que he hecho acerca de la tn fuerte, especficamente en
t()rno a la afirmacin cle que la computadora programada adecuadamente
tiene literalmente estados cognitivos que, en consecuencia, los programas
-v
explican la cognicin humana. A partir de ahora, cuando me refiera a Ia
tA ienclr en mnte la versin Fuerte, tal cual queda expresada por estas dos
aseveraciones.
considerar la obra de Roger Schank y sus colegas en Yale (Schank y
Abelson, 1977), porque me encuentro ms familiarizado con ella que con
ctralesquiera otras aseveraciones similares, y porque oFrece trn ejemplo
ntuy clro clel tipo de trabajo que deseo examinar. Pero nada de lo que a
continuacin se presenta depende de los detalles de los programas de
Sch an k, pu es lo s m is m os ar gum ent os s e p o d r a n a p l i c a r a l S H R D L U
de Winogiad (Winograd, 1973), a1 ELIZA. de Weizenbaum (Weizenbaum,
* JolrnR. Searle,"Minds,Brains,and Programs",TlrcBehavioraland Braitt scietrces,
3, 1980,pp.417-424.O 198,CambridgeUnersityPress Reproducidocon pemiso de
CambridgeUniversityPressy del autor.

s:

1 9 - 5 )r 'c l e h e c h o a ctr a l q u i e r - si m tr l a ci r i n e . r r r q tr i n a cl e Tr r r .i .s
cl e fe n m e n o s m e n t a l e s h t r ln a n o s.
N l t r - v b r e 'e m e n t e , v d e j a n d o d e l a d o 'a r i .s
cl e ta i l e s, e l p r .o g r .:r .r a d e
Schank ptrede describirse de la sigr-rientenraner.r:
el p'.prisito clel ir,,g.rma
consiste en simular la capacidad hunrara para c().rpr-e.der.
relat.s. una
c a r a c t e r s t i c a d e l a ca p a ci cl a d d e l o s se r .e s h r r n r a .o s p a r .i
c.m p r e n cl e r
relatos es que stos pueden responcle. pregrntas acel.ca
clc-lr-elaro, atrn
cuando la informacin qr-rep.opor-cionen nrrnca se hava establccicilr
exolc i t a m e n l e e n e l r e l a to . As p u e s. p o r .e j e n r p l o , sr r p {}n g a q u e cs( .u cl ,a
l a s _
guiente historia: "un honrbre entr a un restllr.antc or.clerr
r,
trn:r halnb u r g u e s a . c u a n d o se l a si n 'i e r o n , e sta b a tr ta l r r e .te q r r e .r l r cl a ,
a s < 'e e r
hombre estall en clera v abanclon el restarrr.ante firr.irso,
,ir, rngu. ra
hamburguesa ni deja. propina." Aho'a bien, si re pr-eetrntan,or, "...s"
co'ri
e l h o m b r e l a h a m b u rg u e sa ? ", u ste d p r o b a b r e .r e .tJr e sp o r - r cl e ,r : ..N o ,
no
se la comi." De igual maner-a, si ustec,lescrrchrlo sigtrie.te: "[Jn
hor'bre
e n t r a u n r e s t a u . a n r e 'o l d e n
t l r r l l .r b r l q r r e sr . cr a ..l ,, st'l l r si r .,,.i e l .o n ,
le agrad mucho. Al sali. del r-estau.ante, le Jc.i a la nlescr.r
ge'erosa
'ra
propina antes de pagar la ctrenta." Si se le pr'r.gu11ta:
"Se co'riti
lro,.br-e
"f
la-hambtrrguesa?", usted probablen-rente .esponcrera: "S,
se la crmi.,,
Ahora bjen, las mquinas de schank ptreclenre.s,orr.ierp,.eguntas
sirilar-es
acerca de restaurantes formuladas en estos tr.nrinos.par.a lirce.rlc),
cLlentan
con una "representacin" clel tipo de inltornracin qlre poseen
l.s seres
humanos acerca de los r-estau.antes, la cual les per.'ri{e resp.rcler-l)r-eg'ntas como las antes mencionadas, dado estertip. de relat.s. c,,r,rr.lo
se pr-()p o r c i o n a e l r e l a t o a l a m q r - r i n a 'se l e h a ce l a p r - e g 'n tr , i r r r p r .i n r i r .r
r - e spuestas del tip. de las qr-reesperaramos qr-reclier:rrilos se'es
hrrrr'tnos al
escuchar relatos similares. Los particlar.ios de la lR ftrer-teafir.nrrn(ilre
en
e s t a s e c u e n c i a d e p r eg r - r n ta sv r e sp L l e sta sl rm q u i n a n o s l o si n r tr l a
una
h a b i l i d a c l h u m a n a , s i n o q u e ta m b i n :
1 ) p u e d e d e c i r s e l i te r a l m e n te q u e l a n r q r ri n a cctr r tp r e r tr l ce l r e l a t. y p r o p o r c i o n a r e s p u e s t a s a l a s p r .e g r r n ta s,r
2) lo que la mquina y su programa hacen es ex\tlic.r la caprciclaclhum a n a d e c o m p r e n d e r e l r e l a to r . r e sp o n d e r . p ."g ,,n i u , r ..",.cai e e l .
A m me parece que ningtrna de estas dos afirmaciones c.crrc.rr.a un
sostn total en el trabajo de Schank,' como intentar clemostr.ar a continuacin.
una manera de probar cualquier teora cle la n-re.te estriba en preg'ntarse a uno mismo qu suceder'a si nri mente realrnente ftrncionara sobre
los principios con que Ia teora dice que funci.nan toclas las n-rentes.Apliquemos esta prueba al programa de Schank con el sigrrie nre GerlanketrcxI No pretendodecir,claro
est,que el propioSchankse encuentrecornprometiclo
co
estasafirmaciones.

S,1

I',IENTES, CEREBROS Y PROGRAITIAS

v que se me
pcrimerlt.Supongamosque estoy encerrad,oen una habitacin
Supongamos adepropo..io.ru'un f-ajogrande de textos escr"itosen chino
escri
to ni habl ado'
ni
d" h " i h o e l c a s o ) q u e n o s c h i no'
rn a, ( . o- o
china
",
escritura
la
reconocer
poder
y qr-reni siquiera tengo la certeza de.
japonesa
de
una
o
escritura
la
de
como tal, distinguinola, por ejempl,
slo
chi'a
escritura
la
m,
Para
alguno.
sel.iede garabatossin signiiicadt
que despus
es una r"il" d" garabatoJsinsentido.Ahora bien, suponganlos
que
contiene
otro
" .".ibi. est" ;o de textos en chino, se me proporciona
Las
primero
el
con
fa'io
una serie de reglas para relacionar el sepgndo
hablante
otro
cualquier
como
bien
tan
r.eglasestn en inglei v las entiendo
un conjuncleesta lengua. Me permiten estableceruna correlacin entre
"fonnal"
con
for-males.
de
smbolos
conjunto
y
otro
formales
to de srnbolos
completamente
slo quiero decir aqu qrr" p,,,e.loidentificar los smbolos
faio
po. ,tu formas. S.tpo.rgu*.rs tambin ahora que recibo un tercer
ingls,
en
otra
instr'cciones,
cle smbolos chinos i.rrio .or algunas
'ez
los dos
qlle me per-rnitencorrelacionar elementosde este tercer faio con
con
responder
cmo
de
acerca
instmven
me
primeros, v que estasreglas
que me
forrna
de
lipos
a
ciertos
forma
cierta
de
chinos
.i",ro, smblos
que
lireron proporcionadas en el tercer faio' Sin yo saber'lo,las p^el'sonas
"relato"
primerfajo,
nre diern todos estossmbolosllaman "manuscrito" al
"l'espLrestas
a las preal segundo v "preguntas" al tercero. Adems,llaman
de
y
al
coniunto
fajo'
tercer
al
lo, ,l-olos que doy en respuesta
,.t.rr"
^ ingls que
"el programa" Ahora
lo
llaman
p.opor.ionaron
iegl.s en
-
la historia un poco, imaginemos que estasperbien, sl,r para complicar
sc , nast am t in me p ro p o rc i o n a n re l a to s e n i ngl s, qtl e vo comprendo'
v que luego me hac' preg.ntas en ingls sobre esos relatos v vo les resp,rr-r.lorambin en ingis. Supo'gamos tambin que despttsde ttn rato
i,)gr,, ,"gui. tan bien ias instmcciones para descifl'arlos smbolos chinos
logran escribir tan bien los programas desdeun punto
,, , p.o-grrrrrradores
clevista externo -esto es,desdela perspectivade algien qlle se encuentra
ftrera de la habitacin cloncleestoy encerrado- qtte mis respuestasa las
pleguntas pr-redendistinguirse en absolttto de ias que proporcionara ttn
irablanted"l chit o. Nadieque slo obsen'aramis respuestaspodra afirrnar
qlle no hablo ni una paiabra de chino. Supongamostambin qne mis resa las preguntas en ingls son (qu dr,rdacabe) indistingrriblesde
,i-restas
ias cle otros hablantes del ingls, por la sencilla razn de que )'o sc)' tln
hablante de esta lengua. Desde el ptrnto de vista externo -el de alguien
,.uelea m is " r es p u e s ta s " -, l a s c o n te s ta c i o nesa l as preguntas en chi no
v . lu. preguntas en ingls son igualmente buenas. Empero, en el caso del
chino, a cliferenciadel ingls, fcr-rnulomis respuestasmediante el manejo
cle smboios forrnales no intetpretados, En lo que respecta al chino, nle
cclmporto simplen-rentecomo una computadoa; realizo operaciones de

lvfENI-ES,
CEI?LBIiOS
Y pROGR;\IIAS

cmputo con base en elementos especificados l'onnalmente.


En cuanto al
chino, no so\-ms q'e un ejemplo concreto del p'oer.arrra
de tna c()mp'tadora.
Ahora bien, las al-inaciones acerca de Ia t,q f.er.te esti-r'lan
c-re la
computaclora programada compr.cnde los relatos qu., p,..,g,-a,r-ra
v
e.iplica
"l
en cierto senticlo la conrprensin humana. Sir-renrbarg,r,
n,-ra.-"r-r.orrtan)os
ahora en una posicin qrle nos perrnite exalninar estas
alir.nraciones a la
luz de nuestro experirnento clel pensamiento.
1/ En lo que respecra a la pr-imera asever-acirjn,me pal.gcrebastate
6vio
en el ejempl() qLle no entie'do una sola palabra cle los r.elatrs
chi'.s. Mis
entradas v salidas de informacin son ir-rclistingtriblesde las rle
rn ablrnte
chino y'aunqlle pueda contar con el p'oe.a,'a forr,-.ralqlle s.qr-rier.a,sig'
sin ente'der nada. Por la misma raz.-t,lzr co'putacl'r'a
cle .sclra.l. ,o
entiende rada de ning. relato, sea en chino, en ingrs o en Io
cr.e sca, ya
que, en el caso clel chino, la cornputador.a so\ \o, v en l.s
casos en qLle no
s o l 'l a c o m p u t a d o r - a , e l l a n o ti e n e m s q u e yo 'e n e l ca so e n q u e l l .
cn ti e n cl o
nada.
2) F.nlo que concier-ne a la segunda afil''raci', c1,e el pl.()gr-.rra explica
la cor-nprensin hunrana, podemos obsen.a' que la cornprrJora
v sLl puog r a n r a n o a p o r t a n s r fi ci e n te s co n d i ci o r r e s d e co n r p i - en si r i n , ya q r r e
la
computadora v el programa se encuentl'an en frrr-lciorrrnrierrto lrD llay
1,
cotnprensin. No obstan'.e, proporci<.rnasiqr.li.2una condicirin neccsar.la
o hace una contr-ibucir-r significante parzr la cornpr..-nsi<in? llno cl, l.s
argulrentos de los clefensores de la ln ftrerte es clile crrrncllco)l.ect() 1l
relato en ingls, lo que hago es c-\actanle'te lo rnismo, o quiz-:i alg, nr:is,
q u e h a c a a l m a n e j a r l o s sr n b o l o s cJr i r r o s.Es ta n s 1 ,, tr n i r - r r r n i r u l a ci o r .r
sin-rblican'rsformal lo que distingue el caso del irigles, que s c,nr-,rc.rrclo,
del de chino, qLle no conrprendo. Arrnque n..,lre clenro-*tr.clo
la falsedacl clc
esle argunlellto, clertamente parece incrtble en el e.jenrplo.La cl.eclibiliciacl
que tiene el argurnento proviene de la strposicin de qtrr: podenrrs cr.car.
un programa que tenga ias mismas entr.atjas 1, salidas qrre los hablrntes
nativos, adems de suponer que los hablarrtes tiene'r.lalgrn nivel cle clesc r i p c i n e n e l q u e t a r nb i n e l l o s so n e j e m p l .s c,,n cr - e to sd e r r n
l l r o g r .r r r :r .
Sobre la base de estas dos iriptesis supollenlos cILrenun cuanclt el
r^rg'ama de Schank no sea la historia completa de la cornpr-errsiirn,s
ruccle ser.
parte de ella. Br-reno,slrpongo que es una posibilidad ernptica,
iero lrasta
ahora no se ha oft'eci.lo la ms rnnima razrn p;rr-acrL-er.qrresea cierta, ya
qrie lo qLle el ejemplo sugiere --aunque ciertamente lro tlerntrestr-a-- es qll
el programa de la computadora es sencillarnente ilr.elevante par-a nti r:ornp r e n s i n d e l r e l a t o . E n e l ca sc d e i cl r i n o r ,e r r r .o{o cl o Io q tr c l a i r r te l i g t,n t.i a
artificial puede poner dentro de m medianre Lln prosr.anra, no entienclcr
.\
n a d a ; e n e ] c a s o d e l i n e l s e n l i e n d o to cl o v h a sta e l n l o r n e n r o n o e r i ste

I]6

MENTES, CEREBROSY PROGRAMAS

que mi comprensin tiene aigo


absolutamente nlnguna razn para suponer
s clecir' con operaciones de
qLle ver con prograrrtut t cmputadora'
especificados M-ientras el
cmputo sobre puros elementos formalmente
de cmputo sobre puros
se d"fi.ta en tr-minos de operaciones
;;;;.
sugiere es qtre stos
ejemplo
el
que
lo
elementos clefinidos fr"tu1"-'"'-tte'
relacin interesante con la comprensin'
,,o gt..dul
;;;;;;l;t
''tittgttt'o
suficientes v no se ha dado la ms
tofiditio't"'
Ciertameute .to
"*irt"tt
condiciones necesarias' ni siquiera
mnima razn para ,a'pot"t qlle son
que la
si!nificativa' a la comprensin' Ntese
qr-recontribuyan cle
diferentes
mquinas
que
en
-ot'"tu
frterz-aciel argumento no radi sirnplemente
operen
entradas salidas de informacin aunque
mismas
teneilas
-v
aur]
punto'
tto."t
ste' por supuesto'
sobre diferentes principios formaies;
:1
que
formales
principios puramente
Meior dicho, cualesquira que sean los
se intro du ce nenlac om put ac lor a' nos et ns uci e n t e s p a r a l a c o m p r e n s entender
in'
los principios fonrrales sin
Ya que un ser tlu-u,lo'p'""
'"g'lit ulgir.ra para suponer que tales prinr.rada.Tampoco se nu orr".i" .irr,
cipio sson ne c es 1r t . "' o' iq"l"t ' ac ont r i- bu1' "' - t t " ''p t t " t n o s e h a d a d o r a - operando
tttu''ttio vo entiendo ingls' estov
z-n algr-rna puru ,npott"'qtt"
fornal'
con algn proJranla
caso de .las oraciolles erl
IJLreno, entonces, qtr es lo que tengo en el
La respuesta obvia
chino?
en
.u,o de las oraciones
ingls que no tengo
"r.t"l
no tengo la ms
que
mientras
primeras'
es que s lo que significan las
Empero'
segundas
en qu conlas
cle
rnnima iclea acerca del significado
lo que fuere?
sea
mquina'
rlna
a
drselo
p,,i.u*os
,ro
siste esto y por qtr
contlnllal'
quiero
pr'"g.nta rns adelante' pues primet'o
Regresare o
"rru
con el eje mplo.
a varios estudiosos
He tenido la oporturniclad de presentar este ejemplo
parecen estar de
no
que
interesante
reiulta
cle la inteligencia artificial 1'
actterd oco"nc r r les lar pli. c aadec r r ada. Heo b t e n i d o u n a a s o m b r o s a V a las ms conlunes (que
riedacl de r.plicas y a continuacin considerar
especificar iunto con sus orgenes geogr'ficos)'
comllnes
Sin embaigo, antes quiero cletener algrrnos malentendidos
produce
se
discusiones
estas
de
"con-rprer-rsiZn":
muchas
en
acerca de la
sealan
crticos
Mis
"comprensin".
palabra
la
de
un excesivo tejemaneje
que "comprensin"
comprensin;
de
clifeientes
gruo,
qrre hay
-.r.o, pi".li.udo de clos posiciones' que incluso-existen distintos
simple
r-.'o
"r.trt
ley del medio excluido
tipos y niveles .1" compr"nsin v que a menudo la
de ia forma " enenunciados
siquiera se aplica i" *ur]".o clirecta a
una simple
'i
tie nd ey"; qlle en m uc hos c as os es una c uest i n d e d e c i s i n 1 'n o
qrriero
puntos
estos
todos
A
y,
etctera.
r
entiende
si
.restin de hecho cle
puntos
los
que ver con
rlecir: por supuesto, por supuesJo, pero nada tienen
"comprensin" se aplica literalqtl"
iot
.la.os
.u.os
Hu'
discusin.
e'n
"tt

tvlENTES,
ClIrliFIlR(lS
Y I'R()L]R;\N1A,

n,

m c n t e v c a s o s o b'i o s e n q u e n . se a p l i ca ;
],e sto s cl r s ti p o s cl e ca so s so n
t o d r l o q t r e n e c e si to p a r a e ste a r g u n r e n to .z yo e n ti e n cl o r - e l a t's
e n i n g l s;
en menor g|ado, puedo entencler |elatos en l'r-ancs;en nren()r.gr-aclo
rn,
r e l a t o s e n a l e m n , p e r o e n ch i n o , a b so l tr ta n r e n te r a cl r .p o r .r i tr r
p a r te , m i
a u t o m v i l v m i s tr 'r a d o r a r o e n ti e n cl e n n a cl a : e se a s'n to
no
.- l est, i n c u m b e n c i a . c o n fi - e cu e n ci a a tr i l >u i n o s l a ca p :r ci cl a clcl e "co n r p"nr - e n si n ,,y
otros-predicados cognilivos por nredio clc nretrfirr-a.. u.uloins
r,
a alltomr'iles, surnadoras v otros artefactos,
rer-o.ada s" pr:r,"tr. co]r tales atl.ibuciones. Decimos: "la pue.t:r .sa,/;ecrrinclo rbr.il.sc,a ca.sa
clt: str celda
fotoelctrica", "la sunrador-a.scl:
t:rlttto (ertrt,rttlt,t:tjttto, (,.\(.(tl)(tz,/r,/strnrar
v restar pero no dividir", v "el tcr.nt<_rst
alo .,tt,rt.ibc
cant bios rle tt nt ttcratur_a,,.
L a | a z n p o I - l a q u e h a ce m o s e sta s a tr i L r tr ci ,r n cse s L r r stl u r tr .i n t.,r - e sa n te
v
t l e n e q L l e V e r c o n e l h e ch o d e q r - r ee n l o s a r te fa cto s e xte n cl e n r 6 s
tr e sl r - a
p r o p i a i n t e n c i o n a li d a d .r N r r e str 'r sh e r l a n r i e n ta s so n e xte n si r i n e s
cl e n u e st r o s p r o p s i t o s v , p o r co n si g u i e n te , n o s p a r e ce n a l tr l a l a tl i Ir r i r - l e s
i l tte n c i o n a l i d a d n r e t a f r - i ca tr e n te . Si n e n r b a r - so , a r n i
.j r r i ci o e sto s c.j e n r r l e sr r o
t i e n e n n i n g t r n a i m p o r ta n ci a l - i l o s l - i ca .El se l r l i cl o e n r l q r r e ,,,,.
- r .,".tu
a u t o n l t i c a " e n t i e n cl e i n str ttcci o l l e s" :r p a t- ti l cl e str ce - l cl lro to cl cl t- i ca
l to
e s d e n i n g t l n a n l a n e r a e l se r - r ti cl ocn e l c r - rre,o e n ti e n cl o i n g l s.
Si r :l se ti cl o
e n e l q t r e l a c o n r p u l a d o r a p r o g r a r n a cl a cl e Scl l a r r k c,r ,r r r r - ",r ,.1l g" s
r .e - l a to s
e s s L r p u e s t a m e n l e e l se n ti d o r n e ta l ' r .i co e n r .l q u e l a
,tr .,rta r r l tl tt ti ca
e n t i e n d e 'l r o
e l s e n ti d o e n e l q u e 'o e 'ti e 'cl ,
i n g l e s, l l ,, r 'a l cl r .r .rl a p e n zr
d i s c u t i r - e l a s t r r - r t o .Si n e n - r b a r g o , N e u ,e l l v Si l r .l o n ( 1 9 6 1 ) t- scr .i b i e r ( ) .
qrre
e l t i p o d e c o - e n i c iti n q u e a tr i b tr ve tr a l a s co n r l l u ta cl o l 'a s e s e \a ctl n r cn te
el
m i s m o q u e e l d e l os se r e s h tr m a n ,r * . M e a g r a cl a l a t.e cti ttr clcl e e sl a a l i r .n tr _
c i n Y e s d e l t i p o q u e co n si d cr - a t . Ar g r r n r e n ta l ' q u e c sr ' ti cl e l i te a l
la
c o m p u t a c l o t 'a p r o g r a m a d a co t- t- tp t'e n cll e
o q u e e l a u to n r r ,i l v l a sr r r n a cl o r .a ,
e s d e c i r , e x a c t a n t e n te n a d a . L a co r r r p r .e n si r r cl c l a c,r l r l .r r ta cl ,,l t l to e s
p r e c i s a m e n t e ( c o m o m i co n r p r - e n si n cl e l a l e n r .) p a r ci :r l . i r cr r r p l e ta ;
es nula.
P a s e n t o s a h o r a a l a s r - u l i ca s.

2 " C onl pr ens i n"


ta l l l b i n i n t p l i c a t a n t o l a p o s t ' s i n c l e e s t l i l o s n l c n t rl c s (i rrt t . c i 6 rrl l e s )
c or nr l a Ver ac i c l ad ( v al id e z , x i t o ) d e c l i c h o s e s t a c k rs . P a l a l o s l i n c s rl c
c s rc e n i l i s i s rro s l i n ri tar c - m os a l a pos es i n cl e l o s e s t a d o s .
' I- a i l l tt- t- tc i onal i dad e s , p o r d c f i n i c i ri n , l a c a l a c t e r' s t i r: a c l c c i c l t o s rs t rrl o s
rrrc n l a l e s n rc . di ante l a.c ttal s e di dgen a o b j e t o s v s i t u a c i o n e s c l c l rru rrrl o o s c o c u p a n c l c
t ' l l o s . p o r. c o l rs i gui etl te, l as c r eenc i as , l o s d e s e o s v l a s i l rt c rrc i rn c s s o n rs t a d o s i n t c n c i o n a l c s ,
r)ri c n t t a s (l u c
l as l onnas ,r j i r i gi des d (' rn g l t \ l i i l
t \ i , rt ) i l o l , r \ , I r l , ; i l r n t rr0 r i l l l , , rl r; rr i , , l l , r, , , ; rs r,
\ (i (. 1 1(,
Seel h'( l qT qL

MENTES, CEREBROSY PROGRAIVAS

1 . L A NPUCA DE I- OS SIST E\{ AS (B E R K E LE Y )


habi taci n no enti ende
A u n c u a n d o e s cie r to q u e e l in d iviclu o e n ce r r a d o en l a
qtle s
el hecho es que l es s una parle de un sistema con'lpleto
;l-;;ht;,
el que estn
e'
libro
p,l
enorrne
un
s
ant
tiene
inclividuo
entiencle el relato.
realizar los
las reglas, ..,".,tu .ot gran cantidad cle pa-pel 1'lp,icespara
chi no.s. Fntonces,
"r..iiu,
. i . " f " r , t i e n J " b a n co s d e d a to s" d e lo s co n ju n to s de smbol os
slo ai ini'iduo, sino a todo el sistema del
la comprensir, .r., pr"J" u,b.ri.."
que l es slo una Par1e.

permitarnos que el
Mi respuesta a la teora de sistemas es muy sencilla:
las.eglas
inclividu absorba toclos estos elementos del sistema. Memoriza
clculos
todoshace
clel libro y los bancos de datos de los smbolos chinos v
ha1'absolutamente
No
sistema.
los mentalmente. Luego, incorpora todo el
haya incorporado. Incluso poden'ros deshacerll;rda en el sistema qr'"
""
trabaia al aire lib.e' De cualquier modo'
ros de la habitacin -.rrrpo.t"iqt'e
pues no hav nada
.l-ti,to
de
I'n firtiori tampoco el sistema'
irr entiende nada
no haY modo
L.n ste que no est dentro de 1. Si l no entiende, entonces
de l'
pae
cle qr-reei sistema entienda, pues el sistema es slo una
a la
respuesta
esta
incluso
E,n realidad, me siento algo molesto pcr clar
bastante
parece
me
teora
la
1t-or-ade sistemas,.va qlle, para empezar',
chino, \a cottirrverosmil. La idea es qlle aunqlle Llna persoila no entienda
poda
manera
alguna
de
papel
de
peiacitos
de
iutrcit'L de esa p"r.orl^ -y
estllqlte
no
eiltencler chino. No me l-esulta fcil imaginar cnlo alguien,
esta
lerosmil
r.ier-abaio el dolninio cie una ideologa, podra considerar
con
conlprometidas
personas
las
iriea. Incluso as, creo que muchas cle
qr-re
as
parecido;
mu'
algo
por
decir
acabarn
la icleoioga de la l frrerie
opinin,
esta
de
una
con
acuerdo
De
adelante.
poco
ms
u.r
Siar-nos
"'ersitin
entienda
el htmbre clel ejempio de los sistemas incorporados no
",,r,q.,"
por
(porqte,
ejemplo'
qr" Iohace tln hablallte c.hino
r,liin1en el sentido
"t se refiere a restatll'antes y hambuguesas,-eic.), "eI
rr,,rsabe que el relato
real'
!r,)nrbr-een cuanto sistema cle manipulacin de smbolos forrnales"
s
i
s
t
ema
e
l
q
u
e
c
o
l
l
s
t
i
t
u
v
e
hom
b
r
e
del
s
ubs
is
t
em
a
l]tttte
s en tien de c hinc t . El
:
confrrndirse
debe
no
chino
para
ei
forntales
smbolos
de
nranipulacin
d,:
r',.'n el subsistema para el ingls.
As que en realidad existen dos subsistemas en el hombre: uno que enlit,ncle ingls y el otro, chino, -"-"lo que sucede es que ambos sistemas tienen
D luv p oco qu e v er ent r e s "' Sin em bar go, q u i e r o r e p l i c : r r q u e n o s i o
tienen muy poco que ver entre s, siuo que ni siquiera son l'enlotamente
:;emejantes. El subsistema que comprende ingls (suponiendo que l)os per:itiremos por el momento l-raplar con esta jerga de "subsisl,emas") sabe
,lr re los relatos tratan de restaurantes y de comer hanrburguesas, sabe que

MENTES,CEREBROS
Y PROCIRAMAS

89

se le hacen preguntas acerca de restau'arltes y que est resporclierclo lo


mejor que puede al Jracer varias infi:rencias a partir del conteniclo cie la
narrat:in, y as sucesivamente. Pero el sistema chino no sabe nada cle esto.
Mientras que el sistema ingls sabe que "hambur.guesas" se r.efier.ea hamburguesas, ei subsiste.ma chino slo sabe qtre despus cle "giiir.i giiiri" aparece un "guara guara". Todo lo que sabe es qlle los distintos srnbolos formales ingresan por un extl'emo, se nraniprrlan confor-nre a r-cglas e,scr.ita.s
en ingls y otros smbolos salen por el otro extrc-nro. Tocl,r c.l
.ropsito clel
ejemplo original era argurnentar qlle esa rnanipulrcin de srrr[l<.,s
ror-s
misma no bastaba para compre'de'chino
en ningn sentido literal, p()r q.e
el hombre poda escribir "guara guar-a"despus cle "giiir-i giiir-i" sin enl ender.
nada de chino. As que postular strbsistemas dentro del fionrbrr..o sat isf ace
el argumento, porque en pr-imer lugar, los srrbsisternas r)() se cncllentr.an
en mejor posicin que el l-rornble; no poseen nacla que se par.rrzcr
sicluier,a
r e m o t a m e n t e a l o q u e ti e r e e l h o m b r e ( o str b si ste r n a ) q u e h a b l a i r r g l s. D c
h e c h o , t a l c o m o s e d e scl i b e e l ca so , e l sr r b si ste r a ch i n o e s ta n sti l o u n a
p a r l e d e l s u b s i s t e m a i n g l s, u n a p a r tc q r r e i n te r l i e n c e n e l r r r u r cj e cl c s r bolos carentes de significado confor.me a las r-eglnstJ.,l inglr:s.
Preguntmonos qu es, en plinrer lrrgar-,lo qrre.supuestlrilerrtc roti\r
al sisten-raa r-esponder; es decir, qrr l'r-rndanrcntr)sitttleletttlil(r.s sc sLlp o n e n p a r a a f i r m a r q r r e e l a g e n te rd e b e p ( ) se e l . n sr r b si stc. l l r
tl t l _ r l l e s
que entiencla literalmente lelatos en chilro? Hi,sta clrrrrle
rtreclodccir, los
nicos fundamentos son que en el e.jenrplo vo tengo la r.is.r:i crrtr.aclay
salida de infornacin que los hablantes clel clrino v un pr.ogl.anra qLre
'Lr
de la una a la otra. Pelo el propsito crbalde k-r.s
eiernplos lla siclo ir rterrtd e m o s t r a r q u e e s o n o b a sta b a p a l 'a co l n p l 'e n d cr e n cl se n ti .k, e l r q r e vo
c o m p r e n c i o r e l a t o s e r r i n g l s, p o r q u e L l n a p e r - so l l a ..\'p ( ) r co i l si q u i e n te L - l
conjunto de sistenras que la constituven, ,odra 1ener.la conrbinrcirin r:tl_
necta de entrada, saiicla v progr-ama v arrn as no r.ntencler. nacla t-rr el
senticlo literal pertineltte en el que vo enliend,r ingls. I-a tinir:;.rnrotivaci<in
para afirmar que debe existir rtrr srtbsistcma en nri interior crrecr.rrrrpr.eclc
chino es qlre vo tengo un prograrna v aprol.,t-la pnreLra de 1'trr.ine;
rrrecltr
e n g a r i a t - a I o s h a b l a n t es n a t.i vo s d e l ch i n o . Pt r - or r n o r i e i o s
r tr to s e c e s,
tin es precisamente la suficiencia cle la rr-ucb:r clc -r-rrlirrr.]il ejernplo
m u e s t r a q u e p o d r a h a b e r d r s "si ste m a s"; a m b o s p a sa n l a p m e b a cl eTr r r i n g ,
p e r o s l o n n o c l e e l l o s e n ti e n d e ; v n o ti e n e se l tl i i |l a r g u n te n l a i .co n tl .r e st( l
para decir que, como arnbos pasan la
lnreba dt rr'ilrr'., rnrl-rosjc'lre
conrprencier', ]/a que esta afirmacin no satisface c.l ;rrlrnrento clt-'ctreel
sistenra dentro cle m que complende ingls tiene nrtrcho nrs qrre el sis[enra
que nada nrs procesa chino. En rocas paialrras, l;r rplic:;r c,ltlos sistcras
s e n c i l l a m e l r t e d a p o r se n ta d a l a cu e sti n .r l i n si sti r si i r a r g r r n r er r to s r tr c e l
sistenra debe entcncler chino.

F
r

E
90

AS
Y PROGR,A]\
MENTES,CEREBROS

corrsecttencias
Adems, la rplica de los sistemas parecera condttcir a
que debe
concluir
de
que son independientemente abs'rds. Si hemos
entrada
de
especie
una
que
tengo
existir coglticin en m sobre la base de
pareceria
entonces
ambas'
entre
programa
v salida cl" inforttlacin 1'un
acabarn
qtre todos los tipos de subsisien-,as que no sean de cognicin
el cual mi
en
descripcin
de
ni'el
un
existe
eiemplo,
Por
,l"r-ro cognitivos.
cualqtr ier canestmagJp.ocesa informacin - eien'rplifica co.cretamente
que
no queremos
cle conlptltadora, pero considero
tidad de p.ogru*^.
sl aceptamos
Pero
1980).
(cf.
P-I1'shvn,
clecirque tiene comprensin alguna
evitar
podemos
cmo
dificil
resulta
la rpca cle los sistemas, entonces
"'er
subsisteson
etc.,
hgado,
el
corazn,
el
que
estmago,
el
la af-irmacin de
principios para
rras que .ort-rp."n.l"r-t, puesto que no hay una manera de
entiende de
chino
a decir qr_reel subsistema
distinguir qu nos
chino
sistema
que
el
-oiir",u
decir
afirmlr qu. el estmago entiende. Por cieflo,
entrada
tiene
estmago
que
el
tiene informacin cle trada y cle salicla v
constittlve una respuesta
v salicla cle alimentos v productos alimenticios no
agente -desde mi punto
del
r,ista
punto
de
el
qul
desde
a esta cuesti', 1,a
ni en el chino, pLles esta
comida
la
en
ni
informacin
existe
cle vista- no
La
lengua no es ms qlle tlna serie de garabatos carentes de significado
oios
los
en
informacin en el caso de chino se encLlentra exclusivamente
qr're les impida
de los progran-raclores y de los intrpretes, v no ha1' nada
rganos digesmis
de
salidas
entradas
las
t
.or-,siderurl.omo informacin
, ean.
livos, si a s lt - -des
en la
El ltimo punt o s e r ef ier e a algunos a p r o b l e m a s i n d e p e n d i e n l e s
tuet'te
]a.tn
Si
ia pena des'iarnos un poco pal'a explicarla.
lA [r-ler-tev
'aje
distingtrir
ha de ser unu .u,r-tucle la psicologa, entonces debe ser capaz de
Debe
son'
lo
que
no
los
de
rnentaies
Ios sistemas que son genuinamente
de
nrente
la
trabaja
que
los
sobre
principios
los
ser capaz. de isting.ritas, no
ser
no
de
menlales;
no
sistemas
los
trabajan
qure
los
sobre
oquellos
distincin
n os expiicar qu es es pec f ic am ent e m e n t a l e n l a m e n t e Y l a
jos
espectador'
del
los
o
en
entre ental )'no mentl no puede quedarse slo
sino qrre de be s er inlr ' lls ec a a los s is t en l a s ; d e n o s e l 'a s l . c a d a e s p e c l a do. pod.u tratar a Ia gente como no mental y, por eiemplo, a los huracanes
conao menlales, si asi lo deseara. Sin embargo, muv a nlenttdo en la literatlrra sobre IA esta clistincin resulta confusa en aspectos que en el largo
plazo resultaran desastrosos para la afirmacin de que la IR es una disci"Puede decirse que
plina cognoscitiva. McCarlhy, por ejemplo, escribe:
y tener creencreencias
tienen
los
termostatos
tan sencillas conlo
r-r-rquinas
capaces
las
mqttinas
de
mayora
de
la
caracterstica
Llna
parece
ser
cias
cle solucionar problemas" (Mccarthl." 1979). Quien piense que la lA tiene
la probabilidad de ser una teora de la mente debe ponderar las implicaciones cle ese comentario. Se nos pide aceptar como descubrimiento de la

I
I

t,

tt
F

r.
t
t

,t
l
,

t
r
I
f

I
E

t
I
E

[.

IV IE N TFSC, ]E R FB R OS
Y P R O(IR A ]\J A S

9I

IA fue.te que el pedazo cre.metaren ra par.ecl


crrerrtiriza'ros Pa.a regurar ra
tenrperatrrratiene c'eencias eractamc-rtecn
el ,-risrlrosentlcl,ren que no_
sotros, nuestros cn-r,trges
v nuestl.oshijos las lenenlos,v aclertrs,
que,,la
ntavora" de l as dem s nt quinasde I a ir abit aci, i
, "1. , f
sumadora, i nten- upt orcle
"". , '*l"baclor a,
- lt r z- t ar nbin t iellen cr et - ncias
en est c sent ido
literal No es el propsi1ocleestear1curoa'gr.re'rar.e,
contl.rder pr_rnto
de M.ccarlhv, as que simpler.'entee,*p,r..rr.
r., sigrrierrlcsin criscrrsin.El
estudi o de Ia ment e par t e cr ehechos 1ur "r . , r , , . r , . ,
gr r c los r r r r nr ar . s t ienen
creencias,ntientras que los terntostatos,telf
onos o ,un'..l.rr=,r,-rr. Si ,"
obtiene una teora que niegrreestepu'to, se rrabr.
rogr.aclo
,,,-,..,r-rtro""-plo de la teora v sta ser falsa.Se tiene
ra impr.esi<iir
crecltrerrr-p",.roru,
qlle se oclrpan de la L'\.vescriben este tipo
crecosasricrrsa.rq.,J pued",-,
salirsecon la_suya,porqlle no la tonran reallnente
en ser.ir_r
v tantpoco pien_
san qlle los dems lo harn. propong' q'c- al nrenos
p,r,l.r ,r-,.rr,,rento
la
consi cl eremos
ser iam ent e.pienseint ensant er t f clur
e _antrer n r lir r r t o gu se
necesitarapara establecerqlle ese troz()clenreral
en Ia par.ecltie'e creencias reales,creenciascon cli'eccioraric'racr,
con co'te'ir[. pr..r,sicional y
condiciones de satisfaccin;c.eercias que.trr'ier.a'
ra l,rsibilidu,l.r" ,",.
sl i daso dbi l es;cr eenciasner 'iosas,a. , siosus
o segr lr . as;
cr . eencias
dogmti cas,raci onaleso super f iciosas,f c'sciegas
o cognicior r r . tsir r r beant es,
crralquiertipo de creencias.El ternrostat,,,ri
.,o,,Ji.r"t,,par.r
r,o, como
tampoco l o son e l est m ago,el h gado,r a s"r adr
", r . a,
er t cif . r '. sin em _
bargo, p.esto qlle estanroscor-rsicler-anclo
la idca scr.ialrrerrle,
,bstir-veseque
s,u'erdad ser'afatal para la afirmacirin de cltreIa lA
frrer.trcs llril clencia
de l a mente P o. ahor a, la r r ent e se e. cl er t r - a
en lr cr : r s r ar . t t , s.
Lo qt r e
saber es qu dist ingr r ea la nt ent e clc los t er . nlos{at t , s
3yeri amos
v cle los
hgados Y si Mccarthv ru'iese t'az.(:n,
ra r ftrerlc r- ;;u.i;;;;rr,,,,,o
peranza para decrnoslo.
"r-

2. LA RpLr cA
DELRoBot ( ynr _e)
S upongamos que c s c l i bi rnos un ti po c l e pr-oqrrnra
c l i l ' el .c nteal c l e S c l l ank . S u_
pongamos que po nemos una c omputador-a
dc nl ro c l e un rrtrrtv c trerrs ta nt s ri l c r
acepta smbol os fonr-ral es c omo c ntrac ra y pr,c ruc e'
s -nbol os f,,,.,,,^1", ..,n,r,,
sal i da, si no que cfec ti ' amentL- opera ar r.,boi
c re tar nrtnc -r-a
qu., e.t.:-r,og,nul g,,
mu1'parcci do a perc i bi r, c ami nar., des pl az ars e,
mai l l ar., .,,,r,"., betr.,r. l . q' e
se qui era. E l robot tendra, por c .j enrpl o, una
c .i rnl u.ac rc tc l ev i s i ri i l c gr-ardz rra
cual l e permi ti ra "v er"; tendra braz r.s pi c r.rl as
v
p.a p6< Ier ,,ac tuarr,,v l oc l o es l c r
l o crntrol aa su "c c rebro" c re c omptrtadc ,r-a.
A c l i ferc nc i a c l e Ir.,,,r,,,,tr,.r,r,,u.1"
schl nf, este robo t s era c apaz .l " i rno gc ntri na
c rnrp.e-.s i rn v c l c .trrrs es tac l .s
mental cs.

92

MENTES,CEREBROSYPROGRAMAS

Lo primero que hatrra que obser-varacerca de la rplica del robot es que


se acepta tcitamenle q.r" lu cognicin no es nicanlente una cuestin de
n.ranipulacinclesmbolos fornales, ya que esta rplica aade un conjunto
causalescon el n-rundoexterior (cf. Fodor, 1980)'Pero la resrle relraciones
"perpesta a la rplica del tobot es que la inclusin de estashabilidades
y "motoras", en nada contribul'e al entendimiento,en par-ticular,
c.eptuales"
o a la intencionalidad, en generai,del programa original de Schank. Para
captar esto, obsrveseque el r-nismoexperimento-pensamientose puede
.,rii.u,-al caso dei robot. Supo.gamos qLleen vez de la computadora dentro
como en el casooriginal del chino,
dcl robot, me lneten elt una habitacin 1,',
lengua con rns instru-ccionesen
esa
en
srnbolos
se me propor-cionan ms
con otros smbolos chinos para
chinos
los
smbolos
par-a
aparear
rngls
,lrji,olverotros smboloschinos al erterior. Supngase,aunqueyo 1oignoro,
clrrealgunos clelos snrbolosque recibo provienen cleuna cmara de telet'i,i,r irit"g.uda al robot y que los otros smbolos que vo remito al extedor
los motores dentro del robot que mueven las
sirven rJ.o echur u
^.tui Es imporla'le resalta que todo lo que esto'
pier.nai o braz.osdel .obot.
i,aciendoes manipula| slnbolosforrlales; ignoro todo lo dems.Yc)recibo
la "ir1lbrracin" a panir del clispositivo"de percepcin" del robot v doY
"istlrcciones" a su apar-atomotor sin saber que lo estoYhaciendo.Yo soy
t l ltmrinculo cleirobot pero, a diferenciade los iromncuios tradiciona]es,
ignoro qu est sucediendo;no comprendo nada exceptolas reglaspara la
,r,a.ipuiu.ion de srnbolos.Ahora bien, cabe mencionar en estecaso que el
rrbol carecepor completo cleestadosintencionales,pues sencillamentese
' clesu p|ograma.
como r.esultadode sLlsisteniade circuitos e1ctricc-rs
a,:1.iva
irOr.otra parle, ai ejeinplificar concretamenteel programa vo no tengo estaclosintencionales per-tinentes:todo lo que hago es seguir instmcciones
raramanipular smbolos fonlales.
DE cEREBRos(Br'nr-elr'v Y [4ir)
.3.Ln nplIcA DF,I-sIMUI-ADoR
que
S ) u p o n g a m o s c u e se d ise a u n p r o g r a m a g u c llo representa l a i nforrnaci n
t . . r i em o s a c e r c a cle l n r u r id o , co m o se r a la in fb r r n aci n de l csl i bretos de S chank,
s i s q u e s i m u l a la se ctr e n cia l- e a l d c e m isio n e s neurortal es cn l as si napsi s del
c e r e b t . o d e n n ha l la lte d e i ch in o cu a n d o co r n r renc{e rr:l al os en chi no v otrece
r ' e - s p u e s t a sa c e r ca d e sto s. I- a m q u in a a ce p ta los rel atos ett chi nrr y l as pregutrt l i s s o b r e e l l o s a m o d c, d e e n tr a d a : sim u la la e st r-uctura frrmal de l os cerebros
c l r i n o s r e a l e s a l p r o ce sa r lo s r e la to s t o fr e ce r e spuesta.s en chi no a manera de
s a l i d a . P o d e r n o s in clu so im a g in a r q r r e la m q u in a no opera con Ll n sol o pr-ograr n a s c ' r i a l , s i n o co n to clo u n co n - iu n to r le p r o g r a mas que operan en paral el o, de
l r t n i s m a m a n e r a e n q u e su p u e sla m e n te r ) p e r a n l os cerebr-os humanos real es
c u r n d o p r o c e s a n e l le n g u a je n r tu r a l. Ah o la b ie n, no cabe duda de que en este

IVENTES,
y pROCJtAMAs
CEREBROS

93
casotenclramos
queafirnrarqLrela mquinaha comprencliclcl
y si
l.s relrt.s.
nos negamosa decirlo,noestar'armos
tnrbinn"guri.l,,quc los rrabla'tesdel
chino entiendenlos relat.s?En el niverde las
srnapsis,
q' serao p.dr.aser
diferenteentreel programade la con-rputadora
1,cl
dcl ce-rebl.crrino?
'rogranla
Antes de contradecir esta rp[ica,nre gLrstar-a
haccr rrn parntesispara
anotar que se trata de una rprica extraa para
un partidari. de ra interigenciaartificial (o del funcionalismo,
etc.):1,op"r,rt qtre Ia idea clela rR
fuerte radicaba en qtre no necesitamossabe'
cino ^ftrncio.a er cel.ebro
para saber cmo frrnciona ra l-rente.
La hiptesis firndanie'tal, . as lo
crea yo, es que existeln nivel cle ,peraciones
mentales qtre cc,r]stade
pocesosde cmpr,rtosobre los eremenios
fornralesque constitrr'en la esen_
cia de lo mental .','que ptreclelle'arse a cabo
,"1, i,,, ili;;;;
rip.s cle
procesoscerebralesdel mismo modo que ""
cuarcuier.p,',,gr.onro
iiu:..,.,rp,,tadorapuede funcionar en distinros/tardwares
de comruraclor-a.
segir' ras
suposicio'es de la n fuerle, ra mente es
crelcerebro ro que er
programaes respectoderhardruarey, por 'especto
consigiien{e,es posible entender
la mente sin incurrir en el n'rbito lo ,-r".rrofisiologa.
si p^,-o-t',u.",,o
tu'leramos que saber cmo traba.iael cereb.o,
n, tenclr-aaur., o.r,p,,r.rroa
de.ella.Sin embargo, aLlnctrando se encrentra
tan pr-oximarllrr'cionamiento dei cerebro todar'a no es suFiciente
para procltrcir compr.ensin.
Para'er esto ms claro, imaginemos qLre
en li,gu. e .,., honrbr.ji'o'olin_
geen una habiracinrevor'iencrosmoros,
tenenlos,n hrmbre orerancro
un glupo complejo de pipas de agua conectacras
c:o'r'lvtrlas.cr-rarrcro
recibelos smbolos chinos, consultien el programa,
escr.ttoen i'gls, cnles
vlvulasdebe encender o apagar. cacra coiexi'clc
agua,,o.i]"rp,,,.,.r",.
una sinapsis en el cerebro chino todo el
sistena est cliseiraclocle lal
r
maneraqr-re,
despr-rs
de todos los "encencricros"
corrector, d".i., espus
deponer en funcionamiento tocrosrosgr-ifos
",
.orr"sponclientes,
rasrcspuestasen chino brotarn a la salida clela ser-ie
ctepipas.
A hora bi en, dnde est . ia_com pr ensin
en est e sist em a?Acept a el
.
chi no como entrada, sim ur a la esir uct r r - a
f or - nr alcr e las sinapsis r lel
cerebrochino l'entrega chino como salicla.
Sin errrbargo,er homr.eciertamenteno entiende chino, ni tanrpoco lo
hacen ras pilas .r" ug.,^, .i ,,o.
sintiramostentados a adoptar el punto cre
a mi'lrricio a6srrrdo,de
'ista,
qr-re
de alguna manera Ia collunciiz de hombr",
plpu, i" ;;.,;.;,rpr""_
de;recordernosque en prinr:ipio er hombre puecre
inter-narizarla est^rctura formal de 1aspipas.de agua y rearizar en
su
imaginacin
tocroslos
"encendidosneuronales".
El prolema con er simurador del cerebro es
que simula aspectosequi'ocados cleste.Mientras
lnicame'te sim.le la
estructura formal de la secuenciacle "encendidos"
neuronales en las sinapsis,no habr simulado lo que realmente es
impor-tanteacer-cader ce-

94

MENTES,CEREBROSYPROGRAN{AS

su capacidacl de prodr-rcir estar-ebro; es decir: slls propiedades causaies'


cle agua demuestra que las
pipas
las
de
clos intencionales. Y eiejemplo
las propiedades causaies:
para
suficientes
,ott
formales ,-,o
;;;pi";"i"t
de las propiedades cauformales
propiedades
las
iod".rro, extraer todas
sales neurobiolgicas pertinentes'
(BERKELEYY STANFORD)
4. LA RPLICADE I-A COMBINACIN
Arrncua nd oc ac launac ielas t r es r plic as ant e r i o l . e s p r - r d i e r a n . r e s l t l t a r c o mlaal contraejerrrplode
pletamente convincente por s misma como refutacin
son mLlcho ms
colectivamente
conjunto'
en
habitacin china, si se cc''nsideran
con Llna
cuenta
que
un robot
con.rincenlese incluso clecisivas.Imaginernos
imaginemos
craneal;
cavidad
su
en
en forna cle cerebro aloada
.u-p.ttuao*
de un cerebro husir-rapsis
que la comptttacioraest programaclacon todas las
robot es indistindel
mano; imagtn"-.,. tu-bi" lue todo el conrportamiento
conlo Lln slstema
esto
todo
ahora
imaginemos
gtrible del " .,r, .". humano, e
y salidasde datos' Sin
entr-adas
con
tornpututlotu
una
como
slo
irnificado v no
al sistema.
ducla,en tal caso tendramos q.r" t.ib.ri.l" intencionalidad
caso nos parecea racional'
Estoy totalmente de acuerdo en qlre en tal
que el robot tiene intencio."^ii^ irresistible, aceptar la iptesjs de
y
""
nada ms acerca de 1 En realidad'
t"puto'
nalidad, siempre y.*o
''
los dems elenlentos de
apafte de su apariencia v de su comportamiento'
pudiramos construlr
Si
irrele'antes.
son fi'ecuentemente
ii.o-blnu.in
dei comindistinguible
an-rpliamente
[uera
rn robot, ..,'o.o*por.tamiento
existiera
que
hasta
portamiento llumano, le atribuiramos intencionalidad'
alg rn motivopal. anohac er lo. Nonec es it ar a m o s s a b e r d e a n t e m a n o q t t e
formal del cerebro humano'
su cerebro de computadora es una analoga
en algo a los argumentos de
arttcle
Empero, realmente no \eo que esto
IA fuerte' la e-iemplificacin
la
con
acuerdo
qu:
de
por
Ja rn ftrene; y he aqu
v de salida-adecuados
entrada
de
datos
con
ftrrnal
p.og.ma
t.t
d"
concreta
de intencioconstituye r.,.,"to.ri.in suficiente, y de hecho es constituti'a,
la
operacin
es
mental
lo
de
nalidacl. Al decir cle Newell (1979),la esencia
de intenatribuciones
las
obstante,
cle un sistema de smbolos fsicos. No
ver con
que
tienen
nada
ejemplo
este
en
robot
al
cionalidad que le hacemos
que si el
de
suposicin
la
en
simplemente
basan
se
iorrnol"r.
p.og.u-u,
nosotro.s'.entonces
i'obot se ve y se comporta lo suficientemente parecido a
que debe poseer
poclran-ros st.lponer, hasta que se demuestre lo contrario'
v se
comporlamlento
su
estados mentales como los nuestros qlle causen
interior
mecanismo
Lln
con
contar
que
debe
expresen a travs de ste, y
manera inde.uput d,.producir tales estds mentales' Si supiramos' de
pendiente, cmo explicar su comportamiento sin tales suposiciones, no le

(IFIIEBROS
MENTES,
Y I'ROClRAfvf
AS

95

atriblriramos intencionalidacl sobre toclo si strpir-anrosque posee Lrn programa l-ormal. ste es pr-ecisarnenteel ptrnto qrre trat en rrri rplica anterior
a la objecin 2.
Sr,rpongamos que sabemos q.e el comportarrie'l'del
rob.t obeclecepor
completo al hecho de que un hombre recibe en su interior-sn-rbolosfor-males
no inter-pretados desde los receptores sensoriales del r-otrotv enva smbolos
forrales no interpretados al mecanisrncl rnotol'del r-obot, r clrreel hombre
realiza este manejo de los srbolos segrlrntrna ser-iedc'r-eglas.Supongarnos,
adems, que este individuo no sabe nacla acer-cadel robot Y que lo rnico
que sabe es cules oper-acionesrealizar con crrles smbolos sin significaclo.
En ese caso consideraramos qtre el robot es un lnueco rnecrrico irrgenioso.
La hiptesis de que el robot tiene mente r-estltar-a
ent()nces inlrrsri[icada e
innecesaria, puesto que ya no habr'a ninguna razirn para atribtrir.le intencionalidad al robot o al sistema del cual forma parte (exc-epto,pol-sLlpuesto,
la intencionalidad del hombre en el manejo cle krs srnbolos). El niar-rejode
smbolos forrnales contina, los datos de entlacla 1'de saliclase con.esponclen
con-ectamente, pero el rnico foco real de intencionalidad es el lrombre y l
n o s a b e n a d a d e l o s e sta d o s i n te n ci o n a l e s p e r l i n e n te s; n o l e , p o r .e j e m p l o ,
lo que entra en los ojos del robot; noriette la tttettt:itittcle rnoverel brazo
del robot y no conry)rendeninguna de lrsobserwaciones hccllas al robot o
por el robot. Ahora bien, por las razones anteriolnlenre exprrestas, rampoco
lo hace el sistema del cual el hombre y el robot fonlan par1e.
Para considerar este pllnto, comparemos este caso con otros en los que
nos parece completamente natural atribuir intencionalidad a los riernbros
de alguna otra especie de primates, como sinrios
.v nronos, .y a rtnimales
domsticos como los perros. Las razones de qtre ell'nos pu,:"..., natural
son, a grandes rasgos, dos: no podemos clarle sentido al compo|tamiento
del animal sin atribuirle intencionalidad, y podemos ver qlle las bestias
e s l n h e c h a s d e m ate r j a l si m i l a l a l n r e str o ( e so cs r r n o j o . e so e s r r r r a r r a r .i z,
s t a e s s u p i e l , e t c .) . D a d a l a co h e r e n ci a cl e l co m p o r ta m i e n to d e l a n i m a l
y'la suposicin de que est hecho de la misma materia catrsal, sLlponemos
que el animal debe tener estados mentales que motiven su comportarniento
y que estos estados mentales deben ser producto cle mecanismos hechos
de esta materia que es como la nLlestra. No cabe cluda de que haramos
suposiciones similares acerca del robot, a menos de clue tuvir-amos alguna
razn para no hacerlo, pero tan pronto como supiramos que su comportamiento fue el resultado de Lln programa formal y que las propie<1ades
causales reales de la sustancia fsica eran in-elevantes, abandonaramos la
suposicin de intencionalidad (r,anse var-ios atrtores, 1978).
Existen otras dos respuestas a mi ejemplo que surgen a menudo (y por
ello vale la pena considerarlas), pero que en realidacl no comprenclen el
sentido de mi argumento.

NIENTES, CEREBROS Y PROCRAMAS

(Y A LE )
5. L A RPL ICA DE L AS OT RAS M EN TE S
comque otla persona entiende chino u otra cosa? Slo porsu
Cmo puecle saberce
puede aprobar (en principio)
l.
computadora
.o-o
bien,
Ahora
p""-i""a.
si se ha de atribuir
de conducta tan bien como cualquiera; por tanto'
i... p*.bu,
computadoras'
l
as
a
a
tr
ib
ursei
e
d
e
b
e
ta
m
b
i
n
p
e
r
so
n
a
s,
cognicin a otras

E s t aobjec in e n re a l i d a d s l o me re c e L l n arpl i cabrel ' e.E i probl ema


dsnen estados
en este caso no consiste en cmo s que otras personu5
les atribuyo
cuando
.ognlri.,or, sino ms bien en qu es lo que les atribul''o
pretl'atarse
podra
qlle
no
es
cognitivos. La ftrerza del argumento
procesos
los
porque
"uiudo,
resultados'
y
sus
de
cisamentee procesosde cmputo
cognitivo. No es
clecmputo y sus resultadosiueden existir sin el estado
"ciencias
cognitivas"
lespuesta a este argumento fingir anesiesia'En las
la misma
de
mental
.""fr"r.,po.t" lu ."Ilid^.I y la cgnoscibilidad de lo
la
realidad
la
presuponer
las cienciai fsicas se tiene que
,rr^r-r".. q.,"
'
"r-, de los objetos fsicos'
cognoscibilidacl
(BERKELEY)
6. LA RPLICA DE LAS MANSIONES N,ILTIPI-ES
. I o d o c u a n t o u s te d a r g u m e n ta p r e su p o n e q u e la t slloti etl equer'erconconl pu'
pero resulia que ste es precisar-nente el estado
tadoras analgicas u?igi,ul"..
procesos causale-s que usted
actual cle la tecnologa. Cualesquiera que sean los
in
te
n
ci
onal
i dad (suponi endo que tenga
a f i n r r a q u e s o n e se n cia le s p a r a q u e e xista
construi
r di sposi ti vos que cuenten
d
e
ca
p
a
ce
s
se
r
e
m
o
s
la
r
g
a
la
a
usted razn),
al
ti fi ci al . D e modo que sus
y
se r in te ig enci a
c o n e s t o s p r o c e so s.r ..1 ",
"so
de l a i ntel i genci a arti fi ci al
ca
paci
dad
la
a
r
e
fie
r
e
n
se
m
o
d
o
a r s u m e n t o s d e n in g n
paia producir y explicar la cognicin'

E nr ealidadn o te n g o o b j e c i n a e s ta r p l i casal r,odeci rqueenreal i dad


cosa
p.ov"lto de la t fuerte al redefinirla conro cualquier
trivial
prola
"ly
de
'uelve
inters
EI
artificialmente la cognicin
q.," p."J"r.u
"*piiqrl"de la inteiigencia artificial estriba en que se trataba
originai . f,ro.
;;d"
mentales son procesos
d" ,rrru tesis precisa y bien ciefinida: los procesos
Me interesa desafolTnalmente.
definidos
cle lementos
."-fr,u.i"'ales
que ya no srga
modo
de
replantea
se
argumento
el
si
fiar esa tesis. Pero
ya no habr
porqlle
siendo esa tesis, mis obiecionesya no vienen al caso,
una hiptesis clemostrablea la que se puedan aplicar'
trataa de responder:
R"g.es"mos ahora a la pregunta que promet que
nochino y puesto
pero
ingls
yolntiendo
pu"rio q.r" en mi ejemplo riglnal
haber algo en m
debe
an
chino'
ni
ingles
que la mquina no
"nti".td""ni

MENTES,CEREBROS
Y |ROURAI\\S

9Z

qLle pro\oca que vo entienda ingls, as co'ro debe faltar


algo cor.r.espond i e n t e e n m q u e m e i m p i d e e n te n d e r ch i n o . I'u e s b i e n ,
p r q u e n o p o _
dramos proporcionar a una mquina esas dos.,,r.r, ,"ui'lo
que fueren?
No
en principio, nirrgr:na razn po. la ctral no ptrdiera dotarse a
'eo,
una mquina con la capacidad par.a entencler ingls o cllin,l,
vi que en un
sentido impoftante nuestros cuerpos con s's cer-ebr-os,r'
tr.".iru-"art"
mquinas de esta naturaleza. pero s veo ar.qumerrtos nruy
slidos para
decir que no podramos proporcionarle tal cosa a una mq.ina,
cuando ra
operacin de Ia mquina se define exclusivarrente en tl.rninos
de pr.ocesos
computacionales de elernentos definidos lbrmalmc-nte; es clecir,
ctrando la
operacin de ia mquina se define conro el ejemplo co'cr.eto
cle un progr?ma de cmp'to. Yo entiendo ingls y poseo otr-as formas
cle intencionalidad, no porque sov el ejemplo concreto de un progr.ama
de cmputo
(soy, supongo, la ejempiificacin
conc.etu d" ,',r.tos
progr-amas de
cmputo), sino po.que, hasta donde sabemos, so,v
cierto tip,r de orga_
nismo con una ciefta estructura biolgica (es decir,'ncier-ta
estructura qumica y fsica), la cual, en ciertas condiciones, es causarnrente
capaz de
producir percepcin, accin, comprensin, aprendizaje y
crtr-os[enmenos
intencionales. Y par-te de-la cuestin del presente argrmento
es que slo
algo que tu'iera estos poderes causales pdtiu tener intenci'naliclad.
euizs existen otros procesos qumicos y fsicos que podran procl.cir
exactanlente estos efectos; quizs, por ejemplo, los marcianos tambin
tensan
intencionalidad aunque sus cerebros estn hechos de clisti.ta nrater-ia.
sta
es, sin embargo, una prerunta emprica, muy similar a la cresi ra rbtosntesis
podra ser realizada por algo con una qumica distinta a la
cle la clorofila.
Empero, la cuestin principal del presente argumento es qle
ningn
modelo puramente tormal ser jan'rs suficiente por s mismo para
la intencionalidad, porque las propiedades forrnares no son ellas mismrs
constitutivas de la intencionalidad v porque carecen por s mismas
de poder
causat salvo el poder de producir', ctrando se ejemplifican concretamente,
l a s i g u i e n t e e t a p a d e l fo r m a l i sm o cu a n d o l a r n q tr i n a e st f.n ci o n a n d o .
Y cualesquiera otras propiedades causales que tengan las realizaciones
parliculares del modelo formal son irrelevantes para el
nroclelo forrnal,
porque siempre podemos poner el misrno modelo [orrnal en una
r-ealizacin
diferente en Ia que esas propiedades causales estn obviamente
ausentes.
Aun cuando, por algn milagro, los hablantes del chino pudieran
ejecutar
exactamente el programa de Schank, podemos ponereste mismo programa
en hablantes del ingls, pipas de agua o computadoras, .,ing'no
de los
cuales entendera chino a pesar del programa.
Lo que cuenta en las operaciones del cerebro no es la sombra
formal
pro-vectada por la secuencia de sinapsis, sino ms bien las propiedacles
.eales de las secuencias. Todos los argumentos que he visto
tavor de la

98

N,IENTES,CEREBROSY PROGRANIAS

versin fuer1e de la inteligencia artificial insisten en dibujar un contorno


alrededor de la sombra proyectada por la cognicin v luego afinr-rar que
las sombras son reales.
A manera de conclusin me gustara intentar establecer algunos de los
plrntos filosficos generales implcitos en el argumento. En aras de la clalidad intentar hacerlo en forrna de preguntas y respuestas, v comenzar
con la pregunta ya gastada de:
"Puede pensar una mquina?"
La respuesta es obviamente s. Nosotros somos precisarnente esas mq uln as.
"S, p ero ,
podr a pens ar un ar t ef ac t o, u n a m q u i n a h e c h a p o r e l
llon-rbre?"
Si suponenros qlle puede producirse ar-tificialmente una mquina que
I)osea Lln sistema ner-vroso, neuronas con axones v dendritas, r, todo lo
clerns, lo suficientemente seme.jantes a los nuestros, otra .,'ezla respuesta
a la pregunta parece ser obviamente s. Si se pueden duplicar exactamente
las causas, podran duplicarse los efectos. Y de hecho sera posible producir
conciencia, intencionalidad, v todo lo dems utilizando algunos otros tipos
cle prir-rcipios qurnicos que no sean los que utilizan ios seres humanos. Se
trata, como dije, de rrna cuestin emprica.
"Est bien. No obstante, podra pensar Llna computadora digitai?"
Si por "computadora digital" nos referimos a cualquier cosa que tenga
un nivel de descripcin mediante el cual pueda describirse correctamente
como la ejemplificacin concreta de un programa de computadora, entonLresotra vez la respuesta es, por sllpuesto, s, )'a que nosotros somos las
ejempli[icaciones concretas de cualquier nmero de programas de cmputo y podemos pensar.
"Sin embargo, podra algo pensar, comprender, etc., exclttsivanlete en
virtud de ser una computadora con el tipo colrecto de programa? Podra
la ejemplificacin concreta de un programa (del programa correcto, por
supuesto) ser por s misma condicin suficiente para la comprensin?"
Segrn yo, sta es precisamente la pregunta que hay qlle contestar, aun
cuando suela confundirse con una o ms de las preguntas anteriores, y la
Lespuesta es no.
"Por qu no?"
Porque las manipr-rlaciones de smbolos forrnales por s mismas carecen
de intencionalidad; son bastante carentes de sentido; ni siquiera son manipulaciones de sntbolos, ya qLle los smbolos no simbolizan nada. En la
ierga lingstica, slo tienen sintaxis pero no semntica. La intencionalidad
clue parecen tener las computadoras slo est en las mentes de quienes las
programan y de quienes las usan: los que envan la inforrnacin de entrada
v los que interpretan la informcin de salida.

MENTES,
CEREBROS
},PROCRAN{AS
99
El pr-opsito del ejemplo
cre la habitacin china f.e
intentar.crenrostrar.
esto al mosrrar que tan pr.onro
.on.'o i,.t,o.lrrcimos ;l;;;;.;il,*ema
realmente tiene intencionalidad
que
(un hontbre) y lo pt.ograntantos
con el

d:',..,.
q.," f,',,g.ou,n
r.,,,,,oll,o
,".,,u
i,,r",.,.io_
::?,::HXfffil, : taade
"t e.ic'mplo,
nada,por
. r.."p".i.r.Ji"t

paraentend"..hi.,jo

l-ro-u."

Esa caracterst,ica de la
l _la distinci

:i1-,0".",;;;.isamenter";,;;;i,;:;l;T::,:,.i;::',11i;:il.

la afirmacin de que lu
.i'..,Iu.'i; il;:;
ser duplicacin. La ciisrincin
entre el programa v su.re,alizaci'";;i;;;,'crtvare
parece ser.par-arera
distincin entre el nir,'elde
a ra
l"r
n-,"nroi"s'c,l .i'ei cie las operacionescerebrales.y si podam"r
"p"t".1.r.,",
"r.]:iui. er niver cre,rer.acio'es
talesconro un progra.maiormal,
nren_
clescr_ibir.,
al parecer,
i o esenci alacercade la m enle. in ";;;;;;Ir"clamos
in. , ; ; ; i; .

neurofis
iotoc"
d;i;.,."b,.-.T;ffi
;",',:l.J::::i:ffll:fi:Hl:';:.::

del cerebro lo que el-programa


es .especto crelrtartrtvare,,rara
puntos, ent.eIos cuale_s
en varios
se encltentt.an'los.sigtrienles
tres:
,
P ri mero, l a di sti nc.

illf"c"";i;l'd:J{l;:?:Xll:llilffi
kT,,:i;:::ff::,?;:"..j'ff
-

surdassi n forma al s una


de int encion^iil; . Wiez_enbaur ( 1976, c: r p t ulo
n
ha f, orm"norizado cmo cons
t.r
i
r.
i):^l.rt^";"-0,,:,
u
na
com
llzandoun rollo de papel
rr t ad..a uti_
higinico y un montn crepiedr.ecita.s.
De nlanera
similar' el p'ograma para
entenderr-elatosen chino ptrede
progranrar-se
una secuenciade pipas.de
en
agua,
,,rrr.or-r.rntode rnq'inas cle
o
"r-,
;"&, ;,,1r.,,.,,,
'iento
delos.,,o1",-'"gu.i,

:1,:n:'::1,i1,""'onotingtiLe';;i

::*:H*l::"".:I':ilql*ll'o!'l'Jly::"':,J::

causuresqu""r;;;;;:'r'*1'"ti;:iH.il"'ffi:ru:,ruil.

delingls
poseaerrieo,1;i1:nrila".""i""o"*

raintencionaricracr,
versetcilmente que no adquiere
ruede
intencionalidad adicional al
menr.r-izar
el programa, pues el hecho;"
," enseachino.
programa es puramente
""
-".,.';;i;uiformal,
per-olos estadosintencionares
-^,t^:t-*o"'"el
no son formales de esemodo.
Se definen en trminos de str contenido,
no de su forma' La creenciade
que
como figura fbrmar, sino como ".ta'or".rao, por e jempro,no se crefine
.i".ro .o.rr"nido mental con concliciones
de satisfaccin'con sentido d"
Searre, r979a)v sirnirares'De hecho' la creencia como"d";;;.i;"i"5u.g
tal no tiene srq.lera una ligura for.mar
en
estesenti do si ntcti copuest o que
una r olu y iu _ir - ". r i"". , ""0""a".
recibir un nmero indefinido d;
sinrcricasdi[erentes en los
distintossistemaslingsticos. ".;;;i";s
rercero, como va mencion antes, los
estadosy sucesosmentales son

100

Y PROGRAIV{AS
MENTES.CEREBROS

iiteralmente un producto de la operacin del cerebro, pero el programa no


L's,en ese sentido, un producto de la computadora.
"Bueno, si los programas no son de ntodo alguno constitutilos de los
procesos mentales, por qu tanta gente cree lo contrario? Eso amerita por
lo menos alguna explicacin."
En realidad ignoro la respuesta a esa pregunta. La idea de que las simulaciones en computadora pudieran ser algo real tu\o qtle haber parecido
sospechosa desde un principio, porque la computadora de ninguna nlanera
se limita a simular operaciones mentales. Nadie supone que las simulaciones por computadora de un incendio de cinco alarmas podran incendiar
un vecindario o que la simtrlacin por computadora de una tormenta nos
ruede empapar. Por qu habra de suponer alguien entonces que una
simulacin por comput.adora de la compr-ensin realmente entiende algo?
E,n ocasiones se dice que sera ter-riblemente difcil lograr que las compuladoras sintieran dolor o se enamoraran, pero el amor y el dolor no son ni
lns ni menos difciles que la cognicin o cualquier otra cosa. Para simular,
todo lo qLle se necesita es un flujo correcto de entrada y salida de infomacin y un programa de por medio que transforme la primera en la segunda.
Eso es todo lo que la computadora tiene que hacer. confundir la simulacin
con Ia duplicacin es el mismo et.ror, va sea que se trate de dolor, amor,
cognicin, incendio o tolTnentas.
Sin en-rbargo, existen varias razones por las que se pens -r' quiz,
mucha gente todava lo piense- que de alguna manera la u, reproduce, y
por consiguiente explica, fenmenos mentales, )'creo que no lograremos
erradicar estas ilusiones hasta haber expuesto cabalmente los motivos que
lrssuscitaron.
En prime r lu gar , v quiz lo m s im por t ant e , e s t t n a c o n l t l s i n a c e l c a d e
la nocin de "procesamiento de inforrnacin". En las ciencias cognitivas,
r-nucha gente considera que el cerebro humano, con su mente, realiza algo
que recibe el nombre de "procesamiento de inforrnacin", v anlogamente
la computadora, con su programa, efecta un "procesamiento de informacin"; pero, por otra parte, incendios v tormentas no llevan a cabo ningn
procesantiento de inforrnacin. En consecuencia, aunque la computadora
puede simular las caractersticas forrnales de cualquier proceso, sea ei que
fuere, mantiene una relacin especial con la mente v el cerebro, porque
cuando la computadora se encuentra adecuadamente programada, idealmente con el mismo programa que el cerebro, el procesamiento de inforn-racin es idntico en ambos casos, y este procesamiento de informacin
constituye realmente la esencia de lo mental. Empero, el problema de este
argumento es que se apoya en la ambigedad de la nocin de "informacin".
La computadora no realiza "pocesamiento de inforrnacin" en ei sentido
en que las personas "procesan infor-rnacin" cuando reflexionan, por ejem-

N,IENTES,
CEREBROS
Y PROCiAN4AS

1I)I
plo, en problemas de aritmtica o cuando leen
r,,respondenpr.eguntasen
torno a un relato. Ms bien, lo qtre hace la
computador-aes n-ia.ipular
smbolosformales. El hecho de q.,e el programador
er i'trprete de ros
.o-o"tadora r-rtiticenri-iolo, para-vreernplazar.
obJeros
fj*:*:
9: algo
]? que
esrpor compieto ftrera del alcancecie1..con,puta_
:::::ii?.:s
qora.Keprto,ra computadora
tiene sintaxis pero no semntica.En co.se_
cuencia,si
tecleaen ra computacrora"2 ms 2 es igual a?",
escribir
"4".Pero la 'sted
computadora no tiene ni idea creqtre "4" significa
4 o ctrarquier
otracosa'Y la cuestinno es que carezcacleargr-rna
info"rmaci.desegr_rncro
orden acerca de la interpretacin cres's sriboros
crepri'.rer:o,.t"r-,,,r.ro
quesus smbolos de primer orden no tienen
ningrrna interpr.etacinen lo
que a la computadora se refiere. Todo ro q,e
tLne ra co'rptrradora son
ms smbolos. La introduccin cle Ia nocin cle "procesaminto
de inrorma_cin"
causa,por consiguiente,un clilema:o bien const.limos
la noci.
"procesamiento
de
de infrmacin" cletal ,-,.,un"ro
qtre irnpliqtre intencionalidadcomo parte del proceso o no lo hacemos.
En er primer. caso, la
computadoraprogramada no procesain[or.maci.;
slo maniptrla sr.bo_
los formale^s.En el segundo .u.rt,,,entonces,pese
a qr-rela comprrtadora
procesai nformaci n, nicam ent e lo r r ace
enel sent iclo q, , "io hacen
Ias sumadoras, las mquinas cle escribir, los
"r
estmzrgos,
ros ter-mostatos,las tormentas v los huraca.r".; u ,ub"., c.entan
con un niver credesel que podemosdecirq'e aceptaninfolrnacin portrn
extremo,
:^nl_t^t_u1""
ta lranslorrnan v producen inforntacin de
salida. Sin entLrar_g(),
en esle
casodependede los obsenadores externos interpretar
la entraclav s:rrida
comoinfornacin en el senticloorcrinario.y no.sc
rirriiit., ulgunaentre la computadora y el cerebroen trnrinos"rt.r-,r".
de cualqrrier.sinlilitrcl
delprocesamientode informacin.
En.segundolugar, en gran pade de la la hav nn
concluctisnrou ()per_a.
cionalismoresidual.puesto que las computacloias
aclecunclamente
pr( )gr.amadaspueden exhibir patrones de entiada v salicla
similares a los cr,,,los
sereshumanos, podranroscaer e. la tentacincreposttrlar
qlre rosestados
mentalesde la compritadora son similares a los
estados.nentalesclelhom_
Dre.r.mpero, una vez que \emos que es posible
tanto conceptual conto
empricamenteque r-rnsistema contenga capacidacles
lrtrma'^s en arsr^
camposin que de ningn modo posea intencionaliclacl,
poclrem".
esteimpulso. Mi sumadora de escritorio tiene capacicracr
";;.-;;
clecalcrrlar.,
pero
carecede intencionalidad, y en este artcuro he intentaclo
cren.rostrar
cue
un sistemapoda tener capacidadesde entracla
v salida cle irformacilr
queduplicara' las de un hablante nativo clel chino
y seguir sin errtencler
chino,sin impoftar cmo estuvieraprogramada. Laprba
de Turing e.s
tpicade la tradicin en el sentido deq.rJ es cles'ergonzaclamente
conductistay operacionalistay consideroque si los estudiosos
clela ln repudiaran

102

Y PROGRAI\IAS
CEREBROS
lv'fENTES'

gran
el operacionalismo' se eliminara
por completo del conductismo y
y duplicacin'
i" confusin entre simulacin
;;;;"
re.iiduai se ana a la fona reoperacionalismo
ste
En ter:cer lugar,
la supola ln ftrerte slo cobra sentido dada
siclual cle dualismo; "1"!ft"
imporla'
no
cerebro
el
refiere'
se
la mente
sicin dualista de que, en lo que a
son ios
r.t,-t.lonalismo), lo q.e impoa
Iln la r, fuerte (asi.;;;J,-t
de
"l
mquinas;
cle su realizacin en
programas, y stos.rot'i"a"p"tt<lientes
realiz.ado
ser
podra
el mismo programa
en io que l.,;;";;ere,
"electrnica' una sustancia mental car-tesianao un espritu
'echo,
ir".
sorprendente clue he hecho
""" -aq"ina
hegeliano. EI desc.brimiento ms
clei mundo
estudiosos de la IA estn
los
qtt" muchosde
al analizar estas cuestiott"' "t
mentales humanos
fenmenos
los
que
lrastante molestos .on.-mi t"u cle
de los cerebros hureales
fisicoqumicas
puedan clepender a" i'opi"aucles
de esto,
se piensa un minuto acerca
manos verdaderos. No obstante, si
de la
prol'ecto
el
que
sorprendido' l'a
puede verse qlle no debera haberme
forma
acepte'alguna
que
se
a menos
tA fllerte no tiene posibilidacl alguna'
meen reproducir v explicar 1o mental
col-lsiste
provecto
EI
cle dualismo.
sea
slo
pero a menos que la me-nte no
ciiante el cliseo de programas'
inclePend':1':i::::t;t"T;.",ono.::
conceptual ,i.to tut'tit'empricamente
t"lil1"
el programa
porque
pt'ovecto'
r'iu tuu.r" a cabo el
"t qlre la mente es
crea
qtle se
c1ecualquier realizacin' A menos
;;;;,;
empricamente -r'ersin
como
.on."ptual
*,o
."."briseparable d"l
1o mental e.scribiendo
reproclucii
[uerte <]edttaiismo- no se pttecleesperar
de los cere'
ir-idependientes
ser
deben
r, con-iendo ot'or.uttt', , 1"" ett"t
particurares de ejempli[icacin concreta'
br.osde cualesquier-a ot.us for-us
op"tutiones de cmprrto sobre
Si las operaciones mentales consisten "'-t
qlle carecen de conexiones lntere'
sr-nbolos fol-males, se decltrce entonces
Sa nte scon elcer - ebr o. La lnic ac onex ins er aq u e e l c e r e b r o r . e s u ] t a r a sde
e reiemmquinas capaces
uno de los muchsimos tipos de
p;';;;;;;
ia vaes
Esta forma de dr-ralismo no
plificar concretamente el programa
ssltrrclas'
de
dos tipos
"" postula que hav
r-iante carlesi^.,",.^Ji.i.rnur
en que 1o especficamente
insiste
qt'"
d"
pcro es cartesiana
"'"t "l '"t'tio
intrn'"tu to'-t lut propiedades reales
mental cle Ia mente ,-,ogt'utdu t"lacin
de
se oculta de nosotros por el hecho
clel cerebro. Este dualismo implcito
qtre la]ite ratr-r r aac er c adelal ar l. em et ec onf r e c u e n c i a c o n t r a e l . . d u a l i spostura
pasar por alto es qlle slr
i'J't 0".. lo que los autores parecen
presupone una versin fuerte de dualismo
punto de vista es que slo
"Podra pensar una mquina?" Mi
^propio
algunos tipos mu1'espe'
slo
efecto'
,"rna"mquina poclra pensar^y que' en
q"" t:"g^11 los mismos
1'mquinas
ciales de mquinas' u
'ub"t,'t"t"bros
por la que ia IA fuerte
razn
la
es
sa
pocleres causales que el cerebro' Y
nada tiene que
acerca del pensamiento' Ya que
q.t" ,l".i*os
ii;;"-p"."

N,IENTES,
CEREBROS
Y PIIO(IIAJIIAS

IO3

decirlos acerca de las mquinas. Por su propizr definicin, se octrpa de


programas y los programas no son ntquinas. No obslante, cualqtriera que
sea la intencionalidad, es un fenmeno biolgico, \. es nrLrvpr obable qr-redependa causalmente de la bioqunrica especlica cle sus orgenes como la
lactancia, la fotosntesis o cualquier otro fenrnreno biolgico. Narlie slrpondra que se podra producir leche o azrcar-echando a rnclalun pr.ograma de simulacin en computadora cle las secuencias f'olmales cle la lactancia y de la fotosntesis; sin embargo, en lo qtre a la nrentc se refiere, nr-rchas
personas se encuentran dispuestas a creel'en trn milagr-o cle esta nclole a
causa de un dualismo profundo y constante: lrmente que sup()nen es Llna
cuestin de procesos torrnales, independiente de catrsas nrater-iales bastante especficas en el sentido en que no lo son la leche v el rzricar'.
En defensa de este dualismo a menudo se explesa la esperanza cle que
el cerebro sea una computadora digital (las printeras cornptrtador'rs,por
cierto, a menudo reciban el nombre de "cerebros electr'nicos"). Mas de
n a d a s i n 'e . E l c e r e b r o e s, p o r su p u e sto , u n a co m p u l a d o r r cl i si ta l . Pr r e sto
que todo es Llna computadora digital, el cel'ebro tantbin lo es. I-a cuestin
e s q u e l a c a p a c i d a d ca u sa l d e l ce r e b r o p a r a p r o d u ci r i n te r r ci o n a l i cl a d n o
puede consistir en su ejenrplificacin concreta dc trn progranra cle cmputo, ya que para el programa que trsted gllste es posible que zrlgo e.lcnrrlif i q u e c o n c r e t a m e n t e e se p r o g r a n ta l ,si g a si n te n cr csta d o s r r r e n ta l e s. Se a
lo que fuere lo que el cerebro haga para prodtrcir intencionaliclacl, ello no
p u e d e c o n s i s t i r e n e j em p i i fi ca r co n cr e ta r l te n te r r n p l o g r a m a , va c r r en i n g n p r o g r a m a p o r s m i sm o e s su fi ci e n te p a r - a l o g r a l l ri n ( e n ci o n a l i cl a d .{

BreLrocnAr
Fodor, J. A . (1980), "Methodok rgi c al S ol i ps i s m C ons i c l c rc d i sa R ers c al c h S trrtc gy
i n C ogni ti ve P svchol ogv ", B ehat,i rral attd B rai tt S ' i ,rl r-.s
3, ,pp. 6-l ,l 10.
McC arl hy, J. (1979), "A s c ri bi ng Mental Qual i ti es to Mrc fri nes ", c -n M. Il i ngl .. (ed.),
P hi l osopl i cal P erspe c i v es i n A rti fi c i al l rttel l i gertc e, A tl anti c Il i ghl and, N . .I., H trmani ti es P ress, pp. l 6l -195.
N ervel l ,A . (1979), "P hysi c i al S v mbol S v s tenrs ", P one-nc i a prc s c rrtada c n l rC i rf t' r' c nci a sobre C i enci a C ogni ti v a en La J ol l a, publ i c ac l o pos tel i ormentc en (.' r,,,l rir'i,
S ci ettce,4, 1980, pp. 135-183.
N ervel l , A . r'S i mon
H . A . (1963), "GP S - A P x rgr' :rm that S i rnul rtc s [{ rrma.n
Thor-rght",en E . A . Fe i gc nbaum v J . A . Fel dnran (c ds .), C ortttuters arttl 7' l tc tttgtl t,
N ueva Y ork, McGrarv-H i l l , pp.279-296.
aE stot'endeuda
con l as muc hs i mas pers onasque anal i z -aronc s tasc ues ti onc sv ugl ac l ez c r.r
l a paci enci aque mostraro n para s uperar mi i gnoranc i a en torno a l a i ntc l i gt:nc i aal ti l i c i al Me gustaa en paflicular dar las gracias a Ned Block, Hubert Drevfrrs, John Harrgcland,
RogerSchank, Robe Wilensky )'Tery Winograd.

IO4

MENTES,CEREBROSYPROCRAMAS

Pr,lvshyn,Z. w. (1980), "computation and cognition: Issuesin the Foundation of


CcrgnitiveScience",Behavioraland Braitt Scietrces,3,pp. 1 ll-132.
Sclrank, R C.-v Abelson, R. P. (1977), Scripts, Plans, Gcals,attd Urtderstandhtg,
Hillsdale. N. J., Erlbaum.
Searle,J. R. ( 1979a),"Intentionalitv and the Use of Language",cn A l\{argolit (ed'),
Meaning and IJse,Dordrecht, Reidel.
(1 97 9b ),"What is an I nt enlional St at e?",hI in d , 8 8 , p p . 7 4 '9 2
Vriosautores (1978), "Cognition and consciousnessin Non-Human Species",
Behavioraland Brain Scietrces,
','ol 1, nm' 4, nmero completo'
Weizenbaum, J. (195), "ELIZA-A Con.rputerProgram for the Study of Natural
Language Communication Betrveen Man and Machine", Cotttttttttt. ACll , 9,
pp . 3 6-4 5.
(1976), Co,lll)uterPox'er attd Hunnnt Reason,San Francisco, W. H Freema n.
Winograd, T. (1973), "A Procedural Model of Language Understanding", en R' C'
Schank y K. M. Colby (eds.),CotnputerModels of Thought and lnnguage, San
Fra ncisco,W. H. Fr eem an,pp. 152- 18.

IV. ESCAPE DE LA HABITACIN CHINA*


MARGARETA, BODEN

Eru su anrculo "Mentes, cerebros y programas" ( 1980), John Searle alega


que las teoras de computacin en psicologa son esencialmente rntiles.
Hace al respecto dos afirmaciones importantes: las teoras de computacin, de naturaleza puramente formal, no pueclen ayuclarnos en modo
alguno a comprender
l o s p r o ce so s m e n ta l e s; y e l h a r tl w a r e d e l a
computadora, a diferencia de la neuroprotena, cal-eceobviamente de los
poderes causaies adecuados para generar procesos mentales. Denrostrar
aqu que ambas afirrnaciones estn equivocadas.
La primera afirmacin de Searle da por sentada la strposicin (formalista), ampliamente aceptada de que los "cmputos' qlte se esttrdian en la
ciencia de la computacin son pllramente sintcticos y que ptreden definirse (en trrninos igualmente adecnados para la lgica sirnblica) como
el nrartejo fonnal de sntbolos abstractos tnediattte la aplicacin de reglas
lnnales. Segn este autor, de ah se deduce que las explic:rcione-s formalistas, aunque adecr-radaspara explicar el procesarniento cle "inforrnacin"
sin sentido o ei manejo de "smbolos" en las computadoras, son incapaces
de explicar cmo utilizan las mentes humanas lainfnnac:irin o los smbo1os,propiamente as llamados. El significado o la intencionalidad n() pueden explicarse en trminos computacionales.
Searle no quiere decir con eso que ninguna mquina pueda pensar. Los
seres humanos pueden pensar y stos, concede, son mquinas; inclr_rso
adopta el credo materialista de que slo las mquinas pueden pensar. Tarnpoco dice que ios seres humanos v los programas sean totalmente inconmensurables. Acepta que, en cierto nivel sLlmamente abstracto de descripcin, las personas (como todo lo dems) son ejemplificaciones concretas
de computadoras digitales. Ms bien argtrmenta que nada puede pensar,
significar o comprender exclusivanlente en virtud de su ejemplificacin
concreta de un programa de compntadora.
Para convencernos de esto, Searle recurre a un ingenioso exper-imento
de pensamiento. Se imagina a s rnismo encerrado en una habitar:in donde
har una serie de fajos de papeles que contienen garabatos; Lrna ventana a
* N{argaretA. Boden,"EscapingFromthe ChineseRoom",tomaclodel
captulo8 cleConputer"Iodebof l+,|td(1988).Reproducidocon pennisode CambridgeUnivcrsitypress.
105