lvlENTES, CFI{EBROS I'R()(tR\trtAS Y

s:

III. MENTES, CEREBROS Y PROGRAMAS*

JOHN R, SEARLE

a los esfuerzos .OUIMpSRTANCIApsicolgica y filosfica debemos dar rccientes que se han realizado para que las complttadoras simulen las habilidades cognoscitivas del ser hr-rmano? Para tesponder a esta pregunta, nre parece til diferenciar entre lo que llamar Ia (inteligencia artificial) "f uerte" e IA "dbil" o "cautelosa". Segrn la ra dbil, el principal valor que tiene la computadora en el estudio de la mente es qlle nos proporciona una hcrramienta muy poderosa que nos permite, por ejemplo, formular y com"fuerte", pr:clbarhiptesis de modo ms riguroso 1' preciso. Empero, en la Ia la computadora no es tan slo ua herramienta para estlldiar la mente; rursbien, la computadora programada adectradamente es t'ealmente una nrente en el sentido de que puede decirse literalmente que las computadoras Llu e CUen fan con pr ggr am aS c or r ec ( oS c ot t t pr e t t d e t t y p o s e e n o t t o s e s t a d O s cognoscitivos. En la IA fuerte, como la comprttadora progranrada cuenta c6n estados cognoscitivos, los programas no Son meras herramientas que nos permiten probar las explicaciones psicolgicas, sino que los programas constituyen por s mismos las explicaciones No tengo ninguna obiecin a lo que se dice acerca de la IA dbil, al menos er-rlo que concierne a este artculo. Mi exposicin aqu I'ersar en tor-no a las afirmaciones que he hecho acerca de la tn fuerte, especficamente en t()rno a la afirmacin cle que la computadora programada adecuadamente tiene literalmente estados cognitivos que, en consecuencia, los programas -v explican la cognicin humana. A partir de ahora, cuando me refiera a Ia tA ienclr en mnte la versin Fuerte, tal cual queda expresada por estas dos aseveraciones. considerar la obra de Roger Schank y sus colegas en Yale (Schank y Abelson, 1977), porque me encuentro ms familiarizado con ella que con ctralesquiera otras aseveraciones similares, y porque oFrece trn ejemplo ntuy clro clel tipo de trabajo que deseo examinar. Pero nada de lo que a continuacin se presenta depende de los detalles de los programas de Sch an k, pu es lo s m is m os ar gum ent os s e p o d r a n a p l i c a r a l S H R D L U de Winogiad (Winograd, 1973), a1 ELIZA. de Weizenbaum (Weizenbaum, * JolrnR. Searle, and Braitt scietrces, "Minds,Brains,and Programs", Behavioral Tlrc con pemiso de Press Reproducido Unersity O 3, 1980,pp.417-424. 198,Cambridge y UniversityPress del autor. Cambridge

1 9 - 5 )r 'c l e h e c h o a ctr a l q u i e r - si m tr l a ci r i n e . r r r q tr i n a cl e Tr r r .i .s cl e fe n m e n o s m e n t a l e s h t r ln a n o s. N l t r - v b r e 'e m e n t e , v d e j a n d o d e l a d o 'a r i .s cl e ta i l e s, e l p r .o g r .:r .r a d e Schank ptrede describirse de la sigr-riente nraner.r: p'.prisito clel ir,,g.rma el consiste en simular la capacidad hunrara para c().rpr-e.der. relat.s. una c a r a c t e r s t i c a d e l a ca p a ci cl a d d e l o s se r .e s h r r n r a .o s p a r .i c.m p r e n cl e r relatos es que stos pueden responcle. pregrntas acel.ca clc-lr-elaro, atrn cuando la informacin qr-rep.opor-cionen nrrnca se hava establccicilr exolc i t a m e n l e e n e l r e l a to . As p u e s. p o r .e j e n r p l o , sr r p {}n g a q u e cs( .u cl ,a l a s _ guiente historia: "un honrbre entr a un restllr.antc or.clerr r, trn:r halnb u r g u e s a . c u a n d o se l a si n 'i e r o n , e sta b a tr ta l r r e .te q r r e .r l r cl a , a s < 'e e r hombre estall en clera v abanclon el restarrr.ante firr.irso, ,ir, rngu. ra hamburguesa ni deja. propina." Aho'a bien, si re pr-eetrntan,or, "...s" co'ri e l h o m b r e l a h a m b u rg u e sa ? ", u ste d p r o b a b r e .r e .tJr e sp o r - r cl e ,r : ..N o , no se la comi." De igual maner-a, si ustec,lescrrchr sigtrie.te: "[Jn lo hor'bre e n t r a u n r e s t a u . a n r e 'o l d e n t l r r l l .r b r l q r r e sr . cr a ..l ,, st'l l r si r .,,.i e l .o n , le agrad mucho. Al sali. del r-estau.ante, le Jc.i a la nlescr.r ge'erosa 'ra propina antes de pagar la ctrenta." Si se le pr'r.gu11ta: "Se co'riti lro,.br-e "f la-hambtrrguesa?", usted probablen-rente .esponcrera: "S, se la crmi.,, Ahora bjen, las mquinas de schank ptreclenre.s,orr.ier p,.eguntas sirilar-es acerca de restaurantes formuladas en estos tr.nrinos.par.a lirce.rlc), cLlentan con una "representacin" clel tipo de inltornracin qlre poseen l.s seres humanos acerca de los r-estau.antes, la cual les per.'ri{e resp.rcler-l)r-eg'ntas como las antes mencionadas, dado estertip. de relat.s. c,,r,rr.lo se pr-()p o r c i o n a e l r e l a t o a l a m q r - r i n a 'se l e h a ce l a p r - e g 'n tr , i r r r p r .i n r i r .r r - e spuestas del tip. de las qr-reesperaramos qr-reclier:rrilos se'es hrrrr'tnos al escuchar relatos similares. Los particlar.ios de la lR ftrer-teafir.nrrn(ilre en e s t a s e c u e n c i a d e p r eg r - r n ta sv r e sp L l e sta sl rm q u i n a n o s l o si n r tr l a una h a b i l i d a c l h u m a n a , s i n o q u e ta m b i n : 1 ) p u e d e d e c i r s e l i te r a l m e n te q u e l a n r q r ri n a cctr r tp r e r tr l ce l r e l a t. y p r o p o r c i o n a r e s p u e s t a s a l a s p r .e g r r n ta s, r 2) lo que la mquina y su programa hacen es ex\tlic.r la caprciclacl hum a n a d e c o m p r e n d e r e l r e l a to r . r e sp o n d e r . p ."g ,,n i u , r ..",.cai e e l . A m me parece que ningtrna de estas dos afirmaciones c.crrc.rr.a un sostn total en el trabajo de Schank,' como intentar clemostr.ar a continuacin. una manera de probar cualquier teora cle la n-re.te estriba en preg'ntarse a uno mismo qu suceder'a si nri mente realrnente ftrncionara sobre los principios con que Ia teora dice que funci.nan toclas las n-rentes.Apliquemos esta prueba al programa de Schank con el sigrrie nre GerlanketrcxI No pretendo decir,claroest,que el propioSchankse encuentre cornprometiclo co estas afirmaciones.

S,1

I',IENTES, CEREBROS Y PROGRAITIAS

lvfENI-ES, CEI?LBIiOS pROGR;\IIAS Y

v que se me en pcrimerlt.Supongamosque estoy encerrad,o una habitacin Supongamos adeen propo..io.ru'un f-ajogrande de textos escr"itos chino ni escri to ni habl ado' d" h " i h o e l c a s o ) q u e n o s c h i no' rn a, ( . o- o china ", y qr-reni siquiera tengo la certeza de.poder reconocer la escritura de la escritura japonesa o de una como tal, distinguinola, por ejempl, chi'a slo sel.iede garabatossin signiiicadt alguno. Para m, la escritura que despus es una r"il" d" garabatoJsinsentido.Ahora bien, suponganlos otro que contiene " .".ibi. est" ;o de textos en chino, se me proporciona fa'io con el primero Las una serie de reglas para relacionar el sepgndo estn en inglei v las entiendo tan bien como cualquier otro hablante r.eglas un conjuncleesta lengua. Me permiten estableceruna correlacin entre con "fonnal" formalesy otro conjunto de smbolosfor-males. to de srnbolos identificar los smbolos completamente slo quiero decir aqu qrr" p,,,e.lo faio po. ,tu formas. S.tpo.rgu*.rs tambin ahora que recibo un tercer en ingls, instr'cciones, otra cle smbolos chinos i.rrio .or algunas 'ez los dos qlle me per-rnitencorrelacionar elementosde este tercer faio con me instmven acerca de cmo responder con primeros, v que estasreglas que me .i",ro, smblos chinos de cierta forma a ciertos lipos de forrna que proporcionadas en el tercer faio' Sin yo saber'lo,las p^el'sonas lireron primerfajo, "relato" nre diern todos estossmbolosllaman "manuscrito" al "l'espLrestaslas prea al segundo v "preguntas" al tercero. Adems,llaman al tercer fajo' y al coniunto de lo, ,l-olos que doy en respuesta ,.t.rr" ^ p.opor.ionaron lo llaman "el programa" Ahora iegl.s en ingls que - para complicar la historia un poco, imaginemos que estasperbien, sl,r sc , nast am t in me p ro p o rc i o n a n re l a to s e n i ngl s, qtl e vo comprendo' v que luego me hac' preg.ntas en ingls sobre esos relatos v vo les resrambin en ingis. Supo'gamos tambin que despttsde ttn rato p,rr-r.lo i,)gr,, ,"gui. tan bien ias instmcciones para descifl'arlos smbolos chinos logran escribir tan bien los programas desdeun punto ,, , p.o-grrrrrradores clevista externo -esto es,desdela perspectivade algien qlle se encuentra estoy encerrado- qtte mis respuestasa las ftrera de la habitacin cloncle distinguirse en absolttto de ias que proporcionara ttn pleguntas pr-reden podra afirrnar irablanted"l chit o. Nadieque slo obsen'aramis respuestas ni una paiabra de chino. Supongamostambin qne mis resqlle no hablo (qu dr,rda cabe) indistingrriblesde a ,i-restas las preguntas en ingls son ias cle otros hablantes del ingls, por la sencilla razn de que )'o sc)' tln hablante de esta lengua. Desde el ptrnto de vista externo -el de alguien a ,.ue lea m is " r es p u e s ta s " -, l a s c o n te s ta c i o nes l as preguntas en chi no en ingls son igualmente buenas. Empero, en el caso del v . lu. preguntas mediante el manejo mis respuestas chino, a cliferenciadel ingls, fcr-rnulo cle smboios forrnales no intetpretados, En lo que respecta al chino, nle como una computadoa; realizo operaciones de cclmporto simplen-rente

cmputo con base en elementos especificados l'onnalmente. En cuanto al chino, no so\-ms q'e un ejemplo concreto del p'oer.arrra de tna c()mp'tadora. Ahora bien, las al-inaciones acerca de Ia t,q f.er.te esti-r'lan c-re la computaclora programada compr.cnde los relatos qu., p,..,g,-a,r-ra v e.iplica "l en cierto senticlo la conrprensin humana. Sir-renrbarg,r, n,-ra.-"r-r.orrtan)os ahora en una posicin qrle nos perrnite exalninar estas alir.nraciones a la luz de nuestro experirnento clel pensamiento. 1/ En lo que respecra a la pr-imera asever-acirjn,me pal.gcre bastate 6vio en el ejempl() qLle no entie'do una sola palabra cle los r.elatrs chi'.s. Mis entradas v salidas de informacin son ir-rclistingtribles las rle de rn ablrnte chino y'aunqlle pueda contar con el p'oe.a,'a forr,-.ral qlle s.- qr-rier.a, sig' sin ente'der nada. Por la misma raz.-t, co'putacl'r'a lzr cle .sclra.l. ,o entiende rada de ning. relato, sea en chino, en ingrs o en Io cr.e sca, ya que, en el caso clel chino, la cornputador.a so\ \o, v en l.s casos en qLle no s o l 'l a c o m p u t a d o r - a , e l l a n o ti e n e m s q u e yo 'e n e l ca so e n q u e l l . cn ti e n cl o nada. 2) F.nlo que concier-ne a la segunda afil''raci', c1,e el pl.()gr-.rra explica la cor-nprensin hunrana, podemos obsen.a' que la cornprrJora v sLl puog r a n r a n o a p o r t a n s r fi ci e n te s co n d i ci o r r e s d e co n r p i - en si r i n , ya q r r e la computadora v el programa se encuentl'an en frrr-lciorrrnrierrto lrD llay 1, cotnprensin. No obstan'.e, proporci<.rna siqr.li.2 una condicirin neccsar.la o hace una contr-ibucir-r significante parzr la cornpr..-nsi<in? llno cl, l.s argulrentos de los clefensores de la ln ftrerte es clile crrrncll co)l.ect() 1l relato en ingls, lo que hago es c-\actanle'te lo rnismo, o quiz-:i alg, nr:is, q u e h a c a a l m a n e j a r l o s sr n b o l o s cJr i r r o s.Es ta n s 1 ,, tr n i r - r r r n i r u l a ci o r .r sin-rblican'rsformal lo que distingue el caso del irigles, que s c,nr-,rc.rrclo, del de chino, qLle no conrprendo. Arrnque n..,lre clenro-*tr.clo falsedacl clc la esle argunlellto, clertamente parece incrtble en el e.jenrplo.La cl.eclibiliciacl que tiene el argurnento proviene de la strposicin de qtrr: podenrrs cr.car. un programa que tenga ias mismas entr.atjas 1, salidas qrre los hablrntes nativos, adems de suponer que los hablarrtes tiene'r.lalgrn nivel cle clesc r i p c i n e n e l q u e t a r nb i n e l l o s so n e j e m p l .s c,,n cr - e to sd e r r n l l r o g r .r r r :r . Sobre la base de estas dos iriptesis supollenlos cILre nun cuanclt el r^rg'ama de Schank no sea la historia completa de la cornpr-errsiirn,s ruccle ser. parte de ella. Br-reno,slrpongo que es una posibilidad ernptica, iero lrasta ahora no se ha oft'eci.lo la ms rnnima razrn p;rr-acrL-er.qrre sea cierta, ya qrie lo qLle el ejemplo sugiere --aunque ciertamente lro tlerntrestr-a-- es qll el programa de la computadora es sencillarnente ilr.elevante par-a nti r:ornp r e n s i n d e l r e l a t o . E n e l ca sc d e i cl r i n o r ,e r r r .o cl o Io q tr c l a i r r te l i g t,n t.i a {o artificial puede poner dentro de m medianre Lln prosr.anra, no entienclcr .\ n a d a ; e n e ] c a s o d e l i n e l s e n l i e n d o to cl o v h a sta e l n l o r n e n r o n o e r i ste

I]6

Y MENTES, CEREBROS PROGRAMAS

tvlENTES, ClIrliFIlR(lS I'R()L]R;\N1A, Y

n,

que mi comprensin tiene aigo absolutamente nlnguna razn para suponer s clecir' con operaciones de qLle ver con prograrrtut t cmputadora' especificados M-ientras el cmputo sobre puros elementos formalmente de cmputo sobre puros se d"fi.ta en tr-minos de operaciones ;;;;. lo que el ejemplo sugiere es qtre stos elementos clefinidos fr"tu1"-'"'-tte' relacin interesante con la comprensin' ,,o gt..dul ;;;;;;l;t ''tittgttt'o suficientes v no se ha dado la ms tofiditio't"' Ciertameute .to "*irt"tt condiciones necesarias' ni siquiera mnima razn para ,a'pot"t qlle son que la si!nificativa' a la comprensin' Ntese qr-recontribuyan cle en que mquinas diferentes -ot'"tu frterz-aciel argumento no radi sirnplemente de informacin aunque operen teneilas mismas entradas -vsalidas aur] punto' ste' por supuesto' tto."t sobre diferentes principios formaies; :1 formales que principios puramente Meior dicho, cualesquira que sean los se intro du ce nenlac om put ac lor a' nos et ns uci e n t e s p a r a l a c o m p r e n s entender in' los principios fonrrales sin Ya que un ser tlu-u,lo'p'"" '"g'lit ulgir.ra para suponer que tales prinr.rada.Tampoco se nu orr".i" .irr, cipio sson ne c es 1r t . "' o' iq"l"t ' ac ont r i- bu1' "' - t t " ''p t t " t n o s e h a d a d o r a - operando tttu''ttio vo entiendo ingls' estov z-n algr-rna puru ,npott"'qtt" fornal' con algn proJranla caso de .las oraciolles erl IJLreno, entonces, qtr es lo que tengo en el en chino? La respuesta obvia .u,o de las oraciones ingls que no tengo "r.t"l que no tengo la ms es que s lo que significan las primeras' mientras cle las segundas Empero' en qu conrnnima iclea acerca del significado mquina' sea lo que fuere? siste esto y por qtr ,ro p,,i.u*os drselo a rlna contlnllal' pr'"g.nta rns adelante' pues primet'o quiero Regresare o "rru con el eje mplo. a varios estudiosos He tenido la oporturniclad de presentar este ejemplo reiulta interesante que no parecen estar de cle la inteligencia artificial 1' actterd oco"nc r r les lar pli. c aadec r r ada. Heo b t e n i d o u n a a s o m b r o s a V a las ms conlunes (que riedacl de r.plicas y a continuacin considerar especificar iunto con sus orgenes geogr'ficos)' comllnes Sin embaigo, antes quiero cletener algrrnos malentendidos "con-rprer-rsiZn":en muchas de estas discusiones se produce acerca de la "comprensin". Mis crticos sealan un excesivo tejemaneje de la palabra "comprensin" gruo, clifeientes de comprensin; que qrre hay distintos -.r.o, simple pi".li.udo de clos posiciones' que incluso-existen r-.'o "r.trt la ley del medio excluido tipos y niveles .1" compr"nsin v que a menudo de ia forma " ensiquiera se aplica i" *ur]".o clirecta a enunciados una simple 'i tie nd ey"; qlle en m uc hos c as os es una c uest i n d e d e c i s i n 1 'n o qrriero si r entiende y, etctera. A todos estos puntos .restin de hecho cle los puntos que ver con rlecir: por supuesto, por supuesJo, pero nada tienen iot qtl" "comprensin" se aplica literaldiscusin. Hu' .u.os .la.os e'n "tt

m c n t e v c a s o s o b'i o s e n q u e n . se a p l i ca ; ],e sto s cl r s ti p o s cl e ca so s so n t o d r l o q t r e n e c e si to p a r a e ste a r g u n r e n to .z yo e n ti e n cl o r - e l a t's e n i n g l s; en menor g|ado, puedo entencler |elatos en l'r-ancs; nren()r.gr-aclo en rn, r e l a t o s e n a l e m n , p e r o e n ch i n o , a b so l tr ta n r e n te r a cl r .p o r .r i tr r p a r te , m i a u t o m v i l v m i s tr 'r a d o r a r o e n ti e n cl e n n a cl a : e se a s'n to no .- l est, i n "n c u m b e n c i a . c o n fi - e cu e n ci a a tr i l >u i n o s l a ca p :r ci cl a clcl e "co n r p r - e n si n ,,y otros-predicados cognilivos por nredio clc nretrfirr-a.. u.uloins r, a alltomr'iles, surnadoras v otros artefactos, rer-o.ada s" pr:r,"tr. co]r tales atl.ibuciones. Decimos: "la pue.t:r .sa,/;e crrinclo rbr.il.sc, ca.sa clt: str celda a fotoelctrica", "la sunrador-a.scl: t:rlttto (ertrt,rttlt, t:tjttto, (,.\(.(tl)(tz,/r,/ strnrar v restar pero no dividir", v "el tcr.nt<_rst .,tt,rt.ibc alo cant bios rle tt nt ttcratur_a,,. L a | a z n p o I - l a q u e h a ce m o s e sta s a tr i L r tr ci ,r n cse s L r r stl u r tr .i n t.,r - e sa n te v t l e n e q L l e V e r c o n e l h e ch o d e q r - r ee n l o s a r te fa cto s e xte n cl e n r 6 s tr e sl r - a p r o p i a i n t e n c i o n a li d a d .r N r r e str 'r s e r l a n r i e n ta s so n e xte n si r i n e s h cl e n u e st r o s p r o p s i t o s v , p o r co n si g u i e n te , n o s p a r e ce n a l tr l a l a tl i Ir r i r - l e s i l tte n c i o n a l i d a d n r e t a f r - i ca tr e n te . Si n e n r b a r - so , a r n i .j r r i ci o e sto s c.j e n r r l e sr r o t i e n e n n i n g t r n a i m p o r ta n ci a l - i l o s l - i ca .El se l r l i cl o e n r l q r r e ,,,,. - r .,".tu a u t o n l t i c a " e n t i e n cl e i n str ttcci o l l e s" :r p a t- ti l cl e str ce - l cl lro to cl cl t- i ca l to e s d e n i n g t l n a n l a n e r a e l se r - r ti cl o e l c r - rr ,o e n ti e n cl o i n g l s. cn e Si r :l se ti cl o e n e l q t r e l a c o n r p u l a d o r a p r o g r a r n a cl a cl e Scl l a r r k c,r ,r r r r - ",r ,.1g s l " r .e - l a to s e s s L r p u e s t a m e n l e e l se n ti d o r n e ta l ' r .i co e n r .l q u e l a ta r r l tl tt ti ca ,tr .,r e n t i e n d e 'l r o e l s e n ti d o e n e l q u e 'o e 'ti e 'cl , i n g l e s, l l ,, r 'a l cl r .r .ra p e n zr l d i s c u t i r - e l a s t r r - r t o . n e n - r b a r g o , N e u ,e l l v Si l r .l o n ( 1 9 6 1 ) t- scr .i b i e r ( ) . Si qrre e l t i p o d e c o - e n i c iti n q u e a tr i b tr ve tr a l a s co n r l l u ta cl o l 'a s e s e \a ctl n r cn te el m i s m o q u e e l d e l os se r e s h tr m a n ,r * . M e a g r a cl a l a t.e cti ttr clcl e e sl a a l i r .n tr _ c i n Y e s d e l t i p o q u e co n si d cr - a t . Ar g r r n r e n ta l ' q u e c sr ' ti cl e l i te a l la c o m p u t a c l o t 'a p r o g r a m a d a co t- t- tp t'e n cl e q u e e l a u to n r r ,i l v l a sr r r n a cl o r .a , lo e s d e c i r , e x a c t a n t e n te n a d a . L a co r r r p r .e n si r r cl c l a c,r l r l .r r ta cl ,,l t l to e s p r e c i s a m e n t e ( c o m o m i co n r p r - e n si n cl e l a l e n r .) p a r ci :r l . i r cr r r p l e ta ; es nula. P a s e n t o s a h o r a a l a s r - u l i ca s.

2 " C onl pr ens i n" ta l l l b i n i n t p l i c a t a n t o l a p o s t ' s i n c l e e s t l i l o s n l c n t rl c s (i rrt t . c i 6 rrl l e s ) c or nr l a Ver ac i c l ad ( v al id e z , x i t o ) d e c l i c h o s e s t a c k rs . P a l a l o s l i n c s rl c c s rc e n i l i s i s rro s l i n ri tar c - m os a l a pos es i n cl e l o s e s t a d o s . ' I- a i l l tt- t- tc i onal i dad e s , p o r d c f i n i c i ri n , l a c a l a c t e r' s t i r: a c l c c i c l t o s rs t rrl o s rrrc n l a l e s n rc . di ante l a.c ttal s e di dgen a o b j e t o s v s i t u a c i o n e s c l c l rru rrrl o o s c o c u p a n c l c t ' l l o s . p o r. c o l rs i gui etl te, l as c r eenc i as , l o s d e s e o s v l a s i l rt c rrc i rn c s s o n rs t a d o s i n t c n c i o n a l c s , r)ri c n t t a s (l u c l as l onnas ,r j i r i gi des d (' rn g l t \ l i i l t \ (i (. 1 1(, \ i , rt ) i l o l , r \ , I r l , ; i l r n t rr0 r i l l l , , rl r; rr i , , l l , r, , , ; rs r, Seel h'( l qT qL

MENTES, CEREBROSY PROGRAIVAS

MENTES, CEREBROSPROCIRAMAS Y

89

1 . L A NPUCA DE I- OS SIST E\{ AS (B E R K E LE Y ) habi taci n no enti ende A u n c u a n d o e s cie r to q u e e l in d iviclu o e n ce r r a d o en l a qtle s el hecho es que l es s una parle de un sistema con'lpleto ;l-;;ht;, p,l inclividuo tiene ant s un enorrne libro e' el que estn entiencle el relato. realizar los las reglas, ..,".,tu .ot gran cantidad cle pa-pel 1'lp,icespara "r..iiu, r , t i e n J " b a n co s d e d a to s" d e lo s co n ju n to s de smbol os chi no.s. Fntonces, .i."f" slo ai ini'iduo, sino a todo el sistema del la comprensir, .r., pr"J" u,b.ri.." que l es slo una Par1e.

permitarnos que el Mi respuesta a la teora de sistemas es muy sencilla: las.eglas inclividu absorba toclos estos elementos del sistema. Memoriza hace todos- los clcuclel libro y los bancos de datos de los smbolos chinos v los mentalmente. Luego, incorpora todo el sistema. No ha1'absolutamente haya incorporado. Incluso poden'ros deshacerll;rda en el sistema qr'" "" trabaia al aire lib.e' De cualquier modo' ros de la habitacin -.rrrpo.t"iqt'e nada de .l-ti,to I'n firtiori tampoco el sistema' pues no hav irr entiende nada no haY modo L.n ste que no est dentro de 1. Si l no entiende, entonces pae de l' cle qr-reei sistema entienda, pues el sistema es slo una incluso esta respuesta a la E,n realidad, me siento algo molesto pcr clar me parece bastante 1t-or-ade sistemas,.va qlle, para empezar', la teora Llna persoila no entienda chino, \a cottirrverosmil. La idea es qlle aunqlle papel de alguna manera poda iutrcit'L de esa p"r.orl^ -y de peiacitos de qlte no estlleiltencler chino. No me l-esulta fcil imaginar cnlo alguien, lerosmil esta r.ier-abaio el dolninio cie una ideologa, podra considerar con iriea. Incluso as, creo que muchas cle las personas conlprometidas acabarn por decir algo mu' parecido; as qr-re la icleoioga de la l frrerie esta opinin, u.r Siar-nos poco ms adelante. De acuerdo con una "'ersitin de entienda el htmbre clel ejempio de los sistemas incorporados no ",,r,q.," (porqte, por ejemplo' qr" Iohace tln hablallte c.hino r,liin1en el sentido "eI "t rr,,rsabe que el relato se refiere a restatll'antes y hambuguesas,-eic.), manipulacin de smbolos forrnales" real' !r,)nrbr-een cuanto sistema cle : l]ttttes en tien de c hinc t . El s ubs is t em a del hom b r e q u e c o l l s t i t u v e e l s i s t e m a d,: nranipulacin de smbolos forntales para ei chino no debe confrrndirse r',.'n el subsistema para el ingls. As que en realidad existen dos subsistemas en el hombre: uno que en"lo lit,ncle ingls y el otro, chino, -"- que sucede es que ambos sistemas tienen Sin em bar go, q u i e r o r e p l i c : r r q u e n o s i o D luv p oco qu e v er ent r e s "' tienen muy poco que ver entre s, siuo que ni siquiera son l'enlotamente :;emejantes. El subsistema que comprende ingls (suponiendo que l)os per:itiremos por el momento l-raplar con esta jerga de "subsisl,emas") sabe ,lr re los relatos tratan de restaurantes y de comer hanrburguesas, sabe que

se le hacen preguntas acerca de restau'arltes y que est resporclierclo lo mejor que puede al Jracer varias infi:rencias a partir del conteniclo cie la narrat:in, y as sucesivamente. Pero el sistema chino no sabe nada cle esto. Mientras que el sistema ingls sabe que "hambur.guesas" se r.efier.e hama burguesas, ei subsiste.ma chino slo sabe qtre despus cle "giiir.i giiiri" aparece un "guara guara". Todo lo que sabe es qlle los distintos srnbolos formales ingresan por un extl'emo, se nraniprrlan confor-nre a r-cglas e,scr.ita.s en ingls y otros smbolos salen por el otro extrc-nro. Tocl,r c.l .ropsito clel ejemplo original era argurnentar qlle esa rnanipulrcin de srrr[l<.,s ror-s misma no bastaba para compre'de'chino en ningn sentido literal, p()r q.e el hombre poda escribir "guara guar-a"despus cle "giiir-i giiir-i" sin enl ender. nada de chino. As que postular strbsistemas dentro del fionrbrr..o sat isf ace el argumento, porque en pr-imer lugar, los srrbsisternas r)() se cncllentr.an en mejor posicin que el l-rornble; no poseen nacla que se par.rrzcr sicluier,a r e m o t a m e n t e a l o q u e ti e r e e l h o m b r e ( o str b si ste r n a ) q u e h a b l a i r r g l s. D c h e c h o , t a l c o m o s e d e scl i b e e l ca so , e l sr r b si ste r a ch i n o e s ta n sti l o u n a p a r l e d e l s u b s i s t e m a i n g l s, u n a p a r tc q r r e i n te r l i e n c e n e l r r r u r c e cl c s r j bolos carentes de significado confor.me a las r-eglnstJ.,l inglr:s. Preguntmonos qu es, en plinrer lrrgar-,lo qrre.supuestlrilerrtc roti\r al sisten-raa r-esponder; es decir, qrr l'r-rndanrcntr)s itttleletttlil(r.s sc sLlp o n e n p a r a a f i r m a r q r r e e l a g e n te rd e b e p ( ) se e l . n sr r b si stc. l l rt l _ r l l e s tl que entiencla literalmente lelatos en chilro? Hi,sta clrrrrle rtreclodccir, los nicos fundamentos son que en el e.jenrplo vo tengo la r.is.r:i crrtr.aclay salida de infornacin que los hablantes clel clrino v un pr.ogl.anra qLre 'Lr de la una a la otra. Pelo el propsito crbalde k-r.s eiernplos lla siclo ir rterrtd e m o s t r a r q u e e s o n o b a sta b a p a l 'a co l n p l 'e n d cr e n cl se n ti .k, e l r q r e vo c o m p r e n c i o r e l a t o s e r r i n g l s, p o r q u e L l n a p e r - so l l a ..\'p ( ) r co i l si q u i e n te L - l conjunto de sistenras que la constituven, ,odra 1ener.la conrbinrcirin r:tl_ necta de entrada, saiicla v progr-ama v arrn as no r.ntencler. nacla t-rr el senticlo literal pertineltte en el que vo enliend,r ingls. I-a tinir:;.rnrotivaci<in para afirmar que debe existir rtrr srtbsistcma en nri interior crrecr.rrrrpr.eclc chino es qlre vo tengo un prograrna v aprol.,t- pnreLra de 1'trr.ine; la rrrecltr e n g a r i a t - a I o s h a b l a n t es n a t.i vo s d e l ch i n o . Pt r - or r n o r i e i o s r tr to s e c e s, tin es precisamente la suficiencia cle la rr-ucb:r clc -r-rrlirrr.]il ejernplo m u e s t r a q u e p o d r a h a b e r d r s "si ste m a s"; a m b o s p a sa n l a p m e b a cl eTr r r i n g , p e r o s l o n n o c l e e l l o s e n ti e n d e ; v n o ti e n e se l tl i i |l a r g u n te n l a i .co n tl .r e st( l para decir que, como arnbos pasan la jc'lre lnreba dt rr'ilrr'., rnrl-ros conrprencier', ]/a que esta afirmacin no satisface c.l ;rrlrnrento clt-'ctre el sistenra dentro cle m que complende ingls tiene nrtrcho nrs qrre el sis[enra que nada nrs procesa chino. En rocas paialrras, l;r rplic:;r c,ltlos sistcras s e n c i l l a m e l r t e d a p o r se n ta d a l a cu e sti n .r l i n si sti r si i r a r g r r n r er r to s r tr c e l sistenra debe entcncler chino.

F
r
F

E
90 AS Y CEREBROSPROGR,A]\ MENTES,

t t
F t t

corrsecttencias Adems, la rplica de los sistemas parecera condttcir a de concluir que debe que son independientemente abs'rds. Si hemos de entrada existir coglticin en m sobre la base de que tengo una especie programa entre ambas' entonces pareceria v salida cl" inforttlacin 1'un acabarn qtre todos los tipos de subsisien-,as que no sean de cognicin Por eiemplo, existe un ni'el de descripcin en el cual mi ,l"r-ro cognitivos. cualqtr ier canestmagJp.ocesa informacin - eien'rplifica co.cretamente que no queremos cle conlptltadora, pero considero tidad de p.ogru*^. sl aceptamos clecirque tiene comprensin alguna (cf. P-I1'shvn,1980). Pero cmo podemos evitar resulta dificil la rpca cle los sistemas, entonces "'er son subsistela af-irmacin de que el estmago, el corazn, el hgado, etc., para que .ort-rp."n.l"r-t, puesto que no hay una manera de principios rras chino entiende de el a decir qr_re subsistema distinguir qu nos que el sistema chino -oiir",u afirmlr qu. el estmago entiende. Por cieflo, decir que el estmago tiene entrada tiene informacin cle trada y cle salicla v constittlve una respuesta v salicla cle alimentos v productos alimenticios no qul desde el punto de r,ista del agente -desde mi punto a esta cuesti', 1,a el chino, pLles esta cle vista- no existe informacin ni en la comida ni en La lengua no es ms qlle tlna serie de garabatos carentes de significado en los oios informacin en el caso de chino se encLlentra exclusivamente qr're les impida de los progran-raclores y de los intrpretes, v no ha1' nada las entradas t salidas de mis rganos diges.or-,siderurl.omo informacin , livos, si a s lt - -des ean. en la El ltimo punt o s e r ef ier e a algunos a p r o b l e m a s i n d e p e n d i e n l e s Si ]a.tn tuet'te ia pena des'iarnos un poco pal'a explicarla. lA [r-ler-te v 'aje distingtrir ha de ser unu .u,r-tucle la psicologa, entonces debe ser capaz de rnentaies de los que no lo son' Debe Ios sistemas que son genuinamente la nrente de ser capaz. de isting.rit- los principios sobre los que trabaja no sobre los quretrabajan los sistemas no menlales; de no ser as, oquellos Y la distincin n os expiicar qu es es pec f ic am ent e m e n t a l e n l a m e n t e jos del espectador' entre ental )'no mentl no puede quedarse slo en los o los s is t en l a s ; d e n o s e l 'a s l . c a d a e s p e c l a sino qrre de be s er inlr ' lls ec a a do. pod.u tratar a Ia gente como no mental y, por eiemplo, a los huracanes conao menlales, si asi lo deseara. Sin embargo, muv a nlenttdo en la literatlrra sobre IA esta clistincin resulta confusa en aspectos que en el largo plazo resultaran desastrosos para la afirmacin de que la IR es una disci"Puede decirse que plina cognoscitiva. McCarlhy, por ejemplo, escribe: los termostatos tienen creencias y tener creentan r-r-rquinas sencillas conlo cias parece ser Llna caracterstica de la mayora de las mqttinas capaces cle solucionar problemas" (Mccarthl." 1979). Quien piense que la lA tiene la probabilidad de ser una teora de la mente debe ponderar las implicaciones cle ese comentario. Se nos pide aceptar como descubrimiento de la

r.
, t l ,

IV IE N TFS , ]E R FB R OS P R O(IR A ]\J A S C Y

9I

t r I
f

I
E

t I E

[.

IA fue.te que el pedazo cre.metar ra par.ecl en crre rrtiriza'ros Pa.a regurar ra tenrperatrrratiene c'eencias eractamc-rtecn el ,-risrlrosentlcl,ren que no_ sotros, nuestros cn-r,trges nuestl.os v hijos las lenenlos,v aclertrs, que,,la ntavora" de l as dem s nt quinasde I a ir abit aci, i , "1. , f sumadora, i nten- upt orclelt r z- t ar nbin t iellen "". a, cr et - ncias , '*l"baclorido en est c sent literal No es el propsi1ocleestear1curoa'gr.re'rar.e, contl.r pr_rnto der de M.ccarlhv, as que simpler.'entee,*p,r..rr. r., sigrrierrlc crisc sin rrsin.El estudi o de Ia ment e par t e cr ehechos 1ur "r . , r , , . r , . , gr r c los r r r r nr ar . s t ienen creencias,ntientras que los terntostatos,telf onos o ,un'..l.rr=,r,-rr. Si ," obtiene una teora que niegrreestepu'to, se rrabr. rogr.aclo ..,r-rtro""-,,,-, plo de la teora v sta ser falsa.Se tiene ra impr.esi<iir cltrerrr-p",.roru, cre qlle se oclrpan de la L'\.vescriben este tipo crecosasricrrsa.r q.,J pued",-, salirsecon la_suya, porqlle no la tonran reallnenteen ser.ir_r v tantpoco pien_ san qlle los dems lo harn. propong' q'c- al nrenos p,r,l.r ,r-,.rr,,rento la consi cl eremos iam ent e. pienseint ensant er t f e ser clur _ant en r lir r r t o gu se rr necesitarapara establecerqlle ese troz()clenreral en Ia par.ecl tie'e creencias reales,creenciascon cli'eccioraric'racr, con co'te'ir[. pr..r,sicional y condiciones de satisfaccin;c.eercias que.trr'ier.a' ra l,rsibilidu,l.r" ,",. sl i daso dbi l es;cr eenciasner 'iosas,a. , siosus o segr lr . as; . eencias cr dogmti cas,raci onales super f iciosas,f c'sciegas o o cognicior r r . t ir r r beant es, s crralquiertipo de creencias.El ternrostat,,,ri .,o,,Ji.r"t,,par.r r,o, como tampoco l o son e l est m ago, h gado,r a s"r adr r . a, ", el er t cif . r '. sin em _ bargo, p.esto qlle estanros cor-rsicler-anclo la idca scr.ialrrerrle, ,bstir-vese que s,u'erdad ser'afatal para la afirmacirin de cltreIa lA frrer.tr- llril clencia cs de l a mente P o. ahor a, la r r ent e se e. cl er t r - a en lr cr : r s r ar . t t , s. qt r e Lo saber es qu dist ingr r ea la nt ent e clc los t er . nlos{at t , s 3yeri amos v cle los hgados Y si Mccarthv ru'iese t'az.(:n, r ftrerlc ra r- ;;u.i;;;;rr,,,,,o peranza para decrnoslo. "r-

2. LA RpLr cA RoBot ( ynr _e) DEL

S upongamos que c s c l i bi rnos un ti po c l e pr-oqrrnra c l i l ' el .c nteal c l e S c l l ank . S u_ pongamos que po nemos una c omputador-a dc nl ro c l e un rrtrrtv c trerrs ta nt s ri l c r acepta smbol os fonr-ral es c omo c ntrac ra y pr,c ruc e' s -nbol os f,,,.,,,^1", ..,n,r,, sal i da, si no que cfec ti ' amentL- opera ar r.,boi c re tar nrtnc -r-a qu., e.t.:-r,og,nul g,, mu1'parcci do a perc i bi r, c ami nar., des pl az ars e, mai l l ar., .,,,r,"., betr.,r. l . q' e se qui era. E l robot tendra, por c .j enrpl o, una c .i rnl u.a rc tc l ev i s i ri i l c gr-ardz rra c cual l e permi ti ra "v er"; tendra braz r.s pi c r.rl as v p.a p6< Ier ,,ac tuarr,,v l oc l o es l c r l o crntrol aa su "c c rebro" c re c omptrtadc ,r-a. A c l i ferc nc i a c l e Ir.,,,r,,,,tr,.r,r,,u.1" schl nf, este robo t s era c apaz .l " i rno gc ntri na c rnrp.e-.s i rn v c l c .trrrs es tac l .s mental cs.

I
I

t,

92

MENTES,CEREBROSYPROGRAMAS

acerca de la rplica del robot es que Lo primero que hatrra que obser-var se acepta tcitamenle q.r" lu cognicin no es nicanlente una cuestin de n.ranipulacinclesmbolos fornales, ya que esta rplica aade un conjunto exterior (cf. Fodor, 1980)'Pero la rescausalescon el n-rundo rle relraciones es que la inclusin de estashabilidades "perpesta a la rplica del tobot y c.eptuales" "motoras", en nada contribul'e al entendimiento,en par-ticular, o a la intencionalidad, en generai,del programa original de Schank. Para se captar esto, obsrveseque el r-nismoexperimento-pensamiento puede de la computadora dentro .,rii.u,-al caso dei robot. Supo.gamos qLleen vez como en el casooriginal del chino, dcl robot, me lneten elt una habitacin 1,', srnbolos en esa lengua con rns instru-ccionesen se me propor-cionan ms rngls par-aaparear los smbolos chinos con otros smbolos chinos para aunqueyo 1oignoro, otros smboloschinos al erterior. Supngase, ,lrji,olver algunos clelos snrbolosque recibo provienen cleuna cmara de telet'iclrre ,i,r irit"g.uda al robot y que los otros smbolos que vo remito al extedor los motores dentro del robot que mueven las sirven rJ.o echur u ^.tui Es imporla'le resalta que todo lo que esto' pier.nai o braz.osdel .obot. i,aciendoes manipula| slnbolosforrlales; ignoro todo lo dems.Yc)recibo la "ir1lbrracin" a panir del clispositivo"de percepcin" del robot v doY "istlrcciones" a su apar-ato motor sin saber que lo estoYhaciendo.Yo soy t l ltmrinculo cleirobot pero, a diferenciade los iromncuios tradiciona]es, ignoro qu est sucediendo;no comprendo nada exceptolas reglaspara la ,r,a.ipuiu.ion de srnbolos.Ahora bien, cabe mencionar en estecaso que el pues sencillamentese rrbol carecepor completo cleestadosintencionales, de sLlsisteniade circuitos e1ctricc-rs su p|ograma. ' cle como r.esultado a,:1.iva irOr. otra parle, ai ejeinplificar concretamenteel programa vo no tengo estodo lo que hago es seguir instmcciones taclosintencionales per-tinentes: raramanipular smbolos fonlales. (Br'nr-elr'v Y [4ir) DE sIMUI-ADoR cEREBRos .3.Ln nplIcA DF,Ique S ) u p o n g a m o s c u e se d ise a u n p r o g r a m a g u c llo representa l a i nforrnaci n t . . r i em o s a c e r c a cle l n r u r id o , co m o se r a la in fb r r n aci n de l csl i bretos de S chank, s i s q u e s i m u l a la se ctr e n cia l- e a l d c e m isio n e s neurortal es cn l as si napsi s del c e r e b t . o d e n n ha l la lte d e i ch in o cu a n d o co r n r renc{e rr:l al os en chi no v otrece r ' e - s p u e s t a s c e r ca d e sto s. I- a m q u in a a ce p ta los rel atos ett chi nrr y l as pregutra t l i s s o b r e e l l o s a m o d c, d e e n tr a d a : sim u la la e st r-uctura frrmal de l os cerebros c l r i n o s r e a l e s a l p r o ce sa r lo s r e la to s t o fr e ce r e spuesta.s en chi no a manera de s a l i d a . P o d e r n o s in clu so im a g in a r q r r e la m q u in a no opera con Ll n sol o pr-ograr n a s c ' r i a l , s i n o co n to clo u n co n - iu n to r le p r o g r a mas que operan en paral el o, de l r t n i s m a m a n e r a e n q u e su p u e sla m e n te r ) p e r a n l os cerebr-os humanos real es c u r n d o p r o c e s a n e l le n g u a je n r tu r a l. Ah o la b ie n, no cabe duda de que en este

93 casotenclramos afirnrarqLre mquina que la ha comprencliclcl relrt.s. si y l.s nos negamos decirlo,noestar'armos a tnrbin n"guri.l,, los rrabla'tes quc del chino entienden relat.s?En el niverde las los srnapsis, q' serao p.dr.aser diferente entreel programade la con-rputadora 1,cl dcl ce-rebl.crrino? 'rogranla Antes de contradecir esta rp[ica,nre gLrstar-a haccr rrn parntesispara anotar que se trata de una rprica extraa para un partidari. de ra interigenciaartificial (o del funcionalismo, etc.):1,op"r,rt qtre Ia idea clela rR fuerte radicaba en qtre no necesitamossabe' cino ^ ftrncio.a er cel.ebro para saber cmo frrnciona ra l-rente. La hiptesis firndanie'tal, . as lo crea yo, es que existeln nivel cle ,peraciones mentales qtre cc,r]stade pocesos cmpr,rto de sobre los eremeniosfornralesque constitrr'en la esen_ cia de lo mental .',' que ptrecle lle'arse a cabo ,"1, i,,, ili;;;; rip.s cle procesoscerebralesdel mismo modo que "" cuarcuier.p,',,gr.onro ..,.,rp,,iiu: tadorapuede funcionar en distinros/tardwares de comruraclor-a. segir' ras suposicio'es de la n fuerle, ra mente es crelcerebro ro que er programaes respectoderhardruare por 'especto y, consigiien{e, posible entender es la mente sin incurrir en el n'rbito lo ,-r".rrofisiologa. si p^,-o-t',u.",,o tu'leramos que saber cmo traba.ia cereb.o, el n, tenclr-a aur., o.r,p,,r.rroa de.ella.Sin embargo, aLlnctrando se encrentra tan pr-oximarllrr'cionamiento dei cerebro todar'a no es suFiciente para procltrcir compr.ensin. Para'er esto ms claro, imaginemos qLre en li,gu. e .,., honrbr.ji'o'olin_ geen una habiracinrevor'iencro smoros, tenenlos,n hrmbre orerancro un glupo complejo de pipas de agua conectacras c:o'r'lvtrlas.cr-rarrcro recibelos smbolos chinos, consultien el programa, escr.tto i'gls, cnles en vlvulasdebe encender o apagar. cacra coiexi'clc agua,,o.i]"rp,,,.,.r",. una sinapsis en el cerebro chino todo el sistena est cliseiraclo lal r cle maneraqr-re, despr-rs todos los "encencricros" de corrector, d".i., espus deponer en funcionamiento tocros gr-ifos ", ros .orr"sponclientes,rasrcspuestasen chino brotarn a la salida clela ser-ie ctepipas. A hora bi en, dnde est . ia_com pr ensin en est e sist em a?Acept a el . chi no como entrada, sim ur a la esir uct r r - a f or - nr alcr e las sinapsis r lel cerebrochino l'entrega chino como salicla. Sin errrbargo, homr.ecierer tamenteno entiende chino, ni tanrpoco lo hacen ras pilas .r" ug.,^, .i ,,o. sintiramostentados a adoptar el punto cre a mi'lrricio a6srrrdo,de 'ista, qr-re alguna manera Ia collunciiz de hombr", de plpu, i" ;;.,;.;,rpr""_ de;recordernosque en prinr:ipio er hombre puecre inter-narizar est^rcla tura formal de 1aspipas.de agua y rearizar en su imaginacin tocroslos "encendidosneuronales". El prolema con er simurador del cerebro es que simula aspectosequi'ocados cleste.Mientras lnicame'te sim.le la estructura formal de la secuenciacle "encendidos" neuronales en las sinapsis,no habr simulado lo que realmente es impor-tanteacer-ca ceder

IVENTES, y pROCJtAMAs CEREBROS

94

MENTES,CEREBROSYPROGRAN{AS

(IFIIEBROSI'ROClRAfvf MENTES, Y AS

95

su capacidacl de prodr-rcir estar-ebro; es decir: slls propiedades causaies' de las pipas cle agua demuestra que las clos intencionales. Y eiejemplo causaies: formales ,-,o ,ott suficientes para las propiedades ;;;pi";"i"t caulas propiedades formales de las propiedades iod".rro, extraer todas sales neurobiolgicas pertinentes' (BERKELEYY STANFORD) DE 4. LA RPLICA I-A COMBINACIN Arrncua nd oc ac launac ielas t r es r plic as ant e r i o l . e s p r - r d i e r a n . r e s l t l t a r c o m de al contraejerrrplo la pletamente convincente por s misma como refutacin en conjunto' colectivamenteson mLlcho ms habitacin china, si se cc''nsideran Imaginernos un robot que cuenta con Llna con.rincenlese incluso clecisivas. imaginemos en forna cle cerebro aloadaen su cavidad craneal; .u-p.ttuao* cerebro hude est programaclacon todas las sir-rapsis un que la comptttaciora del robot es indistinmano; imagtn"-.,. tu-bi" lue todo el conrportamiento todo esto conlo Lln slstema gtrible del " .,r, .". humano, e imaginemos ahora de datos' Sin y slo como una tornpututlotu con entr-adas salidas irnificado v no intencionalidad al sistema. ducla,en tal caso tendramos q.r" t.ib.ri.l" caso nos parecea racional' Estoy totalmente de acuerdo en qlre en tal que el robot tiene intencio."^ii^ irresistible, aceptar la iptesjs de y "" nada ms acerca de 1 En realidad' t"puto' nalidad, siempre y.*o '' los dems elenlentos de apafte de su apariencia v de su comportamiento' irrele'antes. Si pudiramos construlr son fi'ecuentemente ii.o-blnu.in [uera an-rpliamente indistinguible dei comrn robot, ..,'o.o*por.tamiento hasta que existiera portamiento llumano, le atribuiramos intencionalidad' alg rn motivopal. anohac er lo. Nonec es it ar a m o s s a b e r d e a n t e m a n o q t t e formal del cerebro humano' su cerebro de computadora es una analoga arttcle en algo a los argumentos de Empero, realmente no \eo que esto IA fuerte' la e-iemplificacin Ja rn ftrene; y he aqu por qu: de acuerdo con la d" t.t p.og.ma ftrrnal con datos de entrada v de salida-adecuados concreta de intencioconstituye r.,.,"to.ri.in suficiente, y de hecho es constituti'a, de lo mental es la operacin nalidacl. Al decir cle Newell (1979),la esencia atribuciones de intencle un sistema de smbolos fsicos. No obstante, las al robot en este ejemplo nada tienen que ver con cionalidad que le hacemos que si el iorrnol"r. se basan simplemente en la suposicin de p.og.u-u, entonces nosotro.s'. i'obot se ve y se comporta lo suficientemente parecido a que debe poseer poclran-ros st.lponer, hasta que se demuestre lo contrario' su comporlamlento v se estados mentales como los nuestros qlle causen interior expresen a travs de ste, y que debe contar con Lln mecanismo estds mentales' Si supiramos' de manera inde.uput d,.producir tales pendiente, cmo explicar su comportamiento sin tales suposiciones, no le

atriblriramos intencionalidacl sobre toclo si strpir-anrosque posee Lrn programa l-ormal. ste es pr-ecisarnenteel ptrnto qrre trat en rrri rplica anterior a la objecin 2. Sr,rpongamos que sabemos q.e el comportarrie'l'del rob.t obeclecepor completo al hecho de que un hombre recibe en su interior-sn-rbolosfor-males no inter-pretados desde los receptores sensoriales del r-otrotv enva smbolos forrales no interpretados al mecanisrncl rnotol'del r-obot, r clrreel hombre realiza este manejo de los srbolos segrlrntrna ser-iedc'r-eglas. Supongarnos, adems, que este individuo no sabe nacla acer-cadel robot Y que lo rnico que sabe es cules oper-acionesrealizar con crrles smbolos sin significaclo. En ese caso consideraramos qtre el robot es un lnueco rnecrrico irrgenioso. La hiptesis de que el robot tiene mente r-estltar-a ent()nces inlrrsri[icada e innecesaria, puesto que ya no habr'a ninguna razirn para atribtrir.le intencionalidad al robot o al sistema del cual forma parte (exc-epto,pol-sLlpuesto, la intencionalidad del hombre en el manejo cle krs srnbolos). El niar-rejode smbolos forrnales contina, los datos de entlacla 1'de saliclase con.esponclen con-ectamente, pero el rnico foco real de intencionalidad es el lrombre y l n o s a b e n a d a d e l o s e sta d o s i n te n ci o n a l e s p e r l i n e n te s; n o l e , p o r .e j e m p l o , lo que entra en los ojos del robot; noriette la tttettt:itittcle rnoverel brazo del robot y no conry)rendeninguna de lrsobserwaciones hccllas al robot o por el robot. Ahora bien, por las razones anteriolnlenre exprrestas, rampoco lo hace el sistema del cual el hombre y el robot fonlan par1e. Para considerar este pllnto, comparemos este caso con otros en los que nos parece completamente natural atribuir intencionalidad a los riernbros de alguna otra especie de primates, como sinrios .v nronos, .y a rtnimales domsticos como los perros. Las razones de qtre ell'nos pu,:"..., natural son, a grandes rasgos, dos: no podemos clarle sentido al compo|tamiento del animal sin atribuirle intencionalidad, y podemos ver qlle las bestias e s l n h e c h a s d e m ate r j a l si m i l a l a l n r e str o ( e so cs r r n o j o . e so e s r r r r a r r a r .i z, s t a e s s u p i e l , e t c .) . D a d a l a co h e r e n ci a cl e l co m p o r ta m i e n to d e l a n i m a l y'la suposicin de que est hecho de la misma materia catrsal, sLlponemos que el animal debe tener estados mentales que motiven su comportarniento y que estos estados mentales deben ser producto cle mecanismos hechos de esta materia que es como la nLlestra. No cabe cluda de que haramos suposiciones similares acerca del robot, a menos de clue tuvir-amos alguna razn para no hacerlo, pero tan pronto como supiramos que su comportamiento fue el resultado de Lln programa formal y que las propie<1ades causales reales de la sustancia fsica eran in-elevantes, abandonaramos la suposicin de intencionalidad (r,anse var-ios atrtores, 1978). Existen otras dos respuestas a mi ejemplo que surgen a menudo (y por ello vale la pena considerarlas), pero que en realidacl no comprenclen el sentido de mi argumento.

NIENTES, CEREBROS Y PROCRAMAS

MENTES, CEREBROS|ROURAI\\S Y

9Z

(Y A LE ) 5. L A RPL ICA DE L AS OT RAS M EN TE S comque otla persona entiende chino u otra cosa? Slo porsu Cmo puecle saberce l. computadora puede aprobar (en principio) Ahora bien, .o-o p""-i""a. si se ha de atribuir de conducta tan bien como cualquiera; por tanto' i... p*.bu, p e r so n a s, ta m b i n d e b e a tr ib ursei e a l as computadoras' cognicin a otras

E s t aobjec in e n re a l i d a d s l o me re c e L l n arpl i cabrel ' e.E i probl ema dsnen estados en este caso no consiste en cmo s que otras personu5 cuando les atribuyo .ognlri.,or, sino ms bien en qu es lo que les atribul''o podra tl'atarse precognitivos. La ftrerza del argumento es qlle no "uiudo, y de sus resultados'porque los procesos cisamentee procesosde cmputo cognitivo. No es clecmputo y sus resultadosiueden existir sin el estado "ciencias cognitivas" lespuesta a este argumento fingir anesiesia'En las mental de la misma .""fr"r.,po.t" lu ."Ilid^.I y la cgnoscibilidad de lo presuponer la realidad la las cienciai fsicas se tiene que ,rr^r-r".. q.," ' "r-, cognoscibilidaclde los objetos fsicos'
(BERKELEY) 6. LA RPLICA DE LAS MANSIONES N,ILTIPI-ES . I o d o c u a n t o u s te d a r g u m e n ta p r e su p o n e q u e la t slloti etl equer'erconconl pu' pero resulia que ste es precisar-nente el estado tadoras analgicas u?igi,ul".. procesos causale-s que usted actual cle la tecnologa. Cualesquiera que sean los in te n ci onal i dad (suponi endo que tenga a f i n r r a q u e s o n e se n cia le s p a r a q u e e xista di sposi ti vos que cuenten u s t e d r a z n ) , a la - la r g a se r e m o s ca p a ce s d e construi r al ti fi ci al . D e modo que sus y se r in te ig enci a c o n e s t o s p r o c e so s.r ..1 ", "so de l a i ntel i genci a arti fi ci al a r s u m e n t o s d e n in g n m o d o se r e fie r e n a la ca paci dad paia producir y explicar la cognicin'

E nr ealidadn o te n g o o b j e c i n a e s ta r p l i casal r,odeci rqueenreal i dad cosa p.ov"lto de la t fuerte al redefinirla conro cualquier trivial "l 'uelve EI inters de la proartificialmente la cognicin q.," p."J"r.u y "*piiqrl" que se trataba originai . f,ro. de la inteiigencia artificial estriba en ;;d" los procesos mentales son procesos d" ,rrru tesis precisa y bien ciefinida: desacle lementos definidos folTnalmente. Me interesa ."-fr,u.i"'ales srga si el argumento se replantea de modo que ya no fiar esa tesis. Pero porqlle ya no habr siendo esa tesis, mis obiecionesya no vienen al caso, una hiptesis clemostrablea la que se puedan aplicar' trataa de responder: R"g.es"mos ahora a la pregunta que promet que yolntiendo ingls pero nochino y puesto pu"rio q.r" en mi ejemplo riglnal ingles ni chino' an debe haber algo en m que la mquina no "nti".td""ni

qLle pro\oca que vo entienda ingls, as co'ro debe faltar algo cor.r.espond i e n t e e n m q u e m e i m p i d e e n te n d e r ch i n o . I'u e s b i e n , p r q u e n o p o _ dramos proporcionar a una mquina esas dos.,,r.r, ,"ui'lo que fueren? No en principio, nirrgr:na razn po. la ctral no ptrdiera dotarse a 'eo, una mquina con la capacidad par.a entencler ingls o cllin,l, vi que en un sentido impoftante nuestros cuerpos con s's cer-ebr-os ,r' tr.".iru-"art" mquinas de esta naturaleza. pero s veo ar.qumerrtos nruy slidos para decir que no podramos proporcionarle tal cosa a una mq.ina, cuando ra operacin de Ia mquina se define exclusivarrente en tl.rninos de pr.ocesos computacionales de elernentos definidos lbrmalmc-nte; es clecir, ctrando la operacin de ia mquina se define conro el ejemplo co'cr.eto cle un progr?ma de cmp'to. Yo entiendo ingls y poseo otr-as formas cle intencionalidad, no porque sov el ejemplo concreto de un progr.ama de cmputo (soy, supongo, la ejempiificacin conc.etu d" ,',r.tos progr-amas de cmputo), sino po.que, hasta donde sabemos, so,v cierto tip,r de orga_ nismo con una ciefta estructura biolgica (es decir,'ncier-ta estructura qumica y fsica), la cual, en ciertas condiciones, es causarnrente capaz de producir percepcin, accin, comprensin, aprendizaje y crtr-os [enmenos intencionales. Y par-te de-la cuestin del presente argrmento es que slo algo que tu'iera estos poderes causales pdtiu tener intenci'naliclad. euizs existen otros procesos qumicos y fsicos que podran procl.cir exactanlente estos efectos; quizs, por ejemplo, los marcianos tambin tensan intencionalidad aunque sus cerebros estn hechos de clisti.ta nrater-ia. sta es, sin embargo, una prerunta emprica, muy similar a la cresi ra rbtosntesis podra ser realizada por algo con una qumica distinta a la cle la clorofila. Empero, la cuestin principal del presente argumento es qle ningn modelo puramente tormal ser jan'rs suficiente por s mismo para la intencionalidad, porque las propiedades forrnares no son ellas mismrs constitutivas de la intencionalidad v porque carecen por s mismas de poder causat salvo el poder de producir', ctrando se ejemplifican concretamente, l a s i g u i e n t e e t a p a d e l fo r m a l i sm o cu a n d o l a r n q tr i n a e st f.n ci o n a n d o . Y cualesquiera otras propiedades causales que tengan las realizaciones parliculares del modelo formal son irrelevantes para el nroclelo forrnal, porque siempre podemos poner el misrno modelo [orrnal en una r-ealizacin diferente en Ia que esas propiedades causales estn obviamente ausentes. Aun cuando, por algn milagro, los hablantes del chino pudieran ejecutar exactamente el programa de Schank, podemos ponereste mismo programa en hablantes del ingls, pipas de agua o computadoras, .,ing'no de los cuales entendera chino a pesar del programa. Lo que cuenta en las operaciones del cerebro no es la sombra formal pro-vectada por la secuencia de sinapsis, sino ms bien las propiedacles .eales de las secuencias. Todos los argumentos que he visto tavor de la

98

N,IENTES, CEREBROSY PROGRANIAS

versin fuer1e de la inteligencia artificial insisten en dibujar un contorno alrededor de la sombra proyectada por la cognicin v luego afinr-rar que las sombras son reales. A manera de conclusin me gustara intentar establecer algunos de los plrntos filosficos generales implcitos en el argumento. En aras de la clalidad intentar hacerlo en forrna de preguntas y respuestas, v comenzar con la pregunta ya gastada de: "Puede pensar una mquina?" La respuesta es obviamente s. Nosotros somos precisarnente esas mq uln as. "S, p ero , podr a pens ar un ar t ef ac t o, u n a m q u i n a h e c h a p o r e l llon-rbre?" Si suponenros qlle puede producirse ar-tificialmente una mquina que I)osea Lln sistema ner-vroso, neuronas con axones v dendritas, r, todo lo clerns, lo suficientemente seme.jantes a los nuestros, otra .,'ezla respuesta a la pregunta parece ser obviamente s. Si se pueden duplicar exactamente las causas, podran duplicarse los efectos. Y de hecho sera posible producir conciencia, intencionalidad, v todo lo dems utilizando algunos otros tipos cle prir-rcipios qurnicos que no sean los que utilizan ios seres humanos. Se trata, como dije, de rrna cuestin emprica. "Est bien. No obstante, podra pensar Llna computadora digitai?" Si por "computadora digital" nos referimos a cualquier cosa que tenga un nivel de descripcin mediante el cual pueda describirse correctamente como la ejemplificacin concreta de un programa de computadora, entonLresotra vez la respuesta es, por sllpuesto, s, )'a que nosotros somos las ejempli[icaciones concretas de cualquier nmero de programas de cmputo y podemos pensar. "Sin embargo, podra algo pensar, comprender, etc., exclttsivanlete en virtud de ser una computadora con el tipo colrecto de programa? Podra la ejemplificacin concreta de un programa (del programa correcto, por supuesto) ser por s misma condicin suficiente para la comprensin?" Segrn yo, sta es precisamente la pregunta que hay qlle contestar, aun cuando suela confundirse con una o ms de las preguntas anteriores, y la Lespuesta es no. "Por qu no?" Porque las manipr-rlaciones de smbolos forrnales por s mismas carecen de intencionalidad; son bastante carentes de sentido; ni siquiera son manipulaciones de sntbolos, ya qLle los smbolos no simbolizan nada. En la ierga lingstica, slo tienen sintaxis pero no semntica. La intencionalidad clue parecen tener las computadoras slo est en las mentes de quienes las programan y de quienes las usan: los que envan la inforrnacin de entrada v los que interpretan la informcin de salida.

paraentend"..hi.,jo

d:',..,. q.," ,".,,u ::?,::HXfffil, : taadenada,por f,',,g.ou,n "t e.ic'mplo,r.,,,,,oll,o i,,r",.,.io_ . r.."p".i.r.Ji"t
l-ro-u."
Esa caracterst,ica de la l _la distinci

MENTES, CEREBROS },PROCRAN{AS 99 El pr-opsito del ejemplo cre la habitacin china f.e intentar.crenrostrar. esto al mosrrar que tan pr.onro .on.'o i,.t,o.lrrcimos ;l;;;;.;il,*ema realmente tiene intencionalidad que (un hontbre) y lo pt.ograntantos con el

:1,:n:'::1,i1,""'onotingtiLe';;i

surdassi n forma al s una de int encion^iil; . Wiez_enbaur ( 1976, c: r p t ulo n ha f, orm"norizado cmo cons t.r i r. u na com rr t ad..a uti_ i):^l.rt^";"-0,,:, llzandoun rollo de papel higinico y un montn crepiedr.ecita.s. De nlanera similar' el p'ograma para entenderr-elatos chino ptrede en progranrar-se una secuenciade pipas.de en agua, ,,rrr .or-r.rnto rnq'inas cle de o "r-, ;"&, ;,,1r.,,.,,, los.,,o1",-'"gu.i, 'iento de

illf"c"";i;l'd:J{l;:?:Xll:llilffi kT,,:i;:::ff ::,?;:"..j'ff

del cerebro lo que el-programa es .especto crel rtartrtvare,,raraen varios puntos, ent.eIos cuale_s se encltentt.an'los .sigtrienles tres: , P ri mero, l a di sti nc.

neurofis d;i;.,."b,.-.T;ffi iotoc" ;",',:l.J::::i:ff :Hl:';:.:: ll:fi

la afirmacin de que lu .i'..,Iu.'i; il;:; ser duplicacin. La ciisrincin entre el programa v su.re,alizaci'";;i;;;,'crtvare parece ser.par-arera ra distincin entre el nir,'el a de l"r n-,"nroi"s'c,l .i'ei cie las operacionescerebrales. si podam"r "p"t".1.r.,", y "r.]:iui. er niver cre,rer.acio'es talesconro un progra.maiormal, nren_ clescr_ibir., parecer, al i o esenci al ";;;;;;Ir"clamos acercade la m enle. in in. , ; ; ; i; .

:i1-,0".",;;;.isamenter";,;;;i,;:;l;T::,:,.i;::',11i;:il.

raintencionaricracr, verse tcilmente que no adquiere ruede intencionalidad adicional al menr.r-izar el programa, pues el hecho;" ," enseachino. programa es puramente formal, -".,.';;i;ui "" per-olos estadosintencionares son formales de ese -^,t^:t-*o"'"el no modo. Se definen en trminos de str contenido, no de su forma' La creenciade que como figura fbrmar, sino como ".ta'or".rao, por e jempro,no se crefine .i".ro .o.rr"nido mental con concliciones de satisfaccin'con sentido d" Searre, r979a)v sirnirares'De hecho' la creencia como "d";;;.i;"i"5u.g tal no tiene srq.lera una ligura for.mar en estesenti do si ntcti copuest o que una r olu y iu _ir - ". r i"". , ""0""a". recibir un nmero indefinido d; sinrcricasdi[erentes en los distintossistemaslingsticos. ".;;;i";s rercero, como va mencion antes, los estadosy sucesosmentales son

delingls posea rieo,1;i1:nrila".""i""o"* er

causuresqu""r;;;;;:'r'*1'"ti;:iH.il"'ffi:ru:,ruil.

::*:H*l::"".:I':ilql*ll'o!'l'Jly::"':,J::

100

Y MENTES. CEREBROSPROGRAIV{AS

iiteralmente un producto de la operacin del cerebro, pero el programa no L's,en ese sentido, un producto de la computadora. "Bueno, si los programas no son de ntodo alguno constitutilos de los procesos mentales, por qu tanta gente cree lo contrario? Eso amerita por lo menos alguna explicacin." En realidad ignoro la respuesta a esa pregunta. La idea de que las simulaciones en computadora pudieran ser algo real tu\o qtle haber parecido sospechosa desde un principio, porque la computadora de ninguna nlanera se limita a simular operaciones mentales. Nadie supone que las simulaciones por computadora de un incendio de cinco alarmas podran incendiar un vecindario o que la simtrlacin por computadora de una tormenta nos ruede empapar. Por qu habra de suponer alguien entonces que una simulacin por comput.adora de la compr-ensin realmente entiende algo? E,n ocasiones se dice que sera ter-riblemente difcil lograr que las compuladoras sintieran dolor o se enamoraran, pero el amor y el dolor no son ni lns ni menos difciles que la cognicin o cualquier otra cosa. Para simular, todo lo qLle se necesita es un flujo correcto de entrada y salida de infomacin y un programa de por medio que transforme la primera en la segunda. Eso es todo lo que la computadora tiene que hacer. confundir la simulacin con Ia duplicacin es el mismo et.ror, va sea que se trate de dolor, amor, cognicin, incendio o tolTnentas. Sin en-rbargo, existen varias razones por las que se pens -r' quiz, mucha gente todava lo piense- que de alguna manera la u, reproduce, y por consiguiente explica, fenmenos mentales, )'creo que no lograremos erradicar estas ilusiones hasta haber expuesto cabalmente los motivos que lrssuscitaron. En prime r lu gar , v quiz lo m s im por t ant e , e s t t n a c o n l t l s i n a c e l c a d e la nocin de "procesamiento de inforrnacin". En las ciencias cognitivas, r-nucha gente considera que el cerebro humano, con su mente, realiza algo que recibe el nombre de "procesamiento de inforrnacin", v anlogamente la computadora, con su programa, efecta un "procesamiento de informacin"; pero, por otra parte, incendios v tormentas no llevan a cabo ningn procesantiento de inforrnacin. En consecuencia, aunque la computadora puede simular las caractersticas forrnales de cualquier proceso, sea ei que fuere, mantiene una relacin especial con la mente v el cerebro, porque cuando la computadora se encuentra adecuadamente programada, idealmente con el mismo programa que el cerebro, el procesamiento de inforn-racin es idntico en ambos casos, y este procesamiento de informacin constituye realmente la esencia de lo mental. Empero, el problema de este argumento es que se apoya en la ambigedad de la nocin de "informacin". La computadora no realiza "pocesamiento de inforrnacin" en ei sentido en que las personas "procesan infor-rnacin" cuando reflexionan, por ejem-

1I)I plo, en problemas de aritmtica o cuando leen r,,respondenpr.eguntas en torno a un relato. Ms bien, lo qtre hace la computador-aes n-ia.ipular smbolosformales. El hecho de q.,e el programador -ver i'trprete de ros .o-o"tadora r-rtiticen ri-iolo, para reernplazar.obJeros fj*:*: 9: algo que ]? esrpor compieto ftrera del alcancecie1..con,puta_ :::::ii?.:s qora.Keprto,ra computadora tiene sintaxis pero no semntica.En co.se_ cuencia, si tecleaen ra computacrora"2 ms 2 es igual a?", escribir "4".Pero la 'sted computadora no tiene ni idea creqtre "4" significa 4 o ctrarquier otracosa'Y la cuestinno es que carezcacleargr-rna info"rmaci.desegr_rncro orden acerca de la interpretacin cres's sriboros crepri'.rer:o,.t"r-,,,r.ro quesus smbolos de primer orden no tienen ningrrna interpr.etacin lo en que a la computadora se refiere. Todo ro q,e tLne ra co'rptrradora son ms smbolos. La introduccin cle Ia nocin cle "procesaminto de inrorma_cin" causa,por consiguiente,un clilema:o bien const.limos la noci. "procesamientode infrmacin" de cletal ,-,.,un"ro qtre irnpliqtre intencionalidadcomo parte del proceso o no lo hacemos. En er primer. caso, la computadoraprogramada no procesain[or.maci.; slo maniptrla sr.bo_ los formale^s. el segundo .u.rt,,, En entonces,pese a qr-re comprrtadora la procesanformaci n, nicam ent e lo r r ace i enel sent iclo q, , "io hacen Ias sumadoras, las mquinas cle escribir, los "r estmzrgos, ros ter-mostatos,las tormentas v los huraca.r".; u ,ub"., c.entan con un niver credesel que podemosdecirq'e aceptaninfolrnacin portrn extremo, :^nl_t^t_u1"" ta lranslorrnan v producen inforntacin de salida. Sin entLrar_g(), esle en casodependede los obsenadores externos interpretar la entraclav s:rrida comoinfornacin en el senticloorcrinario.y no.sc rirriiit., ulgunaentre la computadora y el cerebroen trnrinos"rt.r-,r". de cualqrrier.sinlilitrcl delprocesamientode informacin. En.segundolugar, en gran pade de la la hav nn concluctisnrou ()per_a. cionalismo residual.puesto que las computacloiasaclecunclamente pr( )gr.amadaspueden exhibir patrones de entiada v salicla similares a los cr,,, los seres humanos, podranroscaer e. la tentacincreposttrlar qlre rosestados mentales la compritadora son similares a los de estados.nentalesclelhom_ Dre.r.mpero, una vez que \emos que es posible tanto conceptual conto empricamente que r-rnsistema contenga capacidacles lrtrma'^s en arsr^ camposin que de ningn modo posea intencionaliclacl, poclrem". este impulso. Mi sumadora de escritorio tiene capacicracr ";;.-;; clecalcrrlar., pero carece intencionalidad, y en este artcuro he intentaclo de cren.rostrar cue un sistemapoda tener capacidadesde entracla v salida cle irformacilr queduplicara' las de un hablante nativo clel chino y seguir sin errtencler chino,sin impoftar cmo estuvieraprogramada. Laprba de Turing e.s tpicade la tradicin en el sentido deq.rJ es cles'ergonzaclamente conductistay operacionalistay consideroque si los estudiosos clela ln repudiaran

N,IENTES, CEREBROS Y PROCiAN4AS

102

Y CEREBROS PROGRAI\IAS lv'fENTES'

N,IENTES, CEREBROSPIIO(IIAJIIAS Y

IO3

gran el operacionalismo' se eliminara por completo del conductismo y y duplicacin' i" confusin entre simulacin ;;;;" ana a la fona reste operacionalismo re.iiduai se En ter:cer lugar, cobra sentido dada la supola ln ftrerte slo siclual cle dualismo; "1"!ft" se refiere' el cerebro no imporla' dualista de que, en lo que a la mente sicin son ios r.t,-t.lonalismo), lo q.e impoa Iln la r, fuerte (asi.;;;J,-t "l mquinas; de cle su realizacin en programas, y stos.rot'i"a"p"tt<lientes realiz.ado el mismo programa podra ser en io que l.,;;";;ere, car-tesianao un espritu "electrnica' una sustancia mental 'echo, ir". sorprendente clue he hecho """ -aq"ina hegeliano. EI desc.brimiento ms clei mundo los estudiosos de la IA estn qtt" muchosde al analizar estas cuestiott"' "t fenmenos mentales humanos molestos .on.-mi t"u cle que los lrastante hufisicoqumicas reales de los cerebros puedan clepender a" i'opi"aucles acerca de esto, se piensa un minuto manos verdaderos. No obstante, si que el prol'ecto de la debera haberme sorprendido' l'a puede verse qlle no que se acepte'alguna forma a menos tA fllerte no tiene posibilidacl alguna' explicar 1o mental meEI provecto col-lsiste en reproducir v cle dualismo. slo sea pero a menos que la me-nte no ciiante el cliseo de programas' inclePend':1':i::::t;t"T;.",ono.:: conceptual ,i.to tut'tit'empricamente t"lil1" pt'ovecto' porque el programa "t r'iu tuu.r" a cabo el crea qlre la mente es qtle se c1ecualquier realizacin' A menos ;;;;,; -r'ersin .on."ptual como empricamente ."."bri- *,o separable d"l reproclucii 1o mental e.scribiendo [uerte <]edttaiismo- no se pttecleesperar cere' deben ser ir-idependientes de los r, con-iendo ot'or.uttt', , 1"" ett"t concreta' particurares de ejempli[icacin br.osde cualesquier-a ot.us for-us op"tutiones de cmprrto sobre consisten Si las operaciones mentales "'-t carecen de conexiones lntere' qlle sr-nbolos fol-males, se decltrce entonces Sa nte scon elcer - ebr o. La lnic ac onex ins er aq u e e l c e r e b r o r . e s u ] t a r a s e reiemmquinas capaces de uno de los muchsimos tipos de p;';;;;;; vaEsta forma de dr-ralismo no es ia plificar concretamente el programa de ssltrrclas' dos tipos "" postula que hav r-iante carlesi^.,",.^Ji.i.rnur d" qt'" insiste en que 1o especficamente pcro es cartesiana "'"t "l '"t'tio intrn'"tu to'-t lut propiedades reales mental cle Ia mente ,-,ogt'utdu t"lacin de se oculta de nosotros por el hecho clel cerebro. Este dualismo implcito qtre la]ite ratr-r r aac er c adelal ar l. em et ec onf r e c u e n c i a c o n t r a e l . . d u a l i spostura pasar por alto es qlle slr i'J't 0".. lo que los autores parecen presupone una versin fuerte de dualismo punto de vista es que slo "Podra pensar una mquina?" Mi ^propio slo algunos tipos mu1'espe' efecto' ,"rna"mquina poclra pensar^y que' en q"" t:"g^11 los mismos 1'mquinas de mquinas' u ciales 'ub"t,'t"t"bros sa es la razn por la que ia IA fuerte pocleres causales que el cerebro' Y nada tiene que acerca del pensamiento' Ya que q.t" ,l".i*os ii;;"-p"."

decirlos acerca de las mquinas. Por su propizr definicin, se octrpa de programas y los programas no son ntquinas. No obslante, cualqtriera que sea la intencionalidad, es un fenmeno biolgico, \. es nrLrvpr obable qr-re dependa causalmente de la bioqunrica especlica cle sus orgenes como la lactancia, la fotosntesis o cualquier otro fenrnreno biolgico. Narlie slrpondra que se podra producir leche o azrcar-echando a rnclalun pr.ograma de simulacin en computadora cle las secuencias f'olmales cle la lactancia y de la fotosntesis; sin embargo, en lo qtre a la nrentc se refiere, nr-rchas personas se encuentran dispuestas a creel'en trn milagr-o cle esta nclole a causa de un dualismo profundo y constante: lrmente que sup()nen es Llna cuestin de procesos torrnales, independiente de catrsas nrater-iales bastante especficas en el sentido en que no lo son la leche v el rzricar'. En defensa de este dualismo a menudo se explesa la esperanza cle que el cerebro sea una computadora digital (las printeras cornptrtador'rs,por cierto, a menudo reciban el nombre de "cerebros electr'nicos"). Mas de n a d a s i n 'e . E l c e r e b r o e s, p o r su p u e sto , u n a co m p u l a d o r r cl i si ta l . Pr r e sto que todo es Llna computadora digital, el cel'ebro tantbin lo es. I-a cuestin e s q u e l a c a p a c i d a d ca u sa l d e l ce r e b r o p a r a p r o d u ci r i n te r r ci o n a l i cl a d n o puede consistir en su ejenrplificacin concreta dc trn progranra cle cmputo, ya que para el programa que trsted gllste es posible que zrlgo e.lcnrrlif i q u e c o n c r e t a m e n t e e se p r o g r a n ta l ,si g a si n te n cr csta d o s r r r e n ta l e s. Se a lo que fuere lo que el cerebro haga para prodtrcir intencionaliclacl, ello no p u e d e c o n s i s t i r e n e j em p i i fi ca r co n cr e ta r l te n te r r n p l o g r a m a , va c r r en i n g n p r o g r a m a p o r s m i sm o e s su fi ci e n te p a r - a l o g r a l l ri n ( e n ci o n a l i cl a d .{

BreLrocnAr
Fodor, J. A . (1980), "Methodok rgi c al S ol i ps i s m C ons i c l c rc d i sa R ers c al c h S trrtc gy i n C ogni ti ve P svchol ogv ", B ehat,i rral attd B rai tt S ' i ,rl r-.s ,pp. 6-l ,l 10. 3, McC arl hy, J. (1979), "A s c ri bi ng Mental Qual i ti es to Mrc fri nes ", c -n M. Il i ngl .. (ed.), P hi l osopl i cal P erspe c i v es i n A rti fi c i al l rttel l i gertc e, A tl anti c Il i ghl and, N . .I., H trmani ti es P ress, pp. l 6l -195. N ervel l ,A . (1979), "P hysi c i al S v mbol S v s tenrs ", P one-nc i a prc s c rrtada c n l rC i rf t' r' c ni ci a sobre C i enci a C ogni ti v a en La J ol l a, publ i c ac l o pos tel i ormentc en (.' r,,,l rir' , S ci ettce,4, 1980, pp. 135-183. N ervel l , A . r'S i mon H . A . (1963), "GP S - A P x rgr' :rm that S i rnul rtc s [{ rrma.n Thor-rght",en E . A . Fe i gc nbaum v J . A . Fel dnran (c ds .), C ortttuters arttl 7' l tc tttgtl t, N ueva Y ork, McGrarv-H i l l , pp.279-296. aE stot'endeuda que anal i z -aron s tasc ues ti onc s ugl ac l ez c r.r con l as muc hs i mas pers onas c v que mostraro n para s uperar mi i gnoranc i a en torno a l a i ntc l i gt:nc i aal ti l i c i al l a paci enci a Me gustaa en paflicular dar las gracias a Ned Block, Hubert Drevfrrs, John Harrgcland, RogerSchank, Robe Wilensky )'Tery Winograd.

IO4

MENTES,CEREBROSYPROCRAMAS

Pr,lvshyn,Z. w. (1980), "computation and cognition: Issuesin the Foundation of pp. 1 ll-132. Science",Behavioraland Braitt Scietrces,3, Ccrgnitive attd Urtderstandhtg, Sclrank, R C.-v Abelson, R. P. (1977), Scripts, Plans, Gcals, Hillsdale. N. J., Erlbaum. Searle,J. R. ( 1979a),"Intentionalitv and the Use of Language",cn A l\{argolit (ed'), Meaning and IJse,Dordrecht, Reidel. (1 97 9b ),"What is an I nt enlional St at e?",hI in d , 8 8 , p p . 7 4 '9 2 Vriosautores (1978), "Cognition and consciousnessin Non-Human Species", Behavioraland Brain Scietrces, ','ol 1, nm' 4, nmero completo' Weizenbaum, J. (195), "ELIZA-A Con.rputerProgram for the Study of Natural Language Communication Betrveen Man and Machine", Cotttttttttt. ACll , 9, pp . 3 6-4 5. (1976), Co,lll)uterPox'er attd Hunnnt Reason,San Francisco, W. H Freema n. Winograd, T. (1973), "A Procedural Model of Language Understanding", en R' C' Schank y K. M. Colby (eds.),CotnputerModels of Thought and lnnguage, San Fra ncisco,W. H. Fr eem an,pp. 152- 18.

IV. ESCAPE DE LA HABITACIN CHINA*

MARGARETA, BODEN

Eru su anrculo "Mentes, cerebros y programas" ( 1980), John Searle alega que las teoras de computacin en psicologa son esencialmente rntiles. Hace al respecto dos afirmaciones importantes: las teoras de computacin, de naturaleza puramente formal, no pueclen ayuclarnos en modo alguno a comprender l o s p r o ce so s m e n ta l e s; y e l h a r tl w a r e d e l a computadora, a diferencia de la neuroprotena, cal-eceobviamente de los poderes causaies adecuados para generar procesos mentales. Denrostrar aqu que ambas afirrnaciones estn equivocadas. La primera afirmacin de Searle da por sentada la strposicin (formalista), ampliamente aceptada de que los "cmputos' qlte se esttrdian en la ciencia de la computacin son pllramente sintcticos y que ptreden definirse (en trrninos igualmente adecnados para la lgica sirnblica) como el nrartejo fonnal de sntbolos abstractos tnediattte la aplicacin de reglas lnnales. Segn este autor, de ah se deduce que las explic:rcione-s formalistas, aunque adecr-radas para explicar el procesarniento cle "inforrnacin" sin sentido o ei manejo de "smbolos" en las computadoras, son incapaces de explicar cmo utilizan las mentes humanas lainfnnac:irin o los smbo1os,propiamente as llamados. El significado o la intencionalidad n() pueden explicarse en trminos computacionales. Searle no quiere decir con eso que ninguna mquina pueda pensar. Los seres humanos pueden pensar y stos, concede, son mquinas; inclr_rso adopta el credo materialista de que slo las mquinas pueden pensar. Tarnpoco dice que ios seres humanos v los programas sean totalmente inconmensurables. Acepta que, en cierto nivel sLlmamente abstracto de descripcin, las personas (como todo lo dems) son ejemplificaciones concretas de computadoras digitales. Ms bien argtrmenta que nada puede pensar, significar o comprender exclusivanlente en virtud de su ejemplificacin concreta de un programa de compntadora. Para convencernos de esto, Searle recurre a un ingenioso exper-imento de pensamiento. Se imagina a s rnismo encerrado en una habitar:in donde har una serie de fajos de papeles que contienen garabatos; Lrna ventana a * N{argaret Boden,"Escaping A. Fromthe Chinese Room",tomaclo captulo8 cleCondel puter"Iodeb l+,|td (1988).Reproducido of con pennisode Cambridge Univcrsitypress.
105