Maquinaria computacional e Inteligencia (A. M.

Turing, 1950)
En: Haugeland, J. (ed.) (1997). Mind Design II. Cambridge, MA: MIT Press.
(Traductor: Cristbal Fuentes Barassi, 2010, Universidad de Chile)

1 El juego de la imitacin. Propongo considerar la siguiente pregunta: Pueden pensar las mquinas?. Se debiera comenzar definiendo el significado de los trminos mquina y pensar. Estas definiciones deberan ser elaboradas de manera tal de reflejar lo mejor posible el uso normal de estas palabras, pero una actitud as es peligrosa. Si el significado de las palabras mquina y pensar proviene del escrutinio de cmo son usadas comnmente, se hace difcil escapar de la conclusin de que el significado y respuesta a la pregunta pueden las mquinas pensar? debiera ser buscado en una encuesta estadstica, tal como la encuesta Gallup (N. del T.: la encuesta Gallup es una divisin en una organizacin llamada Gallup, cuya principal caracterstica es prestar servicios de asesora gerencial a diversas empresas, y que realiza regularmente encuestas de opinin publica en ms de 140 pases). Pero eso es absurdo. En vez de intentar una definicin as, propondr reemplazar esa pregunta por otra, la cual se encuentra estrechamente relacionada y que se puede expresar en palabras relativamente poco ambiguas. La nueva forma del problema puede ser descrita como si sta fuera un juego, el cual llamaremos el juego de la imitacin. Se juega con 3 personas, un hombre (A), una mujer (B), y un interrogador (C) de cualquier sexo. El interrogador se encuentra en una habitacin distinta a la de los otros dos participantes. El objetivo del juego para el interrogador es determinar cul de los participantes es el hombre y cul es la mujer. l los identifica con las etiquetas X e Y, y al final del juego l dice si X es A e Y es B, o X es B e Y es A. Al interrogador se le permite hacer preguntas tanto a A como B del tipo: C: X, sera tan amable de decirme el largo del cabello de la otra persona? Ahora, suponga que X es de hecho A, por lo que A debe responder. El objetivo de A en el juego es tratar de que C haga una identificacin falsa. Por lo que su respuesta podra ser:

A: Mi pelo est cortado al rape, y los mechones ms largos tienen 23 centmetros (9 pulgadas). Para que los tonos de voz no ayuden al interrogador, las respuestas deben ser escritas, o mejor an, tipiadas. Las condiciones ideales deberan incluir un teletipo que comunique ambas habitaciones. De manera opcional, las respuestas y preguntas podran ser repetidas por un intermediario. El objetivo de B en el juego es ayudar al interrogador. Probablemente, la mejor estrategia para ella sea dar respuestas fidedignas. Ella puede incluir en sus respuestas cosas tales como Yo soy la mujer, no lo escuches!, pero aquello no garantizara nada ya que el hombre podra decir cosas similares. Ahora hacemos la pregunta: qu pasara si una mquina asume el rol de A en este juego? Discriminara equivocadamente el interrogador con la misma frecuencia con la que lo hace cuando el juego se juega con un hombre y una mujer? Estas preguntas reemplazan la pregunta original pueden las mquinas pensar?.

2 Crtica del nuevo problema. As como es posible preguntar cul es la respuesta para esta nueva pregunta?, uno podra preguntar vale la pena investigar esta nueva pregunta?. Esta ltima la investigamos sin ms prembulos, para as evitar regresiones infinitas. El nuevo problema posee la ventaja de trazar una lnea muy clara entre las capacidades fsicas y las intelectuales del hombre. Ningn ingeniero o qumico afirma ser capaz de producir un material que sea indistinguible de la piel humana. Es posible que en algn momento aquello si se podr hacer, pero an suponiendo la disponibilidad de esta invencin deberamos sentir que no tiene mucho sentido en tratar de hacer ms humana a una mquina pensante a travs del revestimiento de piel artificial. La manera en la cual el problema ha sido planteado refleja esta condicin, la que impide que el interrogador pueda ver o tocar a los otros competidores, o escuchar sus voces. Algunas otras ventajas del criterio que se ha propuesto pueden ser ejemplificadas con muestras de preguntas y respuestas: Q: Por favor escribe un soneto sobre el sujeto en el Cuarto Puente. A: No cuentes conmigo para eso. Nunca pude escribir poesa. Q: Suma 34957 y 70764. A: (Pausa de 30 segundos y luego da la respuesta) 10562. Q: Juegas ajedrez? A: Si.

Q: Tengo K en mi K1, y ninguna otra pieza. T solo tienes K en K6, y R en R1. Es tu turno. Qu jugada haras? A: (Pausa de 15 segundos) R-R8 mate. El mtodo de la pregunta y respuesta pareciera ser adecuado para introducir casi cualquiera de los campos de estudio humano que quisiramos incluir. No queremos sancionar a la mquina por su incapacidad de brillar en concursos de belleza, ni tampoco castigar a un hombre por perder una carrera contra un aeroplano. Las condiciones de nuestro juego hacen que estas incapacidades sean irrelevantes. Los testigos pueden presumir, si lo consideran aconsejable, todo lo que quieran acerca de sus encantos, fuerza o herosmo, pero el interrogador no puede pedir demostraciones prcticas. El juego podra quizs ser criticado en base al hecho de que las probabilidades estn demasiado en contra de la mquina. Si el hombre intentase pretender ser una mquina, ste hara claramente una muy mala demostracin. Lo delatara rpidamente su lentitud e inexactitud en aritmtica. Podra ser que las mquinas realizaran algo el cual debiera ser descrito como pensar, pero que es muy distinto de lo que un hombre hace? Esta objecin es muy slida, pero al menos se puede decir que, a pesar de todo, una mquina puede ser construida para jugar satisfactoriamente el juego de la imitacin, as que no necesitamos aproblemarnos con esta objecin. Es posible sugerir que cuando se juegue el juego de la imitacin, la mejor estrategia para la mquina sea probablemente hacer algo distinto que imitar la conducta de un hombre. Podra ser, pero creo que es poco probable que se produjera un efecto tal como ese. En cualquier caso, no hay ninguna intencin de investigar la teora del juego, y se da por asumido que la mejor estrategia es tratar de dar respuestas que un hombre dara de manera natural.

3 Las mquinas involucradas en el juego. La pregunta realizada en la seccin 1 no ser lo suficientemente especfica hasta que delimitemos qu queremos decir con la palabra mquina. Es natural que queramos permitir el uso de cualquier tcnica de ingeniera en nuestras mquinas. Tambin queramos admitir la posibilidad que un ingeniero o un grupo de ingenieros pueda construir una mquina que funcione, pero cuya forma de operar no puede ser descrita satisfactoriamente por sus constructores debido a que ellos usan un mtodo que fuera experimental en gran medida. Finalmente, queremos excluir de las mquinas a los hombres nacidos de manera normal. Es difcil elaborar las definiciones de manera tal que estas tres condiciones sean cumplidas. Por ejemplo,

uno podra insistir que el equipo de ingenieros deba ser de un sexo nicamente, pero esto no sera realmente satisfactorio, ya que es posible crear a un individuo completo a partir de una sola clula de la piel (por ejemplo) de un hombre. Hacer aquello sera una hazaa para la tcnica biolgica, que adems merecera grandes alabanzas, pero no nos inclinara a pensar que sea un caso en el cual se est construyendo una mquina pensante. Lo anterior nos lleva a abandonar el requerimiento de que cualquier tcnica deba ser permitida. Estamos ms que dispuestos para hacerlo considerando el hecho de que el inters actual en las mquinas pensantes ha sido despertado por un tipo particular de mquina, usualmente llamada computador electrnico o computador digital. Siguiendo esta sugerencia, slo permitimos que los computadores digitales tomen parte del nuestro juego. A primera vista, esta restriccin se ve muy drstica. Tratar de demostrar que no lo es en la realidad. Hacer esto necesita una explicacin breve de la naturaleza y las propiedades de estos computadores. Tambin podra decirse que la identificacin de las mquinas con los computadores digitales, tal como nuestro criterio de pensar, slo ser insatisfactorio si (contrario a lo que yo creo) los computadores digitales en definitiva son incapaces de hacer una buena demostracin en el juego. Ya hay un gran nmero de computadores digitales que se encuentran funcionando, y se podra preguntar por qu no tratar de experimentar inmediatamente? Sera fcil satisfacer las condiciones el juego. Se podra usar un nmero de interrogadores, y se podran compilar estadsticas para demostrar con qu frecuencia se hicieron las identificaciones correctas. La respuesta breve es que no estamos preguntando si todos los computadores digitales lo haran bien en el juego, ni tampoco si los computadores disponibles en la actualidad lo haran bien, sino que hay computadores imaginables que lo haran bien. Pero sta es slo una respuesta breve. Nos aproximaremos a esta pregunta desde otro ngulo despus.

4 Computadores digitales. La idea detrs de los computadores digitales podra ser explicada diciendo que estas mquinas pueden llevar a cabo cualquier operacin que pudiera ser realizada por un computador humano. El computador humano debiera seguir reglas fijas; l no tiene ninguna autoridad para desviarse en nada de ellas. Debemos suponer que estas reglas se encuentran en un libro, el cual es alterado cada vez que al humano se le da un nuevo trabajo. Tambin posee un

suministro ilimitado de papel sobre el cual realiza sus clculos. De igual manera, l podra realizar sus multiplicaciones y sumas en una mquina escritorio, pero eso no es importante. Si usamos las explicaciones recin mencionadas como una definicin, estaramos en peligro de exhibir circularidad argumentativa. Lo podemos evitar si se entrega un resumen de los medios por los cuales se logra el efecto alcanzado. Se puede considerar que un computador digital consiste en tres partes: 1 2 (i) Almacenaje. (ii) Unidad ejecutiva. (iii) Control.

El almacenaje es almacenaje de informacin, y corresponde al papel que utiliza el computador humano, y corresponde tanto el papel para hacer los clculos como al libro en el cual se encuentran impresas las reglas. En la medida en que el computador humano hace los clculos en su cabeza, una parte del almacenaje corresponder a esta memoria. La unidad ejecutiva es la parte en la cual se llevan a cabo las diversas operaciones individuales involucradas en un clculo. Qu es lo que son estas operaciones individuales variar de una mquina a otra. Usualmente, operaciones relativamente largas tal como multiplique 3540675445 por 7076345687 pueden ser realizadas, pero en algunas maquinas, slo las operaciones simples del tipo escriba 0 son posibles. Hemos mencionado que el libro de reglas que se le proporcion al computador es reemplazado por una parte del almacenaje en la mquina. Es entonces cuando se le denomina tabla de instrucciones. Es el deber del Control de procurar que estas instrucciones sean obedecidas adecuadamente y en el orden correcto. El Control est construido de tal manera, que permite que lo anterior ocurra necesariamente. La informacin en el almacenaje es usualmente dividida en paquetes de tamao moderadamente pequeo. En una mquina, por ejemplo, un paquete podra consistir en 10 dgitos decimales. Los nmeros son asignados a las partes del almacenaje en la cual los varios paquetes de informacin son almacenados, de manera sistemtica. Una instruccin tpica podra ser: Sume el nmero almacenado en la posicin 6809 con el que est en 4302

y ubique el resultado de vuelta en la ltima posicin de almacenaje. No hay necesidad de decir que esto no ocurrira con expresiones en ingls. Sera probablemente codificado con una forma tipo 6809430217. Aqu, 17 significa cul de las variadas operaciones posibles se realizar en los dos nmeros en este caso la operacin que se describi recin, es decir sume el nmero. Es posible notar que la instruccin requiere 10 dgitos, y as se forma un paquete de informacin de manera muy conveniente. El control recibir normalmente instrucciones para ser obedecidas en el orden de las posiciones en la cual son almacenadas, pero ocasionalmente una instruccin tal como Ahora obedezca la instruccin almacenada en la posicin 5606, y contine desde ah. podra ocurrir, o nuevamente si la posicin 4505 contiene 0 obedezca a continuacin la instruccin almacenada en 6707, en caso contrario, contine desde ah. Las instrucciones de este tipo son muy importantes porque hacen posible que una secuencia de operaciones sea repetida una y otra vez hasta que una condicin se cumpla, pero mientras la obedece, no hay instrucciones nuevas en cada repeticin, sino las mismas una y otra vez. Para considerar una analoga domstica, suponga que Madre quiere que Tommy llame al zapatero todas las maanas mientras vaya saliendo al colegio para saber si ya le repararon sus zapatos. Ella le puede preguntar nuevamente todas las maanas. O bien, ella puede poner un aviso de una vez por todas en la entrada, la cual l ver cuando se vaya al colegio y que dice que llame preguntando por los zapatos, y tambin destruir el aviso cuando vuelva si ya los tiene. El lector debe aceptar como un hecho que los computadores digitales pueden ser construidos, y de hecho han sido construidos, de acuerdo a los principios que hemos descrito, y que de hecho pueden imitar las acciones de un computador humano con bastante similitud. El libro de reglas que hemos descrito y que es usado por nuestro computador humano es una ficcin conveniente, por supuesto. Los computadores humanos reales realmente recuerdan lo que deben hacer. Si uno quiere hacer que una mquina imite el comportamiento de un computador humano en alguna tarea compleja, se le debe preguntar cmo lo hace, y luego traducir la respuesta a una tabla de

instrucciones. Construir tablas de instrucciones es usualmente conocido como programacin. Programar una mquina para que lleve a cabo la operacin A significa poner la tabla de instrucciones apropiada en la mquina de manera tal que la realice. Una variante interesante sobre la idea de un computador digital es un computador digital con algn elemento aleatorio. stos poseen instrucciones con respecto al lanzamiento de un dado o algn proceso electrnico equivalente; una instruccin de este tipo podra ser: Lance el dado y anote el resultado en el lugar de almacenaje 1000. Algunas veces, una mquina como sta es descrita como si tuviera libre albedro (aunque yo no ocupara esta frase). Normalmente, no es posible determinar a travs de la observacin de una maquina si posee un elemento aleatorio, dado que un efecto similar se puede producir por un dispositivo que haga elecciones dependiendo de los decimales de . La mayora de los computadores digitales en la actualidad slo tienen un almacenaje limitado. No hay ningn problema terico con la idea de que un computador tenga un almacenaje ilimitado. Por supuesto, slo una parte limitada puede ser usada en un tiempo dado. De manera similar, slo una cantidad limitada puede haber sido construida, pero podemos imaginar que se agreguen y ms y ms en la medida en que sea requerido. Tales computadores tienen intereses tericos especiales y sern llamados computadores de capacidad infinita. La idea de un computador digital es muy antigua. Charles Babbage, profesor Lucasiano de matemticas en Cambridge desde 1828 a 1839, plane una mquina as, la que llam Motor Analtico, pero que nunca pudo terminar. Aunque Babbage posea todas las ideas esenciales, su mquina nunca fue un prospecto muy atractivo para su poca. La velocidad con la cual habra funcionado habra sido mucho ms rpida que un computador humano, pero 100 veces ms lenta que la mquina de Manchester. El almacenaje era puramente mecnico, y utilizaba tarjetas y rodamientos. El hecho de que el motor analtico de Babbage fuera completamente mecnico nos ayudar a deshacernos de una supersticin. Se le otorga importancia al hecho de que los computadores digitales son elctricos, y que el sistema nervioso tambin es elctrico. Dado que la mquina de Babbage no era elctrica, y dado que los computadores digitales son en cierto sentido

equivalentes, podemos ver que el uso de electricidad no tiene una importancia terica. Por supuesto que se usa la electricidad cuando se necesita una transmisin rpida de seales, as que no es sorprendente que los encontremos en ambas conexiones. En el sistema nervioso, los fenmenos qumicos son, al menos, igual de importantes que los elctricos. En algunos computadores, el sistema de almacenamiento es bsicamente acstico. Por lo tanto, el rasgo de utilizar electricidad puede ser visto como similitud superficial. Si queremos encontrar esas similitudes, debemos entonces buscar analogas matemticas de funcin.

5 Universalidad de los computadores digitales. Los computadores digitales considerados en la ltima seccin podran ser clasificados entre las mquinas de estados discretos. Estas son la mquinas que se mueven usando saltos (o clicks) repentinos de un estado finito a otro. Estos estados son lo suficientemente distintos como para descartar la posibilidad de confundirlos. Estrictamente hablando, no existen tales mquinas. Todo se mueve realmente de manera continua. Pero hay muchos tipos de mquinas que pueden ser provechosamente consideradas como mquinas de estados discretos. Por ejemplo, el considerar los interruptores de un sistema de iluminacin sera una ficcin conveniente en la que cada interruptor est definitivamente prendido o apagado. Debe haber posiciones intermedias, pero para la mayora de nuestros propsitos, nos podemos olvidar de ellos. Como ejemplo de una mquina de estados discretos podramos considerar una rueda que se mueve en 120 una vez por segundo, pero que se puede detener con una palanca externa; adems, una lmpara se enciende en una de las posiciones de la rueda. La mquina puede ser descrita abstractamente como sigue: el estado interno de la mquina (la cual es descrita por la posicin de la rueda) podra estar en q1, q2, o q3. Hay una seal de input io o il (corresponde a la posicin de la palanca). El estado interno en cualquier momento est determinado por el ltimo estado y la seal de input de acuerdo a esta tabla:

Las seales de output, las nicas seales visibles externamente que indican los estados internos (la luz), son descritas por la tabla de estados:

Este es un ejemplo tpico de una mquina de estados discretos. stas pueden ser descritas por estas tablas, siempre y cuando posean un nmero finito de estados posibles. Pareciera que dado el estado inicial de la mquina y las seales de input siempre sera posible predecir los estados futuros. Esto es una reminiscencia de la visin de Laplace que estableca que es posible definir todo estado futuro en el universo para determinado momento si es que se tienen todas las posiciones y velocidades de las partculas. La prediccin que estamos considerando es, sin embargo, ms cercana a la practicabilidad que a la visin de Laplace. El sistema del universo como un todo es tal, que pequeos errores en las condiciones iniciales pueden tener un efecto inmenso en un tiempo posterior. El desplazamiento de un solo electrn en una billonsima de centmetro en determinado momento podra generar una diferencia entre un hombre siendo asesinado en una avalancha un ao despus, o que escape de ella. Es una propiedad esencial de los sistemas mecnicos que hemos llamado mquinas de estados discretos que este fenmeno no ocurra. Incluso cuando consideramos las mquinas fsicas reales en vez de las idealizadas, el conocimiento razonablemente preciso de un estado en determinado momento produce un conocimiento razonablemente preciso luego de una cierta cantidad de pasos. Como hemos mencionado, los computadores digitales caben dentro de la clase de mquinas de estados discretos. Pero el nmero de estados de los cuales una mquina es capaz es, con frecuencia, tremendamente grande. Por ejemplo, el nmero de estados para la mquina trabajando en Manchester es aproximadamente de 2 165,000 es decir, cerca de 1050,000. Compare eso con nuestro ejemplo de la rueda antes mencionado, el cual tena tres estados. No es difcil visualizar por qu el nmero de estados debiera ser tan inmensamente grande. El computador incluye un almacenamiento correspondiente a la cantidad de papel usado por un computador humano. Debe ser posible escribir en el lugar de almacenaje cualquiera de las combinaciones de smbolos que hubieran sido escritas en papel. En trminos prcticos, suponga que los dgitos entre 0 y 9 son usados como smbolos. Las variaciones en la caligrafa son ignoradas. Suponga que al computador se le entregan 100 hojas

de papel, con 50 lneas cada una, y a su vez, cada lnea con 30 dgitos. Por lo tanto, el nmero de estados es 10 100x50x30es decir, 10150,000. Este es el nmero aproximado de estados de tres mquinas de Manchester juntas. El logaritmo de base 2 con el nmero de estados es conocido como la capacidad de almacenamiento de la mquina. De esta manera, la mquina de Manchester tiene una capacidad de almacenaje de aproximadamente 165.000, y la mquina-rueda de nuestro ejemplo, 1,6. Si las dos mquinas son unidas, sus capacidades deben ser sumadas para obtener la capacidad de la mquina resultante. Esto lleva a la posibilidad de aseveraciones tales como la mquina de Manchester contiene 64 pistas cada una con una capacidad de 2560, ocho tubos electrnicos con una capacidad de 1280. El almacenaje heterogneo alcanza a 300, alcanzando un total de 174.380. Dada la tabla correspondiente a una mquina de estados discretos, es posible predecir qu es lo que har. No hay razn para creer que este clculo no pudiera ser llevado a cabo por un computador digital. Dado que podra ser llevado a cabo lo suficientemente rpido, el computador digital podra imitar el comportamiento de cualquier mquina de estados discretos. El juego de la imitacin podra entonces ser jugado con la mquina en cuestin (como si fuera B), y el computador digital que imita (como A) y el interrogador sera incapaz de distinguirlos. Por supuesto, el computador digital debe tener una capacidad de almacenamiento adecuada as como tambin funcionar lo suficientemente rpido. Adems, debe ser programado de nuevo para cada mquina que se desea que imite. Se puede aludir a esta propiedad especial de los computadores digitales, que puedan imitar una mquina de estados discretos, diciendo que son mquinas universales. La existencia de mquinas con esta propiedad tiene la consecuencia importante de que, consideraciones de velocidad dejadas de lado, es innecesario disear varias mquinas nuevas para que hagan variados procesos computacionales. Todo ellos pueden ser realizados con un solo computador digital que se encuentre programado adecuadamente para cada caso. Se puede vislumbrar como consecuencia de esto que todos los computadores digitales son equivalentes en cierto sentido. Ahora podramos considerar nuevamente el punto mencionado al final de la seccin 3. Se sugiri tentativamente que la pregunta pueden las mquinas pensar? debiera ser reemplazada por hay computadores digitales imaginables que tendran un buen desempeo en el juego de la imitacin?. Pero en virtud de la propiedad de universalidad podemos ver que cualquiera de estas preguntas es equivalente a lo siguiente: Permitmonos fijar nuestra atencin en un computador C en particular. Sera cierto que si se modifica este computador de manera tal que exhiba un

almacenamiento adecuado, un aumento en su velocidad de accin, y dado que se le entregue el programa apropiado, podra C jugar satisfactoriamente la parte de A en el juego de la imitacin, mientras que B sea llevada a cabo por un hombre?. 6 Perspectivas contrarias sobre la pregunta principal. Ahora podemos considerar que el terreno ha sido delimitado, y nos encontramos listos para proceder con el debate sobre la pregunta pueden pensar las mquinas? y la variante de esta pregunta presentada al final de la ltima seccin. No podemos abandonar del todo la versin original de problema, dado que las opiniones variarn con respecto a la idoneidad de la substitucin y debemos al menos escuchar lo que se pueda decir sobre esta conexin. Se simplificaran ciertos asuntos para el lector si primero explico mis propias ideas con respecto al tema. Consideremos la versin ms precisa de la pregunta. Creo que en un periodo de tiempo de 50 aos ser posible programar computadores, con una capacidad de almacenaje de alrededor de 109, para que puedan jugar el juego de la imitacin de tal manera que el interrogador promedio no pueda obtener ms de un 70% de posibilidades de hacer la identificacin acertada luego de cinco minutos de preguntas. Con respecto a la pregunta original, pueden las mquinas pensar?, creo que no tiene mucho sentido como para merecer discusin. No obstante, creo que cuando lleguemos a finales de siglo, el uso de las palabras y la opinin educada general habrn cambiado tanto, que uno podr ser capaz de hablar de mquinas pensantes sin esperar que exista una contradiccin. Creo adems que ningn propsito til se puede lograr al ocultar estas ideas. La visin popular que los cientficos proceden inexorablemente desde los hechos bien establecidos hacia otros hechos bien establecidos sin nunca ser influenciados por alguna conjetura no probada es bastante equivocada. Dado que se hace claro cules son los hechos probados y cules son conjeturas, no puede haber ningn dao. Las conjeturas poseen una gran importancia debido a que stas sugieren lneas tiles de investigacin. Ahora procedo a considerar opiniones opuestas a las mas. (I) La objecin teolgica. Pensar es una funcin del alma inmortal del hombre. Dios le ha otorgado un alma inmortal a cada hombre y mujer, pero no a otros animales o mquinas. Por lo tanto, ningn animal o mquina puede pensar1. Soy incapaz de aceptar esto en lo absoluto, pero intentar responder en trminos teolgicos. Encontrara ms convincente el

argumento si los animales fueran clasificados junto con los hombres, ya que segn mi criterio, hay una diferencia an ms grande entre el tpico ser animado y el inanimado que entre el hombre y los otros animales. El carcter arbitrario de la visin ortodoxa se hace ms claro si consideramos cmo podra parecer para el miembro de otra comunidad religiosa. Cmo pueden los cristianos considerar la visin musulmana de que las mujeres no tienen alma? Pero dejemos este punto de lado y volvamos a la discusin central. Me parece que el argumento antes mencionado implica una restriccin seria a la omnipotencia del Todopoderoso. Es admisible que haya cosas que l no pueda hacer, tal como igualar uno con dos, pero no deberamos creer que l tiene la libertad de conferir un alma a un elefante si a l le parece? Podramos esperar que l pusiera en prctica este poder en conjuncin con una mutacin que provea al elefante con un cerebro apropiadamente mejorado para ministrar las necesidades de esta alma. Una discusin con la misma forma podra hacerse en el caso de las mquinas. Podra parecer distinta, porque es ms difcil de tragar. Pero esto slo significa que pensamos que sera menos probable que l pudiera considerar apropiadas estas circunstancias para conferir un alma. Las circunstancias en cuestin son discutidas en el resto de este artculo. En un intento de construir estas mquinas, no deberamos usurpar tan irreverentemente Su poder para crear almas de manera tan distinta a como cuando nos encontramos en la procreacin de nios: ms bien, en cada caso somos instrumentos de Su voluntad al proveer mansiones para las almas que l crea. Sin embargo, esto es mera especulacin. No me impresionan mucho las discusiones teolgicas, sea cual sea el tema. Tales discusiones han sido frecuentemente insatisfactorias en el pasado. En los tiempos de Galileo, se discuta que los textos Y el sol se qued quieto y consider no bajar por un da (Josu Cap. 10, v.13) y l puso los cimientos de la tierra, para que no se moviera en ningn momento (Salmos Cap. 105, v.5) eran una refutacin adecuada para la teora de Coprnico. Con nuestro actual conocimiento, tal argumento parece ftil. Cuando ese conocimiento no estaba disponible, causaba una buena impresin. (2) La objecin de las cabezas en la arena. La consecuencia de que las mquinas piensen sera demasiado espantosa. Esperemos y creamos que no lo pueden hacer. Este argumento es rara vez expresado tan abiertamente como recin se plantea. Pero afecta a la mayora de los que pensamos en ello. Nos gusta creer que el hombre es sutilmente superior al resto de la creacin. Es mejor si se puede demostrar que es necesariamente superior, ya que entonces no hay peligro de que pierda su posicin de mando. La popularidad del argumento teolgico est claramente

conectada con esta sensacin. Es probable que sea bastante fuerte entre los intelectuales, dado que ellos valoran el poder de pensar ms que otros, y estn ms inclinados a basar su creencia en la superioridad del Hombre en base a este poder. No creo que este argumento sea lo suficientemente sustancial como para requerir refutacin. El consuelo sera ms apropiado; quizs eso debiera buscarse en la trasmigracin de las almas. (3) La objecin Matemtica. Hay un nmero de resultados en la lgica matemtica que puede ser usado para mostrar que existen limitaciones para los poderes de una mquina de estados discretos. El ms conocido de estos resultados es el teorema de Gdel, y demuestra que en cualquier sistema lgico lo suficientemente poderoso se pueden formular aseveraciones que no se pueden ni probar ni desaprobar dentro del sistema, a menos que el sistema en s sea posiblemente inconsistente. Algunos resultados similares en algunos aspectos se encuentran en el trabajo de Church (1936), Kleene (1935), Rosser (1936), y Turing (1937). El ltimo resultado es el ms conveniente de considerar, dado que refiere directamente a las mquinas mientras que otros slo pueden ser usados comparativamente en discusiones indirectas; por ejemplo, si el teorema de Gdel es usado, necesitamos tener adems algn medio para describir sistemas lgicos en trminos de mquinas, y mquinas en trminos de sistemas lgicos. El resultado en cuestin se refiere a un tipo de mquina que es esencialmente un computador digital con una capacidad infinita. Establece que hay ciertas cosas que una mquina con estas caractersticas no puede hacer. Si se le arma para que de respuestas a preguntas como las del juego de la imitacin, habr algunas preguntas a las cuales responder errneamente, o fallar en responder de plano, independientemente del tiempo que se le entregue para responder. Por supuesto, podra haber muchas de esas preguntas, y preguntas que no podran ser respondidas por una mquina, podran ser respondidas satisfactoriamente por otra. Estamos suponiendo en este caso que las preguntas son del tipo si y no, y no del tipo qu piensas sobre Picasso?. Las preguntas que las mquinas deberan fallar son del tipo considere la mquina especificada de la siguiente manera podr esta mquina responder alguna vez si a alguna pregunta?. Los puntos deben ser reemplazados por la descripcin habitual de una mquina, que podra ser algo as como la usada en la seccin 5. Cuando la mquina descrita posee cierta relacin comparativa simple con la mquina que esta siendo interrogada, se puede demostrar que la respuesta es equivocada o poco clara. Este es el resultado matemtico: se plantea que hay una discapacidad en las mquinas que un ser humano no posee.

La respuesta breve a este debate es que, aunque se establece que hay limitaciones para el poder de cualquier mquina, solo se ha dicho que, sin ningn tipo de prueba, tales limitaciones no se aplican al intelecto humano. Pero no creo que esta visin pueda ser descartada rpidamente. Siempre que se le haga la respuesta crtica correcta a una de estas mquinas, y den una respuesta definitiva, sabemos que esta respuesta debe estar equivocada, y eso nos da cierta sensacin de superioridad. Es esta sensacin ilusoria? No cabe duda que sea genuina, pero no creo que se le deba dar demasiada importancia. Con bastante frecuencia respondemos equivocadamente como para justificar algn tipo de satisfaccin por tener evidencia de la falibilidad de las mquinas. Adems, nuestra superioridad slo se puede sentir en las ocasiones en las que se relacione con la mquina que derrotamos y que nos da una sensacin de triunfalismo. No habra opcin de sentir ningn triunfalismo sobre todas las mquinas. En pocas palabras, puede que haya hombres ms inteligentes que cualquier mquina, pero de nuevo, puede que haya otras mquinas an ms inteligentes, y as. Creo que aqullos que se aferran a la discusin matemtica deberan estar dispuestos a aceptar el juego de la imitacin como una base para la discusin. Aqullos que creen en las dos primeras objeciones probablemente no estn interesados en ningn criterio. (4) El argumento desde la conciencia. Este argumento se encuentra muy bien expresado en el discurso ceremonial en Lister del profesor Jefferson en 1949:
Hasta que una mquina pueda escribir un soneto o componer un concierto debido a las emociones y pensamientos que tuvo, y que no sea debido al uso de smbolos, podremos estar de acuerdo que mquina es igual a cerebro es decir, no slo que lo escriba, sino saber que lo escribi. Ningn mecanismo podra sentir (y no slo una mera seal artificial, o un arreglo sencillo) placer por sus xitos, sentir pesar cuando se le funde una vlvula, sentirse bien con un halago, sentirse miserable por sus errores, estar encantado por el sexo, estar enojado o deprimido cuando no consigue lo que quiere.

Este argumento parece ser una negacin a la validez de nuestra prueba. De acuerdo a la forma ms extrema de esta visin, la nica manera con la cual uno podra estar seguro de que una mquina piensa es ser la mquina y sentir su propio pensamiento. Por tanto, se podra describir estas sensaciones al mundo, pero por supuesto nadie estara justificado de poder percatarse. De manera similar, de acuerdo a esta visin, la nica manera de saber que un hombre piensa es ser ese hombre en particular. ste es el punto de vista de un solipsista. Esa sera la visin ms lgica de sostener, pero hace difcil la comunicacin de las ideas. A es responsable de creer A

piensa pero B no, mientras que B cree B piensa pero A no. En vez de argumentar continuamente contra este punto, se recomienda tener la convencin educada de que todos pensamos. Estoy seguro de que el profesor Jefferson no quiere adoptar el punto de vista extremista del solipsismo. Probablemente l se encontrara dispuesto a aceptar el juego de la imitacin como una prueba. El juego (con el jugador B omitido) es usado frecuentemente en la prctica con el nombre de viva voce para descubrir si alguien realmente entiende algo o ha aprendido como loro. Escuchemos una parte de un viva voce:
Interrogador: en la primera lnea de su soneto, el cual dice deberais compararles con un da de verano, no sera igual o mejor decir un da de primavera? Testigo: no se podra leer. Interrogador: y si usamos un da de invierno. Ese si se podra leer. Testigo: si, pero nadie quiere ser comparado con un da de invierno. Interrogador: se podra decir que el Sr. Pickwick le recuerda la navidad? Testigo: de cierta manera. Interrogador: pero la navidad es un da de invierno, y no creo que al Sr. Pickwick le importe la comparacin. Testigo: no creo que ests hablando en serio. Cuando uno dice da de invierno se refiere a un da tpico de invierno ms que a uno especial como la navidad.

Y se podra continuar. Qu dira el profesor Jefferson si la mquina escritora de sonetos fuera capaz de responder de esta manera en el viva voce? No s si el considerara a la mquina como si estuviera mandando meras seales artificiales para responder, pero si las respuestas fueran satisfactorias y sostenidas como en el pasaje anterior, no creo que las describira como un arreglo sencillo. Creo que esta frase tiene por intencin cubrir a dichos dispositivos en los cuales a una mquina se le incluye la grabacin de alguien que lee un soneto, con un interruptor apropiado para prenderlo de cuando en cuando. En pocas palabras, creo que aquellos que apoyan el argumento de la conciencia podran ser persuadidos de abandonarlo en vez de forzar una posicin solipsista. Probablemente, estarn dispuestos a aceptar nuestra prueba. No quisiera dar la impresin de que creo no hay un misterio con respecto a la conciencia. Hay, por ejemplo, algo as como una paradoja en conexin con cualquier intento de localizarla. Pero no creo que estos misterios deban ser resueltos antes de que podamos responder la pregunta que concierne a este artculo.

(5) Argumentos desde las discapacidades mltiples. Estos argumentos toman la forma Te aseguro que puedes hacer mquinas que hagan todas las cosas que dices, pero nunca podrs hacer una que sea capaz de X. Varias caractersticas de X se sugieren en relacin a esto. Yo mismo ofrezco una seleccin: Ser amable, ingenioso, hermoso, amigable (44), tener iniciativa, tener sentido del humor, diferenciar lo correcto de lo incorrecto, cometer errores (44), enamorarse, disfrutar las frutillas con crema (44), hacer que alguien se enamore de l, aprender de la experiencia (50), usar las palabras apropiadamente, ser sujeto de sus propios pensamientos (45), tener tanta diversidad de conductas como un hombre, hacer algo realmente novedoso (46), (Algunas de estas discapacidades se les da especial consideracin en la pginas indicadas). No existe algo que sirva de soporte para estas declaraciones. Creo que la mayora se basan en el principio de induccin cientfica. Un hombre ve miles de mquinas en su vida. Y de acuerdo a lo que ve, saca una cantidad de conclusiones generales. Son feas, se disean con un propsito muy limitado, y cuando se les requiere para una cosa ligeramente diferente, no sirven, la variedad de conductas es muy poca, y as sucesivamente. Naturalmente, un hombre concluye que estas son en general propiedades necesarias de las mquinas. Muchas de estas limitaciones se encuentran asociadas a la poca capacidad de almacenaje de la mayora de ellas (asumo que la idea de capacidad de almacenaje incluye de alguna manera a otras mquinas distintas a las mquinas de estados discretos. La definicin exacta no importa dado que no se sostiene ninguna precisin matemtica en esta discusin). Algunos aos atrs, cuando no se saba mucho sobre los computadores digitales, haba mucha incredulidad con respecto a ellos, si es que alguien mencionaba sus propiedades sin describir su construccin. Presumiblemente, eso se deba a una aplicacin similar del principio de induccin cientfica. Estas aplicaciones del principio son, por supuesto, inconscientes en su mayora. Cuando un nio con quemaduras le teme al fuego y demuestra su miedo evitndolo, yo podra decir que l esta aplicando induccin cientfica. (Por supuesto podra describir su conducta de muchas otras maneras). Los trabajos y costumbres de la humanidad no parecen ser material apropiado sobre el cual aplicar la induccin cientfica. Una gran parte del espacio-tiempo debe ser investigada si se busca obtener resultados confiables. De otra manera, podramos (como la mayora de los nios ingleses lo hacen) decidir que todo el mundo habla ingls, y que por lo tanto es tonto aprender francs.

Sin embargo, se pueden hacer comentarios especiales acerca de las muchas discapacidades que han sido mencionadas. La incapacidad de disfrutar las frutillas con crema podra sorprender al lector dada su frivolidad. Posiblemente, se podra hacer una mquina que disfrute este delicioso plato, pero cualquier intento de crearla sera estpido. Lo que es importante con respecto a esta discapacidad es que contribuye a otras discapacidades, por ejemplo, a la dificultad del mismo tipo de amabilidad entre hombre y mquinas como entre hombre blanco con hombre blanco, o entre hombre negro y hombre negro. La declaracin de que las mquinas no pueden cometer errores parece curiosa. Uno es tentado a responder podran hacerlo an peor?. Pero adoptemos una actitud un poco ms comprensiva, y veamos que quiere decir realmente. Creo que esta crtica puede ser explicada en trminos del juego de la imitacin. Se sostiene que interrogador podra distinguir simplemente la mquina del hombre al platearle una cantidad de problemas aritmticos. La mquina sera desenmascarada dado su altsima eficacia. La respuesta a esto es simple. La mquina (programada para jugar el juego) no intentara dar la respuesta correcta a los problemas aritmticos. Deliberadamente, cometera errores de manera calculada para confundir al interrogador. Una falla mecnica podra probablemente delatar a la mquina con una decisin poco apropiada con respecto al tipo de error que cometa en el clculo. Incluso esta interpretacin de la crtica no es lo suficientemente comprensiva. Pero no podemos dedicarle el espacio para ahondar en ello. Me parece que esta crtica se sostiene en una confusin entre dos tipos de errores. Podramos etiquetarlos como errores de funcionamiento y errores de conclusin. Los errores de funcionamiento se deben a alguna falla mecnica o elctrica que produce que la mquina se comporte de una manera distinta con respecto a la cual fue diseada. En la discusin filosfica a uno le gusta ignorar la posibilidad de tales errores; uno se encuentra por lo tanto discutiendo sobre mquinas abstractas. Estas mquinas abstractas son ficciones matemticas ms que objetos fsicos. Por definicin, incapaces de presentar errores de funcionamiento. En este sentido, podemos realmente decir que las mquinas nunca cometen errores. Errores de conclusin slo se pueden producir cuando algn adjunta algn significado a las seales de output de la mquina. La mquina podra, por ejemplo, digitar ecuaciones matemticas, u oraciones en ingls. Cuando se tipea una proposicin falsa, decimos que la mquina ha cometido un error de conclusin. Claramente, no hay razn para decir que la mquina no pueda cometer este tipo de error. Podra solamente tipear repetidas veces 0 = 1. Al considerar un ejemplo menos rebuscado, se podra tener algn mtodo para dar conclusiones a travs de la induccin cientfica. Debemos esperar que un mtodo as que nos lleve a resultados errneos ocasionalmente.

La aseveracin de que una mquina no puede ser el sujeto de su propio pensamiento slo puede ser respondida si se puede mostrar que la mquina posee algn pensamiento con algn contenido. No obstante, el contenido de las operaciones de una mquina no pareciera significar algo, al menos para las personas que tratan con ella. Si, por ejemplo, la mquina estuviera tratando de encontrar una solucin para la ecuacin x240x11= 0, uno se sentira tentado a describir estas ecuacin como parte del contenido de la mquina en ese momento. Podra ser usado para ayudar a crear sus propios programas, o para predecir el efecto de las alteraciones en su propia estructura. A travs de la observacin de resultados de su propia conducta, podra modificar sus programas de manera tal de alcanzar algn propsito de manera ms efectiva. stas son ms bien posibilidades para el futuro cercano que sueos utpicos. La crtica que refiere a que una mquina no puede tener una gran variedad de conductas es slo una manera de decir que no puede tener una gran capacidad de almacenaje. Hasta hace poco, la capacidad de almacenaje de incluso mil dgitos era muy rara. Las crticas que estamos considerando ac son con frecuencia formas disfrazadas del argumento de la conciencia. Generalmente, si uno sostiene que una mquina puede hacer una de estas cosas, y describe el tipo de mtodo que la mquina podra usar, uno no producira una gran impresin. Se cree que el mtodo (cualquiera que sea, dado que debe ser mecnico) es ms bien la base. Compare con el parntesis de la afirmacin de Jefferson mencionada ms arriba. (6) La objecin de Lady Lovelace. La informacin ms detallada del motor analtico de Babbage proviene de una de las memorias de Lady Lovelace. En sta, ella sostiene que el motor analtico no tiene pretensiones de originar nada. Puede hacer cualquier cosa que sepamos ordenarle que haga (su cursiva). Esta declaracin es citada por Hartree, que aade: esto no implica que no sea posible construir un equipamiento electrnico que podr pensar por s mismo, o sobre el cual, en trminos biolgicos, uno pudiera configurar un reflejo condicionado, el que podra servir como la base del aprendizaje. Si es que esto es posible en principio o no es una pregunta estimulante y apasionante, y es sugerida debido a algunos de los desarrollos recientes. Pero no parece que las mquinas construidas o proyectadas en ese momento pudieran tener esta propiedad. Estoy completamente de acuerdo con Hartree. Uno podr notar que l no asevera que las mquinas en cuestin no tuvieran la propiedad, sino que la evidencia disponible para Lady Lovelace no la alentaba a creer que la tuvieran. Es muy posible que las mquinas en cuestin tuvieran esta propiedad en cierto sentido. Suponga que alguna mquina de estados discretos tiene la propiedad. El monitor analtico

era un computador universal digital, as que, si la capacidad de almacenaje y velocidad fueran adecuadas, se podra a travs de una programacin apropiada hacer que se imitara a la mquina en cuestin. Probablemente este argumento no se le ocurri ni a la Condesa ni a Babbage. En cualquier caso, no tenan ninguna obligacin de decir todo lo que se puede decir. Toda esta pregunta ser considerada nuevamente bajo el encabezado de mquinas que aprenden. Una variante de la objecin de Lady Lovelace establece que una mquina nunca hace nada realmente nuevo. Esto podra ser aludido desde la perspectiva de no hay nada nuevo bajo el sol. Quin puede tener certeza que el trabajo original que alguien haya hecho no fue solamente el crecimiento de una semilla plantada en l a travs de la enseanza, o el efecto de seguir principios generales bien sabidos. Una variante mejor a la objecin dice que una mquina nunca puede sorprendernos. Esta declaracin es un desafo ms directo y sale a su encuentro de manera directa. Las mquinas me sorprenden con gran frecuencia. Esto se debe en gran medida al hecho de que yo no hago el clculo suficiente para decidir qu puedo esperar de ellas, o ms bien porque, aunque hago una estimacin, lo hago apurado, con descuido, tomando riesgos. Quizs me digo a mi mismo, supongamos que el voltaje ac debiera ser el mismo que all: simplemente asummoslo as. Naturalmente, con frecuencia me equivoco, y el resultado es una sorpresa, y para cuando el experimento se lleva a cabo, estos supuestos ya se han olvidado. Reconocer lo anterior me permite estar abierto a reproches sobre mi manera descuidada, pero no posicionan ninguna duda en la credibilidad de mi testimonio sobre mi experiencia de sorpresa. No espero que esta respuesta silencie a mi crtico. l probablemente dir que esas sorpresas se deben a algn acto mental creativo de mi parte, y que no otorga ningn crdito a la mquina. Esto nos lleva de vuelta a la discusin sobre la conciencia, y lejos de la idea de la sorpresa. Esta es una lnea argumentativa que debemos considerar cerrada, pero quizs valga la pena destacar que la apreciacin de algo como sorpresivo requerir un acto mental creativo, si es que el evento sorpresivo se origina desde un hombre, una mquina o cualquier cosa. La perspectiva de que las mquinas no producen sorpresas se debe, creo yo, a una falacia a la cual se encuentran sujetos tanto filsofos como matemticos. Es el supuesto de que tan pronto como se presente un hecho a una mente, todas las consecuencias de ese hecho florecen en ella de manera simultnea. Es un supuesto muy til en muchas circunstancias, pero uno olvida demasiado fcilmente que es falso. Una consecuencia natural de hacer esto es que uno

asume que no hay ventaja en la simple bsqueda de consecuencias de los datos y los principios generales. (7) Argumento desde la continuidad en el sistema nervioso. Con toda certeza, el sistema nervioso no es una mquina de estados discretos. Un pequeo error en la informacin acerca del tamao del impulso nervioso que afecte a una neurona, podra hacer una gran diferencia en el tamao del impulso saliente. Se podra sostener que, si as fuera, no se puede esperar la capacidad de imitar la conducta del sistema nervioso con un sistema de estados discretos. Es verdad que una mquina de estados discretos debe ser diferente de una mquina continua. Pero si adherimos a las condiciones del juego de la imitacin, el interrogador no ser capaz sacar provecho de esta diferencia. La situacin se puede hacer ms clara si consideramos a otras mquinas continuas ms simples. Un analizador diferencial servir. (Un analizador diferencial en un tipo de mquina, que no es del tipo de estados discretos, y que se usa para algunos tipos de clculos). Algunos de stos generan sus respuestas a travs de tipeo, por lo que son adecuadas para formar parte del juego. No sera posible para un computador digital predecir exactamente qu respuestas dara el analizador diferencial para determinado problema, pero sera muy capaz de dar el tipo correcto de respuesta. Por ejemplo, si se le pidiera que de el valor de (cerca de 3.1216), sera razonable elegir azarosamente entre valores 3.12, 3.13, 3.14, 3.15, 3.16 con las probabilidades de 0.05, 0.15, 0.55, 0.19, 0.06 (por decir algo). Bajo estas circunstancias, sera muy difcil para el interrogador distinguir entre el analizador diferencial y el computador digital. (8) El argumento desde la informalidad de la conducta. No es posible producir una lista de reglas que pretendan describir lo que un hombre debiera hacer en cada circunstancia concebible. Uno podra, por ejemplo, tener una regla en la que se debe parar cuando alguien ve un semforo en rojo, y de seguir si alguien ve la luz verde; pero, qu pasa si por alguna falla, ambas luces aparecen juntas? Uno quizs decidira detenerse ya que es ms seguro. Pero una nueva dificultad se producira ms tarde por esta decisin. El intento de proveer reglas de conducta para cubrir cada eventualidad, incluso aquellas que se producen por los semforos, parece imposible. Estoy de acuerdo con todo esto. Dado lo anterior, se dice que no podemos ser mquinas. Tratar de reproducir el argumento, pero me temo que no podr hacerle justicia. Pareciera que es algo as: Si cada hombre tuviera un grupo determinado de reglas de conducta por las cuales l regulara su vida, no sera ms que una mquina. Pero no existen tales reglas, as que los hombres no pueden ser mquinas. La parte no-distribuida del

medio es deslumbrante. No creo que el argumento se haya propuesto as alguna vez, no obstante creo que ese es el argumento que se da. Sin embargo, podra hacer una cierta confusin entre las reglas de conducta y las leyes de comportamiento. Se entiende por reglas de conducta los preceptos tales como detenerse si uno ve una luz roja, sobre las cuales alguien puede actuar, y de las cuales se est conciente. Se entiende por leyes de comportamiento las leyes de la naturaleza aplicables al cuerpo de un hombre, tales como si lo pinchas, va a chillar. Si substituimos leyes de comportamiento que regulan su vida por leyes de la conducta que regulan su vida en el argumento citado con anterioridad, la parte no-distribuida deja de ser insuperable. Creemos que es falso que uno sea algn tipo de mquina por el hecho de ser regulado por leyes del comportamiento (aunque no necesariamente una mquina de estados discretos), muy por el contrario, creemos que ser esa mquina implica ser regulado por tales leyes. Sin embargo, no podemos convencernos tan fcilmente de la ausencia de leyes completas del comportamiento as como podramos convencernos de la ausencia de reglas completas de la conducta. La nica manera que sabemos para descubrir tales leyes es la observacin cientfica, y ciertamente no sabemos de alguna circunstancia sobre la cual podamos decir: hemos buscado lo suficiente. No existen tales leyes. Podemos demostrar con mayor esfuerzo que cualquier declaracin as sera injustificada. Suponemos que podramos estar seguros de encontrar tales leyes si existieran. Luego, dada una mquina de estados discretos, sera posible ciertamente descubrir a travs de una suficiente cantidad de observacin a ella, y as predecir su conducta futura, y todo esto dentro de un tiempo razonable, por decir algo, mil aos. Pero este no parece ser el caso. He instalado en el computador de Manchester un programa pequeo usando solo 1000 unidades de almacenamiento, a travs del cual se le otorga a la mquina un nmero de 16 cifras de posibles respuestas en dos segundos. Desafiara a cualquiera a aprender lo suficiente de las respuestas del programa para ser capaz de predecir cualquier respuesta a valores no probados con anterioridad. (9) El argumento desde la percepcin extra-sensorial. Asumo que el lector se encuentra familiarizado con la idea de percepcin extra-sensorial, y del significado de sus cuatro trminos, que son telepata, clarividencia, precognicin y psicoquinesia. Estos fenmenos perturbadores parecieran ir en contra de todas nuestras ideas cientficas usuales. Cmo nos gustara desacreditarlos! Desafortunadamente, la evidencia estadstica, al menos para la telepata, es aplastante. Es muy difcil reordenar nuestras ideas de manera tal de que encajen con estos datos nuevos. Una vez que uno las ha aceptado, no parece un gran avance creer en fantasmas y cucos. La idea de que nuestros cuerpos se mueven simplemente debido a las reglas fsicas conocidas, junto a otras que an no han

sido descubiertas pero que sin embargo son similares, sera una buena opcin por la cual optar. Para mi criterio, este argumento es slido. Uno puede fcilmente responder que muchas teoras cientficas parecen ser factibles en la prctica, a pesar de ir en contra de P. E. S.; de hecho, uno puede olvidarse de ello sin mayor problema. Esto es ms bien una comodidad fra, y uno teme que el pensar sea el tipo de fenmeno donde la P.E.S. podra ser especialmente relevante. Un argumento ms especfico basado en la P.E.S. podra ser: Djanos jugar el juego de la imitacin, usando como testigo un hombre que es un buen receptor teleptico, y un computador digital. El interrogador puede preguntar cosas tales como qu figura tiene la carta que tengo en mi mano derecha?. El hombre, a travs de telepata o clarividencia, responde correctamente 130 veces de un total de 400 cartas. La mquina slo puede adivinar azarosamente, y obtiene 104 respuestas correctas, por lo que el interrogador realiza la identificacin correcta. Hay una posibilidad interesante que se abre aqu. Suponga que el computador digital contiene un generador de nmeros al azar. Entonces, ser natural usar esto para decidir qu respuesta dar. Pero luego el generador de nmeros al azar ser sujeto a los poderes psicoquinticos del interrogador. Quizs esta psicoquinesia podra hacer que la mquina adivine correctamente con ms frecuencia de la esperada por un clculo de probabilidad, por lo que el interrogador sera incapaz an de realizar la identificacin correcta. Por otro lado, l podra ser capaz de adivinar correctamente sin hacer preguntas, sino a travs de la clarividencia. Con la P.E.S. cualquier cosa podra pasar. Si se admite la telepata, ser necesario afinar nuestra prueba. La situacin podra ser considerada como anloga a qu ocurrira si el interrogador estuviera hablando consigo mismo en voz alta y uno de los competidores estuviera escuchando con su odo en la pared. Poner a los competidores en una habitacin a prueba de telepata bastara para cumplir los requerimientos. 7 Mquinas que aprenden. El lector habr anticipado que no tengo argumentos de naturaleza positiva muy convincentes para apoyar mis puntos de vista. Si los tuviera, no me habra tomado el trabajo de destacar las falacias de perspectivas contrarias. Este es el tipo de evidencia que ahora entregar. Volvamos por un momento a la objecin de Lady Lovelace, la cual estableca que la mquina slo puede hacer lo que le digamos que

haga. Uno podra decir que un hombre puede inyectar una idea en la mquina, y que esta responder hasta cierto punto y luego caer en un estado de quietud, tal como la cuerda de un piano cuando la golpea el martillo. Otra comparacin sera una carga atmica cuyo tamao es menor al tamao crtico: una idea inyectada correspondera al neutrn que entra desde fuera. Tal neutrn causar cierta alteracin que eventualmente se acabar. Sin embargo, si el tamao de la carga atmica es lo suficientemente incrementada, la alteracin causada por la entrada de ese neutrn muy probablemente continuar sucesivamente, aumentando hasta que la carga se destruya. Existe algn fenmeno que corresponda a las mentes as como hay uno que corresponda a las mquinas? Al parecer si hay uno para la mente humana. La mayora de ellas parecen ser sub-crticas, es decir, en la analoga corresponderan a cargas de tamao sub-crtico. La idea que se le presenta a una mente as generar en promedio menos que una idea en respuesta. Una proporcin ms bien sera super-crtica. Una idea presentada a una mente como sta ltima podra generar toda una nueva teora que contenga ideas secundarias, terciarias, o incluso ms remotas. Las mentes de los animales parecieran ser absolutamente subcrticas. En relacin a esta analoga se puede preguntar, se puede hacer una mquina para que sea super-crtica? La analoga de la capa de una cebolla tambin es til. Al considerar las funciones de la mente o el cerebro, encontramos ciertas operaciones que se pueden explicar en trminos puramente mecnicos. Decimos que esto no corresponde a una mente real: es un cierto tipo de capa que debemos sacar si queremos encontrar la mente real. Pero luego en lo que queda, encontramos otra capa que se puede remover, y as sucesivamente. Si se procede de esta manera, podemos alcanzar en algn momento la mente real, o eventualmente llegamos a una capa que no tiene nada? En este ltimo caso, toda la mente sera mecnica. (Sin embargo, no sera una mquina de estados discretos. Ya discutimos esto.) Los dos ltimos prrafos no aseguran ser necesariamente argumentos convincentes. Deberan en vez ser descritos como recitados que tienden a producir creencia. El nico fundamento realmente satisfactorio que se puede dar para la visin expresada al principio de la seccin 6 ser que, debemos esperar el final de siglo y recin entonces, hacer el experimento descrito. Pero, qu podemos decir mientras tanto? Qu pasos deberan darse para que el experimento sea exitoso? Como he explicado, el problema tiene que ver bsicamente con la programacin. Tambin tendrn que haber avances en la ingeniera, pero parece improbable que estos no vayan a ser adecuados para los

requerimientos. Cifras estimativas con respecto a la capacidad del cerebro varan entre 1010 a 1015 de dgitos binarios. Yo me inclino por los valores ms bajos y creo que slo una pequea fraccin se usa en los tipos de pensamiento superior. La mayor parte se usa probablemente para la retencin de impresiones visuales. Me sorprendera si ms de 109 se requiera para jugar satisfactoriamente el juego de la imitacin, o cualquier valor si se juega contra un ciego. (Nota: la capacidad de la Encyclopedia Britannica, undcima edicin, es 2 x 109.) Una capacidad de almacenamiento de 107 sera una posibilidad factible incluso con las tcnicas actuales. Es probable que no sea necesario incrementar la velocidad de las operaciones de las mquinas en lo absoluto. Las partes de las mquinas modernas, que podran ser consideradas como anlogas a clulas nerviosas, trabajan cerca de mil veces ms rpido que estas ltimas. Esto debiera otorgar un margen de seguridad el cual pudiera cubrir perdidas de velocidad que se produzcan de distintas maneras. Por lo tanto, nuestro problema es descubrir cmo programar estas mquinas para jugar el juego. En mi actual tasa de trabajo, produzco cerca de mil dgitos de programa al da, por lo que cerca de sesenta trabajadores, que trabajen regularmente a travs de cincuenta aos podran lograr el objetivo, si es que nada se debe desechar. Sera mejor utilizar mtodos ms expeditos. Durante el proceso de intento de imitacin de la mente de un humano adulto tendemos a pensar bastante sobre el proceso que produjo el estado en el que se encuentra. Podramos mencionar tres componentes: (a) El estado inicial de la mente, digamos al momento de nacer; (b) La educacin a la cual fue sujeta; y (c) Otra experiencia, no descrita como educacin, a la que haya sido sujeta. En vez de tratar de producir un programa similar a la mente adulta, por qu no tratar en vez de producir una que simule la mente de un nio? Si sta fuera luego sujeta al curso apropiado de educacin, uno obtendra el cerebro adulto. Supuestamente, el cerebro-nio es algo as como un cuaderno que uno compra en una librera. Un mecanismo ms bien simple, con muchas hojas en blanco. (Mecanismo y escritura son casi sinnimos para nuestro punto de vista.) Nuestra esperanza es que haya un mecanismo tan pequeo en el cerebro-nio, que permita ser programado fcilmente. Podemos asumir en una primera aproximacin que la cantidad de trabajo en la educacin sera muy similar a la de un nio humano. Hemos por tanto dividido nuestro problema en dos partes: el programa - nio y el proceso educativo. stos permanecen

estrechamente relacionados. No podemos esperar encontrar un buen nio-mquina al primer intento. Uno debe experimentar a travs de la enseanza de una mquina as y ver qu tan bien aprende. Luego, se puede intentar con otra y ver si es mejor o peor. Hay una conexin obvia entre este proceso y la evolucin, a travs de estas identificaciones: Estructura del nio-mquina = material hereditario Cambios de nio-mquina = Mutaciones Juicio del experimentador = Seleccin natural Uno podra esperar, no obstante, que este proceso ser ms expedito que la evolucin. La sobrevivencia del ms apto es un mtodo lento para medir ventajas. El experimentador, a travs del ejercicio de la inteligencia, debiera ser capaz de acelerarlo. Igualmente importante es el hecho de que l no se encuentra restringido a las mutaciones azarosas. Si puede rastrear la causa para una debilidad, puede probablemente pensar en el tipo de mutacin para mejorarla. No ser posible aplicar exactamente a una mquina los mismos mtodos de enseanza que se le aplicaran a un nio normal. No se le puede proveer piernas, por ejemplo, por lo que no se le pedir que vaya a buscar el cubo para el carbn. Posiblemente no tendra ojos. Pero sea como sea que estas deficiencias sean superadas por un diseo inteligentemente planeado, uno no podra enviar a la criatura a la escuela sin que los nios no se burlaran excesivamente de l. Se le debe dar cierta tuicin. No debemos preocuparnos tanto de las piernas, ojos, y otra cosas. El ejemplo de la seorita Helen Keller demuestra que la educacin puede producirse siempre y cuando la comunicacin en ambos sentidos entre maestro y pupilo se produzca de una u otra manera. Normalmente, se asocia los castigos y recompensas al proceso educativo. Se podra construir o programar ciertos tipos de niomquina considerando este principio. La mquina debe ser construida de tal manera que los eventos previos a una seal-de-castigo sean poco probables de volver a ocurrir, mientras que la seal-derecompensa aumente la probabilidad de repeticin de los eventos que lo llevaron a l. Estas definiciones no presuponen ningn sentimiento por parte de la mquina. He hecho algunos experimentos con una de estas nio-mquinas, y tuve xito al ensaarle algunas cosas, pero el mtodo de enseanza fue demasiado poco ortodoxo para el experimento como para considerarlo realmente exitoso. El uso de castigos y recompensas puede, en el mejor de los casos, ser una de las partes del proceso de enseanza. En trminos muy

generales, si el profesor no tiene otros medios para comunicarse con el pupilo, la cantidad de informacin que le llega no debe exceder el nmero total de recompensas y castigos aplicados. Para el momento en el cual el nio ha aprendido a repetir Casablanca, probablemente estar muy adolorido, si el texto se pudiera descubrir a travs una tcnica tipo "Twenty Questions", en el que cada No toma la forma de un golpe. (N. del T.: Twenty Questions es un juego de cartas que fomenta a los concursantes a utilizar razonamiento deductivo y creatividad. Fue creado originalmente en Estados Unidos y aument en popularidad durante la ltima parte de la dcada de 1940, cuando se convirti en un formato exitoso para programas de pruebas de conocimiento radiales). Es necesario por lo tanto tener algn otro canal de comunicacin no emocional. Si es que estuvieran disponibles, sera posible ensearle a una mquina a travs de castigos y recompensas a obedecer rdenes en algn lenguaje, tal como el lenguaje simblico. Estas rdenes sern transmitidas a travs del canal no emocional. El uso de este lenguaje disminuir en gran medida el nmero de castigos y recompensas utilizados. Las opiniones pueden variar y complejizarse al punto de discutir qu es apropiado para el nio-mquina. Uno podra tratar de hacerlo lo ms simple posible para ser consistente con los principios generales. O bien, uno podra tener un sistema lgico de inferencia construido dentro" de l.2 En este ltimo caso, el almacenaje sera ampliamente ocupado con definiciones y proposiciones. Las proposiciones tendran varios tipos de status, tales como hechos bien establecidos, conjeturas, teoremas matemticos probados, declaraciones hechas por una autoridad, y expresiones que tengan la forma lgica de una proposicin pero no un valor de creencia. Ciertas proposiciones pueden ser descritas como imperativas. La mquina debiera ser construida de tal manera que tan pronto como una proposicin imperativa sea clasificada como bien establecida, la accin apropiada se produce inmediatamente. Para ilustrar esto, supongamos que el profesor le dice a una mquina haz tu tarea ahora. Esto podra hacer que Profesor dice haz tu tarea ahora sea incluida entre los hechos bien establecidos. Otro hecho como este podra ser todo lo que dice el profesor es verdad. Al combinar stos dos se podra llegar eventualmente a que la imperativa haz tu tarea ahora sea incluida entre los hechos bien establecidos, y esto, dada la construccin de la mquina, implicar que la tarea comienza a ser realizada; pero el efecto es muy insatisfactorio. El proceso de inferencia usado por la mquina no necesita satisfacer a los lgicos ms exactos. Podra no existir una jerarqua de tipos, por ejemplo. Pero esto no significa que ciertos tipos de falacias ocurrirn, tal como nosotros podramos caer cerca de un acantilado sin proteccin. Imperativas sutiles (expresadas dentro del sistema, no que formen parte de las reglas del sistema) tales como no use una clase a

menos que sea una subclase de otra que ha sido mencionada por el profesor pueden tener un efecto similar a no acercarse al borde. Los imperativos que pueden ser obedecidos por una mquina que no tenga extremidades estn destinados a tener un carcter ms bien intelectual, como en el ejemplo (hacer la tarea) dado recin. Las imperativas que sern importantes son aqullas que regulen el orden en el cual las reglas del sistema lgico utilizado sean aplicadas. Para cada etapa en la que se usa un sistema lgico, existe un gran nmero de pasos alternativos, y cualquiera de stos se puede aplicar, siempre y cuando se obedezcan las reglas del sistema lgico. Estas elecciones hacen la diferencia entre un razonador tonto y uno brillante, pero no la diferencia entre uno que mienta y otro que no. Las proposiciones que lleven a las imperativas de este tipo podran ser cuando Scrates sea mencionado, use el silogismo de Brbara o si un mtodo demuestra ser ms rpido que otro, no utilice el lento. A algunos de stos se les podra otorgar una autoridad, pero otros podran ser producidos por la propia mquina, a travs de una deduccin cientfica. La idea de una mquina que aprende podra parecer paradjica para ciertos lectores. Cmo pueden las reglas de funcionamiento de una mquina cambiar? stas debieran describir completamente cmo la mquina reaccionar sin importar cul sea su historia, o los cambios por los que tuvo que pasar. Las reglas son variables-con-eltiempo. Esto es muy cierto. La explicacin de la paradoja es que las reglas que pueden ser cambiadas en el proceso de aprendizaje son de un tipo menos pretencioso, y slo poseen una validez efmera. El lector puede hacer un paralelo con la constitucin de los Estados Unidos. Una caracterstica importante de una mquina que aprende es que su profesor ser con bastante frecuencia muy ignorante sobre qu es lo que ocurre dentro de ella, aunque an as podra ser capaz de predecir la conducta de su pupilo, hasta cierto punto. Esto debiera aplicarse con mayor fuerza a este ltimo tipo de educacin de una mquina, el que se produce con un nio-mquina con un diseo (o programa) bien probado. Esto se encuentra en directo contraste con un procedimiento normal al utilizar una mquina para que haga computaciones: en ese caso, el objetivo es tener una imagen mental clara del estado de la mquina en cada momento de la computacin. Este objetivo se puede lograr solamente con dificultad. La visin de que la mquina solamente puede hacer lo que sepamos ordenarle que haga3, se vuelve extraa de cara a esto. La mayora de los programas que podamos otorgarle a una mquina resultarn en que sta haga algo que no tiene sentido para nosotros, o lo consideraramos como comportamiento azaroso. El comportamiento azaroso consiste presumiblemente es una desviacin de la conducta

completamente disciplinada involucrada en la computacin, pero en realidad refiere ms bien a otro, que no genera conductas azarosas, o secuencias repetitivas sin sentido. Otro resultado importante de preparar a nuestra mquina para su parte en el juego de la imitacin a travs de un proceso de enseanza y aprendizaje es que la falibilidad humana probablemente se acepta de manera natural, es decir, sin un adiestramiento especial. (El lector debiera compaginar esto con el punto de vista en la pgina 43.) Los procesos que son aprendidos no producen una certeza de resultado del cien por ciento; si as fuera, no podran ser desaprendidos. Sera aconsejable incluir un elemento aleatorio en una mquina que aprende (ver pgina 34). Un elemento aleatorio es bastante til cuando buscamos la solucin a un problema. Suponga, por ejemplo, que quisiramos encontrar un nmero entre 50 y 200 el cual es igual al cuadrado de la suma de sus dgitos; podramos empezar con 51 y luego tratar con 52 y continuar hasta que encontremos un nmero que funcione. Como alternativa, podramos elegir nmeros al azar hasta que encontremos uno que sirva. Este mtodo tiene la ventaja de que es innecesario mantener registro del valor que ha sido probado, pero la desventaja de que se podra intentar con el mismo nmero dos veces; pero eso no es importante si es que hay varias soluciones. El mtodo ms sistemtico tiene la desventaja de que puede haber un enorme bloque sin soluciones en la regin que se investiga primero. Ahora es el momento en que el proceso de aprendizaje podra ser considerado como la bsqueda de una forma de comportamiento que satisfaga al profesor (o algn otro criterio). Dado que probablemente haya un gran nmero de soluciones satisfactorias, el mtodo aleatorio parece ser mejor que el mtodo sistemtico. Se debe resaltar que este ltimo es el que se usa en el proceso anlogo de evolucin, ya que el mtodo sistemtico no es posible. Cmo se podra mantener registro de las distintas combinaciones genticas que se han probado, de manera de evitar realizarlas de nuevo? Podramos esperar que las mquinas eventualmente compitan con los hombres en todos los campos puramente intelectuales. Pero, cules son los mejores para comenzar? Incluso eso es una decisin difcil. Mucha gente cree que una actividad muy abstracta, como jugar ajedrez, sera lo mejor. Tambin se puede sostener que lo mejor es proveer a la mquina con los mejores rganos sensoriales que el dinero pueda comprar y ensearle a comprender y hablar ingls. Este proceso podra seguir la enseanza normal de un nio. Las cosas podran ser apuntadas y nombradas, y as sucesivamente. Nuevamente, no s cul sea la respuesta correcta, pero creo que ambas aproximaciones debieran intentarse.

Slo podemos ver una corta distancia delante de nosotros, pero podemos muchsimo de lo que se necesita hacer.

Notas 1 Posiblemente esta visin sea hertica. Santo Toms de Aquino (Summa Theologica, citado en Russell 1945, pgina 458) establece que Dios no puede hacer que un hombre no tenga alma. Pero sta podra no ser una restriccin de Sus poderes, sino slo el resultado del hecho que las almas del los hombres son inmortales, y por lo tanto, indestructibles. 2 O ms bien construido dentro, dado que nuestro niomquina ser programado en un computador digital. Pero el sistema lgico no tendr que ser aprendido. 3 Compare la declaracin de Lady Lovelace (pgina 46), la cual no contiene la palabra solamente.