CALCULO AUTOMATICO E INTELIGENCIA

CALCULO AUTOMATICO E INTELIGENCIA

MIND (The journal of the Mind Association), vol LIX, n 236, pp. 433-460, 1950

Por A.M. TURING

Traducido por JUAN CARLOS TORRES ALVAREZ INDICE EL JUEGO DE IMITACION ................................................................................... 1 CRITICA DEL NUEVO PROBLEMA.................................................................... 2 LA MAQUINA AFECTADA POR EL JUEGO...................................................... 3 COMPUTADORAS DIGITALES ........................................................................... 4 UNIVERSALIDAD DE LAS COMPUTADORAS DIGITALES........................... 6 VISIONES CONTRARIAS DE LA CUESTION PRINCIPAL .............................. 9 6.1 LA OBJECION TEOLOGICA......................................................................... 9 6.2 LA OBJECION DE ESCONDER LA CABEZA COMO EL AVESTRUZ 10 6.3 LA OBJECION MATEMATICA .................................................................. 10 6.4 EL ARGUMENTO DEL CONOCIMIENTO ................................................ 11 6.5 ARGUMENTOS DE INCAPACIDADES VARIAS ..................................... 13 6.6 LA OBJECION DE LADY LOVELACE ...................................................... 15 6.7 ARGUMENTO DE LA CONTINUIDAD EN EL SISTEMA NERVIOSO . 16 6.8 EL ARGUMENTO DE LA INFORMALIDAD DEL COMPORTAMIENTO 16 6.9 EL ARGUMENTO DE LA PERCEPCION EXTRASENSORIAL .............. 17 7 MAQUINAS QUE APRENDEN ........................................................................... 18 8 BIBLIOGRAFIA .................................................................................................... 23 1 EL JUEGO DE IMITACION 1 2 3 4 5 6

Propongo considerar la siguiente cuestin: Pueden pensar las mquinas?. Se debera comenzar con las definiciones del significado de los trminos mquina y pensar. Las definiciones podran estar encuadradas para reflejar lo ms lejos posible el uso norma de las palabras, pero esta actitud es peligrosa. Si el significado de las palabras mquina y pensar se encuentra examinando como se usan de manera habitual, es difcil escapar a la conclusin de que el significado de la respuesta a la pregunta Pueden las mquinas pensar? Podra estar en una encuesta estadstica tal como un sondeo Gallup. Pero esto es absurdo. En lugar de intentar dar tal definicin, cambiar la cuestin por otra, altamente relacionada con sta, y expresada en palabras relativamente no ambiguas. La nueva forma del problema puede ser descrita en trminos de un juego al que llamamos el juego de imitacin. Juegan tres personas, un hombre (A), una mujer (B), y un interrogador (C) que puede ser de cualquier sexo. El interrogador se encuentra en una habitacin separada de los otros dos jugadores. El objetivo del juego para el interrogador es determinar cual de los otros dos jugadores es el hombre y cual es la mujer. El interrogador les conoce por las etiquetas X y Y, y al final del juego dice X es 1

CALCULO AUTOMATICO E INTELIGENCIA

A y Y es B o X es B y Y es A. Se permite al interrogador hacer cuestiones a A y B tales como: C: Podra decirme X la longitud de su cabello? Supngase que X es A, entonces A debe contestar. El objetivo de A en el juego es probar y causar que C haga la identificacin errnea. Por tanto su respuesta podra ser: Mi cabello est escalonado, y los pelos ms largos miden cerca de 9 pulgadas. Para que los tonos de voz no ayuden al interrogador, las respuestas deberan ser escritas, o mejor an, mecanografiadas. Lo mejor sera tener un teletipo comunicando las dos habitaciones. Alternativamente las preguntas y respuestas pueden ser repetidas por un intermediario. El objetivo del juego para la tercera jugadora (B) es ayudar al interrogador. La mejor estrategia para ella probablemente sera dar respuestas verdaderas. La jugadora puede aadir a sus respuestas cosas tales como: Yo soy la mujer, no le escuches. pero que no servirn de nada cuando el hombre haga observaciones similares. Ahora podemos hacer la pregunta Qu pasa cuando una mquina toma el puesto de A en este juego?. Decidir el interrogador errneamente tan a menudo como cuando juegan un hombre y una mujer?. Estas preguntas reemplazan nuestra original Pueden las mquinas pensar?. 2 CRITICA DEL NUEVO PROBLEMA

A la vez que se pregunta Cual es la respuesta a la nueva forma de pregunta?, Uno se puede preguntar Es la nueva pregunta digna de ser investigada?. Esta ltima pregunta se investiga sin dificultad adicional, mediante el uso de cortes pequeos e infinitas regresiones. El nuevo problema tiene la ventaja de dibujar una lnea bastante clara entre las capacidades fsicas e intelectuales del hombre. Ningn ingeniero o qumico afirma ser capaz de producir un material que sea indistinguible de la piel humana. Es posible que dentro de algn tiempo esto sea posible, pero incluso suponiendo que tal invencin est disponible, deberamos sentir que existe un pequeo punto al probar a hacer ms humana una maquina pensante recubrindola con la piel artificial. La manera con la que hemos sentado el problema refleja este hecho con la condicin de que previene al interrogador ver o tocar a los competidores, o escuchar sus voces. Otras ventajas del criterio propuesto pueden ser destacadas por muestras de preguntas y respuestas, tales como: Q: Por favor, escrbeme un soneto con el tema La Primavera. A: No cuentes conmigo. Nunca pude escribir poesa. Q: Suma 34957 y 70764 A: (Despus de 30 segundos) 105621.

CALCULO AUTOMATICO E INTELIGENCIA

Q: Juegas al ajedrez? A: S Q: tengo K en mi K1, y no ms piezas. Tu solo tienes K en K6 y R en R1. Es tu turno. Cmo mueves pieza? A: (Despus de 15 segundos) R-R8 mate. El mtodo de preguntas y respuestas parece ser adecuado para introducir casi cualquiera de los campos de comportamiento huma que queramos incluir. No se desea penalizar a la maquina por incapacidad de destacar en competiciones de belleza, o no penalizar a un hombre por perder una carrera contra un avin. Las condiciones de nuestro juego hacen estas incapacidades irrelevantes. Si lo consideran aconsejable, se pueden jactar tanto como plazcan de los testimonios de encanto, fuerza o herosmo, pero el interrogador no puede pedir demostraciones prcticas. Quizs se puede criticar al juego en el terreno de que las rarezas son consideradas demasiado fuertemente contra la mquina. Si el hombre pretendiera ser la mquina, claramente dara un pobre espectculo. Sera delatado por la lentitud y la inexactitud en aritmtica. Es posible que las mquinas no puedan llevar a cabo alguna cosa que podra ser descrita como pensante pero que es muy diferente de lo que un hombre hace? Esta es una fuerte objecin, pero al menos podemos decir que si, sin embargo, se puede construir una mquina que juegue satisfactoriamente al juego de imitacin, no necesitamos preocuparnos por esta objecin. Se podra instar que cuando la mquina juegue el juego de imitacin su mejor estrategia posible fuera ser la imitacin del comportamiento humano. Esto podra ser, pero creo que es improbable que exista cualquier gran efecto de esta clase. En cualquier caso no existe la intencin de investigar en este artculo la teora del juego, y se asumir que la mejor estrategia es probar a suministrar respuestas que fueran dadas naturalmente por un hombre. 3 LA MAQUINA AFECTADA POR EL JUEGO

La pregunta enunciada en el apartado 1 no es bastante definitiva hasta que no hayamos especificado que queremos decir con la palabra mquina. Es natural que deseemos permitir cualquier tcnica usada en nuestras mquinas. Tambin deseamos permitir que un ingeniero o un equipo de ingenieros puedan construir una mquina que trabaje, pero cuya forma de operacin no pueda ser descrita satisfactoriamente por sus constructores dado que han aplicado un mtodo que es altamente experimental. Finalmente, deseamos excluir de las mquinas hombres nacidos de la manera convencional. Es difcil encuadrar definiciones que satisfagan estas tres condiciones. Alguien podra, por ejemplo, insistir en que el equipo de ingenieros fuera del mismo sexo, pero esto no es realmente satisfactorio, dado que podra ser posible criar un individuo completo a partir de una clula sencilla de la piel de un hombre. Hacer esto sera una hazaa de la biologa digna del ms alto elogio, pero no nos inclinara a considerarla como un caso de construccin de una mquina pensante. Esto nos incita a abandonar el requerimiento de que se permita cualquier clase de tcnica. Estamos ms preparados para hacerlo teniendo en cuenta el hecho de que el presente inters en mquinas

CALCULO AUTOMATICO E INTELIGENCIA

pensantes ha surgido por una clase particular de mquinas, llamadas normalmente computadora electrnica o computadora digital. Continuando con esta sugerencia, solo se permite que tomen parte en el juego computadoras digitales. A primera vista, esta restriccin parece ser muy drstica. Intentar mostrar que no es realidad. Para cumplir esta exigencia har una breve descripcin de la naturaleza y propiedades de estas computadoras. Tambin se puede decir que esta identificacin de mquinas con computadoras digitales, como nuestro criterio de pensamiento, solo ser insatisfactorio si (en contra de mi creencia), produce que estas computadoras digitales no son capaces de hacer una buena representacin en el juego. Ya existe un nmero de computadoras digitales trabajando, y se puede preguntar Por qu no realzar el experimento enseguida?. Sera fcil satisfacer las condiciones del juego. Se podra usar un nmero de interrogadores, recopilando estadsticas que muestren con que frecuencia se dan las identificaciones correctas. La respuesta corta es que no estamos preguntando si todas las computadoras digitales que existen en el presente seran capaces de jugar bien, sino si existen calculadoras imaginables que jueguen bien. Pero esta es solo la respuesta corta. Veremos esta cuestin con diferente perspectiva ms adelante. 4 COMPUTADORAS DIGITALES

La idea que subyace con las computadoras digitales puede ser explicada diciendo que estas mquinas intentan llevar a cabo operaciones que podran ser hechas por una calculadora humana. Se supone que una calculadora humana sigue reglas fijas; no tiene capacidad para desviarse de ellas. Podemos suponer que estas reglas estn escritas en un libro, que se altera si es asignado a un nuevo trabajo. Tambin tiene un suministro ilimitado de papel en el que hacer sus clculos. Tambin puede hacer las multiplicaciones y sumas en una calculadora de sobremesa, pero esto no es importante. Si usamos la explicacin anterior como una definicin, estaremos en peligro de conseguir la circularidad del argumento. Podemos evitar esto dando un esquema del significado con el que se logra el efecto deseado. Normalmente se puede considerar que una computadora digital est compuesta de tres partes: Almacn Unidad ejecutiva Control

El almacn es un almacn de informacin, y corresponde al papel de la calculadora humana, bien sea el papel en el se hacen los clculos, bien el papel en el que est impreso el libro de reglas. En el caso de que la calculadora huma haga los clculos de cabeza, una parte del almacn corresponder a su memoria. La unidad ejecutiva es la parte que lleva a cabo varias operaciones individuales involucradas en un clculo. Estas operaciones individuales variaran de mquina a mquina. Normalmente se pueden hacer operaciones de longitud bastante larga, tales

CALCULO AUTOMATICO E INTELIGENCIA

como Multiplica 3540675445 por 7076345687, pero en algunas mquinas solo son posibles operaciones muy simples, tales como Escribe 0. Hemos mencionado que el libro de reglas suministrado a la calculadora se reemplaza en la mquina por una parte del almacn. A esto se denomina la tabla de instrucciones. La labor del control es ver que estas instrucciones son obedecidas correctamente y el orden requerido. El control est as construido para ocurra esto necesariamente. La informacin en el almacn esta habitualmente dividida en paquetes de un tamao moderadamente pequeo. En una mquina, por ejemplo, un paquete puede consistir en diez dgitos decimales. Se asignan nmeros a la parte del almacn en la que varios paquetes de informacin se almacenan, de alguna manera sistemtica. Una instruccin tpica puede decir: Sumar el nmero almacenado en la posicin 6809 al de la posicin 4302 y pon el resultado en esta ltima posicin. No es necesario decir que en la mquina la instruccin no se expresa en el lenguaje natural. Probablemente se codificara de una forma tal como 6809430217. Aqu 17 indica cual es de las varias operaciones posibles que se pueden ejecutar con dos nmeros. En este caso las operaciones es la descrita anteriormente, a saber, Suma el nmero.... Destacaremos que la instruccin ocupa 10 dgitos y as forma un paquete de informacin. El control normalmente tomar la instruccin a ser obedecida en el orden de las posiciones en que estn almacenadas, pero ocasionalmente se puede encontrar una instruccin tal como: Ahora obedece la instruccin almacenada en la posicin 5606, y continua desde all o otra como: Si la posicin 4505 contiene 0 obedece la prxima instruccin almacenada en 6707, en caso contrario continua recto Las instrucciones de este ltimo tipo son muy importantes dado que hacen posible que una secuencia de operaciones sea repetida una o otra vez hasta que se cumpla alguna condicin, pero no obedeciendo nuevas instrucciones en cada repeticin, sino las mismas una y otra vez. Podemos hacer una analoga domstica: supngase que la madre de Tommy quiere que ste pregunte al zapatero cada maana en su camino a la escuela para ver si sus zapatos estn terminados; para ello puede pedrselo nuevamente cada maana. Alternativamente puede poner un letrero una sola vez en el saln de la casa que Tommy leer cada maana cuando sale para la escuela, y que le dice que pregunt al zapatero, y tambin romper el letrero cuando Tommy vuelva y traiga los zapatos consigo. El lector debe aceptar como un hecho que las computadoras digitales pueden ser construidas, y efectivamente han sido construidas, segn los principios que se han descrito, y de hecho pueden imitar las acciones de una calculadora humana.

CALCULO AUTOMATICO E INTELIGENCIA

El libro de reglas que hemos descrito en nuestra calculadora humana es una ficcin. Las calculadoras humanas actuales realmente recuerdan lo que tienen que hacer. Si se quiere construir una mquina que imite el comportamiento de la calculadora humana en operaciones complejas habra que preguntarle como las hace, y entonces traducir la respuesta en forma de una tabla de instrucciones. La construccin de tablas de instrucciones normalmente se llama programacin. Programar una mquina para que ejecute la operacin A significa poner la tabla de instrucciones apropiada en la mquina para que haga A. Una variante interesante de la idea de computadora digital es una computadora digital con un elemento aleatorio. Esta tiene instrucciones relacionas como el lanzamiento de un proceso electrnico, o algo equivalente, apagado; una de tales instrucciones podra ser, por ejemplo, Lanza el proceso apagado y pon el nmero resultante en el almacn 1000. Algunas veces tal mquina se describe como teniendo libre albedro. Normalmente no es posible determinar observando una mquina si tiene un elemento aleatorio, sobre un efecto similar si puede ser producido por tales dispositivos haciendo las elecciones dependiendo de los dgitos de un decimal por pi. La mayora de las actuales computadoras digitales solo tiene un almacn finito. No existe dificultad terica en la idea de una computadora como almacenamiento infinito. Naturalmente solo una parte finita puede ser usada a la vez. Igualmente solo una cantidad finita puede haber sido construida, pero podemos imaginar que se puede agregar ms y ms cantidad cuando se requiera. Tales computadoras tienen un especial inters terico y sern llamadas calculadoras de capacidad infinita. La idea de una computadora digital es antigua. Charles Babbage, Catedrtico de la Ctedra Lucasian de Matemticas de la Universidad de Cambridge de 1828 a 1839, planeo tal mquina, llamada Mquina Analtica, pero nunca la completo. Aunque Babbage tuvo las ideas esenciales, su mquina no tuvo en ese tiempo perspectiva atractiva. La velocidad que hubiera sido disponible definitivamente hubiera sido ms rpida que una calculadora humana pero una 100 veces ms lenta que la mquina Manchester, que es una de las ms lentas mquinas modernas. El almacenamiento era puramente mecnico, mediante el uso de ruedas y tarjetas. El hecho de que la Mquina Analtica de Babbage fuera enteramente mecnica nos ayudar a librarnos de una supersticin. A menudo la importancia se adjunta al hecho de que las computadoras digitales modernas son elctricas, y el sistema nervioso tambin es elctrico. Dado que la mquina de Babbage no era elctrica, y dado que todas las computadoras digitales son en cierto sentido equivalentes, vemos que el uso de la electricidad no tiene importancia terica. Naturalmente la electricidad surge en lo concerniente a la velocidad de las seales, por tanto no es sorprendente que la encontremos en ambas de estas relaciones. En el sistema nervioso los fenmenos qumicos tienen menor importancia que los elctricos. En ciertas computadoras el sistema de almacenamiento es principalmente acstico. La caracterstica del uso de la electricidad es vista de este modo solo con una similitud superficial. Si queremos encontrar tales similitudes deberamos buscar las analogas matemticas de funcin. 5 UNIVERSALIDAD DE LAS COMPUTADORAS DIGITALES

CALCULO AUTOMATICO E INTELIGENCIA

Las computadoras digitales consideradas en la ltima seccin pueden ser clasificadas dentro de las maquina de estado discreto, estas son las mquinas cuyo movimiento es el salto de un estado a otro. Estos estados son lo suficientemente diferentes para que la posibilidad de confundirlos pueda ser ignorada. Estrictamente hablando no existen tales mquinas. Realmente el movimiento es continuo. Pero existen muchas clases de mquinas, las cuales pueden ser consideradas provechosamente como maquinas de estado discreto. Por ejemplo, al considerar los interruptores de un sistema luminoso, es una ficcin de conveniencia que cada interruptor deba estar en on o en off. Tiene que haber posiciones intermedias, pero para la mayora de los propsitos, podemos olvidarlas. Como ejemplo de una mquina de estado discreto, podemos considerar una rueda con dientes girando 120 por segundo, pero puede ser parada por una palanca que puede ser parada desde el exterior; adicionalmente se enciende una bombilla en una de las posiciones de la rueda. Abstractamente, esta mquina podra ser descrita de la siguiente forma. El estado interno de la mquina (que es descrito por la posicin de la rueda) puede ser q1, q2 o q3. Como seal de entrada existe i0 o i1 (posicin de la palanca). El estado interno en cualquier momento est determinada por el ltimo estado y la seal de entrada segn la tabla: ltimo estado entrada i0 i1 q1 q2 q1 q2 q3 q2 q3 q1 q3

Las seales de salida, la nica indicacin externa visible del estado interno (la luz), estn descritas por la tabla estado salida q1 o0 q2 o0 q3 o1

Este es un ejemplo tpico de una mquina de estado discreto. Las mismas se pueden describir mediante las tablas proporcionadas, y solo tiene un nmero finito de estados. Puede parecer que dado el estado inicial de la mquina y las seales de entrada siempre es posible predecir todos los futuros estados. Esto es una reminiscencia de la visin de Laplace que desde el estado completo del universo en un momento dado del tiempo, descrito por las posiciones y velocidades de todas las partculas, podra ser posible predecir todos los estados futuros. La prediccin que estamos considerando est, sin embargo, bastante ms cerca de la practicabilidad que la considerada por Laplace. El sistema del universo como un todo es tal que bastantes errores pequeos en las condiciones iniciales pueden provocar un efecto arrollador en un tiempo posterior. El desplazamiento de un sencillo electrn en una billonsima parte de centmetro en un momento puede marcar la diferencia entre que un hombre un ao ms tarde, sea atrapado por una avalancha y muera, o pueda escapar. Una propiedad esencial de los sistemas mecnicos, a los que hemos llamado mquinas de estado discreto, es que este fenmeno no ocurra. Incluso cuando consideramos las actuales mquinas fsicas en lugar de las mquinas idealizadas, un conocimiento razonablemente preciso del estado en un momento produce un conocimiento razonablemente preciso cualquier nmero de pasos ms tarde.

CALCULO AUTOMATICO E INTELIGENCIA

Como hemos mencionado, las computadoras digitales se incluyen dentro de la clase de mquinas de estado discreto. Pero el nmero de estados que tales mquinas tienen, es normalmente exageradamente grande. Por ejemplo, el nmero de estados de la mquina que actualmente est trabajando en Manchester es cerca de 2165000, es decir sobre 1050000. Comprese esto con nuestro ejemplo de la rueda dentada anterior, que tiene solo 3 estados. No es difcil ver por qu el nmero de estados es tan inmenso. La computadora incluye un almacn correspondiente al papel usado por la calculadora humana. Tiene que ser posible escribir en el almacn cualquier combinacin de los smbolos que pueden ser escritos en el papel. Por simplicidad, supngase que solo se usan como smbolos los dgitos del 0 al 9. Se ignoran las variaciones escritas a mano. Supngase que se permite a la calculadora escribir 100 pginas de papel, que contiene cada una 50 lneas con capacidad para 30 dgitos. Entonces el nmero de estados es 10100x50x30, es decir 10150000. Esto es cerca del nmero de estado de tres mquinas Manchester puestas juntas. El logaritmo en base 2 del nmero de estado, es normalmente llamado la capacidad de almacenamiento de la mquina. As la capacidad de almacenamiento de la mquina de Manchester tiene en capacidad de almacenamiento de 165000, y la maquina dentada de nuestro ejemplo tiene una capacidad de almacenamiento cercana a 1,58. Si se ponen juntas dos mquinas sus capacidades tienen que ser sumadas para obtener la capacidad de la maquina resultante. Esto conduce a la posibilidad de afirmaciones tales como La mquina de Manchester contiene 64 pistas magnticas, cada una de ellas con una capacidad de 3560, 8 tubos electrnicos con una capacidad de 1280. El almacenamiento variado tiene una capacidad de 300, haciendo una capacidad total de 174.380. Dada la tabla correspondiente a una mquina de estado discreto es posible predecir que har la mquina. No existe razn para qu este clculo no pudiera ser llevado a cabo por una computadora digital. Si se proporciona la velocidad suficiente la computadora digital podra imitar el comportamiento de cualquier maquina de estado discreto. Entonces el juego de imitacin podra jugarse con la mquina en cuestin (como B) y la computadora digital imitadora (como A) y el interrogador sera incapaz de distinguirlas. Naturalmente la computadora digital debe tener una capacidad de almacenamiento adecuada para trabajar lo suficientemente rpido. Por otra parte, debe ser programada de nuevo por cada nueva mquina que se desee imitar. Esta especial propiedad de las computadoras digitales, su capacidad de imitacin de cualquier mquina de estado discreto, se describe diciendo que son mquinas universales. La existencia de mquinas con esta propiedad tiene una consecuencia importante, consideraciones de velocidad aparte, que es innecesario disear varias nuevas mquinas para hacer varios procesos de calculo. Todos estos procesos pueden ser hechos con una nica computadora digital, programada convenientemente para cada caso. Por tanto y como consecuencia de esto todas las computadoras digitales son equivalentes. Ahora podemos considerar de nuevo el punto surgido al final del apartado 3. De forma tentativa, se sugiri que la pregunta Pueden las maquinas pensar? Podra ser reemplazada por Existen computadoras digitales imaginables que jueguen bien al juego de imitacin?. Si queremos, podemos hacer esta pregunta ms general Existen mquinas de estado discreto que jueguen bien?. Pero en vista de la propiedad de universalidad, vemos que estas preguntas son equivalentes a: Fijemos nuestra atencin en una computadora digital particular C. Es una realidad que modificando esta

CALCULO AUTOMATICO E INTELIGENCIA

computadora para tener un almacenamiento adecuado, un incremento adecuado de su velocidad, y suministrndola el programa adecuado, puede C jugar satisfactoriamente como A en el juego de imitacin, siendo ocupado el lugar de B por un hombre?. 6 VISIONES CONTRARIAS DE LA CUESTION PRINCIPAL

En este momento podemos considerar que el fondo ha sido aclarado y estamos preparados para debatir nuestra cuestin, Pueden pensar las mquinas?,y su variante que se ha presentado en el final del apartado anterior. Todava no podemos abandonar la forma original del problema, ya que pueden existir opiniones que difieran de que la sustitucin sea apropiada, y al menos tenemos que or lo que dicen sobre este tema. Creo que si explico mis propias creencias sobre el tema, se pueden simplificar las cosas. Consideremos en primer lugar la forma ms precisa de la pregunta. Creo que aproximadamente en 15 aos ser posible programar computadoras con una capacidad de almacenamiento de cerca de 109 para hacerla jugar el juego de imitacin de tal manera que el interrogador no tenga ms de 70% de oportunidad de hacer la identificacin correcta despus de 5 minutos de cuestionario. Creo que la pregunta original Pueden pensar las mquinas? es demasiado sin sentido para merecer discusin. Sin embargo creo que al final del siglo el uso de palabras y la opinin general adecuada se habrn modificado tanto que seremos capaces de hablar de mquinas pensantes sin esperar ser contradichos. Adicionalmente creo que no existe ningn propsito til en ocultar estas creencias. La visin popular de que los cientficos actan inexorablemente a partir de hechos bien establecidos para llegar a hechos bien establecidos, sin ser influenciados por conjeturas sin probar, es bastante errnea. Determinando de una manera clara cuales son los hechos probados y cuales son las conjeturas, no se pueden producir daos. Las conjeturas son de gran importancia dado que siguieren lnea tiles de investigacin. Ahora procedo a considerar opiniones opuestas a la ma. 6.1 LA OBJECION TEOLOGICA

El pensamiento es una funcin del alma inmortal del hombre. Dios ha dado un alma a cada hombre y mujer, pero no a cualquier otro animal o mquina. Por tanto los animales o las mquinas no pueden pensar. No soy capaz de aceptar ninguna parte de esta objecin, pero intentar replicarla en trminos teolgicos. Debera encontrar el argumento ms convincente si los animales fueran clasificados con los hombres, pero en mi mente existe una gran diferencia entre el tpico animado e inanimado igual que entre el hombre y otros animales. El carcter arbitrario de la visin ortodoxa se convierte en ms claro si consideramos como le puede parecer a un miembro de otra comunidad religiosa. Cmo consideran los cristianos la visin musulmana de que la mujer no tiene alma?. Pero dejemos este punto a un lado y volvamos al argumento principal. A m me parece que el argumento citado anteriormente implica una seria restriccin de la omnipotencia del Todopoderoso. Se admite que existen ciertas cosas que Dios no puede hacer, tales como hacer uno igual a dos1, pero, no deberamos creer que Dios tiene la libertad de conferir alma a un
Posiblemente esta visin es hertica. Santo Tomas de Aquino (Summa Theologica, citada por Bertrand Russell, 1, 480) afirma que Dios no puede hacer que un hombre no tenga alma. Pero esto puede no ser
1

CALCULO AUTOMATICO E INTELIGENCIA

elefante, si lo cree conveniente?. Podramos opinar que Dios solo ejercitara su poder en conjuncin con una mutacin que una vez sufrida por el elefante, este estara dotado con el cerebro mejorado de un ministro que necesite alma. Se puede hacer un argumento de exactamente forma similar para las mquinas. Puede parecer diferente dado que es ms difcil de digerir. Pero realmente esto solo significa pensamos que sera menos probable que Dios considerar las circunstancias adecuadas para conferir un alma. Las circunstancias en cuestin se discuten en el resto de este artculo. No debera ser mucho ms irreverente usurpar el poder divino al intentar construir tales mquinas que al procrear nios: somos instrumentos de la voluntad divina de obtener mansiones para las almas que Dios crea. Sin embargo, esto es una mera especulacin. No estoy muy impresionado por los argumentos teolgicos sea lo que sea lo se use para apoyarlos. En el pasado tales argumentos han sido encontrados a menudo insatisfactorios. En el tiempo de Galileo se argumentaba que los textos, Y el sol se detuvo y la luna se par, Hasta tanto que la gente se hubo vengado de sus enemigos. No est aquesto escrito en el libro de Jasher? Y el sol se par en medio del cielo, y no se apresur ponerse casi un da entero. (Josu X. 13) y Dios puso los fundamentos de la Tierra, que no deberan ser movidas en ningn tiempo (Salmo CV. 5) eran unas refutaciones adecuadas de la teora de Copernico. Con nuestro conocimiento actual tales argumentos aparecen como ftiles. Cuando este conocimiento no est disponible se tiene una impresin bastante diferente. 6.2 LA OBJECION DE ESCONDER LA CABEZA COMO EL AVESTRUZ

Las consecuencias de las mquinas pensantes seran demasiado espantosas. Esperamos y creemos que esto no pueda suceder. Raramente este argumento se expresa de una forma tan abierta como la que se da en el prrafo anterior. Pero afecta a la mayora de nosotros que piensan sobre todo ello. Queremos creer que el Hombre se encuentra en alguna delicada forma superior al resto de la creacin. Es lo mejor si se puede mostrar que es necesariamente superior, para entonces no existe peligro de perder su posicin de mando. La popularidad del argumento teolgico est claramente conectada con este sentimiento. Es probable que sea bastante fuerte para los intelectuales, dado que su valor de la potencia del pensamiento es mayor que el de otros, y estn ms inclinados a basar sus creencias en la superioridad del Hombre con esta potencia. No creo que este argumento sea lo suficientemente sustancial como para requerir refutarle. Sera ms apropiado el consuelo: quizs debera ser buscado en la trasmigracin de las almas. 6.3 LA OBJECION MATEMATICA

Existen numerosos resultados en la lgica matemtica que pueden ser usados para demostrar que existen limitaciones en la potencia de las mquinas de estado discreto. El resultado ms conocido es el Teorema de Gdel2, y demuestra que se pueden formular proposiciones en cualquier sistema lgico suficientemente potente, que no pueden ser
una restriccin real de su poder, sino solo un resultado del hecho de que el alma de los hombres es inmortal , y por tanto indestructible. 2 El nombre del autor en cursiva est referido en la bibliografa.

10

CALCULO AUTOMATICO E INTELIGENCIA

demostradas ni refutadas dentro del sistema, a menos que el sistema sea posiblemente incosistente. Otros resultados, similares en algn aspecto, son debidos a Church, Kleene, Rosser y Turing. El ltimo resultado es el ms conveniente de considerar, puesto que se refiere directamente a las mquinas, mientras que los otros solo pueden ser usados con un argumento comparativamente indirecto: por ejemplo, si se usa el Teorema de Gdel, adicionalmente se necesita tener alguna forma de describir sistemas lgicos en trminos de mquinas, y mquinas en trminos de sistemas lgicos. El resultado en cuestin se refiere a un tipo de mquina que es esencialmente una computadora digital con una capacidad infinita. El resultado afirma que existen ciertas cosas que una mquina no puede hacer. Si se improvisa al dar respuestas a las cuestiones del juego de imitacin, habr algunas preguntas a las que se dar una respuesta errnea, o fallar al dar una respuesta dado que necesitar ms tiempo del permitido para responder. Naturalmente, pueden existir muchas de tales cuestiones, y preguntas que no pueden ser contestadas satisfactoriamente por una mquina pueden ser contestadas por otra. Estamos suponiendo que las preguntas son de la clase tal que es apropiada una respuesta Si o No, en lugar de preguntas tales como Qu opinas de Picasso?. Sabemos que las mquinas fallarn en dar respuestas para esta clase de preguntas: Considerase la mquina especificada a continuacin:... Contestar esta mquina alguna vez Si a cualquier cuestin?. Los puntos sern reemplazados por la descripcin de alguna mquina de la manera standard, que podra ser algo parecido a lo usado en el apartado 5. Cuando la mquina descrita soporta una comparativamente simple relacin con la mquina que est bajo interrogatorio, se puede mostrar que la respuesta o bien es errnea o bien no estar disponible. Este el resultado matemtico: se sostiene que se demuestra una incapacidad de las mquinas a la que el intelecto humano no est sujeto. La respuesta corta a este argumento es que aunque est establecido que existen limitaciones a las potencias de cualquier mquina en particular, solo se ha afirmado, sin ningn tipo de demostracin, que tales limitaciones no son aplicables al intelecto humano. Pero no creo que esta visin pueda ser descartada tan alegremente. Cuando una de estas mquinas es preguntada con la apropiada cuestin crtica, y da una respuesta definitiva, sabemos que esta respuesta debe ser errnea, y esto nos da una cierta sensacin de superioridad. Es ilusoria esta sensacin?, No es sin duda bastante genuina, pero no creo que de le deba dar demasiada importancia. Nosotros tambin damos a menudo respuestas errneas a cuestiones que estn justificadas solo por el mero hecho de satisfacer la evidencia de fallabilidad de las mquinas. Adems, nuestra superioridad solo puede ser vista en tal ocasin con relacin a la maquina sobre la que hemos logrado nuestro insignificante triunfo. No sera cuestin de triunfar simultneamente sobre todas las mquinas. Entonces, en pocas palabras, los hombres podran ser ms inteligentes que cualquier mquina dada, pero otra vez habra otras mquinas ms inteligentes, y as sucesivamente. Aquel que mantenga el argumento matemtico, estara dispuesto, creo, a aceptar el juego de imitacin como base de la discusin. Aquel que crea en las dos objeciones previas no estara interesado probablemente en ningn criterio. 6.4 EL ARGUMENTO DEL CONOCIMIENTO

Este argumento est muy bien expresado en la obra Lister Oration for 1949 del profesor Jefferson, al cual cito literalmente.

11

CALCULO AUTOMATICO E INTELIGENCIA

Hasta que una mquina pueda escribir un soneto o componer un concierto, o sienta emociones o pensamientos, y no por azar, no podremos estar de acuerdo que la mquina es igual al cerebro- esto es, no solo escribir, sino saber lo que ha escrito. Ningn mecanismo podra sentir (y no mediante seales artificiales, una fcil estratagema) placer por sus xitos, dolor cuando sus vlvulas se fundan, ser animado por adulaciones, sentirse un miserable por sus errores, ser excitado por el sexo, estar enfadado o deprimido cuando no consigue lo que quiere.. Este argumento parece ser una refutacin de la validez de nuestro test. De acuerdo con la forma ms extrema de esta visin, la nica manera de la que se podra estar seguro de que una mquina piense es ser la mquina y sentirse as misma como pensante. Entonces estas sensaciones se podran describir al mundo, pero naturalmente nadie estara justificado por anunciarlas. Igualmente, segn esta visin la nica manera de saber que un hombre piensa es ser ese hombre en particular. Es un hecho el punto de vista solipsistaNT. Puede ser la visin ms lgica mantenerla, pero hace que se dificulte la comunicacin de ideas. Es susceptible creer A piensa pero B no, mientras B cree B piensa pero A no. En lugar de discutir continuamente sobre este punto, es normal tomar la educada convencin de que todos piensan. Estoy seguro de que el Profesor Jefferson no quiere adoptar el punto de vista extremo y solipsista. Probablemente estara bastante complaciente de aceptar el juego de imitacin como un test. El juego (Sin el jugador B) se usa frecuentemente en la practica con el nombre de viva voce para descubrir si alguien realmente ha comprendido algo que ha aprendido como un loro. Veamos una parte de tal viva voce. Interrogador: En la primera lnea de tu soneto se lee Le comparar con un da de verano No quedara mejor un da de primavera? Testigo: No seguira las reglas de la mtrica Interrogador: Y que tal un da de invierno? Esto si sigue las reglas. Testigo: Si, pero nadie quiere ser comparado con un da de invierno. Interrogador: Diras que Mr. Pickwick te recuerda la Navidad? Testigo: En cierta manera. Interrogador: Pero la Navidad es un da de invierno y no creo que a Mr. Pickwick le preocupe la comparacin. Testigo: No creo que lo digas en serio. Uno se refiere a un da de invierno como un tpico da de invierno, y no a un da especial como es la Navidad.

solipsismo Doctrina ontolgica, exageracin del idealismo subjetivo, segn la cual, puesto que la existencia de las cosas se reduce a su ser percibido, el sujeto pensante no puede afirmar ninguna existencia salvo la suya propia, ni siquiera la existencia de algn otro ser pensante que no sea una percepcin o representacin de su conciencia.

NT

12

CALCULO AUTOMATICO E INTELIGENCIA

Y as sucesivamente. Qu dira el Profesor Jefferson si la maquina escritora de sonetos fuera capaz de contestar como el testigo en el viva voce?. No s si considerara las respuestas de la mquina comoseales meramente artificiales, pero si las respuestas tan satisfactorias y prolongadas como en el pasaje anterior no creo que las describiera como una fcil estratagema. Creo que esta frase est intentando cubrir tales dispositivos con la inclusin en la mquina de un registro de alguien que est leyendo un soneto, y con la botonera adecuada que manipula de vez en cuando. En otras palabras, creo que la mayora de que los apoyan el argumento del conocimiento podran ser convencidos de abandonarlo, en lugar de ser forzados a la posicin solipsista. Probablemente aceptara usar nuestro test. No quiero dar la impresin de que creo que no hay misterio en el conocimiento. Por ejemplo, existe algo de paradjico conectado con cualquier intento de confinarlo en un rea concreta. Pero no creo que estos misterios necesiten ser resueltos antes de que se pueda contestar la pregunta de la que trata este artculo 6.5 ARGUMENTOS DE INCAPACIDADES VARIAS

Estos argumentos toman la forma: Reconozco que puedes fabricar mquinas que hagan todas las cosas que has mencionado, pero nunca sers capaz de construir una que haga X. A este respecto, se han sugerido numerosas caractersticas X. Veamos una seleccin: Ser amable, ingenioso, hermoso, amigable, tener iniciativa, sentido del humor, cometer errores, enamorarse, disfrutar con fresas con nata, hacer que alguien se enamore de l, aprender de la experiencia, usar las palabras apropiadamente, ser objeto de su propio pensamiento, tener diversidad de pensamiento como un hombre, hacer cosas innovadoras. Habitualmente no se ofrece apoyo a estas afirmaciones. Creo que estn mayoritariamente fundadas en el principio cientfico de induccin. Un hombre ve cientos de mquinas durante su vida. A partir de lo que ve, saca un nmero de conclusiones generales. Las mquinas son feas, cada una de ellas est diseada para un propsito muy limitado, cuando se les requiere para un propsito diferente son intiles, la variedad de comportamiento de cualquiera de ellas es muy pequea, etc. Por tanto el hombre termina concluyendo que stas son necesariamente las propiedades de las mquinas en general. Muchas de estas limitaciones estn asociadas con la pequea capacidad de almacenamiento de la mayora de las mquinas. (Estoy asumiendo que la idea de capacidad de almacenamiento se extiende de alguna manera para cubrir otras mquinas distintas de las de estado discreto. Su definicin exacta con precisin matemtica no es necesaria en la presente discusin). Hace algunos aos, cuando no se oa hablar de las computadoras digitales, era posible provocar ms incredulidad, si se mencionaban sus propiedades sin describir su construccin. Presumiblemente, esto era debido a una aplicacin similar del principio de induccin. Naturalmente estas aplicaciones del principio son ampliamente inconscientes. Cuando un nio quemado teme el fuego, y demuestra su temor evitndolo, yo debera decir que est aplicando la induccin cientfica (Naturalmente tambin podra describir su comportamiento de otras formas). Los trabajos y costumbres de la humanidad no parecen ser un material muy apropiado para aplicar la induccin cientfica. Una gran parte del espacio-tiempo tiene

13

CALCULO AUTOMATICO E INTELIGENCIA

que ser investigada, si se desean obtener resultados fiables. De manera distinta (y la mayora de los chicos ingleses lo hacen) podramos decidir que todo el mundo habla ingls, y que es estpido aprender francs. Sin embargo, existen comentarios especiales a hacer sobre muchas de las incapacidades que han sido mencionadas. La incapacidad de disfrutar con fresas con nata puede haber parecido al lector frvola. Es probable que se pueda construir una mquina que disfrute con este plato, pero cualquier intento de construirla sera idiota. Lo que es importante de esta incapacidad es que contribuye de cierta manera con algunas de las otras incapacidades, es decir tiene una dificultad de la misma clase que la amistad entre un hombre y una mquina como entre un hombre blanco y un hombre blanco, o entre un hombre negro y un hombre negro. La afirmacin las mquinas no pueden cometer errores es muy curiosa. Uno puede estar tentado a responder: Existe algo peor que esto?. Pero adoptemos una actitud ms compresiva, e intentemos ver que significa realmente. Creo que esta crtica se puede explicar en trminos del juego de imitacin. Se afirma que el interrogador podra distinguir la mquina del hombre enunciando simplemente algunos problemas aritmticos. La mquina sera desenmascara por su precisin mortal. La respuesta a esto es simple. La mquina (programada para jugar el juego) no intentara dar las respuestas correctas a los problemas aritmticos. Introducira deliberadamente errores de una forma calculada para confundir al interrogador. Un fallo mecnico probablemente mostrara una decisin no adecuada como un error aritmtico. Incluso esta interpretacin de la crtica no es suficientemente favorable. Pero no podemos costear el espacio para mucho ms. Creo que esta crtica depende de la confusin entre dos clases de errores. Podemos llamarlos errores de funcionamiento y errores de conclusin. Los errores de funcionamiento son debidos a fallos mecnicos o elctricos que causan que la mquina se comporte de manera distinta a la que fue diseada. Es deseable en discusiones filosficas ignorar la posibilidad de tales errores; adems se tratan mquinas abstractas. Estas mquinas abstractas son ficciones matemticas en lugar de objetos fsicos. Por definicin son incapaces de cometer errores de funcionamiento. En este sentido, se puede decir con veracidad que las mquinas nunca comenten errores. Los errores de conclusin solo pueden surgir cuando alguna clase de significado se adjunta a la seal de salida de la mquina. Por ejemplo, la maquina puede escribir ecuaciones matemticas, o frases en ingls. Cuando se escribe una proposicin falsa, decimos que la mquina ha cometido un error de conclusin. Claramente no existe ninguna razn para decir que una maquina no puede cometer esta clase de errores. La mquina puede no hacer nada, excepto escribir 0 = 1. Para tomar un ejemplo menos perverso, la maquina podra tener algn mtodo para extraer conclusiones por induccin cientfica. Tenemos que esperar que tal mtodo conduzca ocasionalmente a cometer resultados errneos. La afirmacin de que una mquina no puede ser el objeto de su propio pensamiento, naturalmente solo puede ser expuesta si se puede demostrar que la mquina tiene algn pensamiento con algn tema objeto. Sin embargo, el tema objeto de las operaciones de una mquina parece significar algo, al menos para la gente que lo trata. Si, por ejemplo, la mquina estuviese tratando de encontrar una solucin de la ecuacin x2 40x 11 = 0, alguien estara tentado a describir esta ecuacin como parte de tema objeto de la mquina en este momento. Indudablemente, en esta clase de sentido una mquina puede ser su propio tema objeto. Puede ser usada para ayudar a hacer sus

14

CALCULO AUTOMATICO E INTELIGENCIA

propios programas, o predecir el efecto de alteraciones en su propia estructura. Observando los resultados de su propio comportamiento, puede modificar sus propios programas para as lograr algn propsito ms efectivo. Existen posibilidades en el futuro prximo, y no sueos utpicos. La crtica de que una mquina no puede tener mucha diversidad de comportamiento, es justamente una manera de decir que no tiene mucha capacidad de almacenamiento. Hasta recientemente una capacidad de almacenamiento de incluso miles de dgitos era muy rara. Las crticas que estamos considerando a menudo son formas disfrazadas del argumento del conocimiento. Normalmente, si alguien mantiene que una mquina puede hacer una de estas cosas y describe la clase de mtodo que la mquina puede usar, no hara mucho ms que una imitacin. Se cree que el mtodo (si puede ser, tiene que ser mecnico) es realmente bastante bsico. Comprese con el parntesis de la afirmacin de Jefferson citada anteriormente. 6.6 LA OBJECION DE LADY LOVELACE

La informacin ms detallada de la Mquina Analtica de Babbage se encuentra en las memorias de Lady Lovelace. En estas, la condesa afirma La Mquina Analtica no tiene pretensiones de originar nada. La mquina hace lo que sabemos ordenarle que haga. Esta afirmacin es citada por Hartree, que aade: Esto no implica que no sea posible construir un equipo electrnico que piense por si mismo, o en el que, en trminos biolgicos, alguien pueda establecer un reflejo condicionado, que servir como base de aprendizaje. En principio si esto es o no posible es una cuestin excitante y estimulante, sugerida por algunos de estos desarrollo recientes. Pero no parece que las mquinas construidas o proyectadas en el tiempo tengan esta propiedad. Estoy totalmente de acuerdo con Hartree sobre este tema. Se puede ver que no afirma que la mquina en cuestin no tenga la propiedad, sino que la evidencia disponible por Lady Lovelace no la anim a cree que la tuvieran. Es bastante posible que las mquinas en cuestin tuvieran en cierta manera esta propiedad. Para suponer que alguna mquina de estado discreto tenga esta propiedad, la Mquina Analtica debe ser una computadora digital universal, y as, si su capacidad de almacenamiento y velocidad fueran adecuadas, podra ser convenientemente programada para que imite la mquina en cuestin. Probablemente este argumento no se le ocurri ni a la Condesa ni a Babbage. En cualquier caso no exista la obligacin de decir todo lo poda ser dicho. Esta cuestin ser nuevamente considerada bajo la cabecera de mquinas aprendices. Una variacin de la objecin de Lady Lovelace afirma que una mquina nunca puede hacer algo realmente nuevo. Esto puede ser detenido momentneamente con el dicho No hay nada nuevo bajo el sol. Quien puede decir que el trabajo original que ha hecho no es simplemente el crecimiento de una semilla que se le ha implantado mediante la enseanza, o el efecto de seguir los principios generales bien conocidos. Una variante mejor de la objecin dice que una mquina nunca puede sorprendernos. Esta afirmacin es un desafo ms directo y puede ser satisfecho directamente. Las mquinas me sorprenden con gran frecuencia. Esto se debe principalmente a que no calculo lo suficiente para decidir lo que espero de ellas, o mejor dicho, aunque hago un

15

CALCULO AUTOMATICO E INTELIGENCIA

clculo, lo hago de una manera apresurada y descuidada, arriesgando. Quizs me diga a mismo: Supongo que el voltaje en este punto debe ser el mismo que el otro punto: de cualquier forma lo asumir. Naturalmente, a menudo estoy equivocado, y el resultado es para mi una sorpresa cuando se realiza el experimento y se olvidan las asunciones. Estas admisiones me abren a reprimendas sobre mis vicios, pero no arrojan ninguna duda sobre mi credibilidad cuando testifico sobre las sorpresas que experimento. No espero esta replica para acallar a mi crtico. Probablemente dir que tales sorpresas son debidas a algn acto mental creativo por mi parte, y no refleja reconocimiento de la mquina. Esto nos vuelve a encaminar al argumento del conocimiento, y lejos de la idea de sorpresa. Es una lnea de argumento que debemos considerar cerrada, pero quizs es valioso remarcar que la apreciacin de algo como una sorpresa requiere un acto creativo mental mayor si el evento sorprendente se origina en un hombre, un libro, una mquina o cualquier otra cosa. La visin de que las mquinas no pueden sorprendernos es debida, creo, a una falacia a la que los filsofos y matemticos estn particularmente sujetos. Esta es la asuncin de que tan pronto como se presenta a la mente un hecho, todas las consecuencias de este hecho aparecen en la mente simultneamente con el hecho. Bajo muchas circunstancias es una asuncin muy til, pero se olvida fcilmente que es falsa. Una consecuencia natural de hacer esto es que se asume que no existe ninguna virtud en la mera obtencin de consecuencias a partir de los datos y los principios generales. 6.7 ARGUMENTO DE LA CONTINUIDAD EN EL SISTEMA NERVIOSO

Ciertamente el sistema nervios no es una mquina de estado discreto. Un pequeo error en la informacin sobre el tamao de un impulso nervioso incidente en una neurona, puede provocar una gran diferencia en el tamao del impulso saliente. Se puede argumentar que, siendo esto verdad, nadie puede ser capaz de imitar el comportamiento del sistema nervioso con una mquina de estado discreto. Es verdad que una mquina de estado discreto tiene que ser diferente de una mquina continua. Pero si cumplimos las condiciones del juego de imitacin, el interrogador no ser capaz de aprovecharse de esta diferencia. La situacin puede ser aclarada si consideramos otra mquina continua ms simple. Un analizador diferencial puede ser el ejemplo (Un analizador diferencial es una clase de mquina que no es del tipo de estado discreto y que se usa en ciertas clases de clculos). Algunas de estas proporcionan sus respuestas de una forma escrita, y por tanto son adecuadas para tomar parte en el juego. Para una computadora digital no sera posible predecir exactamente las respuestas que el analizador diferencial dara a un problema, pero sera bastante capaz de dar la clase correcta de respuestas. Por ejemplo, si se le pide que de el valor de pi (3,1416), sera razonable elegir aleatoriamente entre los valores 3,12 3,13 3,14 3,15 3,16 con las probabilidades de 0,05 0,15, 0,55, 0,19 0,06. Bajo estas circunstancias sera muy difcil para el interrogador distinguir entre el analizador diferencial y la computadora digital. 6.8 EL ARGUMENTO DE LA INFORMALIDAD DEL COMPORTAMIENTO

No es posible producir un conjunto de reglas que pretendan describir lo que un hombre puede hacer en cada conjunto concebible de circunstancias. Por ejemplo, se podra tener una regla que detenga a alguien cuando ve un semforo en rojo, y le haga continuar si

16

CALCULO AUTOMATICO E INTELIGENCIA

ve el semforo verde, pero y si algo falla y aparecen los dos colores simultneamente?. Quizs alguien puede decidir que es ms seguro detenerse. Pero de esta decisin puede surgir alguna dificultad adicional ms tarde. El intento de proveer de reglas de conducta para cubrir cada eventualidad, incluso aquellas que surgen de los semforos, parece imposible. Estoy de acuerdo con esto. A partir de esto se argumenta que no podemos ser mquinas. Intentar reproducir el argumento, pero temo que har justicia. Parece ser algo como esto. Si cada hombre tiene un conjunto definido de reglas de conducta que regula su vida no sera mejor que una mquina. Pero tales reglas no existen, por tanto los hombre no pueden ser mquinas. El undistributed medio es resplandeciente. No creo que el argumento sea expuesto de esta manera, pero creo que sin embargo es el argumento usado. Sin embargo puede existir cierta confusin entre reglas de conducta y leyes de comportamiento que ocultan el problema. Por reglas de conducta entiendo preceptos tales como Parar si se ve una luz roja, con los que se acta, y con los que se puede ser consciente. Por leyes de comportamiento entiendo leyes de la naturaleza que se aplican al cuerpo de un hombre, tal como Si le pellizcas chilla. Si sustituimos leyes de comportamiento que regulan su vida por leyes de conducta que regulan su vida en el argumento citado, el undistributed medio no es ms insuperable. Para creer que no es solo verdad que el ser regulado por leyes de comportamiento implica ser alguna clase de mquina (no necesariamente una mquina de estado discreto), pero a la inversa ser tal mquina implica ser regulado por tales leyes. Sin embargo, no podemos convencernos a nosotros mismos fcilmente de la ausencia de conjuntos completos de leyes de comportamiento como conjuntos completos de reglas de conducta. La nica manera que conocemos para encontrar tales leyes es la observacin cientfica, y sabemos con certeza que no existen circunstancias bajo las cuales se pueda decir: Hemos buscado lo suficiente. No existen tales leyes. Podemos demostrar ms convincentemente que tal afirmacin sera injustificable. Supngase que estuviramos seguros de encontrar tales leyes si existieran. Entonces dada una mquina de estado discreto ciertamente sera posible descubrir por observacin suficiente algo acerca de la prediccin de su comportamiento futuro en un tiempo razonable, por ejemplo cien aos. Pero esto no parece ser el caso. He programado el computador de Manchester con un pequeo programa usando solo 1000 unidades de almacenamiento, por el que si a la mquina se la proporciona un numero de 106 cifras, la maquina contesta con otra en dos segundos. Desafiara a cualquiera que aprenda de estas contestaciones lo suficiente del programa para que sea capaz de predecir cualquier respuesta a valores no probados. 6.9 EL ARGUMENTO DE LA PERCEPCION EXTRASENSORIAL

Por parte del autor se asume que el lector est familiarizado con la idea de percepcin extrasensorial, y el significado de cuatro capacidades relacionadas con ella, a saber: telepata, clarividencia, precognicin y psicokinesia. Estos inquietantes fenmenos parecen negar todas nuestra ideas cientficas. Cmo nos gustara desacreditarlos! Desgraciadamente la evidencia estadstica, al menos para la telepata, es aplastante. Es muy difcil recolocar las ideas propias para contemplar estos hechos. Una vez que son aceptadas no parece que sea un paso muy grande creer en fantasmas y duendes. La idea de que nuestros cuerpos se mueven simplemente de acuerdo con el conocimiento de las

17

CALCULO AUTOMATICO E INTELIGENCIA

leyes de la fsica, junto con algunas otros an no descubiertas pero de alguna manera similares, sera uno de los primeros a dar. Para m, este argumento es bastante fuerte. Se puede replicar que muchas teoras cientficas parecen permanecer factibles en la prctica, a pesar de estar en conflicto con la percepcin extrasensorial; es un hecho que uno puede arreglrselas bastante bien si se las olvida. Esto es bastante confortable, y alguien puede temer que el pensamiento es justo la clase de fenmeno con el que la percepcin extrasensorial puede ser especialmente relevante. Un argumento ms especifico basado en la percepcin extrasensorial puede ser: Juguemos al juego de imitacin, usando como testigos un hombre que es bueno como receptor teleptico y un ordenador digital. El interrogador puede hacer preguntas tales como A qu palo de la baraja pertenece la carta de mi mano derecha?. El hombre, bien por telepata o por clarividencia, da la respuesta acertada 130 veces de 400 cartas. La mquina solo puede acertarlo aleatoriamente, y quizs obtiene 104 aciertos, de tal manera que el interrogador realiza la identificacin correcta. Aqu se abre una posibilidad interesante. Supongamos que el ordenador digital contiene un generador de nmeros aleatorios. Ser natural usarlo para decidir que respuesta dar. Pero el generador de nmeros aleatorios ser manipulado por la potencia psicocintica del interrogador. Esta psicokinesia quizs puede causar que la mquina adivine correctamente ms a menudo que se podra ser esperado por el clculo de probabilidades, de esta manera el interrogador podra no ser capaz de hacer la identificacin correcta. Por otra parte, podra ser capaz de adivinar correctamente sin preguntar, por clarividencia. Con al percepcin extrasensorial cualquier cosa puede pasar. Si se admite la telepata ser necesario intensificar nuestro test. La situacin podra ser considerada como anloga a lo que ocurrira si el interrogador estuviera hablndose consigo mismo y uno de los competidores estuviera oyndole con la oreja pegada a la pared. El poner a los competidores en una sala a prueba de telepata satisfacera todos los requerimientos. 7 MAQUINAS QUE APRENDEN

El lector habr anticipado que no tengo argumentos muy convincentes de una naturaleza positiva que apoyen mis visiones. Si los tuviera no debera haber hecho tales esfuerzos para sealar las falacias de las visiones contrarias. Tengo tal evidencia y ahora deber exponerla. Volvamos por un momento a la objecin de Lady Lovelace, que afirma que la mquina solo puede hacer lo que se le dice. Se podra de decir que un hombre puede inyectar un a idea en la mquina, y esto responder a cierta extensin y caer en quiescence, como el golpear un piano con un martillo. Otro smil sera una pila atmica de un tamao menor a la masa crtica: una idea inyectada corresponde a un neutrn que entra en la pila desde el exterior. Tal electrn causar cierta alteracin que termina desvanecindose. Sin embargo, si se incrementa suficientemente el tamao de la pila, la alteracin causada por el neutrn entrante muy probablemente ira incrementndose hasta que la totalidad de la pila sea destruida. Existen fenmenos correspondientes para las mentes, y existe alguno de ellos para las maquinas?. No parece que exista ninguno

18

CALCULO AUTOMATICO E INTELIGENCIA

para la mente humana. La mayora de ellos parecen ser subcrticos, es decir corresponden en nuestra analoga a pilas de masa subcrtica. Una idea presentada como tal a una mente generar de media al menos una idea como respuesta. Una proporcin muy pequea son supercrticas. Una idea presentada como tal a una mente puede generar una teora completa consistente en ideas secundarias, terciarias o incluso ms remotas. La mente animal definitivamente parece ser muy subcrtica. Conforme a esta analoga, pregunto Puede ser construida una mquina como supercrtica?. La analoga de la piel de una cebolla tambin es til. Al considerar las funciones de la mente o del cerebro encontramos ciertas operaciones que pueden ser expresadas en trminos puramente mecnicos. Esto que decimos no se corresponde con la mente real: es un tipo de piel que debemos desprender y encontraremos la mente real. Pero en lo que queda encontramos una piel adicional que debe ser desprendida, y as sucesivamente. Procediendo de esta manera, alguna vez llegaremos a la mente real o bien terminaremos alcanzando una piel detrs de la cual no hay nada?. Si se cumple este ltimo caso, la totalidad de la mente es mecnica. (Sin embargo no sera un mquina de estado discreto. Ya hemos discutido sobre este tema). Estos dos ltimos prrafos no reclaman ser argumentos convincentes. Ms bien deberan ser descritos como enumeraciones tendentes a producir creencias. La nica ayuda realmente satisfactoria que puede ser prestada para la visin expresada al principio del apartado 6, ser la que sea proporcionada esperando hasta el final de siglo XX y se realice el experimento descrito. Pero qu podemos decir mientras tanto?. Qu pasos deberamos dar ahora si el experimento es satisfactorio?. Como he explicado, el problema es principalmente de programacin. Tambin se deben hacer avances en ingeniera, pero desgraciadamente parece que estos no se adecuaran a los requerimientos. Las estimaciones de la capacidad de almacenamiento del cerebro varan de 1010 a 1015 dgitos binarios. Yo me inclino por el valor menor y creo que solo una muy pequea fraccin es usada por los ms altos tipos de pensamientos. La mayora del almacenamiento probablemente es usado para la retencin de impresiones visuales. Debera sorprenderme si se necesita ms de 109 para jugar satisfactoriamente al juego de imitacin, y cualquier tasa contra un hombre ciego. (La capacidad de la 11th edicin de la Encyclopaedia Britnica es de 2 x 109). Una capacidad de almacenamiento de 107 debera ser una posibilidad muy practicable incluso con las tcnica presentes. Probablemente no sea necesario incrementar la velocidad de operaciones de las mquinas. Parte de la mquinas modernas pueden ser consideradas como anlogas a clulas nerviosas que trabajan cientos de veces ms rpidas que las anteriores. Esto debera proporcionar un margen de seguridad que podra cubrir perdidas de velocidad creciente de varia maneras. Entonces nuestro problema es encontrar como programar estas mquinas para jugar el juego. Con mi presente velocidad de trabajo, produzco cerca de un ciento de dgitos de programa al da, por tanto 60 trabajadores, trabajando a un ritmo constante durante 50 aos debera cumplir el trabajo, si nada va a la papelera. Parecen deseables algunos mtodos ms expeditivos.

19

CALCULO AUTOMATICO E INTELIGENCIA

En este proceso de probar a imitar la mente de un humano adulto estamos destinados a pensar en un buen trato sobre el proceso que ha seguido hasta conseguir el estado en que se encuentra. Podemos ver tres componentes: a) El estado inicial de la mente, es decir el nacimiento b) La educacin a la que ha sido sometido c) Otros procesos, no descritos como educacin, a los que ha sido sometido. En lugar de probar a producir un programa que simule una mente adulta, por qu no mejor probar a producir algo que simule la de un nio?. Si entonces fuese sometida a un curso apropiado de educacin, se podra obtener un cerebro adulto. Presumiblemente un cerebro infantil es algo parecido a una libreta que se puede comprar en una papelera. Muy poco mecanismo, y muchas hojas en blanco. (Mecanismo y escritura son desde nuestro punto de vista casi sinnimos). Nuestra esperanza es que exista tan poco mecanismo en el cerebro infantil que pueda ser programado fcilmente. La cantidad de trabajo que podemos asumir en le proceso de educacin, como primera aproximacin, es la misma que para el nio humano. De este modo hemos dividido nuestro problema en dos partes. El programa infantil y el proceso de educacin. Estas dos partes estn muy conectadas. No podemos esperar encontrar una buena mquina-nio al primer intento. Se debe experimentar enseando a tal mquina y ver como aprende. Se puede probar con otra y ver si es mejor o peor. Existe una conexin obvia entre este proceso y la evolucin, identificando Estructura de la mquina-nio = Material hereditario Cambios de la mquina nio = Mutaciones Juicio del experimentador = Seleccin natural Sin embargo, se puede tener la esperanza de que este proceso sea ms expeditivo que la evolucin. La supervivencia del ms adecuado es un mtodo lento de medir avances. El experimentador, con el ejercicio de su inteligencia, debera ser capaz de acelerarlo. Igualmente importante es el hecho de que no esta sometido a mutaciones aleatorias. Si podemos determinar la causa de algunas debilidades, probablemente podremos pensar en la clase de mutacin que las mejore. No es posible aplicar exactamente el mismo proceso de enseanza de un nio humano que a una mquina. Por ejemplo, la mquina no esta provista de piernas, por tanto no se le puede pedir que vaya y rellene la carbonera. Posiblemente no tendr ojos. Sin embargo estas deficiencias podran ser vencidas con ingeniera inteligente, no se podra enviar la criatura a la escuela con el otro nio haciendo excesivas bromas. Se le debe dar algunas clases privadas. No necesitamos preocuparnos demasiado sobre las piernas, los ojos, etc. El ejemplo de Miss Hellen Keller muestra que esta educacin puede tener lugar suministrando la comunicacin entre profesor y alumno que tiene lugar de una manera o otra. Normalmente se asocia el premio y el castigo con el proceso de enseanza. Se pueden construir o programar con este principio algunas mquinas-nio. La mquina tiene que ser construida de tal manera que los eventos que preceden inmediatamente a la ocurrencia de una seal de castigo no sean repetidos, y que la seal de premio aumente

20

CALCULO AUTOMATICO E INTELIGENCIA

la probabilidad de repeticin de los eventos previos. Estas definiciones no presuponen sensaciones de la mquina. He hecho algunos experimentos con esta clase de mquinasnio, y han aprendido satisfactoriamente unas pocas cosas, pero el mtodo de enseanza era demasiado heterodoxo para que el experimento sea considerado realmente como satisfactorio. El uso de premios y castigos puede ser parte del proceso de enseanza. Hablando de una manera coloquial, si el profesor no tiene otros medios de comunicarse con el alumno, la cantidad de informacin que el alumno recibe no excede del nmero total de premios y castigos aplicados. Durante el tiempo en que un nio aprende a repetir Casablanca probablemente se sienta efectivamente enfadado, si el texto pudiera ser solo descubierto por una tcnica de veinte cuestiones, cada NO toma la forma de un golpe. Adems es necesario tener algn tipo de canal no-emocional de comunicacin. Si estos estn disponibles es posible ensear mediante premios y castigos a una mquina a obedecer ordenes dadas en algn lenguaje, por ejemplo un lenguaje simblico. Estas ordenes son trasmitidas a travs de canales no-emocionales. El uso de este lenguaje reduce en una gran medida el nmero de premios y castigos requeridos. Existen varias opiniones que hacen variar la complejidad adecuada a la mquina-nio. Se podra probar a hacerla tan simple como sea posible pero consistente con los principios generales. Alternativamente se podra tener un sistema completo de inferencia lgica incorporado3. En el ltimo caso el almacenamiento estara ocupado principalmente con definiciones y proposiciones. Las proposiciones tendran varias clases de estado, por ejemplo, hechos establecidos, conjeturas, teoremas matemticamente demostrados, afirmaciones dadas por la autoridad, expresiones con forma lgica pero sin un valor de creencia. Ciertas proposiciones pueden ser descritas como imperativas. La mquina debera ser construida de tal manera que tan pronto como una imperativa sea clasificada con establecida tenga lugar automticamente la accin apropiada. Para ilustrar esto, supngase que el profesor dice a la maquina Haz tus deberes ahora. Esto puede causar que Profesor dice haz tus deberes ahora sea incluida entre los hechos establecidos. Otro hecho de esta clase puede ser Todo lo que el profesor dice es verdad. La combinacin de estas dos proposiciones conduce con el tiempo a que la imperativa Haz tus deberes ahora sea incluida entre los hechos establecidos, y esto, por la construccin de la mquina, signifique que se comiencen a hacer los deberes, y el efecto es altamente satisfactorio. El proceso de inferencia usado por la mquina no necesita que satisfaga a los lgicos ms exactos. Por ejemplo, no podra ser una jerarqua de tipos. Pero esta necesidad no significa que el tipo falacias ocurra cualquier vez que estemos abocados a caer por un acantilado. Las imperativas adecuadas (expresadas dentro de los sistemas, no formando parte de las reglas de los sistemas) tales como No usar una clase a menos que sea una subclase de una que haya sido mencionada por el profesor puede tener un efecto similar a No acercarse al borde. Las imperativas que pueden ser obedecidas por una mquina sin miembros estn destinadas a ser de carcter intelectual, como en el ejemplo anterior (Hacer los deberes). Entre tales imperativas son importantes aquellas que regulan el orden en el que las reglas del sistema lgico son aplicadas en cada estado en el que se usa el sistema, existe una gran cantidad de pasos alternativos, cada uno de los cuales est permitido aplicar,
O mejor dicho programado para nuestra mquina-nio que ser programada en un ordenador digital. Pero el sistema lgico no tiene que aprender.
3

21

CALCULO AUTOMATICO E INTELIGENCIA

en lo que se refiere a la obediencia a las reglas del sistema lgico. Estas elecciones marcan la diferencia entre un pensador brillante y uno trivial, no la diferencia entre uno sensato y uno engaoso. Proposiciones conducentes a imperativas de esta clase pueden ser Cuando Scrates es citado, se usa el silogismo en Brbara o Si se ha probado que un mtodo es ms rpido que otro, no usar el mtodo ms lento. Algunas de estas imperativas pueden ser dadas por la autoridad, pero otras pueden ser producidas por la propia mquina, por ejemplo por induccin cientfica. La idea de mquina que aprende puede parecer paradjica a algunos lectores. Cmo pueden cambiar las reglas de operacin de la mquina?. Estas deberan describir completamente como la mquina reaccionar cualquiera que sea su historia, cualquiera que sean los cambios sufridos. Por tanto las reglas son bastante invariantes con el tiempo. Esto es bastante verdad. La explicacin de la paradoja es que la reglas que son cambiadas en el proceso de aprendizaje son de una clase bastante menos pretenciosa, reclamando solo una validez efmera. El lector puede trazar un paralelo con la Constitucin de los Estados Unidos. Una caracterstica importante de las maquinas que aprenden es que a menudo su profesor es bastante ignorante de lo que sucede en su interior, aunque puede ser capaz de predecir el comportamiento de su alumno. Esto se debera aplicar ms duramente en la ltima educacin de una mquina que pasa de una mquina-nio a una mquina de diseo (o de programa) bien probado. Esto est en claro contraste con el procedimiento normal que se usa con mquinas que hacen clculos: el objetivo es tener un clara imagen metal del estado de la mquina en cada momento del clculo. Este objetivo solo puede ser logrado con resistencia. La visin la mquina solo puede hacer lo que sabemos ordenarle que haga4 parece extraa de cara a esto. La mayora de los programas que podemos poner en la mquina resultarn en ellos haciendo algo que puede no tener sentido, o que consideramos como un comportamiento completamente aleatorio. La inteligencia aleatoria presumiblemente consiste en un viaje saliendo del comportamiento completamente disciplinado del proceso de clculo, pero bastante ligero, que no da origen a un comportamiento aleatorio, o bucles repetitivos sin sentido. Otro importante resultado de preparar nuestra mquina para su parte en el juego de imitacin mediante un proceso de enseanza y aprendizaje es que la fallabilidad humana es omitida probablemente de un manera bastante natural, es decir sin un entrenamiento especial. Los procesos que son aprendidos no producen un 100% de certeza; si lo hicieran podran no ser no aprendidos. Probablemente sea inteligente incluir un elemento aleatorio en una quina que aprenda. Un elemento aleatorio es bastante til cuando se busca un solucin a un problema. Por ejemplo, supngase que queremos encontrar un nmero entre 50 y 200 que sea igual al cuadrado de la suma de sus dgitos, podemos empezar probando con 51, 52 y as sucesivamente hasta dar con el nmero deseado. Como alternativa, podemos elegir nmeros de manera aleatoria hasta encontrar uno que cumpla la condicin. Este mtodo tiene la ventaja de que no es necesario controlar los valores que han sido probados, pero tiene la desventaja de que algn valor puede ser probado ms de una vez, pero esto no es muy importante si existen varias soluciones. El mtodo sistemtico tiene la desventaja de que puede existir un gran bloque sin solucin en la regin en la que se ha investigado primero. En este momento el proceso de aprendizaje puede ser considerado
4

Se puede comparar con al afirmacin de Lady Lovelace que no contiene la palabra solo.

22

CALCULO AUTOMATICO E INTELIGENCIA

como una bsqueda de una forma de comportamiento que satisfaga al profesor (o algn otro criterio). Dado que probablemente existe un gran nmero de soluciones satisfactorias el mtodo aleatorio parece ser mejor que el sistemtico. Me veo en la obligacin de remarcar que este mtodo se usa de una manera anloga en el proceso de evolucin. Sin embargo aqu el mtodo sistemtico no es posible. Cmo podramos control las diferentes combinaciones genticas que han sido probadas, y as evitar que se vuelvan a repetir?. Podramos tener la esperanza de que estas mquinas terminen compitiendo con los hombres en campos puramente intelectuales. Pero cuales son los mejores campos para comenzar?. Incluso sta es una difcil solucin. Mucha gente piensa que la mejor sera una actividad abstracta, como el juego de ajedrez. Tambin se puede mantener que es mejor proveer a la mquina con los mejores rganos que se puedan comprar con dinero, y ensearla a que comprenda u hable ingls. Este proceso podra seguir el proceso normal de enseanza de un nio. Las cosas podran ser sealada, nombradas, etc. De nuevo no s cul sera la respuesta correcta, pero creo que ambas aproximaciones deberan ser probadas. Solo podemos ver una corta distancia delante de nosotros, pero podemos ver plenamente las necesidades a cubrir. 8 BIBLIOGRAFIA

Samuel Butler, Erewhon, Londres, 1865. Captulos 28, 24 25, The Book of the Machines. Alonzo Church, An Unsolvable Problem of Elementary Number Theory American Journal Of Mathematic, 58 (1936), 345-363. K. Gdel, ber formal unentscheidbare Stze der Principia Mathematica und verwandter Systeme, I, Monatshefte fr Math. Und Phys., (1931), 173-189. D. R. Hartree, Calculating Instruments and Machines, New York, 1949. S. C. Kleene, General Recursive Functions of Natural Numbers, American Journal Of Mathematic, 57 (1935), 153-173 y 219-244. G. Jefferson, The Mind d Mechanical Man, Lister Oration for 1949 Brittish Medical Journal, vol I (1949), 1105-1121. Condesa de Lovelace, Translators notes to an article on Babbages Analytical Engine Scientific Memoir (ed. Por R. Taylor), vol 3 (1842), 691-731. Bertrand Russell, History of Western Philosophy, Londres 1940. A. M. Turing, On Computable Numbers, with an Application Entscheidungsproblem Proc London Math. Soc. (2), 42 (1937), 230-265. to the

23