PETER BENTLEY | DIRECTOR TECNOLÓGICO DE BRAINTREE 1

“La inteligencia artificial no va a adquirir consciencia de la noche a la mañana”

La inteligencia de una hipotética inteligencia artificial no podría aumentar si no estuviese
rodeada de continuas amenazas de muerte, algo que no creo que podamos hacer posible

El doctor Bentley trata de entender el fenómeno de la vida a través de la construcción

de robots y 'software' inteligente
Compartir en Facebook Compartir en Twitter
28 JUL 2017 - 12:09 CEST

El doctor Peter
Bentley, informático y 'gurú' de Inteligencia Artificial. Alvaro García

Alto, de ojos fríos y voz cálida, el británico Peter Bentley (1972) se licenció en Ciencias de la
Computación y se especializó en Inteligencia Artificial, aunque él prefiere decir que se dedica a
investigar accidentes; accidentes como la evolución o el desarrollo de la inteligencia. ¿Cuál es
el método más sencillo para investigarlos? "Reproducirlos", responde. Reproducir la evolución
y reproducir la inteligencia a través de robots y de software inteligente. "Creo que es la mejor
manera de entendernos a nosotros mismos, de entender nuestro mundo", explica.

MÁS INFORMACIÓN

 Un científico español enseña a robots a reconocerse a sí mismos

 Fusionar mente y máquina: ¿de verdad estamos cerca?

1 El País, julio 17 2017

Actualmente, Bentley ejerce como profesor en la University College de Londres, y como
director tecnológico de Braintree, una empresa británica dedicada al desarrollo de programas de
inteligencia artificial. También es miembro del All-party Parliamentary Groups (APPG), un foro
de miembros de la Cámara de los Comunes y la Cámara de los Lores que se encarga de
promover el desarrollo de la Cuarta Revolución Industrial. Su paso por España se debe a la
alianza que Braintree ha formado con la empresa MedLab Media Group: Bentley asesorará a
MedLab para crear una base de datos indexada y apoyada por un software de inteligencia
artificial. Y aunque su paso por nuestro país no sea accidental, tal vez gran parte de sus
pensamientos lo sean.

Pregunta. ¿Qué le hizo optar por especializarse en inteligencia artificial?

Respuesta. Mi padre era ingeniero mecánico. Cuando era un niño, creía que yo también iba a
serlo, pero al ir creciendo, me di cuenta de que la ingeniería mecánica no era tan popular y de
que, conforme pasaba el tiempo, los ordenadores y los robots se iban volviendo cada vez más
populares. Así que empecé a construir robots y a programar ordenadores con ocho o nueve años.
Pero durante mi niñez, también me sentí fascinado por la biología. Recuerdo que me preguntaba
cosas como: "¿por qué los sistemas biológicos se comportan de la forma en la que lo hacen?
¿por qué una colonia de hormigas se comporta de una manera determinada? ¿cómo procesa el
cerebro humano la información que recibe?". Cuando era un adolescente, antes incluso de ir a la
universidad, escribía programas informáticos bastante raros para intentar entender estos
comportamientos. Tal vez se deba a que mi padre es ingeniero, tal vez tengo un modus operandi
incorporado de "construir para entender", al igual que un ordenador.
P. Y después ha dedicado toda su vida a entender cómo funcionan los sistemas biológicos.
Entonces... no hubo un momento climático, ¿verdad? Su decisión fue natural.
R. Sí, pero también he querido convertir ese conocimiento en algoritmos que solucionen
problemas para nosotros: es decir, haciendo robots. Robots que entiendan cómo se producen los
fraudes al seguro, o que descubran intrusiones en la red. Todo esto viene directamente desde la
biología.
P. En ese sentido, podría decirse que su propósito final es tratar de entendernos a nosotros
mismos, tratar de entender nuestro mundo a través de la reproducción.
Lo sorprendente es que casi cualquier solución de ingeniería que hemos creído inventar ya
existía en algún organismo biológico, incluso la programación. En nuestro ADN, hay
elementos ocultos parecidos a las subrutinas

R. Creo que sí. Me fascina mucho el proceso evolutivo: de hecho, fue el objeto de estudio de mi
posdoctorado. Para mí, el milagro de la vida se resume en cómo unas estructuras biológicas tan
complejas como las de nuestro mundo han podido evolucionar a lo largo de 3,6 - 3,7 billones de
años. Lo sorprendente es que cuanto más investigas ves que casi cualquier solución de
ingeniería que hemos creído inventar ya existía en algún organismo biológico, pero hecha de
forma diferente. Incluso la programación. En nuestro ADN, hay elementos ocultos parecidos a
las subrutinas, a las funciones, y por eso me encanta inspirarme en los sistemas biológicos para
mejorar el comportamiento de nuestros programas de inteligencia artificial. El deep learning,
por ejemplo, está basado en una versión muy simplificada del comportamiento de las redes
neuronales de nuestro cerebro. Aun así, necesitamos muchísimos ordenadores y muchísimo
tiempo para hacer que el deep learning funcione. Y sin embargo, una mosca o una mariposa,
que no tienen demasiadas neuronas, pueden volar y orientarse a lo largo del mundo, pueden
evitar chocarse contra los objetos... estos pequeños insectos pueden hacer cosas que los robots
no pueden hacer.
P. ¿Cuál es entonces su definición de inteligencia?
R. Como informático, suelo pensar en la vida como una tecnología de procesamiento de
información. Y si empiezas a pensar en la biología como si fuese una tecnología altamente
desarrollada, entonces puedes empezar a preguntarte cosas como "¿cómo se almacena la
información? ¿cómo se procesa? ¿cómo se recibe y se traduce codifica la información del
ambiente?". Si piensas en esto, la noción que tienes de inteligencia se vuelve más amplia, y
puedes pensar en la manera en la que un organismo crece y se desarrolla en un ambiente desde
el punto de vista de la inteligencia. La forma en la que, por ejemplo, un embrión crece dentro de
su madre, y se vuelve un gran y complejo ser a partir de pocos genes. Así que, al final, la
inteligencia recae en la manera en la que la información del ambiente, la información de
nuestras células y nuestras neuronas se combina entre sí, a través de años de evolución de
incontables especies y de los problemas que los organismos han tenido que afrontar. Creo que
entender esto es una forma de entendernos a nosotros mismos, pero también entender a nuestro
planeta, y también de entender como tenemos que hacer las tecnologías del futuro.
P. Actualmente, Braintree, su empresa, está trabajando junto a MedLab Media Group. ¿Qué
clase de asesoramiento puede ofrecer una empresa de Inteligencia Artificial?

ampliar foto El doctor Peter Bentley, posando de

pie. Álvaro García EL PAÍS

R. MedLab Media Group es una empresa con una gran ambición. Quieren transformar el
pensamiento sobre la medicina en Asia y Latinoamérica, en zonas donde hay una gran
necesidad de desarrollo. No solo pretenden crear un montón de recursos para doctores, sino que
estos recursos también incluyan datos cruciales y resultados actualizados, para así mantener a
los doctores de esas zonas informados. Y para encontrar esta información, extraer el
conocimiento de la misma y traducirlo, es necesario tener algún tipo de inteligencia artificial
como herramienta de apoyo. Lo que quieren es sumarizar la información e indexarla
correctamente.
P. Entonces, ¿hablamos de una especie de librería general simplificada para medicina?
R. Más bien de crear es un 'observatorio' del consenso médico acerca de los estudios médicos a
nivel general. Hay que dar información a los médicos de los países en desarrollo, porque en la
medicina hay buenos y malos estudios, al igual que hay buenos y malos investigadores, así que
hay que garantizar que el conocimiento que estos doctores diseminan es digno de la confianza
de todos, porque las vidas de las personas dependen de ello. Un componente importante del
machine learning es hacer que este sea creíble, y esto implica mejorar sus habilidades y su
forma de gestionar los conocimientos acerca de protocolos, medicamentos, tratamientos,
diagnósticos; pero tienes que hacerlo creíble, porque en última instancia peligra la vida de las
personas.
P. Elon Musk, el creador de Paypal y consejero delegado de Tesla Motors, dijo recientemente
que "la inteligencia artificial amenaza la existencia de nuestra civilización". ¿Qué opina de esta
declaración?
R: Creo que es muy difícil expresar con palabras el sinsentido que supone esta afirmación. La
inteligencia artificial es una herramienta de apoyo, un software inteligente. No estamos creando
algo que posea una consciencia propia. !Pero si ni siquiera entendemos cómo funciona un
cerebro, cómo y por qué pensamos como pensamos¡Tendría que pasar muchísimo tiempo antes
de que pudiésemos crearla. Y aún así, hay gente que dice "pero no necesitamos entenderlo,
porque todos los ordenadores que tenemos van a adquirir consciencia de sí mismos por arte de
magia". No funciona así, de verdad, no funciona así.
P: ¿Cómo funciona, entonces?
R: La aparición de la inteligencia precisa de ciertos componentes, como las amenazas externas.
En términos de energía y tiempo, hace falta un montón de esfuerzos para que la inteligencia se
desarrolle. El ser humano necesita comer tres veces al día para que nuestro cerebro funcione, y
nuestras madres sufren muchísimo en el parto debido al tamaño de nuestras cabezas. ¿Por qué
pasar por estos problemas? La razón por la que desarrollamos cerebros más inteligentes es
porque nuestros ancestros afrontaron una enorme cantidad de problemas; algo que hizo que la
inteligencia apareciese. "Estos animales me amenazan, así que necesito encontrar una forma de
que no me devoren", o "necesito encontrar comida". Generalmente, eran amenazas mortales.
Este sería el primer requisito: la inteligencia de una hipotética inteligencia artificial no podría
aumentar si no estuviese rodeada de continuas amenazas de muerte, lo que creo que no
haríamos. O que haríamos... si pudiésemos (risas), pero lleva un montón de trabajo.
P: ¿Y cuál sería el segundo requisito?
R: Que la gran mayoría de estos "psico-futuristas" olvidan que crear una IA implica hacer
muchísimas pruebas. Para hacer una IA adecuadamente, para crear su "cerebro", hay que hacer
un montón de pruebas. Cada vez que su cerebro funciona adecuadamente de cara a una serie de
tareas y lo modificas para hacerlo ligeramente más inteligente, tienes que hacer exámenes
adicionales para garantizar que no solo sigue funcionando en sus antiguas tareas, sino también
en las nuevas. Cada vez que lo haces un poco más listo, descubres que podría hacer cosas
nuevas y tienes que testear cada una de ellas. ¿Conoces la Ley de Moore, que dice que la
capacidad de los microprocesadores crece exponencialmente cada dos años? Pues cada vez que
la tecnología se vuelve exponencialmente más potente, el testeo se vuelve exponencialmente
mayor, así que el tiempo, los esfuerzos y los recursos se vuelven exponencialmente mayores.
Cuanto más complejo se vuelve un sistema, más exámenes tienes que hacerle. Por eso, las
grandes compañías, como Google, necesitan un montón de tiempo y recursos para hacer
funcionar a sus asistentes de IA, porque la mayor parte de esto es testeo. Esto es otro proceso
evolutivo.
P: Entonces, ¿que le respondería a Musk?
R: Que estamos luchando muchísimo para mejorar esta tecnología en los laboratorios, para
lograr que nos facilite la vida. Es un trabajo muy duro, y no hay ningún peligro respecto a que
pueda salirse de control porque, sencillamente, a duras penas puede hacer algo fuera de control.
Miremos a Google: ha estado años examinando los coches autónomos; probándolos,
revisándolos debido a la complejidad de su mecanismo. Y aun así, si llevásemos ese coche a un
entorno más complejo, como la India, no funcionaría. Se llevaron uno de esos coches al este de
Londres y no funcionó (risas). En definitiva: tenemos equipos de ingenieros estudiando todo lo
que la IA puede hacer al detalle, y comprendemos de forma íntima todas sus limitaciones. Yo
mismo desearía que no estuviesen tan limitadas.
P: ¿Cuál es la definición más exacta de inteligencia artificial?
R: Creo que una buena definición de la inteligencia artificial, o al menos, una alternativa, es
"hacer que los ordenadores hagan cosas que todavía no pueden hacer", o, en su defecto, algo
que para nosotros sea muy inteligente. Pero los ordenadores... en fin, hacen cosas muy
inteligentes, y la gente no los llama inteligencia artificial. Los llama ordenadores (risas