18/10/2018 Ranga Yogeshwar: “Los datos que entregas acabarán por estrangularte en el sistema” | Cultura | EL PAÍS

CULTURA

RANGA YOGESHWAR | FÍSICO Y DIVULGADOR ›

“Los datos que entregas acabarán por estrangularte en el

sistema”
Ranga Yogeshwar, conocido divulgador en Alemania, alerta de la falta de
control político y moral sobre muchas innovaciones de la era digital
ANA CARBAJOSA

Colonia - 17 OCT 2018 - 18:22 CEST

Ranga Yogeshwar, durante la conferencia que ofreció en Berlín el 2 de mayo dentro del festival Re:publica. BRITTA
PEDERSEN (DPA)

Ranga Yogeshwar (Luxemburgo, 1959) es una especie de canario en la mina, capaz de

analizar y alertar de los desafíos que nos deparan las innovaciones. Él piensa que en el
campo de la inteligencia artificial, innovamos sin ser capaces de comprender los
sistemas que creamos y las consecuencias que pueden tener.

https://elpais.com/cultura/2018/10/16/actualidad/1539702580_437926.html 1/8
18/10/2018 Ranga Yogeshwar: “Los datos que entregas acabarán por estrangularte en el sistema” | Cultura | EL PAÍS

Yogeshwar recibe a El PAÍS en su casa de Lanzenbach, una aldea cerca de Colonia, en

pleno campo. El habitáculo vital de este conocido físico divulgador en Alemania es, sin
embargo, el mundo. Lo recorre impartiendo conferencias y conociendo de primera mano
las innovaciones que regirán el futuro y nos cambiarán como sociedad. Políticos y
empresarios alemanes y de medio mundo le llaman para que les cuente a dónde vamos.
Él lo explica en su libro Próxima estación: futuro (Arpa), en el que alerta del mal uso de
los datos y de que podemos acabar siendo esclavos de la digitalización de nuestro
comportamiento. Pero Yogeshwar no pertenece al club de los agoreros, ni propone
ninguna vuelta atrás. Él lo que cree es que la política puede y debe moldear una
innovación que no debe dejarse en manos solo de ingenieros e inversores. “Al final será
bueno, porque nos haremos las preguntas fundamentales y encontraremos respuestas
mejores de las que habíamos encontrado hasta ahora”.

Pregunta. ¿Cómo nos está cambiando la innovación?

MÁS INFORMACIÓN

Si está en la cocina,
es una mujer: cómo Respuesta. Hay cosas esenciales que permanecerán. No queremos
los algoritmos
refuerzan los
vivir en un estado de miedo permanente, ni morir de hambre, pero
prejuicios hay que ver cómo nos ha cambiado por ejemplo la comunicación,
qué pasa ahora en las familias. Cuando yo era joven y me iba de viaje
Google arregla su
algoritmo ‘racista’ era un tiempo de separación de mis padres, de crecer, pero ahora
borrando a los
cuando los chicos se van, están conectados todo el tiempo con su
gorilas
familia. ¿Cómo va a influir esto en su personalidad? O las
ecochambers, si te rodeas todo el tiempo de gente que piensa como
tú, te encierras en una burbuja y eso también modela la personalidad. Me pregunto si
acabaremos en una sociedad muy diferente, que no se parece nada a la idea de sociedad
cohesionada que teníamos hasta ahora, sino una en la que sean islas con unas reglas
elementales para relacionarnos.

P. La filosofía ha dedicado mucho tiempo a analizar la diferencia entre los humanos y los
animales. ¿De las máquinas inteligentes, en qué nos diferenciaremos?

Nuestra relación con el progreso es como los niños en Navidad:

abren los paquetes y tratan de hacer funcionar el juguete

https://elpais.com/cultura/2018/10/16/actualidad/1539702580_437926.html 2/8
18/10/2018 Ranga Yogeshwar: “Los datos que entregas acabarán por estrangularte en el sistema” | Cultura | EL PAÍS

R. El desarrollo de la inteligencia artificial nos fuerza a repensar qué somos y qué nos
hace humanos. Podemos perdonar, nos encantan las excepciones. Es decir, aspiramos a
tratar a todo el mundo por igual, pero si es tu amigo, haces algo especial por él. A veces
eres irracional. Fumas aunque no tenga sentido, las máquinas no hacen eso. Puede que
gracias a la innovación acabemos replanteándonos cosas esenciales, como el estar
enfocados hacia la productividad y el rendimiento económico; puede que haya
transformaciones de las que ahora ni siquiera somos conscientes. Puede, por ejemplo,
que vayamos hacia una era postextual en la que contemos y escuchemos historias en
lugar de leer y escribir, que es un proceso muy complejo. Ahora ya no lees las
instrucciones de un aparato, ves un tutorial. Tal vez, nuestra inteligencia puede
disminuir porque la de las máquinas crezca.

P. No parece un futuro muy prometedor.

R. Yo soy optimista. Vemos, por ejemplo, que empezamos a querer pasar tiempo
desconectados, lo que los británicos llaman digital detox [desintoxicación digital]. Al
final, aprenderemos cómo utilizar bien la innovación. Nuestra relación con el progreso,
para mí, es como los niños en Navidad: abren los paquetes y tratan de hacer funcionar el
juguete. Cuando no lo consiguen, es cuando miran las instrucciones. Tratamos de ir muy
rápido, pero ahora poco a poco estamos empezando a estudiar las instrucciones de la
revolución digital. Los conquistadores llegaron a América, se hicieron con el lugar y
mataron a los indígenas y esa es la misma mentalidad cowboy que vemos en la era
digital. Google y Facebook son los conquistadores que se apoderan de los contenidos,
pero estamos entrando en una fase en la que empezamos a civilizar estos contenidos y
creo firmemente que seremos capaces de hacerlo. Estableceremos reglas,
entenderemos tendencias y, tal vez, en los próximos años nos demos cuenta de que hay
que partir los googles y los amazons porque sean demasiado grandes. Estableceremos
reglas por las que no utilizaremos tecnologías que no entendamos completamente,
porque habrá reacciones en contra. La historia nos demuestra que siempre hay un
proceso de civilización. Al final será bueno, porque nos haremos las preguntas
fundamentales y encontraremos respuestas mejores de las que habíamos encontrado
hasta ahora.

Al final aprenderemos a usar bien la innovación

https://elpais.com/cultura/2018/10/16/actualidad/1539702580_437926.html 3/8
18/10/2018 Ranga Yogeshwar: “Los datos que entregas acabarán por estrangularte en el sistema” | Cultura | EL PAÍS

P. Usted explica que nuestro futuro no es lineal, que no hay una continuidad desde el
pasado, que hay disrupciones. ¿Qué consecuencias tiene este tipo de progreso?

R. La velocidad es una nueva cualidad. La electricidad, por ejemplo, se introdujo poco a

poco o el teléfono, que tardó 75 años en llegar a 100 millones de usuarios. Antes había
tiempo para adaptarse; era un proceso orgánico. A veces se tardaba incluso una o dos
generaciones, lo que significaba que no era una intrusión en tu vida personal, porque era
la siguiente generación la que lo tenía que gestionar. Ahora, si miramos a Facebook u
otras redes sociales, o los teléfonos inteligentes, en apenas 11 años, todo el mundo tiene
uno. Es decir, las cosas suceden de manera tan rápida que no hay tiempo para
adaptarse de una manera civilizada. Las innovaciones se implantan y, de repente, nos
damos cuenta de que necesitamos leyes. Empezamos a regular la privacidad, pero es un
proceso muy lento comparado con la velocidad de la innovación. En la inteligencia
artificial surgen multitud de dilemas éticos.

P. ¿Cómo pueden convivir los algoritmos y la ética?

R. Es un tema que va a estar muy presente, pero no se puede tratar de una forma
tradicional porque la ética es cambiable. Hace 50 años, por ejemplo, se aceptaba que se
pegara los hijos, pero cambiamos. Necesitamos trabajar con una ética que tenga en
cuenta cómo nos va a cambiar la tecnología. Por ejemplo, nuestro concepto de
privacidad no va a ser el mismo en unos años. Es una situación muy dinámica y como no
podemos anticipar los cambios, tal vez haya que diseñar un proceso ético que
continuamente cuestione y adapte las cosas.

P. ¿Es posible impedir que la moral y la ley vayan siempre por detrás?

R. Necesitamos una cultura en la que el progreso sea el resultado de un proceso de

reflexión de la sociedad y no el resultado exclusivo de la ingeniería y los inversores.
¿Queremos tener máquinas que tomen decisiones cruciales? Y si las tenemos, ¿cómo
de transparentes deben ser las decisiones? Me refiero, por ejemplo, al sesgo de los
datos que proporcionas a los sistemas, porque el problema es que nadie comprende
realmente cómo funcionan. No sabemos qué pasa en las capas más profundas y, por lo
tanto, desconocemos si se adoptan las decisiones adecuadas. Por ejemplo, Google
empezó a etiquetar fotos, pero de repente, las personas negras aparecían etiquetadas
como gorilas, porque los datos que habían introducido en el sistema estaban sesgados,
https://elpais.com/cultura/2018/10/16/actualidad/1539702580_437926.html 4/8
18/10/2018 Ranga Yogeshwar: “Los datos que entregas acabarán por estrangularte en el sistema” | Cultura | EL PAÍS

porque probablemente no habían suministrado suficientes imágenes de personas

negras. En algunas aplicaciones no pasa nada por que haya errores, pero en las que
están íntimamente ligadas con nuestra democracia, no es una opción. No se puede
detener a alguien sin decirle exactamente por qué, no quiero que me detengan porque
un algoritmo lo ordene. Al final, se reduce a la cuestión de si optamos por la correlación
o por la causalidad, que es la base de nuestra democracia.

P. ¿A qué se refiere?

R. Establecemos y comercializamos sistemas a pesar de que no los comprendemos. No

sabemos si son estables o sesgados. Todo va muy rápido. Estuve en una conferencia
con jefes de recursos humanos y me explicaron que utilizaban inteligencia artificial para
las entrevistas de trabajo. Tienen un sistema que analiza qué palabras utilizan los
aspirantes para definir un perfil. Si utiliza ciertas palabras, concluyen que es un tipo
optimista y proactivo o al revés. En Estados Unidos, por ejemplo, el sistema Compas
predice si un detenido va a cometer un nuevo crimen a través de algoritmos. Lo que
pasó fue que encontraron un sesgo importante hacia los detenidos negros, porque
habían metido los datos sesgados. No me cansaré de decirlo: los datos son un problema.

Robots fuera del armario

Yogeshwar deja de hablar y muestra en el ordenador de su estudio una invención que da

una idea de lo avanzado que está el procesamiento de voz. Una máquina pide una cita
para ir a la peluquería haciéndose pasar por una persona y es capaz de mantener una
conversación, respondiendo a las preguntas de la recepcionista. “Es inmoral. No puedes
tener máquinas que se hacen pasar por humanos. Falta una reflexión ética. Los robots
del futuro tienen que salir del armario y decir: 'Hola, soy un asistente de inteligencia
artificial”.

P. Usted habla de velocidad y de complejidad. Mucha gente se siente alienada y rechaza

un progreso que no comprende. Hay un movimiento reaccionario.

R. Hay que preguntarse cuál es nuestro objetivo. ¿Tener una sociedad digitalizada que
nos haga la vida más fácil? o ¿ser más felices? Porque si queremos eso, puede que no
haya mucha relación, porque poco a poco el ser humano se adentra en la categoría de

https://elpais.com/cultura/2018/10/16/actualidad/1539702580_437926.html 5/8
18/10/2018 Ranga Yogeshwar: “Los datos que entregas acabarán por estrangularte en el sistema” | Cultura | EL PAÍS

las máquinas. Podemos acabar sometidos a la dictadura del comportamiento. Es decir,

tu móvil, por ejemplo, controla el ejercicio que haces. Ya hay aseguradoras que te piden
tus datos para calcular tu póliza. Dentro de cinco años veremos a un tipo corriendo por
un parque y le preguntaremos si le gusta salir a correr y responderá que no, pero que
tiene que hacerlo para que quede reflejado en sus datos. La libertad que se prometió
puede terminar en justo lo contrario, en una dictadura de tu comportamiento. La
libertad de comportarte como te de la gana, de beberte un vaso de vino por la noche, de
fumarte un cigarro va a desaparecer porque todos los datos que entregas, acabarán
estrangulándote en un sistema. Empieza con los seguros médicos y rápidamente se
extiende a muchas otras áreas. Y eso genera un cierto sentimiento de desconfianza
hacia el futuro, es la segunda fase de la era digital.

P. A usted también le preocupa la evolución de los medios de comunicación.

R. Los pilares de la democracia son los medios, el lugar donde se pone en ejecución y los
medios se han vuelto populistas porque se rigen por los clics, por la audiencia medida
con algoritmos que amplifican resultados. Ahora la pelea está por la atención no por las
ideas. En un periodo de tiempo muy corto hemos visto un cambio en la prensa que
desconcierta a mucha gente. Vemos muchos cambios en muy poco tiempo y nos hace
plantearnos hacia dónde nos dirigimos, quién está controlando el cambio o si alguien lo
está controlando. Para muchas personas, la respuesta es que el cambio se gestiona a sí
mismo y sienten que ellos no tienen nada que aportar. Las élites no son capaces de
comunicar la esencia de los cambios y la gente siente que vive en una democracia en la
que no puede participar. Por eso, aunque a la gente le vaya bien, sienten cierto
desasosiego y miedo fruto de la transformación, que afecta también a sus negocios.
Porque igual han trabajado un montón de años para llegar a una posición y de repente
eso no vale nada. Desconfían de la innovación y se entregan al populismo. Y culpan a los
extranjeros, piensan que la solución es encerrarse como si viniera un huracán, que en
realidad es la innovación. Es puro miedo.

P. ¿Puede hacer algo la política?

R. La política puede hacer mucho pero desafortunadamente la europea y alemana han

hecho muy poco. La mayoría de los políticos no entienden lo que está pasando, son
literalmente ignorantes. Yo les explico por ejemplo que la fisonomía de las ciudades va a
cambiar por el monopolio de Amazon y que van a desaparecer las librerías y es algo en lo
https://elpais.com/cultura/2018/10/16/actualidad/1539702580_437926.html 6/8
18/10/2018 Ranga Yogeshwar: “Los datos que entregas acabarán por estrangularte en el sistema” | Cultura | EL PAÍS

que ni han pensado. Hay una enorme ignorancia sobre el cambio más crucial que está
sucediendo.

P. ¿Y la industria?

R. Viven enamorados de su pasado y no piensan en el futuro. En Estados Unidos, el 70%

de las empresas tienen un jefe de transformación digital, que estudia cómo va a cambiar
la empresa con la digitalización o si va a seguir existiendo. En Alemania, no llega al 20%.
Aquí vienen las empresas extranjeras y se llevan a los jóvenes con más talento. Si
miramos a EE UU y a China, nos damos cuenta de que Europa va a morir en el proceso
de la innovación de inteligencia artificial. ¿Por qué nada nace en Europa con contadas
excepciones? Le cedemos nuestros datos a EEUU y desde Snowden sabemos que nos
tratan de manera diferente. Internet, la carta Magna de la era digital se creó para ser
utilizado por todo el mundo y ahora lo único que vemos es negocio.

P. ¿Qué cambios geopolíticos va a traer la innovación?

R. Si analizamos de dónde van a venir los científicos en 2030, vemos que el 37% vendrá
de China y el 1,4% de Alemania. Dejemos de creer que los chinos son estúpidos. Son
muy innovadores y tienen ambición.

Se adhiere a los criterios de

Más información >

ARCHIVADO EN:
›

Revistas divulgación · Transformación digital · Filosofía · Inteligencia artificial · Google · Amazon

· Revistas · Comercio electrónico · Informática · Empresas · Internet · Tecnología · Economía

NEWSLETTERS
Recibe la mejor información en tu bandeja de entrada

https://elpais.com/cultura/2018/10/16/actualidad/1539702580_437926.html 7/8
18/10/2018 Ranga Yogeshwar: “Los datos que entregas acabarán por estrangularte en el sistema” | Cultura | EL PAÍS

CONTENIDO PATROCINADO

Y ADEMÁS...

Cortar jabón es la Julia Otero revienta Un aficionado revela el

nueva moda en Internet Twitter por lo que ha insulto que desató la ira
(y cuando veas los soltado sobre el salario de Khabib tras ganar a
(EPIK) (HUFFINGTON POST) (TIKITAKAS)

recomendado por

Pau Las ¿Cuánt

l d l
© EDICIONES EL PAÍS S.L.
Contacto Venta de contenidos Publicidad Aviso legal Política cookies Mapa EL PAÍS en KIOSKOyMÁS Índice RSS

https://elpais.com/cultura/2018/10/16/actualidad/1539702580_437926.html 8/8