La inteligencia artificial ya está aquí.

A quién votar, cómo vestirnos, dónde invertir

nuestro dinero o cómo educar a nuestros hijos son ya decisiones que puedes consultar a
un ‘software’. ¿Las respuestas son mejores que las humanas? Texto: JUAN SCALITER

LENGUAJE RACISTA
Al aprender un idioma, los
robots incorporan los mismos
sesgos de lenguaje, algo que
los puede hacer racistas.
especializados en aprendizaje automático,
utilizaron un método desarrollado origi-
nalmente por Google que permite que el
sistema sea su propio maestro y se convierta
en un experto en mejorar en la clasificación
de diferentes tipos de tumores.
También hay investigaciones vinculadas
al asma y su predicción, a las diferentes
reacciones químicas y su uso potencial en
aplicaciones industriales o a la mejora en la
distribución y conexión en el suministro de
la red eléctrica. ¿Qué tienen en común todas
estas investigaciones? En términos llanos no
hacen nada diferente a los humanos: solo
aceleran los tiempos a la hora de entregar
los resultados. Si a un médico le puede llevar
años dominar el arte de identificar tumores
o a un geólogo reconocer los sedimentos
vinculados a la mayor (o menor) presencia
de petróleo en una muestra, la IA lo puede
aprender en semanas.
Tecnología para ver el futuro
Aun así, hay dos campos en los que la
inteligencia artificial y sus subordinadas,
como el machine learning o los algoritmos
genéticos, comienzan a desempeñar tareas
cuyos resultados no están vinculados al
tiempo. Una es la predicción de futuros y
otra el análisis de las emociones humanas,
ambas mucho más complejas y desafiantes,
tanto para la tecnología como para el cere-
bro humano. Y en ambos casos la IA ya no es
tan precisa.
Ejemplo de ello son el análisis bursátil y
las predicciones de los valores en bolsa. Un
estudio realizado por Alice Zheng, de la Uni-
versidad de Stanford, da algunas claves. El
equipo de Zheng desarrolló un algoritmo ba-
sado en precios previos, tendencias anuales
y noticias económicas para intentar predecir
el precio de ciertas acciones. Pero pronto se
dieron cuenta de que en finanzas hay mucho
más que los datos numéricos, y que las
emociones humanas respecto a una guerra,
un evento deportivo o hasta un nacimiento o
embarazo de alguien famoso pueden influir
en las alzas y bajas de determinados valores.
Un estudio publicado en PlosOne ana-
lizó las sentencias judiciales del Tribunal
Supremo de EEUU de 1816 a 2015 y le
enseñaron a un algoritmo a predecir hacia
dónde se inclinarían los jueces en cada caso.
El sistema logró hacerlo correctamente en el
70,2% de las 28.000 decisiones del tribu-
nal y el 71,9% de los 240.000 votos de los
jueces. Increíble, ¿no? Pues, la verdad, no
tanto, teniendo en cuenta que hablamos de

un grado de acierto apenas por encima de
los expertos humanos, que coincidían en un
66%. Uno de los autores del estudio, Roger
Guimerà, de la Universitat Rovira i Virgili,
explica en qué se basan estos algoritmos que
centran su actividad en la conectividad entre
los datos conocidos: “Por ejemplo, en casos
de medicamentos, gracias a las interacciones
que sí se conocen”, señala Guimerà en un
comunicado, “la herramienta predice otras
interacciones que pueden ser nocivas para
las personas. A nosotros nos da igual si un
sistema son personas o medicamentos. Lo
que hacemos es estudiar las interacciones y,
a partir de ellas, predecir otras nuevas”.
Las predicciones en el contexto de las de-
cisiones judiciales son inocuas: nadie resulta
dañado si la IA se equivoca en lo que un juez
puede decidir, ya que quien tiene la última
palabra es un ser humano. Lo que sí está
ocurriendo en los últimos tiempos es que
ANTICIPAR
CRÍMENES
Tanto la policía de
Chicago como la de
Los Ángeles utilizan
sistemas de inteli-
gencia artificial para
identificar los barrios
más conflictivos y
señalar cuándo es
más probable que se
produzca un delito.
¿LO ATRAPARÁ?
Carl Vondrick, del MIT, ha desarrollado una
IA que, basándose en una imagen, puede
deducir qué pasará inmediatamente
después en un documental de naturaleza.
Esto lo consigue gracias a una base de
datos de millones de vídeos.
la tecnología no determina, pero sí puede
inclinar la balanza. Daniel Newman, uno de
los principales investigadores de la firma tec-
nológica Futurum Research, propone el uso
de máquinas que identifiquen el tono de voz,
las microexpresiones faciales y otros detalles
de los testigos para saber si estos mienten en
un juicio. De hecho, este experto sostiene
que ya hay máquinas capaces de distinguir
entre quienes dicen la verdad y los que dan
un falso testimonio.
Y aquí es cuando el uso de la IA comienza
a ser espinoso, como mínimo: una gran parte
de su utilidad proviene de su capacidad para
hacer predicciones sorprendentemente pre-
cisas basadas en los datos analizados. Es el
principio que está detrás de las recomenda-
ciones de series y películas que las platafor-
mas de entretenimiento nos sugieren o de la
predicción de texto que completa nuestras
frases en el móvil o en los buscadores
FEBRERO 2019 / QUO 99

de Internet. En estos casos, no hay mucho
riesgo. Lo peor que puede pasar es que
veamos Sonrisas y lágrimas cuando buscá-
bamos Terminator, pero a la hora de señalar
culpables y predecir crímenes, la cosa no es
tan fácil.
Un grupo de científicos de la Universidad
Carnegie Mellon, liderados por Daniel Neill,
desarrollaron una herramienta de software
para predecir el crimen llamada CrimeScan.
La iniciativa no era nueva, ya que la Uni-
versidad de California Los Ángeles (UCLA)
había creado otra similar, bautizada PredPol,
con el objetivo de detectar patrones de com-
portamiento criminal.
La idea del equipo de Neill era analizar los
INTELIGENCIA crímenes violentos como una enfermedad
contagiosa, que tiende a estallar en grupos
QUÍMICA geográficos. También llegaron a creer que
El programa IBM RXN los delitos menores pueden ser un presagio
for Chemistry permite de los más violentos, por lo que crearon un
predecir reacciones algoritmo utilizando una amplia gama de
químicas de diferentes datos de ‘indicadores principales’, incluidos
compuestos orgánicos. informes de delitos como asaltos, vanda-
lismo y conductas violentas. El programa
también incorporaba las tendencias esta-
cionales y los días de la semana, además
de tasas de delitos violentos graves a corto
y largo plazo. En lo que a datos se refiere,
el trabajo estaba bien hecho y la inteligen-
100 QUO / FEBRERO 2019
APUESTA SEGURA
La IA Watson, desarrollada
por IBM, predijo correc-
tamente, una semana
antes de Eurovisión, que el
portugués Salvador Sobral
estaría en el podio. Para esto
se basó en los ganadores
anteriores, pero también
en el grado de emoción que
contenía la canción.
cia artificial tenía un enorme caudal de
información, suficiente para predecir delitos.
O eso parecía.
Cuando una IA se vuelve racista
CrimeScan, PredPol y el sistema Compas,
utilizado por la Corte Suprema de EEUU
para medir las posibilidades de reinciden-
cia de un delincuente, trabajan con datos
demográficos, de género y raciales. En base
a ello clasifican como bajo, medio o alto el
grado de riesgo de reincidir. Así, no importa
tanto si uno tiene un historial limpio y es un
ciudadano ejemplar, como vivir en determi-
nado barrio, pertenecer a cierta raza y ser
hombre, lo que puede hacer que el sistema
te clasifique como potencial reincidente. Es
lo que el profesor de la Universidad Davis,
Anupam Chander, ha bautizado como el
‘algoritmo racista’, y se cuestiona si estamos
al borde del ‘apartheid por algoritmo’.
No es la primera vez que ocurre. Dos años
atrás, una IA desarrollada por Microsoft,
Tay, demostró conductas homófobas, racis-
tas y antisemitas. Tay era un bot conversa-
cional desarrollado que Microsoft programó
a partir de conversaciones de usuarios entre
18 y 24 años, con el fin de que aprendiera la
forma que tienen de comunicarse en la red.
El problema fue que o aprendió demasiado
bien de nuestros defectos o no tenía filtros.
O ambas cosas. Tay señaló que el Holo-
causto era un invento, que estaba a favor
del genocidio de ciertos pueblos o razas...
Desde Microsoft explicaron que “desafortu-
nadamente, durante las primeras 24 horas
de estar online, detectamos un esfuerzo
coordinado por parte de varios usuarios para
abusar de las habilidades comunicativas de
Tay y hacer que responda de forma inapro-
piada”, y lo dieron de baja.
 En Amazon ocurrió algo similar con los
‘prejuicios’. La compañía de Jeff Bezos
desarrolló una IA para analizar a futuros em-
pleados. A esta ‘jefa’ de recursos humanos
se la instruyó con los CV de los candidatos
a trabajar en la empresa de los últimos diez
años y los datos de quienes habían obtenido
finalmente el puesto. La IA se dio cuenta de
que la mayoría eran hombres, así que llegó a
la conclusión de que estos eran ‘preferibles’
y redujo la puntuación de las postulantes
femeninas. El problema se pudo identificar
y resolver, pero en Amazon no descartaron
que hubiera otros sistemas de discriminación
y abandonaron el proyecto.
Entonces, ¿la inteligencia artificial es
racista, misógina u homófoba? De acuerdo
con la ciencia, sí. Dos estudios diferentes
hablan de ello. El primero fue realizado por
un grupo de científicos informáticos y de
psiquiatría de la Universidad de Cardiff y
del MIT. Y la conclusión de estos expertos es
que los robots dotados con IA crean sus pro-
pios prejuicios al imitar el comportamiento
de humanos y de otras máquinas... Igual que
los humanos.
El segundo estudio fue liderado por
Aylin Caliskan, de la Universidad de Prin-
ceton. El equipo de Caliskan analizó cómo
un robot aprendía un idioma y descu-
brió que lo hacía con los mismos sesgos de
LLUVIA DE DATOS
género que los humanos. Para prevenir las conse-
“Nuestros hallazgos”, explica Caliskan cuencias de las inundacio-
en conversación telefónica, “sugieren que nes, Google ha desarrollado
si construimos un sistema inteligente que un sistema de inteligencia
aprende lo suficiente sobre las propieda- artificial que pronostica
des del lenguaje para poder entenderlo y las posibilidades de lluvia,
producirlo, en el proceso también adquirirá el impacto sobre el caudal
asociaciones culturales históricas, algunas de ríos y la meteorología
de las cuales pueden ser objetables, pero reciente. El sistema permite
que forman parte de nuestra cultura. So- crear alertas más eficientes
mos nosotros los que educamos y creamos para prevenir a la población.
estas máquinas y no lo deberíamos hacer a
imagen y semejanza nuestra. Al menos no
en estos aspectos”.
Su visión coincide con la de John McCar-
thy, pionero de la IA, que sostenía que no es
una tecnología, sino una ciencia, un campo
de estudio. “Si se tratase de una tecnología,
podríamos discutir todo el día sobre qué es
y qué no es IA”, aseveraba McCarthy. “Sin
embargo, si lo vemos como un objetivo, es
algo de lo que vamos aprendiendo, algo que
intentamos alcanzar”.
Del mismo modo que se habla de que una
cadena es tan fuerte como su eslabón más
débil, en IA un sistema es tan fiable como
los humanos que lo programan y... no somos
máquinas, pero, como afirmaba McCarthy,
“juntos podemos ser mejores”. Q
FEBRERO 2019 / QUO 101