“useot7 Los algortmos ocutos que funeonan como “armas de destruscién matemtea’- BBC Mundo Los algoritmos ocultos que funcionan como “armas de destrucci6n matematica” Redaccién BBC Mundo 1 noviembre 2016 < fi Ud. 11 ster Las matematicas son, para muchos, una clencia hermosa. Pero algunos algoritmos -vitales para decidir cosas que nos afectan directamente (como la cesién de un préstamo o la obtencién de un trabajo)- se basan en estadisticas falsas 0 sesgadas que fomentan la desigualdad y la discriminacién en el mundo. Al menos, asi lo asegura Cathy O'Neil ipihwwr bbe commundaicticias-S7837377 ve182017 Ls algorimes ects qusfunceran como armas de gestrvcion matomda”- BBC Mundo La exprofesora del prestigioso Barnard College de la Universidad de Columbia, en EE.UU., quien trabajé como analista de datos en Wall Street, dejé el mundo académico y financiero para convertirse en uno de los miembros mds activos del movimiento Ocuppy Wall Street (OWS), que denuncié los excesos del sistema financiero a partir de 2011 = Occupy Wall Street demuestra seguir "vivo" en las calles de Nueva York = Occupy Wall Street vs. el Suefio Americano Cinco afios después de que naciera aquel movimiento intelectual, O'Neil acaba de publicar su libro, "Weapons of Math Destruction’(Armas de destruccién matemdtica), en el que describe cémo los algoritmos gobiernan nuestras vidas (y tienden a desfavorecer a los mas desfavorecidos). "Vivimos en la era de los algoritmos", escribe la matemética "Cada vez en mayor medida, las decisiones que afectan nuestras vidas -a qué escuela ir, si podemos 0 no obtener un préstamo o cuanto pagamos por nuestro seguro sanitario- no estan tomadas por humanos, sino pormodelos matemiticos" En teoria, explica la especialista, esto deberia conducir a una mayor equidad, de forma que todo el mundo fuera juzgado bajo las mismas reglas y se eliminara el sesgo. Pero, segtin O'Neil, lo que ocurre es exactamente todo lo contrario, El lado oscuro del Big Data Los algoritmos funcionan a modo de "recetas" creadas por computadoras para analizar grandes cantidades de datos. Un algoritmo puede recomendarte una pelicula o protegerte de un virus informético, pero eso no es todo. ipihwwr bbe commundaicticias-S7837377“useot7 Los algortmos ocutos que funeonan como “armas de destruscién matemtea’- BBC Mundo (Algunos algoritmos) son opacos: la gente no comprende cémo funcionan. Y, a veces, son secretos. Cathy O'Neil, autora de "Weapons of Math Destruction” (armas de destruccién matematica) Hay ciertos algoritmos que O'Neil define como "opacos, desregulados e irrefutables”. Pero lo més preocupante, asegura, es que refuerzan la discriminacién. La primera caracteristica de estos algoritmos, le cuenta O'Neil al Servicio Mundial de la BBC, es que "toman decisiones muy importantes en la vida de las personas". Por ejemplo, si un estudiante pobre en EE.UU, trata de pedir un préstamo, el sistema lo rechazard por ser demasiado “arriesgado" (en virtud de su raza o vecindario) y sera aistado de un sistema educativo que podria sacarle de la pobreza, quedando atrapado en un circulo vicioso. Este es tan sélo un ejemplo de cémo esos algoritmos respaldan a los mas afortunados y jan a los més oprimidos,creandoun "céctel toxico para la democracia, explica O'Neil Es el lado oscuro del Big Data. = Ciudades del mafiana: cémo el Big Data esta cambiando el mundo ipihwwr bbe commundaicticias-S7837377“useot7 Los algortmos ocutos que funeonan como “armas de destruscién matemtea’- BBC Mundo Pero, ademas, la académica dice que "(esos algortimos) son, en cierto sentido, opacos: la gente no comprende cémo son computarizados. Y, a veces, son secretos” "Una de las cosas que més me preocupa es que estas puntuaciones -los algoritmos nos avalian y puntiian- no son visibles para nosotros”, explica Por ejemplo, cuando llamamos al servicio al cliente (de una empresa) a veces nos puntdan segtin nuestro ntimero de teléfono y el perfil que tienen registrado de nosotros. Y deciden si somos un cliente de alto 0 de bajo valor, Si somos de valor reducido, puede que nos hagan esperar mas tiempo" De acuerdo con la matematica, esos modelos ocultos manejan nuestras vidas desde que empezamos la escuela primaria hasta que nos jubilamos. = Todo lo que Microsoft sabe de ti = Cémo averiguar todo lo que Google sabe de ti Los modelos estén presentes en infinitos aspectos de nuestra vida personal y profesional: controlan resultados académicos de estudiantes y alumnos, clasifican curriculos vitae, conceden o deniegan becas, evaliian a trabajadores, determinan votantes, establecen penas de libertad condicional y vigilan nuestra salud, Y todos ellos, dice O'Neil, esconden bucles de retroalimentacién perjudiciales. Pero qué quiere decir eso? Comprendiendo el algoritmo ‘Simplemente, no describen la realidad tal y como es, sino que la modifican, expandiendo o limitando nuestras oportunidades en la vida. Estos algoritmos son destructivos y debilitan su propio objetivo original, como la mejora del sistema educativo, por ejemplo’, dice O'Neil ipihwwr bbe comimundalcticias-S7837377‘52017 Los algoritmos ocutos que funcionan como “armas de destruccién matemtea’- BBC Mundo “Uno de mis ejemplos favoritos es el modelo de puntuacién de valor agregado del profesor, y esté muy extendido en Estados Unidos. Tiene que ver con el esfuerzo para librarse de los malos profesores" "Los resultados de los alumnos estan informatizados, y los maestros ganan puntos si sus estudiantes obtienen mejores resultados de lo esperado (y viceversa). El verdadero problema es que nadie entiende (este sistema) realmente, lo cual estaria bien si funcionara ala perfeccién, Pero no es el caso”, advierte la exanalista. Lo que ocurre, asegura, es que tienen "mucho ruido estadistico" y son "inconsistentes". De hecho, algunos profesores han sido despedidos por fallas en esta tecnologia, sefiala O'Neil dice que las personas encargadas de la modelacién (y fabricacién) de esos algoritmos deberian asumir una mayor responsabilidad sobre cémo se estén usando estos modelos matematicos Pero, al final, esta en nuestras manos informarnos mas sobre ello, hacernos las preguntas adecuadas y comprender mejor cémo funcionan los modelos matematicos que rigen nuestras vidas. ipihwwr bbe comimundalcticias-S7837377“useot7 Los algortmos ocutos que funconan como “armas de destruscién matemtea’- BBC Mundo + eDénde y al alcance de quién esté toda la informacién sobre ti? (y por qué debe importarte) "Es muy dificil luchar contra sistemas de puntuacién que ni siquiera sabes que existen. Por eso, una de las cosas que reivindico en mi libro es que la gente los rebata” "Hay muchas formas de adelantarnos al sistema. Por ejemplo, si hago una busqueda en internet sobre un problema de salud siempre lo hago desde una ventana de incdgnito", dice O'Neil La clave, advierte, es “asegurarse de que las personas (y los algoritmos) que recopilan informaci6n sobre ti en internet no obtienen ‘malas noticias”. Temas relacionados Ciencia Tecnologia. = Educacién —_Econor Compartir acerca de compart Volver Arriba Contenido relacionado Todo lo que Microsoft sabe de ti ipihwwr bbe comimundalcticias-S7837377