Machine Learning

con TensorFlow
Técnicas
Índice de contenidos
▪ 1. Introducción
▪ 2. Teoría de ML
▪ 3. TensorFlow
▪ 4. Instalando y probando
▪ 5. Ejemplo visual
▪ 6. Ejemplo en Python
▪ 7. Conclusiones
▪ 8. Referencias
1. Introducción

▪ En este tutorial vamos a ver los conceptos básicos de machine learning

centrándonos en redes neuronales. Veremos como TensorFlow puede
ayudarnos a conseguir una solución potente y escalable para resolver problemas
complejos de categorización con redes neuronales de aprendizaje profundo.
▪ Este tutorial utiliza el lenguaje de programación Python para los ejemplos. No
vamos a explicar cosas concretas del lenguaje pero si aún no lo conoces, no
está de más aprender las cosas básicas de un lenguaje tan conocido como
Python. Podéis empezar por aquí o por aquí.
Entorno

El tutorial está escrito usando el siguiente entorno:

▪ Hardware: Portátil MacBook Pro 15′ (2,2 GHz Intel Core i7, 16GB DDR3).
▪ Sistema Operativo: Mac OS High Sierra.
▪ Entorno de desarrollo: Visual Studio Code.
▪ Software: python, TensorFlow.
2. Teoría de ML
▪ Vamos a empezar por un poco de teoría. Explicaremos muy por encima algunos
términos y asuntos que son importantes en el mundo del Machine Learning.
▪ Machine Learnging o “aprendizaje automático” es una rama de la Inteligencia
Artificial que pretende desarrollar las técnicas necesarias para que las máquinas
aprendan.
▪ Deep Learning es un término que engloba un conjunto de algoritmos de
aprendizaje profundo. Es un subgrupo de todo lo que abarca ML.
2. Teoría de ML
▪ Redes neuronales son un modelo
computacional que intenta imitar el
comportamiento de las neuronas de
cerebros biológicos. En este modelo
se crean varias capas de neuronas
interconectadas con las neuronas
de las capas anteriores y siguientes
con unos pesos en los enlaces.
Redes neuronales
▪ A la unión de una neurona con sus enlaces de entrada y sus pesos asignados se le llama
perceptrón. Así la salida del perceptrón tiene un mecanismo para calcular si está activo en función
de los valores dados por la salida de la anterior capa multiplicados por el peso del enlace de unión.
▪ La función de activación de la neurona es la que define la conversión de las entradas ponderadas en
su activación de salida. Algunas de las funciones usadas normalmente son: lineal, sigmoidea,
escalón, TanH, ReLu
▪ Las redes neuronales se pueden clasificar según su tipología/arquitectura. Algunas de estas
clasificaciones pueden ser las siguientes:
▪ DNN (Deep Neural Net) la cual tiene más de una capa oculta.
▪ CNN (Convolutional Neural Net) son especialmente importantes en el procesamiento de imágenes y la
categorización. Se caracterizan por tener capas de filtros convolucionales que, de manera similar a la corteza
visual del cerebro, transforman la entrada aplicando máscaras para extraer información de distintos tipos.
▪ RNN (Recurrent Neural Net) se caracterizan por tener conexiones recurrentes con ellas mismas o neuronas
de la misma capa. Especialmente interesantes para detección de patrones, pues permiten “recordar” los
valores de la anterior predicción.
Redes neuronales
▪ Las redes neuronal pueden tener distintos tipos de aprendizaje:
▪ Aprendizaje supervisado a la red se le proporcionan un conjunto de ejemplos con sus valores de
salida deseados. Así la red se entrena aplicando algoritmos para ir corrigiendo y propagando los pesos
más adecuados para lograr la salida indicada.
▪ Aprendizaje no supervisado solo se le indican entradas a la red sin proporcionarle los valores de salida
correctos/deseados. La red aprende a clasificarlos buscando las similitudes entre conjuntos de datos
▪ Aprendizaje por refuerzo se enseña al sistema con recompensas o castigos. Así indicándole el grado
de desempeño irá ajustando sus valores para alcanzar el máximo posible

▪ Para ejecutar predicciones y entrenamientos de redes neuronales la mayoría de operaciones

que se realizan son cálculos con matrices. Para el procesamiento de gráficos una de las
tareas más importantes es ésta, por ello el uso de GPUs en este campo es muy adecuado y
puede reducir mucho los tiempos. Google ha dado un paso más introduciendo unos chips
llamados TPUs que están más optimizados y centrados en los cálculos necesarios para
ejecutar algoritmos de aprendizaje automático.
3. TensorFlow
▪ TensorFlow es una herramienta de
machine learning. Popularizada por
su eficiencia con redes neuronales
de aprendizaje profundo pero que
permite la ejecución de procesos
distribuidos que no tengan nada que
ver con redes neuronales.
3. TensorFlow
▪ Sus Estimators representan un modelo completo y ofrecen los mecanismos
para entrenar los modelos, evaluar su error y generar predicciones. Son la capa
de más alto nivel. Te abstraen del entorno donde se ejecutarán ya sea local, un
clúster distribuido con CPUs, GPUs o TPUs. Existen unos “Estimators”
predefinidos que facilitan la construcción de redes neuronales sencillas:
▪ tf.estimator.DNNClassifier para modelos de clasificación con redes profundas.
▪ tf.estimator.DNNLinearCombinedClassifier para clasificación combinada de modelos
lineares y con redes profundas.
▪ tf.estimator.LinearClassifier para clasificación con modelos lineales.
3. TensorFlow
▪ Otras APIs de alto nivel importantes son:
▪ Checkpoints: que permiten almacenar y restaurar el estado de configuración de la red.
▪ Feature columns: para facilitar transformaciones de los datos de entrada mediante
intermediarios entre los datos de entrada y los Estimators
▪ Datasets: herramienta para construir y cargar un input de datos, manipularlo e
introducirlo en tu modelo.
▪ Layers: ofrece una api de alto nivel para la creación de capas de neuronas facilitando
sus interconexiones, funciones de activación, etc.
4. Instalando y probando
▪ Lo primero que debemos hacer es instalar TensorFlow. Para ello podemos ver
cómo hacerlo según vuestro SO en: https://www.tensorflow.org/install/
▪ En mi caso he optado por la instalación mediante Docker. Ejecutando:

▪ Esto debería descargar la imagen, crear el docker y arrancarlo. Ahora vamos a

probar nuestra instalación. Desde la consola bash de nuestro docker
ejecutamos:
4. Instalando y probando
▪ Ahora en la consola de Python (del propio Docker) introducimos nuestro hola
mundo de TensorFlow:En mi caso he optado por la instalación mediante Docker.
Ejecutando:

▪ Con la última línea veremos en el output el texto: “Hello, TensorFlow!”

▪ Durante el tutorial arrancaremos el Docker de TensorFlow añadiendo el montaje
de un volumen local para que podamos desde el contenedor de Docker utilizar
los ejemplos que usaremos del repositorio git:
https://github.com/miyoda/tensorflow-example
4. Instalando y probando
▪ Ahora en la consola de Python (del propio Docker) introducimos nuestro hola
mundo de TensorFlow:En mi caso he optado por la instalación mediante Docker.
Ejecutando:

▪ Con la última línea veremos en el output el texto: “Hello, TensorFlow!”

▪ Durante el tutorial arrancaremos el Docker de TensorFlow añadiendo el montaje
de un volumen local para que podamos desde el contenedor de Docker utilizar
los ejemplos que usaremos del repositorio git:
https://github.com/miyoda/tensorflow-example
5. Ejemplo visual
▪ En la web https://playground.tensorflow.org
 podemos jugar con redes neuronales de
una manera muy visual. Podemos probar
para distintos conjuntos de datos
diferentes configuraciones de número de
capas ocultas, neuronas en cada capa,
función de activación, ratio de
aprendizaje, etc.
▪ El problema es simplemente categorizar
como “Azul” (1) o “Naranja” (-1) un
conjunto de puntos que se distribuyen, en
función del patrón de datos indicado a la
izquierda, en un sistema de coordenadas
cartesianas con “-6 > x > 6” y “-6 > y > 6”.
5. Ejemplo visual
▪ En cambio para solucionar el problema
del dataset en “Spiral” la red necesita que
le demos información más “precocinada”
de los datos. Así que observaremos que
no obtendremos una solución muy buena
hasta que no le demos como entrada de
la red el cálculo del sen(x) y el sin(y).
▪ Podemos apreciar que la interfaz
muestra los enlaces entre las 2 entradas
de “sin” mucho más gruesos. Esto es
porque han quedado configurados con
mayor peso. Esto no quiere decir que los
valores de entrada x e y no sean
importantes, pues de hecho la red no
logra una solución buena si quitas estos
inputs.
6. Ejemplo en Python
▪ Puedes descargar el código de este ejemplo desde el repositorio
https://github.com/miyoda/tensorflow-example
▪ En el subdirectorio “playground-1” tenemos la solución del ejemplo visto
anteriormente en la web de playground de TensorFlow.
▪ Lo primero que hemos preparado es un pequeño script para generar los datos
de prueba. Esto no tiene mucho sentido si tenemos la “formula” para calcular los
datos clasificados, ¿para qué queremos una red neuronal que nos los
clasifique?: Para aprender. Los datos contienen valor de coordenadas del punto
(x e y) y su categorización de color (0 para naranja y 1 para azul). Vamos a verlo
en el fichero “data_generator.py”:
6. Ejemplo en Python

▪ Por otro lado en el fichero “example_data.py” tenemos algunos métodos para facilitar la preparación de los datos para su
uso que crea conjuntos de datos de entrenamiento (TRAIN) y de prueba (TEST) para que la red pueda entrenarse y
autoprobarse durante su etapa de aprendizaje. Divide los datos a su vez en dos. Los de entrada train_x (coordenadas x e y)
y los de salida train_y (color).

▪ Ahora en el fichero “premade_estimator.py” vamos a configurar la red neuronal utilizando un Estimator predefinido. En este
caso DDNClassifier.
6. Ejemplo en Python
▪ Lo primero que tenemos que hacer es preparar los datos de entrada y configurar las columnas de input (features):

▪ Ahora creamos el Estimator de tipo DNNClassifier indicándole que queremos dos capas ocultas con 6 y 4
neuronas, y que la clasificación podrá ser entre 2 valores (naranja o azul).

▪ Procedemos a entrenar el modelo con los datos de entrenamiento generados.

6. Ejemplo en Python
▪ Ahora evaluamos la red generada/entrenada con los datos de test. Mostramos por pantalla el “accuracy” el cual
tendrá que estar lo más cerca de 1 posible (dependiendo de las exigencias del problema a resolver).

▪ Ahora vamos a utilizar la red ya entrenada con 4 datos de prueba para ver que resultados arroja:
▪ Si ahora arrancamos el Docker de TensorFlow y ejecutamos el código con “python /notebooks/example/playground-
1/premade_estimator.py obtendremos algo como lo siguiente:
▪ Podemos ver que hemos obtenido un “accuracy” de 0.975 y que parece que funciona
bastante bien con las predicciones solicitadas.
7. Conclusiones

▪ Como hemos visto TensorFlow nos facilita mucho la

construcción de redes neuronales complejas. Y lo más
importante es que está preparado para escalar la
solución y optimizar su ejecución en arquitecturas
distribuidas sobre GPUs que aumentan increíblemente su
eficiencia.
8. Referencias

• https://www.tensorflow.org
• https://playground.tensorflow.org