Algoritmos de clasificacin

Mtra. en C.C. Rosa Mara

Rodrguez Aguilar
Tema: rboles de decisin


Introduccin

Con el problema del desconocimiento del
futuro, ha llevado al desarrollado de nuevas
tcnicas para facilitar el proceso de la
toma de decisiones en las organizaciones.
Una de estas tcnicas de ayuda es
comnmente conocida como RBOLES DE
DECISIN.
Introduccin

Esta tcnica es un mtodo conveniente
para presentar y analizar una serie de
decisiones que se deben tomar en diferentes
momentos.
Aunque el enfoque de rboles de decisin
fue utilizado dentro del contexto de la teora
de la probabilidad, Magee fue el primero en
utilizar el concepto para tratar el problema
de las decisiones de inversin de capital.
Definicin

Los rboles de Decisin: Son tcnicas que
permiten analizar decisiones secuenciales
basadas en el uso de resultados y
probabilidades asociadas.
rboles de decisin
Se puede definir
entonces a un rbol de
decisin, como un
sistema que clasifica el
vector de entrada en
una serie de clases
predefinidas usando una
serie de preguntas
secuenciales. Cada una
de estas preguntas hace
referencia a una variable
de entrada
Condiciones
Aqu hay que preguntarse; qu orden siguen
las preguntas?; hasta qu nivel se debe
preguntar para que el modelo de decisin
tenga sentido?
Caractersticas
En general, un tomador de decisiones debe
escoger una accin ai entre un conjunto de
acciones disponibles A = (a1; a2; ; an). De
acuerdo al estado de naturaleza sj que ocurra,
con probabilidad de ocurrencia pj dentro del
universo de estados posibles S = (s1; s2;. . . ; sm),
se obtendra un retorno rij .
Ventajas de los rboles
de decisin
Facilita la interpretacin de decisiones
adoptadas.
Proporciona un alto grado de comprensin del
conocimiento utilizado en la toma de decisiones.
Explica el comportamiento respecto a una
determinada tarea de decisin.
Reduce el nmero de variables independientes.
Es una magnifica herramienta para el control de
la gestin empresarial.
Aplicaciones de los
rboles de decisin
Los rboles de decisin se utilizan en cualquier
proceso que implique toma de decisiones, ejemplos
de estos procesos son:
Bsqueda binaria
Sistemas expertos
rboles de juegos
Bsqueda Binaria
La bsqueda binaria, es un mtodo en el cual
se parte de la bsqueda de un rbol en dos
partes.
En el rbol anterior se realiza la bsqueda binaria
en base a un rbol de decisin
Bsqueda Binaria
Suponga que se desea buscar un nmero x en
el rbol.
Primero se compara si el nmero que se esta
buscando es igual a la raz, si es igual se
devuelve la raz y se termina la bsqueda.
Si no es igual se compara nuevamente el
nmero para saber si es mayor o menor que la
raz con lo que se toma la decisin de ir a la
izquierda si es menor y si es mayor que la raz a
la derecha y as sucesivamente hasta encontrar
el elemento buscado.
RBOLES DE JUEGO.
Los rboles de juego son una aplicacin de los
rboles de decisin. Por ejemplo el conocido
juego del gato y considere una funcin evala
que acepta una posicin del tablero y
devuelve un valor numrico (entre mas grande
es este valor, ms buena es esta posicin). Un
ejemplo de la implantacin de esta funcin es
considerando el nmero de renglones,
columnas y diagonales restantes abiertas para
un jugador menos el nmero de las mismas
para su oponente.
RBOLES DE JUEGO.
Por ejemplo la siguiente posicin en un juego y
sus posibles continuaciones:
RBOLES DE JUEGO.
Dada una posicin del tablero, el mejor movimiento
siguiente esta determinado por la consideracin de
todos los movimientos posibles y las posiciones
resultantes. Tal anlisis conduce sin embargo al mejor
movimiento, como se ve en el ejemplo anterior
cuando las cuatro primeras posibilidades dan todas
el mismo valor de evaluacin, sin embargo la cuarta
posicin es sin duda mejor, por lo que se debe
mejorar esta funcin.

RBOLES DE JUEGO.
Ahora se introduce la posibilidad de prever varios
movimientos. Entonces la funcin se mejorara en
gran medida, se inicia con cualquier posicin y se
determinan todos los posibles movimientos en un
rbol hasta un determinado nivel de previsin. Este
rbol se conoce como rbol de juego cuya
profundidad es igual a la profundidad de dicho
rbol.

RBOLES DE JUEGO.
Po ejemplo designar el turno del jugador 1 como +, y el
turno del jugador 2 como -, es claro que como el rbol
empieza con el turno de +, entonces el rbol estar
evaluado de acuerdo a la conveniencia de +. La mejor
opcin para el caso anterior es para el primer turno para
+ ser la cruz en el centro por lo que el jugador decidir
hacer este movimiento, en esta fase se ve que el turno
que sigue es de -, - deber seleccionar la jugada que
tenga el menor valor, pues esta ser la que perjudique
mas a + y convendr a -.

RBOLES DE DECISIN
UTILIZADOS EN SISTEMAS
EXPERTOS
Los rboles de decisin se usan en los sistemas
expertos porque son ms precisos que el hombre
para poder desarrollar un diagnstico con respecto
a algo, ya que el hombre puede dejar pasar sin
querer un detalle, en cambio la mquina mediante
un sistema experto con un rbol de decisin puede
dar un resultado exacto.

RBOLES DE DECISIN
UTILIZADOS EN SISTEMAS
EXPERTOS
Una deficiencia de ste es que puede llegar a ser
ms lento pues analiza todas las posibilidades pero
esto a su vez es lo que lo vuelve ms preciso que al
hombre.
A continuacin se presenta un ejemplo de un
sistema experto y de como puede llegar a
diagnosticar el empleo de un frmaco X en una
persona con presin arterial.

RBOLES DE DECISIN
UTILIZADOS EN SISTEMAS
EXPERTOS
Se le administrara un frmaco X al paciente si:
1.- Tiene presin alta, su azcar en la sangre es alto, es alrgico a
antibiticos y NO tiene otras alergias.
2.- Tiene presin alta, su azcar en la sangre es alto y NO es alrgico a los
antibiticos.
3.- Tiene presin arterial alta y su azcar en la sangre es bajo.
4.- Tiene presin arterial media y su ndice de colesterol es bajo.
5.- Tiene presin arterial baja
RBOLES DE DECISIN
UTILIZADOS EN SISTEMAS
EXPERTOS
No se le administrara el frmaco X si:

1.- Tiene presin arterial alta, su azcar en la
sangre es bajo, es alrgico a los antibiticos y
SI tiene otras alergias.
2.- Tiene presin arterial media y su ndice de
colesterol es alto.
Estructura de un rbol de
decisin
Un rbol de decisin es una forma grfica y
analtica de representar todos los eventos
(sucesos) que pueden surgir a partir de una
decisin asumida en cierto momento.
Ayudan a tomar la decisin ms acertada,
desde un punto de vista probabilstico, ante
un abanico de posibles decisiones.
Permite desplegar visualmente un problema y
organizar el trabajo de clculos que deben
realizarse.
Terminologa
Nodo de decisin: Indica que una decisin
necesita tomarse en ese punto del proceso. Est
representado por un cuadrado.

Nodo de probabilidad: Indica que en ese punto del
proceso ocurre un evento aleatorio. Est
representado por un crculo.

Rama: Muestra los distintos caminos que se pueden
tomar cuando se toma una decisin o bien ocurre
algn evento aleatorio.
Representacin grfica

Pasos para el Anlisis del rbol
de Decisin

Definir el problema.
Dibujar el rbol de decisin.
Asignar probabilidades a los eventos aleatorios.
Estimar los resultados para cada combinacin
posible de alternativas.
Resolver el problema obteniendo como
solucin la ruta que proporcione la poltica
ptima.
Ejemplo: Conceder un
prstamo

Ejemplo
Una compaa de seguros ofrece una
indemnizacin por accidente de $210.000. Si no es
aceptada la oferta y se decide ir a juicio se puede
obtener $185.000, $415.000 o $580.000
dependiendo de las alegaciones que el juez
considere aceptables. Si se pierde el juicio, se
debe pagar las costos que ascienden a $30.000.
Sabiendo que el 70% de los juicios se ganan, y de
stos, en el 50% se obtiene la menor
indemnizacin, en el 30% la intermedia y en el 20%
la ms alta, determinar la decisin ms acertada.
El rbol de decisin asociado
ser:

Poltica ptima

Ejercicio
Frank Jones es un estudiante de ltimo curso
de la Titulacin de Ingeniera Tcnica en
Informtica de Gestin y quiere empezar a
hacer curriculm. El servicio Central de
Informtica de la Universidad ha convocado
unas becas para trabajar en el servicio. Los
solicitantes deben superar dos pruebas: una
terica que se realizar el prximo 30 de
noviembre y una prctica para quienes
superen la prueba terica que an no est
programada.
La beca esta dotada de una retribucin
mensual de 1.000 euros libres de toda carga.

Ejercicio
Por otra parte, el Ayuntamiento de Huelva ha
convocado mediante concurso la provisin de
un puesto de Ayudante de Informtica que se
dedicar a la formacin tcnica de los
empleados. El puesto tiene una remuneracin
mensual de 1500 euros y habr que superar
una entrevista personal con el jefe del servicio
en el ayuntamiento programada para el 30 de
noviembre y un examen terico-prctico para
quienes superen la prueba terica.
Ejercicio
Frank esta nervioso, pues no sabe a qu carta
jugar. Por un lado se siente seguro de sus
conocimientos tericos y piensa que si solicita
la beca tiene un 70% de posibilidades de
aprobar la prueba terica y un 40% de
aprobar la prctica, pero si se decanta por
concursar en el ayuntamiento considera que
con su nerviosismo las posibilidades de superar
la entrevista se reducen al 40% y la
probabilidad de superar el examen terico-
prctico la estima en el 50%.
Ejercicio
Dado que la primera prueba para la beca y
para el ayuntamiento coinciden, decidir:
a) a cul deber asistir si lo que desea Frank
es maximizar su ganancia mensual esperada?
b) a cul deber asistir si lo que desea Frank si
su objetivo es maximizar la probabilidad de
obtener alguna ganancia?

Ejercicio
Solucin:
a) Lo primero es construir el rbol con las
alternativas, probabilidades asociadas y
resultados.
Posteriormente calcular la esperanza de los
valores de los nodos, y asignarlos a los arcos.

Solucin:
Lo primero es construir el rbol con las alternativas,
probabilidades asociadas y resultados
Solucin:
Una vez representados los nudos y las ramas, con sus
probabilidades, as como los resultados asociados a ese
cada camino, se procede de derecha a izquierda para
determinar el valor asociado a cada vrtice. El valor
asociado a un nudo aleatorio es la esperanza
matemtica de los valores situados al final de las ramas
que parten de el: