Razonamiento con Incertidumbre

Actividades


Probabilidad
1. Asumiendo que A y B son dos eventos independientes, demuestra
que ~A y ~B son independientes.
2. Alguien tiene tiene una de dos posibles enfermedades: tifoidea (T)
o hepatitis (H), y dos sntomas: dolor de cabeza (D) y fiebre (F).
Dados:
P(T) = 0.6
P(D|T) = 0.7
p(D|-T) = 0.4
P(F|T) = 0.9
P(F|-T) = 0.5
a) Describe el espacio de muestreo
b) Obten la probabilidad de que tenga hepatitis dado que tiene dolor
de cabeza y no tiene fiebre, asumiendo que cada sntoma es
independiente dada la enfermedad



Teoria de Informacion
3. En cierto lugar el clima se comporta estadisticamente de la
siguiente manera: de 365 dias, 200 lluvia, 60 nublados, 40 sol, 20
nieva, 20 tormenta, 10 graniza, 10 viento y 5 llovizna
a) Si cada dia se envia un mensaje con el clima, que informacion da
para cada tipo de clima?
b) Cual es el promedio de bits de informacion que da el mensaje?

Grafos
4. Para el grafo de la figura:
a) ordena los nodos de acuerdo a maxima cardinalidad
b) triangula el grafo
c) determina los cliques
d) ordena los cliques y verifica la propiedad de interseccion secuancial
e) construye el (o los) arboles de cliques




Clasificadores
5. Implementa un clasificador bayesiano en MatLab. El programa
debe tener dos funciones separadas:
Estimador: a partir de la tabla de datos que lee de un archivo,
estima los parametros requeridos (probabilidades a priori y
condicionales) y los guarda en otro archivo
Clasificador: de un vector de atributos (que puede ser leido del
teclado o de un archivo), da la probabilidad de cada clase e
indica la clase de mayor probabilidad
Instrucciones:
Envia tus programas como dos archivos (uno para cada parte)
con nombre del archivo: <Iapellido1>.m para el estimador y
<Iapellido2>.m para el clasificador, donde "I" es tu inicial (no
deben llamar otras funciones que no sean las de MatLab y de
preferencia asegurarse que su programa corra en la version 6).
Por ejemplo, si fueran mis archivos, serian: esucar1.m y
esucar2.m
El estimador debe leer los datos de un archivo texto - un
registro por renglon, con la clase como ultimo elemento
separados por blancos (ver archivo muestra) y escribir los
parametros a otro archivo que lea el programa clasificador
Debe funcionar al menos para los datos de golf, y si prueban
con otros datos, anexar el archivo de datos.
Si utilizan un archivo para casos de prueba, este tambien deben
incluirlo
Los programas deben estar documentados, en particular deben
tener un "preambulo" que describe la funcion, el cual despliega
MatLab con "help".
ENVIAR SUS PROGRAMS A LA CUENTA:
esucar.mor@servicios.itesm.mx (no se aceptan en la otra
cuenta)


Modelos Ocultos de Markov
6. Para el ejemplo del HMM de dos monedas cargadas (de la clase) y
considerando la secuencia de observaciones AASS, calcular:
a) Prob. de la secuencia por el metodo directo
b) Prob. de la secuencia por el metodo iterativo
c) Numero de operaciones de (a) y (b) y comparar
d) Estimar la secuencia de estados mas probable (algo. de Viterbi)

Campos de Markov
7. Implementa en MatLab un programa que obtenga la configuracion
mas probable para un CAM considerando un campo bidimensional de
1er orden con potenciales de suavizamiento y lambda variable. Utiliza
el algoritmo ICM considerando un MAP. Ve desplegando el campo
despues de cada iteracion
a). Probar con el ejemplo de la clase: CAM de primer orden de 4
x 4 sitios, donde cada sitio puede tomar los valores [0,1].
Considerando una configuracion inicial de ceros en todos los
sitios, una cierta observacion (figura) y una lambda = 4. Ve que
pasa al variar la lamda.
Observacion (G):

0 0 0 0
0 1 1 1
0 1 0 1
0 1 1 1

b). Prueba con imagenes binarias. Para ello lee una imagen y
conviertela a binaria. Ve que pasa con diferentes valores de
lambda. (lee el tutorial de imagenes en MatLab).

Instrucciones:
Envia tu programa (sin comprimir) como un archivo
con nombre del archivo: <Iapellido2>.m , donde "I" es tu
inicial (no deben llamar otras funciones que no sean las de
MatLab y de preferencia asegurarse que su programa corra
en la version 6). Incluir archivos de datos, cuyo nombre
debe empezar con tu apellido.
Debe funcionar al menos para los datos del
ejemplo.
Los programas deben estar documentados, en
particular deben tener un "preambulo" que describe la
funcion y como se ejecuta, si requiere parametros, etc., el
cual despliega MatLab con "help".
ENVIAR SUS PROGRAMS A LA CUENTA:
esucar.mor@servicios.itesm.mx (no se aceptan en la otra
cuenta)



Redes Bayesianas - representacion
8. Representa el problema 2 de las actividades de Probabilidad
(actividad 1) como una Red Bayesiana utilizando Elvira y resuelve el
caso (b) mediante inferencia en el paquete (hay que bajar Elvira y
leer el manual de usiario).
9. Para la red bayesiana de la figura:
a) Identifica las relaciones de independencia condicional presentes
considerando nodos individuales y pares de nodos - por ejemplo I(C,
AD, B), ... (no es necesario incluir las simetricas)
b) Identifica un ejemplo de cada axioma de independencia en las
realciones del inciso anterior.
c) Identifica la Cobija de Markov de cada nodo.


Redes Bayesianas - propagacion
1. Para la red bayesiana del ejemplo de la clase de propagacion en
arboles (enfermedad), obten la probabilidad posterior (mostrando el
desarrollo) de enferemedad dado Comida=insalubre y Dolor=si
utiliando:
a) El metodo de propagacion en arboles
b) El metodo de eliminacion


EXAMEN PARCIAL
Se evalua la comprension de los conceptos vistos hasta ahora, asi
como la capacidad de aplicarlos en la solucion de problemas. El
examen consta de 2 partes: conceptos y problemas. Abarca los
siguientes temas:
probabilidad y grafos
metodos basicos y clasificacion
HMM
CAM
Redes bayesianas - representacion y propagacion
Pueden sacar una hoja carta con apuntes durante el examen. La
duracion aprox. sera de 2 horas.

PROPUESTA PROYECTO FINAL

Entregar una propusta del proyecto final que contenga el menos lo
siguiente:
1. 1. Problema - que se plantea atacar
2. 2. Objetivos - que se pretende hacer en el proyecto
3. 3. Alcances - hasta donde abarcaria el proyecto
4. 4. Metodologia - como se plantea hacer el proyecto
(utilizando tecnicas vistas o por ver en el curso)
5. 5. Implementacion - como se piensa implementar el
programa a desarrollar
6. 6. Experimentos - como se piensa probar el desarrollo
7. 7. Referencias - bibliografia relacionada al proyecto
El proyecto debe incluir el desarrollo de software utilizando tecnicas
vistas en el curso. Idealmente sera en equipos de dos personas, y
excepcionalmente en forma individual o equipos de 3.

Entregar por escrito la propuesta (maximo 3 cuartillas) a Sonia Garcia
a mas tardar el 5 de abril


Redes bayesianas - aprendizaje

Hacer un programa en MatLab que implemente el algoritmo de
aprendizaje de arboles de Chow-Liu:
El programa debe solicitar al usaurio el nombre del archivo de
datos y producir como salida la red bayesiana (utilizando de
preferencia la representacion del ToolKit de redes bayesianas
en MatLab)
Las direcciones de los arcos las puede determinar el sistema o
pedirselas al usuario
Probar al menos con los datos de "Golf" de la tarea de
clasificadores
Probar, de preferencia, con otros datos y enviar el archivo
BONUS: usar la herramienta de redes bayesianas en MatLab
para leer la red resultante y probarla (propagacion)
Instrucciones:
Envia tu programa (sin comprimir) como un archivo con
nombre del archivo: <Iapellido3>.m , donde "I" es tu inicial (no
deben llamar otras funciones que no sean las de MatLab y de
preferencia asegurarse que su programa corra en la version 6).
Incluir archivos de datos, cuyo nombre debe empezar con tu
apellido.
Debe funcionar al menos para los datos del ejemplo.
Los programas deben estar documentados, en particular deben
tener un "preambulo" que describe la funcion y como se
ejecuta, si requiere parametros, etc., el cual despliega MatLab
con "help".
ENVIAR SUS PROGRAMS A LA CUENTA:
esucar.mor@servicios.itesm.mx (no se aceptan en la otra
cuenta)



Procesos de Decision de Markov

Utilizando el toolkit de MDPs, hacer un programa en MatLab para
resulver el problema de "navegacion" en el mundo de las celdas. Para
esto:
Bajar el toolkit de MDPs del INRIA
Generar el modelo para un un "mundo" de 5 x 5 celdas
utilizando el programa que genera el modelo [programa]. Este
programa genera dos modelos, uno para los obstaculos y otra
para la meta, pero la idea es que los combinen en uno. Para
ello pueden usar cualquiera de las dos matrices de transicion
(son iguales) y deben combinar (sumar) las recompensas.
El programa lo deben llamar de acuerdo a la siguiente
configuracion:





META
donde las celdas blancas estan libres, las negras son
obstaculos, y la meta esta en META.
Una vez generado el modelo, su programa debe resolver el MDP
usando las funciones del toolkit.
Finalmente, debe graficar el valor y la politica para cada estado
(celda).
Enviar su programa a mas tardar el proximo martes a las 10:00
am a esucar.mor@servicios.itesm.mx

PROYECTO FINAL

Entregar un reporte del proyecto final que contenga el menos lo
siguiente:
1. 1. Introduccion - antecedentes, motivacion del proyecto
2. 2. Problema - que se plantea atacar
3. 3. Objetivos - que se resolvio en el proyecto
4. 4. Alcances y limitaciones - hasta donde abarca el proyecto
5. 5. Metodologia - como se resolvio el problema
6. 6. Implementacion - como se implemento el sistema
7. 7. Experimentos y resultados
8. 8. Conclusiones y trabajo futuro
9. 9. Referencias - bibliografia relacionada al proyecto
Utilizar el formato de reportes tecnicos para escribir el reporte

Tambien se debe hacer una presentacion de 10 minutos y una
demostracion del prototipo (2 minutos)

Enviar la presentacion, el programa y reporte a
esucar.mor@servicios.itesm.mx, y entregar una copia impresa del
reporte.