JESUS DANIEL PACHECO VARGAS ID:U00091104

INTELIGENCIA ARTIFICIAL

SEQUENTIAL FEATURE SELECTION

Un método de selección de característica es Selección secuencial de funciones
(Sequential features selection). Este método tiene dos componentes:

 Una función objetivo, llamada el criterio que el método busca minimizar los
subconjuntos de característica global factible.
 Un algoritmo de búsqueda secuencial que añade o elimina características de un
subconjunto candidato mientras se evalúa el criterio.
El método tiene dos variantes:

1. Sequential forward selection (SFS), en el que se añaden secuencialmente

características a un conjunto candidato vacío hasta que la adición de otras
características no disminuya el criterio
2. Sequential backward selection (SBS), en el que las características se eliminan
secuencialmente de un conjunto candidato completo hasta que la eliminación de
otras características incrementa el criterio

Seleccionar un subconjunto de funciones con potencia predictiva

comparativa
Considerando un set de datos con 100 observaciones de 10 predictores.
Lo siguiente genera datos aleatorios de un modelo logístico, con una distribución
binomial de respuestas en cada conjunto de valores para los predictores.

La función glmfit encaja un modelo logístico a los datos.

JESUS DANIEL PACHECO VARGAS ID:U00091104

INTELIGENCIA ARTIFICIAL

Este modelo completo, usando todas las funciones y un término constante inicial.
Sequential feature selection busca para un subconjunto de las funciones en el
modelo completo con poder predictivo comparativo.

Primero se debe especificar un criterio para seleccionar las funciones.

La siguiente función que llama glmfit y devuelve la desviación del ajuste (una
generalización de la suma residual de cuadrados) es un criterio útil en este caso

La función sequentialfs
realiza selección de características llamando a la función de criterio a través de una
maneta de función.
JESUS DANIEL PACHECO VARGAS ID:U00091104

INTELIGENCIA ARTIFICIAL

La desviación del modelo reducido es mayor que para el modelo completo, pero la
adición de cualquier otra característica única no disminuiría el criterio por más de la
tolerancia absoluta, maxdev, establecida en la estructura de opciones.

Agregando una característica significativa resulta en un cambio más grande.

Usted instruye sequentialfs para continuar agregando características siempre y cuando el

cambio en desviación es más de lo que se esperaría por casualidad
El modelo reducido (también con el término constante inicial) es: