El perseptron multinivel.

Un preceptron multinivel o multicapa es una red de tipo feedforward compuesta por varias capas de neuronas entre la entrada y la salida de la misma. Esta red permite establecer regiones de decisin mucho ms complejas tal como lo hacia un perseptron de un solo nivel.

X1 X2 X3

Y1 Y2 Y3

Xn

Yn

La capacidades del perseptron con 2 ,3 o 4 niveles o capas y con una nica sola neurona de salida, se muestra en la figura 2. En la segunda columna se muestra el tipo de regin de decion que se formara para el problema de la XOR. En las dos ultimas columnas se muestran las regiones formadas para resolver el problema de clases con regiones mezcladas y las formas de regiones mas generales para cada uno de los casos. El perseptron bsico de dos capas (la de entrada con neuronas lineales y salida con funcin de tipo escaln) solo puede establecer dos regiones. Separada por una frontera lineal en el espacio de patrones de entrada. Un perseptron con 3 niveles de neuronas pueden formar cualquier regin convexa en este espacio. La regiones convexas se forman entre la intercepciones formadas por cada neurona de la segunda capa. Cada uno de estos elementos se comporta como un perseptron simple, activndose su salida de un lado del hiperplano. Si el valor de los pesos de las conexiones entre las n2 neuronas de la segunda capa y una neurona del nivel de salida son todos 1 y el lumbral de la salida es (N2-a) donde a tiene un valor mayor que cero y menor que 1 (entre 0 y 1(0<a<1)), entonces la salida de la red se activara solo si la salidas de todos los nodos de la segunda capa estn activos. Esto equivale a ejecutar la operacin lgico AND en el nodo de salida, resultando una regin de decisin interseccin de todos los semiplanos formados en el nivel anterior. La regin de decisin resultante de la interseccin sern regiones convexas con un nmero de lados a lo sumo igual al nmero de neuronas de la segunda capa. Un perseptron con 4 capas puede formar regiones de decisin arbitrariamente compleja. El proceso de separacin en clases que se lleva a cabo consiste en la particin de la regin deseada

en pequeos hipercubos (cuadrados para dos entradas de la red). Cada hipercubos requiere 2n neuronas en la segunda capa (siendo n el numero de entradas a la red), una por cada lado del hipercubo, y otra en la tercera capa que lleva acabo el AND lgico de la salida de los nodos del nivel anterior. Las salidas de los nodos de este tercer nivel se activaran solo para las entradas de cada hipercubo. Los hipercubos se asignan a la regin de decisin adecuada mediante la conexin de la salida de cada nodo del tercer nivel solo con la neurona de salida (4ta capa) correspondiente a la regin de decisin en la que esta comprendido el hipercubo, llevndose acabo una operacin lgica OR en cada nodo de salida. La operacin lgica OR se llevara a cabo solo si el valor de los pesos de las conexiones de los nodos del tercer nivel vale 1, adems del valor de los umbrales de los nodos de salida es 0.5. este procedimiento se puede generalizar de manera que la forma de las regiones convexas sea arbitrarias, en lugar de hipercubos.

El anlisis anterior demuestra que no se requiere mas de 4 capas en una red de tipo perseptron, pues como se ha visto una red con 4 niveles puede generar regiones de decisin complejas solo en ciertos problemas se pueden simplificar el aprendizaje mediante el aumento del numero de neuronas ocultas. Sin embargo, la tendencia es el aumento a la extensin ala funcin de activacin, en lugar del aumento de la complejidad de la red. Esto de nuevo nos lleva al problema del nmero de neuronas que debemos de seleccionar para un perseptron con 4 capas.