Académique Documents
Professionnel Documents
Culture Documents
1
Uma extensão do Perceptron simples capaz de trabalhar com problemas
não-linearmente separáveis, através da utilização de (pelo menos) uma
camada intermediária entre a entrada e a saída.
Breve Histórico
Até o início dos anos 70 não existia um algoritmo de aprendizado
para redes multicamadas. O aprendizado back-propagation foi
desenvolvido de maneira independente por vários pesquisadores:
2
Estrutura da Rede
3
2. Aprendizagem – Regra Delta Generalizada
4
5
3. O Algortimo Back-propagation
12
6
1. Inicialize os pesos da rede em valores randomicos pequenos.
2. Escolha randomicamente um padrão de entrada p.
3. Propague o sinal para frente através da rede.
4. Calcule o valor de delta para cada unidade o na camada de saída:
5. Atualize os pesos:
7. Volte ao Passo 2 e repita os passos restante para o próximo padrão, até que
o erro na saída da rede seja menor que um valor de limiar pré-especificado
ou o número máximo de épocas (apresentação do conjunto de exemplos)
tenha sido alcançada.
14
7
15
16
8
17
18
9
Deficiência do Back-propagation
19
20
10
Quantos exemplos de treinamento?
21
22
11
Quantas unidades escondidas?
12
4. Aplicações RNA Multicamadas Back-propagation
26
13
• Iris Classification
• The Smoker and the Risk of Cancer
• Gas Consumption Prediction
• Handwritten Characters Recognition
• Bank Loan Decision
• Inverted Pendulum
• Medical Diagnosis
• Mortgage approval
• Traveling Salesman
• Resource Scheduling
• Unemployment prediction
• Musical signals-to-notes transformation
• Playing ticktacktoe
• Predicting beer sales
• Stock Market Prediction
• Water Flow to a Sewage Plant Prediction
28
14
29
✓ Classificação da Iris
15
SL - comprimento sepal, PL - comprimento petal
SW - largura sepal, PW - largura petal
31
16
33
.
.
.
17
35
18
37
19