UNIVERSIDADE ESTADUAL DE MARING

SISTEMAS INTELIGENTES: REDES NEURAIS E REDES BAYESIANAS

3 TRABALHO

Responsveis: DANIEL MARQUES CALEGARI IGOR L. G. SHORT LUCAS ALMEIDA FAUSTINI

RA: 57517 RA: 57586 RA: 57604

Maring

07/12/2012
1

TRABALHO DE SISTEMAS INTELIGENTES INDICE

1. INTRODUO REDES BAYESIANAS 2. CONCEITO REDES BAYESIANAS 3. APLICAES E FERRAMENTAS 4. CONCLUSO REDES BAYESIANAS 5. INTRODUO REDES NEURAIS 6. CONCEITO REDES NEURAIS 7. APLICAES E FERRAMENTAS 8. CONCLUSO REDES NEURAIS

3 4 6 8 9 10 12 15

9. COMPARATIVOS ENTRE REDES NEURAIS X REDES BAYESIANAS 16 10. BIBLIOGRAFIA 17

1. Introduo Redes Bayesianas

A incerteza sempre esteve presente na humanidade, e desde sempre o homem busca mtodos, para estruturar essas incertezas futuras, e assim tomar suas decises. No inicio dos anos 1980, para facilitar um sistema de incerteza em sistemas de inteligncia artificial, foi desenvolvido as redes bayesianas, que tem esse nome por ter origem no teorema de Bayers. Essas redes tem como funo mostrar as dependncias causais entre as variveis da maneira mais clara, em funo de sua forma grfica, criando um modelo matemtico que possa representar uma relao de causa e efeito. Em geral redes bayesianas utiliza dados probabilsticos para tomar decises baseado em incertezas, onde ns representam variveis e arcos representam conexes entre eles. Rede bayesiana vem sendo muito utilizada na atualidade, para problemas com conhecimento probabilstico, e vem sendo aplicada em diversas reas, como por exemplo, medicina, financeira e etc.

2. Conceito
Uma rede bayesiana um grafo acclico direcionado, onde os ns representam variveis aleatrias e os arcos direcionados ilustram as relaes de causa e efeito. Exemplificando, se existe uma relao entre um acidente com um produto domestico e este produto no atende bem s necessidades Y, tem se uma rede bayesiana, a Figura 1 ilustra a situao.

Podemos dizer ento que X exerce uma influncia sobre Y, e que as probabilidades condicionais P(Y|X) e P(Y|Xc) (no ter sofrido acidente com um produto domestico) mostram a causalidade entre X e Y. Essas probabilidades, somadas com P(X) compes o conjunto de parmetros de quantificao da rede bayesiana. Portanto, redes bayesianas alem de um documento grfico sobre causalidades, como tambm uma eficiente analisadora de dados representando distribuio de probabilidades condicionais. Em um algoritmo, a rede bayesiana funcionaria assim, uma incerteza de causa, e as probabilidades de acontecer, retornando uma ao, exemplo de algoritmo: Funo RP-Agente(percepo) retorna ao { Esttico: conjunto de sentenas probabilsticas a respeito do problema. Calcula novas probabilidades para o estado atual baseado na evidncia disponvel incluindo a percepo atual e a ao anterior. Calcula as probabilidades para as possveis aes, dado a descrio das aes e as probabilidades atuais. Seleciona a ao com a maior expectativa. Retorna ao. } Os clculos de probabilidade podem ser probabilidade incondicional, condicional, tabela de conjuno de probabilidades.
4

Probabilidade condicional: P(a|b) = P(a|b)P(b)/P(a), com P(a|b) = x pode ser interpretada como "dado o evento b, a probabilidade do evento a x" Probabilidade Incondicional: A probabilidade de P(a) de um evento a um nmero dentro de um internado [0,1] Tabela de conjuno de probabilidades: P(A|B) = P(A, B) /P(B), a tabela n x m representada pela probabilidade de cada configurao (Ai,Bi), representa todo o domnio.

3. Aplicaes e Ferramentas
Redes Bayesianas vem sendo usadas em diversas reas, mais principalmente na rea de diagnostico mdico, segue abaixo alguns projetos que utilizam a aplicao de redes bayesianas. Pathfinder, Heckerman 1990. Stanford Sistema para diagnsticos de problemas nas glndulas linfticas. O sistema trata mais de 60 enfermidades sob as probabilidades de mais de 100 causas (sintomas e resultados de testes mdicos). Map Learning, Ken Basye 1990. Brown University Este projeto combina problemas de diagnostico e teoria de deciso. Um rob deve percorrer um labirinto, procurando aprender os caminhos percorridos e, ao mesmo tempo, explorar caminhos desconhecidos. O rob deve ponderar entre seguir um caminho conhecido at seu objetivo e a tentativa de se descobrir um novo caminho. AutoClass, NASAs Ames Research Center, 1998 - Sistema de explorao e aquisio de conhecimento espacial. Este projeto est desenvolvendo uma rede bayesiana que permita a interpolao automtica de dados espaciais oriundos de diferentes observatrios e planetrios espalhados pelo mundo. Lumiere, Microsoft Research, 1998 O projeto pretende criar um sistema que possa automaticamente e inteligentemente interagir com outros sistemas, antecipando os objetivos e necessidades dos usurios. Uma aplicao no Brasil ocorre na preveno de gestao de alto risco, que no pais mata a cada hora duas mulheres no Brasil por patologias relacionadas gestao (Ministrio da Sade, 2000). Nesse projeto foi usada a ferramenta, NETICA, da Norsys (www.norsys.com), a modelagem da rede bayesiana realizada em duas etapas distintas. Na primeira, as variveis essenciais ao processo de tomada de deciso para identificar uma gestante com probabilidade de desenvolver parto prematuro ou dar a luz recm nascido de baixo peso so utilizadas para criar a rede semntica. Aps, os valores de probabilidade condicional e a priori so inseridos na rede.
6

As variveis analisadas so: idade, classe social, formao, dados clnicos e de exames complementares do pr-natal, histrico pessoal e familiar, dentre outros. A estas variveis se estabeleceram atributos e valores de probabilidades individuais atravs de anlises de literatura e extensa pesquisa com profissionais especialistas em Gestao de Alto Risco. O algoritmo a partir dessas variveis, faz uma seleo com base em dados recebidos de especialistas e analisa se a paciente tem alto risco. O fluxo funciona assim:

Os Resultados desse projeto so o grau de assertividade do sistema criado e o grau de efetividade na reduo da prematuridade e de recm nascidos de baixo peso. Outras ferramentas usadas em Redes Bayesianas so: Hugin, GeNIe.

4. Concluso
Atravs do trabalho, pode se concluir que redes Bayesianas constituem uma boa alternativa para construo de mostrar de forma natural a representao de informaes condicionalmente independentes. Trabalhando bem com incerteza, trazendo solues onde concluses no podem ser obtidas apenas com o domnio do problema. Suas Vantagens so de poder ser executadas em tempo linear, com uma distino correta de dados consegue uma boa resposta, softwares desenvolvidos para auxiliar na sua utilizao. Diante de mundo de incertezas, a utilizao de redes bayesianas se torna cada vez maior para dar suporte para polticas de desenvolvimento ou de melhoria de problemas, atravs de sua matemtica probabilstica rigorosa e eficiente.

5. Introduo Redes Neurais

O crebro humano considerado o mais fascinante e brilhante processador baseado em carbono existente, sendo composto por aproximadamente 10 bilhes neurnios. Todo o funcionamento do corpo relacionado ao funcionamento destas clulas. So com base nessa biolgica humana que foi criada as redes neurais artificial, que tentam imitar o funcionamento do crebro humano. Cada neurnio tem dois ou mais receptores de entrada, responsveis por perceberem um determinado tipo de sinal, eles tambm possuem um corpo de processadores responsvel por um sistema de feedback que modifica sua prpria programao dependendo dos dados de entrada e sada, e finalmente eles possuem uma sada binria para apresentar a resposta SIM ou No, dependendo do processamento. Cada neurnio artificial capaz de um nico processamento. Como ela possui um sistema de opinio que modifica sua programao, redes neurais so capazes de aprendizado, atravs de tentativas e processos sem erro.

6. Conceito Redes Neurais

As redes neurais tem um funcionamento de uma implementao de um algoritmo muito simples, elas caracterizam se por uma seqncia de fatos, sinais so apresentados entrada, cada sinal multiplicado por um nmero, ou peso, que indica sua influncia na sada da unidade; feita a soma ponderada dos sinais que produz um nvel de atividade; Se este nvel de atividade exceder certo limite (threshold) a unidade produz uma determinada resposta de sada. Cada neurnio artificial capaz de um nico processamento, por isso cada entrada recebe somente um tipo de sinal ou informao. Como um neurnio pode receber opes variadas de entradas, ento ele pode perceber diferentes sinais. Porm, ligar vrios neurnio similares em rede, faz com que o sistema consiga processar mais informaes e oferecer mais resultados. Por isso redes neurais caracterizam por ter um grande nmero de elementos de processamento bem simples. Suas entradas possuem um relacionamento direto com as sadas desejadas. Basicamente um modelo neural consiste em uma rede de celular relativamente autnomas, dotadas de capacidade de processamento. As clular so ligadas por conexes, cada uma com um peso associado, que corresponde influncia da clular no processamento do sinal de sada. Pesos positivos correspondem a fatores de reforo do sinal de entrada e pesos negativos correspondem a fatores de inibio. Os modelos geralmente apresentam um conjunto de clulas de entrada, por onde so passadas informaes para a rede, um conjunto de clular de sada, que apresentam os sinais de sada da rede e um conjunto de clular intermedirias. A maioria dos modelos de redes neurais possui alguma regra de treinamento, onde os pesos de suas conexes so ajustados de acordo com os padres paresentados. Em outras palavras elas aprendem atravs de exemplo. Usualmente as camadas so classificadas em trs grupos, Camada de Entrada, Camadas Intermedirias ou Escondidas, Camada de Sada. As redes neurais possuem processos de aprendizagem, que so baseados no processo iterativo de ajustes aplicado os seus pesos, o treinamento, o aprendizado ocorre quando a rede neural chega a uma soluo geral para uma classe de problemas. A grande vantagem disso que para executar tarefas uma rede neural no precisa guardar instrues de comando e execut-las de forma lgica, como num computador tradicional. Ao invs disso a rede aprende o que precisa ser feito e executa a funo.
10

As vantagens de redes neurais so, controle altamente paralelo e distribudo; capacidade de aprendizado atravs da observao de um conjunto de exemplos sendo estes com ou sem informao de respostas desejadas a cada estimulo; robustez, isto , uma queda de desempenho gradual na eventualidade de mal funcionamento ou at mesmo inutilizaro de parte da rede; Manuteno do desempenho na presena de rudo e capacidade de lidar com dados completos. Existem duas formas bsicas de aprendizado de redes neurais: aprendizado supervisionado e aprendizado no supervisionado. No aprendizado supervisionado, um agente externo (professor) apresenta rede neural alguns conjuntos de padres de entrada e seus correspondentes padres de sada. Portanto, necessrio ter um conhecimento prvio do comportamento que se deseja ou se espera da rede. Para cada entrada, o professor indica explicitamente se a resposta calculada boa ou ruim. A resposta fornecida pela rede neural comparada resposta esperada. O erro verificado informado rede para que sejam feitos ajustes a fim de melhorar suas futuras respostas. Na aprendizagem no supervisionada, ou aprendizado auto-supervisionado, no existe um agente externo para acompanhar o processo de aprendizado. Neste tipo de aprendizagem, somente os padres de entrada esto disponveis para a rede neural. A rede processa as entradas e, detectando suas regularidades, tenta progressivamente estabelecer representaes internas para codificar caractersticas e classific-las automaticamente. Este tipo de aprendizado s possvel quando existe redundncia nos dados de entrada, para que se consiga encontrar padres em tais dados.

11

7. Aplicao e Ferramentas
Redes neurais so aplicadas em diversas reas, abaixo alguns projetos onde foram aplicados: Aplicaes de softwares na analise de credito. Um sistema inteligente para tomada de deciso sobre autorizao de compra com carto de crdito utilizada pela American Express resultou em uma economia de 20% no temo mdio gasto em cada transao e a qualidade das decises tomadas por este sistema foram em mdia 50% melhores que decises tomadas pelo pessoal de autorizao de crdito. Mastercard e Visa esto investindo em projetos para construo de sistemas semelhantes, utilizando RNA, para avaliao de propostas de novos clientes, deteco de fraudes, e avaliao para autorizao de compra ("Visa using neural networks to identify cardholder fraud", Card Neus, Maro, 20, 1995) Neste caso a aplicao comea com a coleta de dados, um prprocessamento dos dados, todos os dados de uma transao so prprocessados. A segunda parte a separao dos conjuntos de dados, entre os adimplentes e os inadimplentes, e o critrio segue exatamente o padro da RNA com a alimentao de informaes pesos em cada etapa da avaliao. Aps um determinado ciclo de treinamento, comeam aparecer efeitos do parmetro de aprendizado. Neste caso, foi de ciclos de 300 treinamentos. Os resultados desta aplicao foi 38-20-8-2, a rede foi inicializada com pesos aleatrio no intervalo [-0.5,0.5], com taxa de aprendizado n:0.025 e termo momentum u:0.025, o treinamento foi realizado durante 1000 ciclos e utilizou o algoritmo de aprendizado backpropagation com termo momentum. Redes neurais e sua aplicao em sistemas de recuperao de informao (Edberto Ferneda Professor doutor do curso de cincias da informao e Documentao da Faculdade de Filosofia Cincias e Letras de Ribeiro Preto USP ) Este projeto apresenta as principais iniciativas de se aplicarem conceitos de redes neurais aos sistemas de recuperao de informao e avalia sua aplicabilidade em grandes bases documentais, como o caso da web. A metodologia utilizada foi feita com banco de casos que foi coletado das Planilhas de Investigao de Casos da Diviso de Vigilncia Epidemiolgica, da Prefeitura Municipal da cidade de Terespolis (RJ 12

Brasil) compreendendo os anos de 1992 a 1997. Foram detectados 8 tipos de classes diagnsticas, separadas de acordo com as manifestaes apresentadas: hemfilo, vrus, pneumococo, tuberculsica, meningoccica, meningococcemia, meningite meningoccica associada meningococcemia e meningite no especfica. Dos 163 casos encontrados nas planilhas de investigao de casos, apenas 100 foram representativos. Destes 100 casos, 65 foram reservados para treinamento e 35 para os testes finais. As entradas foram classificadas em: sinais fsicos, dados laboratoriais e dados clnicos. Estas variveis foram discretizadas (zero: ausente e um: presente) de forma a atenderem as exigncias do problema, formando um total de 34 variveis (neurnios) no conjunto de entrada. Aplicaram-se dois tipos de RNA, o primeiro modelo, foi a Rede de KOHONEN que tem aprendizado no-supervisionado. Esta rede tem como caracterstica captar similaridades e correlaes nas entradas fornecidas. Sendo assim, os neurnios de sada competem entre si, sendo que o vencedor deve estar ativo como resposta a uma entrada determinada. Cada neurnio se especializa numa rea diferente do espao de entradas e suas sadas podem ser usadas para representar a estrutura do espao de entradas. Neste caso, a situao de diagnstico pode ser descrita onde no se possui de antemo valores para todas as variveis do problema e tampouco todas as variveis so necessrias para se determinar o diagnstico correto para todas as situaes. A rede de KOHONEN [2] foi escolhida, pois, como a relevncia das variveis para contexto (diagnstico) pode ser desconhecida, precisava-se de uma tcnica capaz de agrupar as informaes de forma a representar esses contextos. A configurao da rede conta com 34 neurnios na camada de entrada, 16 neurnios na camada de sada. O segundo modelo, a Rede de GALLANT tem aprendizado supervisionado, isto , quando utilizado um agente externo que indica rede a resposta desejada em relao ao padro de entrada fornecido, sendo assim, foi necessrio elaborar um conjunto de sada esperado composto por 8 neurnios, referentes s 8 classes diagnsticas Para esta rede o simulador utilizado foi o Brain Maker Simulated Biological Intelligence V2.51, California Scientific Software, 1992. camada de entrada formada somente pelos dados clnicos, que iro gerar uma lista de hipteses intermedirias. As hipteses intermedirias associadas aos resultados laboratoriais formaro a camada intermediria que serviro de input para a camada de sada. Assim, a rede conta com 34 neurnios na camada de entrada, uma camada escondida, uma camada de sada com 8 neurnios. Os resultados obtidos deram que no aprendizado no supervisionado, a de KOHONEN, os resultados foram satisfatrio e de
13

maneira uniforme, com margem de acerto nos diagnotiscos de 83%. J na segunda tentativa com a simulao de rede GALLANT, no foi obtido resultado satisfatrio, a rede no foi capaz de representar esse domnio, nem de generalizar e aprender com o ambiente diante de informao incompleta. Uma aplicao e desenvolvimento de rede neural geral seguida pelo seguintes passos, primeiramente feita a coleta de dados relativos ao problema e sua separao em um conjunto de treinamento e um conjunto de testes.Normalmente, os dados coletados so separados em duas categorias: dados de treinamento, que sero utilizados para o treinamento da rede e dados de teste, que sero utilizados para verificar sua performance sob condies reais de utilizao. Alm dessa diviso, pode-se usar tambm uma subdiviso do conjunto de treinamento,criando um conjunto de validao, utilizado para verificar a eficincia da rede quanto a sua capacidade de generalizao durante o treinamento, e podendo ser empregado como critrio de parada do treinamento.Depois de determinados estes conjuntos, eles so geralmente colocados em ordem aleatria para preveno de tendncias associadas ordem de apresentao dos dados. Alm disso, pode ser necessrio prprocessar estes dados, atravs de normalizaes, escalonamentos e converses de formato para torn-los mais apropriados sua utilizao na rede. Uma ferramenta utilizada o backpropagation onde o aprendizado baseia-se na propagao retrgrada do erro para os nveis anteriores da rede, de acordo com o grau de participao que cada neurnio teve no nvel posterior. Outras ferramentas em redes neurais so DATA MINING, NEUROFURG, uma ferramenta da Universidade Federal do Rio Grande.

14

8. Concluso Redes Neurais

Uma das melhores, se no a melhor caracterstica das redes neurais sua habilidade de generalizar, isto , classificar com sucesso modelos que no foram anteriormente apresentados, a partir do momento que esta apresentada rede uma gama larga de modelos no treinamento, qualquer novo modelo com entradas similares a um dos modelos treinados ser bem classificada. Pode se concluir tambm que as Redes Neurais Artificiais esto cada vez mais presentes no dia a dia para solucionar problemas dirios. importante e relevante destacar que esta rede possui uma interessante habilidade de aprender em seu ambiente e uma aprendizagem continua que melhora significativamente seu desempenho.

15

9. Comparao entre Redes Bayesianas e Redes Neurais

Redes neuronais (redes neurais no Brasil), ou, mais propriamente, redes neuronais artificiais, so sistemas computacionais estruturados numa aproximao computao baseada em ligaes. Ns simples (ou neures, neurnios, processadores ou unidades) so interligados para formar uma rede de ns - da o termo rede neuronal. A inspirao original para essa tcnica advm do exame das estruturas do crebro, em particular do exame de neurnios, e sua tcnica se baseia, na aprendizagem. J redes Bayesianas uma estrutura de dados para representar as dependncias entre variveis e fornecer uma especificao consta de qualquer distribuio de probabilidade conjunta total. Ela analisa dados probabilsticos e resolve uma ao baseado nesses dados, propicio para problemas de incerteza. Em uma comparao de caractersticas entre elas, temos que redes bayesianas utilizam representaes locais, as variveis possuem dois nveis de ativao, pode tratar qualquer subconjunto das variveis como entrada, no implementvel em hardware, j redes neurais tem, representao global distribuda, variveis discretas ou continuas, entras e sadas fixas, difcil insero de conhecimento a priori, implementvel em hardware. Conclui-se que cada uma das redes tem seus pr e seus contras, e sua melhor aplicabilidade para cada tipo de problemas.

16

10. Referencias Bibliogrficas

http://www.tecmundo.com.br/programacao/2754-o-que-sao-redesneurais-.htm http://pt.wikipedia.org/wiki/Rede_neural http://www.din.uem.br/ia/neurais/ http://www.ccuec.unicamp.br/revista/infotec/artigos/claudia.html http://www.infowester.com/redesneurais.php http://www.slideshare.net/cardoso083/aplicaes-de-redes-neurais2010#btnNext http://pt.scribd.com/doc/30239982/Redes-Neurais-Artificiais http://www.lx.it.pt/~afred/docencia/Percepcao_2006/acetatos/rb.pdf http://www.sbis.org.br/cbis9/arquivos/461.PDF http://www.cos.ufrj.br/~ines/courses/cos740/leila/cos740/aprBayesianas .pdf http://pt.wikipedia.org/wiki/Rede_bayesiana P. Braga, A. P. L. F. de Carvalho, T. B. Ludermir. Fundamentos de Redes Neurais Artificiais. Rio de Janeiro, Brasil, 1998. T. M. Mitchell, Machine Learning, McGraw-Hill, 1997. Artigo "Projeto e Anlise de uma Rede Neural para resolver problemas de Programao Dinmica", Ed. Consultura Profa. Dra. Sandra A Sandri, 1999 UNESP/FE/DEE BARRETO, Alexandre; VIEIRA, Renato C.; NASSAR, Silvia M. Redes Bayesianas e Produo de Conhecimento: uma abordagem de data-mining em dados de um concurso vestibular. In: 35 Reunio Regional da ABE/SOBRAPO, Florianpolis-SC, 2003 e V Escola Regional da Sociedade Brasileira de Computao (SBC) - Centro-Oeste, 2002. B ITTENCOURT, Guilherme. Inteligncia Artificial: ferramentas e teorias. Florianpolis: Editora da UFSC, 2001. MEYER, Paul L. Probabilidade: Aplicaes Estatstica. Rio de Janeiro: LTC, 1975.

17