Funções de ativação em redes neuronais

Inteligência Computacional II

Tema - Funções de Ativação em Redes Neuronais

Introdução

Este é um trabalho de pesquisa sobre um elemento chave das redes neuronais: as funções de ativação. Através da re-leitura de artigos, foram definidos conceitos e aplicações das funções nas redes neuronais.
As primeiras informações sobre neurocomputação surgiram em 1943, em artigos do neuroanatomista e psiquiatra Warren McCulloch, do Instituto Tecnológico de Massachusetts, e do matemático Walter Pitts, da Universidade de Illinois. Os autores fizeram uma analogia entre células nervosas vivas e o processo eletrônico, em um trabalho publicado sobre "neurônios formais"; simulando o comportamento do neurônio natural, no qual o neurônio possuía apenas uma saída, que era uma função da soma de valor de suas diversas entradas. O trabalho consistia num modelo de resistores variáveis e amplificadores, representando conexões sinápticas de um neurônio biológico.
Os neurônios são as unidades de processamento das Redes Neurais e, portanto, são fundamentais para o seu funcionamento.

O modelo proposto por McCulloch e Pitts compreende os seguintes elementos:estímulos de entrada, ligações sinápticas e saída. Neste modelo, os pesos sinápticos eram fixos e a saída obtida pela aplicação de uma função limiar (de ativação)

Modelo de um Neurônio Artificial Após o modelo de McCulloch e Pitts, surgiram outras abordagens, dando flexibilidade aos pesos e maior capacidade à Rede Neural; através dos neurônios com funções de ativação não-lineares, das arquiteturas com mais de uma camada e algoritmos apropriados para alterar os pesos sinápticos.
De forma geral, nos neurônios artificiais os seguintes elementos estão envolvidos:
Conjunto de sinapses (W): Ligações entre neurônios. Cada ligação possui um valor (peso), que representa a sua força: os estímulos de entrada são multiplicados pelos repectivos pesos de cada ligação, podendo gerar um sinal tanto positivo (exitatório)