Adaline

Informática UFRGS

Prof. Paulo Martins Engel

1. O ADALINE

Redes Neurais
O ADALINE e o algoritmo LMS

• No contexto de classificação, o ADALINE [B. Widrow 1960] pode ser visto como um perceptron com algoritmo de treinamento baseado em minimização de um índice de desempenho médio sobre o arquivo de treinamento (algoritmo LMS). • A especificação dos pesos do ADALINE segue critérios bem definidos que visam minimizar o erro médio quadrado (EMQ) na saída do ADALINE. • O elemento adaptativo do ADALINE é o Combinador Linear Adaptativo (CLA), e a saída do ADALINE pode ser binária, se a função de ativação utilizada for a hardlimiter (degrau), ou contínua, se a função for do tipo sigmóide (ou linear). • Quando a saída do ADALINE for contínua, o elemento realiza a tarefa de regressão. • Bernard Widrow [1962] propôs o uso de redes de múltiplos ADALINEs, MADALINEs, para problemas de classificação. • Neste caso, a primeira camada era adaptativa e a segunda (de saída) era composta de funções de limiar fixas (AND, OR, MAJ). • O ADALINE é capaz de solucionar problemas linearmente separáveis não determinísticos (com ruído).
2

Prof. Paulo Martins Engel

Informática UFRGS

Prof. Paulo Martins Engel

Informática UFRGS

Prof. Paulo Martins Engel

Regressão
Problema LS com ruído Problema NLS

• O problema de estimar uma função a partir de um conjunto de exemplos entrada-saída com algum ou nenhum conhecimento da forma da função é comum a várias áreas, recebendo nomes distintos: regressão, aproximação de funções, identificação de sistemas e aprendizagem indutiva. • No domínio das RN, este problema genérico é tratado como aprendizagem supervisionada e na estatística como regressão. • O poder computacional do ADALINE é equivalente a um regressor linear. • Entretanto, a saída do ADALINE pode ser modificada por uma função de ativação não-linear, o que o torna um componente não-linear em redes mais complexas capazes de aproximação de funções não-lineares.
3 4