UFPR PPGMNE - TC-747 - REDES NEURAIS E APLICAES EM ENGENHARIA

Profa. Andrea Sell Dyminski

2.5 PARADIGMAS DE APRENDIZAGEM

2.5.1 Aprendizagem com um professor
Tambm chamada de aprendizagem supervisionada.
Professor

Tem conhecimento sobre o ambiente

Conhecimento

Conjunto de exemplos Entrada-Sada

OBJETIVO

Fazer com que a RN se iguale ao professor (de

maneira tima estatisticamente).

A priori, a RN desconhece o ambiente.

Vetor
descrevendo
o estado do
ambiente

Ambiente

Professor
Resposta
Desejada

Sistema de
Aprendizagem

Resposta
Real

Sinal de Erro

15

UFPR PPGMNE - TC-747 - REDES NEURAIS E APLICAES EM ENGENHARIA

Profa. Andrea Sell Dyminski

2.5.2 Aprendizagem sem um professor

a) Aprendizagem por reforo/Programao Neurodinmica

Aprendizado de um mapeamento de entrada-sada atravs da interao
contnua com o ambiente, procurando minimizar um ndice escalar de
desempenho.

Aprendizado por reforo atrasado

Observao de uma seqncia

temporal de estmulos
Interao
com
o
ambiente,
aprendendo a realizar uma tarefa
pr-determinada com base apenas
nos resultados de sua experincia

Objetivo da aprendizagem

Ambiente

Vetor de Estado
(entrada)

Minimizao de uma funo de

custo
(cumulativo
de
aes
passadas) para avanar
Reforo
Primrio
Crtico

Reforo
Heurstico
Aes

Sistema de
Aprendizagem

16

UFPR PPGMNE - TC-747 - REDES NEURAIS E APLICAES EM ENGENHARIA

Profa. Andrea Sell Dyminski

Complicaes:
- No existe professor para fornecer a resposta desejada em cada
passo do processo de aprendizagem;
- A mquina de aprendizagem deve ser capaz de atribuir crdito (ou
culpa) individualmente a cada ao na seqncia de passos de tempo
que levam ao resultado final.

b) Aprendizagem No-Supervisionada (ou auto-organizada)

No h professor nem crtico para supervisionar o rpocesso de aprendizado

Aps se ajustar s
regularidades
estatsticas
dos
dados de entrada

A RN
desenvolve

Habilidade de
formar
representaes
internas para
codificar
as
caractersticas
da entrada

Criar novas
classes de
dados
ou
respostas.

Vetor descrevendo o estado

do ambiente

Ambiente

Sistema de Aprendizagem

Para tal, pode-se utilizar aprendizagem competitiva entre os neurnios de

sada da RN (tipo the winner takes all ou o vencedor leva tudo)

17

UFPR PPGMNE - TC-747 - REDES NEURAIS E APLICAES EM ENGENHARIA

Profa. Andrea Sell Dyminski

2.6 TAREFAS DE APRENDIZAGEM

a) Associao de Padres
- Auto-associao: RN armazena um conjunto de padres (vetores
xk), que so apresentados repetidamente a ela. Depois disso, quando
apresentada rede uma descrio parcial ou ruidosa de um padro
original j armazenado, a RN consegue recuperar (recordar) aquela
padro especfico (sada yk).
Envolve aprendizagem no supervisionada
xk e yk tm a mesma dimensionalidade

- Heteroassociao: Conjunto arbitrrio de padres de entrada (xk)

associado a um outro conjunto arbitrrio de sada (yk).
Envolve aprendizagem supervisionada
xk e yk podem ser de dimensionalidades diferentes

Vetor de Entrada
X

Fases envolvidas:

Associador de
Padres

Vetor de Sada
Y

- Armazenamento (ou treinamento)

- Recordao

18

UFPR PPGMNE - TC-747 - REDES NEURAIS E APLICAES EM ENGENHARIA

Profa. Andrea Sell Dyminski

b) Reconhecimento de Padres

Processo pelo qual um padro (ou sinal) recebido atribudo a uma classe
dentre um nmero pr-determinado de classes (categorias).
Na RN, tem natureza estatstica

O espao de deciso
multidimensional,

dividido

em

regies, cada uma delas associada

a uma classe. As fronteiras entre
elas

so

formadas

durante

processo de treinamento.

As mquinas para reconhecimento de padres podem ser basicamente de

dois tipos:

1) Dividida em duas partes: uma rede no supervisionada e uma rede

supervisionada.

19

UFPR PPGMNE - TC-747 - REDES NEURAIS E APLICAES EM ENGENHARIA

Vetor de Entrada
X

Rede nosupervisionada
para extrao das
caractersticas de
X

Vetor de
Caractersticas
Y

Extrao das
Caractersticas

Espao de observao
m-dimensional
Padres X

Profa. Andrea Sell Dyminski

Rede
Supervisionada
para classificao
dos padres

1
2
r

Classificao

Espao de caractersticas
q-dimensional
(onde q< m)

Espao de deciso
r-dimensional
(r = nmero de classes)

2) Rede nica de mltiplas camadas alimentada adiante, utilizando um

algoritmo de aprendizagem supervisionada.
A extrao de caractersticas realizada pelos neurnios da(s)
camada(s) escondida(s).

A escolha do tipo a ser utilizada depende do tipo de aplicao!

20

UFPR PPGMNE - TC-747 - REDES NEURAIS E APLICAES EM ENGENHARIA

Profa. Andrea Sell Dyminski

c) Aproximao de funes
Supondo-se que um mapeamento entrada-sada possa ser escrito como:
d = f(x)
onde:

x = vetor de entrada
d = vetor de sada
f
funo desconhecida

Contudo, tem-se um conjunto de exemplos conhecido:

C = {(x i, di)} com i = 1 a N
Objetivo: projetar uma RN que aproxime a funo f(.) de forma que a
funo F(.) que descreve o mapeamento entrada-sada
realmente realizado pela rede seja suficientemente prxima a
f(.):
F(x) f(x) < ,

para todo x

onde um nmero positivo pequeno.

OBS: N tem de ser suficientemente grande e a RN tem de ter
um nmero suficiente de parmetros livres para que a tarefa
seja realizada a contento.

Outra tarefa que a RN pode realizar:

soluo de problemas inversos

x = f-1(d)
onde f -1(.) a funo inversa de f(.)

21