ACELERAO DE UM ALGORITMO DE

APRENDIZAGEM COMPETITIVA POR MEIO

DA ACOMODAO DE TCNICAS EFICIENTES
DE BUSCA DO VIZINHO MAIS PRXIMO
Aluno: Lucas Rocha Arruda
Orientador: Francisco Madeiro
Introduo
A quantidade de bits usados para
representar sinais digitais cresce com a
qualidade dos mesmos.
Existem informaes redundantes nesses
sinais digitais.
A compresso torna eficiente a
transmisso e o armazenamento de
sinais.
Quantizao Vetorial
Uma das tcnicas mais utilizadas.
Consiste em codificar o vetor de entrada
em um vetor pertencente a um conjunto
de vetores (dicionrio).
Desempenho ligado ao projeto de
dicionrio.
Alcana taxas elevadas de compresso.
Quantizao Vetorial
Dicionrio
Vetor de entrada
Objetivo
Encontrar uma alternativa de acelerao
de um algoritmo de aprendizagem no-
supervisionada de redes neurais aplicado
ao projeto de dicionrios.
Consiste em reduzir o nmero de
operaes lgicas e aritmticas.
Uso de tcnicas de vizinho mais prximo
que acelere o projeto do dicionrio.
Algoritmos
Algoritmo Competitivo (AC);
Partial Distance Search (PDS);
Equal-average Nearest Neighbor (ENNS);
Equal-average Equal-variance Nearest
Neighbor (EENNS);
Equal-average Equal-variance Equal-norm
Nearest Neighbor (EEENNS).


Algoritmo Competitivo
Baseia-se na condio de vizinho mais
prximo na codificao.
Trabalha com uma taxa de aprendizagem.
A taxa de aprendizagem decresce
linearmente com o nmero de iteraes.
Busca Total ou Exaustiva.
Partial Distance Search
Causa a sada prematura na busca pelo vetor
cdigo mais semelhante.
Otimiza o processo de codificao evitando
operaes aritmticas no necessrias.
Acelera o tempo de projeto de dicionrio.
Aumenta o nmero de operaes lgicas.
Algoritmo ENNS
Usa o valor mdio dos componentes de
cada vetor cdigo e vetor de
treinamento.
Usado originalmente na etapa de
codificao.
Reduz o tempo computacional em
relao busca exaustiva e PDS com
apenas N mdias calculadas a mais.
Algoritmo ENNS
Critrio de seleo de candidatos ao vizinho mais prximo:





onde:
m
i
: mdia do i-simo vetor cdigo;
m
x
: mdia do vetor de treino atual;
K: dimenso dos vetores;
d
min
: distncia entre o vetor cdigo com mdia mais semelhante
mdia do vetor de entrada.
Algoritmo ENNS
Dicionrio
Vetor de entrada
Dicionrio
Vetor de entrada
...
...
ENNS Busca Exaustiva
Algoritmos EENNS e EEENNS
Utilizados na etapa de codificao.
Seguem a mesma lgica de busca do vizinho
mais prximo usado no ENNS, com o
acrssimo de critrios de candidatos a vizinho
mais prximo.
EENNS
Utiliza o critrio do ENNS, usando a mdia dos
vetores, e o mostrado abaixo (utilizando a
varincia dos vetores):
EEENNS
Usa os critrios do ENNS e EENNS junto com
esse mostrado abaixo que utiliza a norma
como critrio de seleo:
Adaptao das Tcnicas
Adaptao da tcnica para a etapa de projeto
de dicionrio.
Custo computacional grande para manter os
vetores sempre ordenados.
Determinao do melhor momento para
ordenar os vetores.

Iterao 1 2 3 4 5
Tempo em segundos 2,118 3,492 4,474 6,559 7,827
Resultados
0
5
10
15
20
25
64 128 256 512
T
e
m
p
o

e
m

S
e
g
u
n
d
o
s

AC
AC com PDS
AC com ENNS
AC com EENNS
AC com EEENNS
Resultados
0.00E+00
1.00E+08
2.00E+08
3.00E+08
4.00E+08
5.00E+08
6.00E+08
Adio Subtrao Multiplicao Comparao
AC
AC com PDS
AC com ENNS
AC com EENNS
AC com EEENNS
Concluso
Com o aumento do tamanho do dicionrio a qualidade
da imagem sofre menos distoro e o nmero de
operaes lgicas e aritmticas aumentam.
De maneira geral as tcnicas ENNS, EENNS e EEENNS
possuem melhor desempenho quando comparadas ao
AC original e com PDS.
Constatou-se que a tcnica de busca do vizinho mais
prximo EEENNS apresenta o melhor desempenho em
relao a todas as outras tcnicas avaliadas neste
trabalho, com o projeto de dicionrio cerca de 93,8%
mais rpido em relao ao Algoritmo Competitivo.

Informaes Adicionais
Acelerao do Algoritmo Competitivo Usando a
Tcnica ENNS: Aplicao em Projeto de
Quantizadores Vetoriais de Imagens, publicado no
11 Congresso Brasileiro de Inteligncia
Computacional (CBIC), em setembro de 2013;
Dois anos de pesquisas na Iniciao Cientfica:
1 lugar na rea de Cincias Exatas e da Terra na 14 JIC
3 lugar na rea de Cincias Exatas e da Terra na 15 JIC