Redes Neuronales Artificiales

Los atributos bsicos de una red neuronal pueden ser divididos en:

! !

Arquitectura Propiedad funcionales

La Arquitectura define la estructura de la red, esto es, el numero de neuronas en la red y su interconectividad.

! !

Las redes neuronales consisten de varias elementos de procesamiento como entradas, pesos, funciones de activacin, salidas, y bias.

! ! !

Redes Neuronales Artificiales

Las Propiedad Funcionales define como la red aprende, recuerda , asocia , y continuamente compara nueva informacin con informacin ya existente, tambin como clasifica nueva informacin, y como desarrolla nuevas clasificaciones si es necesario.

El termino bias, se refiere a un valor de umbral que tiene que ser alcanzado o excedido por la neurona para producir una seal de salida.

! !

Redes Neuronales Artificiales

!

! ! ! ! ! ! ! ! ! ! !

! ! !

! !

Redes Neuronales Artificiales

La funcin de activacin (o transferencia) es la encargada de producir la seal de salida.

Tambin, el objetivo es asegurar que la respuesta de la neurona este restringida (acotada), es decir, la respuesta actual esta condicionada.

Diferentes funciones de activacin son usadas, dependiendo del problema y del algoritmo de aprendizaje siendo utilizado.

Las funciones de activacin mostradas en la siguiente diapositiva estn condicionadas, es decir tienen un limite inferior y un limite superior.

Redes Neuronales Artificiales

Aprendizaje en redes neuronales

Aprendizaje en redes neuronales es de suma importancia y es en la actualidad tanto en redes biolgicas como artificiales un tema de investigacin intenso.

Cmo aprendemos? Cul es la mejor manera de aprender? Qu tanto y que tan rpido podemos aprender? Cules son los obstculos en aprender?

Aprendizaje no es proceso nico, existen diferentes procesos de aprendizaje, cada uno adecuado para diferentes especies.

En redes neuronales artificiales, se selecciona el tipo de aprendizaje mas adecuado de acuerdo al problema en cuestin.

! !

Aprendizaje en redes neuronales

En trminos generales, aprendizaje es el proceso por el cual la red neuronal se adapta por si sola a estmulos (entradas) y eventualmente (despus de hacer ajustes a sus parmetros (pesos) propiamente) produce una respuesta deseada.

Aprendizaje es un proceso de clasificacin de los estmulos de entrada; cuando un estimulo aparece a la red, la red reconoce ese estimulo o desarrolla una nueva clasificacin.

Durante el proceso de aprendizaje la red ajusta sus parmetros (pesos) en respuesta de una entrada, hasta que la respuesta actual es la misma que la respuesta deseada. La red ha completado la fase de aprendizaje; en otras palabras, ha adquirido el conocimiento.

! !

Aprendizaje en redes neuronales

En trminos generales existen 2 tipos de aprendizaje:

Supervisado No Supervisado

Durante la etapa de entrenamiento (training) de una red neuronal, una entrada es aplicada que resulta en una respuesta de salida.

! !

Esta respuesta es comparada con una respuesta a priori deseada (target response). Si la respuesta actual difiere de la respuesta deseada, la red genera una seal de error, el cual es usado para calcular el ajuste que debera ser realizado a los pesos de la red para que la respuesta actual coincida con la respuesta deseada.

Aprendizaje en redes neuronales

En otras palabras, el error es minimizado, posiblemente hasta cero.

El proceso de minimizacin del error requiere de un maestro o supervisor, de ah el nombre de aprendizaje supervisado.

! !

Cunto toma aprender un nuevo idioma? En redes neuronales la cantidad de tiempo requerido para minimizar el error depende del algoritmo usado; esto es, herramientas matemticas derivadas de una tcnica de optimizacin.

! ! ! !

Aprendizaje en redes neuronales

El aprendizaje no supervisado no requiere un maestro o supervisor, no hay respuesta deseada.

Durante la etapa de entrenamiento, la red recibe diferentes seales de entrada, y arbitrariamente organiza los patrones en categoras.

Cuando un estimulo es aplicado, la red provee una respuesta de salida indicando a que clase pertenece. Si una clase no pudo ser encontrada para ese estimulo de entrada, una nueva clase es generada.

Por ejemplo, ensea a una persona un conjunto de diferentes objetos; despus, pregntale que los separe en grupos o clasificaciones, de tal modo que objetos en un tengan ciertas similitudes muestra otro objeto y pregunta que lo clasifique dentro de algn grupo..

Aprendizaje en redes neuronales

Existe otro tipo de aprendizaje que es el aprendizaje reforzado.

Puede ser clasificado dentro de aprendizaje supervisado, pero a diferencia de este no se indica que tan cerca se esta de la respuesta deseada.

! ! ! ! ! ! ! !

El maestro no representa la salida deseada a la red, pero presenta una indicacin de si/no. As, la seal de error generada durante el proceso de entrenamiento es una seal binaria: 1 o 0.

Parmetros de las redes neuronales

Topologa de la red neuronal.

! ! !

Numero de capas en la red. Numero de neuronas por capa. Algoritmo de aprendizaje: En redes neuronales, la descripcin matemtica de como los pesos se actualizan durante el proceso de entrenamiento constituye el algoritmo de aprendizaje.

! ! ! ! !

Nmero de iteraciones. ndice de rendimiento de la red. Etc

Topologas de redes neuronales

Las redes neuronales comprenden varias neuronas, que puede ser interconectadas de diferentes maneras.

! ! !

Tpicamente, la capa donde los patrones de entrada son aplicados se le conoce como la capa de entrada. La capa donde la respuesta es obtenida es la capa de salida. La capas entre la capa de entrada y salida es la capa oculta. Puede existir una o mas capas ocultas, y son llamadas as por que sus salidas no son directamente observables.

! ! ! !

Topologas de redes neuronales

/#0+''#1-! *#+'),!*#-(&'.

"##$%&'()'$!! *#+'),!*#-(&'.

Modelos de redes neuronales

Existen diferentes modelos de redes neuronales presentes en la literatura:

! ! ! !

Perceptron Adaline Perceptron multicapa (Multilayer NN) Base radial (Radial Basis) Memorias asociativas Elman Jordan Hopfield Etc.

Modelos de redes neuronales

El modelo de Perceptron es un modelo con una sola neurona.

Perceptron multicapa esta compuesta de muchos Perceptron simple en una estructura jerrquica formando una estructura de propagacin hacia adelante con una o mas capas ocultas entre la capa de entrada y salida.

El numero de neuronas y capas no es fijo, cada capa puede contener diferente numero de neuronas, dependiendo de la aplicacin.

Diferentes algoritmos han sido desarrollados para Perceptron multicapa, el mas comn es el de propagacin hacia atrs (backpropagation)

! ! !