Introducci¶on A Las Redes Neuronales - Unican.es

APRENDIZAJE DE HEBBUniversidadde CantabriaHebb describe una forma de ajustar el peso de unaconexión acorde a la correlación exitente entre losvalores de las dos unidades de proceso que conecta.En su libro, “The Organization of Behavior (1949)”:When an axon of cell A is near enough toexcite a cell B and repeatedly or persistentlytakes a part in firing it, some growth processor metabolic change takes place in one or bothcells such that A’s efficiency as one of the cellsfiring B is increased.Computacionalmente, esto se traduce en: No Supervisado: el valor del peso wij es la correlación del valor de las unidades xi y xj : wij xixj Supervisado: Se ajusta el valor del peso entrelas dos unidades en proporción a la diferencia entre los valores deseado y calculado en cada unade las unidades de la capa de salida. wij αxi[yj yˆj ]α es la constante de aprendizaje (0 α ¿ 1).Introducción a las Redes Neuronales16

VALIDACION DEL MODELOUniversidadde CantabriaUna vez que ha terminado el proceso de aprendizajey los pesos de la red neuronal han sido calculados,es importante comprobar la calidad del modelo resultante. Algunas medidas estándar del error son:1. La suma de los cuadrados de los errores (SumSquare Errors, SSE), definida comorXp 1k bp b̂p k2 .(1)2. La raı́z cuadrada del error cuadrático medio(Root Mean Square Error, RMSE) definida comovuu Xruutp 1k bp b̂p k2 /r.(2)3. El error máximo,max{k bp b̂p k, p 1, . . . , r},(3)donde b̂p es la salida de la red para el vector de entrada ap. Nótese que en el caso de una única salida, la función norma k . k se reduce a la funciónvalor absoluto . usual.Introducción a las Redes Neuronales17

SOBREAJUSTE (OVERFITTING)Universidadde CantabriaEn estadı́stica es bien conocido que cuando se utiliza un modelo con muchos parámetros para ajustar un conjunto de datos procedente de proceso conpocos grados de libertad, el modelo obtenido puedeno descubrir las tendencias reales del proceso original, aunque pueda presentar un error pequeño.La curva (a) pasa exactamente por los puntos deentrenamiento. La curva (b) muestra el comportamiento sobre un conjunto alternativo. La curva(c) es un polinomio de tercer grado. La diferenciaentre ambos modelos puede verse en (c)(d)0002468100246Introducción a las Redes Neuronales18810

NEURONASUNIDADES DE PROCESOUniversidadde Cantabria Neuronas: X (x1, . . . , xi, . . . , xn), donde xi esel nivel de actividad de la i-ésima neurona. Pesos: los pesos de la neurona i-ésima formanun vector Wi (wi1, . . . , wij , . . . , wi,n), donde wijes el peso de la conexión de xj a xi.La actividad lineal de xi está dada por la función,F (xi, Wi) nXj 1wij xj ,que depende de los pesos Wi.x1 wi1x2wi2winθi-1nΣ wij xjj 1nf( Σ wij xj )j 1xnPara incluir un valor umbral Θi para la neurona xi,se considera una neurona auxiliar de valor x0 1y se conecta a xi con un peso Θi.u(w, xi) nXj 1wij xj wi0Θi or u(w, xi) Wi · XIntroducción a las Redes Neuronales19

FUNCIONES DE ACTIVACIONUniversidadde Cantabria Funciones lineales: f (x) x. Funciones paso:Dan una salida binaria dependiente de si el valor de entrada está por encima opor debajo del valor umbral. sgn(x) 1, si x 0,0, si x 0,, Θ(x) 1, sino,1, sino. Funciones sigmoidales: Funciones monótonasacotadas que dan una salida gradual no lineal.1. La función logı́stica de 0 a 1:1.fc(x) cx1 e2. La función tangente hiperbólica de 1 a 1fc(x) tanh(c x).Introducción a las Redes Neuronales20

ARQUITECTURAS DE REDUniversidadde Cantabria1. Conexiones hacia delante.2. Conexiones laterales.3. Conexiones hacia atrás (o recurrentes).(a)(b)(c)Introducción a las Redes Neuronales21

LA RED DE HOPFIELDUniversidadde CantabriaLa red neuronal de Hopfield es una arquitectura formada por una sóla capa principalmente que se utiliza principalmente comomemoria autoasociativa, para almacenar yrecuperar información.La información se almacena usando unmétodo simple de aprendizaje no supervisado que obtiene la matriz de pesos quehace que dado cada uno de los patrones deentrenamiento (almacenamiento) la red devuelva el mismo patrón (recuperación).Posteriormente, cuando se tenga una configuración arbitraria de las neuronas comoentradas, la red devolverá aquel patrón almacenado que esté más cerca de la configuración de partida en términos de la distanciade HammingIntroducción a las Redes Neuronales22

Universidadde CantabriaLA RED DE HOPFIELDMEMORIZANDO DATOSSe considera una red neuronal de una sóla capa sobreun conjunto de neuronas binarias {x1, . . . , xn} (convalores en { 1, 1}) donde cada neurona xi posee unvector de pesos wi (wi1, . . . , win), con wii 0 indicando que no existe conexió consigo misma.Se considera también la siguiente definición binariade la neurona:xi sgn(nXj 1wij xj ).(4)Ahora, supóngase que se quieren obtener los pesos apropiados para “memorizar” un patrón a (a1, . . . , an). Entonces, los pesos tienen que satisfacer las siguientes condiciones de estabilidad:ai sgn(nXj 1wij aj ), i 1 . . . , n,(5)p or tanto la red devuelve el mismo patrón dadocomo entrada. Como se están usando los valoresneuronales { 1, 1}, entonces a2j 1 y las condiciones anteriores de estabilidad se pueden alcanzarconsiderando los pesos1(6)wij aiaj .nIntroducción a las Redes Neuronales23

Universidadde CantabriaLA RED DE HOPFIELDMEMORIZANDO DATOSEl mismo algoritmo puede extenderse a varios patrones, {(ap1, . . . , apn), p 1, . . . , r}:r1 Xapiapj .(7)wij p 1nEn este caso, cuando se da como entrada un patrónap se obtiener1X Xakiakj apj )xi sgn(n j k 11XX Xapiapj apj akiakj apj ) sgn(j k6 pn j1X Xakiakj apj ). sgn(api n j k6 p(8)El problema de estabilidad se determina por lostérminos de correlación cruzada en el segundotérmino de la suma en (8). Si es más pequeño que n,entonces se puede concluir que el patrón es estable.Un análisis estadı́stico de estos términos cruzadosdemostró que cuando el número de patrones a seralmacenado, p, y el número de neuronas, n, satisfacela relación: p 0.138 n, entonces menos del 1% delos bits es inestableIntroducción a las Redes Neuronales24

Universidadde CantabriaEJEMPLO: RECONOCIMIENTODE CARACTERESPara este ejemplo se utiliza una red deHopfield con 25 neuronas consistente enuna cuadrı́cula 5 5 que recibe una imagen de puntos de una letra. Se consideranúnicamente las tres representaciones habituales de las vocales ‘A’, ‘E’, e ‘I’.Los dı́gitos ‘A’, ‘E’, e ‘I’ se representan como‘-1-11-1-1. . . ’, ‘1111-1. . . ’, y ‘-1111-1. . . ’, respectivamente donde los valores negativosse representan en gris y los positivos en negro.Introducción a las Redes Neuronales25

Universidadde CantabriaEJEMPLO: RECONOCIMIENTODE CARACTERESLa matriz de pesos 25 25 se obtiene fácilmente. Porejemplo,311 X1a1k a2k ( 1 1 1 1 1 1) 1.w12 25 k 12525El valor resultante, ignorando la constante de normalización, se representa por un cuadrado negro depequeño tamaño en la esquina superior izquierda(peso w12). En esta figura, los colores negro y grisestán asociados a los pesos positivos y negativos, respectivamente, donde el tamaño de la caja representa la magnitud del valor.Introducción a las Redes Neuronales26

INFORMACION CORRUPTAUniversidadde CantabriaUna vez construı́da la red de Hopfield, éstareconoce las tres vocales aún cuando se utiliza como entrada cualquier otra cuadrı́cula(digitalización) 5 5 correspondiente a unaversión particular no estándar de la vocal.Introducción a las Redes Neuronales27

ESTADOS ESPUREOSUniversidadde CantabriaSi se intenta utilizar la misma arquitectura de red para reconocer las cinco vocalescomo en este caso el número de patroneses mayor de 0.138 n 0.138 25 3.45,pueden aparecer algunos estados de falsa estabilidad en el modelo.Introducción a las Redes Neuronales28

REDES MULTI-CAPAUniversidadde CantabriaEntre las arquitecturas de red más populares destacan las llamadas redes multi-capa o de retropropagación.Definition 3 (Capa de Entrada de una Red Neuronal) Una unidad se dice que está en la capa deentrada de una red neuronal (X, U ), si es la entradade al menos un unidad funcional de U y no es lasalida de ninguna unidad procesadora de U .Definition 4 (Capa de Salida de una Red Neuronal)Una unidad se dice que está en la capa de salida deuna red funcional (X, U ), si es la salida de al menosuna unidad funcional de U y no es la entrada deninguna unidad procesadora de U .Definition 5 (Capas Intermedias u Ocultas de unaRed Neuronal) Una unidad se dice que está en lacapa intermedia de una red neuronal (X, U ), si es laentrada de al menos una unidad funcional de U y, almismo tiempo, es la salida de al menos una unidadprocesadora de U .Introducción a las Redes Neuronales29

EL PERCEPTRONUniversidadde CantabriaEl perceptrón es un red neuronal de dos capas (unade entrada y una de salida) con conexiones haciadelante.Outputsy1y2y3wjix1x2x3x4InputsXyi f (Yi) f ( wij xj )j¿Cómo se pueden obtener los pesos adecuados para“aprender” un conjunto de 4pa4Introducción a las Redes Neuronales30

EL PERCEPTRON(APRENDIZAJE)Universidadde Cantabria Aprendizaje Hebbiano: Inicialmente se eligen valores aleatorios para los pesos. La ideadel aprendizaje Hebiano era modificar los pesosacorde a la correlación entre las unidades. Seeligen los patrones de uno en uno; por ejemplo(ap, bp). Si bpi 6 bˆpi, entonces se modifica el peso: wij η(bpi bˆpi)apj Descenso de Gradiente: Inicialmente se eligen valores aleatorios para los pesos. La idea deeste método es utilizar un proceso iterativa queminimice la función de error1 X p ˆp 2(bi bi ) .E(w) 2 i,pEn el caso lineal (f (x) x) se tiene wij η EX η (bpi bˆpi)apj.p wijEn general, se tiene wij η EX η (bpi bˆpi)f 0(Bip)apj.p wijEl parámetro η se llama tasa de aprendizaje.Introducción a las Redes Neuronales31

Universidadde CantabriaEL PERCEPTRON(APRENDIZAJE)En el caso de funciones sigmoidales, las fórmulas anteriores no involucran derivadas simbólicas, pues10 f(x) c f (x) (1 f (x))f (x) 1 e c xf (x) tanh(c x) f 0(x) c (1 f (x)2)Se han propuesto distintas mejoras de este métodopara incrementar su eficiencia. Se puede incluir un parámetro de inercia α paraacelerar la convergencia al mı́nimo: E α wij (t 1) wij (t 1) η wij Otros métodos incluyen términos la función deerror que penalizan grandes pesos:E(w) rX(yp ŷp)2 λp 1Xi,jwij2 ,(9)donde λ es un parámetro de regularización, quecontrola el equilibrio entre el modelo ajustado yla penalización. El efecto de esta regularizaciónde los pesos es suavizar la función de error, yaque los pesos grandes están usualmente asociadosa valores de salida altos.Introducción a las Redes Neuronales32

CLASIFICACION LINEALPLANTEAMIENTOUniversidadde CantabriaLos problemas de clasificación consisten en asignarpatrones dados a sus respectivas clases, o categorı́as,basándose en patrones representativos de cada 40.60.81Se puede construir un perceptrón con estos puntospara obtener automáticamente el criterio de clasificación. Por ejemplo, si se considera un perceptróncon dos entradas, xi y yi, y una salida ci con funciónde activación linealci w1xi w2yi q,Introducción a las Redes Neuronales33(10)

CLASIFICACION LINEALAPRENDIZAJEUniversidadde CantabriaDescenso de gradiente con η 0-0.5502025ci 1.28xi 0.815yi 020.4040.606x0.808010.2 0.4 0.6 0.8Introducción a las Redes Neuronales341

CLASIFICACION LINEALAPRENDIZAJEUniversidadde CantabriaSi se considera una función de activación sigmoidalf (x) (1 e x) 1 o de paso Θ(x) en cción a las Redes Neuronales350.81

CLASIFICACION NO LINEALUniversidadde CantabriaSupóngase que se tiene un conjunto de100 puntos aleatorios en el intervalo ( 1, 1)clasificados en dos categorı́as: los que estándentro del cı́rculo (puntos rellenos), y losque están fuera (puntos huecos).10.50-0.5-1-1-0.500.51Como estas dos categorı́as no son linealmente separables, entonces un perceptrónno puede obtener un criterio de clasificaciónapropiado.Introducción a las Redes Neuronales36

EL PERCEPTRON MULTI-CAPAUniversidadde 4InputsEn este caso los patrones de aprendizaje sonun conjunto de inputs {api, i 1, . . . , n} y suscorrespondientes outputs {bpk , k 1, . . . , m}.El método más popular de aprendizaje sedenomina retro-propagación y está basadoen minimizar la función de error medianteun método de descenso de gradiente.Inicialmente se eligen valores aleatoriospara los pesos.Introducción a las Redes Neuronales37

RETRO-PROPAGACIONLA CAPA DE SALIDAUniversidadde CantabriaLos pesos de correspondientes a las neuronas dela capa de salida yi f (Yi) son modificados considerando los valores de las neuronas ocultas hi f (Hi). En este caso, la función de error es1 X p ˆp 2(b bk )E(w) 2 p,k k1X pXX (bk f ( Wkj f ( wji xpi)))2.ji2 p,kEntonces Wkj E E bˆpk B̂kp η p Wkj bˆk B̂kp Wkj Wkj η hpj δkp, where δkp (bpk bˆpk )f 0(Bkp)y1h1y2h2h3Introducción a las Redes Neuronales38

RETRO-PROPAGACIONLA CAPA OCULTAUniversidadde CantabriaLos pesos de correspondientes a las neuronas dela capa oculta hi f (Hi) son modificados considerando los valores de las neuronas de entradaxi f (Xi) y los de las neuronas de salida yi f (Yi). E E bˆpk B̂kp hpj hpj , wji η wji bˆpk B̂kp hpj Hjp wji wkj η api δkp ψjp where ψjp h1h2Xkδkp Wkj f 0(Hjp).h3wjix1x2x3x4Introducción a las Redes Neuronales39

RETRO-PROPAGACIONALGORITMOUniversidadde Cantabria1. Inicializar los pesos con valores arbitrarios.2. Elegir un patrón p y propagarlo hacia delante.Con ello obtenemos hpj y bpk (outputs de las capasoculta y de salida).3. Calcular los errores de salida:δ p (bp bˆp )f 0(B p) (bp bˆp )bˆp (1 bˆp )kkkkkkkk4. Calcular los errores de la capa oculta:ψjp Xk5. Calcular:yδkp Wkj f 0(Hjp) Xkδkp Wkj hpj(1 hpj) Wkj η hpj δkp, wkj η api δkp ψjpy actualizar los pesos.6. Repetir los pasos anteriores para cada patrón.Introducción a las Redes Neuronales40

CLASIFICACION NO LINEALUniversidadde CantabriaPerceptrón multicapa 2 : 5 : 400nIntroducción a las Redes Neuronales41

Universidadde CantabriaMAPAS CAOTICOS:EL MAPA DE HENONEl mapa de Henon es uno de los ejemplos más ilustrativos de sistemas simples con dinámica compleja(caos determinista).xn 1 1.0 1.4 x2n 0.3 xn 1Para aproximar este mapa se utiliza una red neuronal 2:3:1 (la salida es xn y las entradas xn 1 y xn 2).Introducción a las Redes Neuronales42

Universidadde CantabriaEL MAPA DE HENONRED NEURONALEn algunos casos el proceso de optimización no converge al mı́nimo global, sino a uno local. Esto esdebido al gran número de parámetros involucradoen la red y a las caracterı́sticas de los modelos deaprendizaje.Introducción a las Redes Neuronales43

REDES COMPETITIVASUniversidadde CantabriaLas redes competitivas son muy utilizadaspara detectar automáticamente grupos, ocategorı́as, dentro de los datos disponibles.Cada patrón de entrada representa unpunto en el espacio de configuración (el espacio de entradas) donde se quieren obtenerclases. Para ello, la capa de salida contienetantas neuronas como clases, o categorı́as,como se quieran obtener.a1jx1y1a2jx2y2a3jx3ykaijwkixiIntroducción a las Redes Neuronales44

Universidadde CantabriaREDES COMPETITIVASAPRENDIZAJEEste tipo de arquitectura se entrena normalmentecon un algoritmo consistente en seleccionar laganadora (“winner takes all”), por lo que sólo son actualizados los pesos asociados a la neurona de mayorsalida (la ganadora) para un patrón dado.Considérense los datos de entrenamiento consistentes en un conjunto de patrones de entrada(a1j , . . . , anj ), j 1, . . . , m.Se empieza con pequeños valores aleatorios paralos pesos. A continuación, se aplica el patrón(a1j , . . . , anj ), y se selecciona la unidad salidaganadora, sea yk . Los pesos asociados con esta neurona son modificados de acuerdo con wki η(aij wki).(12)El efecto es mover el vector peso (wk1, . . . , wkn) directamente hacia (a1j , . . . , anj ).Nótese que en el caso de clasificación supervisada,usando perceptrones multi-capa, el usuario proporciona ejemplos de las diferentes categorı́as.Introducción a las Redes Neuronales45

REDES COMPETITIVASEJEMPLOUniversidadde 12w21w22yz1w11w12w13w21w22w23xz2y110.80.8y 0.6ω20.60.40.40.20.2(a)00.2 0.4 0.6 0.81x ω100.2z30.4 0.6 0.8x ω1Introducción a las Redes Neuronales46z2(b)00z11

EJERCICIOSUniversidadde Cantabria1. Utilizar un perceptrón con dos unidades de entrada y una de salida para modelizar las funcioneslógicas AND y OR. ¿Se puede modelizar tambiénuna puerta XOR?2. Considerar el fichero de datos “sincos.dat” quecontienetres colomnas de datos (x, sin(x), cos(x)) e intentar aproximarlo con un perceptrón multicapa2:?:1. Probar varios valores de los parámetrosde aprendizaje, η, y momento, α y comparar laconvergencia en los distintos casos. ¿Que valoresrecomiendas para este problema?3. Considerar la función no linealy(x) 20e 8.5 x(Ln(0.9 x 0.2) 1.5).Generar un fichero con 50 pares (x, y(x)) en el intervalo (0, 1) para entrenar un perceptrón multicapa 1:8:1. Generar también un fichero con otros50 puntos distintos para comprobar la validez dela aproximación.Introducción a las Redes Neuronales47

Introducción a las Redes Neuronales Universidad de Cantabria REDES NEURONALES DEFINICIONES Deflnition 1 (Neurona o Unidad Procesadora) Una neurona, o unidad procesadora, sobre un conjunto de nodos N, es una tripleta (X;f;Y), donde X es un subconjunto de N, Y es un ¶unico nodo de Ny f:! es una funci¶on neuronal (tambi¶en llamada funci¶on