Redes Neuronales Parte I - catedras.facet.unt.edu.ar · Introducción. Deiniciones. Topologías típicas. Redes Supervisadas. Modelo Backpropagation – Redes No Supervisadas –

Facultad de Ciencias Exactas y Tecnología

Universidad Nacional de Tucumán Mg. Ing. Gustavo E. Juárez

Redes Neuronales

Parte I

Introducción. De/iniciones. Topologías típicas. Redes Supervisadas. Modelo

Backpropagation – Redes No Supervisadas – Modelo de Kohonen –

ImplementaciónenMatlabmedianteToolkitsobreRedesNeuronales.ANFIS.

UNIDAD TEMÁTICA : REDES NEURONALES

RED NEURONAL BIOLÓGICA ANTECEDENTES

L a c o r t e z a c e r e b r a l d e l c e r e b r o

humano contiene aproximadamente 15.000 a

100.000 millones de neuronas dependiendo

delgéneroylaedad.

Cada una de las cuales se encuentra

i n t e r c on e c t a d a s h a s t a c on 10 . 0 00

conexionessinápticas.

Cada milímetro cúbico de córtex cerebral

contiene aproximadamente1.000millones de

sinapsis.

INTRODUCCIÓN - CEREBRO HUMANO

A /ines del siglo XIX, Santiago Ramón y

Cajal situó por vez primera las neuronas

como elementos funcionales del sistema

nervioso. Cajal propusoque actuaban como

e n t i d a d e s d i s c r e t a s q u e ,

intercomunicándose, establecían una

especie de red mediante conexiones

especializadas o espacios. Esta idea es

reconocida como la doctrina de la neurona,

uno de los elementos centrales de

laneurocienciamoderna.

Santiago Ramón y Cajal

Premio Nobel de Medicina y

Neurofisiología 1906

ANTECEDENTES - MARCO HISTÓRICO

Santiago Ramón y Cajal

Premio Nobel de Medicina y

Neurofisiología 1906

MARCO HISTÓRICO – RAMÓN Y CAJAL

Santiago Ramón y Cajal

Premio Nobel de Medicina y

Neurofisiología 1906

MARCO HISTÓRICO – RAMÓN Y CAJAL

Launidadanatómicay/isiológicadelSistemaNerviosoeslaNeurona.

De#inición:

«Unaneuronaesunadelascélulasnerviosasencontradasentodoelcuerpo,las

cualessonelelementofundamentaldelaestructuradelsistemanervioso.Son

célulasexcitablesespecializadasenlarecepcióndeestímulosyconduccióndel

impulsonervioso.»

Nota:Estáencargadaprincipalmentedetrasmitirel/lujonervioso.Uncerebrohumanocontiene

aproximadamente100.000millonesdeneuronas.

NEURONA

DEFINICION

INTRODUCCIÓN A NEURONAS HUMANAS MODELO BIOLÓGICO – ANALOGÍA CON EL MODELO ARTIFICIAL

DENDRITAS SOMA AXON

ENTRADAS PROCESO SALIDAS

BIOLOGICO

ARTIFICIAL

Se encuentran en todo el sistema nervioso, desde el

sistema nervioso central hasta el sistema nervioso

periférico, y comunicándose entre ellas a través de

rami/icacionesllamadasdendritas.

Las Neuronas del Sistema Nervioso Central solo se

encuentran en el cerebro y las del Sistema Nervioso

Periférico se encuentran en todo el cuerpo y su eje

principal es la medula espinal la cual comunica las

sensacionesdetodoelcuerpohaciaelSistemaNervioso

Central.

SISTEMA NERVIOSO HUMANO

CARACTERÍSTICAS

Desde un punto de vista funcional, las neuronas constituyen procesadores de

informaciónsencillos.Seorganizanen:

•  NeuronasReceptorasoSensoras:seespecializanensensarelmundoexterior

(vision,tacto,oído,etc),yseactivancuandolaentradaprovienedeunsentido.

•  Interneuronas:trans/ierenlasseñalesentreneuronas.

•  NeuronasMotoras:envíanlasseñalesdirectamentealosmúsculos.

SISTEMA NERVIOSO HUMANO

CLASIFICACION DE LAS NEURONAS

El cuerpocelularo soma,es laparte centralde laneurona,ydeahí salen lasprolongacionesquepermitenlacomunicaciónnerviosa.

Sólouna /ibrade cadaneurona, el axón, esmás larga y gruesaque las otras.Cadadendritaestáconectadaconotradendritadeunacélulanerviosacolocadaasulado,oconelaxóndeunacélulasituadamáslejos.

Cadaneuronacontieneuncuerpocelular,osoma,quetieneunnúcleocelular.Unnúmerode/ibrasllamadasdendritasserami/icanapartirdelcuerpocielacélulajuntoconunaúnica/ibralargallamadaaxón.

INTRODUCCIÓN A NEURONAS HUMANAS

MODELO BIOLÓGICO

La comunicación entre neuronas surge a partir de

unaunióndiscontinuallamadaSinapsis.

De#inición:

“Lasinapsiseselprocesoesencialenla

comunicaciónneuronalyconstituyeellenguaje

básicodelsistemanervioso”.

SINAPSIS ENTRE NEURONAS

DEFINICION

Si laSinapsisocurre por contacto

/ísico se trata de una Sinapsis

Eléctrica, y si es a través de una

hendidura, se le llama Sinapsis

Química.

TIPIFICACIÓN DE LA SINAPSIS

Sereconocendostiposdesinapsis:

Sinapsis Eléctrica: En este tipo de sinapsis las membranas pre y pos

sináptica establecen un contacto /ísico (se tocan) el impulso eléctrico se

transmitedirectamentesinningúntipodemediadoroNeurotransmisor,por

loqueesmásrápida.

Sinapsis Química: En este tipo de sinapsis, las membranas pre y pos

sinápticas están separadas por un espacio, no tienen contacto /ísico (no se

tocan)porloquelatransmisióndelimpulsoeléctricoesmáslentaydepende

de la acción de mediadores, que son sustancias químicas complejas

denominadasNeurotransmisores.

TIPIFICACIÓN DE LA SINAPSIS

SinapsisQuímicamediantesecrecióndeneurotransmisor

TIPIFICACIÓN DE LA SINAPSIS

SinapsisEléctricapasodeionesdeunacélulaaotraatravésdeunionesGAP.

Polarización Despolarización

Umbral de Disparo

10 ^11 neuronas ~ 50 Teraflops Velocidad

100 Watts 175 KW

80 Teraflops

16 Terabytes

Consumo

Volumen 1,4 dm3 6 m3

Masivamente paralelo Funcionamiento Secuencial con paralelización

Desarrollo 20 años - Adulto 3 años

10 ^15 sinapsis ~ 1 PetaByte Memoria

Evolución 3000 millones de años 177 años

COMPARATIVA CEREBRO HUMANO ADULTO / COMPUTADOR IBM WATSON

http://www.ibm.com/smarterplanet/us/en/ibmwatson/what-is-watson.html

ASPECTOS

RED NEURONAL ARTIFICIAL ANTECEDENTES

“Lasneuronasarti#icialesoprocesadorelementales

un dispositivo simple de calculo que, a partir de un

vector de entrada procedente del exterior o de otras

neuronas,proporcionaunaúnicarespuestaosalida”.

NEURONAS ARTIFICIALES

DEFINICIÓN

“Lasredesneuronalesarti/icialessonredesinterconectadasmasivamenteen

paraleloyconorganizaciónjerárquica,lascualesintentaninteractuarcon

losobjetosdelmundorealdelmismomodoquelohaceelsistemanervioso

biológico”.(TeuvoKohonen)

“Modelosmatematicosdesarrolladosparaemularelcerebro

humano”(Chen-1998)

REDES NEURONALES ARTIFICIALES

DEFINICIONES

Lasprincipalesventajasquereproducenlasredesneuronalesarti/icialesse

puedenreduciralossiguientesconceptos:

1.  Procesamientoparalelo.

2.  Procesamientodistribuidonolineales.

3.  Procesamientoadaptativo.

4.  ToleranciaaFallas.

5.  Establecenconexionesnolinealesentrelosdatos

VENTAJAS

•  Conjuntodeentradas,xj(t).Estaspuedenserprovenientesdelexterioro de otras neuronas arti/iciales.(sinapsisquímicaoeléctrica).

• Peso sinápticos, wij. Representan elgradode comunicación entre la neuronaarti/icialjylaneuronaarti/iciali.Puedenserexcitadoresoinhibidores

• Regla de propagación, σi (wij, xj (t)). Integra la informaciónprovenientede lasdistintasneuronasarti/icialesyproporcionaelvalordelpotencialpostsinápticodelaneuronai.

• Función de activación, fi(ai(t-1), hi(t)).Provee el estado de activación actual de laneuronai.

•Función de salida, Fi (ai (t)).Representa la salida actual de laneuronai.

Lasalidaproducidaporunaneuronai,paraundeterminadoinstantedetiempotpuedeserescritaenformageneraldelasiguientemanera

MODELO GENERAL DE UNA NEURONA

ARTIFICIAL (MODELO DE RUMELHART)

Dependiendo del tipo de salidas, las neuronas suelen recibir nombres

especí/icos.Losmasfrecuentesson:

ENTRADAS Y SALIDAS

Valores de Salida Nombre del tipo de neurona

(0), (1) Tipo Mc-Culloch-Pitts

(-1), (1) Tipo Ising

(-2), (-1),(0),(1),(2) Tipo Potts

“Elpesosinápticowijde/inelafuerzadeunaconexiónsinápticaentredos

neuronas,laneuronapresinápticaiylaneuronapostsinápticaj“.

PESOS SINÁPTICOS

DEFINICIÓN

Lospesossinápticospuedentomarvalores

positivos,negativosocero.

En caso de una entrada positiva, un peso

positivo actúa como excitador, mientras

queunpesonegativoactúacomoinhibidor.

En casodequeelpeso sea cero,noexiste

comunicaciónentreelpardeneuronas.

Laregladepropagacióndeterminaelpotencialresultantedelainteracción

delaneuronaiconlasNneuronasvecinas.

Elpotencialresultantehisepuedeexpresardelasiguientemanera

Laregladepropagaciónmássimple,yutilizada,consisteenrealizarunasuma

delasentradasponderadasconsuspesossinápticoscorrespondientes

REGLAS DE PROPAGACIÓN

La función de activación determina el estado de activación actual de la

neuronaienbasealpotencialresultantehi enuntiempot, (hi: ai(t)), el

cualpuedeserexpresadodelasiguientemanera:

FUNCIÓN DE ACTIVACIÓN

Lasfuncionesdeactivaciónmashabitualesson:

FUNCIÓN DE ACTIVACIÓN

Lafuncióndesalidaproporcionaelvalordesalidadelaneurona,enbaseal

estadodeactivacióndelaneurona.Engeneralseutilizalafunciónidentidad:

FUNCIÓN DE SALIDA

MODELO ESTANDAR DE UNA

NEURONA ARTIFICIAL

Libros Redes Neuronales y Sistemas Difusos / Bonifacio Martin del Brío y Alfredo Sanz Molina.

Alfa Omega – Rama. Colombia/c.2005

Sitios Webs http://www.youtube.com/watch?v=Krabo0GPc5A

http://www.youtube.com/watch?v=uMbZGSEuI74

http://www.youtube.com/watch?v=1WGPk2eONZ0

REFERENCIAS

Referencias

http://catedras.facet.unt.edu.ar/intar/