ANÁLISIS DE CONGLOMERADOS - Universidad de Córdoba · ANÁLISIS DE CONGLOMERADOS 1. Introducción 2. Medidas de similaridad 3. Análisis jerárquico 4. Análisis no jerárquico

ANÁLISIS DE CONGLOMERADOS

1. Introducción

2. Medidas de similaridad

3. Análisis jerárquico

4. Análisis no jerárquico

5. Elección entre los distintos tipos de análisis

6. Caso práctico

Análisis de interdependenciasclasificación

componentesprincipales

análisisfactorial

análisiscorrespondencias

análisiscluster

escalamientomultidimensional

Relaciónentre

variables

Métricas No métricas

Relaciónentrecasos

Relaciónentre

objetos

Técnica para clasificar observaciones en grupos:

- Cada grupo sea homogéneo respecto a las variables utilizadas para su formación

- Que los grupos sean lo más distintos posible unos de otros respectos a las variables consideradas

- La composición de los grupos es desconocida a priori (en el análisis discriminante o en la regresión logística se conocen los grupos)

introducción

- Por ejemplo:

- Clasificar los animales de un rebaño según sus características productivas y aptitudes para la explotación ecológica (producción de leche, producción de carne, edad, enfermedades, rusticidad, prolificidad, fertilidad, aplomos, raza, etc.)

- Clasificar explotaciones ganaderas según su implicación en funciones no productivas

introducción

Pasos del análisis cluster:

- Se tiene información de n casos y k variables

- Se establece un indicador que nos diga en qué medida cada par de observaciones se parece entre sí (distancia o similaridad)

- Se crean los grupos de acuerdo a la medida de similaridad o distancia anterior. Hay dos tipos de creación de grupos y varios métodos de agrupación

- Se describen los grupos obtenidos y se comparan unos con otros

- Validación del análisis

introducción

Medidas de similaridad

Ejemplo

Se tiene información de la producción de leche y del rendimiento quesero de 8 cabras

medidas de similaridad

Cabra Producción leche Rendimiento quesero1 225 102 225 153 210 304 200 355 325 206 375 257 450 408 500 35


0

5

10

15

20

25

30

35

40

45

100 250 400 550


0

5

10

15

20

25

30

35

40

45

100 250 400 550

Medidas de similaridad para variables métricas

- Distancia euclídea (D) entre dos casos: D = √Σ (Xip – Xjp)2

- En el ejemplo:

- D12 = √ (225 – 225)2 + (15 – 10)2 = 5

- D13 = √ (210 – 225)2 + (30 – 10)2 = 196



- Distancia euclídea al cuadrado (D2) entre dos casos:

- Menos exigente que el anterior

- D = Σ (Xip – Xjp)2

- En el ejemplo:

- D12 = (225 – 225)2 + (15 – 10)2 = 25

- D13 = (210 – 225)2 + (30 – 10)2 = 38425



- Distancia de Minkowski:

- M = [Σ (Xip – Xjp)2]1/n

- Los dos casos anteriores son un caso particular (n=2) de la distancia de Minkowski

- Distancia city block o “Manhatan”:

- M = Σ (Xip – Xjp)



0

5

10

15

20

25

30

35

40

45

100 250 400 550

c

b

a


Estandarización de los datos:

- Las distancias de similaridad son muy sensibles a las unidades en que estén medidas las variables.

- En el ejemplo (distancia D2):

- D12 = (225 – 225)2 + (15 – 10)2 = 25

- D13 = (210 – 225)2 + (30 – 10)2 = 38.425

- Si la producción de leche la medimos en centilitros:

- D12 = (22500 – 22500)2 + (15 – 10)2 = 25

- D13 = (21000 – 22500)2 + (30 – 10)2 = 2.250.400

- Lo más común en restar la media a cada observación y dividir por la desviación típica (variables de media cero y d.t. 1)

Medidas de similaridad para datos binarios

- Se utilizan con variables ficticias o con variables dicotómicas (p.e. “no”=0; “si”=1)

- Se utiliza una tabla de doble entrada:


Ganadero Ecológico ATP Soltero Estudios1 1 1 0 02 0 1 1 13 1 1 0 14 0 0 0 15 1 1 1 0



1 01 1 20 1 0

2

1



1 01 1 20 1 0

2

1

a bc d

Medidas:

- D2 = b + c

- D = √ b + c

- Diferencia de tamaño = (b–c)2/(a+b+c+d)2

- Diferencia de configuración = (b*c)/(a+b+c+d)2

- Diferencia de forma = [(a+b+c+d)*(b+c)-(b–c)2]/(a+b+c+d)2


Formación de grupos:

- Análisis jerárquico: Inicialmente cada caso es un grupo en sí mismo y sucesivamente se van fusionando grupos cercanos hasta que todos los individuos confluyen en un solo grupo.

- Análisis no jerárquico: Inicialmente se establece el número de grupos y cada caso se asigna a uno de ellos.

Nótese que si elegimos p.e. 3 grupos, en el método jerárquico los grupos proceden de fusionar dos grupos de la anterior

combinación de 4 y en el método no jerárquico los 3 grupos se habrán confeccionado para maximizar la heterogeneidad

entre grupos y la homogeneidad dentro de grupos.

análisis jerárquico


Ejemplo:

- 12 casos (explotaciones ecológicas de vacuno lechero)

- Agrupar según las siguientes variables:

- NHT (superficie ´dedicada a la actividad en ha)

- NHT_NHP (superficie en propiedad %)

- NVAC (número de vacas)

- TREP (tasa de reposición)

- TMORT (tasa de mortalidad)

- CARGA (carga ganadera UGM/ha)

- ITC (índice terneros comerciales)

- ILC (índice de litros comerciales)


- Utilizando el análisis jerárquico con la distancia euclídea y el método de Ward:

DendrogramWard's Method,Squared Euclidean

Dis

tanc

e

0

20

40

60

80

100

1 2 3 45 67 8 910 11 12




Dis

tanc

e

0

20

40

60

80

100

1 2 3 45 67 8 910 11 12



- Grupo I: 1, 3, 5, 6, 7, 10

- Grupo II: 4, 8, 9, 11

- Grupo III: 12

- Utilizando el análisis no jerárquico con la distancia euclídea:

- Grupo I: 1, 7, 12

- Grupo II: 4, 8, 9, 10

- Grupo III: 2, 3, 5, 6, 11

Métodos de agrupación jerárquica:

- Método del centroide

- Método del vecino más cercano

- Método del vecino más lejano

- Método de la vinculación promedio

- Método de Ward


Métodos del centroide:

- Comienza uniendo las dos observaciones más cercanas.

- A continuación, el grupo se sustituye por una observación que lo representa (centroide) y en el que todas las variables toman un valor medio.

- Se vuelven a calcular la matriz de distancias (D, D2, etc.), se unen otro par de observaciones y se recalcula la matriz.

- Así hasta que todas las observaciones quedan en un solo grupo.


Métodos del vecino más cercano:

- Igual que el método del centroide pero varía el cálculo de la distancia.

- Las distancias entre los grupos a fusionar se calculan tomando las observaciones más cercanas de cada grupo (en vez del valor medio).


0

5

10

15

20

25

30

35

40

45

100 250 400 550


0

5

10

15

20

25

30

35

40

45

100 250 400 550





0

5

10

15

20

25

30

35

40

45

100 250 400 550





0

5

10

15

20

25

30

35

40

45

100 250 400 550





0

5

10

15

20

25

30

35

40

45

100 250 400 550





0

5

10

15

20

25

30

35

40

45

100 250 400 550





0

5

10

15

20

25

30

35

40

45

100 250 400 550





0

5

10

15

20

25

30

35

40

45

100 250 400 550





0

5

10

15

20

25

30

35

40

45

100 250 400 550





0

5

10

15

20

25

30

35

40

45

100 250 400 550




Métodos del vecino más lejano:

- Igual que el método anterior pero utiliza las observaciones más lejanas de cada grupo para calcular las distancias.


0

5

10

15

20

25

30

35

40

45

100 250 400 550


0

5

10

15

20

25

30

35

40

45

100 250 400 550




0

5

10

15

20

25

30

35

40

45

100 250 400 550




0

5

10

15

20

25

30

35

40

45

100 250 400 550




0

5

10

15

20

25

30

35

40

45

100 250 400 550




0

5

10

15

20

25

30

35

40

45

100 250 400 550




0

5

10

15

20

25

30

35

40

45

100 250 400 550




0

5

10

15

20

25

30

35

40

45

100 250 400 550




0

5

10

15

20

25

30

35

40

45

100 250 400 550






0

5

10

15

20

25

30

35

40

45

100 250 400 550

Métodos de la vinculación promedio:

- La distancia entre los grupos se obtiene calculando la distancia promedio entre todos los pares de observaciones que pueden formarse entre los dos grupos fusionar.


0

5

10

15

20

25

30

35

40

45

100 250 400 550


0

5

10

15

20

25

30

35

40

45

100 250 400 550


- La distancia entre los grupos se obtiene calculando la distancia promedio entre todos los pares de observaciones que pueden formarse entre los dos grupos fusionar.



0

5

10

15

20

25

30

35

40

45

100 250 400 550

Métodos de Ward:

- El método de Ward es el más utilizado (maximiza la homogeneidad dentro de los grupos).

- Para ello, plantea todas las posibles fusiones en cada etapa concreta y elige la que maximiza la homogeneidad:

- Calcula los centroides de los grupos resultantes de las posibles fusiones

- A continuación calcula la distancia al centroide de todas las observaciones del grupo (suma de cuadrados total)

- La solución con menor suma de cuadrados total es la elegida


Ejemplo método de Ward (distancia D2):análisis jerárquico

0

5

10

15

20

25

30

35

40

45

100 250 400 550


8

4 7

3

5 6

1

2

Ejemplo método de Ward (distancia D2):

Posibles fusiones:

(1,2,3,4) y (5,6)


0

5

10

15

20

25

30

35

40

45

100 250 400 550


8

4 7

3

5 6

1

2


Posibles fusiones:

(5,6) y (7,8)


0

5

10

15

20

25

30

35

40

45

100 250 400 550


8

4 7

3

5 6

1

2


Posibles fusiones:

(1,2,3,4) y (7,8)


0

5

10

15

20

25

30

35

40

45

100 250 400 550


8

4 7

3

5 6

1

2


Posibles fusiones:

(1,2,3,4) y (5,6)

(5,6) y (7,8)

(1,2,3,4) y (7,8)


0

5

10

15

20

25

30

35

40

45

100 250 400 550


8

4 7

3

5 6

1

2


Grupos Producción leche Rendimiento quesero(1,2,3,4) (5,6) 260,0 22,5

(5,6) (7,8) 412,5 30,0(1,2,3,4) (7,8) 301,7 27,5

0

5

10

15

20

25

30

35

40

45

100 200 300 400 500 600



(5,6) (7,8) 412,5 30,0(1,2,3,4) (7,8) 301,7 27,5

0

5

10

15

20

25

30

35

40

45

100 200 300 400 500 600



(5,6) (7,8) 412,5 30,0(1,2,3,4) (7,8) 301,7 27,5

0

5

10

15

20

25

30

35

40

45

100 200 300 400 500 600



(5,6) (7,8) 412,5 30,0(1,2,3,4) (7,8) 301,7 27,5

0

5

10

15

20

25

30

35

40

45

100 200 300 400 500 600



(5,6) (7,8) 412,5 30,0(1,2,3,4) (7,8) 301,7 27,5

0

5

10

15

20

25

30

35

40

45

100 200 300 400 500 600



(5,6) (7,8) 412,5 30,0(1,2,3,4) (7,8) 301,7 27,5

0

5

10

15

20

25

30

35

40

45

100 200 300 400 500 600


- D1,2,3,4,5,6 = 26437

- D1,2,3,4,7,8 = 111625

- D5,6,7,8 = 103137



(5,6) (7,8) 412,5 30,0(1,2,3,4) (7,8) 301,7 27,5



- D1,2,3,4,5,6 = 26437

- D1,2,3,4,7,8 = 111625

- D5,6,7,8 = 103137



(5,6) (7,8) 412,5 30,0(1,2,3,4) (7,8) 301,7 27,5


Elección del método de agrupación jerárquica:

- Sigue planteando interrogantes a resolver

- Probar varios métodos y comparar los resultados

- Método del vecino más cercano: Tiende a crear pocos grupos, aunque es muy sensible a outliers

- Método del vecino más lejano: Grupos muy homogéneos

- Método de Ward: Tiende a grupos muy compactos de tamaño similar


Selección del número de conglomerados:

- Problema que aún plantea dudas.

- Dos criterios:

- Debe detenerse la fusión cuando los grupos a unir están a una distancia significativamente mayor de los que previamente se han fusionado.

- El investigador debe interpretar adecuadamente cada grupo de la solución final.


Selección del número de conglomerados:

- Distancia de los conglomerados (DC)

- Tasa de variación del coeficiente de conglomeración

- Raíz cuadrada de la media de las D.T. del nuevo cluster (RC)

- R2 semiparcial (R2S)

- R cuadrado (R2)


Distancia de los conglomerados (DC):

- Indica la homogeneidad dentro del nuevo conglomerado.

- Responde a la distancia utilizada.

- El valor debe ser pequeño.


Num. Cluster DC7 3,66 5,385 5,654 7,073 11,882 13,51 35,03

Tasa de variación del coeficiente de conglomeración:

- El coeficiente de conglomeración refleja la distancia a la que estaban los grupos fusionados en la etapa


Agglomeration Distance PlotWard's Method,Squared Euclidean

0 2 4 6 8 10 12

Stage

0

20

40

60

80

100

Dis

tanc

e




Agglomeration Distance PlotWard's Method,Squared Euclidean

0 2 4 6 8 10 12

Stage

0

20

40

60

80

100

Dis

tanc

e





Dis

tanc

e

0

20

40

60

80

100

1 2 3 45 67 8 910 11 12





Dis

tanc

e

0

20

40

60

80

100

1 2 3 45 67 8 910 11 12





Dis

tanc

e

0

20

40

60

80

100

1 2 3 45 67 8 910 11 12





Dis

tanc

e

0

20

40

60

80

100

1 2 3 45 67 8 910 11 12





Dis

tanc

e

0

20

40

60

80

100

1 2 3 45 67 8 910 11 12





Dis

tanc

e

0

20

40

60

80

100

1 2 3 45 67 8 910 11 12





Dis

tanc

e

0

20

40

60

80

100

1 2 3 45 67 8 910 11 12





Dis

tanc

e

0

20

40

60

80

100

1 2 3 45 67 8 910 11 12





Dis

tanc

e

0

20

40

60

80

100

1 2 3 45 67 8 910 11 12





Dis

tanc

e

0

20

40

60

80

100

1 2 3 45 67 8 910 11 12





Dis

tanc

e

0

20

40

60

80

100

1 2 3 45 67 8 910 11 12




Agglomeration Schedule----------------------Clustering Method: Ward'sDistance Metric: Squared Euclidean

Clusters Combined Stage First Appears NextStage Cluster 1 Cluster 2 Coefficient Cluster 1 Cluster 2 Stage-------------------------------------------------------------------------- 1 2 3 0,91948 0 0 4 2 5 6 2,27928 0 0 4 3 9 11 3,92254 0 0 7 4 2 5 6,44183 1 2 6 5 1 7 9,0135 0 0 8 6 2 10 13,4301 4 0 8 7 8 9 19,2448 0 3 9 8 1 2 25,2716 5 6 10 9 4 8 40,384 0 7 10 10 1 4 60,5273 8 9 11 11 1 12 88,0 10 0 0--------------------------------------------------------------------------




Agglomeration Schedule----------------------Clustering Method: Ward'sDistance Metric: Squared Euclidean

Clusters Combined Stage First Appears NextStage Cluster 1 Cluster 2 Coefficient Cluster 1 Cluster 2 Stage-------------------------------------------------------------------------- 1 2 3 0,91948 0 0 4 2 5 6 2,27928 0 0 4 3 9 11 3,92254 0 0 7 4 2 5 6,44183 1 2 6 5 1 7 9,0135 0 0 8 6 2 10 13,4301 4 0 8 7 8 9 19,2448 0 3 9 8 1 2 25,2716 5 6 10 9 4 8 40,384 0 7 10 10 1 4 60,5273 8 9 11 11 1 12 88,0 10 0 0--------------------------------------------------------------------------

Raíz cuadrada de la media de las D.T. del nuevo cluster (RC):

- Indica la homogeneidad del nuevo conglomerado.

- La suma de todas las desviaciones típicas de todas las observaciones del nuevo conglomerado respecto al centroide.



Num. Cluster DC RC7 3,6 1,86 5,38 2,695 5,65 2,824 7,07 3,533 11,88 5,222 13,5 6,071 35,03 14,24

R2 semiparcial (R2S):

- Indica la pérdida de homogeneidad que se produce en la fusión.

- Su cálculo se basa en el ratio entre la pérdida de homogeneidad en cada fusión (suma de cuadrados tras la fusión menos la suma de cuadrados de los grupos que se unen) y la homogeneidad máxima (cada observación es un grupo).



Num. Cluster DC RC R2S7 3,6 1,8 06 5,38 2,69 05 5,65 2,82 04 7,07 3,53 03 11,88 5,22 0,042 13,5 6,07 0,061 35,03 14,24 0,86

R2:

- Indica la heterogeneidad entre conglomerados en cada fusión.

- Ratio entre la heterogeneidad entre conglomerados y la total.

- El valor debe ser alto.


Num. Cluster DC RC R2S R27 3,6 1,8 0 0,996 5,38 2,69 0 0,995 5,65 2,82 0 0,984 7,07 3,53 0 0,973 11,88 5,22 0,04 0,922 13,5 6,07 0,06 0,861 35,03 14,24 0,86 0

DC: homogeneidad clusters fusionados Pequeño

T. Var. CC: pérdida homogeneidad en la fusión Pequeño

RC: homogeneidad del nuevo cluster Pequeño

R2S: pérdida homogeneidad en la fusión Pequeño

R2: heterogeneidad entre clusters Grande



DC: homogeneidad clusters fusionados Pequeño

T. Var. CC: pérdida homogeneidad en la fusión Pequeño

RC: homogeneidad del nuevo cluster Pequeño

R2S: pérdida homogeneidad en la fusión Pequeño

R2: heterogeneidad entre clusters Grande




0

5

10

15

20

25

30

35

40

0 1 2 3 4 5 6 7 8

DC RC

00,10,20,30,40,50,60,70,80,9

1

0 1 2 3 4 5 6 7 8

R2S R2

Analizar e interpretar los resultados:

- ANOVA entre clusters con las variables utilizadas en el análisis.

- ANOVA con las demás variables.

- Tabla de contingencia entre clusters para variables categóricas.

- Interpretar los resultados con las agrupaciones sucesivas.


Análisis no jerárquico:

- Se conoce a priori el número de k grupos

- Cada observación es asignada a un grupo

- Maximiza la homogeneidad dentro de los grupos

- Maximiza la heterogeneidad entre grupos

- Etapas:

1. Determinar los centroides iniciales de los k grupos

2. Formación de los grupos

3. Recalcular los centroides y formar grupos hasta la estabilidad

análisis no jerárquico

1. Determinar los centroides iniciales de los k grupos:

- Se utilizan las k primeras observaciones del fichero como centroides de partida.

- Se calculan las distancias entre las k observaciones y se retiene la correspondiente a las 2 observaciones más cercanas (O1-O2).


1. Determinar los centroides iniciales de los k grupos:

- A continuación se determina si alguna de las 2 observaciones puede ser sustituida en el centroide por la observación Ok+1.

- Si la distancia de Ok+1 a la observación más cercana perteneciente a las k observaciones centroides es mayor que la distancia entre las dos observaciones más cercanas, Ok+1 sustituye a O1 o a O2 (la más cercana).

- Si la distancia de Ok+1 a cualquiera de las k observaciones centroides (exceptuando la más cercana) es más grande que la menor distancia de la más cercana a todas las que integran el centroide, Ok+1 sustituye a Ok




O1 O2 Ok

Ok+1




O1 Ok

Ok+1


- A continuación se determina si alguna de las 2 observaciones puede ser sustituida por en el centroide por la observación Ok+1.


O1 O2 Ok

Ok+1


- A continuación se determina si alguna de las 2 observaciones puede ser sustituida por en el centroide por la observación Ok+1.


O1 O2

Ok+1

- El proceso se repite hasta que los k centroides se estabilizan.


2. Formación de los nuevos grupos:

- Se calcula distancia de cada observación a los k centroides y se asigna al más cercano.

- Se recalculan los centroides (etapa 1) y se vuelven a asignar las observaciones.

- El proceso finaliza cuando las observaciones no cambian de grupo o cuando se alcanza un determinado número de iteraciones (marcadas por el investigador)


Elección entre conglomerado jerárquico o no jerárquico:

- Sigue planteando dudas.

- Depende de los objetivos del estudio y de las propiedades de los distintos métodos.

- Lo ideal sería un enfoque jerárquico inicial y complementario a un enfoque no jerárquico final:

- El análisis jerárquico inicial determinaría cuál es el número de grupos y los centroides iniciales del posterior análisis no jerárquico.

- El posterior análisis no jerárquico maximiza la homogeneidad dentro de grupos y la heterogeneidad entre grupos.

elección

ANÁLISIS DE CONGLOMERADOS - Universidad de Córdoba · ANÁLISIS DE CONGLOMERADOS 1. Introducción 2. Medidas de similaridad 3. Análisis jerárquico 4. Análisis no jerárquico

Documents