SOLUCIN DE SISTEMAS DE ECUACIONES LINEALES EMPLEANDO OPTIMIZACIN
GLOBAL
Trabajo publicado en www.ilustrados.com
La mayor Comunidad de difusin del conocimiento
SOLUCIN DE SISTEMAS DE ECUACIONES LINEALES EMPLEANDO SIMULATED
ANNEALING
AUTOR
Francisco Snchez-Mares
Colegio Lincoln, A. C.
Av. Mahatma Gandhi No. 350, Fracc. pilar blanco, Aguascalientes,
Ags.
[email protected]
RESUMEN
Un gran nmero de problemas comunes en la ingeniera requieren la
solucin de sistemas de ecuaciones lineales de grandes dimensiones.
Por lo tanto, es necesario emplear mtodos numricos que sean capaces
de determinar el vector solucin del sistema bajo anlisis de manera
eficiente. En este trabajo se presenta una metodologa para resolver
sistemas de ecuaciones lineales empleando como estrategia de
solucin la tcnica de optimizacin global Simulated Annealing. El
mtodo fue probado con diversos sistemas de ecuaciones y los
resultados mostraron que el mtodo es capaz de resolver sistemas de
gran dimensin.
Palabras clave
Sistemas de ecuaciones lineales, Vector solucin, Mtodos
numricos, Optimizacin global, Simulated Annealing.
INTRODUCCIN
En la ingeniera, una gran cantidad de problemas prcticos se
reducen a la solucin de un sistema de ecuaciones lineales, que en
algunos casos presentarn un gran nmero de incgnitas. En general, un
sistema de ecuaciones se representa de la siguiente forma
1,111,221,1
2,112,222,2
,11,22,
+ + + =
+ + + =
+ + + =
nn
nn
mmmnnm
axaxaxb
axaxaxb
axaxaxb
K
K
MMMM
K
(1)
La Ecuacin (1) puede ser representada en notacin matricial
como
xb
=
A
rr
(2)
donde la matriz A esta conformada por los elementos
1,11,21,
2,12,22,
,1,2,
n
n
mmmn
aaa
aaa
aaa
=
A
K
K
MMM
K
(3)
y los vectores incgnita o solucin
x
r
y de el vector de trminos independientes
b
r
se representan como
1
2
m
x
x
x
x
=
r
M
(4)
1
2
m
b
b
b
b
=
r
M
(5)
Teniendo especificados los valores de A y
b
r
, la solucin del sistema (1) se tendr cuando se calculen los
x
r
que lo satisfagan.
Los mtodos empleados para obtener los valores del vector
incgnita se pueden clasificar en directos e iterativos. Los mtodos
directos ms representativos son el mtodo de la eliminacin de Gauss,
el de Gauss-Jordan y el de factorizacin, mientras que en los
iterativos se encuentran Jacobi y Gauss-Seidel.
La eliminacin de Gauss, que se basa en reducir un sistema de
ecuaciones completo a uno triangular. La triangularizacin permite
encontrar de manera directa el valor de
n
x
de la ecuacin n, los valores restantes se obtendrn realizando un
proceso de sustitucin regresiva. Sin embargo, est mtodo no es
simple de aplicar en grandes sistemas de ecuaciones y requiere
tiempos de cmputo altos.
El mtodo de Gauss-Jordan consiste en transformar el sistema de
ecuaciones en una matriz identidad quedando al final slo los
componentes de
x
r
. El procedimiento es similar al de eliminacin de Gauss, pero
tambin se deben reducir los trminos que estn debajo de la diagonal
principal. La principal desventaja de este mtodo es su alto tiempo
de cmputo requerido para llegar a la convergencia.
Despus de obtener la matriz triangular superior mediante el
mtodo de Gauss es posible aplicar un mtodo llamado de factorizacin,
que se basa en la introduccin de una matriz triangular inferior que
multiplicada por la triangular superior dar por resultado la matriz
original. Esta tcnica requiere de la implementacin del mtodo de
Gauss para obtener la matriz triangular superior y posteriormente
la definicin de la matriz triangular inferior, lo que lo convierte
en un mtodo poco prctico para sistemas de un gran nmero de
ecuaciones.
Los mtodos iterativos son empleados en diversas reas de la
ingeniera debido a que son simples de programar. Sin embargo,
requieren tiempos de cmputo altos, los cuales se incrementan con el
orden del sistema bajo anlisis y presentan errores de redondeo por
ser soluciones aproximadas. Los mtodos ms representativos de esta
clasificacin son Jacobi y Gauss-Seidel.
Inicialmente ambos mtodos requieren del despeje de x1 de la
primera ecuacin, de x2 de la segunda y as sucesivamente hasta
llegar a xn de la ecuacin n. Posteriormente, se propone un vector
solucin
x
r
que se supone satisface al sistema. La diferencia entre ambos
mtodos radica en que el mtodo de Jacobi puede iniciar con todos los
valores de
x
r
igual a cero o cualquier otro valor arbitrario, mientras que el
de Gauss-Seidel emplea el valor de
1
b
como la primera solucin de
1
x
, este valor se sustituir en la segunda ecuacin para obtener el
valor de
2
x
y todos los valores que componen a
x
r
se obtendrn de manera progresiva. Ambos mtodos van refinando la
solucin como resultado de cada iteracin y terminarn cuando se
cumpla una tolerancia o margen de error especificado regularmente
como la diferencia entre el nuevo valor calculado y el valor
anterior.
Se han presentado los mtodos ms empleados para determinar
x
r
. Sin embargo, existen gran cantidad de mtodos numricos
propuestos o modificaciones de los aqu mencionados. Sin embargo,
estas tcnicas presentan desventajas como ser iterativas, tiempos de
cmputo altos que se incrementan conforme aumenta el tamao del
sistema y algunos requieren el clculo de la inversa o la
factorizacin de matrices triangulares.
METODOLOGA
El sistema de ecuaciones descrito en la expresin (2) se puede
reacomodar de la siguiente forma
0
xb
-=
A
rr
(6)
Por lo tanto, de esta forma el vector de incgnitas se puede
determinar tratando al sistema de ecuaciones lineales como un
problema de optimizacin. Es decir, obtener el
x
r
que minimice al sistema de ecuaciones a un valor muy cercano a
cero. La funcin objetivo a minimizar FOBJ ser la siguiente
(
)
(
)
22
1,111,221,1,11,22,
+ + + - ... + + + -
OBJnnmmmnnm
Faxaxaxbaxaxaxb
=+
KK
(7)
Como estrategia de solucin para obtener el vector incgnitas de
un sistema de ecuaciones lineales en este trabajo se emple el mtodo
de optimizacin global Simulated Annealing (SA), el cual es una
simulacin del proceso de templado empleado en metales. El SA est
compuesto por varios parmetros de optimizacin que pueden ser
modificados segn la complejidad de la funcin a evaluar. La Tabla 1
muestra el valor de los parmetros estndar del SA.
Tabla 1. Parmetros principales del algoritmo Simulated
Annealing.
Parmetro
Descripcin
T
RT
NT
NS
Temperatura inicial del Simulated Annealing.
Factor de reduccin de la temperatura.
Mximo nmero de iteraciones antes de reducir la temperatura.
Mximo nmero de ciclos externos.
Bsicamente el algoritmo trabaja de la siguiente forma:
inicialmente se fija el valor inicial de T (parmetro que controla
la aleatoriedad), luego se propone un vector solucin que deber
estar comprendido entre unos lmites especificados y se supone
minimiza a la funcin objetivo. Posteriormente, se verifica la
respuesta que tiene el sistema para el vector propuesto y se
recalcular para un nuevo vector solucin. Si este nuevo vector
propuesto tiene una respuesta mnima entonces se acepta como posible
solucin. Por otra parte si la respuesta no minimiza la funcin, se
acepta el vector con una probabilidad igual a:
R
T
e
-D
(8)
donde (R es la diferencia de la respuesta numrica del sistema a
los vectores solucin.
La aceptacin ocasional de soluciones que no minimizan la funcin
permite al sistema saltar de un mnimo local al mnimo global. Despus
de una normalizacin, el proceso contina repitindose al mismo
instante que se reduce la temperatura hasta llegar a temperaturas
muy bajas donde existe una alta probabilidad de que el mnimo global
ha sido encontrado.
RESULTADOS
Para verificar la eficiencia del mtodo se evaluaron diversos
sistemas de ecuaciones de gran tamao. Sin embargo, debido a la
brevedad del documento se presenta un sistema de tres ecuaciones
con tres incgnitas, otro de diez ecuaciones con diez incgnitas y
finalmente, uno de noventa y un ecuaciones con igual nmero de
incgnitas. Los programas computacionales para calcular los vectores
solucin se codificaron en FORTRAN y se componen de una subrutina y
un programa principal. En el programa principal se encuentra el
sistema de ecuaciones a resolver reacomodado en la forma presentada
en la Ecuacin (6), mientras que en la subrutina se encuentra el
cdigo del SA proporcionado por W. L. Goffe. El criterio de paro o
margen de error empleado fue 1.0 E-6. Todos los clculos realizados
se llevaron a cabo en un PC con procesador Intel Celeron M 1.50 GHz
y 240 MB de RAM. Los parmetros de SA empleados fueron los
reportados en la Tabla 1.
Para observar el comportamiento numrico del mtodo SA durante la
convergencia, se analiz un sistema de tres ecuaciones con el mismo
nmero de incgnitas. Para todos los sistemas de ecuaciones evaluados
se variaron los lmites de bsqueda con el fin de observar su
influencia en el incremento del nmero de evaluaciones de la funcin
objetivo y en el tiempo de cmputo.
a) Sistema de tres ecuaciones con tres incgnitas.
El sistema a evaluar es el siguiente
123
123
123
4 - 9 + 2 = 5
2 - 4 + 6 = 3
- + 3 = 4
xxx
xxx
xxx
(9)
La solucin de este sistema viene dado por el vector
[
]
6.95,2.5,0.15
T
x
=-
r
. La Tabla 2 presenta el efecto que tiene el modificar los
lmites de bsqueda de SA en el nmero de iteraciones y el tiempo de
cmputo empleado por el mtodo.
Tabla 2. Efecto de variar los lmites de bsqueda en el nmero de
evaluaciones de la funcin objetivo y el tiempo de cmputo.
Lmite inferior
Lmite superior
Inicializacin
Nmero de evaluaciones de la funcin objetivo
Tiempo de cmputo (s)
10
10
10
x
-
=-
-
r
10
10
10
x
=
r
5
5
5
x
=
r
166801
2.31
100
100,
100
x
-
=-
-
r
100
100
100
x
=
r
50
50
50
x
=
r
163201
2.10
1000
1000
1000
x
-
=-
-
r
1000
1000
1000
x
=
r
500
500
500
x
=
r
164401
2.21
Las Figuras 1-3 muestran el comportamiento de las incgnitas x1,
x2 y x3 durante las evaluaciones de la funcin objetivo para el
lmite inferior
[
]
10,10,10
T
x
=---
r
y el superior
[
]
10,10,10
T
x
=
r
con una inicializacin de
[
]
5,5,5
T
x
=
r
. En estos esquemas se puede apreciar que antes de las primeras
70000 evaluaciones de la funcin objetivo existe una gran cantidad
de soluciones que estn muy dispersas, siempre entre los lmites
permitidos. Sin embargo, conforme aumenta el nmero de evaluacin de
la funcin objetivo la solucin propuesta por el mtodo comienza a
estabilizarse hasta llegar a determinar el vector solucin.
El comportamiento de la funcin objetivo es presentado en la
Figura 4, en la cual se puede observar que comienza a tender a cero
despus de la evaluacin 70000, que es el punto donde SA ya esta muy
cercano a encontrar los valores del vector incgnita que minimizan a
la funcin objetivo.
-10
-8
-6
-4
-2
0
2
4
6
8
10
020000400006000080000100000120000140000160000
Nmero de evaluacin de la funcin objetivo
X
1
Figura 1. Valor propuesto de x1 por SA contra nmero de evaluacin
de la funcin objetivo.
-10
-8
-6
-4
-2
0
2
4
6
8
10
020000400006000080000100000120000140000160000
Nmero de evaluacin de la funcin objetivo
X
2
Figura 2. Valor propuesto de x2 por SA contra nmero de evaluacin
de la funcin objetivo.
-10
-8
-6
-4
-2
0
2
4
6
8
10
020000400006000080000100000120000140000160000
Nmero de evaluacin de la funcin objetivo
X
3
Figura 3. Valor propuesto de x3 por SA contra nmero de evaluacin
de la funcin objetivo.
0
50
100
150
200
020000400006000080000100000120000140000160000
Nmero de evaluacin de la funcin objetivo
Valor de la funcin objetivo
Figura 4. Valor de la funcin objetivo contra nmero de evaluacin
de la funcin objetivo.
b) Sistema de diez ecuaciones con diez incgnitas.
El sistema evaluado de diez ecuaciones lineales con el mismo
nmero de incgnitas es el siguiente
12
123
234
345
456
567
678
789
8
2 - = 1.000
+ 2 - = 1.151
+ 2 - = 1.221
+ 2 - = 1.350
+ 2 - = 1.367
+ 2 - = 1.275
+ 2 - = 1.134
+ 2 - = 0.980
xx
xxx
xxx
xxx
xxx
xxx
xxx
xxx
x
-
-
-
-
-
-
-
-
910
910
+ 2 - = 0.912
+ 2 = 0.820
xx
xx
-
(10)
El vector solucin obtenido fue
[
]
5.8431,10.6862,14.3783,16.8494,17.9705,1
7.7245,16.2036,13.5487,9.9138,5.3669
T
x
=
r
Nuevamente, se presenta en la Tabla 3 los lmites de bsqueda
evaluados, nmero de evaluaciones de la funcin objetivo y el tiempo
de cmputo.
Tabla 3. Efecto de variar los lmites de bsqueda en el nmero de
evaluaciones de la funcin objetivo y el tiempo de cmputo.
Lmite inferior
Lmite superior
Inicializacin
Nmero de evaluaciones de la funcin objetivo
Tiempo de cmputo (s)
1
10
20
20
x
x
x
=-
=
=-
r
M
1
10
20
20
x
x
x
=
=
=
r
M
1
10
10
10
x
x
x
=
=
=
r
M
576001
3.49
1
10
200
200
x
x
x
=-
=
=-
r
M
1
10
200
200
x
x
x
=
=
=
r
M
1
10
100
100
x
x
x
=
=
=
r
M
576001
3.49
1
10
2000
2000
x
x
x
=-
=
=-
r
M
1
10
2000
2000
x
x
x
=
=
=
r
M
1
10
1000
1000
x
x
x
=
=
=
r
M
568001
3.11
c) Sistema de noventa y un ecuaciones con noventa y un
incgnitas.
Sistemas de ecuaciones de este tipo o an ms grandes se obtienen
regularmente cuando se resuelven ecuaciones diferenciales mediante
el mtodo de diferencias finitas. El nmero de ecuaciones a resolver
depender del tamao de malla empleado en la solucin del problema
planteado. El sistema evaluado y su respectiva solucin se presentan
en el anexo.
En la Tabla 4 se muestra la evaluacin del tiempo de cmputo,
nmero de funciones evaluadas de la funcin objetivo y el efecto de
los lmites de bsqueda sobre este sistema.
Tabla 4. Efecto de variar los lmites de bsqueda en el nmero de
evaluaciones de la funcin objetivo y el tiempo de cmputo.
Lmite inferior
Lmite superior
Inicializacin
Nmero de evaluaciones de la funcin objetivo
Tiempo de cmputo (s)
1
91
10
10
x
x
x
=-
=
=-
r
M
1
91
10
10
x
x
x
=
=
=
r
M
1
91
5
5
x
x
x
=
=
=
r
M
5642001
93
1
91
100
100
x
x
x
=-
=
=-
r
M
1
91
100
100
x
x
x
=
=
=
r
M
1
91
50
50
x
x
x
=
=
=
r
M
5532801
85
1
91
1000
1000
x
x
x
=-
=
=-
r
M
1
91
1000
1000
x
x
x
=
=
=
r
M
1
91
500
500
x
x
x
=
=
=
r
M
5642001
93
Conclusiones
Se ha reportado en este trabajo una metodologa eficiente para
resolver sistemas de ecuaciones de grandes dimensiones empleando
una estrategia de optimizacin global. Los resultados obtenidos
mostraron que el mtodo converge a la solucin independientemente de
la estimacin inicial y de los lmites de bsqueda establecidos.
La convergencia del mtodo a la solucin esta garantizada para
grandes sistemas de ecuaciones, debido a que la forma que presenta
la funcin a minimizar es muy simple.
La eleccin de los lmites de bsqueda o de la inicializacin no
tiene influencia en los tiempos de cmputo o en el nmero de
evaluaciones de la funcin objetivo. Sin embargo, el tiempo de
clculo en los sistemas evaluados si se incrementa conforme aumenta
el nmero de ecuaciones.
Bibliografa
(1) Corana A., Marchesi M., Martini C. y Ridella, S. (1987),
Minimizing multimodal functions of continuous variables with the
Simulated Annealing algorithm, ACM Transactions on Mathematical
Software, vol. 13, nm 3, pp. 262-280.
(2) Goffe W. L., Ferrier G. D. y Rogers, J. (1994), Global
optimization of statistical functions with Simulated Annealing,
Journal of Econometrics, vol. 60, nm 1-2, pp. 65-99.
(3) Mathews J. H. y Fink K. D. (2000), Mtodos numricos con
MATLAB, Espaa, Prentice Hall.
(4) Nieves A. y Domnguez F. C. (2003), Mtodos numricos aplicados
a la ingeniera, Mxico, CECSA.
Anexo
521
6132
7243
384
9165
105276
116387
12748
135109
14961110
18-40
6-40
4-40
2-40
10-40
-40
-40
-40
10-40
-40
xxx
xxxx
xxxx
xxx
xxxx
xxxxx
xxxxx
xxxx
xxxx
xxxxx
++=
+++=
+++=
++=
+++=
+++=
+++=
++=
+++=
+++=
151071211
1611812
1791413
1813101514
1914111615
20151216
21131817
2217141918
2318152019
2419162
-40
-40
10-40
-40
-40
-40
10-40
-40
-40
-4
xxxxx
xxxx
xxxx
xxxxx
xxxxx
xxxx
xxxx
xxxxx
xxxxx
xxxx
+++=
++=
+++=
+++=
+++=
++=
+++=
+++=
+++=
++
0
0
=
26172221
2721182322
2822192423
2923202524
302425
32212726
3326222827
3427232928
3528243029
362925
10-40
-40
-40
-40
-40
10-40
-40
-40
-40
xxxx
xxxxx
xxxxx
xxxxx
xxx
xxxx
xxxxx
xxxxx
xxxxx
xxx
+++=
+++=
+++=
+++=
+=
+++=
+++=
+++=
+++=
+++
3130
-40
xx
=
373031
39263332
4032273433
4133283534
4234293635
4335303736
4436313837
453738
4732
-4 0
10 -4 0
-4 0
-4 0
-4 0
-4 0
-4 0
-4 0
10
xxx
xxxx
xxxxx
xxxxx
xxxxx
xxxxx
xxxxx
xxx
xxx
+=
+++=
+++=
+++=
+++=
+++=
+++=
+=
+++
4039
4839334140
4940344241
-4 0
-4 0
-4 0
x
xxxxx
xxxxx
=
+++=
+++=
5041354342
5142364443
5243374544
5344384645
544546
56394847
5747404948
5848415049
5949425150
605043
-40
-40
-40
-40
-40
10-40
-40
-40
-40
xxxxx
xxxxx
xxxxx
xxxxx
xxx
xxxx
xxxxx
xxxxx
xxxxx
xxx
+++=
+++=
+++=
+++=
+=
+++=
+++=
+++=
+++=
++
5251
6151445352
-40
-40
xx
xxxxx
+=
+++=
6252455453
6353465554
645455
65475756
6656485857
6757495958
6858506059
6959516160
7060526261
716153
-40
-40
-40
10-40
-40
-40
-40
-40
-40
xxxxx
xxxxx
xxx
xxxx
xxxxx
xxxxx
xxxxx
xxxxx
xxxxx
xxx
+++=
+++=
+=
+++=
+++=
+++=
+++=
+++=
+++=
++
6362
7262546463
-40
-40
xx
xxxxx
+=
+++=
73635564
74566665
7565576766
7666586867
7767596968
7868607069
7969617170
8070627271
8171637372
8272
-40
10-40
-40
-40
-40
-40
-40
-40
-40
xxxx
xxxx
xxxxx
xxxxx
xxxxx
xxxxx
xxxxx
xxxxx
xxxxx
xx
++=
+++=
+++=
+++=
+++=
+++=
+++=
+++=
+++=
+
6473
83657574
-40
10-40
xx
xxxx
+=
+++=
8474667675
8575677776
8676687877
8777697978
8878708079
8979718180
9080728281
91817382
-40
-40
-40
-40
-40
-40
-40
-40
xxxxx
xxxxx
xxxxx
xxxxx
xxxxx
xxxxx
xxxxx
xxxx
+++=
+++=
+++=
+++=
+++=
+++=
+++=
++=
748483
83758584
84768685
85778786
86788887
87798988
88809089
89819190
908291
19-40
8-40
7-40
6-40
5-40
4-40
3-40
2-40
1-40
xxx
xxxx
xxxx
xxxx
xxxx
xxxx
xxxx
xxxx
xxx
++=
+++=
+++=
+++=
+++=
+++=
+++=
+++=
++=
El vector solucin obtenido mediante SA para este sistema de
ecuaciones es
x1= 8.016056518855445
x2= 6.026922691912769
x3= 4.028300811497868
x4= 2.018358821833041
x5= 8.037303477306653
x6= 6.063333561092443
x7=4.067921832325808
x8= 2.045134448136690
x9= 8.069823737367861
x10= 6.121186253274451
x11= 4.134918616866005
x12=2.094257043757819
x13= 8.120805219918115
x14= 6.216668940890973
x15= 4.256309242921889
x16= 2.196975179953548
x17= 8.196728256207964
x18= 6.368375071512706
x19= 4.476674257338209
x20=2.437334213177732
x21= 8.297732682380666
x22= 6.583428979405170
x23= 4.844678497679475
x24 =3.075687467355436
x25=1.327766367174072
x26= 8.410773528782690
x27= 6.822929784599886
x28= 5.242923351204384
x29= 3.692970826851902
x30 = 2.235377990902403
x31=1.001821785628626
x32= 8.522431609072198
x33=7.054593146567123
x34= 5.611114239884935
x35=4.217894530497254
x36=2.918953012770334
x37=1.771909202514733
x38=7.986914023624777E-1
x39= 8.624359740610460
x40=7.261896899747019
x41=5.929045919170489
x42 = 4.648540044394191
x43=3.450630434337354
x44=2.368170671978277
x45=1.422856512000333
x46= 6.283692154451754E-1
x47= 8.713110501003763
x48=7.439588808735054
x 49= 6.194632523233779
x50= 4.996589450070974
x 51=3.866858018548008
x52 =2.827286479003548
x53=1.896194760225702
x54=1.090620421354723
x55= 4.366603936140915E-1
x56= 8.788493501213880
x57=7.588715279379542
x58= 6.413305878177000
x59=5.276327188826805
x60= 4.192925755045007
x61= 3.177922567747052
x62=2.244015500727871
x63=1.401257220691333
x64= 6.560211482478413E-1
x65= 8.852148313456123
x66=7.713472867725189
x67= 6.593548548248200
x68=5.502487608030402
x69= 4.450595326598649
x70 =3.447462450918150
x71=2.500687419378991
x72=1.614371859636989
x73=7.861670568720469E-1
x74= 8.906626814540829
x75=7.819479516177207
x76 =6.744927824388196
x77=5.689479374836563
x78=4.659505496183481
x79=3.660644384937151
x80=2.696899791172845
x81=1.769375768512966
x82= 8.742752109832588E-1
x83= 8.954879383157907
x84 =7.912890699043373
x85= 6.877203779451698
x86=5.850996525448698
x87= 4.837302929947541
x88=3.838709679723163
x89=2.856891424457362
x90=1.891956266341369
x91= 9.415578708188744E-1
_1247148191.unknown
_1247317427.unknown
_1247333855.unknown
_1247378171.unknown
_1247463164.unknown
_1247463301.unknown
_1247463347.unknown
_1262933639.unknown
_1247463443.unknown
_1247463327.unknown
_1247463233.unknown
_1247463267.unknown
_1247463193.unknown
_1247385601.unknown
_1247463107.unknown
_1247378201.unknown
_1247378278.unknown
_1247333888.unknown
_1247333919.unknown
_1247333939.unknown
_1247378095.unknown
_1247333929.unknown
_1247333898.unknown
_1247333878.unknown
_1247317459.unknown
_1247317475.unknown
_1247333845.unknown
_1247317467.unknown
_1247317440.unknown
_1247317449.unknown
_1247317433.unknown
_1247173770.unknown
_1247317414.unknown
_1247317420.unknown
_1247316304.unknown
_1247148262.unknown
_1247148280.unknown
_1247148295.unknown
_1247148201.unknown
_1247148213.unknown
_1246892280.unknown
_1246950961.unknown
_1247146171.unknown
_1247148156.unknown
_1247148175.unknown
_1247148150.unknown
_1246958486.unknown
_1246946453.unknown
_1246946520.unknown
_1246892367.unknown
_1246885236.unknown
_1246885250.unknown
_1246884220.unknown
_1246884545.unknown
_1246884570.unknown
_1246884617.unknown
_1246884461.unknown
_1246884098.unknown