Uso de Auto-Adaptaci´ on, Dominancia Local y Elitismo para Optimizaci´ on Evolutiva Multiobjetivo Alumno: Gregorio Toscano Pulido Asesor: Dr. Carlos Artemio Coello Coello Octubre 2002
Uso de Auto-Adaptacion, Dominancia Local yElitismo para Optimizacion Evolutiva
Multiobjetivo
Alumno: Gregorio Toscano Pulido
Asesor: Dr. Carlos Artemio Coello Coello
Octubre 2002
CINVESTAV-IPN Seminario 2003
Contenido del Trabajo
Antecedentes y motivacion
Planteamiento del problema
Estado del arte
Enfoque propuesto
Publicaciones
Trabajo futuro
Conclusiones
CINVESTAV-IPN Seminario 2003
Antecedentes y motivacion
La mayorıa de los problemas del mundo real tienen varias funciones
objetivo, es decir, son multiobjetivo.
Se han desarrollado mas de 30 algoritmos de programacion
matematica para resolver problemas multiobjetivo. Sin embargo,
presentan la desventaja de generar una solucion a la vez, a pesar de
que los problemas multiobjetivo suelen tener multiples soluciones.
Normalmente, requieren que se les proporcione una solucion factible
para iniciar su busqueda. Tambien suelen ser susceptibles a la forma
del frente de Pareto.
Los algoritmos evolutivos permiten generar multiples soluciones
simultaneamente y son menos susceptibles a la forma del frente de
Pareto, no necesitan de una solucion factible inicial (parte de un
conjunto de soluciones aleatorias).
CINVESTAV-IPN Seminario 2003
Antecedentes y motivacion
Una de las principales debilidades de los algoritmos evolutivos es
que requieren que se calibren sus parametros manualmente. Si estos
no son calibrados adecuadamente, es muy probable que el algoritmo
presente un comportamiento inadecuado.
No existe ningun algoritmo evolutivo multiobjetivo que auto-adapte
sus parametros.
A pesar del volumen de investigacion evolutiva multiobjetivo, no ha
sido sino hasta recientemente que se ha enfatizado el desarrollo de
enfoques eficientes, por lo que es necesario investigar profundamente
temas como elitismo y dinamica poblacional.
CINVESTAV-IPN Seminario 2003
Planteamiento del problema
El problema de optimizacion multiobjetivo es:
minimizar f(x) = [f1(x), f2(x), f3(x), . . . , fk(x)]T (1)
sujeto a m restricciones de desigualdad:
gi(x) ≥ 0 i = 1, 2 . . . ,m (2)
y las p restricciones de igualdad:
hj(x) = 0 j = 1, 2 . . . , p (3)
CINVESTAV-IPN Seminario 2003
Planteamiento del Problema
El concepto de optimo cambia en optimizacion multiobjetivo, debido a
que no existe una solucion unica, sino, un conjunto de soluciones validas,
de las cuales ninguna es mejor que la otra. A este conjunto de soluciones
se le denomina conjunto de optimos de Pareto. Por lo tanto, lo que se
pretende encontrar es un sub-conjunto representativo del conjunto de
optimos de Pareto.
CINVESTAV-IPN Seminario 2003
������������
����
��
����
����
����
����
����
f1
Frente dePareto
2f
1
2x
x
Individuos que no pertenecen a la región factible.
ZS
SZ imagen de S.
Espacio de las variables de decisión. Espacio de las funciones objetivo.
Individuos no dominados.
Individuos pertenecientes al conjunto factible.
Región delimitada por el conjunto factible.
CINVESTAV-IPN Seminario 2003
����
����
����
f1
Frente dePareto
2f
1
2x
x
Individuos que no pertenecen a la región factible.
ZS
SZ imagen de S.
Espacio de las variables de decisión. Espacio de las funciones objetivo.
Individuos pertenecientes al conjunto factible.
Región delimitada por el conjunto factible.Individuo no dominado.
CINVESTAV-IPN Seminario 2003
Un problema de optimizacion multiobjetivo
Funcion de Osyczka
f1(x, y) = −(25(x1 − 2)2 + (x2 − 2)2 + (x3 − 1)2 + (x4 − 4)2 + (x5 − 1)2
f2(x, y) = x21 + x2
2 + x23 + x2
4 + x25 + x2
6
(4)
Sujeto a las siguientes restricciones:
CINVESTAV-IPN Seminario 2003
0 ≤ x1, x2, x6 ≤ 10
1 ≤ x3, x4 ≤ 5
0 ≤ x5 ≤ 6
0 ≤ x1 + x2 − 2
0 ≤ 6− x1 − x2
0 ≤ 2− x2 + x1
0 ≤ 2− x1 + 3x2
0 ≤ 4− (x3 − 3)2 − x4
0 ≤ (x5 − 3)2 + x6 − 4
(5)
CINVESTAV-IPN Seminario 2003
CINVESTAV-IPN Seminario 2003
CINVESTAV-IPN Seminario 2003
��������������������
f1
Frente dePareto
2f
Z
Espacio de las funciones objetivo.
��������������������
f1
Frente dePareto
2f
Z
Espacio de las funciones objetivo.f
f
1
2
Verdadero frente de Pareto
Falso frente de Pareto
CINVESTAV-IPN Seminario 2003
Estado del arte
La primera implementacion practica de un algoritmo evolutivo
multiobjetivo fue propuesta por Schaffer a mediados de los 80s
(VEGA).
Goldberg discutio brevemente en su libro la posibilidad de usar un
esquema de jerarquizacion de Pareto para resolver problemas
multiobjetivo.
CINVESTAV-IPN Seminario 2003
Estado del arte
A mediados de los 90s el area comenzo a llamar la atencion a los
investigadores, y fue en aquella epoca cuando se desarrollaron
diversos algoritmos que fueron muy populares hasta finales del siglo
XX (MOGA, NSGA y NPGA).
Actualmente destacan enfoques mas sofisticados que utilizan
archivos externos para retener soluciones no dominadas y tecnicas
mas eficientes de nichos (NSGA-II, PAES, SPEA, SPEA2, PESA,
PESA II, etc.)
CINVESTAV-IPN Seminario 2003
Estado del arte
Algoritmos pertenecientes a la primera generacion:
VEGA.
MOGA.
NPGA.
NSGA.
Algoritmos pertenecientes a la segunda generacion:
PAES, PESA, PESA II.
NSGA-II.
SPEA, SPEA 2.
Micro-AG.
CINVESTAV-IPN Seminario 2003
Contribuciones o resultados esperados
Las contribuciones principales esperadas de este trabajo de tesis son las
siguientes:
Un nuevo algoritmo evolutivo multiobjetivo altamente competitivo
que explote los conceptos de busqueda local y elitismo. Este sera el
primer algoritmo evolutivo multiobjetivo que utilice un mecanismo
de auto-adaptacion y que explote las bondades de los
micro-algoritmos geneticos.
El primer estudio donde se detallen y validen cuantitativamente las
posibles ventajas de paralelizar un algoritmo evolutivo multiobjetivo
especıfico.
El primer estudio de dinamica poblacional de un algoritmo evolutivo
multiobjetivo.
CINVESTAV-IPN Seminario 2003
Enfoque propuesto
Se realizo un analisis exhaustivo sobre los parametros del micro
algoritmo genetico, y se ideo una manera de que cada uno de los
parametros se modificara mientras se realizaba la corrida del
algoritmo, generandose con esto el primer algoritmo auto adaptativo
Se realizo un estudio empırico, en el cual se compararon diferentes
operadores de cruza analizando su impacto en diferentes problemas.
Se paralelizo el micro-AG autoadaptivo a, obteniendose un algoritmo
altamente competitivo, el cual debido a las caracterısticas inherentes
de la busqueda paralela, y de sus caracterısticas de diseno,
permitio una reduccion drastica de las evaluaciones de la funcion
objetivo.
aa la nueva version obtenida se le llamo micro-GA 2 *µGA2)
CINVESTAV-IPN Seminario 2003
Enfoque propuesto
El pseudocodigo completo del micro-GA adaptativo se muestra a continuacion:
function Adaptive-Micro-GA
begin
Generate randomly an initial population P of size N
and stores its contents in de population memory M
while convergence is reach do
begin
Get the initial population for the micro-GA (Pt) from M
repeat
begin
Apply binary tournament selection
based on non-dominance
Apply crossover and mutation (depends of the master process)
to the selected individuals
Apply elitism (retain only one non-dominated vector
Produce next generation
end
CINVESTAV-IPN Seminario 2003
until nominal convergence is reached
Copy the non-dominated vectors to Pi to the external memory E
if replacement cycle
then apply the second form of elitism and updated the non-replacement memory
by new random solutions
end while
massive-exploitation process
end function
CINVESTAV-IPN Seminario 2003
Actividades que se estan realizando
Se esta trabajando con estructuras de datos espaciales, para mejorar
el comportamiento del algoritmo mediante el almacenamiento de
soluciones en el archivo externo.
Para efectos de analizar las bondades que el archivo externo brinda,
se esta trabajando con el PSO (optimizacion mediante cumulos de
partıculas).
CINVESTAV-IPN Seminario 2003
����
����
����
f1
2f
1
2x
x
Individuos que no pertenecen a la región factible.
ZS
SZ imagen de S.
Espacio de las variables de decisión. Espacio de las funciones objetivo.
Individuos pertenecientes al conjunto factible.
Región delimitada por el conjunto factible.Individuo no dominado.
CINVESTAV-IPN Seminario 2003
Actividades que se estan realizando
Se realizo un esquema de manejo de restricciones en optimizacion
global.
Los resultados obtenidos son los siguientes:
CINVESTAV-IPN Seminario 2003
Best Mean Worst
Test function Best known PSO HM PSO HM PSO HM
g01 -15 -15 -14.7886 -15 -14.7082 -15 -14.6154
g02 -0.8036 -0.7932 0.7995 -0.7791 0.7967 -0.7534 0.7911
g03 1 -0.998365 0.9997 -0.9507951 0.9989 -0.86286 0.9978
g04 -30665.539 -30665.5 -30664.5 -30665.5 -30655.3 -30665.5 -30645.9
g05 5126.498 5171.67 N/A 5477.2588 N/A 6084.66 N/A
g06 -6961.814 -6961.8 -6952.1 -6961.776 -6342.6 -6961.73 -5473.9
g07 24.306 24.5873 24.62 25.94964 24.826 28.5753 25.069
g08 0.0958 -0.0958 0.0958 -0.0958 0.0891 -0.0958 0.0291
g09 680.63 680.755 680.91 681.1285 681.16 681.485 683.18
g10 7049.3307 7153.53 7147.9 7697.389 8163.6 8207.09 9659.3
g11 0.75 0.75 0.75 0.7507 0.75 0.7565 0.75
g12 1 1 0.9999 1 0.9991 1 0.9919
CINVESTAV-IPN Seminario 2003
Actividades que se estan realizando
El objetivo de realizarlo fue el de obtener los conocimientos
necesarios para poder proponer una metodologıa para manejar
restricciones en optimizacion multiobjetivo.
Actualmente, debido a que se obtuvo un buen desempeno del
esquema, se estan realizando cambios para utilizarlo en el ambito
multiobjetivo.
CINVESTAV-IPN Seminario 2003
Metodologıa de comparacion
Para realizar una evaluacion cuantitativa del desempeno de un
algoritmo, se toman normalmente tres puntos:
1. Minimizar la distancia entre el frente de pareto obtenido y el
verdadero (suponiendo que conocemos su ubicacion).
2. Maximizar la dispersion de las soluciones encontradas, de tal manera
que se tenga una distribucion de vectores no dominados tan suave y
uniforme como sea posible.
3. Maximizar el numero de elementos del conjunto de optimos de
Pareto encontrado.
CINVESTAV-IPN Seminario 2003
Metodologıa de comparacion
1. Porcentaje de Error
2. Distancia generacional
3. Espaciado
Adicionalmente, los tiempos fueron medidos tambien, para confirmar si
el algoritmo propuesto era realmente mas rapido que las otras tecnicas.
CINVESTAV-IPN Seminario 2003
Resultados obtenidos
El algoritmo pudo solventar diferentes tipos de problemas en un
numero de evaluaciones relativamente pequena. Los resultados
obtenidos se compararon contra dos algoritmos de segunda
generacion: NSGA-II y PAES, y se validaron usando las metricas
antes mostradas. Como resultado de la comparacion, se encontro que
el algoritmo propuesto es robusto y eficiente, y mejoro los resultados
de los otros algoritmos.
El algoritmo propuesto no utiliza ningun parametro.
CINVESTAV-IPN Seminario 2003
Publicaciones
Coello Coello, Carlos A.; Hernandez Aguirre, Arturo and Toscano
Pulido, Gregorio, Multi-Objective Evolutionary Algorithms for
Structural Optimization, in Proceedings of the Second M.I.T.
Conference on Computational Fluid and Solid Mechanics, June 2003
Toscano Pulido, Gregorio y Coello Coello, Carlos A. Una Propuesta
de Adaptacion en Lınea para Optimizacion Evolutiva Multiobjetivo,
en Actas del II Congreso Espanol sobre Metaheurısticas, Algoritmos
Evolutivos y Bioinspirados (MAEB 03), Gijon,Espana, pp. 363–370,
Febrero de 2003, ISBN 84-607-65-26-1.
Toscano Pulido, Gregorio and Coello Coello, Carlos A. The Micro
Genetic Algorithm 2: Towards On-Line Adaptation in Evolutionary
Multiobjective Optimization, in Carlos M. Fonseca, Peter J.
Fleming, Eckart Zitzler, Kalyanmoy Deb and Lothar Thiele (Eds),
Evolutionary Multi-Criterion Optimization. Second International
CINVESTAV-IPN Seminario 2003
Conference, EMO 2003, pp. 252-266, Springer, Lecture Notes in
Computer Science, Vol. 2632, Faro, Portugal, April 2003.
Coello Coello, Carlos A., Toscano Pulido, Gregorio and Salazar
Lechuga, Maximino, Handling Multiple Objectives with Particle
Swarm Optimization Technical Report EVOCINV-02-2002,
Evolutionary Computation Group at CINVESTAV, Seccion de
Computacion, Departamento de Ingenierıa Electrica,
CINVESTAV-IPN, Mexico, July 2002.
Se presentaro el trabajo “An Extension of Particle Swarm
Optimization that Can Handle Multiple Objectives”.
CINVESTAV-IPN Seminario 2003
Trabajo a futuro
Implementar un mecanismo diferente para el manejo de restricciones.
Observar como impacta la adicion de estructuras de datos espaciales
en el manejo de soluciones no dominadas, en los espacios de las
funciones objetivo y las variables de decision.
Estudiar algun aspecto teorico de la optimizacion evolutiva
multiobjetivo.
Escritura del documento final.
CINVESTAV-IPN Seminario 2003
Conclusiones
Se ha logrado profundizar en el area.
Se ha propuesto un esquema de adaptacion en lınea que permite el
uso del micro-AG para optimizacion multiobjetivo sin necesidad de
definir a priori ningun parametro no intuitivo. El enfoque propuesto
obtiene informacion del proceso evolutivo para guiar la busqueda
eficientemente. Entre otras cosas, nuestro esquema decide cual es el
operador de cruza mas apropiado y cambia entre una etapa de
exploracion y una de explotacion, manipulando la importancia de la
cruza y de la mutacion. Tambien se ha definido un criterio que
permite detener la ejecucion del algoritmo.
El enfoque propuesto ha sido validado con varias funciones de
prueba.
Se estan evaluando estructras de datos alternativas para la
poblacion secundaria.