Un algorithme de Nelder-Mead globalisé et borné pour les problèmes de l'ingénieur : GBNM Marco Luersen - Centre Fédéral d’Education Technologique du Paraná CEFET-PR - Brésil - Doctorant au Lab. de Mécanique – INSA de Rouen Rodolphe Le Riche – CNRS URA 1884 et SMS, Ecole des Mines de Saint Etienne
35
Embed
Un algorithme de Nelder-Mead globalisé et borné pour les problèmes de l'ingénieur : GBNM Marco Luersen - Centre Fédéral dEducation Technologique du Paraná
This document is posted to help you gain knowledge. Please leave a comment to let me know what you think about it! Share it to your friends and learn new things together.
Transcript
Un algorithme de Nelder-Mead globalisé et borné pour les
problèmes de l'ingénieur : GBNM
Marco Luersen- Centre Fédéral d’Education Technologique du Paraná CEFET-PR - Brésil- Doctorant au Lab. de Mécanique – INSA de Rouen
Rodolphe Le Riche
– CNRS URA 1884 et SMS, Ecole des Mines de Saint Etienne
Motivation
Caractéristiques des problèmes d’optimisation en conception mécanique :
plusieurs optima locaux variables bornées calcul de sensibilités souvent laborieux,
coûteux où n’existent pas temps de calcul limité à quelques milliers
d’analyses de la fonction coût
optimisation globale souhaitée, mais sa faisabilité est incertaine.
La méthode de Nelder-Mead classique
Proposée par Nelder & Mead (1965)
(variables continues)
Méthode d’ordre zéro : ne requiert pas le calcul du gradient
Méthode rapide, relativement aux méthodes d’ordre zéro
Méthode locale
)(fmin xx
nx
La méthode de Nelder-Mead classique (2)
Basée sur la comparaison des valeurs de la fonction aux (n+1) sommets d’un simplexe
Le minimum est cherché en modifiant le simplexe à travers des opérations : réflexion, réflexion/expansion et contractions
réflexion
réflexion/expansion
contractions
plus haut coût
(2 variables, n=2)
plus bas coût
La méthode de Nelder-Mead classique (3)
Inconvénients :
S’applique à des problèmes sans bornes
Dégénérescence du simplexe (perte d’une dimension), est un cas d’échec de la méthode
Méthode locale : s’arrête quand un minimum local est trouvé
Amélioration de la méthode de Nelder-Mead
• Prise en compte des bornes
• Détection des simplexes dégénérés et ré-initialisation
• Test d’optimalité sur les bornes
Prise en compte des bornes
Prise en compte de bornes par projection :
Dégénérescence
Dans le domaine ré-initialisation au point courant
Si la dégénérescence est sur les bornes on l’accepte
Si xi < xi min xi = xi min (i = 1, n)
Si xi > xi max xi = xi max (i = 1, n)
Dégénérescence (2)
Critères :
Cas 1 Cas 2
Si
ou Si
simplexe dégénéré
c1
c2
c1
c2
2
ii
n1
c
])c,...,cdet([
1ii
cmin
Test d’optimalité sur les bornes
Ex. : Fonction test de Rosenbrock bidimensionnel
2122
12 x1xx100y 20,0x,x 21
- fonction uni-modale
- le minimum se trouve en x1= x2=1
- sans le test d’optimalité, souvent la recherche s’arrête sur les bornes (point x1= x2=0) car
dégénérescence sur les bornes
min
Test d’optimalité sur les bornes (2)
0 2 4 6 8 10 12 14 16 18 200
2
4
6
8
10
12
14
16
18
20
12
3
4
5
6
7=8=9
simplexe initial
Point de convergence, mais pas un minimum
Sans test d’optimalité :
UN TEST D’OPTIMALITÉ EST NÉCESSAIRE !
Test d’optimalité sur les bornes (3)
les conditions de Kuhn et Tucker ne sont pas applicables : fonctions pas dérivables
conditions de point-col numériquement non vérifiables
test d’optimalité : une recherche locale, avec un «petit» simplexe initial
on considère que le simplexe initial est plus petit que le bassin d’attraction
coût : pour la fonction de Rosenbrock : ~20% (ça marche toujours !)
Globalisation : recherche du minimum global
Point de vue Ré-initialisation : GBNM Évolutionnaire :
Pas de recherche locale
“Hybridation” Recherche globale/locale
1
1 112
3
2 2
3
3
2 3
1
1
2
23
3
Globalisation par ré-initialisation probabilisée
chaque fois q’un minimum local est trouvé il est enregistré
le prochain point initial est choisit de tel sorte à ne pas échantillonner des régions déjà connues : visiter différents bassins d’attraction, sans connaître le nombre de redémarrages à priori
travail à coût fixé redémarrage avec une caractéristique
aléatoire-biaisée
Estimation de la probabilité de ne pas avoir échantillonné un point (x)
)(pN1)(p
N
1i xx
i1T
i2/12/ni 2
1exp
det2
1)(p xxΣxx
Σx
Noyaux de Parzen gaussiens
N = nombre de points déjà échantillonnésn = dimension (nombre de variables)
probabilité d’avoir échantillonné un point
p(x)p(x)
xmin xmax
(x)= H – p(x)H
xH
2n
21
0
0
Σ 2min
jmaxj
2j xx
= matrice de covariance
= paramètre qui contrôle l’étalement des gaussiennes
Estimation de la probabilité de ne pas avoir échantillonné un point (x) (2)
Dans les exemples présentés on utilisera = 0,01, ce qui veut dire qu’un écart-type de la gaussienne couvre 20% du domaine.
Ré-initialisation probabilisée
pour le calcul de la probabilité pi , on ne garde
comme xi que les points initiaux
maximisation de par tirage aléatoire de nb_random_points : parmi nb_random_points aléatoires, trouver celui qui a la plus haute probabilité de n’avoir pas été échantillonné auparavant
si nb_random_points=1 : aléatoire si nb_random_points=grand : motif régulier
(si on connaît le nb. de redémarrages grille)
si nb_random_points petit, > 1 (3 à 10) : aléatoire/biaisée
Points initiauxnb_random_points = 1000 10 1
motif régulier (grille) aléatoire
Ré-initialisation probabilisée (2)
Articulation de :• 3 tests de
convergence :- Small- Flat- Degenerated
• 3 formes de ré-initialisation :
- Probabilistic- Large Test- Small Test
GBNM
Globalized Bounded
Nelder-Mead Method
GBNM – Résumé(sans prise en compte de contraintes)
Caractéristiques des recherches locales : vitesse, précision Nelder-Mead
Amélioration de la méthode de N-M : Prise en compte de bornes par projection Détection et traitement des dégénérescences du
simplexe pendant la recherche Test d’optimalité sur les bornes
Globalisée par ré-initialisation stratégie hybride en série : local-global
(*) taille de la population = 50 ; probabilité de mutation = 0,15 ; probabilité de croisement = 0,5
Conclusions GBNM : un algorithme pratique pour les problèmes de
l’ingénieur :
travail à coût fixé : nombre d’analyses défini a priori ;
globalisation par ré-initialisation probabilisées, pour ne pas échantillonner des régions déjà connues, sans connaître le nombre de redémarrages à priori ;
Nelder-Mead amélioré pour les recherches locales : méthode d’ordre zéro, locale et sans bornes vitesse,
précision ;
détection et ré-initialisation en cas de dégénérescence ;
prise en compte des bornes par projection et des contraintes par pénalisation adaptative ;
test d’optimalité, sur les bornes.
Conclusions (2)
La stratégie la plus robuste de ré-initialisation probabilisée est un compromis entre ré-initialisation aléatoire et ré-initialisation à intervalles réguliers ;
Pour les problèmes de taille moyenne à bas coût, la méthode GBNM a une plus haute précision que les algorithmes évolutionnaires ;
La globalisation par ré-initialisation probabilisée n'est pas restrictive à l’algorithme de Nelder-Mead. Elle peut être appliquée à d’autres optimiseurs locaux.