Dieu khien toi uu

Lý thuyÕt ®iÒu khiÓn n©ng cao 14 April 2023

`Phô lôc

Néi dung Tran

g

Phô lôc 1

Bµi 1Giíi thiÖu chung 3

1 §Þnh nghÜa 3

2 §iÒu kiÖn h¹n chÕ 3

3 Bµi to¸n ®iÒu khiÓn tèi u 4

3.1 §iÒu khiÓn tèi u tÜnh 4

3.2 §iÒu khiÓn tèi u ®éng 5

Bµi 2 §iÒu khiÓn tèi u tÜnh 6

1 M« t¶ to¸n häc. 6

2 BiÓu diÔn h×nh häc. 6

3 Gi¶ thiÕt cho lêi gi¶i. 7

3.1 Bµi to¸n tèi u kh«ng cã giíi h¹n. 7

3.2 Bµi to¸n tèi u cã giíi h¹n. 8

Bµi 3 Ph¬ng ph¸p kh«ng dïng ®¹o hµm riªng 10

1. §Æt vÊn ®Ò. 10

2. Ph¬ng ph¸p Gauss/Seidel. 10

3. Çc ph¬ng ph¸p kh¸c. 13

3.1 Ph¬ng ph¸p Rosenbrock. 13

3.2 Ph¬ng ph¸p ®¬n h×nh. 13

3.3 Ph¬ng ph¸p híng t×m ngÉu nhiªn. 14

Bµi 4 Ph¬ng ph¸p ®¹o hµm riªng 15

1. §Æt vÊn ®Ò 15

2. §¹o hµm riªng theo nghÜa hÑp. 16

3. Ph¬ng ph¸p h¹ nhanh nhÊt. 16

Bµi 5 Ph¬ng ph¸p híng liªn hîp 17

NguyÔn Hoµi Nam 1

Lý thuyÕt ®iÒu khiÓn n©ng cao 14 April 20231. §Æt vÊn ®Ò. 17

2. ThuËt to¸n híng liªn hîp. 19

Bµi 6 Ph¬ng ph¸p Newton/Raphson 21

1. Néi dung cña ph¬ng ph¸p. 21

2. ThuËt to¸n Newton-Raphson. 21

Bµi 7 Cùc tiÓu ho¸ hµm mét biÕn 24

1. §Æt vÊn ®Ò. 24

2. Ph¬ng ph¸p nh¸t c¾t vµng. 25

3. Ph¬ng ph¸p Fibonaci. 26

Bµi 8 Bµi to¸n tèi u cã giíi h¹n 28

1. Bµi to¸n tèi u cã giíi h¹n 28

2. Ph¬ng ph¸p ®æi biÕn ®éc lËp 28

3. Ph¬ng ph¸p sö dông hµm ph¹t vµ hµm chÆn. 29

3.1 Hµm ph¹t. 29

3.2 Hµm chÆn. 29

Tµi liÖu tham kh¶o 31

NguyÔn Hoµi Nam 2


Bµi 1 Giíi thiÖu chung

1. §Þnh nghÜa.

§iÒu khiÓn tèi u lµ mét chuyªn ngµnh c¬ b¶n trong ®iÒu

khiÓn tù ®éng, nã cã vai trß x¸c ®Þnh vµ t¹o lËp nh÷ng luËt

®iÒu khiÓn cho hÖ thèng ®Ó hÖ thèng ®¹t ®îc chØ tiªu vÒ

tÝnh hiÖu qu¶ ®· ®îc ®Þnh tríc díi d¹ng hµm môc tiªu Q.

Trong thùc tÕ tån t¹i çc bµi to¸n ®iÒu khiÓn tèi u nh sau:

- Bµi to¸n tèi u cùc tiÓu:

+ X¸c ®Þnh tham sè cña m« h×nh sao cho b×nh ph¬ng sai

lÖch trung b×nh gi÷a m« h×nh vµ ®èi tîng ®¹t gi¸ trÞ nhá

nhÊt, vÝ dô nh huÊn luyÖn m¹ng n¬-ron, nhËn d¹ng ®èi tîng, ...

+ §iÒu khiÓn mét qu¸ tr×nh ®¹t chØ tiªu chÊt lîng, kü thuËt

cho tríc sao cho tæn hao n¨ng lîng lµ nhá nhÊt.

+ T¹o ra mét s¶n phÈm ®¹t chØ tiªu chÊt lîng cho tríc nhng

chi phÝ lµ nhá nhÊt.

+ Bµi to¸n t×m ®êng ®i ng¾n nhÊt gi÷a hai ®iÓm bÊt kú,

vÝ dô nh x¸c ®Þnh quÜ ®¹o chuyÓn ®éng cña çnh tay r« bèt,

®êng ®i thu r¸c, thu tiÒn ®iÖn, thu tiÒn níc, ®i chµo hµng ...

- Bµi to¸n tèi u cùc ®¹i.

+ T¹o ra s¶n phÈm víi chi phÝ cho tríc, nhng cã chÊt lîng cao

nhÊt.

+ Bµi to¸n t×m ®êng c¨ng.

- Bµi to¸n tèi u t¸c ®éng nhanh: Thêi gian x¶y ra qu¸ tr×nh lµ

ng¾n nhÊt, vÝ dô nh ®iÒu khiÓn tªn löa.

2. §iÒu kiÖn h¹n chÕ.

NguyÔn Hoµi Nam 3


Cho hÖ thèng nhiÒu ®Çu vµo vµ nhiÒu ®Çu ra, ®îc m« t¶

bëi hÖ çc ph¬ng tr×nh nh sau:

y = f(x,u) ®îc gäi lµ m« h×nh to¸n häc

u = (u1 u2 . . . ur)T lµ çc ®Çu vµo

x = (x1 x2 . . . xn)T lµ çc tr¹ng th¸i

y = (y1 y2 . . . ym)T lµ çc ®Çu ra

Do bµi to¸n tèi u ®îc thùc hiÖn trªn m« h×nh hÖ thèng, cho

nªn lêi gi¶i cña bµi to¸n tèi u phô thuéc vµo ®é chÝnh x¸c cña

m« h×nh hÖ thèng.

Nh÷ng tÝn hiÖu kh«ng thÓ m« t¶ ®îc trong çc ph¬ng tr×nh

trªn sÏ ®îc coi lµ nhiÔu t¸c ®éng.

3. Bµi to¸n ®iÒu khiÓn tèi u.

Bµi to¸n tèi u ®îc x©y dùng dùa trªn çc gi¶ thiÕt sau:

+ Cã mét m« h×nh to¸n häc.

+ Kh«ng cã nhiÔu t¸c ®éng.

+ BiÕt çc ®iÒu kiÖn biªn cña m« h×nh nh ®iÓm lµm viÖc,

thêi gian lµm viÖc cña hÖ thèng.

+ BiÕt miÒn gi¸ trÞ cho phÐp cña çc ®Çu vµo u.

+ BiÕt hµm môc tiªu Q m« t¶ tÝnh hiÖu qu¶ mµ hÖ thèng cÇn

®¹t ®îc.

Môc ®Ých cña ®iÒu khiÓn tèi u lµ t×m tÝn hiÖu tèi u u* ®Ó

hµm môc tiªu Q ®¹t gi¸ trÞ cùc ®¹i hoÆc cùc tiÓu.

Víi nh÷ng gi¶ thiÕt nµy cã rÊt nhiÒu ph¬ng ph¸p gi¶i bµi to¸n

®iÒu khiÓn tèi u kh¸c nhau. Trong ch¬ng tr×nh cña m«n häc

nµy, chóng ta sÏ nghiªn cøu çc ph¬ng ph¸p c¬ b¶n nhÊt cña

lÜnh vùc ®iÒu khiÓn tèi u, ®îc chia thµnh hai nhãm chÝnh nh

sau:

NguyÔn Hoµi Nam 4


+ §iÒu khiÓn tèi u tÜnh.

+ §iÒu khiÓn tèi u ®éng.

3.1. §iÒu khiÓn tèi u tÜnh.

Bµi to¸n ®iÒu khiÓn tèi u tÜnh lµ bµi to¸n trong ®ã quan hÖ

vµo, ra vµ biÕn tr¹ng th¸i cña m« h×nh kh«ng phô thuéc vµo

thêi gian. Gi¸ trÞ ®Çu ra t¹i mét thêi ®iÓm chØ phô thuéc vµo

çc ®Çu ®Çu vµo vµ tr¹ng th¸i t¹i thêi ®iÓm ®ã.

M« h×nh hÖ thèng ®îc cho nh sau:

yk = fk(u1, u2, . . .ur), víi k = 1, 2, . . ., m, viÕt gän l¹i thµnh y =

f(u). Hµm môc tiªu nh sau: Q = Q(u,y).

Thay y = f(u) vµo hµm môc tiªu ®îc: Q = Q(u,y) = Q(u,f(u)) =

Q(u), nh vËy Q chØ phô thuéc vµo çc ®Çu vµo vµ ®Çu ra.

3.2. §iÒu khiÓn tèi u ®éng.

Bµi to¸n ®iÒu khiÓn tèi u ®éng lµ bµi to¸n trong ®ã m«

h×nh to¸n häc cã Ýt nhÊt mét ph¬ng tr×nh vi ph©n.

Cho m« h×nh hÖ thèng nh sau: víi

, viÕt gän l¹i thµnh: .

Çc ®Çu ra cña hÖ thèng lµ víi .

Hµm môc tiªu ®îc ®Þnh nghÜa nh sau: , trontg

®ã T lµ thêi gian x¶y ra qu¸ tr×nh tèi u.

Víi bµi to¸n ®iÒu khiÓn tèi u tÜnh, ®©y chÝnh lµ bµi to¸n cùc

trÞ víi nh÷ng ®iÒu kiÖn rµng buéc. Cã nhiÒu ph¬ng ph¸p gi¶i

bµi to¸n cùc trÞ, ë ®©y chóng ta chØ nghiªn cøu çc ph¬ng

ph¸p phi tuyÕn:

+ Çc ph¬ng ph¸p kh«ng dïng ®¹o hµm riªng.

NguyÔn Hoµi Nam 5


+ Çc ph¬ng ph¸p ®¹o hµm riªng.

+ Ph¬ng ph¸p híng liªn hîp.

+ Ph¬ng ph¸p Newton-Raphson.

Víi bµi to¸n ®iÒu khiÓn tèi u ®éng, chØ nghiªn cøu çc ph-

¬ng ph¸p sau:

+ Ph¬ng ph¸p biÕn ph©n kinh ®iÓn.

+ Ph¬ng ph¸p cùc ®¹i cña Pontrjagin

+ Ph¬ng ph¸p qui ho¹ch ®éng cña Bellman

Bµi 2 §iÒu khiÓn tèi u tÜnh

1. M« t¶ to¸n häc.

M« h×nh hÖ thèng cã d¹ng nh sau: y = f(u) víi

u = (u1 u2 . . . ur)T çc ®Çu vµo

y = (y1 y2 . . . ym)T çc ®Çu ra

U lµ miÒn thÝch hîp cña çc biÕn ®Çu vµo, ®îc ®Þnh nghÜa

nh sau:

Hµm môc tiªu cã d¹ng nh sau: Q = Q(u,y) = Q(u,f(u)) = Q(u)

Kh«ng mÊt tÝnh tæng qu¸t nÕu gi¶ thiÕt tiªu chuÈn tèi u lµ:

Q(u)

Bµi to¸n ®iÒu khiÓn tèi u tÜnh ®îc ph¸t biÓu nh sau: T×m

tÝn hiÖu tèi u u* , sao cho Q(u*) ®¹t gi¸ trÞ nhá nhÊt. Khi ®ã,

ta cã

NguyÔn Hoµi Nam 6


NÕu u* tho¶ m·n (1) víi mäi u thuéc U, th× u* ®îc gäi lµ vÐc

t¬ tèi u toµn côc.

NÕu u* tho¶ m·n (1) víi mäi u thuéc l©n cËn u*, th× u* ®îc gäi

lµ vÐc t¬ tèi u côc bé.

2. BiÓu diÔn h×nh häc.

XÐt hÖ thèng cã hai tÝn hiÖu ®Çu vµo u1 vµ u2. Hµm môc tiªu

Q chØ phô thuéc vµo u1 vµ u2, Q = Q(u1,u2).

Gi¶ thiÕt hµm môc tiªu Q cã ®å thÞ nh h×nh 1.

VËy ®iÓm tèi u u* = lµ ®iÓm thuéc mÆt ph¼ng (u1,u2), t¹i

®ã mÆt cong Q ë ®iÓm thÊp nhÊt.

§iÓm A lµ ®iÓm tèi u côc bé, ®iÓm B lµ ®iÓm yªn ngùa vµ

®iÓm C lµ ®iÓm tèi u toµn côc.

TËp hîp çc ®iÓm n»m trong mÆt ph¼ng (u1,u2), t¹i çc

®iÓm ®ã hµm môc tiªu Q cã cïng gi¸ trÞ ®îc gäi lµ ®êng ®ång

møc.

NguyÔn Hoµi Nam 7

u1O

Q

A

B

C

®êng ®ång møc


3. Gi¶ thiÕt cho lêi gi¶i.

3.1. Bµi to¸n tèi u kh«ng cã giíi h¹n.

- NghiÖm u* cña bµi to¸n tèi u kh«ng cã giíi h¹n lµ mét ®iÓm

cùc trÞ. Çc ®iÓm cùc trÞ tho¶ m·n hÖ ph¬ng tr×nh vi ph©n

hay

- T¹i mçi ®iÓm u cña mÆt cong Q tån t¹i vÐc t¬ ®¹o hµm

riªng , ký hiÖu lµ , vÐc t¬ ®¹o hµm riªng gradQ cã

çc tÝnh chÊt sau:

+ Cã ph¬ng vu«ng gãc víi mÆt cong Q.

+ Cã híng chØ chiÒu t¨ng gi¸ trÞ cña çc ®êng ®ång møc.

+ Cã ®é lín thÓ hiÖn tèc ®é t¨ng hay gi¶m gi¸ trÞ cña Q. Do

®ã t¹i ®iÓm cùc trÞ cña mÆt cong Q ph¶i cã gradQ = 0 (*). HÖ

ph¬ng tr×nh nµy chØ lµ ®iÒu kiÖn cÇn ®Ó t×m nghiÖm tèi u

u*.

§Ó gi¶i hÖ ph¬ng tr×nh (*) sÏ gÆp nh÷ng vÊn ®Ò sau:

+ HÖ ph¬ng tr×nh (*) lµ hÖ phi tuyÕn, dÉn ®Õn viÖc gi¶i

trùc tiÕp khã thùc hiÖn ®îc.

+ Cã nhiÒu ®iÓm u* tho¶ m·n hÖ ph¬ng tr×nh (*) nhng

kh«ng ph¶i lµ nghiÖm tèi u.

Thùc tÕ, çc ph¬ng ph¸p gÇn ®óng ®îc sö dông nhiÒu h¬n,

theo thuËt to¸n t×m nghiÖm tõng bíc.

ThuËt to¸n t×m nghiÖm tõng bíc.

+ Bíc 1:

NguyÔn Hoµi Nam 8

u2 H×nh 1


Cho bÐ tuú ý, chän u0 bÊt kú.

Thùc hiÖn çc bíc sau víi k = 1, 2 ...

+ Bíc 2:

X¸c ®Þnh híng t×m vµ kho¶ng çch bíc t×m.

+ Bíc 3:

T×m uk theo híng t×m vµ kho¶ng çch bíc t×m.

+ Bíc 4:

KiÓm tra ®iÒu kiÖn.

NÕu || uk - uk-1 || chuyÓn sang bíc 5.

NÕu || uk - uk-1 || > quay vÒ bíc 2.

+ Bíc 5:

NghiÖm tèi u gÇn ®óng lµ u* = uk víi ®é chÝnh x¸c lµ .

3.2. Bµi to¸n tèi u cã giíi h¹n.

B¶n chÊt lµ t×m nghiÖm tèi u u* gÇn ®óng cho bµi to¸n mµ u

bÞ giíi h¹n bëi miÒn thÝch hîp U. ThuËt to¸n t×m nghiÖm tõng

bíc vÒ c¬ b¶n còng gièng nh trªn, nhng cÇn ph¶i chó ý çc tr-

êng hîp sau:

+ NÕu nghiÖm tèi u u* kh«ng n»m trªn biªn cña U th× gradQ

= 0 vÉn lµ ®iÒu kiÖn cÇn ®Ó t×m u*.

+ NÕu trong miÒn thÝch hîp U kh«ng tån t¹i nghiÖm u* tho¶

m·n ®iÒu kiÖn gradQ = 0, khi ®ã nghiÖm tèi u u* n»m trªn biªn

cña U vµ t¹i ®iÓm u* vÐc t¬ ®¹o hµm riªng gradQ ph¶i cã híng

vµo trong miÒn U.

ThuËt to¸n t×m nghiÖm tèi u u* cho bµi to¸n tèi u cã giíi h¹n.

+ Bíc 1:


Thùc hiÖn çc bíc sau víi k = 1, 2 ...

NguyÔn Hoµi Nam 9


+ Bíc 2:

X¸c ®Þnh híng t×m vµ kho¶ng çch bíc t×m thÝch hîp ®Ó

cho .

+ Bíc 3:

T×m uk theo híng t×m vµ kho¶ng çch bíc t×m.

+ Bíc 4:

KiÓm tra ®iÒu kiÖn.

NÕu || uk - uk-1 || chuyÓn sang bíc 5.

NÕu || uk - uk-1 || > quay vÒ bíc 2.

+ Bíc 5:

NghiÖm tèi u gÇn ®óng lµ u* = uk víi ®é chÝnh x¸c lµ .

NguyÔn Hoµi Nam 10


Bµi 3 Ph¬ng ph¸p kh«ng dïng ®¹o hµm riªng

1. §Æt vÊn ®Ò.

ViÖc t×m u* th«ng qua hÖ ph¬ng tr×nh vi ph©n gradQ = 0

(*) kh«ng ph¶i lµ tèt nhÊt cho mäi trêng hîp v× nh÷ng lý do

sau:

+ HÖ ph¬ng tr×nh (*) cã thÓ rÊt phøc t¹p.

+ Hµm môc tiªu Q cã thÓ tån t¹i nhiÒu ®iÓm cùc trÞ t¹i ®iÓm

®ã lu«n tho¶ m·n hÖ ph¬ng tr×nh (*).

+ Kh«ng ph¶i hµm môc tiªu nµo còng kh¶ vi.

ChÝnh v× nh÷ng lý do nµy, mµ cÇn ph¶i cã çc ph¬ng ph¸p

t×m nghiÖm tèi u u* mµ kh«ng dïng vÐc t¬ ®¹o hµm riªng

(gradient).

2. Ph¬ng ph¸p Gauss/ Seidel.

Cho m« h×nh hÖ thèng y = f(u).

Hµm môc tiªu ®îc ®Þnh nghÜa lµ Q = Q(u).

T×m u* ®Ó cho Q ®¹t gi¸ trÞ nhá nhÊt, tøc lµ Q .

Gi¶ sö u* nghiÖm tèi u tho¶ m·n Q , ký hiÖu u* = argminQ.

Néi dung cña ph¬ng ph¸p Gauss/Seidel.

+ Híng t×m ®îc chän song song víi çc trôc to¹ ®é u i víi i = 1,

2, ..., r. KÝ hiÖu híng t×m ë bíc thø k lµ hk.

+ Kho¶ng çch bíc t×m ë bíc thø k ®îc ký hiÖu lµ sk. sk ®îc

x¸c ®Þnh nh sau:

ThuËt to¸n t×m nghiÖm cña Gauss/Seidel.

+ Bíc 1:


Thùc hiÖn çc bíc sau víi k = 0, 1, 2 ...

+ Bíc 2:



- X¸c ®Þnh híng t×m hk: , hk lµ vÐc t¬ cã r hµng, chØ cã

hµng thø k + 1 cã gi¸ trÞ b»ng 1, çc hµng kh¸c ®Òu b»ng

kh«ng.

- X¸c ®Þnh kho¶ng çch bíc t×m sk: sk ®îc x¸c ®Þnh sao cho

hµm môc tiªu ®¹t gi¸ trÞ nhá nhÊt trªn híng t×m hk. sk* =

argminQ(uk + skhk)

+ Bíc 3:

uk+1 = uk + sk*hk

+ Bíc 4: KiÓm tra ®iÒu kiÖn.

NÕu || uk+1 - uk || chuyÓn sang bíc 5.

NÕu || uk+1 - uk || > quay vÒ bíc 2.

+ Bíc 5:

NghiÖm tèi u gÇn ®óng lµ u* = uk+1

VÝ dô: Cho hµm môc tiªu Q = , t×m u* ®Ó cho Q

Bíc 1: Cho 310 , chän

k = 0.

Bíc 2: Chän

Q(u1) = , ta cã , suy ra s0 = -1

VËy s0* = argminQ(u1) = -1

Bíc 3:



Bíc 4:

||u1 - u0|| = 1 > quay vÒ bíc 2

k =1.

Bíc 2: Chän

Q(u2) = , ta cã , suy ra s1 = -1

VËy s1* = argminQ(u2) = -1

Bíc 3:

Bíc 4:

||u2 - u1|| = 1 > quay vÒ bíc 2

k = 2.

Bíc 2:

Chän

Q(u3) = , ta cã , suy ra s2 = 0

VËy s2* = argminQ(u3) = 0

Bíc 3:

Bíc 4:

||u3 - u2|| = 0 < chuyÓn sang bíc 5

Bíc 5:



u* = u3 =

Sau hai vßng tÝnh ta ®· t×m ®îc nghiÖm tèi u u* = u2.

u ®iÓm cña ph¬ng ph¸p lµ: nÕu hÖ thèng cã r ®Çu vµo, hµm

môc tiªu cã d¹ng chÝnh ph¬ng th× nghiÖm tèi u u* sÏ ®îc t×m

thÊy sau ®óng r vßng.

3. Çc ph¬ng ph¸p kh¸c.

3.1 Ph¬ng ph¸p Rosenbrock.

HÖ trôc to¹ ®é ®îc xoay sau mçi lÇn t×m ®îc nghiÖm uk tõ

uk-1 sao cho mét trôc to¹ ®é cña hÖ míi trïng víi híng cña vÐc t¬

uk - uk-1.

¦u ®iÓm cña ph¬ng ph¸p lµ tèc ®é héi tô cao h¬n ph¬ng

ph¸p Gauss/Seidel khi hµm môc tiªu phøc t¹p (çc ®êng ®ång

møc kh«ng ®èi xøng, hµm môc tiªu kh«ng cã d¹ng chÝnh ph-

¬ng).

3.2 Ph¬ng ph¸p ®¬n h×nh.

TÝnh gi¸ trÞ hµm môc tiªu t¹i r +1 ®Ønh cña mét h×nh ®a

diÖn . Trong ®ã r lµ sè biÕn ®Çu vµo cña hÖ thèng.

Sau ®ã ®a diÖn ®îc lÊy ®èi xøng víi mét c¹nh (hoÆc mÆt)

cña nã, sao cho ®a diÖn míi ' thu ®îc cã gi¸ trÞ hµm môc tiªu

t¹i çc ®Ønh kh«ng lín h¬n çc gi¸ trÞ cña hµm môc tiªu t¹i çc

®Ønh cña t¬ng øng.

PhÐp lÊy ®èi xøng vµ tÝnh gi¸ trÞ hµm môc tiªu Q sÏ ®îc tiÕp

tôc nÕu ®a diÖn míi ' vÉn n»m trong miÒn thÝch hîp U vµ gi¸

trÞ hµm môc tiªu Q t¹i çc ®Ønh cña ' kh«ng lín h¬n so víi gi¸

trÞ hµm môc tiªu Q t¹i çc ®Ønh cña .

VÝ dô:

NguyÔn Hoµi Nam 14u1

u2

O

çc ® êng ®ång møc

H×nh 2


Víi hÖ thèng cã hai ®Çu vµo r

= 2, ®a diÖn lµ mét tam gi¸c.

Qu¸ tr×nh t×m nghiÖm tèi u ®îc

minh ho¹ nh h×nh 2.

ë ®©y ®Ó ®¬n gi¶n ta chän

tam gi¸c lµ mét tam gi¸ vu«ng

c©n. ChiÒu mòi tªn lµ chiÒu

t×m nghiÖm tèi u.

3.3 Ph¬ng ph¸p híng t×m ngÉu nhiªn.

Híng t×m ngÉu nhiªn ®îc lÊy tõ tËp ngÉu nhiªn cã ph©n bè

chuÈn, ®Òu çc híng trong kh«ng gian.

uk ®îc t×m theo híng ®· ®îc chän ngÉu nhiªn ë bíc k.

NÕu Q(uk) < Q(uk-1) th× híng t×m ®ã vÉn ®îc dïng ®Ó t×m

uk+1 tiÕp theo, nÕu kh«ng th× chän theo híng ngîc l¹i.



Bµi 4 Ph¬ng ph¸p ®¹o hµm riªng

1. §Æt vÊn ®Ò.

Theo ph¬ng ph¸p nµy, híng t×m ®îc x¸c ®Þnh theo vÐc t¬

®¹o hµm riªng cña hµm môc tiªu Q theo çc biÕn ®Çu vµo

gradQ.

VÊn ®Ò ®Æt ra lµ tÝnh vÐc t¬ ®¹o hµm riªng gradQ nh thÕ

nµo? Tuú thuéc vµo hµm môc tiªu Q ®îc cho díi d¹ng c«ng thøc,

b¶ng tra hay thuËt to¸n mµ ta cã ph¬ng ph¸p tÝnh gradQ kh¸c

nhau.

Khi hµm gradQ cho díi d¹ng c«ng thøc, tÝnh gradQ theo ph-

¬ng ph¸p gi¶i tÝch.

lÊy ®¹o hµm riªng theo tõng biÕn ®Çu

vµo ui, sau ®ã thay gi¸ trÞ u = uk vµo.



NÕu hµm môc tiªu Q cho díi d¹ng b¶ng tra hoÆc thuËt to¸n

th× cã çc ph¬ng ph¸p tÝnh gradQ nh sau:

+ Ph¬ng ph¸p thø nhÊt:

víi i = 1, 2, ..., r.

+ Ph¬ng ph¸p thø hai:

víi i = 1, 2, ..., r.

2. Ph¬ng ph¸p ®¹o hµm riªng theo nghÜa hÑp.

Híng t×m cã híng ngîc l¹i so víi híng cña vÐc t¬ ®¹o hµm

riªng gradQ hk = - gradQ(uk).

Kho¶ng çch bíc t×m tØ lÖ víi ®é lín cña gradQ(uk). Gi¸ trÞ

uk+1 ®îc tÝnh theo c«ng thøc sau: uk+1 = uk - s.gradQ(uk)

Kho¶ng çch bíc t×m s cã ¶nh hëng rÊt lín ®Õn tèc ®é héi tô

cña ph¬ng ph¸p.

+ NÕu s nhá, sè bíc tÝnh lín, sè lÇn tÝnh gradQ nhiÒu.

+ NÕu s lín, chuçi gi¸ trÞ {uk} ph©n kú.

V× t¹i ®iÓm cùc trÞ gradQ(u) = 0 nªn ph¬ng ph¸p sÏ cho mét

d·y {uk} héi tô ®Õn mét ®iÓm cùc trÞ. Khi Q kh«ng cã ®iÓm

yªn ngùa, ®iÓm cùc trÞ ®ã cã thÓ lµ côc bé hoÆc toµn côc.

Muèn t×m nghiÖm tèi u u* toµn côc, nªn ¸p dông ph¬ng ph¸p

cho nhiÒu ®iÓm ban ®Çu u0 kh¸c nhau.

3. Ph¬ng ph¸p h¹ nhanh nhÊt.



B¶n chÊt cña ph¬ng ph¸p lµ ph¬ng ph¸p dïng vÐc t¬ ®¹o

hµm riªng cã híng t×m kh«ng cè ®Þnh theo gradQ tõ ®Çu ®Õn

cuèi. Híng t×m ®îc x¸c ®Þnh nh sau: h0 = -gradQ(u0).

Kho¶ng çch bíc t×m ®îc x¸c ®Þnh nh sau:

suy ra u1 = u0 + s0*h0.

Víi k = 1, 2, ...

Chän hk sao cho hkThk-1 = 0.

Chuçi gi¸ trÞ {uk*} cã tèc ®é héi tô lín khi çch xa u*, cµng

gÇn u* th× ®é héi tô cµng gi¶m.

ThuËt to¸n h¹ nhanh nhÊt.

Bíc 1:

Cho ®ñ bÐ, chän u0 bÊt kú.

h0 = -gradQ(u0)

u1 = u0 + s0*h0

Thùc hiÖn çc bíc sau víi k = 1, 2, 3, ...

Bíc 2:

T×m híng hk sao cho: hkThk-1 = 0

T×m sk* nh sau: sk

* = argminQ(uk + skhk)

Bíc 3:

TÝnh uk+1 = uk + sk*hk.

Bíc 4: KiÓm tra ®iÒu kiÖn.



Bíc 5: KÕt thóc

NghiÖm tèi u gÇn ®óng u* = uk+1 víi ®é chÝnh x¸c lµ .

.



Bµi 5 Ph¬ng ph¸p híng liªn hîp

1. §Æt vÊn ®Ò.

XÐt hµm môc tiªu cã d¹ng chÝnh ph¬ng:

A lµ ma trËn ®¬n vÞ.

u = (u1 u2 . . . ur)T

b = (b1 b2 . . . br)T

Theo ph¬ng ph¸p Gauss/Seidel, u* ®îc t×m thÊy sau ®óng r

bíc. u* tho¶ m·n ®iÒu kiÖn .

Theo ph¬ng ph¸p Gauss/Seidel, çc híng t×m song song víi

çc trôc to¹ ®é, xuÊt ph¸t tõ ®©y ®Ó ®i tíi ph¬ng ph¸p híng

liªn hîp.



ý tëng cña ph¬ng ph¸p lµ: híng t×m ë vßng thø k ®îc t×m

theo híng t×m ë vßng thø k - 1, sao cho: hk-1Thk = 0.

XÐt hµm môc tiªu bÊy kú, trong ®ã ma trËn A kh«ng ph¶i lµ

ma trËn ®¬n vÞ. Nh vËy ta ph¶i chuyÓn hÖ trôc to¹ ®é ®Ó ®a

A vÒ d¹ng ma trËn ®¬n vÞ. Khi ®ã híng t×m hk sÏ chuyÓn

thµnh pk. Coi A lµ mét to¸n tö tuyÕn tÝnh biÕn ®æi hÖ trôc to¹

®é, qua phÐp biÕn ®æi nµy hk chuyÓn thµnh pk. Khi ®ã pk

ph¶i cã tÝnh chÊt sau:

pk-1Apk = 0

Çc híng t×m pk víi k = 1, 2, ...,r ®îc x¸c ®Þnh nhê c«ng thøc

sau:

vi víi i = 1, 2, ...,r lµ mét c¬ së cña kh«ng gian Rr, cã nghÜa lµ

çc vÐc t¬ v1, v2, ... vr ®éc lËp tuyÕn tÝnh víi nhau.

Híng t×m ban ®Çu p0 cã thÓ ®îc x¸c ®Þnh nhê vÐc t¬ gradQ

hoÆc ®îc x¸c ®Þnh ngÉu nhiªn. Däc theo híng t×m pk, uk ®îc

t×m sao cho Q(uk) ®¹t gi¸ trÞ nhá nhÊt.

sk* = argminQ(uk-1 + skpk)

uk = uk-1 + sk*pk

2. ThuËt to¸n híng liªn hîp.

Chän çc vÐc t¬ c¬ së vi nh sau: vk = -gk-1 víi k = 1, 2, ..., r.

Trong ®ã gk = gradQ(uk) = Auk + b.

pk+1 = -gk + ekpk víi k = 0, 1, ..., r-1. Trong ®ã p0 = -g0, hÖ sè

®æi híng .

Däc theo híng t×m pk+1, uk+1 ®îc t×m theo tõ uk theo nguyªn

t¾c hµm Q ®¹t gi¸ trÞ nhá nhÊt.

sk+1* = argminQ(uk + sk+1pk+1)



uk+1 = uk + sk+1*pk+1

ThuËt to¸n.

Bíc 1:

Chän u0, e0 = 0.

p0 = -g0 = -(Au0 + b)

Thùc hiÖn çc bíc sau víi k = 1, 2, ..., r-1.

Bíc 2:

gk = gradQ(uk) = Auk + b

pk+1 = -gk + ekpk

sk+1* = argminQ(uk + sk+1pk+1)

Bíc 3:

uk+1 = uk + sk+1*pk+1

Bíc 4:

u* = ur

Ph¬ng ph¸p híng liªn hîp cã nh÷ng tÝnh chÊt sau:

+ giTgj = 0 víi

+ piTgk = 0 víi

+ NghiÖm tèi u u* tho¶ m·n hÖ ph¬ng tr×nh Au* + b = 0.

Ph¬ng ph¸p nµy thÝch hîp cho hµm môc tiªu cã d¹ng:

víi A lµ ma trËn x¸c ®Þnh d¬ng.

Khi hµm môc tiªu cã d¹ng bÊt kú, kh«ng gièng víi d¹ng ë trªn

ta cã thÓ dung ph¬ng ph¸p nµy ®Ó t×m u*, tuy nhiªn cÇn ph¶i

thay ®æi.

HÖ sè ®æi hëng ®îc tÝnh tõ Q cã d¹ng tæng qu¸t:

NghiÖm tèi u t×m ®îc kh«ng ph¶i lµ nghiÖm ®óng.



Bµi 6 Ph¬ng ph¸p Newton-Raphson

1. Néi dung cña ph¬ng ph¸p.

Ph¬ng ph¸p t×m nghiÖm tèi u sö dông ®¹o hµm bËc nhÊt vµ

bËc hai cña hµm môc tiªu nªn ph¶i gi¶ thiÕt hµm môc tiªu Q(u)

kh¶ vi hai lÇn. §Ó gi¶i hÖ ph¬ng tr×nh (*) b»ng ph¬ng

ph¸p gi¶i tÝch, tríc tiªn hÖ (*) ®îc khai triÓn thµnh chuçi Taylor


Lý thuyÕt ®iÒu khiÓn n©ng cao 14 April 2023t¹i uk thuéc l©n cËn nghiÖm tèi u u* vµ lµ nghiÖm cña (*) nh

sau:

tiÕp theo, bá qua çc ®¹o hµm bËc cao. Khi ®ã u* sÏ kh«ng

ph¶i lµ nghiÖm ®óng n÷a mµ chØ lµ nghiÖm gÇn ®óng. Gäi

nghiÖm gÇn ®óng nµy lµ lµ uk+1 u* , thay vµo hÖ ph¬ng tr×nh

trªn ta cã:

§Æt H(u) = , .

Suy ra uk+1 = uk - H-1(uk)gk

2. ThuËt to¸n Newton-Raphson.

Bíc 1:

Cho ®ñ bÐ, chän u0 bÊt kú.

Thùc hiÖn çc bíc sau víi k = 0, 1, 2, ...

Bíc 2:

TÝnh .

TÝnh H(uk)

Bíc 3:

TÝnh uk+1 = uk - H-1(uk)gk

Bíc 4: KiÓm tra ®iÒu kiÖn.



Bíc 5: KÕt thóc



NghiÖm tèi u gÇn ®óng u* = uk+1.

¦u ®iÓm:

NÕu hµm môc tiªu cã d¹ng , ph¬ng ph¸p nµy sÏ

cho ®óng gi¸ trÞ u* chØ sau ®óng mét vßng tÝnh.

VÝ dô:

Cho hµm môc tiªu Q = 3u12

+ 4u22 + u1u2 víi

Bíc 1:

Bíc 2:

,

Bíc 3:

Bíc 4:

||u1 - u0|| = 1 > quay vÒ bíc 2

k = 1.

Bíc 2:

,



Bíc 3:

Bíc 4:

||u2 - u1|| = 0 < chuyÓn sang bíc 5

Bíc 5:

NghiÖm tèi u lµ u* =

Bµi 7 Cùc tiÓu ho¸ hµm mét biÕn

1. §Æt vÊn ®Ò.



Trong çc ph¬ng ph¸p ®· häc, ®Ó t×m u* ta ph¶i t×m sk*

b»ng çch gi¶i bµi to¸n tèi u hµm môc tiªu theo mét híng ®·

chän.

sk* = argminQ(uk + skhk)

§i t×m sk*, ta ®· sö dông ph¬ng ph¸p ®¹o hµm, tøc lµ ph¶i

gi¶i ph¬ng tr×nh: .

§Ó cã thÓ cµi ®Æt thµnh thuËt to¸n, chóng ta sÏ sö dông mét

sè ph¬ng ph¸p c¬ b¶n ®Ó t×m sk* mµ kh«ng dïng ®¹o hµm.

Ta ®· biÕt Q(uk + skhk) lµ hµm sè mét biÕn, chØ phôc thuéc

vµo sk, cho nªn ta chØ xÐt bµi to¸n cùc tiÓu ho¸ hµm mét biÕn.

- XÐt hµm sè mét biÕn Q(s), gi¶ thiÕt hµm sè Q(s) tho¶ m·n

çc ®iÒu kiÖn sau:

+ Q(s) ®¬n ®iÖu gi¶m khi 0 < s < s*

+ Q(s) ®¬n ®iÖu t¨ng khi s* < s

+ s* lµ nghiÖm tèi u.

+ BiÕt mét ®iÓm s = s1.

§å thÞ cña hµm môc tiªu Q(s) cã d¹ng nh h×nh 1.


s

Q(s)

O s* s1

x

f(x)

O x* 1

H×nh 1 H×nh 2


ChuÈn ho¸ hµm Q(s) víi s = xs1, suy ra , nh vËy . Khi

®ã hµm Q(s) = Q(xs1) = f(x), f(x) cã ®é thÞ nh h×nh 2.

f(x) cã mét ®iÓm cùc tiÓu duy nhÊt x* trong kho¶ng (0 1),

f(1) > f(0). [0 1] ®îc gäi lµ kho¶ng nghiÖm.

Nguyªn t¾c t×m nghiÖm x* lµ thu nhá kho¶ng nghiÖm qua

tõng bíc.

Trong kho¶ng [0 1] chän 2 gi¸ trÞ bÊt kú x1 vµ x2 sao cho: 0 <

x1 < x2 < 1. XÐt çc trêng hîp sau:

+ NÕu f(x1) < f(x2), kho¶ng nghiÖm míi ®îc chän lµ [0 x2].

+ NÕu f(x1) f(x2), kho¶ng nghiÖm míi ®îc chän lµ [x1 1].

VÊn ®Ò cßn l¹i lµ chän x1 vµ x2 nh thÕ nµo ®Ó tèc ®é héi tô

lµ cao nhÊt, tøc lµ tèc ®é t×m thÊy x* nhanh nhÊt.

2. Ph¬ng ph¸p nh¸t c¾t vµng.

X¸c ®Þnh x1, x2 sao cho sau mçi lÇn chia c¶ hai phÝa ®Òu cã

tØ lÖ gi÷a kho¶ng lín vµ toµn bé kho¶ng nghiÖm b»ng tØ lÖ

kho¶ng nhá chia cho kho¶ng lín.

XÐt kho¶ng nghiÖm bÊt kú [xmin xmax]. Gäi d lµ ®é dµi lµ

kho¶ng nghiÖm d = xmax - xmin. LÊy hai ®iÓm x1 < x2 ®èi xøng

nhau qua ®iÓm gi÷a cña kho¶ng nghiÖm [xmin xmax].

§é dµi kho¶ng lín lµ: x2 - xmin vµ xmax - x1

§é dµi kho¶ng nhá lµ: xmax - x2 vµ x1 - xmin

Ta cã biÓu thøc sau: , suy ra

Gi¶i ph¬ng tr×nh trªn ®îc: , ®Æt

Sau mçi lÇn chia, kho¶ng nghiÖm míi sÏ lµ [xmin x2] hoÆc [x1

xmax], v× x1 vµ x2 ®îc lÊy ®èi xøng cho nªn: x2 - xmin = xmax- x1,


Lý thuyÕt ®iÒu khiÓn n©ng cao 14 April 2023do ®ã kho¶ng nghiÖm míi thu ®îc bao giê còng lµ ad = 0,618d.

Sau n lÇn thu nhá kho¶ng nghiÖm míi sÏ cã ®é réng lµ and =

(0,618)nd.

ThuËt to¸n t×m x* gÇn ®óng theo ph¬ng ph¸p nh¸t c¾t

vµng.

Bíc 1:

G¸n xmin = 0; xmax = 1; > 0 ®ñ bÐ. TÝnh f(xmin) vµ f(xmax).

Chän x2 = 0,618, tÝnh f(x2).

Bíc 2:

X¸c ®Þnh x1 sao cho x1 ®èi xøng qua trung ®iÓm cña ®o¹n

[xmin xmax].

Bíc 3:

TÝnh f(x1), f(x2)

+ NÕu f(x1) < f(x2), g¸n xmax = x2

+ NÕu f(x1) f(x2), g¸n xmin = x1

Bíc 4: KiÓm tra

NÕu |xmax -xminh| < chuyÓn sang bíc 5

NÕu |xmax -xminh| > quay vÒ bíc 2

Bíc 5:

NghiÖm tèi u gÇn ®óng x* cã thÓ ®îc chän lµ mét ®iÓm bÊt

kú thuéc kho¶ng [xmin xmax]

3. Ph¬ng ph¸p Fibonaci.

XÐt d·y Fibonaci {1, 1, 2, 3, 5, 8, ..., }.

Gäi Fi lµ phÇn tö thø i cña d·y Fibonaci. F i ®îc x¸c ®Þnh theo

c«ng thøc sau:

Fi = Fi-1 + Fi-2. Trong ®ã, hai phÇn tö ®Çu tiªn cña d·y F1 vµ F2

®îc x¸c ®Þnh nh sau: F1 = F2 = 1.



Néi dung cña ph¬ng ph¸p Fibonaci.

ë bíc thu nhá kho¶ng nghiÖm thø k, tØ lÖ gi÷a kho¶ng nhá víi

kho¶ng lín lµ , víi n lµ sè bíc thu nhá kho¶ng nghiÖm ®-

îc chän tõ tríc.

Ta cã:

HÖ sè thu nhá kho¶ng nghiÖm thø nhÊt lµ:

HÖ sè thu nhá kho¶ng nghiÖm thø hai lµ:

HÖ sè thu nhá kho¶ng nghiÖm thø k lµ:

HÖ sè thu nhá kho¶ng nghiÖm thø n lµ:

Sau n lÇn thu nhá kho¶ng nghiÖm, kho¶ng nghiÖm míi cã hÖ

sè thu nhá kho¶ng nghiÖm so kho¶ng nghiÖm ban ®Çu lµ:

.

ThuËt to¸n t×m nghiÖm x* gÇn ®óng theo ph¬ng ph¸p

Fibonaci.

Bíc 1:

G¸n xmin = 0; xmax = 1; > 0 ®ñ bÐ. TÝnh f(xmin) vµ f(xmax).

T×m n tho¶ m·n ®iÒu kiÖn:

Thùc hiÖn çc bíc sau víi k = 1, 2, 3, ..., n.

Bíc 2:

TÝnh

X¸c ®Þnh x1, x2 tho¶ m·n ®iÒu kiÖn:

+ x1 < x2 ®èi xøng qua trung ®iÓm cña ®o¹n [xmin xmax].



+

Bíc 3:

TÝnh f(x1), f(x2).

+ NÕu f(x1) < f(x2), g¸n xmax = x2

+ NÕu f(x1) f(x2), g¸n xmin = x1

G¸n k = k + 1

KiÓm tra: k > n chuyÓn sang bíc 4, ngîc l¹i quay vÒ bíc 2.

Bíc 4:

NghiÖm tèi u gÇn ®óng x* cã thÓ ®îc chän lµ mét ®iÓm bÊt

kú thuéc kho¶ng [xmin xmax]

Bµi 8 Bµi to¸n tèi u cã giíi h¹n

1. Bµi to¸n tèi u cã giíi h¹n.

Cho m« h×nh hÖ thèng cã d¹ng nh sau: y = f(u) víi

u = (u1 u2 . . . ur)T çc ®Çu vµo

y = (y1 y2 . . . ym)T çc ®Çu ra

U lµ miÒn thÝch hîp cña çc biÕn ®Çu vµo, ®îc ®Þnh nghÜa

nh sau:

Thùc chÊt cña bµi to¸n tèi u cã giíi h¹n lµ t×m nghiÖm tèi u u*

trong ®iÒu kiÖn u bÞ giíi h¹n bëi miÒn thÝch hîp U.

2. Ph¬ng ph¸p ®æi biÕn ®éc lËp.



Sö dông çc ph¬ng ph¸p t×m nghiÖm tèi u u* cña bµi to¸n

kh«ng cã giíi h¹n U b»ng çch dïng phÐp chuyÓn vÞ u = (v).

PhÐp chuyÓn vÞ cã thÓ lµ phi tuyÕn, tho¶ m·n ®iÒu kiÖn:

th×

Khi ®ã bµi to¸n t×m:

thµnh bµi to¸n t×m:

Sau khi t×m ®îc v*, ta sÏ t×m ®îc u* = (v*).

Tuú theo miÒn giíi h¹n U mµ ta cã thÓ chän mét trong çc ph-

¬ng ph¸p chuyÓn vÞ sau:

+ : Thay

+ : Thay

+ : Thay

+ : Thay

3. Ph¬ng ph¸p sö dông hµm ph¹t vµ hµm chÆn.

3.1 Hµm ph¹t.

Trong qu¸ tr×nh t×m tõng bíc nghiÖm tèi u, hµm ph¹t cã ®îc

sö dông ®Ó th«ng b¸o r»ng t¹i thêi ®iÓm hiÖn t¹i, gi¸ trÞ uk ®·

ra ngoµi miÒn U.

ViÖc th«ng b¸o cña hµm ph¹t thêng lµ b»ng nh÷ng gi¸ trÞ rÊt

lín (mét çch kh«ng b×nh thêng) t¹i nh÷ng ®iÓm gÇn biªn, bªn

trong hoÆc bªn ngoµi.



Cho hµm môc tiªu Q(u). T×m .

Thay Q(u) = Q(u) + S(u), víi ®iÒu kiÖn:

S(u) = 0 nÕu

S(u) > 0 nÕu

lµ mét sè d¬ng ®ñ lín.

¸p dông çc ph¬ng ph¸p gi¶i bµi to¸n tèi u kh«ng rµng buéc

®Ó t×m nghiÖm , nghiÖm tèi u u* ®îc t×m

theo c«ng thøc sau:

3.2 Hµm chÆn.

Trong qu¸ tr×nh t×m tõng bíc nghiÖm tèi u, hµm chÆn ®îc

sö dông ®Ó ng¨n c¶n viÖc gi¸ trÞ uk hiÖn t¹i cã thÓ sÏ vît ra

ngoµi miÒn U. ViÖc ng¨n c¶n cña hµm chÆn thêng lµ b»ng

nh÷ng gi¸ trÞ rÊt lín (mét çch kh«ng b×nh thêng) t¹i nh÷ng

®iÓm gÇn biªn, bªn trong hoÆc bªn ngoµi

Thay Q(u) = Q(u) + S(u), víi ®iÒu kiÖn:

S(u) = 0 nÕu u çch xa biªn.

S(u) = nÕu u ë gÇn biªn.

lµ mét sè d¬ng ®ñ lín.

¸p dông çc ph¬ng ph¸p gi¶i bµi to¸n tèi u kh«ng rµng buéc

®Ó t×m nghiÖm , nghiÖm tèi u u* ®îc t×m

theo c«ng thøc sau:



Tµi liÖu tham kh¶o



1. §iÒu khiÓn tèi u vµ bÒn v÷ng, NguyÔn Do·n Phíc, Phan

Xu©n Minh, KH&KT, 2000.

2. Lý thuyÕt ®iÒu khiÓn tù ®éng hiÖn ®¹i, NguyÔn Th¬ng

Ng«, KH&KT, 1999

3. HÖ mê- M¹ng n¬ron và øng dông, Bïi C«ng Cêng, NguyÔn

Do·n Phíc, KH&KT, 2001.

4. Lý thuyÕt ®iÒu khiÓn mê, Phan Xu©n Minh, NguyÔn Do·n

Phíc, KH&KT, 1999.

5. NhËn d¹ng hÖ thèng ®iÒu khiÓn, NguyÔn Do·n Phíc, Phan

Xu©n Minh, KH&KT, 2001.

6. Qui ho¹ch to¸n häc, Bïi Minh TrÝ, KH&KT, 1999.


Dieu khien toi uu

Documents