1129 - 720 - Dieu Khien Toi Uu

Lý thuyÕt ®iÒu khiÓn n©ng cao
28 February 2011
`Phô lôc
Néi dung Trang
Phô lôc 1
Bμi 1Giíi thiÖu chung 3
1 §Þnh nghÜa 3
2 §iÒu kiÖn h¹n chÕ 3
3 Bμi to¸n ®iÒu khiÓn tèi −u 4
3.1 §iÒu khiÓn tèi −u tÜnh 4
3.2 §iÒu khiÓn tèi −u ®éng 5
Bμi 2 §iÒu khiÓn tèi −u tÜnh 6
1 M« t¶ to¸n häc. 6
2 BiÓu diÔn h×nh häc. 6
3 Gi¶ thiÕt cho lêi gi¶i. 7
3.1 Bμi to¸n tèi −u kh«ng cã giíi h¹n. 7
3.2 Bμi to¸n tèi −u cã giíi h¹n. 8
Bμi 3 Ph−¬ng ph¸p kh«ng dïng ®¹o hμm riªng 10
1. §Æt vÊn ®Ò. 10
2. Ph−¬ng ph¸p Gauss/Seidel. 10
3. Çc ph−¬ng ph¸p kh¸c. 13
3.1 Ph−¬ng ph¸p Rosenbrock. 13
3.2 Ph−¬ng ph¸p ®¬n h×nh. 13
3.3 Ph−¬ng ph¸p h−íng t×m ngÉu nhiªn. 14
Bμi 4 Ph−¬ng ph¸p ®¹o hμm riªng 15
1. §Æt vÊn ®Ò 15
2. §¹o hμm riªng theo nghÜa hÑp. 16
3. Ph−¬ng ph¸p h¹ nhanh nhÊt. 16
Bμi 5 Ph−¬ng ph¸p h−íng liªn hîp 17
1. §Æt vÊn ®Ò. 17
2. ThuËt to¸n h−íng liªn hîp. 19
NguyÔn Hoμi Nam 1

28 February 2011
Bμi 6 Ph−¬ng ph¸p Newton/Raphson 21
1. Néi dung cña ph−¬ng ph¸p. 21
2. ThuËt to¸n Newton-Raphson. 21
Bμi 7 Cùc tiÓu ho¸ hμm mét biÕn 24
1. §Æt vÊn ®Ò. 24
2. Ph−¬ng ph¸p nh¸t c¾t vμng. 25
3. Ph−¬ng ph¸p Fibonaci. 26
Bμi 8 Bμi to¸n tèi −u cã giíi h¹n 28
1. Bμi to¸n tèi −u cã giíi h¹n 28
2. Ph−¬ng ph¸p ®æi biÕn ®éc lËp 28
3. Ph−¬ng ph¸p sö dông hμm ph¹t vμ hμm chÆn. 29
3.1 Hμm ph¹t. 29
3.2 Hμm chÆn. 29
Tμi liÖu tham kh¶o 31
Bμi 1 Giíi thiÖu chung
NguyÔn Hoμi Nam 2

28 February 2011
1. §Þnh nghÜa.
§iÒu khiÓn tèi −u lμ mét chuyªn ngμnh c¬ b¶n trong ®iÒu khiÓn tù ®éng, nã cã
vai trß x¸c ®Þnh vμ t¹o lËp nh÷ng luËt ®iÒu khiÓn cho hÖ thèng ®Ó hÖ thèng ®¹t
®−îc chØ tiªu vÒ tÝnh hiÖu qu¶ ®· ®−îc ®Þnh tr−íc d−íi d¹ng hμm môc tiªu Q.
Trong thùc tÕ tån t¹i çc bμi to¸n ®iÒu khiÓn tèi −u nh− sau:
- Bμi to¸n tèi −u cùc tiÓu:
+ X¸c ®Þnh tham sè cña m« h×nh sao cho b×nh ph−¬ng sai lÖch trung b×nh
gi÷a m« h×nh vμ ®èi t−îng ®¹t gi¸ trÞ nhá nhÊt, vÝ dô nh− huÊn luyÖn m¹ng n¬-
ron, nhËn d¹ng ®èi t−îng, ...
+ §iÒu khiÓn mét qu¸ tr×nh ®¹t chØ tiªu chÊt l−îng, kü thuËt cho tr−íc sao cho
tæn hao n¨ng l−îng lμ nhá nhÊt.
+ T¹o ra mét s¶n phÈm ®¹t chØ tiªu chÊt l−îng cho tr−íc nh−ng chi phÝ lμ nhá
nhÊt.
+ Bμi to¸n t×m ®−êng ®i ng¾n nhÊt gi÷a hai ®iÓm bÊt kú, vÝ dô nh− x¸c ®Þnh
quÜ ®¹o chuyÓn ®éng cña çnh tay r« bèt, ®−êng ®i thu r¸c, thu tiÒn ®iÖn, thu tiÒn
n−íc, ®i chμo hμng ...
- Bμi to¸n tèi −u cùc ®¹i.
+ T¹o ra s¶n phÈm víi chi phÝ cho tr−íc, nh−ng cã chÊt l−îng cao nhÊt.
+ Bμi to¸n t×m ®−êng c¨ng.
- Bμi to¸n tèi −u t¸c ®éng nhanh: Thêi gian x¶y ra qu¸ tr×nh lμ ng¾n nhÊt, vÝ dô
nh− ®iÒu khiÓn tªn löa.
2. §iÒu kiÖn h¹n chÕ.

Cho hÖ thèng nhiÒu ®Çu vμo vμ nhiÒu ®Çu ra, ®−îc m« t¶ bëi hÖ çc ph−¬ng
tr×nh nh− sau:
y = f(x,u) ®−îc gäi lμ m« h×nh to¸n häc
u = (u1 u2 . . . ur)T lμ çc ®Çu vμo
x = (x1 x2 . . . xn)T lμ çc tr¹ng th¸i
y = (y1 y2 . . . ym)T lμ çc ®Çu ra
NguyÔn Hoμi Nam 3

28 February 2011
Do bμi to¸n tèi −u ®−îc thùc hiÖn trªn m« h×nh hÖ thèng, cho nªn lêi gi¶i cña
bμi to¸n tèi −u phô thuéc vμo ®é chÝnh x¸c cña m« h×nh hÖ thèng.
Nh÷ng tÝn hiÖu kh«ng thÓ m« t¶ ®−îc trong çc ph−¬ng tr×nh trªn sÏ ®−îc coi
lμ nhiÔu t¸c ®éng.
3. Bμi to¸n ®iÒu khiÓn tèi −u.

Bμi to¸n tèi −u ®−îc x©y dùng dùa trªn çc gi¶ thiÕt sau:
+ Cã mét m« h×nh to¸n häc.
+ Kh«ng cã nhiÔu t¸c ®éng.
+ BiÕt çc ®iÒu kiÖn biªn cña m« h×nh nh− ®iÓm lμm viÖc, thêi gian lμm viÖc
cña hÖ thèng.
+ BiÕt miÒn gi¸ trÞ cho phÐp cña çc ®Çu vμo u.
+ BiÕt hμm môc tiªu Q m« t¶ tÝnh hiÖu qu¶ mμ hÖ thèng cÇn ®¹t ®−îc.
Môc ®Ých cña ®iÒu khiÓn tèi −u lμ t×m tÝn hiÖu tèi −u u* ®Ó hμm môc tiªu Q ®¹t
gi¸ trÞ cùc ®¹i hoÆc cùc tiÓu.
Víi nh÷ng gi¶ thiÕt nμy cã rÊt nhiÒu ph−¬ng ph¸p gi¶i bμi to¸n ®iÒu khiÓn tèi
−u kh¸c nhau. Trong ch−¬ng tr×nh cña m«n häc nμy, chóng ta sÏ nghiªn cøu çc
ph−¬ng ph¸p c¬ b¶n nhÊt cña lÜnh vùc ®iÒu khiÓn tèi −u, ®−îc chia thμnh hai
nhãm chÝnh nh− sau:
+ §iÒu khiÓn tèi −u tÜnh.
+ §iÒu khiÓn tèi −u ®éng.
3.1. §iÒu khiÓn tèi −u tÜnh.

Bμi to¸n ®iÒu khiÓn tèi −u tÜnh lμ bμi to¸n trong ®ã quan hÖ vμo, ra vμ biÕn
tr¹ng th¸i cña m« h×nh kh«ng phô thuéc vμo thêi gian. Gi¸ trÞ ®Çu ra t¹i mét thêi
®iÓm chØ phô thuéc vμo çc ®Çu ®Çu vμo vμ tr¹ng th¸i t¹i thêi ®iÓm ®ã.
M« h×nh hÖ thèng ®−îc cho nh− sau:
yk = fk(u1, u2, . . .ur), víi k = 1, 2, . . ., m, viÕt gän l¹i thμnh y = f(u). Hμm môc
tiªu nh− sau: Q = Q(u,y).
NguyÔn Hoμi Nam 4

28 February 2011
Thay y = f(u) vμo hμm môc tiªu ®−îc: Q = Q(u,y) = Q(u,f(u)) = Q(u), nh−
vËy Q chØ phô thuéc vμo çc ®Çu vμo vμ ®Çu ra.
3.2. §iÒu khiÓn tèi −u ®éng.
Bμi to¸n ®iÒu khiÓn tèi −u ®éng lμ bμi to¸n trong ®ã m« h×nh to¸n häc cã Ýt
nhÊt mét ph−¬ng tr×nh vi ph©n.
dxi
= f i ( x, u )
dt
Cho m« h×nh hÖ thèng nh− sau: x& i = f i ( x1 , x 2 ..., x n , u1 , u 2 ..., u r ) víi i = 1 ÷ n , viÕt
gän l¹i thμnh: x& = f ( x, u ) .
Çc ®Çu ra cña hÖ thèng lμ y = g ( x, u ) víi y = ( y1 , y 2 ,..., y m ) .
T
Hμm môc tiªu ®−îc ®Þnh nghÜa nh− sau: Q = ∫ f 0 ( x, u )dt , trontg ®ã T lμ thêi
0
gian x¶y ra qu¸ tr×nh tèi −u.

Víi bμi to¸n ®iÒu khiÓn tèi −u tÜnh, ®©y chÝnh lμ bμi to¸n cùc trÞ víi nh÷ng
®iÒu kiÖn rμng buéc. Cã nhiÒu ph−¬ng ph¸p gi¶i bμi to¸n cùc trÞ, ë ®©y chóng ta
chØ nghiªn cøu çc ph−¬ng ph¸p phi tuyÕn:
+ Çc ph−¬ng ph¸p kh«ng dïng ®¹o hμm riªng.
+ Çc ph−¬ng ph¸p ®¹o hμm riªng.
+ Ph−¬ng ph¸p h−íng liªn hîp.
+ Ph−¬ng ph¸p Newton-Raphson.
Víi bμi to¸n ®iÒu khiÓn tèi −u ®éng, chØ nghiªn cøu çc ph−¬ng ph¸p sau:
+ Ph−¬ng ph¸p biÕn ph©n kinh ®iÓn.
+ Ph−¬ng ph¸p cùc ®¹i cña Pontrjagin
+ Ph−¬ng ph¸p qui ho¹ch ®éng cña Bellman
NguyÔn Hoμi Nam 5

28 February 2011
Bμi 2 §iÒu khiÓn tèi −u tÜnh

1. M« t¶ to¸n häc.
M« h×nh hÖ thèng cã d¹ng nh− sau: y = f(u) víi u ∈ U
u = (u1 u2 . . . ur)T çc ®Çu vμo
y = (y1 y2 . . . ym)T çc ®Çu ra
U lμ miÒn thÝch hîp cña çc biÕn ®Çu vμo, ®−îc ®Þnh nghÜa nh− sau:
{
U = u = (u1 , u 2 ..., u ñ ) T u k min ≤ u k ≤ u k max ; k = 1 ÷ r }
Hμm môc tiªu cã d¹ng nh− sau: Q = Q(u,y) = Q(u,f(u)) = Q(u)
Kh«ng mÊt tÝnh tæng qu¸t nÕu gi¶ thiÕt tiªu chuÈn tèi −u lμ: Q(u) → min
Bμi to¸n ®iÒu khiÓn tèi −u tÜnh ®−îc ph¸t biÓu nh− sau: T×m tÝn hiÖu tèi −u u*
*
∈ U , sao cho Q(u ) ®¹t gi¸ trÞ nhá nhÊt. Khi ®ã, ta cã Q(u ) ≤ Q(u ) ∀u ∈ U
*
(1)
NÕu u* tho¶ m·n (1) víi mäi u thuéc U, th× u* ®−îc gäi lμ vÐc t¬ tèi −u toμn
côc.
NÕu u* tho¶ m·n (1) víi mäi u thuéc l©n cËn u*, th× u* ®−îc gäi lμ vÐc t¬ tèi −u
côc bé.
2. BiÓu diÔn h×nh häc.

XÐt hÖ thèng cã hai tÝn hiÖu ®Çu vμo u1 vμ u2. Hμm môc tiªu Q chØ phô thuéc
vμo u1 vμ u2, Q = Q(u1,u2).
Gi¶ thiÕt hμm môc tiªu Q cã ®å thÞ nh− h×nh 1.
⎡u * ⎤
VËy ®iÓm tèi −u u* = ⎢ 1* ⎥ lμ ®iÓm thuéc mÆt ph¼ng (u1,u2), t¹i ®ã mÆt cong Q
⎣u 2 ⎦
ë ®iÓm thÊp nhÊt.
§iÓm A lμ ®iÓm tèi −u côc bé, ®iÓm B lμ ®iÓm yªn ngùa vμ ®iÓm C lμ ®iÓm tèi
−u toμn côc.
TËp hîp çc ®iÓm n»m trong mÆt ph¼ng (u1,u2), t¹i çc ®iÓm ®ã hμm môc tiªu
Q cã cïng gi¸ trÞ ®−îc gäi lμ ®−êng ®ång møc.
NguyÔn Hoμi Nam 6

28 February 2011
A
C u1
O
®−êng ®ång møc
u2 H×nh 1
3. Gi¶ thiÕt cho lêi gi¶i.

3.1. Bμi to¸n tèi −u kh«ng cã giíi h¹n.
- NghiÖm u* cña bμi to¸n tèi −u kh«ng cã giíi h¹n lμ mét ®iÓm cùc trÞ. Çc
∂Q
®iÓm cùc trÞ tho¶ m·n hÖ ph−¬ng tr×nh vi ph©n =0 k = 1,2..., r hay
∂u k
∂Q ∂Q ∂Q ∂Q T
=( , ,..., ) =0
∂u ∂u1 ∂u 2 ∂u r
∂Q
- T¹i mçi ®iÓm u cña mÆt cong Q tån t¹i vÐc t¬ ®¹o hμm riªng , ký hiÖu lμ
∂u
∂Q
gradQ = , vÐc t¬ ®¹o hμm riªng gradQ cã çc tÝnh chÊt sau:
∂u
+ Cã ph−¬ng vu«ng gãc víi mÆt cong Q.

+ Cã h−íng chØ chiÒu t¨ng gi¸ trÞ cña çc ®−êng ®ång møc.
+ Cã ®é lín thÓ hiÖn tèc ®é t¨ng hay gi¶m gi¸ trÞ cña Q. Do ®ã t¹i ®iÓm cùc trÞ
cña mÆt cong Q ph¶i cã gradQ = 0 (*). HÖ ph−¬ng tr×nh nμy chØ lμ ®iÒu kiÖn cÇn
®Ó t×m nghiÖm tèi −u u*.
§Ó gi¶i hÖ ph−¬ng tr×nh (*) sÏ gÆp nh÷ng vÊn ®Ò sau:
NguyÔn Hoμi Nam 7

28 February 2011
+ HÖ ph−¬ng tr×nh (*) lμ hÖ phi tuyÕn, dÉn ®Õn viÖc gi¶i trùc tiÕp khã thùc
hiÖn ®−îc.
+ Cã nhiÒu ®iÓm u* tho¶ m·n hÖ ph−¬ng tr×nh (*) nh−ng kh«ng ph¶i lμ nghiÖm
tèi −u.
Thùc tÕ, çc ph−¬ng ph¸p gÇn ®óng ®−îc sö dông nhiÒu h¬n, theo thuËt to¸n
t×m nghiÖm tõng b−íc.
ThuËt to¸n t×m nghiÖm tõng b−íc.
+ B−íc 1:
Cho ε > 0 bÐ tuú ý, chän u0 bÊt kú.
Thùc hiÖn çc b−íc sau víi k = 1, 2 ...
+ B−íc 2:
X¸c ®Þnh h−íng t×m vμ kho¶ng çch b−íc t×m.
+ B−íc 3:
T×m uk theo h−íng t×m vμ kho¶ng çch b−íc t×m.
+ B−íc 4:
KiÓm tra ®iÒu kiÖn.
NÕu || uk - uk-1 || ≤ ε chuyÓn sang b−íc 5.
NÕu || uk - uk-1 || > ε quay vÒ b−íc 2.
+ B−íc 5:
NghiÖm tèi −u gÇn ®óng lμ u* = uk víi ®é chÝnh x¸c lμ ε .
3.2. Bμi to¸n tèi −u cã giíi h¹n.

B¶n chÊt lμ t×m nghiÖm tèi −u u* gÇn ®óng cho bμi to¸n mμ u bÞ giíi h¹n bëi
miÒn thÝch hîp U. ThuËt to¸n t×m nghiÖm tõng b−íc vÒ c¬ b¶n còng gièng nh−
trªn, nh−ng cÇn ph¶i chó ý çc tr−êng hîp sau:
+ NÕu nghiÖm tèi −u u* kh«ng n»m trªn biªn cña U th× gradQ = 0 vÉn lμ ®iÒu
kiÖn cÇn ®Ó t×m u*.
+ NÕu trong miÒn thÝch hîp U kh«ng tån t¹i nghiÖm u* tho¶ m·n ®iÒu kiÖn
gradQ = 0, khi ®ã nghiÖm tèi −u u* n»m trªn biªn cña U vμ t¹i ®iÓm u* vÐc t¬ ®¹o
hμm riªng gradQ ph¶i cã h−íng vμo trong miÒn U.
NguyÔn Hoμi Nam 8

28 February 2011
ThuËt to¸n t×m nghiÖm tèi −u u* cho bμi to¸n tèi −u cã giíi h¹n.
+ B−íc 1:
Thùc hiÖn çc b−íc sau víi k = 1, 2 ...
+ B−íc 2:
X¸c ®Þnh h−íng t×m vμ kho¶ng çch b−íc t×m thÝch hîp ®Ó cho u k ∈ U .
+ B−íc 3:
T×m uk theo h−íng t×m vμ kho¶ng çch b−íc t×m.
+ B−íc 4:
KiÓm tra ®iÒu kiÖn.
NÕu || uk - uk-1 || ≤ ε chuyÓn sang b−íc 5.
NÕu || uk - uk-1 || > ε quay vÒ b−íc 2.
+ B−íc 5:
NghiÖm tèi −u gÇn ®óng lμ u* = uk víi ®é chÝnh x¸c lμ ε .
NguyÔn Hoμi Nam 9

28 February 2011
Bμi 3 Ph−¬ng ph¸p kh«ng dïng ®¹o hμm riªng

1. §Æt vÊn ®Ò.
ViÖc t×m u* th«ng qua hÖ ph−¬ng tr×nh vi ph©n gradQ = 0 (*) kh«ng ph¶i lμ tèt
nhÊt cho mäi tr−êng hîp v× nh÷ng lý do sau:
+ HÖ ph−¬ng tr×nh (*) cã thÓ rÊt phøc t¹p.
+ Hμm môc tiªu Q cã thÓ tån t¹i nhiÒu ®iÓm cùc trÞ t¹i ®iÓm ®ã lu«n tho¶ m·n
hÖ ph−¬ng tr×nh (*).
+ Kh«ng ph¶i hμm môc tiªu nμo còng kh¶ vi.
ChÝnh v× nh÷ng lý do nμy, mμ cÇn ph¶i cã çc ph−¬ng ph¸p t×m nghiÖm tèi −u
u* mμ kh«ng dïng vÐc t¬ ®¹o hμm riªng (gradient).
2. Ph−¬ng ph¸p Gauss/ Seidel.

Cho m« h×nh hÖ thèng y = f(u).
Hμm môc tiªu ®−îc ®Þnh nghÜa lμ Q = Q(u).
T×m u* ®Ó cho Q ®¹t gi¸ trÞ nhá nhÊt, tøc lμ Q → min .
Gi¶ sö u* nghiÖm tèi −u tho¶ m·n Q → min , ký hiÖu u* = argminQ.
Néi dung cña ph−¬ng ph¸p Gauss/Seidel.
+ H−íng t×m ®−îc chän song song víi çc trôc to¹ ®é ui víi i = 1, 2, ..., r. KÝ
hiÖu h−íng t×m ë b−íc thø k lμ hk.
+ Kho¶ng çch b−íc t×m ë b−íc thø k ®−îc ký hiÖu lμ sk. sk ®−îc x¸c ®Þnh nh−
sau: s k* = arg min Q(u k + s k h k )
ThuËt to¸n t×m nghiÖm cña Gauss/Seidel.
+ B−íc 1:
Thùc hiÖn çc b−íc sau víi k = 0, 1, 2 ...
+ B−íc 2:
NguyÔn Hoμi Nam 10

28 February 2011
⎡0 ⎤
⎢0 ⎥
⎢. ⎥
- X¸c ®Þnh h−íng t×m hk: h k = ⎢1⎥ , hk lμ vÐc t¬ cã r hμng, chØ cã hμng thø k + 1
⎢ ⎥
⎢. ⎥
⎢0 ⎥
⎣ ⎦
cã gi¸ trÞ b»ng 1, çc hμng kh¸c ®Òu b»ng kh«ng.
- X¸c ®Þnh kho¶ng çch b−íc t×m sk: sk ®−îc x¸c ®Þnh sao cho hμm môc tiªu
®¹t gi¸ trÞ nhá nhÊt trªn h−íng t×m hk. sk* = argminQ(uk + skhk)
+ B−íc 3:
uk+1 = uk + sk*hk
+ B−íc 4: KiÓm tra ®iÒu kiÖn.
NÕu || uk+1 - uk || ≤ ε chuyÓn sang b−íc 5.
NÕu || uk+1 - uk || > ε quay vÒ b−íc 2.
+ B−íc 5:
NghiÖm tèi −u gÇn ®óng lμ u* = uk+1
VÝ dô: Cho hμm môc tiªu Q = u12 + 2u 22 − 3 , t×m u* ®Ó cho Q → min
⎡1⎤
B−íc 1: Cho ε = 10 −3 , chän u 0 = ⎢ ⎥
1 ⎣⎦
k = 0.
⎡1⎤
B−íc 2: Chän h 0 = ⎢ ⎥
⎣0⎦
⎡1⎤ ⎡1⎤ ⎡1 + s 0 ⎤
u 1 = u 0 + s0 h 0 = ⎢ ⎥ + s0 ⎢ ⎥ = ⎢ ⎥
⎣1⎦ ⎣0 ⎦ ⎣ 1 ⎦
∂Q(u 1 )
Q(u1) = (1 + s0 ) 2 + 2 − 3 , ta cã = 2(1 + s 0 ) = 0 , suy ra s0 = -1
∂s 0
VËy s0* = argminQ(u1) = -1

B−íc 3:
⎡1⎤ ⎡1⎤ ⎡1 + s 0 ⎤ ⎡0⎤
u 1 = u 0 + s0 h 0 = ⎢ ⎥ + s0 ⎢ ⎥ = ⎢ ⎥=⎢ ⎥
⎣1⎦ ⎣0⎦ ⎣ 1 ⎦ ⎣1⎦
B−íc 4:
||u1 - u0|| = 1 > ε quay vÒ b−íc 2

28 February 2011
k =1.
⎡0⎤
B−íc 2: Chän h 0 = ⎢ ⎥
1 ⎣ ⎦
⎡0 ⎤ ⎡0 ⎤ ⎡ 0 ⎤
u 2 = u 1 + s1 h1 = ⎢ ⎥ + s1 ⎢ ⎥ = ⎢ ⎥
⎣1 ⎦ ⎣1⎦ ⎣1 + s1 ⎦
∂Q(u 2 )
Q(u2) = 0 + 2(1 + s1 ) 2 − 3 , ta cã = 4(1 + s1 ) = 0 , suy ra s1 = -1
∂s1
VËy s1* = argminQ(u2) = -1

B−íc 3:
⎡ 0 ⎤ ⎡0 ⎤
u2 = ⎢ *⎥
=⎢ ⎥
⎣1 + s1 ⎦ ⎣0⎦
B−íc 4:
||u2 - u1|| = 1 > ε quay vÒ b−íc 2
k = 2.
B−íc 2:
⎡1⎤
Chän h 2 = ⎢ ⎥
⎣0 ⎦
⎡0 ⎤ ⎡1⎤ ⎡ s ⎤
u 3 = u 2 + s2 h 2 = ⎢ ⎥ + s2 ⎢ ⎥ = ⎢ 2 ⎥
⎣1⎦ ⎣0 ⎦ ⎣ 1 ⎦
∂Q(u 3 )
Q(u3) = s 22 + 2.0 − 3 , ta cã = 2 s 2 = 0 , suy ra s2 = 0
∂s 2
VËy s2* = argminQ(u3) = 0

B−íc 3:
⎡ s * ⎤ ⎡0 ⎤
u2 = ⎢ 2 ⎥ = ⎢ ⎥
⎣ 0 ⎦ ⎣0 ⎦
B−íc 4:
||u3 - u2|| = 0 < ε chuyÓn sang b−íc 5
B−íc 5:
⎡0 ⎤
u* = u3 = ⎢ ⎥
⎣0 ⎦
Sau hai vßng tÝnh ta ®· t×m ®−îc nghiÖm tèi −u u* = u2.

28 February 2011
−u ®iÓm cña ph−¬ng ph¸p lμ: nÕu hÖ thèng cã r ®Çu vμo, hμm môc tiªu cã
d¹ng chÝnh ph−¬ng th× nghiÖm tèi −u u* sÏ ®−îc t×m thÊy sau ®óng r vßng.
3. Çc ph−¬ng ph¸p kh¸c.

3.1 Ph−¬ng ph¸p Rosenbrock.
HÖ trôc to¹ ®é ®−îc xoay sau mçi lÇn t×m ®−îc nghiÖm uk tõ uk-1 sao cho mét
trôc to¹ ®é cña hÖ míi trïng víi h−íng cña vÐc t¬ uk - uk-1.
¦u ®iÓm cña ph−¬ng ph¸p lμ tèc ®é héi tô cao h¬n ph−¬ng ph¸p Gauss/Seidel
khi hμm môc tiªu phøc t¹p (çc ®−êng ®ång møc kh«ng ®èi xøng, hμm môc tiªu
kh«ng cã d¹ng chÝnh ph−¬ng).
3.2 Ph−¬ng ph¸p ®¬n h×nh.

TÝnh gi¸ trÞ hμm môc tiªu t¹i r +1 ®Ønh cña mét h×nh ®a diÖn Δ . Trong ®ã r lμ
sè biÕn ®Çu vμo cña hÖ thèng.
Sau ®ã ®a diÖn Δ ®−îc lÊy ®èi xøng víi mét c¹nh (hoÆc mÆt) cña nã, sao cho
®a diÖn míi Δ ' thu ®−îc cã gi¸ trÞ hμm môc tiªu t¹i çc ®Ønh kh«ng lín h¬n çc
gi¸ trÞ cña hμm môc tiªu t¹i çc ®Ønh cña Δ t−¬ng øng.
PhÐp lÊy ®èi xøng vμ tÝnh gi¸ trÞ hμm môc tiªu Q sÏ ®−îc tiÕp tôc nÕu ®a diÖn
míi Δ ' vÉn n»m trong miÒn thÝch hîp U vμ gi¸ trÞ hμm môc tiªu Q t¹i çc ®Ønh
cña Δ ' kh«ng lín h¬n so víi gi¸ trÞ hμm môc tiªu Q t¹i çc ®Ønh cña Δ .
VÝ dô:
Víi hÖ thèng cã hai ®Çu vμo r = 2, ®a
u2
diÖn Δ lμ mét tam gi¸c. Qu¸ tr×nh t×m
nghiÖm tèi −u ®−îc minh ho¹ nh− h×nh 2.
ë ®©y ®Ó ®¬n gi¶n ta chän tam gi¸c Δ
lμ mét tam gi¸ vu«ng c©n. ChiÒu mòi tªn çc ®−êng ®ång møc
lμ chiÒu t×m nghiÖm tèi −u.
u1
O H×nh 2

28 February 2011
3.3 Ph−¬ng ph¸p h−íng t×m ngÉu nhiªn.
H−íng t×m ngÉu nhiªn ®−îc lÊy tõ tËp ngÉu nhiªn cã ph©n bè chuÈn, ®Òu çc
h−íng trong kh«ng gian.
uk ®−îc t×m theo h−íng ®· ®−îc chän ngÉu nhiªn ë b−íc k.
NÕu Q(uk) < Q(uk-1) th× h−íng t×m ®ã vÉn ®−îc dïng ®Ó t×m uk+1 tiÕp theo, nÕu
kh«ng th× chän theo h−íng ng−îc l¹i.

28 February 2011
Bμi 4 Ph−¬ng ph¸p ®¹o hμm riªng
1. §Æt vÊn ®Ò.
Theo ph−¬ng ph¸p nμy, h−íng t×m ®−îc x¸c ®Þnh theo vÐc t¬ ®¹o hμm riªng
cña hμm môc tiªu Q theo çc biÕn ®Çu vμo gradQ.
VÊn ®Ò ®Æt ra lμ tÝnh vÐc t¬ ®¹o hμm riªng gradQ nh− thÕ nμo? Tuú thuéc vμo
hμm môc tiªu Q ®−îc cho d−íi d¹ng c«ng thøc, b¶ng tra hay thuËt to¸n mμ ta cã
ph−¬ng ph¸p tÝnh gradQ kh¸c nhau.
Khi hμm gradQ cho d−íi d¹ng c«ng thøc, tÝnh gradQ theo ph−¬ng ph¸p gi¶i
tÝch.
⎡ ∂Q ⎤
⎢ ∂u ⎥
⎢ 1⎥
⎢ ∂Q ⎥
gradQ (u k ) = ⎢ ∂u 2 ⎥ lÊy ®¹o hμm riªng theo tõng biÕn ®Çu vμo ui, sau ®ã
⎢ : ⎥
⎢ ∂Q ⎥
⎢ ⎥
⎢⎣ ∂u r ⎥⎦
u = uk
thay gi¸ trÞ u = uk vμo.

NÕu hμm môc tiªu Q cho d−íi d¹ng b¶ng tra hoÆc thuËt to¸n th× cã çc
ph−¬ng ph¸p tÝnh gradQ nh− sau:
+ Ph−¬ng ph¸p thø nhÊt:
∂Q
∂u i
=
1
Δu i
[
Q( k u1 , k u 2 ,..., k u i + Δu i ,..., k u r ) − Q( k u1 , k u 2 ,..., k u i ,..., k u r ) ]
u = uk
víi i = 1, 2, ..., r.
+ Ph−¬ng ph¸p thø hai:
∂Q
∂u i
=
1
2 Δu i
[
Q( k u1 , k u 2 ,..., k u i + Δu i ,..., k u r ) − Q ( k u1 , k u 2 ,..., k u i − Δu i ,..., k u r ) ]
u = uk
víi i = 1, 2, ..., r.

28 February 2011
2. Ph−¬ng ph¸p ®¹o hμm riªng theo nghÜa hÑp.
H−íng t×m cã h−íng ng−îc l¹i so víi h−íng cña vÐc t¬ ®¹o hμm riªng gradQ
hk = - gradQ(uk).
Kho¶ng çch b−íc t×m tØ lÖ víi ®é lín cña gradQ(uk). Gi¸ trÞ uk+1 ®−îc tÝnh
theo c«ng thøc sau: uk+1 = uk - s.gradQ(uk)
Kho¶ng çch b−íc t×m s cã ¶nh h−ëng rÊt lín ®Õn tèc ®é héi tô cña ph−¬ng
ph¸p.
+ NÕu s nhá, sè b−íc tÝnh lín, sè lÇn tÝnh gradQ nhiÒu.
+ NÕu s lín, chuçi gi¸ trÞ {uk} ph©n kú.
V× t¹i ®iÓm cùc trÞ gradQ(u) = 0 nªn ph−¬ng ph¸p sÏ cho mét d·y {uk} héi tô
®Õn mét ®iÓm cùc trÞ. Khi Q kh«ng cã ®iÓm yªn ngùa, ®iÓm cùc trÞ ®ã cã thÓ lμ
côc bé hoÆc toμn côc.
Muèn t×m nghiÖm tèi −u u* toμn côc, nªn ¸p dông ph−¬ng ph¸p cho nhiÒu
®iÓm ban ®Çu u0 kh¸c nhau.
3. Ph−¬ng ph¸p h¹ nhanh nhÊt.

B¶n chÊt cña ph−¬ng ph¸p lμ ph−¬ng ph¸p dïng vÐc t¬ ®¹o hμm riªng cã
h−íng t×m kh«ng cè ®Þnh theo gradQ tõ ®Çu ®Õn cuèi. H−íng t×m ®−îc x¸c ®Þnh
nh− sau: h0 = -gradQ(u0).
Kho¶ng çch b−íc t×m ®−îc x¸c ®Þnh nh− sau: s 0* = arg min Q(u 0 + s 0 h 0 )
suy ra u1 = u0 + s0*h0.
Víi k = 1, 2, ...
Chän hk sao cho hkThk-1 = 0.
Chuçi gi¸ trÞ {uk*} cã tèc ®é héi tô lín khi çch xa u*, cμng gÇn u* th× ®é héi
tô cμng gi¶m.
ThuËt to¸n h¹ nhanh nhÊt.
B−íc 1:
Cho ε > 0 ®ñ bÐ, chän u0 bÊt kú.
h0 = -gradQ(u0)

28 February 2011
s 0* = arg min Q(u 0 + s 0 h 0 )
u1 = u0 + s0*h0
Thùc hiÖn çc b−íc sau víi k = 1, 2, 3, ...
B−íc 2:
T×m h−íng hk sao cho: hkThk-1 = 0
T×m sk* nh− sau: sk* = argminQ(uk + skhk)
B−íc 3:
TÝnh uk+1 = uk + sk*hk.
B−íc 4: KiÓm tra ®iÒu kiÖn.
B−íc 5: KÕt thóc
NghiÖm tèi −u gÇn ®óng u* = uk+1 víi ®é chÝnh x¸c lμ ε .
.

28 February 2011
Bμi 5 Ph−¬ng ph¸p h−íng liªn hîp

1. §Æt vÊn ®Ò.
1
XÐt hμm môc tiªu cã d¹ng chÝnh ph−¬ng: Q = u T Au + b T u
2
A lμ ma trËn ®¬n vÞ.
u = (u1 u2 . . . ur)T
b = (b1 b2 . . . br)T
Theo ph−¬ng ph¸p Gauss/Seidel, u* ®−îc t×m thÊy sau ®óng r b−íc. u* tho¶
∂Q
= 0 ⇔ Au + b = 0 ⇒ u = − Ab .
*
m·n ®iÒu kiÖn
∂u
Theo ph−¬ng ph¸p Gauss/Seidel, çc h−íng t×m song song víi çc trôc to¹ ®é,
xuÊt ph¸t tõ ®©y ®Ó ®i tíi ph−¬ng ph¸p h−íng liªn hîp.
ý t−ëng cña ph−¬ng ph¸p lμ: h−íng t×m ë vßng thø k ®−îc t×m theo h−íng t×m
ë vßng thø k - 1, sao cho: hk-1Thk = 0.
XÐt hμm môc tiªu bÊy kú, trong ®ã ma trËn A kh«ng ph¶i lμ ma trËn ®¬n vÞ.
Nh− vËy ta ph¶i chuyÓn hÖ trôc to¹ ®é ®Ó ®−a A vÒ d¹ng ma trËn ®¬n vÞ. Khi ®ã
h−íng t×m hk sÏ chuyÓn thμnh pk. Coi A lμ mét to¸n tö tuyÕn tÝnh biÕn ®æi hÖ trôc
to¹ ®é, qua phÐp biÕn ®æi nμy hk chuyÓn thμnh pk. Khi ®ã pk ph¶i cã tÝnh chÊt
sau:
pk-1Apk = 0
Çc h−íng t×m pk víi k = 1, 2, ...,r ®−îc x¸c ®Þnh nhê c«ng thøc sau:
T
k −1 p i Av k
pk = vk − ∑ T
pi
i =1 pi A pi
vi víi i = 1, 2, ...,r lμ mét c¬ së cña kh«ng gian Rr, cã nghÜa lμ çc vÐc t¬ v1, v2,
... vr ®éc lËp tuyÕn tÝnh víi nhau.
H−íng t×m ban ®Çu p0 cã thÓ ®−îc x¸c ®Þnh nhê vÐc t¬ gradQ hoÆc ®−îc x¸c
®Þnh ngÉu nhiªn. Däc theo h−íng t×m pk, uk ®−îc t×m sao cho Q(uk) ®¹t gi¸ trÞ
nhá nhÊt.
sk* = argminQ(uk-1 + skpk)

28 February 2011
uk = uk-1 + sk*pk
2. ThuËt to¸n h−íng liªn hîp.
Chän çc vÐc t¬ c¬ së vi nh− sau: vk = -gk-1 víi k = 1, 2, ..., r. Trong ®ã gk =
gradQ(uk) = Auk + b.
pk+1 = -gk + ekpk víi k = 0, 1, ..., r-1. Trong ®ã p0 = -g0, hÖ sè ®æi h−íng
T
p k Ag k
ek = T
.
pk A pk
Däc theo h−íng t×m pk+1, uk+1 ®−îc t×m theo tõ uk theo nguyªn t¾c hμm Q ®¹t
gi¸ trÞ nhá nhÊt.
sk+1* = argminQ(uk + sk+1pk+1)
uk+1 = uk + sk+1*pk+1
ThuËt to¸n.
B−íc 1:
Chän u0, e0 = 0.
p0 = -g0 = -(Au0 + b)
Thùc hiÖn çc b−íc sau víi k = 1, 2, ..., r-1.
B−íc 2:
gk = gradQ(uk) = Auk + b
T
p k Ag k
ek = T
pk A pk
pk+1 = -gk + ekpk

sk+1* = argminQ(uk + sk+1pk+1)
B−íc 3:
uk+1 = uk + sk+1*pk+1
B−íc 4:
u* = ur
Ph−¬ng ph¸p h−íng liªn hîp cã nh÷ng tÝnh chÊt sau:
+ giTgj = 0 víi ∀i ≠ j
+ piTgk = 0 víi ∀i ≤ k

28 February 2011
+ NghiÖm tèi −u u* tho¶ m·n hÖ ph−¬ng tr×nh Au* + b = 0.
1
Ph−¬ng ph¸p nμy thÝch hîp cho hμm môc tiªu cã d¹ng: Q = u T Au + b T u víi A
2
lμ ma trËn x¸c ®Þnh d−¬ng.
Khi hμm môc tiªu cã d¹ng bÊt kú, kh«ng gièng víi d¹ng ë trªn ta cã thÓ dung
ph−¬ng ph¸p nμy ®Ó t×m u*, tuy nhiªn cÇn ph¶i thay ®æi.
2
gk
HÖ sè ®æi h−ëng ®−îc tÝnh tõ Q cã d¹ng tæng qu¸t: ek = 2
g k −1
NghiÖm tèi −u t×m ®−îc kh«ng ph¶i lμ nghiÖm ®óng.

28 February 2011
Bμi 6 Ph−¬ng ph¸p Newton-Raphson

1. Néi dung cña ph−¬ng ph¸p.
Ph−¬ng ph¸p t×m nghiÖm tèi −u sö dông ®¹o hμm bËc nhÊt vμ bËc hai cña hμm
môc tiªu nªn ph¶i gi¶ thiÕt hμm môc tiªu Q(u) kh¶ vi hai lÇn. §Ó gi¶i hÖ ph−¬ng
∂Q (u )
tr×nh = 0 (*) b»ng ph−¬ng ph¸p gi¶i tÝch, tr−íc tiªn hÖ (*) ®−îc khai triÓn
∂u
thμnh chuçi Taylor t¹i uk thuéc l©n cËn nghiÖm tèi −u u* vμ lμ nghiÖm cña (*)
nh− sau:
∂Q (u ) ∂Q(u ) ∂ 2 Q(u ) *
= + (u − u k ) + ...+ = 0
∂u u * ∂u u k ∂u
2
uk
tiÕp theo, bá qua çc ®¹o hμm bËc cao. Khi ®ã u* sÏ kh«ng ph¶i lμ nghiÖm
®óng n÷a mμ chØ lμ nghiÖm gÇn ®óng. Gäi nghiÖm gÇn ®óng nμy lμ lμ uk+1 ≈ u* ,
thay vμo hÖ ph−¬ng tr×nh trªn ta cã:
∂Q(u ) ∂ 2 Q( u )
+ (u k +1 − u k ) =0
∂u u k ∂u
2
uk
⎡ ∂ 2Q ∂ 2Q ⎤
⎢ ... ⎥
⎢ ∂u 1 ∂u 1 ∂u r ⎥
2
§Æt H(u) = ⎢ . . . . . . ⎥ , g k = gradQ (u k ) .

⎢ 2 ⎥
⎢ ∂ Q ...
∂ 2Q ⎥
⎢⎣ ∂u r ∂u 1 ∂u r ⎥⎦
2
Suy ra uk+1 = uk - H-1(uk)gk

2. ThuËt to¸n Newton-Raphson.
B−íc 1:
Cho ε > 0 ®ñ bÐ, chän u0 bÊt kú.
Thùc hiÖn çc b−íc sau víi k = 0, 1, 2, ...
B−íc 2:
TÝnh g k = gradQ(u k ) .

28 February 2011
TÝnh H(uk)
B−íc 3:
TÝnh uk+1 = uk - H-1(uk)gk
B−íc 4: KiÓm tra ®iÒu kiÖn.
B−íc 5: KÕt thóc
NghiÖm tèi −u gÇn ®óng u* = uk+1.
¦u ®iÓm:
1
NÕu hμm môc tiªu cã d¹ng Q = u T Au + b T u , ph−¬ng ph¸p nμy sÏ cho ®óng
2
gi¸ trÞ u* chØ sau ®óng mét vßng tÝnh.
VÝ dô:
Cho hμm môc tiªu Q = 3u12 + 4u22 + u1u2 víi ε = 10 −3
⎡ ∂Q ⎤
⎢ ∂u ⎥ ⎡6u + u 2 ⎤
g = gradQ (u ) = ⎢ 1 ⎥ = ⎢ 1 ⎥
⎢ ∂Q ⎥ ⎣8u 2 + u1 ⎦
⎢⎣ ∂u 2 ⎥⎦
⎡ ∂ 2Q ∂ 2Q ⎤
⎢ ⎥
∂u 2 ∂u1 ∂u 2 ⎥ ⎡6 1⎤
H (u ) = ⎢ 2 1 =
⎢ ∂ Q ∂ 2 Q ⎥ ⎢⎣1 8⎥⎦
⎢ ∂u ∂u ∂u 22 ⎥⎦
⎣ 2 1
1 ⎡ 8 − 1⎤
H −1 (u ) =
47 ⎢⎣− 1 6 ⎥⎦
B−íc 1:
⎡0 ⎤
u0 = ⎢ ⎥
⎣1⎦
B−íc 2:
⎡6u + u 2 ⎤ ⎡1⎤ 1 ⎡ 8 − 1⎤
g0 = ⎢ 1 ⎥ = ⎢ ⎥ , H −1 (u 0 ) = H −1 (u ) =
⎣8u 2 + u1 ⎦ ⎡⎢ 0 ⎤⎥ ⎣8⎦ 47 ⎢⎣− 1 6 ⎥⎦
⎣1 ⎦
B−íc 3:

28 February 2011
⎡0⎤ 1 ⎡ 8 − 1⎤ ⎡1⎤ ⎡0⎤
u 1 = u 0 − H −1 (u 0 ) g 0 = ⎢ ⎥ − ⎢ ⎥⎢ ⎥ = ⎢ ⎥
⎣1⎦ 47 ⎣− 1 6 ⎦ ⎣8⎦ ⎣0⎦
B−íc 4:
||u1 - u0|| = 1 > ε quay vÒ b−íc 2
k = 1.
B−íc 2:
⎡6u + u 2 ⎤ ⎡0 ⎤ 1 ⎡ 8 − 1⎤
g1 = ⎢ 1 ⎥ = ⎢ ⎥ , H −1 (u 1 ) = H −1 (u ) =
⎣8u 2 + u1 ⎦ ⎡⎢ 0 ⎤⎥ ⎣0⎦ 47 ⎢⎣− 1 6 ⎥⎦
⎣0⎦
B−íc 3:
⎡0⎤ 1 ⎡ 8 − 1⎤ ⎡0⎤ ⎡0⎤
u 2 = u 1 − H −1 (u 1 ) g 1 = ⎢ ⎥ − ⎢ ⎥⎢ ⎥ = ⎢ ⎥
⎣0⎦ 47 ⎣− 1 6 ⎦ ⎣0⎦ ⎣0⎦
B−íc 4:
||u2 - u1|| = 0 < ε chuyÓn sang b−íc 5
B−íc 5:
⎡0 ⎤
NghiÖm tèi −u lμ u* = u 2 = ⎢ ⎥
⎣0 ⎦

28 February 2011
Bμi 7 Cùc tiÓu ho¸ hμm mét biÕn

1. §Æt vÊn ®Ò.
Trong çc ph−¬ng ph¸p ®· häc, ®Ó t×m u* ta ph¶i t×m sk* b»ng çch gi¶i bμi
to¸n tèi −u hμm môc tiªu theo mét h−íng ®· chän.
sk* = argminQ(uk + skhk)
§i t×m sk*, ta ®· sö dông ph−¬ng ph¸p ®¹o hμm, tøc lμ ph¶i gi¶i ph−¬ng tr×nh:
∂Q
= 0.
∂s k
§Ó cã thÓ cμi ®Æt thμnh thuËt to¸n, chóng ta sÏ sö dông mét sè ph−¬ng ph¸p c¬
b¶n ®Ó t×m sk* mμ kh«ng dïng ®¹o hμm.
Ta ®· biÕt Q(uk + skhk) lμ hμm sè mét biÕn, chØ phôc thuéc vμo sk, cho nªn ta
chØ xÐt bμi to¸n cùc tiÓu ho¸ hμm mét biÕn.
- XÐt hμm sè mét biÕn Q(s), gi¶ thiÕt hμm sè Q(s) tho¶ m·n çc ®iÒu kiÖn sau:
+ Q(s) ®¬n ®iÖu gi¶m khi 0 < s < s*
+ Q(s) ®¬n ®iÖu t¨ng khi s* < s
+ s* lμ nghiÖm tèi −u.
+ BiÕt mét ®iÓm s = s1.
§å thÞ cña hμm môc tiªu Q(s) cã d¹ng nh− h×nh 1.
Q(s) f(x)
s x
O s* s1 O x* 1
H×nh 1 H×nh 2
28 February 2011
s
ChuÈn ho¸ hμm Q(s) víi s = xs1, suy ra x = , nh− vËy 0 ≤ x ≤ 1 . Khi ®ã hμm
s1
Q(s) = Q(xs1) = f(x), f(x) cã ®é thÞ nh− h×nh 2.

f(x) cã mét ®iÓm cùc tiÓu duy nhÊt x* trong kho¶ng (0 1), f(1) > f(0). [0 1]
®−îc gäi lμ kho¶ng nghiÖm.
Nguyªn t¾c t×m nghiÖm x* lμ thu nhá kho¶ng nghiÖm qua tõng b−íc.
Trong kho¶ng [0 1] chän 2 gi¸ trÞ bÊt kú x1 vμ x2 sao cho: 0 < x1 < x2 < 1. XÐt
çc tr−êng hîp sau:
+ NÕu f(x1) < f(x2), kho¶ng nghiÖm míi ®−îc chän lμ [0 x2].
+ NÕu f(x1) ≥ f(x2), kho¶ng nghiÖm míi ®−îc chän lμ [x1 1].
VÊn ®Ò cßn l¹i lμ chän x1 vμ x2 nh− thÕ nμo ®Ó tèc ®é héi tô lμ cao nhÊt, tøc lμ
tèc ®é t×m thÊy x* nhanh nhÊt.
2. Ph−¬ng ph¸p nh¸t c¾t vμng.

X¸c ®Þnh x1, x2 sao cho sau mçi lÇn chia c¶ hai phÝa ®Òu cã tØ lÖ gi÷a kho¶ng
lín vμ toμn bé kho¶ng nghiÖm b»ng tØ lÖ kho¶ng nhá chia cho kho¶ng lín.
XÐt kho¶ng nghiÖm bÊt kú [xmin xmax]. Gäi d lμ ®é dμi lμ kho¶ng nghiÖm d =
xmax - xmin. LÊy hai ®iÓm x1 < x2 ®èi xøng nhau qua ®iÓm gi÷a cña kho¶ng
nghiÖm [xmin xmax].
§é dμi kho¶ng lín lμ: x2 - xmin vμ xmax - x1
§é dμi kho¶ng nhá lμ: xmax - x2 vμ x1 - xmin
x 2 − x min x max − x 2
Ta cã biÓu thøc sau: = , suy ra ( x 2 − xmin ) 2 = d ( x max − x 2 )
d x 2 − x min
5 −1 5 −1
Gi¶i ph−¬ng tr×nh trªn ®−îc: x 2 − x min = d , ®Æt a = = 0,618
2 2
Sau mçi lÇn chia, kho¶ng nghiÖm míi sÏ lμ [xmin x2] hoÆc [x1 xmax], v× x1 vμ x2
®−îc lÊy ®èi xøng cho nªn: x2 - xmin = xmax- x1, do ®ã kho¶ng nghiÖm míi thu
®−îc bao giê còng lμ ad = 0,618d. Sau n lÇn thu nhá kho¶ng nghiÖm míi sÏ cã
®é réng lμ and = (0,618)nd.

28 February 2011
ThuËt to¸n t×m x* gÇn ®óng theo ph−¬ng ph¸p nh¸t c¾t vμng.
B−íc 1:
G¸n xmin = 0; xmax = 1; ε > 0 ®ñ bÐ. TÝnh f(xmin) vμ f(xmax).
Chän x2 = 0,618, tÝnh f(x2).
B−íc 2:
X¸c ®Þnh x1 sao cho x1 ®èi xøng qua trung ®iÓm cña ®o¹n [xmin xmax].
B−íc 3:
TÝnh f(x1), f(x2)
+ NÕu f(x1) < f(x2), g¸n xmax = x2
+ NÕu f(x1) ≥ f(x2), g¸n xmin = x1
B−íc 4: KiÓm tra
NÕu |xmax -xminh| < ε chuyÓn sang b−íc 5
NÕu |xmax -xminh| > ε quay vÒ b−íc 2
B−íc 5:
NghiÖm tèi −u gÇn ®óng x* cã thÓ ®−îc chän lμ mét ®iÓm bÊt kú thuéc kho¶ng
[xmin xmax]
3. Ph−¬ng ph¸p Fibonaci.

XÐt d·y Fibonaci {1, 1, 2, 3, 5, 8, ..., }.
Gäi Fi lμ phÇn tö thø i cña d·y Fibonaci. Fi ®−îc x¸c ®Þnh theo c«ng thøc sau:
Fi = Fi-1 + Fi-2. Trong ®ã, hai phÇn tö ®Çu tiªn cña d·y F1 vμ F2 ®−îc x¸c ®Þnh
nh− sau: F1 = F2 = 1.
Néi dung cña ph−¬ng ph¸p Fibonaci.
ë b−íc thu nhá kho¶ng nghiÖm thø k, tØ lÖ gi÷a kho¶ng nhá víi kho¶ng lín lμ
Fn − k + 2
εk = , víi n lμ sè b−íc thu nhá kho¶ng nghiÖm ®−îc chän tõ tr−íc.
Fn − k +3
Ta cã:
Fn +1
HÖ sè thu nhá kho¶ng nghiÖm thø nhÊt lμ: ε 1 =
Fn + 2

28 February 2011
Fn
HÖ sè thu nhá kho¶ng nghiÖm thø hai lμ: ε 2 =
Fn +1
Fn − k + 2
HÖ sè thu nhá kho¶ng nghiÖm thø k lμ: ε k =
Fn − k +3
F2
HÖ sè thu nhá kho¶ng nghiÖm thø n lμ: ε n =
F3
Sau n lÇn thu nhá kho¶ng nghiÖm, kho¶ng nghiÖm míi cã hÖ sè thu nhá
1
kho¶ng nghiÖm so kho¶ng nghiÖm ban ®Çu lμ: ε = ε 1ε 2 ...ε n = .
Fn + 2
ThuËt to¸n t×m nghiÖm x* gÇn ®óng theo ph−¬ng ph¸p Fibonaci.
B−íc 1:
G¸n xmin = 0; xmax = 1; ε > 0 ®ñ bÐ. TÝnh f(xmin) vμ f(xmax).
1
T×m n tho¶ m·n ®iÒu kiÖn: <ε
Fn + 2
Thùc hiÖn çc b−íc sau víi k = 1, 2, 3, ..., n.

B−íc 2:
Fn − k + 2
TÝnh ε k =
Fn − k +3
X¸c ®Þnh x1, x2 tho¶ m·n ®iÒu kiÖn:

+ x1 < x2 ®èi xøng qua trung ®iÓm cña ®o¹n [xmin xmax].
x1 − x min
+ = εk
x max − x1
B−íc 3:
TÝnh f(x1), f(x2).
+ NÕu f(x1) < f(x2), g¸n xmax = x2
+ NÕu f(x1) ≥ f(x2), g¸n xmin = x1
G¸n k = k + 1
KiÓm tra: k > n chuyÓn sang b−íc 4, ng−îc l¹i quay vÒ b−íc 2.
B−íc 4:
NghiÖm tèi −u gÇn ®óng x* cã thÓ ®−îc chän lμ mét ®iÓm bÊt kú thuéc kho¶ng
[xmin xmax]

28 February 2011
Bμi 8 Bμi to¸n tèi −u cã giíi h¹n

1. Bμi to¸n tèi −u cã giíi h¹n.
Cho m« h×nh hÖ thèng cã d¹ng nh− sau: y = f(u) víi u ∈ U
u = (u1 u2 . . . ur)T çc ®Çu vμo
y = (y1 y2 . . . ym)T çc ®Çu ra
U lμ miÒn thÝch hîp cña çc biÕn ®Çu vμo, ®−îc ®Þnh nghÜa nh− sau:
{
U = u = (u1 , u 2 ..., u ñ ) T u k min ≤ u k ≤ u k max ; k = 1 ÷ r }
Thùc chÊt cña bμi to¸n tèi −u cã giíi h¹n lμ t×m nghiÖm tèi −u u* trong ®iÒu
kiÖn u bÞ giíi h¹n bëi miÒn thÝch hîp U.
2. Ph−¬ng ph¸p ®æi biÕn ®éc lËp.

Sö dông çc ph−¬ng ph¸p t×m nghiÖm tèi −u u* cña bμi to¸n kh«ng cã giíi h¹n
U b»ng çch dïng phÐp chuyÓn vÞ u = ϕ (v). PhÐp chuyÓn vÞ ϕ cã thÓ lμ phi
tuyÕn, tho¶ m·n ®iÒu kiÖn: ∀v ∈ R r th× u ∈ U
Khi ®ã bμi to¸n t×m:
u = arg min Q(u ) → min
*
u ∈U
thμnh bμi to¸n t×m:

v = arg min Q(v) → min
*
∀v ∈ R r
Sau khi t×m ®−îc v*, ta sÏ t×m ®−îc u* = ϕ (v*).

Tuú theo miÒn giíi h¹n U mμ ta cã thÓ chän mét trong çc ph−¬ng ph¸p
chuyÓn vÞ sau:
+ u k ≥ 0 : Thay u k = vk2

28 February 2011
2v k
+ u k ≤ a : Thay u k = a
1 + v k2
1 vk
+ u k min ≤ u k ≤ u k max : Thay u k = (u k max + u k min ) + (u k max − u k min )
2 1 + v k2
u k − u k min
+ u k min < u k < u k max : Thay v k = ln
u k max − u k
3. Ph−¬ng ph¸p sö dông hμm ph¹t vμ hμm chÆn.

3.1 Hμm ph¹t.
Trong qu¸ tr×nh t×m tõng b−íc nghiÖm tèi −u, hμm ph¹t cã ®−îc sö dông ®Ó
th«ng b¸o r»ng t¹i thêi ®iÓm hiÖn t¹i, gi¸ trÞ uk ®· ra ngoμi miÒn U.
ViÖc th«ng b¸o cña hμm ph¹t th−êng lμ b»ng nh÷ng gi¸ trÞ rÊt lín (mét çch
kh«ng b×nh th−êng) t¹i nh÷ng ®iÓm gÇn biªn, bªn trong hoÆc bªn ngoμi.
u = arg min Q (u ) → min
*
Cho hμm môc tiªu Q(u). T×m .
u ∈U
Thay Q(u) = Q(u) + λ S(u), víi ®iÒu kiÖn:

S(u) = 0 nÕu u ∈ U
S(u) > 0 nÕu u ∉ U
λ lμ mét sè d−¬ng ®ñ lín.
¸p dông çc ph−¬ng ph¸p gi¶i bμi to¸n tèi −u kh«ng rμng buéc ®Ó t×m nghiÖm
u (λ ) = arg min Q(u , λ ) → min , nghiÖm tèi −u u* ®−îc t×m theo c«ng thøc sau:
*
u = lim u (λ )
* *
λ →∞
3.2 Hμm chÆn.

Trong qu¸ tr×nh t×m tõng b−íc nghiÖm tèi −u, hμm chÆn ®−îc sö dông ®Ó ng¨n
c¶n viÖc gi¸ trÞ uk hiÖn t¹i cã thÓ sÏ v−ît ra ngoμi miÒn U. ViÖc ng¨n c¶n cña

28 February 2011
hμm chÆn th−êng lμ b»ng nh÷ng gi¸ trÞ rÊt lín (mét çch kh«ng b×nh th−êng) t¹i
nh÷ng ®iÓm gÇn biªn, bªn trong hoÆc bªn ngoμi
Thay Q(u) = Q(u) + λ S(u), víi ®iÒu kiÖn:
S(u) = 0 nÕu u çch xa biªn.
S(u) = + ∞ nÕu u ë gÇn biªn.
λ lμ mét sè d−¬ng ®ñ lín.
¸p dông çc ph−¬ng ph¸p gi¶i bμi to¸n tèi −u kh«ng rμng buéc ®Ó t×m nghiÖm
u (λ ) = arg min Q(u , λ ) → min , nghiÖm tèi −u u* ®−îc t×m theo c«ng thøc sau:
*
u = lim u (λ )
* *
λ →∞

28 February 2011
Tμi liÖu tham kh¶o

1. §iÒu khiÓn tèi −u vμ bÒn v÷ng, NguyÔn Do·n Ph−íc, Phan Xu©n Minh,
KH&KT, 2000.
2. Lý thuyÕt ®iÒu khiÓn tù ®éng hiÖn ®¹i, NguyÔn Th−¬ng Ng«, KH&KT, 1999
3. HÖ mê- M¹ng n¬ron v øng dông, Bïi C«ng C−êng, NguyÔn Do·n Ph−íc,
KH&KT, 2001.
4. Lý thuyÕt ®iÒu khiÓn mê, Phan Xu©n Minh, NguyÔn Do·n Ph−íc, KH&KT,
1999.
5. NhËn d¹ng hÖ thèng ®iÒu khiÓn, NguyÔn Do·n Ph−íc, Phan Xu©n Minh,
KH&KT, 2001.
6. Qui ho¹ch to¸n häc, Bïi Minh TrÝ, KH&KT, 1999.

1129 - 720 - Dieu Khien Toi Uu

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

1129 - 720 - Dieu Khien Toi Uu

Transféré par

Droits d'auteur :

Formats disponibles

Lý thuyÕt ®iÒu khiÓn n©ng cao

NguyÔn Hoμi Nam 1

Bμi 1 Giíi thiÖu chung

NguyÔn Hoμi Nam 2

2. §iÒu kiÖn h¹n chÕ.

NguyÔn Hoμi Nam 3

3. Bμi to¸n ®iÒu khiÓn tèi −u.

3.1. §iÒu khiÓn tèi −u tÜnh.

NguyÔn Hoμi Nam 4

gian x¶y ra qu¸ tr×nh tèi −u.

NguyÔn Hoμi Nam 5

Bμi 2 §iÒu khiÓn tèi −u tÜnh

2. BiÓu diÔn h×nh häc.

NguyÔn Hoμi Nam 6

3. Gi¶ thiÕt cho lêi gi¶i.

+ Cã ph−¬ng vu«ng gãc víi mÆt cong Q.

NguyÔn Hoμi Nam 7

3.2. Bμi to¸n tèi −u cã giíi h¹n.

NguyÔn Hoμi Nam 8

NguyÔn Hoμi Nam 9

Bμi 3 Ph−¬ng ph¸p kh«ng dïng ®¹o hμm riªng

2. Ph−¬ng ph¸p Gauss/ Seidel.

NguyÔn Hoμi Nam 10

VËy s0* = argminQ(u1) = -1

NguyÔn Hoμi Nam 11

VËy s1* = argminQ(u2) = -1

VËy s2* = argminQ(u3) = 0

NguyÔn Hoμi Nam 12

3. C¸c ph−¬ng ph¸p kh¸c.

3.2 Ph−¬ng ph¸p ®¬n h×nh.

NguyÔn Hoμi Nam 13

NguyÔn Hoμi Nam 14

thay gi¸ trÞ u = uk vμo.

NguyÔn Hoμi Nam 15

3. Ph−¬ng ph¸p h¹ nhanh nhÊt.

NguyÔn Hoμi Nam 16

NguyÔn Hoμi Nam 17

Bμi 5 Ph−¬ng ph¸p h−íng liªn hîp

NguyÔn Hoμi Nam 18

pk+1 = -gk + ekpk

NguyÔn Hoμi Nam 19

NghiÖm tèi −u t×m ®−îc kh«ng ph¶i lμ nghiÖm ®óng.

NguyÔn Hoμi Nam 20

Bμi 6 Ph−¬ng ph¸p Newton-Raphson

§Æt H(u) = ⎢ . . . . . . ⎥ , g k = gradQ (u k ) .

Suy ra uk+1 = uk - H-1(uk)gk

NguyÔn Hoμi Nam 21

NguyÔn Hoμi Nam 22

NguyÔn Hoμi Nam 23

Bμi 7 Cùc tiÓu ho¸ hμm mét biÕn

Q(s) = Q(xs1) = f(x), f(x) cã ®é thÞ nh− h×nh 2.

2. Ph−¬ng ph¸p nh¸t c¾t vμng.

NguyÔn Hoμi Nam 25

3. Ph−¬ng ph¸p Fibonaci.

NguyÔn Hoμi Nam 26

Thùc hiÖn c¸c b−íc sau víi k = 1, 2, 3, ..., n.

X¸c ®Þnh x1, x2 tho¶ m·n ®iÒu kiÖn:

NguyÔn Hoμi Nam 27

Bμi 8 Bμi to¸n tèi −u cã giíi h¹n

2. Ph−¬ng ph¸p ®æi biÕn ®éc lËp.

thμnh bμi to¸n t×m:

Sau khi t×m ®−îc v*, ta sÏ t×m ®−îc u* = ϕ (v*).

NguyÔn Hoμi Nam 28

Sau khi t×m ®−îc v, ta sÏ t×m ®−îc u = ϕ (v*).