Top Banner
Relaxa¸c˜ ao Lagrangiana M.P. Mello Roteiro Contexto Teoria Aspectos pr´ aticos Heur´ ıstica lagrangiana Redu¸c˜ ao do problema Aplica¸c˜oes Referˆ encias Relaxa¸c˜ ao Lagrangiana Margarida P. Mello MT852 – 15 de maio, 2009
112

Relaxação Lagrangeana

Jan 09, 2017

Download

Documents

buituyen
Welcome message from author
This document is posted to help you gain knowledge. Please leave a comment to let me know what you think about it! Share it to your friends and learn new things together.
Transcript
Page 1: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Relaxacao Lagrangiana

Margarida P. Mello

MT852 – 15 de maio, 2009

Page 2: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

1 Contexto

2 Teoria

3 Aspectos praticos

4 Heurıstica lagrangiana

5 Reducao do problema

6 Aplicacoes

7 Referencias

Page 3: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Contexto

Cotas superioressolucoes viaveis

Cotas inferioressolucoes inviaveis

Valor

Valor otimo

(minimizacao)

Page 4: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Heurısticas

Destinadas a classes especıficasBusca localTempera simuladaAlgoritmos geneticosRedes neurais. . .

Relaxacoes

LinearLagrangiana

Valor

Valor otimo

(minimizacao)

Page 5: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Usos

• como um metodo

• como um coadjuvante (e.g., R.L. + B&B)

• na avaliacao de resultados obtidos com outras heurısticas

Page 6: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Usos

• como um metodo

• como um coadjuvante (e.g., R.L. + B&B)

• na avaliacao de resultados obtidos com outras heurısticas

Page 7: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Usos

• como um metodo

• como um coadjuvante (e.g., R.L. + B&B)

• na avaliacao de resultados obtidos com outras heurısticas

Page 8: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Ideia

Problema linear inteiro(PI ) min zPI = cx

s.a A1x ≥ b1

A2x ≥ b2

xj ∈ Z, ∀j

Se λ ≥ 0, zPI ≥ z ′:min z ′ = cx + λ(b1 − A1x)

s.a A1x ≥ b1

A2x ≥ b2

xj ∈ Z, ∀j

Page 9: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Ideia

Problema linear inteiro(PI ) min zPI = cx

s.a A1x ≥ b1

A2x ≥ b2

xj ∈ Z, ∀j

Se λ ≥ 0, zPI ≥ z ′:min z ′ = cx + λ(b1 − A1x)

s.a A1x ≥ b1

A2x ≥ b2

xj ∈ Z, ∀j

Page 10: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Problema linear inteiro(PI ) min zPI = cx

s.a A1x ≥ b1

A2x ≥ b2

xj ∈ Z+, ∀j

E z ′ ≥ z(λ):(PRλ) min z(λ) = cx + λ(b1 − A1x)

s.a A2x ≥ b2

xj ∈ Z+, ∀j

Page 11: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Problema linear inteiro(PI ) min zPI = cx

s.a A1x ≥ b1

A2x ≥ b2

xj ∈ Z+, ∀j

E z ′ ≥ z(λ):(PRλ) min z(λ) = cx + λ(b1 − A1x)

s.a A2x ≥ b2

xj ∈ Z+, ∀j

}Q

Page 12: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Resultado importante

Dual Lagrangiano (melhor cota inferior)

(DL) zDL = maxλ≥0

z(λ)

Teorema (Nemhauser & Wolsey, p. 327–328)

zDL = min{cx | A1x ≥ b1, x ∈ conv (Q)}

Page 13: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Resultado importante

Dual Lagrangiano (melhor cota inferior)

(DL) zDL = maxλ≥0

z(λ)

Teorema (Nemhauser & Wolsey, p. 327–328)

zDL = min{cx | A1x ≥ b1, x ∈ conv (Q)}

Page 14: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

Problema

min 3x1 − x2

s.a x1 − x2 ≥ −1 (1)−x1 + 2x2 ≤ 5 (2)3x1 + 2x2 ≥ 3 (3)6x1 + x2 ≤ 15 (4)

x1, x2 ≥ 0x1, x2 ∈ Z

Page 15: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

x1

x2

1

1

(2)(1)

(3)

(4)

• •

• •

• •

• •

c

•x∗PI

•x∗PL

Page 16: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

x1

x2

1

1

(2)(1)

(3)

(4)

• •

• •

• •

• •

c

•x∗PI

•x∗PL

Page 17: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

x1

x2

1

1

(2)(1)

(3)

(4)

• •

• •

• •

• •

c

•x∗PI

•x∗PL

Page 18: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

x1

x2

1

1

(2)(1)

(3)

(4)

• •

• •

• •

• •

c

•x∗PI

•x∗PL

Page 19: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

x1

x2

conv(Q)

1

1

• •

• •

• •

• •

c

−A1

Page 20: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

x1

x2

conv(Q)

1

1

• •

• •

• •

• •

••

• •

c

−A1

λ (0, 5/3) (5/3, 3) (3,∞)

x∗(λ) (0, 2) (1, 0) (2, 0)

z(λ) −2 + λ 3− 2λ 6− 3λ

⇒ zDL = z(

53

)= −1

3

Page 21: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

x1

x2

conv(Q)

1

1

• •

• •

• •

• •

••

• •

conv(Q

) ∩ {x | A

1 x ≥ b1 }

c

−A1

λ (0, 5/3) (5/3, 3) (3,∞)

x∗(λ) (0, 2) (1, 0) (2, 0)

z(λ) −2 + λ 3− 2λ 6− 3λ

⇒ zDL = z(

53

)= −1

3

Page 22: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

x1

x2

conv(Q)

1

1

• •

• •

• •

• •

• ••

• •

conv(Q

) ∩ {x | A

1 x ≥ b1 }

c

−A1

• x∗DL

• x∗PI

•x∗PL

λ (0, 5/3) (5/3, 3) (3,∞)

x∗(λ) (0, 2) (1, 0) (2, 0)

z(λ) −2 + λ 3− 2λ 6− 3λ

⇒ zDL = cx∗DL = −13

Page 23: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

x1

x2

conv(Q)

1

1

• •

• •

• •

• •

• ••

• •

conv(Q

) ∩ {x | A

1 x ≥ b1 }

c

−A1

• x∗DL

• x∗PI

•x∗PL

λ (0, 5/3) (5/3, 3) (3,∞)

x∗(λ) (0, 2) (1, 0) (2, 0)

z(λ) −2 + λ 3− 2λ 6− 3λ

⇒ zDL = cx∗DL = −13

Page 24: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

x1

x2

conv(Q)

1

1

• •

• •

• •

• •

• ••

• •

conv(Q

) ∩ {x | A

1 x ≥ b1 }

c

−A1

• x∗DL

• x∗PI

•x∗PL

λ (0, 5/3) (5/3, 3) (3,∞)

x∗(λ) (0, 2) (1, 0) (2, 0)

z(λ) −2 + λ 3− 2λ 6− 3λ

⇒ zDL = cx∗DL = −13

Page 25: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

x1

x2

conv(Q)

1

1

• •

• •

• •

• •

• ••

• •

conv(Q

) ∩ {x | A

1 x ≥ b1 }

c

−A1

• x∗DL

• x∗PI

•x∗PL

λ (0, 5/3) (5/3, 3) (3,∞)

x∗(λ) (0, 2) (1, 0) (2, 0)

z(λ) −2 + λ 3− 2λ 6− 3λ

⇒ zDL = cx∗DL = −13

Page 26: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

Gap de dualidade

zPI − zDL = 1−(−1

3

)=

4

3

Comparando com relaxacao linear

xPL =

(1

5,

6

5

)⇒ zPL = −3

5

LogozPI > zDL > zPL

Note que x∗(λ∗) e viavel para (PI ), porem nao e otima para(PI ).

Page 27: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

Gap de dualidade

zPI − zDL = 1−(−1

3

)=

4

3

Comparando com relaxacao linear

xPL =

(1

5,

6

5

)⇒ zPL = −3

5

LogozPI > zDL > zPL

Note que x∗(λ∗) e viavel para (PI ), porem nao e otima para(PI ).

Page 28: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

Gap de dualidade

zPI − zDL = 1−(−1

3

)=

4

3

Comparando com relaxacao linear

xPL =

(1

5,

6

5

)⇒ zPL = −3

5

LogozPI > zDL > zPL

Note que x∗(λ∗) e viavel para (PI ), porem nao e otima para(PI ).

Page 29: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

Gap de dualidade

zPI − zDL = 1−(−1

3

)=

4

3

Comparando com relaxacao linear

xPL =

(1

5,

6

5

)⇒ zPL = −3

5

LogozPI > zDL > zPL

Note que x∗(λ∗) e viavel para (PI ), porem nao e otima para(PI ).

Page 30: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

Gap de dualidade

zPI − zDL = 1−(−1

3

)=

4

3

Comparando com relaxacao linear

xPL =

(1

5,

6

5

)⇒ zPL = −3

5

LogozPI > zDL > zPL

Note que x∗(λ∗) e viavel para (PI ), porem nao e otima para(PI ).

Page 31: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Demonstracao

Fato (N&W, p. 106): se dados sao racionais, conv(Q) epoliedro racional e min{dx | x ∈ Q} = min{dx | x ∈ conv(Q)}.

conv(Q) = conv(P) + conic(R).

z(λ) = min{(c − λA1)x + λb1 | x ∈ Q}= min{cx + λ(b1 − A1x) | x ∈ conv(Q)}

=

+∞, se Q = P = ∅−∞, se ∃r j ∈ R | (c − λA1)r j < 0cxk + λ(b1 − A1)xk , c.c., para algum xk ∈ P

Page 32: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Demonstracao

Fato (N&W, p. 106): se dados sao racionais, conv(Q) epoliedro racional e min{dx | x ∈ Q} = min{dx | x ∈ conv(Q)}.

conv(Q) = conv(P) + conic(R).

z(λ) = min{(c − λA1)x + λb1 | x ∈ Q}= min{cx + λ(b1 − A1x) | x ∈ conv(Q)}

=

+∞, se Q = P = ∅−∞, se ∃r j ∈ R | (c − λA1)r j < 0cxk + λ(b1 − A1)xk , c.c., para algum xk ∈ P

Page 33: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Demonstracao

Fato (N&W, p. 106): se dados sao racionais, conv(Q) epoliedro racional e min{dx | x ∈ Q} = min{dx | x ∈ conv(Q)}.

conv(Q) = conv(P) + conic(R).

z(λ) = min{(c − λA1)x + λb1 | x ∈ Q}= min{cx + λ(b1 − A1x) | x ∈ conv(Q)}

=

+∞, se Q = P = ∅−∞, se ∃r j ∈ R | (c − λA1)r j < 0cxk + λ(b1 − A1)xk , c.c., para algum xk ∈ P

Page 34: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

dem. — cont.

LogozDL = max

λ≥0min

x∈conv(Q){cx + λ(b1 − A1x)}

= maxz,λ

z

z ≤ cxk + λ(b1 − A1xk), ∀xk ∈ P

(c − λA1)r j ≥ 0, ∀r j ∈ R

λ ≥ 0= max

z,λz

z + λ(A1xk − b1) ≤ cxk , ∀xk ∈ P

λA1r j ≤ cr j , ∀r j ∈ R

λ ≥ 0

Page 35: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

dem. — cont.

LogozDL = max

λ≥0min

x∈conv(Q){cx + λ(b1 − A1x)}

= maxz,λ

z

z ≤ cxk + λ(b1 − A1xk), ∀xk ∈ P

(c − λA1)r j ≥ 0, ∀r j ∈ R

λ ≥ 0

= maxz,λ

z

z + λ(A1xk − b1) ≤ cxk , ∀xk ∈ P

λA1r j ≤ cr j , ∀r j ∈ R

λ ≥ 0

Page 36: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

dem. — cont.

LogozDL = max

λ≥0min

x∈conv(Q){cx + λ(b1 − A1x)}

= maxz,λ

z

z ≤ cxk + λ(b1 − A1xk), ∀xk ∈ P

(c − λA1)r j ≥ 0, ∀r j ∈ R

λ ≥ 0= max

z,λz

z + λ(A1xk − b1) ≤ cxk , ∀xk ∈ P

λA1r j ≤ cr j , ∀r j ∈ R

λ ≥ 0

Page 37: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

dem. — cont.

Teor. de dualidade de PL ⇒

zDL = min c(∑

k αkxk +∑

j µj rj)

∑k αk = 1

A1(∑

k αkxk +∑

j µj rj)≥ b1 (

∑k αk)

αk , µj ≥ 0, ∀k , j

= mins.a

cxA1x ≥ b1

x ∈ conv(Q)

Page 38: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

dem. — cont.

Teor. de dualidade de PL ⇒

zDL = min c(∑

k αkxk +∑

j µj rj)

∑k αk = 1

A1(∑

k αkxk +∑

j µj rj)≥ b1 (

∑k αk)

αk , µj ≥ 0, ∀k , j

= mins.a

cxA1x ≥ b1

x ∈ conv(Q)

Page 39: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

CorolarioSe

conv(Q) ∩ {x | A2x ≥ b2} =conv{x | A1x ≥ b1,A2x ≥ b2, xj ∈ Z+},

entao cota fornecida por relaxacao lagrangiana coincide comcota fornecida por relaxacao linear.

Page 40: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Questoes importantes

• Estrategia: quais restricoes relaxar/dualizar?Levar em consideracao

• a qualidade da cota zDL

• a facilidade de solucao de (PRλ)• a facilidade de solucao de (DL)

• Tatica: como estimar/atualizar λ?

• metodo do subgradiente

Page 41: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Questoes importantes

• Estrategia: quais restricoes relaxar/dualizar?Levar em consideracao• a qualidade da cota zDL

• a facilidade de solucao de (PRλ)• a facilidade de solucao de (DL)

• Tatica: como estimar/atualizar λ?

• metodo do subgradiente

Page 42: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Questoes importantes

• Estrategia: quais restricoes relaxar/dualizar?Levar em consideracao• a qualidade da cota zDL

• a facilidade de solucao de (PRλ)

• a facilidade de solucao de (DL)

• Tatica: como estimar/atualizar λ?

• metodo do subgradiente

Page 43: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Questoes importantes

• Estrategia: quais restricoes relaxar/dualizar?Levar em consideracao• a qualidade da cota zDL

• a facilidade de solucao de (PRλ)• a facilidade de solucao de (DL)

• Tatica: como estimar/atualizar λ?

• metodo do subgradiente

Page 44: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Questoes importantes

• Estrategia: quais restricoes relaxar/dualizar?Levar em consideracao• a qualidade da cota zDL

• a facilidade de solucao de (PRλ)• a facilidade de solucao de (DL)

• Tatica: como estimar/atualizar λ?

• metodo do subgradiente

Page 45: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Questoes importantes

• Estrategia: quais restricoes relaxar/dualizar?Levar em consideracao• a qualidade da cota zDL

• a facilidade de solucao de (PRλ)• a facilidade de solucao de (DL)

• Tatica: como estimar/atualizar λ?• metodo do subgradiente

Page 46: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Metodo do subgradiente

(PRλ) max z(λ) = cx + λ(b − Ax)

s.a x ∈ X

• z(λ) e convexa, linear por partes.

• (b − Ax∗(λ)) ∈ ∂z(λ)

Passo 1 (Inicializacao)k ← 0Chuta λ0

Passo 2 (Iteracao)Enquanto nao satisfaz criterio de paradaλ← λk

Seja xk ∈ argmax{cx + λk(b − Ax) | x ∈ X}λk+1

i = [λki − µk(b − Axk)i ]

+

k ← k + 1

Page 47: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Metodo do subgradiente

(PRλ) max z(λ) = cx + λ(b − Ax)

s.a x ∈ X

• z(λ) e convexa, linear por partes.

• (b − Ax∗(λ)) ∈ ∂z(λ)

Passo 1 (Inicializacao)k ← 0Chuta λ0

Passo 2 (Iteracao)Enquanto nao satisfaz criterio de paradaλ← λk

Seja xk ∈ argmax{cx + λk(b − Ax) | x ∈ X}λk+1

i = [λki − µk(b − Axk)i ]

+

k ← k + 1

Page 48: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Metodo do subgradiente

(PRλ) max z(λ) = cx + λ(b − Ax)

s.a x ∈ X

• z(λ) e convexa, linear por partes.

• (b − Ax∗(λ)) ∈ ∂z(λ)

Passo 1 (Inicializacao)k ← 0Chuta λ0

Passo 2 (Iteracao)Enquanto nao satisfaz criterio de paradaλ← λk

Seja xk ∈ argmax{cx + λk(b − Ax) | x ∈ X}λk+1

i = [λki − µk(b − Axk)i ]

+

k ← k + 1

Page 49: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Metodo do subgradiente

(PRλ) max z(λ) = cx + λ(b − Ax)

s.a x ∈ X

• z(λ) e convexa, linear por partes.

• (b − Ax∗(λ)) ∈ ∂z(λ)

Passo 1 (Inicializacao)k ← 0Chuta λ0

Passo 2 (Iteracao)Enquanto nao satisfaz criterio de paradaλ← λk

Seja xk ∈ argmax{cx + λk(b − Ax) | x ∈ X}λk+1

i = [λki − µk(b − Axk)i ]

+

k ← k + 1

Page 50: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Metodo do subgradiente

(PRλ) max z(λ) = cx + λ(b − Ax)

s.a x ∈ X

• z(λ) e convexa, linear por partes.

• (b − Ax∗(λ)) ∈ ∂z(λ)

Passo 1 (Inicializacao)k ← 0Chuta λ0

Passo 2 (Iteracao)Enquanto nao satisfaz criterio de paradaλ← λk

Seja xk ∈ argmax{cx + λk(b − Ax) | x ∈ X}λk+1

i = [λki − µk(b − Axk)i ]

+

k ← k + 1

Page 51: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

Problema de cobertura

(PI ) min cxs.a Ax ≥ 1

xj ∈ {0, 1} ∀j

Dualizando restricoes de cobertura

(PRλ) min (c − λA)x +∑

i λi= Cx +∑

i λi

s.a xj ∈ {0, 1} ∀j

Solucao otima

x∗j (λ) =

{1, se Cj ≤ 00, c.c.

Page 52: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

Problema de cobertura

(PI ) min cxs.a Ax ≥ 1

xj ∈ {0, 1} ∀j

Dualizando restricoes de cobertura

(PRλ) min (c − λA)x +∑

i λi= Cx +∑

i λi

s.a xj ∈ {0, 1} ∀j

Solucao otima

x∗j (λ) =

{1, se Cj ≤ 00, c.c.

Page 53: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

Problema de cobertura

(PI ) min cxs.a Ax ≥ 1

xj ∈ {0, 1} ∀j

Dualizando restricoes de cobertura

(PRλ) min (c − λA)x +∑

i λi= Cx +∑

i λi

s.a xj ∈ {0, 1} ∀j

Solucao otima

x∗j (λ) =

{1, se Cj ≤ 00, c.c.

Page 54: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

Problema da mochila

z = max 10y1 + 4y2 + 14y3

3y1 + y2 + 4y3 ≤ 4y ∈ B3.

Dualizando a restricao de capacidade

zDL = minλ≥0

z(λ),

z(λ) = max (10− 3λ)y1 + (4− λ)y2 + (14− λ)y3 + 4λy ∈ B3,

onde λ ≥ 0.

Page 55: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

Problema da mochila

z = max 10y1 + 4y2 + 14y3

3y1 + y2 + 4y3 ≤ 4y ∈ B3.

Dualizando a restricao de capacidade

zDL = minλ≥0

z(λ),

z(λ) = max (10− 3λ)y1 + (4− λ)y2 + (14− λ)y3 + 4λy ∈ B3,

onde λ ≥ 0.

Page 56: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

Problema da mochila

z = max 10y1 + 4y2 + 14y3

3y1 + y2 + 4y3 ≤ 4y ∈ B3.

Dualizando a restricao de capacidade

zDL = minλ≥0

z(λ),

z(λ) = max (10− 3λ)y1 + (4− λ)y2 + (14− λ)y3 + 4λy ∈ B3,

onde λ ≥ 0.

Page 57: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

Logo

z(λ) = max{0, 10− 3λ}+ max{0, 4− λ}+ max{0, 14− 4λ}+ 4λ

z(λ) = funcao convexa, linear por partes

Page 58: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

Logo

z(λ) = max{0, 10− 3λ}+ max{0, 4− λ}+ max{0, 14− 4λ}+ 4λ

z(λ) = funcao convexa, linear por partes

Page 59: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

λ

y

1

1415

28 •

••

(10/3, 44/3) (7/2, 29/2)

(4, 16)

y = z(λ)

λ (0, 10/3) (10/3, 7/2) (7/2, 4) (4,∞)

y∗ (1, 1, 1) (0, 1, 1) (0, 1, 0) (0, 0, 0)

Page 60: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

λk+1 = max{λk − µk(4− 3y∗1 − y∗2 − 4y∗3 ), 0}

µk = µoρk , com λ0 = 0, µ0 = 1 e ρ = 1/2

k λ µ

0 0 11 max{0− 1(4− 3− 1− 4), 0} = 4 1/22 max{4− 1

2 (4− 0− 1− 0), 0} = 2 12 1/4

3 max{52 −

14 (4− 3− 1− 4), 0} = 3 1

2 1/8

4 max{72 −

18 (4− 0− 1− 4), 0} = 3 5

8 1/16

5 max{298 −

116 (4− 0− 1− 0), 0} = 3 7

16 1/32

6 max{5516 −

132 (4− 0− 1− 4), 0} = 3 15

32 1/64

7 max{11132 −

164 (4− 0− 1− 4), 0} = 3 31

64 1/128

8 max{22364 −

1128 (4− 0− 1− 4), 0} = 3 63

128 1/256

Page 61: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

λk+1 = max{λk − µk(4− 3y∗1 − y∗2 − 4y∗3 ), 0}

µk = µoρk , com λ0 = 0, µ0 = 1 e ρ = 1/2

k λ µ

0 0 11 max{0− 1(4− 3− 1− 4), 0} = 4 1/22 max{4− 1

2 (4− 0− 1− 0), 0} = 2 12 1/4

3 max{52 −

14 (4− 3− 1− 4), 0} = 3 1

2 1/8

4 max{72 −

18 (4− 0− 1− 4), 0} = 3 5

8 1/16

5 max{298 −

116 (4− 0− 1− 0), 0} = 3 7

16 1/32

6 max{5516 −

132 (4− 0− 1− 4), 0} = 3 15

32 1/64

7 max{11132 −

164 (4− 0− 1− 4), 0} = 3 31

64 1/128

8 max{22364 −

1128 (4− 0− 1− 4), 0} = 3 63

128 1/256

Page 62: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

λk+1 = max{λk − µk(4− 3y∗1 − y∗2 − 4y∗3 ), 0}

µk = µoρk , com λ0 = 0, µ0 = 1 e ρ = 1/2

k λ µ

0 0 1

1 max{0− 1(4− 3− 1− 4), 0} = 4 1/22 max{4− 1

2 (4− 0− 1− 0), 0} = 2 12 1/4

3 max{52 −

14 (4− 3− 1− 4), 0} = 3 1

2 1/8

4 max{72 −

18 (4− 0− 1− 4), 0} = 3 5

8 1/16

5 max{298 −

116 (4− 0− 1− 0), 0} = 3 7

16 1/32

6 max{5516 −

132 (4− 0− 1− 4), 0} = 3 15

32 1/64

7 max{11132 −

164 (4− 0− 1− 4), 0} = 3 31

64 1/128

8 max{22364 −

1128 (4− 0− 1− 4), 0} = 3 63

128 1/256

Page 63: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

λk+1 = max{λk − µk(4− 3y∗1 − y∗2 − 4y∗3 ), 0}

µk = µoρk , com λ0 = 0, µ0 = 1 e ρ = 1/2

k λ µ

0 0 11 max{0− 1(4− 3− 1− 4), 0} = 4 1/2

2 max{4− 12 (4− 0− 1− 0), 0} = 2 1

2 1/4

3 max{52 −

14 (4− 3− 1− 4), 0} = 3 1

2 1/8

4 max{72 −

18 (4− 0− 1− 4), 0} = 3 5

8 1/16

5 max{298 −

116 (4− 0− 1− 0), 0} = 3 7

16 1/32

6 max{5516 −

132 (4− 0− 1− 4), 0} = 3 15

32 1/64

7 max{11132 −

164 (4− 0− 1− 4), 0} = 3 31

64 1/128

8 max{22364 −

1128 (4− 0− 1− 4), 0} = 3 63

128 1/256

Page 64: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

λk+1 = max{λk − µk(4− 3y∗1 − y∗2 − 4y∗3 ), 0}

µk = µoρk , com λ0 = 0, µ0 = 1 e ρ = 1/2

k λ µ

0 0 11 max{0− 1(4− 3− 1− 4), 0} = 4 1/22 max{4− 1

2 (4− 0− 1− 0), 0} = 2 12 1/4

3 max{52 −

14 (4− 3− 1− 4), 0} = 3 1

2 1/8

4 max{72 −

18 (4− 0− 1− 4), 0} = 3 5

8 1/16

5 max{298 −

116 (4− 0− 1− 0), 0} = 3 7

16 1/32

6 max{5516 −

132 (4− 0− 1− 4), 0} = 3 15

32 1/64

7 max{11132 −

164 (4− 0− 1− 4), 0} = 3 31

64 1/128

8 max{22364 −

1128 (4− 0− 1− 4), 0} = 3 63

128 1/256

Page 65: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

λk+1 = max{λk − µk(4− 3y∗1 − y∗2 − 4y∗3 ), 0}

µk = µoρk , com λ0 = 0, µ0 = 1 e ρ = 1/2

k λ µ

0 0 11 max{0− 1(4− 3− 1− 4), 0} = 4 1/22 max{4− 1

2 (4− 0− 1− 0), 0} = 2 12 1/4

3 max{52 −

14 (4− 3− 1− 4), 0} = 3 1

2 1/8

4 max{72 −

18 (4− 0− 1− 4), 0} = 3 5

8 1/16

5 max{298 −

116 (4− 0− 1− 0), 0} = 3 7

16 1/32

6 max{5516 −

132 (4− 0− 1− 4), 0} = 3 15

32 1/64

7 max{11132 −

164 (4− 0− 1− 4), 0} = 3 31

64 1/128

8 max{22364 −

1128 (4− 0− 1− 4), 0} = 3 63

128 1/256

Page 66: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

λk+1 = max{λk − µk(4− 3y∗1 − y∗2 − 4y∗3 ), 0}

µk = µoρk , com λ0 = 0, µ0 = 1 e ρ = 1/2

k λ µ

0 0 11 max{0− 1(4− 3− 1− 4), 0} = 4 1/22 max{4− 1

2 (4− 0− 1− 0), 0} = 2 12 1/4

3 max{52 −

14 (4− 3− 1− 4), 0} = 3 1

2 1/8

4 max{72 −

18 (4− 0− 1− 4), 0} = 3 5

8 1/16

5 max{298 −

116 (4− 0− 1− 0), 0} = 3 7

16 1/32

6 max{5516 −

132 (4− 0− 1− 4), 0} = 3 15

32 1/64

7 max{11132 −

164 (4− 0− 1− 4), 0} = 3 31

64 1/128

8 max{22364 −

1128 (4− 0− 1− 4), 0} = 3 63

128 1/256

Page 67: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

λk+1 = max{λk − µk(4− 3y∗1 − y∗2 − 4y∗3 ), 0}

µk = µoρk , com λ0 = 0, µ0 = 1 e ρ = 1/2

k λ µ

0 0 11 max{0− 1(4− 3− 1− 4), 0} = 4 1/22 max{4− 1

2 (4− 0− 1− 0), 0} = 2 12 1/4

3 max{52 −

14 (4− 3− 1− 4), 0} = 3 1

2 1/8

4 max{72 −

18 (4− 0− 1− 4), 0} = 3 5

8 1/16

5 max{298 −

116 (4− 0− 1− 0), 0} = 3 7

16 1/32

6 max{5516 −

132 (4− 0− 1− 4), 0} = 3 15

32 1/64

7 max{11132 −

164 (4− 0− 1− 4), 0} = 3 31

64 1/128

8 max{22364 −

1128 (4− 0− 1− 4), 0} = 3 63

128 1/256

Page 68: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

λk+1 = max{λk − µk(4− 3y∗1 − y∗2 − 4y∗3 ), 0}

µk = µoρk , com λ0 = 0, µ0 = 1 e ρ = 1/2

k λ µ

0 0 11 max{0− 1(4− 3− 1− 4), 0} = 4 1/22 max{4− 1

2 (4− 0− 1− 0), 0} = 2 12 1/4

3 max{52 −

14 (4− 3− 1− 4), 0} = 3 1

2 1/8

4 max{72 −

18 (4− 0− 1− 4), 0} = 3 5

8 1/16

5 max{298 −

116 (4− 0− 1− 0), 0} = 3 7

16 1/32

6 max{5516 −

132 (4− 0− 1− 4), 0} = 3 15

32 1/64

7 max{11132 −

164 (4− 0− 1− 4), 0} = 3 31

64 1/128

8 max{22364 −

1128 (4− 0− 1− 4), 0} = 3 63

128 1/256

Page 69: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

λk+1 = max{λk − µk(4− 3y∗1 − y∗2 − 4y∗3 ), 0}

µk = µoρk , com λ0 = 0, µ0 = 1 e ρ = 1/2

k λ µ

0 0 11 max{0− 1(4− 3− 1− 4), 0} = 4 1/22 max{4− 1

2 (4− 0− 1− 0), 0} = 2 12 1/4

3 max{52 −

14 (4− 3− 1− 4), 0} = 3 1

2 1/8

4 max{72 −

18 (4− 0− 1− 4), 0} = 3 5

8 1/16

5 max{298 −

116 (4− 0− 1− 0), 0} = 3 7

16 1/32

6 max{5516 −

132 (4− 0− 1− 4), 0} = 3 15

32 1/64

7 max{11132 −

164 (4− 0− 1− 4), 0} = 3 31

64 1/128

8 max{22364 −

1128 (4− 0− 1− 4), 0} = 3 63

128 1/256

Page 70: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

λk+1 = max{λk − µk(4− 3y∗1 − y∗2 − 4y∗3 ), 0}

µk = µoρk , com λ0 = 0, µ0 = 1 e ρ = 1/2

k λ µ

0 0 11 max{0− 1(4− 3− 1− 4), 0} = 4 1/22 max{4− 1

2 (4− 0− 1− 0), 0} = 2 12 1/4

3 max{52 −

14 (4− 3− 1− 4), 0} = 3 1

2 1/8

4 max{72 −

18 (4− 0− 1− 4), 0} = 3 5

8 1/16

5 max{298 −

116 (4− 0− 1− 0), 0} = 3 7

16 1/32

6 max{5516 −

132 (4− 0− 1− 4), 0} = 3 15

32 1/64

7 max{11132 −

164 (4− 0− 1− 4), 0} = 3 31

64 1/128

8 max{22364 −

1128 (4− 0− 1− 4), 0} = 3 63

128 1/256

Page 71: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

Embora λ3 = 7/2 = λ∗, o subgradiente

(b − Ay∗(λ3)) = 4− 0− 1− 4 6= 0

⇒ otimalidade nao e detectada

Inducao ⇒ λk = 3 + 716 + 1

32

k−6∑i=0

(1

2

)i

, para k ≥ 6

Logo

λk −→k →∞

3 +7

16+

2

32=

7

2

Page 72: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

Embora λ3 = 7/2 = λ∗, o subgradiente

(b − Ay∗(λ3)) = 4− 0− 1− 4 6= 0

⇒ otimalidade nao e detectada

Inducao ⇒ λk = 3 + 716 + 1

32

k−6∑i=0

(1

2

)i

, para k ≥ 6

Logo

λk −→k →∞

3 +7

16+

2

32=

7

2

Page 73: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

Embora λ3 = 7/2 = λ∗, o subgradiente

(b − Ay∗(λ3)) = 4− 0− 1− 4 6= 0

⇒ otimalidade nao e detectada

Inducao ⇒ λk = 3 + 716 + 1

32

k−6∑i=0

(1

2

)i

, para k ≥ 6

Logo

λk −→k →∞

3 +7

16+

2

32=

7

2

Page 74: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

Embora λ3 = 7/2 = λ∗, o subgradiente

(b − Ay∗(λ3)) = 4− 0− 1− 4 6= 0

⇒ otimalidade nao e detectada

Inducao ⇒ λk = 3 + 716 + 1

32

k−6∑i=0

(1

2

)i

, para k ≥ 6

Logo

λk −→k →∞

3 +7

16+

2

32=

7

2

Page 75: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

Problema simetrico do caixeiro viajante (Held & Karp)

(PI ) min∑

e∈E cexe

s.a∑

e∈δ(i) xe = 2 ∀i ∈ V∑e∈E(S) xe ≤ |S | − 1 ∀2 ≤ |S | ≤ |V | − 1

xj ∈ {0, 1} ∀j

Dualizando restricoes de dupla incidencia no no i , para i 6= 1

(PRλ) min∑

e∈E (ce − λi − λj)xe + 2∑

i∈V λi

s.a∑

e∈δ(1) xe = 2∑e∈E(S) xe ≤ |S | − 1 ∀2 ≤ |S | ≤ |V | − 1, 1 /∈ S∑e∈E xe = n

xj ∈ {0, 1} ∀j

Solucao de (PRλ) e 1-arvore

Page 76: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

Problema simetrico do caixeiro viajante (Held & Karp)

(PI ) min∑

e∈E cexe

s.a∑

e∈δ(i) xe = 2 ∀i ∈ V∑e∈E(S) xe ≤ |S | − 1 ∀2 ≤ |S | ≤ |V | − 1

xj ∈ {0, 1} ∀j

Dualizando restricoes de dupla incidencia no no i , para i 6= 1

(PRλ) min∑

e∈E (ce − λi − λj)xe + 2∑

i∈V λi

s.a∑

e∈δ(1) xe = 2∑e∈E(S) xe ≤ |S | − 1 ∀2 ≤ |S | ≤ |V | − 1, 1 /∈ S∑e∈E xe = n

xj ∈ {0, 1} ∀j

Solucao de (PRλ) e 1-arvore

Page 77: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

Problema simetrico do caixeiro viajante (Held & Karp)

(PI ) min∑

e∈E cexe

s.a∑

e∈δ(i) xe = 2 ∀i ∈ V∑e∈E(S) xe ≤ |S | − 1 ∀2 ≤ |S | ≤ |V | − 1

xj ∈ {0, 1} ∀j

Dualizando restricoes de dupla incidencia no no i , para i 6= 1

(PRλ) min∑

e∈E (ce − λi − λj)xe + 2∑

i∈V λi

s.a∑

e∈δ(1) xe = 2∑e∈E(S) xe ≤ |S | − 1 ∀2 ≤ |S | ≤ |V | − 1, 1 /∈ S∑e∈E xe = n

xj ∈ {0, 1} ∀j

Solucao de (PRλ) e 1-arvore

Page 78: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

Grafo completo com 5 nos. Matriz de custos

(ce) =

30 26 50 40

24 40 5024 26

30

Se λ = (0, 0,−15, 0, 0) e ce = ce − λiλj

(ce) =

30 42 50 40

39 40 5039 41

30

Page 79: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

Grafo completo com 5 nos. Matriz de custos

(ce) =

30 26 50 40

24 40 5024 26

30

Se λ = (0, 0,−15, 0, 0) e ce = ce − λiλj

(ce) =

30 42 50 40

39 40 5039 41

30

Page 80: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

1-arvore e solucao otima

1 2

3

4

5

30

39

3930

40

Page 81: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont.

1-arvore e solucao otima

1 2

3

4

5

30

39

3930

40

Page 82: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

Decomposicao lagrangiana

min cxs.a Ax ≥ b

Bx ≥ dxj ∈ Z ∀j

Introduzindo copias das variaveis

min cxs.a Ax ≥ b

y = xBy ≥ dxj , yj ∈ Z ∀j

Page 83: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

Decomposicao lagrangiana

min cxs.a Ax ≥ b

Bx ≥ dxj ∈ Z ∀j

Introduzindo copias das variaveis

min cxs.a Ax ≥ b

y = xBy ≥ dxj , yj ∈ Z ∀j

Page 84: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

Dualizando as igualdades

min cx + λ(x − y)s.a Ax ≥ b

By ≥ dxj , yj ∈ Z ∀j

Problema pode ser decomposto

min (c + λ)xs.a Ax ≥ b

xj ∈ Z ∀je

min −λys.a By ≥ d

yj ∈ Z ∀j

Page 85: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo — cont

Dualizando as igualdades

min cx + λ(x − y)s.a Ax ≥ b

By ≥ dxj , yj ∈ Z ∀j

Problema pode ser decomposto

min (c + λ)xs.a Ax ≥ b

xj ∈ Z ∀je

min −λys.a By ≥ d

yj ∈ Z ∀j

Page 86: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

Melhorando o problema relaxadoProblema de cobertura

(PI ) min cxs.a Ax ≥ 1

xj ∈ {0, 1} ∀j

Se A e m× n, 1 ≤∑

j xj ≤ m e redundante para (PI ), mas naopara (PRλ)Introduzindo esta restricao temos cota melhor

(PRλ) min (c − λA)x +∑

i λi= Cx +∑

i λi

s.a 1 ≤∑

j xj ≤ m

xj ∈ {0, 1} ∀j

Page 87: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

Melhorando o problema relaxadoProblema de cobertura

(PI ) min cxs.a Ax ≥ 1

xj ∈ {0, 1} ∀j

Se A e m× n, 1 ≤∑

j xj ≤ m e redundante para (PI ), mas naopara (PRλ)

Introduzindo esta restricao temos cota melhor

(PRλ) min (c − λA)x +∑

i λi= Cx +∑

i λi

s.a 1 ≤∑

j xj ≤ m

xj ∈ {0, 1} ∀j

Page 88: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

Melhorando o problema relaxadoProblema de cobertura

(PI ) min cxs.a Ax ≥ 1

xj ∈ {0, 1} ∀j

Se A e m× n, 1 ≤∑

j xj ≤ m e redundante para (PI ), mas naopara (PRλ)Introduzindo esta restricao temos cota melhor

(PRλ) min (c − λA)x +∑

i λi= Cx +∑

i λi

s.a 1 ≤∑

j xj ≤ m

xj ∈ {0, 1} ∀j

Page 89: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Heurıstica lagrangiana

x∗(λ) x , solucao viavel para (PI )(fornece cota superior para zPI )

Exemplo: problema de cobertura

• S = {j | x∗j (λ) = 1}• N = {i | Ai.x∗ = 0}• Para i ∈ N

Seja j ∈ argmin{cj | aij = 1}Faca S ← S ∪ {j}

Page 90: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Heurıstica lagrangiana

x∗(λ) x , solucao viavel para (PI )(fornece cota superior para zPI )

Exemplo: problema de cobertura

• S = {j | x∗j (λ) = 1}• N = {i | Ai.x∗ = 0}• Para i ∈ N

Seja j ∈ argmin{cj | aij = 1}Faca S ← S ∪ {j}

Page 91: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

(cj) = (2, 3, 4, 5)

A =

1 0 1 01 0 0 10 1 1 1

λ = (1.5, 1.6, 2.2)

x∗(λ) = (1, 0, 0, 0)

Aplicando o procedimento:S = {1}, N = {3} e j = 2⇒ x = (1, 1, 0, 0) (solucao otima!)

Page 92: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

(cj) = (2, 3, 4, 5)

A =

1 0 1 01 0 0 10 1 1 1

λ = (1.5, 1.6, 2.2)

x∗(λ) = (1, 0, 0, 0)

Aplicando o procedimento:S = {1}, N = {3} e j = 2⇒ x = (1, 1, 0, 0) (solucao otima!)

Page 93: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

(cj) = (2, 3, 4, 5)

A =

1 0 1 01 0 0 10 1 1 1

λ = (1.5, 1.6, 2.2)

x∗(λ) = (1, 0, 0, 0)

Aplicando o procedimento:S = {1}, N = {3} e j = 2⇒ x = (1, 1, 0, 0) (solucao otima!)

Page 94: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

(cj) = (2, 3, 4, 5)

A =

1 0 1 01 0 0 10 1 1 1

λ = (1.5, 1.6, 2.2)

x∗(λ) = (1, 0, 0, 0)

Aplicando o procedimento:S = {1}, N = {3} e j = 2⇒ x = (1, 1, 0, 0) (solucao otima!)

Page 95: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Exemplo

(cj) = (2, 3, 4, 5)

A =

1 0 1 01 0 0 10 1 1 1

λ = (1.5, 1.6, 2.2)

x∗(λ) = (1, 0, 0, 0)

Aplicando o procedimento:S = {1}, N = {3} e j = 2⇒ x = (1, 1, 0, 0) (solucao otima!)

Page 96: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Reducao do problema

Dimensao reduzida via fixacao de variaveis

Exemplo: problema de cobertura

• x∗ = x∗(λ) inviavel

• xH = x∗ + y viavel, y obtido com algoritmo guloso, comona heurıstica lagrangiana

• N1 = {j | cj −∑

i λiaij > 0}N0 = {j | cj −

∑i λiaij < 0} ⊆ {j | x∗j = 1}

• z = melhor cota superior conhecida (valor de melhorsolucao viavel conhecida)

Page 97: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Reducao do problema

Dimensao reduzida via fixacao de variaveis

Exemplo: problema de cobertura

• x∗ = x∗(λ) inviavel

• xH = x∗ + y viavel, y obtido com algoritmo guloso, comona heurıstica lagrangiana

• N1 = {j | cj −∑

i λiaij > 0}N0 = {j | cj −

∑i λiaij < 0} ⊆ {j | x∗j = 1}

• z = melhor cota superior conhecida (valor de melhorsolucao viavel conhecida)

Page 98: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Reducao do problema

Dimensao reduzida via fixacao de variaveis

Exemplo: problema de cobertura

• x∗ = x∗(λ) inviavel

• xH = x∗ + y viavel, y obtido com algoritmo guloso, comona heurıstica lagrangiana

• N1 = {j | cj −∑

i λiaij > 0}N0 = {j | cj −

∑i λiaij < 0} ⊆ {j | x∗j = 1}

• z = melhor cota superior conhecida (valor de melhorsolucao viavel conhecida)

Page 99: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Reducao do problema

Dimensao reduzida via fixacao de variaveis

Exemplo: problema de cobertura

• x∗ = x∗(λ) inviavel

• xH = x∗ + y viavel, y obtido com algoritmo guloso, comona heurıstica lagrangiana

• N1 = {j | cj −∑

i λiaij > 0}N0 = {j | cj −

∑i λiaij < 0} ⊆ {j | x∗j = 1}

• z = melhor cota superior conhecida (valor de melhorsolucao viavel conhecida)

Page 100: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Proposicao (Wolsey, p. 178)Se k ∈ N1 e∑

i

λi +∑j∈N0

(cj −∑

i

λiaij) + (ck −∑

i

λiaik) ≥ z

entao xk = 0 em qualquer solucao viavel melhor do que a atualcandidata.Se k ∈ N0 e∑

i

λi +∑

j∈N0\k

(cj −∑

i

λiaij) + (ck −∑

i

λiaik) ≥ z

entao xk = 1 em qualquer solucao viavel melhor do que a atualcandidata.

Page 101: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Aplicacoes

Line segmentation problem

Problema de designacao generalizado

Problema de localizacao com capacidades

Problema de entregas

Problema do caixeiro viajante assimetrico generalizado

Problema do particionamento de operacoes

Problema de cobertura com capacidade

Problema de designacao multi-recurso

Problema de designacao com restricoes adicionais

Problema de distribuicao

Page 102: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Aplicacoes

Line segmentation problem

Problema de designacao generalizado

Problema de localizacao com capacidades

Problema de entregas

Problema do caixeiro viajante assimetrico generalizado

Problema do particionamento de operacoes

Problema de cobertura com capacidade

Problema de designacao multi-recurso

Problema de designacao com restricoes adicionais

Problema de distribuicao

Page 103: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Aplicacoes

Line segmentation problem

Problema de designacao generalizado

Problema de localizacao com capacidades

Problema de entregas

Problema do caixeiro viajante assimetrico generalizado

Problema do particionamento de operacoes

Problema de cobertura com capacidade

Problema de designacao multi-recurso

Problema de designacao com restricoes adicionais

Problema de distribuicao

Page 104: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Aplicacoes

Line segmentation problem

Problema de designacao generalizado

Problema de localizacao com capacidades

Problema de entregas

Problema do caixeiro viajante assimetrico generalizado

Problema do particionamento de operacoes

Problema de cobertura com capacidade

Problema de designacao multi-recurso

Problema de designacao com restricoes adicionais

Problema de distribuicao

Page 105: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Aplicacoes

Line segmentation problem

Problema de designacao generalizado

Problema de localizacao com capacidades

Problema de entregas

Problema do caixeiro viajante assimetrico generalizado

Problema do particionamento de operacoes

Problema de cobertura com capacidade

Problema de designacao multi-recurso

Problema de designacao com restricoes adicionais

Problema de distribuicao

Page 106: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Aplicacoes

Line segmentation problem

Problema de designacao generalizado

Problema de localizacao com capacidades

Problema de entregas

Problema do caixeiro viajante assimetrico generalizado

Problema do particionamento de operacoes

Problema de cobertura com capacidade

Problema de designacao multi-recurso

Problema de designacao com restricoes adicionais

Problema de distribuicao

Page 107: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Aplicacoes

Line segmentation problem

Problema de designacao generalizado

Problema de localizacao com capacidades

Problema de entregas

Problema do caixeiro viajante assimetrico generalizado

Problema do particionamento de operacoes

Problema de cobertura com capacidade

Problema de designacao multi-recurso

Problema de designacao com restricoes adicionais

Problema de distribuicao

Page 108: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Aplicacoes

Line segmentation problem

Problema de designacao generalizado

Problema de localizacao com capacidades

Problema de entregas

Problema do caixeiro viajante assimetrico generalizado

Problema do particionamento de operacoes

Problema de cobertura com capacidade

Problema de designacao multi-recurso

Problema de designacao com restricoes adicionais

Problema de distribuicao

Page 109: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Aplicacoes

Line segmentation problem

Problema de designacao generalizado

Problema de localizacao com capacidades

Problema de entregas

Problema do caixeiro viajante assimetrico generalizado

Problema do particionamento de operacoes

Problema de cobertura com capacidade

Problema de designacao multi-recurso

Problema de designacao com restricoes adicionais

Problema de distribuicao

Page 110: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Aplicacoes

Line segmentation problem

Problema de designacao generalizado

Problema de localizacao com capacidades

Problema de entregas

Problema do caixeiro viajante assimetrico generalizado

Problema do particionamento de operacoes

Problema de cobertura com capacidade

Problema de designacao multi-recurso

Problema de designacao com restricoes adicionais

Problema de distribuicao

Page 111: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Referencias

J.E. Beasley, Lagrangean relaxation, in Modern Heuristic Tech-niques for Combinatorial Problems, C. Reeves (ed.), BlackwellScientific Publishing (1993) 143–303.

M. Held, R.M. Karp, The traveling salesman problem and mini-mum spanning trees, Operations Research 18 (1970), 1138–1162.

M. Held, R.M. Karp, The traveling salesman problem and mini-mum spanning trees: part II, Mathematical Programming 1(1971), 6–25.

G.L. Nemhauser, L.A. Wolsey, Integer and Combinatorial Opti-mization, Wiley, New York, 1988.

Page 112: Relaxação Lagrangeana

RelaxacaoLagrangiana

M.P. Mello

Roteiro

Contexto

Teoria

Aspectospraticos

Heurısticalagrangiana

Reducao doproblema

Aplicacoes

Referencias

Referencias — cont.

L.A. Wolsey, Integer Programming, Wiley, New York, 1998.