24/04/2015

Mtodos de Optimizacin
Ingeniera Civil
Apuntes 4

Programacin No Lineal

Mtodo de Lagrange y
condiciones de Kuhn-Tucker

Mnica Woywood Y.
Juan Carrasco M.
Especialidad Transporte
SEGUNDO SEMESTRE 2015
UdeC DIC / mwy

Mtodos de Optimizacin

3.Programacin No Lineal.

1. Introduccin

Contenido

Se tiene una funcin f cualquiera, sin restricciones, f(x)

Introduccin
Caso bidimensional con restricciones
funcionales
Interpretacin multiplicador de Lagrange
Caso general, muchas restricciones
Restricciones de no negatividad
Condiciones de Kuhn-Tucker
Aspectos bsicos de la teora dual
UdeC - DIC /mwy

Mtodos de Optimizacin

3.Programacin No Lineal.

ptimo se obtiene:

condicin necesaria de primer orden

max, min => f (x*) = 0

condicin necesaria de segundo orden

max
=> f (x*) < 0
min
=> f (x*) > 0
inflexin
=> f (x*) = 0
Matrices de Jacobiano - Hessiano

UdeC - DIC /mwy

Mtodos de Optimizacin

3.Programacin No Lineal.

24/04/2015

2. Caso bidimensional con restricciones funcionales

Max f(x1, x2)
s.a g(x1, x2) = a

L = L(f, g, )

Condiciones necesarias de primer orden?

Considerar el siguiente problema no restringido:
L (x1, x2, ) = f (x1, x2) + ( a - g(x1, x2) )
Aplicar a este L las condiciones de primer orden:
L/x1
L/x2
L/
UdeC - DIC /mwy

Mtodos de Optimizacin

3.Programacin No Lineal.

3. Interpretacin del multiplicador de Lagrange.

- Supongamos que se ha resuelto el problema. solucin.
- Reescribir L en trminos del parmetro a, para ello, sea:
x1* = x1 (a)
x2* = x2 (a)
= (a)
El Lagrangiano en trminos de este parmetro a ser:
L (a) = f (x1 (a) , x2 (a) ) + (a) [ a g (x1 (a) , x2 (a) ) ]

= 0
= 0

L/ =

= 0

a - g(x1, x2)

Mtodo de Lagrange
Funcin de Lagrange o lagrangiano L
Multiplicador de Lagrange
Notar que en el ptimo:
L (x1, x2, )opt f (x1, x2)opt
UdeC - DIC /mwy

Mtodos de Optimizacin

3.Programacin No Lineal.

3. Interpretacin del multiplicador de Lagrange.

L/ a = f /x1 x1/a + f /x2 x2/a
+ (a - g (x1 (a), x2 (a)) ) /a + (a)
- g /x1 x1/a - g /x2 x2/a

L/ a = ( f /x1 - g /x1 ) x1/a

+ ( f /x2 - g /x2 ) x2/a
+ ( a - g (x1 (a), x2 (a)) ) /a + (a)

=>

L/ a = f /x1 x1/a + f /x2 x2/a

+ /a (a - g (x1 (a), x2 (a)) ) + (a)
- g /x1 x1/a - g /x2 x2/a
Mtodos de Optimizacin

Condiciones de primer orden:

L/x1 = f /x1 - g /x1
L/x2 = f /x2 - g /x2

luego, en el ptimo se cumple que:

si se deriva c/r a a, se tiene:

UdeC - DIC /mwy

2. Caso bidimensional con restricciones funcionales

3.Programacin No Lineal.

L/ a ptimo = (a)
L/ a ptimo = f /a ptimo = (a)

mide la sensibilidad del valor del ptimo

frente a variaciones en el parmetro a (recursos).

24/04/2015

4. Caso General: muchas restricciones.

3. Interpretacin del multiplicador de Lagrange.

Si a vara en a => se puede estimar el cambio en la
F.O. como:
f a
Si a representa un cierto recurso, puede entenderse
como el precio de ese recurso,
precio sombra del recurso a.
representa la disponibilidad a pagar ante la escasez del
recurso, en el ptimo.
Dimensiones de = f /a
= ($/HH, $/u, libros/m2, etc.)
UdeC - DIC /mwy

Mtodos de Optimizacin

Max f (x1, x2, ... xn)

s.a
g1 (x1, x2, ... xn) = a1
g2 (x1, x2, ... xn) = a2

1
2

gm (x1, x2, ... xn) = am

Max L (xi, j) = f (x1, x2, ... xn) + j (aj gj (x1, x2, ... xn) )
Condiciones de primer orden:
L/xi = f/xi - j g/xi = 0 i = 1,2,...n
L/j = aj - gj (x1, x2, xn ) = 0 j = 1,2,...m
As se tiene un sistema de n+m ecuaciones, n+m incgnitas.

3.Programacin No Lineal.

UdeC - DIC /mwy

Max f(x)
s.a x 0
Se pueden distinguir 3 situaciones diferentes para
encontrar un punto mximo.

UdeC - DIC /mwy

Mtodos de Optimizacin

3.Programacin No Lineal.

i)

x* > 0 , es interior al conjunto factible X = { x / x 0 }

En este caso debe cumplirse que:
f (x*) = 0

ii)

x* = 0 y est en el borde de X = { x / x 0 }
Se observa que debe cumplirse:
f (x*) < 0

f(x)

Mtodos de Optimizacin

5. Restricciones de no negatividad.

Problema de una dimensin, funcin f cualquiera:

f(x)

Se transforma en el problema no restringido:

5. Restricciones de no negatividad.

f(x)

3.Programacin No Lineal.

iii) En este caso: x* = 0

UdeC - DIC /mwy

y adems,

Mtodos de Optimizacin

f (x*) = 0.

3.Programacin No Lineal.

24/04/2015

5. Restricciones de no negatividad
Resumiendo, las condiciones de primer orden se puede caracterizar:
f (x*) = 0,

si x* > 0

(x* es interior de X)

f (x*) 0,

si x* = 0

(x* en un borde de X)

es decir:

f (x*) 0
x * f (x*) = 0

2. 6. Condiciones de Kuhn Tucker

Modelo general
Max f(x)
s.a g(x) b
x 0

Se transforman las restricciones en igualdades, agregando v. de holguras, y.

g(x) + y = b
con y 0

Si se tiene un mximo local, debe necesariamente satisfacerse las siguientes

condiciones:

Se tiene:
Max f(x)
s.a g(x) + y = b
x 0, y 0

f (x*) /x 0
x * f (x*) /x = 0
x* 0
UdeC - DIC /mwy

Mtodos de Optimizacin

Aplicar el Lagrangeano.
3.Programacin No Lineal.

UdeC - DIC /mwy

Explicitando:

Si no se consideran las restricciones de no negatividad,

simplemente:

L/x = f/x - g/x 0

x L/x = ( f/x - g/x ) x = 0
x0

L = f(x) + ( b - g(x) y )
L/x = 0
L/y = 0
L/ = 0

L/y = - 0
y L/y = - y = 0
y 0

Pero las restricciones de no negatividad existen, tanto para

x, como para y:
L /x 0

UdeC - DIC /mwy

3.Programacin No Lineal.

2. 6. Condiciones de Kuhn Tucker

2. 6. Condiciones de Kuhn Tucker

x L /x = 0
x 0

Mtodos de Optimizacin

L /y 0
y L /y = 0
y 0
Mtodos de Optimizacin

L/ = 0

3.Programacin No Lineal.

L/ = b g(x) y = 0
Dado que y no est en el problema original, se debe eliminar y.
Recordar y reemplazar: y = b - g(x).
UdeC - DIC /mwy

Mtodos de Optimizacin

3.Programacin No Lineal.

24/04/2015

2. 6. Condiciones de Kuhn Tucker

Interpretacin adicional de las condiciones de KT

Max f(x)
s.a g(x) b
x0

L/x = f/x - g/x 0

x L/x = ( f/x - g/x ) x = 0
x0
L/y = - 0
y L/y = - y = 0
y 0

0
(b g(x)) = 0
b g(x) 0

L/ = b g(x) y = 0

0 = 0

L(x, ) = f(x) + (b g(x) )

s.a x 0

a) L/x 0
b) x L/x = 0
c) x 0

d) L/ 0
e) L/ = 0
f) 0

Para la solucin ptima se tiene:

L/x 0 ; x L/x = 0 ; x 0
L/ 0 ; L/ = 0 ; 0
UdeC - DIC /mwy

Condiciones de
Kuhn-Tucker

Mtodos de Optimizacin

3.Programacin No Lineal.

Aspectos bsicos de la Teora de Dualidad en PL.

Asociado a todo problema de PL existe otro PPL, conocido como PD.

Luego se puede observar que en el ptimo siempre se cumple:

gj (x*) bj
pero es gj (x*) = bj , si j* > 0
restriccin activa
j * 0
pero es j * = 0, si gj (x*) < bj
restriccin inactiva
complementariedad de las holguras
UdeC - DIC /mwy

Mtodos de Optimizacin

3.Programacin No Lineal.

Aspectos bsicos de la Teora de Dualidad en PL

Se considerarn dos sets de oportunidades:
X = { x / Ax b, x 0 }
= { / A c, 0 }

Condiciones de KT al problema de:

Max cx
s.a Ax b
x 0

Si x X y , entonces, de las condiciones de KT se tiene que:

c-A 0

y el Lagrangiano asociado a l es: L = c x + ( b A x )

a) L/x = c - A 0
b) x L/x = x ( c - A ) = 0
c) x 0

cx Ax b

b Ax

cx b

y las condiciones de KT sern:

En especial, en el ptimo:
d)
e)
f)

L/ = b A x 0
L/ = ( b Ax ) = 0
0

Para que la solucin sea ptima, es necesario y suficiente que exista al menos
un tal que junto a esta solucin satisfaga las condiciones de KT.
Si el problema de PL tiene solucin, debe existir.
UdeC - DIC /mwy

L ( x* , * ) = f ( x* )
* (b g(x*)) = 0

ya que en el ptimo:
Analizar: L = f(x) + (b g(x) )
s.a x 0
Por lo tanto:

b g(x) 0
(b g(x)) = 0

Mtodos de Optimizacin

Max cx = c x* b

Por lo tanto, en particular tambin debe cumplirse:

c x* Min b
Pero si el ptimo existe, * existe Min b = * b
Luego:

3.Programacin No Lineal.

, y x X.

UdeC - DIC /mwy

Max c x = c x* = * b = Min b
Mtodos de Optimizacin

3.Programacin No Lineal.

24/04/2015

Aspectos bsicos de la Teora de Dualidad en PL

Problema Primitivo PP
Max cx
s.a Ax b
x0

el Problema Dual PD:

es equivalente a

Min b
s.a A c
0

Las relaciones de KT para ambos problemas son idnticas (demostrarlo!)

Tabla de transformacin
Primo (max)
restriccin i b
restriccin i b
restriccin i = b
variable j 0
variable j 0
variable j irrestricta
UdeC - DIC /mwy

Dual (min)
variable i 0
variable i 0
variable i irrestricta
restriccin j c
restriccin j c
restriccin j = c
Mtodos de Optimizacin

3.Programacin No Lineal.