Programacin No Lineal

Investigacin de Operaciones II
Caso Sin Restricciones

Prof. Jaime Carrasco Barra

Primavera 2015

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Contenido

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Programacin No Lineal
2 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Definicin del problema

Problema a Resolver

min
s.a
(PNL) :

f (x)
f
h(x) = 0
; h
g(x) 0
g
x Rn

: Rn
: Rn
: Rn

R
Rm
Rp+

(1)

f , h, g C1 y/o C2
Conjunto Factible: = {x Rn : h(x) = 0, g(x) 0}
no es un poliedro!!!!!!
Ejemplos
Circunferencia: = {(x1 , x2 ) R2 : x12 + x22 = 1}
Parbola: = {(x1 , x2 ) R2 : x1 (x2 + 1)2 0}

Programacin No Lineal
3 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Definiciones bsicas
x Rn es un mnimo local de (PNL) si x y existe una vecindad
B(x, r) = {x Rn : kx xk < r} tal que:
f (x) f (x), x B(x, r).

(2)

El punto de mnimo es global si la desigualdad (2) se cumple para todo x ,

i.e. r = +.
El punto de mnimo (local o global) se dice mnimo estricto si en (2) la
desigualdad es estricta >, para todo x 6= x.

Caso sin restricciones (h 0, g 0)

luego (PNL) queda expresado:

(P1) :

min

f (x)
x Rn


;

(3)

Programacin No Lineal
4 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Condicin necesaria de 1er orden

Teorema: Si f C1 y x Rn es un punto de mnimo (o de mximo) del
problema (P1 ), entonces:
f (x)
= 0, j = 1, ..., n,
xj

(4)

es decir, todas las derivadas parciales de f se anulan en x.

Recordando la definicin del vector gradiente


f (x) = fx(x1 ) fx(x2 ) fx(xn ) ,
las condiciones (4) se escriben simplemente f (x)T = 0n .

Programacin No Lineal
5 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Condicin necesaria de 2do orden

Teorema: Si f C2 y x Rn es un punto de mnimo del problema (P1 ),
entonces:
1

f (x)T = 0n ,

La matriz Hessiana en x:
2

f (x) =

2 f (x)
xi xj


i,j=1,...,n

es semi-definida positiva, i.e.

d T 2 f (x)d 0, d Rn .

(5)

Nota: Para el caso en que x sea mximo, la matriz Hessiana debe ser
semi-definida negativa, i.e. el signo es en (5).

Programacin No Lineal
6 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Condiciones suficientes de 2do. orden

Teorema: Si f C2 y x Rn es un vector que satisface:
1

f (x)T = 0n ,

La matriz Hessiana 2 f (x) en x es definida positiva, i.e.

d T 2 f (x)d > 0, d Rn , d 6= 0n ,

(6)

entonces x es un mnimo local estricto de (P1 ).

Nota: Si la desigualdad estricta es al revs (<) en (6), decimos que 2 f (x) es
definida negativa y la conclusin sera que x es un mximo local.

Propiedades de la hessiana
Teorema: 2 f (x)
Siempre es simtrica 2 f (x) = (2 f (x))T ,
Tiene valores propios reales.

Programacin No Lineal
7 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Propiedades de la Matriz M
Proposicin:
M es semi-definida positiva(negativa) Todos sus valores propios son
0( 0)
M es definida positiva(negativa) Todos sus valores propios son > 0(< 0)

Ejemplo

8
M= 4
0

4
2
0

0
0
1

valores propios 0, 1, 10 M es semi-definida positiva

Programacin No Lineal
8 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Menores principales
Def: El menor principal de orden k de una n nmatriz M se define como
el determinante de la submatriz de M que se forma de la interseccin de las
primeras k filas y columnas de M.
Los n menores principales de la n nmatriz M se denotan por:
Mk = det([M]i,j=1,2,...,k ),

k = 1, 2, ..., n

Criterio basado en los menores principales

Proposicin: Sea M Rnn :
M0

M0

Mk > 0, k
Mk > 0, k par.
Mk < 0, k impar.

Observacin:
M semidefinida positiva < Mk 0

Programacin No Lineal
9 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Menores diagonales
Def: Los menores diagonales Mqk de la matriz M son los determinantes de
las submatrices de M formadas por la interseccin de las filas y columnas
de ndices {q, q + 1, . . . , q + k 1} (o. sea. La diagonal est formada por k
elementos diagonales consecutivos de M).
Mqk = det([M]i,j=q,q+1,...,q+k1 )
Criterio a travs de los menores diagonales
Prop: Una matriz M es semi-definida positiva si y slo si todos sus menores
diagonales Mjk son no negativos ( 0).
Prop: Una n nmatriz M es semi-definida negativa si y slo si todos sus
menores diagonales Mjk de orden impar son no positivos ( 0) y todos los
menores diagonales de orden par son no negativos ( 0).

Programacin No Lineal
10 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Ejemplo 1

M=

1
2

2
6

Menores principales:
M1 = 1 , M2 = det(M) = 6 4 = 2
Menores diagonales:
M11 = M1 = 1 , M21 = 6 , M12 = M2 = 2

Programacin No Lineal
11 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Ejemplo 2

6
N= 2
3

2
4
5

3
5
1

Menores principales:


 6 2 
 = 24 4 = 20,
N1 = 6 , N2 = 
2 4 
N3 = det(N) = 24 + 30 + 30 36 150 4 = 106
Menores diagonales:
N11 = 6 , N21 = 4 , N31 = 1,

 4
2
2
N1 = N2 = 20 , N2 = 
5

5
1



 = 4 25 = 21,


N13 = N3 = 106
Programacin No Lineal
12 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Ejercicios
1

Determine el signo de las siguientes matrices

1
N= 1
0

1
N= 2
3

1 0
1 2
2 3

2
3
1 0
0
5

Determine los valores de de forma que la matriz

2
N= 1

3
7
1

Sea definida positiva

Programacin No Lineal
13 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Ejemplo 1

1
= 1
M
0

1
1
0

0
0 ,
1

Menores principales:

 1

M1 = 1, M2 = 
1


1 
3 = det(M)
= 0,
= 0, M
1 

Todos los menores principales son no negativos, sin embargo, la matriz no es

semi-definida positiva porque:

1 1 0
0
(0, 0, 1) 1 1 0 0 = 1 < 0.
0 0 1
1

Programacin No Lineal
14 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Ejemplo 1

1
= 1
M
0

1
1
0

0
0 ,
1

Menores diagonales:
11 = 1, M
21 = 1, M
31 = 1,
M


12 =  1
M
 1




1 
22 =  1
=
0,
M

 0
1


0 
= 1,
1 

13 = det(M)
= 0,
M
Conclusin: La matriz no es semi-definida positiva ni tampoco semi-definida
31 y M
22 son estrictamente negativos.
negativa ya que M

Programacin No Lineal
15 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Ejemplo 2 (Utilizando menores diagonales)

2 0 1
= 0 0 0
N
1 0 2
Menores diagonales:
11 = 2, N
21 = 0, N
31 = 2,
N



 2 0 
 0 0
2
2



1 =

N
 0 0  = 0, N2 =  0 2



 = 0,


13 = det(N)
= 0.
N
Conclusin:
es semi-definida positiva porque sus menores diagonales son todos no neN
gativos:

Programacin No Lineal
16 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplo 2 (Utilizando valores propios)

2 0
= 0 0
N
1 0
Polinomio caracterstico:

2
I3 ) = det 0
det(N
1

Ejemplos

Aplicacin de los criterios de Optimalidad

1
0
2

1
0 = (2 )2 + ,
2

Valores propios (races del polinomio caracterstico!): = 0, 1, 3.

es
Conclusin: Todos sus valores propios son no negativos y, por tanto, N
semi-definida positiva.

Programacin No Lineal
17 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Ejercicio 1
Halle los mnimos y mximos locales (si existen) de la funcion:
f1 (x1 , x2 , x3 ) = x32 + x1 x2 + x2 x3 + x1 x3 x3
Condiciones de 1er Orden
Calculamos las derivadas parciales de f1 y las igualamos a cero:
f1
x1
f1
x2
f1
x3

= x2 + x3 = 0,
= x1 + x3 = 0,
= 2x3 + x2 + x1 1 = 0.

Solucin nica: ( 41 , 14 , 14 )
Conclusin:
Este punto es el nico candidato a mnimo o mximo local de f1 .
Programacin No Lineal
18 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Condicin de 2do orden

Calculemos la matriz Hessiana 2 f1 , que es constante en este caso:

0 1 1
H = 2 f1 = 1 0 1
1 1 2
H1 = 0 = 2 f1 no es signo-definida (ni positiva ni negativa).


 0 1 
 = 1
H12 = 
1 0 
H12 = 1 = 2 f1 tampoco es signo semi-definida.
Conclusiones:

T
El punto 41 , 14 , 14 no satisface condiciones necesarias de 2do. orden y por
lo tanto, f1 no tiene ni mnimos ni mximos locales.

Programacin No Lineal
19 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Ejercicio 2
Halle los mnimos y mximos locales (si existen) de la funcion:
f2 (x1 , x2 , x3 ) = 5x12 + x22 + 5x32 + 4x1 x2 8x1 x3 4x2 x3 x2
Condiciones de 1er Orden
Calculamos las derivadas parciales de f2 y las igualamos a cero:
f1
x1
f1
x2
f1
x3

= 10x1 + 4x2 8x3 = 0,

= 2x2 + 4x1 4x3 1 = 0,
= 10x3 8x1 4x2 = 0.

Solucin nica: (1, 92 , 1)

Conclusin:
Este punto es el nico candidato a mnimo o mximo local de f1 .
Programacin No Lineal
20 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Condicin de 2do orden

Calculemos la matriz Hessiana 2 f2 , que es constante en este caso:

10
4 8
2 4 ,
H = 2 f2 = 4
8 4 10

H1


 10 4
= 10, H2 = 
4 2

H3

= det(H) = 200 + 128 + 128 128 160 160 = 8,



 = 20 16 = 4,


La matriz H es definida positiva porque sus menores principales son positivos.

Conclusiones:


El punto 1, 92 , 1 satisface las condiciones necesarias y suficientes de 2do.
orden y en consecuencia, es un mnimo local de la funcin f2 .

Programacin No Lineal
21 / 22

Definicin

Condiciones de optimalidad sin restricciones

Matrices semidefinidas

Ejemplos

Aplicacin de los criterios de Optimalidad

Ejercicios
Encuentre los posibles puntos mnimos y mximos de la siguientes funciones
2

f (x) = (x12 + 3x22 )ex1 x2

f (x) = x2 ln x3 +

x22
2x3

+ x12 + 2

Programacin No Lineal
22 / 22