Conceptos fundamentales

Optimization

NLP
Mixed Integer
(Continuous)

MINLP
Differentiable Nondifferentiable

MILP
Convex Nonconvex

IP
LP QP
ChE Problems
LP MILP QP NLP MINLP
Process Model Building X X
Process Design & Synthesis
Heat Exchangers X X X X
Mass Exchangers X X X X
Separations X X X
Reactors X X X
Flowsheeting X X
Process Operations
Scheduling X X X
Supply Chain X X X
Real-Time Optimization X X X
Process Control
Model Predictive Control X X
Nonlinear MPC X X
Hybrid MPC X
Table 1.1 in [2]
Características deseables
Existen características deseables o no en la resolución de un problema
de optimización
- Continuidad
- Linealidad
- Condiciones necesarias y suficientes
Continuidad
Si bien no es necesaria para poder resolver el problema facilita el uso de
herramientas

𝑓 𝑥𝑜 𝑒𝑥𝑖𝑠𝑡𝑒
lim 𝑓 𝑥 𝑒𝑥𝑖𝑠𝑡𝑒
Definición 𝑥→𝑥𝑜
lim 𝑓 𝑥 = 𝑓(𝑥𝑜 )
𝑥→𝑥𝑜

Continuamente derivable
′ 𝒙
𝒅𝒇 𝒙
𝒇 = 𝒆𝒙𝒊𝒔𝒕𝒆
𝒅𝒙
Ejemplo

a) 1/x
b) Ln(x) ¿Dificultades?
c) 1/x^2-9
Discontinuidad - Continuidad
Formulación de un problema no lineal
𝑀𝑖𝑛𝑖𝑚𝑖𝑧𝑎𝑟 𝑓(𝒙)
Definición൞ 𝑠𝑢𝑗𝑒𝑡𝑜 𝑎 𝑎𝑖 ≤ 𝑔 𝒙 ≤ 𝑏𝑖
𝑙𝑗 ≤ 𝑥𝑗 ≤ 𝑢𝑗

x: vector de n variables de decisión

f: función objetivo
g: funciones de restricción
a,b: límites inferior y superior de la función
l,u: límites inferior y superior de las variables
Clasificación
• No linear
𝒇 𝒐 𝒈𝒊 → 𝑠𝑜𝑛 𝑛𝑜 𝑙𝑖𝑛𝑒𝑎𝑙𝑒𝑠
• No restringido
𝒈𝒊 → 𝑛𝑜 𝑒𝑥𝑖𝑠𝑡𝑒, 𝑛𝑜 𝑙𝑖𝑚. 𝑒𝑛 𝑥
• Restringido por límites
𝒈𝒊 → 𝑛𝑜 𝑒𝑥𝑖𝑠𝑡𝑒, 𝑙𝑖𝑚. 𝑒𝑛 𝑥
• Linealmente restringidos
𝒈𝒊 → 𝑙𝑖𝑛𝑒𝑎𝑟𝑒𝑠, 𝒇 → 𝑛𝑜 𝑙𝑖𝑛𝑒𝑎𝑟
• Cuadrático
𝒈𝒊 → 𝑙𝑖𝑛𝑒𝑎𝑟𝑒𝑠, 𝒇 → 𝑐𝑎𝑢𝑑𝑟á𝑡𝑖𝑐𝑎
Factibilidad
Un vector 𝒙 es factible si satisface todas las restricciones. Los puntos 𝒙, se
agrupan en la región factible 𝑭. Si 𝑭 no tiene elementos, el problema no es
factible.

Si existen puntos donde el valor de f es arbitrariamente pequeño en un

problema de minimización, el problema no tiene límites. Un vector 𝒙* es un
mínimo local sí:
𝑓 𝒙∗ ≤ 𝑓 𝒙 ∀𝒙 ∈ 𝑵, 𝒙 ≠ 𝒙∗

Un vector 𝒙* es un mínimo global sí:

𝑓 𝒙∗ ≤ 𝑓 𝒙 ∀𝒙 ∈ 𝑭, 𝒙 ≠ 𝒙∗
Geometría de un problema no lineal
Una región factible típica
para un problema no lineal
está dada por:
Ejemplo
Ejemplo

El mínimo está ahora en x1 = 2, x2 = 2, que no

es un punto límite de la región factible, sino que
es el mínimo no restringido de la función no
lineal y satisface todas las restricciones.
Óptimos locales vs. globales

En resumen, el óptimo de un problema de programación no lineal, en

general, no está en un punto extremo de la región factible y puede que
ni siquiera esté en el límite.
Además, el problema puede tener óptimos locales distintos del óptimo
global. Estas propiedades son consecuencias directas de la no
linealidad. Sin embargo, se puede definir una clase de problemas no
lineales que se garantiza que están libres de óptimos locales.
Convexidad
Convexidad
Es más útil una definición matemática
𝑯 = 𝛁 𝟐 𝑓(𝑥)
Convexidad - Ejemplo

𝑎) 𝑓 𝑥 = 3𝑥 2 𝑏) 𝑓 𝑥 = 2𝑥

𝑓′ 𝑥 = 6𝑥 𝑓′ 𝑥 = 2
𝑓′′ 𝑥 = 6 𝑓′′ 𝑥 = 0

Siempre positiva, convexa Siempre 0, convexa y

y estrictamente convexa cóncava (línea recta)
Convexidad - Ejemplo

𝑐) 𝑓 𝑥 = −5𝑥 2 𝑑) 𝑓 𝑥 = 2𝑥 2 − 𝑥 3

𝑓 ′ 𝑥 = −10𝑥 𝑓 ′ 𝑥 = 4𝑥 − 3 𝑥 2
𝑓 ′′ 𝑥 = −10 𝑓 ′′ 𝑥 = 4 − 6𝑥

Siempre negativa, cóncava Positiva o negativa, ni

y estrictamente cóncava convexa y cóncava para
todo x
Convexidad – Modelos multivariable
Depende del valor de los valores característicos de la Hessiana
Convexidad – Modelos multivariable - Ej
a) 𝑓 𝒙 = 2𝑥12 − 3𝑥1 𝑥2 + 2𝑥22

b) 𝑓 𝒙 = 𝑥12 + 𝑥1 𝑥2 + 2𝑥2 + 4

c) 𝑓 𝒙 = 2𝑥1 + 3𝑥2 + 6

d) 𝑓 𝒙 = 2𝑥12 + 2𝑥1 𝑥2 + 1.5𝑥22 + 7𝑥1 + 8𝑥2 + 24

Convexidad – Modelos multivariable - Ej
𝑓 𝒙 = 2𝑥12 − 3𝑥1 𝑥2 + 2𝑥22

𝝏𝟐 𝒇 𝝏𝟐 𝒇
𝝏𝒙𝟐𝟏 𝝏𝒙𝟏 𝝏𝒙𝟐
𝑯=
𝝏𝟐 𝒇 𝝏𝟐 𝒇
𝝏𝒙𝟏 𝝏𝒙𝟐 𝝏𝒙𝟐𝟐
Convexidad – Modelos multivariable - Ej
𝑓 𝒙 = 2𝑥12 − 3𝑥1 𝑥2 + 2𝑥22

𝜕𝑓
= 4𝑥1 − 3𝑥2
𝜕𝑥1

𝜕𝑓
= −3𝑥1 + 4𝑥2
𝜕𝑥2

𝜕2 𝑓 𝜕2 𝑓 𝜕2 𝑓
= −3 =4 =4
𝜕𝑥1 𝜕𝑥2 𝜕𝑥12 𝜕𝑥22
Convexidad – Modelos multivariable - Ej
𝑓 𝒙 = 2𝑥12 − 3𝑥1 𝑥2 + 2𝑥22

4 −3
𝐻=
𝜆1 = 7; 𝜆2 = 1 −3 4
𝜆𝑖 > 0 4−𝜆 −3
𝐻 − 𝜆𝐼 = =0
−3 4−𝜆
𝑓 es convexa 2
4−𝜆 −9=0

7 − 8𝜆 + 𝜆2 = 0
Convexidad – Región formada por dos
funciones cóncavas
Demostrar que
−𝑥12 + 𝑥2 ≥ 1 𝑥1 − 𝑥2 ≥ −2
Forman una región convexa
Convexidad – Región formada por dos
funciones cóncavas
Demostrar que
−𝑥12 + 𝑥2 ≥ 1 𝑥1 − 𝑥2 ≥ −2
Forman una región convexa

Se expresan como g i x ≥ 0
𝑔1 = −𝑥12 + 𝑥2 − 1 ≥ 0
𝑔2 = 𝑥1 − 𝑥2 + 2 ≥ 0

−2 0 0 0
𝑯(𝑔1 (𝑥)) = 𝑯(𝑔2 (𝑥)) =
0 0 0 0
Convexidad – Región formada por dos
funciones cóncavas
Demostrar que
−𝑥12 + 𝑥2 ≥ 1 𝑥1 − 𝑥2 ≥ −2
Forman una región convexa
−2 0 0 0
𝑯(𝑔1 (𝑥)) = 𝑯(𝑔2 (𝑥)) =
0 0 0 0
Definida negativamente Semidefinida negativament

Ambas son cóncavas, dos funciones

cóncavas delimitan una región convexa
Condición necesaria y suficiente
Acotando el análisis al segundo orden se tiene
• Condición necesaria
𝛻𝑓 𝒙∗ = 0
𝒙∗ es un punto estacionario y en él, el gradiente de la función se anula

Def. positivamente 𝐱 ∗ mínimo único

𝛁 𝟐 𝑓 𝒙∗ ∗
= 𝑯(𝒙 ) ቊ
Def. negativamente 𝐱 ∗ máximo único
Condición necesaria y suficiente
• Condiciones suficientes Puede existir un óptimo
en 𝐱 ∗ , a pesar que no
1. 𝑓(𝒙) se puede derivar dos veces en 𝐱 ∗ se puedan comprobar
las tres condiciones

2. 𝛁𝑓 𝒙∗ = 𝟎, punto estacionario en 𝐱 ∗
Ej: 𝑓(𝑥)𝑥 4/3
𝑯(0) no está definida
3. 𝑯(𝒙∗ ) está definida positivamente
para que exista un mínimo en 𝐱 ∗
Optimización en MATLAB
• Algunas funciones de MATLAB
utilizadas para optimización :
 linprog: LP, formato matricial.
 fminsearch, fminunc: Optimización
no restringida.
 fmincon: LP, NLP con restricciones.
 Optimización en MATLAB – fmincon
x = fmincon(objective,x0,Aineq,bineq,Aeq,beq,lb,ub,nonlcon,options)

objective Objetive function

X0 Initial point for x
Aineq or A Matriz for para linear inequality constrains
bineq or b Vector for linear inequality constrains
Aeq Matrix for linear equality constrains
beq Vector for linear equality constrains
lb / ub Vector of lower bounds / upper bounds
nonlcon Nonlinear constraint function
options Options structure creates with optimset
Ejemplo
Ajuste de modelos- Ejercicio
“Estime los valores de los parámetros k1 y k2 minimizando la suma de la
desviación de los cuadrados”.
𝑛
2
Φ = ෍ 𝑦𝑜𝑏𝑠𝑒𝑟𝑣𝑒𝑑 − 𝑦𝑝𝑟𝑒𝑑𝑖𝑐𝑡𝑒𝑑 𝑖
𝑖=1
Donde

𝑘1
𝑦𝑝𝑟𝑒𝑑𝑖𝑐𝑡𝑒𝑑 = 𝑒 −𝑘2𝑡 − 𝑒 −𝑘1𝑡
𝑘1 − 𝑘2

Para los datos

𝒕 𝒚𝒐𝒃𝒔𝒆𝒓𝒗𝒆𝒅
0,5 0,263
1 0,455
1,5 0,548
Sets
𝑘𝑖 = 𝑘1 , 𝑘2 Let be 𝑘𝑖 the set containing the variables k.

Parameters and scalars:

𝑦𝑜𝑏𝑠𝑒𝑟𝑣𝑒𝑑 , 𝑥1 , 𝑥2 , 𝑡: undefined in the problem, [-]

Variables:
𝑘1 , 𝑘2 , 𝑦𝑝𝑟𝑒𝑑𝑖𝑐𝑡𝑒𝑑 , : undefined in the problem, [-]

Constraints:
𝑦𝑝𝑟𝑒𝑑𝑖𝑐𝑡𝑒𝑑 ;
𝑘1
Section A 𝑦𝑝𝑟𝑒𝑑𝑖𝑐𝑡𝑒𝑑 = 𝑒 −𝑘2 𝑡 − 𝑒 −𝑘1 𝑡
𝑘1 −𝑘2
𝑘1 𝑥1
Section B 𝑦𝑝𝑟𝑒𝑑𝑖𝑐𝑡𝑒𝑑 =
1+𝑘2 𝑥1 −𝑘3 𝑥2

Objective function
Φ: minimizing the sum of the squares of the deviations
𝑛
2
minΦ = ෍ 𝑦𝑜𝑏𝑠𝑒𝑟𝑣𝑒𝑑 − 𝑦𝑝𝑟𝑒𝑑𝑖𝑐𝑡𝑒𝑑 𝑖
𝑖=1
Optimización en MATLAB – fmincon
Estime los valores de los parámetros k1,
k2 y k3 minimizando la suma de la
desviación de los cuadrados