01-Exercices Optimisation
01-Exercices Optimisation
Dr ALASSANE SY
Professeur assimilé
2
Chapitre 1
Exercise 1 Soit
3
f (x, y, z) = 2x2 + y 2 + z 2 + 2xy + 2xz + yz
2
1) Determiner les points candidats à l’extremalité.
2) Determiner la matrice hessienne de f .
3) En déduire la nature des points critiques.
Exercise 2 Chercher les extrémas des fonctions suivantes :
f (x, y, z) = x3 z + y 3 − 3x2 y − 2z 2
f (x, y) = x3 + y 3 − 3xy
f (x, y) = xy − x2 − y 2
f (x, y) = y 4 − 2xy 2 + 2x2 + 2y 2 + 4xy − 2x − 8y + 4
f (x, y, z) = 4x2 + y 2 + 3z 2 − 4xz − 2yz − 4x + 2
Exercise 3 La fonction d’utilité d’un consomateur est donnée par
U (x, y) = xa y b avec a > 0 et b > 0.
Montrer que l’ensemble des paniers de biens tels que
D = {(x, y) ∈ R2+ : U (x, y) ≥ U0 > 0, U0 donnée}
est convexe.
Exercise 4 Soit f (x, y) = arctan( xy ), x 6= 0.
Montrer que f est homogène de degré 0. Vérifier le théorème d’Euler.
Exercise 5 1) Determiner les points critiques de la fonction f (x, y) = x2 y sous la
contrainte g(x, y) = 3x2 + 3y 2 − 6y − 5 = 0 puis, à l’aide d’une étude suplémentaire
leur nature.
2) Determiner la nature des extêma de la fonction f (x, y, z) = z sous les contraintes
g(x, y, z) = x2 + y 2 − 2 = 0
h(x, y, z) = x + y + z = 0
3
4 Dr. Alassane Sy
Solution 6
3 g(x, y, z) = x2 + y 2 − 2 = 0
K = (x, y, z) ∈ R tels que
h(x, y, z) = x + y + z = 0
1. Soient
C = {(x, y, z) ∈ R3 tels que x2 + y 2 − 2 = 0}. C est un cercle donc un convexe férmé.
P = {(x, y, z) ∈ R3 tels que z = −x − y}. P est un plan donc un convexe férmé.
K = P ∩ C est donc un convexe férmé comme intersection de convexes férmés.
2. Le lagrangien du problème s’écrit
L(x, y, z, p1 , p2 ) = z + p1 (x2 + y 2 − 2) + p2 (z + x + y)
Les conditions du second ordre donnent la matrice Hessienne, et on utilise les résultats
du cours pour conclure quant à la nature des points.
Exercise 7 Soit
Solution 8
La fonction exp(u) étant continue et strictement croissant, donc chercher les extrema
de exp(u(x, y)) sous contraintes est équivalent à chercher les extrema de u(x, y) sous les
même contraintes. Donc le problème revient à chercher les extrema de
L’étude des conditions du second ordre montre que u, donc f admet un minimum en A∗
et un maximum en B ∗ et f (A∗ ) = 0.0057, f (B ∗ ) = 3, 1972.
√ √
2. Posons x = 2 cos(t) et y = 2 sin(t), on se ramène à un problème d’optimisation
sans contrainte. √
u(x, y) = g(t) = e−2 e 2(sin(t)−2 cos(t))
i) Montrer que tous les points de l’ensemble ∆ des contraintes sont régulier.
ii) Trouver les points de ∆ qui vérifient les conditions nécessaire d’optimalité du premier
ordre.
iii) Determiner leur nature en étudiant les conditions du second ordre.
On obtient alors
λ1 = yz
λ2 = z(x − y)
xy − yz + zx − yz = 0
x = 1−y−z
y = z+1
Les résultats du cours permettent de montrer que A1 (0, 1, 0) est un maximum local strict.
Optimisation convexe et/ou différentielle 7
Les résultats du cours permettent de montrer que A2 ( 43 , 13 , 23 ) est un minimum local strict.
f (x, y, z) = xy 2 z
8x + 4y + 4z = 4a
Exercise 12 Soit
1) Ecrire log[−f (x1 , x2 , x3 )], puis la matrice des dérivées secondes (ou matrice hessienne)
de f , que l’on notera A.
2) Soit a = (a1 , a2 , a3 ). Montrer que
!2
3 2 3
f X ai X ai
f 00 (x)(a)(a) = − 3 −
9 i=1
xi x
i=1 i
n n
!1/2
X √ X
λi ≤ n λ2i
i=1 i=1
Solution 13
1
x1 > 0, x2 > 0, x3 > 0, f (x1 , x2 , x3 ) = −(x1 x2 x3 ) 3
8 Dr. Alassane Sy
1)
1
log(−f (x1 , x2 , x3 )) = [log x1 + log x2 + log x3 ]
3
∂ log(−f (x1 , x2 , x3 )) 1 1 f 0 (x) ∂f (x) f (x)
= . = ⇒ =
∂xi 3 xi f (x) ∂xi 3xi
∂ 2f
∂ ∂f ∂ f ∂f 1 2f
2
= = = 3xi − 3f . 2 = − 2
∂xi ∂xi ∂xi ∂xi 3xi ∂xi 9xi 9xi
∂ 2 f (x)
∂ ∂f (x) ∂ f (x) 1 ∂f (x) f (x)
= = = . =
∂xi ∂xj ∂xj ∂xi ∂xj 3xi 3xi ∂xj 9xi xj
2f
− 9x2 9xf1 x2 9xf1 x3
2
− x2 x11x2 x11x3
f 1 2f f f 11 2 1
Hf (x1 , x2 , x3 ) = 9x2 x1 − 9x22 9x2 x3 = x2 x1 − x22 x2 x3
9 1 1
f
9x x
f
9x x
2f
− 9x 2 x3 x1 x3 x2
− x22
3 1 3 2 3 3
2) Soit a = (a1 , a2 , a3 )
− x22 1 1
x1 x2 x1 x3 a1 a1
f 1
1
Hf (x1 , x2 , x3 )(a)(a) = x2 x1
− x22 1
x2 x3 a2 a2
9
2
1 1
x3 x1 x3 x2
− x22 a3 a3
3
a1
f 2a1 a2 a3 a1 2a2 a3 a1 a2 2a3
= − 2 + + , − 2 + , + − 2 a2
9 x1 x1 x2 x1 x3 x1 x2 x2 x2 x3 x1 x3 x2 x3 x3
a3
n n
!1/2
X √ X ai
λi ≤ n λ2i , avec n = 3 et λi =
i=1 i=1
xi
Optimisation convexe et/ou différentielle 9
on obtient !2
3 2 3
X ai X ai
3 − ≥0
i=1
xi i=1
xi
∂f f ∂ 2f (n − 1)f ∂ 2f f
= ; 2
= − 2 2
; =− 2 ; i 6= j
∂xi nxi ∂xi n xi ∂xi ∂xj n xi xj
Donc " #
n 2
f X a X ai aj
f 00 (X)(a, a) = − 2 (n − 1) i
−
n i=1 i
x2 i6=j
xi xj
n 2 !2
f X ai X ai
= − 2 n −
n i=1
x i i
x i
Exercise 14 Soit
1
J(x) = a(x, x) − L(x)
2
où a(., .) est une forme bilinéaire symétrique et coercive (ou elliptique) et L(.) une forme
linéaire.
1) Calculer les dérivées première et seconde de J
2) En déduire que J est convexe.
Solution 15
1
J(x) = a(x, x) − L(x)
2
Soit h ∈ H ⊆ Rn
J(x + θh) − J(x)
J 0 (x)(h) = lim
θ→0 θ
1
J(x + θh) = a(x + θh, x + θh) − L(x + θh)
2
1
= [a(x, x) + 2a(x, θh) + a(θh, θh)] − L(x) − L(θh)
2
1
= [a(x, x) + 2θa(x, h) + θ2 a(h, h)] − L(x) − θL(h)
2
10 Dr. Alassane Sy
D’où
J 00 (x)(h)(h) = a(h, h) ≥ α||h||2 , avec α > 0, pour h 6= 0
=⇒ J est strictement convexe.
∂f (x, y) ∂f (x, y)
x +y = 2(x2 − 3xy + y 2 ) = 2f (x, y)
∂x ∂y
donc admet comme valeurs propres X1 = √305 , X2 = √65 X3 = − √65 , par conséquent A∗1 est
un point col.
ii)
0 √65 0
30 6 2
Hf (A∗2 ) = √65 0 0 ∗ 2
, det(Hf (A1 )) = −(X + √ )(X − ( √ ) )
0 0 − √305 5 5
donc admet comme valeurs propres X1 = − √305 , X2 = √65 X3 = − √65 , par conséquent A∗1
est un point col.
iii)
24 −6 −12
Hf (A∗3 ) = −6 6 −6 , ∆1 = 24 > 0, ∆2 = 108 > 0, ∆3 = 1080 > 0
−12 −6 30
∆i > 0 pour i = 1, 2, 3 =⇒ A∗3 est un minimum global
iv)
−24 6 12
Hf (A∗4 ) = 6 −6 6 , ∆1 = −24 < 0, ∆2 = −108 < 0, ∆3 = −1080 < 0
12 6 −30
∆i < 0 pour i = 1, 2, 3 =⇒ A∗4 est un maximum global
12 Dr. Alassane Sy
n
n n 1 X
ln F (u, v) = − ln(2π) − ln v − (xi − µ)2
2 2 2v i=1
F (u, v) admet un maximum en (u∗ , v ∗ ) si et seulement si
2) Recherche de points candidats : si un point est candidat à l’extrêmalité alors les dérivées
partielles de F en ce point sont sont nulles, ce qui se traduit par le système suivant :
(−2) ni=1 (x
∂F 1
P n
∂u
(u, v) = − 2v Pi n− u) = v (x2 − u) = 0
∂F n 1
∂v
(u, v) = − 2v − 2v2 i=1 (xi − u) = 0
u = Pn x
⇐⇒ 1 2 il y a donc un seul point candidat
v = n i=1 (xi − u)
n
1X
u∗ = x, v∗ = (xi − u)2 = Sx2
n i=1
∂ 2 F (u, v) ∂ 2 F (u, v) n
= = 2 (x − u)
∂u∂v ∂v∂u v
La matrice hertzienne dépend de (u, v); en (u∗ , v ∗ ), elle est donnée par
!
n
− 2 0
H ln f (u∗ , v ∗ ) = D2 ln F (u∗ , v ∗ ) = Sx
0 − 2Sn4
x
2
det H ln f (u∗ , v ∗ ) = 2S
n n n
6 > 0 et ses valeurs propores sont : λ1 = − S 2 < 0 et λ2 = − 2S 4 < 0
x x x
par conséquent elle est défine négative et donc la fonction de vraisemblence admet donc
un maximum local en (u∗ , v ∗ ).
Pour démontrer que ce maximum est global, il faut examiner directement le signe de
ln F (u∗ , v ∗ ) − ln F (u, v).
n
∗ ∗ n n 2 1 X
ln F (u , v ) = − ln(2π) − ln Sx − 2 (xi − x)2
2 2 2Sx i=1
n n n
= − ln(2π) − ln Sx2 −
2 2 2
n
n n 1 X
ln F (u, v) = − ln(2π) − ln v − (xi − u)2
2 2 2v i=1
On a donc
n
∗ ∗ n Sx2 n 1 X
ln F (u , v ) − ln F (u, v) = − ln − + (xi − u)2
2 v 2 2v i=1
14 Dr. Alassane Sy
Pn
La somme i=1 (xi − u)2 peut s’écrire :
n
X n
X n
X n
X
2 2 2
(xi − u) = (xi − x + x − u) = (xi − x) + (x − u)2
i=1 i=1 i=1 i=1
car les doubles produits (xi − x)(x − u) sont de somme nulle. On obtient donc :
n
X n
X n
X
(xi − u)2 = (xi − x)2 + (x − u)2 = nSx2 + n(x − u)2
i=1 i=1 i=1
Or on sait que pour tout z > 0, ln z < z − 1. On a donc pour tout (u, v)
ln F (u∗ , v ∗ ) − ln F (u, v) ≥ 0,
ce qui montre que ln F (u, v) et donc F (u, v) admet en (u∗ , v ∗ ) un maximum global.
n n n
1X 1X 1X
Sxy = (xi − x)(yi − y), Sx2 = (xi − x)2 , Sy2 = (yi − y)2
n i=1 n i=1 n i=1
Nous nous proposons ici de trouver l’équation de la droite des moindres carrés, c’est-à-dire
de chercher les valeurs de b
a et bb solution du problème
n
X
min Φ(a, b), avec Φ(a, b) = (yi − axi − b)2
(a,b)
i=1
Solution 22 1) La fonction
n
X
Φ(a, b) = (yi − axi − b)2
i=1
n
∂ 2Φ ∂ 2Φ ∂ 2Φ X
= 2n, = 2 xi = 2nx
∂b2 ∂a∂b ∂b∂a i=1
2
2 Sx + x2 x
HΦ(b
a, b) = D Φ(b
b a, b) = 2n
b
x n
indépendant de (b a, bb).
On a une forme quadratique définie positive, donc Φ est une fonction convexe et atteint
en (ba, bb) un minimum global.
En effet pour tout H = (h1 , h2 )
D2 Φ(b
a, bb)(H)(H) = H t D2 Φ(b
a, bb)H = h1 Sx2 + (xh1 + h2 )2 ≥ 0
16 Dr. Alassane Sy
3)
n n 2
X
2
X S xy
Φ(b
a, bb) = (yi − baxi − bb) = yi − y − 2 (xi − x)
i=1 i=1
Sx
2 2 2
Sxy Sxy
2 Sxy 2 2
= nSy − 2n 2 − n Sx = nSy 1 − 2 2
Sx Sx2 Sx Sy
Soit
Sxy
rxy =
Sx Sy
le coefficient de corrélation empirique de x et y, alors
avec
1
C = {x ∈ Rn / ||x|| ≤ , ha, xi ≤ 0}
2
n
où ||.|| est la norme euclidienne de R et h., .i, le produit scalaire associé.
1) Montrer que l’on a un problème d’optimisation convexe (C convexe).
2) Calculer les solutions optimales suivant les valeurs de a.
fa : Ω = {x ∈ Rn /||x|| < 1} −→ R
x 7−→ fa (x) = − log (1 − ||x||2 ) + ha, xi
fa (x + θh) − fa (x)
fa0 (x)(h) = lim
θ→0 θ
Soit f (x) = ||x − a||2 , alors
2x
=⇒ f 0 (x) = 2(x − a) =⇒ fa0 (x) = +a
1 − ||x||2
2(1 − ||x||2 ) + 4x2
fa00 (x) = > 0 car x > 0 =⇒ f strictement convexe
(1 − ||x||2 )
minx∈C fa (x) = − log (1 − ||x||2 ) + ha, xi
Ca = {x ∈ Rn / ||x|| ≤ 21 , ha, xi ≤ 0}
a) a = 0
n 1 n 2 1
C0 = x ∈ R / ||x|| ≤ = x ∈ R / ||x|| ≤
2 4
1
- Conditions néccessaire du premier ordre, soit a1 (x) = ||x|| − 2
2x
+ 2px = 0
1−||x||2
p(||x|| − 12 ) = 0
1
* Contrainte a1 non saturée, ||x|| < 2
⇒p=0
2x
= 0 ⇐⇒ x = 0 est l’optimum
1 − ||x||2
Le lagrangien est :
1
L(x, p1 , p2 ) = − ln(1 − ||x||2 ) + ha, xi + p1 ha, xi + p2 (||x||2 − )
4
Conditions néccessaires d’optimalité du premier ordre :
2x
2 + a + p1 a + 2p2 x = 0 (1)
1−||x||
ha, xi = 0 (2)
||x||2
− 41 = 0 (3)
pi ≥ 0 i = 1, 2 (4)
8 8 1 4
( + 2p2 )x = −a ⇐⇒ ( + 2p2 )||x|| = ||a||, ||x|| = , p2 ≥ 0 =⇒ ||a|| ≥
3 3 2 3
4 a
p2 = ||a|| − =⇒ x = −
3 2||a||
1
||x|| < 2
=⇒ p2 = 0
2x 2||x||
2
+ a = 0 ⇐⇒ 2
= ||a|| ⇐⇒ −||a||||x||2 + ||a|| = 2||x||
1 − ||x|| 1 − ||x||
p
2 −1 + 1 + ||a||2
∆ = 1 + ||a|| =⇒ ||x|| = ,
||a||
p
2(1 − 1 + ||a||2 ) x 2x||a||2
1 − ||x||2 = , = p = −a
||a||2 1 − ||x||2 2( 1 + ||a||2 − 1)
p
a(1 − 1 + ||a||2 )
x=
||a||2
Condition sur
p
1− 1 + ||a||2 p
ha, xi = < 0 ⇐⇒ 1 − 1 + kxk2 < 0 ⇔ 1 < 1 + ||a||2
||a||
3||a||2 4
< ||a|| ⇐⇒ ||a|| <
4 3
Récapitulation :
a=0 x =√0
4 a(1− 1+||a||2 )
0<a< 3
x= ||a||2
−a
a ≥ 43
x=
2||a||
20km
A C x D
La dérivée seconde étant toujours positive, l’extremum est donc un minimum relatif,
comme il est unique, c’est un minimum global.
Le temps minimum de parcours est alors tmin = t(x∗ )
AD − x∗ α √ 2 1 1 p
t(x∗ ) = + d + x∗2 = (AD + (α2 − 1)x∗ ) = (AD + d (α2 − 1))
v v v v
Comme la distance parcouru est
√
r
α−1
AD − x∗ + d2 + x∗2 = AD + (α − 1)x∗ = AD + d ,
α+1
la vitesse moyenne est alors :
q
AD + d α−1
α+1
vmoy =v× p
AD + d (α2 − 1)
Application numérique :
r
d 5
x∗ = √ =5 ≈ 5, 16km ' 5, 2km
α2 − 1 3
1 p 1 √ 1 √
tmin = t(x∗ ) = (AD + d (α2 − 1)) = (40 + 20 15) = (2 + 15) ≈ 1 h 28 mn
v 80 4
La distance parcourue est :
r r
α−1 3
AD + d = 40 + 20 ≈ 55, 5km, dont 34, 8km en train et 20, 7km par la route
α+1 5
La vitesse moyenne est :
q q
AD + d α−1
α+1 40 + 20 35
vmoy =v× p = 80 × √ ≈ 38km/h.
AD + d (α2 − 1) 40 + 20 15
Exercise 27 Soient
x+y x
i) f (x, y) = p 1 , ii) f (x, y) = xα g( )
( x2 + y 2 ) 3 y
Solution 28 1. a
x+y
f (x, y) = p 1
( x2 + y 2 ) 3
Optimisation convexe et/ou différentielle 21
Réciproquement si f est différentiable et vérifie (∗) en tout point de (R∗+ )n alors f est
homogène de degré α sur (R∗+ )n .
2. a
∂f (x, y) p 1 1 p 7
= ( x2 + y 2 )− 6 − (x + y)2x( x2 + y 2 )− 6
∂x 6
∂f (x, y) p 1 1 p 7
= ( x2 + y 2 )− 6 − (x + y)2y( x2 + y 2 )− 6
∂y 6
∂f (x, y) ∂f (x, y) p 1 1 p
x +y = (( x2 + y 2 )− 6 )(x − (x + y)( x2 + y 2 )−1 (x2 + y 2 ) + y)
∂x ∂y 3
∂f (x, y) ∂f (x, y) p
− 1
1 2
x +y = ( x2 + y 2 ) 6 (x + y) 1 − = f (x, y)
∂x ∂y 3 3
2.b
xα 0 x
∂f (x, y) x
= αxα−1 g + g
∂x y y y
xα+1
∂f (x, y) x
= − 2 g0
∂y y y
∂f (x, y) ∂f (x, y) x
x +y = αxα g = αf (x, y), cqf d
∂x ∂y y
Solution 30
f (x, y, z) = 4x2 + y 2 + 3z 2 − 4xz − 2yz − 4x + 2
Les conditions du premier ordre donnent le système
∂f (x,y,z)
∂x
= 8x − 4z − 4 = 0
∂f (x,y,z)
∂y
= 2y − 2z = 0 ⇒ (x∗ , y ∗ , z ∗ ) = (1, 1, 1)
∂f (x,y,z)
∂z
= 6z − 4z − 2y = 0
22 Dr. Alassane Sy
f (x∗ , y ∗ , z ∗ ) = 0
1 1
gx0 = √ , gy0 = √
2 x+1 2 y+1
Leurs valeurs au point (3, 3) sont :
7 1 1
L00x2 = L00y2 = e−3 , L00yx = L00xy = − e−3 , gx0 = gy0 =
4 2 4
La matrice Hessienne en (3, 3) est
7 −3
− 12 e−3 1
4
e 4
1 −3 7 −3 1
HL (3, 3) = −2e 4
e 4
1 1
4 4
0
On obtient alors
7 −3
e − 12 e−3 1
4 4 9 −3
∆3 (3, 3) = − 12 e−3 7 −3
4
e 1
4
=− e <0
1 1 32
4 4
0
1
f (x) = hx, bi − kxkp
p
1- Montrer que
1
∀b ∈ E : kbkq = sup f (x)
q x∈E
1
t
2- On rappelle que t p−1 = p−2 , résoudre le problème
ktk p−1
λha, xi = 0
- Si la contrainte n’est pas saturée, alors ha, xi < 0 par conséquent λ = 0, d’après 1-, on
a
1 y
x∗ = y p−1 = p−2
kyk p−1
- Si la contrainte est saturée, le systéme donne
1 y − λa D 1
E
kxk = (y − λa) p−1 = p−2 , et λ a, (y − λa) p−1 =0
ky − λak p−1
comme λ 6= 0, on obtient
ha, yi
λ=
kak2
et
y − λa
x∗ = p−2
ky − λak p−1
y y
g(x, y) = f (x, y, a − 2x − ) = xy 2 (a − 2x − ).
4 4
Les conditionns du premier ordre :
gx = y 2 (a − 4x − y4 ) = 0
0
Solution 39 1.
" n
#
Pnxi ≥ 0 i = 1, ..., n
X
infn xi log(xi ) s/c
x∈R
i=1 i=1 xi ≤ 1
∂L
= log(xi ) + 1 − λ = 0
∂xi
Xn
λ( xi − 1) = 0
i=1
xi = 1, log(xi ) = λ − 1 =⇒ xi = e−1 eλ
P
- si la contrainte est saturée,
n
X e 1
1= xi = ne−1 eλ =⇒ eλ = =⇒ xi =
i=1
n n
2.
inf[x1 log(x1 ) + x2 log(x2 ) + x3 log(x3 )]
x1 , x 2 , x 3 ≥ 0
s/c
2x1 + x2 + x3 ≤ 1
Exercise 40 Etant donné un convexe férmé non vide D de (Rn , h., .i), on note pD l’opérateur
de projection su D.
Soit C un convexexe férmé non vide de Rn et f : Rn → R une fonction convexe et
différentiable. Soit x ∈ C; montrer l’équivalence des assertions suivantes :
— (i) x minimise f sur C ;
— (ii) h∇f (x), x − xi ≥ 0, pour tout x ∈ C
— (iii) x = pC (x − t∇f (x), t étant quelconque dans R+ ∗ ;
— (iv) pT (C,x) (−∇f (x) = 0;
— (v) h∇f (x), pT (C,x) (−∇f (x)i ≥ 0.
Exemple 41
x21 x22
Maximiser [x1 + 2x2 + 2x1 x2 − 2
− 2
]
x1 + x2 ≤ 1
x1 ≥ 0
x2 ≥ 0
28 Dr. Alassane Sy
x21 x22
L(x1 , x2 , p1 , p2 , p3 ) = −x1 − 2x2 − 2x1 x2 + + + p1 (x1 + x2 − 1) − p2 x1 − p3 x2
2 2
a1 (x1 , x2 ) = x1 + x2 − 1
a1 (x1 , x2 ) = −x1
a2 (x1 , x2 ) = −x2
◦
NB K 6= ∅ −
théorème4
−−−−−−→ tout les points de K sont qualifiés
CNO
∂L
0 = ∂x1 = x1 − 1 − 2x2 + p1 − p2
∂L
0 = ∂x 2
= x2 − 2 − 2x1 + p1 − p3
pi ai = 0; i = 1, 2, 3, pi ≥ 0
◦
1er cas si x ∈ K
a1 (x) < 0 =⇒ p1 = 0
x1 − 1 − 2x2
a2 (x) < 0 =⇒ p2 = 0 =⇒ −3x1 = 5 =⇒ x1 < 0 impossible
x2 − 2 − 2x1
a3 (x) < 0 =⇒ p3 = 0
2iéme cas sur ]A, B[
a1 (x) < 0 =⇒ p1 = 0
a2 (x) = 0
x1 − 1 − 2x2 − p2 = 0
x2 − 2 = 0
a2 = 0 =⇒ x1 = 0
=⇒ x2 = 2
−1 − 4 = p2 < 0 impossible
a3 (x) < 0 =⇒ p3 = 0
3iéme cas sur ]A, C[
a1 (x) = 0
a2 (x) < 0 =⇒ p2 = 0
x1 − 1 − 2x2 − p1 = 0
=⇒ (xb1 , xb2 , p1 ) = (1/3, 2/3, 1)
x2 − 2 − 2x1 + p1 = 0
a3 (x) < 0 =⇒ p3 = 0
4iéme cas sur ]C, B[
a1 (x) < 0 =⇒ p1 = 0
x1 − 1 = 0
a2 (x) < 0 =⇒ p2 = 0 =⇒ x1 = 1, p3 < 0 impossible
x1 − 1 − 2x2 − p3 = 0
a3 (x) = 0
5iéme Cas en B a1 = a3 = 0 et p1 = −p2 < 0 impossible
6iéme cas en A a1 = a2 = p3 = 0
Optimisation convexe et/ou différentielle 29
−1 − 2x2 + p1 − p2 = 0
x2 − 2 + p 1 = 0 =⇒ p1 = 1 et p2 < 0 impossible
x2 = 1
7iéme cas en C a1 = a3 = p2 = 0
x2 + x2 = 1
x2 = 0
=⇒ (x1 , x2 , p1 ) = (1, 0, 0) et p3 < 0 impossible
p1 = 0
−2 − 2 + p3 = 0
x
b = (b x1 , x
b2 ) = (1/3, 2/3)
f est continue
(P ) a au moins une solution qui vérifie la CNOP car touts les
K est compact
points de K
sont qualifiés. Donc x b est la solution
30 Dr. Alassane Sy
Exercise 42 Soit
3 g(x, y, z) = x2 + y 2 − 2 = 0
K = (x, y, z) ∈ R tel que
h(x, y, z) = x + y + z = 0
Bonne chance
Optimisation convexe et/ou différentielle 31
2a 1
x2 = ,− à l’intérieur de C
1 − 4a 1 − 4a
Quid des conditions nécessaires de minimalité du 2e ordre ?
– En x1 , le sous espace à considérer est H = {(d1 , d2 ) ∈ R2 | : h∇g(x1 ), di = 0},
soit H = {(d1 , d2 ) ∈ R2 | : d2 = −d1 } Alors :
D’où ∇2 fa (x1 , µ)d, di > 0 pour tout d 6= 0 dans H : Le point x1 est donc un
minimum local strict de fa sur C.
– En x2 , le sous espace à considérer est HR2 , et on a déjà vu que ∇2 fa (x2 ) n’était
pas semi défini positive. Donc x2 ne saurait être un minimum local de fa sur C.
Reste à savoir si x1 est un minimum global de fa sur C.
En fait, fa est une fonction quadratique dont la valeur en x = (x1 , x2 ) peut être
décomposée comme suit :
x2 2 1
fa (x1 , x2 ) = (x1 + ) + (a − )x22 + x1
2 4
Quand x1 −→ −∞, (x1 , −2x1 ) reste dans C et fa (x1 , −2x1 ) = 4(a − 14 )x21 + x1
tend vers −∞. Donc fa n’est pas bornée inférieurement sur C.
En résumé :
a solution valeur optimale
a < 41 ∅ −∞
1 1 1 1 2a−1
4
≤a≤ 3
(1 − a , a ) a
1 2a 1 a
3
<a ( 1−4a , − 1−4a ) 1−4a
doù :
Mais
f (x)∇2 f (x) − ∇f (x)[∇f (x)]T
∇2 ϕ(x) = pour tout x ∈ O;
f 2 (x)
Optimisation convexe et/ou différentielle 33
f (x)(ha, hi)2 +2h∇f (x), hiha, hi+h∇2 f (x)h, hi ≥ 0 pour tout x ∈ O tout a ∈ Rn et tout h ∈ Rn .
Soit encore
f (x)u2 + 2h∇f (x), hiu + h∇2 f (x)h, hi ≥ 0 pour tout x ∈ O tout a ∈ Rn et tout h ∈ Rn .
Le trinôme de second degré mis en évidence ci-dessus est positif si et seulement si sur R
son discriminant est négatif ; cela se traduit par
g(x, y, z) = x + y + z = a2 , a ∈ R∗
1
iii) En déduire que f (M ) − f (A) ≈ (k 2 + l2 + h2 ) 2x ≥ 0 et donc A est un minimum de f .
iv) Calculer f (A).
3. Ecrire la matrice hessinne du Lagrangien et retrouver le résultat de 2.
4. A partir de la contrainte, ramener le problème en un probléme d’optimisation de deux
variables et retrouver le résultat de 2.
Bonne chance.
36 Dr. Alassane Sy
1) Montrer que x = (0, 0) vérifie les conditions nécessaires d’optimalité du premier ordre.
2) À l’aide des conditions nécessaires de minimalité du deuxiè ordre, discuter en fonction
de α quand x est minimum local et quand il ne l’est pas.
f (x, y) = x1 + y1
(Pa )
s/c : h(x, y) = x12 + y12 = a12 , a ∈ R∗
Bonne chance.
Optimisation convexe et/ou différentielle 37
1. Montrer qu’il existe (α, β) ∈ R2+ (et les déterminer) tels que :
pour tous (x, y) ∈ R2 , où la notation k.k désigne la norme euclidienne de R2 . En déduire
que le problème
inf 2 f (x, y), (P)
(x,y)∈R
Exercise 54 Dans tout l’exercice Sn+ (R) désigne l’ensemble des matrices symétriques
définie positive d’ordre n sur R.
Soit A ∈ Sn+ (R). On considère la fonction f : Rn \ {0Rn } → R définie par :
hAx, xi
f (x) = .
kxk2
où h., .i est le produit scalaire enclidien de Rn et k.k la norme induite.
1. Montrer que f est C ∞ sur son ensemble de définition.
2. Montrer que les problèmes d’optimisation
Exercise 56 Une entreprise fabrique deux modèles de petits voitures, les modèles X et
Y . Le modèle X est plus abordable, se vend 1F pièce. Quant au modèle Y , il se vend à
3F. Le coût de fabrication, exprimé en F est donné par la fonction suivante :
où x est le nombre de petites voitures du modèle X et y est le nombre de petites voitures
du modèle Y . On suppose que les jouets sont tous écoulés sur le marché.
Dans toute la suite de l’exercice, on notera C+ = (R∗+ )2 .
1. Soit (x, y) ∈ C+ . Déterminer le profil P (x, y) réalisé par l’entreprise lorsqu’elle a vendu
x jouets du modèle X et y jouets du modèle Y .
2. Etudier la convexité de la fonction P sur C+ .
3. La capacit totale de production de l’entreprise est de 20 jouets par jours. En supposant
que l’entreprise tourne en plein régime, trouver la partition optimale entre les modèles de
types X et Y permettant de maximiser le profil quotidient. Calculer dans ce cas le profil
réalisé.
4. Le conseil d’administration de l’entreprise décide, s’intérroge sur la pertinence de vou-
loir produire à pleine capacité. Il se demande s’il ne peut pas augmenter le profil en
produisant autrement. Pouver-vous aider le conseil d’administration ?
Optimisation convexe et/ou différentielle 39
où
f1 (x, y) = hx, xi + hy, yi + hx, yi − 2ha, xi − 2hb, yi;
et
f2 (x, y) = hx, xi + hy, yi − 2ha, xi − 2hb, yi;
et
K = {(x, y) ∈ Rn × Rn / ha, xi + hb, yi ≤ α}
et h., .i désigne le produit scalaire sur Rn .
1. Montrer que le problème est convexe.
2. Résoudre le problème.
Solution 58 1.) Pour tout i = 1; 2, la matrice hessienne de fi est une forme quadra-
tique définie positive donc fi est strictement convexe. De plus K est un demi-espace donc
convexe. Ce que fait que le problème est un problème d’optimisation convexe.
fi étant strictement convexe donc le problèle admet une solution unique. c’est-à -dire que
chaque minimum local est un minimum global.
2.) Le lagrangien du problème correcpondant à f1 s’écrit :
1 1
ha, xi + hb, yi = ha, [2b − 4a + λ(2a − b)]i + hb, [2a − 4b + λ(2b − a)]i
3 3
1
= [4(ha, bi − kak2 − kbk2 ) + 2λ(kak2 + kbk2 − ha, bi)] = α.
3
Soit
3α − 4(ha, bi − kak2 − kbk2 ) 3α
λ∗ = 2 2
= +2≥0
2(kak + kbk − ha, bi) 2(kak + kbk2 − ha, bi)
2
Ce qui correspond à
4
α ≥ (−kak2 − kbk2 + ha, bi)
3
et (
x∗ = 13 [2b − 4a + (2a − b) 2(kak2 +kbk
3α
2 −ha,bi) + 2];
∗ 1 3α
y = 3 [2a − 4b + (2b − a) 2(kak2 +kbk2 −ha,bi) + 2].
qui est le minimum global.
2.
f2 (x, y) = kxk2 + kyk2 − 2ha, xi − 2hb, yi.
Le lagrangien du système s’écrit :
λ 2α
α = −kak2 − kbk2 + (kak2 + kbk2 ) =⇒ λ = −2≥0
2 kak + kbk2
2
y = kak−αb
∗
2 +kbk2
Chapitre 2
42
Optimisation convexe et/ou différentielle 43
— h p i
−1
min kxk = max ha, yi − hA y, yi
x∈X kyk≤1
x
— le maximum de l’expression de droite ci-dessus est atteint en y = kxk
, où x dédigne
la projection orthogonale de 0 sur X.
1
L(x, µ) 7−→ L(x, µ) = kxk2 − hc, xi + µhs, xi
2
m m
rX X
= f x) + [hi (x)]2 + λi hi (x)
2 i=1 i=1
Soit Lbr : ((x, y), λ) ∈ (Rn × Rp ) × Rp 7−→ Lbr ((x, y), λ) le lagrangien augmenté associé à
(Qbr ) suivant la définition précédente. Comme l’expression de la fonction duale dérivée de
Lbr conduit à calculer
a) Démonter que
p
X
Lr (x, λ) = f (x) + ϕr (λj , gj (x))
j=1
1
o‘u ϕr : (α, t) ∈ R × R 7−→ ϕr (α, t) = 2r
{[max{0, α+ rt}]2 − α2 }.
b) - Déduire du comportement de ϕr (α, t), lorsque r −→ 0+ , ce que devient Lr (x, λ) quand
r −→ 0+
- Donner quelques premiers éléments de comparaison ente la fonction duale Θr de Lr et
la fonction duale usuelle Θ.
- Quelles propriétés de Lr peut-on déduire des hypothèses de type convexité ou différentiabilité
des données du problème (Q).
Exercise 65 Soit A ∈ Sn (R) définie positive. Montrer à l’aide d’un calcul simple de
conjuguée de fonction convexe, l’égalité suivante
A + A−1 ≥ 2In
46 Dr. Alassane Sy
Exercise 68 Soient f et g dans Γ0 (R) telles que f + g soit une fonction affine sur Rn .
Monter que f g sont nécessairement affines sur Rn .
Indication : Calculer (f + g)∗ .
On se propose dans cet exercice de donner les formes explicites des solutions d’équations
aux dérivées partielles (dites de Halilton-Jacobi) suivantes :
(Dans cette écriture, ∂F/∂t et ∇x désignent respectivement la dérivée partielle par rap-
port à t et le vecteur gradient par rapport à x = (x1 , ..., xn ) de la fonction F ; (x, t) ∈
Rn ×]0, +∞[7−→ F (x, t) ∈ R.)
1. Préliminaires : a) Soit
∗
n f (y) si θ∗ (y) ≤ s
H : (y, s) ∈ R × R 7−→ H(y, s) =
+∞ sinon .
Solution 71 a)X et Y sont des convexes compacts non vides de Rn ,la fonction l est
convexe-concave sur Rn × Rn ,par consquent il ya bien des points selles de l sur X × Y .
b)soit (x, y) un point selle de l sur X × Y ,alors
(*) l(x, y) = min[max l(x, y)] = max[min l(x, y)]
x∈X y∈Y y∈Y x∈X
(**) x minimise la fonction φ(x) = max l(x, y) sur X et y maximise la fonction ψ(y) =
y∈Y
min sur Y.
x∈X
Ici φ(x) = max < x, y > ; n’est rien d’autre que norme de kxk c’est--dire x = kxk est la
kyk≤1
projection de l’origine sur X. La valeur selle de la X × Y est kxk, c’est--dire la distance
x
de l’origine X. Par suite < x, y >= kxk, ce qui conduit y = kxk si kxk =6 0 c’est--dire
lorsque 0 ∈/ X et y élément quelconque de Y lorsque 0 ∈ X
2) lénsemble des contraintes de la minimisation (Py ) est dcrite sous la forme g(x) ≤ 0 óu
g : x 7−→< A(x − a), x − a >−1 est convexe différentiable et ∃ x0 / g(x0 < 0)
La fonction objective dans (Py ) est lin’ere,ce qui fait que lorsque y 6= 0,les solutions xy de
(Py ) sont sur ∂X
Y = x ∈ Rn /kyk2 ≤ 1L(x, y) =< x, y > +λ(kyk2 − 1) (2.2)
∂L x
∂y
= x + 2λ = 0 , y = − 2λ (λ 6= 0)
(2.3)
2
λ(kyk − 1) = 0
Cas1 7−→ contrainte non saturé alors λ = 0 (x=0 impossible contrainte saturé)
kyk = 1 =⇒ x = −2λy
48 Dr. Alassane Sy
∃µ > 0; y + 2µA(xy − a) = 0
−1
(2)=⇒ xy − a = − A2µ y
−1 A−1 y
xy dans (1) =⇒ µ = a − √ A y =⇒ xy = a − √
<A−1 y,y> <A−1 y,y>
Si y = 0 tout x ∈ X est solution de (P0 )
3) En injectant xy dans ψ(y) on obtient :
ψ(y) = min l(x, y) =< xy , y >
x∈X p
ψ(y) =< a, y > − < A−1 y, y > ce qui donne le resultat.
Les y ∈ Y maximisant ψ sur Y sont exactement les y tels que x, y est un point selle de
sur X × Y
x
Donc y = kxk
A−1 kxk
x
A−1 x
x=a− q =a− p
x
< A−1 kxk x
, kxk> < A−1 x, x >
Solution 72 1) par définition ψ(µ) = infn L(x, µ), L(·, µ) est une fonction quadratique
x∈R
strictement convexe sur Rn . Son minimum est solution de ∇x L(x, µ) = 0
soit
x − c + µs = 0 ⇐⇒ x(µ) = c − µ
2) ψ est une fonction concave que l’on doit maximiser (problème dual).
ψ est un polynôme de degré 2 en µ et on a :
On distingue 2 cas :
<c,s>
• < c, s >> 0, au quel cas la solution de (D) est µ = ksk2
1 (< c, s >)2 1
ψ(µ) = − kc − µsk2 = − kck2
2 2ksk2 2
• < c, s >< 0 au quel cas le supremum est atteint pour µ = 0 =⇒ ψ(µ) = 21 kck2
3) Le problème P admet une seule solution x, la minimisation de la fonction strictement
Optimisation convexe et/ou différentielle 49
1
x = x =⇒ L(x, µ) = f (x) = ψ(µ) = − kck2
2
• < c, s >> 0 alors L(x, µ) = 21 kxk2 − < c, x > + <c,s>
ksk2
< s, x > la fonction L(·, µ) est
minimisé par
< c, s >
x=c− s = c − µs.
ksk2
(< c, s >)2 1
f (x) = L(x, µ) = ψ(µ) = − kck2
2ksk2 2
Solution 73 f ∗ (s) = sup {< s, x > −f (x)} = sup {< s, x > −θ(kxk)}
x∈Rn x∈Rn
∗
θ (ksk) = sup {< s, x > −θ(kxk)}
x∈Rn
=⇒ f ∗ (s) = θ∗ (kxk)
et
< s, x >= kskkxk
< Ax, x > + < A−1 x, x >> 2 < x, x >⇐⇒ A + A−1 > 2In
Solution 75 1) par definition f ∗ (s) = sup sx − ch(x) dont le supremum est atteint
x∈Rn
x = Argsh(s). √
d’ou f ∗ (s) = s(Arqsh(s) − ch(Argsh(x))) = s(Argsh(s) − 1 − s2 )
0 0 0
2) f = sh d’ou (f ∗ ) = (f )−1 : s ∈ R −→ Argsh(s)
Donc f ∗ est la primitive de Argsh qui prend en o la valeur f ∗ (0) = − inf f (x) = −1
x∈R
2016
Pr. ASY.
a) Montrer que Sn++ et Sn+ sont des ensembles convexes. Montrer que Sn+ est un cône.
Qu’en est-il de Sn++ ?
b) Montrer que Sn+ est fermé. Quelle est l’adhérence de Sn++ ?
c) Montrer que Sn+ = {X ∈ Sn : λmax (−X) ≤ 0}. Déduire la convexité la Sn+ par un autre
argument.
Exercise 79 Soit f : Rn → R ∪ {+∞}, une fonction quelconque.
a) Rappeler les définitions de :
- domaine de f (dom(f )) ;
- conjuguée de f (f ∗ ).
2
b) Soit f1 (x) = kxk
2
, le carrée de la norme euclidienne de Rn , montrer que f1∗ = f1 (x).
c) Soit f2 (x) = |x|, x ∈ R la valeur absolue de x, montrer que
∗ 0; si x ∈ [−1, 1];
f2 =
+∞, sinon
qui est la fonction indicatrice de [−1, 1]
En déduire f3∗ pour f3 (y) = kyk1 ,la norme l1 sur Rn .
d)Soit un réel c > 0 fixé pour toute la question.
Considèrons d’abord le problème
min g(y);
0≤y≤c
avec g : [0, c[→ R différentiable etlimx→c = +∞.
soit y ∗ = 0 et g 0 (0) ≥ 0
Montrer que y ∗ est solution ⇐⇒
soit y ∗ > 0 et g 0 (y ∗ ) = 0
En déduire que la fonction fc : R → R ∪ {+∞} définie par
y
c−y
si 0 ≤ y < c;
fc (y) =
+∞ sinon
52 Dr. Alassane Sy
1
f (x) = hx, bi − kxkp
p
1- Montrer que
1
∀b ∈ E : kbkq = sup f (x)
q x∈E
1
t
2- On rappelle que t p−1 = p−2 , résoudre le problème
ktk p−1
[1] A. SY. Cours et Exercices d’Algèbre pour la licence 1. - [Link] - Presse Univer-
sitaire de Bambey 2008.
[2] A. SY. Cours et Exercices d’Algèbre pour la licence 2. - [Link] - Presse Univer-
sitaire de Bambey 2008.
[3] E. AZOUALY M. MESSERI M. SERFATI. Exercices de Mthématiques evec rappel
de cours. M.P- P.C. - [Link] - U.I.T. TOME 5 Algbre 2eme partie 1969.
[4] J. DIXMIER : Cours de Mathématiques du premier cycle. Gauthier-Villars Paris
1969.
[5] A. WADE Les mathématiques de l’analyse économique modernes, Economica 2007.
[6] E. RAMS C. DESCHAMPS J. DOUX Cours de Mathématiques spéciales, Masson
1993.
[7] M. QUEYSANNE Algèbre 1er cycle scientifique préparation aux grandes école. Ar-
mand Colin Collection U 1964.
[8] V. SMIRNOV Cours de Mathématiques tome II, Edition Mir. Moscou. 1970.
[9] Bernard DUPONT Algèbre pour les sciences économiques, Armand-Colin 1991-1997.
[10] Phillipe MICHEL. Cours de Mathématiques pour économiques, Economica 1989.
53