Chapitre 4: stabilite des syst`emes non-lineaires

Philippe Chartier
19 novembre 2013

1 Introduction
On consid`ere ici une e quation differentielle ordinaire autonome
y = f (y)
o`u f est une fonction de Rd and Rd de classe C 1 , et on sinteresse a` son e tude qualitative, cest-`a-dire a` letude de lensemble de ses solutions pour differentes valeurs initiales
y(0) = y0 dun point de vue geometrique. Pour une condition initiale donnee y0 , on note
y(t; 0, y0) = y(t; y0) la valeur de la solution a` linstant t passant par y0 a` linstant 0 et Jy0
lintervalle de definition de la solution maximale associee a` y0 .
Definition 1.1 (Portrait de phase) Le portrait de phase de lequation y = f (y) , f
C1 (Rd ; Rd ) est la representation graphique des trajectoires {y(t; 0, y0); y0 Rd , t
Jy0 }.
Exemple 1.2 (Dimension 1) Pour y R, f (y) = y(y 2 1). On a trois points dequilibre,
y = 0 et y = 1. Le premier est stable, alors que les deux autres sont instables.
Exemple 1.3 (Dimension 2) Soit le syst`eme

y 1 = 2y1
y 2 = y2
La solution correspondant a` la valeur initiale (y01 , y02) secrit
y1 (t) = e2t y01,

y2 (t) = et y02

de sorte que les trajectoires sont les courbes param`etrees telles que
(y2 (t))2 y1 (t) = const

Exemple 1.4 (Pendule sans frottement) Lequation differentielle dordre 2

+ a sin() = 0,

a>0

se ree crit sous la forme dune syst`eme dordre 1 en posant y1 = et y2 = :


y 1 = y2
y 2 = a sin(y1 )
Il est facile de verifier que lenergie du syst`eme
1
H(y1, y2 ) = y22 a cos(y1 )
2
est conservee le long de toute solution. En effet on a :
d
H(y1 , y2) = y2 y 2 a( sin(y1 ))y 1 = 0.
dt
Les trajectoires sinscrivent donc sur les courbes dequation H(y1, y2 ) = const.
Definition 1.5 Un syst`eme hamiltonien est un syst`eme dequations differentielles du type
y = J 1 y H(y)
o`u H : R2n R est une fonction scalaire de classe C 2 et o`u J est la matrice canonique


0 In
J=
In 0
On a, comme dej`a vu dans les chapitres precedents, conservation de lhamiltonien (lenergie
dans de nombreux syst`emes physiques) :
d
H(y) = (y H(y))T y = (y H(y))T J 1 y H(y) = 0
dt
o`u lon a utilise lanti-symetrie de la matrice J.

2 Differentes notions de stabilite

2.1 Theor`eme de Grobmann-Hartman
Definition 2.1 (Linearise) Soit lequation differentielle y = f (y), f C 1 (Rd ; Rd ) et
y0 Rd . Le syst`eme linearise en y0 est le syst`eme dequations differentielles suivant :
y =

f
(y0 ) (y y0 ) + f (y0)
y

Cest le syst`eme obtenu en remplacant f (y) par son developpement de Taylor a` lordre 1
en y0 .
2

Lobjectif du theor`eme suivant est detablir un lien entre le comportement qualitatif de

la solution dun syst`eme dequations differentielles et celui de son linearise au voisinage
dun point. En raison de la difficulte de la preuve, nous nous contenterons denoncer ce
theor`eme sans demonstration et detaillerons par contre quelques resultats plus faibles dans
les paragraphes suivants.
Theor`eme 2.2 (Grobman-Hartman 1967). Soit y = f (y), f C 1 (Rd ; Rd ) un syst`eme
dequations differentielles sur Rd . Supposons que f (0) = 0 et que la matrice A = f
(y0)
y
na pas de valeur propre de partie reelle nulle. Alors il existe des voisinages U et V de
lorigine 0 dans Rd , et un homeomorphisme (bijection bi-continue) h : U V qui envoie
les trajectoires de y = f (y) sur les trajectoires de y = Ay en preservant le sens du temps.
Plus precisement, si y0 Rd est une valeur initiale et si y(t; y0) U, alors etA h(y0 ) V
et on a :
y(t; y0) = (h1 etA h)(y0 ).
Ainsi, au voisinage dun point y0 Rd tel que f (y0 ) = 0, les solutions du syst`eme
y = f (y) se comportent comme celles de
y =
pour peu que le spectre de

f
(y0 )
y

f
(y0 )(y y0 )
y

nintersecte pas laxe des imaginaires.

Remarque 2.3 Le theor`eme est e nonce dans le cas y0 = 0. Si y0 6= 0 avec f (y0 ) = 0,

alors en posant
f(
y ) = f (
y + y0 ),
y = y y0 ,
on a

d
y = y = f (y) = f (
y + y0 ) = f(
y)
dt

avec f(0) = f (y0 ) = 0 et

f
(0)
y

f
(y0 ).
y

2.2 Notions de stabilite

Definition 2.4 (Equilibre) Soit le syst`eme dequations differentielles y = f (y), f
C 1 (Rd ; Rd ). On dit que y0 est un e quilibre si la fonction constante t 7 y0 est solution
pour tout t R, ce qui e quivaut a` dire que f (y0) = 0.
Definition 2.5 (Stabilite) Soit le syst`eme dequations differentielles y = f (y), f C 1 (Rd ; Rd )
et soit y0 Rd un e quilibre. On dit que :
1. y0 est une e quilibre stable si, pour tout voisinage U de y0 , il existe un voisinage V
de y0 tel que :

y0 V,

(i) y(t, y0) est bien definie sur R+ ,

(ii) y(t, y0) U pour tout t R+
3

2. y0 est un e quilibre asymptotiquement stable si cest un e quilibre stable, et sil existe

un voisinage W de y0 tel que :

y0 W,

(i) y(t, y0) est bien definie sur R+ ,

(ii) lim y(t, y0) = y0
t

Exemple 2.6 Soit le syst`eme lineaire y = Ay. Lorigine 0 est e quilibre. Il est asymptotiquement stable si et seulement si :
(A),

() < 0.

Il est stable si et seulement si

(A),

() 0 et () = 0 non defective

Theor`eme 2.7 (Stabilite en premi`ere approximation) Soit lequation differentielle y =

f (y), f C 1 (Rd ; Rd ) et soit y0 Rd un e quilibre. Si y0 est un e quilibre asymptotiquement stable du syst`eme linearise y = f
(y0 )(y y0 ), alors cest un e quilibre asymptotiy
quement stable du syst`eme y = f (y).
Theor`eme 2.8 (Non-stabilite en premi`ere approximation) Soit le syst`eme dequations
differentielles y = f (y), f C 1 (Rd ; Rd ) et soit y0 Rd un e quilibre. On suppose que
f
(y0 ) a une valeur propre de partie reelle strictement positive. Alors y0 nest pas un
y
e quilibre stable de y = f (y).
(y0 ) a une valeur propre de partie
Remarque 2.9 On ne peut rien dire dans le cas o`u f
y
reelle nulle, comme le montre lexemple suivant :

y 1 = y2 (y12 + y22)y1
y 2 = y1 (y12 + y22 )y2
Le calcul de

f
(0, 0)
y

donne
f
(0, 0) = J 1
y

dont les valeurs propres sont i. Maintenant, en passant en coordonnees polaires y1 =

r() cos(), y2 = r() sin(), il vient :
y 1 = r cos() r sin() = r sin() r 3 cos()
y 2 = r sin() + r cos() = r cos() r 3 sin()
do`u = 1 et r = r 3 . Lequilibre est alors stable ou instable suivant le signe choisi
.

2.3 Produit scalaire adapte a` un endomorphisme

Theor`eme 2.10 (Produit scalaire adapte a` un endomorphisme) Soit E = Rd , g un endomorphisme de L(Rd ) et P son polynome caracteristique. P se factorise en P = P+ P
o`u P a toutes ses racines de parties reelles strictement negatives et P+ a toutes ses racines de parties reelles positives ou nulles. On a la decomposition (lemme des noyaux)
suivante :
E = E E+ avec E = ker(P (A)),

E+ = ker(P+ (A)).

Alors il existe un produit scalaire h, i sur Rd et > 0 tels que ker(P (A)) ker(P+ (A))
et
x E , hg(x), xi 2hx, xi,
x E+ , hg(x), xi hx, xi.
Preuve. Soit (ei ) la base canonique de E et A la matrice de g dans cette base et soit la
decomposition de Jordan de A dans Md (C), e crite sous la forme
A = P 1 (D + N)P
o`u P GLd (C), D est diagonale et N nulle en dehors des e lements sur-diagonaux qui
peuvent e tre nuls ou e gaux a` 1. Soit en outre, pour > 0, la matrice diagonale =
diag(1 , 2, . . . , d ). Alors
P
A = P 1 1 (D + N1 )P = P 1 (D + N)
i,i+1 = ou N
i,i+1 = 0 . Soit (fi ) la base dans laquelle g a pour
o`u P GLd (C), et N
On consid`ere le produit scalaire defini sur Cd tel que si u et v sont de
matrice D + N.
composantes X et Y dans (fi ), alors
(u, v) = X Y
On a
(((g(u), v)) =

d
X

(di,i )|Xi |2 + ((NX) X))

i=1

Donc pour u ker(P (A)), il vient en notant = max(di,i )<0 (di,i )

((g(u), u)) ( + )(u, u)
et pour u ker(P+ (A))
((g(u), u)) (u, u).
Il suffit alors de prendre = = /3 et de definir le produit scalaire sur E de la mani`ere
suivante : si u et v sont deux vecteurs de E de composantes (xi ) et (yi ) dans (ei ), on note
u et v les vecteurs de composantes (xi ) et (yi ) dans la base canonique de Cd et
hu, vi = ((
u, v)) .

2.4 Preuve du theor`eme de stabilite en premi`ere approximation

Lemme 2.11 (Fonction de Lyapunov et stabilite) Soit le syst`eme dequations differentielles
y = f (y), f C 1 (Rd ; Rd ). On suppose que 0 est un e quilibre possedant une fonction de
Lyapunov stricte. Plus precisement, on suppose quil existe une boule ouverte B centree
en 0, une fonction V C 1 (Rd ; R), et un reel > 0 tels que :
0 est un minimum strict de V sur B
y B, dV (y)(f (y)) (V (y) V (0))
Alors 0 est une e quilibre asymptotiquement stable.
Preuve. Afin de simplifier quelque peu la preuve, on se concentre ici sur la cas o`u V (y) =
hy, yi, qui est le cadre dans lequel on utilisera ce lemme. On a alors
dV (y)(f (y)) = 2hy, f (y)i
En reduisant B si besoin est, on peut supposer que cest une boule pour la norme k k2 =
h, i. Soit donc y0 B et Jy0 =]T , T + [ lintervalle de definition de la solution maximale
y(t; y0) associee. On va montrer que T + = + et que pour tout t 0, ky(t; y0)k k
y0 k.
On note
X := { ]0, T + [; t [0, [, y(t; y0) B}.
Lensemble X est non-vide, car y(t; y0) est continue. Soit (t) = hy(t; y0), y(t; y0)i. Il
vient pour X et t [0, [ :
(t)

= 2hy(t; y0), y(t;

y0 )i = 2hy(t; y0), f (y(t; y0))i (t)

donc (t) et (0), i.e. ky(t; y0)k e 2 t k

y0 k. Si X e tait strictement inclus dans
+
+
]0, T [, alors on aurait sup X < T et pour tout 0 t < sup X,

ky(t; y0)k e 2 sup X k

y0 k < k
y0 k.
Par continuite de y(t; y0) il existerait donc > 0 tel pour tout t < sup X + on ait
ky(t; y0)k < k
y0 k, ce qui contredit la definition de sup X. Donc sup X = T + et y(t; y0)
est bornee sur ]0, T + [. Le theor`eme de sortie de tout compact implique alors que T + = .
Linegalite

t 0, ky(t; y0)k e 2 t k
y0 k
permet de conclure que 0 est un e quilibre asymptotiquement stable.
Preuve. [Theor`eme de stabilite en premi`ere approximation] Quitte a` considerer la
fonction f(y) = f (y + y0 ) f (y0 ), on peut supposer que y0 = 0 et poser g = df (0).
Dapr`es le theor`eme 2.10, on peut construire un produit scalaire h, i adapte a` g, tel que
pour tout y Rd , hg(y), yi 2hy, yi pour un certain > 0 (notons quici P = P
de sorte que ker P (g) = Rd ). La fonction V (y) = 12 hy, yi = 12 kyk2 est une fonction C 1
qui admet un minimum strict en 0. De plus, on a au voisinage de 0
f (y) = f (0) + df (0)y + o(y) = g(y) + o(y)

de sorte quil existe > 0 tel que pour tout kyk , kf (y) g(y)k kyk. Finalement,
pour y dans la boule de centre 0 et de rayon , on a :
dV (y)((f (y)) =
=

hy, f (y)i
hy, g(y)i + hy, f (y) g(y)i
2hy, yi + kyk kf (y) g(y)k (par Cauchy-Schwartz)
2kyk2 + kyk2 = 2V (y).

Finalement, V est une fonction de Lyapunov et on peut conclure en utilisant le theor`eme

de Lyapunov.

2.5 Preuve du theor`eme de non-stabilite en premi`ere approximation

Theor`eme 2.12 (Theor`eme de non-stabilite de Cetaev, 1934) Soit le syst`eme dequations
differentielles y = f (y), f C 1 (Rd ; Rd ). On suppose que y0 Rd est un e quilibre et
quil existe une boule ouverte B centree sur y0 , une fonction V C 1 (Rd ; R) et un
ouvert de Rd tels que :
y0
V > 0 sur et V = 0 sur
y B, dV (y)(f (y)) > 0.
Alors y0 nest pas un e quilibre stable.
Preuve. Supposons que y0 soit un e quilibre stable : il existe alors un voisinage ouvert U,
dadherence compacte contenue strictement dans B, et un voisinage ouvert W , tels que
pour tout y0 W , la solution y(t; y0) issue de y0 existe pour tout t 0 et soit enti`erement
contenue dans U.

Lintersection de W est non-vide, car y0 = \.

Soit donc y0 W : par
continuite de y(t; y0), lensemble
X := { > 0; t [0, ], y(t; y0) }
est non-vide. Par continuite encore, il est ouvert dans [0, +[. Montrons quil est aussi
car pour tout
ferme : soit (n ) X N convergeant vers [0, +[. On a y( ; y0 )
n N, y(n ; y0 ) . En outre, pour X et 0 t , on a pour (t) = V (y(t; y0))
(t)

= dV (y(t; y0))f (y(t; y0)) > 0

donc (t) > (0) = V (
y0 ) > 0. Par consequent
( ) = lim (n ) V (
y0 ) > 0.
n

y( ; y0) et
Ainsi, V (y( ; y0)) > 0, donc y( ; y0 )
/ . Comme y( ; y0) ,
X, qui est donc ferme. Finalement, X et a` la fois ouvert et ferme dans [0, +[ qui
est connexe, donc X = [0, +[ et la trajectoire y(t; y0) reste dans pour tout t 0.

Considerons maintenant
V (y) V (
K = {y U ;
y0 )}
{y Rd ; V (y)
K est compact, comme intersection du compact U , et du ferme
B et comme V ne sannule pas sur , K B, de sorte
V (
y0 )}. De plus, K U
que pour tout y K, dV (y)(f (y)) > 0 : par compacite,
:= inf dV (y)(f (y)) > 0
yK

et comme y(t; y0) K pour tout t 0, on a (t)

pour tout t 0, soit (t)

t + (0) qui tend vers + pour t +. On obtient une contradiction avec le fait que
(t) = V (y(t; y0)) sup V (y) < +.
yK

Preuve. [Theor`eme de non-stabilite en premi`ere approximation] On se ram`ene au cas

y0 = 0, et on pose g = df (0). En appliquant le theor`eme 2.10 a` g (qui poss`ede au moins
une valeur propre de partie reelle strictement negative par hypoth`ese), on peut affirmer
lexistence dun produit scalaire h, i sur Rd , de deux sous-espaces vectoriels E et F de
Rd en somme directe, et dune reel > 0 tels que
y E, hg(y), yi 2kyk2

y F, hg(y), yi kyk2.

et

On consid`ere maintenant la fonction V definie par

(y1 , y2 ) E F, V (y1 + y2 ) = ky1 k2 ky2k2
et lensemble = {y Rd , V (y) > 0}, qui est ouvert dans Rd . Finalement, comme f
est de classe C 1 , on a
f (y) = g(y) + o(y)
donc il existe > 0 tel que pour tout y B (0), on ait kf (y) g(y)k 4 kyk. Il reste
a` e tablir que dV (y)(f (y)) > 0 pour tout y B (0). Soit h = h1 + h2 E F et
y = y1 + y2 E F . On a
V (y + h) V (y) = hy1 + h1 , y1 + h1 i hy2 + h2 , y2 + h2 i hy1 , y1 i + hy2 , y2i
= 2hy1, h1 i 2hy2, h2 i + hh1 , h1 i hh2 , h2 i
donc
dV (y)(h) = 2hy1 , h1 i 2hy2 , h2 i
et
|dV (y)(h)| 2|hy1, h1 i| + 2|hy2, h2 i|
2ky1kkh1 k + 2ky2 kkh2 k
4kykkhk

car E et F e tant orthogonaux pour h, i, on a kyk2 = ky1 k2 + ky2 k2 et khk2 = kh1 k2 +

kh2 k2 . En particulier, pour y B (0) :

|dV (y)(f (y) g(y))| 4kykkf (y) g(y)k 4kyk kyk = kyk2
4
Dautre part, E et F e tant stables par g, on a pour tout y :
dV (y)(g(y)) = 2hy1 , g(y1)i 2hy2 , g(y2)i 2(2ky1k2 ky2k2 ) 2ky1 k2
o`u lon a utilise que y , donc V (y) = ky1 k2 ky2 k2 > 0. Pour y B (0), il vient
finalement
dV (y)(f (y)) = dV (y)(g(y)) + dV (y)(f (y) g(y)) 2ky1k2 kyk2 > 0
car une fois encore, y implique que kyk2 < 2ky1 k2 . On conclut par le theor`eme de
Cetaev.