Utilisateur:Jean-Charles.Gilbert/Brouillon2

Matrice symétrique semi-définie positive

En mathématiques, et plus précisément en algèbre linéaire, une matrice symétrique semi-définie positive est une matrice réelle carrée symétrique, dont la forme quadratique associée est positive. Une matrice symétrique semi-définie positive $A$ vérifie donc

$\forall \,x\in \mathbb {R} ^{n}:\quad x^{\top }Ax\geqslant 0.$

Il y a beaucoup d'expressions équivalentes à la semi-définie positivité (propriété d'être semi-définie positive).

Certains auteurs qualifient simplement une matrice semi-définie positive de positive, mais une confusion est alors possible avec les matrices positives, celles dont tous les éléments sont positifs.

Les matrices semi-définies positives peuvent se voir comme limite de matrices définies positives. Elles peuvent être singulières (non inversibles). Elles forment un cône convexe fermé dans l'ensemble des matrices réelles symétriques.

Leurs propriétés leur font jouer un rôle singulier dans de nombreux domaines, comme l'optimisation SDP.

Notations

On note

• ${\mathcal {S}}^{n}$ l'ensemble des matrices carrées d'ordre $n$ à coefficients réels et symétriques ; c'est un espace vectoriel ; on suppose qu'il est muni du produit scalaire
  $(A,B)\in {\mathcal {S}}^{n}\times {\mathcal {S}}^{n}\mapsto \langle A,B\rangle =\operatorname {tr} (AB)\in \mathbb {R} ,$
  
  où $\operatorname {tr}$ désigne la trace ;
• ${\mathcal {S}}_{++}^{n}$ le cône de ${\mathcal {S}}^{n}$ formé des matrices définie positives ;
• ${\mathcal {R}}(A):=\{Ax:x\in \mathbb {R} ^{n}\}$ l'image d'une matrice $A\in {\mathcal {S}}^{n}$ ;
• ${\mathcal {N}}(A):=\{x\in \mathbb {R} ^{n}:Ax=0\}$ le noyau d'une matrice $A\in {\mathcal {S}}^{n}$ ;
• $A_{IJ}$ la sous-matrice de $A\in {\mathcal {S}}^{n}$ formée de ses éléments avec indices de ligne dans $I$ et indices de colonne dans $J$,
• « $\det$ » l'opérateur déterminant.

Définitions

Voici quelques définitions possibles de la semi-définie positivité d'une matrice symétrique.

Matrice semi-définie positive — On dit qu'une matrice $A\in {\mathcal {S}}^{n}$ est semi-définie positive si elle vérifie l'une des propriétés équivalentes suivantes :

1. la forme bilinéaire symétrique associée est positive : pour tout $x\in \mathbb {R} ^{n}$, $x^{\top }Ax\geqslant 0$,
2. les valeurs propres de $A$ (qui sont nécessairement réelles) sont positives,
3. tous les mineurs principaux de $A$ sont positifs : pour tout $I\subset \{1,\ldots ,n\}$ non vide, $\det A_{II}\geqslant 0$.

On note ${\mathcal {S}}_{+}^{n}$ la partie de ${\mathcal {S}}^{n}$ formée des matrices semi-définies positives.

Par l'expression 1, ${\mathcal {S}}_{+}^{n}$ peut se voir comme une intersection de demi-espaces (en nombre infini). Par l'expression 3, ${\mathcal {S}}_{+}^{n}$ peut se voir comme un ensemble semi-algébrique de base (i.e., donné par un nombre fini d'inégalités polynomiales).

Exemples

• Soit $f$ une fonction réelle de $n$ variables réelles, définie sur un ouvert de $\mathbb {R} ^{n}$, dérivable dans un voisinage d'un point $x$ de cet ouvert et deux fois dérivable en ce point. Si $f$ atteint un minimum local en $x$, sa matrice hessienne y est semi-définie positive (condition nécessaire d'optimalité du second ordre sans contrainte).

• Étant donné un vecteur aléatoire $(T_{1},\dots ,T_{n})$ à valeurs dans $\mathbb {R} ^{n}$ dont chaque composante admet une variance, on définit sa matrice des covariances :
  
  $\Gamma ={\Big (}\mathrm {cov} (T_{i},T_{j}){\Big )}\in {\mathcal {S}}^{n}.$
  Celle-ci est semi-définie positive. En effet, pour toute matrice colonne $x$ à $n$ éléments réels notés $x_{1},\dots ,x_{n}$ :
  
  $x^{\top }\Gamma x=\mathrm {Var} (x_{1}\,T_{1}+\cdots +x_{n}\,T_{n})\geqslant 0.$
  Elle est définie positive si et seulement si la seule combinaison linéaire de $T_{1},\dots ,T_{n}$ qui soit certaine est celle dont tous les coefficients sont nuls.

• Pour toute matrice réelle $A$, la matrice $A^{\top }A$ est une matrice symétrique semi-définie positive. Cette dernière matrice est définie positive si et seulement si $A$ est injective.

Propriétés

Toute matrice réelle symétrique semi-définie positive admet une unique racine carrée réelle symétrique semi-définie positive. Plus formellement :

$\forall \,S\in {\mathcal {S}}_{+}^{n},\quad \exists \,!\,T\in {\mathcal {S}}_{+}^{n},\quad T^{2}=S$.

Ce résultat se généralise aux racines $n$-ièmes.

Propriétés particulières des matrices semi-définies positives.

Propriétés particulières — Soient $A$ et $B\in {\mathcal {S}}_{+}^{n}$. Alors

1. ${\mathcal {R}}(A+B)={\mathcal {R}}(A)+{\mathcal {R}}(B)$ et ${\mathcal {N}}(A+B)={\mathcal {N}}(A)\cap {\mathcal {N}}(B)$,
2. si ${\mathcal {R}}(A)\subset {\mathcal {R}}(B)$, alors $(1-t)A+tB\in {\mathcal {S}}_{+}^{n}$ pour $t>1$ suffisamment proche de $1$,
3. les propriétés suivantes sont équivalentes :
   • $\langle A,B\rangle =0$,
   • $AB=0$,
   • ${\mathcal {R}}(A)\perp {\mathcal {R}}(B)$.

Au point 1, quels que soient les matrices $A$ et $B$ de même type, on a ${\mathcal {R}}(A+B)\subset {\mathcal {R}}(A)+{\mathcal {R}}(B)$, mais pas nécessairement l'égalité ; ainsi, si $n=1$, $A=(1)$ et $B=(-1)$, on a ${\mathcal {R}}(A+B)=\{0\}$, alors que ${\mathcal {R}}(A)+{\mathcal {R}}(B)=\mathbb {R}$. La conclusion du point 2 n'est pas garantie si ${\mathcal {R}}(A)\nsubseteq {\mathcal {R}}(B)$ ; ainsi $(1-t)\operatorname {Diag} (1,0)+t\operatorname {Diag} (0,1)=\operatorname {Diag} (1-t,t)$ n'est pas semi-définie positive, quel que soit $t>1$.

Cône SDP

Les expressions définissant la semi-définie positivité montrent clairement que

${\mathcal {S}}_{+}^{n}$ est un cône convexe fermé non vide de ${\mathcal {S}}^{n}$,

que l'on appellera cône SDP, pour simplifier. On a

${\mathcal {S}}_{+}^{n}$ est l'adhérence de ${\mathcal {S}}_{++}^{n}$ dans ${\mathcal {S}}^{n}$.

Cône tangent

Le cône tangent à ${\mathcal {S}}_{+}^{n}$ en $A\in {\mathcal {S}}_{+}^{n}$ s'écrit

$T_{A}{\mathcal {S}}_{+}^{n}=\{D\in {\mathcal {S}}^{n}:v^{\top }Dv\geqslant 0,$ pour tout $v\in {\mathcal {N}}(A)\}$.

Cône normal

On note ${\mathcal {S}}_{-}^{n}=-{\mathcal {S}}_{+}^{n}$, $\mathbb {R} \,A:=\{tA:t\in \mathbb {R} \}$ (pour $A\in {\mathcal {S}}^{n}$). Alors, le cône normal à ${\mathcal {S}}_{+}^{n}$ en $A\in {\mathcal {S}}_{+}^{n}$ s'écrit

$N_{A}{\mathcal {S}}_{+}^{n}=\{N\in {\mathcal {S}}_{-}^{n}:\langle A,N\rangle =0\}={\mathcal {S}}_{-}^{n}\cap (\mathbb {R} \,A)^{\perp }$.

Rayon extrême

Le résultat suivant est démontré par Hall et Newman (1963).

Rayon extrême — Un rayon extrême de ${\mathcal {S}}_{+}^{n}$ est de la forme $\mathbb {R} _{+}vv^{\top }$, avec $v\in \mathbb {R} ^{n}\setminus \{0\}$.

Face

La proposition suivante décrit les faces de ${\mathcal {S}}_{+}^{n}$. Celles-ci ne se réduisent pas à des rayons extrêmes, mais on en trouve de dimension $r(r+1)/2$, où $r$ est quelconque dans $[\![1,n]\!]$. On y a noté

• $\operatorname {vect} P$, le sous-espace vectoriel engendré par une partie $P$, c'est-à-dire le plus petit sous-espace vectoriel contenant $P$,
• $\operatorname {aff} P$, l'enveloppe affine d'une partie $P$, c'est-à-dire le plus petit sous-espace affine contenant $P$,
• $\operatorname {cone} P$, l'enveloppe conique d'une partie $P$, c'est-à-dire le plus petit cône convexe contenant $P$,
• $\operatorname {dim} P$, la dimension d'une partie $P$, c'est-à-dire la dimension de son enveloppe affine.

Face de ${\mathcal {S}}_{+}^{n}$ — Pour une partie $F$ de ${\mathcal {S}}^{n}$, les propriétés suivantes sont équivalentes :

1. $F$ est une face de ${\mathcal {S}}_{+}^{n}$,
2. (caractérisation par les matrices de rang $1$) $F=\operatorname {cone} \{vv^{\top }:v\in E\}$, où $E$ est un sous-espace vectoriel de $\mathbb {R} ^{n}$ ; dans ce cas,
   • $\operatorname {aff} F=\operatorname {vect} \{vv^{\top }:v\in E\}$,
   • $\operatorname {dim} F=d(d+1)/2$ où $d:=\operatorname {dim} E$ ;
3. (caractérisation par l'image) $F=\{A\in {\mathcal {S}}_{+}^{n}:{\mathcal {R}}(A)\subset E\}$, où $E$ est un sous-espace vectoriel de $\mathbb {R} ^{n}$ ; dans ce cas,
   • $\operatorname {aff} F=\{A\in {\mathcal {S}}^{n}:{\mathcal {R}}(A)\subset E\}$,
   • $\operatorname {dim} F=d(d+1)/2$ où $d:=\operatorname {dim} E$ ;
4. (caractérisation par le noyau) $F=\{A\in {\mathcal {S}}_{+}^{n}:E\subset {\mathcal {N}}(A)\}$, où $E$ est un sous-espace vectoriel de $\mathbb {R} ^{n}$ ; dans ce cas,
   • $\operatorname {aff} F=\{A\in {\mathcal {S}}^{n}:E\subset {\mathcal {N}}(A)\}$,
   • $\operatorname {dim} F=d(d+1)/2$ où $d:=n-\operatorname {dim} E$.

Ce résultat a de nombreux corollaires. En voici quelques uns.

Exposition des faces de ${\mathcal {S}}_{+}^{n}$ — Toute face $F$ de ${\mathcal {S}}_{+}^{n}$ est exposée : il existe $S\in {\mathcal {S}}^{n}$ telle que $F=\operatorname {arg\,min} \{\langle S,A\rangle :A\in {\mathcal {S}}_{+}^{n}\}$.

Si la face $F$ a pour expression $F=\{A\in {\mathcal {S}}_{+}^{n}:{\mathcal {R}}(A)\subset E\}$, il suffit de prendre $S=\sum _{i}w_{i}w_{i}^{\top }$, où $\{w_{i}\}$ est une base de $E^{\perp }$.

On note $F(A)$ la face de ${\mathcal {S}}_{+}^{n}$ engendrée par $A\in {\mathcal {S}}_{+}^{n}$, c'est-à-dire la plus petite face de ${\mathcal {S}}_{+}^{n}$ qui contient $A$.

Face de ${\mathcal {S}}_{+}^{n}$ engendrée par une matrice — Si $A\in {\mathcal {S}}_{+}^{n}$, on a

$F(A)=\{B\in {\mathcal {S}}_{+}^{n}:{\mathcal {R}}(B)\subset {\mathcal {R}}(A)\}=\{B\in {\mathcal {S}}_{+}^{n}:{\mathcal {N}}(A)\subset {\mathcal {N}}(B)\}.$

Annexes

Bibliographie

• (en) M. Hall, M. Newman (1963). Copositive and completely positive quadratic forms. Proceedings Cambridge Philos. Soc., 59, 329–339.