Vectorisation (mathématiques)

En mathématiques, et plus particulièrement en algèbre linéaire et en théorie des matrices la vectorisation d'une matrice est une transformation linéaire qui convertit cette matrice en un vecteur. Plus précisément, la vectorisation d'une matrice A de dimension $m\times n$, notée $\operatorname {vec} (A)$, est le vecteur colonne de dimension $mn\times 1$ obtenu en empilant les colonnes de la matrice A les unes au-dessous des autres : $$\operatorname {vec} (A)=[a_{1,1},\ldots ,a_{m,1},a_{1,2},\ldots ,a_{m,2},\ldots ,a_{1,n},\ldots ,a_{m,n}]^{\mathrm {\top } }$$ Ici, $a_{i,j}$ représente l'élément situé à la i-ième ligne et à la j-ième colonne de A, et l'exposant $^{\mathrm {\top } }$ désigne la transposition. En d'autres termes, $\operatorname {vec} (A)$ est un vecteur contenant les éléments de A ordonnés colonne par colonne.

La vectorisation exprime, au moyen de coordonnées, l'isomorphisme $\mathbb {R} ^{m\times n}\cong \mathbb {R} ^{mn}$ entre ces espaces (c'est-à-dire entre l'espace des matrices et celui des vecteurs) en tant qu'espaces vectoriels.

Par exemple, pour la matrice $2\times 2$ $A={\begin{bmatrix}a&b\\c&d\end{bmatrix}}$, la vectorisation est $\operatorname {vec} (A)={\begin{bmatrix}a\\c\\b\\d\end{bmatrix}}$

Le lien entre la vectorisation d'une matrice A et celle de sa transposée est établi par la matrice de commutation (en).

Compatibilité avec le produit de Kronecker

La vectorisation est fréquemment utilisée conjointement avec le produit de Kronecker pour exprimer la multiplication matricielle sous la forme d'une transformation linéaire agissant sur des matrices. En particulier,

$\operatorname {vec} (ABC)=(C^{\mathrm {\top } }\otimes A)\operatorname {vec} (B)$

pour des matrices A, B et C de dimensions respectives k×l, l×m et m×n. Par exemple, si $\operatorname {ad} _{A}(X)=AX-XA$ (l'endomorphisme adjoint de l'algèbre de Lie gl(n, C) constituée de toutes les matrices n×n à coefficients complexes), alors

$\operatorname {vec} (\operatorname {ad} _{A}(X))=(A\otimes I_{n}-I_{n}\otimes A^{\mathrm {\top } }){\text{vec}}(X)$

où $I_{n}$ désigne la matrice identité n×n. Il existe deux autres formulations utiles :

${\begin{aligned}\operatorname {vec} (ABC)&=(I_{n}\otimes AB)\operatorname {vec} (C)=(C^{\mathrm {\top } }B^{\mathrm {\top } }\otimes I_{k})\operatorname {vec} (A)\\\operatorname {vec} (AB)&=(I_{m}\otimes A)\operatorname {vec} (B)=(B^{\mathrm {\top } }\otimes I_{k})\operatorname {vec} (A)\end{aligned}}$

Si B est une matrice diagonale (c'est-à-dire ${\textstyle B=\operatorname {diag} (b_{1},\dots ,b_{n})}$), la vectorisation peut s'écrire à l'aide du produit de Kronecker colonne par colonne ${\textstyle \ast }$ (voir produit de Khatri-Rao (en)) et de la diagonale principale ${\textstyle b={\begin{bmatrix}b_{1},\dots ,b_{n}\end{bmatrix}}^{\mathrm {\top } }}$ de B :

$\operatorname {vec} (ABC)=(C^{\mathrm {\top } }\ast A)b$

Plus généralement, il a été démontré que la vectorisation constitue une foncteur adjoint au sein de la structure monoïdale fermée de toute catégorie de matrices.

Compatibilité avec les produits de Hadamard

La vectorisation est un homomorphisme d'algèbres de l'espace des matrices n × n, muni du produit matriciel de Hadamard (produit terme à terme), vers Cⁿ², lui aussi muni de son produit de Hadamard :

$\operatorname {vec} (A\circ B)=\operatorname {vec} (A)\circ \operatorname {vec} (B)$

Compatibilité avec les produits scalaires

La vectorisation est une transformation unitaire de l'espace des matrices $n\times n$ — muni du produit scalaire de Frobenius (ou de l'opérateur de Hilbert-Schmidt (en)) — vers $\mathbb {C} ^{n^{2}}$ :

$\operatorname {tr} (A^{\dagger }B)=\operatorname {vec} (A)^{\dagger }\operatorname {vec} (B),$

où l'exposant $^{\dagger }$ désigne la matrice adjointe.

Vectorisation sous forme de somme linéaire

L'opération de vectorisation d'une matrice peut s'exprimer sous la forme d'une somme linéaire. Soit X une matrice de dimension m × n que l'on souhaite vectoriser, et soit e_i le i-ième vecteur de la base canonique de l'espace de dimension n, c'est-à-dire ${\textstyle \mathbf {e} _{i}=\left[0,\dots ,0,1,0,\dots ,0\right]^{\mathrm {T} }}$. Soit B_i une matrice par blocs de dimension (mn) × m, définie comme suit : $$\mathbf {B} _{i}={\begin{bmatrix}\mathbf {0} \\\vdots \\\mathbf {0} \\\mathbf {I} _{m}\\\mathbf {0} \\\vdots \\\mathbf {0} \end{bmatrix}}=\mathbf {e} _{i}\otimes \mathbf {I} _{m}$$

La matrice B_i est composée de n blocs de taille m × m, empilés verticalement ; tous ces blocs sont nuls, à l'exception du i-ième, qui correspond à la matrice identité I_m de taille m × m.

La version vectorisée de X peut alors s'exprimer comme suit : $$\operatorname {vec} (\mathbf {X} )=\sum _{i=1}^{n}\mathbf {B} _{i}\mathbf {X} \mathbf {e} _{i}$$

La multiplication de X par e_i permet d'extraire la i-ième colonne, tandis que la multiplication par B_i la place à la position souhaitée dans le vecteur final. Par ailleurs, la somme linéaire peut s'exprimer à l'aide du produit de Kronecker : $$\operatorname {vec} (\mathbf {X} )=\sum _{i=1}^{n}\mathbf {e} _{i}\otimes \mathbf {X} \mathbf {e} _{i}$$

Demi-vectorisation

Pour une matrice symétrique A, le vecteur vec(A) contient davantage d'informations qu'il n'est strictement nécessaire, car la matrice est entièrement déterminée par sa symétrie et par sa partie triangulaire inférieure — c'est-à-dire les n(n + 1)/2 éléments situés sur la diagonale principale et en dessous de celle-ci. Pour de telles matrices, la demi-vectorisation s'avère parfois plus utile que la vectorisation. La demi-vectorisation, notée vech(A), d'une matrice symétrique A de dimension n × n, est le vecteur colonne de dimension n(n + 1)/2 × 1 obtenu en vectorisant uniquement la partie triangulaire inférieure de A : $$\operatorname {vech} (A)=[A_{1,1},\ldots ,A_{n,1},A_{2,2},\ldots ,A_{n,2},\ldots ,A_{n-1,n-1},A_{n,n-1},A_{n,n}]^{\mathrm {\top } }.$$

Par exemple, pour la matrice 2×2 $A={\begin{bmatrix}a&b\\b&d\end{bmatrix}}$, la demi-vectorisation est $\operatorname {vech} (A)={\begin{bmatrix}a\\b\\d\end{bmatrix}}$.

Il existe des matrices uniques permettant de passer de la demi-vectorisation d'une matrice à sa vectorisation, et inversement. Elles sont appelées matrices de duplication et d'élimination (en).

Langage de programmation

Les langages de programmation qui implémentent des matrices peuvent offrir des moyens simples de vectorisation. Dans Matlab/GNU Octave, une matrice A peut être vectorisée à l'aide de A(:). GNU Octave permet également la vectorisation et la « demi-vectorisation » respectivement via vec(A) et vech(A). Le langage Julia propose aussi la fonction vec(A). En Python, les tableaux NumPy disposent de la méthode flatten, tandis qu'en R, le résultat souhaité peut être obtenu via les fonctions c() ou as.vector(), ou, de manière plus efficace, en supprimant l'attribut de dimension d'une matrice A à l'aide de dim(A) <- NULL. Dans le langage de programmation R la fonction vec() du paquet « ks » permet la vectorisation, tandis que la fonction vech() — implémentée à la fois dans les paquets « ks » et « sn » — permet la demi-vectorisation.

Applications

La vectorisation est utilisée dans le calcul matriciel et ses applications, notamment pour déterminer les moments de vecteurs et de matrices aléatoires, étudier les propriétés asymptotiques, ainsi que pour calculer des matrices jacobiennes et hessiennes. Elle est également employée dans l'analyse de sensibilité locale et les diagnostics statistiques.

Notes et références

Références

• (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Vectorization (mathematics) » (voir la liste des auteurs).