Mathématiques universitaires — Licence 1 · Bachelor Year 1

20Applications linéaires

Entre espaces vectoriels, les applications qui méritent d’être étudiées sont celles qui respectent la structure : les applications linéaires. Leurs deux sous-espaces fondamentaux — noyau et image — mesurent l’injectivité et la surjectivité, et en dimension finie le théorème du rang relie leurs tailles par une loi de conservation. Projections et symétries, puis formes linéaires et hyperplans, achèvent le chapitre.

20.1 Définitions et premières propriétés

Définition 20.1

Soient $E, F$ des $K$ -espaces vectoriels. Une application $u \colon E \to F$ est linéaire lorsque

\forall x, y \in E,\ \forall \lambda \in K, \qquad u(x + \lambda y) = u(x) + \lambda u(y).

On a alors $u(0) = 0$ et $u(\sum \lambda_i x_i) = \sum \lambda_i u(x_i)$ . L’ensemble $\mathcal{L}(E, F)$ des applications linéaires est lui-même un espace vectoriel ; la composée d’applications linéaires est linéaire, et bilinéaire en le couple. Un endomorphisme est une application linéaire $E \to E$ ; un isomorphisme est une application linéaire bijective (sa réciproque est alors automatiquement linéaire) ; l’application $u^{-1}$ d’un isomorphisme, les composées d’isomorphismes, sont des isomorphismes.

Démonstration du fait que la réciproque est linéaire. Soient $u$ linéaire bijective, $y, y' \in F$ et $\lambda \in K$ . Posons $x = u^{-1}(y)$ et $x' = u^{-1}(y')$ . Alors

u\bigl(x + \lambda x'\bigr) = u(x) + \lambda u(x') = y + \lambda y' ,

et en appliquant $u^{-1}$ aux deux extrémités : $u^{-1}(y + \lambda y') = x + \lambda x' = u^{-1}(y) + \lambda\,u^{-1}(y')$ . Rien de $u^{-1}$ n’a été calculé : la linéarité se transporte par la seule propriété caractéristique de $u$ — un schéma à retenir, car la structure voyage souvent gratuitement le long des bijections. ∎

Proposition 20.2 (Une application linéaire est connue sur une base)

Soient $(e_1, \dots, e_n)$ une base de $E$ et $(v_1, \dots, v_n)$ des vecteurs quelconques de $F$ . Il existe exactement une application linéaire $u \colon E \to F$ telle que $u(e_i) = v_i$ pour tout $i$ . De plus :

u \text{ injective} \iff (v_i) \text{ libre}; \qquad u \text{ surjective} \iff (v_i) \text{ engendre } F .

Démonstration. Existence et unicité : tout $x$ a des coordonnées uniques $x = \sum \lambda_i e_i$ (Proposition 18.15) ; la linéarité impose $u(x) = \sum \lambda_i v_i$ , et cette formule définit bien une application linéaire.

Injectivité : d’après la Proposition 20.5 ci-dessous, $u$ est injective si et seulement si son noyau est réduit à $\{0\}$ . Or $u\bigl(\sum\lambda_i e_i\bigr) = 0$ signifie exactement $\sum\lambda_i v_i = 0$ . Si $(v_i)$ est libre, cela force tous les $\lambda_i = 0$ , c’est-à-dire que le noyau se réduit à $0$ : $u$ est injective. Si $(v_i)$ est liée, une relation non triviale $\sum\lambda_i v_i = 0$ produit le vecteur non nul $\sum\lambda_i e_i$ dans le noyau ( $(e_i)$ est libre) : $u$ n’est pas injective. Les deux conditions se correspondent terme à terme.

Surjectivité : l’image de $u$ est l’ensemble des $\sum\lambda_i v_i$ , c’est-à-dire exactement $\operatorname{Vect}(v_1, \dots, v_n)$ , qui vaut $F$ si et seulement si la famille est génératrice. ∎

Définition 20.3 (Noyau et image)

Pour $u \in \mathcal{L}(E, F)$ :

\ker u = \{x \in E : u(x) = 0\} \subseteq E, \qquad \operatorname{im} u = u(E) \subseteq F ,

tous deux sous-espaces vectoriels (vérification directe avec le critère).

Méthode 20.4 (Noyau et image, en pratique)

Noyau : écrire $u(x) = 0$ comme un système portant sur les coordonnées (ou les coefficients) de $x$ , le résoudre et le paramétrer — le noyau sort avec une base attachée (Méthode 19.10). Image : c’est le sous-espace engendré par les images de n’importe quelle famille génératrice de $E$ — en général une base, donc $\operatorname{im} u = \operatorname{Vect}\bigl(u(e_1), \dots, u(e_n)\bigr)$ ; on élimine ensuite les images redondantes pour en extraire une base. Raccourci : calculer celui des deux qui est le plus facile et obtenir gratuitement la dimension de l’autre par le théorème du rang (Théorème 20.7) ; lorsqu’on connaît un sous-espace candidat plausible pour l’image, la comparaison des dimensions transforme l’inclusion facile en égalité (Théorème 19.14). Les deux raccourcis sont utilisés dans l’Exemple 20.11 ci-dessous.

Proposition 20.5

$u$ est injective $\iff$ $\ker u = \{0\}$ ; $u$ est surjective $\iff$ $\operatorname{im} u = F$ .

Démonstration. Comme pour les groupes (Proposition 7.11) : $u(x) = u(y) \iff u(x - y) = 0 \iff x - y \in \ker u$ . Le second point est la définition. ∎

20.2 Le théorème du rang

Définition 20.6

Le rang de $u \in \mathcal{L}(E, F)$ (avec $E$ de dimension finie) est $\operatorname{rk} u = \dim \operatorname{im} u$ — c’est aussi le rang de la famille $\bigl(u(e_1), \dots, u(e_n)\bigr)$ pour n’importe quelle base $(e_i)$ de $E$ .

Théorème 20.7 (Théorème du rang)

Soient $E$ de dimension finie et $u \in \mathcal{L}(E, F)$ . Alors

\dim E = \dim \ker u + \operatorname{rk} u .

Plus précisément, si $S$ est un supplémentaire quelconque de $\ker u$ dans $E$ , alors $u$ induit par restriction un isomorphisme de $S$ sur $\operatorname{im} u$ .

Démonstration. Soit $S$ tel que $E = \ker u \oplus S$ (Théorème 19.14), et soit $v \colon S \to \operatorname{im} u$ la restriction de $u$ .

$v$ est injective : $\ker v = S \cap \ker u = \{0\}$ .

$v$ est surjective : tout $u(x)$ avec $x = k + s$ ( $k \in \ker u$ , $s \in S$ ) vaut $u(s) = v(s)$ .

Donc $v$ est un isomorphisme ; un isomorphisme envoie une base sur une base (Proposition 20.2), donc $\dim S = \dim\operatorname{im} u$ , et $\dim E = \dim\ker u + \dim S$ conclut. ∎

Exemple 20.8 (Construire une application sur cahier des charges)

Construisons $u \in \mathcal{L}(\R^3)$ avec $\ker u = \operatorname{Vect}(1,1,1)$ et $\operatorname{im} u = \{z = 0\}$ . Vérification d’abord : le théorème du rang exige $1 + 2 = 3$ — c’est cohérent, donc une solution peut exister. Choisissons une base adaptée au noyau, disons $\bigl((1,1,1),\ e_1,\ e_2\bigr)$ (Exemple 19.7), et prescrivons les images (Proposition 20.2) :

u(1,1,1) = 0, \qquad u(e_1) = e_1, \qquad u(e_2) = e_2 .

Alors $\ker u \supseteq \operatorname{Vect}(1,1,1)$ et $\operatorname{im} u = \operatorname{Vect}(e_1, e_2) = \{z = 0\}$ ; le théorème du rang force $\dim\ker u = 1$ , donc le noyau est exactement la droite prescrite. Explicitement, en décomposant $(x, y, z) = z(1,1,1) + (x - z)e_1 + (y - z)e_2$ :

u(x, y, z) = (x - z,\ y - z,\ 0).

La recette se généralise : une application linéaire de noyau prescrit $N$ et d’image prescrite $I$ existe exactement lorsque $\dim N + \dim I = \dim E$ — la nécessité est le théorème du rang, la suffisance est cette construction.

Corollaire 20.9

Si $\dim E = \dim F$ (finie), alors pour $u \in \mathcal{L}(E, F)$ :

u \text{ injective} \iff u \text{ surjective} \iff u \text{ bijective}.

En particulier cela vaut pour les endomorphismes en dimension finie. (C’est faux en dimension infinie : sur $K[X]$ , la dérivation est surjective mais non injective, et $P \mapsto XP$ est injective mais non surjective.)

Démonstration. Injective $\iff \dim\ker u = 0 \iff \operatorname{rk} u = \dim E = \dim F \iff \operatorname{im} u = F$ (un sous-espace de dimension égale à celle de l’espace est l’espace tout entier, Théorème 19.14) $\iff$ surjective. ∎

Exemple 20.10 (L’interpolation, structurellement)

Fixons $x_0, \dots, x_n$ distincts et soit $u \colon \R_n[X] \to \R^{n+1}$ , $P \mapsto (P(x_0), \dots, P(x_n))$ : elle est linéaire. Son noyau est $\{P : \deg P \leq n,\ n+1 \text{ racines}\} = \{0\}$ (Corollaire 8.8). Dimensions égales $n + 1$ : $u$ est un isomorphisme — existence et unicité du polynôme d’interpolation de Lagrange (Théorème 8.23) en une ligne.

Le même schéma en une ligne traite des données mêlant valeurs et dérivées : $v \colon \R_3[X] \to \R^4$ , $P \mapsto \bigl(P(0), P'(0), P(1), P'(1)\bigr)$ est linéaire, et son noyau est formé des polynômes de degré $\leq 3$ ayant une racine double en $0$ et en $1$ , c’est-à-dire divisibles par $X^2(X-1)^2$ , de degré $4$ : seul $P = 0$ convient. Dimensions égales à nouveau : tout quadruplet de données $(P(0), P'(0), P(1), P'(1))$ est réalisé par exactement une cubique — l’interpolation d’Hermite, acquise par un calcul de noyau avant qu’aucune formule ne soit écrite (le devoir maison du Chapitre 22 y rencontre son déterminant).

Exemple 20.11 (Le théorème du rang à l’œuvre : l’opérateur de différence)

Soit $\Delta \colon \R_n[X] \to \R_n[X]$ , $P \mapsto P(X+1) - P(X)$ : elle est linéaire. Noyau : si $\Delta P = 0$ , alors $P(0) = P(1) = P(2) = \dots$ , donc $P - P(0)$ a une infinité de racines et est nul (Corollaire 8.8) : $\ker\Delta$ est la droite des constantes. Théorème du rang : $\operatorname{rk}\Delta = (n + 1) - 1 = n$ . Comme $\deg \Delta P < \deg P$ pour $P$ non constant (les termes de plus haut degré s’annulent), $\operatorname{im}\Delta \subseteq \R_{n-1}[X]$ , qui est de dimension exactement $n$ : l’inclusion est une égalité. Conclusion, sans aucun calcul d’images réciproques : tout polynôme $Q$ de degré $\leq n - 1$ est une différence $Q = P(X+1) - P(X)$ — la primitive discrète existe. (Comparer avec le devoir maison du Chapitre 18, où $\Delta$ était inversé explicitement dans la base binomiale.)

Exemple 20.12 (Comptabilité du rang le long d’une composée)

Sur $\R_2[X]$ , composons la dérivation $D(P) = P'$ (de rang $2$ : image $\R_1[X]$ , noyau les constantes) avec elle-même. Alors $D \circ D = D^2$ envoie $P \mapsto P''$ , d’image $\R_0[X]$ : de rang $1$ . Comparons avec les bornes générales : la borne grossière donne $\operatorname{rk} D^2 \leq \min(2, 2) = 2$ ; la formule exacte de l’Exercice 20.12 rend compte de la perte avec précision,

\operatorname{rk} D^2 = \operatorname{rk} D - \dim\bigl(\ker D \cap \operatorname{im} D\bigr) = 2 - 1 = 1 ,

puisque les constantes (noyau du $D$ extérieur) sont contenues dans $\R_1[X]$ (image du $D$ intérieur) avec la dimension $1$ . Le rang se perd exactement là où le noyau extérieur tend une embuscade à l’image intérieure — la phrase à retenir quand les rangs des composées se comportent mal.

Exemple 20.13 (Noyau et image de l’opérateur d’Euler)

Sur $\R_n[X]$ , soit $u(P) = X\,P'$ (linéaire : la dérivation et la multiplication par $X$ le sont). Noyau : $XP' = 0$ force $P' = 0$ (un produit de polynômes est nul seulement si l’un des facteurs l’est), donc $\ker u$ est la droite des constantes. Image : sur la base monomiale,

u(X^k) = k\,X^{k} \qquad (k = 0, 1, \dots, n),

donc $\operatorname{im} u = \operatorname{Vect}(X, 2X^2, \dots, nX^n) = \operatorname{Vect}(X, X^2, \dots, X^n)$ : les polynômes de terme constant nul. Vérification avec le théorème du rang : $\operatorname{rk} u = (n + 1) - 1 = n$ , ce qui est bien la dimension trouvée. Deux remarques méritent d’être retenues. D’abord, ici $\operatorname{im} u \oplus \ker u = \R_n[X]$ — mais c’est un heureux hasard propre à cet opérateur, pas un théorème : pour $v(P) = P'$ sur $\R_1[X]$ , qui ressemble à un décalage, $\ker v = \operatorname{im} v = \R_0[X]$ et la somme n’est pas directe. Ensuite, la relation $u(X^k) = kX^k$ dit que chaque monôme est simplement multiplié par un scalaire sous $u$ — une base adaptée à l’application, germe de l’idée de valeur propre développée dans le volume de Licence 2.

20.3 Projections et symétries

Définition 20.14

Soit $E = F \oplus G$ . La projection sur $F$ parallèlement à $G$ envoie $x = f + g$ (décomposition unique) sur $p(x) = f$ ; la symétrie associée est $s(x) = f - g$ . Toutes deux sont linéaires, et $s = 2p - \mathrm{id}$ .

Théorème 20.15 (Caractérisation algébrique)

Un endomorphisme $p$ est une projection (sur un certain $F$ parallèlement à un certain $G$ ) si et seulement si $p \circ p = p$ ; alors $F = \operatorname{im} p = \ker(p - \mathrm{id})$ et $G = \ker p$ .
Un endomorphisme $s$ est une symétrie si et seulement si $s \circ s = \mathrm{id}$ ; alors $E = \ker(s - \mathrm{id}) \oplus \ker(s + \mathrm{id})$ .

Démonstration. (1) Une projection vérifie $p(f + g) = f$ et $p(f) = f$ : $p^2 = p$ . Réciproquement, soit $p^2 = p$ ; posons $F = \operatorname{im} p$ , $G = \ker p$ . Tout $x$ s’écrit $x = p(x) + (x - p(x))$ avec $p(x) \in F$ et $p\bigl(x - p(x)\bigr) = p(x) - p^2(x) = 0$ : $E = F + G$ . Si $y \in F \cap G$ : $y = p(z)$ et $p(y) = 0$ , donc $y = p(z) = p^2(z) = p(y) = 0$ : la somme est directe, et $p$ est la projection sur $F$ parallèlement à $G$ . Enfin sur $F$ : $y = p(z)$ donne $p(y) = y$ , donc $F \subseteq \ker(p - \mathrm{id})$ , et réciproquement $p(y) = y$ place $y$ dans l’image.

(2) La correspondance $s = 2p - \mathrm{id}$ , $p = \frac{s + \mathrm{id}}2$ est une bijection entre endomorphismes, et par elle

s^2 = 4p^2 - 4p + \mathrm{id} = \mathrm{id} \iff 4p^2 = 4p \iff p^2 = p :

les symétries correspondent exactement aux projections. Traduisons les sous-espaces : $s(x) = x \iff p(x) = x$ , donc $\ker(s - \mathrm{id}) = \operatorname{im} p = F$ ; et $s(x) = -x \iff 2p(x) = 0 \iff x \in \ker p = G$ , donc $\ker(s + \mathrm{id}) = G$ . La somme directe $E = F \oplus G$ du point (1) devient la décomposition annoncée en vecteurs fixes et vecteurs retournés de $s$ . ∎

Exemple 20.16 (Une projection et sa symétrie, explicitement)

Dans $\R^2$ , projetons sur $F = \operatorname{Vect}(1,1)$ parallèlement à $G = \operatorname{Vect}(0,1)$ . Décomposons $(x, y) = a(1,1) + b(0,1)$ : la première coordonnée donne $a = x$ , la seconde $b = y - x$ . D’où

p(x, y) = (x, x), \qquad s(x, y) = 2p(x,y) - (x,y) = (x,\ 2x - y).

Vérifions l’algèbre : $p(p(x,y)) = p(x,x) = (x,x)$ , et $s(s(x,y)) = s(x, 2x - y) = (x, 2x - (2x - y)) = (x, y)$ . Géométriquement, $s$ est la « réflexion oblique » par rapport à la droite $y = x$ dans la direction verticale : elle fixe $F$ point par point et retourne $G$ . Si nous avions projeté sur le même $F$ parallèlement à $G' = \operatorname{Vect}(1,-1)$ , la formule deviendrait $p'(x,y) = \bigl(\frac{x+y}2, \frac{x+y}2\bigr)$ : une projection est déterminée par son image et par son noyau, jamais par la seule image.

La projection sur F = Vect(1,1) parallèlement à G = Vect(0,1) et sa symétrie, sur le point M = (2,\ 0.5) : en glissant verticalement, M atteint F en p(M) = (2,2) et arrive en s(M) = 2p(M) - M = (2,\ 3.5), aussi loin au-dessus de F (mesuré le long de G) que M était en dessous. — La projection sur $F = \operatorname{Vect}(1,1)$ parallèlement à $G = \operatorname{Vect}(0,1)$ et sa symétrie, sur le point $M = (2,\ 0.5)$ : en glissant verticalement, $M$ atteint $F$ en $p(M) = (2,2)$ et arrive en $s(M) = 2p(M) - M = (2,\ 3.5)$ , aussi loin au-dessus de $F$ (mesuré le long de $G$ ) que $M$ était en dessous.

20.4 Formes linéaires et hyperplans

Définition 20.17

Une forme linéaire sur $E$ est une application linéaire $\varphi \colon E \to K$ . Un hyperplan de $E$ ( $\dim E = n$ ) est un sous-espace de dimension $n - 1$ .

Exemple 20.18 (Une forme d’évaluation et son hyperplan)

Sur $\R_2[X]$ , l’évaluation $\varphi(P) = P(2)$ est une forme linéaire, non nulle ( $\varphi(1) = 1$ ). Son noyau est l’hyperplan des polynômes s’annulant en $2$ , c’est-à-dire (théorème de factorisation, Théorème 8.7) les multiples de $X - 2$ à l’intérieur de $\R_2[X]$ :

\ker\varphi = \operatorname{Vect}\bigl(X - 2,\ X(X - 2)\bigr), \qquad \dim = 2 .

En coordonnées dans la base $(1, X, X^2)$ , $\varphi(a + bX + cX^2) = a + 2b + 4c$ : toute forme linéaire sur un espace de dimension finie est, une fois une base fixée, une expression linéaire fixe en les coordonnées — les formes sont des « vecteurs lignes », ce que le Chapitre 21 rendra littéral, et la ligne de coefficients obtenue ici, $(1, 2, 4)$ , est une ligne de Vandermonde : les formes d’évaluation sont la porte par laquelle la théorie de l’interpolation du devoir maison du Chapitre 22 entre en algèbre linéaire.

Théorème 20.19

Les hyperplans de $E$ sont exactement les noyaux des formes linéaires non nulles. Deux formes non nulles ont le même noyau si et seulement si elles sont proportionnelles.

Démonstration. Si $\varphi \neq 0$ : $\operatorname{rk}\varphi = 1$ (l’image est un sous-espace non nul de $K$ ), donc $\dim\ker\varphi = n - 1$ : c’est un hyperplan. Réciproquement, soient $H$ un hyperplan, $(e_1, \dots, e_{n-1})$ une base de $H$ complétée par $e_n$ : la forme « dernière coordonnée » a pour noyau $H$ .

Deux formes proportionnelles ont le même noyau. Réciproquement, supposons $\ker\varphi = \ker\psi = H$ et choisissons $a \notin H$ : tout $x$ s’écrit $x = h + \lambda a$ (car $E = H \oplus Ka$ ), et

\varphi(x) = \lambda \varphi(a), \qquad \psi(x) = \lambda\psi(a):

donc $\varphi = \frac{\varphi(a)}{\psi(a)}\,\psi$ . ∎

Exemple 20.20

Dans $K^n$ , un hyperplan est un ensemble de solutions $\{a_1 x_1 + \dots + a_n x_n = 0\}$ avec les $a_i$ non tous nuls — l’équation familière d’un plan passant par l’origine dans $\R^3$ . Dans les espaces de fonctions, les formes d’évaluation $P \mapsto P(1)$ ou $f \mapsto \int_0^1 f$ définissent des hyperplans de $\R_n[X]$ , de $C(\intcc{0}{1})$ (cf. Exercice 19.6).

Exemple 20.21 (Un hyperplan, traité de trois façons)

Prenons $\varphi(x, y, z) = x - 2y + 3z$ sur $\R^3$ et $H = \ker\varphi$ . Base : résolvons $x = 2y - 3z$ :

(2y - 3z,\ y,\ z) = y\,(2, 1, 0) + z\,(-3, 0, 1),

deux vecteurs libres : $\dim H = 2$ , un hyperplan, comme le Théorème 20.19 le prédit à partir de $\varphi \neq 0$ . Droite supplémentaire : tout vecteur hors de $H$ en engendre une, par exemple $a = (1, 0, 0)$ ( $\varphi(a) = 1 \neq 0$ ) ; la décomposition d’un $v$ arbitraire est explicite :

v = \underbrace{\bigl(v - \varphi(v)\,a\bigr)}_{\in\,H} + \underbrace{\varphi(v)\,a}_{\in\,\operatorname{Vect}(a)},

puisque $\varphi\bigl(v - \varphi(v)a\bigr) = \varphi(v) - \varphi(v)\varphi(a) = 0$ . Proportionnalité : si $\psi(x,y,z) = -2x + 4y - 6z$ , alors $\psi = -2\varphi$ et toutes deux ont pour noyau $H$ ; réciproquement, toute forme s’annulant sur $H$ est un multiple de $\varphi$ (Exercice 20.8) — l’équation d’un hyperplan est unique à un scalaire près, fait utilisé constamment pour les plans en géométrie.

Remarque 20.22 (Pièges classiques)

Le noyau et l’image vivent dans des espaces différents : $\ker u \subseteq E$ , $\operatorname{im} u \subseteq F$ ; la somme $\ker u + \operatorname{im} u$ n’a de sens que pour les endomorphismes, et même alors elle n’est pas nécessairement directe ( $u(x, y) = (y, 0)$ vérifie $\ker u = \operatorname{im} u$ ; l’Exercice 20.7 caractérise les cas où elle l’est). $u^2 = 0$ ne signifie pas $u = 0$ : le même $u(x,y) = (y, 0)$ a un carré nul sans être nul — ce que $u^2 = 0$ dit vraiment, c’est $\operatorname{im} u \subseteq \ker u$ (Exercice 20.5). L’équivalence injective $\iff$ surjective exige des dimensions finies égales : sur $K[X]$ , la dérivation est surjective et non injective, $P \mapsto XP$ injective et non surjective (Corollaire 20.9) ; et entre espaces de dimensions différentes, l’une des implications est tout simplement impossible ( $\operatorname{rk} u \leq \min(\dim E, \dim F)$ ). Prescrire des images marche sur une base, pas sur une famille quelconque : exiger $u(1, 0) = a$ , $u(0, 1) = b$ , $u(1, 1) = c$ surdétermine $u$ sauf si $c = a + b$ ; une application linéaire est libre sur une base, asservie partout ailleurs. Le rang n’est pas préservé par composition : il ne peut que chuter, $\operatorname{rk}(vu) \leq \min(\operatorname{rk} u, \operatorname{rk} v)$ (Exercice 20.4), la perte exacte étant mesurée dans l’Exercice 20.12.

Remarque 20.23 (Où ces applications mènent)

Les applications linéaires sont sur le point de devenir des matrices : une fois des bases fixées, le Chapitre 21 code tout $u \in \mathcal{L}(E, F)$ par un tableau rectangulaire, et la composition devient le produit matriciel — le théorème du rang gouverne alors la théorie des systèmes linéaires du Chapitre 22. Les projections reviennent au Chapitre 23 dans leur cas particulier le plus utile, la projection orthogonale, où le noyau est choisi perpendiculaire à l’image. Le devoir maison ci-dessous pousse l’algèbre des projecteurs aussi loin que les outils de première année le permettent, jusqu’au lemme de Fitting ; le volume de Licence 2 va plus loin avec la trace et la théorie des valeurs propres, pour laquelle les projecteurs sur des sous-espaces stables sont les briques de base.

Remarque 20.24 (Perspectives à l’intérieur du livre 3 : le théorème du rang trois fois de plus)

La loi de conservation $\dim E = \dim\ker u + \operatorname{rk} u$ sera relue trois fois avant la fin du volume. Au Chapitre 22 elle devient la forme des ensembles de solutions : un système compatible à $p$ inconnues et de rang $r$ a un ensemble de solutions de dimension $p - r$ — une dimension de noyau déguisée. Au Chapitre 23 elle se scinde orthogonalement, $\dim F + \dim F^\perp = \dim E$ , et alimente tout calcul de distance. Dans le devoir maison du Chapitre 25, elle est la comptable des moindres carrés : $n$ observations, $2$ paramètres ajustés, $n - 2$ dimensions de résidus, et l’identité de Pythagore $\norm b^2 = \norm p^2 + \norm{b - p}^2$ est l’ombre euclidienne du théorème du rang. Un théorème, quatre costumes.

20.5 Exercices

Exercice 20.1 ★

Quelles applications sont linéaires ?

$\R^2 \to \R^2$ , $(x, y) \mapsto (x + y, x - 2y)$ ;
$\R^2 \to \R$ , $(x, y) \mapsto xy$ ;
$\R[X] \to \R[X]$ , $P \mapsto P' + XP$ ;
$\mathcal{F}(\R,\R) \to \R$ , $f \mapsto f(3)$ .

Solution

Solution de Exercice 20.1.

(1) Linéaire : les coordonnées sont des expressions linéaires. (2) Non linéaire : $u(2(1,1)) = 4 \neq 2 = 2u(1,1)$ . (3) Linéaire : la dérivation et la multiplication par $X$ le sont, et les sommes d’applications linéaires le sont. (4) Linéaire : l’évaluation respecte les opérations ponctuelles.

Exercice 20.2 ★

Soit $u \colon \R^3 \to \R^3$ , $(x,y,z) \mapsto (x + y - z,\; 2x + y + z,\; 3x + 2y)$ . Déterminer $\ker u$ (base, dimension), $\operatorname{rk} u$ , et une base de $\operatorname{im} u$ . L’application $u$ est-elle injective ? surjective ?

Solution

Solution de Exercice 20.2.

Noyau : résolvons $x + y - z = 0$ , $2x + y + z = 0$ , $3x + 2y = 0$ . La troisième donne $y = -\frac{3x}{2}$ ; la première donne $z = x + y = -\frac x2$ ; vérifions dans la deuxième : $2x - \frac{3x}{2} - \frac x2 = 0$ : c’est satisfait. Donc $\ker u = \operatorname{Vect}\bigl((2, -3, -1)\bigr)$ (en prenant $x = 2$ ), de dimension $1$ .

Théorème du rang : $\operatorname{rk} u = 3 - 1 = 2$ . Image : engendrée par les images de la base canonique, $u(e_1) = (1,2,3)$ , $u(e_2) = (1,1,2)$ , $u(e_3) = (-1,1,0)$ ; les deux premières sont libres, et le rang vaut $2$ : base $\bigl((1,2,3), (1,1,2)\bigr)$ .

Non injective ( $\ker \neq \{0\}$ ), non surjective (rang $2 < 3$ ) : cohérent avec le Corollaire 20.9.

Exercice 20.3 ★

Soit $u \colon \R_n[X] \to \R_n[X]$ , $P \mapsto P - P'$ . Démontrer que $u$ est un isomorphisme : une fois via $\ker u$ , une fois en exhibant la réciproque (considérer $P + P' + P'' + \dots$ ).

Solution

Solution de Exercice 20.3.

Noyau : $P = P'$ force $\deg P = \deg P'$ sauf si $P = 0$ ; or $\deg P' < \deg P$ pour $P \neq 0$ : donc $\ker u = \{0\}$ , et $u$ , endomorphisme injectif de $\R_n[X]$ qui est de dimension finie, est un isomorphisme (Corollaire 20.9).

Réciproque : posons $v(P) = P + P' + P'' + \dots + P^{(n)}$ (somme finie sur $\R_n[X]$ ). Alors

v\bigl(u(P)\bigr) = \sum_{k=0}^{n} (P - P')^{(k)} = \sum_{k=0}^{n} P^{(k)} - \sum_{k=0}^{n} P^{(k+1)} = P - P^{(n+1)} = P ,

par télescopage, puisque $P^{(n+1)} = 0$ . Donc $v = u^{-1}$ .

Exercice 20.4 ★

Soient $u \in \mathcal{L}(E, F)$ et $v \in \mathcal{L}(F, G)$ , les espaces étant de dimension finie. Démontrer :

\operatorname{rk}(v \circ u) \leq \min\bigl(\operatorname{rk} u,\ \operatorname{rk} v\bigr).

Solution

Solution de Exercice 20.4.

$\operatorname{im}(v \circ u) = v(\operatorname{im} u) \subseteq \operatorname{im} v$ : le rang est $\leq \operatorname{rk} v$ . Et $v$ restreinte à $\operatorname{im} u$ a pour image $\operatorname{im}(vu)$ ; le théorème du rang appliqué dans $\operatorname{im} u$ donne : $\operatorname{rk}(vu) \leq \dim\operatorname{im} u = \operatorname{rk} u$ .

Exercice 20.5 ★★

Soit $u$ un endomorphisme de $E$ (de dimension finie) avec $u^2 = 0$ . Démontrer que $\operatorname{im} u \subseteq \ker u$ , d’où $\operatorname{rk} u \leq \frac{\dim E}{2}$ . Pour $E = \R^2$ , donner un exemple où il y a égalité.

Solution

Solution de Exercice 20.5.

$u^2 = 0$ signifie $u(u(x)) = 0$ pour tout $x$ : tout $u(x)$ est dans $\ker u$ , c’est-à-dire $\operatorname{im} u \subseteq \ker u$ . Puis le théorème du rang :

\dim E = \dim\ker u + \operatorname{rk} u \geq 2\operatorname{rk} u .

Exemple d’égalité dans $\R^2$ : $u(x, y) = (y, 0)$ : $u^2 = 0$ , $\operatorname{rk} u = 1 = \frac{\dim E}{2}$ .

Exercice 20.6 ★★

Soient $p, q$ des projections de $E$ avec $p \circ q = q \circ p$ . Démontrer que $p \circ q$ est une projection, avec

\operatorname{im}(pq) = \operatorname{im} p \cap \operatorname{im} q , \qquad \ker (pq) = \ker p + \ker q .

Solution

Solution de Exercice 20.6.

$(pq)^2 = pqpq = ppqq = pq$ (commutation) : c’est une projection (Théorème 20.15).

Image : $\operatorname{im}(pq) \subseteq \operatorname{im} p$ , et $= \operatorname{im}(qp) \subseteq \operatorname{im} q$ : elle est contenue dans l’intersection. Réciproquement, si $x \in \operatorname{im} p \cap \operatorname{im} q$ , alors $p(x) = x$ et $q(x) = x$ (les points fixes caractérisent l’image d’une projection), donc $pq(x) = x$ : $x \in \operatorname{im}(pq)$ .

Noyau : $\ker p \subseteq \ker(qp) = \ker(pq)$ et de même $\ker q \subseteq \ker(pq)$ : la somme est contenue. Réciproquement, soit $pq(x) = 0$ , et écrivons

x = \underbrace{q(x)}_{\in\, \ker p} + \underbrace{(x - q(x))}_{\in\, \ker q} :

le premier terme vérifie $p(q(x)) = 0$ , donc il est dans $\ker p$ ; le second est dans $\ker q$ puisque $q(x - q(x)) = q(x) - q^2(x) = 0$ . D’où $x \in \ker p + \ker q$ .

Exercice 20.7 ★★

Soit $u \in \mathcal{L}(E)$ , $E$ de dimension finie. Démontrer l’équivalence de :

$E = \ker u \oplus \operatorname{im} u$ ;
$\ker u = \ker u^2$ ;
$\operatorname{im} u = \operatorname{im} u^2$ .

Solution

Solution de Exercice 20.7.

Remarquons d’abord les inclusions générales $\ker u \subseteq \ker u^2$ et $\operatorname{im} u^2 \subseteq \operatorname{im} u$ , et, par le théorème du rang, (2) $\iff$ (3) (noyaux égaux $\iff$ rangs égaux $\iff$ images égales, compte tenu des inclusions).

(1 $\Rightarrow$ 2) : soit $u^2(x) = 0$ ; alors $u(x) \in \ker u \cap \operatorname{im} u = \{0\}$ , donc $x \in \ker u$ .

(2 $\Rightarrow$ 1) : par Grassmann et le théorème du rang, $\dim(\ker u + \operatorname{im} u) = \dim\ker u + \operatorname{rk} u - \dim(\ker u \cap \operatorname{im} u) = \dim E - \dim(\ker u \cap \operatorname{im} u)$ : la somme vaut $E$ si et seulement si l’intersection est $\{0\}$ . Soit $y \in \ker u \cap \operatorname{im} u$ : $y = u(x)$ et $u(y) = 0$ , donc $u^2(x) = 0$ , donc (par (2)) $u(x) = 0$ : $y = 0$ . D’où $E = \ker u \oplus \operatorname{im} u$ .

Exercice 20.8 ★★

Soient $\varphi, \psi$ des formes linéaires sur $E$ avec $\ker\varphi \subseteq \ker\psi$ . Démontrer que $\psi = \lambda\varphi$ pour un certain $\lambda \in K$ (y compris dans les cas dégénérés).

Solution

Solution de Exercice 20.8.

Si $\varphi = 0$ : alors $\ker\varphi = E \subseteq \ker\psi$ force $\psi = 0 = 0\cdot\varphi$ . Si $\varphi \neq 0$ : $\ker\varphi$ est un hyperplan ; choisissons $a \notin \ker\varphi$ . Posons $\lambda = \frac{\psi(a)}{\varphi(a)}$ . La forme $\psi - \lambda\varphi$ s’annule sur $\ker\varphi$ (les deux formes s’y annulent, par l’inclusion) et en $a$ : elle s’annule sur $\ker\varphi \oplus Ka = E$ . Donc $\psi = \lambda\varphi$ .

Exercice 20.9 ★★★

Soit $u \in \mathcal{L}(E)$ avec $\dim E = n$ , et supposons $u^n = 0$ mais $u^{n-1} \neq 0$ (un endomorphisme nilpotent maximal). Choisissons $x$ tel que $u^{n-1}(x) \neq 0$ ; démontrer que $\bigl(x, u(x), \dots, u^{n-1}(x)\bigr)$ est une base de $E$ . (Appliquer des puissances de $u$ à une combinaison nulle, en commençant par $u^{n-1}$ .)

Solution

Solution de Exercice 20.9.

Supposons $\lambda_0 x + \lambda_1 u(x) + \dots + \lambda_{n-1} u^{n-1}(x) = 0$ . Appliquons $u^{n-1}$ : tous les termes portant un facteur $u^{\geq n}$ meurent, ne laissant que $\lambda_0 u^{n-1}(x) = 0$ , donc $\lambda_0 = 0$ . Appliquons $u^{n-2}$ à la relation restante : $\lambda_1 u^{n-1}(x) = 0$ , donc $\lambda_1 = 0$ ; et ainsi de suite. La famille est libre ; étant de cardinal $n = \dim E$ , c’est une base (Proposition 19.8). (Dans cette base, $u$ agit comme un décalage — le modèle de la nilpotence maximale.)

Exercice 20.10 ★★★

Soit $f \in \mathcal{L}(\R^n)$ avec $f \circ f = -\mathrm{id}$ .

Démontrer que $f$ est un isomorphisme et qu’aucun $x \neq 0$ ne vérifie $f(x) = \lambda x$ avec $\lambda \in \R$ .
Démontrer que $n$ est pair. Indication : choisir $x_1 \neq 0$ ; montrer que $\operatorname{Vect}(x_1, f(x_1))$ est un plan stable par $f$ ; choisir $x_2$ hors de ce plan et itérer, en démontrant que $\bigl(x_1, f(x_1), x_2, f(x_2), \dots\bigr)$ reste libre.

Solution

Solution de Exercice 20.10.

$f \circ f = -\mathrm{id}$ est bijective, donc $f$ l’est (Proposition 1.26 adaptée : $f$ admet l’inverse à droite et à gauche $-f$ ). Si $f(x) = \lambda x$ avec $x \neq 0$ : en appliquant $f$ , $-x = \lambda^2 x$ , donc $\lambda^2 = -1$ : impossible dans $\R$ .
Construisons la famille de proche en proche. Prenons $x_1 \neq 0$ : $(x_1, f(x_1))$ est libre d’après (1). Si $\operatorname{Vect}$ de la famille courante $\bigl(x_1, f(x_1), \dots, x_k, f(x_k)\bigr)$ , notons-le $V_k$ — un sous-espace stable par $f$ (chaque générateur est envoyé sur un autre générateur ou son opposé : $f(f(x_i)) = -x_i$ ) — n’est pas $E$ tout entier, choisissons $x_{k+1} \notin V_k$ . Affirmation : la famille agrandie est libre. Supposons $\alpha x_{k+1} + \beta f(x_{k+1}) + v = 0$ avec $v \in V_k$ et $(\alpha, \beta) \neq (0,0)$ . Appliquons $f$ : $\alpha f(x_{k+1}) - \beta x_{k+1} + f(v) = 0$ avec $f(v) \in V_k$ . Éliminons $f(x_{k+1})$ entre les deux relations (multiplions la première par $\alpha$ , la seconde par $-\beta$ , et ajoutons) :

$(\alpha^2 + \beta^2)\, x_{k+1} \in V_k ,$

et $\alpha^2 + \beta^2 \neq 0$ force $x_{k+1} \in V_k$ : contradiction. La construction se poursuit donc, en ajoutant des vecteurs deux par deux, jusqu’à ce que $V_k = E$ : la famille finale est une base de cardinal pair, et $n$ est pair.

Exercice 20.11 ★★

Soient $u, v \in \mathcal{L}(E, F)$ , les espaces étant de dimension finie. Démontrer l’encadrement

\abs{\operatorname{rk} u - \operatorname{rk} v} \;\leq\; \operatorname{rk}(u + v) \;\leq\; \operatorname{rk} u + \operatorname{rk} v .

(Pour la majoration, comparer $\operatorname{im}(u+v)$ avec $\operatorname{im} u + \operatorname{im} v$ ; pour la minoration, appliquer astucieusement la majoration.)

Solution

Solution de Exercice 20.11.

Majoration : pour tout $x$ , $(u + v)(x) = u(x) + v(x) \in \operatorname{im} u + \operatorname{im} v$ , donc

\operatorname{rk}(u + v) \leq \dim(\operatorname{im} u + \operatorname{im} v) \leq \operatorname{rk} u + \operatorname{rk} v

(Grassmann, Théorème 19.18). Minoration : appliquons la majoration au couple $(u + v, -v)$ , dont la somme est $u$ :

\operatorname{rk} u \leq \operatorname{rk}(u + v) + \operatorname{rk}(-v) = \operatorname{rk}(u + v) + \operatorname{rk} v,

donc $\operatorname{rk} u - \operatorname{rk} v \leq \operatorname{rk}(u+v)$ ; en échangeant $u$ et $v$ on obtient la valeur absolue.

Exercice 20.12 ★★★

(Inégalité de Frobenius) Soient $u \in \mathcal{L}(E, F)$ , $w \in \mathcal{L}(F, G)$ et $v \in \mathcal{L}(G, H)$ , tous les espaces étant de dimension finie. Démontrer la formule exacte

\operatorname{rk}(v \circ w) = \operatorname{rk} w - \dim\bigl(\ker v \cap \operatorname{im} w\bigr),

et en déduire l’inégalité de Frobenius

\operatorname{rk}(v \circ w) + \operatorname{rk}(w \circ u) \;\leq\; \operatorname{rk} w + \operatorname{rk}(v \circ w \circ u) .

Vérifier que le cas $w = \mathrm{id}_F$ est l’inégalité de Sylvester, démontrée sous forme matricielle dans l’Exercice 21.10.

Solution

Solution de Exercice 20.12.

Formule exacte. Soit $v'$ la restriction de $v$ au sous-espace $\operatorname{im} w$ . Son image est $v(w(F)) = \operatorname{im}(v \circ w)$ , et son noyau est $\ker v \cap \operatorname{im} w$ . Le théorème du rang pour $v'$ sur l’espace $\operatorname{im} w$ :

\operatorname{rk} w = \dim\operatorname{im} w = \operatorname{rk}(v \circ w) + \dim(\ker v \cap \operatorname{im} w) .

Frobenius. Appliquons la formule exacte deux fois, à $w$ et à $w \circ u$ :

\operatorname{rk} w - \operatorname{rk}(vw) = \dim\bigl(\ker v \cap \operatorname{im} w\bigr), \qquad \operatorname{rk}(wu) - \operatorname{rk}(vwu) = \dim\bigl(\ker v \cap \operatorname{im}(wu)\bigr) .

Comme $\operatorname{im}(w \circ u) \subseteq \operatorname{im} w$ , la seconde intersection est contenue dans la première, et sa dimension n’est pas plus grande :

\operatorname{rk}(wu) - \operatorname{rk}(vwu) \;\leq\; \operatorname{rk} w - \operatorname{rk}(vw) ,

ce qui se réarrange en l’inégalité de Frobenius. Avec $w = \mathrm{id}_F$ (de rang $\dim F$ , et $\operatorname{im}\, \mathrm{id}_F = F$ ) : $\operatorname{rk} v + \operatorname{rk} u \leq \dim F + \operatorname{rk}(vu)$ , l’inégalité de Sylvester — démontrée à nouveau, sous forme matricielle, dans l’Exercice 21.10.

20.6 Problème : calcul sur les projecteurs et lemme de Fitting

Problème 20.1

Les projections sont les endomorphismes que les sommes directes produisent, et réciproquement : toute identité $E = F_1 \oplus \dots \oplus F_k$ est secrètement une famille de projecteurs de somme l’identité. Ce problème développe ce dictionnaire — l’algèbre d’un projecteur, de deux, de $k$ — puis applique les mêmes idées de stabilisation à un endomorphisme quelconque et démontre le lemme de Fitting : tout endomorphisme d’un espace de dimension finie se scinde en une partie nilpotente et une partie inversible. Dans tout ce qui suit, $E$ est un $K$ -espace vectoriel de dimension $n$ , et projecteur signifie $p \in \mathcal{L}(E)$ avec $p^2 = p$ (Théorème 20.15).

Partie I — L’algèbre autour d’un projecteur. Soit $p$ un projecteur, $p \neq 0$ , $p \neq \mathrm{id}$ .

Montrer que $\mathrm{id} - p$ est un projecteur et identifier $\operatorname{im}(\mathrm{id} - p)$ et $\ker(\mathrm{id} - p)$ .
Calculer $(\lambda\,\mathrm{id} + \mu\,p)^2$ et déterminer tous les couples $(\lambda, \mu) \in K^2$ pour lesquels $\lambda\,\mathrm{id} + \mu\,p$ est un projecteur.
Montrer que le plan $\operatorname{Vect}(\mathrm{id}, p)$ de $\mathcal{L}(E)$ est stable par composition, et que pour tout polynôme $Q \in K[X]$ ,

$Q(p) = Q(0)\,\mathrm{id} + \bigl(Q(1) - Q(0)\bigr)\,p .$
Déterminer pour quels $(\lambda, \mu)$ l’application $\lambda\,\mathrm{id} + \mu\,p$ est inversible, et donner son inverse sous la forme $\alpha\,\mathrm{id} + \beta\,p$ . Interpréter la réponse par l’action de $\lambda\,\mathrm{id} + \mu\,p$ sur $\operatorname{im} p$ et sur $\ker p$ .
Soit $p'$ un autre projecteur ayant la même image $\operatorname{im} p' = \operatorname{im} p$ . Montrer que $p\,p' = p'$ et $p'\,p = p$ . Que disent ces identités sur la composition de projections sur le même sous-espace parallèlement à des noyaux différents ?

Partie II — Deux projecteurs. Soient $p, q$ des projecteurs de $E$ ; on suppose la caractéristique différente de $2$ (vrai pour $K = \R, \C$ ).

Supposons que $p + q$ soit un projecteur. En développant $(p + q)^2$ , montrer que $pq + qp = 0$ ; en composant avec $p$ à gauche, puis à droite, en déduire que $pq = qp$ , et conclure que $pq = qp = 0$ .
Réciproquement, supposons $pq = qp = 0$ . Montrer que $p + q$ est un projecteur, avec

$\operatorname{im}(p + q) = \operatorname{im} p \oplus \operatorname{im} q, \qquad \ker(p + q) = \ker p \cap \ker q .$
Montrer que $p - q$ est un projecteur si et seulement si $pq = qp = q$ . (Appliquer les questions 6 et 7 à $\mathrm{id} - p$ et $q$ .)
Montrer la signification géométrique de $pq = qp = q$ : elle a lieu si et seulement si $\operatorname{im} q \subseteq \operatorname{im} p$ et $\ker p \subseteq \ker q$ . (On écrit alors $q \leq p$ : « $q$ projette sur moins, parallèlement à plus ».)
Supposons maintenant que $p$ et $q$ commutent. Rappelons, d’après l’Exercice 20.6, que $pq$ est le projecteur sur $\operatorname{im} p \cap \operatorname{im} q$ parallèlement à $\ker p + \ker q$ . Montrer que $r = p + q - pq$ est un projecteur avec

$\operatorname{im} r = \operatorname{im} p + \operatorname{im} q, \qquad \ker r = \ker p \cap \ker q .$

(Considérer $\mathrm{id} - r = (\mathrm{id} - p)(\mathrm{id} - q)$ .)

Partie III — Décompositions de l’identité.

Soit $E = F_1 \oplus \dots \oplus F_k$ et, pour $x = x_1 + \dots + x_k$ (décomposition unique, $x_i \in F_i$ ), posons $p_i(x) = x_i$ . Montrer que chaque $p_i$ est un projecteur, que $p_i p_j = 0$ pour $i \neq j$ , et que $p_1 + \dots + p_k = \mathrm{id}$ ; identifier $\operatorname{im} p_i$ et $\ker p_i$ .
Réciproquement, soient $p_1, \dots, p_k \in \mathcal{L}(E)$ vérifiant $p_1 + \dots + p_k = \mathrm{id}$ et $p_i p_j = 0$ pour tous $i \neq j$ . Montrer que chaque $p_i$ est un projecteur et que $E = \operatorname{im} p_1 \oplus \dots \oplus \operatorname{im} p_k$ .
Deux projecteurs avec $p + q = \mathrm{id}$ : montrer que $pq = qp = 0$ est automatique.
Trois projecteurs avec $p + q + r = \mathrm{id}$ : montrer que $p + q$ est un projecteur, et déduire de la question 6 que tous les produits deux à deux sont nuls — d’où $E = \operatorname{im} p \oplus \operatorname{im} q \oplus \operatorname{im} r$ , sans aucune hypothèse sur les produits.
Pour $k$ projecteurs avec $p_1 + \dots + p_k = \mathrm{id}$ : montrer d’abord que, pour des sous-espaces quelconques, $\dim (F_1 + \dots + F_k) \leq \dim F_1 + \dots + \dim F_k$ , avec égalité si et seulement si la somme est directe ; montrer ensuite que $E = \operatorname{im} p_1 + \dots + \operatorname{im} p_k$ , et démontrer que si de plus $\sum_i \operatorname{rk} p_i \leq n$ , la somme est directe et $p_i p_j = 0$ pour $i \neq j$ .

Partie IV — Noyaux itérés : le lemme de Fitting. Soit $u \in \mathcal{L}(E)$ , $\dim E = n$ .

Montrer les deux chaînes, valables pour tout $k \geq 0$ :

$\ker u^k \subseteq \ker u^{k+1}, \qquad \operatorname{im} u^{k+1} \subseteq \operatorname{im} u^k .$
Montrer que si $\ker u^{r} = \ker u^{r+1}$ pour un certain $r$ , alors $\ker u^{k} = \ker u^{r}$ pour tout $k \geq r$ ; énoncer et démontrer la stabilisation analogue pour les images.
En déduire qu’il existe un plus petit entier $r$ tel que $\ker u^{r} = \ker u^{r+1}$ , que $r \leq n$ , et que les images se stabilisent au même $r$ .
(Lemme de Fitting) Démontrer que

$E \;=\; \ker u^{r} \,\oplus\, \operatorname{im} u^{r} .$
Montrer que les deux sous-espaces sont stables par $u$ , que la restriction de $u$ à $\ker u^{r}$ est nilpotente, et que la restriction de $u$ à $\operatorname{im} u^{r}$ est un isomorphisme de $\operatorname{im} u^{r}$ : tout endomorphisme est, sur une somme directe canonique, « nilpotent plus inversible ».
Soit $\pi$ le projecteur sur $\ker u^{r}$ parallèlement à $\operatorname{im} u^{r}$ . Montrer que $\pi \circ u = u \circ \pi$ .

Partie V — Un cas traité, et synthèse.

Soit $u(x, y, z) = (y, 0, z)$ sur $\R^3$ . Calculer $u^2$ et $u^3$ , déterminer l’indice de stabilisation $r$ , les sous-espaces $\ker u^{r}$ et $\operatorname{im} u^{r}$ , le projecteur de Fitting $\pi$ , et vérifier sur les formules que $\pi u = u\pi$ et que $u$ est nilpotente sur un facteur, bijective sur l’autre.
Montrer les équivalences : $u$ nilpotente $\iff$ $\ker u^{r} = E$ $\iff$ $\pi = \mathrm{id}$ ; et en déduire qu’un endomorphisme nilpotent d’un espace de dimension $n$ vérifie toujours $u^{n} = 0$ (l’indice de nilpotence ne dépasse jamais la dimension).
(Unicité) Supposons $E = A \oplus B$ avec $A, B$ stables par $u$ , la restriction $u|_A$ nilpotente et $u|_B$ bijective. Démontrer que $A = \ker u^{r}$ et $B = \operatorname{im} u^{r}$ : la décomposition de Fitting est unique.
Synthèse, en quatre phrases : quel dictionnaire la partie III établit entre sommes directes et familles de projecteurs ; pourquoi la question 14 n’a eu besoin d’aucune hypothèse sur les produits alors que la question 15 a eu besoin d’une hypothèse de rang (et quel outil de Licence 2, la trace, la supprime) ; en quel sens le lemme de Fitting est la version stabilisée de l’Exercice 20.7 ; et ce que deviennent les deux facteurs de Fitting dans la théorie des valeurs propres du volume de Licence 2. Nommer le théorème démontré dans la partie IV.

Solution

Solution de Problème 20.1.

1. $(\mathrm{id} - p)^2 = \mathrm{id} - 2p + p^2 = \mathrm{id} - p$ : c’est un projecteur. Si $y = x - p(x)$ , alors $p(y) = p(x) - p^2(x) = 0$ , et réciproquement $x \in \ker p$ donne $x = (\mathrm{id} - p)(x)$ : $\operatorname{im}(\mathrm{id} - p) = \ker p$ . Et $(\mathrm{id} - p)(x) = 0 \iff p(x) = x \iff x \in \operatorname{im} p$ (points fixes, Théorème 20.15) : $\ker(\mathrm{id} - p) = \operatorname{im} p$ .

2. $(\lambda\,\mathrm{id} + \mu p)^2 = \lambda^2\,\mathrm{id} + (2\lambda\mu + \mu^2)\,p$ . Le couple $(\mathrm{id}, p)$ est libre dans $\mathcal{L}(E)$ : $p = c\, \mathrm{id}$ donnerait $c^2 = c$ , donc $p = 0$ ou $\mathrm{id}$ , ce qui est exclu. En identifiant les coefficients, l’application est un projecteur si et seulement si $\lambda^2 = \lambda$ et $2\lambda\mu + \mu^2 = \mu$ . Pour $\lambda = 0$ : $\mu \in \{0, 1\}$ . Pour $\lambda = 1$ : $\mu^2 + \mu = 0$ , $\mu \in \{0, -1\}$ . Exactement quatre projecteurs dans le plan : $0$ , $p$ , $\mathrm{id}$ , $\mathrm{id} - p$ .

3. $(\lambda\,\mathrm{id} + \mu p)(\lambda'\,\mathrm{id} + \mu' p) = \lambda\lambda'\,\mathrm{id} + (\lambda\mu' + \mu\lambda' + \mu\mu')\,p$ : le plan est stable par composition. Puisque $p^k = p$ pour tout $k \geq 1$ , pour $Q = \sum_k a_k X^k$ :

Q(p) = a_0\,\mathrm{id} + \Bigl(\sum_{k \geq 1} a_k\Bigr) p = Q(0)\,\mathrm{id} + \bigl(Q(1) - Q(0)\bigr)\,p .

4. Sur $\operatorname{im} p$ (où $p$ agit comme l’identité), $\lambda\,\mathrm{id} + \mu p$ multiplie par $\lambda + \mu$ ; sur $\ker p$ , par $\lambda$ . Comme $E = \operatorname{im} p \oplus \ker p$ , l’application est bijective si et seulement si $\lambda \neq 0$ et $\lambda + \mu \neq 0$ . En résolvant $\lambda\alpha = 1$ , $\lambda\beta + \mu\alpha + \mu\beta = 0$ dans la règle de composition de la question 3 :

(\lambda\,\mathrm{id} + \mu p)^{-1} = \frac1\lambda\,\mathrm{id} - \frac{\mu}{\lambda(\lambda + \mu)}\,p ,

dont l’action est la multiplication par $1/\lambda$ sur $\ker p$ et par $1/(\lambda + \mu)$ sur $\operatorname{im} p$ , comme il se doit.

5. Écrivons $F = \operatorname{im} p = \operatorname{im} p'$ . Pour tout $x$ , $p'(x) \in F$ et $p$ fixe $F$ point par point : $p(p'(x)) = p'(x)$ , c’est-à-dire $p\,p' = p'$ ; symétriquement $p'\,p = p$ . Lorsque deux projections partagent leur image, c’est celle qui est appliquée en premier qui décide : son résultat est déjà dans $F$ , où la projection extérieure agit comme l’identité et ne change rien.

6. $(p + q)^2 = p^2 + pq + qp + q^2 = (p + q) + pq + qp$ , donc $p + q$ projecteur force $pq + qp = 0$ . Composons à gauche avec $p$ : $pq + pqp = 0$ ; à droite avec $p$ : $pqp + qp = 0$ . Par soustraction, $pq = qp$ ; alors $pq + qp = 2pq = 0$ et la caractéristique n’est pas $2$ : $pq = qp = 0$ .

7. Avec $pq = qp = 0$ , le même développement donne $(p + q)^2 = p + q$ . Image : $\operatorname{im}(p + q) \subseteq \operatorname{im} p + \operatorname{im} q$ toujours. Réciproquement, pour $x \in \operatorname{im} p$ : $q(x) = q(p(x)) = 0$ , donc $(p + q)(x) = p(x) = x$ et $x \in \operatorname{im}(p+q)$ ; de même pour $\operatorname{im} q$ . Somme directe : $x \in \operatorname{im} p \cap \operatorname{im} q$ donne $x = p(x) = p(q(x)) = 0$ . Noyau : si $p(x) + q(x) = 0$ , en appliquant $p$ on obtient $p(x) + p(q(x)) = p(x) = 0$ , et en appliquant $q$ on obtient $q(x) = 0$ : $\ker(p + q) = \ker p \cap \ker q$ (l’inclusion réciproque est claire).

8. $p - q$ est un projecteur si et seulement si $\mathrm{id} - (p - q) = (\mathrm{id} - p) + q$ en est un (question 1, deux fois). D’après les questions 6 et 7 appliquées aux projecteurs $\mathrm{id} - p$ et $q$ , cela a lieu si et seulement si $(\mathrm{id} - p)q = q(\mathrm{id} - p) = 0$ , c’est-à-dire si et seulement si $pq = q$ et $qp = q$ .

9. $pq = q$ signifie que $p$ fixe tout $q(x)$ , c’est-à-dire $\operatorname{im} q \subseteq \ker(p - \mathrm{id}) = \operatorname{im} p$ . Et $qp = q$ signifie $q\bigl((\mathrm{id} - p)(x)\bigr) = 0$ pour tout $x$ , c’est-à-dire que $q$ s’annule sur $\operatorname{im}(\mathrm{id} - p) = \ker p$ : $\ker p \subseteq \ker q$ . Les deux étapes sont des équivalences : l’ordre $q \leq p$ dit que $q$ projette sur une image plus petite, parallèlement à un noyau plus grand.

10. En développant, $(\mathrm{id} - p)(\mathrm{id} - q) = \mathrm{id} - p - q + pq = \mathrm{id} - r$ . Les projecteurs $\mathrm{id} - p$ et $\mathrm{id} - q$ commutent, donc d’après l’Exercice 20.6 leur produit $\mathrm{id} - r$ est le projecteur sur $\operatorname{im}(\mathrm{id} - p) \cap \operatorname{im}(\mathrm{id} - q) = \ker p \cap \ker q$ parallèlement à $\ker(\mathrm{id} - p) + \ker(\mathrm{id} - q) = \operatorname{im} p + \operatorname{im} q$ . D’après la question 1, $r = \mathrm{id} - (\mathrm{id} - r)$ est alors le projecteur avec $\operatorname{im} r = \operatorname{im} p + \operatorname{im} q$ et $\ker r = \ker p \cap \ker q$ .

11. $p_i$ est bien définie (unicité de la décomposition) et linéaire (la décomposition de $x + \lambda y$ est la somme des décompositions, encore par unicité). Pour $x_i \in F_i$ la décomposition est $x_i$ lui-même, donc $p_i(x_i) = x_i$ : $p_i^2 = p_i$ , et $p_j(x_i) = 0$ pour $j \neq i$ : $p_i p_j = 0$ ( $p_j(x) \in F_j$ ). En sommant les composantes, $\sum_i p_i = \mathrm{id}$ . Enfin $\operatorname{im} p_i = F_i$ et $\ker p_i = \bigoplus_{j \neq i} F_j$ .

12. $p_i = p_i \circ \mathrm{id} = p_i\sum_j p_j = p_i^2 + \sum_{j \neq i} p_i p_j = p_i^2$ : chaque $p_i$ est un projecteur. Tout $x = \mathrm{id}(x) = \sum_i p_i(x)$ est dans $\sum_i \operatorname{im} p_i$ : les images somment à $E$ . Somme directe : supposons $y_1 + \dots + y_k = 0$ avec $y_i \in \operatorname{im} p_i$ , donc $p_i(y_i) = y_i$ . Appliquons $p_j$ : $p_j (y_i) = p_j p_i (y_i) = 0$ pour $i \neq j$ , donc $0 = p_j\bigl(\sum y_i\bigr) = y_j$ , pour tout $j$ . D’où $E = \bigoplus_i \operatorname{im} p_i$ .

13. $q = \mathrm{id} - p$ , et la question 1 donne $pq = p - p^2 = 0 = qp$ directement : pour deux projecteurs, sommer à l’identité force déjà l’orthogonalité du couple.

14. $p + q = \mathrm{id} - r$ avec $r$ projecteur, et $(\mathrm{id} - r)$ est un projecteur (question 1) : donc $p + q$ est un projecteur, et la question 6 donne $pq = qp = 0$ . Par symétrie ( $q + r = \mathrm{id} - p$ et $p + r = \mathrm{id} - q$ ), tous les produits deux à deux sont nuls, et la question 12 conclut : $E = \operatorname{im} p \oplus \operatorname{im} q \oplus \operatorname{im} r$ , automatiquement.

15. Lemme. Par récurrence avec Grassmann (Théorème 19.18) :

\dim(F_1 + \dots + F_k) \leq \dim(F_1 + \dots + F_{k-1}) + \dim F_k \leq \dots \leq \sum_i \dim F_i .

Si le total est une égalité, chaque étape en est une : $(F_1 + \dots + F_{j-1}) \cap F_j = \{0\}$ pour tout $j$ , et une relation $y_1 + \dots + y_k = 0$ ( $y_i \in F_i$ ) s’effondre par la droite : $y_k \in (F_1 + \dots + F_{k-1}) \cap F_k = \{0\}$ , puis $y_{k-1} = 0$ , etc. : la somme est directe. Réciproquement, une somme directe a des dimensions additives (concaténer les bases). Application : $x = \sum_i p_i(x)$ montre que $E = \sum_i \operatorname{im} p_i$ , donc $n \leq \sum_i \operatorname{rk} p_i$ ; l’hypothèse donne l’égalité, d’où le caractère direct. Produits : fixons $j$ et $y \in \operatorname{im} p_j$ . Alors $y = \sum_i p_i(y)$ avec $p_i(y) \in \operatorname{im} p_i$ , tandis que $y = y$ est aussi une décomposition (la composante $j$ seule) ; l’unicité force $p_i(y) = 0$ pour $i \neq j$ . Appliqué à $y = p_j(x)$ : $p_i p_j = 0$ .

16. Si $u^k(x) = 0$ alors $u^{k+1}(x) = u(0) = 0$ . Et $\operatorname{im} u^{k+1} = u^k\bigl(u(E)\bigr) \subseteq u^k(E) = \operatorname{im} u^k$ .

17. Supposons $\ker u^{r} = \ker u^{r+1}$ et soit $x \in \ker u^{r+2}$ : alors $u(x) \in \ker u^{r+1} = \ker u^{r}$ , donc $u^{r+1}(x) = 0$ : $x \in \ker u^{r+1}$ . Avec la question 16, $\ker u^{r+1} = \ker u^{r+2}$ , et par récurrence tous les noyaux ultérieurs coïncident avec $\ker u^{r}$ . Pour les images : le théorème du rang donne $\dim\operatorname{im} u^k = n - \dim\ker u^k$ , donc les dimensions des images se figent exactement quand celles des noyaux le font, et, avec les inclusions de la question 16, des dimensions égales signifient des sous-espaces égaux (Théorème 19.14).

18. La suite $\bigl(\dim\ker u^k\bigr)_k$ est croissante à valeurs dans $\intint{0}{n}$ ; elle ne peut pas croître strictement $n + 1$ fois, donc $\dim\ker u^{r} = \dim\ker u^{r+1}$ pour un certain $r \leq n$ , d’où $\ker u^{r} = \ker u^{r+1}$ (inclusion et dimensions égales). Prenons $r$ minimal ; la question 17 fige tout à partir de $r$ , images comprises.

19. Intersection : soit $x \in \ker u^{r} \cap \operatorname{im} u^{r}$ , disons $x = u^{r}(y)$ avec $u^{r}(x) = 0$ . Alors $u^{2r}(y) = 0$ , et $\ker u^{2r} = \ker u^{r}$ (question 17), donc $x = u^{r}(y) = 0$ . Dimensions : le théorème du rang pour $u^{r}$ donne $\dim\ker u^{r} + \dim\operatorname{im} u^{r} = n$ ; avec l’intersection triviale, Grassmann fait de la somme un sous-espace de dimension $n$ : $E = \ker u^{r} \oplus \operatorname{im} u^{r}$ .

20. Stabilité : $u^{r}(u(x)) = u(u^{r}(x)) = 0$ pour $x \in \ker u^{r}$ ; et $u(u^{r}(y)) = u^{r}(u(y)) \in \operatorname{im} u^{r}$ . Sur $N = \ker u^{r}$ : $(u|_N)^{r} = 0$ par définition de $N$ : nilpotente. Sur $I = \operatorname{im} u^{r}$ : $\ker(u|_I) = \ker u \cap I \subseteq \ker u^{r} \cap I = \{0\}$ , donc $u|_I$ est un endomorphisme injectif de $I$ qui est de dimension finie, donc bijectif (Corollaire 20.9).

21. Soit $x = a + b$ avec $a \in N$ , $b \in I$ . Alors $u(x) = u(a) + u(b)$ avec $u(a) \in N$ et $u(b) \in I$ (question 20) : c’est là la décomposition de $u(x)$ , donc $\pi(u(x)) = u(a) = u(\pi(x))$ : $\pi u = u\pi$ .

22. $u^2(x,y,z) = u(y, 0, z) = (0, 0, z)$ et $u^3(x,y,z) = u(0,0,z) = (0,0,z) = u^2(x,y,z)$ . Noyaux : $\ker u = \{y = z = 0\} = \operatorname{Vect}(e_1)$ , $\ker u^2 = \{z = 0\} = \operatorname{Vect}(e_1, e_2)$ , $\ker u^3 = \ker u^2$ : stabilisation à $r = 2$ . Images : $\operatorname{im} u = \operatorname{Vect}(e_1, e_3)$ , $\operatorname{im} u^2 = \operatorname{Vect}(e_3)$ . Fitting : $\R^3 = \operatorname{Vect}(e_1, e_2) \oplus \operatorname{Vect}(e_3)$ , et $\pi(x, y, z) = (x, y, 0)$ . Vérification : $\pi u(x,y,z) = \pi(y, 0, z) = (y, 0, 0)$ et $u\pi(x,y,z) = u(x, y, 0) = (y, 0, 0)$ : égaux. Sur le premier facteur $u(x, y, 0) = (y, 0, 0)$ , dont le carré est $0$ : nilpotente ; sur le second $u(0,0,z) = (0,0,z)$ : l’identité, bijective.

23. Si $u^m = 0$ alors $\ker u^m = E$ ; comme les noyaux sont figés à partir de $r$ , $\ker u^{r} = \ker u^{\max(m, r)} = E$ . Réciproquement $\ker u^{r} = E$ signifie $u^{r} = 0$ . Et $\ker u^{r} = E \iff$ le projecteur de Fitting est la projection sur $E$ parallèlement à $\{0\}$ , c’est-à-dire $\pi = \mathrm{id}$ . Enfin $r \leq n$ (question 18) donne : tout endomorphisme nilpotent vérifie $u^{n} = 0$ — l’indice de nilpotence ne dépasse jamais la dimension.

24. Soit $m$ un indice de nilpotence de $u|_A$ : $A \subseteq \ker u^{m} \subseteq \ker u^{\max(m,r)} = \ker u^{r}$ . Comme $u|_B$ est bijective, $B = u(B) = u^{k}(B) \subseteq \operatorname{im} u^{k}$ pour tout $k$ , en particulier $B \subseteq \operatorname{im} u^{r}$ . Alors

n = \dim A + \dim B \leq \dim\ker u^{r} + \dim\operatorname{im} u^{r} = n :

les deux inclusions sont des égalités de dimensions, donc de sous-espaces : $A = \ker u^{r}$ , $B = \operatorname{im} u^{r}$ .

25. (i) La partie III est un dictionnaire : les décompositions $E = F_1 \oplus \dots \oplus F_k$ correspondent exactement aux familles de projecteurs avec $\sum p_i = \mathrm{id}$ et $p_i p_j = 0$ , les $F_i$ étant les images. (ii) Pour $k = 3$ les compléments $\mathrm{id} - p_i$ sont eux-mêmes des projecteurs, ce qui a bouclé l’argument sans hypothèse supplémentaire ; pour un $k$ quelconque il faut $\sum_i \operatorname{rk} p_i \leq n$ , inégalité que la trace de Licence 2 donne gratuitement ( $\operatorname{tr} p = \operatorname{rk} p$ pour un projecteur, et les traces s’additionnent pour donner $\operatorname{tr} \mathrm{id} = n$ ). (iii) L’Exercice 20.7 est le lemme de Fitting dans le cas déjà stabilisé $r \leq 1$ ; en général on laisse les chaînes de noyaux et d’images se figer, ce qui prend au plus $n$ étapes. (iv) Dans le volume de Licence 2, appliqué à $u - \lambda\, \mathrm{id}$ , le facteur nilpotent devient le sous-espace caractéristique associé à $\lambda$ et les projecteurs de la partie III deviennent les projecteurs spectraux de la théorie de la réduction. Le théorème de la partie IV est le lemme de Fitting.