Un endomorphisme d’un espace euclidien est une isométrie (ou application orthogonale) lorsqu’il conserve la norme : pour tout — de façon équivalente (polarisation), il conserve le produit scalaire ; de façon équivalente, sa matrice dans une base orthonormale vérifie . Les isométries forment un groupe, le groupe orthogonal .
Exemples
Exemple 23.16 (Reconnaître une isométrie à vue)
La matrice est-elle orthogonale ? Les colonnes : normes et ; produit . Oui — et , c’est donc la rotation avec , (la « rotation -- », dont l’angle n’est aucune fraction remarquable de ). En revanche a un faux air de matrice normalisée, mais sa première colonne n’est pas unitaire () : elle n’est pas orthogonale — un déterminant ne certifie rien à lui seul, il faut vérifier les colonnes.