Uma matriz de rotação é uma matriz que quando multiplicada por um vetor tem o efeito de mudar a direção do vetor mas não de sua magnitude.

é uma matriz de rotação se e somente se for ortonormal.

é ortonormal se seu vetor coluna formar uma base ortonormal de , que é, o produto escalar entre dois vetores coluna quaisquer for zero (ortogonalidade) e o produto escalar de um vetor coluna com ele mesmo for unitário(normalização).

A inversa da matriz de rotação é sua transposta:

Em duas dimensões, a rotação pode ser definida por um único ângulo, . Por convenção, ângulos positivos representão rotação no sentido anti-horário.

A matriz para rotacionar um vetor coluna em coordenadas cartesianas sobre a origem é:

Em três dimensões, uma rotação pode ser definida por três ângulos de Euler, , ou um único ângulo de rotação, , e a direção de um vetor, , sobre o qual é rotacionado.

A matriz para rotacionar um vetor coluna em coordenadas cartesianas sobre a origem é:

ou: