Ortogonální matice je čtvercová matice s reálnými prvky, jejíž výsledek vynásobení transponovanou maticí se rovná matici identity [1] :
nebo ekvivalentně jeho inverzní matice (která nutně existuje) je rovna transponované matici:
Komplexním analogem ortogonální matice je unitární matice .
Ortogonální matice s determinantem se nazývá speciální ortogonální .
Jinými slovy, bodový součin řádku se sebou samým je 1 as jakýmkoli jiným řádkem je 0. Totéž platí pro sloupce.