以下の3種の行列,
\ P(i,j),Q(i;c),R(i,j;c) \in \ M(n;\mathbf K)を基本行列（fundamental matrix）という。
P(i,j) = \begin{pmatrix}
 1 & & & & &\\
 & \ddots & & & & &\\
 & & 0 & \cdots & 1 & &\\
 & & \vdots & \ddots & \vdots & &\\ 
 & & 1 & \cdots & 0 & &\\
 & & & & & \ddots &\\
 & & & & & & 1\\
\end{pmatrix}
(1 \leq i \neq j \leq n)
Q(i;c) = 
\begin{pmatrix}
 1 & & & & &\\
 & \ddots & & & & &\\
 & & 1 & & & &\\
 & & & c & & &\\ 
 & & & & 1 & &\\
 & & & & & \ddots&\\
 & & & & & & 1\\
\end{pmatrix}
 (c \neq 0)
R(i,j;c) = 
\begin{pmatrix}
 1 & & & & & &\\ 
 & \ddots & & & & &\\
 & & 1 & \cdots & c & &\\
 & & \vdots & \ddots & \vdots &  &\\ 
 & & 0 & \cdots & 1 & &\\
 & & & & & \ddots &\\
 & & & & & & 1\\
\end{pmatrix}
 (1 \leq i \neq j \leq n ,c \neq 0)
左（右）から基本行列をかけることを左（右）基本変形（fundamental operation）
という。
左（右）からP(i,j),Q(i;c),R(i,j;c)をかけるということことは、それぞれ
第i行（列）と第j行（列）を入れ替える。
第i行（列）をc倍する。
第j行（列）のc倍を第i行（列）に加える。
という操作を行うことに対応する。
例
\begin{pmatrix}
1 & 0 & 0 & 0\\
0 & 0 & 1 & 0\\
0 & 1 & 0 & 0\\
0 & 0 & 0 & 1\\
\end{pmatrix}
\begin{pmatrix}
a_{11} & a_{12} & a_{13} & a_{14}\\
a_{21} & a_{22} & a_{23} & a_{24}\\
a_{31} & a_{32} & a_{33} & a_{34}\\
a_{41} & a_{42} & a_{43} & a_{44}\\
\end{pmatrix}
\begin{pmatrix}
a_{11} & a_{12} & a_{13} & a_{14}\\
a_{31} & a_{32} & a_{33} & a_{34}\\
a_{21} & a_{22} & a_{23} & a_{24}\\
a_{41} & a_{42} & a_{43} & a_{44}\\
\end{pmatrix}
\begin{pmatrix}
1 & 0 & 0 & 0\\
0 & 3 & 0 & 0\\
0 & 0 & 1 & 0\\
0 & 0 & 0 & 1\\
\end{pmatrix}
\begin{pmatrix}
a_{11} & a_{12} & a_{13} & a_{14}\\
a_{21} & a_{22} & a_{23} & a_{24}\\
a_{31} & a_{32} & a_{33} & a_{34}\\
a_{41} & a_{42} & a_{43} & a_{44}\\
\end{pmatrix}
\begin{pmatrix}
a_{11} & a_{12} & a_{13} & a_{14}\\
3a_{21} & 3a_{22} & 3a_{23} & 3a_{24}\\
a_{31} & a_{32} & a_{33} & a_{34}\\
a_{41} & a_{42} & a_{43} & a_{44}\\
\end{pmatrix}
\begin{pmatrix}
1 & 0 & 0 & 0\\
0 & 1 & 2 & 0\\
0 & 0 & 1 & 0\\
0 & 0 & 0 & 1\\
\end{pmatrix}
\begin{pmatrix}
a_{11} & a_{12} & a_{13} & a_{14}\\
a_{21} & a_{22} & a_{23} & a_{24}\\
a_{31} & a_{32} & a_{33} & a_{34}\\
a_{41} & a_{42} & a_{43} & a_{44}\\
\end{pmatrix}
\begin{pmatrix}
a_{11} & a_{12} & a_{13} & a_{14}\\
a_{21}+2a_{31} & a_{22}+2a_{32} & a_{23}+2a_{33} & a_{24}+2a_{34}\\
a_{31} & a_{32} & a_{33} & a_{34}\\
a_{41} & a_{42} & a_{43} & a_{44}\\
\end{pmatrix}
である。
基本行列は正則である。
実際、
である。
 
 \forall A \in M(m,n;\mathbf K)  は基本変形によって以下の形に一意的に変形できる。
\begin{pmatrix}
 I_r & \mathbf 0_{n-r,r}\\
 \mathbf 0_{m-r,r} & \mathbf 0_{m-r,n-r}\\
\end{pmatrix} 
このとき、rを行列Aの階数（rank）といい、
などと書く。
（証明）
 \ A=0_{m,n} のときは上の形になっている。
以下、 \ A \neq 0_{m,n}  とする。
今、 \ a_{i,j} \neq 0  としても一般性は失われない。
まず、 \ R(k,j;-a_{k,j}/a_{i,j}) \in M(m;\mathbf K) (1 \leq k \leq j-1,j+1 \leq k \leq m)  を左からかけると
\begin{pmatrix}
 & & & 0 & & &\\
 & & & \vdots & & &\\
 & & & 0 & & &\\
 a_{i,1}& \cdots & a_{i,j-1} & a_{i,j} & a_{i,j+1} & \cdots & a_{i,n}\\
 & & & 0 & & &\\
 & & & \vdots & & &\\
 & & & 0 & & &\\
\end{pmatrix} 
となる。
次に、 \ R(i,l;-a_{i,l}/a_{i,j}) \in M(n;\mathbf K) (1 \leq l \leq i-1, i+1 \leq l \leq n)  を右からかけると
\begin{pmatrix}
 & & & 0 & & &\\
 & & & \vdots & & &\\
 & & & 0 & & &\\
 0 & \cdots & 0 & a_{i,j} & 0 & \cdots & 0 \\
 & & & 0 & & &\\
 & & & \vdots & & &\\
 & & & 0 & & &\\
\end{pmatrix} 
となる。
 
そして、 \ P(1,i) \in M(m;\mathbf K)  を左から、 \ P(1,j) \in M(n;\mathbf K) を右からかけ、さらに \ Q(1;1/a_{i,j}) \in M(m;\mathbf K) を左からかければ、
\begin{pmatrix}
 1 & \mathbf 0 \\
 \mathbf 0 & B\\
\end{pmatrix}
\ B \in M(m-1,n-1; \mathbf K) 
となる。 B \neq 0  なら上と同じ操作をすれば、帰納的に求めたい形になる。
（一意性）
以下  s \leq t  とする。
Aに基本変形を施して以下の２つの形になったとする。
ここで、基本変形の正則性から、正則行列  \ P \in M(m;\mathbf K) \ Q \in M(n;\mathbf K) が存在して、
= \begin{pmatrix} P_{s,s}Q_{s,s} & P_{s,s}Q_{s,n-s}\\ P_{m-s,s}Q_{s,s} & P_{m-s,s}Q_{s,n-s}\\ \end{pmatrix} 
したがって
\ P_{s,s}Q_{s,s} = I_s ,\ P_{s,s}Q_{s,n-s} = \mathbf 0 ,\ P_{m-s,s}Q_{s,s} = \mathbf 0 が成り立つ。
これから、
 \ P_{s,s} ,\ Q_{s,s}  は正則だから
 \ P_{m-s,s}Q_{s,n-s} = \mathbf 0 
∴  \ r = s  □
またこのことから、 A \in M(n; \mathbf K) において
であることが分かる。
\begin{pmatrix} 1 & -2 & -1\\ 0 & 1 & 1\\ -2 & 3 & 1\\ \end{pmatrix} の階数を求めよ。
\begin{pmatrix} 1 & -2 & -1\\ 0 & 1 & 1\\ -2 & 3 & 1\\ \end{pmatrix}  （第１行の２倍を第３行に加える）
 \longrightarrow \begin{pmatrix} 1 & -2 & -1\\ 0 & 1 & 1\\ 0 & -1 & -1\\ \end{pmatrix}  
（第２行の２倍を第１行に、１倍を第３行に加える） \longrightarrow \begin{pmatrix} 1 & 0 & 1\\ 0 & 1 & 1\\ 0 & 0 & 0\\ \end{pmatrix}  
（第１列の－１倍と第２列の－１倍を第３列に加える） \longrightarrow \begin{pmatrix} 1 & 0 & 0\\ 0 & 1 & 0\\ 0 & 0 & 0\\ \end{pmatrix} 
したがって、この行列の階数は２である。□
以下の１～４の行列の階数を求めよ。
（１） \begin{pmatrix} 2 & 1 & 0\\ 1 & 0 & 1\\ 3 & 2 & 1\\ \end{pmatrix}                
（２） \begin{pmatrix} 3 & -2 & -1 & 2\\ 1 & -3 & -2 & 0\\ -1 & 0 & 1 & 0\\ 2 & 1 & 1 & 1\\ \end{pmatrix} 
（３） \begin{pmatrix} 0 & -2 & 1 & -1\\ 1 & 0 & -1 & 1\\ 2 & 1 & 0 & 4\\ 3 & 1 & -1 & 5\\ \end{pmatrix} 
（４） \begin{pmatrix} 1 & 0 & 0 & 1 & 1 &\\ 1 & 1 & 2 & 3  & 2\\ 1 & 0 & 0 & 1 & 1\\ 0 & 1 & 2 & 2 & 1\\ 1 & 1 & 1 & 2 & 1\\ \end{pmatrix}   答え：（１）…３（２）…４（３）…３（４）…２