行列式
n 次正方行列 A の i 行 j 列成分を ai,j で表すと、A の行列式は、次の式で定義される:
det A = ∑ σ ∈ Aut  ( n ) { ( sgn  σ ) ∏ i = 1 n a i , σ ( i ) } {\displaystyle \det A=\sum _{\sigma \in \operatorname {Aut} (n)}{\biggl \{}(\operatorname {sgn} \sigma )\prod _{i=1}^{n}a_{i,\,\sigma (i)}{\biggr \}}}
ここで、
Aut(n) は n 次対称群({1, ..., n} の自己同型群)
sgn は置換の符号
を表す。
n 次正方行列の行列式は n 次の斉次多項式で、項を n! 個持つ(ライプニッツの公式)。
正方行列 A の行列式は、|A| あるいは det(A) と表記される。行列の成分を明示する場合は
| [ a b c d ] | {\displaystyle \left|{\begin{bmatrix}a&b\\c&d\end{bmatrix}}\right|}
を単に
| a b c d | {\displaystyle {\begin{vmatrix}a&b\\c&d\end{vmatrix}}}
と書く。
K の標準基底を (e1, ..., en) とする。正方行列 X を表す列ベクトルを v1, ..., vn とすると、vj = Xej である。
( ⋀ n X ) ( e 1 ∧ ⋯ ∧ e n ) = v 1 ∧ ⋯ ∧ v n {\displaystyle ({\textstyle \bigwedge ^{n}}X)(e_{1}\wedge \dotsb \wedge e_{n})=v_{1}\wedge \dotsb \wedge v_{n}}
であるが、ここで
v 1 ∧ ⋯ ∧ v n = ( ∑ σ ∈ S n sgn  ( σ ) v σ ( 1 ) 1 v σ ( 2 ) 2 ⋯ v σ ( n ) n ) e 1 ∧ ⋯ ∧ e n {\displaystyle v_{1}\wedge \dotsb \wedge v_{n}={\biggl (}\sum _{\sigma \in {\mathfrak {S}}_{n}}\operatorname {sgn}(\sigma )v_{\sigma (1)}^{1}v_{\sigma (2)}^{2}\dotsm v_{\sigma (n)}^{n}{\biggr )}e_{1}\wedge \dotsb \wedge e_{n}}
である。ただし、vi の第 i 成分を v ji と表した)。これは K 上 ⋀X が (det X)-倍写像として作用していることを示している。
n-次外積の普遍性により、行列式とは、行列の各列のベクトルに関する n-重交代線型写像で単位行列には 1 を与えるものとして特徴づけられることが分かる。
関孝和は『解伏題之法』で行列式について述べている。本手稿のテーマは多変数の高次方程式から変数を消去して一変数の方程式に帰着することで、変数消去の一般的方法、つまり終結式の理論を提示している。本手稿では3次と4次に関しては行列式の正しい表示を与えているが、より高次の5次の場合はつねに0になってしまい、あきらかに間違っている。これが単純な誤記の類であるか否かは不明である。また、次節で述べるように、関西で活躍していた田中由真や井関知辰らの研究も同様の問題を考えており、類似の結果にたどり着いている。
これらの研究では、いずれも行列式は終結式を表すための手段にすぎず、行列式そのものを意味のある対象として捉えていたかについては異論がある。実際、それをあらわす用語すら提案されていない。また、日本が鎖国によって外界から遮断されていたこともあり、西洋数学に影響を与えることはなかった。