点群
まず適切な基底を用いて、可約表現を作る。ただし基底としては、考えたい問題を反映したもの選ばなければならない。例えばアンモニアの窒素原子の電子状態を対称性の観点から考えたいときは、窒素原子のs軌道やp軌道を基底として選ぶこともできる。分子振動を考えたいときは、N–H結合の振動を表すベクトルを基底として選ぶこともできる。また何を基底に選ぶかによっていろいろな表現行列を作ることができ、問題を複雑にしないためには基底を上手に選ぶ必要がある。
ここでは例としてアンモニア分子の3つの水素原子のs軌道 H1, H2, H3 を基底として選んでみる。
恒等操作 E ではそれぞれの水素原子の位置は変わらないから、表現行列は単位行列となり指標は +3。
( 1 0 0 0 1 0 0 0 1 ) ( H 1 H 2 H 3 ) = ( H 1 H 2 H 3 ) {\displaystyle {\begin{pmatrix}1&0&0\\0&1&0\\0&0&1\\\end{pmatrix}}{\begin{pmatrix}\ H1\\\ H2\\\ H3\\\end{pmatrix}}={\begin{pmatrix}\ H1\\\ H2\\\ H3\\\end{pmatrix}}}
C3(1/3回転)ではH1→H2、H2→H3、H3→H1のように変換されるから表現行列の指標は 0。
( 0 1 0 0 0 1 1 0 0 ) ( H 1 H 2 H 3 ) = ( H 2 H 3 H 1 ) {\displaystyle {\begin{pmatrix}0&1&0\\0&0&1\\1&0&0\\\end{pmatrix}}{\begin{pmatrix}\ H1\\\ H2\\\ H3\\\end{pmatrix}}={\begin{pmatrix}\ H2\\\ H3\\\ H1\\\end{pmatrix}}}
ここでは例としてアンモニア分子の対称性を取り扱う。アンモニア分子の対称操作は恒等操作 E, 回転操作 C3, C3, 鏡映操作 σv1, σv2, σv3 である。これらの対称操作を集めたもの(集合)は群をなす。この群はシェーンフリース記号を用いてC3vと表す:
C 3 v = { E , C 3 , C 3 − 1 , σ v 1 , σ v 2 , σ v 3 } . {\displaystyle {\boldsymbol {C_{3v}}}=\{E,C_{3},C_{3}^{-1},\sigma _{v1},\sigma _{v2},\sigma _{v3}\}.}