ヒルベルト空間
B(H) の元 U が可逆かつその逆作用素が U で与えられるとき、U はユニタリであるという。この条件は「U が全射かつ H の各元 x, y に対して ⟨Ux, Uy⟩ = ⟨x, y⟩ を満たすこと」とも言い換えられる。H 上のユニタリ作用素の全体は、合成に関して H の等距変換群と呼ばれる群を成す。
B(H) の元がコンパクトであるとは、それが有界集合を相対コンパクト集合へ写すときに言う。同じことだが、有界作用素 T について、任意の有界列 {xk} に対して列 {Txk} が収束部分列を持つとき T はコンパクトである。多くの積分作用素はコンパクトであり、事実ヒルベルト=シュミット作用素として知られるコンパクト作用素のクラスが積分方程式論において特に重要な働きをする。フレドホルム作用素は恒等変換の定数倍の分だけコンパクト作用素とは違うけれども、核と余核が有限であるような作用素としても特徴付けられる。フレドホルム作用素の指数 (index) は
index T = dim  ker  T − dim  coker T . {\displaystyle \operatorname {index} \,T=\dim \ker T-\dim \operatorname {coker} \,T.}
で定義される。この指数はホモトピー不変量であり、アティヤ・シンガーの指数定理を通じて微分幾何学で深い役割を果たす。
⟨ x , u φ ⟩ = φ ( x ) {\displaystyle \langle x,u_{\varphi }\rangle =\varphi (x)}
を満たす。双対空間 H 上に定まるこの内積は
⟨ φ , ψ ⟩ = ⟨ u ψ , u φ ⟩ {\displaystyle \langle \varphi ,\psi \rangle =\langle u_{\psi },u_{\varphi }\rangle }
を満たす。右辺で順番が逆になっているのは uφ の反線型性から φ の線型性を回復するためである。実係数の場合は、H からその双対空間への反線型同型は実際には線型同型になるから、実ヒルベルト空間はその双対空間と自然に同型になる。
表現ベクトル uφ を得るには以下のようにする。φ ≠ 0 のとき、核 F = ker φ は H の閉部分空間であって、H には一致しないから、F に直交する非零ベクトル v が存在する。ベクトル u を v の適当なスカラー倍 λv として、φ(v) = ⟨v, u⟩ が
二つのヒルベルト空間 H1, H2 に対し、それらの(代数的な)テンソル積の上に、次のように内積を定めることができる。まず(生成元である)単純テンソル(英語版)に対して
⟨ x 1 ⊗ x 2 , y 1 ⊗ y 2 ⟩ := ⟨ x 1 , y 1 ⟩ ⟨ x 2 , y 2 ⟩ {\displaystyle \langle x_{1}\otimes x_{2},\,y_{1}\otimes y_{2}\rangle :=\langle x_{1},y_{1}\rangle \,\langle x_{2},y_{2}\rangle }
と定め、これを半双線型 (Sesquilinearly) に H 1 ⊗ H 2 {\displaystyle H_{1}\otimes H_{2}} 全体で定義される内積に拡張する。H1 と H2 とのヒルベルトテンソル積 H 1 ⊗ ^ H 2 {\displaystyle H_{1}{\hat {{}\otimes {}}}H_{2}} とは、いま定義した内積に付随する距離位相に関して H1 ⊗ H2 を完備化して得られるものをいう。
ヒルベルト空間 L([0, 1]) を使って例を考えよう。
ヒルベルト空間においては非有界作用素もある程度きれいに扱うことができ、量子力学にも重要な応用を持つ。ヒルベルト空間 H 上の非有界作用素 T は、その定義域 D(T) が H の線型部分空間であるような線型作用素であるものとして定義される。定義域が H の稠密な部分集合となることもよくあり、そのような作用素 T は密定義作用素と呼ばれる。
密定義非有界作用素の随伴は、本質的に有界作用素の場合と同じ方法で定義される。自己随伴非有界作用素は量子力学の数学的基礎において可観測量の役割を持つ。ヒルベルト空間 H = L(R) 上の自己随伴非有界作用素の例としては、
微分作用素の適当な拡張 ( A f ) ( x ) = i d d x f ( x ) , {\displaystyle (Af)(x)=i{\frac {d}{dx}}f(x),} ただし、i は虚数単位、f は台がコンパクトな可微分関数。
x による掛け算作用素 ( B f ) ( x ) = x f ( x ) . {\displaystyle (Bf)(x)=xf(x).}
などが挙げられる。これらはそれぞれ、運動量と位置の可観測量に対応する。この A も B も H の全域で定義されてはいないことに注意すべきである。A の場合は微分が存在しないものがあること、B の場合は x が掛けられた関数が自乗可積分とは限らないことがその理由である。何れの場合にも、引数にとり得る関数全体の成す集合は H の稠密な部分集合になる。