非有界作用素
稠密に定義された作用素 T が、 その定義域のすべての元 x と y に対して ⟨ T x ∣ y ⟩ = ⟨ x ∣ T y ⟩ {\displaystyle \langle Tx\mid y\rangle =\langle x\mid Ty\rangle } を満たすとき、T は対称であるという。つまり、稠密に定義された作用素で T が T の拡張(次節を参照)になっているようなものが対称作用素である。ある作用素 T が対称であるための必要十分条件は、付随する二次形式が実であること、すなわち、数 ⟨ T x ∣ x ⟩ {\displaystyle \langle Tx\mid x\rangle } が、T の定義域内のすべての x に対して実となることである。
さらに T = T が成り立つとき、作用素 T は自己共役であると言われる。共役作用素は必ず閉なので、自己共役な作用素は特に閉となる。稠密に定義された閉の対称作用素 T が自己共役であるための必要十分条件は、T が対称になることである。対称作用素の中には自己共役でないものもある。
Jを上で用いた写像 x ⊕ y ↦ − y ⊕ x {\displaystyle x\oplus y\mapsto -y\oplus x} とする。稠密に定義された作用素 T に対して、そのグラフ Γ(T) が J(Γ(T)) と直交するなら、T は対称作用素になる。さらに、 H ⊕ H {\displaystyle H\oplus H} が Γ(T) と J(Γ(T)) の内部直和になっているなら、T は自己共役である。
このことを具体的に言い表すと、T の定義域に含まれる点からなる列 (xn) で、B1のベクトル x へと収束し、また Txn がB2のベクトル y へと収束するようなものがあったとき、x は T の定義域に含まれ、Tx = yが成立する、ということになる。
作用素 T はその定義域が B1 において稠密であるとき稠密に定義されていると言われる。 これは全空間 B1 上で定義される作用素も含む。なぜならば全空間はそれ自身において稠密であるからである。定義域の稠密性は、その作用素の共役(adjoint)・転置(transpose)の存在のための必要十分条件である。また、SとTについてD(S) ⊂ D(T)かつT|D(S) = S が成り立つときSはTに含まれる(S ⊂ T)という。
もし T : B1 → B2 が閉で、その定義域上稠密に定義されており連続であるなら、それは全空間 B1 で定義される。
ヒルベルト空間 H 上稠密に定義された作用素 T は、ある実数 a に対して T + a が正作用素となるとき、下に有界であると言われる。これはすなわち、T の定義域内のすべての x に対して ⟨Tx|x⟩ ≥ −a·||x|| が成立することを意味する。もし T と (–T) の両方とも下に有界であるなら、T は有界である。