分離超平面定理
A または B の一方が凸集合でない場合、「分離定理」に対しては様々な反例が挙げられる。例えば A と B は同心円状にとることができる。
より微妙な反例として、A と B の両方が閉凸集合だがいずれもコンパクトでない場合が挙げられる。例として、A が閉半平面で B が双曲線の分枝の一方であるとすれば、この場合には分離超平面は厳密には存在しない(しかしながら、開凸集合に関する分離定理があるために A および B の内部を分離する超平面が 1 つ存在する):
A = { ( x , y ) : x ≤ 0 } {\displaystyle A=\{(x,y):x\leq 0\}}
B = { ( x , y ) : x > 0 , y ≥ 1 / x } . {\displaystyle B=\{(x,y):x>0,y\geq 1/x\}.\ }
他のタイプの反例として A がコンパクトな閉凸集合であり B が開凸集合である場合がある。例えば、A を正方形の閉集合、B を正方形の開集合として A と B が接している状況がこれに当てはまる。
閉凸集合に関する分離定理では分離超平面を一意に決めることができないことは明らかである。開集合バージョンの分離定理では、超平面が一意に定まる場合もあるしそうでない場合もあり得る。技術的なことだがこれらのことは分離軸について言い換えられる。閉凸集合の分離定理では分離軸を一意に決められないが、開凸集合の分離定理では分離軸を一意に決定できる。