ヒルベルトの第3問題
ヒルベルトが元々提出していた問題は次の通りであった:「底面積と高さの等しい二つの四面体 T1,T2 は常に分割合同か?」
もしこの問いの答えが "yes" だと仮定すれば、任意の四面体は底面が同一で高さが 1/3 の三角柱と分割合同になることが示せる。また一般に、同体積の任意の2柱体は常に分割合同であることもわかる(2次元の場合のボヤイの定理より)。ところがデーンの論証により、同体積の正四面体と正六面体は分割合同でない。よってヒルベルトの元々の問題も否定的に解決された。
デーンの証明は、抽象代数学によって幾何学上の不可能性が示される一例である。他の例には立方体倍積問題や角の三等分問題がある。
2個の多面体があり、一方を有限個の多面体に切断して組み換えることで他方を作ることが可能なとき、これらは分割合同(scissors-congruent)であると言う。分割合同な2個の多面体の体積が等しいことは自明であり、ヒルベルトが問うたのはこの逆である。
任意の多面体 P に対し、デーンは現在デーン不変量(英語版)と呼ばれているある量 D(P) を定義し、以下の性質を持つようにした:
P がある平面で2個の多面体 P1 と P2 に切断されたとすると、D(P) = D(P1) + D(P2) である。
これより、
P が n 個の多面体 P1,...,Pn に切断されたとすると、D(P) = D(P1) + ... + D(Pn)
が成り立つ。特に、
もし2個の多面体が分割合同であれば、それらのデーン不変量は一致する。
デーンは次に、正六面体のデーン不変量は常に0である一方、正四面体のデーン不変量は常に0以外の値となることを示し、先述の主張を立証した。
多面体の不変量は辺長と二面角に基づいて定義される。多面体が切断されるとき、いくつかの辺も2つに切断され(これらはデーン不変量に対し辺長に比例した寄与をしていなければいけない)、もし切断面がある辺を含むなら、対応する面の角は2つに分割される。