アーベル-ルフィニの定理
17世紀前半からアルベール・ジラール(英語: Albert Girard)らによって主張されてきた代数学の基本定理により、5次以上の方程式にも次数と等しいだけの根があること自体は明らかであったので、五次方程式は「解けるに違いないが非常に難しい問題」と捉えられていた。
1770年頃、ジョゼフ=ルイ・ラグランジュやヴァンデルモンド(英語: Alexandre-Théophile Vandermonde)は 4次以下の代数方程式の解法について置換を用いて(独立に)考察を行い、それらが代数的に解けた原因を与えた。
同様の考察を五次方程式に適用すると、より高次の方程式を解かねばならず破綻してしまうため、それ以上には進まなかった。 しかし、これらの研究を源とする代数的可解性の原則やラグランジュ分解式などが、その後の代数的方程式論の発展に繋がる突破口に結びついた。
カール・フリードリヒ・ガウスは、五次方程式の代数的な解法が不可能問題であることに確信を持っていた。数学的な根拠は出さなかったものの、学位論文でそのことに触れた他、『整数論』(1801年) の中でも「不可能なのはほぼ確実」と断定している。また、『整数論』において円分方程式 x n = 1 {\displaystyle x^{n}=1} は次数の低い円分方程式から逐次的に解ける事を示し、代数的に可解である事を証明した。これは、一般的には代数方程式を代数的に解く事は不可能である一方で、代数的に可解な代数方程式にはどのようなものがあるかを個別に調べるという方向の研究である。
五次方程式の解法の不可能性について、本質的な仕事はパオロ・ルフィニによるものと考えられている。
代数学の基本定理が示す通り、n 次方程式は複素数の範囲で本質的に n 個の根を持つが、それを四則演算と冪根の有限回の繰り返しによって表示できるとは限らないことになる。代数的に解けない場合についてはこの定理は触れていない。例えば三次方程式のビエトの解のように三角関数によって表示できたとしても代数的に解けたとはいわない。また五次以上でも特定の条件付き方程式ならば解く事ができ、このようなものの一部はアーベル方程式と呼ばれる。もっとも単純なアーベル方程式は1の冪根を根にもつ x = 1 であり、これが代数的に可解であることはカール・フリードリヒ・ガウスにより証明された。
一時この定理は完全な形で提出したニールス・アーベルにその功績が帰されていたが、現在ではパオロ・ルフィニの貢献を入れてアーベル–ルフィニの定理とする表記が多い。これはアーベルの業績になる定理が多く、単に「アーベルの定理」というと区別しにくいという事情も関係している。
ルフィニはラグランジュの考えた置換の理論を引き継いで1799年に『方程式の一般理論』と題した 2本の論文を出版したものの、論文は長くて分かりづらい上に欠陥があった。数学者達からの反論に対し、ルフィニは友人のピエトロ・アバティ・マレスコッティ(英語: Pietro Abbati Marescotti)の協力も得て欠陥を取り除いたり簡略化したりして1813年まで 6 種類の証明を出版した。ラグランジュからは認められなかったが、オーギュスタン=ルイ・コーシーはルフィニの証明を絶賛し、1815年に置換論として発展させた。ここではコーシーの記法を導入し、簡略化にも成功している。
1821年にアーベルは五次方程式の解法を発見したが、コペンハーゲン大学の数学者デーエンから具体例を聞かれて間違いに気付き、ラグランジュやコーシーの論文を熱心に読んで不可能性の証明へと向かう。しかし、地理的な問題もあり大数学者ではなかったルフィニの論文は存在すら知らなかった。
1823年の末に証明は完成し、翌1824年、最初の論文「5次の一般方程式の解法の不可能性を証明する代数方程式についての論文」(Abel, “Mémoire sur les équations algébriques, où l'on démontre l'impossibilité de la résolution de l'équation générale du cinquième degré”) を自費出版した。経費節約のため簡潔にして 6ページしかなかったこともあり、誰からも理解されなかった。
アーベル–ルフィニの定理(アーベル–ルフィニのていり、英: Abel–Ruffini theorem)は、五次以上の代数方程式には解の公式が存在しない、と主張する定理である。より正確には、5以上の任意の整数 n に対して、一般の n 次方程式を代数的に解く方法は存在しない、という定理である。