Allerede mens Abel var elev ved Katedralskolen hadde han funnet en formel for å løse slike femtegradsligninger, og hverken Abel eller noen andre matematikere i Norge klarte å finne noen feil i formelen. Men etter at Ferdinand Degen i København hadde stilt seg skeptisk til dette, ble Abel han mer og mer overbevist om at det ikke fantes noen slik generell løsning, og at femtegradsligninger ikke kunne løses ved hjelp av en slik generell formel. På den tiden visste ikke Abel at italieneren Paolo Ruffini hadde levert et bevis for dette omtrent 25 år før, men etterhvert fant Abel ut at hverken Ruffinis bevis eller hans eget første forsøk på et slikt bevis var holdbare. Abel leverte etter hvert to helt fullstendige beviser for dette, og setningen kalles i dag Abel-Ruffinis teorem.