I 1700 døde han, knapt 39 år gammel. Gjennom hele Karls regjeringstid ventet Europas fyrster på at han skulle dø, for dermed ville hans ætt være utdødd, og de andre fyrstehusene kunne gjøre mer eller mindre berettigede krav på tronen. Imidlertid viste det seg at Karl II selv hadde bestemt seg for å utpeke sin etterfølger. I sitt testamente overlot han tronen til Philippe de Bourbon, hertugen av Anjou, Ludvig XIVs sønnesønn, på det vilkår at han ikke arvet Frankrikes trone. De øvrige stormaktene kunne ikke tillate at Spania falt i Ludvigs hender, og den spanske arvefølgekrigen brøt straks etter ut.