Mot slutten av Aleksanders regjeringstid døde alle hans tre barn i løpet av kort tid. Dette skapte et akutt problem for arverekkefølgen. I 1284 foreslo han sin et år gamle datterdatter i Norge som sin tronfølger. Hun var resultatet av det politiske ekteskapet mellom kong Eirik Magnusson og Alexanders datter Margaret som hadde dødd i barsel. Dette barnet, Margrete, kalt «Jomfruen av Norge», var Alexanders siste direkte etterkommer, men Skottlands lover krevde en mannlig etterfølger. Aleksander inngikk da sitt andre ekteskap, denne gang med Yolande de Dreux, den 1. november 1285.