Som følge av hans bestefars død i 1240, etterfulgte Llywelyns onkel, Dafydd ap Llywelyn (som var Llywelyn den stores eldste legitime sønn), ham som hersker av Gwynedd. Llywelyns far, Gruffudd (som var Llywelyns sønn, men født utenfor ekteskap), og hans bror Owain ble innledningsvis holdt som fanger av Dafydd, deretter overført til varetekten til kong Henrik III av England. Gruffudd døde i 1244 etter et fall under fluktforsøk fra sin celle fra toppen av Tower of London. Vinduet som han forsøkte å rømme fra ble murt igjen, men kan fortsatt bli sett den dag i dag.