Pipin døde under en krigskampanje i 768, 54 år gammel. Hans sønner Karl og Karloman delte på nytt kongeriket mellom seg, men Karloman trakk seg tilbake til et kloster og døde kort tid etter. Det etterlot Karl som enehersker av et samlet Frankeriket. Den nye kongen, som kom til å stille sin far i skyggen, ble kjent som Charlemagne, latin Carolus Magnus, det vil Karl den store. Han var en mektig, intelligent, og delvis lese- og skrivekyndig konge som ble en legende for senere historie for både Frankrike som Tyskland. Karl den store gjenopprettet en likevektig balanse mellom monarken og paven.