Ludvigs siste år ble formørket av revolter fra hans sønner. Den eldste Karloman ledet opprør i 861 og 863, noe som Ludvigs andre sønn Ludvig den yngre tok etter, og senere også deres bror Karl den tykke. Rapporter om at keiser Ludvig II hadde dødd gjorde imidlertid at faren og sønnene forlikte seg med hverandre. Ludvig forsøkte derpå å vinne den keiserlige trone til Karloman. Med Ludvig II, slett ikke var dsød, og Karl den skallede, satte stopp for det.