Jabarkan Divisio regni dan putra-putranya dari Ludwig si Jerman

Tahun-tahun Ludwig si Jerman kemudian dipusingkan dengan pemberontakan putra-putranya. Putranya yang sulung, Karlmann, memberontak pada tahun 861 dan juga dua tahun kemudian; diikuti oleh putra keduanya Ludwig, yang bergabung dengan kakandanya Karl si Gendut. Pada tahun 864, Ludwig didesak untuk menjamin Karlman kerajaan Bayern, yang pernah dipegangnya di bawah kendali ayahandanya. Pada tahun berikutnya (865), ia membagi sisa-sisa wilayahnya: Sachsen ia memberikan Ludwig II (dengan Franken dan Thüringen) dan Swabia (dengan Raetia) kepada Karl si Gendut. Setelah merebut Bari dari bangsa Saracen pada tahun 871, Ludwig ditawan oleh Sergio dari Napoli, Waifar dari Salerno, Lamberto dari Spoleto dan Adelchis dari Benevento. Ia kemudian dibebaskan setelah bersumpah untuk tidak pernah kembali ke Italia Selatan. Konon kematian Kaisar Ludwig II (dari Italia) menyebabkan perdamaian di antara ayahanda dan anak dan beberapa upaya Ludwig untuk merebut mahkota kekaisaran untuk Karlmann. Upaya-upaya tersebut digagalkan oleh Ludwig II, yang kenyataannya tidak meninggal, dan musuh lama Ludwig, Karl yang Botak.

Ludwig sedang mempersiapkan perang saat ia meninggal pada tanggal 28 Agustus 876 di Frankfurt. Ia dimakamkan di dalam Biara Lorsch, meninggalkan tiga orang putra dan tiga orang putri. Putra-putranya, yang tidak lazim pada saat itu menghormati divisi yang dibuat satu dekade sebelumnya, dan masing-masing merasa puas dengan kerajaan mereka masing-masing. Ludwig dianggap oleh khalayak umum sebagai cucu laki-laki Karel yang Agung yang paling berwenang. Ia memperoleh tingkat keamanan tertentu untuk kerajaannya di dalam menghadapi serangan suku Nordik, Bangsa Hungaria, Slav, dan lainnya. Ia hidup dan berhubungan dekat dengan Gereja, yang mana ia sangat bermurah hati dan giat di dalam perpindahan tetangga-tetangganya yang menganut Paganisme.