Ludvig ble født i september eller oktober 893 i Altötting i hertugdømmet Bayern. Han var den eneste legitime sønnen til kong Arnulf av Kärnten og hans hustru Ota. Han hadde minst to brødre: hans eldre, illegitime halvbror Zwentibold ble satt til å styre Lotharingia i 895, og hans andre bror, Ratold, styrte kortvarig kongeriket Italia. Bakgrunnen til Ratold, hans mor og alder, er ukjent.