Karl Ludwig d'Elsa est né le à Dresde, c'est le fils de l'Oberstleutnant Louis-Ferdinand d'Elsa (1806-1882) et Huberta Louise née von Brandenstein. d'Elsa fait partie du corps des cadets à partir de Pâques 1864. Le , il est enseigne au . D' à , il étudie à l'école militaire d'Erfurt. Le , il est promu sous-lieutenant. le , au déclenchement de la guerre franco-allemande, il est adjudant au premier bataillon du régiment. Il participe aux batailles de Saint-Privat, de Beaumont, de Sedan. Il combat également lors du siège de Paris. Pour ses actions lors de cette campagne, d'Elsa reçoit la croix de fer (1870).