Langsdorff urodził się w Bergen na wyspie Rugia. W roku 1898 jego rodzina przeniosła się do Düsseldorfu. W roku 1912 rozpoczął naukę w Akademii Morskiej w Kilonii, choć rodzice odradzali mu tego rodzaju karierę. W czasie I wojny światowej porucznik Langsdorff zasłużył się w bitwie jutlandzkiej (1916), za co otrzymał Żelazny Krzyż II klasy.