Лангсдорф је рођен 20. марта 1897. године на острву Риген у Берген ауф Ригену. Био је најстарији син у породици где су традиционална занимања пре била везана за право и религију него за поморство. Са породицом се преселио у Диселдорф 1898. године. У Диселдорфу су им комшије биле породица грофа Максимилијан фон Шпеа, који је касније постао немачки поморски јунак после Битке код Фолкландских острва 1914. године. Гроф је утицао на Лангсдорфа, па је он 1912. уписао поморску академију у Килу, упркос неслагању својих родитеља. Током Првог светског рата је имао чин поручника, а 1914. је добио Гвоздени крст друге класе због доприноса у бици код Јиланда.