Ernst was de zoon van Karl von Weizsäcker, die aan het einde van de negentiende eeuw als minister-president had gediend onder koning Willem II van Württemberg en die in 1897 als "Freiherr" in de adelstand was verheven. Zijn moeder was Paula von Meibom, die behoorde tot de oudere adel van het koninkrijk Württemberg. De arts Viktor von Weizsäcker was een broer van hem. In 1900 trad Ernst in dienst bij de Kaiserliche Marine. Hij werkte voornamelijk in Berlijn. Tijdens de Eerste Wereldoorlog diende hij in 1916 als vlagofficier onder admiraal Reinhard Scheer, onder wiens commando hij deelnam aan de Zeeslag bij Jutland. In 1917 werd hij in beide klassen onderscheiden met het IJzeren Kruis. Na de oorlog was hij enkele jaren marine-attaché in Den Haag.