Nato da una famiglia baronale dell'Impero Austriaco residente ad Ancona, allora possedimento dello Stato pontificio, Eduard von Böhm-Ermolli era figlio di Georg Böhm, ufficiale col grado di maggiore dell'esercito austriaco che si era guadagnato una medaglia d'argento al valor militare durante la Battaglia di Novara del 1849. Eduard assunse il cognome di Böhm-Ermolli unendovi anche quello della madre Maria Josepha, di origini italiane.