Eduard von Böhm-Ermolli sinh ngày 12 tháng 2 năm 1856, tại Ancona (Ý), nơi cha ông đang phục vụ trong một đơn vị nhỏ của quân đội Áo. Nguyên gốc họ ông là Böhm. Cha ông, Georg Böhm, xuất thân từ một hạ sĩ quan chiến trường, lập được quân công trong trận Novara năm 1849, được thăng đến cấp thiếu tá trước khi nghỉ hưu vào năm 1877. Tháng 6 năm 1885, Georg Böhm gắn thêm họ gốc vợ mình (Maria Josepha Ermolli) vào họ của mình, đồng thời cũng được triều đình nâng lên hàng quý tộc cha truyền con nối vào tháng 9 năm 1885. Từ đó gia đình Böhm ở Troppau mang họ von Böhm-Ermolli.