เจ้าชายคาร์ล เอเทล ฟรีดิช เซฟีรินัส ลุดวิกแห่งโฮเฮนโซลเลิร์น-ซิกมาริงเง็น ประสูติ ณ เมืองซิกมาริงเง็น เป็นพระราชโอรสพระองค์ที่สองของเจ้าชายคาร์ล แอนตันแห่งโฮเฮนโซลเลิร์น-ซิกมาริงเง็นกับเจ้าหญิงโยเซฟินแห่งบาเดิน หลังจากสำเร็จการศึกษาในระดับประถมศึกษา เจ้าชายคาร์ลทรงเข้าศึกษาที่โรงเรียนคาเด็ทในเมืองมึนสเตอร์ ในปีพ.ศ. 2400 ทรงเข้าศึกษาในโรงเรียนวิชาการทหารปืนใหญ่ที่กรุงเบอร์ลิน ในปีพ.ศ. 2409 (เมื่อพระองค์ได้ตอบรับราชบัลลังก์โรมาเนียแล้ว) เจ้าชายทรงรับราชการในทหารปรัสเซียและทรงร่วมรบในสงครามชเลสวิชครั้งที่สอง โดยทรงร่วมกับฝ่ายปรัสเซียในการรบกับเดนมาร์ก โดยเฉพาะอย่างยิ่งในการโจมตีเมืองเฟรเดอริเซียและดิบโบล์ของเดนมาร์ก พระองค์ได้สะสมประสบการณ์จากการรบในสมรภูมิเหล่านี้ซึ่งจะเป็นประโยชน์ต่อพระองค์ในการบัญชาการรบในสงครามรัสเซีย-ตุรกี(1877 - 1878)