Ferdinand Zeppelin ble født på Dominikanerinsel i Konstanz i det som senere ble Inselhotel. Han var sønn av den tidligere fyrstelig hohenzollernske hoffmarskalk og bomullsfabrikant greve Friedrich Jerôme Wilhelm Karl von Zeppelin (1807 – 1886) og hans hustru Amélie Françoise Pauline (født Macaire d’Hogguèr) (1816 – 1852). Hennes far David Macaire d’Hogguèr (1775 – 1845) skjenket familien von Zeppelin slottet Girsberg i Emmishofen (Sveits), der Ferdinand vokste opp sammen med sine søsken Eugenia og Eberhard og hvor han bodde helt til sin død.