Erich Mendes far var folkeskolelærer og medlem av kommunestyret for Zentrumspartei. Etter abitur gikk Erich Mende inn i Wehrmacht, og ble forfremmet til major på slutten av krigen. Han tjente i Polen, Frankrike og ved østfronten, og ble flere ganger såret. Han mottok Jernkorset og Jernkorsets ridderkors for sin innsats i krigen.