Karl Dedecius ble født som sønn av tyskfødte foreldre i det polske Łódź, som da var en multikulturell by, bebodd av både polakker og innvandrere fra blant annet Tyskland. Han tok studenteksamen fra en gymnasskole i fødebyen i 1939, kort før andre verdenskrigs utbrudd. Under krigen, da en stor del av Polen var okkupert av tyskerne, ble han innkalt som tysk statsborger, først til Reichsarbeitsdienst og så til Wehrmacht. Han ble sendt til østfronten, der han ble tatt som krigsfange av sovjeterne etter slaget om Stalingrad, der han ble hardt skadet.