Карл Дедециус е роден в семейството на судетски немци, които са се преселили в Полша. След нахлуването на нацистка Германия в Полша Дедециус е мобилизиран в Служба за трудова повинност, а после е включен в немската армия. Воюва на Източния фронт и е сериозно ранен в Битката при Сталинград. Попада в съветски плен, където научава руски и в лазарета чете Пушкин и Лермонтов.