Han ble født i en katolsk familie i det daværende Østerrike-Ungarn. Da han var fire år ble Teschen en del av Polen, og han ble polsk statsborger. Czaja studerte germanistikk, historie og filosofi i Wien og Kraków, og var deretter vitenskapelig assistent ved universitetet i Kraków, hvor han tok doktorgraden i 1939. Hans vegring mot å melde seg inn i NSDAP etter utbruddet av annen verdenskrig førte til at han mistet sin stilling ved universitetet. Fra 1940 arbeidet han som gymnasiallærer i Zakopane og Przemyśl. Han fikk tysk statsborgerskap, og ble innkalt til krigstjeneste i 1943. Ved slutten av krigen ble han sterkt skadet på Østfronten. I 1945 ble han fordrevet fra Schlesien, og slo seg ned i Stuttgart, hvor han arbeidet i skolevesenet.