Waldheim nacque a Sankt Andrä-Wördern, un piccolo paese nei pressi di Vienna il 21 dicembre 1918. Il padre, cattolico, era un ispettore scolastico di origine ceca di nome Watzlawick che modificò il suo nome nell'anno in cui si verificò il crollo dell'Impero austro-ungarico. Waldheim prestò servizio nell'esercito austriaco (1936–37) e frequentò l'Accademia diplomatica di Vienna, ove si laureò nel 1939. Suo padre era un membro attivo del Partito Cristiano Sociale, ma lui stesso non ne fece parte durante gli anni trascorsi all'Accademia. Tre settimane dopo l'annessione dell'Austria alla Germania, nel 1938, Waldheim s'iscrisse alla Lega degli studenti nazional-socialisti di Germania (NSDStB), una divisione del Partito nazista. Poco dopo divenne un membro iscritto dei corpi a cavallo delle SA.