Han var offiser i Wehrmacht under andre verdenskrig. I 1986 ble det kjent at han hadde tjenestegjort lengre i krigen enn han tidligere hadde hevdet. Waldheim innrømmet aldri at han hadde gjort noe galt, men sa at han hadde dårlig hukommelse og fremstilte seg som et offer. Mange mener han hadde kommet langt bedre ut av det hvis han hadde tatt et klart oppgjør med sin egen fortid.