In 1941 word Waldheim 'n soldaat in die Duitse Wehrmacht, waar hy aan die oosfront dien. Hy is in Desember 1941 gewond, maar keer spoedig na aktiewe diens terug. Hy was tot 1945 'n soldaat, hoewel hy in sy outobiografie beweer dat hy die leër in 1942 verlaat het om aan die Universiteit van Wene te studeer.
Voor die presidensiële verkiesing van 1986 word dit bekend dat hy tydens die Tweede Wêreldoorlog 'n intelligensie-beampte in die Wehrmacht was, wat internasionale omstredenheid veroorsaak. Hy wen tog die verkiesing en dien van 8 Julie 1986 tot 8 Julie 1992 as Oostenryk se bondspresident. 'n Kommissie is aangestel om sy betrokkenheid by die Wehrmacht te ondersoek. Daar was geen bewyse dat hy oorlogsmisdade gepleeg het nie, maar die kommissie bevind dat Waldheim meer weet as hy wou erken.