Nowotny werd geboren in Gmünd, Oostenrijk en groeide op in een gezin met drie zonen. Zijn vader was veteraan uit de Eerste Wereldoorlog en werkte daarna als treinconducteur. Zijn beide broers zouden later bij de Duitse Wehrmacht dienen: zijn jongere broer Hubert Nowotny sneuvelde in 1943, tijdens de slag om Stalingrad. Rudolf, de andere broer, werd in 1944 aan het Westfront krijgsgevangen genomen en zou als enige de oorlog overleven. Als kind toonde Walter Nowotny een grote interesse in sport, zo speelde hij veel voetbal en excelleerde hij in speerwerpen. In 1938, vlak na de Anschluss van Oostenrijk, meldde hij zich als vrijwilliger bij de Reichsarbeitsdienst. Een jaar later, in 1939, meldde hij zich bij de Luftwaffe.