Horst Nemec begann seine Fußballkarriere im August 1950 beim Rudolfsheimer AC und kam über den SC Helfort Wien zur Austria, für die er in der Saison 1957/58 in der Bundesliga debütierte. Nur knapp zwei Jahre später stand er bereits in den Reihen der österreichischen Nationalmannschaft. Sein erstes Länderspiel absolvierte er im Achtelfinale der Europameisterschaft 1960 gegen Norwegen und schoss beim 5:2-Sieg sogleich seine ersten beiden Länderspieltore. Im Viertelfinale kam zwar das Aus gegen Frankreich, allerdings mit dem dritten Nemec-Nationaltor. So spielte er sich rasch in die Stammelf Österreichs in der erfolgreichen Decker-Ära. Beim berühmten 3:0-Sieg über Spanien vor ewigem Zuschauerrekord im Praterstadion traf er ebenso, wie beim 3:1-Sieg über England.