Nepela raakte in 1958 geïnteresseerd in kunstschaatsen toen hij zijn landgenoot Karol Divín Europees kampioen zag worden. Op dertienjarige leeftijd nam hij deel aan de Olympische Spelen in Innsbruck. In de tien jaar erna veroverde Nepela alle beschikbare kunstschaatstitels. De achtvoudig Tsjecho-Slowaaks kampioen won in 1966 zijn eerste EK-medaille en veroverde in 1969, na drie keer brons, zijn eerste goud op de EK. Hij zou de medaille vijf keer, tot en met 1973, winnen. Op de WK verloor hij twee keer van de Britse kunstschaatser Tim Wood. In 1971 veroverde Nepela zijn eerste wereldtitel. Er zouden nog twee wereldtitels volgen, voor het laatst in 1973 toen de WK in zijn geboortestad Bratislava plaatsvonden. Daarnaast won Nepela in 1972, op de Olympische Spelen in Sapporo, olympisch goud. Sinds 1974 schaatste hij met Holiday on Ice en coachte hij andere schaatsers. In 1989 begeleidde hij de West-Duitse Claudia Leistner naar de Europese titel. Kort daarna overleed Nepela, die homoseksueel was, aan vermoedelijk een aids-gerelateerde ziekte. De Slowaakse kunstschaatsbond organiseert sinds 1993 de jaarlijkse "Ondrej Nepela Memorial".