Holubnychy a commencé l'athlétisme en 1953 et est devenu membre de l'équipe nationale d'URSS en 1959. En plus de ses exploits olympiques, il a été champion d'Europe en 1974 et champion d'URSS en 1960, 1964-1965, 1968, 1972 et 1974.