Faren, George, var først politimann og deretter banemann på tennisplassen der Ilie begynte å spille tennis, mens moren, Elena, var hjemmeværende. Han begynte først med fotball og spilte for , men påvirket av sin eldre bror, Constantin, begynte han å spille tennis. Han vant Romanias barnemesterskap i 1959, juniormesterskapet i 1962 og seniormesterskapet i 1965, der han vant i fem sett mot regjerende mester Ion Țiriac. I 1969, 1971 og 1972 kom han sammen med Ion Țiriac til finalen i Davis Cupen. Han debuterte internasjonalt i 1966, da han sammen med Ion Țiriac kom til doublefinalen i French Open. Hans mest fremgangsrike år innen tennisen var 1973, da han vant Italian Open i single mot Manuel Orantes, French Open i singel (uten å tape et eneste sett), og Wimbledon i double sammen med Jimmy Connors. Det året var han ranket som verdens beste singeltennisspiller. I løpet av sin karrierer vant han 87 singelturneringer (57 av dem ATP-turneringer) og 55 doubleturneringer (47 av dem ATP-turneringer).