Kiseljov vokste opp i Krementsjuk i Ukraina. Hans største internasjonale suksess var seieren under OL 1980, der han satte ny olympisk rekord med 21,35 m i sitt siste forsøk. På andreplass kom den tidligere verdensrekordinnehaveren Aleksandr Barysjnikov med 21,08 m, foran den nåværende verdensrekordinnehaveren Udo Beyer med 21,06 m.