Frem til 1774 hørte området til Krim-khanatet. Etter den russiske erobringen ble Kherson grunnlagt i 1778 av Grigorij Potemkin og festningsverk og skipsverft for å bygge svartehavsflåten ble anlagt. På 1800-tallet ble byen viktig for korneksport til Europa, og ved starten av 1. verdenskrig hadde byen 80 000 innbyggere. Etter revolusjonen i russland i 1917 var byen først en del av den ukrainske republikken, men inntatt flere ganger under den russiske borgerkrigen før Den røde armé tok endelig kontroll 16. april 1920.