Kharkiv ble grunnlagt cirka 1650 og ble på midten av 1700-tallet det russiske Ukrainas hovedstad. Universitetet ble grunnlagt i 1804. Industrialiseringen i andre halvdel av 1800-tallet førte til en kraftig befolkningsøkning og sosiale spenninger. Byen ble et sterkt støttepunkt for den ukrainske nasjonale bevegelse, og under revolusjonen i 1905 var det voldsomme oppløp i byen. Mellom 1920 og 1934 var Kharkiv hovedstad i den ukrainske SSR.