Orhei har navn etter Orhei Vechi, et aktivt kloster nær landsbyen Ivancea. Den opprinnelige middelalderbyen lå rundt 16 km nedenfor dagens by mot elven Răut. Denne byen ble ødelagt av Krim-tatarer i årene mellom 1300- og 1500-tallet. Byen var et tyrkisk militært senter for det nordlige Bessarabia fram til det ble erobret av Det russiske keiserrike i 1812 etter Den russisk-tyrkiske krig (1806–1812) og ble Guvernementet Bessarabia.