Zhmerynka ble en by med Magdeburg-rettigheter i 1591. Før det er det kjent at to landsbyer: Store Zjmerynka landsby og Lille Zjmerynka landsby eksisterte på samme stedet på 1500-tallet.