I 1558 ble Hai Rui forfremmet til distriktsmagistrat i et fattig fjellområde i provinsen Zhejiang. Det var her han først fikk sitt ry som ubestikkelig og kompromissløs i sin embedsførsel, først ved å arrestere den playboy-aktige sønn til en ledende generalguvernør da han dro gjennom hans distrikt, og deretter ved å stelle i stand en svært enkelt og sparsommelig resepsjon for en ekstravagant og mektig sjefssensor som var på inspeksjonsreise gjennom åtte sørlige provinser. Dette skapte forskrekkelse i et system der grenseløs smiger av overordnede på rangstigen var normen.