Selv om området rundt byen har vært bebodd siden førhistorisk tid, ble Rheine først nevnt i et dokument signert av Ludvig I i 838. 15. august 1327 fikk Rheine byrettigheter av Ludvig II, biskop av Münster.