Der Ort wurde 1882 auf dem Gelände der Farm "Klipspruit" gegründet. Eine niederländisch-reformierte Kirche wurde errichtet. Seinen Namen erhielt der Ort nach der Stadt Paris. Der Name stammt von dem deutschen Landvermesser Schilbach, der sich beim Blick auf den Vaal an die Seine in Paris erinnert fühlte. Der Ort gewann 1886 als Durchgangsstation für Reisende zum Witwatersrand an Bedeutung, nachdem dort Gold gefunden worden war. Während des Zweiten Burenkrieges war das Gebiet um Parys umkämpft. Einige Forts sind bis heute auf den umliegenden Hügeln und Flussinseln zu sehen. 1905 wurde Parys über eine Nebenbahn an das Schienennetz angeschlossen. 1915 errichtete man eine Betonbrücke über den Vaal, die zum weiteren Wachstum der Stadt beitrug. 1918 entstand eine Hängebrücke, die Gulf Island mit der Stadt verband. In den 1930er Jahren wurde ein neues Rathaus im Art-déco-Stil errichtet, nachdem der Vorgängerbau abgebrannt war.