Midt på plassen står en fontene som ble gitt til byen i 1875 av Heinrich Arnold Thaulow, som ble byens første lege fra 1834 til han flyttet i 1839. Han tok initiativ til Kurbadet som startet i 1837, og kjøpte alle aksjene i badet og ble eneeier i 1875. Han eide samtidig Modum Bad. Fontenen ble opprinnelig plassert på plassen foran byens kirke, som altså lå rett syd for Chr. Hvidts plass, og her sto den til brannen i 1900. Den ble så flyttet til nåværende plass. Senere ble det bygget blomsterbed rundt og et lavt smijernsstakitt. Fontenen var nedslitt etter annen verdenskrig og ble fjernet. På samme plass ble en skulptur av en barnegruppe, utført av Ørnulf Bast og bekostet av fabrikkeier Odd Gleditsch, satt opp. I 1971 ble fontenen reparert og plassert der den før hadde stått. Barnegruppen ble satt opp i Kirkeparken i 1974.