In die 18de eeu het die boere se perdekommando's, wat van die Kaap af ooswaarts getrek het, die gebied van die Kamdeboovlakte en die Sneeuberg bereik. Die eerste plase aan die voet van die Sneeuberge is in die dekade ná 1770 aangelê. Onrus, wetteloosheid en talle botsings met die Xhosas het die vroeë geskiedenis van Graaff-Reinet gekenmerk. Eers met die aanstelling van 'n landdros, wat wet en orde moes handhaaf, het die vreedsame ontwikkeling van die dorp begin.
Mauritz Woeke, die eerste landdros, is op 13 Desember 1785 na die destydse grensgebied gestuur. Hy het die distrik en woonplek, wat hy vir homself uitgesoek het, na die goewerneur van die Kaap, Cornelis Jacob van de Graaff, en sy vrou Cornelia, gebore Reinet, genoem. Die grense van die nuwe landdrosdistrik, die vierde in die land naas Kaapstad, Stellenbosch en Swellendam, is op 19 Julie 1786 in 'n kennisgewing van die regering, 'n sogenaamde "plakkaat", geproklameer. Die Kaapse goewerneur het die dokument op 30 Augustus 1786 onderteken en dit so amptelik bekrag.
Van 1800 tot 1806 was die gemeente herderloos. Gedurende 1806 het ds. J.J. Kicherer (1806–1815) die derde predikant van Graaff-Reinet geword. Tydens sy bediening is die gemeentegelde in ’n stinkhoutkis en die Nagmaalgerei in ’n geelhoutkis bewaar. Op ’n vergadering op 28 Julie 1806 is daar gekla omdat daar geen banke en stoele in die kerk was nie. Die lidmate is toe versoek om vir hul sitplek in die kerk te betaal. Die sitplekke in die kerk het voortdurend moeilikheid veroorsaak, byvoorbeeld tot Ferdinand Hartzenberg by geleentheid kla dat die huisvrou van T. Warnich sy stoel in die kerk verskuif het.
Dr. Abraham Faure (1818–1822), die gemeente se laaste Afrikaner-predikant vir die res van die 19de eeu, was ’n buitengewoon begaafde leraar. Hy was baie bekommerd oor die tekort aan geestelike leesstof in die gemeente en het die eerste biblioteek op Graaff-Reinet help stig. Van 1822 tot sy aftrede in 1867 was hy leraar van die Groote Kerk. Hy is oorlede op 27 Maart 1875.
Ds. Andrew Murray sr. was baie gelukkig in sy nuwe vaderland en het onbaatsugtige diens aan die gemeenskap gelewer. Hy het baie gedoen vir die sendingwerk in Suid-Afrika sowel as elders op die vasteland. Hy het baie belanggestel in en gehelp met die onderwys en was ook ’n groot voorstander van die vrystelling van slawe.
Ná 44 jaar het ds. Andrew Murray weens swak gesondheid afgetree. Die gemeente het ’n beker vol goue ponde aan die bejaarde predikant geskenk met sy aftrede. Net vier maande nadat hy sê emeritaat aanvaar het, is hy oorlede. In 1871 is ’n gedenknaald vir die suidelike kerkdeur opgerig deur ’n dankbare gemeente.
Ds. Charles Murray was ’n besonder begaafde mens met ’n groot liefde vir die onderwys. Hy was ’n kindervriend en het sy suster Helen Murray baie gehelp om die Midland Seminary te stig. Die Ladies Seminary op Wellington was ’n groot sukses; daarom het Charles en sy suster Helen besluit om ’n soortgelyke skool op Graaff-Reinet op te rig. Helen was 38 jaar lank verbonde aan die Midland Seminary. Ds. Charles het ook ’n kerkskool gestig vir behoeftige kinders. Tydens sy bediening was daar 600 kinders in die Sondagskool. Hy was ook verantwoordelik vir die musiekpublikasies Kinderharp en Halleluja Liederen.
Die vierde en huidige gebou is in die Neogotiese boustyl opgerig. Die gebou is deur die Kaapse argitek James Bisset ontwerp met aspekte van die Salisbury-katedraal in Engeland in gedagte; die derde oudste gemeente in die Oos-Kaap, NG gemeente Cradock, se besonderse kerkgebou is in 1868 opgerig en ook gegrond op 'n Britse kerk, in sy geval 'n redelike getroue weergawe van die Anglikaanse kerk St. Martin in the Fields in Londen. Die bouaannemers van Graaff-Reinet se kerk was Grant & Downie. Bronne verskil oor die argitek en in sommige word die naam van Charles Freeman genoem as sou hy die argitek van dié laat-Victoriaanse meesterstuk wees. Die gemeente self, in 'n uitstalling wat in die kerkgebou te sien is, voer aan Bisset is die argitek.
Daar het reuse kandelare van die dakgewelf gehang in wat bekend is as die groot skip (middelste gedeelte van ’n kerk). Jare later, met die koms van elektrisiteit, is dit deur verskuilde elektriese ligte vervang. Tot in 1875 is daar tydens aanddienste van kerse gebruik gemaak. Daarna is die kerse deur olielampe vervang. Vandag nog bestaan van die olielampe wat teen die mure vasgesit is. Al die olielampe is met ’n geelkoper-aansteker in die vorm van ’n pyp aangesteek.
Met die inwyding van die vierde kerkgebou het die kerk op 11 September 1887 het die kerk nog nie ’n orrel gehad nie. Die boufonds kon nie ook nog ’n orrel bekostig nie. Dit sou sewe jaar later eers moontlik wees om ’n orrel te laat installeer. Die eerste orreliste, Fraülein Bau, het heel moontlik op ’n harmonium gespeel. Die koster, J.S. Dippenaar, moes ook as voorsinger optree. Daarvoor het hy ’n maandelikse betaling ontvang.
Die toring is nagenoeg 45,72 m hoog en die klok daarin weeg ’n ontsaglike 1720 pong. Die klok het lank vir die Graaff-Reineters as amptelik tydaanwyser gedien. Die timmerwerk van die gewelf en die res van die gebou is in Port Elizabeth gemaak. Die panele is gedeeltelik aanmekaargesit en toe per ossewa Graaff-Reinet toe gebring. Hier is dit aanmekaargesit en gemonteer. Nogtans het dit perfek in die gebou gepas. Die ysterhekke om die kerk is deur C.E. Beard teen ’n koste van £200 voorsien. Die plaatjie van die verkoper is nog aan die hekke te sien. Die Grootkerk is op 21 Maart 1975 tot nasionale gedenkwaardigheid verklaar. Die bordjie om dit te bewys is aan die ysterhekke in die ringmuur aangebring.
'n Latere leraar, ds. J.F. Naudé, het 'n groot stryd ter wille van die Afrikaanse taal en kultuur gestry en dit was deur sy toedoen dat Afrikaans sy regmatige plek as plaaslike opvoedingstaal ingeneem het met die stigting van die Hoër Volkskool in 1922, die eerste Afrikaansmedium hoërskool in die destydse Kaapprovinsie (en die tweede in Suid-Afrika). Nog 'n leraar, dr. D.F. Malan het in 1915 sy bediening hier neergelê om redakteur van Die Burger te word, later leier van die Nasionale Party en uiteindelik in 1948 eerste minister toe NP die bewind by die Verenigde Party oorneem.
Die gesamentlike lidmaattal van dié dorpe het reeds in 1952 'n hoogtepunt van 14 743 bereik, waarna dit teen 1995 teruggesak het tot 11 373, minder as die totaal in 1933 van 11 548. Tussen 1990 en 2000 het die totaal met net 1 381 afgeneem tot 10 572, maar in die daaropvolgende 15 jaar het die afname versnel toe die gemeentes 2 932 lidmate verloor en te staan gekom het op 'n totaal van slegs 7 640 einde 2014. Dis 'n verlies van meer as 'n kwart van die lidmate.
Ds. J.F. Naudé, leraar van 1921 tot 27 Augustus 1948, toe hy in die amp oorlede is. Hy was 75 jaar oud.