Grahamstad is in 1812 as 'n militêre voorpos deur lt.kol. John Graham in opdrag van die destydse goewerneur van die Kaapkolonie, Sir John Cradock, gestig. Met vaandrig Stockenström, die latere landdros van Graaff-Reinet, as gids het Graham en die ander lede van sy regiment geskikte liggings vir 'n reeks forte in die grensgebied langs die Groot-Visrivier bepaal. Die rivier het as nuut verklaarde grenslyn tussen die Britse koloniale gebied en die Xhosa-stamland gedien. 'n Monument naby Grahamstad se katedraal markeer die plek waar Graham en Stockenström onder 'n mimosaboom gerus en die plek vir die bou van die nuwe militêre hoofkwartier bepaal het.
Daardie plek was die verlate plaas Rietfontein wat oorspronklik aan Lucas Meyer behoort het. Die geplunderde en uitgebrande plaashuis is herstel om as offisierskwartier vir die Britse regiment te dien. Later sou hier die katedraal ontstaan. Maar aanvanklik het net 'n klein dorpie rondom die militêre kamp gegroei. In 1814 het die goewerneur die gebied, wat Albanie genoem is, as selfstandige magistraatsdistrik geproklameer.
In die 1830's was Grahamstad reeds die grootste nedersetting in die Kaapkolonie buite Kaapstad en sou hierdie status nog tot die einde van die 19de eeu handhaaf. In 1836 het Grahamstad die administratiewe hoofstad van die oostelike Kaapkolonie geword. Sedert 1852 is dit ook die setel van 'n Anglikaanse biskop. Die Katedraal van St. Michael en St. George is die oudste Anglikaanse kerkgebou in Suid-Afrika en spog met 'n toring van 46 meter.
Danksy die stigting van 'n verskeidenheid skole in die laat 19de eeu en die opening van die Rhodes-universiteit in die vroeë 20ste eeu het Grahamstad tot 'n belangrike opvoedkundige sentrum vir die hele land ontwikkel. Met sy talle kerke het dit daarnaas steeds as godsdienstige sentrum gefungeer, terwyl dit vir die boeregemeenskappe in die omgewing as handelsplek gedien het. Godsdiens en handel speels steeds 'n belangrike rol in die lewe van sy bewoners, maar danksy die universiteit en sy navorsingsinstellings, asook meer as eenhonderd skole en ander opvoedkundige instellings is Grahamstad vandag hoofsaaklik 'n stad van wetenskap en onderwys.
Die plaaslike landdroshof, die hooggeregshof en die universiteit se regsskool maak van Grahamstad daarnaas 'n belangrike regtelike sentrum. Sedert 1864, toe die Oostelike Distrikshof gestig is, dien Grahamstad as setel van die Hooggeregshof se Oos-Kaapse afdeling.
Grahamstad het 'n belangrike rol in die geskiedenis van die Suid-Afrikaanse perswese en veral in die stryd om persvryheid gespeel. Thomas Pringle en John Fairbairn, die uitgewers van die plaaslike Commercial Advertiser, het geweier om hul dagblad, wat in 1824 die eerste keer verskyn het, aan die sensuur van die koloniale owerheid te onderwerp. Ná 'n vier jaar lange stryd is die fundamentele reg op persvryheid in die Kaapkolonie in 'n wet verskans.
Grahamstad huisves naas die Rhodes-universiteit ook baie skole en is die enigste stad in Suid-Afrika wie se primêre handelsektor die onderwys is. Terwyl hierdie statistiek sekerlik 'n gevolg is van die hoë skoolgelde van die privaatskole en die relatiewe klein bevolking, het dit 'n merkwaardige aantal skole per capita. Van hierdie is 'n paar van die meer bevoorregte skole hieronder gelys:
Die universiteit het sy wortels in die St. Andrew-kollege wat studente in die laat 19de eeu vir hul universiteitsopleiding voorberei het. Dit was egter duidelik dat daar in die Oos-Kaap 'n behoefte aan 'n eie sentrum vir hoër onderwys was, en so het vier professore van St. Andrew die Rhodes-universiteitskollege met 'n skenking van die De Beers-mynboumaatskappy gestig. Dié skenking was deel van Cecil John Rhodes se testament.
In 1904 het die universiteitskollege van die St. Andrew-kampus na die Drostdy-gebou verhuis. Destyds was sewe professore by die kollege betrokke, terwyl studentegetalle ondanks die ekonomiese moeilikhede, wat in die vroeë 20ste eeu ondervind is, stewig gegroei het. In 1947 is die besluit geneem om die kollege tot 'n onafhanklike universiteit op te gradeer, en vier jaar later, op 10 Maart 1951, is die Rhodes-universiteit amptelik ingewy.
Die eerste amptelike byeenkoms van Grahamstad se Jode was in 1843 en in dieselfde jaar is grond vir ’n Joodse begraafplaas aangekoop. In 1901 is die Grahamstadse Hebreeuse Gemeente gestig en in 1913 is ’n sinagoge gebou.
Die katedraal is oor 'n tydperk van meer as 'n eeu gebou. Die oudste deel is die suidmuur, 'n oorblyfsel van die ou St. George-kerk. Die toring is in 1878 voltooi en die dameskapel in 1953.
Die Nasionale 1820-Setlaarsmonument is op 'n koppie bo die stad gebou, tuiste van die jaarlikse Grahamstadse Nasionale Kunstefees.