Sachverhalt:
A. Die X._ AG (Beschwerdegegnerin) stellt Informations- und Orientierungsunterlagen her. A._ (Beschwerdeführer) zeichnete und gestaltete für die Beschwerdegegnerin ab dem Frühjahr 1981 bis zum Jahr 2004 Ortspläne, zunächst von Hand, später mit dem Computer. Die Arbeiten führte er in seiner Wohnung aus, die sich zuletzt in B._ befand. Die Entschädigung erfolgte aufgrund von Rechnungen, die der Beschwerdeführer erstellte. Ein schriftlicher Vertrag existierte nicht. Im April 2003 nahm die dem Beschwerdeführer zugewiesene Arbeit ab. Mit Schreiben vom Dezember 2003 wies der Beschwerdeführer die Beschwerdegegnerin auf diesen Umstand hin und bat um mehr Arbeit, da er sonst in finanzielle Not geraten würde. Ende März 2004 stellte die Beschwerdegegnerin die Arbeitszuteilung an den Beschwerdeführer vollständig ein.
Der Beschwerdeführer vertrat daraufhin die Auffassung, zwischen ihm und der Beschwerdegegnerin bestehe ein (mündlich oder konkludent vereinbartes) Arbeitsverhältnis, allenfalls auch bloss ein arbeitsvertragsähnliches Rechtsverhältnis, und forderte von der Beschwerdegegnerin Lohn, eine Entschädigung für beschaffte Arbeitsgeräte, eine Ferienentschädigung sowie eine Entschädigung wegen ungerechtfertigter fristloser Entlassung. Die Beschwerdegegnerin bestritt das Vorliegen eines entsprechenden Rechtsverhältnisses und lehnte die Ansprüche des Beschwerdeführers ab.
B. Nach erfolgloser Vermittlung klagte der Beschwerdeführer am 12. Januar 2005 beim Kreisgericht Rheintal auf Verpflichtung der Beschwerdegegnerin zur Bezahlung eines Betrages von total Fr. 93'179.50 nebst Zins, unter Vorbehalt des Nachklagerechts. Ferner verlangte er die Ausstellung eines rechtsgenügenden Arbeitszeugnisses. Mit Entscheid vom 28. August 2006 trat das Kreisgericht auf die Klage mangels örtlicher Zuständigkeit nicht ein. Es erwog, es handle sich nicht um ein Arbeitsverhältnis, weshalb der Beschwerdeführer nicht am arbeitsrechtlichen Wahlgerichtsstand des eigenen Wohnsitzes klagen könne. Selbst wenn das Verhältnis der Parteien als Heimarbeitsvertrag qualifiziert würde, wäre die Forderung des Beschwerdeführers abzuweisen.
Mit der gegen diesen Entscheid erhobenen Berufung drang der Beschwerdeführer vor dem Kantonsgericht St. Gallen, III. Zivilkammer, nicht durch. Anders als das Kreisgericht trat das Kantonsgericht am 16. Oktober 2007 in Anwendung der "Lehre von den doppelrelevanten Tatsachen" auf die Klage ein, wies diese aber ab, da dem Beschwerdeführer der Beweis nicht gelungen sei, dass er zur Beschwerdegegnerin in einem (Heim-)Arbeitsvertragsverhältnis gestanden sei. Das Kantonsgericht verneinte auch das Vorliegen eines Vertragsverhältnisses, auf welches die arbeitsrechtlichen Schutzvorschriften sinngemäss angewendet werden müssten.
Der Beschwerdeführer erhob gegen den Entscheid des Kantonsgerichts Nichtigkeitsbeschwerde an das Kassationsgericht des Kantons St. Gallen, das die Beschwerde mit Entscheid vom 4. Juli 2008 abwies, soweit es darauf eintrat.
C. Der Beschwerdeführer beantragt mit Beschwerde in Zivilsachen, die Entscheide des Kantonsgerichts vom 16. Oktober 2007 und des Kassationsgerichts vom 4. Juli 2008 aufzuheben und die Sache zu neuer Beurteilung an das Kreisgericht Rheintal, eventualiter an das Kantonsgericht zurückzuweisen.
Mit Verfügung vom 14. Januar 2009 wies das Bundesgericht das Gesuch des Beschwerdeführers um Gewährung der unentgeltlichen Rechtspflege für das bundesgerichtliche Verfahren wegen Aussichtslosigkeit ab. Dem Beschwerdeführer wurde Frist zur Leistung eines Kostenvorschusses gesetzt, den er rechtzeitig bezahlte.
Auf die Einholung von Vernehmlassungen wurde verzichtet.
Erwägungen:
1. Streitig ist die Qualifikation des Vertragsverhältnisses zwischen den Parteien. Das Kantonsgericht verneinte das Vorliegen eines Arbeitsvertrages oder eines arbeitsvertragsähnlichen Verhältnisses, weshalb es die auf das Bestehen eines solchen Rechtsverhältnisses gestützten Ansprüche des Beschwerdeführers nicht beurteilte. Das Bundesgericht könnte daher, wenn es den Standpunkt des Beschwerdeführers betreffend die Qualifikation des Vertragsverhältnisses schützen sollte, über die eingeklagten Ansprüche nicht selber befinden. Demzufolge ist es richtig, dass der Beschwerdeführer die Rückweisung der Sache zur Neubeurteilung an das Kreisgericht, eventuell an das Kantonsgericht beantragt.
2. 2.1 Mit Beschwerde in Zivilsachen können Rechtsverletzungen nach Art. 95 und 96 BGG gerügt werden. Die Beschwerde ist hinreichend zu begründen, andernfalls wird darauf nicht eingetreten. In der Beschwerdeschrift ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (Art. 42 Abs. 2 BGG). Die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht kann das Bundesgericht nur insofern prüfen, als eine solche Rüge in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG; BGE 134 II 244 E. 2.2; 133 III 439 E. 3.2).
Unerlässlich ist im Hinblick auf Art. 42 Abs. 2 BGG, dass die Beschwerde auf die Begründung des angefochtenen Entscheids eingeht und im Einzelnen aufzeigt, worin eine Verletzung von Bundesrecht liegt. Der Beschwerdeführer soll in der Beschwerdeschrift nicht bloss die Rechtsstandpunkte, die er im kantonalen Verfahren eingenommen hat, erneut bekräftigen, sondern mit seiner Kritik an den als rechtsfehlerhaft erachteten Erwägungen der Vorinstanz ansetzen (vgl. BGE 134 II 244 E. 2.1).
2.2 Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (BGE 133 II 249 E. 1.2.2). Der Beschwerdeführer, der die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substantiiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss Art. 105 Abs. 2 BGG gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre; andernfalls kann ein Sachverhalt, der vom im angefochtenen Entscheid festgestellten abweicht, nicht berücksichtigt werden. Der Beschwerdeführer kann sich dabei nicht damit begnügen, den bestrittenen Feststellungen eigene tatsächliche Behauptungen gegenüberzustellen oder darzulegen, wie die Beweise seiner Ansicht nach zu würdigen gewesen wären. Vielmehr hat er klar und substantiiert aufzuzeigen, inwiefern die gerügten Feststellungen bzw. die Unterlassung von Feststellungen offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen. Auf eine Kritik an den tatsächlichen Feststellungen der Vorinstanz, die diesen Anforderungen nicht genügt, ist nicht einzutreten (vgl. BGE 133 III 350 E. 1.3, 393 E. 7.1, 462 E. 2.4).
3. Der Beschwerdeführer beanstandet verschiedene Feststellungen des Kantonsgerichts als offensichtlich unrichtig. Die nämlichen Feststellungen hatte er bereits vor dem Kassationsgericht als aktenwidrig bzw. willkürlich gerügt. Das Kassationsgericht hat sich eingehend mit diesen Sachverhaltsrügen auseinandergesetzt und sie abgewiesen. Der Beschwerdeführer geht auf die diesbezüglichen Erwägungen des Kassationsgerichts mit keinem Wort ein, sondern übt direkte Kritik an den gerügten Feststellungen des Kantonsgerichts, wobei er sich teilweise damit begnügt, in der Beschwerde an das Bundesgericht seine in der kantonalen Nichtigkeitsbeschwerde vorgebrachten Ausführungen zu wiederholen. Damit erfüllt er die Begründungsanforderungen nicht (vgl. Erwägung 2). Das Bundesgericht hat schon unter der Herrschaft des OG festgehalten, das Gebot, den kantonalen Instanzenzug auszuschöpfen, hätte wenig Sinn, wenn das Bundesgericht die selben Rügen, die bereits im kantonalen Rechtsmittelverfahren geprüft worden sind, einfach nochmals behandeln würde, das will heissen, ohne dass die Begründung des letztinstanzlichen kantonalen Entscheids in der Beschwerde substantiiert gerügt werden und entsprechende Berücksichtigung finden müsste (BGE 125 I 492 E. 1 a/cc S. 495). Auf die Sachverhaltsrügen kann daher mangels rechtsgenüglicher Begründung nicht eingetreten werden. Es bleibt somit beim Sachverhalt, wie ihn das Kantonsgericht - gemäss Kassationsgericht willkürfrei - festgestellt hat.
4. Durch den Arbeitsvertrag verpflichtet sich der Arbeitnehmer auf bestimmte oder unbestimmte Zeit zur Leistung von Arbeit im Dienst des Arbeitgebers und dieser zur Entrichtung eines Lohnes, der nach Zeitabschnitten (Zeitlohn) oder nach der geleisteten Arbeit (Akkordlohn) bemessen wird (Art. 319 Abs. 1 OR).
Der Arbeitsvertrag weist damit im Wesentlichen vier Merkmale auf: Es ist Arbeit gegen Entgelt in einem Dauerschuldverhältnis geschuldet, die in einer fremden Arbeitsorganisation und damit in einem Unterordnungsverhältnis geleistet wird (Urteil 4C.276/2006 vom 25. Januar 2007 E. 4).
4.1 Notwendige Voraussetzung für das Vorliegen eines Arbeitsverhältnisses ist die Subordination des Arbeitnehmers. Darunter wird die rechtliche Unterordnung in persönlicher, betrieblicher und wirtschaftlicher Hinsicht verstanden. Entscheidend ist, dass der Arbeitnehmer in eine fremde Arbeitsorganisation eingegliedert ist und damit von bestimmten Vorgesetzten Weisungen erhält. Er wird in eine hierarchische Struktur eingebettet. Die Schwierigkeit liegt allerdings darin, dass auch bei anderen Verträgen auf Arbeitsleistung, zum Beispiel beim Auftrag, ein Weisungsrecht besteht. Es kommt deshalb auf das Mass der Weisungsgebundenheit an (Urteil 4C.276/2006 vom 25. Januar 2007 E. 4.3.1 mit Hinweisen).
Das Kantonsgericht hat das Kriterium der Subordination eingehend geprüft. Es kam dabei zum Schluss, dass dem Beschwerdeführer hauptsächlich hinsichtlich der Art und Weise seiner Arbeitsausführung relativ detaillierte Vorgaben gemacht worden seien. Dies sei aber im Wesentlichen schon durch das von ihm zu erstellende Produkt (Zeichnen von Ortsplänen) begründet gewesen. Eine Weisungsgebundenheit bezüglich Ferienbezug und Rechnungsstellung habe nicht bestanden. Eine hierarchische Unterstellung sei nicht bewiesen. Auch sei der Beschwerdeführer nicht bzw. kaum organisatorisch in den Betrieb der Beschwerdegegnerin eingegliedert gewesen.
4.2 Ein weiteres Kriterium für die Unterscheidung zwischen einer selbständigen und einer unselbständigen Tätigkeit bildet die Frage der wirtschaftlichen Abhängigkeit. Dabei kommt es letztlich darauf an, ob durch die vertragliche Bindung die Dispositionsmöglichkeit über den Einsatz der eigenen Arbeitskraft in dem Sinne verloren geht, dass über das Entgelt als Gegenleistung hinaus nicht mehr am wirtschaftlichen Erfolg des Einsatzes der eigenen Arbeitskraft partizipiert werden kann. Ein wesentliches Indiz für eine Abhängigkeit in diesem Sinne liegt vor, wenn eine Person ausschliesslich für ein einziges Unternehmen tätig ist. Verstärkt wird dieses Indiz durch eine vertragliche Verpflichtung, jede wirtschaftliche Tätigkeit ähnlicher Art zu unterlassen (Urteil 4C.276/2006 vom 25. Januar 2007 E. 4.6.1 mit Hinweisen).
Das Kantonsgericht hielt dazu fest, es treffe nicht zu, dass der Beschwerdeführer zu jeder Zeit ausschliesslich für die Beschwerdegegnerin gearbeitet habe. So habe er bei Aufnahme seiner Tätigkeit für die Beschwerdegegnerin zunächst noch eine Sauna geführt. Sie schloss zudem, es sei dem Beschwerdeführer in Phasen, in denen seine Einkünfte aus seiner Arbeit für die Beschwerdegegnerin verhältnismässig gering(er) ausfielen (namentlich in den Jahren 1999-2001 sowie 2003), nicht unmöglich gewesen, auch noch andere Einkommensquellen zu nutzen. Das Bestehen eines Konkurrenzverbotes im Verhältnis der Parteien sei nicht bewiesen.
4.3 Auf der Grundlage dieser und der weiteren tatsächlichen Feststellungen des Kantonsgerichts ist es bundesrechtlich nicht zu beanstanden, dass das Vertragsverhältnis der Parteien nicht als (Heim-)Arbeitsvertrag qualifiziert wurde. Der Beschwerdeführer legt denn auch keine Bundesrechtsverletzung dar, sondern stützt seine Folgerung, es müsse ein Arbeitsvertrag angenommen werden, auf einen abweichenden Sachverhalt. Damit kann er aber nicht gehört werden (vgl. Erwägung 3).
4.4 Da das Vertragsverhältnis der Parteien nicht als Arbeitsvertrag zu qualifizieren ist, wurden die aus dem Bestehen eines solchen abgeleiteten Ansprüche des Beschwerdeführers zu Recht abgewiesen.
5. Bei Dauerschuldverhältnissen, in welchen die eine Partei wirtschaftlich von der anderen abhängig ist, kann die Schutzbedürftigkeit der schwächeren Vertragspartei die sinngemässe Anwendung zwingender Vorschriften erheischen, welche das Gesetz für verwandte Vertragstypen vorsieht (BGE 118 II 157 E. 4a/aa S. 163). Der Beschwerdeführer beruft sich eventualiter auf ein arbeitsvertragsähnliches Verhältnis. Das Kantonsgericht lehnte indessen auch die Annahme eines solchen mit der Begründung ab, es sei zwar erstellt, dass eine gewisse - und sogar erhebliche - wirtschaftliche Abhängigkeit des Beschwerdeführers vorgelegen habe, hervorgerufen in der Zeit, in welcher die erteilten Aufträge stetig zugenommen hätten und er stark ausgelastet gewesen sei. Diese Abhängigkeit sei aber nicht rechtlicher, sondern bloss faktischer Natur gewesen. Eine mit der Situation eines Arbeitsverhältnisses vergleichbare Schutzbedürftigkeit des Beschwerdeführers sei nicht erwiesen.
Der Beschwerdeführer rügt, das Kantonsgericht verkenne, dass ein arbeitsvertragsähnliches Verhältnis keine rechtliche Abhängigkeit voraussetze, sondern eine faktische Abhängigkeit genüge. Die Rüge orientiert sich an der Erwägung 4a/bb des Bundesgerichts in BGE 118 II 157, in der ausgeführt wird, in jenem Fall rückten die Gegebenheiten den Vertrag in seiner Bedeutung für die Beklagte in die Nähe eines Arbeitsverhältnisses, habe doch faktisch eine Abhängigkeit von der Klägerin bestanden, die derjenigen des Arbeitnehmers vom Arbeitgeber zumindest sehr nahe komme. Zu den Gegebenheiten in jenem Fall zählte, dass die Beklagte ihre Aufgaben vollberuflich auszuüben hatte und ihr die Aufnahme einer anderweitigen selbständigen oder unselbständigen Erwerbstätigkeit ausdrücklich verwehrt war. Zudem stand die Beklagte in einem ausgesprochenen Unterordnungsverhältnis zur Klägerin. Schliesslich übte die Beklagte ihre Tätigkeit mit den ihr von der Klägerin zur Verfügung gestellten Betriebsmitteln, insbesondere in den ihr von dieser überlassenen Räumlichkeiten aus (BGE 118 II 157 E. 4a/bb S. 164). Aufgrund dieser Gegebenheiten schloss das Bundesgericht in jenem Fall auf eine Abhängigkeit, die derjenigen eines Arbeitnehmers zumindest sehr nahe komme.
Im vorliegenden Fall liegen keine solchen Gegebenheiten vor. Vielmehr wurde gerade keine Unterordnung des Beschwerdeführers festgestellt. Auch war es dem Beschwerdeführer nicht verwehrt, neben seiner Arbeit für die Beschwerdegegnerin andere Tätigkeiten (namentlich andere als das Zeichnen von Ortsplänen) auszuführen, so wie er es anfänglich mit dem Betrieb einer Sauna auch getan hat. Es ist daher bundesrechtlich nicht zu beanstanden, wenn im vorliegenden Fall nicht auf eine Abhängigkeit des Beschwerdeführers von der Beschwerdegegnerin geschlossen wurde, die derjenigen eines Arbeitnehmers sehr nahe kommt. Zwar drückt sich das Kantonsgericht unzutreffend aus, wenn es eine rechtliche Abhängigkeit zu verlangen scheint, jedoch wird aus den Erwägungen klar, dass es die Annahme eines arbeitsvertragsähnlichen Verhältnisses deshalb ablehnte, weil die Abhängigkeit des Beschwerdeführers von der Beschwerdegegnerin nicht eine derart grosse Intensität erreichte, welche die Anwendung der Schutznormen des Arbeitsvertrages erheischen würde. Dieser Beurteilung des Ausmasses der Abhängigkeit des Beschwerdeführers ist beizupflichten.
6. Die Beschwerde ist aus diesen Gründen abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Verfahrensausgang wird der Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1 BGG). Da keine Vernehmlassung eingeholt wurde, entfällt eine Parteientschädigung an die Beschwerdegegnerin.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 5'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Kantonsgericht St. Gallen, III. Zivilkammer, und dem Kassationsgericht des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 9. Februar 2009
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Die Gerichtsschreiberin:
Klett Sommer