Sachverhalt:
A. Zwischen der X._ GmbH (Beschwerdeführerin) als Mieterin und den Y._ AG (Beschwerdegegnerin) als Vermieterin bestand ein Mietverhältnis über die Geschäftsflächen des ehemaligen Restaurants B._ in C._. Mit Schreiben bzw. amtlichem Formular vom 7. März 2011 kündigte die Beschwerdegegnerin das Mietverhältnis per 31. Januar 2013.
Die Beschwerdeführerin erhob am 10. August 2011 beim Kreisgericht Werdenberg-Sarganserland Klage gegen die Beschwerdegegnerin mit den Anträgen, es sei die Kündigung aufzuheben, eventuell festzustellen, dass der Mietvertrag bis 30. Juni 2017 unkündbar sei, subeventuell das Mietverhältnis bis zu diesem Zeitpunkt zu erstrecken. Die Einzelrichterin des Kreisgerichts stellte mit Entscheid vom 4. November 2011 die Gültigkeit der Kündigung fest und wies die Klage im weiteren Umfang ab.
Am 27. September 2012 wies das Kantonsgericht St. Gallen eine von der Beschwerdeführerin gegen diesen Entscheid erhobene Berufung ab, soweit es darauf eintrat. Es trat dabei namentlich auf das Eventualbegehren um Mieterstreckung nicht ein.
B. Die Beschwerdeführerin beantragt mit Beschwerde in Zivilsachen, der Entscheid des Kantonsgerichts sei aufzuheben, soweit darin ein Nichteintretensentscheid erfolgt sei. Ferner sei das Mietverhältnis "mindestens um die Zeitdauer zu erstrecken, bis zum Ablauf der ordentlichen Kündigungsfrist gemäss ursprünglichem Mietvertrag (30.6.2017)", bzw. die Sache sei eventuell in dahingehendem Sinne an die Vorinstanz zurückzuweisen.
Die Beschwerdegegnerin schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Vorinstanz verzichtete auf eine Vernehmlassung.
Die Parteien haben Replik und Duplik eingereicht.
Mit Präsidialverfügung vom 22. November 2012 wurde ein Gesuch der Beschwerdeführerin um Gewährung der aufschiebenden Wirkung und mit Präsidialverfügung vom 30. Januar 2013 ein Gesuch derselben um Anordnung einer vorsorglichen Massnahme abgewiesen.
Erwägungen:
1. Das angefochtene Urteil des Kantonsgerichts ist ein verfahrensabschliessender Endentscheid (Art. 90 BGG) einer letzten kantonalen Instanz im Sinne von Art. 75 Abs. 1 und 2 BGG. Der Streitwert übersteigt die Grenze nach Art. 74 Abs. 1 lit. a BGG. Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist auf die gegen das genannte Urteil gerichtete Beschwerde - unter Vorbehalt einer rechtsgenüglichen Begründung (Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG) - einzutreten.
2. Die Erstinstanz stellte fest, dass die von der Beschwerdegegnerin am 7. März 2011 auf den 31. Januar 2013 ausgesprochene Kündigung des Mietverhältnisses gültig sei. Sodann prüfte sie, ob die Voraussetzungen für eine Erstreckung des Mietverhältnisses gegeben seien. Sie verneinte dies mit einlässlicher Begründung und wies das Begehren um Erstreckung ab.
In der gegen diesen Entscheid erhobenen Berufung wiederholte die Beschwerdeführerin ihren vor Kreisgericht gestellten Eventualantrag, "das Mietverhältnis sei um mindestens die Zeitdauer zu erstrecken, bis zum Ablauf der ordentlichen Kündigungsfrist gemäss ursprünglichem Mietvertrag (30.06.2017)". Nach den grundsätzlich verbindlichen Feststellungen der Vorinstanz (Art. 105 Abs. 1 und 2 BGG) befasste sie sich jedoch überhaupt nicht mit dem Eventualbegehren und setzte sich in keiner Weise mit den diesbezüglichen Erwägungen im angefochtenen Urteil der Erstinstanz auseinander. Die Vorinstanz trat deshalb auf das Eventualbegehren um Mieterstreckung nicht ein, weil es an der Prozessvoraussetzung einer Begründung des Berufungsantrags fehle.
Die vorliegende Beschwerde richtet sich einzig gegen diesen Nichteintretensentscheid, wogegen der Entscheid betreffend Wirksamkeit der Kündigung nicht angefochten wird. Gegenstand des bundesgerichtlichen Verfahrens ist damit einzig die Frage, ob die Vorinstanz auf den Erstreckungsantrag zu Recht nicht eingetreten ist. Nicht zu beurteilen ist dagegen die von der Vorinstanz nicht behandelte materiellrechtliche Frage, ob die Voraussetzungen für eine Erstreckung vorliegend gegeben sind. Bei einer Gutheissung der Beschwerde käme nur eine Rückweisung zur Beurteilung dieser Frage in Betracht.
3. Die Beschwerdeführerin erhebt eine Rüge "gemäss Art. 105 BGG", mit der sie sich sinngemäss gegen die vorinstanzliche Feststellung wendet, wonach sie sich überhaupt nicht mit dem Eventualbegehren befasst und sich in keiner Weise mit den diesbezüglichen Erwägungen im angefochtenen Urteil der Erstinstanz auseinandergesetzt habe. Sie macht geltend, der Sachverhalt betreffend den Kündigungs- und Erstreckungsaspekt sei von Anfang an immer klar gewesen, es gebe keine Sachverhaltsfeststellung, die festhalte, von Erstreckung könne nicht die Rede sein. Aus den für die Beschwerdeführerin gemachten Ausführungen ergehe mit aller genügenden Deutlichkeit, dass eine Erstreckung zwingend greifen müsste, wenn die Kündigung nicht aufgehoben werde.
Mit diesen vagen Vorbringen und dem allgemein gehaltenen Verweis auf die "für die Beschwerdeführerin gemachten Ausführungen" begründet die Beschwerdeführerin ihre Sachverhaltsrüge nicht hinreichend. Sie zeigt nicht einmal ansatzweise mit dazu erforderlichen, präzisen Aktenhinweisen auf, dass die kritisierte Feststellung der Vorinstanz offensichtlich unrichtig wäre (vgl. dazu BGE 136 II 508 E. 1.2; 133 II 249 E. 1.4.3; 133 III 350 E. 1.3, 393 E. 7.1, 462 E. 2.4 S. 466; betreffend die Anforderungen an Aktenhinweise s. die Urteile 4A_214/2008 vom 9. Juli 2008 E. 1.2, nicht publ. in: BGE 134 III 570; 4A_470/2009 vom 18. Februar 2010 E. 1.2). Darauf kann nicht eingetreten werden und es ist im Folgenden von der verbindlichen Feststellung der Vorinstanz auszugehen.
4. Die Beschwerdeführerin rügt eine unrichtige bzw. willkürliche Anwendung der Bestimmungen von Art. 272, 272a, 273 Abs. 4 (gemeint wohl: Abs. 5) i.V.m. Art. 263 und insbesondere Art. 273c OR. Der Mieter könne auf die Rechte im Zusammenhang mit der Erstreckung des Mietverhältnisses nicht verzichten. Wenn daher die Vorinstanz trotz erdrückendem Tatbestand und trotz eindeutiger Sachverhaltsschilderung den formalistischen Standpunkt einnehme, der Antrag auf Erstreckung sei nicht begründet worden, so verfalle sie in Willkür.
4.1 Das Bundesgericht kann die Anwendung von Bundesrecht im Rahmen der vorliegenden Beschwerde in Zivilsachen frei prüfen (vgl. Art. 95 lit. a BGG). Der erhobenen Willkürrüge kommt neben der Rügen der Verletzung von Bundeszivilrecht keine selbständige Bedeutung zu.
4.2 Nach Art. 311 Abs. 1 ZPO muss die Berufung eine Begründung enthalten. Begründen im Sinne der genannten Vorschrift bedeutet aufzeigen, inwiefern der angefochtene Entscheid als fehlerhaft erachtet wird. Dieser Anforderung genügt der Berufungskläger nicht, wenn er lediglich auf die vor der ersten Instanz vorgetragenen Vorbringen verweist, sich mit Hinweisen auf frühere Prozesshandlungen zufriedengibt oder den angefochtenen Entscheid in allgemeiner Weise kritisiert. Die Begründung muss hinreichend genau und eindeutig sein, um von der Berufungsinstanz mühelos verstanden werden zu können. Dies setzt voraus, dass der Berufungskläger im Einzelnen die vorinstanzlichen Erwägungen bezeichnet, die er anficht, und die Aktenstücke nennt, auf denen seine Kritik beruht (BGE 138 III 374 E. 4.3.1 S. 375; Urteil 4A_659/2011 vom 7. Dezember 2011 E. 3, in: SJ 2012 I S. 232). Die Begründung ist eine gesetzliche, von Amtes wegen zu prüfende Zulässigkeitsvoraussetzung für die Berufung. Fehlt sie, so tritt das obere kantonale Gericht auf die Berufung nicht ein (Urteile 5A_438/2012 vom 27. August 2012 E. 2.2; 4A_659/2011 vom 7. Dezember 2011 E. 3, in: SJ 2012 I S. 232).
Nach den verbindlichen Feststellungen der Vorinstanz (Erwägung 3) fehlte in der Berufung offensichtlich eine hinreichende Begründung des gestellten Erstreckungsbegehrens; wenn die Beschwerdeführerin in diesem Zusammenhang unter Ergänzung des vorinstanzlichen Sachverhalts die Behauptung aufstellt, in den Rechtsschriften, auch in der Berufung, sei der Sachverhalt betreffend Erstreckung laufend ausgedeutscht worden, ist sie damit nicht zu hören. Die Vorinstanz trat mithin in diesem Punkt zu Recht nicht auf die Berufung ein.
4.3 Die Beschwerdeführerin vertritt nun allerdings sinngemäss die Ansicht, die Vorinstanz hätte die Erstreckungsbegehren materiell prüfen müssen, weil es sich bei den Ansprüchen auf Erstreckung um Rechte handle, auf die der Mieter nicht verzichten könne.
Dem kann nicht gefolgt werden. Die vorstehend umschriebenen Begründungsanforderungen sind von Rechtsmittelklägern auch in Verfahren zu beachten, in denen der Untersuchungsgrundsatz gilt (BGE 138 III 374 E. 4.3.1 S. 375), geht es doch im Rechtsmittelverfahren allemal um die Überprüfung des vom Erstgericht getroffenen Entscheids aufgrund von erhobenen Beanstandungen und nicht darum, dass die Rechtsmittelinstanz von Grund auf eine eigene Prüfung sich stellender Rechtsfragen vornimmt, als wäre dem Rechtsmittelverfahren noch keine gerichtliche Beurteilung vorangegangen. Nichts anderes kann in Fällen gelten, in denen wie vorliegend unverzichtbare Rechte des Rechtsmittelklägers strittig sind. Befreite dieser Umstand die Beschwerdeführerin somit nicht von ihrer Begründungspflicht, trat die Vorinstanz auch unter diesem Aspekt zu Recht nicht auf das Erstreckungsbegehren ein und verletzte sie damit die von der Beschwerdeführerin angerufenen Bestimmungen nicht.
5. Die Beschwerdeführerin macht schliesslich eine Verletzung ihrer Ansprüche auf gleiche und gerechte Behandlung und auf rechtliches Gehör nach Art. 29 BV geltend; dass bei Voraussetzungen wie den vorliegenden die Frage der Erstreckung des Mietverhältnisses nicht formalistisch abgewandelt (recte wohl: abgehandelt) werden dürfe, ergehe aus den Intentionen des Gesetzgebers bezüglich des Mietvertragsrechts, konkretisiert insbesondere auch mit den Stichworten "Kündigungsschutz" und "Behörden und Verfahren" in den Abschnittstiteln des OR.
Mit diesen Vorbringen genügt die Beschwerdeführerin den Anforderungen an die Begründung der erhobenen Verfassungsrügen nicht, weshalb auf diese nicht eingetreten werden kann (vgl. dazu Art. 106 Abs. 2 BGG; BGE 138 I 171 E. 1.4; 134 II 244 E. 2.1 und 2.2 S. 245 f.; je mit Hinweisen). Ohnehin gehen die Rügen fehl. Denn die angerufenen allgemeinen Verfahrensgarantien entbinden eine Prozesspartei nicht davon, die verfahrensrechtlichen Regeln zu befolgen, die der Gesetzgeber im legitimen Interesse an einer effizienten Verfahrensführung und im wohlverstandenen Interesse der anderen Parteien aufgestellt hat (BGE 132 I 134 E. 2.1 S. 137; 131 II 169 E. 2.2.3 S. 173; 124 I 322 E. 4d S. 325; Urteil 4A_659/2011 vom 7. Dezember 2011 E. 6).
6. Die Beschwerde ist demnach abzuweisen, soweit darauf einzutreten ist. Bei diesem Verfahrensausgang wird die Beschwerdeführerin kostenpflichtig (Art. 66 Abs. 1 BGG). Der nicht anwaltlich vertretenen Beschwerdegegnerin ist keine Parteientschädigung zuzusprechen (Art. 68 Abs. 1 und 2 BGG; BGE 133 III 439 E. 4 S. 446).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 4'000.-- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen, III. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 7. Februar 2013
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Widmer