Sachverhalt:
A. A.a Die Erbengemeinschaft Z.b._ sel., bestehend aus Z.c._, Z.d._, Z.a._, Z.e._ und Z.f._, verkaufte mit öffentlich beurkundetem Vertrag vom 16. September 2005 drei Grundstücke zum Preis von Fr. 897'893.-- an X._.
A.b In der Folge weigerte sich Z.a._ im Gegensatz zu den übrigen Erben, die für die Eigentumsübertragung erforderliche Grundbuchanmeldung zu unterzeichnen.
A.c Am 19. Dezember 2008 stellten Z.c._, Z.d._ und Z.f._ ein Gesuch um Einsetzung eines Erbenvertreters. Das Amtsnotariat Wil-Toggenburg entsprach dem Gesuch. Nachdem das Departement des Innern des Kantons St. Gallen diese Verfügung aufgehoben hatte, hiess das Kantonsgericht St. Gallen den dagegen erhobenen Rekurs gut und setzte Rechtsanwalt Dr. iur. Y._ als Erbenvertreter ein. Die gegen diesen Entscheid geführte Beschwerde wies das Bundesgericht ab (Urteil des Bundesgerichts 5D_133/2010 vom 12. Januar 2011).
B. B.a Am 8. September 2009 reichte X._ (fortan: Kläger, Beschwerdegegner) vor Kreisgericht Wil gegen Z.a._ (fortan: Beklagter, Beschwerdeführer) als Beklagten sowie Z.c._, Z.e._, Z.f._ und Z.d._ als "mitbeteiligte Parteien" Klage ein mit dem Begehren, das Grundbuchamt sei anzuweisen, den Kaufvertrag gestützt auf die von den Verkäufern mit Ausnahme von Z.a._ unterzeichnete Grundbuchanmeldung und die zu ergehende richterliche Anordnung im Grundbuch einzutragen und die Eigentumsübertragung zugunsten des Klägers vorzunehmen. Der Beklagte schloss auf kostenfällige Abweisung der Klage.
Mit Entscheid vom 18. Oktober 2010 schützte das Kreisgericht Wil die Klage. Die vom Beklagten erhobene Einrede der fehlenden Passivlegitimation (mit der Begründung, dass sämtliche Erben gemeinsam hätten beklagt werden müssen) wurde verworfen. Im Rubrum des Entscheids wurden Z.c._, Z.d._, Z.e._ und Z.f._ als "Beteiligte" aufgeführt, welchen "zur Wahrung ihrer Rechte" auch das Urteil zur Kenntnis zu bringen sei.
B.b Gegen dieses Urteil reichte der Beklagte am 9. März 2011 Berufung beim Kantonsgericht St. Gallen ein. Er beantragte im Wesentlichen, die Klage abzuweisen. Der Kläger trug auf Nichteintreten, eventualiter auf Abweisung der Berufung an.
Im Rahmen eines am 23. März 2011 anhängig gemachten Zwischenverfahrens gegen den Erbenvertreter beantragte der Beklagte sodann, es sei diesem zu verbieten, die Anmeldung zur Eigentumsübertragung zu unterzeichnen und das Grundbuchamt sei anzuweisen, eine Verfügungsbeschränkung und Grundbuchsperre betreffend die fraglichen Grundstücke vorzumerken. Mit Entscheid vom 14. Juli 2011 wurde dieses Massnahmegesuch abgewiesen.
Mit Schreiben vom 30. Dezember 2011 teilte der Erbenvertreter dem Kantonsgericht mit, die streitgegenständlichen Grundstücke gemäss Kaufvertrag vom 16. September 2005 seien am 16. Dezember 2011 auf den Kläger übertragen worden.
Daraufhin wurde ein zweiter Schriftenwechsel durchgeführt, in dem beide Parteien an ihren Rechtsbegehren gemäss Berufung und Berufungsantwort festhielten. Mit Beschluss vom 13. August 2012 schrieb das Kantonsgericht St. Gallen das Verfahren als erledigt ab. Es auferlegte die erstinstanzlichen Gerichtskosten von Fr. 31'500.-- je zur Hälfte dem Kläger und dem Beklagten. Es verpflichtete den Beklagten ausserdem, die Gerichtskosten des Berufungsverfahrens von Fr. 5'000.-- zu bezahlen und den Kläger für dessen Parteikosten im Berufungsverfahren mit Fr. 20'000.-- zu entschädigen.
C. Mit Beschwerde in Zivilsachen und subsidiärer Verfassungsbeschwerde beantragt der Beklagte, es sei der Entscheid des Kantonsgerichts vom 13. August 2012 aufzuheben und das Verfahren bis zur vollständigen Erledigung zu sistieren. Eventualiter sei der Entscheid aufzuheben und die Klage unter Kosten- und Entschädigungsfolge abzuweisen. Subeventualiter sei der Entscheid des Kantonsgerichts betreffend die Kosten (Ziff. 2 und 3) aufzuheben, die Kosten für beide kantonalen Instanzen dem Kläger aufzuerlegen und dieser zu verpflichten, den Beschwerdeführer zu entschädigen. Subsubeventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Der Beschwerdegegner beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten ist.
Am 21. November 2012 reichte der Beschwerdeführer eine nachträgliche Eingabe ein, zu welcher der Beschwerdegegner am 5. Dezember 2012 Stellung nahm. Die Vorinstanz verzichtete auf eine Stellungnahme.
Erwägungen:
1. Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob ein Rechtsmittel zulässig ist (Art. 29 Abs. 1 BGG; BGE 138 III 46 E. 1 S. 46 mit Hinweis).
Die Beschwerde richtet sich gegen einen Endentscheid (Art. 90 BGG) einer letzten kantonalen Instanz (Art. 75 BGG) in Zivilsachen (Art. 72 Abs. 1 BGG). Es handelt sich um eine vermögensrechtliche Angelegenheit, und der Streitwert für eine Beschwerde in Zivilsachen wird offensichtlich erreicht (Art. 74 Abs. 1 lit. b BGG). Die Beschwerde wurde innert Frist (Art. 100 BGG) eingereicht, und der Beschwerdeführer hat ein schutzwürdiges Interesse, den angefochtenen Abschreibungsbeschluss überprüfen zu lassen (Art. 76 BGG). Auf die Beschwerde in Zivilsachen ist daher einzutreten. Entsprechend wird auf die subsidiäre Verfassungsbeschwerde nicht eingetreten (Art. 113 BGG).
2. Im Rahmen der Beschwerde in Zivilsachen wendet das Bundesgericht das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Mit Blick auf die Begründungspflicht des Beschwerdeführers (Art. 42 Abs. 1 und 2 BGG) behandelt es aber grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (BGE 135 III 397 E. 1.4 S. 400; 134 III 102 E. 1.1 S. 104 f.). Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht. Das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG).
3. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Die beschwerdeführende Partei, welche die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss klar und substanziiert aufzeigen, inwiefern die gerügten Feststellungen offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen (BGE 133 II 249 E. 1.4.3 S. 254 f.; 133 III 462 E. 2.4 S. 466 f.).
4. Das Kantonsgericht schrieb das Berufungsverfahren ab mit der Begründung, nach dem unangefochten gebliebenen Vollzug des Kaufvertrages durch den Erbenvertreter sei das Rechtsschutzinteresse des Beschwerdeführers entfallen.
Der Beschwerdeführer beanstandet, das Verfahren sei unzulässigerweise als gegenstandslos abgeschrieben worden. Obwohl er sich im abgeschriebenen Verfahren in erster Linie darauf berufen hatte, es fehle an der Passivlegitimation, vertritt er nun die Ansicht, es sei die Frage des rechtsgültigen Grundgeschäftes unbeantwortet geblieben. Mit der entscheidenden Feststellung im angefochtenen Entscheid, die Eintragung im Grundbuch sei unangefochten geblieben und der klagegegenständliche Anspruch in der Sache untergegangen, setzt er sich nicht auseinander. Er bringt in dieser Hinsicht nur vor, der "Erledigungszustand" sei nicht von Dauer. Er stellt jedoch selbst nicht in Abrede, dass nach Vollzug der Grundbucheintragung eine Grundbuchberichtigungsklage erforderlich wäre. Damit verkennt er, dass der Streitgegenstand des vorliegenden Prozesses, in dem es allein um die Eintragung des Beschwerdegegners als Eigentümer im Grundbuch ging, mit der Eintragung tatsächlich und endgültig erledigt ist. Für eine Grundbuchberichtigung bedürfte es einer neuen Klage. Mit der Sistierung des Verfahrens lässt sich die Grundbucheintragung nicht rückgängig machen. Auch eine Aufhebung des angefochtenen Entscheides würde nichts mehr an der bereits vollzogenen Eintragung ändern. Damit ist ein Rechtsschutzinteresse des Beschwerdeführers, das einen konkreten Nutzen im Sinne der Änderung der Rechtslage durch die Änderung des angefochtenen Entscheides voraussetzt, nicht mehr ersichtlich. Der angefochtene Abschreibungsbeschluss ist daher rechtskonform und die Beschwerde in der Sache abzuweisen, ohne dass die materiellen Einwände des Beschwerdeführers gegen den erstinstanzlichen Entscheid zu prüfen wären.
5. 5.1 Unbestritten richtete sich das kantonale Verfahren noch nach St. Gallischem Zivilprozessrecht in der bis Ende 2010 gültigen Fassung. Die Vorinstanz auferlegte die Kosten gestützt auf Art. 266 Abs. 1 und Abs. 2 lit. b des Zivilprozessgesetzes vom 20. Dezember 1990 (ZPO/SG) nach Ermessen. Soweit die Kostenauflage im Ermessen der entscheidenden Behörden liegt, greift das Bundesgericht auf Willkürbeschwerde nur ein, wenn der Kostenentscheid auf einer unhaltbaren Würdigung der Umstände beruht, die mit Recht und Billigkeit schlechterdings unvereinbar ist (BGE 109 Ia 107 E. 2c S. 109; Urteile des Bundesgerichts 4P.352/1997 vom 18. März 1998 E. 1b; 2P.400/1997 vom 3. März 1998 E. 5b).
5.2 Die Vorinstanz stellte für die Kostenverlegung entscheidend auf den mutmasslichen Prozessausgang ab, wobei mutmasslich bedeute, dass keine abschliessende Beurteilung vorzunehmen sei, sondern eine Prognose genüge. Dass sie entgegen dem Beschwerdeführer nicht berücksichtigte, wer die Gegenstandslosigkeit verursachte, beruht jedenfalls nicht auf einer unhaltbaren Würdigung der Umstände (vgl. E. 5.1 hiervor).
Die Vorinstanz ging bezüglich der Passivlegitimation davon aus, es hätten wohl alle Erben als notwendige Streitgenossenschaft eingeklagt werden müssen. Sie prüfte sodann verschiedene Prozesshandlungen des Klägers im Hinblick darauf, ob sein tatsächlicher Wille darauf gerichtet war, sämtliche Erben einzuklagen oder nur den Beklagten Z.a._. Sie nahm an, die meisten Indizien sprächen für ein Ungenügen der Klageschrift, letztlich sei dies aber ungewiss. Gleichzeitig berücksichtigte sie, dass, wenn sich die Klageschrift als genügend erwiesen hätte, das Begehren des Klägers wohl hätte geschützt werden müssen. Zu diesem zweiten Gesichtspunkt äussert sich der Beschwerdeführer nicht. Mangels Rüge (vgl. E. 2 hiervor) hat es hierbei sein Bewenden. Die hälftige Kostenteilung wäre demnach nur dann unhaltbar, wenn im Rahmen der Prognose praktisch mit Sicherheit hätte davon ausgegangen werden müssen, dass die Klage ungenügend war, sodass es auf die Prozesschancen für den umgekehrten Fall nicht mehr angekommen wäre. Die Vorinstanz hat aber dargelegt, gerade der Umstand, dass Z.a._ der Einzige gewesen sei, der die für den Vollzug des Kaufvertrages erforderliche Grundbuchanmeldung nicht unterzeichnet hatte, hätte unter dem Aspekt der erkennbaren Interessenlage rechtfertigen können, die Klageschrift als in ausreichender Weise gegen alle Erben gerichtet zu betrachten. Entsprechend sei sie denn auch vorerst von der Erstinstanz verstanden worden. Der Beklagte selbst habe sodann in seinen Rechtsschriften seine Miterben nicht bloss als "mitbeteiligte Parteien", sondern als "Beklagte" bezeichnet. Mit diesen zutreffenden Überlegungen setzt sich der Beschwerdeführer nicht auseinander. Der Kostenentscheid erweist sich insoweit jedenfalls nicht als willkürlich.
Auch die Kostenverlegung für das zweitinstanzliche Verfahren ist nicht zu beanstanden, zumal der Beschwerdeführer in Kenntnis der zur Gegenstandslosigkeit des Verfahrens führenden Umstände an seinem Antrag auf Klageabweisung festgehalten hat.
6. Bei diesem Verfahrensausgang wird der Beschwerdeführer für das bundesgerichtliche Verfahren kosten- und entschädigungspflichtig (Art. 66 Abs. 1 sowie Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
2. Die Beschwerde in Zivilsachen wird abgewiesen.
3. Die Gerichtskosten von Fr. 5'000.-- werden dem Beschwerdeführer auferlegt.
4. Der Beschwerdeführer hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 6'000.-- zu entschädigen.
5. Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen, I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 10. Januar 2013
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Luczak