Sachverhalt:
A. Am 28. März 2001 entliess die X._ GmbH (Beschwerdegegnerin) A._ (Beschwerdeführer) fristlos. Mit in Rechtskraft erwachsenem Entscheid vom 30. November 2001 verfügte das Amtsgericht Bukarest die Wiedereinstellung. Der Beschwerdeführer wurde in der Folge nicht wiedereingestellt. Mit Klage vom 4. Mai 2007 verlangte er vor dem Kantonsgericht Schaffhausen die Salär- und Bonuszahlungen für die Jahre 2003 - 2006 und behielt sich für die Zeit ab 1. Januar 2007 das Nachklagerecht vor. Nachdem das Obergericht des Kantons Schaffhausen die Sache ein erstes Mal an das Kantonsgericht zurückgeschickt hatte, damit dieses die Angelegenheit unter Anwendung des rumänischen Rechts beurteile, schrieb dieses mit Verfügung vom 26. Oktober 2010 den Forderungsprozess zufolge Abschluss eines Vergleichs als erledigt ab. Der Beschwerdeführer erhob Beschwerde an das Obergericht und beantragte, die Beschwerdegegnerin zu verpflichten, ihm für den Zeitraum vom 1. Januar 2003 bis 30. April 2010 Fr. 181'857.19 nebst Zins zu bezahlen und ihn gemäss dem Urteil des Amtsgerichts Bukarest tatsächlich wieder in seine frühere Position einzustellen. Das Kantonsgericht wies die Beschwerde am 11. Mai 2012 ab.
B. Mit Beschwerde in Zivilsachen und subsidiärer Verfassungsbeschwerde wiederholt der Beschwerdeführer im Wesentlichen seine vor Kantonsgericht gestellten Rechtsbegehren. Sein Gesuch um Gewährung der unentgeltlichen Rechtspflege für das Verfahren vor Bundesgericht wies dieses am 20. August 2012 wegen Aussichtslosigkeit ab, worauf der Beschwerdeführer fristgerecht den Kostenvorschuss leistete. Es wurden keine Vernehmlassungen eingeholt.
Erwägungen:
1. Der Beschwerdeführer führt in seiner Beschwerdeschrift aus, er sehe durch den Entscheid der Vorinstanz ausländisches Recht verletzt und stütze seine Beschwerde auf Art. 96 BGG. Hilfsweise stütze er seine Beschwerde auf die Verletzung verfassungsmässigen Rechts gemäss Art. 95 BGG und erhebe insofern subsidiäre Verfassungsbeschwerde nach Art. 116 BGG. Damit verkennt der Beschwerdeführer die Tragweite der Bestimmungen des BGG.
1.1 Die subsidiäre Verfassungsbeschwerde ist nur gegeben, soweit keine Beschwerde nach den Art. 72-89 BGG zulässig ist (Art. 113 BGG). Da mit Blick auf den Streitwert die Beschwerde in Zivilsachen offen steht, ist auf die subsidiäre Verfassungsbeschwerde nicht einzutreten. Dies schadet dem Beschwerdeführer insoweit nicht, als die Verletzung verfassungsmässiger Rechte auch in der Beschwerde in Zivilsachen geltend gemacht werden kann (Art. 95 lit. a BGG; BGE 133 I 201 E. 1 S. 203), wobei für die Rüge der Verletzung von Grundrechten die speziellen Begründungsanforderungen nach Art. 106 Abs. 2 BGG gelten, die im Übrigen auch in der Verfassungsbeschwerde massgebend gewesen wären (Art. 117 BGG).
1.2 Mit Bezug auf ausländisches Recht kann in der Beschwerde in Zivilsachen gerügt werden, ausländisches Recht sei nicht angewendet worden, wie es das schweizerische internationale Privatrecht vorschreibt (Art. 96 lit. a BGG). Die Rüge, das nach dem schweizerischen internationalen Privatrecht massgebende ausländische Recht sei nicht richtig angewendet worden, ist nur zulässig, sofern der Entscheid keine vermögensrechtliche Sache betrifft (Art. 96 lit. b BGG). In vermögensrechtlichen Streitigkeiten kann ausschliesslich gerügt werden, die Anwendung des ausländischen Rechts sei willkürlich und verstosse gegen Art. 9 BV (BGE 133 III 446 E. 3.1 S. 447 f.).
1.3 Nach Art. 75 Abs. 1 BGG ist die Beschwerde zulässig gegen Entscheide letzter kantonaler Instanzen und des Bundesverwaltungsgerichts. Das Bundesgericht leitet aus dem Begriff der Letztinstanzlichkeit gemäss Art. 75 Abs. 1 BGG ab, dass der kantonale Instanzenzug für die Rügen, die dem Bundesgericht vorgetragen werden, ausgeschöpft sein muss (BGE 134 III 524 E. 1.3 S. 527 mit Hinweisen).
1.4 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhaltes kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (BGE 135 III 127 E. 1.5 S. 130, 397 E. 1.5 S. 401; 133 II 249 E. 1.2.2 S. 252). Wer sich auf eine Ausnahme von der Bindung des Bundesgerichts an die tatsächlichen Feststellungen der Vorinstanz beruft und den Sachverhalt gestützt darauf berichtigt oder ergänzt wissen will, hat mit Aktenhinweisen darzulegen, dass er entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen prozesskonform eingebracht hat (Botschaft zur Totalrevision der Bundesrechtspflege, BBl 2001 4339 Ziff. 4.1.4.3 zu Art. 93 E-BGG; Urteile des Bundesgerichts 4A_275/2011 vom 20. Oktober 2011 E. 2, nicht publ. in: BGE 137 III 539; 4A_214/2008 vom 9. Juli 2008 E. 1.2, nicht publ. in: BGE 134 III 570; vgl. auch BGE 115 II 484 E. 2a S. 485 f.). Neue Vorbringen sind nur zulässig, soweit erst der angefochtene Entscheid dazu Anlass gibt (Art. 99 Abs. 1 BGG; BGE 136 III 123 E. 4.4.3 S. 129 mit Hinweisen), was wiederum näher darzulegen ist (BGE 134 V 223 E. 2.2.1 S. 226; 133 III 393 E. 3 S. 395).
1.5 Willkürlich ist ein Entscheid nach konstanter Rechtsprechung nicht schon dann, wenn eine andere Lösung ebenfalls vertretbar erscheint oder gar vorzuziehen wäre. Das Bundesgericht hebt einen kantonalen Entscheid wegen Willkür vielmehr nur auf, wenn er offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Dabei genügt es nicht, wenn sich nur die Begründung des angefochtenen Entscheides als unhaltbar erweist. Eine Aufhebung rechtfertigt sich nur dann, wenn der Entscheid auch im Ergebnis verfassungswidrig ist (BGE 136 I 316 E. 2.2.2 S. 318 f. mit Hinweisen).
1.6 Nach Art. 42 Abs. 2 BGG ist in der Begründung der Anträge in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Unbeachtlich sind blosse Verweise auf die Akten; inwiefern das angefochtene Urteil Recht verletzt, ist in der Rechtsschrift selbst darzulegen (BGE 133 II 396 E. 3.1 S. 399 f. mit Hinweisen).
2. Obwohl der von der Beschwerdegegnerin eingereichte Vergleich nur von dieser und nicht vom Beschwerdeführer unterzeichnet worden ist, schloss die Vorinstanz aus diversen Mitteilungen seines damaligen Rechtsvertreters, dieser habe für ihn mit der Beschwerdegegnerin einen dem einseitig unterzeichneten entsprechenden gültigen mündlichen Vergleich abgeschlossen, worin sich die Parteien auf eine rückwirkenden Wiedereinstellung des Beschwerdeführers und eine einvernehmliche Auflösung des Arbeitsverhältnisses per 31. Dezember 2002 geeinigt hätten.
2.1 Der Beschwerdeführer verweist auf drei Schreiben seines damaligen Anwalts und beanstandet, die Vorinstanz lasse ausser Acht, dass dieser dreimal schriftlich erklärt habe, dass es zu keinem mündlichen Vergleich mit der Beschwerdegegnerin gekommen sei. Soweit die kantonalen Instanzen von einem Abschluss eines Vergleichs direkt zwischen dem Beschwerdeführer und der Beschwerdegegnerin ausgegangen sein sollten, berücksichtigten sie die vom Beschwerdeführer vorgelegte E-mail vom 19. November 2009 nicht, in der er seinem damaligen Anwalt geschrieben habe: "As per today, please inform X._ and the court that I did not accepted the settlement". Die Rügen sind unbegründet:
2.1.1 Soweit die Vorinstanz sich nicht auf die vom Beschwerdeführer genannten Schreiben bezieht, müsste dieser formell zunächst darlegen, wo er sich im kantonalen Verfahren prozesskonform darauf berufen hat. Zudem müsste er zur materiellen Ausschöpfung des Instanzenzuges aufzeigen, dass er entsprechende Rügen bereits vor der Vorinstanz erhoben hat. Ein pauschaler Verweis genügt dazu nicht.
2.1.2 Auch davon abgesehen kann allein aus der Tatsache, dass die Vorinstanz ein Dokument oder dessen Inhalt nicht oder nicht vollständig erwähnt, nicht geschlossen werden, das Gericht habe das Dokument übersehen. Zur Begründung der Willkürrüge genügt es sodann nicht, Umstände anzuführen, die allenfalls für die Auffassung des Beschwerdeführers sprechen, wie die Tatsache, dass dieser die Vereinbarung nicht unterzeichnet hat. Es wäre vielmehr im Einzelnen aufzuzeigen, inwiefern die davon abweichende Beweiswürdigung der Vorinstanz offensichtlich unhaltbar ist. Die Vorinstanz stützt sich auf Schreiben, in denen sie durch den Rechtsvertreter über den mündlichen Abschluss des Vergleichs und über die Verzögerung bei der Einholung der Unterschrift informiert wird. Wenn sie diesen Schreiben mehr Gewicht einräumt, als den Schreiben des Rechtsvertreters, nachdem klar wurde, dass der Beschwerdeführer den Vergleich nicht zu unterzeichnen gedenkt, ist das nicht offensichtlich unhaltbar.
2.2 Der Beschwerdeführer thematisiert sodann die Anwendung des rumänischen Rechts. Er behauptet, zum Abschluss des Vergleichs hätte der Anwalt nach Art. 69 der rumänischen Zivilprozessordnung einer Spezialvollmacht bedurft; ein mündlicher Vergleich verstosse gegen das Schriftformerfordernis des Arbeitsvertrages und Schutzvorschriften des rumänischen Arbeitsrechts. Die Anwendung des rumänischen Rechts, dem der Arbeitsvertrag und damit auch die Auslegung des vereinbarten Formvorbehalts untersteht, kann das Bundesgericht indessen nicht überprüfen, da es um eine vermögensrechtliche Angelegenheit geht (Art. 96 BGG). Zur Begründung der insoweit einzig zulässigen Rüge der willkürlichen Anwendung des ausländischen Rechts genügt es nicht, darzulegen, wie das rumänische Recht nach Auffassung des Beschwerdeführers korrekt hätte angewendet werden müssen, da damit die davon abweichende Auffassung der Vorinstanz nicht rechtsgenüglich als offensichtlich unhaltbar ausgewiesen wird. Damit kann die Frage offen bleiben, ob bezüglich der notwendigen Vollmacht überhaupt rumänisches Recht zur Anwendung kommt, zumal in der Schweiz prozessiert wird, und insoweit nicht die rumänische ZPO Anwendung findet. Der Tatsache, dass der Beschwerdeführer für Rügen, bei denen dies nicht bereits aus dem angefochtenen Entscheid hervorgeht, nicht hinreichend mit konkreten Aktenhinweisen aufzeigt, dass er die Rügen bereits vor der Vorinstanz erhoben hat, kommt damit keine wesentliche Bedeutung zu. Mangels hinreichender Begründung kann insoweit ohnehin nicht auf die Beschwerde eingetreten werden.
2.3 Soweit der Beschwerdeführer als Verstoss gegen das Willkürverbot rügt, dem Urteil des Amtsgerichts Bukarest werde keine Beachtung geschenkt, übersieht er, dass gemäss den Feststellungen der Vorinstanz eine rückwirkende Wiedereinstellung des Beschwerdeführers vereinbart wurde. Dass das Amtsgericht Bukarest auch über die Modalitäten einer einvernehmlichen Auflösung des Arbeitsverhältnisses nach der Wiedereinstellung geurteilt hätte, ist nicht festgestellt. Insoweit besteht kein Widerspruch zum rechtskräftigen Urteil des Amtsgerichts.
3. Damit ist die Beschwerde in Zivilsachen insgesamt abzuweisen, soweit angesichts der mangelhaften Begründung überhaupt darauf einzutreten ist. Auf die subsidiäre Verfassungsbeschwerde ist nicht einzutreten. Dem Ausgang des Verfahrens entsprechend wird der Beschwerdeführer kostenpflichtig. Da keine Vernehmlassung eingeholt wurde, ist keine Parteientschädigung geschuldet.
Demnach erkennt das Bundesgericht:
1. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
2. Die Beschwerde in Zivilsachen wird abgewiesen, soweit darauf einzutreten ist.
3. Die Gerichtskosten von Fr. 6'000.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Schaffhausen schriftlich mitgeteilt.
Lausanne, 24. September 2012
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Luczak