Sachverhalt:
A. A._ (Beschwerdeführer) behauptet, er habe mit B._ einen Mietvertrag über eine Dreizimmerwohnung abgeschlossen. Mit Schreiben vom 31. Mai 2011 beantragte er der Schlichtungsbehörde für Mietverhältnisse des Kantons Glarus zur Hauptsache, B._ zu verpflichten, den Mietvertrag einzuhalten. Am 9. Juni 2011 trat die Schlichtungsbehörde auf das Schlichtungsgesuch nicht ein.
B. Der Beschwerdeführer gelangte an das Kantonsgerichtspräsidium des Kantons Glarus und verlangte im Wesentlichen, es sei festzustellen, dass C._, die als Mietervertreterin am Entscheid der Schlichtungsstelle mitgewirkt hatte, ihrer Ausstandspflicht nicht nachgekommen und dass die Schlichtungsbehörde nicht korrekt besetzt gewesen sei. Sodann sei der Nichteintretensentscheid aufzuheben und das Schlichtungsverfahren zu wiederholen oder das Verfahren selbst materiell zu behandeln. Am 10. August 2011 wies der Kantonsgerichtspräsident das Ausstandsbegehren ab, stellte fest, die Schlichtungsbehörde sei gesetzmässig besetzt gewesen und wies das Gesuch, diese neu zu besetzen, ab. Im Übrigen überwies er das Begehren an das Obergericht zur Behandlung als Beschwerde gegen den Entscheid der Schlichtungsbehörde und auferlegte dem Beschwerdeführer die Kosten. Dieser focht die Verfügung des Kantonsgerichtspräsidenten vor dem Obergericht des Kantons Glarus an, wiederholte im Wesentlichen seine Rechtsbegehren und beanstandete die Kostenverteilung. Das Obergericht bestätigte am 9. Dezember 2011 weitgehend den Entscheid des Kantonsgerichts, hob diesen allerdings auf, soweit dem Beschwerdeführer Kosten auferlegt worden waren. Ferner hiess es die Beschwerde gegen die Verfügung der Schlichtungsstelle, die ihm vom Kantonsgericht überwiesen worden war, gut und wies diese an, ein Schlichtungsverfahren durchzuführen. Die Mietschlichtungsbehörde setzte die Schlichtungsverhandlung mit Schreiben vom 9. Januar 2012 auf den 9. Februar 2012 an. Nachdem sie vom Rechtsvertreter von B._ darüber informiert worden war, dass der Beschwerdeführer den Entscheid des Obergerichts an das Bundesgericht weitergezogen hatte (vgl. Verfahren 4A_3/2012), setzte sie mit Schreiben vom 11. Januar 2012 die auf den 9. Februar 2012 angesetzte Verhandlung wieder ab und sistierte das Verfahren bis zum rechtskräftigen Entscheid des Bundesgerichts. Mit Eingabe vom 3. April 2012 reichte der Beschwerdeführer beim Obergericht eine Rechtsverzögerungsbeschwerde ein und rügte insbesondere, mit der Verzögerung des Verfahrens verstosse die Schlichtungsbehörde gegen <ref-law>.
C. Am 3. Mai 2012 trat das Obergericht auf diese Beschwerde zufolge Verspätung nicht ein, da der Beschwerdeführer die Sistierungsverfügung nicht fristgemäss angefochten habe. Mit Beschwerde in Zivilsachen und subsidiärer Verfassungsbeschwerde vom 7. Mai 2012 beantragt der Beschwerdeführer dem Bundesgericht im Wesentlichen, den Entscheid des Obergerichts aufzuheben und die Schlichtungsbehörde anzuweisen, unverzüglich eine Schlichtungsverhandlung (ohne C._) durchzuführen. Ferner beantragt der Beschwerdeführer, das Verfahren mit dem vor Bundesgericht bereits hängigen Verfahren 4A_3/2012 wegen weitgehender Identität des Sachverhalts zu vereinigen. Am 29. Mai 2012 hat der Beschwerdeführer dem Bundesgericht einen Entscheid des Kantonsgerichts Glarus vom 11. Mai 2012 in einer anderen Angelegenheit eingereicht, in dem dieses entschied, C._ habe gegenüber dem Beschwerdeführer in den Ausstand zu treten. Vernehmlassungen wurden nicht eingeholt.

Erwägungen:
1. Die vom Beschwerdeführer beantragte formelle Vereinigung mit dem Verfahren 4A_3/2012 erscheint nicht sinnvoll, da die in diesem Verfahren als Beschwerdegegner auftretende Partei im hier zu entscheidenden vor Bundesgericht nicht als Partei auftritt. Der für die Zulässigkeit des Rechtsmittels gegen einen Zwischenentscheid massgebende Streitwert bestimmt sich nach den Begehren, die vor der Instanz streitig sind, wo die Hauptsache hängig ist (<ref-law>). Das Streitwerterfordernis für eine Beschwerde in Zivilsachen in mietrechtlichen Fällen (<ref-law>) ist angesichts des vom Beschwerdeführer behaupteten Mietzinses von Fr. 1'000.-- inkl. Nebenkosten erreicht (<ref-law>). Auf die subsidiäre Verfassungsbeschwerde ist daher nicht einzutreten (<ref-law>).
2. Der Beschwerdeführer macht geltend, seine kantonale Beschwerde habe sich entgegen der Annahme der Vorinstanz klarerweise nicht gegen den Sistierungsbeschluss und damit gegen eine auf einem formellen Entscheid beruhende Rechtsverzögerung gerichtet, sondern gegen das Verstreichenlassen der Frist nach Art. 203 Abs. 1 und 4 ZPO. Hätte der Beschwerdeführer die Sistierungsverfügung angefochten, wäre die Frist nach <ref-law> nicht abgelaufen gewesen, so dass er keine entsprechende Rüge hätte erheben können.
2.1 Wird eine prozessleitende Verfügung angefochten, so beträgt die Frist zur Einreichung einer Beschwerde im Sinne von <ref-law> zehn Tage, sofern das Gesetz nichts anderes bestimmt (<ref-law>). Gegen Rechtsverzögerung kann jederzeit Beschwerde eingereicht werden (<ref-law>). Die Frist zur Anfechtung der Sistierungsverfügung vom 12. Januar 2012 war am 3. April 2012 bereits abgelaufen, zumal die jederzeitige Anfechtbarkeit nach <ref-law> die Fälle vor Augen hat, in denen kein anfechtbarer Entscheid erging (NICOLAS JEANDIN, in: CPC: Code de procédure civile commenté, Bohnet und andere [Hrsg.], 2011, N. 12 zu <ref-law>; FREIBURGHAUS/AFHELDT, in: Kommentar zur Schweizerischen Zivilprozessordnung [ZPO], Sutter-Somm und andere [Hrsg.], 2010, N. 6. zu <ref-law>), und nicht zum Zuge kommt, sofern die Verzögerung durch einen den Parteien selbständig eröffneten anfechtbaren Entscheid bewirkt wird (SPÜHLER, in: Basler Kommentar, Schweizerische Zivilprozessordnung, 2010, N. 10 zu <ref-law>; IVO W. HUNGERBÜHLER, in: Schweizerische Zivilprozessordnung [ZPO]: Kommentar, Brunner und andere [Hrsg.], 2011, N. 14 zu <ref-law>).
2.2 Gemäss den Bestimmungen über das Schlichtungsverfahren hat die Verhandlung innert zwei Monaten seit Eingang des Gesuchs oder nach Abschluss des Schriftenwechsels stattzufinden (<ref-law>). Mit Zustimmung der Parteien kann die Schlichtungsbehörde weitere Verhandlungen durchführen. Das Verfahren ist spätestens nach zwölf Monaten abzuschliessen (<ref-law>). Der Beschwerdeführer macht geltend, er habe sich in seiner Beschwerde nicht gegen den Sistierungsentscheid gewandt, sondern gegen das Verstreichenlassen der Fristen nach <ref-law>. Dem Sistierungsentscheid konnte der Beschwerdeführer indessen entnehmen, dass das Verfahren bis zum Entscheid des Bundesgerichts sistiert werden sollte. Wie lange das Verfahren vor Bundesgericht dauern würde, war nicht abzusehen. Für den Beschwerdeführer war daher erkennbar, dass beim Erlass des Sistierungsentscheides keine Rücksicht auf die Fristen nach <ref-law> genommen wurde. Damit hätte bereits die Sistierungsverfügung Anlass zu den vom Beschwerdeführer erhobenen Rügen gegeben. Bereits aus diesem Grund ist der angefochtene Entscheid nicht zu beanstanden.
2.3 Aber auch davon abgesehen erweist sich die Beschwerde als unbegründet. Nach <ref-law> kann das Gericht das Verfahren sistieren, wenn die Zweckmässigkeit dies verlangt, namentlich wenn der Entscheid vom Ausgang eines anderen Verfahrens abhängig ist. Auch im Schlichtungsverfahren muss eine Sistierung zulässig sein, wenn die sofortige Durchführung der Verhandlung unzweckmässig erscheint. Die Botschaft erwähnt ausdrücklich die Möglichkeit, das Verfahren während der Jahresfrist von <ref-law> pendent zu halten, um den Parteien Vergleichsverhandlungen zu ermöglichen, wobei das Verfahren allerdings auch in diesem Fall binnen Jahresfrist abzuschliessen ist (Botschaft zur ZPO, BBl 2006 7331 Ziff. 5.13 zu Art. 200 Abs. 4 E-ZPO). Eine Sistierung, die zu einer längeren Hängigkeit des Verfahrens vor der Schlichtungsstelle führen kann, ist daher nur mit Zurückhaltung anzuordnen.
2.3.1 Zu beachten ist allerdings, dass die in <ref-law> vorgesehene Jahresfrist die Verfahrensdauer vor der Schlichtungsbehörde regelt, nicht die Dauer eines allfälligen Rechtsmittelverfahrens. Der Beschwerdeführer wandte sich am 31. Mai 2011 an die Schlichtungsbehörde. Bereits am 9. Juni 2011 fällte diese ihren Nichteintretensentscheid. Erst mit dem Entscheid des Obergerichts vom 9. Dezember 2011 gelangte das Verfahren erneut vor die Schlichtungsstelle. Vor dieser dauert das Verfahren damit selbst zusammengerechnet noch keine 12 Monate.
2.3.2 Die Sistierung des Verfahrens ist aber auch davon abgesehen nicht zu beanstanden. Sowohl die ZPO (<ref-law>) als auch das BGG (<ref-law>) sehen die sofortige Anfechtbarkeit der Entscheide über Ausstandsbegehren vor, im Bestreben diese Fragen rasch zu klären, damit das Verfahren, für welches ein Ausstandsbegehren gestellt wurde, korrekt seinen Fortgang nehmen kann. Unter diesem Gesichtspunkt erscheint die Sistierung zweckmässig. Der Beschwerdeführer zeigt nicht auf, dass er im kantonalen Verfahren prozesskonform Umstände angeführt hätte, die einen materiellen Entscheid über die Streitfrage als dringlich erscheinen liessen. Führt die Schlichtungsbehörde die Verhandlung durch, bevor das Bundesgericht über die bei ihm hängige Beschwerde betreffend die korrekte Zusammensetzung und das Ausstandsbegehren (Verfahren 4A_3/2012) entschieden hat, besteht kein Anlass, C._ vom Verfahren auszuschliessen, da das Obergericht die Zusammensetzung der Schlichtungsbehörde nicht beanstandet hat. Der Beschwerdeführer beantragt aber vor Bundesgericht die Durchführung der Schlichtungsverhandlung ohne C._, was er mit Hinweis auf die von ihm als verletzt gerügten Fristen nach <ref-law> ohnehin nicht erreichen kann.
3. Damit erweist sich die Beschwerde in Zivilsachen als offensichtlich unbegründet. Sie ist abzuweisen, soweit darauf einzutreten ist. Auf die subsidiäre Verfassungsbeschwerde ist nicht einzutreten. Dem Verfahrensausgang entsprechend wird der Beschwerdeführer kostenpflichtig. Eine Parteientschädigung ist nicht geschuldet.

Demnach erkennt das Bundesgericht:
1. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
2. Die Beschwerde in Zivilsachen wird abgewiesen, soweit darauf einzutreten ist.
3. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergerichtspräsidenten des Kantons Glarus schriftlich mitgeteilt.
Lausanne, 22. Juni 2012
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Luczak