Sachverhalt: A. Die X._ AG (Vermieterin) vermietete A._ (Mieter) und seiner Ehefrau eine 3,5-Zimmerwohnung im 10. Obergeschoss an der Y._strasse in Z._. Am 5. Dezember 2008 zeigte die Vermieterin dem Mieter und seiner Ehefrau eine Mietvertragsänderung mit Wirkung ab 1. April 2009 an, welche eine Erhöhung des bisherigen Mietzinses (ohne Nebenkosten) von Fr. 983.-- auf Fr. 1'202.-- vorsah. B. Der Mieter focht diese Mietvertragsänderung am 6. Januar 2009 bei der Schlichtungsbehörde für das Mietwesen des Bezirks Brugg an, die am 25. November 2009 das Nichtzustandekommen einer Einigung feststellte. Am 23. Dezember 2009 klagte die Vermieterin beim Bezirksgericht Brugg gegen den Mieter auf Feststellung, dass ein monatlicher Nettomietzins von CHF 1'202.-- zuzüglich Nebenkosten mit Wirkung ab 1. April 2009 für die unter anderem vom Mieter gemietete 3,5-Zimmerwohnung nicht missbräuchlich sei. Mit Verfügung vom 15. März 2011 stellte der Präsident des Bezirksgerichts fest, die dem Mieter von der Vermieterin angezeigte Mietzinsänderung vom 5. Dezember 2008 sei rechtsgültig geworden und trat auf die Klage nicht ein (Dispositiv Ziff. 1 und 2). Die Gerichtskosten, bestehend aus einer Gerichtsgebühr von Fr. 3'500.--, einer Kanzleigebühr und Auslagen von Fr. 360.--, insgesamt Fr. 3'860.-- auferlegte er dem Mieter (Dispositiv Ziff. 3), den er darüber hinaus verpflichtete, der Vermieterin eine Parteientschädigung von Fr. 9'814.40 (inkl. Fr. 727.-- MwSt.) zu bezahlen (Dispositiv Ziff. 4). Auf dem Rubrum findet sich unter der Rubrik "Gegenstand" der Vermerk "Ordentliches Zivilverfahren betreffend Mietzinsanfechtung". In der Rechtsmittelbelehrung führte der Gerichtspräsident unter Hinweis auf Art. 308 ff. ZPO aus, dieser Entscheid könne innert 30 Tagen nach seiner Zustellung beim Obergericht des Kantons Aarau mit Berufung angefochten werden. Innert dieser Frist erhob der Mieter beim Obergericht Berufung, mit der er einzig die Höhe der Gerichts- und Parteikosten gemäss Ziff. 3 und 4 des Dispositivs des erstinstanzlichen Entscheides anfocht. Das Obergericht qualifizierte die Berufung als Kostenbeschwerde und trat mit Entscheid vom 28. Februar 2012 wegen Verspätung darauf nicht ein. C. Der Mieter (Beschwerdeführer) beantragt dem Bundesgericht mit Beschwerde in Zivilsachen/subsidiärer Verfassungsbeschwerde, den Entscheid des Obergerichts vom 28. Februar 2012 aufzuheben und die Sache an das Obergericht zurückzuweisen. Die Vermieterin (Beschwerdegegnerin) hat auf eine Stellungnahme verzichtet. Hingegen hat das Obergericht eine Vernehmlassung mit dem Antrag auf Abweisung der Beschwerde eingereicht. Der Beschwerdeführer hat sich dazu in einer Replik geäussert.