Sachverhalt: A. Die Erbengemeinschaft Z._, vertreten durch B._ (Vermieter), vermietete A._ (Mieter) mit Mietvertrag vom 27. Juni 1988 per 15. Juli 1988 eine 2.5-Zimmerwohnung sowie einen Autoabstellplatz in O._ zu einem monatlichen Zins von Fr. 900.--. Am 4. Oktober 2010 kündigte der Vermieter den Mietvertrag mit amtlichem Formular per 31. März 2011. B. Der Mieter focht die Kündigung am 2. November 2010 bei der Schlichtungsbehörde für Miete und Pacht des Bezirks Baden an. Diese erklärte gestützt auf Art. 273 Abs. 4 aOR mit Entscheid vom 15. Februar 2011 die Kündigung als rechtens und gewährte eine Erstreckung bis 30. September 2011. Dieser Entscheid wurde dem Mieter am 22. März 2011 mit folgender Rechtsmittelbelehrung zugestellt: "Rechtsmittelbelehrung (Art. 274f Ziff. 1 OR): Gegen diesen Entscheid kann die unterlegene Partei innert 30 Tagen seit Zustellung des Entscheides an den Richter gelangen (Gerichtspräsident bzw. Bezirksgericht des Bezirks, in dem das Miet- bzw. Pachtobjekt liegt)." Am 4. Mai 2011 klagte der Mieter (Kläger) beim Gerichtspräsidium Baden auf Feststellung, dass die Kündigung ungültig sei, eventuell auf Erstreckung des Mietverhältnisses bis zum 31. März 2014. Das Gerichtspräsidium Baden trat mit Entscheid vom 14. Oktober 2011 wegen verspäteter Anrufung des Gerichts auf die Klage nicht ein. Das Obergericht des Kantons Aargau wies eine dagegen gerichtete Berufung des Klägers mit Entscheid vom 21. Februar 2012 ab. C. Der Kläger (Beschwerdeführer) erhebt Beschwerde in Zivilsachen mit den Anträgen, den Entscheid des Obergerichts vom 21. Februar 2012 aufzuheben und die Streitsache an das Obergericht zurückzuweisen. Das Obergericht verzichtet auf eine Vernehmlassung. Der Beklagte (Beschwerdegegner) liess sich nicht vernehmen.