Sachverhalt:
Nach Abklärungen in medizinischer und erwerblicher Hinsicht, insbesondere eines Gutachtens des Medizinischen Abklärungsinstituts X._ vom 16. November 2009 lehnte die IV-Stelle des Kantons Graubünden den Anspruch des 1962 geborenen, zuletzt im Gastrobereich tätig gewesenen T._ auf eine Invalidenrente mit Verfügung vom 9. Juni 2010 über den 30. November 2009 hinaus ab. Auf ein erneutes Rentengesuch vom 23. Mai 2011 trat die IV-Stelle mangels Glaubhaftmachung neuer Tatsachen mit Verfügung vom 27. September 2011 nicht ein.
Die hiegegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Graubünden mit Entscheid vom 21. Februar 2012 ab.
T._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten erheben und sinngemäss beantragen, der angefochtene Entscheid sei aufzuheben und die IV-Stelle habe auf sein erneutes Rentengesuch einzutreten.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>).
2. 2.1 Im angefochtenen Entscheid werden die für eine materielle Beurteilung des eingereichten Gesuchs erforderlichen Voraussetzungen richtig wiedergegeben. Es betrifft dies namentlich das Erfordernis des Glaubhaftmachens einer anspruchsrelevanten Verschlechterung des Gesundheitszustandes als Voraussetzung für eine erneute Prüfung des Rentenanspruches durch die Invalidenversicherung (Art. 87 Abs. 3 und 4 IVV; <ref-ruling> E. 5.3.1 S. 112 mit Hinweisen). Darauf wird verwiesen.
2.2 Die Vorinstanz hat zutreffend erwogen, weshalb der Beschwerdeführer mit den neu aufgelegten Berichten des Dr. med. A._ vom 28. März und 25. August 2011 keine seit dem 9. Juni 2010 (Datum der auf einer materiellen Prüfung des Rentenanspruchs, insbesondere dem Gutachten des Medizinischen Abklärungsinstituts X._ vom 16. November 2009) beruhenden Verfügung eingetretene relevante Verschlechterung des Gesundheitszustandes glaubhaft zu machen vermöge, und auch der Arztbericht des Dr. med. B._ vom 26. Oktober 2011 unbeachtlich sei.
Die Vorbringen des Beschwerdeführers vermögen nicht zu einem anderen Ergebnis zu führen. Sie erschöpfen sich bestenfalls in appellatorischer und damit unzulässiger Kritik am vorinstanzlichen Entscheid (Urteil 9C_569/2008 vom 1. Oktober 2008 E. 1.2 mit Hinweisen), was insbesondere für den Einwand gilt, aus den beiden Arztberichten des Dr. med. A._ gehe eine erhebliche Verschlechterung hervor, zumal er dies nicht weiter begründet und die Vorinstanz dies bereits zutreffend widerlegt hat. Soweit der Beschwerdeführer im Weiteren in erwerblicher Hinsicht geltend macht, mittlerweile sei er nicht mehr in der Lage, auf Grund seiner Erkrankung für längere Zeit zu sitzen oder zu stehen oder zu gehen, was eine Umschulung für die Ausübung einer anderen Erwerbstätigkeit ausschliesse, übersieht er, dass er für die Ausübung einer profilentsprechenden Verweisungstätigkeit nicht zwingend einer Umschulung bedarf. Inwiefern der Vorinstanz eine offensichtlich unrichtige (unhaltbare, willkürliche) Sachverhaltsfeststellung und Beweiswürdigung (<ref-law>; <ref-ruling> E. 5.1 S. 356) oder die Verletzung des Grundsatzes der freien Beweiswürdigung (<ref-ruling> E. 3a S. 352) vorzuwerfen wäre, ist nicht ersichtlich. Dies gilt auch für den Einwand, die Beeinflussung durch den Tinnitus sei erheblich gestiegen.
3. Die Beschwerde hatte keine Aussicht auf Erfolg, weshalb sie im vereinfachten Verfahren nach <ref-law> als offensichtlich unbegründet (Abs. 2 lit. a), ohne Durchführung des Schriftenwechsels, mit summarischer Begründung und unter Verweis auf den vorinstanzlichen Entscheid, erledigt wird.
4. Die Gerichtskosten werden dem Beschwerdeführer als unterliegender Partei auferlegt (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Graubünden und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 10. September 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Die Gerichtsschreiberin: Helfenstein