Sachverhalt: A. A.a. Mit Verfügung vom 5. April 2006, bestätigt mit Einspracheentscheid vom 9. August 2006, sprach die IV-Stelle des Kantons Appenzell Ausserrhoden dem 1952 geborenen P._ eine Viertelsrente ab 1. November 2001, eine ganze Rente ab 1. Februar 2005 (unter Berücksichtigung der Folgen eines am 6. Februar 2005 erlittenen Verkehrsunfalles) sowie eine Viertelsrente ab 1. September 2005 zu. Das Verwaltungsgericht Appenzell Ausserrhoden wies eine hiegegen erhobene Beschwerde des P._ mit Entscheid vom 25. April 2007 ab, worauf dieser Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht führen liess. Das Bundesgericht hiess diese mit Urteil vom 6. Mai 2008 (9C_494/2007) teilweise gut, hob den angefochtenen Entscheid sowie den Einspracheentscheid auf, soweit darin der Anspruch auf Arbeitsvermittlung verneint wurde, und wies die Sache zur Durchführung eines Mahn- und Bedenkzeitverfahren und anschliessender Neuverfügung über den Anspruch auf berufliche Massnahmen an die IV-Stelle zurück. Im Übrigen wies es die Beschwerde ab. A.b. In der Folge führte die IV-Stelle verschiedene Gespräche mit P._, veranlasste eine berufliche Abklärung im Verzahnungsprogramm S._ (vom 18. August bis 28. November 2008) und forderte ihn insbesondere auf, seine Stellensuche zu intensivieren. Nachdem eine Eingliederung in den ersten Arbeitsmarkt misslungen und auch die Teilnahme am Einsatzprogramm nicht erfolgreich verlaufen war, schloss die Invalidenversicherung die Arbeitsvermittlung ab (Mitteilung vom 18. Februar 2009). Im August 2009 leitete die IV-Stelle ein Rentenrevisionsverfahren ein, in dessen Rahmen P._ eine gesundheitliche Verschlechterung geltend machte und die IV-Stelle namentlich einen Bericht des Hausarztes Dr. med. G._, FMH für Allgemeinmedizin, vom 9. September 2009, sowie eine Beurteilung des Regionalen Ärztlichen Dienstes (RAD; Dr. med. W._) vom 28. Januar 2010 einholte. Auf Empfehlung des Dr. med. W._ veranlasste sie eine Begutachtung in der Medas Y._ vom 23. Juni 2010. Nach erneuter Stellungnahme des RAD-Arztes vom 24. Juni 2010 verfügte die IV-Stelle am 2. August 2010, es bestehe weiterhin Anspruch auf die bisherige Rente bei einem IV-Grad von 46 %. Am 11. August 2010 teilte die IV-Stelle P._ mit, sie sei bereit, erneut Arbeitsvermittlungsbemühungen aufzunehmen, sofern er zum einen eine längerfristige, stabile Alkoholabstinenz durch den behandelnden Arzt ausweisen könne und zum andern die medizinisch ausgewiesene Arbeitsfähigkeit von 60 % in einer adaptierten Tätigkeit anerkenne sowie "in diesem Rahmen uneingeschränkt an Eingliederungsmassnahmen teilnehme". B. Am 23. August 2010 liess P._ gegen die Verfügung vom 2. August 2010 beim Verwaltungsgericht Appenzell Ausserrhoden Beschwerde erheben und deren Aufhebung sowie die Zusprechung einer ganzen Rente, eventualiter die (vorgängige) Durchführung beruflicher Massnahmen beantragen. Nachdem die IV-Stelle Ende Oktober 2010 erneut Arbeitsvermittlung zugesprochen hatte, sistierte das Verwaltungsgericht auf Ersuchen des Versicherten das Verfahren. Die IV-Stelle veranlasste in der Folge ein Arbeitstraining bei der O._ GmbH vom 9. bis 25. Februar 2011 (Abschlussbericht vom 27. April 2011). Am 23. September 2011 orientierte die IV-Stelle den Rechtsvertreter des Versicherten, die Arbeitsvermittlungsbemühungen (welche P._ nicht aktiv unterstützt habe) seien aus invaliditätsfremden Gründen erfolglos geblieben und würden abgeschlossen. Mit Eingabe vom 30. September 2011 ersuchte sie beim Gericht um Weiterführung des Verfahrens. Am 9. Mai 2012 wies das per 1. Januar 2011 für Beschwerden im Sozialversicherungsrecht zuständig gewordene Obergericht Appenzell Ausserrhoden (Justizgesetz vom 13. September 2010 [bGS 145.31] Art. 28 lit. b) die Beschwerde ab. C. P._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und unter Aufhebung des angefochtenen Entscheides die Zusprechung einer ganzen Rente ab 1. November 2001 beantragen. Eventualiter sei die IV-Stelle zur Durchführung beruflicher Massnahmen und neuem Entscheid über den Rentenanspruch zu verpflichten.