Sachverhalt: A. Der 1952 geborene M._ meldete sich nach einem Verkehrsunfall vom 12. September 2002 am 4. September 2003 erstmals bei der Invalidenversicherung zum Leistungsbezug an. Nach einem Gutachten des Institut X._, vom 15. April 2005, das eine Arbeitsfähigkeit von 100 % attestierte, verfügte die IV-Stelle des Kantons St. Gallen am 30. Juni 2005 die Abweisung des Rentenanspruchs. Dies bestätigte sie mit Einspracheentscheid vom 27. Dezember 2005, welcher in Rechtskraft erwuchs. Auf ein erneutes Leistungsgesuch vom 11. Juli 2006, mit welchem M._ eine Verschlechterung seines Gesundheitszustandes geltend machte, trat die IV-Stelle mit Verfügung vom 4. Dezember 2007 nicht ein. Mit Entscheid vom 27. Februar 2009 hiess das Versicherungsgericht des Kantons St. Gallen eine dagegen erhobene Beschwerde gut und wies die Sache zur Behandlung des Gesuchs an die IV-Stelle zurück. Nach weiteren Abklärungen in medizinischer Hinsicht, insbesondere einer internistisch-orthopädisch-psychiatrischen Verlaufsbegutachtung durch das Institut X._ vom 23. Dezember 2009 sowie einer ergänzenden Bestätigung vom 21. Januar 2010 und nach Durchführung des Vorbescheidverfahrens verfügte die IV-Stelle am 23. März 2010 erneut die Abweisung des Rentengesuchs. B. Die hiegegen erhobene Beschwerde wies das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 25. Juni 2012 ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt M._ beantragen, es sei ihm eine Invalidenrente basierend auf einem Invaliditätsgrad von 100 % zuzusprechen. Eventualiter sei die IV-Stelle zu verpflichten, ein unabhängiges psychiatrisches Gutachten in Auftrag zu geben.