Sachverhalt:
A. Der 1960 geborene S._ war für die Firma X._ AG auf dem Bau tätig gewesen, als er am 5. Januar 2006 mit seinem Personenwagen einen Verkehrsunfall erlitt. Die Schweizerische Unfallversicherungsanstalt (SUVA) stellte die für die gesundheitlichen und erwerblichen Folgen des Unfalls erbrachten gesetzlichen Leistungen auf den 20. Juni 2008 ein, was vom Bundesgericht bestätigt wurde (Urteil 8C_455/2010 vom 9. September 2010).
Am 13. November 2006 meldete sich S._ unter Hinweis auf Herzbeschwerden und auf seit dem Unfall bestehende (oder dadurch verstärkte) Schmerzen im Hals-Nacken- und Schulterbereich sowie im Bereich des Beckens und der Beine bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons St. Gallen traf Abklärungen in erwerblicher und medizinischer Hinsicht, wobei sie namentlich eine polydisziplinäre Begutachtung beim Institut Y._ veranlasste (Gutachten vom 23. Januar 2008), sowie die Akten der SUVA beizog. Mit Verfügung vom 19. August 2008 verneinte sie unter Ermittlung eines Invaliditätsgrades von 23 % den Anspruch auf eine Invalidenrente.
B. Die hiegegen geführte Beschwerde wies das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 25. Mai 2010 ab.
C. S._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, in Aufhebung des vorinstanzlichen Entscheids und der Verfügung der IV-Stelle sei ihm eine Invalidenrente basierend auf einem Invaliditätsgrad von mindestens 70 % zuzusprechen. Eventualiter sei die Sache zur Durchführung einer interdisziplinären Begutachtung hinsichtlich der Arbeitsfähigkeit in einer leidensadaptierten Tätigkeit an die Beschwerdegegnerin zurückzuweisen.
IV-Stelle, Vorinstanz und das Bundesamt für Sozialversicherungen haben auf eine Vernehmlassung verzichtet.
Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG).
2. Die Vorinstanz legte die gesetzlichen Bestimmungen und von der Rechtsprechung entwickelten Grundsätze, namentlich diejenigen zum Beweiswert und zur Beweiswürdigung ärztlicher Berichte und Gutachten (BGE 125 V 351 E. 3a S. 352 mit Hinweis) und zur ausnahmsweise invalidisierenden Wirkung somatoformer Schmerzstörungen (BGE 130 V 352) richtig dar. Darauf wird verwiesen.
3. 3.1 Streitig und zu prüfen ist, ob die Vorinstanz Bundesrecht verletzte, indem sie den Anspruch des Versicherten auf Leistungen der Invalidenversicherung verneinte. Dabei ist insbesondere strittig, ob das kantonale Gericht zu Recht auf das Gutachten des Instituts Y._ vom 23. Januar 2008 abgestellt hat, wonach aus interdisziplinärer Sicht die kardiologische Diagnose einer dilatativen Kardiomyopathie mit einer aktuell echokardiographisch mittelschwer eingeschränkten linksventrikulären Auswurffraktion im Vordergrund stehe. Es könne eine objektivierbare, eingeschränkte linksventrikuläre Pumpfunktion festgestellt werden, weshalb aus kardiologischer Sicht in der angestammten Funktion als Baufacharbeiter, wie für sämtliche mittelschweren bis schweren körperlichen Tätigkeiten eine vollständige Arbeitsunfähigkeit bestehe. Das in rheumatologischer Hinsicht diagnostizierte Leiden in Form eines chronischen zervikozephalen Schmerzsyndroms sowie eines chronischen unspezifischen lumbo-vertebralen Schmerzsyndroms (bei muskulärer Dysbalance und Wirbelsäulenfehlhaltung) führe ebenfalls zu einer 100%-igen Arbeitsunfähigkeit bezüglich der angestammten Tätigkeit, leichte und mittelschwere leidensadaptierte Tätigkeiten seien hingegen vollständig zumutbar. Die psychiatrische Evaluation habe schliesslich die Diagnose einer anhaltenden somatoformen Schmerzstörung ergeben. Die leichten depressiven Verstimmungen seien im Rahmen dieser Schmerzstörung zu sehen, eine eigenständige Diagnose in Form einer Depression könne nicht gestellt werden; die Arbeitsfähigkeit sei nicht eingeschränkt, wobei eine Medikamentenspiegelbestimmung ergeben habe, dass der Versicherte die verordneten Antidepressiva nicht in adäquater Dosierung einnehme. Zusammenfassend seien demnach körperlich leichte, wechselbelastende, mehrheitlich sitzend ausgeübte Tätigkeiten vollständig zumutbar.
3. 3.1 Streitig und zu prüfen ist, ob die Vorinstanz Bundesrecht verletzte, indem sie den Anspruch des Versicherten auf Leistungen der Invalidenversicherung verneinte. Dabei ist insbesondere strittig, ob das kantonale Gericht zu Recht auf das Gutachten des Instituts Y._ vom 23. Januar 2008 abgestellt hat, wonach aus interdisziplinärer Sicht die kardiologische Diagnose einer dilatativen Kardiomyopathie mit einer aktuell echokardiographisch mittelschwer eingeschränkten linksventrikulären Auswurffraktion im Vordergrund stehe. Es könne eine objektivierbare, eingeschränkte linksventrikuläre Pumpfunktion festgestellt werden, weshalb aus kardiologischer Sicht in der angestammten Funktion als Baufacharbeiter, wie für sämtliche mittelschweren bis schweren körperlichen Tätigkeiten eine vollständige Arbeitsunfähigkeit bestehe. Das in rheumatologischer Hinsicht diagnostizierte Leiden in Form eines chronischen zervikozephalen Schmerzsyndroms sowie eines chronischen unspezifischen lumbo-vertebralen Schmerzsyndroms (bei muskulärer Dysbalance und Wirbelsäulenfehlhaltung) führe ebenfalls zu einer 100%-igen Arbeitsunfähigkeit bezüglich der angestammten Tätigkeit, leichte und mittelschwere leidensadaptierte Tätigkeiten seien hingegen vollständig zumutbar. Die psychiatrische Evaluation habe schliesslich die Diagnose einer anhaltenden somatoformen Schmerzstörung ergeben. Die leichten depressiven Verstimmungen seien im Rahmen dieser Schmerzstörung zu sehen, eine eigenständige Diagnose in Form einer Depression könne nicht gestellt werden; die Arbeitsfähigkeit sei nicht eingeschränkt, wobei eine Medikamentenspiegelbestimmung ergeben habe, dass der Versicherte die verordneten Antidepressiva nicht in adäquater Dosierung einnehme. Zusammenfassend seien demnach körperlich leichte, wechselbelastende, mehrheitlich sitzend ausgeübte Tätigkeiten vollständig zumutbar.
3.2 3.2.1 Dass das kantonale Gericht im Rahmen freier Beweiswürdigung (Art. 61 lit. c ATSG) der im Gutachten des Instituts Y._ vom 23. Januar 2008 in Berücksichtigung der relevanten Vorakten und der geklagten Beschwerden und aufgrund eines multidisziplinären, spezialärztlichen Konsensus attestierten Arbeitsfähigkeit in leidensangepassten Tätigkeiten beweismässig ausschlaggebendes Gewicht beigemessen hat, ist - mit Blick auf die vorinstanzlich vollständige und inhaltlich korrekte Darlegung der medizinischen Aktenlage sowie deren sorgfältige und objektive Prüfung (vgl. BGE 132 V 393 E. 4.1 S. 400) - weder offensichtlich unrichtig noch willkürlich oder sonstwie bundesrechtswidrig.
3.2.2 Dabei ist der erneut vorgebrachte Einwand des Beschwerdeführers, es sei in psychischer Hinsicht, wie vom behandelnden Psychiater Dr. med. B._, Facharzt für Psychiatrie und Psychotherapie dargelegt, entgegen dem Gutachten des Instituts Y._ von einer Depression mit Krankheitswert auszugehen, nicht stichhaltig. Der vorinstanzliche Ausschluss eines komorbiden Leidens ist auch im Lichte der psychiatrischen Berichte des Dr. med. B._ (vom 12. Juli 2007 und 22. Juli 2008) bundesrechtlich nicht zu beanstanden. Eine Sachverhaltsfeststellung ist nicht schon offensichtlich unrichtig (E. 1), wenn die gegenteilige Ansicht ebenfalls vertretbar oder bei freier Prüfung gar vorzuziehen wäre, sondern erst, wenn sie zur tatsächlichen Situation in klarem Widerspruch steht, auf einem offenkundigen Versehen beruht oder sich sachlich in keiner Weise rechtfertigen lässt (BGE 133 III 393 E. 7.1 S. 398). Das ist hier nicht der Fall: Die psychiatrische Exploration kann von der Natur der Sache her nicht ermessensfrei erfolgen und eröffnet dem begutachtenden Psychiater deshalb praktisch immer einen gewissen Spielraum, innerhalb dessen verschiedene medizinisch-psychiatrische Interpretationen möglich, zulässig und zu respektieren sind, sofern der Experte lege artis vorgegangen ist. Daher und unter Beachtung der Divergenz von medizinischem Behandlungs- und Abklärungsauftrag (BGE 124 I 170 E. 4 S. 175; s. auch Urteil I 701/05 vom 5. Januar 2007 E. 2 in fine, mit zahlreichen Hinweisen) kann es nicht angehen, eine medizinische Administrativ- oder Gerichtsexpertise stets dann in Frage zu stellen und zum Anlass weiterer Abklärungen zu nehmen, wenn die behandelnden Ärzte nachher zu unterschiedlichen Einschätzungen gelangen oder an vorgängig geäusserten abweichenden Auffassungen festhalten. Anders verhält es sich hingegen, wenn die behandelnden Ärzte objektiv feststellbare Gesichtspunkte vorbringen, welche im Rahmen der psychiatrischen Begutachtung unerkannt geblieben und geeignet sind, zu einer abweichenden Beurteilung zu führen (Urteile 8C_694/2008 E. 5.1 und I 51/06 vom 19. September 2006 E. 3.1.2). Dies ist hinsichtlich der Darlegungen des Dr. med. B._ in seinem Bericht vom 22. Juli 2008 zu verneinen. Im Rahmen der psychiatrischen Begutachtung durch Dr. med. C._ wurde dargelegt, weshalb die depressive Verstimmung nicht als derart schwer angesehen wurde, dass sich die eigenständige Diagnose einer Depression rechtfertigen würde.
Selbst wenn die im Gutachten des Instituts Y._ diagnostizierte, depressive Verstimmung als selbstständiges, von der somatoformen Schmerzstörung losgelöstes Leiden anzusehen wäre (vgl. aber Urteile 9C_217/2007 vom 29. Januar 2008 E. 4.2 und 9C_1312/2007 vom 3. Juli 2007 E. 3), wäre vorliegend weder die rechtsprechungsgemäss notwendige Erheblichkeit der Schwere, Ausprägung und Dauer der Komorbidität (BGE 130 V 352 E. 2.2.3 S. 354) dargetan, noch ergäbe sich die invalidisierende Wirkung der somatoformen Schmerzstörung aus den weiteren diesbezüglich relevanten Kriterien (BGE 130 V 352 E. 2.2.3 S. 354 f.), weshalb die Vorinstanz zu Recht eine invalidisierende Wirkung der somatoformen Schmerzstörung verneinte. Unter diesen Umständen bleibt in rechtlicher Hinsicht kein Raum für die Annahme einer mit psychischen Leiden begründeten (teilweisen) Einschränkung der Arbeitsfähigkeit.
3.2.3 Ebenso wenig vermögen die Vorbringen gegen die Einschätzung der Arbeitsfähigkeit aus rheumatologischer und kardiologischer Sicht eine offensichtliche Unrichtigkeit der vorinstanzlichen Feststellungen zu belegen. Von einer willkürlichen Beweiswürdigung kann nicht gesprochen werden (vgl. BGE 132 V 393 E. 4.1 S. 400), unaufgelöste oder unauflösbare tatsächliche Widersprüche bestehen nicht. Auch beruhen diese weder auf einer anderweitigen Rechtsverletzung (vgl. E. 1), noch ist in der vorinstanzlichen Ablehnung von Beweisweiterungen eine Verletzung des Untersuchungsgrundsatzes oder des rechtlichen Gehörs zu erblicken. Entgegen der beschwerdeführerischen Ansicht basieren die Ausführungen zur zumutbaren Arbeitsfähigkeit des Rheumatologen Dr. med. D._ und des Kardiologen Dr. med. E._, auch mit Blick auf die übrige medizinische Aktenlage, auf einer nachvollziehbaren Begründung, was ebenfalls auf die interdisziplinären ärztlichen Schlussfolgerungen zur Arbeitsfähigkeit zutrifft. Dass sich die rheumatologischen und kardiologischen Anforderungen an eine leidensadaptierte Tätigkeit mit der interdisziplinär festgelegten Arbeitsfähigkeit - entgegen dem Einwand des Beschwerdeführers - vereinbaren lassen, hat die Vorinstanz bereits dargelegt, worauf verwiesen wird.
4. 4.1 Die erwerblichen Auswirkungen der bestehenden gesundheitsbedingten Beeinträchtigung hat das kantonale Gericht mittels Einkommensvergleich bestimmt. Es hat das im Gesundheitsfall mutmasslich erzielte Einkommen (Valideneinkommen) gestützt auf den früher erzielten Lohn auf Fr. 63'050.- und das trotz des noch bestehenden Gesundheitsschadens zumutbarerweise erzielbare Einkommen (Invalideneinkommen) unter Verwendung von Tabellenlöhnen und unter Berücksichtigung eines leidensbedingten Abzuges von 10 % auf Fr. 55'080.- festgesetzt. Der Vergleich der beiden Einkommen ergab eine gesundheitsbedingte Erwerbseinbusse von Fr. 23'340.-, entsprechend einem Invaliditätsgrad von (gerundet) 13 %.
4.2 Die Kritik des Beschwerdeführers, die Vorinstanz habe die Höhe des leidensbedingten Abzuges willkürlich auf 10 % festgesetzt, zumal die IV-Stelle von einem 20 %-igen Abzug ausgegangen sei, dringt nicht durch.
4.2.1 Ob und in welchem Ausmass Tabellenlöhne herabzusetzen sind, ist von sämtlichen persönlichen und beruflichen Umständen des konkreten Einzelfalls (leidensbedingte Einschränkung, Alter, Dienstjahre, Nationalität/Aufenthaltskategorie und Beschäftigungsgrad) abhängig. Der Einfluss sämtlicher Merkmale auf das Invalideneinkommen ist nach pflichtgemässem Ermessen gesamthaft zu schätzen, wobei der Abzug auf höchstens 25 % zu begrenzen ist (BGE 129 V 472 E. 4.3.2. S. 481).
4.2.2 Zwar stellen die von der Vorinstanz aufgeführten Kriterien der gegenüber Gesunden angeblich höheren krankheitsbedingten Arbeitsplatzabsenz des Versicherten und der (unterstellten) geringeren Einsetzbarkeit hinsichtlich Überstundenarbeit keine anerkannten, eigenständigen Abzugskriterien dar (vgl. Urteil 8C_144/2010 vom 4. August 2010 E. 5.3). Der Beschwerdeführer ist aber nur noch in leidensangepassten Tätigkeiten arbeitsfähig, weshalb die vorinstanzlich festgesetzte Höhe des Abzugs von 10 % im Ergebnis keine missbräuchliche oder geradezu willkürliche Ermessensausübung darstellt. Dass, wie geltend gemacht wird, zusätzlich zum ärztlicherseits umschriebenen Zumutbarkeits- und Belastungsprofil noch ein erhöhter Pausenbedarf in einer dem Leiden angepassten Tätigkeit bestehen würde, ergibt sich aus den medizinischen Unterlagen nicht; ebenso sind die Einschränkungen in rheumatologischer und kardiologischer Hinsicht bereits im umschriebenen Zumutbarkeitsprofil enthalten. Weitere abzugsrelevante Kriterien macht der Versicherte zu Recht nicht geltend. Überdies liegt die Invalidität nach dem Gesagten selbst bei Einräumung des höchstmöglichen leidensbedingten Abzuges von 25 % (BGE 126 V 75 E. 5b/cc S. 80) unter dem anspruchsbegründenden Prozentsatz von 40 %. Das führt zur Bestätigung des vorinstanzlichen Entscheids.
5. Der unterliegende Versicherte hat die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 19. November 2010
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Polla