Sachverhalt:
A. Die 1958 geborene L._ meldete sich am 26. Januar 2009 zum Bezug von Leistungen der Invalidenversicherung an. Nach Abklärungen in medizinischer und erwerblicher Hinsicht stellte die IV-Stelle des Kantons Thurgau mit Vorbescheid vom 24. Februar 2009 die Abweisung des Leistungsbegehrens in Aussicht. Auf Einwand der Versicherten, mit welchem diese weitere Abklärungen beantragte, und nachdem die Allianz Suisse Versicherungs-Gesellschaft als Krankenversicherer ein psychiatrisches Gutachten des Dr. med. B._ vom 28. April 2009 eingereicht hatte, wies die IV-Stelle mit Verfügung vom 23. Juni 2009 einen Anspruch von L._ auf eine Invalidenrente mit der Begründung eines nicht invalidisierenden Gesundheitsschadens ab.
B. Die hiegegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Thurgau mit Entscheid vom 14. April 2010 ab, nachdem L._ ein ebenfalls von der Allianz Suisse veranlasstes Gutachten des arbeitsmedizinischen Zentrums X._ vom 14. September 2009 ins Recht gelegt hatte.
C. Mit Beschwerde in öffentlichen-rechtlichen Angelegenheiten lässt L._ beantragen, Ziffer 2 des Dispositivs des vorinstanzlichen Entscheides sei aufzuheben und die Gerichtskosten für das vorinstanzliche Verfahren seien vollumfänglich der IV-Stelle aufzuerlegen. Es sei ihr für das erstinstanzliche IV-Gerichtsverfahren eine angemessene Parteientschädigung zuzusprechen. Eventualiter sei die Sache zur erneuten Entscheidung über die Kosten- und Entschädigungsfolgen an die Vorinstanz zurückzuweisen.
Die IV-Stelle und das Bundesamt für Sozialversicherungen (BSV) verzichten auf eine Vernehmlassung, während das Verwaltungsgericht des Kantons Thurgau auf Abweisung der Beschwerde schliesst. Mit Eingabe vom 1. Juli 2010 nimmt die Beschwerdeführerin Stellung.
Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzung gemäss den Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG; vgl. auch Art. 97 Abs. 1 BGG; ohne Beschwerden gemäss Art. 97 Abs. 2 BGG und Art. 105 Abs. 3 BGG). Mit Blick auf diese Kognitionsregelung ist auf Grund der Vorbringen in der Beschwerde an das Bundesgericht (Art. 107 Abs. 1 BGG) nur zu prüfen, ob der angefochtene Gerichtsentscheid in Anwendung der massgeblichen materiell- und beweisrechtlichen Grundlagen (unter anderem) Bundesrecht verletzt (Art. 95 lit. a BGG), einschliesslich einer allfälligen rechtsfehlerhaften Tatsachenfeststellung (Art. 97 Abs. 1, Art. 105 Abs. 2 BGG). Hiezu gehört insbesondere auch die unvollständige (gerichtliche) Feststellung der rechtserheblichen Tatsachen und die Verletzung des Untersuchungsgrundsatzes als einer wesentlichen Verfahrensvorschrift (Urteile 9C_534/2007 vom 27. Mai 2008, E. 1 mit Hinweis auf Ulrich Meyer, N. 58-61 zu Art. 105, in: Niggli/Uebersax/Wiprächtiger [Hrsg.], Basler Kommentar Bundesgerichtsgesetz, Basel 2008; Seiler/von Werdt/ Güngerich, Kommentar zum Bundesgerichtsgesetz, Bern 2007, N. 24 zu Art. 97).
2. 2.1 Nicht mehr streitig ist, dass die Beschwerdeführerin keinen Anspruch auf eine Invalidenrente hat. Ebenfalls unbestritten ist, dass die IV-Stelle der Beschwerdeführerin einerseits das nach Erlass des Vorbescheids eingegangene psychiatrische Gutachten des Dr. med. B._ vom 28. April 2009 vor Verfügungserlass nicht zur Kenntnis brachte und andererseits erst nach Beschwerdeerhebung das von der Allianz Suisse Versicherungs-Gesellschaft (als Krankenversicherer der Beschwerdeführerin) veranlasste Gutachten des arbeitsmedizinischen Zentrums X._ vom 14. September 2009 beizog, womit sie zwar das rechtliche Gehör verletzte, diese Verletzung aber namentlich mit Blick auf die Prozessökonomie als geheilt betrachtet werden kann. In Frage steht nur mehr, ob die Beschwerdeführerin deshalb im vorinstanzlichen Verfahren trotz Unterliegens ausnahmsweise Anspruch auf eine Parteientschädigung hat.
2.2 Trotz Unterliegens der versicherten Person in der Sache kann ihr eine Parteientschädigung zugesprochen werden, soweit die Beschwerdegegnerin die Kosten verursacht hat. Dieser allgemeine Rechtsgrundsatz, wonach jene Partei für die Kosten des Verfahrens aufzukommen hat, welche es verursacht hat, gelangt auch bei der Verletzung des rechtlichen Gehörs zur Anwendung (BGE 128 V 311; SVR 2003 AlV Nr. 2 S. 5 E. 1d). Massgebend für die Kostenfolgen ist, dass der Partei nicht Kosten entstehen, die ihr ohne die Gehörsverletzung nicht entstanden wären (BGE 133 I 234; Urteil 9C_363/2009 vom 18. März 2010).
2.3 Die Beschwerdeführerin macht geltend, sie sei gezwungen gewesen, Beschwerde zu erheben, da die IV-Stelle einerseits nach Eingang des von ihr als massgeblich betrachteten psychiatrischen Gutachtens des Dr. med. B._ weder einen neuen Vorbescheid erlassen noch auf andere Weise das rechtliche Gehör gewährt habe. Zum anderen könne die ausgewiesene und von der Vorinstanz anerkannte Verletzung des Untersuchungsgrundsatzes im Zusammenhang mit dem Gutachten des arbeitsmedizinischen Zentrums X._ bei den Kostenfolgen nicht unberücksichtigt gelassen werden.
Entscheidend ist jedoch, ob der Beschwerdeführerin Mehrkosten entstanden sind, die ohne Verletzung des rechtlichen Gehörs nicht angefallen wären, was insbesondere dann der Fall ist, wenn die Beschwerdeführerin ohne die Gehörsverletzung nicht Beschwerde erhoben hätte. Dies kann hier nicht gesagt werden: In der vorinstanzlichen Replik akzeptierte die Beschwerdeführerin nicht etwa das Gutachten B._ und Gutachten des arbeitsmedizinischen Zentrums X._, sondern erhob verschiedene Einwände dazu. Es ist deshalb davon auszugehen, dass sie auch bei früherem Vorliegen der beiden Gutachten Beschwerde erhoben hätte, weshalb ihr mit der Gehörsverletzung keine zusätzlichen Kosten entstanden sind. Eine Parteientschädigung im vorinstanzlichen Verfahren wurde ihr deshalb vom kantonalen Gericht zu Recht nicht zugesprochen.
3. Dem Ausgang des Verfahrens entsprechend hat die Beschwerdeführerin die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Thurgau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 9. Juli 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Meyer Helfenstein Franke