Sachverhalt:
A. K._ (geboren 1955) meldete sich im Dezember 2005 zum Bezug von Leistungen der Invalidenversicherung an. Nach Eingang eines polydisziplinären Gutachtens des Zentrums für Medizinische Begutachtung (ZMB) vom 6. Dezember 2007 stellte die IV-Stelle des Kantons St. Gallen der Versicherten mit Vorbescheid vom 15. Januar 2008 die Ablehnung des Anspruchs auf eine Invalidenrente in Aussicht. Daraufhin reichte die Versicherte einen Bericht des Dr. med. W._ vom 25. Februar 2008 und einen Bericht des Dr. med. A._, Psychiatrie und Psychotherapie FMH, Klinik X._, vom 10. März 2008 ein. Nachdem sich die Versicherte gegen eine Verlaufsbegutachtung beim ZMB gestellt hatte, holte die IV-Stelle ein Gutachten der psychiatrischen Klinik Y._ vom 6. Mai 2009 ein. Nach Eingang weiterer ärztlicher Unterlagen eröffnete die IV-Stelle der Versicherten mit Verfügung vom 27. August 2009, dass sie bei einem Invaliditätsgrad von 0 % keinen Anspruch auf eine Invalidenrente habe.
B. Die hiegegen erhobene Beschwerde wies das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 1. Dezember 2011 ab.
C. K._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, in Aufhebung des vorinstanzlichen Entscheides und der Verwaltungsverfügung vom 27. August 2009 sei die Sache an die IV-Stelle, eventualiter an die Vorinstanz, zurückzuweisen, damit diese nach formgerecht durchgeführtem Verfahren und ergänzender Abklärung, insbesondere nach einer neuen interdisziplinären (rheumatologischen, neurologischen, ophthalmologischen, psychiatrischen) Begutachtung, über den Rentenanspruch neu verfüge.
D. Mit Eingabe vom 6. Februar 2012 lässt die Beschwerdeführerin einen Bericht des Dr. med. L._, Facharzt FMH für Urologie, spez. operative Urologie, vom 25. Januar 2012 einreichen.
Erwägungen:
1. 1.1 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz auf Rüge hin oder von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht, und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 105 Abs. 2 BGG und Art. 97 Abs. 1 BGG). Das Vorliegen dieser Voraussetzungen hat die Beschwerde führende Person genau darzulegen. Dazu genügt es nicht, einen von den tatsächlichen Feststellungen der Vorinstanz abweichenden Sachverhalt zu behaupten oder die eigene Beweiswürdigung zu erläutern (BGE 137 II 353 E. 5.1 S. 356; SVR 2012 BVG Nr. 11 S. 44, 9C_779/2010 E. 1.1.2 [nicht publ. in: BGE 137 V 446]).
Eine Sachverhaltsfeststellung ist nicht schon dann offensichtlich unrichtig, wenn sich Zweifel anmelden, sondern erst, wenn sie eindeutig und augenfällig unzutreffend ist (BGE 132 I 42 E. 3.1 S. 44). Es liegt noch keine offensichtliche Unrichtigkeit vor, nur weil eine andere Lösung ebenfalls in Betracht fällt, selbst wenn diese als die plausiblere erschiene (vgl. BGE 129 I 8 E. 2.1 S. 9; Urteil 9C_967/2008 vom 5. Januar 2009 E. 5.1). Diese Grundsätze gelten auch in Bezug auf die konkrete Beweiswürdigung (Urteile 9C_999/2010 vom 14. Februar 2011 E. 1 und 9C_735/2010 vom 21. Oktober 2010 E. 3; SVR 2012 BVG Nr. 11 S. 44, 9C_779/2010 E. 1.1.1).
1.2 Einem ärztlichen Bericht kommt Beweiswert zu, wenn er für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt und in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, wenn die Beschreibung der medizinischen Situation und Zusammenhänge einleuchtet und die Schlussfolgerungen begründet sind (BGE 125 V 351 E. 3a S. 352). Der Arzt muss über die notwendigen fachlichen Qualifikationen verfügen (Urteil 9C_736/2009 vom 26. Januar 2010 E. 2.1). Untersuchungsberichte regionaler ärztlicher Dienste können, sofern sie diesen Anforderungen genügen, einen vergleichbaren Beweiswert wie ein Gutachten haben (Art. 49 Abs. 2 IVV; BGE 137 V 210 E. 1.2.1 S. 219; 135 V 254 E. 3.3.2 S. 257; Urteil 9C_999/2010 vom 14. Februar 2011 E. 5.1.2).
1.3 Dem Sachgericht steht im Bereich der Beweiswürdigung ein erheblicher Ermessenspielraum zu (BGE 120 Ia 31 E. 4b). Das Bundesgericht greift auf Beschwerde hin nur ein, wenn das Sachgericht diesen missbraucht, insbesondere offensichtlich unhaltbare Schlüsse zieht, erhebliche Beweise übersieht oder solche willkürlich ausser Acht lässt (BGE 132 III 209 E. 2.1; zum Begriff der Willkür BGE 137 I 1 E. 2.4 mit Hinweisen). Inwiefern das kantonale Gericht sein Ermessen missbraucht haben soll, ist in der Beschwerde klar und detailliert aufzuzeigen (BGE 130 I 258 E. 1.3). Auf ungenügend begründete Rügen oder bloss allgemein gehaltene appellatorische Kritik am angefochtenen Entscheid tritt das Bundesgericht nicht ein (BGE 134 II 244 E. 2.2 mit Hinweis).
2. 2.1 Das kantonale Gericht ist in Würdigung der medizinischen Akten zum Schluss gelangt, die Beschwerdeführerin sei in einer angepassten Tätigkeit 100 % arbeitsfähig. In der zuletzt ausgeübten Tätigkeit als Raumpflegerin hätte sie im Jahr 2006 mit einem ganztägigen Pensum ein Einkommen von Fr. 57'131.- erzielt und somit nur unwesentlich mehr als eine Hilfsarbeiterin gemäss den Tabellenlöhnen der Schweizerischen Lohnstrukturerhebung (LSE Tabelle TA1 2006 Total Anforderungsniveau 4). Da selbst unter Gewährung eines höchstzulässigen Abzugs vom Tabellenlohn von 25 % ein rentenausschliessender Invaliditätsgrad resultiere, sei der Rentenanspruch der Beschwerdeführerin zu Recht abgelehnt worden. Dabei hat die Vorinstanz in somatischer Hinsicht auf das Gutachten des ZMB vom 6. Dezember 2007 und in psychiatrischer Hinsicht auf das Gutachten der psychiatrischen Klinik Y._ vom 6. Mai 2009 abgestellt. Mit Bezug auf das ZMB-Gutachten, das aus einer rheumatologischen, einer neurologischen, einer ophthalmologischen und einer psychiatrischen Untersuchung besteht, ging es davon aus, dass die Gutachter sich explizit mit anderslautenden Vorakten, insbesondere der Einschätzung des Hausarztes, auseinandergesetzt und diesbezüglich ausgeführt hätten, dass die Diskrepanz in der Einschätzung der Arbeitsfähigkeit wahrscheinlich darauf zurückgehe, dass die invaliditätsfremden Faktoren nicht mitberücksichtigt worden seien. Die psychosozialen Belastungen würden zweifellos bestehen, hätten aber nicht zu einer eigenständigen, davon abgrenzbaren Krankheit geführt. Im Weiteren seien die Urgeinkontinenz sowie die arterielle Hypertonie als Nebendiagnose erfasst und somit berücksichtigt worden. Ebenfalls sei dem ZMB-Gutachten zu entnehmen, dass die Polyarthrose und die Daumenwurzel- und Daumengrundgelenksarthrose beidseits explizit in die Leistungseinschätzung miteinbezogen worden seien. Die Gutachter führten sodann bezüglich der erhobenen Befunde nachvollziehbar aus, dass es sich zusammengefasst um ein generalisiertes Schmerzsyndrom handle. Aus somatischer Sicht sei die Beschwerdeführerin auch bei Kenntnis dieser Befundlage für eine leichte bis mittelschwere Arbeit ohne Zwangshaltung, ohne repetitive Überkopfarbeit und ohne das Heben und Tragen von schweren Lasten vollschichtig arbeitsfähig. In psychiatrischer Hinsicht stellte das kantonale Gericht mit der IV-Stelle auf das Gutachten der psychiatrischen Klinik Y._ vom 6. Mai 2009 ab. Dieses Gutachten beruhe auf einer umfassenden eigenständigen psychiatrischen Abklärung und integriere die somatischen Aspekte gemäss der Beurteilung im ZMB-Gutachten ausreichend. Die relevanten Vorakten, insbesondere auch der Bericht des Dr. med. A._ vom 10. März 2008 und das ZMB-Gutachten, würden hinreichend berücksichtigt. Zur abweichenden Beurteilung des Dr. med. A._ werde explizit Stellung genommen. Die Gründe für die unterschiedlichen Diagnoseerhebungen würden im Gutachten der psychiatrischen Klinik Y._ nachvollziehbar und überzeugend dargelegt. Aufgrund dieser unterschiedlichen Beurteilungen sei auch nachvollziehbar, dass sich dies auf die Arbeitsfähigkeitseinschätzung auswirken müsse. Hinsichtlich der anhaltenden somatoformen Schmerzstörung werde im Gutachten der psychiatrischen Klinik Y._ ausgeführt, dass diese im Verlauf der letzten 15 Jahre zu einer Chronifizierung der Schmerzsymptomatik, zur Aufgabe der Arbeitstätigkeit mit mittlerweile vierjähriger Arbeitslosigkeit und zu einem völlig passiv abwartenden Lebensstil geführt habe, und dadurch einen wesentlichen Einfluss auf die Verminderung der Leistungsfähigkeit zeitige. Das Gutachten leuchte in der Darlegung der medizinischen Zusammenhänge und in der Beurteilung der medizinischen Situation ein. Auf die darin enthaltenen Schlussfolgerungen, insbesondere die 100%ige Arbeitsfähigkeit in einer adaptierten Tätigkeit, könne somit abgestellt werden. Der Bericht des Dr. med. A._ vom 10. Juli 2009 vermöge daran nichts zu ändern. Mit den von ihm nach wie vor aufgeführten Diagnosen hätten sich die Gutachter der psychiatrischen Klinik Y._ bereits hinreichend auseinandergesetzt und die Abweichung nachvollziehbar erklärt. Die medizinische Aktenlage vermittle genügend Klarheit über den rechtserheblichen Sachverhalt, weshalb von der Einholung eines interdisziplinären Gutachtens abzusehen sei.
2.2 Zu Unrecht rügt die Beschwerdeführerin eine willkürliche Sachverhaltsfeststellung und Beweiswürdigung sowie Verletzung des Untersuchungsgrundsatzes durch die Vorinstanz. Zum einen übt sie weitgehend appellatorische Kritik an der vorinstanzlichen Sachverhaltsfeststellung und Beweiswürdigung. Wenn das kantonale Gericht in somatischer Hinsicht auf das ZMB-Gutachten abgestellt hat, welches u.a. auch die Urgeinkontinenz als Nebendiagnose erwähnt und sich mit sämtlichen damaligen medizinischen Unterlagen befasst, so lässt dies nicht schon den Schluss auf willkürliche Beweiswürdigung zu. Das Gleiche gilt für das Gutachten der psychiatrischen Klinik Y._ vom 6. Mai 2009, welches ebenfalls alle zum damaligen Zeitpunkt vorhandenen Arztberichte, namentlich auch die Beurteilung des Dr. med. A._ im Bericht vom 10. März 2008, berücksichtigte. Entgegen aller Einwendungen in der Beschwerde ist festzuhalten, dass die beiden von der Vorinstanz als massgebend betrachteten Gutachten taugliche und schlüssige Beweismittel sind. Ferner legt die Beschwerdeführerin nicht dar, inwiefern die gestützt auf die beiden Gutachten getroffene Feststellung, wonach die Beschwerdeführerin in einer leidensangepassten Tätigkeit zu 100 % arbeitsfähig ist, offensichtlich unrichtig sein soll. Sie sind somit für das Bundesgericht verbindlich. Dass Dr. med. A._ in seinen Berichten vom 10. März 2008 und 10. Juli 2009 zu einer andern Beurteilung gelangt, macht die vorinstanzliche Beweiswürdigung nicht willkürlich oder sonst wie bundesrechtswidrig, zumal sie sich mit den unterschiedlichen Auffassungen auseinandersetzt.
2.3 Das kantonale Gericht hat auch zu Recht und ohne Verletzung des Untersuchungsgrundsatzes von Beweisweiterungen abgesehen. Das trifft namentlich auch in Bezug auf den Einfluss der Urgeinkontinenz auf die Arbeitsfähigkeit zu. Das kantonale Gericht hat sich damit auseinandergesetzt und für das Bundesgericht verbindlich festgestellt, dass die Beschwerdeführerin dadurch nicht zusätzlich in der Leistungsfähigkeit beeinträchtigt ist. Da in zeitlicher Hinsicht der Zeitpunkt des Verfügungserlasses (27. August 2009) massgebend ist, kann die Beschwerdeführerin aus der Entwicklung ihres seitherigen Gesundheitszustandes nichts zu ihren Gunsten ableiten. Der mit Schreiben vom 6. Februar 2012 eingereichte Bericht des Urologen Dr. med. L._ vom 25. Januar 2012 ist zum einen ein unzulässiges neues Beweismittel im Sinne von Art. 99 Abs. 1 BGG, zum andern hält er den gesundheitlichen Zustand der Beschwerdeführerin im Januar 2012 fest.
3. Die vorinstanzliche Invaliditätsbemessung ist weiter nicht bestritten. Es besteht kein Anlass zu einer näheren Prüfung (BGE 125 V 413 E. 1b und 2c S. 415 ff.; 110 V 48 E. 4a S. 53).
4. Bei diesem Ausgang des Verfahrens hat die Beschwerdeführerin die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG). Es hat damit auch mit der vorinstanzlichen Verlegung der Gerichtskosten und der Parteientschädigung sein Bewenden.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 5. November 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Der Gerichtsschreiber: Nussbaumer