Sachverhalt:
A. Die 1954 geborene W._ war zuletzt von November 1998 bis Dezember 2005 als Betriebsmitarbeiterin in einem Personalrestaurant tätig. Am 22. November 2005 meldete sie sich bei der Invalidenversicherung zum Rentenbezug an. Gestützt auf die beigezogenen Unterlagen, worunter eine Expertise des Instituts Y._ vom 14. November 2006, lehnte die IV-Stelle des Kantons St. Gallen das Rentengesuch aufgrund des von ihr ermittelten Invaliditätsgrades von 20 % mit Verfügung vom 12. September 2007 ab. Die von W._ hiegegen eingereichte Beschwerde hiess das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 17. September 2008 dahin gehend gut, dass es die angefochtene Verfügung aufhob und die Sache zu weiterer Abklärung in medizinischer Hinsicht und neuer Entscheidung an die IV-Stelle zurückwies. Diese holte verschiedene ärztliche Stellungnahmen ein. U.a. richtete sie am 3. März 2009 eine Rückfrage an das Institut Y._, welche am 22. April 2009 beantwortet wurde. In der Folge ermittelte die IV-Stelle einen Invaliditätsgrad von 28 %, worauf sie das Rentengesuch am 2. Juli 2009 wiederum verfügungsweise ablehnte.
B. Die von W._ hiegegen erhobene Beschwerde wies das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 6. April 2011 ab.
C. W._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, unter Aufhebung des vorinstanzlichen Entscheides und der Verfügung der IV-Stelle sei ihr ab 1. April 2006 eine ganze Invalidenrente, zuzüglich Verzugszins, zuzusprechen; eventuell sei die Sache an die Verwaltung oder Vorinstanz zurückzuweisen, damit diese nach ergänzender Abklärung der Arbeitsunfähigkeit über den Rentenanspruch neu verfüge.
Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG), die Feststellung des Sachverhalts nur, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (Art. 105 Abs. 2 BGG).
2. 2.1 Die Vorinstanz stellte gestützt auf die Angaben im Gutachten des Instituts Y._ (vom 14. November 2006) sowie in Würdigung weiterer Arztberichte fest, dass die frühere Arbeit in einem Personalrestaurant der Versicherten wegen des Hebens von Gewichten, Tätigkeiten in Zwangshaltungen und längeren Stehens mit Blick auf die Behinderungen in der unteren Wirbelsäule nicht mehr zumutbar sei. Hingegen wäre sie in der Lage, eine leidensangepasste, körperlich leichte Hilfsarbeit zu 80 % zu verrichten. Aufgrund eines Einkommensvergleichs, welchem die Verwaltung als Invalideneinkommen einen einer Beschäftigung von 80 % entsprechenden, um 10 % gekürzten Tabellenlohn von Fr. 36'200.- zugrunde legte, während sie das hypothetische Einkommen ohne Invalidität (Valideneinkommen), ausgehend vom zuletzt erzielten Lohn auf Fr. 49'998.- festsetzte, ermittelte sie einen Invaliditätsgrad von 28 %, welcher keinen Invalidenrentenanspruch begründet.
2.2 In formeller Hinsicht macht die Beschwerdeführerin geltend, die Vorinstanz habe ihren Anspruch auf rechtliches Gehör verletzt. Die IV-Stelle habe am 2. Juli 2009 das Rentengesuch verfügungsweise abgelehnt, ohne ihr vorgängig die Stellungnahme des Regionalen Ärztlichen Dienstes (RAD) zur Kenntnis gebracht zu haben. Das kantonale Gericht habe in diesem Vorgehen zu Unrecht keine Gehörsverletzung erblickt.
Des Weiteren behauptet die Beschwerdeführerin mit Bezug auf den Rentenanspruch, eine allfällige Restarbeitsfähigkeit sei nicht verwertbar und bestreitet, dass das Gutachten des Instituts Y._ den von der Rechtsprechung umschriebenen Anforderungen genüge. Aus ihrer Sicht müsste stattdessen auf die Einschätzung der Frau Dr. med. B._ abgestellt werden. Ferner bringt die Versicherte vor, für die Belange des Einkommensvergleichs seien Verwaltung und Vorinstanz von einem zu tiefen Valideneinkommen ausgegangen. Sodann müsste der vom Versicherungsgericht vorgenommene Leidensabzug aus verschiedenen Gründen von 10 % auf 25 % erhöht werden.
3. 3.1 Mit der letztinstanzlich erneut behaupteten Verletzung des rechtlichen Gehörs hat sich das Versicherungsgericht sehr eingehend befasst. Es ist zum Schluss gelangt, dass unter den gegebenen Umständen der Gehörsanspruch nicht verletzt worden sei. Auf die umfassenden Erwägungen der Vorinstanz wird verwiesen, zumal in der Beschwerde keine neuen rechtlichen Aspekte vorgetragen werden, welche zusätzlicher Erörterung bedürften. Davon abgesehen ist ein allfälliger Gehörsverstoss dadurch geheilt worden, dass sich die Bescherdeführerin in Kenntnis sämtlicher Aktenstücke vor dem kantonalen Gericht äussern konnte, welches die medizinische Aktenlage denn auch sehr eingehend würdigte.
3.2 Gestützt auf die für das Bundesgericht verbindlichen, auf einer einlässlichen Würdigung der medizinischen Unterlagen beruhenden Feststellungen zum Grad der Arbeitsunfähigkeit der Versicherten ist erwiesen, dass diese in einer leidensangepassten Hilfstätigkeit ein Pensum von 80 % einer Vollzeitbeschäftigung ausüben könnte. Die Kritik der Beschwerdeführerin an dieser Sachverhaltsfeststellung ist in weiten Teilen appellatorischer Natur und im Rahmen der gesetzlichen Überprüfungsbefugnis unzulässig. Soweit die Versicherte eine offensichtlich unrichtige Sachverhaltsermittlung und -feststellung rügt, kann ihr nicht gefolgt werden. Der Umstand, dass die Vorinstanz auf die fachärztlichen Darlegungen des Instituts Y._ und nicht die abweichenden Folgerungen der behandelnden Frau Dr. med. B._ vom 29. Mai und 29. Juli 2009, deren Einschätzung der zumutbaren Arbeitsleistungen sowie der Einschränkung in der Arbeitsfähigkeit abgestellt hat, begründet keine mangelhafte Sachverhaltsfeststellung im Sinne von Art. 97 Abs. 1 und 105 Abs. 2 BGG. Entgegen den Ausführungen in der Beschwerde hat sich die Vorinstanz auch mit dem Einwand befasst, dass die Versicherte allenfalls gelegentlich sekundenlange synkopenartige Aussetzer hat und diesbezüglich zu Recht festgehalten, dass entsprechende Ausfälle in einer angepassten leichten Hilfsarbeit nicht erhebliche Gefahren mit sich bringen würden. Die übrigen Vorbringen betreffend den Grad der Arbeitsunfähigkeit und namentlich die Kritik an der nachträglichen Stellungnahme des Instituts Y._ vom 22. April 2009 vermögen keine offensichtlich unrichtige Sachverhaltsfeststellung durch die Vorinstanz zu begründen. Ergänzende medizinische Abklärungen, wie sie eventualiter beantragt werden, sind nicht erforderlich. Der rechtserhebliche Sachverhalt wurde umfassend untersucht.
3.3 Gegen den vom Versicherungsgericht im Rahmen eines Einkommensvergleichs ermittelten Invaliditätsgrad von 28 % wendet die Beschwerdeführerin, wie erwähnt, ein, es sei ein höheres Valideneinkommen heranzuziehen. Des Weiteren sei der vorinstanzlich vorgenommene leidensbedingte Abzug von 10 % ungenügend. Da die Vorinstanz das Valideneinkommen ausgehend vom früheren Lohn der Versicherten festgelegt hat, fällt eine Korrektur durch das Bundesgericht ausser Betracht, da es sich dabei um eine Tatfrage handelt (BGE 132 V 393 E. 3.3 S. 399), und von einer offensichtlich unrichtigen Sachverhaltsfeststellung nicht gesprochen werden kann. Eine Erhöhung des leidensbedingten Abzuges ist nicht gerechtfertigt. Wie die Vorinstanz festgehalten hat, ist mit einem Abzug von 10 % vom Invalideneinkommen den Umständen des vorliegenden Falles grosszügig Rechnung getragen. Die Merkmale, die nach der Rechtsprechung (BGE 126 V 75 E. 5b/aa-cc S. 79 f.) gegebenenfalls einen Abzug von dem als Invalideneinkommen herangezogenen Tabellenlohn zu begründen vermöchten, sind mit Ausnahme des Alters der Versicherten nicht erfüllt. Die in der Beschwerde erwähnten Umstände (häufige Therapien, damit verbundene Absenzen, eingeschränkte psychische Belastbarkeit, Schmerzmitteleinnahme, Konzentrations- und Gedächtnisstörungen) sind gegebenenfalls bei der Festlegung des Grades der Arbeitsunfähigkeit zu berücksichtigen, können aber nicht zusätzlich zu einem höheren leidensbedingten Abzug führen.
4. Dem Verfahrensausgang entsprechend sind die Gerichtskosten der unterliegenden Beschwerdeführerin aufzuerlegen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 5. August 2011
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Der Gerichtsschreiber: Widmer