Sachverhalt:
A. U._ (geboren 1961), Mutter dreier Kinder (1990, 1991 und 1994) meldete sich am 6. November 2003 unter Hinweis auf psychische Probleme, eine Alkoholkrankheit und die Folgen einer Hirnblutung bei der Invalidenversicherung zum Rentenbezug an. Gestützt auf die eingeholten medizinischen Unterlagen lehnte die IV-Stelle Zug das Rentengesuch am 22. April 2005 verfügungsweise ab, weil keine Invalidität im Sinne des Gesetzes vorliege, woran sie mit Einspracheentscheid vom 6. September 2005 festhielt. Die von U._ hiegegen eingereichte Beschwerde hiess das Verwaltungsgericht des Kantons Zug insoweit teilweise gut, als es den angefochtenen Einspracheentscheid aufhob, feststellte, dass die Versicherte einen invalidisierenden Gesundheitsschaden aufweise und die Sache zu weiteren Abklärungen im Sinne der Erwägungen und neuer Verfügung an die IV-Stelle zurückwies (Entscheid vom 28. September 2006).
In der Folge forderte die IV-Stelle U._ zweimal dazu auf, sich einer sechsmonatigen, kontrollierten Alkoholabstinenz zu unterziehen, bevor weitere medizinische Untersuchungen durchgeführt werden könnten. Da die Versicherte dieser Aufforderung nicht nachgekommen war, verfügte die IV-Stelle nach Durchführung des Vorbescheidverfahrens am 9. Juli 2008 wiederum die Ablehnung des Rentengesuchs.
B. U._ liess Beschwerde führen mit den Rechtsbegehren, unter Aufhebung der angefochtenen Verfügung sei ihr eine ganze Invalidenrente zuzusprechen; eventuell sei die Sache zu weiteren Abklärungen und neuer Verfügung an die Verwaltung zurückzuweisen. Mit Entscheid vom 16. Juli 2009 wies das Verwaltungsgericht des Kantons Zug die Beschwerde ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt U._ zur Hauptsache die Zusprechung einer Invalidenrente beantragen; eventuell sei die Sache zu weiteren Abklärungen und neuer Verfügung an die IV-Stelle zurückzuweisen. Ferner ersucht sie um die Bewilligung der unentgeltlichen Prozessführung und Verbeiständung.
Das Verwaltungsgericht des Kantons Zug äussert sich in ablehnendem Sinne zur Beschwerde; die IV-Stelle schliesst ebenfalls auf deren Abweisung, während das Bundesamt für Sozialversicherungen auf eine Vernehmlassung verzichtet.
Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG).
2. 2.1 Im Entscheid vom 28. September 2006, mit welchem die Vorinstanz die Sache mit der Feststellung, dass die Beschwerdeführerin an einem invalidisierenden Gesundheitsschaden leide, zu weiteren Abklärungen im Sinne der Erwägungen und neuer Verfügung an die IV-Stelle zurückwies, hielt sie aufgrund einer einlässlichen Würdigung der medizinischen Unterlagen fest, es müsse von einer sekundären Alkoholproblematik ausgegangen werden; es liege eine Persönlichkeitsstörung vor - auch ohne Alkoholkrankheit sei mit überwiegender Wahrscheinlichkeit davon auszugehen, dass die Versicherte nicht arbeitsfähig sei. Da der Rückweisungsentscheid vom 28. September 2006 ausdrücklich auf die Erwägungen verweist, werden diese zu dessen Bestandteil und haben, soweit sie zum Streitgegenstand gehören, an der formellen Rechtskraft teil. Dementsprechend sind die Motive, auf die das Dispositiv verweist, für die Behörde, an welche die Sache zurückgewiesen wird, bei Nichtanfechtung verbindlich. Beziehen sich diese Erwägungen auf den Streitgegenstand, ist somit auch deren Anfechtbarkeit zu bejahen (BGE 113 V 159). An dieser Rechtsprechung hat sich mit dem Inkrafttreten des BGG am 1. Januar 2007 nichts geändert (Urteil 9C_703/2009 vom 30. Oktober 2009). Nachdem der erwähnte Rückweisungsentscheid der Vorinstanz vom 28. September 2006 unangefochten in Rechtskraft erwachsen ist, waren die zitierten Erwägungen, auf welche das kantonale Gericht im Entscheidsdispositiv verwiesen hat, für die IV-Stelle verbindlich.
2.2 Die IV-Stelle hielt sich indessen nicht an die Vorgaben gemäss Rückweisungsentscheid. Stattdessen gelangte sie am 5. Januar 2007 mit dem folgenden Schreiben an den Rechtsvertreter der Versicherten:
"Wir beziehen uns auf das Urteil des Verwaltungsgerichtes des Kantons Zug vom 28. September 2006.
Gemäss Beurteilung des regionalen ärztlichen Dienstes (RAD) ist für die Festlegung der Leistungspflicht eine nochmalige psychiatrische Beurteilung nach vorgängiger sechsmonatiger Alkoholabstinenz notwendig.
Versicherte sind verpflichtet, die Durchführung aller Massnahmen zu erleichtern, die zur Eingliederung ins Erwerbsleben getroffen werden. Wenn sie diese erschweren oder verunmöglichen, können die Leistungen eingestellt oder verweigert werden (Art. 21 Abs. 4 des Bundesgesetzes über den Allgemeinen Teil des Sozialversicherungsrechts [ATSG]).
Wir fordern die Versicherte daher auf, umgehend eine mindestens sechsmonatige, kontrollierte Alkoholabstinenz zu beginnen und uns den gewählten Arzt/die gewählte Ärztin, welcher/welche die Abstinenz überprüfen wird, bis spätestens 5. Februar 2007 mitzuteilen.
Die Kosten gehen nicht zu Lasten der Invalidenversicherung."
Nach einem Mahnschreiben vom 27. Juli 2007 und Durchführung des Vorbescheidverfahrens verneinte die IV-Stelle mit Verfügung vom 9. Juli 2008 erneut einen Invalidenrentenanspruch. Diesmal hielt sie zur Begründung fest, die Versicherte sei den ihr obliegenden Mitwirkungspflichten nicht nachgekommen. Weil sie durch die Verweigerung der Abstinenz die notwendigen weiteren medizinischen Abklärungen vereitelt habe, könnten die verlangte Neueinschätzung der Arbeitsunfähigkeit und die Bemessung der Invalidität nicht vorgenommen werden, weshalb das Leistungsgesuch androhungsgemäss abzuweisen sei. Mit dem hier angefochtenen Entscheid vom 16. Juli 2009 bestätigte die Vorinstanz die Ablehnung des Rentenanspruchs, ohne auf ihren früheren Entscheid vom 28. September 2006 und namentlich die hiefür massgebenden Erwägungen Bezug zu nehmen. Aufgrund des ersten verwaltungsgerichtlichen Entscheides steht rechtskräftig fest, dass bei der Beschwerdeführerin nicht reines Suchtgeschehen vorliegt, sondern der Alkoholismus die Folge einer primären Krankheit ist und deshalb invalidisierenden Charakter aufweist. Weiter stellte das kantonale Gericht unmissverständlich fest, es sei von einer Einschränkung der Arbeitsfähigkeit auszugehen. Die angeordneten Abklärungen betrafen die medizinische Untersuchung zum Grad der Arbeitsunfähigkeit und sollten als Grundlage für die Festsetzung des Invaliditätsgrades dienen. Ebenfalls sollten geeignete Wiedereingliederungsmöglichkeiten evaluiert werden. Statt diesen verbindlichen Vorgaben des Verwaltungsgerichts nachzukommen, ging die IV-Stelle nach Erhalt des Entscheides vor, als ob reines Suchtgeschehen vorliegen würde, indem sie einen sechsmonatigen stationären Alkoholentzug forderte. Ein solcher war indessen weder vom kantonalen Gericht angeordnet worden noch indiziert. Denn sowohl die behandelnden, als auch die begutachtenden Ärzte haben schon vor Erlass des ersten Entscheides vom 28. September 2006 dargelegt, das Beharren auf einer stationären Entzugskur sei nicht zumutbar und fördere im Übrigen gemäss den bisherigen Erfahrungen den Heilungsprozess nicht. Im angefochtenen Entscheid vom 16. Juli 2009 bestätigte die Vorinstanz die Verfügung der IV-Stelle und setzte sich damit in Widerspruch zu ihrem früheren Entscheid.
2.3 Indem sich die Vorinstanz in Einklang mit der IV-Stelle über die Rechtskraft ihres eigenen Rückweisungsentscheides hinweggesetzt hat, hat sie Bundesrecht verletzt (E. 1 hievor).
Der angefochtene Entscheid und die Verfügung vom 9. Juli 2008 sind daher aufzuheben. Die IV-Stelle, an welche die Sache zurückzuweisen ist, wird gestützt auf die Ergebnisse der von ihr in Nachachtung des rechtskräftigen Rückweisungsentscheides der Vorinstanz vom 28. September 2006 zu treffenden Abklärungen über das Rentengesuch der Versicherten neu verfügen.
3. Dem Verfahrensausgang entsprechend sind die Gerichtskosten der unterliegenden IV-Stelle aufzuerlegen (Art. 66 Abs. 1 BGG). Diese hat der Beschwerdeführerin überdies eine Parteientschädigung zu bezahlen (Art. 68 Abs. 1 und 2 BGG). Das Gesuch um unentgeltliche Rechtspflege wird damit gegenstandslos.
Demnach erkennt das Bundesgericht:
1. In teilweiser Gutheissung der Beschwerde werden der Entscheid des Verwaltungsgerichts des Kantons Zug vom 16. Juli 2009 und die Verwaltungsverfügung vom 9. Juli 2008 aufgehoben. Die Sache wird an die IV-Stelle Zug zurückgewiesen, damit sie im Sinne der Erwägungen verfahre.
2. Die Gerichtskosten von Fr. 500.- werden der IV-Stelle Zug auferlegt.
3. Die IV-Stelle Zug hat die Beschwerdeführerin für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4. Die Sache wird zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Verwaltungsgericht des Kantons Zug zurückgewiesen.
5. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Zug, Sozialversicherungsrechtliche Kammer, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 16. November 2009
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Widmer