Sachverhalt:
A. Mit Verfügung vom 8. März 2006 sprach die IV-Stelle des Kantons Zürich der 1954 geborenen B._ aufgrund eines Invaliditätsgrades von 40 % ab 1. April 2005 eine Viertelsrente der Invalidenversicherung zu. Nach Beizug eines Gutachtens der Akademie X._, Spital Y._, vom 5. September 2007 hielt die IV-Stelle mit Einspracheentscheid vom 13. März 2008 an dieser Rentenzusprechung fest, wobei sie nunmehr von einem Invaliditätsgrad von 47 % ausging.
B. B._ liess Beschwerde führen mit den Anträgen, unter Aufhebung des Einspracheentscheides sei ihr eine ganze Invalidenrente zuzusprechen; eventuell sei die Sache zur Ergänzung des Sachverhalts unter Anordnung eines Obergutachtens an die IV-Stelle zurückzuweisen. Mit Beschluss vom 28. Oktober 2009 teilte das Sozialversicherungsgericht des Kantons Zürich B._ mit, dass es möglicherweise zu ihren Ungunsten entscheiden werde und räumte ihr Gelegenheit ein, die Beschwerde zurückzuziehen. Mit Entscheid vom 31. Dezember 2009 wies das Sozialversicherungsgericht die Beschwerde ab, soweit es darauf eintrat und hob den Einspracheentscheid vom 13. März 2008 auf mit der Feststellung, dass die Versicherte ab 1. April 2005 keinen Anspruch auf eine Invalidenrente habe.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt die Versicherte beantragen, unter Aufhebung des vorinstanzlichen Entscheides sei ihr eine ganze Invalidenrente zuzusprechen; in somatischer Hinsicht sei die Sache zur Anordnung eines multidisziplinären Obergutachtens an das kantonale Gericht zurückzuweisen; ferner ersucht sie um die Bewilligung der unentgeltlichen Rechtspflege. Mit Eingaben vom 10. März und 22. April 2010 lässt B._ verschiedene Unterlagen einreichen.
Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2. Die Vorinstanz hat die Bestimmungen und Grundsätze über Voraussetzungen und Umfang des Invalidenrentenanspruchs sowie die Invaliditätsbemessung nach der gemischten Methode zutreffend dargelegt. Darauf wird verwiesen.
3. 3.1 Im Wesentlichen gestützt auf das Gutachten der Akademie X._ vom 5. September 2007 stellte die Vorinstanz fest, im erwerblichen Bereich sei die Beschwerdeführerin in einer leidensangepassten Tätigkeit zu 60 % arbeitsfähig, während sie im Haushalt aufgrund des entsprechenden Abklärungsberichts von einer Einschränkung von 18 % ausging. Bei Anteilen von 68 % Erwerbstätigkeit und 32 % Haushalt resultierte gemäss kantonalem Gericht ein Invaliditätsgrad von gesamthaft lediglich 16 %.
3.2 Die auf einer Beweiswürdigung beruhende Feststellung der Vorinstanz, wonach im Rahmen der Invaliditätsbemessung nach der gemischten Methode von Anteilen von 68 % Erwerbstätigkeit und 32 % Hausarbeit auszugehen sei, ist für das Bundesgericht verbindlich (E. 1 hievor). Auf die Behauptung der Versicherten, sie habe vor Eintritt des Gesundheitsschadens im Ausmass von 74 % ausser Haus gearbeitet, ist nicht einzugehen, handelt es sich dabei doch um eine unzulässige Kritik an der Beweiswürdigung des kantonalen Gerichts.
3.3 Soweit die Beschwerdeführerin geltend macht, die Expertise der Akademie X._ sei in der Gesamtbeurteilung zu einer vom begutachtenden Psychiater Dr. med. M._ abweichenden Schlussfolgerung gelangt, ist ihr beizupflichten. Während in der Gesamtbeurteilung des Gutachtens festgehalten wird, die Versicherte sei in einer den körperlichen Beschwerden angepassten Tätigkeit zu 40 % arbeitsunfähig, hatte Dr. med. M._ in seinem Teilgutachten ausgeführt, die Arbeitsfähigkeit sei in einer angepassten Tätigkeit auf etwa 40 % reduziert. Ob der Vorinstanz, welche ohne nähere Begründung die Gesamtbeurteilung mit der geringeren Einschränkung von 40 % als massgebend erachtet hat, aus diesem Grund eine offensichtlich unrichtige Sachverhaltsfeststellung vorzuwerfen wäre, erscheint fraglich, kann jedoch offenbleiben, wie die nachfolgenden Erwägungen zeigen.
3.4 Würde die Invaliditätsbemessung unter Annahme einer Arbeitsunfähigkeit von 60 % (statt 40 %) im erwerblichen Bereich durchgeführt, ergäbe sich auf der Grundlage der von der Vorinstanz verwendeten Zahlen ebenfalls kein rentenbegründender Invaliditätsgrad. Bei einem hypothetischen Einkommen ohne Invalidität (Valideneinkommen) von Fr. 34'257.- und einem Invalideneinkommen von Fr. 19'628.- im Jahr für ein Pensum von 40 % (zwei Drittel des von der Vorinstanz angenommenen Betrages von Fr. 29'442.-) resultierte eine Erwerbseinbusse von Fr. 14'629.- (Fr. 34'257.- / Fr. 19'628.-), entsprechend einer gewichteten Einschränkung von 29.03 % (42.7 % x 68 %). Im Haushalt bliebe es bei der vorinstanzlich festgestellten Behinderung von gewichtet rund 6 % (18 % x 32 %), sodass der Invaliditätsgrad gesamthaft 35 % (29 % + 6 %) betragen würde.
3.5 Die übrigen Einwendungen der Beschwerdeführerin erschöpfen sich weitestgehend in einer im Rahmen der geltenden Überprüfungsbefugnis des Bundesgerichts unzulässigen, appellatorischen Kritik an der vorinstanzlichen Beweiswürdigung. Mit Bezug auf den in der Beschwerde wiederholt zitierten Bericht der Psychiatrischen Klinik Z._ ist darauf hinzuweisen, dass dieser vom 13. Oktober 2009 datiert und damit über anderthalb Jahre nach dem für die gerichtliche Beurteilung massgebenden Zeitpunkt des Einspracheentscheides (<ref-ruling> E. 1a S. 248) erstattet wurde, weshalb er nicht in die Beurteilung einzubeziehen ist. Dasselbe gilt für die nachträglich eingereichten Unterlagen, soweit diese nicht ohnehin aufgrund des vor Bundesgericht geltenden Novenverbots (<ref-law>) unbeachtlich sind.
Nachdem eine interdisziplinäre Expertise der Akademie X._ vom 5. September 2007 vorliegt, welcher Beweiskraft zukommt, ist kein Grund ersichtlich, entsprechend dem Rechtsbegehren der Versicherten in Bezug auf den somatischen Gesundheitszustand ein Gutachten zu veranlassen.
4. Dem Gesuch um unentgeltliche Rechtspflege ist stattzugeben, da die gesetzlichen Voraussetzungen erfüllt sind (Art. 64 Abs. 1 und 2 BGG). Die Beschwerdeführerin ist jedoch auf <ref-law> hinzuweisen. Nach dieser Bestimmung hat die Partei der Gerichtskasse Ersatz zu leisten, wenn sie später dazu in der Lage ist.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Der Beschwerdeführerin wird die unentgeltliche Rechtspflege gewährt.
3. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4. Rechtsanwältin Fiona Forrer wird aus der Gerichtskasse eine Entschädigung von Fr. 2'800.- ausgerichtet.
5. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Ausgleichskasse SPIDA und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 18. Mai 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Widmer