Sachverhalt:
A. A.a Mit Urteil vom 23. September 2010 wurde die Ehe von Z._ und X._ durch das Grundgericht von A._/Serbien geschieden. Das Urteil wies die Sorge für den damals minderjährigen Sohn der Mutter zu und regelte die Unterhaltszahlungen für diesen und für die bereits volljährige Tochter der Parteien. Nicht entschieden wurde hingegen über die güterrechtliche Auseinandersetzung, den Vorsorgeausgleich und den nachehelichen Unterhalt.
A.b Am 22. Dezember 2010 klagte X._ beim Bezirksgericht Zürich auf Ergänzung des ausländischen Scheidungsurteils; sie beantragte die Teilung der Pensionskassenguthaben, eventuell die Zusprechung einer angemessenen Entschädigung und die Vornahme der güterrechtlichen Auseinandersetzung. Kurz vor der Verhandlung teilte die Anwältin von Z._ dem zuständigen Einzelrichter mit, ihr sei das Mandat entzogen worden. Z._ werde an der Verhandlung vom 12. Mai 2011 nicht teilnehmen, da er nicht vorbereitet sei; er werde sich jedoch schriftlich äussern. An der Verhandlung liess X._ neue Anträge stellen. Z._ blieb, wie angekündigt, der Verhandlung fern und liess sich auch nicht schriftlich vernehmen.
A.c Mit Urteil vom 30. Mai 2010 verurteilte der Einzelrichter am Bezirksgericht Zürich Z._ in teilweiser Gutheissung der neuen Anträge dazu, an den Unterhalt von X._ mit Fr. 4'000.-- pro Monat zuzüglich je Fr. 500.-- ab Ende der Ausbildung der Kinder und bis zu seinem Eintritt in das ordentliche Pensions- und AHV-Alter beizutragen. Zudem sprach er X._ einen Betrag von Fr. 30'000.-- aus Güterrecht sowie Fr. 85'000.-- als angemessene Entschädigung gemäss Art. 124 ZGB zu.
B. Dieses Urteil hob das Obergericht des Kantons Zürich mit Beschluss vom 24. November 2011 auf und wies die Sache im Sinn der Erwägungen (namentlich auch hinsichtlich der vorsorglichen Massnahmen) an den Einzelrichter zurück, weil der Sachverhalt in wesentlichen Teilen der Vervollständigung bedürfe. Es auferlegte X._ für das Berufungsverfahren eine Gerichtsgebühr von Fr. 2'500.--, die es jedoch infolge der Gewährung der unentgeltlichen Rechtspflege einstweilen auf die Gerichtskasse nahm (Ziffer 3), und verpflichtete sie überdies dazu, Z._ für das Berufungsverfahren mit Fr. 4'500.-- plus Mehrwertsteuer zu entschädigen (Ziffer 4).
C. X._ (Beschwerdeführerin) hat gegen die Ziffern 3 und 4 des obergerichtlichen Beschlusses mit Eingabe vom 16. Januar 2012 (Postaufgabe) beim Bundesgericht Beschwerde in Zivilsachen erhoben. Sie beantragt, es sei Ziffer 3 des obergerichtlichen Beschlusses aufzuheben und es seien die Gerichtskosten Z._ (Beschwerdegegner) aufzuerlegen, eventuell der Staatskasse zu überbinden. Ferner sei Ziffer 4 des Beschlusses aufzuheben und von einer Parteientschädigung an den Beschwerdegegner abzusehen. Subeventualiter sei der angefochtene Beschluss aufzuheben und die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Die Beschwerdeführerin ersucht überdies um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren.
Es sind keine Vernehmlassungen eingeholt worden.
Erwägungen:
1. 1.1 Der Rückweisungsentscheid gilt als Zwischenentscheid im Sinn von Art. 93 Abs. 1 BGG; ein Zwischenentscheid liegt auch vor, wenn die letzte kantonale Instanz im Rückweisungsentscheid über die Gerichts- und Parteikosten entscheidet (BGE 135 III 329 E. 1.2 mit Hinweisen). Dagegen ist die Beschwerde nur zulässig, sofern der Entscheid einen nicht wieder gutzumachenden Nachteil bewirken kann (lit. a) oder die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (lit. b).
1.2 Der Entscheid über die Gerichtskosten und die Parteientschädigung ist nach der bundesgerichtlichen Rechtsprechung nicht geeignet, einen nicht wiedergutzumachenden Nachteil im Sinn von Art. 93 Abs. 1 lit. a BGG zu bewirken. Er kann nur zusammen mit dem Hauptpunkt des Zwischenentscheides (Rückweisung) angefochten werden, sofern dagegen gestützt auf Art. 93 Abs. 1 BGG die Beschwerde in Zivilsachen offensteht (BGE 135 III 329 E. 1.2.2 S. 333 f.).
1.3 Mit Bezug auf Art. 93 Abs. 1 lit. b BGG legt die Beschwerdeführerin entgegen den Begründungsanforderungen (BGE 134 III 426 E. 1.2 am Ende S. 429) nicht dar, inwiefern die Herbeiführung eines Endentscheides einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde. Im Übrigen ist diese Voraussetzung hier nicht gegeben, zumal mit dem Entscheid über die Kosten noch kein Endentscheid erwirkt wird.
1.4 Der Beschwerdeführerin ist aber unbenommen, den Entscheid über die Kosten und Entschädigung des Zwischenentscheides zusammen mit dem Endentscheid in der Sache anzufechten (BGE 135 III 329 E. 1.2.2 S. 334).
2. Damit ist auf die Beschwerde nicht einzutreten. Bei diesem Ausgang des Verfahrens wird die Beschwerdeführerin kostenpflichtig (Art. 66 Abs. 1 BGG). Sie hat jedoch die Gegenpartei für das bundesgerichtliche Verfahren nicht zu entschädigen, da keine Vernehmlassung eingeholt worden ist.
3. Das Gesuch der Beschwerdeführerin um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren ist abzuweisen, da sich die Beschwerde als von vornherein aussichtslos erwiesen hat (Art. 64 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 1'500.-- werden der Beschwerdeführerin auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 21. Februar 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Zbinden