Sachverhalt:
A. A.a Die Eheleute Z._ (Ehefrau) und X._ (Ehemann) sind die Eltern des am 1. Juli 2010 geborenen Kindes Y._. Nachdem X._ am 7. April 2010 in Mazedonien Ehescheidungsklage eingereicht hatte, stellte Z._ am 20. Mai 2010 beim Gerichtskreis V Burgdorf-Fraubrunnen ein Gesuch um Erlass von Eheschutzmassnahmen mit den Anträgen auf Feststellung der Aufhebung des gemeinsamen Haushaltes per 15. März 2010 und auf Regelung der Folgen des Getrenntlebens. Der Präsident des Regionalgerichts Emmental-Oberaargau behandelte diese Eingabe als Gesuch um Erlass vorsorglicher Massnahmen für die Dauer des Scheidungsverfahrens im Sinn von Art. 137 aZGB und stellte mit Entscheid vom 23. März 2011 fest, dass der gemeinsame Haushalt aufgehoben worden sei (Ziff. 1). Im Weiteren stellte er das gemeinsame Kind der Parteien unter die Obhut von Z._ (Ziff. 2) und gewährte X._ einmal im Monat ein begleitetes Besuchsrecht und ordnete an, dass der begleitete Besuch in einer sicheren Institution stattzufinden, die Begleitung während der ganzen Zeit anwesend zu sein und den Besuch zu beaufsichtigen habe. Mit dem Vollzug des Besuchsrechts wurde der Sozialdienst A._ betraut (Ziff. 3). Sodann verpflichtete der Gerichtspräsident X._, ab 1. April 2011 an den Unterhalt des gemeinsamen Kindes einen monatlich und im Voraus zahlbaren Beitrag von Fr. 627.-- zuzüglich allfälliger Kinderzulagen von Fr. 230.-- zu bezahlen (Ziff. 4) und an den Unterhalt von Z._ ab dem 1. April 2011 monatlich und im Voraus mit Fr. 597.-- beizutragen (Ziff. 5). Ferner setzte er den rückwirkend geschuldeten Unterhalt (für Frau und Kind) auf Fr. 16'730.-- fest (Ziff. 6) und regelte die Aufteilung des Mobiliars (Ziff. 7).
A.b X._ gelangte gegen dieses Urteil mit Berufung an das Obergericht des Kantons Bern und verlangte eine Ausweitung seines Besuchsrechts sowie eine Aufhebung bzw. Herabsetzung der Unterhaltspflicht gegenüber Frau und Kind. Mit Entscheid vom 19. Mai 2011 bestätigte das Obergericht die erstinstanzliche Regelung mit Bezug auf das Besuchsrecht und die Höhe des Unterhalts, präzisierte ihn aber hinsichtlich der Kinderzulagen insofern, als eine allfällige Kinderzulage zusätzlich zu leisten ist (Ziffern 2-5).
A.c Mit Urteil vom 31. Mai 2011 schied das erstinstanzliche Gericht von B._/Mazedonien die Ehe der Parteien. Das Urteil enthält keine ausdrückliche Regelung mit Bezug auf den Unterhalt von Z._ und die Kinderbelange. Dieses Urteil ist am 8. Juni 2011 in Rechtskraft erwachsen.
B. B.a Mit Urteil vom 20. September 2011 hob das Bundesgericht das obergerichtliche Urteil in Gutheissung einer Beschwerde von X._ hinsichtlich des Umfangs des Besuchsrechts und die Berechnung der Unterhaltsbeiträge für die (geschiedene) Ehefrau und das Kind auf und wies die Sache zu weiteren Abklärungen bezüglich dieser Punkte und zu neuem Entscheid an das Obergericht zurück (Urteil 5A_432/2011 vom 20. September 2011). In diesem Verfahren wurde das mazedonische Scheidungsurteil vom 31. Mai 2011 nicht berücksichtigt.
B.b Das Obergericht des Kantons Bern wies die Sache zur vorsorglichen Regelung des Besuchsrechts von X._ und des von ihm zu leistenden "Kinder- und Ehegattenunterhalts" zu weiteren Abklärungen und neuem Entscheid an das Regionalgericht zurück (2). Ferner verpflichtete es X._, für das Kind ab dem 1. April 2012 und bis zum Vorliegen eines neuen erstinstanzlichen Entscheids einen monatlich im Voraus zahlbaren Unterhaltsbeitrag von Fr. 620.-- zuzüglich einer allfälligen Kinderzulage zu bezahlen (3), ferner ab dem 1. April 2012 bis zum Vorliegen eines neuen erstinstanzlichen Entscheids an den Unterhalt von Z._ monatlich und im Voraus mit Fr. 600.-- beizutragen (4), schliesslich seiner früheren Ehefrau rückwirkend für die Zeit vom 15. März 2010 bis 31. März 2012 Kindes- und Ehegattenunterhalt von Fr. 31'358.-- plus allfällige in diesem Zeitraum bezogene Kinderzulagen zu entrichten (4).
C. X._ hat gegen das ihm am 21. März 2012 in voller Ausfertigung zugestellte obergerichtliche Urteil beim Bundesgericht am 20. April 2012 (Postaufgabe) Beschwerde in Zivilsachen erhoben. Er beantragt sinngemäss, es sei das angefochtene Urteil insoweit aufzuheben, als es ihm Unterhaltsleistungen zugunsten von Z._ für die Zeit nach dem 8. Juni 2011 auferlege. Eventuell sei das angefochtene Urteil aufzuheben und die Sache zu neuem Entscheid im Sinn der Erwägungen an die erste Instanz zurückzuweisen. Für das bundesgerichtliche Verfahren ersucht er um unentgeltliche Rechtspflege.
D. Der Beschwerdeführer beantragt überdies der Beschwerde aufschiebende Wirkung im Sinn des Antrages in der Sache zu gewähren. Das Obergericht hat auf eine Stellungnahme zum Gesuch um aufschiebende Wirkung verzichtet. Die Beschwerdegegnerin beantragt, das Gesuch teilweise gutzuheissen und es für die vor dem 8. Juni 2011 zugesprochenen Unterhaltsbeiträge abzuweisen. Ferner stellt sie ein Gesuch um unentgeltliche Rechtspflege.
E. In der Sache sind keine Vernehmlassungen eingeholt worden.
F. Mit Verfügung vom 14. Mai 2012 wurde der Beschwerde für die bis zum 8. Juni 2011 geschuldeten Unterhaltsbeiträge aufschiebende Wirkung zuerkannt.

Erwägungen:
1. 1.1 Angefochten ist ein kantonal letztinstanzlicher Endentscheid betreffend vorsorgliche Massnahmen (Art. 75 Abs. 1 und Art. 90 BGG). Im vorliegenden Fall ist nunmehr einzig der Unterhaltsbeitrag für die Beschwerdegegnerin strittig. Dieser überschreitet den Minimalstreitwert von Fr. 30'000.-- (Art. 74 Abs. 1 lit. b BGG i.V.m. Art. 51 Abs. 4 BGG). Der Beschwerdeführer hat im kantonalen Verfahren als Partei teilgenommen (Art. 76 Abs. 1 lit. a BGG) und ist mit seinen Anträgen erneut unterlegen; er verfügt damit über ein schützenswertes Interesse an der Aufhebung und Änderung des angefochtenen Entscheids (Art. 76 Abs. 1 lit. b BGG). Auf die im Übrigen fristgerecht (Art. 100 Abs. 1 BGG) eingereichte Beschwerde ist einzutreten.
1.2 Bei vorsorglichen Massnahmen kann einzig die Verletzung von verfassungsmässigen Rechten gerügt werden (Art. 98 BGG; <ref-ruling> E. 5.1 S. 396 f.). Dabei gilt das strenge Rügeprinzip (Art. 106 Abs. 2 BGG). Das Bundesgericht prüft nur klar und detailliert erhobene und soweit möglich belegte Rügen und tritt auf ungenügend begründete Vorwürfe und rein appellatorische Kritik am angefochtenen Entscheid nicht ein. Wird die Verletzung des Willkürverbots gerügt, reicht es nicht aus, die Rechtslage aus Sicht des Beschwerdeführers darzulegen und den davon abweichenden angefochtenen Entscheid als willkürlich zu bezeichnen; vielmehr ist im Einzelnen darzulegen, inwiefern das kantonale Gericht willkürlich entschieden haben soll und der angefochtene Entscheid deshalb an einem qualifizierten und offensichtlichen Mangel leidet (<ref-ruling> E. 2.2 S. 246).
2. Strittig ist im vorliegenden Fall einzig der Unterhaltsbeitrag der Beschwerdegegnerin ab dem 8. Juni 2011 und dabei ausschliesslich die Frage, welchen Einfluss das am 31. Mai 2011 in Mazedonien ausgesprochene Scheidungsurteil auf das in der Schweiz hängige Massnahmeverfahren hat. Das Obergericht hat in diesem Zusammenhang erwogen, aus dem übersetzten Scheidungsurteil ergebe sich weder, dass das mazedonische Gericht die Scheidungsnebenfolgen geregelt hätte noch dass das Verfahren diesbezüglich andauere. Insbesondere sei dem Urteil entgegen den Behauptungen des Beschwerdeführers nicht zu entnehmen, dass sich das Gericht zur Teilung des Vermögens der Parteien oder zum nachehelichen Unterhalt der Beschwerdegegnerin geäussert hätte. Das Obergericht erachtete daher als glaubhaft gemacht, dass das Gericht die Nebenfolgen der Scheidung bis jetzt nicht geregelt habe, und führte weiter aus, der Einwand des Beschwerdeführers, das Scheidungsurteil äussere sich auch zur Teilung des Vermögens der Parteien und zum nachehelichen Unterhalt, sei erst im Rahmen eines allfälligen ordentlichen Verfahrens auf Anerkennung und Ergänzung des im Ausland gesprochenen Scheidungsurteils näher zu prüfen. Im Weiteren hielt das Obergericht dafür, auch wenn vorsorgliche Massnahmen im Sinn von Art. 276 ZPO grundsätzlich für die Dauer, d.h. bis zum Abschluss des Scheidungsverfahrens angeordnet werden, seien solche Massnahmen auch für die Zeit nach Eintritt der Rechtskraft des Urteils im Scheidungspunkt zulässig, wenn die Parteien über die Nebenfolgen der Scheidung weiter prozessierten. Für Massnahmen vermögensrechtlicher Natur sei eine über den rechtskräftigen Abschluss des Scheidungsverfahrens hinausreichende Dauer der Massnahme möglich.
3. Der Beschwerdeführer macht geltend, aufgrund der vom seinem mazedonischen Anwalt erhaltenen Auskünfte sei davon auszugehen, dass das mazedonische Urteil vom 31. Mai 2011 nicht nur den Scheidungspunkt, sondern auch die Teilung des Vermögens der Parteien und den persönlichen nachehelichen Unterhalt der Beschwerdegegnerin umfasse. Der Umstand, dass sich das Urteil nicht über den persönlichen Unterhalt der Beschwerdegegnerin ausspreche, bedeute, dass kein Ehegattenunterhalt geschuldet sei. Der Beschwerdeführer verweist sodann auf verschiedene im kantonalen Verfahren ins Recht gelegte Akten, insbesondere auf das Schreiben des schweizerischen Anwalts der Beschwerdegegnerin vom 24. Februar 2011 zuhanden des Regionalgerichts, wonach seine Klientin eine Vorladung des mazedonischen Gerichts zur Verhandlung vom 4. Mai 2011 erhalten habe. Dieser Vorladung sei die Klage des Beschwerdeführers vom 7. April 2010 beigelegen, die überdies vom Beschwerdeführer unter der Nr. 10 Bordereau II vom 16. August 2010 der kantonalen Akten aufgeführt worden sei. Die Beschwerdegegnerin sei damit in der Lage gewesen, ihre Ansprüche bezüglich der Teilung des Vermögens und des persönlichen Unterhalts im Verfahren ordnungsgemäss geltend zu machen. Da sie dem Gericht keine Begehren unterbreitet habe, erscheine entgegen der Ansicht der Vorinstanz glaubhaft, dass das mazedonische Scheidungsurteil die Teilung des Vermögens der Parteien regle und persönliche Unterhaltsansprüche der Beschwerdegegnerin ausschliesse. Entgegen der Vorschrift von Art. 16 IPRG habe die Vorinstanz das anwendbare mazedonische Recht nicht ermittelt. Der angefochtene Entscheid verletze daher die Verfahrensgarantien gemäss Art. 29 BV. Überdies stelle die Vorinstanz den Sachverhalt willkürlich fest und wende das Recht willkürlich an, indem sie unter den gegebenen Umständen als glaubhaft betrachte, dass das Scheidungsurteil weder die Teilung des Vermögens der Parteien noch die persönlichen Unterhaltsansprüche der Beschwerdegegnerin regle.
3.1 Der Beschwerdeführer stellt die grundsätzliche Erwägung des Obergerichts nicht infrage, wonach der schweizerische Massnahmerichter nach dem in der Sache anwendbaren schweizerischen Prozessrecht (Art. 276 ZPO bzw. aArt. 137 ZGB) auch über den Zeitpunkt der Rechtskraft der Scheidung hinaus vorsorgliche Massnahmen erlassen kann. Insbesondere rügt er keine willkürliche Anwendung der massgebenden Bestimmung.
3.2 Das Obergericht ist aufgrund der deutschen Übersetzung davon ausgegangen, dass sich das mazedonische Scheidungsurteil vom 31. Mai 2011 über den Ehegattenunterhalt ausschweigt. Der Beschwerdeführer bringt nicht substanziiert vor (E. 1.2), das Obergericht habe den Inhalt der Urkunde offensichtlich falsch und damit willkürlich wiedergegeben (<ref-ruling> E. 6.2 S. 288). Er ist aber sinngemäss der Ansicht, da die Beschwerdegegnerin keinen persönlichen Unterhalt beantragt habe, sei nach dem anwendbaren mazedonischen Recht kein Unterhalt geschuldet.
3.3 Soweit der Beschwerdeführer in diesem Zusammenhang eine willkürliche Anwendung von Art. 16 IPRG beanstandet, kann der Beschwerde kein Erfolg beschieden sein: Im vorliegenden Fall ist unbestritten, dass auf die Scheidung mazedonisches Recht anzuwenden war. Da vorliegend vorsorgliche Massnahmen infrage stehen (<ref-ruling> E. 2), ist die behauptete unrichtige Anwendung ausländischen Rechts durch die Vorinstanz ausschliesslich unter dem Gesichtswinkel der Willkür zu prüfen (Art. 98 BGG; <ref-ruling> E. 3.1). Der Beschwerdeführer zeigt nicht einmal ansatzweise auf, inwiefern die Vorinstanz das auf die Scheidung anwendbare mazedonische Recht willkürlich angewendet hat, indem sie zum Schluss gelangte, der hier strittige Ehegattenunterhalt sei im Scheidungsurteil nicht geregelt. Nach der nicht rechtsgenüglich als willkürlich beanstandeten Auslegung der deutschen Übersetzung des mazedonischen Scheidungsurteils vom 31. Mai 2011 spricht sich dieses Urteil nicht zu den Nebenfolgen der Scheidung aus. Weder aus dem Dispositiv noch aus den Erwägungen ergibt sich nach willkürfreier Ansicht des Obergerichts, dass der Unterhaltsanspruch der Beschwerdegegnerin aufgrund des massgebenden mazedonischen Rechts definitiv abschlägig beurteilt worden wäre. Aufgrund dieses Urteils durfte das Obergericht ohne Willkür und ohne Verletzung von Art. 29 BV als glaubhaft gemacht betrachten, dass der Unterhaltsanspruch der Beschwerdegegnerin im besagten Urteil nicht geregelt worden ist. Was den Inhalt des Schreibens vom 24. Februar 2011 (Schreiben des Anwalts der Beschwerdegegnerin betreffend die Vorladung zur Verhandlung des mazedonischen Scheidungsgerichts) anbelangt, so handelt es sich dabei um eine Eingabe an das Regionalgericht. Das angefochtene obergerichtliche Urteil enthält diesbezüglich keine Feststellungen; der Beschwerdeführer legt nicht dar, dass er den Inhalt des Schreibens bzw. die nunmehr behaupteten Tatsachen vor Obergericht im Rahmen der Berufung oder anlässlich der Stellungnahmen nach dem bundesgerichtlichen Urteil vom 20. September 2011 geltend gemacht hat. Die entsprechenden Vorbringen vor Bundesgericht sind daher neu und unzulässig (Art. 99 BGG). Abgesehen davon muss auch unter dem Gesichtspunkt der Willkür aus den im Schreiben vom 24. Februar 2011 enthaltenen Tatsachen nicht zwingend geschlossen werden, dass der Unterhaltsanspruch der Beschwerdegegnerin definitiv beurteilt ist: Dass die Beschwerdegegnerin eine Vorladung zur Verhandlung und die Scheidungsklage des Beschwerdeführers erhalten hat, sagt noch nichts über den Inhalt des Scheidungsurteils vom 31. Juli 2011 aus. Zudem ist auch nicht festgestellt worden, dass sich die Beschwerdegegnerin im mazedonischen Verfahren eines Antrages bezüglich ihres persönlichen Unterhalts enthalten hat. Soweit der Beschwerdeführer nunmehr Entsprechendes behauptet, ist dies neu und unzulässig (Art. 99 BGG), zumal er nicht durch nachvollziehbaren Verweis auf die Akten darlegt, dass die entsprechende Tatsache im kantonalen Verfahren ordnungsgemäss vorgetragen worden ist. Darauf ist nicht einzutreten.
4. Zusammenfassend erweist sich der Vorwurf willkürlicher Tatsachenfeststellung bzw. willkürlicher Anwendung von Bundesrecht sowie der Verletzung von Art. 29 BV als materiell unbegründet, soweit darauf eingetreten werden kann. Das Obergericht ist nicht in Willkür verfallen, indem es die definitive Beurteilung des Unterhaltsanspruchs der Beschwerdegegnerin durch das mazedonische Scheidungsgericht als nicht glaubhaft gemacht betrachtet und den Beschwerdeführer auf das Anerkennungs- bzw. Ergänzungsverfahren verwiesen hat. Damit ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1 BGG). In der Sache ist keine Vernehmlassung eingeholt worden und damit auch keine Entschädigung geschuldet. Mit Bezug auf die Stellungnahme der Beschwerdegegnerin zum Gesuch um aufschiebende Wirkung wird auf die Erwägung 6 verwiesen.
5. Das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren ist abzuweisen, da sich die Beschwerde im Lichte ihrer Begründung als von Anfang an aussichtslos erwiesen hat (Art. 64 Abs. 1 BGG).
6. Das entsprechende Gesuch der Beschwerdegegnerin ist demgegenüber gutzuheissen, soweit es infolge der Kostenregelung nicht gegenstandslos geworden ist. Die Beschwerdegegnerin ist bedürftig. Überdies kann ihre Position gegenüber dem Gesuch des Beschwerdeführers um aufschiebende Wirkung nicht als von vornherein aussichtslos bezeichnet werden: Vor Bundesgericht waren nur noch die der Beschwerdegegnerin ab dem 8. Juni 2011 geschuldeten persönlichen Unterhaltsbeiträge strittig. Von daher war der Antrag der Beschwerdegegnerin, die aufschiebende Wirkung für die vor dem 8. Juni 2011 geschuldeten Beiträge zu verweigern, durchaus plausibel und nicht von vornherein aussichtslos. Der Beschwerdegegnerin ist ein amtlicher Beistand zu bestellen, der angesichts der ausgewiesenen Bedürftigkeit des Beschwerdeführers für seine Stellungnahme zum Gesuch um aufschiebende Wirkung direkt aus der Bundesgerichtskasse zu entschädigen ist (Art. 64 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege des Beschwerdeführers wird abgewiesen, jenes der Beschwerdegegnerin wird gutgeheissen, soweit es nicht gegenstandslos geworden ist. Ihr wird Fürsprecher Ronald Frischknecht als amtlicher Rechtsbeistand bestellt.
3. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
4. Fürsprecher Ronald Frischknecht wird für seine Stellungnahme zum Gesuch um aufschiebende Wirkung aus der Bundesgerichtskasse ein Honorar von Fr. 300.-- entrichtet.
5. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Bern, Zivilabteilung, 2. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 12. Juli 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Zbinden