Sachverhalt:
A. Die Eheleute Y._ und X._ sind die Eltern des am 1. Juli 2010 geborenen Kindes A._. Nachdem X._ am 7. April 2010 in B._ Ehescheidungsklage eingereicht hatte, stellte Y._ am 20. Mai 2010 beim Gerichtskreis C._ ein Gesuch um Erlass von Eheschutzmassnahmen mit den Anträgen auf Feststellung der Aufhebung des gemeinsamen Haushaltes per 15. März 2010 und auf Regelung der Folgen des Getrenntlebens. Der Präsident des Regionalgerichts D._ behandelte diese Eingabe als Gesuch um Erlass vorsorglicher Massnahmen für die Dauer des Scheidungsverfahrens im Sinn von Art. 137 aZGB und stellte mit Entscheid vom 23. März 2011 fest, dass der gemeinsame Haushalt aufgehoben worden sei (Ziff. 1). Im Weiteren stellte er das gemeinsame Kind der Parteien unter die Obhut von Y._ (Ziff. 2) und gewährte X._ einmal im Monat ein begleitetes Besuchsrecht und ordnete an, dass der begleitete Besuch in einer sicheren Institution stattzufinden und die Begleitung während der ganzen Zeit anwesend zu sein und den Besuch zu beaufsichtigen habe. Mit dem Vollzug des Besuchsrechts wurde der Sozialdienst E._ betraut (Ziff. 3). Sodann verpflichtete der Gerichtspräsident X._ ab 1. April 2011 an den Unterhalt des gemeinsamen Kindes einen monatlich und im voraus zahlbaren Beitrag von Fr. 627.--, zuzüglich allfälliger Kinderzulagen von Fr. 230.-- zu bezahlen (Ziff. 4) und an den Unterhalt von Y._ ab dem 1. April 2011 monatlich und im voraus mit Fr. 597.-- beizutragen (Ziff. 5). Ferner setzte er den rückwirkend geschuldeten Unterhalt (für Frau und Kind) auf Fr. 16'730.-- fest (Ziff. 6) und regelte die Aufteilung des Mobiliars (Ziff. 7).
B. X._ gelangte gegen dieses Urteil mit Berufung an das Obergericht des Kantons Bern und verlangte eine Ausweitung seines Besuchsrechts sowie eine Aufhebung bzw. Herabsetzung der Unterhaltspflicht gegenüber Frau und Kind. Mit Entscheid vom 19. Mai 2011 bestätigte das Obergericht die erstinstanzliche Regelung mit Bezug auf das Besuchsrecht und die Höhe des Unterhalts, präzisierte ihn aber hinsichtlich der Kinderzulagen insofern, als eine allfällige Kinderzulage zusätzlich zu leisten ist (Ziffern 2-5).
C. X._ (Beschwerdeführer) hat gegen diesen Entscheid am 27. Juni 2011 (Postaufgabe) beim Bundesgericht Beschwerde in Zivilsachen erhoben. Er beantragt hauptsächlich, den angefochtenen Entscheid des Obergerichts mit Bezug auf das Besuchsrecht aufzuheben und ihm ein mehrmals im Monat auszuübendes Besuchsrecht einzuräumen (Ziff. I. 1.). Ferner sei er von jeglicher Unterhaltspflicht gegenüber Frau und Kind zu befreien, eventuell seien die Unterhaltsbeiträge herabzusetzen; dabei sei insbesondere dem Umstand Rechnung zu tragen, dass sein Einkommen nicht Fr. 3'685.50, sondern nachweislich lediglich Fr. 3'653.-- pro Monat betrage. Für die Bestimmung der Höhe der Unterhaltsbeiträge seien ferner seine Wohnkosten ab März 2011 von Fr. 1'004.15, ein monatlicher Grundbetrag von Fr. 1'200.-- (statt der berücksichtigten Fr. 1'000.--) ab März 2011, die zusätzlichen Kosten von Fr. 100.-- für die Berufskleidung sowie die Kosten für die Ausübung des Besuchsrechts von Fr. 122.-- pro Monat zu berücksichtigen. Eventuell sei das angefochtene Urteil aufzuheben und die Sache an die Vorinstanz zurückzuweisen. Für das bundesgerichtliche Verfahren ersucht der Beschwerdeführer um unentgeltliche Rechtspflege. Ferner wird beantragt, der Beschwerde aufschiebende Wirkung zuzuerkennen.
D. Das Obergericht und Y._ (Beschwerdegegnerin) haben auf Vernehmlassung in der Sache verzichtet. Mit Bezug auf das Gesuch um aufschiebende Wirkung beantragt die Beschwerdegegnerin, das Gesuch sei abzuweisen, soweit es nicht um die Nachzahlung von Unterhaltsbeiträgen gehe. Des weiteren ersucht auch sie um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren.
E. Mit Präsidialverfügung vom 7. Juli 2011 wurde der Beschwerde für die bis und mit Mai 2011 geschuldeten Unterhaltsbeiträge aufschiebende Wirkung zuerkannt.
Erwägungen:
1. 1.1 Angefochten ist ein kantonal letztinstanzlicher Endentscheid betreffend vorsorgliche Massnahmen für die Dauer des Scheidungsverfahrens (Art. 75 Abs. 1 und Art. 90 BGG). Im vorliegenden Fall ist nebst den Unterhaltsbeiträgen für die Beschwerdegegnerin und das gemeinsame Kind auch das Besuchsrecht strittig. Stehen somit nicht ausschliesslich vermögensrechtliche Begehren zur Diskussion, erweist sich die Beschwerde in Zivilsachen ungeachtet des Streitwertes als gegeben (vgl. dazu: Urteil 5A_108/2007 vom 11. Mai 2007 E. 1.2).
1.2 Bei vorsorglichen Massnahmen während des Scheidungsverfahrens kann einzig die Verletzung von verfassungsmässigen Rechten gerügt werden (Art. 98 BGG; BGE 133 III 393 E. 5.1 S. 396 f.). Dabei gilt das strenge Rügeprinzip (Art. 106 Abs. 2 BGG). Das Bundesgericht prüft nur klar und detailliert erhobene und soweit möglich belegte Rügen und tritt auf ungenügend begründete Rügen und rein appellatorische Kritik am angefochtenen Entscheid nicht ein. Wird die Verletzung des Willkürverbots gerügt, reicht es nicht aus, die Rechtslage aus Sicht des Beschwerdeführers darzulegen und den davon abweichenden angefochtenen Entscheid als willkürlich zu bezeichnen; vielmehr ist im Einzelnen darzulegen, inwiefern das kantonale Gericht willkürlich entschieden haben soll und der angefochtene Entscheid deshalb an einem qualifizierten und offensichtlichen Mangel leidet (BGE 134 II 244 E. 2.2 S. 246).
1.3 Bezüglich des persönlichen Verkehrs beantragt der Beschwerdeführer zur Hauptsache, ihm sei ein mehrmals pro Monat auszuübendes Besuchsrecht einzuräumen. Er stellt damit keinen klaren materiellen Antrag, dem im Fall der Gutheissung der Beschwerde mittels unmittelbarer Aufnahme in das Dispositiv entsprochen werden könnte, und ein entsprechender Antrag ergibt sich auch nicht aus der Beschwerdebegründung. Damit liegt einzig ein gültiger Rückweisungsantrag vor, der jedoch im vorliegenden Fall genügt: Das Bundesgericht könnte im Falle einer Gutheissung der Beschwerde ohnehin nicht selbst entscheiden, zumal es damit einerseits in das Ermessen des Sachrichters eingriffe und anderseits auch nicht über die für den Sachentscheid notwendigen tatsächlichen Feststellungen verfügt (BGE 134 III 379 E. 1.3 S. 383; 133 III 489 E. 3.1 S. 490 mit Hinweisen).
2. 2.1 Das Obergericht hat die erstinstanzliche Regelung bestätigt, wonach der Beschwerdeführer an einem Tag pro Monat ein begleitetes Besuchsrecht ausüben könne. Im Einzelnen hat es dafürgehalten, zwar habe der Erstrichter den Grundsatz hervorgehoben, wonach sich bei Kleinkindern ein kürzeres, dafür aber häufigeres Besuchsrecht rechtfertige. Damit habe die erste Instanz indes nur einen allgemeinen Grundsatz wiedergegeben, ohne auf die Besonderheiten des konkreten Falles Bezug zu nehmen. Korrekt werde überdies erläutert, dass zum Schutz des Kindeswohls von diesem Grundsatz abgewichen und der persönliche Verkehr eingeschränkt werden könne. Im konkreten Fall habe sich der Vorderrichter auf die glaubhaft gemachten Behauptungen der Beschwerdegegnerin sowie auf das durch eigene Wahrnehmungen erlebte Verhalten des Beschwerdeführers anlässlich der Verhandlung gestützt.
2.2 Der Beschwerdeführer richtet sich nicht gegen die Anordnung der Begleitung, findet aber, die Bestimmung eines lediglich auf einen Tag beschränkten Besuchsrechts sei mit Art. 7, 11 und 13 Abs. 1 BV sowie Art. 8 Ziff. 1 EMRK nicht zu vereinbaren, habe doch der erstinstanzliche Richter häufigere Besuch als im Interesse des Kindes angesehen. Es sei daher nicht ersichtlich, warum nebst einer hier nicht bestrittenen Begleitung der Besuche auch noch eine zeitliche Beschränkung des Besuchsrechts auf einen Tag angeordnet werde.
2.3 Artikel 8 Ziff. 1 EMRK verleiht einen Anspruch auf Achtung des Familienlebens und begründet damit ein Recht auf Zusammenleben oder persönliche Kontakte zwischen Eltern und Kindern und zwar auch dann, wenn die Beziehung zwischen den Eltern beendet ist, sie nicht mehr zusammenleben oder geschieden sind (JENS MEYER-LADEWIG, EMRK Handkommentar, 3. Aufl. 2011, N. 53 zu Art. 8 EMRK unter Hinweis auf die Rechtsprechung des EGMR). Er verpflichtet die Behörden dazu, den Kontakt mit den Familienmitgliedern zu ermöglichen (MEYER-LADEWIG, a.a.O., N. 53 zu Art. 8 EMRK mit Hinweisen auf die Rechtsprechung des EGMR). Der vom Beschwerdeführer ebenfalls angerufene Art. 13 Abs. 1 BV deckt sich inhaltlich mit der aufgeführten Konventionsbestimmung (Urteil 5A_798/2009 vom 4. März 2010 E. 5.2). Soweit der Beschwerdeführer im Weiteren in diesem Zusammenhang mit der gleichen Begründung eine Verletzung von Art. 7 und 11 BV rügt, legt er nicht substanziiert dar, inwiefern ihm diese Bestimmungen einen über Art. 8 Ziff. 1 EMRK hinausgehenden Schutz gewähren sollen. Darauf ist nicht einzutreten.
2.4 Der Anspruch aus Art. 8 Ziff. 1 EMRK gilt nicht absolut. Vielmehr ist nach Art. 8 Ziff. 2 EMRK ein Eingriff in das durch Ziff. 1 geschützte Rechtsgut zulässig, soweit er gesetzlich vorgesehen ist und eine Massnahme darstellt, die in einer demokratischen Gesellschaft für die nationale Sicherheit, die öffentliche Ruhe und Ordnung, das wirtschaftliche Wohl des Landes, die Verteidigung der Ordnung und zur Verhinderung von strafbaren Handlungen, zum Schutz der Gesellschaft und Moral sowie der Rechte und Freiheiten anderer notwendig ist. Im schweizerischen Recht ist die Ausgestaltung des persönlichen Verkehrs zwischen Eltern und Kindern in Art. 273 ZGB geregelt. Der Beschwerdeführer macht nicht geltend, diese Norm sei mit Art. 8 EMRK nicht zu vereinbaren. Das Bundesgericht überprüft die Vereinbarkeit eines Entscheides mit Art. 8 EMRK grundsätzlich frei. Bei der Überprüfung von Ermessensentscheiden letzter kantonaler Instanzen übt es allerdings Zurückhaltung (Urteile 5A_798/2008 vom 4. März 2010 E. 5.2; 5P.8/2007 vom 6 Juni 2008 E. 5.1; 5P.345/2005 vom 23 Dezember 2005 E. 3.1; BGE 120 II 384 E. 5 S. 387/388 mit Hinweisen).
2.5 Nach Art. 273 Abs. 1 ZGB haben Eltern, denen die elterliche Sorge oder die Obhut nicht zustehen, und das unmündige Kind gegenseitig Anspruch auf angemessenen persönlichen Verkehr. (Art. 273 Abs. 1 ZGB). Bei dessen Ausgestaltung steht das Kindeswohl im Vordergrund (BGE 131 III 209 E. 5 S. 212). Welche Ordnung des persönlichen Verkehrs zwischen Eltern und Kindern angemessen ist, lässt sich nicht objektiv und abstrakt umschreiben (HEGNAUER, Berner Kommentar, N 61 zu Art. 273 ZGB), sondern entscheidet sich im konkreten Einzelfall nach richterlichem Ermessen (Urteil 5A_72/2011 vom 22. Juni 2011 E. 1 mit Hinweisen).
2.6 Das Obergericht führt für die restriktive Besuchsrechtsordnung ins Feld, im konkreten Fall sei der erstinstanzliche Richter von einer Gefährdung des Kindeswohls ausgegangen und habe sich dabei auf die glaubhaft gemachten Behauptungen der Beschwerdegegnerin sowie auf das durch eigene Wahrnehmung erlebte Verhalten des Beschwerdeführers anlässlich der mündlichen Verhandlung gestützt. Soweit das Obergericht damit die vom Beschwerdeführer ausgehende Entführungsgefahr anspricht, vermag dies eine Begleitung der Besuche ohne Weiteres zu rechtfertigen. Den Ausführungen des Obergerichts lässt sich aber nicht entnehmen, mit welchen konkreten tatsächlichen Gegebenheiten es eine derart restriktive zeitliche Ausgestaltung des persönlichen Verkehrs zu rechtfertigen versucht. Der angefochtene Entscheid ist, was den Umfang des Besuchsrechts anbelangt, auch angesichts der geforderten Zurückhaltung bei der Überprüfung von Ermessensentscheiden mit Art. 8 Ziff. 1 EMRK nicht zu vereinbaren. Er ist aufzuheben und die Sache insoweit zu weiteren Abklärungen und zu neuem Entscheid an die Vorinstanz zurückzuweisen.
3. 3.1 Der erstinstanzliche Richter bestimmte den Bedarf der Parteien anhand der Richtlinien vom 1. Juli 2009 der Konferenz der Betreibungs- und Konkursbeamten der Schweiz für die Berechnung des betreibungsrechtlichen Existenzminimums nach Art. 93 SchKG. Er ermittelte für den Beschwerdeführer einen Bedarf von Fr. 2'461.-- (Grundbetrag Fr. 1'000.--, Miete Fr. 432.-- [für das Wohnen bei seinen Eltern], Krankenkasse Fr. 367.--, Telecom Fr. 100.--, Wäsche Fr. 50.--, Steuern Fr. 390.--, Kosten für die Ausübung des Besuchsrechts Fr. 122.--) sowie ein monatliches Nettoeinkommen von Fr. 3'685.50 (ohne Kinderzulagen). Von diesem Einkommen bestimmte er den Unterhaltsbeitrag für den Sohn, der sich der Berner Praxis entsprechend auf 17% des Nettoeinkommens beläuft (Fr. 627.--). Von dem sich nach Abzug des Existenzminimums (Fr. 2'461.--) ergebenden Überschuss von rund Fr. 1'224.-- (Fr. 3'685.50 ./. Fr. 2'461.-- ) wies er demzufolge Fr. 627.-- dem Sohn und den Rest von Fr. 597.-- der Beschwerdegegnerin als Unterhalt zu. Das Obergericht hat einerseits sämtliche vom Beschwerdeführer gegen die Ermittlung seines Grundbedarfs vorgebrachten Rügen verworfen, hat aber anderseits dafürgehalten, dem erstinstanzlichen Richter sei bei der Ermittlung des Einkommens ein Fehler unterlaufen, zumal das massgebende Nettoeinkommen aufgrund des Lohnblattes lediglich Fr. 3'653.-- (ohne Kinderzulagen) betrage. Nicht berücksichtigt worden sei schliesslich, dass die Kinderzulage lediglich Fr. 200.-- statt der vom erstinstanzlichen Richter erwähnten Fr. 230.-- betrage. Trotz der nachgewiesenen und von keiner Seite bestrittenen Ungereimtheiten hat das Obergericht die vom erstinstanzlichen Richter festgesetzten Unterhaltsbeiträge bestätigt, die Unterhaltsregelung aber insofern präzisiert, dass eine allfällige Kinderzulage zusätzlich zum Kinderunterhaltsbeitrag zu leisten ist (Urteilsdispositiv).
3.2 Das Obergericht hat wie die erste Instanz nicht den vom Beschwerdeführer geltend gemachten Betrag von Fr. 1004.-- für die Miete einer eigenen Wohnung, sondern lediglich einen reduzierten Betrag von Fr. 432.-- (als Mietanteil für das Wohnen bei seinen Eltern) berücksichtigt; der Beschwerdeführer habe selbst eingeräumt, dass er zu seinen Eltern gezogen sei und die eigene Wohnung seinem Bruder überlassen habe. Es sei zwar durchaus möglich, dass er einen Umzug in seine eigenen vier Wände plane. Dass dieser Umzug aber gerade mit der Festsetzung der Unterhaltsbeiträge zusammenfallen solle, erscheine wenig glaubhaft. Zu durchsichtig mute das Bestreben des Beschwerdeführers an, einen möglichst hohen Bedarf auszuweisen. So sei er nach der Trennung neue finanzielle Verpflichtungen eingegangen; er sei darauf aus, den Anspruch der Beschwerdegegnerin zu schmälern. An diesem Ergebnis vermöge auch die Bestätigung der Gemeinde F._ nichts zu ändern, da dieses Dokument den tatsächlichen Umzug nicht zu bestätigen vermöge. Das Obergericht hat die zu berücksichtigende Miete daher lediglich mit Fr. 432.-- veranschlagt und wie die erste Instanz lediglich einen reduzierten Grundbetrag von Fr. 1'000.-- zugunsten des Beschwerdeführers angenommen.
Der Beschwerdeführer macht geltend, aus der Bestätigung der Gemeinde F._ vom 25. Februar 2011 gehe hervor, dass er in der angegebenen Wohnung residiere. Das nach dem erstinstanzlichen Urteil produzierte Dokument belege, dass er vom 1. April 2010 bis 24. Februar 2011 bei seinen Eltern gewohnt habe. Aus dem Beleg D (Bordereau VIII) ergebe sich, dass er seinem Bruder die Miete von Fr. 1'004.-- für den Monat März 2011 zurückbezahlt habe und für die Miete des Monats April 2011 selbst aufgekommen sei. Die Beweismittel C, D, E und H hätten nicht bereits vor der ersten Instanz produziert werden können, da sie in diesem Verfahrensstadium nicht existiert hätten. In Berücksichtigung seiner verfassungsmässigen Rechte (Art. 9, 10, 13 und 24 BV) sei es legitim, dass er in einer eigenen Wohnung lebe. Weil er allein wohne, sei auch der Grundbetrag auf Fr. 1'200.-- zu erhöhen.
Das Obergericht hat festgehalten, dass es den behaupteten Umzug des Beschwerdeführers in die eigene Wohnung nicht als glaubhaft betrachtet. Dabei hat es insbesondere das Verhalten des Beschwerdeführers gewürdigt, der nach der Trennung weitere finanzielle Schuldverpflichtungen eingegangen ist. Das Obergericht schliesst aus dieser Gegebenheit, es sei dem Beschwerdeführer mit seinen Verhalten lediglich darum gegangen, der Unterhaltspflicht zu entgehen. Der Beschwerdeführer legt nicht dar, inwiefern diese Beweiswürdigung gegen Art. 9 BV verstösst. Damit aber ist auch die Annahme nicht geradezu willkürlich, die behauptete Rückzahlung von Mietbeträgen an den Bruder sowie die geltend gemachte persönliche Zahlung der Miete (ab April 2011) für die eigene Wohnung hätten lediglich dazu gedient, einen höheren Bedarf auszuweisen, um so jeglicher Unterhaltspflicht zu entgehen. Ist diese Schlussfolgerung aber nicht willkürlich, so lässt sich im Lichte der Verfassung auch nicht beanstanden, dass das Obergericht den ins Recht gelegten Auszügen über angebliche Zahlungen eines Mietzinses von Fr. 1'004.-- bzw. betreffend Rückzahlung eines Betrages in dieser Höhe an seinen Bruder keine Beweiskraft beigemessen hat, sondern davon ausgegangen ist, ein Umzug in die eigene Wohnung habe gar nicht stattgefunden. Die Streichung des geltend gemachten Mietbetrages von Fr. 1'004.-- bzw. eine Berücksichtigung von lediglich Fr. 432.-- unter diesem Titel sowie die mit dem Zusammenleben mit den Eltern begründete Kürzung des Grundbetrages auf Fr. 1'000.-- sind im Lichte von Art. 9 BV nicht zu beanstanden.
3.3 Das Obergericht hat es wie die erste Instanz abgelehnt, einen höheren Betrag als Fr. 50.-- als Ausgaben für die Berufsbekleidung zu berücksichtigen, habe der Beschwerdeführer doch nicht dargelegt, warum für einen Bäcker ein zusätzlicher Betrag in der genannten Höhe für Berufskleider nicht ausreiche.
Der Beschwerdeführer behauptet, er müsse seine Berufskleider aus Gründen der Hygiene alle Tage waschen; die in diesem Zusammenhang erwachsenen Kosten könne er allerdings nicht belegen.
Wie der Beschwerdeführer selbst einräumt, kann er die angeblichen erhöhten Ausgaben für die Berufsbekleidung bzw. für die Pflege dieser Kleidung nicht ausweisen. Zudem erscheint schlicht nicht nachvollziehbar, warum ein Betrag von Fr. 600.-- pro Jahr nicht ausreichen sollte, um den erhöhten Bedarf bezüglich der Berufsbekleidung bzw. für die Pflege dieser Kleidung zu decken. Von Willkür kann keine Rede sein.
3.4 Das Obergericht hat die Berücksichtigung der Rückzahlung der Schulden in der Höhe von Fr. 40'000.-- für die Finanzierung der Hochzeit nicht berücksichtigt. Zur Begründung hat es ausgeführt, zwar sei grundsätzlich nicht ausgeschlossen, im Interesse beider Parteien eingegangene Schulden in die Bedarfsberechnung aufzunehmen. Von diesem Grundsatz sei aber abzuweichen, wenn, wie hier, bei einer Berücksichtigung der Schulden ein Mangelfall entstehe. Eine Abweichung von der Praxis sei daher gerechtfertigt.
Der Beschwerdeführer setzt sich mit dieser Erwägung des Obergerichts nicht auseinander, sondern behauptet einfach, er habe vor dem Notar eine Schuldanerkennung erstellen lassen, um die Schuld beweisen zu können. Insoweit ist die Beschwerde ungenügend begründet. Darauf ist nicht einzutreten.
3.5 Das Obergericht hat unter der Rubrik "Ergebnis" festgehalten, der Vorinstanz sei einzig bei der Festsetzung des Einkommens des Beschwerdeführers eine Ungereimtheit unterlaufen, wobei die Korrektur in absoluten Zahlen ausgedrückt gerade Mal rund Fr. 60.-- betrage (Annahme eines um Fr. 30.-- zu hohen Lohnes sowie um Fr. 30.-- zu hohe Kinderzulage). Den Fehler im Zusammenhang mit der Kinderzulage hat es insofern korrigiert, als nunmehr im Dispositiv nur noch von einer "allfälligen Kinderzulage" und nicht mehr von einem bestimmten Betrag gesprochen wird. Vorliegend geht es somit nur noch um einen strittigen Betrag von rund Fr. 30.--. Das Obergericht hält dazu fest, mit Blick auf die wirtschaftliche Gesamtsituation der Parteien sei von einer sachgerechten Ausübung des vorrichterlichen Beurteilungsspielraumes auszugehen, weshalb keine Veranlassung bestehe, in den Ermessensentscheid einzugreifen.
3.5.1 Der Beschwerdeführer macht geltend, die Vorinstanz weigere sich, in den Ermessenspielraum der Vorinstanz einzugreifen. Dabei gehe es vorliegend nicht um Ausübung des Ermessens, sondern um einen schlichten Irrtum, der überdies beim vorhandenen Budget von Bedeutung sei, um so mehr, als ja nicht feststehe, wie lange die vorsorglichen Massnahmen dauern. Indem die Vorinstanz diesen Irrtum nicht korrigiert habe, sei sie in Willkür verfallen und habe überdies den Anspruch auf rechtliches Gehör verletzt.
3.5.2 Nach der bundesgerichtlichen Praxis ist dem Rentenschuldner bei der Festsetzung der Unterhaltsbeiträge das betreibungsrechtliche Existenzminimum ganz zu belassen (vgl. BGE 126 III 353 E. 1a/aa S. 356, bestätigt in 135 III 66 E. 2 ff. S. 67 ff. mit Hinweisen). Im vorliegenden Fall hat die Vorinstanz diesem Grundsatz unter Berücksichtigung des effektiven Lohnes von Fr. 3'653.-- (statt Fr. 3'685.50, je ohne Kinderzulage) offensichtlich nicht Rechnung getragen, beträgt doch der Überschuss (nach Abzug des Existenzminimums von Fr. 2'461.--) Fr. 1'192.--, während die Summe der gesprochenen Unterhaltsbeiträge Fr. 1'224.-- (Fr. 627.-- und Fr. 597.--) ausmacht. Der angefochtene Entscheid ist somit auch mit Bezug auf die Regelung des Unterhalts aufzuheben und zu neuem Entscheid an die Vorinstanz zurückzuweisen. Die Vorinstanz wird dabei ein besonderes Augenmerk darauf zu richten haben, ob die laufenden Steuern angesichts der Mangellage im Existenzminimum des Beschwerdeführers berücksichtigt werden dürfen.
4. Damit ist die Beschwerde gutzuheissen, soweit darauf eingetreten werden kann. Die Ziffern 2 bis und mit 5 des angefochtenen Entscheids sind aufzuheben und die Sache ist zur Ergänzung des Sachverhalts und zu neuem Entscheid an die Vorinstanz zurückzuweisen. Bei diesem Ausgang des Verfahrens sind die Gerichtskosten der Beschwerdegegnerin aufzuerlegen (Art. 66 Abs. 1 BGG). Eine Entschädigung zu Lasten der Beschwerdegegnerin ist nicht festzusetzen (vgl. E. 5 Abs. 1 in fine und Absatz 2).
5. Das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege ist teilweise gegenstandslos geworden, da ihm keine Gerichtskosten auferlegt worden sind. Im Übrigen ist es aber gutzuheissen; die Beschwerde hat sich nicht als von Anfang an aussichtslos erwiesen und der Beschwerdeführer ist nachgewiesenermassen bedürftig (Art. 64 Abs. 1 BGG). Ihm ist ein amtlicher Rechtsbeistand zu bestellen, der ohne weitere Formalitäten aus der Bundesgerichtskasse zu entschädigen ist (Art. 64 Abs. 2 BGG), zumal eine Entschädigung seitens der unterliegenden, aber ebenfalls bedürftigen Beschwerdegegnerin (vgl. folgenden Absatz) von vornherein nicht erhältlich gemacht werden könnte.
Das entsprechende Gesuch der Beschwerdegegnerin ist ebenfalls gutzuheissen. Ihr Standpunkt mit Bezug auf das Gesuch um aufschiebende Wirkung hat sich nicht als von vornherein aussichtslos erwiesen; zudem erlaubt es der ihr zugesprochene Unterhaltsbeitrag nicht, für ihre Anwaltskosten aufzukommen (Art. 64 Abs. 1 BGG). Der Beschwerdegegnerin ist ein amtlicher Rechtsbeistand zu bestellen, der für seine Bemühungen aus der Bundesgerichtskasse zu entschädigen ist (Art. 64 Abs. 2 BGG). Bei der Bemessung der Entschädigung ist zu berücksichtigen, dass sich die Beschwerdegegnerin in der Sache einer Vernehmlassung enthalten und lediglich zum Gesuch um aufschiebende Wirkung einen materiellen Antrag gestellt hat. Angesichts der Gewährung der unentgeltlichen Rechtspflege sind die Gerichtskosten einstweilen auf die Bundesgerichtskasse zu nehmen.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist. Die Ziffern 2 bis und mit 5 des Urteils des Obergerichts des Kantons Bern, Zivilabteilung, 2. Zivilkammer, vom 19. Mai 2011 werden aufgehoben und die Sache wird im Sinn der Erwägungen an die Vorinstanz zurückgewiesen.
2. Das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege wird gutgeheissen, soweit es nicht gegenstandslos geworden ist. Ihm wird Rechtsanwalt Laurent Etter, als amtlicher Rechtsanwalt bestellt. Das entsprechende Gesuch der Beschwerdegegnerin wird gutgeheissen. Ihr wird Fürsprecher Ronald Frischknecht, als amtlicher Rechtsbeistand bestellt.
3. Die Gerichtskosten von Fr. 2'000.-- werden der Beschwerdegegnerin auferlegt, einstweilen aber auf die Bundesgerichtskasse genommen.
4. Rechtsanwalt Laurent Etter wird für das bundesgerichtliche Verfahren mit Fr. 2'000.--, Fürsprecher Ronald Frischknecht mit Fr. 200.-- aus der Bundesgerichtskasse entschädigt.
5. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Bern, Zivilabteilung, 2. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 20. September 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Zbinden