Sachverhalt: A. Die Eheleute Y._ und X._ sind die Eltern des am 1. Juli 2010 geborenen Kindes A._. Nachdem X._ am 7. April 2010 in B._ Ehescheidungsklage eingereicht hatte, stellte Y._ am 20. Mai 2010 beim Gerichtskreis C._ ein Gesuch um Erlass von Eheschutzmassnahmen mit den Anträgen auf Feststellung der Aufhebung des gemeinsamen Haushaltes per 15. März 2010 und auf Regelung der Folgen des Getrenntlebens. Der Präsident des Regionalgerichts D._ behandelte diese Eingabe als Gesuch um Erlass vorsorglicher Massnahmen für die Dauer des Scheidungsverfahrens im Sinn von Art. 137 aZGB und stellte mit Entscheid vom 23. März 2011 fest, dass der gemeinsame Haushalt aufgehoben worden sei (Ziff. 1). Im Weiteren stellte er das gemeinsame Kind der Parteien unter die Obhut von Y._ (Ziff. 2) und gewährte X._ einmal im Monat ein begleitetes Besuchsrecht und ordnete an, dass der begleitete Besuch in einer sicheren Institution stattzufinden und die Begleitung während der ganzen Zeit anwesend zu sein und den Besuch zu beaufsichtigen habe. Mit dem Vollzug des Besuchsrechts wurde der Sozialdienst E._ betraut (Ziff. 3). Sodann verpflichtete der Gerichtspräsident X._ ab 1. April 2011 an den Unterhalt des gemeinsamen Kindes einen monatlich und im voraus zahlbaren Beitrag von Fr. 627.--, zuzüglich allfälliger Kinderzulagen von Fr. 230.-- zu bezahlen (Ziff. 4) und an den Unterhalt von Y._ ab dem 1. April 2011 monatlich und im voraus mit Fr. 597.-- beizutragen (Ziff. 5). Ferner setzte er den rückwirkend geschuldeten Unterhalt (für Frau und Kind) auf Fr. 16'730.-- fest (Ziff. 6) und regelte die Aufteilung des Mobiliars (Ziff. 7). B. X._ gelangte gegen dieses Urteil mit Berufung an das Obergericht des Kantons Bern und verlangte eine Ausweitung seines Besuchsrechts sowie eine Aufhebung bzw. Herabsetzung der Unterhaltspflicht gegenüber Frau und Kind. Mit Entscheid vom 19. Mai 2011 bestätigte das Obergericht die erstinstanzliche Regelung mit Bezug auf das Besuchsrecht und die Höhe des Unterhalts, präzisierte ihn aber hinsichtlich der Kinderzulagen insofern, als eine allfällige Kinderzulage zusätzlich zu leisten ist (Ziffern 2-5). C. X._ (Beschwerdeführer) hat gegen diesen Entscheid am 27. Juni 2011 (Postaufgabe) beim Bundesgericht Beschwerde in Zivilsachen erhoben. Er beantragt hauptsächlich, den angefochtenen Entscheid des Obergerichts mit Bezug auf das Besuchsrecht aufzuheben und ihm ein mehrmals im Monat auszuübendes Besuchsrecht einzuräumen (Ziff. I. 1.). Ferner sei er von jeglicher Unterhaltspflicht gegenüber Frau und Kind zu befreien, eventuell seien die Unterhaltsbeiträge herabzusetzen; dabei sei insbesondere dem Umstand Rechnung zu tragen, dass sein Einkommen nicht Fr. 3'685.50, sondern nachweislich lediglich Fr. 3'653.-- pro Monat betrage. Für die Bestimmung der Höhe der Unterhaltsbeiträge seien ferner seine Wohnkosten ab März 2011 von Fr. 1'004.15, ein monatlicher Grundbetrag von Fr. 1'200.-- (statt der berücksichtigten Fr. 1'000.--) ab März 2011, die zusätzlichen Kosten von Fr. 100.-- für die Berufskleidung sowie die Kosten für die Ausübung des Besuchsrechts von Fr. 122.-- pro Monat zu berücksichtigen. Eventuell sei das angefochtene Urteil aufzuheben und die Sache an die Vorinstanz zurückzuweisen. Für das bundesgerichtliche Verfahren ersucht der Beschwerdeführer um unentgeltliche Rechtspflege. Ferner wird beantragt, der Beschwerde aufschiebende Wirkung zuzuerkennen. D. Das Obergericht und Y._ (Beschwerdegegnerin) haben auf Vernehmlassung in der Sache verzichtet. Mit Bezug auf das Gesuch um aufschiebende Wirkung beantragt die Beschwerdegegnerin, das Gesuch sei abzuweisen, soweit es nicht um die Nachzahlung von Unterhaltsbeiträgen gehe. Des weiteren ersucht auch sie um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren. E. Mit Präsidialverfügung vom 7. Juli 2011 wurde der Beschwerde für die bis und mit Mai 2011 geschuldeten Unterhaltsbeiträge aufschiebende Wirkung zuerkannt.