Sachverhalt: A. X._ (Ehemann) und Z._ (Ehefrau) heirateten im Jahre 2006. Aus ihrer Ehe gingen die drei Kinder R._ (geb. 2006), S._ (geb. 2008) und T._ (geb. 2010) hervor. X._ wurde mit Beschluss der Vormundschaftsbehörde vom 15. Februar 2011 gemäss Art. 370 ZGB entmündigt. Das dagegen erhobene Beschwerdeverfahren ist noch hängig. B. Am 23. Juni 2011 reichte Z._ beim Bezirksgerichtspräsidenten Inn ein Gesuch um Eheschutzmassnahmen ein. Sie beantragte die Zuweisung der Obhut über die Kinder an sie unter Einräumung eines Besuchsrechts an den Vater und verlangte, X._ zur Bezahlung eines monatlichen Unterhaltsbeitrags von Fr. 700.-- pro Kind und von Fr. 1'770.-- an sie persönlich zu verpflichten. Mit Entscheid vom 10. Januar 2012 genehmigte der Einzelrichter am Bezirksgericht Inn die zwischenzeitlich abgeschlossene Vereinbarung über die Obhut und das Besuchsrecht (Dispositivziff. 1) und verpflichtete X._, rückwirkend ab 1. Juli 2011 für die Dauer des Getrenntlebens monatliche, vorauszahlbare Unterhaltsbeiträge von Fr. 2'827.-- (für die Kinder je Fr. 700.-- und für Z._ Fr. 727.--) zuzüglich Kinder- bzw. Ausbildungszulagen zu bezahlen (Ziff. 2). C. Am 6. Februar 2012 erhob X._ gegen diesen Entscheid Berufung an das Kantonsgericht von Graubünden. Er wurde in diesem Verfahren, wie bereits erstinstanzlich, vertreten durch Rechtsanwalt Schütt. Seine Anträge lauteten wie folgt: 1. a) Ziff. 2 des Urteilsdispositivs des Bezirksgerichtspräsidenten Inn vom 10. Januar 2012 sei aufzuheben. b) Stattdessen sei der Berufungskläger zu verpflichten, der Berufungsbeklagten ab 1. Juli 2011 an den Unterhalt der drei Kinder zusammen monatlich im Voraus den Anteil seines Nettoeinkommens (inkl. Kinderzulagen und Anteil 13. Monatslohn) zu zahlen, welcher sein Existenzminimum von CHF 2'422.-- übersteigt. c) Der Berufungskläger sei zu verpflichten, der Berufungsbeklagten jede Änderung seines Nettoeinkommens durch Vorlage neuer Arbeitsverträge, Lohnabrechnungen und dergleichen zu belegen und ihr jeweils die Lohnausweise des Vorjahres vorzulegen. 2. Unter Kosten- und Entschädigungsfolge zu Lasten der Berufungsbeklagten. Z._ beantragte in ihrer Berufungsantwort die Abweisung der Berufung. Beide Parteien beantragten und erhielten das Recht zur unentgeltlichen Rechtspflege. Mit Urteil vom 5. April 2012 trat das Kantonsgericht auf die Berufung nicht ein. X._ wurde zu einer Parteientschädigung an Z._ verurteilt, wobei der Kanton für den Fall der Uneinbringlichkeit ihrem Rechtsvertreter ein reduziertes Honorar auszurichten habe. Zudem wurde X._ zur Tragung der Gerichtskosten verurteilt, wobei diese unter Rückforderungsvorbehalt vom Kanton zu tragen seien. D. Am 18. Mai 2012 hat X._ (Beschwerdeführer) gegen das kantonsgerichtliche Urteil Beschwerde in Zivilsachen erhoben. Er beantragt dessen Aufhebung und die Rückweisung der Sache an das Kantonsgericht zur materiellen Beurteilung. Eventuell sei er zu verpflichten, Z._ (Beschwerdegegnerin) ab 1. Juli 2011 an der Unterhalt der drei Kinder zusammen monatlich im Voraus denjenigen Anteil seines Nettoeinkommens (inkl. Kinderzulagen und Anteil 13. Monatslohn) zu zahlen, der sein Existenzminimum von Fr. 2'422.-- übersteigt. Zudem ersucht er um unentgeltliche Rechtspflege und Verbeiständung für das bundesgerichtliche Verfahren. Das Bundesgericht hat die Akten beigezogen, aber keine Vernehmlassungen eingeholt.