Sachverhalt:
A. X._ (Ehemann, geb. 1957) und Z._ (Ehefrau, geb. 1957) heirateten im Februar 1979. Sie sind Eltern von drei Kindern (geb. 1989 und Zwillinge, geb. 1994).
Seit dem 1. Januar 2011 leben die Ehegatten getrennt. Am 2. März 2011 reichte die Ehefrau beim Richteramt Olten-Gösgen ein Eheschutzgesuch ein.
Mit Urteil vom 8. Juli 2011 regelte das Richteramt das Getrenntleben der Ehegatten. Insbesondere verpflichtete es X._ zu monatlichen Unterhaltszahlungen an Z._ von Fr. 4'840.-- (Januar 2011 - Mai 2011), Fr. 730.-- (Juni 2011) und Fr. 1'510.-- (ab Juli 2011). Sodann legte es die von X._ monatlich zu leistenden Unterhaltsbeiträge für die drei Kinder auf je Fr. 1'750.-- (Januar - Mai 2011), je Fr. 610.-- (Juni 2011) sowie nur noch für die Zwillinge auf je Fr. 900.-- (ab Juli 2011) fest.
B. Dagegen erhob X._ am 22. Juli 2011 Berufung an das Obergericht des Kantons Solothurn. Sein Rechtsbegehren in der von seiner Rechtsanwältin verfassten Berufung lautete wie folgt:
"Die vom Berufungskläger zu bezahlenden Unterhaltsbeiträge seien unter Einbezug der Erwägungen in nachfolgender Begründung festzulegen. Unter Kosten- und Entschädigungsfolge."
Mit Urteil vom 7. September 2011 trat das Obergericht wegen ungenügender Anträge (fehlende Bezifferung) nicht auf die Berufung ein.
C. Dem Bundesgericht beantragt X._ (nachfolgend Beschwerdeführer) in seiner Beschwerde in Zivilsachen vom 23. September 2011, es sei das Urteil des Obergerichts aufzuheben und die Angelegenheit zur materiellen Beurteilung an das Obergericht zurückzuweisen.
Das Bundesgericht hat die Vorakten, hingegen keine Vernehmlassungen eingeholt.
Erwägungen:
1. Angefochten ist ein kantonal letztinstanzlicher Entscheid (Art. 75 BGG) über die Anordnung von Massnahmen zum Schutz der ehelichen Gemeinschaft (Art. 172 ff. ZGB). Dabei handelt es sich um einen Endentscheid in Zivilsachen (Art. 90 und Art. 72 Abs. 1 BGG; BGE 133 III 393 E. 2 ff. S. 395 f.). Einzig umstritten ist die Regelung des Kinder- und Ehegattenunterhalts und damit eine vermögensrechtliche Angelegenheit, wobei die gesetzliche Streitwertgrenze erreicht ist (Art. 74 Abs. 1 lit. b BGG).
Die im Übrigen fristgerecht (Art. 100 Abs. 1 BGG) eingereichte Beschwerde in Zivilsachen ist grundsätzlich zulässig.
2. 2.1 Das Obergericht hat seinen Entscheid, auf die Berufung des Beschwerdeführers betreffend die Ehegatten- und Kinderunterhaltsbeiträge nicht einzutreten, mit den ungenügenden Anträgen begründet. Der Berufungskläger habe einen Antrag in der Sache zu stellen. Gehe es um eine auf Geldleistung gerichtete Forderung, sei eine Bezifferung in den Anträgen selbst erforderlich.
Fehle es an einer Bezifferung der Rechtsbegehren, sei auf die Berufung ohne Ansetzen einer Nachfrist nicht einzutreten.
2.2 Der Beschwerdeführer rügt vor Bundesgericht, der angefochtene Nichteintretensentscheid verletze das Verbot der formellen Rechtsverweigerung (Art. 29 Abs. 1 BV). Zudem verfalle das Obergericht in Willkür, weil der Untersuchungsgrundsatz im Eheschutzverfahren (Art. 272 ZPO) den Berufungskläger von der Bezifferung seiner Anträge entbinde.
3. 3.1 Eheschutzentscheide sind Entscheide über vorsorgliche Massnahmen (BGE 137 III 193 E. 1.2 S. 197). Nach Art. 98 BGG kann demnach nur die Verletzung verfassungsmässiger Rechte gerügt werden.
3.2 Das Bundesgericht prüft jedoch frei, ob eine Rechtsverweigerung vorliegt und der angefochtene Entscheid damit gegen Art. 29 Abs. 1 BV verstösst. Eine formelle Rechtsverweigerung ist nach der Praxis des Bundesgerichts gegeben, wenn eine Behörde auf eine ihr frist- und formgerecht unterbreitete Sache nicht eintritt, obschon sie darüber befinden müsste (vgl. zum Ganzen BGE 135 I 6 E. 2.1 S. 9).
3.3 Neben der Rüge der formellen Rechtsverweigerung kommt einer Willkürrüge keine selbstständige Bedeutung zu (BGE 127 I 133 E. 5 S. 136; 119 Ia 4 E. 2a S. 6).
4. 4.1 Vorliegend ist einzig umstritten und zu behandeln, ob vor der Berufungsinstanz und damit im Rechtsmittelverfahren bezifferte Begehren zu stellen sind, soweit es wie vorliegend nur noch um den Ehegatten- und Kinderunterhalt geht, eine Rückweisung an die erste Instanz ausser Betracht fällt und daher Anträge in der Sache erfolgen sollen.
4.2 4.2.1 Gemäss Art. 311 Abs. 1 ZPO ist die Berufung bei der Rechtsmittelinstanz schriftlich und begründet einzureichen.
4.2.2 Wie bereits die Eingabe an die erste Instanz (für das Schlichtungsverfahren Art. 202 Abs. 2 ZPO; für das ordentliche Verfahren Art. 221 Abs. 1 lit. b ZPO; für das vereinfachte Verfahren Art. 244 Abs. 1 lit. b ZPO; für das summarische Verfahren Art. 252 i.V.m. Art. 219 i.V.m. Art. 221 Abs. 1 lit. b ZPO; für die Scheidungsklage Art. 290 lit. b - lit. d ZPO) muss auch die Berufungseingabe Rechtsbegehren enthalten.
Zwar nennt Art. 311 ZPO einzig die Begründung, die aber gerade auch der Erläuterung der Begehren dient und diese damit voraussetzt. Aus einer Rechtsmittelschrift muss hervorgehen, dass und weshalb der Rechtsuchende einen Entscheid anficht und inwieweit dieser geändert oder aufgehoben werden soll (BGE 134 II 244 E. 2.4.2 S. 248). Aus der Entstehungsgeschichte der ZPO ergibt sich denn auch, dass der Entwurf des Bundesrates - der noch von einem zweistufigen Verfahren (Berufungserklärung und Berufungsbegründung) ausging - in der Berufungsbegründung ausdrücklich Rechtsbegehren vorsah (Art. 308 Abs. 1 E-ZPO, BBl 2006 S. 7487; vgl. auch die Botschaft vom 28. Juni 2006 zur ZPO, BBl 2006 S. 7372 f. Ziff. 5.23.1 [nachfolgend: Botschaft ZPO]).
In der Berufungseingabe sind damit Rechtsbegehren zu stellen.
4.3 Ein Rechtsbegehren muss so bestimmt sein, dass es im Falle der Gutheissung der Klage unverändert zum Urteil erhoben werden kann (KUMMER, Grundriss des Zivilprozessrechts, 4. Aufl. 1984, S. 107; zur Berufung ausdrücklich HUNGERBÜHLER, in: Brunner und andere [Hrsg.], Schweizerische Zivilprozessordnung, 2011, N. 14 zu Art. 311 ZPO; Urteil 5A_384/2007 vom 3. Oktober 2007 E. 1.3, in: FamPra.ch 2008 S. 226). Aus diesem Prozessgrundsatz folgt demnach im vorliegenden Verfahren, in dem der Beschwerdeführer Begehren in der Sache stellen will, dass die auf Geldzahlung gerichteten Berufungsanträge zu beziffern sind (vgl. SEILER, Die Berufung nach der Schweizerischen Zivilprozessordnung, 2011, N. 883 f.; TREZZINI, in: Commentario al Codice di diritto processuale civile svizzero, 2011, S. 1368 f.; REETZ/THEILER, in: Sutter-Somm und andere [Hrsg.], Kommentar zur Schweizerischen Zivilprozessordnung, 2010, N. 34 zu Art. 311 ZPO [wobei in der Lehre das Erfordernis der Bezifferung der Berufungsanträge teilweise auch aus Art. 84 Abs. 2 ZPO abgeleitet wird]).
Dasselbe ergibt sich im Übrigen aus Art. 315 Abs. 1 ZPO, wonach die Berufung die Rechtskraft und die Vollstreckbarkeit des angefochtenen Entscheids im Umfang der Anträge hemmt. Sodann bestätigt die Berufungsinstanz den angefochtenen Entscheid oder entscheidet neu; eine Rückweisung an die erste Instanz hat die Ausnahme zu bleiben (Art. 318 Abs. 1 ZPO; Botschaft ZPO, S. 7376 Ziff. 5.23.1). Schliesslich ermöglichen erst klare und im Falle von Geldforderungen bezifferte Anträge der Gegenpartei, sich in der Berufungsantwort zu verteidigen (Art. 312 ZPO) und darüber zu entscheiden, ob sie - soweit dies möglich ist - Anschlussberufung erheben will (Art. 313 f. ZPO).
4.4 Das Erfordernis von bestimmten und gegebenenfalls bezifferten Berufungsanträgen steht schliesslich auch im Einklang mit den Vorgaben der Bundesrechtspflege und deren Zweck (vgl. dazu CORBOZ, in: Commentaire de la LTF, 2009, N. 19 zu Art. 112 BGG): Gemäss Art. 112 Abs. 1 lit. a BGG müssen Entscheide, die der Beschwerde an das Bundesgericht unterliegen, unter anderem die Begehren enthalten, soweit sich diese nicht aus den Akten ergeben.
4.4 Das Erfordernis von bestimmten und gegebenenfalls bezifferten Berufungsanträgen steht schliesslich auch im Einklang mit den Vorgaben der Bundesrechtspflege und deren Zweck (vgl. dazu CORBOZ, in: Commentaire de la LTF, 2009, N. 19 zu Art. 112 BGG): Gemäss Art. 112 Abs. 1 lit. a BGG müssen Entscheide, die der Beschwerde an das Bundesgericht unterliegen, unter anderem die Begehren enthalten, soweit sich diese nicht aus den Akten ergeben.
4.5 4.5.1 Wie nachfolgend darzulegen ist, ändert sich an diesem Ergebnis für die Berufungseingabe nichts, soweit für den Kinderunterhalt die Offizialmaxime anwendbar ist.
4.5.2 Nach Art. 296 Abs. 3 ZPO entscheidet das Gericht bei Kinderbelangen in familienrechtlichen Angelegenheiten ohne Bindung an die Parteianträge (vgl. dazu Botschaft ZPO, S. 7366 f. Ziff. 5.21; allgemein zur Offizialmaxime: Art. 58 Abs. 2 ZPO). Die Offizialmaxime gilt in diesen Angelegenheiten auch vor der kantonalen Rechtsmittelinstanz (Botschaft ZPO, S. 7375 Ziff. 5.23.1; HOHL, Procédure civile, Band II, 2010, N. 2252).
4.5.3 Ob ein Rechtsmittel ergriffen werden soll und in welchem Umfang, steht in der Disposition der Parteien, unabhängig davon, ob sie über das streitige Recht verfügen können oder nicht. Die Einleitung des Rechtsmittelverfahrens setzt damit auch unter der Offizialmaxime voraus, dass eine Partei ein form- und fristgerechtes Rechtsschutzersuchen an die Rechtsmittelinstanz richtet (vgl. SEILER, a.a.O., N. 891 und N. 1632; SUTTER, Auf dem Weg zur Rechtseinheit im schweizerischen Zivilprozessrecht, 1998, N. 332; ähnlich wohl STECK, in: Basler Kommentar ZPO, 2010, N. 38 zu Art. 296 ZPO; a.M. KILLER, in: Kommentar zur aargauischen Zivilprozessordnung, 2. Aufl. 1998, N. 7 zu Art. 323 ZPO/AG).
Während somit die formellen Voraussetzungen der Berufungsschrift die (gültige) Einleitung des Berufungsverfahrens betreffen, geht es bei der Offizialmaxime darum, dass das Gericht in der Folge nicht an die Parteianträge gebunden ist (vgl. auch BGE 96 II 69 E. 2 S. 73 f.) und von diesen abweichen kann, zumal das Verschlechterungsverbot unter der Offizialmaxime nicht zum Tragen kommt (BGE 129 III 417 E. 2.1.1 S. 419 f.).
Soweit beispielsweise unter der Herrschaft des Bundesrechtspflegegesetzes von 1943 (OG) im bundesgerichtlichen Verfahren in Kinderbelangen neue Begehren zulässig waren und das Bundesgericht nicht an die gestellten Anträge gebunden war (BGE 126 lll 298 E. 2a/bb S. 302 f.; 119 II 201 E. 1 S. 203), änderte dies nichts am Erfordernis von bezifferten Begehren (BGE 75 II 333 S. 334 ff.; Urteile 5C.278/2000 vom 4. April 2001 E. 1b; 5C.36/1992 vom 25. November 1992 E. 3, nicht publ. in: BGE 118 II 493).
4.5.4 Damit sind im vorliegend zu behandelnden Berufungsverfahren auch für den Kinderunterhalt Anträge erforderlich, die den aufgezeigten Anforderungen an die Bezifferung genügen müssen (vgl. E. 4.3 oben; SEILER, a.a.O., N. 891; JEANDIN, in: Code de procédure civile commenté, 2011, N. 4 zu Art. 311 ZPO; wohl auch TREZZINI, a.a.O., S. 1369 und REETZ/THEILER, a.a.O., N. 35 zu Art. 311 ZPO).
5. 5.1 Der Beschwerdeführer wendet ein, im Anwendungsbereich der Untersuchungsmaxime gemäss Art. 272 ZPO seien keine bezifferten Anträge erforderlich. Vielmehr sei es am Gericht, über die Höhe der Unterhaltsbeiträge zu befinden.
5.2 Unter der Verhandlungsmaxime haben die Parteien dem Gericht die Tatsachen, auf die sie ihre Begehren stützen, darzulegen und ihre Beweismittel anzugeben (Art. 55 Abs. 1 ZPO). Im Gegensatz dazu steht die Untersuchungsmaxime, wonach der Sachverhalt von Amtes wegen festzustellen beziehungsweise zu erforschen ist (Art. 55 Abs. 2, Art. 272 und Art. 296 Abs. 1 ZPO).
Die Untersuchungsmaxime betrifft nur die Art der Sammlung des Prozessstoffs, nicht aber die Frage der Einleitung und Beendigung des Verfahrens. Sie beschlägt auch nicht die Frage, wie das Rechtsbegehren formuliert sein muss, damit der Rechtsstreit überhaupt an die Hand genommen werden kann. Aus der Untersuchungsmaxime ergibt sich auch keine Pflicht des Gerichts, die Parteien in prozessualen Fragen zu beraten (Urteil 4C.340/2004 vom 2. Dezember 2004 E. 4.1, nicht publ. in: BGE 131 III 243).
6. 6.1 Es stellt damit grundsätzlich keine formelle Rechtsverweigerung dar, in der Berufungseingabe bestimmte und im Falle von Geldforderungen bezifferte Begehren zu verlangen (vgl. auch Urteile 5P.35/2005 vom 4. Mai 2005 E. 1.1; 4P.228/2003 vom 19. Januar 2004 E. 3.3.2).
6.2 Die Rechtsfolge des Nichteintretens auf unbezifferte Begehren steht jedoch unter dem Vorbehalt des überspitzten Formalismus (Art. 29 Abs. 1 BV).
Daraus folgt, dass auf eine Berufung mit formell mangelhaften Rechtsbegehren ausnahmsweise einzutreten ist, wenn sich aus der Begründung, allenfalls in Verbindung mit dem angefochtenen Entscheid, ergibt, was der Berufungskläger in der Sache verlangt oder - im Falle zu beziffernder Rechtsbegehren - welcher Geldbetrag zuzusprechen ist. Rechtsbegehren sind im Lichte der Begründung auszulegen (BGE 137 II 313 E. 1.3 S. 317; 135 I 119 E. 4 S. 122; 134 III 235 E. 2 S. 236 f.; 106 II 175 S. 176).
6.3 Im angefochtenen Entscheid hat das Obergericht nicht geprüft, ob sich aus der Berufungsbegründung ergibt, auf welchen Betrag der Beschwerdeführer die Unterhaltsbeiträge herabgesetzt haben möchte. Vielmehr hat es in seiner Urteilsbegründung ausdrücklich festgehalten, es reiche nicht aus, wenn die Bezifferung bloss in der Berufungsbegründung enthalten sei.
Ob darin eine formelle Rechtsverweigerung zu erblicken ist, kann offen bleiben, da sich aus der Berufungsschrift des Beschwerdeführers nicht einmal sinngemäss ergibt, auf welchen Betrag er den Ehegatten- und Kinderunterhalt für die verschiedenen Zeiträume insgesamt reduziert haben möchte.
6.4 Das Obergericht ist damit für die Ehegatten- und Kinderunterhaltsbeiträge im Ergebnis zu Recht von ungenügenden Rechtsbegehren mangels Bezifferung ausgegangen. Es hat dem Beschwerdeführer zutreffend auch keine Nachfrist gemäss Art. 132 Abs. 1 und 2 ZPO zur Ergänzung der Begehren eingeräumt. Diese Bestimmung entspricht Art. 42 Abs. 5 und 6 BGG (Botschaft ZPO, S. 7306 Ziff. 5.9.2), wonach im Rechtsmittelverfahren eine Nachfrist zur Ergänzung von Rechtsschriften, die den formellen Anforderungen, wie sie sich aus Gesetz und Rechtsprechung ergeben, nicht genügen, nicht gewährt werden kann (BGE 134 II 244 E. 2.4.2 S. 247 f.). Der Entwurf des Bundesrates zur ZPO (BBl 2006 S. 7487) sah denn in Art. 308 Abs. 2 E-ZPO noch ausdrücklich vor, dass die Berufungsinstanz nicht auf die Berufung eintritt, sofern die Berufungserklärung nicht innerhalb der angesetzten Frist begründet wird und Rechtsbegehren gestellt werden.
Der obergerichtliche Nichteintretensentscheid ist damit im Ergebnis nicht zu beanstanden.
7. Aus den dargelegten Gründen ist die Beschwerde abzuweisen. Der Beschwerdeführer wird kostenpflichtig (Art. 66 Abs. 1 BGG). Der Beschwerdegegnerin ist kein entschädigungspflichtiger Aufwand entstanden (Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Solothurn, Zivilkammer, schriftlich mitgeteilt.
Lausanne, 8. Dezember 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Bettler