Sachverhalt:
A. X._ (geb. 1954) und Y._ (geb. 1957) heirateten am 10. Februar 1989. Der Ehe entsprossen die gemeinsamen Töchter A._ (geb. 1990) und B._ (geboren 1991).
Am 11. Oktober 2007 schlossen die Ehegatten im Rahmen eines Eheschutzverfahrens eine umfassende Trennungsvereinbarung, in welcher sich der Ehemann zur Bezahlung monatlicher Unterhaltsbeiträge an seine beiden Kinder und an die Ehefrau verpflichtete. Am 13. Juni 2008 wurde die Vereinbarung teilweise abgeändert.
Mit Eingabe vom 26. Juli 2009 reichte der Ehemann die Scheidungsklage ein. Darin forderte er namentlich einen vollständigen Verzicht auf Zusprache von nachehelichem Unterhalt an seine Ehefrau.
Mit Urteil vom 10. September 2010 schied das Bezirksgericht Schwyz die Ehe und verpflichtete den Ehemann unter anderem dazu, ab Rechtskraft des Scheidungsurteils seiner Ehefrau bis und mit 2019 einen monatlich vorauszahlbaren Unterhaltsbeitrag von Fr. 4'267.-- zu bezahlen. Dabei ging das Gericht von einem Ehemann-Einkommen von netto Fr. 10'800.-- (Vollzeit) sowie von einem Ehefrau-Einkommen von netto Fr. 2'315.15 (35%-Pensum) aus.
B. Mit Urteil vom 5. Juli 2011 hiess das Kantonsgericht Schwyz die Berufung des Ehemannes teilweise gut und setzte den nachehelichen Unterhaltsbeitrag (unter Anrechnung eines Ehemann-Einkommens von Fr. 8'000.--) auf Fr. 2'300.-- herab (Dispositiv-Ziffer 2).
C. Mit Beschwerde in Zivilsachen vom 27. Oktober 2011 gelangt der Ehemann (nachfolgend: Beschwerdeführer) an das Bundesgericht und beantragt im Wesentlichen eine vollständige Befreiung von Unterhaltszahlungen, eventualiter eine Herabsetzung auf monatlich Fr. 1'170.-- (ab Mai 2011).
Es wurden die Akten, aber keine Vernehmlassung eingeholt.

Erwägungen:
1. 1.1 Angefochten sind die Fr. 30'000.-- übersteigenden vermögensrechtlichen Folgen eines kantonal letztinstanzlichen Ehescheidungsurteils (Ehegattenunterhaltsbeitrag gemäss Art. 125 ZGB); die Beschwerde in Zivilsachen ist somit grundsätzlich zulässig (Art. 72 Abs. 1, Art. 74 Abs. 1 lit. b, Art. 75 Abs. 1 und Art. 90 BGG).
1.2 Vorliegend verlangt der Beschwerdeführer im Hauptstandpunkt pauschal die Aufhebung der Dispositiv-Ziffer 2 (betreffend Unterhaltszahlung).
Sodann verlangt er - ebenfalls im Hauptstandpunkt - die Aufhebung der Dispositiv-Ziffern 3 und 4 des vorinstanzlichen Entscheids. Dispositiv-Ziffer 3 regelt die Gerichtskosten des Berufungsverfahrens. Da das Bundesgericht diese im Falle einer Gutheissung - unabhängig von einem gestellten Antrag - anders verteilen (vgl. Art. 67 BGG) kann, ist die fehlende Bezifferung dieses Antrags nicht zu beanstanden. Mit der verlangten Aufhebung von Dispositiv-Ziffer 4 wendet sich der Beschwerdeführer gegen die Gewährung der unentgeltlichen Rechtspflege bzw. Rechtsvertretung zu Gunsten der Beschwerdegegnerin im Berufungsverfahren. Zur Stellung eines solchen Antrags fehlt es ihm indes an der Beschwer (Botschaft ZPO, S. 7303 zu Art. 119 des Entwurfs).
1.3 Das Bundesgericht prüft die Verletzung von Bundesrecht mit freier Kognition (Art. 95 lit. a BGG).
Dabei wendet es - im Rahmen der gestellten Anträge - das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG; vgl. dazu <ref-ruling> E. 2.5 S. 262; <ref-ruling> E. 1.4 S. 140). Immerhin prüft das Bundesgericht - unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG) - grundsätzlich nur die geltend gemachten Rügen, es sei denn, die rechtlichen Mängel sind geradezu offensichtlich. Das Bundesgericht ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden Rechtsfragen zu untersuchen, wenn diese vor Bundesgericht nicht (mehr) vorgetragen werden (<ref-ruling> E. 1.4.1 S. 254 mit Hinweisen).
Die Beschwerde ist dabei hinreichend zu begründen, andernfalls wird auf sie nicht eingetreten. In der Beschwerdeschrift ist in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt (Art. 42 Abs. 2 BGG). Dazu ist es unerlässlich, dass die Beschwerde auf die Begründung des angefochtenen Entscheids konkret eingeht und im Einzelnen aufzeigt, worin eine Rechtsverletzung liegt. Der Beschwerdeführer soll in der Beschwerdeschrift nicht bloss die Rechtsstandpunkte, die er im kantonalen Verfahren eingenommen hat, erneut bekräftigen, sondern mit seiner Kritik an den als rechtsfehlerhaft erachteten Erwägungen der Vorinstanz ansetzen (vgl. <ref-ruling> E. 2.1 S. 245 f.).
2. Die Vorinstanz hat ihrem Entscheid - hauptsächlich unter Verweis auf die Erwägungen der ersten Instanz - folgende Tatsachen zu Grunde gelegt:
Die Ehefrau, die sich der Kindererziehung und dem Haushalt widmete, arbeitet seit dem 1. August 2006 mit einem Teilzeitpensum von 35% als Therapeutin in der Stiftung C._. Im Jahre 1993 wurde bei ihr erstmals Multiple Sklerose diagnostiziert. Eine neuropsychologische Erstuntersuchung im Kantonsspital Luzern im Jahre 2002 ergab eine generelle Verlangsamung der Informationsverarbeitung, eine Einschränkung des Aufmerksamkeitsvermögens und exekutive Dysfunktionen. Eine weitere neuropsychologische Untersuchung im März 2009 ergab eine vergleichbare Beurteilung. Aufgrund des Befundes rieten die untersuchenden Ärzte von einer beruflichen Neuorientierung und einer Erhöhung der Stellenprozente ab. Eine Abklärung bei der IV-Stelle Schwyz im November 2008 ergab, dass die Ehefrau als zu 50% arbeitsunfähig einzustufen ist und dass ihre jetzige Tätigkeit als leidangepasst zu betrachten sei.
Im Mai 2009 (also rund zwei Monate vor Einreichung der Scheidungsklage) gab der Ehemann seine Anstellung als Sekundarlehrer auf und gründete - seine bisherige Nebentätigkeit zum Beruf machend - eine Einzelfirma im EDV-Bereich. Daraus resultierte eine Einkommenseinbusse um 60%, nämlich auf monatlich Fr. 4'670.35.--.
3. Nachdem die erste Instanz dem Beschwerdeführer ein 100%-Pensum als Sekundarlehrer von monatlich netto Fr. 10'800.-- hypothetisch angerechnet hatte, reduzierte die Vorinstanz dieses auf Fr. 8'000.--.
Weiter gelangte die Vorinstanz zum Schluss, der Beschwerdegegnerin sei eine wesentliche Erhöhung ihres 35%-Pensums nicht zumutbar. Folglich sei ihr ein aufgerundetes Monatseinkommen von Fr. 2'400.-- anzurechnen; sollte die Ehefrau - entgegen dem bisherigen Vorbescheid der IV-Stelle - künftig zusätzlich zur Teilzeitanstellung doch noch eine Rente erhalten, sei der Ehemann auf die Möglichkeit einer Abänderungsklage zu verweisen. Die Anrechnung eines 50%-Pensums verbiete sich ferner auch deswegen, weil dem Beschwerdeführer zweitinstanzlich ebenfalls eine reduzierte Erwerbstätigkeit zugestanden wurde.
4. Der Beschwerdeführer macht vor Bundesgericht geltend, die Vorinstanz habe der Beschwerdegegnerin zu Unrecht nur ein effektives 35%-Pensum (anstatt ein teilweise hypothetisches 50%-Pensum) angerechnet. Dies sei willkürlich, aktenwidrig, verstosse gegen Art. 125 ZGB und verletze das rechtliche Gehör. Aus den erstinstanzlichen Klagebeilagen 10 und 12 gehe nämlich hervor, dass die Beschwerdeführerin zu 50% arbeitsfähig sei.
Dem unterhaltsberechtigten Ehegatten darf ein höheres als das tatsächlich erzielte Einkommen angerechnet werden, wenn ihm eine entsprechende Einkommenssteigerung tatsächlich möglich sowie auch zumutbar ist (eingehend: <ref-ruling> E. 4a S. 5 f. mit Hinweisen). Tatfrage ist dabei, ob dem Ehegatten die Erzielung eines hypothetischen Einkommens tatsächlich möglich ist. Ob dem Ehegatten ein an sich mögliches hypothetisches Einkommen auch wirklich zumutbar ist, stellt demgegenüber eine Rechtsfrage dar (<ref-ruling> E. 4c/bb S. 7; <ref-ruling> E. 2b S. 12).
Bei einer lebensprägenden Ehe, wie sie hier vorliegt, gilt es einen die Erwerbsfähigkeit einschränkenden Gesundheitszustand ungeachtet der Ehebedingtheit der Beeinträchtigung zu berücksichtigen. Dies folgt aus dem Grundsatz der nachehelichen Solidarität (Urteil 5A_384/2008 vom 21. Oktober 2008 E. 5.2.1, in: Fampra.ch 2009 S. 190).
Die Vorinstanz hat die Zumutbarkeit einer Einkommensaufstockung über die praktizierten 35% hin hinaus verneint. Begründet hat sie dies einerseits unter Verweis auf die einschlägigen erstinstanzlichen Erwägungen, andererseits damit, dass sie analog auch dem Beschwerdeführer - im Gegensatz zur ersten Instanz - eine teilweise reduzierte Erwerbstätigkeit zugestand (nämlich Fr. 8'000.-- anstatt 10'800.--, was - gerundet - einem 75%-Pensum als Sekundarlehrer entspricht). Im Einzelnen:
Die erste Instanz zog im Rahmen ihrer Beurteilung folgende Unterlagen bei: Einerseits eine Abklärung der IV-Stelle Schwyz vom 21. November 2008, wonach die Beschwerdegegnerin 50% arbeitsunfähig sei, andererseits zwei Befunde der untersuchenden Ärzte vom 23. bzw. 31. März 2009, wonach von einer Erhöhung der Stellenprozente über 35% abgeraten wurde. Vor diesem Hintergrund entschied die erste Instanz: "Somit ist festzustellen, dass aus medizinischer Sicht eine Erhöhung auf 50% in Frage käme, dies jedoch angesichts der aktuellen Befunde nicht realistisch ist." Deshalb verneinte sie die Zumutbarkeit einer Aufstockung auf 50%.
Die erste Instanz stellte bei der Beurteilung der Zumutbarkeit somit ausschlaggebend auf die beiden ärztlichen Befunde vom 23. bzw. 31. März 2009 ab und nicht auf die IV-Abklärung, der sie - soweit sie den beiden ärztlichen Befunden widersprach - implizit eine untergeordnete Bedeutung zumass.
Mit den erwähnten beiden ärztlichen Befunden setzt sich der Beschwerdeführer mit keinem Wort auseinander bzw. erwähnt sie nicht einmal; statt dessen verweist er pauschal auf die Dokumente, in denen von einer 50%-Arbeitsfähigkeit die Rede ist, namentlich auf die erwähnte IV-Abklärung.
Ebenso wenig setzt sich der Beschwerdeführer mit dem eigenständigen vorinstanzlichen Zusatzargument auseinander, wonach ihm selbst zweitinstanzlich - in Abweichung der an sich möglichen Vollzeit-Tätigkeit - analog eine teilweise Unzumutbarkeit bzw. eine Teilzeit-Tätigkeit zugestanden wurde (und zwar im Umfang von 25%).
Damit kommt der Beschwerdeführer den (insbesondere bei unbestimmten Rechtsbegriffen wie Unzumutbarkeit nötigen) minimalen Begründungsanforderungen gemäss Art. 42 Abs. 2 BGG nicht nach (s. oben E. 1.3). Ebenso wenig hat er seine pauschal behaupteten Verfassungsrügen näher substanziiert (Art. 106 Abs. 2 BGG). Darauf ist nicht einzutreten.
5. Die Vorinstanz rechnete dem Beschwerdeführer ein hypothetisches Einkommen an. Aufgrund des herrschenden Lehrermangels sei es ihm nämlich jederzeit möglich und zumutbar, seine frühere Tätigkeit als Sekundarlehrer wieder aufzunehmen. Im Gegensatz zur ersten Instanz gewährte die Vorinstanz dem Beschwerdeführer indes, wie erwähnt, eine teilweise Reduktion seines Pensums. Damit werde dem Beschwerdeführer ermöglicht, seine bereits früher ausgeübte Nebentätigkeit als Programmierer - auch bei einer Rückkehr in den Sekundarlehrerberuf - weiterhin auszuüben oder anderweitigen individuellen Interessen nachzugehen. Dies diene der Prävention von Verschleisserscheinungen des 57-Jährigen im anforderungsreichen Lehrerberuf. Schliesslich gelte es auch zu berücksichtigen, dass er gegenüber seinen mittlerweile volljährigen Töchtern nicht mehr unterstützungspflichtig ist.
Die vom Beschwerdeführer geltend gemachten gesundheitlichen Probleme, die ihm eine Rückkehr in den Lehrerberuf angeblich verunmöglichen, hat die Vorinstanz demgegenüber als "nicht näher belegt" qualifiziert. Die eingereichte ärztliche Bestätigung beschreibe keine "aussergewöhnlichen, die Erwerbsfähigkeit einschränkenden Abnutzungserscheinungen". Diese Beurteilung rügt der Beschwerdeführer als willkürlich und aktenwidrig.
In der erwähnten ärztlichen Bestätigung heisst es abschliessend: "Die genannten strukturellen Veränderungen erklären Rückenschmerzen bei Belastung, etwa langem Sitzen oder Stehen ohne Positionsänderung." Indem die Vorinstanz annahm, dieser Befund stehe einer Tätigkeit als Sekundarlehrer in einem Teilzeitpensum nicht entgegen, entschied sie weder willkürlich noch aktenwidrig, zumal sich die ärztliche Bestätigung weder zu Arbeitsunfähigkeit noch zu Behandlungsmöglichkeiten äussert und im Übrigen auch nicht einsichtig ist, weshalb ein Sekundarlehrer "ohne Positionsänderung" sitzen bzw. stehen muss.
Soweit der Beschwerdeführer geltend macht, er habe den Sekundarlehrerberuf wegen eines "Burnouts" aufgeben müssen, behauptet er Tatsachen, die im vorinstanzlichen Entscheid keine Stütze finden und daher als unzulässige Noven gelten (Art. 105 Abs. 1 BGG und Art. 99 Abs. 1 BGG).
Schliesslich macht er geltend, eine Rückkehr in den Lehrerberuf sei ihm nach zweijährigem Unterbruch weder zumutbar noch möglich. Mit der vor- bzw. erstinstanzlichen Feststellung, es herrsche Lehrermangel, weshalb ein solcher Wiedereinstieg ohne weiteres möglich und zumutbar sei, setzt er sich indes nicht auseinander. Darauf ist nicht einzutreten.
6. Nach dem Gesagten ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Der Beschwerdeführer unterliegt und wird kostenpflichtig (Art. 66 Abs. 1 BGG). Der Beschwerdegegnerin ist kein entschädigungspflichtiger Aufwand entstanden (Art. 68 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf eingetreten werden kann.
2. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Kantonsgericht des Kantons Schwyz, Zivilkammer, schriftlich mitgeteilt.
Lausanne, 5. Dezember 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Schwander