Sachverhalt:
A. X._ (Ehemann; geb. xxxx 1946) und Z._ (Ehefrau; geb. xxxx 1943) heirateten am 9. September 1988. Die Ehe blieb kinderlos.
Mit gemeinsamer Eingabe vom 5. Oktober 2010 beantragten die Parteien beim Bezirksgericht Einsiedeln die Scheidung inklusive gerichtliche Regelung der Nebenfolgen.
Mit Eingabe vom 30. Dezember 2010 ersuchte die Ehefrau den Einzelrichter des Bezirksgerichts Einsiedeln um Erlass vorsorglicher Massnahmen nach Art. 137 aZGB für die Dauer des Scheidungsverfahrens; soweit vorliegend relevant, zielte ihr Ersuchen auf Zuweisung der ehelichen Liegenschaft zur ausschliesslichen Benutzung, auf Zahlung der darauf entfallenden Hypothekarzinsen sowie eines indexierten monatlichen Unterhaltsbeitrages von Fr. 5'000.--.
Mit Verfügung vom 12. Mai 2011 wies der Einzelrichter des Bezirksgerichts Einsiedeln die eheliche Liegenschaft der Ehefrau zur ausschliesslichen Benutzung für die Dauer des Scheidungsprozesses zu und verpflichtete den Ehemann mit Wirkung ab 1. Januar 2011 einen monatlichen, im Voraus zahlbaren Unterhaltsbeitrag von Fr. 2'708.30 zu leisten, und zwar direkt der Bank U._ zur Tilgung der monatlich in derselben Höhe anfallenden Hypothekarzinsen der ehelichen Liegenschaft. Das weitere Unterhaltsbegehren der Ehefrau wies der Einzelrichter ab.
B. Gegen diese Verfügung gelangten beide Parteien mit Berufungen vom 9. Juni 2011 an das Obergericht des Kantons Schwyz. Mit Beschluss vom 23. September 2011 wies dieses beide Berufungen ab, soweit es darauf eintrat.
C. Mit Beschwerde in Zivilsachen vom 27. Oktober 2011 gelangt der Ehemann (nachfolgend: Beschwerdeführer) an das Bundesgericht und verlangt die Aufhebung des vorinstanzlichen Entscheids, soweit dieser die Berufung gegen die erstinstanzliche Zusprache eines Unterhaltsbeitrages von Fr. 2'708.30 an die Ehefrau abwies.
Mit Präsidialverfügung vom 15. November 2011 wurde der Beschwerde mit Bezug auf die bis und mit September 2011 aufgelaufenen Unterhaltsbeiträge die aufschiebende Wirkung zuerkannt.
In ihren Vernehmlassungen vom 4. Januar 2012 beantragte sowohl die Beschwerdegegnerin als auch die Vorinstanz die Abweisung der Beschwerde, soweit darauf einzutreten sei.

Erwägungen:
1. 1.1 Der vorinstanzliche Entscheid datiert vom 23. September 2011. Folglich unterstand das kantonale Rechtsmittelverfahren der Schweizerischen ZPO (<ref-law>).
Da demgegenüber das erstinstanzliche Verfahren noch vor dem 1. Januar 2011 rechtshängig wurde, war auf dieses noch die Schwyzer ZPO anzuwenden.
Das vorliegende Verfahren weist die Besonderheit auf, dass Art. 137 aZGB, der im Rahmen des erstinstanzlichen Verfahrens anzuwenden war, per 1. Januar 2011 aufgehoben bzw. durch Art. 276 der Schweizerischen ZPO ersetzt wurde. Dies ändert allerdings nichts daran, dass im Rahmen des kantonalen Rechtsmittelverfahrens in der Sache nach wie vor Art. 137 aZGB zur Anwendung gelangte, denn das Rechtsmittelverfahren darf bei der Überprüfung eines Entscheides nicht von einer anderen in der Sache anwendbaren Rechtsgrundlage ausgehen als die Vorinstanz. Entsprechendes gilt auch für das nachfolgende bundesgerichtliche Beschwerdeverfahren.
1.2 Angefochten ist ein kantonal letztinstanzlicher Entscheid in einer Zivilsache mit einem Fr. 30'000.-- übersteigenden Streitwert (Art. 72 Abs. 1, Art. 74 Abs. 1 lit. a und Art. 75 Abs. 1 BGG). Ein auf Art. 137 aZGB gestützter Entscheid schliesst das betreffende Massnahmeverfahren ab, weshalb er als Endentscheid im Sinn von <ref-law> gilt (<ref-ruling> E. 2.2 S. 431; mit ausführlicher Begründung: Urteil 5A_9/2007 vom 20. April 2007 E. 1.2). Die Beschwerde in Zivilsachen ist somit im Grundsatz gegeben.
1.3 Da es sich bei einem gestützt auf Art. 137 aZGB ergangenen Entscheid um eine vorsorgliche Massnahme im Sinn von <ref-law> handelt (<ref-ruling> E. 5.1 S. 397), kann vorliegend nur die Verletzung verfassungsmässiger Rechte gerügt werden. Hierfür gilt das strenge Rügeprinzip gemäss <ref-law>. Dies bedeutet, dass das Bundesgericht nur klar und detailliert erhobene und soweit möglich belegte Rügen prüft, während es auf ungenügend begründete Rügen und rein appellatorische Kritik am angefochtenen Entscheid nicht eintritt. Wird die Verletzung des Willkürverbots gerügt, reicht es sodann nicht aus, die Rechtslage aus Sicht des Beschwerdeführers darzulegen und den davon abweichenden angefochtenen Entscheid als willkürlich zu bezeichnen; vielmehr ist im Einzelnen darzulegen, inwiefern das kantonale Gericht willkürlich entschieden haben soll und der angefochtene Entscheid deshalb an einem qualifizierten und offensichtlichen Mangel leidet (<ref-ruling> E. 2.2 S. 246).
Inwiefern diese Rügeanforderungen vorliegend erfüllt sind und demzufolge auf die einzelnen Streitpunkte bzw. Begehren eingetreten werden kann, wird im Sachzusammenhang zu prüfen sein.
1.4 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es ist daher nicht Aufgabe des Bundesgerichts, Beweise abzunehmen und Tatsachen festzustellen, über die sich das kantonale Sachgericht nicht ausgesprochen hat (<ref-ruling> E. 6.1 S. 214). Im Rahmen von <ref-law> sind neue Tatsachen und Beweismittel vor Bundesgericht grundsätzlich unzulässig (<ref-ruling> E. 2 S. 640 mit Hinweisen).
2. Vor Bundesgericht strittig ist einzig das hypothetische Einkommen, das die Vorinstanz dem Beschwerdeführer angerechnet hat.
Soweit vorliegend relevant, legte die Vorinstanz ihrem Entscheid - teilweise auch unter Verweis auf die erstinstanzlichen Ausführungen - folgende Tatsachen zu Grunde:
Der Beschwerdeführer ist seit dem 1. Februar 2011 AHV-berechtigt. Sein nicht umstrittenes monatliches Einkommen beträgt (gerundet) Fr. 2'040.-- (bestehend aus einer AHV-Rente von Fr. 824.--, einer BVG-Rente von Fr. 555.15 sowie aus einer deutschen Altersrente von Fr. 660.--).
Dem Beschwerdeführer gehören wirtschaftlich die beiden Gesellschaften S._ AG mit Sitz in A._ sowie die T._ GmbH mit Sitz in B._ (Deutschland), der die untergeordnete Funktion einer Zulieferfirma zukommt. Gleichzeitig ist der Beschwerdeführer einziger Lohnbezüger und Verwaltungsorgan dieser Gesellschaften.
Die Vorinstanzen stützten sich bei ihrer Beurteilung namentlich auf die Jahresrechnungen der Jahre 2006 bis 2009 (S._ AG) sowie 2006 bis 2008 (T._ GmbH).
Beide Gesellschaften weisen seit 2006 Jahresverluste in unterschiedlichen Höhen auf. Mit Blick darauf hielt die Vorinstanz (wie bereits die erste Instanz) fest, beide Gesellschaften seien "de facto und de jure konkursreif".
Dennoch rechnete die Vorinstanz dem Beschwerdeführer ein hypothetisches Einkommen von monatlich Fr. 4'500.-- an. Dies begründete sie im Wesentlichen wie folgt: Der Beschwerdeführer habe - ohne Rücksicht auf den bereits seit 2006 vorliegenden Verlust - von der S._ AG im Zeitraum von 2006 bis 2010 Lohnzahlungen von durchschnittlich Fr. 4'500.-- pro Monat bezogen. Ausserdem sei davon auszugehen, dass er weiterhin für die S._ AG tätig sein werde. Solange dies der Fall sei, müsse er sich ein Einkommen im entsprechenden Umfang anrechnen lassen, da ein Dritter auch nicht unentgeltlich für die Gesellschaften tätig wäre.
3. 3.1 Der Beschwerdeführer rügt im Wesentlichen, es sei willkürlich einerseits festzustellen, seine Gesellschaften seien "de facto und de jure konkursreif", ihm aber andererseits ein hypothetisches Einkommen von monatlich Fr. 4'500.-- anzurechnen. Es sei schlichtweg keine Substanz mehr vorhanden für weitere Lohnbezüge. Bereits ab November 2010 habe er denn auch keinen Lohn mehr bezogen; zudem entspreche der Jahresverlust in etwa dem Personalaufwand.
3.2 Um die finanzielle Leistungsfähigkeit eines Ehegatten zu bestimmen, ist in der Regel vom tatsächlichen Einkommen auszugehen. Bei der Festsetzung von Unterhaltsbeiträgen darf vom tatsächlichen Leistungsvermögen des Unterhaltsverpflichteten abgewichen und stattdessen von einem hypothetischen Einkommen ausgegangen werden, sofern dieses zu erreichen zumutbar und möglich ist.
Dabei handelt es sich um zwei Voraussetzungen, die kumulativ erfüllt sein müssen. Damit ein Einkommen überhaupt oder ein höheres Einkommen als das tatsächlich erzielte angerechnet werden kann, genügt es nicht, dass der betroffenen Partei weitere Anstrengungen zugemutet werden können. Vielmehr muss es auch möglich sein, aufgrund dieser Anstrengungen ein höheres Einkommen zu erzielen. Mit Bezug auf das hypothetische Einkommen ist Rechtsfrage, welche Tätigkeit aufzunehmen oder auszudehnen als zumutbar erscheint. Ob die als zumutbar erkannte Tätigkeit möglich und das angenommene Einkommen effektiv erzielbar ist, bildet hingegen Tatfrage, die durch entsprechende Feststellungen oder durch die allgemeine Lebenserfahrung beantwortet wird. Auch im letzteren Fall müssen aber jene Tatsachen als vorhanden festgestellt sein, die eine Anwendung von Erfahrungssätzen überhaupt erst ermöglichen (vgl. zum Ganzen: <ref-ruling> E. 2.3 S. 121; <ref-ruling> E. 4.2.2.2 S. 108; <ref-ruling> E. 4c/bb S. 7).
3.3 Die Einwendungen des Beschwerdeführers zielen an der Sache vorbei. Ein Blick in die dem angefochtenen Urteil zugrunde liegenden Jahresabschlüsse zeigt, dass er trotz gegebener Überschuldungssituation mit seinen Unternehmen effektive Umsätze getätigt (im Jahr 2009 mit der S._ AG mehr als Fr. 220'000.--) und positive Bruttoergebnisse generiert hat (im Jahr 2009 mit der S._ AG knapp Fr. 100'000.--). Entgegen seinen Behauptungen hat er seinen Lohn mithin nicht der Substanz entnommen, sondern aus liquiden Mitteln ausgeschüttet, die seine Unternehmen aus ihrer Geschäftstätigkeit effektiv eingenommen haben. Dass er in der Lage ist, im bisherigen Rahmen Umsätze und positive Betriebsergebnisse zu tätigen, hat die Vorinstanz willkürfrei bejaht.
Daran ändert auch der Umstand nichts, dass die beiden Unternehmen rechnungslegungsrechtlich betrachtet überschuldet sind. Insbesondere behauptet der Beschwerdeführer nicht, den Verpflichtungen gegenüber Drittgläubigern nicht nachgekommen zu sein bzw. nicht nachkommen zu können. Betreibungen o.ä. werden jedenfalls weder behauptet noch ausgewiesen. Die beiden Unternehmen sind folglich nicht unmittelbar vom Konkurs bedroht. Im Übrigen ist der Beschwerdeführer selbst der grösste Gläubiger und könnte mittels Rangrücktritt oder Forderungsverzicht auf einen Schlag die Überschuldungssituation beider Unternehmen bereinigen. Damit hat der Beschwerdeführer die Zukunft seiner beiden Unternehmen selber in der Hand. Unter Willkürgesichtspunkten ist deshalb nicht zu beanstanden, wenn die Vorinstanz zum Schluss kommt, dass dem Beschwerdeführer die Erzielung eines Einkommens im bisherigen Rahmen möglich und zumutbar ist und ihm ein hypothetisches Einkommen von Fr. 4'500.-- angerechnet hat. Die Beschwerde ist abzuweisen.
4. Bei diesem Verfahrensausgang wird der Beschwerdeführer kosten- und entschädigungspflicht (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'500.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 1'500.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Kantonsgericht des Kantons Schwyz, 2. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 9. Februar 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Schwander