Sachverhalt:
A. X._ (Jg. 1939) und Z._ (Jg. 1957) haben am xxxx 1981 in Zürich geheiratet. Sie sind die Eltern der erwachsenen Söhne S._ (Jg. 1985) und T._ (Jg. 1987). Seit dem 21. Januar 2010 leben die Eheleute getrennt.
B. Am 1. März 2011 gelangte Z._ mit einem Eheschutzgesuch an das Bezirksgericht Zürich. Anlässlich der Hauptverhandlung vom 19. April 2011 bezifferte sie den geltend gemachten Unterhaltsanspruch und beantragte, ihren Ehemann zu verpflichten, ihr rückwirkend ab 1. März 2010 Fr. 1'300.-- und ab 1. April 2011 Fr. 1'600.-- monatlich an Unterhalt zu bezahlen. Das Bezirksgericht entsprach diesen Anträgen (Verfügung vom 3. Mai 2011).
C. C.a X._ legte hierauf Berufung ein. Vor dem Obergericht des Kantons Zürich stellte er das Begehren, er sei zu verpflichten, monatliche Beiträge auf ein separates Konto oder auf ein Sperrkonto zu entrichten, das allen vier Familienmitgliedern zur Unterstützung in Not- und besonderen Bedarfsfällen dienen solle und von dem nur mit einstimmigem Beschluss Bezüge möglich seien. Für die Zeit vom 1. März 2010 bis zum 30. Juni 2011 seien die Unterhaltsbeiträge für seine Frau auf monatlich Fr. 500.--, ab 1. Juli 2011 auf Fr. 1'500.-- zu bestimmen. Die Gerichtsgebühr für das erstinstanzliche Urteil sei Z._ aufzuerlegen.
C.b Das Obergericht hiess die Berufung teilweise gut. Es bestimmte die monatlichen Unterhaltsbeiträge für die Zeit vom 1. März 2010 bis 30. Juni 2011 auf Fr. 1'350.-- und ab 1. Juli 2011 auf Fr. 1'380.--, verteilte die Gerichtskosten für das erstinstanzliche Verfahren neu und auferlegte die oberinstanzliche Gerichtsgebühr zu drei Achteln der Ehefrau und fünf Achteln dem Ehemann (Urteil vom 19. Januar 2012).
D. X._ (Beschwerdeführer) gelangt nun an das Bundesgericht. In seiner Beschwerde vom 15. Februar 2012 beantragt er, die Unterhaltsbeiträge auf Fr. 500.-- (1. März 2011 [recte: 2010] bis 30. Juni 2011) und Fr. 800.-- (ab 1. Juli 2011) festzusetzen. Die Gerichtskosten für das erstinstanzliche Verfahren seien zur einen Hälfte dem Bezirksgericht Zürich, zur anderen ihm und Z._ (Beschwerdegegnerin) je hälftig aufzuerlegen; diejenigen des zweitinstanzlichen und des bundesgerichtlichen Verfahrens sollen zu Lasten der Obergerichtskasse des Kantons Zürich gehen.
Das Bundesgericht hat die kantonalen Akten und Vernehmlassungen eingeholt. Die Beschwerdegegnerin beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten ist. Das Obergericht hat auf eine Stellungnahme verzichtet. Die Vernehmlassungen wurden den Parteien zur Wahrung des rechtlichen Gehörs zugestellt.

Erwägungen:
1. 1.1 Die rechtzeitig eingereichte Beschwerde richtet sich gegen den Endentscheid einer letzten kantonalen Instanz in einer Zivilsache, deren Streitwert Fr. 30'000.-- übersteigt (Art. 72 Abs. 1, 74 Abs. 1 lit. b, 75, 90, 100 Abs. 1 BGG). Auf die Beschwerde in Zivilsachen ist somit einzutreten.
1.2 Eheschutzentscheide unterstehen der in <ref-law> enthaltenen Vorschrift (<ref-ruling> E. 5.1 und 5.2 S. 397 f.). In der Beschwerde kann nur die Verletzung verfassungsmässiger Rechte gerügt werden. Art. 95 und Art. 97 BGG und auch <ref-law> gelangen nicht zur Anwendung. Die hier gegebenen Verhältnisse entsprechen denjenigen bei der subsidiären Verfassungsbeschwerde (<ref-law>). Wie dort (Art. 118 Abs. 2 in Verbindung mit <ref-law>) kommt eine Berichtigung oder Ergänzung der Sachverhaltsfeststellungen auch hier nur dann in Frage, wenn die kantonale Instanz verfassungsmässige Rechte verletzt hat (<ref-ruling> E. 4.1 S. 588).
1.3 Für alle Vorbringen betreffend die Verletzung verfassungsmässiger Rechte gilt das strenge Rügeprinzip. Die rechtssuchende Partei muss präzise angeben, welches verfassungsmässige Recht durch den angefochtenen kantonalen Entscheid verletzt wurde, und im Einzelnen darlegen, worin die Verletzung besteht (Rügeprinzip; <ref-ruling>, E. 3.2 S. 444). Das Bundesgericht prüft nur klar und detailliert erhobene und, soweit möglich, belegte Rügen; auf ungenügend begründete Rügen und rein appellatorische Kritik am angefochtenen Entscheid tritt es nicht ein (<ref-ruling> E. 2.2 S. 246; <ref-ruling> E. 3.1 S. 399 f.).
1.4 Nicht zulässig sind vor Bundesgericht neue Begehren (<ref-law>), das heisst Begehren, mit denen die Vorinstanz nicht befasst war (<ref-ruling> E. 2 S. 121) und die zu einer Ausweitung des Streitgegenstandes führen. Im beschriebenen Sinne neu ist das Begehren, die Gerichtskosten für das erstinstanzliche Verfahren zur Hälfte dem Bezirksgericht Zürich aufzuerlegen. In dieser Hinsicht ist Ziffer 4 der Beschwerdeanträge unzulässig.
2. Der Beschwerdeführer beanstandet in erster Linie die vorinstanzliche Bedarfsermittlung.
2.1 An der Bedarfsrechnung der Beschwerdegegnerin bemängelt der Beschwerdeführer zunächst die Anrechnung der Krankenkassenprämie von Fr. 466.--. Er weist darauf hin, durch die Auflösung des Familienverbands würden Rabatte entfallen; dadurch kämen neben der Beschwerdegegnerin auch die übrigen Familienmitglieder zu Schaden. Auch könne ihm wohl nicht verwehrt werden, die Prämien für seine Söhne weiterhin zu bezahlen. Weiter hält der Beschwerdeführer die eingesetzten Beträge für Steuern von Fr. 700.-- (1. März 2010 bis 30. Juni 2011) bzw. Fr. 960.-- (ab 1. Juli 2011) für zu hoch. Insbesondere dürfe die infolge der Unterhaltsbeiträge eintretende Erhöhung des Steuerbetrags in der Bedarfsrechnung nicht berücksichtigt werden; diese solle ja die aktuelle Lage widerspiegeln.
Mit Bezug auf seinen eigenen Bedarf wirft der Beschwerdeführer dem Obergericht vor, es habe für die Fortführung seiner bisherigen Lebensführung notwendige Positionen gestrichen, obwohl er sich freiwillig eingeschränkt und zur Erhöhung des Freibetrages beigetragen habe. Damit würden diese Positionen auf unzulässige Weise indirekt seinem nachobligatorischen freiwilligen Einkommen belastet. Die Streichung der Fahrkosten für die Zeit ab 1. Juli 2011 hält er für unzumutbar; die Benützung der öffentlichen Verkehrsmittel sei auch für einen Nichterwerbstätigen ein wichtiges Bedürfnis. Auf der Berücksichtigung der Kosten für auswärtige Verpflegung beharrt er mit dem Argument, auch seine Anstellung im Stundenlohn mache eine auswärtige Verpflegung erforderlich, denn die Arbeitsstunden seien auf wenige Wochentage konzentriert. Im Zusammenhang mit der Nichtberücksichtigung eines Betrages von Fr. 300.-- für Ferien verwahrt sich der Beschwerdeführer gegen die vom Obergericht erwähnte Behauptung der Beschwerdegegnerin, er habe fast keine Ferien gemacht. Er bestreitet, den Ferienbetrag nur aus Gleichbehandlungsgründen zu verlangen; vielmehr gehöre auch dieses Element zum bisher gewohnten Lebensstandard. Als weiteren Bedarfsposten macht der Beschwerdeführer auch vor Bundesgericht für "Altersvorsorge" einen Betrag von Fr. 500.-- geltend; diesen begründet er im Wesentlichen mit dem Altersunterschied zur Beschwerdegegnerin. Schliesslich sei sein Bedarf ab 1. Juli 2011 infolge der Anpassung seiner Hausratsversicherung um Fr. 9.-- zu reduzieren.
2.2 Keines der geschilderten Vorbringen ist geeignet, die vorinstanzliche Bemessung des jeweiligen Bedarfs der Ehegatten ins Wanken zu bringen. Denn mit seinen Ausführungen vermag der Beschwerdeführer den angefochtenen Entscheid nicht als verfassungswidrig, namentlich nicht als willkürlich im Sinne von <ref-law> auszuweisen. Hierfür reicht es nicht aus, wenn der Beschwerdeführer die Sach- oder Rechtslage aus seiner eigenen Sicht darlegt. Vielmehr müsste er im Einzelnen aufzeigen, inwiefern der angefochtene Entscheid an einem qualifizierten und offensichtlichen Mangel leidet (<ref-ruling> E. 2.2 S. 246). Mit der vorinstanzlichen Begründung aber setzt sich der Beschwerdeführer nicht hinreichend auseinander. So bestreitet er insbesondere nicht, dass die Beschwerdegegnerin einen Anspruch darauf hat, ihre Krankenkassenprämie selbst zu bezahlen; inwiefern der angefochtene Entscheid ihn daran hindern würde, die Prämien für seine Söhne weiterhin selbst zu bezahlen, zeigt er nicht auf. Auf die Erwägung des Obergerichts, wonach die Regelung der Altersvorsorge dem Scheidungsprozess vorbehalten sei und im Eheschutzverfahren keinen Platz habe, geht er mit keinem Wort ein. Sodann argumentiert er widersprüchlich, wenn er sich die als AHV-Rentner freiwillig erzielten Erwerbseinkünfte auf der Einkommensseite nicht anrechnen lässt, zugleich in seinem Bedarf aber Kosten berücksichtigt haben will, die mit der Erzielung eben dieser Erwerbseinkünfte angeblich in Zusammenhang stehen. Was die Höhe des Betrages angeht, den die Vorinstanz im Bedarf der Beschwerdegegnerin für Steuern eingesetzt hat, scheint der Beschwerdeführer zu übersehen, dass die von ihm geleisteten Unterhaltsbeiträge auf seiner Seite sehr wohl berücksichtigt werden, indem er diese von seinen steuerbaren Einkünften absetzen kann. Vor allem aber legt der Beschwerdeführer nicht dar, inwiefern sich die vorinstanzliche Bedarfsermittlung auch im Ergebnis als offensichtlich unhaltbar erwiese. Dass eine andere Lösung ebenfalls als vertretbar oder zutreffender scheint oder sogar vorzuziehen wäre, genügt nicht (<ref-ruling> E. 4.1 S. 133).
3. Nach dem Gesagten bleibt es hinsichtlich des (erweiterten) Bedarfs der Parteien bei den Zahlen, die das Obergericht errechnet hat: In der ersten Phase vom 1. März 2010 bis 30. Juni 2011 beläuft sich der Bedarf des Beschwerdeführers auf Fr. 10'189.-- und derjenige der Beschwerdegegnerin auf Fr. 5'051.--, in der zweiten Phase ab 1. Juli 2011 auf Fr. 5'461.-- (Ehemann) bzw. Fr. 5'777.-- (Ehefrau). Unangefochten blieb die Höhe der massgeblichen Einkommen. Dasjenige des Beschwerdeführers beträgt zunächst Fr. 11'917.-- (1. März 2010 bis 30. Juni 2011), ab 1. Juli 2011 Fr. 8'974.--; dasjenige der Beschwerdegegnerin über die ganze Zeit Fr. 5'525.--. Aus diesen Zahlen resultiert für die erste Phase ein Freibetrag von Fr. 2'202.-- und für die zweite ein solcher von Fr. 3'261.--.
3.1 Den eigentlichen Grund seines Rechtsmittels an das Bundesgericht erblickt der Beschwerdeführer in der unrichtigen Aufteilung des Einkommensüberschusses in der ersten Phase (März 2010 bis Juni 2011). Das Obergericht des Kantons Zürich hat ausdrücklich anerkannt, dass es zwei Drittel des Freibetrages anstatt dem Beschwerdeführer irrtümlich der Beschwerdegegnerin zugewiesen hat und fälschlicherweise vom diesbezüglich unangefochten gebliebenen erstinstanzlichen Entscheid abgewichen ist. Dieses Versehen sei jedoch nicht der Berichtigung nach <ref-law> zugänglich und müsse daher auf dem Rechtsmittelweg korrigiert werden. Zu Recht verlangt der Beschwerdeführer nun, den in diesem Punkt offensichtlich unrichtigen und damit willkürlichen (<ref-ruling> E. 1.2.2 S. 252 mit Hinweis) Entscheid zu korrigieren. Die Beschwerde ist insofern gutzuheissen und der Freibetrag zu zwei Dritteln (Fr. 1'468.--) dem Beschwerdeführer und zu einem Drittel (Fr. 734.--) der Beschwerdegegnerin zuzuweisen.
3.2 Darüber hinaus wirft der Beschwerdeführer dem Obergericht vor, es habe "bei der Berechnung der Unterhaltsbeiträge ganz unsinnige Rechenoperationen verwendet" und sei auf "völlig unlogische, abstruse Weise" vorgegangen.
3.2.1 Zwar bemerkt die Beschwerdegegnerin richtig, dass der Beschwerdeführer in seiner Eingabe nicht ausdrücklich geltend macht, der angefochtene Entscheid verletze ein spezifisches verfassungsmässiges Recht. Nichtsdestotrotz können die zitierten Vorbringen nicht anders denn als Rüge verstanden werden, die Vorinstanz sei bei der Berechnung der Unterhaltsbeiträge in Willkür verfallen. Denn als willkürlich im Sinne von <ref-law> hebt das Bundesgericht nach seiner ständigen Praxis einen Entscheid unter anderem dann auf, wenn dieser offensichtlich unhaltbar ist und mit der tatsächlichen Situation in klarem Widerspruch steht (vgl. <ref-ruling> E. 4.1 S. 133 mit Hinweisen). Dies ist aber der Fall, wenn ein Entscheid "unsinnig", "völlig unlogisch" und "abstrus" ist.
3.2.2 So addiert das Obergericht in der ersten Phase (März 2010 bis Juni 2011) die Differenz zwischen Einkommen und Bedarf der Beschwerdegegnerin, ausmachend Fr. 474.-- (Fr. 5'525.-- ./. Fr. 5'051.--), zu deren Freibetrag, anstatt sie davon zu subtrahieren. Damit berücksichtigt das Obergericht den Freibetrag im Ergebnis aber doppelt. Diese Vorgehensweise ist offensichtlich unhaltbar und somit willkürlich im Sinne von <ref-law> (E. 3.2.1). Richtigerweise ist der korrigierte Freibetrag der Beschwerdegegnerin von Fr. 734.-- (E. 3.1) zunächst zu ihrem Bedarf von Fr. 5'051.-- hinzuzurechnen. Daraus ergibt sich für die Beschwerdegegnerin ein Anspruch auf Lebenshaltungskosten von insgesamt Fr. 5'785.--. Daran hat sich der Beschwerdeführer zu beteiligen, soweit die Beschwerdegegnerin dafür nicht mit ihrem eigenen Erwerbseinkommen aufzukommen vermag. Der monatlich zu leistende Unterhaltsbeitrag betrüge also Fr. 260.-- (Fr. 5'785.-- ./. Fr. 5'525.--). Nun anerkennt der Beschwerdeführer aber für die fragliche Zeit eine Unterhaltspflicht in der Höhe von Fr. 500.-- (Bst. D). Über dieses Begehren darf das Bundesgericht nicht hinausgehen (<ref-law>). Die Beschwerde ist in diesem Punkt deshalb im beantragten Sinne gutzuheissen.
3.2.3 Die beschriebene, offensichtlich unrichtige Rechenoperation wendet das Obergericht auch für die Ermittlung der Unterhaltspflicht in der Zeit ab Juli 2011 an, in welcher der Freibetrag von Fr. 3'261.-- hälftig aufzuteilen ist. Auf diese Weise gelangt das Obergericht fälschlicherweise zu einem Unterhaltsbeitrag von Fr. 1'378.--. Tatsächlich würde sich dieser auf Fr. 1'882.-- belaufen (Bedarf Beschwerdegegnerin Fr. 5'777.-- plus Freibetragsanteil Fr. 1'630.-- = Fr. 7'407.-- abzüglich Einkommen Beschwerdegegnerin Fr. 5'525.--). Allerdings hat lediglich der Beschwerdeführer das Rechtsmittel an das Bundesgericht ergriffen. Die Beschwerdegegnerin, zu deren Ungunsten sich der beschriebene Fehler auswirkt, hat es beim Urteil vom 19. Januar 2012 bewenden lassen. Unter diesen Voraussetzungen darf das Bundesgericht als Beschwerdeinstanz das angefochtene Urteil nicht zu Ungunsten des Beschwerdeführers abändern (Verschlechterungsverbot; vgl. dazu <ref-ruling> E. 3.c S. 114). Auch wenn die Beschwerdegegnerin in ihrer Vernehmlassung nun eine Verletzung der Dispositionsmaxime geltend macht, weil der Beschwerdeführer vor Obergericht noch eine Unterhaltspflicht in der Höhe von Fr. 1'500.-- anerkannt habe, muss es für die Zeit ab 1. Juli 2011 trotzdem beim Unterhaltsbeitrag von Fr. 1'380.-- bleiben. Soweit der Beschwerdeführer vor Bundesgericht weniger als Fr. 1'380.-- - nämlich nur Fr. 800.-- - bezahlen will, ist sein Begehren schon deshalb abzuweisen, weil er im vorliegenden Beschwerdeverfahren nicht mehr auf die Zugeständnisse zurückkommen kann, die er der Beschwerdegegnerin vor der Vorinstanz gemacht hat. Dies ergibt sich aus dem Dispositionsgrundsatz, der auch vor Bundesgericht gilt (<ref-law>).
4. Gestützt auf die vorstehenden Erwägungen ist die Beschwerde teilweise gutzuheissen. Das angefochtene Urteil ist aufzuheben. In Abänderung von dessen Ziffer 2 wird der Beschwerdeführer verurteilt, der Beschwerdegegnerin vom 1. März 2010 bis 30. Juni 2011 rückwirkend monatliche Unterhaltsbeiträge von Fr. 500.-- zu bezahlen. Im Übrigen weist das Bundesgericht die Beschwerde ab, soweit es darauf eintritt, und weist die Sache zur Neuregelung der kantonalen Gerichtskosten an die Vorinstanz zurück. Bei diesem Ausgang des Verfahrens rechtfertigt es sich, die Gerichtsgebühr vor Bundesgericht den Parteien je zur Hälfte aufzuerlegen und die Parteikosten wettzuschlagen, so dass jede Partei ihre eigenen Kosten für das bundesgerichtliche Verfahren selbst trägt (Art. 66 Abs. 1 und 68 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1. In teilweiser Gutheissung der Beschwerde wird das Urteil des Obergerichts des Kantons Zürich vom 19. Januar 2012 aufgehoben. In Abänderung von Ziffer 2 des aufgehobenen Urteils wird der Beschwerdeführer verurteilt, der Beschwerdegegnerin vom 1. März 2010 bis zum 30. Juni 2011 rückwirkend monatliche Unterhaltsbeiträge von Fr. 500.-- und ab 1. Juli 2011 für die weitere Dauer des Getrenntlebens solche von Fr. 1'380.-- zu bezahlen, zahlbar monatlich im Voraus, jeweils auf den Ersten eines jeden Monats.
2. Zur Neuregelung der kantonalen Kosten wird die Sache im Übrigen an das Obergericht des Kantons Zürich zurückgewiesen.
3. Die Gerichtskosten von Fr. 2'000.-- werden den Parteien je zur Hälfte auferlegt.
4. Die Parteikosten werden wettgeschlagen.
5. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 27. April 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: V. Monn