Sachverhalt:
A. Y._ betrieb mit Zahlungsbefehl vom 9. Dezember 2011 (Betreibung Nr. xxxx des Betreibungsamts A._) X._ für ausstehende Unterhaltsbeiträge. Der Betriebene erhob Rechtsvorschlag. Mit Urteil vom 10. Februar 2012 erteilte das Bezirksgericht Uster definitive Rechtsöffnung für den Betrag von Fr. 42'755.-- nebst Zins und Kosten.
B. Dagegen wandte sich X._ am 28. Februar 2012 mit Beschwerde an das Obergericht des Kantons Zürich. Das Obergericht wies die Beschwerde mit Urteil vom 7. März 2012 ab.
C. Am 13. April 2012 hat X._ (Beschwerdeführer) Beschwerde an das Bundesgericht erhoben. Er beantragt die Aufhebung des angefochtenen Urteils und die Verweigerung der definitiven Rechtsöffnung. Zudem ersucht er um aufschiebende Wirkung.
Y._ (Beschwerdegegnerin) hat gegen das Gesuch um aufschiebende Wirkung keine Einwände erhoben und das Obergericht hat diesbezüglich auf Vernehmlassung verzichtet. Mit Präsidialverfügung vom 2. Mai 2012 ist der Beschwerde aufschiebende Wirkung zuerkannt worden.
Das Bundesgericht hat die Akten beigezogen, in der Sache aber keine Vernehmlassungen eingeholt.
Erwägungen:
1. Angefochten ist binnen Frist (Art. 100 Abs. 1 BGG) ein kantonal letztinstanzlicher Endentscheid des als Rechtsmittelinstanz urteilenden Obergerichts (Art. 75 und Art. 90 BGG) in einer Schuldbetreibungssache (Art. 72 Abs. 2 lit. a BGG), wobei der Streitwert Fr. 30'000.-- übersteigt (Art. 74 Abs. 1 lit. b BGG). Die Beschwerde in Zivilsachen ist somit grundsätzlich zulässig.
2. Das Obergericht hat zunächst erwogen, als Rechtsöffnungstitel habe die Beschwerdegegnerin eine Verfügung des Bezirksgerichts Uster vom 21. Dezember 2010 eingereicht, mit der der Beschwerdeführer zu monatlichen (Kindes- und Ehegatten-)Unterhaltsbeiträgen von gesamthaft Fr. 4'705.-- (zuzüglich Kinderzulagen) verpflichtet worden sei. Gegen diese Verfügung hätten beide Parteien Rekurs erhoben. Das Obergericht habe am 25. Januar 2011 den Rekursen gegen die Unterhaltsregelung teilweise die aufschiebende Wirkung entzogen und den Beschwerdeführer demgemäss verpflichtet, der Beschwerdegegnerin monatlich Fr. 4'705.-- zu bezahlen. Die Rekursverfahren seien noch hängig, doch sei der bezirksgerichtliche Entscheid vom 21. Dezember 2010 vollstreckbar, soweit die aufschiebende Wirkung entzogen worden sei. Die Beschwerdegegnerin habe den Beschwerdeführer betrieben für die Unterhaltsbeiträge von Februar 2011 bis und mit Dezember 2011, was abzüglich anerkannter Zahlungen zum Betrag von Fr. 42'755.-- führe, für den sie definitive Rechtsöffnung verlange. Alle diese Erwägungen sind vor Bundesgericht nicht angefochten.
Vor Bundesgericht ist einzig umstritten, ob sich der Beschwerdeführer auf eine Tilgung der in Betreibung gesetzten Forderung durch Verrechnung berufen kann. Er macht - wie bereits im kantonalen Verfahren - geltend, Mietzinse für die Wohnung der Beschwerdegegnerin und Krankenkassenprämien für den gemeinsamen Sohn B._ bezahlt zu haben. Dass diese Beträge effektiv bezahlt worden sind, ist nicht streitig.
Das Obergericht hat bezüglich der Verrechnung auf Art. 125 Ziff. 2 OR verwiesen, wonach solche Verpflichtungen gegen den Willen des Gläubigers durch Verrechnung nicht getilgt werden könnten, deren besondere Natur die tatsächliche Erfüllung an den Gläubiger verlange, wie Unterhaltsansprüche, die zum Unterhalt des Gläubigers und seiner Familie unbedingt erforderlich seien. Der unverrechenbare Teil der Unterhaltsschuld bestimme sich nach dem betreibungsrechtlichen Existenzminimum. Die Berechnung dieser Quote gehe über die Prüfungsbefugnis des Rechtsöffnungsrichters hinaus. Allerdings sei der Unterhaltsbetrag von Fr. 4'705.-- ohnehin anhand des Existenzminimums der Beschwerdegegnerin berechnet worden. Eine Einwilligung der Beschwerdegegnerin zur Verrechnung liege nicht vor. Der Beschwerdeführer könne nicht eigenmächtig an Stelle der Bezahlung von Unterhaltsbeiträgen Schulden der Beschwerdegegnerin tilgen. Daran änderten seine Vorbringen nichts, sie habe die Miete und die Krankenkassenbeiträge für den Sohn nicht bezahlt und habe ihn somit gezwungen, diese zu übernehmen. Darin liege kein konkludentes Einverständnis mit der Verrechnung.
Ausserdem sei die Verrechnungseinwendung im Rahmen der definitiven Rechtsöffnung nur dann beachtlich, wenn für den Bestand und die Höhe der Gegenforderung völlig eindeutige Urkunden vorlägen, durch die ein strikter Beweis erbracht werde. Durch die vom Beschwerdeführer vorgelegten Urkunden sei einzig nachgewiesen, dass er durch seine Zahlung der Mietzinse und der Krankenkassenprämien Mehrleistungen erbracht habe, nicht aber, dass er dadurch eine Gegenforderung erworben habe. Solange der Unterhaltsstreit unter den Ehegatten hängig und damit unklar sei, in welchem Umfang der Beschwerdeführer Unterhalt bezahlen müsse, könne der Beschwerdeführer nicht durch Urkunden beweisen, dass er durch seine Zahlungen eine Gegenforderung erworben habe bzw. seine Zahlungen an den Unterhalt angerechnet werden könnten.
3. Der Beschwerdeführer macht geltend, Gegenstand der Verrechnung seien Wohnungs- und Gesundheitskosten und damit Bestandteile des richterlich festgelegten Unterhaltsbetrags. Über diese Beträge könne die Beschwerdegegnerin nicht frei verfügen, denn ihre Verwendung sei im Unterhaltsurteil festgelegt. Insbesondere seien auch die Interessen des gemeinsamen Kindes betroffen, die von der Vorinstanz zu wenig berücksichtigt worden seien. Bereits deswegen könne die Verrechnung nicht vom alleinigen Willen der Beschwerdegegnerin abhängen. Die Beschwerdegegnerin habe durch ihr Verhalten unmissverständlich zum Ausdruck gebracht, dass sie mit den Unterhaltsbeiträgen weder die Wohnung noch die Krankenkasse des Sohnes zahlen wolle. Sie gefährde durch ihr Verhalten die Existenzsicherung; der (ebenfalls sorgeberechtigte) Beschwerdeführer habe in dieser Notstandssituation einspringen müssen. Für die Gefährdung liege heute sogar ein weiterer Beweis vor: Nach der inzwischen erfolgten Umstellung auf Barbezahlung der Unterhaltsbeiträge habe die Beschwerdegegnerin die Miete nicht mehr beglichen und am 12. April 2012 die Kündigung erhalten. Ihre Berufung auf das Verrechnungsverbot sei rechtsmissbräuchlich und zweckwidrig, denn das Verrechnungsverbot habe gerade zum Ziel, die Existenz zu sichern. Die Verrechnung müsse daher zulässig sein, auch wenn die zu verrechnende Forderung noch nicht rechtskräftig feststehe.
4. Gemäss Art. 81 Abs. 1 SchKG ist bei Vorhandensein eines geeigneten Titels definitive Rechtsöffnung zu erteilen, falls der Betriebene nicht durch Urkunden beweist, dass die Schuld seit Erlass des als Rechtsöffnungstitel dienenden Entscheids getilgt oder gestundet worden ist, oder er die Verjährung anruft. Unter Tilgung versteht diese Norm insbesondere auch die Verrechnung. Eine Tilgung durch Verrechnung kann jedoch nur berücksichtigt werden, wenn die Verrechnungsforderung (Gegenforderung) ihrerseits durch ein gerichtliches Urteil im Sinne von Art. 81 Abs. 1 SchKG oder durch eine vorbehaltlose Anerkennung des Betreibenden belegt ist (BGE 136 III 624 E. 4.2.1 S. 625; 115 III 97 E. 4 S. 100). Eingeschränkt wird die Möglichkeit zur Verrechnung zudem durch ein allfälliges Verrechnungsverbot, wie es von Art. 125 Ziff. 2 OR für Unterhaltsansprüche vorgesehen ist, die zum Unterhalt des Gläubigers und seiner Familie unbedingt erforderlich sind.
Es ist vorliegend zwar möglich, dass der Beschwerdeführer Leistungen an Dritte erbracht hat, die an sich die Beschwerdegegnerin hätte erbringen müssen bzw. die ihr bzw. dem offenbar unter ihrer Obhut stehenden Kind zugutegekommen sind. Ob und in welchem Umfang dies der Fall ist und dem Beschwerdeführer deswegen eine Gegenforderung zusteht, bedingt jedoch materiellrechtliche Überlegungen (insbesondere zur ungerechtfertigten Bereicherung und allenfalls zur Geschäftsführung ohne Auftrag), die dem Sachrichter vorbehalten sind. Darüber hat nicht der Rechtsöffnungsrichter zu entscheiden (BGE 136 III 624 E. 4.2.3 S. 626; 124 III 501 E. 3a S. 503). Dasselbe gilt für die Behauptung des Beschwerdeführers, das Verhalten der Beschwerdegegnerin sei rechtsmissbräuchlich (BGE 124 III 501 E. 3a S. 503; 115 III 97 E. 4b S. 101). Die Umstände, welche Rechtsmissbrauch der Beschwerdegegnerin belegen sollen, finden im angefochtenen Urteil im Übrigen keine Stütze. Die Vorbringen des Beschwerdeführers genügen insoweit den Anforderungen an eine Sachverhaltsrüge (Art. 97 Abs. 1 BGG) nicht (dazu BGE 137 II 353 E. 5.1 S. 356) und sind teilweise neu (Kündigung vom 12. April 2012) und damit von vornherein unzulässig (Art. 99 Abs. 1 BGG). Die Beschwerde ist folglich abzuweisen, soweit auf sie eingetreten werden kann.
5. Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten (Art. 66 Abs. 1 BGG). Eine Parteientschädigung ist nicht geschuldet (Art. 68 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 13. Juni 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Zingg