Sachverhalt: A. A._ war Präsident und Verwaltungsrat der konkursiten Schweizer Aktiengesellschaft C._ AG. B._ war Aktionär dieser Aktiengesellschaft und erlitt bei deren Konkurs einen Vermögensschaden. Er belangte A._ in Deutschland auf Schadenersatz im Zusammenhang mit dem Erwerb der Aktien der C._ AG. Während das Landgericht Düsseldorf die Klage am 10. Februar 2012 abwies, hiess das Oberlandesgericht Düsseldorf die Berufung von B._ am 21. Januar 2013 gut und verpflichtete A._, B._ Schadenersatz im Betrag von EUR 29'800.-- zuzüglich Zins und EUR 2'278.85 (Prozessentschädigung) zu bezahlen. Gegen die Nichtzulassung der Revision führte A._ erfolglos Beschwerde beim Bundesgerichtshof. Das Urteil des OLG Düsseldorf wurde am 11. November 2013 rechtskräftig. B. B._ betrieb mit Zahlungsbefehl vom 28. Januar 2014 (Betreibung Nr. xxx des Betreibungsamts Embrachertal) A._ gestützt auf das Urteil des OLG Düsseldorf für Fr. 36'496.65 (Hauptforderung) nebst Zins, Fr. 2'875.15 und Fr. 5'760.60 (aufgelaufene Zinsen) sowie Fr. 2'790.95 nebst Zins (Parteientschädigung). Der Betriebene erhob Rechtsvorschlag. B._ ersuchte daraufhin beim Bezirksgericht Bülach um definitive Rechtsöffnung für die betriebenen Beträge. Das Bezirksgericht erteilte die Rechtsöffnung mit Urteil vom 18. August 2014. C. Dagegen erhob A._ am 8. September 2014 Beschwerde an das Obergericht des Kantons Zürich. Er verlangte die Aufhebung des Urteils des Bezirksgerichts, die Abweisung des Rechtsöffnungsgesuchs und die Löschung der Betreibung. Eventuell sei die Sache an das Bezirksgericht zurückzuweisen. Mit Urteil vom 27. November 2014 wies das Obergericht die Beschwerde ab. D. Am 13. Januar 2015 hat A._ (Beschwerdeführer) Beschwerde in Zivilsachen an das Bundesgericht erhoben. Er verlangt die Aufhebung des obergerichtlichen Urteils, die Abweisung des Rechtsöffnungsgesuchs und die Löschung der Betreibung. Allenfalls sei die Sache an das Obergericht zurückzuweisen. Zudem ersucht er um aufschiebende Wirkung. Das Obergericht hat auf Vernehmlassung zum Gesuch um aufschiebende Wirkung verzichtet. B._ (Beschwerdegegner) hat beantragt, das Gesuch abzuweisen, eventualiter den Beschwerdeführer zu einer Sicherheitsleistung von Fr. 58'153.20 zu verpflichten und subeventualiter anderweitige sichernde Massnahmen anzuordnen. Mit Präsidialverfügung vom 27. Januar 2015 erkannte das Bundesgericht der Beschwerde aufschiebende Wirkung zu und trat auf das Massnahmegesuch nicht ein. Das Bundesgericht hat die Akten beigezogen, in der Sache aber keine Vernehmlassungen eingeholt.