Sachverhalt: A. Die Staatsanwaltschaft Winterthur/Unterland führt gegen A._ eine Strafuntersuchung. Sie wirft ihm vor, zwischen August 2011 und Juli 2012 seine Lebensgefährtin B._ (im Folgenden: Geschädigte) mehrfach vergewaltigt zu haben. Zudem habe er zwischen 2006 und November 2012 mehrmals massive körperliche Gewalt gegen sie angewendet, sie verletzt und sie sowie ihre Mutter C._ mit dem Tod bedroht. Er habe weiter seine Unterhaltspflichten verletzt, nachdem die Geschädigte mit den gemeinsamen Kindern Mitte Juli 2012 aus der gemeinsamen Wohnung ausgezogen sei, gegen das Waffengesetz verstossen und mehrfachen Ungehorsam gegen amtliche Verfügungen begangen. Am 9. November 2012 wurde A._ in Untersuchungshaft gesetzt. Am 28. Februar 2013 wurde die Untersuchungshaft aufgehoben und durch ein Kontakt- und Rayonverbot sowie durch ein Verbot des Erwerbs, Besitzes und Tragens von Waffen ersetzt. Die Ersatzmassnahmen wurden bis zum Abschluss der Untersuchung, einstweilen bis am 27. Mai 2014 angeordnet. A._ setzte sich mehrfach über das Kontakt- und Rayonverbot hinweg, um sich wieder mit der Geschädigten zu treffen. Nachdem es am 2. Februar 2014 zu einer Auseinandersetzung gekommen war, in deren Rahmen er der Geschädigten und der gemeinsamen Tochter gegenüber erneut Drohungen geäussert haben soll, stellte die Staatsanwaltschaft am 20. Februar 2014 den Antrag auf Anordnung von Untersuchungshaft. Das Zwangsmassnahmengericht des Bezirks Dielsdorf gab dem Antrag mit Verfügung vom 21. Februar 2014 statt. Eine von A._ dagegen erhobene Beschwerde wies das Obergericht des Kantons Zürich mit Beschluss vom 21. März 2014 ab. B. Mit Eingabe vom 22. April 2014 erhebt A._ Beschwerde in Strafsachen ans Bundesgericht. Er beantragt, der Beschluss des Obergerichts sei aufzuheben und die Sache sei an die Staatsanwaltschaft zurückzuweisen, damit sie Ersatzmassnahmen anordne und ihn danach umgehend aus der Haft entlasse. Die Staatsanwaltschaft beantragt, die Beschwerde sei abzuweisen. Das Obergericht hat auf eine Stellungnahme verzichtet. Der Beschwerdeführer hält in seiner Replik an seinem Standpunkt fest.