Sachverhalt:
A. A.a Am 20. Mai 2011 ersuchte die Z._ GmbH das Bezirksgericht Zürich um Anweisung an das Grundbuchamt Zürich-Oerlikon, auf einem Grundstück der Stiftung X._ (Kat. Nr. ..., GBBl xxx, A._strasse in Zürich) ein Bauhandwerkerpfandrecht mit einer Pfandsumme von Fr. 95'817.60 nebst Zins zu 5 % seit 1. April 2011 superprovisorisch und sodann provisorisch einzutragen. Das Bezirksgericht ordnete die Eintragung superprovisorisch an und bestätigte mit Urteil vom 15. Juni 2011 die vorläufige Eintragung, nachdem es der Stiftung X._ Gelegenheit zur Stellungnahme gegeben hatte.
Gegen das Urteil vom 15. Juni 2011 erhob die Stiftung X._ Berufung (Verfahren LF110078). Sie verlangte die Aufhebung des angefochtenen Urteils und beantragte, auf das Begehren der Z._ GmbH mangels Zuständigkeit des Bezirksgerichts nicht einzutreten. Das Obergericht des Kantons Zürich sistierte das Verfahren am 4. August 2011 bis zu einem in anderer Sache erwarteten Entscheid des Bundesgerichts im Zuständigkeitskonflikt zwischen Handels- und Bezirksgericht.
A.b Bereits am 20. Juni 2011 hatte die Stiftung X._ dem Bezirksgericht beantragt, der vorsorglich erfolgte Grundpfandeintrag sei zu löschen, da eine Bankgarantie für die Forderung der Z._ GmbH geleistet worden sei. Das Bezirksgericht hiess das Begehren mit Urteil vom 11. Juli 2011 gut.
Dagegen führte die Z._ GmbH Berufung (Verfahren LF110087). Sie verlangte die Aufhebung des angefochtenen Urteils und beantragte, auf das Begehren der Stiftung X._ sei mangels Zuständigkeit des Bezirksgerichts nicht einzutreten. Das Obergericht sistierte auch dieses Berufungsverfahren.
A.c Das vom Obergericht erwartete bundesgerichtliche Urteil erging am 9. Dezember 2011 (BGE 137 III 563). Es nahm die Prozesse daraufhin wieder auf, vereinigte die beiden Berufungsverfahren und hob mit Beschluss vom 2. Februar 2012 beide angefochtenen Urteile auf. Es setzte der Z._ GmbH eine Frist von dreissig Tagen ab Zustellung dieses Urteils an, um beim Handelsgericht um vorsorgliche Eintragung des Pfandrechts zu ersuchen. Stelle sie dieses Gesuch, bleibe das bereits eingetragene Pfandrecht bis zu einem gegenteiligen Entscheid des Handelsgerichts eingetragen, anderenfalls habe das Grundbuchamt es vierzig Tage nach Zustellung des obergerichtlichen Urteils zu löschen.
B. Am 5. März 2012 hat die Stiftung X._ (Beschwerdeführerin) Beschwerde in Zivilsachen erhoben. Sie verlangt die Aufhebung des obergerichtlichen Beschlusses vom 2. Februar 2012, die Gutheissung ihrer Berufung (Verfahren LF110078) und die Abweisung der Berufung der Z._ GmbH (Beschwerdegegnerin) (Verfahren LF110087). Das Grundbuchamt Zürich-Oerlikon sei anzuweisen, den vorläufig aufrechterhaltenen Eintrag des vorsorglichen Pfandrechts unverzüglich zu löschen. Zudem ersucht die Beschwerdeführerin um aufschiebende Wirkung.
Mit Verfügung vom 9. März 2012 hat das Bundesgericht das Gesuch um aufschiebende Wirkung abgewiesen.
Das Bundesgericht hat die Akten beigezogen, aber keine Vernehmlassungen eingeholt.
Erwägungen:
1. Im angefochtenen Urteil hat das Obergericht zwei bezirksgerichtliche Urteile mangels sachlicher Zuständigkeit desselben aufgehoben (vgl. BGE 137 III 563). Einerseits geht es um das Urteil vom 15. Juni 2011, in dem die vorläufige Eintragung eines Bauhandwerkerpfandrechts angeordnet wurde, und andererseits um dasjenige vom 11. Juli 2011, gemäss welchem dasselbe Pfandrecht infolge Leistung genügender Sicherheit wieder zu löschen sei. Das Obergericht hat des Weiteren angeordnet, den vorläufigen Eintrag provisorisch aufrechtzuerhalten unter Fristansetzung an die Beschwerdegegnerin, um beim Handelsgericht erneut die vorläufige Eintragung zu verlangen, und unter Androhung der Löschung des vorläufigen Eintrags, sofern kein entsprechendes Begehren gestellt werde. Es hat sich dabei auf eine Analogie zu Art. 63 Abs. 1 ZPO gestützt.
Der angefochtene Entscheid erschöpft sich damit nicht in einem Nichteintreten wegen mangelnder sachlicher Zuständigkeit, sondern sieht eine - wenn auch durch den Entschluss der Beschwerdegegnerin bedingte - Weiterführung des Prozesses um die vorsorgliche Eintragung des Bauhandwerkerpfandrechts vor. Es handelt sich somit nicht um einen Endentscheid (Art. 90 BGG). Abgesehen von der Bedingung ist der Entscheid vergleichbar mit einem Überweisungsentscheid, den das Bundesgericht als Zwischenentscheid über die Zuständigkeit qualifiziert (Art. 92 BGG; BGE 132 III 178 E. 1.2 S. 181; Urteil 4A_146/2010 vom 2. Juni 2010 E. 1, in: sic! 2011 S. 390; vgl. auch Urteil 9C_727/2010 vom 27. Januar 2012 E. 2.2, nicht publ. in: BGE 138 V 23, aber in: SVR 2012 EL Nr. 13 S. 40).
Die vorliegenden Umstände gestatten nun jedoch die Annahme nicht, dass die Beschwerdeführerin das obergerichtliche Urteil ohne weiteres anfechten kann. Die Beschwerdeführerin ist insoweit nicht beschwert, als das obergerichtliche Urteil im Verfahren LF110078 (vorläufige Eintragung des Bauhandwerkerpfandrechts) die Unzuständigkeit des Bezirksgerichts annimmt und das Eintragungsurteil deshalb aufhebt. Die Beschwerdeführerin bestreitet denn auch nicht die Rechtmässigkeit der vorinstanzlichen Ausführungen zur Unzuständigkeit des Bezirks- und zur Zuständigkeit des Handelsgerichts. Soweit das Obergericht allerdings den bestehenden vorläufigen Eintrag provisorisch aufrechterhalten hat (unter Fristansetzung an die Beschwerdegegnerin zu neuem Gesuch auf vorläufige Eintragung), kann die Beschwerdeführerin nicht anders behandelt werden als andere Grundeigentümer, die von einer vorläufigen Bauhandwerkerpfandrechtseintragung betroffen sind. Das Bundesgericht hat kürzlich entschieden, dass die Bewilligung der provisorischen Eintragung eines Bauhandwerkerpfandrechts einen Zwischenentscheid darstellt, der weder einen nicht wieder gutzumachenden Nachteil für den betroffenen Grundeigentümer bewirken kann (Art. 93 Abs. 1 lit. a BGG) noch die Voraussetzungen von Art. 93 Abs. 1 lit. b BGG erfüllt (BGE 137 III 589 E. 1.2 S. 590 ff.). Insoweit kann auf die Beschwerde nicht eingetreten werden.
Vom obergerichtlichen Urteil ist auch die geleistete Sicherstellung betroffen bzw. die Frage, ob das Pfandrecht infolge Bestellung derselben zu löschen ist (Verfahren LF110087). Über diese Fragen ist ebenfalls noch nicht definitiv entschieden, sondern ihre Beurteilung obliegt dem Handelsgericht, sofern die Beschwerdegegnerin dieses anrufen sollte. Hinsichtlich der Nichtlöschung des Pfandrechts bzw. seiner vorläufigen Aufrechterhaltung kann auf das Gesagte verwiesen werden. Hinsichtlich der Behandlung der Sicherstellung gilt dasselbe: Der angefochtene Entscheid kann keinen nicht wieder gutzumachenden Nachteil (Art. 93 Abs. 1 lit. a BGG) zur Folge haben und die Beschwerdeführerin behauptet auch keinen solchen (zu den Begründungsanforderungen BGE 137 III 324 E. 1.1 S. 328 f.). Es kommt einzig zu einer gewissen zeitlichen Verzögerung, bis entweder das Handelsgericht über ihr Schicksal befindet oder bis sie mangels Anrufung des Handelsgerichts freizugeben ist. Im Übrigen ist darauf hinzuweisen, dass die Beschwerdeführerin zwar beantragt, die Berufung der Beschwerdegegnerin abzuweisen. Mit anderen Worten verlangt sie damit, die Sicherheit zugunsten der Beschwerdegegnerin hinterlegt zu lassen. Sie legt aber nicht dar, wieso das Bezirksgericht zu einer Entgegennahme der Sicherheit und Anordnung der Löschung des Pfandrechts zuständig sein soll, wenn es anerkanntermassen für die Anordnung der Eintragung nicht zuständig war.
Auf die Beschwerde kann somit nicht eingetreten werden.
2. Bei diesem Ausgang des Verfahrens trägt die Beschwerdeführerin die Gerichtskosten (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 4'000.-- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird den Parteien, dem Obergericht des Kantons Zürich, II. Zivilkammer, und dem Grundbuchamt Zürich-Oerlikon schriftlich mitgeteilt.
Lausanne, 17. Juli 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Zingg