Sachverhalt:
A. Am 23. Juli 2009 erliess der Einzelrichter am Bezirksgericht Zürich auf Begehren von Y._ und Z._ einen Arrestbefehl (Arrest Nr. xxx) gestützt auf Art. 271 Abs. 1 Ziff. 4 SchKG (in der bis 31. Dezember 2010 gültigen Fassung) für eine Forderung gegen X._ über EUR 59'564'689.67 bzw. umgerechnet Fr. 90'345'934.-- zuzüglich Zinsen und Kosten. Als Forderungsgrund wird im Arrestbefehl auf eine Vereinbarung vom 21. März 1995 verwiesen und als Forderungsurkunde wird das Urteil des Obergerichts des Kantons Zürich vom 9. Januar 2003 genannt.
In der Folge wurden Vermögenswerte von X._ unter anderem bei der W._ AG verarrestiert. Nach Ausstellung der Arresturkunde am 8. September 2009 prosequierten Y._ und Z._ den Arrest mit Betreibungsbegehren vom 17. September 2009. Gegen den Zahlungsbefehl vom 18. September 2009 (Betreibung Nr. yyy des Betreibungsamtes Zürich 2) erhob X._ Rechtsvorschlag.
Das daraufhin von Y._ und Z._ gestellte Begehren um definitive Rechtsöffnung wurde vom Bezirksgericht am 16. April 2010 abgewiesen. Die Nichtigkeitsbeschwerde an das Obergericht des Kantons Zürich blieb erfolglos. Das Bundesgericht wies eine gegen diese beiden Entscheide erhobene Beschwerde am 5. September 2011 ab (Verfahren 5A_188/2011).
B. Mit Eingaben vom 15. und 16. Juli 2010 an das Betreibungsamt Zürich 2 brachte X._ vor, nach rechtskräftiger Abweisung des Rechtsöffnungsgesuchs könne der Arrest Nr. xxx nicht mehr prosequiert werden. Der Arrest falle dahin, weshalb er um Ausstellung einer diesbezüglichen Bestätigung ersuche. Mit als Verfügung bezeichnetem Schreiben vom 19. Juli 2010 wies das Betreibungsamt das Begehren ab.
Am 30. Juli 2010 erhob X._ Beschwerde an das Bezirksgericht Zürich als untere kantonale Aufsichtsbehörde und beantragte im Wesentlichen, die angefochtene Verfügung aufzuheben und das Betreibungsamt zur Ausstellung der verlangten Bestätigung anzuweisen. Das Bezirksgericht wies die Beschwerde mit Beschluss vom 16. Dezember 2010 ab.
Der von X._ am 30. Dezember 2010 an das Obergericht des Kantons Zürich als obere Aufsichtsbehörde erhobene Rekurs wurde mit Beschluss vom 11. April 2011 abgewiesen.
C. Am 26. April 2011 hat X._ (Beschwerdeführer) Beschwerde in Zivilsachen erhoben. Er verlangt im Wesentlichen die Aufhebung des angefochtenen Beschlusses vom 11. April 2011 und der Verfügung des Betreibungsamtes vom 19. Juli 2010 sowie die Anweisung an das Betreibungsamt, eine Bestätigung über das Dahinfallen des Arrestes Nr. xxx auszustellen, sobald die Verfügung des Bezirksgerichts Zürich vom 16. April 2010 (Verweigerung der definitiven Rechtsöffnung) rechtskräftig sei. Eventualiter verlangt er die Rückweisung zur Neuentscheidung.
Das Bundesgericht hat die Akten beigezogen, aber keine Vernehmlassungen eingeholt.
Erwägungen:
1. Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob ein Rechtsmittel zulässig ist (BGE 135 III 212 E. 1 S. 216 mit Hinweisen).
1.1 Anfechtungsobjekt der betreibungsrechtlichen Beschwerde (Art. 17 f. SchKG) sind - mit Ausnahme von Art. 17 Abs. 3 SchKG - Verfügungen eines Vollstreckungsorgans. Entsprechend ist die Beschwerde an das Bundesgericht (Art. 19 SchKG i.V.m. Art. 72 Abs. 2 lit. a BGG) nur zulässig, wenn der angefochtene Entscheid der oberen kantonalen Aufsichtsbehörde eine solche Verfügung betrifft. Es fehlt sonst an einem Endentscheid im Sinne von Art. 90 BGG (Urteil 5A_268/2007 vom 16. August 2007 E. 2.3, in: BlSchK 2008 S. 127). Unter einer Verfügung gemäss Art. 17 SchKG ist eine bestimmte behördliche Handlung in einem konkreten zwangsvollstreckungsrechtlichen Verfahren zu verstehen, die in Ausübung amtlicher Funktion ergeht (BGE 129 III 400 E. 1.1 S. 401; 128 III 156 E. 1c S. 157 f.). Die Verfügung muss die fragliche Zwangsvollstreckung in rechtlicher Hinsicht beeinflussen (BGE 129 III 400 E. 1.1 S. 401); sie zeitigt Aussenwirkungen und muss bezwecken, das Zwangsvollstreckungsverfahren voranzutreiben oder abzuschliessen (BGE 116 III 91 E. 1 S. 93 mit Hinweisen). Ob eine Verfügung vorliegt, entscheidet sich nach ihrem Gehalt, nicht nach ihrem Wortlaut oder Erscheinungsbild (Urteil C 266/03 vom 12. März 2004 E. 3.1, nicht publ. in: BGE 130 V 388; Urteil 7B.75/2006 vom 6. Juli 2006 E. 2.2.2). Keine Verfügungen sind namentlich blosse Meinungsäusserungen des Betreibungsorgans bzw. Mitteilungen über die künftigen Absichten desselben (BGE 116 III 91 E. 1 S. 93 f.; 94 III 83 E. 2 S. 88).
1.2 Die am Anfang dieses Verfahrens stehende Äusserung des Betreibungsamtes vom 19. Juli 2010 ist als Verfügung bezeichnet und enthält ein Dispositiv und eine Rechtsmittelbelehrung. Sie hat jedoch keine konkreten Auswirkungen auf den verhängten Arrest. Dies ist dem Beschwerdeführer bewusst, verlangt er doch in seiner Beschwerde an das Bundesgericht bestimmte Anweisungen an das Betreibungsamt für den Fall, dass das Gesuch von Y._ und Z._ um definitive Rechtsöffnung rechtskräftig abgewiesen werden sollte. Ob dies geschehen würde, war zum Zeitpunkt seiner ursprünglichen Eingaben vom 15./16. Juli 2010 wie auch bei Einreichung seiner Beschwerde in Zivilsachen unsicher. Die vom Betreibungsamt und den Aufsichtsbehörden behandelten Rechtsfragen waren insofern rein hypothetisch. Zum Zeitpunkt der Einschätzung des Betreibungsamtes war über die definitive Rechtsöffnung erst erstinstanzlich, aber eben noch nicht endgültig entschieden. Beim Schreiben des Betreibungsamtes vom 19. Juli 2010 handelt es sich mithin um eine reine Auskunft, wie es das allfällige künftige Scheitern des Rechtsöffnungsgesuchs handhaben werde. Eine Verfügung liegt demnach nicht vor. Die zwischenzeitlich erfolgte, endgültige Verweigerung der Rechtsöffnung ändert daran nichts (Urteil 5A_188/2011 vom 5. September 2011), denn das Bundesgericht ist darauf beschränkt, die Ordnungsmässigkeit des durchgeführten Verfahrens zu überprüfen und an der Rechtsnatur der Auskunft des Betreibungsamts ändert sich durch spätere Entwicklungen nichts. Auf die Beschwerde kann nicht eingetreten werden.
1.3 Der Beschwerdeführer ist darauf verwiesen, die zu gegebener Zeit erfolgende Feststellung der Betreibungsbehörden über den Hinfall des Arrestes (Art. 280 SchKG) und die Freigabe der verarrestierten Gegenstände (BGE 93 III 67 E. 1 S. 70 mit Hinweisen; BGE 77 III 140 S. 142) abzuwarten. Die allfällige Verweigerung der Freigabe wird in jenem Zeitpunkt anfechtbar sein.
2. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 10'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Verfahrensbeteiligten und dem Obergericht des Kantons Zürich, II. Zivilkammer, als obere kantonale Aufsichtsbehörde in Schuldbetreibungs- und Konkurssachen, schriftlich mitgeteilt.
Lausanne, 8. September 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Zingg