Sachverhalt: A. Das Migrationsamt des Kantons Zürich ordnete mit Verfügung vom 25. November 2014 u.a. Folgendes an: "1. A._ darf das Gebiet der Stadt Zürich nicht betreten. Ausnahmebewilligungen für zwingende Reisen innerhalb des erwähnten Gebietes sind vorgängig beim Migrationsamt des Kantons Zürich schriftlich einzuholen. "1. A._ darf das Gebiet der Stadt Zürich nicht betreten. Ausnahmebewilligungen für zwingende Reisen innerhalb des erwähnten Gebietes sind vorgängig beim Migrationsamt des Kantons Zürich schriftlich einzuholen. -. 3. Sollte A._ dieser Ausgrenzungsverfügung zuwiderhandeln, wird er verzeigt und zur strafrechtlichen Beurteilung gemäss Art 119 AuG (Strafandrohung von Freiheitsstrafe) gebracht". B. Das Bezirksgericht Zürich als Zwangsmassnahmengericht hiess am 16. Dezember 2014 die von A._ dagegen eingereichte Beschwerde teilweise gut und befristete die Massnahme bis zum 25. N ovember 2015. C. A._ erhob dagegen Beschwerde beim Verwaltungsgericht des Kantons Zürich. Dieses hiess mit Urteil vom 5. März 2015 die Beschwerde gut und hob die eingangs genannten Verfügungen des Bezirksgerichts und des Migrationsamtes auf. D. Das Staatssekretariat für Migration (SEM) erhebt mit Eingabe vom 7. Mai 2015 Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht mit dem Antrag, der Entscheid des Verwaltungsgerichts sei aufzuheben. Das Verwaltungsgericht beantragt, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. A._ schliesst auf Abweisung. Das Bezirksgericht Zürich verzichtet auf Vernehmlassung.