Sachverhalt: A. Am 6. Februar 2009 informierte das Veterinäramt des Kantons Zürich die im Kanton tätigen Rinder- und Schafhalter über die Pflicht, ihre Tiere aus Gründen der Tierseuchenprävention bis spätestens zum 31. Mai 2009 gegen die Blauzungenkrankheit impfen zu lassen. X._, der einen biologischen Landwirtschaftsbetrieb führt, lehnte es ab, der Impfpflicht nachzukommen. Am 20. Mai 2009 verfügte das Veterinäramt, dass der Rinder- und Schafbestand von X._ ab dem 1. Juni 2009 für den Tierverkehr gesperrt werde (einfache Sperre 1. Grades). Diese Massnahme wurde durch ergänzende Anordnungen konkretisiert wie diejenige, dass der gesperrte Bestand grundsätzlich weder durch die Abgabe von Tieren in andere Bestände noch durch Einstellen von Tieren aus solchen verändert werden dürfe und dass jeder direkte Kontakt zu Tieren anderer Bestände untersagt sei. Zeitlich verfügte das Veterinäramt, dass die Sperre und die ergänzenden Sperrmassnahmen bis zum Beginn der vektorfreien, d.h. von Krankheitsüberträgern freien, Periode oder bis zu deren schriftlichen Aufhebung durch das Veterinäramt gelten würden. B. Am 10. November 2009 wies die Gesundheitsdirektion des Kantons Zürich einen dagegen erhobenen Rekurs von X._ weitgehend ab, soweit sie darauf eintrat. Die teilweise Gutheissung betraf die Auferlegung der erstinstanzlichen Verfahrenskosten. C. Dagegen führte X._ Beschwerde beim Verwaltungsgericht des Kantons Zürich. Dieses wies die Beschwerde am 15. April 2010 ab, soweit es das Verfahren nicht als gegenstandslos abschrieb. Wie sich aus der Urteilsbegründung ergibt, wurde das Beschwerdeverfahren insoweit als gegenstandslos abgeschrieben, als X._ in der Hauptsache die tierseuchenpolizeilichen Massnahmen anfocht, weil insofern das schutzwürdige Interesse nachträglich weggefallen sei und es keinen Anlass gebe, davon ausnahmsweise abzusehen. Die Abweisung bezieht sich demgegenüber auf die ebenfalls angefochtenen Kosten- und Entschädigungsfolgen des Entscheids der Gesundheitsdirektion. D. Gegen dieses Urteil erhob X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht mit dem Antrag, den Entscheid des Verwaltungsgerichts aufzuheben und die Rechtswidrigkeit der ursprünglich angefochtenen Verfügung des Veterinäramts festzustellen; eventuell sei das Urteil des Verwaltungsgerichts aufzuheben und dieses anzuweisen, auf die Beschwerde einzutreten und diese materiell zu behandeln. E. Die Gesundheitsdirektion schliesst auf Nichteintreten auf die Beschwerde, eventuell auf Abweisung. Das Veterinäramt hat auf eine Vernehmlassung verzichtet. Das Verwaltungsgericht beantragt Abweisung der Beschwerde, soweit darauf einzutreten sei. Das Eidgenössische Volkswirtschaftsdepartement ersucht um Abweisung der Beschwerde. F. In Replik und Duplik, in denen im Wesentlichen die tierseuchenpolizeilichen Massnahmen als solche diskutiert werden, halten die Verfahrensbeteiligten, soweit sie sich nochmals äussern, an ihren Standpunkten fest. Am 2. sowie am 15. Februar 2011 reichte X._ nochmals ergänzende Eingaben ein (act. 24-27).