Sachverhalt:
A. A.a Der türkische Staatsangehörige X._ (geb. 1964) heiratete am 5. Oktober 1989 seine Landsfrau Y._ (geb. 1969). Aus der Ehe gingen drei Kinder hervor. Am 20. März 1997 wurde die Ehe geschieden und das Sorgerecht über die Kinder dem Vater zugesprochen. X._ verliess am 13. Oktober 1995 die Türkei und ersuchte in der Schweiz erfolglos um Asyl. Am 23. Oktober 1998 heiratete er eine Schweizer Bürgerin, worauf er im Oktober 2003 in der Schweiz die Niederlassungsbewilligung erhielt. Anschliessend liess er sich am 11. Mai 2005 von seiner Schweizer Ehefrau scheiden und heiratete am 2. August 2007 erneut seine frühere Ehefrau Y._. Ein Familiennachzugsgesuch für die Ehefrau und die Kinder wurde vom Migrationsamt des Kantons Zürich abgewiesen, da die Berufung auf den Familiennachzug rechtsmissbräuchlich sei. Dagegen erhobene Rechtsmittel beim Regierungsrat und dem Verwaltungsgericht des Kantons Zürich blieben erfolglos.
A.b X._ erhob am 26. April 2010 Beschwerde an das Bundesgericht und beantragte, das Urteil des Verwaltungsgerichts vom 3. Februar 2010 sei aufzuheben und der Kanton Zürich anzuweisen, den Nachzug von Y._ und den Kindern A._, B._ und C._ zu bewilligen. Das Bundesgericht hiess mit Urteil vom 21. September 2010 (2C_362/2010) die Beschwerde gut, hob das Urteil des Verwaltungsgerichts vom 3. Februar 2010 auf und wies die Sache zu neuem Entscheid im Sinne der Erwägungen an das Migrationsamt zurück. Es erhob keine Kosten, verpflichtete den Kanton Zürich, den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen, und das Verwaltungsgericht, über die kantonalen Kosten- und Entschädigungsfolgen neu zu befinden. In den Erwägungen befand es, ein Rechtsmissbrauch sei nicht hinreichend erstellt. Die Sache sei zur Prüfung der finanziellen Verhältnisse bzw. der Gefahr einer allfälligen Fürsorgeabhängigkeit im Falle des Familiennachzugs an das Migrationsamt zurückzuweisen.
B. Mit Beschluss vom 8. Dezember 2010 auferlegte das Verwaltungsgericht die Kosten des Verfahrens vor dem Regierungsrat und dem Verwaltungsgericht von insgesamt Fr. 3'792.-- den Parteien je hälftig und schlug die Parteikosten wett.
C. X._ erhebt beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, der angefochtene Beschluss sei aufzuheben und das Verwaltungsgericht sei anzuweisen, auf die Auferlegung von Kosten für das kantonale Rekurs- und Beschwerdeverfahren zu verzichten und ihm eine angemessene Parteientschädigung zuzusprechen; eventuell sei die Sache zur korrekten Festlegung der Kosten- und Entschädigungsfolgen an das Verwaltungsgericht zurückzuweisen.
D. Das Verwaltungsgericht beantragt Abweisung der Beschwerde. Die Sicherheitsdirektion und der Regierungsrat haben keine Vernehmlassung eingereicht.
E. Auf Verfügung des Instruktionsrichters vom 7. April 2011 hin reichte der Beschwerdeführer am 18. April 2011 die inzwischen erteilten Aufenthaltsbewilligung für die Ehefrau und Niederlassungsbewilligungen für die Kinder ein.
Erwägungen:
1. Die Zulässigkeit der Beschwerde an das Bundesgericht im Kostenpunkt folgt derjenigen in der Hauptsache. Da in Bezug auf die Hauptsache die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig war, ist sie auch im Kostenpunkt zulässig. Die Beschwerde an das Bundesgericht ist einzig gegen End- und Teilentscheide ohne weiteres zulässig (Art. 90 und 91 BGG), gegen Zwischenentscheide jedoch nur unter bestimmten Voraussetzungen (Art. 92 und 93 BGG). Ein Rückweisungsentscheid gilt als Zwischenentscheid (BGE 133 V 477 E. 4). Ein solcher liegt auch dann vor, wenn eine Vorinstanz des Bundesgerichts im Rahmen eines Rückweisungsentscheids über Kostenfolgen befindet (BGE 133 V 645 E. 1; 135 III 329). Ein derartiger Zwischenentscheid verursacht keinen nicht wieder gut zu machenden Nachteil (Art. 93 Abs. 1 lit. a BGG), weil der Kostenentscheid im Anschluss an den aufgrund des Rückweisungsentscheids neu ergehenden Endentscheid in der Sache angefochten werden kann (Art. 93 Abs. 3 BGG; BGE 135 III 329; 133 V 645 E. 2; Urteile 9C_567/2008 vom 30. Oktober 2010 E. 3 und 4 sowie 2C_759/2008 vom 6. März 2009 E. 2, in: StR 64/2009 S. 608). Entscheidet die Instanz, an welche die Sache zurückgewiesen wurde, in der Hauptsache voll zu Gunsten der beschwerdeführenden Person, so dass diese keinen Anlass mehr hat, diesen Entscheid in der Sache anzufechten, so kann die Kosten- oder Entschädigungsregelung im Rückweisungsentscheid direkt innerhalb der Frist von Art. 100 BGG ab Rechtskraft des Endentscheids mit ordentlicher Beschwerde beim Bundesgericht angefochten werden (BGE 133 V 645 E. 2.2 S. 648; 122 I 39 E. 1a/bb S. 42 f.; 117 Ia 251 E. 1b S. 254 f.; Urteil 9C_688/2009 vom 19. November 2009 E. 1.1, in: SVR 2010 IV Nr. 27; 9C_567/2008 vom 30. Oktober 2010 E. 4.2). Dasselbe gilt, wenn wie vorliegend das Bundesgericht einen Entscheid aufhebt, die Sache zur Neubeurteilung an die Verwaltung zurückweist und zugleich die Vorinstanz anweist, die Kosten für das vorangegangene Verfahren neu festzulegen, und in der Folge die Vorinstanz, bevor ein Endentscheid in der Sache vorliegt, diesen neuen Kostenentscheid fällt; auch in dieser Konstellation ist der vorinstanzliche Entscheid über die Kostenverlegung nur ein Zwischenschritt im gesamten Verfahrensablauf und kann erst im Nachgang zum Endentscheid in der Sache angefochten werden (Urteile 9C_117/2010 vom 23. Juli 2010 und 8C_980/2010 vom 16. Februar 2011). Nachdem inzwischen in der Folge des bundesgerichtlichen Rückweisungsentscheids die beantragten Bewilligungen am 19. Januar 2011 erteilt worden sind, ist der vorangegangene Kostenbeschluss des Verwaltungsgerichts vom 8. Dezember 2010 anfechtbar. Die Beschwerdefrist begann jedenfalls nicht vor dem 19. Januar 2011 zu laufen und ist mit der an diesem Datum eingereichten Beschwerde eingehalten. Auf das Rechtsmittel ist einzutreten.
2. 2.1 Die Kostenverteilung im kantonalen Rechtsmittelverfahren richtet sich mangels bundesrechtlicher Vorschriften nach kantonalem Recht, dessen Anwendung das Bundesgericht nur daraufhin überprüft, ob dadurch Bundesrecht mit Einschluss der Bundesverfassung verletzt ist (Art. 95 lit. a BGG), wozu namentlich auch die willkürliche Anwendung kantonalen Rechts gehört (Art. 9 BV).
2.2 Das Verwaltungsgericht hat die Kostenverteilung auf § 13 Abs. 2 sowie § 17 Abs. 2 des Gesetzes vom 24. Mai 1959 über den Rechtsschutz in Verwaltungssachen (Verwaltungsrechtspflegegesetz; VRG/ZH) gestützt. Nach § 13 Abs. 2 VRG/ZH tragen mehrere am Verfahren Beteiligte die Kosten in der Regel entsprechend ihrem Unterliegen. Nach § 17 Abs. 2 VRG/ZH kann die unterliegende Partei oder Amtsstelle zu einer angemessenen Entschädigung für die Umtriebe des Gegners verpflichtet werden. Das Verwaltungsgericht geht davon aus, dass das erste Verfahren vor Bundesgericht letztlich unentschieden ausgegangen sei, so dass die Kosten hälftig aufzuteilen seien.
2.3 Der Beschwerdeführer geht demgegenüber von einem vollumfänglichen Obsiegen aus; die Vorinstanzen hätten sich im ersten Umgang nicht zur Gefahr einer Fürsorgeabhängigkeit geäussert; nur aus diesem Grund habe das Bundesgericht die Sache zur neuen Beurteilung zurückgewiesen. Hätten die Vorinstanzen diese Frage geprüft, so hätte kein Anlass für eine Rückweisung mehr bestanden; es sei in höchstem Masse stossend, dass er für die Folgen der Verletzung der Untersuchungspflicht durch die Vorinstanzen einstehen müsse.
2.4 Für die Verteilung der Kosten für das bundesgerichtliche Verfahren (Art. 66 und 68 BGG) gilt eine Rückweisung zu erneutem Entscheid mit offenem Ausgang als Obsiegen (für das öffentliche Recht: BGE 131 II 72 E. 4; Urteil 1C_397/2009 vom 26. April 2010 E. 6; für das Zivilrecht: Urteil 4A_510/2010 vom 1. Dezember 2010 E. 4; für das Strafrecht Urteil 6B_560/2010 vom 13. Dezember 2010 E. 3). Im Sozialversicherungsrecht gilt dies von Bundesrechts wegen auch für das kantonale Verfahren (zur Publikation in der Amtlichen Sammlung bestimmtes Urteil 9C_592/2010 E. 2.1; BGE 133 V 450 E. 13; 132 V 215 E. 6.2; 110 V 54 E. 3a S. 57). Ebenso wurde unter Willkürgesichtspunkten im Urteil 6B_898/2010 vom 29. März 2011 E. 3.5 entschieden; es sei willkürlich, den Beschwerdeführer als nur teilweise obsiegend zu betrachten, nachdem er einen Freispruch beantragt und das kantonale obere Gericht den erstinstanzlichen Schuldspruch wegen gravierender Verfahrensmängel aufgehoben und die Sache zur Ergänzung der Untersuchung zurückgewiesen hatte. Desgleichen beurteilte es das Bundesgericht im Urteil 1P.289/2001 vom 7. November 2001 E. 2 als willkürlich, dass ein kantonales Verwaltungsgericht, welches eine Sache an die Verwaltung zur neuen Entscheidung zurückgewiesen hatte, dies als teilweises Unterliegen der Beschwerdeführer wertete. Aus dem Umstand, dass das Verwaltungsgericht mangels hinreichender Sachverhaltsabklärung nicht in der Sache selbst entschieden, sondern die Sache zur weiteren Prüfung an die Verwaltung zurückgewiesen habe, könne nicht geschlossen werden, die Beschwerdeführer seien teilweise unterlegen, zumal sie die mangelnde Sachverhaltsabklärung nicht zu vertreten hatten und in der Folge schliesslich vollständig obsiegten.
2.5 Wie im zuletzt genannten Entscheid verhält es sich auch hier: Der Beschwerdeführer hatte im ersten Umgang im kantonalen Rechtsmittelverfahren die Erteilung der Aufenthaltsbewilligung für seine Familienangehörigen beantragt, was die kantonalen Instanzen wegen Rechtsmissbrauchs ablehnten. Mit der Beschwerde vom 26. April 2010 beantragte der Beschwerdeführer beim Bundesgericht die Erteilung der Bewilligung. Zwar wies das Bundesgericht die Sache zurück und gab dem beantragten Rechtsbegehren damit nicht vollumfänglich statt; indessen erfolgte die Rückweisung nur deshalb, weil die Vorinstanzen die übrigen Bewilligungsvoraussetzungen nicht mehr geprüft hatten, nachdem sie von rechtsmissbräuchlicher Eheschliessung ausgegangen waren. Ein solches Vorgehen ist zwar aus prozessökonomischen Gründen zulässig, ändert aber nichts daran, dass nicht der Beschwerdeführer zu vertreten hat, dass das Bundesgericht mangels vollständig festgestellten Sachverhalts nicht selber reformatorisch entscheiden konnte. In dieser Konstellation ist es jedenfalls dann willkürlich, von einem teilweisen Unterliegen auszugehen, wenn in der Folge der Beschwerdeführer mit seinem von Anfang an vorgetragenen Antrag obsiegt. Die Rechtsprechung, wonach die im Rahmen eines Zwischenentscheids ergangene Kostenregelung nicht selbständig angefochten werden kann (vorne E. 1), wird unter anderem gerade auch damit begründet, dass die Rechtmässigkeit der Kostenregelung nicht isoliert von der Hauptsache beurteilt werden kann (BGE 122 I 39 E. 1a/aa; Urteil 9C_567/2008 E. 4.2). Demzufolge ist der Ausgang in der Hauptsache auch im Rahmen der Kostenverlegung zu berücksichtigen.
2.6 Die Beschwerde erweist sich daher als begründet. Für die Kostenverlegung im kantonalen Rechtsmittelverfahren ist von einem vollständigen Obsiegen des Beschwerdeführers auszugehen. Das Bundesgericht könnte zwar die Kosten für das kantonale Verfahren selber nach den kantonalen Rechtsgrundlagen festlegen (Art. 67 und Art. 68 Abs. 5 BGG). Das würde jedoch ein beziffertes Rechtsbegehren voraussetzen, das hier nicht vorliegt. Die Sache ist an das Verwaltungsgericht zurückzuweisen, damit es im Sinne der Erwägungen neu entscheide.
3. Bei diesem Verfahrensausgang sind keine Kosten zu erheben (Art. 66 Abs. 4 BGG). Der Kanton Zürich hat jedoch den Beschwerdeführer für das bundesgerichtliche Verfahren zu entschädigen (Art. 68 Abs. 1 und 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen. Der Beschluss des Verwaltungsgerichts des Kantons Zürich vom 8. Dezember 2010 wird aufgehoben und die Sache zu neuem Entscheid im Sinne der Erwägungen an das Verwaltungsgericht zurückgewiesen.
2. Es werden keine Kosten erhoben.
3. Der Kanton Zürich hat dem Beschwerdeführer für das bundesgerichtliche Verfahren eine Parteientschädigung von Fr. 2'000.-- zu bezahlen.
4. Dieses Urteil wird dem Beschwerdeführer sowie der Sicherheitsdirektion, dem Regierungsrat und dem Verwaltungsgericht, 2. Kammer, des Kantons Zürich schriftlich mitgeteilt.
Lausanne, 12. Mai 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Uebersax