Sachverhalt: A. Der aus dem Kosovo stammende X._ (geb. 1968) reiste erstmals 1989 als Saisonnier in die Schweiz ein. Nachdem er im Oktober 1992 mit einer für zwei Jahre gültigen Einreisesperre belegt worden war, heiratete er die in der Schweiz niederlassungsberechtigte Y._ und kehrte am 15. März 1993 unter Missachtung der Einreisesperre hierher zurück. Am 20. September 1994 wurde die Ehe rechtskräftig geschieden. Am 26. September 1995 brachte X._'s Landsfrau A._ (geb. 1970) in der Heimat das von diesem gezeugte Kind B._ zur Welt. Zwei weitere Kinder folgten (C._, geb. 1997, und D._, geb. 2000). In der Schweiz jedoch war X._ seit dem 9. September 1995 in kinderloser Ehe mit Z._ (geb. 1951) verheiratet. Gestützt auf diese Ehe - welche am 28. Juli 1998 für die Dauer von drei Jahren gerichtlich getrennt wurde - erhielt er zunächst eine Aufenthaltsbewilligung und später, am 11. Dezember 2000, die Niederlassungsbewilligung. Am 16. Juli 2001 wurde auch diese Ehe geschieden. B. Am 3. Januar 2002 heiratete X._ in seiner Heimat A._ und ersuchte am 11. Mai 2004 für sie und die gemeinsamen drei Kinder um Familiennachzug. Mit Verfügung vom 1. Oktober 2004 trat die Direktion für Soziales und Sicherheit des Kantons Zürich (Migrationsamt) auf dieses Gesuch nicht ein, widerrief die Niederlassungsbewilligung von X._ und setzte diesem Frist zum Verlassen des Kantonsgebiets. Zur Begründung führte das Migrationsamt im Wesentlichen aus, X._ sei über Jahre planmässig in dem Sinne vorgegangen, als er zunächst die Aufenthalts- und später die Niederlassungsbewilligung erschlichen habe, allein deshalb, um seine Familie aus Serbien nachziehen zu können. Seine Niederlassungsbewilligung sei deshalb zu widerrufen. Ein gegen diese Verfügung erhobener Rekurs beim Regierungsrat des Kantons Zürich blieb erfolglos, und mit Entscheid vom 23. Januar 2008 wies das Verwaltungsgericht des Kantons Zürich eine gegen den regierungsrätlichen Entscheid vom 15. August 2007 gerichtete Beschwerde ebenfalls ab, soweit es darauf eintrat. C. Mit Eingabe vom 17. März 2008 führt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht mit den Anträgen, das Urteil des Verwaltungsgerichts des Kantons Zürich vom 23. Januar 2008 aufzuheben, vom Widerruf der Niederlassungsbewilligung abzusehen, der Ehefrau und den gemeinsamen Kindern die Einreise in die Schweiz zu bewilligen und ihnen eine Niederlassungs- bzw. eventuell eine Aufenthaltsbewilligung zu erteilen. Die Staatskanzlei des Kantons Zürich beantragt - für den Regierungsrat - Abweisung der Beschwerde. Das Verwaltungsgericht des Kantons Zürich schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei. Das Bundesamt für Migration beantragt, die Beschwerde abzuweisen.