Sachverhalt: A. Der 1974 geborene kosovarische Staatsangehörige X._ ist in den Jahren 1991 und 1999 illegal in die Schweiz eingereist. Er stellte hier Asylgesuche, welche jeweils rechtskräftig abgewiesen wurden. Am 10. September 2001 heiratete er seine 1983 geborene Landsfrau Y._, welche über eine Niederlassungsbewilligung verfügte. Aus dieser Beziehung gingen insgesamt vier Kinder (geboren 2000-2007) hervor, welche ebenfalls die Niederlassungsbewilligung erhielten. X._ erhielt aufgrund seiner Ehe mit Y._ eine Aufenthaltsbewilligung, welche mehrmals - zuletzt bis zum 7. März 2007 - verlängert wurde. X._ wurde in der Schweiz wiederholt straffällig: Am 13. Oktober 1999 wurde er von der Bezirksanwaltschaft Zürich wegen Diebstahls zu einer bedingt vollziehbaren Gefängnisstrafe von 14 Tagen verurteilt; Das Bezirksamt Baden verurteilte ihn am 22. Oktober 2002 zu einer bedingt vollziehbaren Gefängnisstrafe von 30 Tagen sowie zu einer Busse von Fr. 400.-- wegen einfacher Körperverletzung und Widerhandlung gegen die Waffengesetzgebung; Mit Urteil vom 2. Dezember 2004 sprach ihn das Obergericht des Kantons Zürich der versuchten Erpressung, des Angriffs, der mehrfachen einfachen Körperverletzung, der versuchten Nötigung sowie der mehrfachen Wiederhandlung gegen die Waffengesetzgebung schuldig und verurteilt ihn zu einer Gefängnisstrafe von zwei Jahren, unter Anrechnung von 272 Tagen ausgestandener Polizei- und Untersuchungshaft; Das Verhöramt von Appenzell Ausserrhoden verurteilte ihn am 19. Juni 2007 wegen Widerhandlung gegen das kantonale Gastgewerbegesetz und grober Verletzung von Verkehrsregeln zu einer Geldstrafe von 30 Tagessätzen zu je Fr. 50.-- sowie zu einer Busse von Fr. 2'000.--. Zwischen dem 3. September 2007 und dem 25. April 2008 (bedingte Entlassung) befand sich X._ im Strafvollzug. B. Mit Verfügung vom 24. September 2007 lehnte das Migrationsamt des Kantons Zürich die Verlängerung der Aufenthaltsbewilligung von X._ unter Hinweis auf dessen Delinquenz ab. Hiergegen rekurrierte dieser erfolglos beim Regierungsrat des Kantons Zürich. Eine beim Verwaltungsgericht des Kantons Zürich eingereichte Beschwerde wurde mit Urteil vom 3. September 2008 abgewiesen. C. Mit Eingabe vom 8. Oktober 2008 führt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Er beantragt im Wesentlichen die Aufhebung des vorinstanzlichen Urteils und die Gutheissung des Gesuchs um Verlängerung der Aufenthaltsbewilligung. Während das Verwaltungsgericht des Kantons Zürich auf eine Vernehmlassung verzichtet, schliessen das Bundesamt für Migration und der Regierungsrat des Kantons Zürich auf Abweisung der Beschwerde. Mit Verfügung vom 13.Oktober 2008 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde die aufschiebende Wirkung zuerkannt.