Sachverhalt:
A. Der aus Serbien stammende X._ (geb. 1974) reiste 1982 im Rahmen des Familiennachzugs zusammen mit seiner Mutter und seinen drei Geschwistern zu seinem hier aufenthaltsberechtigten Vater in die Schweiz ein und erhielt eine Aufenthaltsbewilligung, welche ihm regelmässig - letztmals bis zum 26. Januar 2010 - verlängert wurde. Aus einer Beziehung mit der Schweizer Bürgerin Y._ (geb. 1976) hat er den gemeinsamen Sohn Z._ (geb. 1998), welcher ebenfalls das Schweizer Bürgerrecht besitzt und bei seiner sorgeberechtigten Mutter in Zürich lebt.
B. X._ wurde wiederholt straffällig und wie folgt rechtskräftig verurteilt:
am 18. März 1993 vom Bezirksgericht Zürich wegen mehrfachen Raubes und Diebstahl zu einer Einschliessung von zwei Monaten (Jugendstrafe)
am 15. Dezember 1994 von der Bezirksanwaltschaft Zürich wegen mehrfachen Hausfriedensbruchs zu sieben Tagen Gefängnis (bedingt)
am 25. Mai 1999 vom Bezirksgericht Zürich wegen versuchter Nötigung zu zwei Monaten Gefängnis (bedingt)
am 28. Juni 1999 vom Obergericht des Kantons Zürich - zweitinstanzlich - wegen u.a. Freiheitsberaubung, einfacher Körperverletzung, Nötigung und Raufhandel zu 14 Monaten Gefängnis (bedingt)
am 4. Mai 2001 vom Obergericht des Kantons Zürich - zweitinstanzlich - wegen u.a. grober Verletzung der Verkehrsregeln und Vergehen gegen das Betäubungsmittelgesetz zu drei Monaten Gefängnis (unbedingt)
am 15. November 2002 von der Bezirksanwaltschaft Zürich wegen Fahrens in angetrunkenem Zustand und Übertretungen des Betäubungsmittelgesetzes zu einer Busse von Fr. 3'200.--
am 21. Februar 2008 von der Staatsanwaltschaft Limmattal/Albis wegen grober Verletzung der Verkehrsregeln zu einer Geldstrafe von 40 Tagessätzen zu Fr. 70.--
am 9. Februar 2009 vom Bezirksstatthalteramt Liestal wegen einfacher Verletzung der Verkehrsregeln zu einer Busse von Fr. 400.--
am 30. Oktober 2009 vom Obergericht des Kantons Zürich - zweitinstanzlich - wegen Widerhandlungen gegen das Betäubungsmittelgesetz und wegen Geldwäscherei zu einer Freiheitsstrafe von 30 Monaten (unter Aufschub des Vollzugs von 20 Monaten) und zu einer Busse von Fr. 1'500.--
Aufgrund seiner Straffälligkeit wurde X._ ausserdem am 18. Juni 1993 und am 8. September 2004 fremdenpolizeilich verwarnt und es wurden ihm schwerer wiegende fremdenpolizeiliche Massnahmen in Aussicht gestellt für den Fall, dass er erneut gerichtlich bestraft werde oder sein Verhalten zu anderen berechtigten Klagen Anlass geben sollte.
C. Nachdem die Sicherheitsdirektion des Kantons Zürich X._ das rechtliche Gehör gewährt und bei der Kindsmutter Abklärungen über die familiäre Situation vorgenommen hatte, wies sie mit Verfügung vom 24. Juni 2010 dessen Gesuch um Verlängerung der Aufenthaltsbewilligung ab; im Wesentlichen mit der Begründung, auf Grund der fortgesetzten und schwer wiegenden Delinquenz überwiege das sicherheitspolizeilich begründete öffentliche Interesse an der Nichtverlängerung der Aufenthaltsbewilligung die privaten Interessen des Betroffenen am Weiterbestand eines Aufenthaltsrechts in der Schweiz. Gleichzeitig setzte die Sicherheitsdirektion X._ Frist zum Verlassen des schweizerischen Staatsgebietes.
Der hiegegen beim Regierungsrat des Kantons Zürich erhobene Rekurs blieb erfolglos, und mit Urteil vom 29. Juni 2011 wies das Verwaltungsgericht des Kantons Zürich die gegen den regierungsrätlichen Beschluss vom 3. November 2010 gerichtete Beschwerde ebenfalls ab.
D. Mit Eingabe vom 13. September 2011 führt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht mit den Anträgen, das Urteil des Verwaltungsgerichts des Kantons Zürich vom 29. Juni 2011 aufzuheben und die kantonalen Behörden anzuweisen, die Aufenthaltsbewilligung des Beschwerdeführers zu verlängern und von dessen Wegweisung abzusehen. Eventuell sei die Angelegenheit zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Die Sicherheitsdirektion des Kantons Zürich hat sich nicht vernehmen lassen. Das Verwaltungsgericht des Kantons Zürich schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei. Das Bundesamt für Migration beantragt, die Beschwerde abzuweisen.
E. Mit Verfügung vom 22. September 2011 hat der Abteilungspräsident der Beschwerde - antragsgemäss - aufschiebende Wirkung zuerkannt.

Erwägungen:
1. 1.1 Gemäss <ref-law> ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten auf dem Gebiet des Ausländerrechts unzulässig gegen Entscheide betreffend Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt. Ebenso wenig ist sie zulässig gegen die Wegweisung (<ref-law>); soweit sich der Beschwerdeführer gegen die ihm auferlegte Ausreiseverpflichtung wendet, ist daher auf die Beschwerde nicht einzutreten.
1.2 Streitgegenstand ist sodann nicht der Widerruf einer ausländerrechtlichen Bewilligung, sondern deren Nichtverlängerung. Die Aufenthaltsbewilligung des Beschwerdeführers lief am 26. Januar 2010 ab, womit sie von Gesetzes wegen erloschen ist (vgl. Art. 61 Abs. 1 lit. c AuG). Der Beschwerdeführer hat keinen gesetzlichen Anspruch auf Verlängerung der Aufenthaltsbewilligung.
Hingegen leitet er einen Rechtsanspruch auf die entsprechende Verlängerung aus dem Recht auf Achtung des Privatlebens im Sinne von Art. 8 Ziff. 1 EMRK bzw. <ref-law> ab; ebenso macht er geltend, die Beziehung zu seinem Sohn stehe unter dem Schutz des dort ebenfalls garantierten Anspruchs auf Achtung des Familienlebens. Für das Eintreten ist einzig von Belang, ob der Beschwerdeführer durch einen Verwaltungsakt in seiner Eigenschaft als möglicher Träger der von Art. 8 Ziff. 1 EMRK geschützten Rechte berührt ist und eine Verletzung der entsprechenden Garantien in vertretbarer Weise geltend macht. Beides trifft vorliegend zu. Ob der Rechtsanspruch besteht, und, soweit dies zutrifft, im konkreten Fall auch tatsächlich verletzt wurde, ist in der Sache selbst zu klären (<ref-ruling> E. 1.1 S. 179 f.; <ref-ruling> E. 3.3 S. 500 f.; Urteil 2C_749/2011 vom 20. Januar 2012 E. 1.1). Insoweit ist auf die Beschwerde einzutreten.
1.3 Mit der Beschwerde kann eine Rechtsverletzung nach Art. 95 und 96 BGG geltend gemacht werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt bzw. vom Bundesgericht von Amtes wegen berichtigt oder ergänzt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law> bzw. <ref-law>). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (<ref-law>; vgl. <ref-ruling> E. 1.5 S. 146 f.).
2. Der Beschwerdeführer legt als zulässiges Novum ein Urteil des Kantonsgerichts Schwyz vom 4. November 2008 zu den Akten, woraus sich ergibt, dass er wegen eines Delikts aus dem Jahre 2003 (Fahren in fahrunfähigem Zustand), dessen erstinstanzliche Strafe (Geldstrafe von 30 Tagessätzen zu Fr. 90.--) ihm vom Verwaltungsgericht noch entgegengehalten worden ist, "von Schuld und Strafe freigesprochen" wurde. Ebenso macht er zu Recht geltend, dass eine weitere von der Vorinstanz erwähnte Verurteilung (vom 22. Januar 2003 zu 15 Monaten Gefängnis wegen Raubes) aufgehoben und er diesbezüglich ebenfalls freigesprochen wurde (in den Akten liegendes Urteil des Bezirksgerichts Zürich vom 22. Juni 2006). Offensichtlich unrichtig ist auch die vom Beschwerdeführer gerügte Feststellung des Verwaltungsgerichts, der Sohn Z._ sei 2009 geboren worden (S. 2 des angefochtenen Entscheides, vgl. aber vorne lit. A). Es wird zu prüfen sein, ob auch unter Berücksichtigung dieser Aspekte die Nichtverlängerung der Aufenthaltsbewilligung zulässig ist.
3. 3.1 Der von Art. 8 Ziff. 1 EMRK garantierte Anspruch auf Achtung des Familien- und Privatlebens gilt nicht absolut. Vielmehr ist nach Art. 8 Ziff. 2 EMRK ein Eingriff in das durch Ziff. 1 geschützte Rechtsgut statthaft, soweit er gesetzlich vorgesehen ist und eine Massnahme darstellt, die in einer demokratischen Gesellschaft für die nationale Sicherheit, die öffentliche Ruhe und Ordnung, das wirtschaftliche Wohl des Landes, die Verteidigung der Ordnung und zur Verhinderung von strafbaren Handlungen, zum Schutz der Gesellschaft und Moral sowie der Rechte und Freiheiten anderer notwendig ist. Die Konvention verlangt insofern eine Abwägung der sich gegenüberstehenden privaten Interessen an der Bewilligungserteilung und den öffentlichen Interessen an deren Verweigerung, wobei Letztere in dem Sinne überwiegen müssen, dass sich der Eingriff als notwendig erweist (<ref-ruling> E. 2.1 S. 147, 153 E. 2.2.1 S. 156; <ref-ruling> E. 2 S. 6 mit Hinweisen).
3.2 Gemäss Art. 33 Abs. 3 AuG kann eine Aufenthaltsbewilligung verlängert werden, wenn keine Widerrufsgründe nach Art. 62 vorliegen. Das Verwaltungsgericht hat deshalb die gerügte Nichtverlängerung der Aufenthaltsbewilligung zu Recht unter dem Aspekt von Art. 62 AuG und der dazu ergangenen Rechtsprechung geprüft. Einen Widerrufsgrund setzt ein Ausländer demnach unter anderem dann, wenn er "zu einer längerfristigen Freiheitsstrafe verurteilt wurde" (Art. 62 lit. b AuG) oder "erheblich oder wiederholt gegen die öffentliche Sicherheit und Ordnung in der Schweiz oder im Ausland verstossen hat oder diese gefährdet (...)" (Art. 62 lit. c AuG). Als längerfristig im Sinne von Art. 62 lit. b AuG gilt eine Freiheitsstrafe, wenn ihre Dauer ein Jahr überschreitet (<ref-ruling> E. 4.2 und E. 4.5 S. 379 ff.).
Zwar besteht so oder anders, auch wenn das Vorliegen einschlägiger Widerrufsgründe verneint wird, kein gesetzlicher Anspruch auf Verlängerung der Aufenthaltsbewilligung (vorne E. 1.2). Umgekehrt aber schliesst das Vorliegen von Widerrufsgründen (mit Einschluss der in Art. 62 in Verbindung mit Art. 96 AuG enthaltenen Verhältnismässigkeitsprüfung) die Verlängerung der Bewilligung aus. Art. 33 Abs. 3 in Verbindung mit Art. 62 AuG stellt damit die gesetzliche Grundlage im Sinne von Art. 8 Ziff. 2 EMRK für den Eingriff in die von Art. 8 Ziff. 1 EMRK geschützten Garantien dar (vorne E. 3.1) und ist insoweit zu überprüfen.
4. 4.1 Nach der Rechtsprechung schützt Art. 8 EMRK im Zusammenhang mit der Bewilligung des Aufenthalts in erster Linie die Kernfamilie, d.h. die Gemeinschaft der Ehegatten mit ihren minderjährigen Kindern (<ref-ruling> E. 1.3.2 S. 146 mit Hinweisen). In den Schutzbereich von Art. 8 EMRK fallen aber auch nicht rechtlich begründete familiäre Verhältnisse, sofern eine genügend nahe, echte und tatsächlich gelebte Beziehung besteht; entscheidend ist die Qualität des Familienlebens und nicht dessen rechtliche Begründung (<ref-ruling> E. 3.1 S. 148; vgl. auch Urteil des EGMR Khan gegen Vereinigtes Königreich vom 12. Januar 2010, [47486/06] § 34 f. mit Hinweisen). Der Anspruch auf Schutz des Privatlebens kann auch ohne Familienbezug tangiert sein, wenn ein Ausländer ausgewiesen werden soll (Urteil des EGMR A.A. gegen Vereinigtes Königreich vom 20. September 2011, [8000/08] § 49). Aus diesem Anspruch ergibt sich ein Recht auf Verbleib im Land aber nur unter besonderen Umständen. Eine lange Anwesenheit und die damit verbundene normale Integration genügen hierzu nicht; erforderlich sind besonders intensive private Beziehungen beruflicher oder gesellschaftlicher Natur (<ref-ruling> E. 3.2.1 S. 286; <ref-ruling> E. 2c S. 384 ff.; <ref-ruling> E. 3b S. 22).
4.2 Bei der Interessenabwägung im Rahmen von Art. 8 Ziff. 2 EMRK sind die Schwere des begangenen Delikts, der seit der Tat vergangene Zeitraum, das Verhalten des Ausländers während dieser Periode, die Auswirkungen auf die betroffene Person sowie deren familiäre Situation zu berücksichtigen. Zudem sind die Dauer einer allfälligen ehelichen Beziehung und weitere Gesichtspunkte relevant, welche Rückschlüsse auf deren Intensität zulassen (Geburt und Alter allfälliger Kinder; Kenntnis der Tatsache, dass die Beziehung wegen der Straftat unter Umständen nicht in der Schweiz gelebt werden kann). Von Bedeutung sind auch die Nachteile, welche dem Ehepartner oder den Kindern erwachsen würden, müssten sie dem Betroffenen in dessen Heimatstaat folgen (Urteile 2C_793/2008 vom 27. März 2009, E. 2.1; 2A.65/2006 vom 23. Juni 2006, E. 2f. ), ebenso die Qualität der sozialen, kulturellen und familiären Beziehungen zum Gast- bzw. zum Heimatland, vgl. die Urteile des EGMR Üner gegen Niederlande vom 18. Oktober 2006, Rz. 57 sowie A.A. gegen Vereinigtes Königreich vom 20. September 2011, § 56).
4.3 Aus familienrechtlichen Gründen muss der Elternteil, der sich für das Zusammenleben mit seinen Kindern auf Art. 8 EMRK beruft, grundsätzlich über das Sorge- bzw. Obhutsrecht verfügen (<ref-ruling> E. 2.3.1; <ref-ruling> E. 4.2.1 und 4.2.2 S. 250 f.; <ref-ruling> E. 2.2.4 S. 158). Der nicht sorge- bzw. obhutsberechtigte Ausländer kann die familiäre Beziehung mit seinen Kindern schon aus zivilrechtlichen Gründen von vornherein nur in einem beschränkten Rahmen leben, nämlich durch Ausübung des ihm eingeräumten Besuchsrechts. Hierzu ist grundsätzlich nicht erforderlich, dass er dauernd im gleichen Land wie das Kind lebt und dort über eine Aufenthaltsbewilligung verfügt. Ein Anspruch auf Erteilung einer Aufenthaltsbewilligung ist ausnahmsweise dann zu bejahen, wenn zwischen dem Ausländer und dessen Kindern in wirtschaftlicher und affektiver Hinsicht besonders enge Beziehungen bestehen, die - würde eine Bewilligung verweigert - wegen der Distanz zwischen der Schweiz und dem Land, in welches der Ausländer vermutlich auszureisen hätte, praktisch nicht aufrechterhalten werden könnten. Zudem muss sich der Ausländer tadellos verhalten haben (vgl. Urteil 2C_578/2011 vom 1. Dezember 2011, E. 3.4.3 mit Hinweisen).
5. 5.1 Der Beschwerdeführer - bei dem jedenfalls der Widerrufsgrund von Art. 62 lit. b AuG (längerfristige Freiheitsstrafe) erfüllt ist - beruft sich für die Begründung seines Anspruchs auf ein Anwesenheitsrecht aus Art. 8 EMRK nicht auf eine gelebte Beziehung zu einer Schweizer Partnerin, sondern in erster Linie auf seine lange hiesige Anwesenheit (29 Jahre). Er rügt eine qualifiziert falsche Interessenabwägung durch das Verwaltungsgericht und macht geltend, die vier Verurteilungen in den Jahren 1993 bis 2001 beruhten auf Straftaten, die allesamt weit über zehn Jahre zurücklägen und die er als Minderjähriger bzw. junger Erwachsener begangen habe, was ihm zugute gehalten werden müsse. Zwischen Juli 2001 und Oktober 2007 habe er sich nichts mehr zu Schulden kommen lassen. Das Obergericht des Kantons Zürich habe bei der letzten Verurteilung (wegen Drogenhandels 2009, vgl. vorne lit. A) ausserdem das Verschulden als "noch nicht besonders schwer" bezeichnet und ausgeführt, der Handel mit deutlich über einer halben Tonne Cannabis-Produkten sei kein Handel mit harten, extrem gesundheitsschädlichen Betäubungsmitteln wie Heroin oder Kokain, was das objektive und subjektive Verschulden "stark" relativiere. Seit seiner Entlassung aus dem Strafvollzug im März 2009 habe er sich ausserdem wohl verhalten und drohe nun seine Arbeitsstelle zu verlieren.
5.2 Zwar trifft zu, dass nach <ref-law> (in der seit 1. Januar 2007 in Kraft stehenden Fassung) aus dem Strafregister entfernte Urteile dem Betroffenen nicht mehr entgegengehalten werden dürfen. An diese Urteile dürfen somit generell keine Rechtsfolgen mehr geknüpft werden (vgl. <ref-ruling> E. 2.10 mit Hinweisen). Im Bereich der ausländerrechtlichen Interessenabwägung ist aber das Verwertungsverbot gemäss <ref-law> insofern zu relativieren, als es den Fremdenpolizeibehörden nicht verwehrt ist, strafrechtlich relevante Daten, die sich in ihren Akten befinden oder ihnen anderweitig bekannt sind bzw. werden, namentlich solche, die Anlass zu einer fremdenpolizeilichen Verwarnung gaben, nach deren Löschung im Strafregister in die Beurteilung des Verhaltens des Ausländers während seiner gesamten Anwesenheit in der Schweiz einzubeziehen (vgl. Urteil 2C_477/2008 vom 24. Februar 2009, E. 3.2.2).
Dass die Vorinstanz die im jugendlichen Alter begangenen Verfehlungen des Beschwerdeführers (mit-)berücksichtigt hat, ist demnach nicht zu beanstanden. Sie machen deutlich, dass der Beschwerdeführer im Unterschied zu dem von ihm angerufenen Urteil Khan (vorne E. 4.1) nicht bloss einmal, sondern wiederholt delinquiert hat, und zwar nicht nur als Jugendlicher, sondern auch als Erwachsener. Die zahlreichen Verurteilungen über einen langen Zeitraum hinweg betreffen sodann zum Teil gravierende Delikte (vgl. vorne lit. A), was insbesondere auch für die letzte bekannte Verurteilung gilt (Handel mit Cannabis). Dieses Betäubungsmittel ist zwar nicht geeignet, im Sinne von <ref-law> die körperliche und seelische Gesundheit vieler Menschen in eine naheliegende und ernstliche Gefahr zu bringen, aber in gesundheitlicher Hinsicht trotzdem nicht unbedenklich (<ref-ruling> E. 2c S. 259). Zudem handelte der Beschwerdeführer mit einer sehr grossen Menge (deutlich über einer halben Tonne), hohem Verkaufserlös (über Fr. 2'000'000.--) und erheblichem Gewinn (mindestens Fr. 200'000.--), weswegen er nicht bloss wegen einfacher, sondern wegen qualifizierter Widerhandlung gegen das Betäubungsmittelgesetz (<ref-law>) verurteilt worden ist, was ebenso schwer wiegt wie eine Verurteilung nach Art. 19 Ziff. 2 lit. a dieses Gesetzes (<ref-ruling> nicht publ. E. 3.7).
Die - knappen - Ausführungen des Verwaltungsgerichts zu den persönlichen Verhältnissen des Beschwerdeführers und zur Zumutbarkeit einer Rückreise in die Heimat sind nicht zu beanstanden, durfte die Vorinstanz doch berücksichtigen, dass es sich beim Beschwerdeführer nicht um einen "Ausländer der zweiten Generation" handelt; er hat immerhin einen Teil seiner Jugend in der Heimat verbracht. Der blosse Umstand, dass er seine Arbeitsstelle zu verlieren droht und damit als in beruflicher Hinsicht integriert gelten kann, ist kein Hindernis für eine Rückreise und nicht geeignet, ihm einen Anspruch auf Anwesenheit im Sinne von Art. 8 Ziff. 1 EMRK (Schutz des Privatlebens) zu verschaffen (vgl. vorne E. 4.1).
5.3 Im Weiteren beruft sich der Beschwerdeführer für die Begründung seines Anwesenheitsanspruchs auf die Beziehung zu seinem Sohn, mit dem er allerdings nicht zusammenlebt und der unter alleiniger elterlicher Sorge der Mutter steht. In diesem Zusammenhang macht er geltend, sein Sohn sei - in Missachtung von Art. 12 des Übereinkommens vom 20. November 1989 über die Rechte des Kindes (Kinderrechte-Konvention, KRK; SR 0.107) - trotz eines entsprechenden Antrags nicht persönlich angehört worden; ebenso habe die Vorinstanz zahlreiche zur Frage der Vater-Sohn-Beziehung angebotene Beweise zu Unrecht nicht abgenommen, so etwa die Einholung von Berichten der Familienbegleiterin und des Psychotherapeuten. Damit sei dem Kindeswohl seines Sohnes nicht gebührend Rechnung getragen worden.
Wohl trifft es zu, dass die kantonalen Behörden auf die persönliche Anhörung des Kindes verzichtet haben. Die Kinderrechte-Konvention (Art. 12) verlangt aber nicht zwingend eine persönliche Anhörung des Kindes (<ref-ruling> E. 3c S. 368, Urteile 2C_746/2009 vom 16. Juni 2010 E. 4 sowie 6B_133/2007 vom 29. Mai 2008 E.3.3). Der Beschwerdeführer konnte die Anliegen seines Sohnes im Verfahren einbringen, was er auch getan hat (vgl. "Einvernahme zur Sache" vom 17. Februar 2010 bei der Stadtpolizei Zürich). Damit ist den formellen Anforderungen der Kinderrechte-Konvention - welche im Übrigen keinen unmittelbaren Anspruch auf die Erteilung einer ausländerrechtlichen Bewilligung gewährt (BGE <ref-ruling> E. 5 S. 391 f.; <ref-ruling> E. 3b S. 367) - Genüge getan.
Ebenso trifft zu, dass die Sachverhaltsfeststellungen der Vorinstanz zur Vater-Sohn-Beziehung nicht besonders ausführlich ausgefallen sind; immerhin aber konnte sie sich auf die dazu ergangenen Abklärungen des Migrationsamtes stützen (vgl. etwa den Bericht der Kindsmutter vom 16. April 2010, wonach der Sohn nach Besuchen seines Vaters "zunehmend aggressiv" und "verwirrt" erscheine), und sie durfte berücksichtigen, dass beim Beschwerdeführer von "tadellosem Verhalten" (vgl. vorne E. 4.3) keine Rede sein kann. Bei ihm, der "hierarchisch eine bedeutende Stellung im Cannabis-Handel" innehatte (Urteil des Obergerichts des Kantons Zürich vom 30. Oktober 2009, S. 10), überwiegt das öffentliche Interesse an der Fernhaltung, auch wenn dies zur Trennung vom Sohn führt (vgl. Urteile 2C_541/2009 vom 1. März 2010, 2C_2/2009 vom 23. April 2009 und 2C_697/2008 vom 2. Juni 2009). Dessen finanzielle und anderweitige Unterstützung bzw. die Aufrechterhaltung des Kontaktes zwischen Vater und Sohn - etwa besuchsweise - ist auch von der Heimat des Beschwerdeführers aus möglich. An diesem Ergebnis hätten auch die vom Beschwerdeführer verlangten eingehenderen Abklärungen nichts geändert.
6. Nach dem Gesagten erweist sich die im angefochtenen Entscheid geschützte Nichtverlängerung der Aufenthaltsbewilligung als gesetzes- und konventionskonform. Die Beschwerde ist als unbegründet abzuweisen, soweit darauf eingetreten werden kann.
Bei diesem Ausgang sind die Kosten des bundesgerichtlichen Verfahrens dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 und Art. 65 BGG). Auf die Zusprechung einer Parteientschädigung besteht kein Anspruch (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, der Sicherheitsdirektion (Migrationsamt), dem Regierungsrat und dem Verwaltungsgericht (2. Kammer) des Kantons Zürich sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 27. März 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Klopfenstein