Sachverhalt:
A. Der aus Angola stammende X._, geb. 13. Juni 1972, reiste im Januar 1999 erstmals in die Schweiz ein, wo er erfolglos um Asyl ersuchte. Am 2. Dezember 1999 heiratete er eine deutsche Staatsangehörige und war nach seiner Wegweisung in Deutschland wohnhaft. Im Mai 2001 reiste er illegal in die Schweiz ein, nachdem ihm die deutschen Behörden die Ausschaffung angedroht hatten. Am 21. Mai 2001 wurde seine Ehe annulliert, weil er seiner Ehefrau die Existenz seines ausserehelichen Sohnes Z._, geb. 14. November 2000, verschwiegen hatte. Am 28. Januar 2003 wurde X._, nachdem er ein zweites Asylgesuch eingereicht hatte, aus der Schweiz weggewiesen. Im Januar 2003 anerkannte X._ die Vaterschaft über seinen Sohn Z._ und schloss mit dessen Mutter einen Unterhaltsvertrag ab. Mit Verfügung vom 17. Februar 2003 traten die Einwohnerdienste Basel-Stadt als Fremdenpolizeibehörde auf ein Gesuch von X._ um Erteilung einer Aufenthaltsbewilligung nicht ein, worauf er am 4. März 2003 nach Deutschland ausgeschafft wurde.
B. Am 25. September 2003 heiratete X._ die Mutter seines Sohnes, die Schweizer Bürgerin Y._, worauf ihm am 12. März 2004 die Aufenthaltsbewilligung erteilt wurde. Nachdem sich die Ehegatten spätestens im November 2004 getrennt hatten, verfügte die Fremdenpolizeibehörde des Kantons Basel-Stadt am 25. Juli 2006 die Nichtverlängerung der Aufenthaltsbewilligung von X._. Ein dagegen erhobener Rekurs an das Sicherheitsdepartement des Kantons Basel-Stadt blieb erfolglos (Entscheid vom 21. Mai 2007).
Mit Urteil vom 10. Dezember 2007 wies das Appellationsgericht des Kantons Basel-Stadt als Verwaltungsgericht einen ihm vom Regierungsrat zuständigkeitshalber überwiesenen Rekurs ab.
C. Mit Eingabe vom 26. März 2008 erhebt X._ beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten mit den Anträgen, der Entscheid des Appellationsgerichts vom 10. Dezember 2007 sei aufzuheben, die Aufenthaltsbewilligung zu verlängern und auf eine Wegweisung zu verzichten; eventualiter sei die Angelegenheit zur neuen Beurteilung an die Vorinstanz zurückzuweisen.
Das Sicherheitsdepartement und das Appellationsgericht des Kantons Basel-Stadt sowie das Bundesamt für Migration schliessen auf Abweisung der Beschwerde.
D. Dem vom Beschwerdeführer gestellten Gesuch um aufschiebende Wirkung wurde mit Verfügung des Präsidenten der II. öffentlich-rechtlichen Abteilung vom 31. März 2008 entsprochen.

Erwägungen:
1. 1.1 Da das streitige Gesuch um Verlängerung der Aufenthaltsbewilligung noch vor Inkrafttreten des Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (AuG, SR 142.20) am 1. Januar 2008 eingereicht wurde, bleibt vorliegend noch das vormalige Bundesgesetz vom 26. Mai 1931 über Aufenthalt und Niederlassung der Ausländer (ANAG) anwendbar (Art. 126 Abs. 1 AuG).
1.2 Der Beschwerdeführer ist nach wie vor mit einer Schweizer Bürgerin verheiratet und hat damit einen grundsätzlichen Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung (Art. 7 Abs. 1 ANAG; <ref-ruling> E. 1.1.2 S. 148 f. mit Hinweisen). Im Weiteren kann sich der Beschwerdeführer im Verhältnis zu seinem minderjährigen Kind, welches über das Schweizer Bürgerrecht verfügt und damit ein gefestigtes Anwesenheitsrecht besitzt, für die Ausübung des Besuchsrechts auf das in Art. 8 EMRK bzw. Art. 13 Abs. 1 BV gewährleistete Recht auf Achtung des Familienlebens berufen und daraus einen potentiellen Bewilligungsanspruch ableiten (vgl. <ref-ruling> E. 1d S. 3 f.). Die Beschwerde in öffentlich-rechtlichen Angelegenheiten erweist sich damit als zulässig (Art. 83 lit. c Ziff. 2 BGG).
1.3 Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhalts kann nur gerügt bzw. vom Bundesgericht von Amtes wegen berichtigt oder ergänzt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 97 Abs. 1 BGG bzw. Art. 105 Abs. 2 BGG). Eine entsprechende Rüge, welche rechtsgenüglich substantiiert vorzubringen ist (Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG; vgl. <ref-ruling> E. 1.4.3 S. 254 f.), setzt zudem voraus, dass die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
2. 2.1 Dass die Ehe des Beschwerdeführers als definitiv gescheitert anzusehen ist, wie das Appellationsgericht unter Hinweis auf die einlässliche Begründung im Entscheid des Sicherheitsdepartements erkennt, und damit aufgrund des Rechtsmissbrauchsverbots keinen Anspruch im Sinne von Art. 7 Abs. 1 ANAG mehr zu verschaffen vermag, wird im Verfahren vor Bundesgericht nicht mehr in Frage gestellt.
Der Beschwerdeführer beruft sich demgegenüber auf seine Beziehung zum minderjährigen, über das Schweizer Bürgerrecht verfügenden Sohn.
2.2 Hat ein Ausländer nahe Verwandte mit einem gefestigten Anwesenheitsrecht in der Schweiz und wird die intakte familiäre Beziehung tatsächlich gelebt, kann es Art. 8 EMRK bzw. Art. 13 Abs. 1 BV verletzen, wenn ihm die Anwesenheit in der Schweiz untersagt und damit sein Familienleben vereitelt wird (<ref-ruling> E. 3.1 S. 285 mit Hinweisen). Der betreffende Anspruch gilt indessen nicht absolut. Vielmehr ist nach Art. 8 Ziff. 2 EMRK ein Eingriff in das durch Ziff. 1 geschützte Rechtsgut statthaft, soweit er gesetzlich vorgesehen ist und eine Massnahme darstellt, die in einer demokratischen Gesellschaft für die nationale Sicherheit, die öffentliche Ruhe und Ordnung, das wirtschaftliche Wohl des Landes, die Verteidigung der Ordnung und zur Verhinderung von strafbaren Handlungen, zum Schutz der Gesellschaft und Moral sowie der Rechte und Freiheiten anderer notwendig ist. Die Konvention verlangt insofern eine Abwägung der sich gegenüberstehenden privaten Interessen an der Bewilligungserteilung und den öffentlichen Interessen an deren Verweigerung, wobei Letztere in dem Sinne überwiegen müssen, dass sich der Eingriff als notwendig erweist (BGE 122 Il 1 E. 2 S. 6 mit Hinweisen).
2.3 Bei der im Hinblick auf die Bewilligungserteilung nach Art. 8 EMRK erforderlichen Interessenabwägung fällt das Interesse des um Bewilligung ersuchenden Ausländers namentlich dann ins Gewicht, wenn er mit der in der Schweiz anwesenheitsberechtigten Person zusammenlebt. Was das Verhältnis von Eltern zu ihren Kindern betrifft, gilt dies im Falle getrennt lebender Eltern für denjenigen Elternteil, dem das Sorgerecht zusteht. Der nicht sorgeberechtigte Ausländer kann die familiäre Beziehung zu seinen Kindern indessen zum Vornherein nur in einem beschränkten Rahmen, nämlich durch Ausübung des ihm eingeräumten Besuchsrechts, leben. Hierzu ist nicht unabdingbar, dass er dauernd im gleichen Land wie das Kind lebt und dort über eine Aufenthaltsbewilligung verfügt. Ein solches Besuchsrecht gegenüber einem in der Schweiz fest anwesenheitsberechtigten Kind verschafft dem ausländischen Elternteil daher im Allgemeinen noch keinen Anspruch auf dauernde Anwesenheit; den Anforderungen von Art. 8 EMRK ist Genüge getan, wenn das Besuchsrecht im Rahmen von Kurzaufenthalten vom Ausland her ausgeübt werden kann, wobei allenfalls dessen Modalitäten entsprechend auszugestalten sind. Ein weiter gehender Anspruch kann bestehen, wenn in wirtschaftlicher und affektiver Hinsicht eine besonders enge Beziehung zu den Kindern besteht, diese Beziehung wegen der Distanz zum Heimatland des Ausländers praktisch nicht aufrecht erhalten werden könnte und das bisherige Verhalten des Ausländers in der Schweiz zu keinerlei Klagen Anlass gegeben hat ("tadelloses Verhalten", "comportement irréprochable", "comportimento irreprensibile"; vgl. <ref-ruling> E. 3c S. 5, 22 E. 4a/b S. 25 f.; Urteile 2A.54/2007 vom 24. April 2007, E. 2.2; 2A.473/2006 vom 24. Januar 2007, E. 3.1; 2A.550/2006 vom 7. November 2006, E. 3.1; 2A.77/2006 vom 15. Februar 2006, E. 2.2.1; 2A.423/2005 vom 25. Oktober 2005, E. 4.3 mit weiteren Hinweisen).
2.4 Das Appellationsgericht hat die erwähnten Regeln, nach denen für die erleichterte Ausübung des Besuchsrechtes gegenüber einem hier anwesenheitsberechtigten Kind ausnahmsweise eine Aufenthaltsbewilligung beansprucht werden kann, zutreffend angewendet. Was der Beschwerdeführer dagegen vorbringt, vermag zu keinem anderen Ergebnis zu führen. Nach den verbindlichen Feststellungen im angefochtenen Urteil kann von einer besonders engen affektiven und wirtschaftlichen Beziehung des Beschwerdeführers zu seinem Kind nicht gesprochen werden. Zunächst ist festzuhalten, dass der Beschwerdeführer nie mit seinem Kind in einer Familiengemeinschaft gelebt hat, sondern sich seine Kontakte stets auf ein Besuchsrecht beschränkten. Dieses hat er zwar bis im Frühjahr 2006 mit gewisser Regelmässigkeit jeweils Samstags ausgeübt, doch waren diese Kontakte nicht frei von Spannungen, welche ihren Ursprung im Verhältnis zwischen den Eltern hatten, sich jedoch auch auf das Kind übertrugen. Erstellt ist sodann, dass der Beschwerdeführer Besprechungstermine bei der Vormundschaftsbehörde nicht wahrnahm und er sich nicht an die von dieser abgegebenen Empfehlungen in Bezug auf begleitete Besuchstage hielt. Nachdem sich die Kindesmutter in jüngerer Zeit geweigert hatte, ihm regelmässig Kontakt mit seinem Sohn zu gewähren, unternahm er keine Anstrengungen, sein Besuchsrecht mit Hilfe der Vormundschaftsbehörde, deren Ansprechpersonen ihm bekannt waren, durchzusetzen. Von einem regelmässigen und intensiven Wahrnehmen des Besuchsrechts kann damit nicht gesprochen werden. Das Vorliegen einer von der Rechtsprechung geforderten engen Bindung zwischen dem Beschwerdeführer und seinem Kind in affektiver Hinsicht ist somit nicht dargetan. Gleiches gilt für die Beziehung in wirtschaftlicher Hinsicht: Nach den Feststellungen der Vorinstanz hat der vorübergehend fürsorgeabhängige Beschwerdeführer zu keinem Zeitpunkt Unterhaltsbeiträge geleistet. Es kann offenbleiben, ob er - wie in der Beschwerde behauptet - zwischenzeitlich einzelne Zahlungen von Alimenten vorgenommen hat und wie es sich mit den auf seinen Namen eingelösten, mehreren Motorfahrzeugen, worunter solche der Marke BMW und Audi, verhält. Unbestritten ist, dass der Beschwerdeführer seinen Unterhaltspflichten über weite Strecken nicht nachgekommen ist, womit von einer in wirtschaftlicher Hinsicht engen Beziehung zwischen Vater und Kind im vorliegenden Zusammenhang nicht ausgegangen werden kann. Schliesslich fehlt es auch an der Voraussetzung des tadellosen Verhaltens des Beschwerdeführers. Dieser ist wegen Fahrens unter Drogeneinfluss und wegen Führens eines Motorfahrzeugs trotz Entzugs des Führerausweises vorbestraft. Darüber hinaus ist er seinen finanziellen Verpflichtungen - abgesehen von den geschuldeten Alimenten auch gegenüber seinem Vermieter sowie seiner Krankenkasse - nicht immer nachgekommen und erheblich verschuldet. Sodann musste er während Jahren von der Fürsorge unterstützt werden.
2.5 Nach dem Gesagten sind die Voraussetzungen, unter denen einem Ausländer zur Ausübung des Besuchsrechtes gegenüber einem in der Schweiz anwesenheitsberechtigten Kind der dauernde Aufenthalt bewilligt werden muss, in mehrfacher Hinsicht nicht erfüllt. Dass dem Beschwerdeführer die Aufrechterhaltung des persönlichen Verkehrs zu seinem Sohn von Angola aus schwer fallen dürfte, vermag, wie das Appellationsgericht zutreffend festgestellt hat, nichts zu ändern. Der angefochtene Entscheid verstösst nicht gegen Bundesrecht oder staatsvertragliche Garantien. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist somit als unbegründet abzuweisen.
3. Entsprechend dem Ausgang sind die Kosten des bundesgerichtlichen Verfahrens dem Beschwerdeführer aufzuerlegen (Art. 66 BGG). Parteientschädigungen sind nicht geschuldet (Art. 68 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, den Einwohnerdiensten Basel-Stadt, dem Sicherheitsdepartement und dem Appellationsgericht des Kantons Basel-Stadt als Verwaltungsgericht sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 2. Oktober 2008
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Merkli Moser