Sachverhalt:
A. Der nigerianische Staatsangehörige X._ (geb. 1979) reiste im Oktober 2002 illegal und unter der falschen Identität A._, liberianischer Staatsbürger, in die Schweiz ein und stellte hier ein Asylgesuch. Nach dessen Ablehnung reichte er Rekurs ein und verschwand schliesslich im Mai 2005. Am 1. November 2005 heiratete er die Schweizer Bürgerin B._ (geb. 1979), worauf er die Aufenthaltsbewilligung zum Verbleib bei der Ehefrau erhielt. Im Februar 2007 verweigerte ihm die Ehefrau den Zutritt zur ehelichen Wohnung und im August 2007 wurde die Ehe geschieden. Noch im gleichen Jahr nahm X._ eine Beziehung zur ghanaischen Staatsangehörigen Y._ (geb. 1986) auf, die in der Schweiz niederlassungsberechtigt ist. Am 30. Januar 2008 kam der gemeinsame Sohn Z._ zur Welt. Er wurde in die Niederlassungsbewilligung der Mutter einbezogen und vom Vater am 19. September 2008 anerkannt.
Das Verhalten von X._ in der Schweiz gab wiederholt Anlass zu schweren Klagen:
Mit Urteil des Strafgerichtspräsidenten Basel-Stadt vom 9. März 2004 wurde er wegen mehrfacher einfacher Körperverletzung, Gewalt und Drohung gegen Behörden und Beamte, Missachtens einer Massnahme sowie Widerhandlung gegen das Betäubungsmittelgesetz zu einer bedingt vollziehbaren Gefängnisstrafe von fünf Monaten, bei einer Probezeit von zwei Jahren, verurteilt;
Mit Urteilen des Strafgerichts Basel-Stadt bzw. der Strafgerichtspräsidentin Basel-Stadt vom 25. Oktober 2004, 30. November 2004 und 21. Dezember 2004 wurde er wegen Missachtens von Zwangsmassnahmen im Ausländerrecht mit drei Tagen, fünf Tagen und 20 Tagen Gefängnis bestraft;
Das Bezirksamt Baden sprach ihn am 18. Mai 2006 der Geldwäscherei und des Ungehorsams im Betreibungs- und Konkursverfahren schuldig und verurteilte ihn zu einer Gefängnisstrafe von 90 Tagen, bedingt vollziehbar mit einer Probezeit von zwei Jahren, sowie zu einer Busse von Fr. 200.--;
Jedenfalls seit Beginn des Jahres 2007 bis zu seiner Verhaftung am 7. Juli 2008 beteiligte sich X._ auf einer gehobenen hierarchischen Ebene am organisierten Drogenhandel mit Kokain. Er wurde deswegen vom Strafgericht Basel-Stadt am 7. Mai 2009 der qualifizierten Widerhandlung gegen das Betäubungsmittelgesetz, der mehrfachen Geldwäscherei und der Hinderung einer Amtshandlung schuldig gesprochen und zu einer Gesamtfreiheitsstrafe von dreieinhalb Jahren sowie zu einer Geldstrafe von 14 Tagessätzen zu je Fr. 30.-- verurteilt.
B. Nach Gewährung des rechtlichen Gehörs verfügte das Migrationsamt Basel-Stadt am 3. Dezember 2009 die Nichtverlängerung der am 31. Oktober 2008 abgelaufenen Aufenthaltsbewilligung von X._ und wies ihn auf den Zeitpunkt seiner Entlassung aus dem Strafvollzug aus der Schweiz weg. Gleichzeitig entzog es einem allfälligen Rekurs die aufschiebende Wirkung. Diesbezüglich erwog das Migrationsamt insbesondere, das öffentliche Interesse an einer Wegweisung von X._ sei wegen der Art und der Schwere der begangenen Straftaten äusserst ausgeprägt: Da er nicht zum ersten Mal verurteilt worden sei, könne die Wiederholungsgefahr nicht ausgeschlossen werden und würde sein weiteres Verweilen im Lande ein hohes Risiko für die öffentliche Sicherheit darstellen. Die privaten Interessen von X._ am weiteren Verbleib in der Schweiz vermöchten das Fernhalteinteresse nicht zu überwiegen, zumal er schlecht integriert sei. Daraus folge, dass er das Land bereits während der Dauer eines allfälligen Rechtsmittelverfahrens zu verlassen habe.
Gegen diese Verfügung rekurrierte X._ beim Justiz- und Sicherheitsdepartement Basel-Stadt und beantragte unter anderem die Wiederherstellung der aufschiebenden Wirkung des Rekurses. Das Departement wies dieses Begehren mit Verfügung vom 4. Januar 2010 ab.
Hiergegen gelangte X._ mittels eines erneuten Rekurses an den Regierungsrat des Kantons Basel-Stadt. Der Regierungsrat überwies den Rekurs zur Beurteilung an das Appellationsgericht des Kantons Basel-Stadt als Verwaltungsgericht. In seinem Urteil vom 27. April 2010 wies dieses den Rekurs ab: Das Appellationsgericht hielt die Verweigerung der aufschiebenden Wirkung einerseits wegen der an den Tag gelegten Gefährlichkeit, der Strafunempfindlichkeit sowie der immer schwereren Delinquenz und andererseits wegen der noch nicht lange gelebten Beziehung zur ghanaischen Lebenspartnerin bzw. zum Sohn sowie wegen seiner fehlenden Integration für gerechtfertigt.
C. Mit Eingabe vom 11. Juni 2010 führt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Er beantragt die Aufhebung des Urteils des Appellationsgerichts und die Wiederherstellung der aufschiebenden Wirkung des beim Justiz- und Sicherheitsdepartement hängigen Rekurses. Eventuell sei die Sache zur neuerlichen Entscheidung an die Vorinstanz zurückzuweisen.
Das Justiz- und Sicherheitsdepartement des Kantons Basel-Stadt schliesst auf Abweisung der Beschwerde. Das Appellationsgericht Basel-Stadt und das Bundesamt für Migration haben auf eine Vernehmlassung verzichtet.
Mit Verfügung vom 19. Juli 2010 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde antragsgemäss aufschiebende Wirkung für das bundesgerichtliche Verfahren zuerkannt.

Erwägungen:
1. 1.1 Angefochten ist ein kantonal letztinstanzlicher Zwischenentscheid über die Verweigerung der aufschiebenden Wirkung des vom Beschwerdeführer beim Justiz- und Sicherheitsdepartement Basel-Stadt eingereichten Rekurses. Gegen einen solchen Zwischenentscheid ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten - abgesehen von hier nicht interessierenden weiteren Fällen - nur zulässig, wenn in der Hauptsache ebenfalls die ordentliche Beschwerde offen stünde (E. 1.2 hiernach; Urteil des Bundesgerichts 2C_483/2009 vom 18. September 2009 E. 2.1 und E. 2.2; vgl. auch <ref-ruling> E. 1.3.2 ff. S. 34 ff.) und soweit dem Betroffenen aufgrund des Zwischenentscheids ein nicht wieder gutzumachenden Nachteil entstehen kann (E. 1.3 hiernach; vgl. <ref-law>).
1.2 Die Zulässigkeit der Beschwerde in der Sache selbst hängt davon ab, ob das Bundesrecht oder das Völkerrecht einen Anspruch auf die fragliche ausländerrechtliche Bewilligung einräumt (<ref-law>). Nach dem hiervor Ausgeführten ist der Beschwerdeführer seit längerem nicht mehr mit einer Schweizerin verheiratet und die besagte Ehe hatte nicht einmal zwei Jahre Bestand. Ein Anspruch gestützt auf Art. 42 Abs. 1 und Art. 50 Abs. 1 lit. a des Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (Ausländergesetz, AuG; SR 142.20) scheidet deshalb aus. Indessen hat der Beschwerdeführer gestützt auf Art. 8 EMRK bzw. <ref-law> einen grundsätzlichen Anspruch auf das Zusammenleben mit seinem hier niederlassungsberechtigten Kind, da die Beziehung zu diesem im Rahmen des Möglichen gelebt wird und intakt erscheint (vgl. <ref-ruling> E. 1.3.1 und E. 1.3.2 S. 145 f.). In der Hauptsache steht somit die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen.
1.3 Die Verpflichtung eines Ausländers, die Schweiz zu verlassen und das Ergebnis eines ausländerrechtlichen Bewilligungs- bzw. Rekursverfahrens im Ausland abzuwarten, schafft für diesen einen oftmals irreversiblen Nachteil. Dieser Nachteil ist jedenfalls dann von rechtlicher Natur, wenn wie hier ein grundsätzlicher Anspruch auf Anwesenheit in der Schweiz besteht (Urteil des Bundesgerichts 2C_304/2010 vom 16. Juli 2010 E. 1.3 mit Hinweisen). Da die Vorinstanz den Entzug der aufschiebenden Wirkung durch die kantonale Verwaltungsbehörde bestätigt hat, ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen den angefochtenen Entscheid zulässig. Gerügt werden kann indessen einzig die Verletzung verfassungsmässiger Rechte (<ref-law>).
2. 2.1 Dem kantonalen Richter kommt beim Entscheid über prozessuale Anordnungen grundsätzlich ein grosses Ermessen zu.
Bezüglich der Gewährung bzw. des Entzuges der aufschiebenden Wirkung beim Widerruf oder der Nichtverlängerung eines Aufenthaltstitels ist indes Art. 66 Abs. 3 AuG Rechnung zu tragen: Gemäss dieser Bestimmung ist eine Wegweisung sofort vollstreckbar, wenn die betroffene Person erheblich oder wiederholt gegen die öffentliche Sicherheit und Ordnung verstossen hat bzw. diese gefährdet oder wenn sie die innere oder die äussere Sicherheit gefährdet.
Die hierzu ergangene bundesgerichtliche Rechtsprechung geht davon aus, dass ein Ausländer, der hier ein Domizil eingerichtet hat und Beziehungen pflegt, in der Regel nicht dazu gezwungen werden soll, diese Bindung zur Schweiz (gegebenenfalls vorübergehend) aufzugeben und den Entscheid über sein weiteres Bleiberecht im Ausland abzuwarten. Indessen gilt dies nur, falls nicht klar ausgeschlossen erscheint, dass der Ausländer im Land wird verbleiben können. Überdies wird vorausgesetzt, dass von ihm nicht eine konkrete ernsthafte Bedrohung, sondern höchstens eine abstrakte Gefährdung der hiesigen Ordnung und Sicherheit ausgeht. Bei der vorzunehmenden Interessenabwägung ist namentlich auch zu berücksichtigen, ob der Betroffene einer geregelten Arbeit nachgeht, ob er über einen eigenen Haushalt verfügt, ob er hier aufgewachsen ist, ob er sich seit einer gewissen Zeit wohl verhalten hat und in welcher Schwere allenfalls in eine nach <ref-law> und Art. 8 EMRK geschützte Beziehung eingegriffen wird (Urteile des Bundesgerichts 2C_304/2010 vom 16. Juli 2010 E. 2.3; 2C_669/2009 vom 4. Februar 2010 E. 2.1.1 und E. 2.1.2; jeweils mit Hinweisen; vgl. auch Urteil 2C_803/2009 vom 29. Januar 2010 E. 4).
2.2 Der Beschwerdeführer bestreitet nicht, dass eine gesetzliche Basis für seine sofortige Wegweisung besteht.
Indessen behauptet er, es sei im Rahmen der Interessenabwägung zu wenig Gewicht auf die Situation und die Anliegen seiner Lebenspartnerin bzw. des gemeinsamen Kindes gelegt worden: Die Lebenspartnerin habe sich bereits während der Untersuchungshaft des Beschwerdeführers darum bemüht, ihn zusammen mit dem gemeinsamen Sohn besuchen zu können. Auch während seines jetzigen Aufenthaltes in der Strafanstalt Bostadel hätten sie ihn regelmässig besucht und hierfür immer wieder eine lange Reise auf sich genommen. Um seine Lebenspartnerin und seinen Sohn am Wochenende zu Hause besuchen zu können, habe der Beschwerdeführer sodann (erfolglos) versucht, beim Amt für Strafvollzug des Kantons Basel-Stadt eine Vollzugslockerung im Sinne der Gewährung eines Beziehungsurlaubs zu erwirken. Ein gemeinsames Familienleben ausserhalb der Schweiz sei aufgrund der konkreten Umstände kaum vorstellbar. Dies insbesondere auch deswegen, weil die ghanaische Lebenspartnerin ausser der Staatsangehörigkeit keine Beziehung zu ihrem Heimatland mehr habe: Sie sei weitestgehend in der Schweiz aufgewachsen und ihre beiden Eltern seien inzwischen Schweizer Bürger. Zu Nigeria habe sie schliesslich überhaupt keinen Bezug und es stehe ihr trotz ihrer Herkunft die europäische Kultur ungleich näher als die afrikanische.
Ferner macht der Beschwerdeführer geltend, die Vorinstanz habe bei der Prognose seines künftigen Verhaltens ausser Acht gelassen, dass er bereits nach Verbüssung von zwei Dritteln der Strafe aus dem Vollzug entlassen werde.
Insgesamt habe das Vorgehen des Appellationsgerichts zu einem unhaltbaren Ergebnis geführt: Durch den Entzug bzw. die Nichtwiederherstellung der aufschiebenden Wirkung werde der Ausgang des Hauptverfahrens in willkürlicher Weise präjudiziert.
2.3 Die Einwendungen des Beschwerdeführers überzeugen nicht:
Das Appellationsgericht hat in nachvollziehbarer Weise aufgezeigt, dass sich der Beschwerdeführer ab den verhängten Sanktionen für seine zahlreichen, nicht leicht zu nehmenden Straftaten unbeeindruckt zeigte, sich als unbelehrbar erwies und immer schwerere Delikte beging. Insbesondere seine Beteiligung an der Organisation und Durchführung eines Drogentransports, sein Mitwirken beim Verkauf der Ware sowie die von ihm verübten Geldwäschereidelikte lassen den Beschwerdeführer in einem sehr schlechten Licht erscheinen: Er offenbarte hierbei Beziehungen zum organisierten internationalen Drogenhandel, welche sich - wie die Vorinstanz zutreffend erkannt hat - erfahrungsgemäss nicht ohne Weiteres abbrechen lassen. Die Höhe der gegen ihn verhängten Strafen deutet zudem auf eine ganz erhebliche kriminelle Energie und eine ausgeprägte Geringschätzung der schweizerischen Rechtsordnung hin. Bei dieser Sachlage erscheint die Wahrscheinlichkeit weiterer Straftaten des Beschwerdeführers im Zusammenhang mit Betäubungsmitteln als eminent. Der Hinweis des Beschwerdeführers, dass ihm die bedingte Entlassung aus dem Strafvollzug nach Verbüssung von zwei Dritteln der Strafe gewährt worden sei, erscheint dagegen bedeutungslos: Die bedingte Entlassung nach zwei Dritteln der Strafe entspricht der vom Gesetzgeber vorgesehenen Regel, von der nur im Ausnahmefall abgewichen werden darf (<ref-ruling> E. 2.3 S. 203 mit Hinweisen; vgl. <ref-law>). Die Art der Delinquenz des Beschwerdeführers bedroht die öffentliche Ordnung und Sicherheit zudem in besonderem Masse. Wenn die Vorinstanz bei dieser Sachlage auf ein erhebliches öffentliches Interesse an der sofortigen Wegweisung geschlossen hat, kann dies nicht mit Erfolg beanstandet werden.
In Bezug auf die persönlichen Interessen des Beschwerdeführers an einem weiteren Aufenthalt in der Schweiz ist sodann festzuhalten, dass er noch nicht sehr lange in der Schweiz lebt und hier schlecht integriert ist; im Zeitpunkt seiner Verhaftung war er ohne Beruf und Arbeit. Zudem fällt auf, dass der Beschwerdeführer trotz der Aufnahme einer Beziehung zu einer neuen Lebenspartnerin und der Geburt eines gemeinsamen Kindes in schwerwiegender Weise kriminell aktiv blieb. Daraus ist zu schliessen, dass selbst die familiären Beziehungen keine stabilisierende Wirkung hatten und den Beschwerdeführer nicht zu einem verantwortungsvollen Handeln bewegen konnten. Gewiss mag seine einstweilige Wegweisung die Lebensgefährtin empfindlich treffen. Indessen konnte die Beziehung zur Partnerin aus Gründen, die sich der Beschwerdeführer selbst zuzuschreiben hat, nur während ungefähr eines Jahres, bis zu seiner Verhaftung im Juli 2008, normal gelebt werden. Seither waren nur noch Besuche im Strafvollzug möglich. Auch die Beziehung zum nunmehr ca. zweieinhalb Jahre alten Sohn konnte sich nur während eines halben Jahres normal entwickeln und ist seither auf gelegentliche Besuche beschränkt. Zufolge des Verhaltens des Beschwerdeführers haben sich die Lebenspartnerin und das gemeinsame Kind gezwungenermassen bereits weitgehend selbständig im täglichen Leben zurecht finden müssen. Ihren Interessen am weiteren Verbleiben des Beschwerdeführers in der Schweiz kommt deshalb keine vorrangige Bedeutung zu.
Unter diesen Umständen kann die sofortige Wegweisung des Beschwerdeführers nach dem Vollzug seiner Strafe nicht als unhaltbar und willkürlich bezeichnet werden. Sein Hinweis auf die präjudizielle Wirkung der sofortigen Rückschaffung ändert daran nichts. Nach den bisher bekannten Umständen müssen seine Chancen auf einen für ihn positiven Ausgang des Rekursverfahrens ohnehin als sehr beschränkt gelten.
3. Gemäss den obenstehenden Erwägungen ist die Beschwerde unbegründet und somit abzuweisen.
Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer an sich kostenpflichtig (<ref-law>). Da die Beschwerde aber zumindest bezüglich der hier streitig gewesenen Frage der aufschiebenden Wirkung im kantonalen Rekursverfahren nicht gerade als von vornherein aussichtslos zu bezeichnen war und die Bedürftigkeit des Beschwerdeführers als erstellt gelten kann, ist dem Gesuch des Beschwerdeführers um Gewährung der unentgeltlichen Rechtspflege zu entsprechen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Dem Beschwerdeführer wird für das Verfahren vor Bundesgericht die unentgeltliche Rechtspflege gewährt:
a) Es werden keine Gerichtskosten erhoben.
b) Advokat Dr. Nicolas Roulet, Basel, wird zum unentgeltlichen
Rechtsbeistand bestellt und aus der Bundesgerichtskasse mit
Fr. 2'000.-- entschädigt.
3. Dieses Urteil wird dem Beschwerdefürer, dem Migrationsamt und dem Justiz- und Sicherheitsdepartement des Kantons Basel-Stadt, dem Appellationsgericht des Kantons Basel-Stadt als Verwaltungsgericht sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 4. Oktober 2010
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Zähndler