Erwägungen:
1. Der 1987 geborene X._, Staatsangehöriger von Guinea, reiste im Oktober 2005 in die Schweiz ein und ersuchte hier erfolglos um Asyl. Seiner Ausreiseverpflichtung kam er nicht nach, sondern verblieb illegal im Land. Am 31. Juli 2006 wurde er aus dem Gebiet des Kantons Bern ausgegrenzt, nachdem er der Polizei bei einer Kontrolle in der Drogenszene der Stadt Bern aufgefallen war.
X._ wurde in der Schweiz mehrfach straffällig: Am 14. Februar 2007 wurde er von der Präsidentin des Gerichtskreises VIII Bern-Laupen wegen Fälschung von Ausweisen, mehrfachen Widerhandlungen gegen die Ausländergesetzgebung, Hinderung einer Amtshandlung und mehrfachen Widerhandlungen gegen das Betäubungsmittelgesetz zu einer unbedingten Freiheitsstrafe von fünf Monaten verurteilt, unter Einbezug einer zuvor bedingt ausgesprochenen Freiheitsstrafe von 20 Tagen, welche das Untersuchungsrichteramt III Bern-Mittelland bereits am 5. September 2006 verhängt hatte. Das Tribunal de police de Lausanne verurteilte ihn zudem am 26. Mai 2008 wegen erneuter Fälschung von Ausweisen zu einer weiteren unbedingten Freiheitsstrafe von zehn Tagen.
Aus einer Beziehung von X._ mit der in der Schweiz niederlassungsberechtigten kroatischen Staatsangehörigen A._ ging der Sohn B._ (geb. 19. August 2007) hervor, welcher ebenfalls über die kroatische Staatsbürgerschaft und eine Niederlassungsbewilligung in der Schweiz verfügt. Da die Kindsmutter aus gesundheitlichen und psychischen Gründen nicht in der Lage war, sich um ihren Sohn zu kümmern, wurde dieser seit Geburt bei einer Pflegefamilie untergebracht. Am 12. November 2008 anerkannte X._ die Vaterschaft. Gemäss der aktuellen Besuchsregelung trifft er seinen Sohn einmal wöchentlich für einen halben Tag. Er ist nicht Inhaber der elterlichen Sorge und leistet keine Unterhaltsbeiträge.
Gestützt auf die Beziehung zu seinem Sohn beantragte X._ die Erteilung einer Aufenthaltsbewilligung, was das Amt für Migration und Personenstand des Kantons Bern mit Verfügung vom 4. Mai 2009 ablehnte. Die von X._ hiergegen geführten Beschwerden wurden von der Polizei- und Militärdirektion des Kantons Bern (Entscheid vom 29. Juli 2009) und vom Verwaltungsgericht des Kantons Bern (Urteil vom 16. November 2011) abgewiesen.
2. Die von X._ beim Bundesgericht eingereichte Beschwerde in öffentlich-rechtlichen Angelegenheiten erweist sich mit Blick auf die bundesgerichtliche Praxis, welche im angefochtenen Entscheid des Verwaltungsgerichts zutreffend wiedergegeben wird, als offensichtlich unbegründet und kann deshalb ohne Weiterungen im vereinfachten Verfahren nach Art. 109 BGG (summarische Begründung/ Verweis auf den angefochtenen Entscheid) erledigt werden:
Der Beschwerdeführer begründet den von ihm behaupteten Anspruch auf Erteilung einer Aufenthaltsbewilligung mit dem von Art. 8 EMRK und Art. 13 BV gewährleisteten Schutz des Familienlebens. Seine diesbezüglichen Ausführungen gehen jedoch ins Leere: Zwar kann es die entsprechenden Garantien in der Tat verletzen, wenn ein Ausländer eine intakte familiäre Beziehung zu nahen Verwandten mit einem gefestigten Anwesenheitsrecht in der Schweiz unterhält und ihm der Verbleib in der Schweiz untersagt und damit das Familienleben vereitelt wird (BGE 135 I 145 E. 1.3.1 S. 145 f.; 130 II 281 E. 3.1 S. 285; je mit Hinweisen). Auch setzt die Anwendbarkeit dieser Normen grundsätzlich nicht voraus, dass der ausländische Elternteil, der sich auf das Zusammenleben mit seinem schweizerischen oder in der Schweiz niederlassungsberechtigten Kind beruft, über das Sorge- bzw. Obhutsrecht verfügt (BGE 120 Ib 1 E. 1d S. 3; Urteil 2C_942/2010 vom 27. April 2011 E. 1.3). Der nicht sorge- bzw. obhutsberechtigte ausländische Elternteil kann die familiäre Beziehung mit seinen Kindern indes ohnehin nur in beschränktem Rahmen pflegen, nämlich durch Ausübung des ihm eingeräumten Besuchsrechts. Um dieses wahrnehmen zu können, ist nicht von vornherein erforderlich, dass der ausländische Elternteil dauerhaft im selben Land wie das Kind lebt und dort über ein Anwesenheitsrecht verfügt. Einem nicht sorgeberechtigten Ausländer kann die Aufenthaltsbewilligung ausnahmsweise dann erteilt oder erneuert werden, wenn in wirtschaftlicher und affektiver Hinsicht eine besonders enge Beziehung zum Kind besteht, diese wegen der Distanz zum Heimatland des Ausländers praktisch nicht mehr aufrechterhalten werden könnte und das bisherige Verhalten des Betroffenen in der Schweiz zu keinerlei Klagen Anlass gegeben hat ("tadelloses Verhalten", "comportement irréprochable", "comportamento irreprensibile"; BGE 120 Ib 1 E. 3c S. 5; 120 Ib 22 E. 4 S. 24 ff.; vgl. auch Urteil des EGMR i.S. Rodrigues da Silva und Hoogkamer gegen die Niederlande vom 31. Januar 2006 [50435/99], Ziff. 42 f., in: EuGRZ 2006 S. 562).
Angesichts des Umstands, dass der Beschwerdeführer seinen Sohn lediglich an einem halben Tag pro Woche sieht und dass er keine Beiträge an dessen Unterhalt leistet, kann von einer besonders engen Beziehung des Beschwerdeführers zum Kind im vorliegenden Fall weder in wirtschaftlicher noch in affektiver Hinsicht die Rede sein. Die Einwendungen des Beschwerdeführers, dass einzig die gegen ihn verhängte Ausgrenzung aus dem Kanton Bern schuld daran sei, dass keine häufigeren Besuche möglich seien und er sodann nur wegen eines bestehenden Arbeitsverbots kein Einkommen erzielen und keine Unterhaltsbeiträge leisten könne, ändern nichts an der faktisch geringen Intensität der Beziehung. Sodann erhellt aus den bereits aufgezeigten Vorstrafen, dass sich der Beschwerdeführer in der Schweiz keineswegs tadellos benommen, sondern vielmehr ein teilweise sogar kriminelles Verhalten an den Tag gelegt hat. Bei dieser Sachlage ist das Verwaltungsgericht zu Recht zum Schluss gelangt, dass der Beschwerdeführer keinen Anspruch auf Erteilung einer Aufenthaltsbewilligung hat.
3. Nach dem Ausgeführten ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten abzuweisen. Dem Ausgang des Verfahrens folgend, hat der Beschwerdeführer die bundesgerichtlichen Kosten zu tragen (Art. 66 Abs. 1 BGG). Da die vorliegende Eingabe aufgrund der publizierten Rechtsprechung als von vornherein aussichtslos zu gelten hatte, ist das Gesuch um unentgeltliche Rechtspflege und Verbeiständung abzuweisen (Art. 64 Abs. 1 BGG e contrario).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird dem Beschwerdeführer, dem Amt für Migration und Personenstand des Kantons Bern, der Polizei- und Militärdirektion des Kantons Bern, dem Verwaltungsgericht des Kantons Bern, Verwaltungsrechtliche Abteilung, sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 26. April 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Zähndler