Sachverhalt:
A. Der nigerianische Staatsangehörige X._ (geb. 1975) reiste im Februar 2004 in die Schweiz ein und stellte ein Asylgesuch. Das Bundesamt für Flüchtlinge (heute: Bundesamt für Migration) trat mit Entscheid vom 22. September 2004 auf das Gesuch nicht ein und wies X._ aus der Schweiz weg. Dieser Entscheid erwuchs in Rechtskraft. Am 26. November 2007 verurteilte das Bezirksgericht Zürich X._ wegen schwerer Widerhandlung gegen das Betäubungsmittelgesetz zu einer Freiheitsstrafe von 36 Monaten (davon 18 Monate bedingt); am 17. Juli 2008 wurde dieser aus dem Strafvollzug entlassen. Am 1. Juli 2008 heiratete X._ die aus Kenia stammende Schweizer Bürgerin Y._ (geb. 1979), mit der er zwei Kinder (geb. 2005 und 2006) hat.
B. Am 28. Juli 2008 ersuchte Y._ um Erteilung einer Aufenthaltsbewilligung für ihren Ehemann X._ im Rahmen des Familiennachzugs. Das Amt für Migration des Kantons Luzern trat mit Entscheid vom 12. Januar 2009 auf das Gesuch nicht ein und begründete dies mit der Verletzung der Mitwirkungspflicht (insbesondere Nichteinreichung eines gültigen Originalreisepasses) durch den Ehemann der Gesuchstellerin. Hiergegen wandte sich X._ an das Justiz- und Sicherheitsdepartement des Kantons Luzern, welches mit Entscheid vom 8. Mai 2009 die Verwaltungsbeschwerde abwies und den Beschwerdeführer aufforderte, die Schweiz unverzüglich zu verlassen. Das Amt für Migration wurde weiter ermächtigt, den vom Beschwerdeführer inzwischen aufgelegten Reisepass zurückzubehalten, um damit seine Ausreise zu organisieren. Die dagegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Luzern mit Urteil vom 8. März 2010 ab; weiter wurde der Beschwerdeführer angewiesen, die Schweiz unverzüglich zu verlassen.
C. Mit Eingabe vom 26. April 2010 führt X._ - entsprechend der Rechtsmittelbelehrung des vorinstanzlichen Entscheids - subsidiäre Verfassungsbeschwerde beim Bundesgericht. Er beantragt, es sei ihm eine Aufenthaltsbewilligung zu erteilen, eventualiter sei die Sache an das Migrationsamt zurückzuweisen mit der Weisung, auf das Gesuch des Beschwerdeführers einzutreten.
D. Das Verwaltungsgericht des Kantons Luzern beantragt, die Beschwerde abzuweisen. Das Justiz- und Sicherheitsdepartement und das Amt für Migration des Kantons Luzern haben sich nicht vernehmen lassen.
Am 5. Mai 2010 erkannte der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde antragsgemäss aufschiebende Wirkung zu.
Erwägungen:
1. 1.1 Das Bundesgericht prüft seine Zuständigkeit und die Zulässigkeit eines Rechtsmittels von Amtes wegen und mit freier Kognition (Art. 29 Abs. 1 BGG; BGE 135 III 1 E. 1.1 S. 3).
1.2 Gemäss Art. 83 lit. c Ziff. 2 BGG ist die Beschwerde in öffentlichrechtlichen Angelegenheiten auf dem Gebiet des Ausländerrechts unzulässig gegen Entscheide betreffend Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt.
1.2.1 Nach Art. 42 Abs. 1 des auf den 1. Januar 2008 in Kraft getretenen, hier unbestrittenermassen anwendbaren Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (AuG; SR 142.20) haben ausländische Ehegatten und ledige Kinder unter 18 Jahren von Schweizerinnen und Schweizern Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung, wenn sie mit diesen zusammenwohnen.
Als Ehegatte einer Schweizer Bürgerin steht dem Beschwerdeführer, welcher mit seiner Ehefrau und seinen Kindern zusammenwohnt, was von keiner Seite bestritten wird, gestützt auf die erwähnte Bestimmung im Grundsatz ein Anspruch auf Erteilung der Aufenthaltsbewilligung zu. Da der Beschwerdeführer zu seiner Frau und seinen Kindern eine Beziehung hat, die intakt scheint und auch gelebt wird, hat er zudem gestützt auf Art. 8 EMRK bzw. Art. 13 BV (Recht auf Familienleben) einen (bedingten) Rechtsanspruch auf eine Aufenthaltsbewilligung.
1.2.2 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen das Urteil des Verwaltungsgerichts, das den Nichteintretensentscheid des Amtes für Migration auf das Gesuch um Aufenthaltsbewilligung zum Gegenstand hat, erweist sich damit als zulässig, und der Beschwerdeführer ist als direkter Adressat und Betroffener des angefochtenen Entscheids hierzu legitimiert (Art. 89 Abs. 1 BGG).
1.3 Das vom Beschwerdeführer ergriffene Rechtsmittel der Verfassungsbeschwerde ist im Verhältnis zur Beschwerde in öffentlich-rechtlichen Angelegenheiten subsidiär (Art. 113 BGG). Da hier die Letztere zur Verfügung steht, ist die Eingabe des Beschwerdeführers als Beschwerde in öffentlich-rechtlichen Angelegenheiten entgegenzunehmen, wobei es auf die anderslautende, falsche Rechtsmittelbelehrung nicht ankommt.
1.4 Als unzulässig erweist sich das erhobene Rechtsmittel insoweit, als der Beschwerdeführer beantragt, es sei ihm eine Aufenthaltsbewilligung zu erteilen. Beschwerdegegenstand bildet lediglich die prozessuale Frage, ob das Amt für Migration zu Recht nicht auf das Gesuch des Beschwerdeführers um Erteilung der Aufenthaltsbewilligung eingetreten ist. Die materielle Frage, ob dem Beschwerdeführer eine Bewilligung zu erteilen ist, ist hingegen nicht Gegenstand des vorliegenden Verfahrens.
1.5 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann insbesondere geltend gemacht werden, der angefochtene Entscheid verletze Bundesrecht - inklusive Bundesverfassungsrecht -, Völkerrecht sowie kantonale verfassungsmässige Rechte (Art. 95 BGG). Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhalts kann nur gerügt bzw. vom Bundesgericht von Amtes wegen berichtigt oder ergänzt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 97 Abs. 1 BGG bzw. Art. 105 Abs. 2 BGG).
Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist daher weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen, und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (BGE 135 III 397 E. 1.4 S. 400).
2. 2.1 Das Verwaltungsgericht des Kantons Luzern hat festgestellt, dass das Gesuch um Erteilung einer Aufenthaltsbewilligung am 29. Juli 2008 beim Amt für Migration eingegangen sei und das Amt am 11. August 2008 zusätzliche Unterlagen einverlangt habe. Weil diese nicht vollständig eingereicht worden seien, habe es am 21. August 2008 unter anderem den Originalreisepass des Gesuchstellers einverlangt. Der Reisepass sei in der Folge nicht eingereicht worden, weshalb das Amt am 24. November 2008 den Beschwerdeführer gemahnt habe mit der Aufforderung, den Originalreisepass bis spätestens 5. Januar 2009 aufzulegen, andernfalls auf das Gesuch nicht eingetreten oder aufgrund der Akten entschieden werde. Der Beschwerdeführer habe erst nach Vorliegen des Nichteintretensentscheids vom 12. Januar 2009 den von der nigerianischen Botschaft in Madrid ausgestellten Reisepass im Beschwerdeverfahren eingereicht.
Das Verwaltungsgericht kommt zum Schluss, es sei nicht zu beanstanden, wenn das Migrationsamt in diesem Zusammenhang festgestellt habe, der Beschwerdeführer wäre bei gutem Willen in der Lage gewesen, den Reisepass in der vom Amt angesetzten Frist zu beschaffen. Er habe vorgängig bloss versucht, mit unwahren Behauptungen sich der Mitwirkungspflicht zu entziehen, es aber unterlassen, glaubhaft darzustellen, dass die nigerianische Botschaft in der Schweiz keine Pässe ausstelle. Mit Blick auf die Mitwirkungspflichten sei es haltbar, auf das Gesuch um Aufenthaltsbewilligung nicht einzutreten.
2.2 Der Beschwerdeführer führt dagegen im Wesentlichen aus, der Entscheid der Vorinstanz verletze das verfassungsmässige Recht des Beschwerdeführers und seiner Ehefrau sowie der beiden Kinder auf ein geschütztes Familienleben. Der Vorwurf, er habe seiner Mitwirkungspflicht nicht genügt, erscheine "als formalistischer Vorwand zur Ablehnung des Gesuchs" um Aufenthaltsbewilligung. Der Beschwerdeführer habe sich zuerst erfolglos an die nigerianische Botschaft in Bern gewandt; danach habe er den inzwischen beschlagnahmten Reisepass auf der Botschaft in Madrid beschafft. Sinngemäss rügt der Beschwerdeführer damit eine Rechtsverweigerung durch die Luzerner Behörden.
3. Im Folgenden ist zu prüfen, ob der Schluss der Vorinstanz, das Amt für Migration sei zu Recht wegen des Verstosses gegen die Mitwirkungspflichten nicht auf das Gesuch des Beschwerdeführers um Aufenthaltsbewilligung eingetreten, rechtmässig ist. Dabei steht die Frage im Vordergrund, ob die involvierten Behörden eine Rechtsverweigerung begangen haben.
3.1 Eine formelle Rechtsverweigerung liegt nach der Praxis des Bundesgerichts vor, wenn eine Behörde auf eine ihr frist- und formgerecht unterbreitete Sache nicht eintritt, obschon sie darüber befinden müsste (vgl. BGE 117 Ia 116 E. 3a S. 117). Überspitzter Formalismus als besondere Form der Rechtsverweigerung ist gegeben, wenn für ein Verfahren rigorose Formvorschriften aufgestellt werden, ohne dass die Strenge sachlich gerechtfertigt wäre, wenn die Behörde formelle Vorschriften mit übertriebener Schärfe handhabt oder an Rechtsschriften überspannte Anforderungen stellt und damit dem Bürger den Rechtsweg in unzulässiger Weise versperrt. Ob eine solche Rechtsverweigerung vorliegt, prüft das Bundesgericht frei (BGE 135 I 6 E. 2.1 S. 9 mit Hinweisen).
3.2 Zwar ist der Vorinstanz zuzustimmen, wenn sie ausführt, zum Zeitpunkt des Entscheids des Amtes für Migration am 12. Januar 2009 habe der eingeforderte Originalreisepass - trotz erfolgter Mahnung - nicht vorgelegen. Allerdings hält der Beschwerdeführer dagegen, er habe sich auf der nigerianischen Botschaft in Bern erfolglos um einen solchen bemüht. Diese Darstellung wird von der nigerianischen Botschaft in Bern schriftlich bestätigt, was den Vorwurf der Vorinstanz, der Beschwerdeführer habe es unterlassen, glaubhaft zu machen, die nigerianische Botschaft stelle in der Schweiz keine Pässe aus, erheblich relativiert.
3.3 Die Frage, ob der Beschwerdeführer bei gutem Willen tatsächlich in der Lage gewesen wäre, den Reisepass vor dem 12. Januar 2009 beim Amt für Migration einzureichen, kann letztlich aus folgendem Grund offen gelassen werden: Zusammen mit der Verwaltungsbeschwerde vom 12. Februar 2009 an das Justiz- und Sicherheitsdepartement reichte der Beschwerdeführer seinen - am 28. Januar 2009 auf der nigerianischen Botschaft in Madrid ausgestellten - Originalreisepass Nr. A 00327663, gültig vom 28. Januar 2009 bis 27. Januar 2014, ein. Gleichzeitig beantragte er dem Justiz- und Sicherheitsdepartement, die Sache an das Amt für Migration zurückzuweisen, damit dieses auf das Gesuch des Beschwerdeführers eintreten könne. Das Departement hat jedoch in seinem Entscheid vom 8. Mai 2009 den Umstand, dass der Beschwerdeführer seinen Originalreisepass im Beschwerdeverfahren vorgelegt hat - abgesehen von der Bemerkung, der Pass dürfe vom Amt für Migration zurückbehalten werden, um damit die Ausreise des Beschwerdeführers in sein Herkunftsland zu organisieren - mit keinem Wort gewürdigt. Vielmehr legte das Departement - wie auch das Verwaltungsgericht - unter Bezug auf Art. 17 AuG ausführlich dar, dass der Beschwerdeführer den Entscheid über die nachträgliche Bewilligung im Ausland abzuwarten habe. Diese Argumentation mutet widersprüchlich an, hat doch das Amt für Migration mit seinem Nichteintretensentscheid eben gerade kein Bewilligungsverfahren in Gang gesetzt, sondern dem Beschwerdeführer ein solches verweigert, obwohl er im Grundsatz (vgl. E. 1.2.1 hiervor) einen Anspruch auf eine Aufenthaltsbewilligung geltend machen kann.
Unter diesen speziellen Umständen erscheint die Vorgehensweise der Luzerner Behörden überspitzt formalistisch: Angesichts der Tatsache, dass der Beschwerdeführer über einen grundsätzlichen Anspruch verfügt und er den von den Behörden verlangten Reisepass nach einer Verzögerung, die nicht in erster Linie ihm angelastet werden kann, vorgelegt hat, hätte das Justiz- und Sicherheitsdepartement resp. das Verwaltungsgericht die Sache an das Amt für Migration zur materiellen Beurteilung zurückweisen müssen. Die strikte Anwendung der Formvorschriften ist hier durch keine schutzwürdigen Interessen gerechtfertigt, wird vielmehr zum blossen Selbstzweck und erschwert die Verwirklichung des materiellen Rechts für den Beschwerdeführer in unhaltbarer Weise (vgl. BGE 130 V 177 E. 5.4.1 S. 184 mit Hinweisen). Der Beschwerdeführer hat seine Mitwirkungspflicht nachträglich erfüllt, d.h. dem Amt für Migration liegt der eingeforderte Originalreisepass vor, womit einer materiellen Prüfung des Gesuchs um Aufenthaltsbewilligung nichts mehr im Wege steht; auf eine solche Prüfung hat der Beschwerdeführer grundsätzlich Anspruch, und er könnte sie - weil es sich um einen Dauersachverhalt handelt - auch durch Einreichung eines neuen (vollständigen) Gesuchs herbeiführen. Der legitime Zweck der Formvorschrift wurde somit im vorliegenden Fall erreicht, obwohl der Beschwerdeführer dagegen verstossen hat; in solchen Fällen, in denen der Beschwerdeführer einen Mitwirkungsfehler beheben kann und vor einer Instanz mit voller Kognition auch behoben hat, ist auf ein Gesuch oder eine Beschwerde einzutreten (vgl. JÖRG PAUL MÜLLER/MARKUS SCHEFER, Grundrechte in der Schweiz, 4. Auflage 2008, S. 836).
Anders würde es sich nur dann verhalten, wenn das Vorgehen des Beschwerdeführers insgesamt als rechtsmissbräuchlich bezeichnet werden müsste. Solches Verhalten ist hier aber nicht ersichtlich: vielmehr scheinen in erster Linie organisatorische Unzulänglichkeiten der nigerianischen Botschaft in Bern der Grund für die Versäumnisse des Beschwerdeführers gewesen zu sein.
4. 4.1 Die vorliegende Beschwerde erweist sich somit als begründet und ist gutzuheissen, soweit darauf eingetreten werden kann. Der Entscheid des Verwaltungsgerichts vom 8. März 2010 ist aufzuheben und die Sache an das Amt für Migration des Kantons Luzern zur materiellen Beurteilung (Prüfung des Gesuchs um Erteilung der Aufenthaltsbewilligung) zurückzuweisen (Art. 107 Abs. 2 BGG).
4.2 Bei diesem Ausgang des Verfahrens sind keine Kosten zu erheben (Art. 66 Abs. 1 und 4 BGG). Hingegen hat der Kanton Luzern den Beschwerdeführer für das bundesgerichtliche Verfahren angemessen zu entschädigen (Art. 68 Abs. 1 BGG). Das Gesuch um Gewährung der unentgeltlichen Rechtspflege wird damit gegenstandslos. Über die Kosten- und Entschädigungsfolgen in den vorinstanzlichen Verfahren hat das Verwaltungsgericht neu zu entscheiden.
Demnach erkennt das Bundesgericht:
1. Die subsidiäre Verfassungsbeschwerde wird als Beschwerde in öffentlich-rechtlichen Angelegenheiten entgegengenommen und gutgeheissen, soweit darauf einzutreten ist.
2. Das Urteil des Verwaltungsgerichts des Kantons Luzern vom 8. März 2010 wird aufgehoben und die Angelegenheit zur materiellen Prüfung an das Amt für Migration des Kantons Luzern sowie zu neuem Entscheid über die Kosten und Entschädigungsfolgen in den vorinstanzlichen Verfahren an das Verwaltungsgericht des Kantons Luzern zurückgewiesen.
3. Es werden keine Kosten erhoben.
4. Der Kanton Luzern hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 1'000.-- zu entschädigen.
5. Das Gesuch um unentgeltliche Rechtspflege wird als gegenstandslos abgeschrieben.
6. Dieses Urteil wird dem Beschwerdeführer, dem Amt für Migration des Kantons Luzern, dem Justiz- und Sicherheitsdepartement des Kantons Luzern und dem Verwaltungsgericht des Kantons Luzern, Verwaltungsrechtliche Abteilung, schriftlich mitgeteilt.
Lausanne, 26. August 2010
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Winiger