Faits:
A. X._, né en 1966, et déclarant être ressortissant angolais, est entré en Suisse et a déposé une demande d'asile le 6 septembre 1993. Celle-ci a été rejetée en première instance le 22 décembre de la même année. X._ ayant épousé en 1996 A._, citoyenne suisse, il a retiré le recours qu'il avait interjeté contre cette décision. De cette union est né un enfant le 21 septembre 1996. Le divorce des époux a été prononcé le 13 novembre 2002. Par décision du 26 août 2004, le Service de la population et des migrations du Département de la police et des affaires militaires du canton de Bâle-Ville a refusé de prolonger l'autorisation de séjour de X._. Il a également ordonné l'expulsion de l'intéressé de Suisse pour une durée indéterminée. La demande de reconsidération de X._ a été rejetée par décision du 16 décembre 2004, prononcé confirmé par décision sur recours rendue le 27 janvier 2006 par le Département de la justice et de la sécurité du canton de Bâle-Ville.
Une nouvelle demande d'asile, déposée le 2 avril 2007, a été déclarée irrecevable le 26 avril 2007 par l'Office fédéral des migrations. Celui-ci a simultanément ordonné au requérant de quitter la Suisse le jour suivant l'entrée en force de la décision. L'intéressé n'a jamais donné suite à cette injonction et a refusé de collaborer à l'établissement de documents de voyage, raison pour laquelle son expulsion n'a pas pu être exécutée.
B. Le 18 mars 2009, X._ a déposé auprès du Service des migrations du canton de Berne une demande d'autorisation de séjour pour cas personnel d'extrême gravité. Il invoquait, principalement, qu'il vivait depuis 2005 à Z._ en union libre avec Y._, ressortissante congolaise disposant d'une autorisation d'admission provisoire en Suisse avec qui il a eu deux enfants né en 2004 et en 2008. Par décision du 31 août 2009, l'Office de la population et des migrations du canton de Berne a rejeté la demande de X._ et lui a imparti un délai pour quitter la Suisse échéant le 30 septembre 2009. Par décision sur recours du 25 février 2010, la Direction de la police et des affaires militaires du canton de Berne (ci-après: la Direction de la police) a déclaré irrecevable le recours de l'intéressé. Elle a également déclaré irrecevable la demande d'assistance judiciaire gratuite déposée conjointement au recours.
C. Le 25 mars 2010, X._ a recouru auprès du Tribunal administratif du canton de Berne (ci-après: le Tribunal administratif). Par jugement du 12 juillet 2010, ce dernier a partiellement admis le recours en tant qu'il avait trait à la requête d'assistance judiciaire refusée en première instance et l'a rejeté pour le reste. Le Tribunal administratif a relevé que l'art. 14 al. 4 de la loi fédérale du 26 juin 1998 sur l'asile (LAsi; RS 142.31) lui fermait la voie à tout recours dans la mesure où cette disposition de droit fédéral ne lui reconnaissait pas la qualité pour recourir contre une décision cantonale refusant de le mettre au bénéfice d'une autorisation de séjour. Le Tribunal administratif a également mis en évidence le fait que les conditions d'application de l'art. 8 CEDH n'étaient pas réunies. Il a enfin rappelé que le recourant avait fait l'objet de plusieurs condamnations, notamment à dix jours d'emprisonnement pour vol, à quatorze jours d'emprisonnement avec sursis pour violences et menaces contre des fonctionnaires, à cinq mois d'emprisonnement pour vol et contrainte, ainsi qu'à trois ans d'expulsion de Suisse, puis à soixante jours d'emprisonnement pour vol. Ces condamnations s'échelonnaient entre le 5 juillet 1999 et le 29 juin 2005. En outre, par jugement du 26 novembre 2009, il avait été condamné notamment à neuf mois de peine privative de liberté pour brigandage répété.
D. Contre ce jugement, X._ a formé un recours en matière de droit public parvenu au Tribunal fédéral le 16 août 2010. Il y requiert l'annulation de l'arrêt du 12 juillet 2010 en tant qu'elle confirme les prononcés précédents refusant de le mettre au bénéfice d'une autorisation de séjour et la confirmation de cet arrêt pour le reste. Il demande également à être mis au bénéfice de l'assistance judiciaire.
Appelés à se déterminer sur cette écriture, la Direction de la police conclut au rejet du recours sous suite de frais, alors que le Tribunal administratif a renoncé à se déterminer et se réfère à son jugement du 12 juillet 2010.

Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement sa compétence, respectivement la recevabilité des recours qui lui sont soumis (<ref-law>; <ref-ruling> consid. 1 p. 43; <ref-ruling> consid. 1 p. 37).
1.1 Pour déterminer le type de recours ouvert, il faut examiner le droit matériel applicable au fond. En l'espèce, la cause au fond relève du droit d'asile, respectivement de la police des étrangers et donc du droit public. L'art. 83 let. d ch. 2 LTF ferme la voie du recours en matière de droit public au Tribunal fédéral contre les décisions en matière d'asile rendues par l'autorité cantonale précédente et dont l'objet porte sur une autorisation à laquelle ni le droit fédéral ni le droit international ne donne droit. Faute de droit à une autorisation, le recours de l'intéressé au Tribunal fédéral contre le refus du canton de délivrer, durant la procédure d'asile, une autorisation de séjour pour cas de rigueur selon l'<ref-law> est ainsi irrecevable, d'autant que le requérant n'avait pas qualité de partie dans la procédure cantonale d'après l'<ref-law> (ALAIN WURZBURGER, in: Commentaire de la LTF, ch. 69 ad <ref-law>).
Le recourant se prévaut également du droit au regroupement familial au sens de l'art. 8 CEDH. En l'espèce, les conditions donnant matériellement droit à une autorisation de séjour fondée sur cette disposition ne sont de toute évidence pas réunies. Pour trouver application, cette norme implique que la personne avec laquelle le regroupement familial est demandé soit suisse ou qu'elle ait le droit de résider durablement en Suisse (sur cette notion, cf. <ref-ruling> consid. 1.3.1 p. 145 ss; <ref-ruling> consid. 3.1). Tel n'est nullement le cas en l'espèce puisque la partenaire du recourant et leurs deux enfants ne séjournent en Suisse qu'à la faveur d'une admission à titre provisoire qui ne constitue nullement un titre de séjour au sens des exigences ci-dessus rappelées (<ref-ruling> consid. 2b)bb)). Une autorisation fondée sur l'art. 8 CEDH n'entre donc pas en considération, ainsi que les autorités précédentes l'ont déjà exposé. Même examiné au stade de la simple recevabilité du recours, le grief de violation de l'art. 8 CEDH n'est ainsi nullement vraisemblable, de sorte que le recours en matière de droit public se révèle irrecevable.
1.2 La voie de recours ordinaire étant exclue, le recours constitutionnel subsidiaire est a priori ouvert (<ref-law>), dès lors que la décision attaquée est finale (art. 90 et 117 LIFD) et qu'elle émane d'une autorité judiciaire supérieure statuant en dernière instance cantonale (art. 86 et 114 LTF). Dans la mesure où les conditions de recevabilité d'un tel recours seraient remplies, le recourant n'aurait pas à pâtir de l'erreur de désignation de son recours.
La jurisprudence a précisé que le recourant qui, comme en l'espèce, ne dispose pas d'un droit, notamment à obtenir une autorisation de séjour, n'est pas légitimé, sous l'angle de l'<ref-law>, à remettre en cause, par la voie du recours constitutionnel subsidiaire, le refus de lui octroyer une telle autorisation (cf. <ref-ruling> consid. 6.1 p. 197 s.; arrêt 2C_635/2009 du 26 mars 2010 consid. 5.4 in fine). Or, comme on l'a vu (cf. consid. 1.1), le seul droit invoqué est celui au regroupement familial de l'art. 8 CEDH dont le recourant ne peut se prévaloir. De ce point de vue, le recours constitutionnel subsidiaire se révèle donc également irrecevable.
Le recourant ne peut, dès lors, faire valoir que la violation de droits de partie qui équivalent à un déni de justice formel, pour autant que, par ce biais, il n'invoque pas, même indirectement, des moyens ne pouvant être séparés du fond (<ref-ruling> consid. 6.2 p. 198 s.; voir aussi <ref-ruling> consid. 1.4 p. 222). Seuls les griefs de nature formelle qui sont séparés de l'examen de la cause au fond peuvent donc être articulés (<ref-ruling> consid. 1.3.2 p. 253; <ref-ruling> consid. 6.2 p. 199). En revanche, les griefs qui reviennent de facto à critiquer l'arrêt attaqué sur le plan matériel sont exclus. En l'espèce, le recourant ne fait valoir que des griefs relevant du fond, de sorte que son recours doit être déclaré irrecevable.
2. Compte tenu de qui précède, le recours est irrecevable.
Le recours étant dénué de chance de succès, la requête d'assistance judiciaire doit être rejetée (<ref-law>). Succombant, le recourant doit supporter un émolument judiciaire (art. 65 et 66 LTF). Il n'a pas droit à des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est irrecevable.
2. La requête d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué au mandataire du recourant, à l'Office de la population et des migrations, à la Direction de la police et des affaires militaires et à la Cour des affaires de langue française du Tribunal administratif du canton de Berne, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 5 décembre 2010
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Zünd Kurtoglu-Jolidon