Faits:
A.
A.a. A._, ressortissant algérien, né en 1980, est arrivé en Suisse au mois d'août 2001 et a déposé une demande d'asile sous une fausse identité. Son renvoi de Suisse a été prononcé le 9 octobre 2001, mais n'a pas été exécuté.
Sous sa véritable identité, A._, a formulé une demande en mariage avec B._, ressortissante suisse domiciliée à Genève, et a obtenu un visa à cette fin le 13 octobre 2003. Le mariage a été célébré à Onex, le 12 décembre 2003 et l'intéressé a obtenu une autorisation de séjour au titre de regroupement familial. Un enfant prénommé C._ est né de cette union le 16 août 2005.
Par jugement sur mesures protectrices de l'union conjugale du 1 er juin 2006, les époux ont été autorisés à vivre séparés, la garde de l'enfant étant attribuée à la mère; un droit de visite était accordé au père qui était tenu de verser une pension de 300 fr. par mois pour son fils.
A.b. A._ a fait l'objet de plusieurs condamnations dans le canton de Genève :
- en mars 2004, par ordonnance du Procureur général, à une peine de trois mois d'emprisonnement avec sursis pendant trois ans, pour vol en bande à Genève;
- le 5 octobre 2004, par le Tribunal de police, à une peine de deux mois d'emprisonnement avec sursis et délai d'épreuve pendant trois ans, pour vols, tentatives de vol et recel;
- le 22 février 2007, par ordonnance du juge d'instruction, pour vol et recel d'un beamer, à soixante heures de travail d'intérêt général, avec sursis et délai d'épreuve de deux ans;
- le 8 décembre 2008, par la Cour correctionnelle sans jury, pour brigandage et vol, à deux ans et six mois de peine privative de liberté, dont quinze mois sans sursis, avec délai d'épreuve de cinq ans;
- le 23 janvier 2009, par ordonnance du juge d'instruction, pour vol et dommages à la propriété, à cinq mois de peine privative de liberté;
- le 25 juillet 2012, par décision du Procureur général, à une peine privative de liberté de quarante jours pour infractions à la loi fédérale sur les stupéfiants.
A.c. Par décision du 18 août 2009, l'Office cantonal de la population du canton de Genève (ci-après: l'Office cantonal de la population) a refusé de renouveler l'autorisation de séjour de A._ et a prononcé son renvoi de Suisse, en relevant que l'intéressé n'avait pas modifié son comportement après l'avertissement du 8 mai 2008 qui lui avait été signifié. Cette décision est devenue définitive après le rejet des recours de l'intéressé auprès des instances cantonales et l'arrêt du Tribunal fédéral du 28 juin 2011 (2C_537/2011), déclarant irrecevable, faute de motivation suffisante (<ref-law>), le recours formé contre l'arrêt de la Cour de justice du canton de Genève ( ci-après: la Cour de justice) du 3 mai 2011.
A.d. Le divorce des époux A._ et B._ a été prononcé par jugement du Tribunal de première instance du canton de Genève du 16 mai 2011.
Le 20 janvier 2012, A._ a déposé une demande en vue de se remarier avec son ex-épouse, qui a été déclarée irrecevable par la Ville de F._ le 30 mars 2012, faute de production d'un titre de séjour valable. L'autorité de surveillance de l'état civil a confirmé cette décision le 13 juin 2012.
B.
Par décision du 15 juin 2012, déclarée exécutoire nonobstant recours, l'Office cantonal de la population a refusé de délivrer une attestation de résidence et une autorisation de séjour à A._.
Saisi d'un recours de l'intéressé, le Tribunal administratif de première instance du canton de Genève l'a rejeté, par jugement du 18 décembre 2012.
A._ a recouru contre ce jugement auprès de la Cour de justice, en faisant notamment valoir qu'il souhaitait s'amender et se remarier avec la mère de son fils.
Par arrêt du 27 août 2013, la Cour de justice a rejeté le recours. Les premiers juges ont retenu en bref que, condamné à une peine de longue durée au sens de la jurisprudence et ayant subi de nombreuses condamnations d'une durée totale supérieure à trois ans, les conditions de non-prolongation de l'autorisation de séjour du recourant et du refus de lui délivrer une autorisation d'établissement étaient réunies. Compte tenu de la gravité des infractions commises et du fait qu'il s'était séparé de son épouse alors que son fils n'était âgé que de quelques mois, l'intérêt public à l'éloigner de Suisse primait sur son intérêt privé à y demeurer pour vivre avec sa famille.
C.
Agissant par la voie du recours en matière de droit public, A._ conclut, sous suite de frais et dépens, à l'annulation de l'arrêt de la Cour de justice du 27 août 2013, l'Office cantonal de la population étant invité à lui délivrer une autorisation de séjour. Le recourant a également déposé une demande d'assistance judiciaire complète.
Les autorités cantonales ont été invitées à produire leur dossier sans échange d'écritures (<ref-law>).
Par ordonnance présidentielle du 31 octobre 2013, la requête d'effet suspensif présentée par le recourant a été rejetée.
D.
Le 3 décembre 2013, l'Office cantonal de la population a transmis au Tribunal fédéral un certificat médical du 7 octobre 2013 attestant que Mme B._ était enceinte, ainsi qu'un jugement du Tribunal d'application des peines et mesures du 13 novembre 2013 ordonnant la libération conditionnelle de A._ avec délai d'épreuve d'une année, soit jusqu'au 19 novembre 2014.

Considérant en droit:
1.
1.1. Aux termes de l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions relatives à une autorisation de droit des étrangers à laquelle ni le droit fédéral ni le droit international ne donnent droit.
Le recourant étant divorcé de son ex-épouse de nationalité suisse, avec laquelle il a vécu moins de trois ans, il ne se prévaut pas à juste titre des art. 42 et 50 al. 1 let. a de la loi fédérale sur les étrangers (LEtr; RS 142.20). Il invoque en revanche, sous l'angle de l'art. 8 CEDH, son droit à entretenir une relation avec son fils qui est de nationalité suisse. Ce motif étant potentiellement de nature à lui conférer un droit à l'obtention d'une autorisation de séjour, son recours échappe au motif d'irrecevabilité prévu à l'art. 83 let. c ch. 2 LTF (<ref-ruling> consid. 3.3 p. 501).
1.2. Au surplus, déposé en temps utile (<ref-law>) et dans les formes prescrites par la loi (<ref-law>), par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (<ref-law>), le présent recours est en principe recevable.
2.
2.1. Le recours en matière de droit public peut être formé pour violation du droit, au sens des art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Toutefois, il n'examine que les griefs soulevés, sauf en présence de violations de droit évidentes (<ref-ruling> consid. 1.6 p. 280). En outre, le Tribunal fédéral ne se prononce sur la violation de droits fondamentaux que s'il se trouve saisi d'un grief motivé de façon détaillée (cf. <ref-law>). Le recourant doit énoncer le droit ou principe constitutionnel violé et exposer de manière claire et circonstanciée en quoi consiste la violation (cf. <ref-ruling> consid. 1.4 p. 176).
2.2. Le Tribunal fédéral fonde son raisonnement juridique sur les faits constatés par l'autorité précédente (<ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire (<ref-ruling> consid. 7.1 p. 51; <ref-ruling> consid. 4.1.2 p. 62) - ou en violation du droit au sens de l'<ref-law> (cf. <ref-law>). Une rectification de l'état de fait ne peut être demandée que si elle est de nature à influer sur le sort de la cause (<ref-law>).
A cet égard, le recourant reproche à la Cour cantonale d'avoir établi les faits de façon manifestement inexacte en confondant sa relation avec son ex-conjointe et celle qu'il entretient avec son fils. Dans le cadre de la pesée des intérêts auxquels elle a procédé sous l'angle de l'art. 8 § 2 CEDH, elle a en effet retenu que le recourant avait vécu peu de temps avec la mère de son enfant et avait renoué sa relation avec celle-ci il y a moins de deux ans, sans tenir compte du fait que son droit de visite lui avait permis de conserver une relation étroite et effective avec son fils. Ce grief se confond avec celui de violation de l'art. 8 CEDH qui sera examiné ci-après (infra consid. 3.2).
En outre, aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>). Il n'y a donc pas lieu de prendre en considération les pièces nouvelles que l'Office cantonal de la population a transmises au Tribunal fédéral le 3 décembre 2013, en tant qu'elles constituent des faits nouveaux par rapport à l'arrêt attaqué.
3.
3.1. Un étranger peut, selon les circonstances, se prévaloir du droit au respect de sa vie privée et familiale garanti par l'art. 8 § 1 CEDH, respectivement l'art. 13 al. 1 Cst., pour s'opposer à l'éventuelle séparation de sa famille. Encore faut-il, pour pouvoir invoquer cette disposition, que la relation entre l'étranger et une personne de sa famille ayant le droit de résider durablement en Suisse (nationalité suisse ou autorisation d'établissement) soit étroite et effective (<ref-ruling> consid. 5.3 p. 211 et les arrêts cités). Le parent qui n'a pas l'autorité parentale ni la garde de l'enfant ne peut d'emblée entretenir une relation familiale avec celui-ci que de manière limitée, en exerçant le droit de visite dont il bénéficie. Or, il n'est en principe pas nécessaire que, dans l'optique de pouvoir exercer son droit de visite, le parent étranger soit habilité à résider durablement dans le même pays que son enfant. Sous l'angle du droit à une vie familiale (cf. art. 8 § 1 CEDH et art. 13 al. 1 Cst.), il suffit en règle générale que le parent vivant à l'étranger exerce son droit de visite dans le cadre de séjours de courte durée, au besoin en aménageant ses modalités quant à la fréquence et à la durée (cf. arrêt 2C_1112/2012 du 14 juin 2013, destiné à la publication, consid. 2.2). Le droit de visite d'un parent sur son enfant ne doit en effet pas nécessairement s'exercer à un rythme bimensuel et peut également être organisé de manière à être compatible avec des séjours dans des pays différents (cf. arrêt 2C_1031/2011 du 22 mars 2012 consid. 4.2.3). Selon la jurisprudence constante du Tribunal fédéral, un droit plus étendu ne peut le cas échéant exister qu'en présence de liens familiaux particulièrement forts d'un point de vue affectif et économique, lorsque cette relation ne pourrait pratiquement pas être maintenue en raison de la distance qui sépare le pays de résidence de l'enfant du pays d'origine de son parent, et que l'étranger a fait preuve en Suisse d'un comportement irréprochable (cf. arrêt 2C_318/2013, du 5 septembre 2013, consid. 3.3.1). Le Tribunal fédéral a précisé que, pour le parent ayant déjà eu une autorisation de séjour en Suisse en raison d'un mariage entre-temps dissout, avec une personne suisse ou titulaire d'une autorisation d'établissement, l'exigence du lien affectif particulièrement fort doit être considérée comme remplie lorsque les contacts personnels sont exercés dans le cadre d'un droit de visite usuel selon les standards d'aujourd'hui. Le droit de visite n'est déterminant que dans la mesure où il est effectivement exercé, ce que les autorités compétentes doivent dûment vérifier. En outre, les autres conditions d'une prolongation de l'autorisation doivent être également remplies (cf. arrêt 2C_1112/2012 précité du 14 juin 2013 consid. 2.5, destiné à la publication).
3.2. Il est en l'espèce constant que le recourant n'a vécu que moins d'une année avec son fils, depuis sa naissance en août 2005 jusqu'à la séparation des époux. Toutefois, si dans son jugement du 1 er juin 2006, le Tribunal de première instance a confié la garde de l'enfant à la mère, il a constaté que l'intéressé s'occupait de son fils et a suivi le rapport du Service de protection de la jeunesse qui préconisait un large droit de visite dans l'intérêt de l'enfant. Le recourant a ainsi maintenu des liens affectifs avec son fils en exerçant son droit de visite. Le maintien des liens affectifs en dépit de la rupture de l'union conjugale ne suffit cependant pas, dans la mesure où les autres conditions d'une prolongation de l'autorisation de séjour pour le parent qui dispose d'un droit de visite ne sont pas remplies. En raison de sa vie professionnelle instable et du temps qu'il a passé en détention, le recourant n'a en effet pas conservé une relation économiquement forte avec son fils et ne saurait encore moins se prévaloir d'un comportement irréprochable à la suite des nombreuses poursuites pénales dont il a fait l'objet.
Sur ce dernier point, la Cour cantonale a constaté, dans le cadre de la pesée des intérêts à laquelle elle a procédé, que le recourant avait été condamné à des peines privatives de liberté d'une durée totale de plus de trois ans, pour des infractions toujours plus graves, notamment pour brigandage et trafic de stupéfiants. Elle s'est référée au jugement de la Cour correctionnelle du 8 décembre 2008, qui avait relevé la gravité de la faute commise par l'intéressé, lequel avait violemment frappé une personne âgée dans le seul but de la détrousser, et l'avait condamné à une peine privative de liberté de deux ans et six mois. Le recourant ne s'était pas amendé à la suite de cette condamnation et avait été à nouveau arrêté peu après et condamné à de nouvelles peines privatives de liberté, la dernière fois le 25 juillet 2012, à quarante jours pour infractions à la loi fédérale sur les stupéfiants. Il a donc persisté à violer l'ordre juridique suisse et a persévéré dans son activité criminelle en dépit des condamnations prononcées à son encontre et de l'avertissement que lui avait signifié l'Office cantonal de la population du 8 mai 2007. Contrairement à ce qu'il prétend, les risques de récidive ne sont nullement exclus et, s'il n'a pas commis d'infractions récentes, c'est essentiellement parce qu'il se trouvait en détention. Quant à la durée de son séjour en Suisse, elle doit être relativisée compte tenu des séjours qu'il a effectués en prison et du fait que le refus de renouveler son autorisation de séjour date déjà du 18 août 2009, qu'il n'a ensuite séjourné en Suisse que grâce aux procédures qu'il a introduites et que la décision de renvoi du 15 août 2012, déclarée exécutoire nonobstant recours, n'a pas été exécutée. Une telle situation est d'ailleurs également prise en compte par la Cour européenne des droits de l'homme (CourEDH; cf. jugement du 26 novembre 2013 en la cause Vasquez c. Suisse, n o 1785/2008 ch. 45). A cela s'ajoute que l'intégration socio-professionnelle du recourant est quasi inexistante et qu'il n'a exercé que des emplois peu qualifiés de manière temporaire.
Dans ces conditions, c'est à bon droit que la Cour de justice a retenu que l'intérêt privé du recourant à poursuivre sa relation avec son fils, voire avec son ex-épouse en cas de remariage, n'était pas prépondérant par rapport à l'intérêt public à son éloignement de Suisse.
3.3. A cet égard, l'arrêt de la CourEDH en la cause Udeh c. Suisse du 16 avril 2013 (no 12020/09; in Playdoyer 2013/3 p. 58) auquel se réfère le recourant ne lui est d'aucun secours. D'une part, cet arrêt ne constitue pas un arrêt de principe et, d'autre part, sa portée été fortement relativisée par le Tribunal fédéral (arrêts 2C_365/2013 du 30 août 2013 consid. 2.4, destiné à la publication; 2C_406/2013 du 23 septembre 2013, consid. 4.5). Au demeurant, l'état de fait dans la présente affaire diffère de l'arrêt Udeh c. Suisse sur des éléments considérés comme déterminants par la CourEDH, en particulier sur l'importance du comportement irréprochable du recourant à la suite de sa remise en liberté, ce qui ne peut être pris en considération en l'espèce, dès lors que le recourant n'a pas respecté les décisions de police des étrangers rendues à son égard et a dû exécuter les peines privatives de liberté auxquelles il avait été condamné (arrêt précité 2C_406/2013 du 23 septembre 2013, consid. 4.4).
4.
Le recourant invoque aussi les art. 12 CEDH et 14 Cst. garantissant le droit de se marier et de fonder une famille. Se prévalant de l'arrêt de la CourEDH O'Donoghue c. Royaume-Uni du 14 décembre 2010, il prétend vouloir donner une nouvelle chance à son couple pour pouvoir vivre avec son ex-épouse et son fils.
4.1. Dans l'affaire O'Donoghue, la CourEDH a estimé inadmissible que les requérants en cause, dont l'intention de se marier était sincère et ne visait pas à contourner les lois d'immigration, n'avaient pas pu obtenir un certificat les autorisant à se marier en raison, d'abord, de la situation personnelle du fiancé qui était entré illégalement au Royaume-Uni et était dépourvu de titre de séjour, puis, par la suite, faute de disposer des moyens leur permettant de s'acquitter des frais de dossier (cf. arrêt O'Donoghue du 14 décembre 2010, n o 34848/07, Rec. 2010, § 85 ss).
Reprenant ces principes, le Tribunal fédéral a estimé que le droit au respect de la vie privée et familiale garanti à l'art. 8 § 1 CEDH permet, à certaines conditions, d'obtenir un droit à une autorisation de séjour en présence d'indices concrets d'un mariage sérieusement voulu et imminent avec une personne ayant le droit de résider durablement en Suisse (<ref-ruling> consid. 3.2 p. 355). Il a précisé que, dans la mesure où l'officier d'état civil ne peut pas célébrer le mariage d'un étranger qui n'a pas établi la légalité de son séjour en Suisse (cf. <ref-law>), les autorités de police des étrangers sont tenues de délivrer un titre de séjour temporaire en vue du mariage lorsqu'il n'y a pas d'indice que l'étranger entende, par cet acte, invoquer abusivement les règles sur le regroupement familial et qu'il apparaît clairement que l'intéressé remplira les conditions d'une admission en Suisse après son union (cf. art. 17 al. 2 LEtr par analogie); en revanche, dans le cas inverse, soit si, en raison des circonstances, notamment de la situation personnelle de l'étranger, il apparaît d'emblée que ce dernier ne pourra pas, même une fois marié, être admis à séjourner en Suisse, l'autorité de police des étrangers pourra renoncer à lui délivrer une autorisation de séjour provisoire en vue du mariage; il n'y a en effet pas de raison de lui permettre de prolonger son séjour en Suisse pour s'y marier alors qu'il ne pourra de toute façon pas, par la suite, y vivre avec sa famille. Cette restriction correspond à la volonté du législateur en édictant l'<ref-law>, de briser l'automatisme qui a pu exister, dans le passé, entre l'introduction d'une demande en mariage et l'obtention d'une autorisation de séjour pour préparer et célébrer le mariage (cf. <ref-ruling> consid. 3.7 p. 360, confirmé in <ref-ruling> consid. 4 p. 47; arrêts 2C_643/2012 du 18 septembre 2012, consid. 3.1; 2C_117/2012 du 11 juin 2012 consid. 4.2).
Ce dernier cas de figure est clairement rempli en l'espèce, puisque le recourant était sous le coup d'une décision de renvoi exécutoire depuis le 15 juin 2012 et qu'au vu de la pesée des intérêts effectuée sous l'angle de l'art. 8 CEDH, l'intérêt public à l'éloigner l'emporte ici sur son intérêt privé à pouvoir vivre en Suisse avec sa famille. Il en découle que la seconde condition qui préside à l'exercice du droit au mariage du recourant sur territoire suisse fait défaut et qu'il importe peu que le recourant n'entende pas, comme il le prétend, éluder les dispositions de la loi fédérale sur les étrangers. Par conséquent, en rendant l'arrêt attaqué, la Cour de justice n'a enfreint ni les art. 8 et 12 CEDH, ni les art. 13 al. 1 et 14 Cst., ni encore la législation fédérale sur les étrangers (cf. art. 17 al. 2 LEtr).
5.
Les considérants qui précèdent conduisent au rejet du recours.
Les conclusions du recours étant dénuées de chances de succès, la demande d'assistance judiciaire doit être également rejetée (<ref-law>). Les frais judiciaires seront ainsi mis à la charge du recourant, en tenant compte de sa situation financière (art. 65 al. 2 et 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est rejeté.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 800 fr. sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué au mandataire du recourant, à l'Office cantonal de la population du canton de Genève, à la Cour de justice de la République et canton de Genève, Chambre administrative, en section, et à l'Office fédéral des migrations.
Lausanne, le 20 janvier 2014
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Rochat