Faits :
A.
A.a. A._ est un ressortissant kosovar né en 1992. Le 23 juillet 2013, après être entré en Suisse sans autorisation, il a été interpellé, puis incarcéré sous la prévention de séquestration et de viol. Le 25 octobre 2013, l'Office cantonal de la population du canton de Genève (devenu entretemps l'Office cantonal de la population et des migrations; ci-après: l'Office cantonal) a prononcé le renvoi de Suisse de l'intéressé. Par arrêt définitif du 20 janvier 2015, la Chambre pénale d'appel et de révision de la Cour de justice du canton de Genève a condamné A._ à une peine privative de liberté de 4 ans pour contrainte sexuelle et viol, avec la circonstance aggravante de la commission en commun.
A.b. Le 3 mars 2016, A._ a déposé une demande d'autorisation de séjour auprès de l'Office cantonal en vue de son mariage avec B._, ressortissante suisse née en 1994, avec laquelle il avait lié une relation de couple durant les vacances d'été 2010 de cette dernière au Kosovo.
Par décision du 11 mai 2016, après avoir constaté que A._ n'avait pas fait usage de son droit d'être entendu et qu'aucun document officiel ne confirmait qu'une procédure en vue de son mariage avait été entreprise, l'Office cantonal a refusé de lui délivrer une attestation en vue du mariage et lui a ordonné de quitter la Suisse. L'intéressé a renoncé à recourir contre cette décision. Le 4 juin 2016, après avoir obtenu sa libération conditionnelle, A._ a été refoulé vers son pays d'origine.
A.c. Le 17 novembre 2016, A._ a sollicité un visa de longue durée, dans la mesure où il souhaitait venir en Suisse pour se marier avec B._, avec laquelle il s'était fiancé au Kosovo durant l'été 2016. En avril 2017, ladite fiancée, qui s'était dans l'intervalle rendue à plusieurs reprises au Kosovo pour y rejoindre l'intéressé, est devenue enceinte des oeuvres de ce dernier.
Le 21 juin 2017, l'Office cantonal a refusé d'entrer en matière sur la demande de A._, traitée comme une demande de reconsidération de sa décision du 11 mai 2016.
Le 10 janvier 2018, B._ a donné naissance à une fille.
Par jugement du 11 avril 2018, considérant qu'une telle naissance constituait une modification notable et importante des circonstances, le Tribunal administratif de première instance du canton de Genève a partiellement admis le recours interjeté par l'intéressé contre la décision de l'Office cantonal et a renvoyé la cause à l'autorité précitée, afin que celle-ci entre en matière et statue sur le fond de la demande.
B.
Par décision du 27 juin 2018, l'Office cantonal a refusé de reconsidérer sa décision initiale du 11 mai 2016 et d'octroyer à A._ l'autorisation de séjour sollicitée. Par acte du 28 août 2018, l'intéressé a recouru contre ce prononcé auprès du Tribunal administratif de première instance du canton de Genève qui, par jugement du 6 mai 2019, a rejeté le recours. A._ a contesté ce prononcé le 11 juin 2019 auprès de la Chambre administrative de la Cour de justice du canton de Genève (ci-après: la Cour de justice). Par arrêt du 7 avril 2020, la Cour de justice a rejeté le recours.
C.
Agissant par la voie du recours en matière de droit public et celle, subsidiaire, du recours constitutionnel, A._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt de la Cour de justice du 7 avril 2020, de constater que l'arrêt précité n'est pas conforme au droit et qu'il remplit toutes les conditions permettant la délivrance d'une autorisation de séjour en vue de préparer son mariage, et de lui délivrer l'autorisation de séjour sollicitée; subsidiairement, d'annuler l'arrêt de la Cour de justice précité, de constater que ledit arrêt n'est pas conforme au droit et que toutes les conditions permettant la délivrance de l'autorisation de séjour sollicitée sont réunies, et de renvoyer la cause à l'autorité précédente pour nouvelle décision dans le sens des considérants.
Il n'a pas été procédé à un échange d'écritures.

Considérant en droit :
1.
1.1. D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit.
En l'occurrence, l'arrêt entrepris confirme un jugement rendu sur recours contre une décision par laquelle l'Office cantonal a refusé de reconsidérer sa décision initiale, au motif que l'intérêt public à l'éloignement du recourant l'emportait sur son intérêt privé à pouvoir demeurer en Suisse, afin d'y épouser sa fiancée et de vivre avec elle et leur enfant commun. Dans la mesure où le recourant se prévaut de manière défendable du droit au respect de la vie familiale et du droit au mariage que lui confèrent les art. 8 et 12 CEDH (cf. aussi art. 13 et 14 Cst.), et que ces dispositions sont susceptibles de lui conférer un droit à l'octroi d'une autorisation de séjour (cf. <ref-ruling>; arrêts 2C_107/2018 du 19 septembre 2018 consid. 1.1 et les arrêts cités; 2C_198/2018 du 25 juin 2018 consid. 1.1 et les arrêts cités), il s'ensuit que le recours échappe à la clause d'irrecevabilité de l'art. 83 let. c ch. 2 LTF. Le recours en matière de droit public étant ouvert, le recours constitutionnel subsidiaire formé par le recourant est par conséquent irrecevable (<ref-law> a contrario).
1.2. Pour le surplus, l'arrêt attaqué est une décision finale (<ref-law>) rendue par un tribunal supérieur de dernière instance cantonale (art. 86 al. 1 let. d et al. 2 LTF) dans une cause de droit public (<ref-law>). Déposé en temps utile (<ref-law>) et dans les formes prescrites (<ref-law>), par le destinataire de l'arrêt entrepris qui a qualité pour recourir (cf. <ref-law>), le recours est partant recevable, sous réserve de ce qui suit.
1.3. Selon un principe général de procédure, les conclusions constatatoires ont un caractère subsidiaire et ne sont recevables que lorsque des conclusions condamnatoires ou formatrices sont exclues (cf. <ref-ruling> consid. 1.7 p. 123 et les arrêts cités). Or, tant la conclusion tendant à l'annulation de l'arrêt du 7 avril 2020 de la Cour de justice que celle tendant à la délivrance d'une autorisation de séjour en vue du mariage englobent les conclusions tendant à constater que l'arrêt précité n'est pas conforme au droit et que le recourant remplit toutes les conditions permettant la délivrance de l'autorisation sollicitée, de sorte que celles-ci sont irrecevables.
2.
Saisi d'un recours en matière de droit public, le Tribunal fédéral contrôle librement le respect du droit fédéral, qui comprend les droits de nature constitutionnelle (cf. art. 95 let. a et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'<ref-law>. Aux termes de cet alinéa, le Tribunal fédéral n'examine la violation de droits fondamentaux que si ce grief a été invoqué et motivé par la partie recourante, à savoir exposé de manière claire et détaillée (cf. <ref-ruling> consid. 1.3 p. 41). En outre, le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law> (<ref-ruling> consid. 4.4.3 p. 156).
3.
3.1. Le litige porte sur le rejet par le Service cantonal, confirmé par le Tribunal administratif de première instance du canton de Genève puis par la Cour de justice, de la demande d'autorisation de séjour du recourant en vue de se marier avec une ressortissante suisse, formée le 17 novembre 2016. Cette demande a été traitée comme une demande de reconsidération de la décision dudit Service du 11 mai 2016, par lequel celui-ci avait rejeté une demande similaire formée par le recourant, alors en détention.
3.2. En principe, même après un refus d'une autorisation de séjour, il est à tout moment possible de demander l'octroi d'une nouvelle autorisation, dans la mesure où, au moment du prononcé, l'étranger qui en fait la demande remplit les conditions posées à un tel octroi. Indépendamment du fait que cette demande s'intitule reconsidération ou nouvelle demande, elle ne saurait toutefois avoir pour conséquence de remettre continuellement en question des décisions entrées en force. L'autorité administrative n'est ainsi tenue d'entrer en matière sur une nouvelle demande que lorsque les circonstances ont subi des modifications notables ou lorsqu'il existe un cas de révision, c'est-à-dire lorsque l'étranger se prévaut de faits importants ou de preuves dont il n'avait pas connaissance dans la procédure précédente, qu'il lui aurait été impossible d'invoquer dans cette procédure pour des motifs juridiques ou pratiques ou encore qu'il n'avait alors pas de raison d'alléguer (<ref-ruling> consid. 2.1 p. 181; arrêt 2C_198/2018 du 25 juin 2018 consid. 3.3 et les références citées).
Si l'autorité entre en matière sur la nouvelle demande, les raisons qui l'ont conduit à ne pas octroyer l'autorisation lors de la procédure précédente ne perdent toutefois pas leur pertinence. L'autorité doit cependant procéder à une nouvelle pesée complète des intérêts en présence, dans laquelle elle prendra notamment en compte l'écoulement du temps. Il ne s'agit cependant pas d'examiner librement les conditions posées à l'octroi d'une autorisation, comme cela serait le cas lors d'une première demande d'autorisation, mais de déterminer si les circonstances se sont modifiées dans une mesure juridiquement pertinente depuis le refus d'octroi de l'autorisation (arrêt 2C_203/2020 du 8 mai 2020 consid. 4.3 et les arrêts cités).
3.3. En l'occurrence, il n'est pas contesté que la naissance de la fille du recourant constitue une circonstance nouvelle, justifiant un nouvel examen. Il s'agit dès lors de se demander si celle-ci est, compte tenu du contexte global, susceptible de conduire à un résultat juridique différent de celui résultant de la décision du Service cantonal du 11 mai 2016 refusant de lui délivrer une autorisation de séjour en vue du mariage.
4.
Le recourant considère qu'en confirmant le refus de lui octroyer l'autorisation sollicitée, la Cour de justice a violé son droit au mariage consacré à l'art. 12 CEDH et à l'art. 14 Cst., ainsi que son droit à la protection de la vie familiale garanti à l'art. 8 CEDH et à l'art. 13 Cst. Il est également d'avis qu'en faisant primer l'intérêt public à l'éloigner de Suisse sur son intérêt privé à y rester, sans tenir compte ni du temps écoulé ni de son comportement depuis sa condamnation, l'autorité précédente a violé le principe de proportionnalité contenu aux art. 8 par. 2 CEDH et 96 de la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20; dans sa teneur en vigueur au moment de la demande d'autorisation de séjour litigieuse [RO 2007 537], intitulée depuis le 1er janvier 2019, loi fédérale sur les étrangers et l'intégration [LEI, RO 2017 6521]), cf. art. 126 al. 1 LEI; <ref-ruling> consid. 4.3).
4.1. Il convient d'emblée de relever que les infractions commises par le recourant l'ont été antérieurement au 1er octobre 2016, si bien que les <ref-law> respectivement l'art. 62 al. 2 LEtr n'entrent pas en considération (<ref-law>).
4.2. Eu égard à l'art. 12 CEDH, respectivement à l'art. 14 Cst. (qui est interprété de manière analogue, cf. <ref-ruling> consid. 3.5.2 p. 48), les autorités de police des étrangers sont tenues de délivrer un titre de séjour en vue du mariage lorsqu'il n'y a pas d'indice que l'étranger entende, par cet acte, invoquer abusivement les règles sur le regroupement familial et qu'il apparaît clairement que l'intéressé remplira les conditions d'une admission en Suisse après son union (cf. art. 17 al. 2 LEI par analogie; <ref-ruling> consid. 3.5.2 p. 48; <ref-ruling> consid. 4 p. 46 s.; <ref-ruling> consid. 3.7 p. 360). Dans un tel cas, il serait en effet disproportionné d'exiger de l'étranger qu'il rentre dans son pays pour s'y marier ou pour y engager à distance une procédure en vue d'obtenir le droit de revenir en Suisse pour se marier (ibid.).
Conformément à la jurisprudence, ce sont les conditions à l'octroi d'une autorisation une fois l'union célébrée qui doivent paraître clairement réunies pour que la personne ait droit à une autorisation en vue de préparer son mariage, non les conditions d'un refus (arrêt 2C_183/2020 du 21 avril 2020 consid. 4.1 et les arrêts cités). En revanche, les motifs permettant de nier que les conditions d'admission seront réunies après l'union doivent être concrets; des hypothèses ne suffisent pas (cf., à propos de l'art. 17 al. 2 LEI: <ref-ruling> consid. 4.2 p. 49 s.).
4.2.1. En l'occurrence, les intentions matrimoniales des fiancés ne sont pas contestées, de sorte que l'on ne saurait considérer que le mariage qui serait célébré constituerait une pure union de complaisance. Reste donc à examiner s'il apparaît clairement que le recourant, une fois marié, pourrait être admis à séjourner en Suisse.
4.2.2. En application de l'art. 42 al. 1 LEtr, le conjoint d'un ressortissant suisse a droit à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité à condition de vivre en ménage commun avec lui. Toutefois, selon l'art. 51 al. 1 let. b LEtr, les droits prévus à l'art. 42 LEtr s'éteignent s'il existe des motifs de révocation au sens de l'art. 63 LEtr. Selon cette disposition, un motif de révocation existe notamment lorsque conditions visées à l'art. 62 al. 1 let. b LEtr sont remplies, à savoir lorsque l'étranger a été condamné à une peine privative de liberté de longue durée, à savoir dépassant un an d'emprisonnement (<ref-ruling> consid. 2.1 p. 147). Or, par sa condamnation en 2015 à une peine privative de liberté de 4 ans pour viol notamment, le recourant remplit manifestement cette condition. L'intéressé ne le conteste du reste pas.
Dans ces conditions, la Cour de justice pouvait retenir, sous l'angle des art. 51 al. 1 let. b et 63 LEtr (en relation avec l'art. 62 al. 1 let. b LEtr), qu'il n'était à tout le moins pas évident que le recourant pourrait bénéficier, une fois marié, d'un droit de séjour en Suisse.
4.3. Le recourant se prévaut d'un droit de séjour en Suisse fondé sur l'art. 8 CEDH, respectivement sur l'art. 13 Cst., en invoquant en particulier la relation avec sa fille, née après la décision du Service cantonal du 11 mai 2016 rejetant sa première demande d'autorisation de séjour en vue du mariage.
4.3.1. Le fait de refuser un droit de séjour à un étranger dont la famille se trouve en Suisse entrave sa vie familiale et porte ainsi atteinte au droit au respect de la vie privée et familiale garanti par l'art. 8 CEDH (<ref-ruling> consid. 3.1 p. 146 s.; <ref-ruling> consid. 1.3.1 p. 145). Pour être justifiée, l'atteinte doit donc être proportionnée (cf. art. 8 par. 2 CEDH). Cela commande une pesée globale des intérêts qui suppose de tenir compte de l'ensemble des circonstances et de mettre en balance l'intérêt privé à l'obtention d'un titre de séjour et l'intérêt public à son refus (cf. <ref-ruling> consid. 4.2 p. 96; <ref-ruling> consid. 6.1 p. 47 et les arrêts cités).
4.3.2. En l'espèce, le recourant est entré en Suisse sans autorisation en 2013. Il y a rapidement commis des infractions très graves contre l'intégrité sexuelle - domaine dans lequel le Tribunal fédéral se montre particulièrement rigoureux (cf. <ref-ruling> consid. 3.3; arrêt 2C_781/2018 du 28 août 2019 consid. 4.3 et 5.6) - qui ont conduit à sa condamnation en 2015 à une peine privative de liberté de 4 ans. L'importance du bien juridique lésé et la durée de la condamnation pénale confirment l'extrême gravité des infractions perpétrées par le recourant, qui réalisent par ailleurs un motif d'éloignement au sens de la législation sur les étrangers (cf. supra consid. 4.2.2). Il ressort en outre des constatations cantonales que le Tribunal d'application des peines et des mesures du canton de Genève, dans son jugement du 22 mars 2016 ordonnant la libération conditionnelle du recourant, a souligné que " lors de sa libération (...), [l'intéressé] se retrouvera dans la même situation personnelle et dans le même état d'esprit qu'au moment de son incarcération, soit avec une haute estime de lui-même et attendant que ses besoins soient satisfaits, possiblement au mépris de la volonté d'autrui " et que " le risque qu'il commette une nouvelle infraction contre l'intégrité sexuelle ne [pouvait] être exclu (cf. arrêt entrepris consid. 6). Sous cet angle, quoi qu'en pense l'intéressé, son comportement correct en prison n'est pas relevant, une telle attitude étant attendue de tout délinquant (cf. <ref-ruling> consid. 5.5.2 p. 128 et les arrêts cités). L'écoulement du temps depuis sa condamnation, dont une partie a, au demeurant, été passée à exécuter la peine prononcée à son encontre, ne permet par ailleurs pas, à lui seul, compte tenu des actes répréhensibles en cause, de relativiser le risque qu'il représente pour l'ordre public. C'est également en vain que l'intéressé se prévaut du fait qu'il lui aurait été notoirement facile d'entrer illégalement sur le sol suisse, afin d'y retrouver sa fiancée et sa fille, mais qu'il s'en était abstenu, respectant ainsi l'ordre juridique suisse. Un tel comportement est en effet attendu de tout étranger et ne constitue donc pas un élément extraordinaire en sa faveur.
Dans ces circonstances, les arguments d'intérêt public à éloigner le recourant de Suisse, fondés sur des considérations d'ordre public et de prévention des infractions pénales, qui étaient clairs lors du dernier rejet de sa demande d'octroi d'autorisation de séjour, sont toujours d'actualité.
4.3.3. S'agissant de sa fille, âgée de deux ans, l'intérêt fondamental de l'enfant (cf. art. 3 de la Convention du 20 novembre 1989 relative aux droits de l'enfant [CDE; RS 0.107]) à pouvoir grandir en jouissant d'un contact étroit avec ses deux parents doit certes être pris en compte dans l'examen du droit de son père à séjourner en Suisse. Il n'est toutefois pas un élément prépondérant par rapport aux autres circonstances, la pesée des intérêts devant être globale. L'art. 3 CDE ne saurait fonder une prétention directe à l'octroi d'une autorisation (cf. <ref-ruling> consid. 5.2 p. 97; <ref-ruling> consid. 3.2 p. 148). En l'occurrence, l'intérêt indéniable de la fille du recourant de vivre en présence de son père ne saurait toutefois l'emporter sur les considérations d'ordre public rappelées ci-avant et permettre à lui seul d'admettre un droit de séjour au recourant. Il convient de préciser que le recourant n'a jamais vécu avec sa fille en Suisse, pays où, selon ses dires, il n'aurait séjourné que deux semaines en 2013, avant d'y commettre une lourde infraction. En outre, selon l'arrêt attaqué, il ne démontre pas l'existence de relations économiques avec cette enfant, admettant être dans l'impossibilité de participer aux frais d'entretien de sa fille.
4.4. En ce qui concerne sa relation avec sa fiancée, celle-ci devait s'attendre, compte tenu du passé criminel du recourant, à ce qu'il lui soit difficile d'obtenir un titre de séjour pour se marier en Suisse et y vivre une vie de couple (cf. arrêts 2C_107/2018 du 19 septembre 2018 consid. 4.9; 2C_977/2012 du 15 mars 2013 consid. 3.6). A cet égard, l'argumentation du recourant, qui se prévaut du fait qu'il est en couple avec l'intéressée depuis 2010 et que, à cette époque, celle-ci ne pouvait se douter qu'il allait être condamné quelques années plus tard, confine à la témérité. Il est en effet constant que le couple s'est fiancé durant l'été 2016 et que la procédure en vue du mariage s'avère ainsi postérieure à la condamnation de l'intéressé. Il ressort par ailleurs des faits de l'arrêt entrepris que sa fiancée le visitait régulièrement en prison depuis décembre 2014 et que leur relation a sérieusement repris en août 2015. Les fiancés ne pouvaient dès lors, comme l'a constaté l'autorité précédente, ignorer qu'ils couraient le risque de devoir vivre leur vie de couple et de famille de manière séparée. Le recourant pourra du reste continuer de voir sa compagne lors de visites au Kosovo, pays où celle-ci s'est rendue à plusieurs reprises, et entretenir des contacts avec celle-ci par les moyens de communication modernes.
4.5. En résumé, l'ensemble de ces circonstances fait apparaître que le refus d'octroi d'une autorisation de séjour en vue du mariage n'est pas disproportionné, dès lors qu'il n'est pas d'emblée clair que le recourant pourrait disposer d'un droit de séjour en Suisse après son union en vertu du droit interne ou de l'art. 8 CEDH. Rien, dans l'arrêt entrepris, n'indique par ailleurs que l'on se trouverait dans une situation où une éventuelle tolérance de séjour en vue du mariage, indépendamment du point de savoir si les futurs époux auraient ensuite le droit de mener leur vie conjugale ou familiale en Suisse, devrait être envisagée, afin que soit garantie la substance du droit au mariage (cf. arrêts 2C_950/2014 du 9 juillet 2015 consid. 6.2; 2C_962/2013 du 13 février 2015 consid. 3). En effet, il n'apparaît pas que les démarches en vue du mariage ne pourraient pas être poursuivies depuis l'étranger ou que le recourant et sa compagne n'auraient aucune possibilité juridique de se marier dans un pays autre que la Suisse, notamment au Kosovo, pays d'origine du recourant, où le couple s'est fiancé. Ces circonstances suffisent à garantir le droit au mariage des intéressés (cf. arrêts 2C_154/2020 du 7 avril 2020 consid. 3.10; 2C_107/2018 du 19 septembre 2018 consid. 4.9 et l'arrêt cité).
4.6. Il résulte de ce qui précède que la confirmation par la Cour de justice du refus de l'autorisation de séjour en vue du mariage ne méconnaît ni les art. 8 et 12 CEDH, ni les art. 13 et 14 Cst. Les griefs du recourant doivent partant être rejetés.
5.
Les considérants qui précèdent conduisent au rejet du recours dans la mesure de sa recevabilité. Succombant, le recourant doit supporter les frais judiciaires (cf. <ref-law>). Il n'est pas alloué de dépens (cf. art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours constitutionnel subsidiaire est irrecevable.
2.
Le recours en matière de droit public est rejeté dans la mesure où il est recevable.
3.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué au mandataire du recourant, à l'Office cantonal de la population et des migrations du canton de Genève, à la Cour de justice de la République et canton de Genève, Chambre administrative, 2ème section, et au Secrétariat d'Etat aux migrations.
Lausanne, le 10 août 2020
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
Le Greffier : Rastorfer