Faits :
A.
A.a. A._, né en 1983, a travaillé comme conducteur pour la société B._ Sàrl. ll était à ce titre assuré obligatoirement contre le risque d'accident auprès de la Caisse nationale suisse d'assurance en cas d'accidents (CNA). Le 15 avril 2016, il a fait une chute à l'intérieur d'une benne de camion en se réceptionnant sur les fesses et la main droite. Des discopathies protrusives des trois derniers disques intervertébraux (prédominantes en L5-S1 avec une petite hernie médiane au contact des deux racines S1) ont été détectées par imagerie par résonance magnétique (IRM) le 29 avril 2016 (rapport du docteur C._, spécialiste en radiologie, du 29 avril 2016). La CNA a pris en charge le cas. L'assuré a retrouvé une pleine capacité de travail dès le 4 juillet 2016.
A.b. Le 5 octobre 2017, A._ a annoncé une rechute depuis le 29 septembre 2017 en raison de lombalgies irradiant dans la jambe droite. Le 25 octobre 2017, la doctoresse D._, spécialiste FMH en médecine interne, a posé le diagnostic de lombo-scatalgies post-traumatiques. A l'issue d'une IRM réalisée le 14 novembre 2017, le docteur E._, spécialiste en neurochirurgie, a diagnostiqué "une hernie discale L4-L5 gauche mais surtout L5-S1 droite conflictuelle" (rapport du 20 novembre 2017). Le 3 décembre 2017, la doctoresse D._ a indiqué que l'assuré souffrait d'une lombalgie droite et de hernies discales. A la demande de la CNA, le docteur F._, spécialiste en chirurgie orthopédique et médecin d'arrondissement de la CNA, a indiqué que la causalité naturelle était tout au plus possible étant donné l'atteinte pluri-étagée au niveau du rachis lombaire et la latence entre la reprise du travail et la rechute (rapport du 16 janvier 2018).
A.c. Par décision du 16 janvier 2018, la CNA a refusé d'allouer des prestations d'assurance pour la rechute annoncée le 5 octobre 2017. Dans son opposition du 5 mars 2018, A._ a transmis un rapport non signé du docteur G._, spécialiste en neurochirurgie, dans lequel ce dernier a indiqué que l'assuré souffrait de son dos de longue date et qu'il était difficile de répondre formellement à la question de savoir si les discopathies en L4-L5 et L5-S1 pouvaient être liées à l'accident du 15 avril 2016, tout en précisant qu'il y avait une relation entre les discopathies de 2016 et celles de 2017 (rapport du 20 décembre 2017). La CNA a confirmé son refus d'intervenir pour la rechute annoncée par une décision sur opposition du 15 mai 2019.
B.
A._ a recouru contre cette décision devant la Chambre des assurances sociales de la Cour de justice de la République et canton de Genève. A l'appui de sa réponse, la CNA a produit un rapport du 15 octobre 2019 du docteur H._, spécialiste en chirurgie orthopédique et traumatologie de sa division médecine des assurances. Par jugement du 27 avril 2020, la cour cantonale a rejeté le recours de l'assuré.
C.
A._ interjette un recours en matière de droit public contre ce jugement, dont il requiert l'annulation. Il conclut principalement à ce qu'il soit constaté qu'il a droit aux prestations d'assurance pour la rechute du 29 septembre 2017.
Il n'a pas été ordonné d'échange d'écritures.

Considérant en droit :
1.
Le recours est dirigé contre un arrêt final (<ref-law>) rendu en matière de droit public (<ref-law>) par une autorité cantonale de dernière instance (art. 86 al. 1 let. d LTF). Il a été déposé dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi. Il est donc recevable.
2.
Est litigieux le point de savoir si la cour cantonale a confirmé à bon droit le refus de la CNA de prendre en charge la rechute annoncée le 5 octobre 2017.
Aux termes de l'<ref-law>, lorsque la décision qui fait l'objet d'un recours concerne l'octroi ou le refus de prestations en espèces de l'assurance-accidents ou de l'assurance militaire, le Tribunal fédéral n'est pas lié par les faits établis par l'autorité précédente (art. 97 al. 2 et 105 al. 3 LTF). Si le litige porte, comme c'est le cas ici, sur des prestations en espèces et en nature de l'assurance-accidents, le Tribunal fédéral dispose d'un pouvoir d'examen étendu en ce qui concerne les faits communs aux deux types de prestations (arrêt 8C_584/2009 du 2 juillet 2010 consid. 4, in SVR 2011 UV n° 1 p. 2 s.).
3.
Le 1 er janvier 2017 est entrée en vigueur la modification du 25 septembre 2015 de la LAA. A juste titre, la cour cantonale a retenu que dans la mesure où l'événement assuré était survenu avant cette date, le droit du recourant aux prestations d'assurance pour la rechute de cet événement était soumis à l'ancien droit (cf. dispositions transitoires relatives à la modification du 25 septembre 2015; RO 2016 4375).
4.
4.1. Le jugement entrepris expose correctement les dispositions légales et les principes jurisprudentiels applicables au présent litige, s'agissant en particulier du droit aux prestations de la LAA en cas de rechute (<ref-law> et 11 OLAA), de l'exigence pour l'assuré d'établir, au degré de la vraisemblance prépondérante, l'existence d'un rapport de causalité naturelle entre l'état pathologique qui se manifeste à nouveau et l'accident (SVR 2016 n° UV 18 p. 55 consid. 2.2.2) et de la manière d'apprécier les expertises et rapports médicaux (<ref-ruling>, consid. 2.2.2; <ref-ruling>, consid. 3). Il suffit d'y renvoyer.
4.2. La cour cantonale a d'abord constaté que le rapport du docteur F._ du 16 janvier 2018 et celui du docteur H._ du 15 octobre 2019 répondaient aux réquisits jurisprudentiels et devaient se voir reconnaître une pleine valeur probante. En outre, le rapport du docteur G._ du 20 décembre 2017 était la seule appréciation médicale autre que celle du médecin d'arrondissement qui se prononçait sur le rapport de causalité entre l'accident du 15 avril 2016 et les troubles annoncés par l'assuré le 5 octobre 2017. Or, ce médecin avait conclu que le rapport de causalité n'était "pas impossible", ce qui ne suffisait pas pour admettre l'existence d'un rapport de cause à effet entre l'accident et les nouvelles affections de l'assuré. Enfin, les juges cantonaux ont confirmé que la CNA n'avait pas violé son devoir d'instruction, celle-ci ayant rendu une décision après que le docteur F._ s'était prononcé de manière circonstanciée sur l'existence d'un lien de causalité entre les troubles annoncés par l'assuré le 5 octobre 2017 et l'accident du 15 avril 2016.
5.
5.1. Le recourant conteste l'absence de lien de causalité retenue par la cour cantonale entre son accident du 15 avril 2016 et les troubles apparus le 29 septembre 2017. Il reproche en substance aux premiers juges de s'être livrés à une appréciation erronée des preuves en se fondant sur l'avis du docteur F._ du 16 janvier 2018 et sur celui du docteur H._ du 15 octobre 2019. Le recourant affirme en effet que le docteur F._ aurait rendu son avis avant d'avoir pris connaissance du rapport du docteur G._ et que le docteur H._ se serait prononcé sur la causalité adéquate, qui est une notion juridique. En outre, la cour cantonale aurait également dû prendre en compte les avis de la doctoresse D._ des 25 octobre et 3 décembre 2017 et "l'avis d'un ostéopathe" du 14 novembre 2016 lorsqu'elle s'est prononcée sur la causalité naturelle. Finalement, le recourant soutient que des investigations supplémentaires auraient dû être mises en oeuvre.
5.2. On relèvera tout d'abord que le docteur F._ ne pouvait pas prendre connaissance du rapport du docteur G._ avant de se déterminer car l'assuré n'a transmis le rapport de ce dernier, daté du 20 décembre 2017, que le 5 mars 2018. Quoi qu'il en soit, l'avis du docteur F._, qui a constaté un intervalle libre de plus d'une année entre la reprise du travail à plein temps de l'assuré le 4 juillet 2016 et la rechute annoncée, a été confirmé par celui du docteur H._, lequel est quant à lui postérieur à celui du docteur G._. Or le docteur H._ a procédé à une évaluation détaillée des précédents avis médicaux et a expliqué que l'assuré avait des antécédents discaux dégénératifs connus et que l'événement accidentel du 15 avril 2016 n'avait pas "créé" les lésions constatées. Il a également indiqué que les hernies discales étaient survenues après un intervalle libre de dix-sept mois et que la causalité naturelle était donc tout au plus possible. A l'instar de la juridiction cantonale, il y a lieu de reconnaître à cet avis médical une pleine valeur probante, ses conclusions étant claires et motivées. On notera enfin que le docteur H._ était fondé à se prononcer sur la causalité naturelle qui est une question de fait (<ref-ruling> consid. 1; <ref-ruling> consid. 3.1, 402 consid. 4.3.1 et les références).
C'est également à juste titre que la juridiction cantonale a retenu que l'avis du docteur G._ constituait la seule appréciation médicale autre que celle du médecin d'arrondissement qui se prononçait sur la causalité naturelle. En effet, la mention de rechute dans le rapport de la doctoresse D._ du 25 octobre 2017 correspond aux indications du patient et non à une appréciation médicale. On ne trouve en outre aucun diagnostic de rechute dans le rapport intermédiaire du 3 décembre 2017 de ce médecin. Quant à la consultation d'un ostéopathe le 14 novembre 2016, l'assuré n'a fait que produire une note d'honoraire qui ne comporte aucune précision sur la cause de ce traitement.
5.3. Ainsi, la cour cantonale était fondée à constater qu'aucun élément dans le dossier ne permettait de retenir, au degré de la vraisemblance prépondérante, que les troubles déclarés par le recourant seraient en lien avec de causalité avec l'accident du 15 avril 2016, et sa décision de ne pas ordonner de nouvelles mesures d'instruction échappe à toute critique.
6.
Vu ce qui précède, le recours se révèle mal fondé. Le recourant, qui succombe, supportera les frais judiciaires (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et à l'Office fédéral de la santé publique.
Lucerne, le 27 avril 2021
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président : Maillard
La Greffière : Fretz Perrin