Faits:
A. E._ travaillait en qualité de peintre-décorateur au service de l'entreprise X._ Sàrl. A ce titre, il était obligatoirement assuré contre le risque d'accidents auprès de la Caisse nationale suisse d'assurance en cas d'accidents (ci-après: la CNA).
Le 28 novembre 2007, sur son lieu de travail, le prénommé a trébuché contre un objet au sol alors qu'il portait une lourde charge et a chuté avec une torsion du dos. Il a été transporté le jour même au Service des urgences de l'Hôpital X._ où a été posé le diagnostic de lombosciatalgie droite non déficitaire. L'incapacité de travail était totale. La CNA a pris en charge le cas.
A partir du mois de février 2008, l'assuré a été régulièrement suivi par le docteur G._, spécialiste FMH en neurochirurgie, qui a notamment établi un rapport le 17 mars 2008, dans lequel il a fait état d'un syndrome de compression radiculaire et d'une discopathie avec un relâchement ligamentaire important en L3-L4.
Le 9 octobre 2008, l'assuré a informé la CNA qu'il renonçait à son séjour prévu à la Clinique Y._ et qu'il reprendrait son travail à plein temps à partir du 1er novembre 2008, ce que le docteur G._ a confirmé par certificat médical du 27 octobre 2008.
Le 13 mai 2009, E._ a annoncé, par l'intermédiaire de son nouvel employeur, une rechute de l'accident du 28 novembre 2007. Le 5 mai 2009, l'assuré avait dû interrompre son travail à la suite d'une douleur hyperalgique de sa sciatique S1 à gauche. Aucun phénomène déclenchant particulier n'a été signalé. Dans un rapport du 15 mai 2009, le docteur G._ a posé le diagnostic de syndrome lombosciatique gauche sur discopathie L5-S1 avec conflit radiculaire gauche. La CNA a demandé l'avis de son médecin-conseil, le docteur P._, spécialiste FMH en chirurgie, lequel a constaté que la réapparition de la lombosciatalgie en date du 5 mai 2009 n'était plus la probable conséquence de la simple contusion ou distorsion du 28 novembre 2007 mais qu'il s'agissait plutôt d'une pathologie liée à la discopathie préexistante sur les vertèbres lombaires. Celle-ci avait été seulement temporairement symptomatique. Une lésion traumatique ou neurologique n'avait jamais été décelée. Les résultats de l'IRM pratiquée le 11 mai 2009 n'avaient révélé aucun changement par rapport à celle du 26 février 2009. Le docteur P._ en a conclu que le statu quo sine avait été atteint, au degré de la vraisemblance prépondérante, au plus tard le 1er novembre 2008, date à laquelle l'assuré avait pu reprendre son activité à plein temps pendant six mois (cf. rapport du 29 mai 2009).
Par décision du 5 juin 2009, confirmée sur opposition le 9 février 2010, la CNA a refusé tout droit à des prestations postérieurement au 31 octobre 2008.
B. E._ a recouru contre la décision sur opposition en demandant la mise en oeuvre d'une expertise médicale par un expert indépendant.
Le Tribunal cantonal des assurances sociales du canton de Genève (aujourd'hui: Cour de justice de la République et canton de Genève, Chambre des assurances sociales) a accepté cette demande et a confié un mandat d'expert judiciaire au docteur H._, spécialiste FMH en neurologie, par ordonnance du 5 août 2010. Dans un rapport du 8 novembre 2010, ce médecin a exclu une péjoration soudaine de l'anomalie radiologique à la suite de l'événement du 5 mai 2009, le statu quo sine ayant été atteint très largement le 1er novembre 2008 déjà.
Contestant les conclusions de l'expert H._, l'assuré a requis son audition.
La juridiction cantonale a entendu les docteurs G._ et H._ (procès-verbal d'enquêtes du 8 février 2011) ainsi que le docteur O._, spécialiste FMH en chirurgie orthopédique et médecin d'arrondissement de la CNA (procès-verbal d'enquêtes des 24 mars et 19 mai 2011).
Par jugement du 29 novembre 2011, la juridiction cantonale a rejeté le recours.
C. E._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Sous suite de frais et dépens, à titre principal, il conclut à l'octroi d'indemnités journalières et aux autres prestations de l'assurance-accidents dès le 5 mai 2009; à titre subsidiaire, il demande le renvoi de la cause à la juridiction cantonale pour nouvelle expertise. Il requiert en outre le bénéfice de l'assistance judiciaire.
Il n'a pas été procédé à un échange d'écritures.

Considérant en droit:
1. Le litige porte sur le point de savoir si l'intimée était fondée, par sa décision sur opposition du 9 février 2010, à refuser le droit du recourant à des prestations d'assurance (traitement médical et indemnités journalières) à compter du 1er novembre 2008.
Lorsque le jugement entrepris porte sur des prestations en espèces et en nature de l'assurance-accidents, le Tribunal fédéral constate avec un plein pouvoir d'examen les faits communs aux deux objets litigieux et se fonde sur ces constatations pour statuer, en droit, sur ces deux objets. En revanche, les faits qui ne seraient pertinents que pour statuer sur le droit aux prestations en nature ne sont revus que dans les limites définies par les art. 97 al. 1 et 105 al. 2 LTF (arrêts 8C_522/2011 du 6 juillet 2012 consid. 2; 8C_447/2011 du 8 juin 2012 consid. 2).
2. La responsabilité de l'assureur-accidents s'étend, en principe, à toutes les conséquences dommageables qui se trouvent dans un rapport de causalité naturelle et adéquate avec l'événement assuré. Les prestations d'assurance sont donc également versées en cas de rechutes ou de séquelles tardives (art. 11 OLAA). Selon la jurisprudence, il y a rechute lorsqu'une atteinte présumée guérie récidive, de sorte qu'elle conduit à un traitement médical ou à une (nouvelle) incapacité de travail. Les rechutes se rattachent par définition à un événement accidentel. Corrélativement, elles ne peuvent faire naître une obligation de l'assureur-accidents (initial) de verser des prestations que s'il existe un lien de causalité naturelle et adéquate entre les nouvelles plaintes de l'intéressé et l'atteinte à la santé causée à l'époque par l'accident assuré (<ref-ruling> consid. 2c p. 296 et les références; RAMA 1994 n° U 206 p. 327 consid. 2).
3. L'expert judiciaire a constaté que les examens radiologiques (scanner lombaire du 3 décembre 2007 et IRM lombaire du 26 février 2008) mettaient en évidence une discrète discopathie L3-L4, caractérisée surtout par une dessiccation du disque, sans perte de sa hauteur, avec très discrète protrusion discale. Ce tableau radiologique ne permettait pas d'expliquer une éventuelle compression radiculaire. Selon l'expert, la description du status neurologique effectuée en mars 2008 par le docteur G._ semblait discutable. Celui-ci décrivait un Lasègue inférieur à 20° à droite. Or, une manoeuvre de Lasègue positive à moins de 30° était considérée comme un signe de non-organicité dès lors qu'en cas de compression radiculaire vérifiée, le signe de Lasègue n'apparaissait jamais en-dessous de 30°. De plus, à 30°, la compression radiculaire était en général indiscutable sur le plan radiologique. De plus, le docteur G._ évoquait une éventuelle compression radiculaire sur le radiculo-CT, par un signe de tromblon ébauché. Or, l'inspection minutieuse de ces documents ne permettait pas de confirmer ces anomalies. Il existait tout au plus une discrète empreinte sur le sac dural, médiane, en L3-L4, bien expliquée par la discrète protrusion. Le scanner lombaire réalisé le 10 juin 2008 était parfaitement superposable au précédent, de sorte qu'il ne pouvait expliquer, selon le docteur H._, l'atteinte neurologique majeure décrite par le docteur G._. En ce qui concernait l'atteinte douloureuse réapparue en mai 2009, le docteur H._ s'est dit à nouveau frappé par la description clinique du docteur G._, lequel faisait état d'un Lasègue positif de 0° du côté gauche et d'un Lasègue contro-latéral survenant à 30° ainsi que des troubles moteurs et sensitifs. Pour l'expert judiciaire, un tel tableau clinique évoquait en premier lieu une atteinte fonctionnelle, d'autant plus que deux IRM, effectuées les 11 mai et 4 juin 2009 ne permettaient pas d'expliquer une telle atteinte neurologique mais mettaient toujours en évidence une discrète protrusion discale L3-L4 médiane, parfaitement inchangée par rapport aux examens précédents. Un scanner lombaire effectué le 10 juin 2009 avait certes révélé une discrète évolution, caractérisée par l'apparition d'une diminution de la hauteur du disque et par une discrète augmentation de la protrusion médiane. Il s'agissait toutefois d'anomalies discrètes qui ne pouvaient être responsables d'une éventuelle compression radiculaire.
Sur la base des ces observations, l'expert a conclu que la discopathie, associée au discret prolapsus discal, devait être considérée comme un processus dégénératif de longue durée. En résumé, l'accident du 28 novembre 2007 avait engendré des lombalgies post-traumatiques, avec irradiation aux membres inférieurs, d'allure pseudo-radiculaire, sans composante organique sous-jacente. L'intensité du syndrome douloureux et de ses répercussions fonctionnelles et professionnelles ne pouvait être expliqué par des éléments organiques. En conséquence, un état antérieur, à savoir une discopathie préexistante avait été aggravée par l'événement du 28 novembre 2007, mais certainement pas au-delà du 1er novembre 2008, ce qui semblait largement compté, et ceci au degré de la vraisemblance prépondérante.
4. Se fondant sur l'expertise judiciaire à laquelle ils ont accordé une pleine valeur probante, les premiers juges sont arrivés à la conclusion qu'il n'existait pas de lien de causalité entre l'atteinte ressentie par le recourant dès le 5 mai 2009 et l'accident dont il a été victime le 28 novembre 2007.
5. Le recourant, qui se prévaut de l'avis du docteur G._, remet en cause la valeur probante de l'expertise judiciaire au motif que l'expert ne l'aurait rencontré qu'à une seule reprise et qu'il ne disposait pas de l'intégralité du dossier, toutes les radiographies faites après l'accident du 28 novembre 2007 n'ayant pas été transmises à l'expert. Par ailleurs, il fait valoir que l'expertise judiciaire est contradictoire dès lors que le docteur H._ a confirmé l'existence d'une continuité dans les symptômes et douleurs ainsi que dans la prise de médicaments depuis l'accident du 28 novembre 2007 jusqu'au 5 mai 2009 alors qu'il a nié l'existence d'un lien de causalité entre l'atteinte ressentie par le recourant le 5 mai 2009 et l'accident du 28 novembre 2007.
6. En principe, le juge ne s'écarte pas sans motif impérieux des conclusions d'une expertise judiciaire. Peut constituer une raison de s'écarter d'une expertise judiciaire le fait que celle-ci contient des contradictions, ou qu'une surexpertise ordonnée par le tribunal en infirme les conclusions de manière convaincante. En outre, lorsque d'autres spécialistes émettent des opinions contraires aptes à mettre sérieusement en doute la pertinence des déductions de l'expert, on ne peut exclure, selon les cas, une interprétation divergente des conclusions de ce dernier par le juge ou, au besoin, une instruction complémentaire sous la forme d'une nouvelle expertise médicale (<ref-ruling> consid. 3b/aa p. 352 et les références citées).
7. Contrairement à ce que soutient le recourant, l'expert H._ ne s'est pas contenté des renseignements récoltés durant l'entretien, mais s'est également fondé sur toutes les pièces du dossier qui a été mis à sa disposition par la juridiction cantonale, ainsi que sur l'étude du dossier radiologique, reconstitué par ses propres soins auprès des différents instituts. Au demeurant, le nombre d'entretiens ou la durée de ceux-ci ne sont pas des critères retenus par la jurisprudence pour juger du caractère probant d'un rapport d'expertise (cf. <ref-ruling> consid. 3a p. 352).
Par ailleurs, on ne voit pas en quoi il serait contradictoire de constater, d'une part, une continuité des symptômes au-delà du 1er novembre 2008 et de considérer, d'autre part, qu'à partir de cette date, ceux-ci ne sont plus en lien de causalité avec l'accident du 28 novembre 2007 mais résultent de l'atteinte dégénérative présentée par l'assuré.
8. Dans ces conditions, les premiers juges n'avaient pas de raison de s'écarter de l'expertise judiciaire du 8 novembre 2010, laquelle remplit toutes les exigences auxquelles la jurisprudence soumet la valeur probante d'un tel document, ni a fortiori d'en ordonner une nouvelle.
9. Il résulte de ce qui précède que le recours doit être rejeté. Comme le recours paraissait d'emblée dénué de chances de succès, le recourant ne saurait bénéficier de l'assistance judiciaire (cf. art. 64 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 750 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et à l'Office fédéral de la santé publique.
Lucerne, le 18 septembre 2012
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Ursprung
La Greffière: Fretz Perrin