Faits:
A. A.a A._ travaillait depuis le 18 août 2003 en qualité de man?uvre sur le chantier souterrain de percement du tunnel de base de X._ pour le compte de Y._ SA. A ce titre, il était assuré contre les accidents auprès de la Caisse nationale suisse d'assurance en cas d'accidents (CNA).
Le 23 mars 2004, il a été blessé à la tête, au bras et à la jambe gauches par un bloc de rocher tombant d'un concasseur. A l'hôpital Z._ où il a été admis en urgence, les médecins ont diagnostiqué une fracture comminutive ouverte de stade II du tibia et du péroné gauches, une fracture du tiers médian du radius gauche et des blessures au front, au dos du nez et sous l'?il gauche. Les fractures ont été ostéosynthésées. Après avoir séjourné jusqu'au 13 avril 2004 à l'hôpital, l'assuré a été transféré à la Clinique W._, où il est resté du 14 avril au 15 juin 2004.
Par la suite, A._ a présenté un retard dans la consolidation osseuse au niveau de la fracture comminutive du tibia (rapport du docteur P._, spécialiste en chirurgie et médecin d'arrondissement du 15 février 2006) et une pseudarthrose infectée à staphylocoques coagulase négatif du tibia gauche, diagnostiquée par les docteurs E._, R._ et C._, chirurgiens au Service d'orthopédie et de traumatologie de l'appareil locomoteur de V._ (rapport du 7 juin 2007). En raison de ces atteintes, il a subi de nombreuses interventions chirurgicales et effectué deux séjours supplémentaires à la Clinique W._. Dans un rapport du 30 août 2010, le docteur U._, spécialiste en chirurgie et traumatologie et médecin d'arrondissement, a admis que l'assuré était apte au travail à 100 % dans une activité légère et adaptée (excluant le port de charges supérieures à 10 kg, les marches prolongées ainsi que les montées ou descentes d'escaliers ou d'échelles). Concernant l'indemnité pour atteinte à l'intégrité, ce médecin a confirmé l'appréciation du docteur P._, selon laquelle le taux de l'atteinte était de 12,5 % (rapport du 5 mars 2007).
Par décision du 7 janvier 2011, la CNA a fixé l'indemnité pour atteinte à l'intégrité à 12,5 % et a refusé l'octroi d'une rente d'invalidité, estimant que les séquelles de l'accident du 23 mars 2004 n'avaient pas entraîné une diminution importante de la capacité de gain de l'assuré.
Le 30 mars 2011, la CNA a rejeté l'opposition de l'assuré. Elle a considéré, sur la base de descriptions de postes de travail, que l'assuré était encore à même de réaliser un salaire annuel de 54'057 fr. en tenant compte des limitations fonctionnelles. Pour fixer le revenu sans invalidité, elle a estimé que l'assuré aurait, sans accident, continué à travailler dans le tunnel jusqu'en 2006, année durant laquelle le chantier a été terminé, et que, par la suite, son employeur lui aurait proposé un autre travail de man?uvre mais pas sur un chantier souterrain. Ainsi, la CNA a retenu comme établi au degré de la vraisemblance prépondérante, que le salaire réalisable en 2009-2010, ne comprenait pas les allocations pour un travail en équipes et dans une galerie. Elle a donc fixé le revenu sans invalidité à 57'999 fr. pour 2010 (2112 heures annuelles à raison de 25 fr 35 par heure, plus 8.33 % pour le 13ème salaire). Ainsi, le taux d'invalidité s'élevait à 6.8 %.
A.b Le 4 avril 2005, A._ a déposé une demande de prestations de l'assurance-invalidité auprès de l'Office cantonal AI du Valais (ci-après: l'office AI) en vue de l'octroi d'une orientation professionnelle, d'un reclassement dans une nouvelle profession, d'un placement et d'une rente. Par projet d'acceptation de rente du 18 janvier 2008, confirmé par décision du 7 avril 2008, l'office AI a informé l'assuré qu'un droit à une rente entière d'invalidité lui était reconnu à partir du 1er mars 2005. Par projet de décision du 25 juin 2010, confirmé par décision du 6 septembre 2010, l'office AI a fait savoir à l'assuré qu'il refusait la prise en charge de mesure de reclassement, car son état de santé lui laissait une pleine capacité de travail dans toute activité légère et adaptée dès le 15 mars 2010 au plus tard, ce qui avait pour effet de supprimer toute incapacité de gain.
Par projet de décision du 21 octobre 2010, confirmé par décision du 1er décembre 2010, l'office AI a supprimé la rente de l'assuré dès le premier jour du deuxième mois suivant la notification de la décision définitive. Se fondant sur l'Enquête suisse sur la structure des salaires (ESS), l'office AI a retenu un taux d'invalidité de 1 % sur la base d'un revenu d'invalide de 54'110 fr. 75 (ESS 2008, TA1, valeur centrale, degré de qualification 4 avec une réduction de 10 % pour tenir des circonstances professionnelles et personnelles) et d'un revenu sans invalidité de 54'708 fr. 55 pour une activité de garçon de café. Cette décision a fait l'objet d'un recours devant le Tribunal cantonal valaisan, Cour des assurances sociales, qui l'a rejeté par jugement du 3 janvier 2012. Saisi d'un recours en matière de droit public contre ce jugement, le Tribunal fédéral a statué par arrêt dont la date est identique à celle du présent arrêt (cause 8C_144/2012).
B. L'intéressé a déféré la décision sur opposition du 30 mars 2011 de la CNA au Tribunal cantonal valaisan, Cour des assurances sociales, qui a rejeté le recours par jugement du 3 janvier 2012.
C. A._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut, sous suite de frais et dépens, principalement, à l'octroi d'une rente basée sur un taux d'invalidité de 40 % et, subsidiairement, au renvoi du dossier à la CNA pour calcul du revenu sans invalidité et nouvelle décision.
La CNA a conclu au rejet du recours, alors que l'Office fédéral de la santé publique a renoncé à se déterminer.
Considérant en droit:
1. Le litige portant sur le droit du recourant à une rente d'invalidité de l'assurance-accidents, respectivement le taux de la perte de gain, le Tribunal fédéral n'est donc pas lié par l'état de fait constaté par la juridiction inférieure (art. 97 al. 2 LTF).
2. 2.1 Concernant le revenu sans invalidité, la juridiction cantonale a admis, comme établi au degré de la vraisemblance prépondérante, que, sans accident, le recourant aurait travaillé sur le chantier de O._ jusqu'à la fin des travaux de percement et que, par la suite, il aurait encore travaillé comme man?uvre sur les chantiers, avant de s'installer comme indépendant pour ouvrir un établissement public. Elle a donc calculé le salaire valide sur la base des salaires déterminés par l'ESS pour le secteur de l'hôtellerie et la restauration (secteur 55). Ainsi, elle a retenu un salaire mensuel de 3'729 fr. (ESS 2008 TA1 homme degré de qualification 4 dans le secteur 55) qu'elle a adapté au temps de travail moyen de 41.6 heures hebdomadaires et auquel elle a ajouté l'adaptation à l'évolution nominale des salaires pour 2009 (2.1 %) et 2010 (0.8 %). Le salaire annuel sans invalidité s'élevait donc à 47'895 fr. Comparant les revenus avec et sans invalidité, la juridiction cantonale a constaté qu'il n'existait aucune perte de gain.
2.2 Le recourant conteste uniquement le salaire sans invalidité retenu par la juridiction cantonale. Il Invoque une violation du principe de la libre appréciation des preuves par les premiers juges. Selon lui, ceux-ci ne pouvaient pas retenir, sur la base des pièces du dossier, que l'activité qu'il aurait exercée sans invalidité, était une occupation de pizzaïolo et qu'il n'aurait pas poursuivi son travail de man?uvre sur les chantiers souterrains.
3. 3.1 Le revenu sans invalidité est celui que l'assuré aurait pu obtenir s'il n'était pas devenu invalide (art. 16 LPGA; art. 28a al.1 LAI). Pour fixer le revenu sans invalidité, il faut établir ce que l'assuré aurait, au degré de la vraisemblance prépondérante, réellement pu obtenir au moment déterminant s'il n'était pas invalide. Le revenu sans invalidité doit être évalué de la manière la plus concrète possible. C'est pourquoi il se déduit en principe du salaire réalisé en dernier lieu par l'assuré avant l'atteinte à la santé, en tenant compte de l'évolution des salaires.
Pour savoir s'il y a lieu de prendre en considération un changement hypothétique d'activité, les possibilités théoriques de développement professionnel ou d'avancement ne doivent être prises en considération que lorsqu'il est très vraisemblable qu'elles seraient advenues. Il convient, à cet égard, d'exiger la preuve d'indices concrets que l'assuré aurait obtenu dans les faits un avancement ou une augmentation corrélative de ses revenus, s'il n'était pas devenu invalide. Des indices concrets en faveur de l'évolution de la carrière professionnelle doivent exister, par exemple, lorsque l'employeur a laissé entrevoir une telle perspective d'avancement ou a donné des assurances en ce sens. De simples déclarations d'intention de l'assuré ne suffisent pas (arrêts 9C_486/2011 du 12 octobre 2011 consid. 4.1 et 9C_523/2008 du 25 mai 2009 consid. 2.2). Lorsque l'invalidité est la conséquence d'un accident, ces indices doivent déjà avoir existé au moment où celui-ci s'est produit (arrêt U 222/97 du 23 juin 1999 consid. 5c résumé in: REAS 2003 p. 66).
3.2 En l'espèce, il est évident que le recourant n'avait pas l'intention de gagner moins qu'auparavant en devenant un jour exploitant d'une pizzeria. Bien au contraire, il faudrait donc se fonder sur un revenu d'exploitant d'un établissement public de ce genre, revenu qui varie fortement en fonction des circonstances (et non sur un revenu salarié). Cela étant, en déclarant successivement en 2005 et en 2006 à un inspecteur et à un médecin de la CNA qu'il entendait travailler dans la restauration, le recourant faisait part d'un simple projet d'avenir. Or, la jurisprudence ne se contente pas de déclarations d'intention: des indices concrets en faveur de l'évolution de la carrière professionnelle doivent exister, par exemple, lorsque l'employeur a laissé entrevoir une telle perspective d'avancement ou a donné des assurances dans ce sens.
Par ailleurs, lorsque l'invalidité est la conséquence d'un accident, ces indices doivent déjà avoir existé au moment où celui-ci s'est produit (p. ex. arrêt 9C_486/2011 précité consid. 4.1). Ce qui vaut dans un sens (perspective d'avancement) doit aussi valoir dans l'autre sens (passage à un statut d'indépendant supposé moins rémunérateur). En l'occurrence, il n'y a pas d'éléments suffisants pour admettre que l'assuré n'aurait pas continué, à moyen terme tout au moins, une activité de tunnelier sur un des nombreux chantiers souterrains en Suisse (tunnel de base du Gotthard, tunnels routiers etc.). C'est donc un revenu dans une telle activité qui doit être pris en compte au titre de revenu sans invalidité. Le recourant estime que le revenu sans invalidité coïncide avec le salaire figurant sur la déclaration d'accident LAA du 29 mars 2004, soit 86'374 fr. Les éléments du dossier ne permettent pas de confirmer sans autre ce montant, lequel devrait de toute manière être adapté jusqu'au moment de l'ouverture du droit éventuel à une rente.
3.3 Il s'ensuit que le jugement entrepris doit être annulé et la cause renvoyée aux premiers juges pour qu'ils déterminent, compte tenu de ce qui précède, le revenu sans invalidité de l'intéressé, au besoin après instruction complémentaire, et qu'ils fixent le taux d'invalidité avant de rendre une nouvelle décision.
4. Le recourant obtient gain de cause, de sorte qu'il peut prétendre une indemnité de dépens à la charge de l'intimée (art. 68 al. 1 LTF). Cette dernière supportera également les frais de justice (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis en ce sens que le jugement du 3 janvier 2012 (cause no S2 11 44) du Tribunal cantonal valaisan, Cour des assurances sociales, est annulé, la cause étant renvoyée à la juridiction cantonale pour nouvelle décision au sens des considérants.
2. Les frais judiciaires, fixés à 750 fr., sont mis à la charge de l'intimée.
3. L'intimée versera au recourant la somme de 2'000 fr. à titre de dépens pour la dernière instance.
4. Le présent arrêt est communiqué aux parties, au Tribunal cantonal valaisan, Cour des assurances sociales, et à l'Office fédéral de la santé publique.
Lucerne, le 9 novembre 2012
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Ursprung
La Greffière: Berset