Faits:
A. S._ a travaillé en tant que maçon auprès de la société X._ SA. Pour cette activité, il était assuré contre le risque d'accidents auprès de la Caisse nationale suisse d'assurance en cas d'accidents (ci-après: la CNA). Le prénommé a également exercé une activité à titre accessoire du 15 décembre 2006 au 30 avril 2007 auprès de la société Y._ SA.
Le 15 février 2007, l'assuré a glissé sur la neige; en se rattrapant sur les bras, il s'est blessé à l'épaule droite. L'évolution a été défavorable, l'intéressé ayant dû subir deux interventions chirurgicales sous la forme d'une arthroscopie avec réinsertion du bourrelet par ancre Mitec Panaloc (le 11 février 2008) et d'une acromioplastie avec résection du centimètre externe de la clavicule et ténodèse du long chef du biceps (le 4 novembre 2009). La CNA a pris en charge le cas. Plusieurs tentatives de reprise du travail dans une activité mieux adaptée auprès de la société X._ SA ont échoué.
L'assuré a séjourné du 25 août au 14 septembre 2010 auprès de la Clinique Z._ où il a été examiné par les docteurs K._ et M._ (cf. rapport du 8 octobre 2010). Le 1er décembre 2010, le docteur R._, spécialiste FMH en chirurgie et médecin d'arrondissement de la CNA, a procédé à un examen final, à l'issue duquel il a conclu que l'assuré devait être reclassé dans une profession ne sollicitant pas l'épaule au-dessus de l'horizontale, et sans mouvements répétés des bras, ni port de charges supérieures à 10 kg.
Par décision du 24 février 2011, la CNA a alloué à S._ une rente d'invalidité fondée sur un taux d'incapacité de gain de 20 %, à compter du 1er février 2011, ainsi qu'une indemnité pour atteinte à l'intégrité d'un taux de 17,5 %. Le degré d'invalidité résultait de la comparaison du revenu sans invalidité de 69'862 fr. avec le revenu dans une activité adaptée exigible à 100 % de 56'167 fr. fixé sur la moyenne des salaires résultant de cinq descriptions de postes de travail (DPT), en tant que collaborateur de production, ouvrier de brasserie et caissier. Saisie d'une opposition, la CNA l'a partiellement admise en ce sens que le montant du gain annuel assuré a été porté à 72'234 fr. au lieu de 69'736 fr. (décision sur opposition du 7 juin 2011).
B. L'assuré a déféré cette décision à la Chambre des assurances sociales de la Cour de justice de la République et canton de Genève, en produisant deux rapports du professeur O._, médecin-chef du Service de chirurgie orthopédique de la Clinique W._, des 24 mars et 9 mai 2011. Par jugement du 25 octobre 2011, la Cour de justice de la République et canton de Genève a rejeté le recours.
C. S._ interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation. Sous suite de dépens, il conclut principalement à l'octroi d'une rente LAA basée sur un degré d'invalidité d'au moins 50 % à compter du 1er février 2011. Il demande subsidiairement la reconnaissance d'un degré d'invalidité d'au minimum 24 % et plus subsidiairement encore, le renvoi de la cause à la juridiction cantonale pour instruction complémentaire.
La CNA conclut au rejet du recours. L'Office fédéral de la santé publique a renoncé à se déterminer.
L'assuré s'est encore exprimé le 5 mars 2012.
Considérant en droit:
1. 1.1 En procédure fédérale, le recourant ne remet pas en cause l'indemnité pour atteinte à l'intégrité qui lui a été allouée, de sorte que le litige porte uniquement sur la quotité de la rente d'invalidité à laquelle il a droit, singulièrement sur le degré d'invalidité.
1.2 Dans la procédure de recours concernant une prestation en espèces de l'assurance-accidents, le Tribunal fédéral n'est pas lié par l'état de fait constaté par la juridiction précédente (cf. art. 97 al. 2 et 105 al. 3 LTF).
2. Le jugement entrepris expose correctement les règles légales relatives à la notion d'invalidité et à son évaluation, de même que les principes jurisprudentiels sur la libre appréciation des preuves et la valeur probante des rapports médicaux. On peut y renvoyer.
3. 3.1 Pour fixer la capacité de travail résiduelle du recourant et par conséquent son taux d'invalidité, la juridiction cantonale s'est basée sur les conclusions du docteur R._, auxquelles elle a accordé pleine valeur probante. Elle s'est en revanche écartée de l'appréciation du professeur O._, selon laquelle l'assuré disposait d'une capacité de travail résiduelle réduite de 50 % (cf. certificat médical du 9 mai 2011).
Le recourant fait grief à la juridiction cantonale d'avoir procédé à une appréciation inexacte et arbitraire des preuves. Selon lui, les rapports des médecins de Z._ et ceux du professeur O._ étaient de nature à faire naître un doute quant à la valeur probante des conclusions du docteur R._, si bien que les premiers juges auraient dû ordonner une expertise médicale.
3.2 En l'occurrence, on ne voit pas de motif de remettre en cause l'appréciation des premiers juges. Le certificat du 9 mai 2011 du professeur O._ faisant état d'une capacité de travail limitée à 50 %, très succinct et dépourvu de toute motivation, n'était pas de nature à faire naître un doute sur le bien-fondé des conclusions du docteur R._. Dans ses précédents rapports (des 24 mars et 20 avril 2011), le professeur O._ avait par ailleurs indiqué, sans mentionner de limitation de la capacité de travail, que le recourant était apte à exercer une activité adaptée, ne sollicitant pas l'épaule droite en force et évitant les ports de charges supérieures à 5 kg. Concernant les limitations fonctionnelles, on constate, à la suite des premiers juges, que la différence entre le port de charges autorisé par le professeur O._ (maximum 5 kg) et la limite fixée à 10 kg par le docteur R._ n'est pas décisive, puisque l'exercice d'une activité adaptée à 100 % demeure exigible. Le recourant critique l'argumentation des premiers juges, selon laquelle la limitation du port de charges à 5 kg ne concernait qu'une seule des DPT (prévoyant des ports de charges comprises entre 5 et 10 kg à de rares occasions) produites par l'intimée, mais n'en tire aucune conséquence. Le fait que le professeur O._ suivait le recourant depuis 2007 ne permet pas d'aboutir à un autre résultat, étant précisé qu'il convient au contraire d'aborder avec retenue les rapports des médecins traitants (cf. ATF 125 V 351 consid. 3b/cc p. 353).
3.3 Le recourant oppose en vain à l'avis du docteur R._ celui des médecins de Z._. En effet, dès lors que ces médecins n'ont pu tirer aucune conclusion quant aux limitations fonctionnelles et à la capacité de travail résiduelle du recourant de leurs observations, leur avis n'est d'aucun secours pour l'évaluation de l'invalidité.
3.4 L'appréciation de l'autorité cantonale de recours n'est dès lors pas critiquable. En outre, faute de doutes sérieux quant à la capacité du recourant d'exercer à plein temps l'un des postes proposés par l'intimée, les premiers juges n'avaient pas l'obligation de mettre en oeuvre une expertise médicale. Les conclusions du recourant sur ce point doivent être rejetées.
4. 4.1 En ce qui concerne la détermination du revenu sans invalidité, les premiers juges ont retenu qu'il n'était pas établi au degré de vraisemblance prépondérante que sans l'atteinte à la santé, le recourant aurait poursuivi son activité auprès de Y._ SA. En effet, selon l'autorité cantonale de recours, le contrat de travail conclu avec cette entreprise constituait un contrat de travail sur appel, ne fournissant aucune garantie d'occupation, chaque engagement effectif devant faire l'objet d'un accord verbal entre les parties. Compte tenu des variations importantes entre les salaires, cette activité, exercée dans un cadre saisonnier et depuis quelques mois seulement, ne pouvait être qualifiée de régulière. Aucun élément ne permettait de conclure au degré de vraisemblance requise que le recourant aurait pu bénéficier de nouveaux engagements à partir de décembre 2007. De surcroît, au moment où il a signé la deuxième convention, le recourant se trouvait en incapacité de travail en tant que maçon. Les premiers juges en ont déduit que l'activité accessoire était adaptée au handicap de l'intéressé et qu'il y avait mis un terme pour des raisons indépendantes de l'atteinte à la santé.
De son côté, le recourant soutient qu'il aurait poursuivi cette activité, mais qu'il a dû y renoncer en raison des fortes douleurs ressenties à l'épaule droite.
4.2 Selon la jurisprudence, qui prévaut notamment en matière d'assurance-accidents, tant les revenus tirés d'une activité principale que les revenus obtenus dans l'exercice d'activités accessoires sont pris en compte dans la fixation du revenu sans invalidité, si l'on peut admettre que l'intéressé aurait, selon toute vraisemblance, continué à percevoir des gains accessoires s'il était resté en bonne santé. La prise en compte de ces gains accessoires intervient sans égard au rendement et au temps consacré pour leur obtention. Elle s'étend donc aux revenus obtenus dans une activité accomplie en supplément d'un emploi exercé dans les limites d'un horaire de travail normal. A la différence du revenu d'invalide, la question de l'exigibilité ne joue pas de rôle pour la détermination du revenu sans invalidité. Pour savoir si un revenu accessoire doit être pris en compte, seul est décisif le lien entre l'atteinte à la santé et la cessation de l'activité s'y rapportant (arrêts U 66/02 du 2 novembre 2004 consid. 4.1.2, in RAMA 2005 n° U 538 p. 112, U 130/02 du 29 novembre 2002 consid. 3.2.1, in RAMA 2003 n° U 476 p. 107 et 8C_452/2009 du 26 janvier 2010 consid. 4.3 et les références).
4.3 Il ressort des documents fournis à la CNA que le recourant a été engagé en tant qu'employé temporaire occasionnel par Y._ SA pour la période du 15 décembre 2006 au 30 avril 2007 (cf. contrat de travail du 11 décembre 2006). Le contrat de travail stipulait que les travaux occasionnels étaient convenus chaque fois sur la base d'un accord oral et que l'employeur n'était pas tenu d'assigner un travail, ni l'employé de l'accepter. Selon les certificats de salaire, le recourant a perçu pour son activité les revenus bruts suivants: décembre 2006: 761 fr. 70; janvier 2007: 434 fr.; février 2007: 1'302 fr.; mars 2007: 1'185 fr. 95; avril 2007: 824 fr. 10. L'année suivante, il a signé un nouveau contrat de travail pour la période du 1er décembre 2007 au 30 avril 2008, mais n'a finalement pas exercé d'activité durant cette période. Selon les renseignements recueillis par la CNA auprès de l'employeur - qui a déclaré ne pas avoir été informé de l'accident du 15 février 2007 -, le contrat de travail a été résilié le 31 janvier 2008.
4.4 A la lumière de ces éléments, on constate que le recourant, au bénéfice d'un contrat de travail de durée déterminée, n'a exercé l'activité accessoire que quelques mois, à des taux d'occupation variables comme le laissent apparaître les fiches de salaire. A cet égard, comme l'ont admis les premiers juges, les fortes variations de salaire permettaient d'être conforté dans l'idée que l'activité s'exerçait bien sur appel, sans obligation de la part de l'employeur de fournir du travail. Dès lors que le recourant n'a exercé cette activité que quelques mois, sans qu'elle présente de caractère régulier, rien ne laissait supposer au degré de vraisemblance requise qu'il aurait pu à l'avenir compter sur de nouveaux engagements. Le fait que la clause dispensant l'employeur de son obligation de fournir du travail aux salariés aurait été rédigée dans l'intérêt de celui-ci, pour le protéger d'éventuelles prétentions de ses employés, est sans pertinence en l'espèce, puisque le caractère irrégulier de l'activité résulte précisément des faits et non du contrat de travail.
Enfin, le point de savoir si l'activité au sein de Y._ SA était adaptée aux limitations fonctionnelles du recourant, n'a pas besoin d'être traité, la question de l'exigibilité d'une activité professionnelle (principale ou accessoire) ne jouant aucun rôle dans la détermination du revenu sans invalidité.
4.5 Il n'y a donc pas lieu de revenir sur le revenu sans invalidité fixé à 69'862 fr. par l'intimée et confirmé par la juridiction cantonale.
5. 5.1 En relation avec son activité accessoire, le recourant se plaint certes d'une violation de son droit d'être entendu, au motif que la juridiction cantonale n'a pas donné suite à sa requête portant sur l'audition de témoins, pas plus qu'elle n'a procédé à la comparution personnelle des parties. Il reproche également aux premiers juges d'avoir manqué à leur obligation d'instruire d'office la cause (art. 61 let. c LPGA).
5.2 Le droit d'être entendu, tel qu'il est garanti par l'art. 29 al. 2 Cst., comprend notamment le droit pour l'intéressé de s'exprimer sur les éléments pertinents du dossier avant qu'une décision ne soit prise touchant sa situation juridique, de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat, lorsque cela est de nature à influer sur la décision à rendre (ATF 135 I 279 consid. 2.3 p. 282).
L'art. 29 al. 2 Cst. ne confère toutefois pas le droit d'être entendu oralement par l'autorité (cf. ATF 134 I 140 consid. 5.3 p. 148 et les références). Partant, les premiers juges pouvaient statuer, sans avoir donné suite à la demande d'audition personnelle du recourant, celui-ci ayant au demeurant eu l'occasion de s'expliquer par écrit sur la nature de son activité accessoire et les raisons qui l'ont conduit à y mettre un terme lors de la procédure d'opposition et au cours de la procédure cantonale, pendant l'échange d'écritures.
5.3 Dans le domaine des assurances sociales notamment, la procédure est régie par le principe inquisitoire, selon lequel les faits pertinents de la cause doivent être constatés d'office par le juge. Mais ce principe n'est pas absolu. Sa portée est restreinte par le devoir des parties de collaborer à l'instruction de l'affaire. Celui-ci comprend en particulier l'obligation des parties d'apporter, dans la mesure où cela peut être raisonnablement exigé d'elles, les preuves commandées par la nature du litige et des faits invoqués, faute de quoi elles risquent de devoir supporter les conséquences de l'absence de preuves (art. 43 et 61 let. c LPGA; ATF 125 V 193 consid. 2 p. 195 et les références; cf. ATF 130 I 180 consid. 3.2 p. 183 sv.).
En l'espèce, la seule allégation de l'intéressé, selon laquelle il avait dû cesser son activité en raison de ses problèmes de santé et que sans cela il aurait bénéficié de nouveaux engagements, n'obligeait pas l'autorité de première instance à instruire ce point. Concernant l'offre de preuves par témoins avancée par le recourant, on était en droit d'attendre de sa part, en vertu de son devoir de collaborer, qu'il donne au moins l'identité des personnes qu'il souhaitait faire entendre. En outre, il eût été facile au recourant de fournir une attestation de son employeur pour étayer ses propos et à ce stade de la procédure, il ne peut soutenir, sans l'avoir requise, qu'il n'était pas certain de l'obtenir. Enfin, les parties avaient été informées à l'issue de l'échange d'écritures que la cause serait gardée à juger, ce qui, selon la terminologie genevoise, signifie que l'instruction est close, le principe de la bonne foi commandait au recourant de réagir à la communication des premiers juges en requérant par exemple la tenue d'une comparution personnelle ou l'administration de preuves (cf. arrêt 8D_4/2009 consid. 5.3 et les arrêts cités). Dans ces conditions, les reproches du recourant tirés de la violation du principe inquisitoire et de la violation de son droit d'être entendu apparaissent mal fondés.
6. Au vu de ce qui précède, le recours se révèle mal fondé et doit être rejeté.
7. Vu l'issue du litige, les frais judiciaires sont mis à la charge du recourant, lequel ne peut prétendre une indemnité de dépens (art. 66 al. 1 et 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 750 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et à l'Office fédéral de la santé publique.
Lucerne, le 22 novembre 2012
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
La Juge présidant: Leuzinger
La Greffière: Reichen