Faits:
A. K._ travaille en qualité d'aide-maçon au service de l'entreprise X._ SA. A ce titre, il est obligatoirement assuré contre le risque d'accidents auprès de la Caisse nationale suisse d'assurance en cas d'accidents (ci-après: la CNA).
Le 20 septembre 2010, K._ a chuté d'un échafaudage, se blessant aux pieds, au genou droit et aux côtes. Le cas a été pris en charge par la CNA. Dans un rapport du 29 septembre 2010, le docteur O._, spécialiste FMH en radiologie, a conclu qu'il n'y avait pas de signe de contusion thoraco-abdominale visible. La doctoresse F._, médecin-assistante à l'Hôpital Y._, a diagnostiqué des contusions basi-thoraciques du côté gauche ainsi qu'au genou droit (cf. rapport du 21 octobre 2010). Le docteur W._ a quant à lui posé le diagnostic de contusion aux côtes gauches et au genou droit, tout en précisant que celui-ci était déjà fortement handicapé avant l'accident du 20 septembre 2010. A la question de savoir si des facteurs étrangers à l'accident entraient en ligne de compte dans le processus de guérison, il a mentionné des accidents antérieurs (cf. rapport du 22 octobre 2010). A nouveau interpellé, ce praticien a évoqué une décompensation d'une gonarthrose préexistante au niveau du genou droit (cf. rapport du 27 novembre 2010). Dans un rapport du 17 janvier 2011, le docteur E._, spécialiste FMH en chirurgie et médecin d'arrondissement de la CNA, a conclu que le statu quo sine du genou droit était atteint et que l'évolution actuelle correspondait à l'évolution naturelle d'une gonarthrose tricompartimentale avancée et associée à une surcharge pondérale très importante.
Par décision du 19 janvier 2011, confirmée sur opposition le 7 juin 2011, la CNA a mis fin à ses prestations d'assurance (indemnités journalières et traitement médical) avec effet au 24 janvier 2011.
B. Saisie d'un recours contre la décision sur opposition du 7 juin 2011, la Cour des assurances sociales du Tribunal cantonal valaisan l'a rejeté, par jugement du 22 mai 2012.
C. K._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation en concluant, à titre principal, au renvoi de la cause à la CNA pour nouvelle décision dans le sens des considérants. Subsidiairement, il conclut au renvoi de la cause à la CNA pour nouvelle instruction.
Il n'a pas été procédé à un échange d'écritures.

Considérant en droit:
1. Lorsque le jugement entrepris porte sur des prestations en espèces et en nature de l'assurance-accidents, le Tribunal fédéral constate avec un plein pouvoir d'examen les faits communs aux deux objets litigieux et se fonde sur ces constatations pour statuer, en droit, sur ces deux objets. En revanche, les faits qui ne seraient pertinents que pour statuer sur le droit aux prestations en nature ne sont revus que dans les limites définies par les art. 97 al. 1 et 105 al. 2 LTF (arrêts 8C_522/2011 du 6 juillet 2012 consid. 2; 8C_447/2011 du 8 juin 2012 consid. 2).
2. Le jugement attaqué expose de manière exacte et complète les dispositions légales et les principes jurisprudentiels applicables au présent cas, de sorte qu'il suffit d'y renvoyer.
3. 3.1 Le recourant allègue en premier lieu que la pathologie qu'il présente au genou droit constitue une séquelle tardive des accidents dont il a été victime en 2005, 2006, 2008 et 2010. Il se réfère à cet égard aux avis des docteurs F._ et W._.
La doctoresse F._ a constaté des lésions dégénératives au genou découlant d'une ancienne fracture de la rotule. Quant au docteur W._, il a fait état d'une décompensation d'une gonarthrose préexistante. Or, comme le souligne le docteur E._, l'assuré souffre d'une gonarthrose mise en évidence déjà en 2005, associée à un morphotype de varus et à une surcharge pondérale très importante. Ce praticien précise qu'une relation de causalité avec les accidents subis en 2006 et 2008 avait été niée. Par ailleurs, le scan thoracico-abdominal et les radiographies du genou droit effectués à l'hôpital après l'accident du 20 septembre 2010 ont confirmé la gonarthrose tri-compartimentale avancée, sans mettre en évidence de lésion post-traumatique fraîche. Au vu de ce qui précède, les lésions au genou ne sont plus en lien de causalité avec l'accident du 20 septembre 2010 mais résultent de l'atteinte dégénérative présentée par l'assuré.
3.2 En second lieu, le recourant se plaint d'une mauvaise appréciation des preuves par le tribunal cantonal. Il conteste toute valeur probante au rapport du docteur E._, au motif que son examen final était incomplet et que son atteinte au genou n'a pas fait l'objet d'une étude circonstanciée. Le recourant n'explique cependant pas en quoi le rapport du docteur E._ serait incomplet, ni s'il contiendrait des erreurs ou des contradictions. Par conséquent, ses allégations toutes générales ne sont pas de nature à remettre en cause la valeur probante des conclusions de ce praticien.
Pour les mêmes raisons, c'est en vain que le recourant conclut à la mise en oeuvre d'une expertise.
4. Manifestement mal fondé, le recours, dont la motivation se situe à la limite de la recevabilité, doit être rejeté selon la procédure simplifiée prévue à l'<ref-law>.
Succombant, le recourant supportera les frais judiciaires (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 750 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal valaisan, Cour des assurances sociales, et à l'Office fédéral de la santé publique.
Lucerne, le 9 octobre 2012
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Ursprung
La Greffière: Fretz Perrin