Faits:
A. D._ travaille en qualité d'aide-livreur pour le compte de la société X._ SA. A ce titre, il est assuré contre le risque d'accidents auprès de la Caisse nationale suisse d'assurance en cas d'accidents (ci-après: la CNA).
Le 15 octobre 2009, en heurtant une palette sur son lieu de travail, l'assuré est tombé et s'est tordu le pouce (cf. déclaration d'accident-bagatelle LAA du 24 novembre 2009). Il a consulté, le 9 novembre 2009, le docteur F._, qui a posé le diagnostic de contusion du pouce gauche. Lors d'un entretien du 11 décembre 2009 avec la CNA, l'intéressé a expliqué qu'il avait glissé sur le sol et s'était réceptionné en avant sur les deux mains; au moment de l'impact avec le sol, son pouce gauche s'était complètement retourné vers l'arrière, touchant presque son avant-bras. Il avait immédiatement tiré son pouce pour le remettre en place.
Dans son rapport du 17 novembre 2009, le docteur C._ a indiqué que l'examen tomodensitométrique avait révélé la présence d'une importante rhizarthrose avec synovite d'accompagnement, ainsi que les signes d'une arthrose, plus discrète, entre l'os trapèze et la base du 2ème métacarpien et entre l'os trapèze et l'os scaphoïde. Il n'y avait aucune lésion évidente du ligament métacarpien inter-osseux situé entre la base du 1er métacarpien, l'os trapèze et la base du 2ème métacarpien, ni de celui situé entre la face latérale de la base du 1er métacarpien et la face latérale de l'os trapèze. Le praticien notait la présence d'un fragment osseux visible dans les parties molles au niveau du 1er métacarpien, sans pouvoir expliquer son origine. Le 21 décembre 2009, la CNA a accepté de prendre en charge le cas. Le 28 janvier 2010, l'assuré a subi une arthrodèse (cf. protocole opératoire du 28 janvier 2010 du docteur Z._).
Dans un rapport du 5 mai 2010, le docteur E._, spécialiste FMH en chirurgie et médecin d'arrondissement de la CNA, est parvenu à la conclusion qu'il était très invraisemblable que les troubles actuels soient en relation de causalité avec l'accident du 15 octobre 2009.
Par décision du 18 juin 2010, la CNA a finalement refusé de prendre en charge le cas, au motif qu'il n'existait aucun lien de causalité certain ou du moins vraisemblable entre l'événement accidentel du 15 octobre 2009 et les troubles au pouce gauche. L'assuré s'est opposé à cette décision.
La CNA a alors soumis le dossier de l'intéressé à sa Division médecine des accidents, à Lucerne. Selon les conclusions du docteur O._, spécialiste FMH en chirurgie, l'accident n'avait entraîné qu'une aggravation passagère de l'état antérieur et le statu quo sine avait été rétabli au plus tard le 28 janvier 2010, le jour de l'arthrodèse (cf. rapport du 25 janvier 2011).
Se fondant sur cet avis, la CNA a, par décision sur opposition du 31 janvier 2011, partiellement admis l'opposition formé par l'assuré, considérant qu'elle était tenue de verser des prestations d'assurance mais pour une durée limitée au 27 janvier 2010.
B. L'assuré a recouru contre cette décision auprès de la Cour des assurances sociales du Tribunal cantonal valaisan qui l'a débouté par jugement du 23 décembre 2011.
C. D._ interjette un recours en matière de droit public et un recours constitutionnel subsidiaire contre ce jugement dont il demande l'annulation. Il conclut également à l'annulation de la décision sur opposition du 31 janvier 2011 et à ce que la CNA soit condamnée à poursuivre le versement des prestations légales au-delà du 27 janvier 2010, le tout sous suite de frais et dépens.
D. La CNA conclut au rejet du recours, tandis que l'office fédéral de la santé publique a renoncé à se déterminer.

Considérant en droit:
1. Le recours en matière de droit public remplit les conditions de recevabilité posées par les art. 82 à 85 LTF. Partant, en raison de son caractère subsidiaire, le recours constitutionnel n'est pas recevable (<ref-law>).
2. Le litige porte sur le point de savoir si l'intimée était fondée, par sa décision sur opposition du 31 janvier 2011, à mettre fin à ses prestations d'assurance au 27 janvier 2010, singulièrement s'il existe un rapport de causalité (naturelle et adéquate) entre les troubles du recourant subsistant après cette date et l'accident du 15 octobre 2009.
Lorsque le jugement entrepris porte sur des prestations en espèces et en nature de l'assurance-accidents, le Tribunal fédéral constate avec un plein pouvoir d'examen les faits communs aux deux objets litigieux et se fonde sur ces constatations pour statuer, en droit, sur ces deux objets. En revanche, les faits qui ne seraient pertinents que pour statuer sur le droit aux prestations en nature ne sont revus que dans les limites définies par les art. 97 al. 1 et 105 al. 2 LTF (arrêts 8C_522/2011 du 6 juillet 2012 consid. 2 et 8C_447/2011 du 8 juin 2012 consid. 2).
Les premiers juges exposent correctement les dispositions légales et les principes jurisprudentiels relatifs à l'exigence d'un lien de causalité naturelle et adéquate entre l'atteinte et un événement accidentel pour que l'assureur-accidents soit tenu à fournir des prestations (cf. <ref-ruling> consid. 3.1 p. 181, 402 consid. 4.3.1 p. 406; <ref-ruling>, consid. 1 p. 337; <ref-ruling> consid. 1b et les références p. 289).
3. 3.1 La juridiction cantonale a accordé pleine valeur probante au rapport du docteur O._. Elle a relevé que si ce médecin n'avait pas personnellement examiné l'assuré, il avait en revanche analysé le cas de ce dernier à la lumière du dossier médical et radiologique. A cet égard, l'autorité cantonale de recours a constaté que le rapport du 17 novembre 2009 établi par le docteur C._ à l'issue des examens radiologiques était suffisamment complet et précis pour qu'on puisse se fier à son contenu.
3.2 Dans son avis du 25 janvier 2011, le docteur O._ a relevé que les radiographies du pouce gauche du 9 novembre 2009, l'IRM et le scanner du 17 novembre 2009 avaient mis en évidence la présence d'une rhizarthrose bien marquée, se trouvant à un stade déjà avancé. Il a ajouté qu'une rhizarthrose de cette gravité ne pouvait être que le résultat d'un processus dégénératif ayant débuté (vraisemblablement) plusieurs années avant l'accident du 15 octobre 2009, ce qui permettait de conclure que cette atteinte était préexistante à l'événement accidentel. Les déclarations de l'assuré permettaient de confirmer l'existence d'une instabilité (marquée) préexistante de l'articulation du pouce gauche. En effet, selon les constatations du docteur O._, une subluxation ou une luxation d'une articulation stable aurait conduit l'assuré à consulter un médecin le jour de l'accident et la remise en place immédiate de l'articulation par le patient aurait été nettement plus difficile, voire impossible. Le médecin conseil de la CNA a également indiqué que la période de latence de trois semaines entre la chute et la première consultation médicale constituait un indice important en faveur de l'absence de lésion accidentelle structurelle, ce que venaient confirmer l'examen clinique et les clichés radiographiques du 9 novembre 2009. Compte tenu des douleurs persistantes et du fait que l'assuré avait déclaré qu'il n'avait jamais rencontré de problème avec son pouce gauche auparavant, le docteur O._ a considéré que l'accident du 15 octobre 2009 se trouvait en partie en lien de causalité avec l'atteinte, mais au plus tard jusqu'au moment de l'arthrodèse, le 28 janvier 2010. En effet, vu l'importance de la rhizarthrose, celle-ci aurait tôt ou tard engendré une symptomatologie douloureuse et conduit à l'indication d'une arthrodèse. Il a conclu que l'accident incriminé n'avait fait qu'entraîner l'aggravation passagère d'un état antérieur et qu'au plus tard le 28 janvier 2010, le status quo sine avait été rétabli.
3.3 Constatant qu'il n'existait aucun avis médical contraire, les premiers juges se sont fondés sur ces conclusions et celles du docteur E._, qu'ils ont jugées motivées et convaincantes, pour retenir que l'accident du 15 octobre 2009 n'avait fait que décompenser temporairement un état antérieur, le statu quo sine étant à nouveau atteint au plus tard lors de l'opération du 28 janvier 2010.
4. 4.1 En substance, le recourant invoque une violation de l'<ref-law>, dès lors qu'il n'a pas été établi à satisfaction que la rhizarthrose était la cause exclusive du traitement médical du 28 janvier 2010 et que sans l'accident du 15 octobre 2010 son état de santé aurait évolué de la même manière, à savoir dans un délai relativement bref. Il subsisterait par ailleurs des questions médicales non résolues, comme l'origine du fragment osseux au niveau du 1er métacarpien mis en évidence par l'examen radiologique et l'absence d'un diagnostic de rhizarthrose à la main droite. Le recourant conteste également la valeur probante du rapport du docteur O._, dans la mesure où il ne comporterait que des hypothèses non étayées. En outre, ce médecin, en sa qualité d'employé de la CNA, ne pourrait être entièrement impartial. Ces éléments auraient dû conduire les premiers juges à mettre en ?uvre une expertise judiciaire ou à répondre de façon favorable à sa requête portant sur l'audition de témoins.
4.2 Quoi qu'en dise le recourant, le fait qu'un médecin est rattaché à un assureur social par un contrat de travail ne permet en principe pas à lui seul de conclure à un manque d'objectivité et à de la prévention (<ref-ruling> consid. 4.4 p. 469 sv.; <ref-ruling> consid. 3b/ee p. 353). L'art. 6 par. 1 CEDH qui garantit le droit à un procès équitable, duquel découle le principe de l'égalité des armes, ne permet pas une autre interprétation. L'arrêt de la Cour européenne des droits de l'homme Sara Lind Eggertsdóttir contre Islande du 5 juillet 2007 cité par le recourant concernait un cas particulier où la tâche des experts consistait à analyser et à évaluer les actes pratiqués par leurs collègues afin d'aider la Cour suprême d'Islande à trancher la question de la responsabilité de leur employeur (cf. § 51).
Toutefois, si le cas doit être jugé sans rapports médicaux externes, comme en l'espèce, des exigences plus sévères concernant l'appréciation des preuves doivent être posées. Même s'il n'existe que des doutes minimes à propos de la valeur probante et de la fiabilité de la prise de position du médecin de l'assurance, il y a lieu de demander des renseignements complémentaires (<ref-ruling> consid. 4.4 p. 469 sv.; <ref-ruling> consid. 1d p. 162 ss).
4.3 Au préalable, on relèvera que le recourant ne s'appuie sur aucun avis médical pour remettre en cause les conclusions du docteur O._; dans ce sens, il ne fait que donner sa propre lecture des rapports médicaux figurant au dossier. En outre, les arguments qu'il soulève ne sont pas de nature à faire douter de la valeur probante du rapport litigieux. S'il est vrai que le médecin de la CNA n'a pas examiné personnellement l'assuré, son appréciation tient toutefois compte de l'ensemble du dossier médical, dont les rapports des docteurs C._, F._ et Z._, qui ont, quant à eux, eu l'occasion de procéder à un tel examen. Le fait que ces médecins n'étaient pas tous spécialiste de la main ou orthopédiste n'enlève rien à la valeur de leur diagnostic. Par ailleurs, le docteur O._ s'est fondé dans une large mesure sur les différents clichés radiologiques, lesquels sont déterminants pour le genre d'atteinte dont souffre l'assuré. Enfin, l'appréciation de ce médecin repose sur des constatations revêtant le degré de vraisemblance requis par la jurisprudence et non pas sur de simples hypothèses, comme le soutient à tort le recourant.
Dès lors qu'il n'existait aucun doute quant à la fiabilité des conclusions du docteur O._, jugées à juste titre motivées et convaincantes par les premiers juges, ceux-ci étaient en droit de renoncer à la mise en ?uvre d'une expertise judiciaire ou à l'audition de témoins par appréciation anticipée des preuves (<ref-ruling> consid. 5.3 p. 148; <ref-ruling> consid. 3 p. 157; <ref-ruling> consid. 2 p. 428). Il n'y avait, en effet, aucune raison de penser que de nouvelles mesures probatoires auraient permis d'aboutir à un résultat différent (cf. arrêts 8C_361/2009 du 3 mars 2010 consid 3.2 et 8C_15/2009 du 11 janvier 2010 consid. 3.2). En particulier, aucun doute ne subsistant quant au diagnostic de rhizarthrose, il n'y avait pas lieu de démontrer le bilatéralisme de l'affection. En ce qui concerne le fragment osseux révélé par l'IRM, le docteur O._ ne lui ayant attribué aucun rôle dans les douleurs persistantes, la question de son origine pouvait demeurée ouverte.
4.4 Le recourant se plaint encore d'une violation de son droit d'être entendu. Se fondant sur l'arrêt 9C_402/2010 du 21 février 2011, il fait grief à la juridiction cantonale d'avoir violé l'art. 30 al. 3 Cst. et 6 par. 1 CEDH, en refusant de l'auditionner et d'organiser des débats publics.
A teneur de l'art. 30 al. 3 Cst., l'audience et le prononcé du jugement sont publics, la loi pouvant prévoir des exceptions. Cette disposition constitutionnelle n'offre pas au justiciable le droit à une audience dans toutes les causes soumises à un contrôle judiciaire en vertu de l'art. 30 al. 1 Cst.; son alinéa 3 se limite à garantir que, lorsqu'il y a lieu de tenir une audience, celle-ci se déroule publiquement, sauf exceptions prévues par la loi. Un droit comme tel à des débats publics oraux n'existe, en vertu des garanties constitutionnelles de procédure, que pour les causes bénéficiant de la protection de l'art. 6 par. 1 CEDH ou lorsque les règles de procédure le prévoient ou encore lorsque sa nécessité découle des exigences du droit à la preuve (cf. <ref-ruling> consid. 2 p. 290; arrêt 2C_276/2011 du 10 octobre 2011 consid. 2.1).
L'obligation d'organiser des débats publics suppose une demande formulée de manière claire et indiscutable. Une requête de preuve (demande tendant à la comparution personnelle ou à l'audition de témoins) ne suffit pas à fonder une telle obligation. Saisi d'une demande tendant à la mise en oeuvre de débats publics, le juge cantonal doit en principe y donner suite. Il peut cependant s'abstenir dans les cas prévus par l'art. 6 par. 1 seconde phrase CEDH, lorsque la demande est abusive (chicanière ou dilatoire), lorsqu'il apparaît clairement que le recours est infondé, irrecevable ou, au contraire, manifestement bien fondé ou lorsque l'objet du litige porte sur des questions hautement techniques (arrêt 9C_402/2010 du 21 février 2011 consid. 2.1).
Dans le cas présent, il convient de constater que devant l'autorité cantonale le recourant n'a formulé aucune demande tendant à l'organisation de débats publics, étant précisé que sa requête de comparution personnelle ne peut être assimilée à une telle demande. Par ailleurs, on rappellera que les garanties minimales de l'art. 29 al. 2 Cst. en matière de droit d'être entendu, ne confère pas le droit d'être entendu oralement par l'autorité (cf. <ref-ruling> consid. 5.3 p. 148 et les références).
Il s'ensuit que le jugement entrepris n'est pas critiquable et le recours doit être rejeté.
5. Le recourant, qui succombe, doit supporter les frais judiciaires (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours en matière de droit public est rejeté.
3. Les frais judiciaires, arrêtés à 750 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties, au Tribunal cantonal valaisan, Cour des assurances sociales, et à l'Office fédéral de la santé publique.
Lucerne, le 16 janvier 2013
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
La Présidente: Leuzinger
La Greffière: Reichen