Faits : A. A.a. A._, tuyauteur, était assuré contre les accidents professionnels et non professionnels auprès de la Caisse nationale suisse d'assurance en cas d'accidents (CNA). Le 26 janvier 2007, il a glissé sur une plaque de glace et s'est réceptionné sur les mains. Consulté le 29 janvier 2007, le service des urgences de l'Hôpital B._ a posé le diagnostic de douleurs post-traumatiques du coude et du poignet. Selon un certificat médical du 26 février 2007, l'assuré a présenté une entorse du poignet gauche et une reprise du travail a été fixée au 27 février 2007. La CNA a pris en charge le cas. Le 12 avril 2007, A._ s'est rendu chez le docteur C._, chirurgien orthopédiste, lequel a diagnostiqué une contusion de l'épaule gauche (rapport du 10 mai 2007). Le 23 octobre 2007, l'employeur a fait parvenir à la CNA une déclaration relative à un accident survenu le 13 septembre 2007. Il y était indiqué qu'en soulevant une charge, l'assuré avait ressenti une décharge dans la nuque. Une IRM cervicale pratiquée le 10 octobre 2007 n'a pas permis de déceler de lésion post-traumatique notable au niveau du rachis cervical. Une IRM de l'épaule droite pratiquée le 28 décembre 2007 a révélé une arthrose acromio-claviculaire, une tendinose et déchirure partielle de la face inférieure du muscle sus-épineux, une tendinose du long chef du biceps avec lésion de la capsule de l'intervalle ainsi qu'une lésion du ligament gléno-huméral inférieur dans sa portion pré-humérale. Le 10 janvier 2008, l'assuré a subi une arthroscopie de l'épaule droite pratiquée par le docteur D._, spécialiste FMH en chirurgie orthopédique. Par décision du 17 avril 2008, la CNA, agence de Lausanne, a refusé d'allouer des prestations pour les troubles au niveau de la nuque et de l'épaule droite, au motif que l'assuré n'avait pas été victime d'un accident le 13 septembre 2007 et ne présentait pas non plus une lésion corporelle assimilée à un accident. Se fondant sur un rapport du docteur E._, spécialiste FMH en chirurgie orthopédique et médecin d'arrondissement de la CNA, du 29 août 2008, le Secteur oppositions de la CNA a partiellement admis l'opposition de l'assuré contre cette décision et a enjoint son agence de Lausanne de prendre en charge les prestations relatives à l'affection de l'épaule droite pour la période du 13 septembre au 31 décembre 2007. La CNA a retenu que l'événement du 13 septembre 2007 avait pu provoquer sur l'épaule droite une aggravation passagère d'un état lésionnel préexistant sous forme d'arthrose acromio-claviculaire (décision sur opposition du 24 septembre 2008). Par jugement du 23 mars 2009, la Cour des assurances sociales du Tribunal cantonal du canton du Valais a admis le recours interjeté par l'assuré contre la décision sur opposition du 24 septembre 2008 en ce sens que la CNA devait prendre en charge les suites de l'atteinte à l'épaule droite au-delà du 31 décembre 2007. Elle a par ailleurs renvoyé la cause à la CNA pour qu'elle examine à partir de quelle date, postérieurement à l'intervention chirurgicale du 10 janvier 2008, le statu quo sine/ante serait atteint avant de rendre une nouvelle décision. A.b. L'assuré a repris le travail à plein temps à partir du 15 septembre 2008. Il a cependant continué à suivre des séances de physiothérapie prescrites par le docteur D._. Interpellé par la CNA, ce médecin a fixé la fin du traitement au 8 juin 2009 (cf. rapport intermédiaire du 13 octobre 2009). Le 18 février 2010, la CNA a accepté de prendre en charge la reprise du traitement de physiothérapie prescrite par le docteur D._ à la suite d'une réexacerbation des douleurs au niveau de l'épaule droite chez l'assuré. Dans un rapport intermédiaire du 13 janvier 2011, le docteur D._ a indiqué que l'évolution était stagnante tant sur le plan objectif que subjectif et que l'assuré bénéficiait d'un traitement de physiothérapie au long cours à but principalement antalgique, lequel durerait probablement encore quelques mois. Le 20 octobre 2011, le docteur D._ a annoncé une rechute survenue le 15 mars 2011. Il a fait état de douleurs musculaires de la région cervicale, de l'omoplate et de la région lombaire, entraînant une incapacité de travail entière du 11 mai au 19 juin 2011. Par courrier du 17 novembre 2011, la CNA a refusé d'allouer ses prestations pour la rechute survenue le 15 mars 2011. Elle a considéré qu'il n'existait pas de lien de causalité pour le moins probable entre l'événement du 13 septembre 2007 et les troubles du dos. Dès lors que A._ continuait de réclamer la prise en charge de séances de physiothérapie concernant désormais son épaule gauche, la CNA a invité son médecin d'arrondissement, le docteur F._, spécialiste FMH en chirurgie générale et traumatologie de l'appareil locomoteur, à indiquer si l'accident du 26 janvier 2007 avait créé des lésions propres et s'il subsistait des séquelles. Celui-ci a répondu par la négative en exposant que les douleurs ressenties étaient en relation de causalité possible avec cet accident et qu'il y avait lieu de se prononcer sur le statu quo sine (cf. rapport du 23 novembre 2012;). Se fondant sur l'avis médical précité, la CNA a informé l'assuré par lettre du 9 janvier 2013 qu'elle mettait fin à ses prestations dès le 9 août 2011, au motif que les troubles pour lesquels l'intéressé suivait des séances de physiothérapie n'étaient plus dus à l'accident mais revêtaient un caractère exclusivement maladif. A._ ayant requis le prononcé d'une décision formelle susceptible d'opposition, la CNA a confié la mise en oeuvre d'un examen au docteur F._, lequel s'est déroulé le 18 mars 2013. Dans son rapport subséquent, ce praticien a préconisé la réalisation d'une arthro-IRM de l'épaule gauche, précisant que si cet examen devait confirmer son impression d'absence de lésions structurelles ou organiques consécutives à l'accident du 26 janvier 2007, il pourrait confirmer que le statu quo sine avait été atteint le 9 août 2011. Ayant procédé à une arthro-IRM de l'épaule gauche le 26 mars 2013, le docteur G._, spécialiste FMH en radiologie, a conclu à une tendinopathie du sus-épineux dans sa partie distale avec signes d'insertionite ainsi qu'à une déchirure de ce tendon sur son rebord inférieur expliquant la présence d'une toute petite quantité de liquide libre dans la bourse sous-acromio-deltoïdienne. Ce médecin a noté une petite résorption kystique sous-chondrale à hauteur du trochiter sur enthésopathie du sus-épineux mais n'a pas observé de déchirure transfixiante de l'ensemble des tendons faisant partie de la coiffe des rotateurs, ni d'oedème osseux (cf. rapport du 27 mars 2013). Invité à se prononcer sur le rapport d'arthro-IRM, le docteur F._ a indiqué, en ce qui concerne l'épaule gauche, que le statu quo sine avait bien été atteint le 9 août 2011. Par décision du 10 avril 2013, confirmée sur opposition le 17 mai 2013, la CNA a supprimé ses prestations à partir du 9 août 2011. B. L'assuré a recouru contre la décision sur opposition devant la Cour des assurances du Tribunal cantonal valaisan en concluant au maintien de son droit à des prestations d'assurance au-delà du 8 août 2011. Il soutenait que l'arthro-IRM avait mis en évidence une déchirure du sus-épineux, laquelle constituait une lésion assimilée à un accident et que la CNA n'avait pas démontré le caractère exclusivement dégénératif de cette déchirure, de sorte qu'il n'était pas établi au degré de la vraisemblance prépondérante que le statu quo sine avait été atteint le 8 août 2011. La CNA a produit un rapport du docteur H._, spécialiste FMH en chirurgie orthopédique et traumatologie de l'appareil locomoteur et médecin de la division médecine des assurances, du 13 septembre 2013. Ce médecin conclut à la nature exclusivement dégénérative et sans rapport avec les accidents des 26 janvier et 13 septembre 2007 des lésions au niveau de l'épaule gauche et fixe le statu quo sine pour lesdits troubles au 26 février 2007. Pour les suites de l'accident du 13 septembre 2007, un statu quo sine aurait pu, selon le docteur H._, être défini à partir de la fin du mois d'octobre 2008, ce qui correspondait à la fin de la rééducation post-intervention arthroscopique pour traitement de pathologies dégénératives rendues symptomatiques par l'accident. La cour cantonale a rejeté le recours par jugement du 30 janvier 2014. C. A._ forme un recours en matière de droit public contre ce jugement dont il requiert l'annulation, en concluant au maintien de son droit à des prestations au-delà du 8 août 2011, le tout sous suite de frais et dépens. L'intimée conclut au rejet du recours. L'Office fédéral de la santé publique a renoncé à se déterminer.