Faits : A. A._, né en 1973, travaille au service de B._. A ce titre, il est obligatoirement assuré contre le risque d'accidents professionnels et non professionnels auprès de la Caisse nationale suisse d'assurance en cas d'accidents (CNA). Le 16 janvier 2013, après 23 h, il a chuté du balcon d'un appartement situé au troisième étage d'un immeuble, d'une hauteur d'environ six à neuf mètres. Il a subi un polytraumatisme sévère avec des fractures multiples et un traumatisme cranio-cérébral. L'incapacité de travail était totale. A partir du 16 septembre 2013, l'assuré a retrouvé une capacité de travail de 50 %, puis de 100 % à partir du 1 er octobre 2013. Dans le questionnaire à l'intention de l'assurance-accidents rempli le 5 février 2013, l'assuré a indiqué comme cause et circonstances de l'accident " Indéterminée? Perte d'équilibre! ". Entendu le 14 mars 2013 par le gestionnaire de dossier de la CNA, il a déclaré ne pas connaître les raisons de sa chute et expliqué qu'il était seul sur le balcon lorsqu'il est tombé. Il ne pouvait rien dire de plus, si ce n'est qu'il se trouvait sous l'influence de l'alcool et qu'il ne s'agissait pas d'une tentative de suicide. Selon le rapport de police du 14 mai 2013, les agents de police dépêchés sur place la nuit où l'accident s'est produit ont découvert A._, blessé, étendu sur le sol. Au vu de son état et des soins urgents en cours, il n'a pas pu être questionné immédiatement. Les agents ont pu interroger la personne habitant l'appartement du balcon duquel l'assuré avait chuté, à savoir C._. Celle-ci a déclaré que l'intéressé se trouvait en visite privée chez elle avec une autre personne. A un moment donné, il s'était retrouvé seul sur le balcon, peut-être pour fumer une cigarette et, pour une raison qu'elle ignorait, il avait chuté. Interrogée par le gestionnaire de dossier le 12 juin 2013, C._ a indiqué que le soir des faits, elle travaillait au café D._ situé au rez-de-chaussée de son immeuble, que E._ était présente et qu'à son arrivée au café, A._ avait demandé à cette dernière à pouvoir lui parler dans un endroit plus tranquille. C._ leur avait alors proposé de se rendre dans son appartement situé au-dessus de l'établissement, au 3ème étage. A la fin de son service, elle les avait rejoints et avait voulu leur offrir un verre mais avait eu le sentiment que A._ était contrarié par sa présence. Rapidement, ce dernier avait annoncé qu'il partait. Il s'était levé et après un bref instant, elle s'était rendue compte qu'il n'avait pas pris la direction de la porte d'entrée mais était passé par la cuisine. Lorsqu'elle s'y était elle-même rendue, elle s'était aperçue qu'il avait pris le chemin du balcon où elle l'avait trouvé suspendu à l'extérieur, les deux pieds dans le vide (des photos du balcon indiquant la position des mains du recourant sous la partie supérieure de la rembarde étaient annexées au rapport de la CNA). Avec E._, elle avait essayé en vain de le hisser mais il était tombé sur la terrasse du café. Au cours d'un nouvel entretien avec le gestionnaire de dossier du 4 juillet 2013, l'assuré a déclaré qu'il ne pouvait pas contester les circonstances de l'accident décrites par C._ dès lors qu'il ne gardait aucun souvenir précis de ce dernier. Il demeurait incapable d'expliquer comment il s'était retrouvé suspendu à l'extérieur du balcon avec les deux pieds dans le vide, ni les raisons l'ayant poussé à le faire. Il ne se rappelait même pas que C._ était venue les rejoindre dans l'appartement. Il a toutefois admis avoir été sous l'influence de l'alcool le soir des faits mais certainement pas au point de n'avoir pas conscience de ses actes parce qu'il se souvenait avoir bu en compagnie de E._ une bouteille de F._ et deux ou trois bières avant d'arriver sur les lieux. Il a expliqué qu'il avait voulu s'entretenir avec cette dernière du club de cynophile et qu'il n'y avait pas eu de conflit à ce sujet. Par décision du 30 juillet 2013, confirmée sur opposition le 10 octobre 2013, la CNA a réduit ses prestations en espèces de 50 % en raison du caractère téméraire de l'entreprise à l'origine de l'accident. B. L'assuré ayant formé un recours contre cette décision, la Cour des assurances sociales du Tribunal cantonal du Valais l'a rejeté par jugement du 21 mars 2014. C. A._ interjette un recours en matière de droit public contre ce jugement. Il conclut à l'annulation de la décision sur opposition de la CNA du 10 octobre 2013 et à la constatation qu'il n'existe aucun motif justifiant une réduction des prestations de l'assurance-accidents, le tout sous suite de frais et dépens. La CNA a conclu au rejet du recours. L'office fédéral de la santé publique a renoncé à se déterminer.