Faits : A. A._ était employé comme maçon par l'entreprise de placement en personnel B._ SA. A ce titre, il était assuré contre le risque d'accidents auprès de la Caisse nationale suisse d'assurance en cas d'accidents (CNA). Le 7 septembre 2011, il est tombé d'une échelle d'une hauteur d'environ trois mètres alors qu'il était en train de faire de l'étayage. Cette chute lui a occasionné de multiples fractures (aile iliaque droite in situ, branche ilio-pubienne haute à droite, aileron sacrée au niveau S1 in situ et tête radiale droite) ainsi qu'une contusion de l'hémithorax droit et de l'épaule droite, lesquelles ont été traitées conservativement à l'Hôpital C._ où l'assuré a séjourné du 7 au 13 septembre 2011. Le cas a été pris en charge par la CNA. Des troubles mictionnels obstructifs sur double sténose urétrale sont apparus dans les suites de la fracture du bassin, lesquels ont fait l'objet d'une intervention chirurgicale (urétrotomie interne avec pose de sonde trans-urétrale) le 18 novembre 2011. Le 30 janvier 2012, le docteur D._, spécialiste FMH en urologie ayant opéré l'assuré, a indiqué que du point de vue urologique, il n'existait pas de contre-indication à la reprise du travail. Le docteur E._, médecin traitant de l'assuré, a constaté, dans un rapport du 13 février 2012, la persistance d'une douleur supra-thoracique gauche, de type pariétal, résistante à tout et engendrant un état nerveux pathologique. Il a préconisé une infiltration et a constaté l'échec de la reprise d'une activité professionnelle. Une demande de prestations de l'assurance-invalidité a été déposée par A._ dans le courant du mois de mars 2012. L'assuré a émis le souhait de reprendre le travail à but thérapeutique durant quinze jours dès le 13 mars 2012. La CNA a entrepris des démarches dans ce sens auprès de l'entreprise F._. La mesure a dû être interrompue en raison de douleurs au coude droit, au bassin et dans la région du bras gauche. A._ a séjourné à la Clinique G._ du 16 mai au 20 juin 2012. Dans leur rapport du 2 juillet 2012, les praticiens de la Clinique G._ ont attesté une incapacité de travail totale dans la profession de maçon jusqu'au 20 juillet 2012. Ils ont retenu que neuf mois après un polytraumatisme ayant entraîné diverses fractures traitées conservativement, l'évolution était peu favorable, avec persistance de douleurs thoraciques gauches inexpliquées, de douleurs fessières droites et une limitation douloureuse modérée du coude. Les fractures étaient consolidées. Sur le plan psychique, il existait un trouble de l'adaptation avec réaction anxieuse de type post-traumatique nécessitant une prise en charge spécifique. Ce trouble était principalement à l'origine de l'incapacité de travail. Sur le plan somatique, on devait s'attendre à une reprise du travail deux mois plus tard au maximum. Des facteurs défavorables allaient cependant compliquer la reprise du travail (douleurs persistantes côtées très haut, handicap perçu comme sévère, comorbidité psychiatrique, catastrophisation) chez un patient qui avait bien participé aux thérapies et qui paraissait sincère. Le 21 août 2012, le docteur H._, chef de clinique au Service d'orthopédie-traumatologie de l'Hôpital I._, a attribué les douleurs à l'hémi-thorax gauche à une déchirure partielle des insertions musculaires du grand et/ou du petit pectoral. L'assuré ne présentant par ailleurs aucun handicap fonctionnel, il a préconisé la reprise du travail à 50 %. Une nouvelle tentative de reprise d'activité à titre thérapeutique a été aménagée en septembre 2012. Malgré un travail jugé bien fait par l'employeur, la mesure a été interrompue. L'assuré s'est dit très fatigué et sans force depuis la prise de médicaments prescrits par ses médecins du Centre de compétence en psychiatrie et psychothérapie de l'Hôpital I._ (CCPP). Dans son rapport d'examen final du 16 janvier 2013, le docteur J._, spécialiste FMH en chirurgie orthopédique et médecin d'arrondissement de la CNA, a indiqué que la situation ne pouvait pas être considérée comme stabilisée sur le plan urinaire puisqu'elle nécessitait encore un contrôle et des traitements auprès du docteur D._. En revanche, il a considéré que l'état de santé de l'assuré était stabilisé en ce qui concernait les lésions du bassin, du coude droit, de l'épaule droite et de l'hémi-thorax droit. Les investigations exhaustives de l'hémi-thorax gauche n'avaient pas démontré de lésion et l'origine des douleurs restait indéterminée. Par décision du 25 janvier 2013, la CNA a mis un terme au versement des prestations d'assurance (indemnité journalière et frais de traitement) au 31 janvier 2013, sous réserve d'une prise en charge des contrôles urologiques nécessaires. L'assuré a formé opposition contre cette décision en demandant la continuation du versement des indemnités journalières au-delà du 31 janvier 2013. Il a en outre conclu à l'octroi d'une indemnité pour atteinte à l'intégrité. A l'appui de son écriture, il a produit un certificat du docteur E._, du 11 février 2013, dans lequel ce dernier a fait état d'un syndrome psychiatrique sévère. Selon ce médecin, la reprise d'un travail dans ces conditions était délicate et une expertise psychiatrique paraissait souhaitable. Dans un certificat du 25 février 2013, le docteur E._ a indiqué que l'assuré présentait des séquelles d'accident mais surtout des troubles nerveux réactionnels; une capacité de travail était retrouvée dès le 1 er mars 2013, avec les restrictions suivantes: pas de port de charges de plus de 20 kilos, pas de contrainte psychique, besoin d'être rassuré et "freiné". Ce médecin a par ailleurs expliqué à l'assuré qu'une reprise d'activité était souhaitable pour son psychisme, réservant toutefois l'avis du psychiatre (cf. rapport du 4 mars 2013). La CNA a rejeté l'opposition par une nouvelle décision du 4 avril 2013. B. Saisie d'un recours contre cette décision sur opposition, la Cour des assurances sociales du Tribunal cantonal du Valais l'a rejeté, par jugement du 14 mai 2014. C. A._ forme un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut, principalement, au maintien des prestations d'assurance (indemnité journalière et frais de traitement) postérieurement au 31 janvier 2013, subsidiairement, au renvoi de la cause à l'instance inférieure pour instruction complémentaire et nouvelle décision et, plus subsidiairement encore, à l'octroi d'une rente entière d'invalidité, le tout sous suite de frais et dépens. La CNA conclut au rejet du recours tandis que l'Office fédéral de la santé publique a renoncé à se déterminer.