Faits:
A. C._ a travaillé en qualité de menuisier au service de l'entreprise X._ SA. A ce titre, il était assuré contre le risque d'accidents auprès de la Caisse nationale suisse d'assurance en cas d'accidents (CNA).
Le 6 septembre 2007, il a été victime d'un accident professionnel. Alors qu'il travaillait sur un chantier, il a reçu sur la tête une perceuse tombée de l'échafaudage supérieur, laquelle lui a occasionné un traumatisme crânien simple avec plaie du cuir chevelu. Il n'a pas perdu connaissance, mais a souffert par la suite de céphalées et a séjourné deux jours pour observation à l'Hôpital Y._. Il a subi une incapacité de travail totale jusqu'au 8 octobre 2007. La CNA a pris le cas en charge.
Une première rechute a été annoncée à la CNA en juillet 2008 en raison d'une vestibulopathie périphérique droite subaiguë provoquant des vertiges et des céphalées. Les frais de traitement ainsi que l'incapacité de travail relative à cette atteinte (30 juin au 13 juillet 2008) ont également été pris en charge par l'assureur-accidents.
Le 20 mars 2009, la doctoresse R._, spécialiste en oto-rhino-laryngologie, a informé la CNA que son patient présentait des troubles psychiques susceptibles d'être en relation avec l'accident. La CNA a mis en oeuvre diverses mesures d'instruction.
Par décision du 6 mai 2010, confirmée sur opposition le 9 juillet 2010, la CNA a mis fin à ses prestations avec effet au 31 mai 2010.
B. C._ a déféré la décision sur opposition à la Cour des assurances sociales du Tribunal cantonal valaisan en concluant à l'octroi d'une rente entière d''invalidité et au renvoi de la cause à la CNA pour calcul du montant de cette prestation.
Statuant par jugement du 31 mars 2011, la juridiction cantonale a rejeté le recours.
C. C._ interjette un recours en matière de droit public contre ce jugement dont il requiert l'annulation ainsi que celle de la décision de la CNA. Il conclut, sous suite de frais et dépens, à ce qu'il soit constaté qu'il présente une invalidité totale et demande le renvoi de la cause à l'assureur-accidents pour qu'il procède au calcul de la rente.

Considérant en droit:
1. Le litige porte sur le point de savoir si le recourant a droit à des prestations de l'assurance-accidents pour la période postérieure au 31 mai 2010. Il s'agit plus particulièrement de déterminer si l'atteinte psychique dont il souffre (sous la forme de troubles dépressifs récurrents, épisode actuel moyen avec syndrome somatique et troubles paniques avec agoraphobie; cf. en particulier le rapport du 23 février 2010 du docteur A._, spécialiste en psychiatrie et psychothérapie) se trouve en relation de causalité adéquate avec l'accident du 6 septembre 2007, l'existence d'un lien de causalité naturelle n'étant pas litigieuse.
2. Compte tenu l'objet du litige, le Tribunal fédéral n'est pas lié par les faits constatés en instance cantonale (art. 97 al. 2 et 105 al. 3 LTF).
3. En l'espèce, la juridiction cantonale a fait application des critères objectifs définis par la jurisprudence pour examiner le caractère adéquat du lien de causalité entre une atteinte à la santé psychique et un accident de gravité moyenne (<ref-ruling> consid. 6c/aa p. 140 et 403 consid. 5c/aa p. 409). Le recourant ne conteste pas ce choix. Il ne conteste pas non plus la qualification d'accident de gravité moyenne retenue par les premiers juges (pour comparaison voir notamment arrêt U 14/98 du 10 décembre 1998 consid. 3c).
4. 4.1 Pour qu'un lien de causalité adéquate entre les troubles psychiques et un accident de gravité moyenne soit admis, il faut que les critères objectifs posés par la jurisprudence en la matière se cumulent ou revêtent une intensité particulière (<ref-ruling> consid. 6c/aa p. 140 et 403 consid. 5c/aa p. 409; cf. arrêt 8C_175/2010 du 14 février 2011 consid. 5.1).
4. 4.1 Pour qu'un lien de causalité adéquate entre les troubles psychiques et un accident de gravité moyenne soit admis, il faut que les critères objectifs posés par la jurisprudence en la matière se cumulent ou revêtent une intensité particulière (<ref-ruling> consid. 6c/aa p. 140 et 403 consid. 5c/aa p. 409; cf. arrêt 8C_175/2010 du 14 février 2011 consid. 5.1).
4.2 4.2.1 Tout d'abord, contrairement à ce que soutient le recourant, on ne voit pas que l'accident ait revêtu un caractère particulièrement impressionnant. Par ailleurs, les lésions physiques n'étaient pas particulièrement graves. L'assuré a pu reprendre le travail le 8 octobre 2007. Si par la suite une rechute a été annoncée en raison d'une vestibulopathie droite entraînant des vertiges et des céphalées, l'évolution a été favorable et la symptomatologie a rapidement été dominée par des troubles psychiques (rapport de l'Hôpital Y._ du 7 juillet 2008; rapport du service de psychiatrie de l'Hôpital Z._ du 10 août 2009; rapport de la doctoresse R._ du 3 novembre 2009). Le traitement médical nécessité par les séquelles physiques n'a pas été particulièrement long. L'accident n'a pas non plus occasionné des douleurs physiques persistantes.
Le recourant soutient que des difficultés et complications importantes sont apparues en cours de guérison. L'arrêt U 201/05 qu'il invoque dans ce contexte ne lui est toutefois d'aucun secours. Cet arrêt fait application de la jurisprudence en matière de causalité adéquate en cas de lésions du rachis cervical par accident de type « coup du lapin » (Schleudertrauma, whiplash-injury), d'un traumatisme analogue ou d'un traumatisme cranio-cérébral sans preuve d'un déficit fonctionnel organique (<ref-ruling>; <ref-ruling> consid. 2 p. 338; <ref-ruling> consid. 4b p. 360): dans ces cas l'examen de la causalité adéquate se fonde sur des critères quelque peu différents de ceux applicables en matière de troubles psychiques consécutifs à un accident et, surtout, il n'est pas décisif, quand on procède à cet examen, de savoir si les troubles dont est atteint l'assuré sont plutôt de nature somatique ou psychique.
4.2.2 Dans ces conditions, il n'y a pas de raison de mettre en cause le point de vue de la juridiction cantonale selon lequel les critères objectifs déterminants pour examiner le lien de causalité adéquate entre l'atteinte psychique persistant après le 31 mai 2010 et l'accident du 6 septembre 2007 ne sont pas réalisés.
5. Manifestement infondé, le recours doit être rejeté selon la procédure simplifiée de l'<ref-law>. Le recourant, qui succombe, doit supporter les frais judiciaires afférents à la présente procédure (cf. <ref-law>). Pour le même motif, il n'a pas droit aux dépens qu'il prétend.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 750 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal valaisan, Cour des assurances sociales, et à l'Office fédéral de la santé publique.
Lucerne, le 30 septembre 2011
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Ursprung
La Greffière: Berset