Faits:
A. A.a A._ a fait son école de recrue en 1990 dans l'infanterie. Le 20 août 2001, il est entré en cours de répétition. Le 30 août 2001, le docteur M._, spécialiste en psychiatrie, a constaté un trouble psychotique aigu polymorphe à prédominance paranoïaque. Sur recommandation de ce médecin, le prénommé a été licencié avec effet immédiat. Par décision du 26 juin 2002, confirmée sur recours le 2 septembre 2002, la Commission de visite sanitaire l'a déclaré inapte au service en raison de son comportement inadéquat.
Du 26 novembre au 3 décembre 2001, A._ a été hospitalisé à l'Hôpital psychiatrique X._. Les médecins de la clinique ont posé le diagnostic de personnalité à traits paranoïaques et d'épisode dépressif moyen. L'assuré a été suivi pendant une année environ par le docteur U._, ancien médecin-chef de cet établissement, puis par le docteur H._. Dans un rapport du 9 décembre 2002, le docteur U._ a exposé que la responsabilité de l'assurance militaire devait faire l'objet d'une investigation approfondie, éventuellement sur la base d'une expertise psychiatrique.
Par lettre du 30 mai 2003, l'Office fédéral de l'assurance militaire (OFAM) a informé A._ qu'il remplissait les conditions légales pour être mis au bénéfice des prestations de l'assurance militaire; ce droit devait cependant être réexaminé au terme d'une procédure d'enquête ou suivant l'évolution de l'affection.
A.b Mandaté par l'OFAM, le docteur E._, spécialiste en psychiatrie et psychothérapie, a rendu son rapport d'expertise le 9 décembre 2004. Fondée sur les conclusions de l'expert, l'assurance militaire a mis fin à ses prestations à partir du 1er mars 2005 par décision du 29 avril 2005, confirmée sur opposition le 3 octobre 2005. Statuant par jugement du 30 avril 2007, le Tribunal des assurances du canton du Valais a rejeté le recours formé contre cette décision par l'assuré. Saisi à son tour d'un recours de A._, le Tribunal fédéral a annulé ce jugement et renvoyé la cause à la CNA division assurance militaire pour qu'elle statue à nouveau sur le droit aux prestations à partir du 1er mars 2005, ainsi que sur une éventuelle réduction, au besoin après une instruction complémentaire (arrêt 8C_283/2007 du 7 mars 2008). Le Tribunal fédéral a retenu que la conclusion du docteur E._ selon laquelle la durée de la responsabilité de l'assurance était limitée à six mois n'était pas convaincante. Il a considéré que l'intimée n'avait pas rapporté la preuve que l'aggravation n'était plus due - en partie tout au moins - à des influences militaires. Ainsi, la responsabilité de l'assurance militaire devait être reconnue au-delà du 1er mars 2005.
A.c A la suite de cet arrêt, la CNA division assurance militaire a alloué à l'intéressé une rente d'invalidité de 100 %, dès le 1er mars 2005, pour une durée indéterminée. Le 14 octobre 2008, A._ a réclamé le versement d'intérêts moratoires sur les montants dus. Par décision du 3 mars 2009, confirmée sur opposition le 10 août 2010, l'assurance a rejeté cette demande.
B. Saisie d'un recours contre cette décision, la Cour des assurances sociales du Tribunal cantonal valaisan l'a rejeté par jugement du 26 septembre 2011.
C. A._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation en concluant à ce l'assurance militaire soit tenue de verser "des intérêts moratoires calculés à 5 % l'an sur toutes les prestations arriérées versées tardivement (...) selon un calcul à effectuer dès l'arrêt du versement des prestations en mars 2005 et jusqu'à leur reprise en 2008".
La CNA division assurance militaire a conclu au rejet du recours. Le 7 décembre 2011, A._ a produit une communication complémentaire à laquelle a répondu l'assurance (lettre du 14 décembre 2011).
Considérant en droit:
1. Le litige porte sur le point de savoir si le recourant a droit à des intérêts moratoires sur les prestations dues par l'intimée dès le 1er mars 2005.
2. Selon l'art. 9 al. 2 LAM, lequel déroge à l'art. 26 al. 2 LPGA, un intérêt n'est dû qu'en cas de comportement dilatoire ou illicite de l'assurance militaire. Cette disposition de la LAM concrétise la jurisprudence antérieure à l'entrée en vigueur de la LPGA (ATF 117 V 351 et 352 consid 2; RCC 1990 p. 45; JÜRG MAESCHI, Kommentar zum Bundesgesetz über die Militärversicherung [MVG], Berne, 2000, n. 10 ad art. 9). L'obligation de payer un intérêt de retard n'existe que lorsque l'administration viole grossièrement ses devoirs, car sinon chaque décision erronée en matière de fixation de prestations pourrait donner lieu à des intérêts moratoires, ce que le législateur a précisément voulu éviter. L'art. 9 al. 2 LAM s'applique aux décisions de refus de prestations qui violent la loi ainsi qu'aux décisions en matière de prestations rendues au mépris d'éléments de faits essentiels ou fondées sur une instruction manifestement insuffisante (MAESCHI, op. cit., n. 11 ad art. 9).
3. Selon le recourant, la juridiction cantonale a méconnu le fait que l'intimée possédait dès la fin de l'année 2002 tous les éléments essentiels à la décision prise en 2008. Cette allégation est en contradiction avec les pièces du dossier. En effet, selon le rapport du 9 décembre 2002 du docteur U._, les particularités de l'évolution ne permettaient pas d'admettre sans autre une relation de cause à effet entre la maladie de A._ et le service militaire; la question de la responsabilité de l'assurance-militaire nécessitait une investigation ultérieure plus approfondie compte tenu des autres facteurs susceptibles d'avoir influencé l'état de santé de l'intéressé (tel le TTC subi par l'intéressé à la suite d'un accident survenu en 1990). C'est dire qu'il existait des doutes sérieux quant à l'origine de l'affection psychique présentée par le recourant. Cela étant, dès le 30 mai 2003, l'OFAM a informé l'intéressé qu'il avait droit aux prestations de l'assurance militaire. L'assuré a été averti à cette occasion que son droit serait réexaminé au terme d'une procédure d'enquête ou suivant l'évolution de l'affection. En févier 2004, le docteur E._ a été chargé d'une expertise. Ce médecin a rendu ses conclusions le 9 décembre 2004.
L'assurance militaire a fondé son refus de prestations sur les conclusions de l'expertise du docteur E._. Si le Tribunal fédéral a finalement donné raison à l'assuré, il l'a fait au terme d'une discussion approfondie du contenu de cette expertise et en parvenant à la conclusion que l'intimée n'avait pas rapporté la preuve que l'aggravation de l'état de santé de l'assuré n'était plus due - en partie tout au moins - à des influences militaires. On ne voit pas dans ces conditions que l'assurance militaire ait eu un comportement dilatoire ou illicite.
4. Selon le recourant - qui invoque l'arrêt 8C_283/2007 (notamment sa page 9) - le Tribunal fédéral aurait considéré que l'assurance militaire "avait apporté de manière arbitraire la preuve de l'antériorité au sens de l'art. 5 al. 1 let. a LAM".
Le Tribunal fédéral n'a nullement utilisé le mot arbitraire qui n'aurait eu aucun sens dans le contexte de la discussion. Comme cela ressort de ce même contexte, le tribunal a voulu dire que la preuve en question avait été rapportée de manière abstraite (rendu par "abstraire" en raison d'une faute de frappe).
5. Pour le surplus, on peut renvoyer aux considérants pertinents de l'arrêt attaqué, les juges cantonaux ayant apporté une réponse circonstanciée aux arguments du recourant.
6. Il s'ensuit que le recours est mal fondé.
Le recourant, qui succombe, supportera les frais judiciaires (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 750 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal valaisan, Cour des assurances sociales, et à l'Office fédéral de la santé publique.
Lucerne, le 10 septembre 2012
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Ursprung
La Greffière: Berset