Faits:
A. Lors d'un cours de répétition accompli en octobre 1988, P._ a contracté une trachéo-bronchite, avec toux spastique. Depuis cette époque, il souffre d'un asthme bronchique, ainsi que d'une pathologie oto-rhino-laryngologique et respiratoire devenue chronique. Son cas a été pris en charge par l'assurance militaire.
Le 25 février 1999, il a subi une conchotomie (cautérisation) des deux cornets nasaux moyen et inférieur avec méatotomie bilatérale visant à élargir le méat du sinus maxillaire des deux côtés. Le lendemain de cette opération, il s'est plaint d'importantes douleurs au niveau des maxillaires supérieures. En raison de la persistance de cette symptomatologie, il a été adressé à trois spécialistes en oto-rhino-laryngologie (ORL), les docteurs M._, W._ et A._.
Se fondant notamment sur les avis de ces médecins, l'Office fédéral de l'assurance-militaire (ci-après: l'OFAM) a avisé P._ que le syndrome douloureux n'était pas en relation avec l'affection ORL et qu'il serait mis fin au versement des indemnités journalières le 30 juin 2000. Après que l'assuré s'est opposé à ce refus, l'OFAM a confié deux expertises, l'une au docteur H._ (spécialiste ORL à l'Hôpital X._) et l'autre au docteur T._ (spécialiste en neurologie à la clinique neurologique de l'Hôpital X._). P._ s'étant plaint dans l'intervalle d'un déni de justice pour obtenir la reprise du versement des indemnités journalières, l'OFAM s'est vu enjoindre de statuer jusqu'au 31 janvier 2002 sur la demande de l'intéressé. Par décision du 30 janvier 2002, l'OFAM a refusé derechef toute prestation, dès le 1er juillet 2000, au motif que le syndrome douloureux présenté par l'intéressé n'était pas en relation avec l'opération assurée. Le 22 février 2002, P._ a fait opposition à la décision précitée. Entre-temps, les docteurs T._ et H._ ont rendu leur expertise, respectivement les 31 janvier et 16 avril 2002.
Par décision du 8 mai 2003, l'OFAM a rejeté l'opposition.
B. Par jugement du 25 mai 2004, le Tribunal administratif du canton de Neuchâtel (aujourd'hui: Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public) a rejeté le recours formé par l'assuré contre la décision de l'OFAM.
Saisi d'un recours de droit administratif, le Tribunal fédéral des assurances l'a rejeté (arrêt du 31 octobre 2005; cause M 3/04).
C. Par requête du 7 novembre 2011, P._ demande la révision de l'arrêt du 31 octobre 2005 (M 3/04), en concluant à son annulation, subsidiairement au renvoi de la cause à la juridiction cantonale pour nouvelle décision au sens des considérants. Il sollicite également d'être mis au bénéfice de l'assistance judiciaire.
Aucun échange d'écritures n'a été ordonné.
D. Par ordonnance du 6 décembre 2011, la Ire Cour de droit social du Tribunal fédéral a rejeté la demande d'assistance judiciaire, au motif que la demande de révision apparaissait vouée à l'échec.
Considérant en droit:
1. Bien qu'elle porte sur un arrêt rendu sous l'empire de l'ancienne loi fédérale d'organisation judiciaire du 16 décembre 1943 (OJ), la requête en révision a été introduite postérieurement au 1er janvier 2007, de sorte qu'elle doit être traitée selon les art. 121 ss LTF (ATF 136 I 158 consid. 1 p. 162). En l'espèce, le requérant se prévaut du motif de révision tiré de l'art. 123 al. 2 let. a LTF.
2. En vertu de l'art. 123 al. 2 let. a LTF, la révision peut être demandée dans les affaires civiles et les affaires de droit public, si le requérant découvre après coup des faits pertinents ou des moyens de preuve concluants qu'il n'avait pas pu invoquer dans la procédure précédente, à l'exclusion des faits ou moyens de preuve postérieurs à l'arrêt.
3. 3.1 Selon la jurisprudence, ne peuvent justifier une révision que les faits qui se sont produits jusqu'au moment où, dans la procédure principale, des allégations de faits étaient encore recevables, mais qui n'étaient pas connus du requérant malgré toute sa diligence; en outre, ces faits doivent être pertinents, c'est-à-dire qu'ils doivent être de nature à modifier l'état de fait qui est à la base de l'arrêt entrepris et à conduire à un jugement différent en fonction d'une appréciation juridique correcte (ATF 134 III 669 consid. 2.2 p. 671 et les références). Les preuves, quant à elles, doivent servir à prouver soit les faits nouveaux importants qui motivent la révision, soit des faits qui étaient certes connus lors de la procédure précédente, mais qui n'avaient pas pu être prouvés, au détriment du requérant. Dans ce contexte, le moyen de preuve ne doit pas servir à l'appréciation des faits seulement, mais à l'établissement de ces derniers. Ainsi, il ne suffit pas qu'une nouvelle expertise donne une appréciation différente des faits; il faut bien plutôt des éléments de fait nouveaux, dont il résulte que les bases de la décision entreprise comportaient des défauts objectifs. Pour justifier la révision d'une décision, il ne suffit cependant pas qu'un médecin ou un expert tire ultérieurement, des faits connus au moment du jugement principal, d'autres conclusions que le tribunal (ATF 127 V 353 consid. 5b p. 358 et les références).
3.2 Aux termes de l'art. 124 al. 1 let. d LTF, une demande de révision fondée sur l'art. 123 al. 2 let. a LTF doit être déposée devant le Tribunal fédéral dans les 90 jours qui suivent la découverte du motif de révision, mais au plus tôt dès la notification de l'expédition complète de l'arrêt.
4. Dans son arrêt du 31 octobre 2005, le Tribunal fédéral a confirmé les conclusions de la juridiction cantonale, dont il ressort que le requérant souffrait d'un syndrome algique dont l'origine n'était pas explicable objectivement et que l'existence d'un lien temporel avec l'intervention pratiquée dans les règles de l'art était seulement possible.
5. A l'appui de sa demande de révision, le requérant se fonde essentiellement sur trois nouveaux rapports médicaux, établis respectivement par les docteurs M._ (spécialiste ORL et en chirurgie cervico-faciale à l'Hôpital Y._, C._ (spécialiste FMH en endocrinologie et diabétologie) et R._ (spécialiste FMH en neurologie) entre le 25 juillet et le 17 octobre 2011. En cours de procédure, il a encore produit un rapport du docteur M._ du 17 février 2012. Outre le fait que l'on peut émettre de sérieux doutes quant à la question de savoir si un rapport ou une expertise médicale établie après la décision attaquée constitue un "nouveau" moyen de preuve justifiant une révision (cf. arrêt 4A_105/2012 du 28 juin 2012 consid. 2.2), les moyens de preuve produits par le requérant ne font état d'aucun élément de fait nouveau mais se bornent à remettre en cause l'appréciation médicale antérieure de leur auteur ou celle de leurs confrères en constatant désormais l'existence, au degré de la vraisemblance prépondérante, d'un lien de causalité entre l'opération du 25 février 1999 et les névralgies dont souffre le requérant depuis lors. Comme on l'a vu (cf. consid. 3.1 supra), cela ne suffit toutefois pas à fonder un motif de révision de l'arrêt entrepris.
6. Manifestement mal fondée, la demande de révision doit être rejetée. Le requérant, qui succombe, supportera les frais judiciaires (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. La demande de révision est rejetée.
2. Les frais judiciaires, arrêtés à 750 fr., sont mis à la charge du requérant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, et à l'Office fédéral de la santé publique.
Lucerne, le 4 septembre 2012
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Ursprung
La Greffière: Fretz Perrin