Faits:
A. M._ travaille comme conseiller en assurances à l'agence X._ pour la compagnie d'assurances Allianz Suisse (ci-après: Allianz). A ce titre, il est assuré contre le risque d'accident auprès de son employeur.
Par une déclaration d'accident-bagatelle LAA du 1er octobre 2009, M._ a annoncé à Allianz qu'il s'était blessé au muscle du bras droit, le 22 juillet précédent, durant ses vacances à l'étranger. Il y était fait mention d'un faux mouvement pendant une partie de tennis.
Dans un certificat médical initial LAA du 3 novembre 2009, le docteur P._, médecin orthopédiste, que l'assuré avait consulté le 10 août 2009 à son retour de vacances, a posé le diagnostic d'une déchirure musculaire distale au biceps. Il a également indiqué avoir fait réaliser une échographie qui montrait une calcification du tendon sus-épineux avec une tendinite sans déchirure. M._ s'est vu attester une incapacité de travail de 50 % dès la date de la consultation jusqu'au 14 septembre 2009, puis de 100 % du 26 octobre au 1er novembre 2009 à la suite d'une séance de "needling" pour ponctionner les calcifications. Le 4 décembre 2009, le médecin traitant a informé Allianz que l'évolution était moins favorable que les premières investigations le laissaient supposer, et qu'un examen IRM de l'épaule droite réalisé le 25 novembre 2009 avait révélé une rupture complète du sus-épineux ainsi que du sous-épineux, et partielle du sous-scapulaire, rendant nécessaire une intervention chirurgicale de réinsertion-suture. M._, en incapacité totale de travail depuis le 13 janvier 2010, s'est fait opérer le lendemain. La lésion a été considérée irréparable en raison de l'importance de la rétraction tendineuse. Invité à se prononcer sur le cas, le médecin-conseil d'Allianz, le docteur A._, a considéré que la lésion constatée ne pouvait être attribuée à l'événement du 22 juillet 2009.
En vue de déterminer sa responsabilité, Allianz a confié une expertise externe au docteur F._, spécialiste en chirurgie. Celui-ci a posé le diagnostic d'une rupture étendue de la coiffe des rotateurs à droite d'origine dégénérative sans relation de causalité avec l'événement annoncé du 22 juillet 2009, ainsi que d'une tendinopathie marquée du long tendon du biceps (rapport du 30 septembre 2010). L'assuré a subi une seconde opération à la Clinique Y._ en octobre 2010.
Par décision du 19 octobre 2010, Allianz a refusé de prendre en charge le cas. En ce qui concerne le déroulement de l'événement, elle n'a pas retenu que l'assuré avait fait une chute. Par ailleurs, sur la base des avis des docteurs F._ et A._, médecin-conseil, elle a considéré que l'atteinte en cause n'était pas une lésion assimilée étant donné son origine exclusivement dégénérative. L'assuré a formé opposition à cette décision en produisant deux attestions de témoins l'ayant vu tomber au sol durant la partie de tennis, ainsi qu'une détermination du docteur P._ du 18 novembre 2010 critiquant la position rendue par l'expert. Allianz a écarté cette opposition dans une nouvelle décision du 2 septembre 2011.
B. L'assuré a déféré la décision sur opposition du 2 septembre 2011 à la Cour de droit public du Tribunal cantonal neuchâtelois, qui a rejeté le recours par jugement du 8 mars 2012.
C. M._ interjette un recours en matière de droit public contre ce jugement, dont il requiert l'annulation, sous suite de dépens. Il conclut, principalement, à ce que Allianz lui alloue les prestations légales LAA pour les lésions qu'il a subies au bras et à l'épaule droits à la suite de l'événement du 22 juillet 2009; subsidiairement à ce que la cause soit renvoyée à Allianz pour une instruction médicale complémentaire sur la question de la causalité.
Allianz conclut au rejet du recours. De son côté, l'Office fédéral de la santé publique a renoncé à se déterminer.
Considérant en droit:
1. Le litige concerne des prestations en nature (traitement médical) aussi bien qu'en espèces (indemnités journalières), de sorte que le Tribunal fédéral dispose d'un pouvoir d'examen étendu en ce qui concerne les faits communs aux deux types de prestations (voir arrêt 8C_584/2009 du 2 juillet 2010 consid. 4).
2. La juridiction cantonale a exposé correctement les dispositions légales (art. 6 al. 1 LAA; art. 9 al. 2 let. f OLAA) et les principes jurisprudentiels (relatifs à la notion de la causalité naturelle et adéquate, de statu quo ante/statu quo sine) applicables au présent litige, de sorte qu'il suffit d'y renvoyer.
3. Est litigieuse la question de savoir si la rupture de la coiffe des rotateurs de l'épaule droite diagnostiquée chez le recourant le 25 novembre 2009 constitue une lésion assimilée à un accident résultant de l'événement du 22 juillet 2009 ou si, comme le soutient l'intimée, cette atteinte doit être rapportée à une cause exclusivement dégénérative.
4. Dans son rapport d'expertise du 30 septembre 2010, le docteur F._ a conclu à une origine dégénérative et préexistante de la rupture de la coiffe des rotateurs présentée par M._, avec une probabilité confinant à la certitude. L'événement en cause du 22 juillet 2009 (faux mouvement lors d'un service de tennis ou frappe très violente avec la raquette suivie d'une chute sur l'épaule droite) n'avait entraîné qu'une aggravation temporaire d'un état auparavant asymptomatique, le statu quo sine ayant été atteint lors de la première consultation médicale de l'assuré auprès du docteur P._, le 10 août 2009. L'élément décisif qui a amené l'expert à se prononcer dans ce sens ont été les constatations faites par le médecin traitant précité lors de cette consultation. Ce dernier avait noté une bonne mobilité de l'épaule droite sans limitation aussi bien en élévation qu'en abduction active, en rotation interne et externe, ainsi que des douleurs principalement à la contraction contre résistance du biceps. Or, d'après le docteur F._, une rupture traumatique de la coiffe des rotateurs de l'importance constatée chez M._ provoquait, selon l'expérience médicale et dans une première phase, des douleurs immédiates ainsi qu'une perte de force rendant impossible l'élévation du bras à la verticale ou de côté. Une telle lésion traumatique aurait conduit la personne concernée à consulter sans délai un médecin et entraîné une prise en charge thérapeutique et la prescription d'une incapacité de travail. A défaut de telles douleurs et limitations, il fallait considérer que la rupture de la coiffe des rotateurs avait une origine dégénérative ou maladive. Le fait que dix-huit jours après l'événement, les symptômes de l'intéressé s'étaient déjà à ce point amendés que le docteur P._ avait pu observer une bonne mobilité de l'épaule lésée montrait que l'on se trouvait dans le deuxième cas de figure. Le docteur F._ a encore précisé que l'absence de douleurs à l'épaule droite avant l'événement décrit ne constituait pas un indice en défaveur d'une rupture étendue de la coiffe des rotateurs préexistante et d'origine dégénérative.
La juridiction cantonale a fait siennes les conclusions de cette expertise en retenant qu'elle était probante et convaincante.
5. Le recourant fait valoir que les considérations de l'expert sont incohérentes et valablement contredites par le docteur P._, qui avait expliqué les raisons pour lesquelles il n'avait pas immédiatement diagnostiqué la rupture de la coiffe des rotateurs à la suite de l'événement du 22 juillet 2009. En outre, l'avis de son médecin traitant était corroboré par celui du docteur G._, de la Clinique Y._.
6. 6.1 D'après une jurisprudence constante, l'assureur-accidents est tenu, au stade de la procédure administrative, de confier une expertise à un médecin indépendant, si une telle mesure se révèle nécessaire. Lorsque de telles expertises sont établies par des spécialistes reconnus, sur la base d'observations approfondies et d'investigations complètes, ainsi qu'en pleine connaissance du dossier, et que les experts aboutissent à des résultats convaincants, le juge ne saurait les écarter aussi longtemps qu'aucun indice concret ne permet de douter de leur bien-fondé (ATF 125 V 351 consid. 3b/bb p. 353).
6.2 Bien qu'il soit regrettable que l'assureur-accident n'ait pas jugé utile de soumettre au docteur F._ les objections soulevées par son confère, le docteur P._, celles-ci ne sont pas susceptibles de remettre en cause l'appréciation de l'expert administratif pour les raisons qui suivent.
6.2.1 Le médecin traitant déclare que M._ avait pris des analgésiques depuis l'incident du 22 juillet 2009 et qu'il s'était ménagé jusqu'au retour en Suisse, de sorte que les douleurs à l'épaule de celui-ci s'étaient progressivement atténuées pour se localiser essentiellement et dans un premier temps au bras droit. Cela expliquait la bonne mobilité de l'épaule droite qu'il avait pu constater lors de la première consultation et le fait qu'il avait à ce moment-là renoncé à ordonner une investigation plus poussée qu'une écographie. L'explication ne convainc toutefois pas. Même en admettant une réduction des symptômes douloureux due aux analgésiques, on voit difficilement comment, à l'occasion d'un examen médical actif de l'épaule, ce type de médication pourrait masquer une impotence fonctionnelle telle que décrite par le docteur F._ lorsqu'on se trouve en présence d'une rupture traumatique étendue de la coiffe des rotateurs (impossibilité d'élever le bras à la verticale ou de côté). On peut au demeurant douter que l'assuré fût encore à ce moment-là sous l'effet d'analgésiques puisqu'il a éprouvé des douleurs spécifiques au biceps qui ont amené son médecin à suspecter une rupture partielle de ce muscle.
6.2.2 Le docteur P._ mentionne également le fait qu'il a régulièrement examiné l'état des deux épaules de son patient, qui était en traitement chez lui pour un traumatisme à l'épaule gauche survenu en avril 2004. A l'occasion de ces examens, il n'avait à aucun moment constaté de problèmes à l'épaule droite, dont la mobilité avait toujours été excellente. M._ ne s'était jamais non plus plaint d'une quelconque douleur à cette épaule. On doit cependant constater que selon les informations contenues dans le rapport du docteur P._, le dernier examen remontait à février 2008 et qu'il s'est donc écoulé plus d'une année et demie (21 mois précisément) avant la découverte de la rupture de la coiffe des rotateurs à l'épaule droite du recourant. De plus, selon le docteur F._, l'absence de douleurs antérieures n'est pas un indice significatif pour conclure au défaut d'une rupture de la coiffe des rotateurs préexistante dégénérative.
6.2.3 Enfin, dans les rapports du docteur G._ (des 30 mars, 17 août et 27 septembre 2010), on peut certes lire sous la rubrique "diagnostic" la mention: "Juli 2009 traumatische Rotatorenmanschetten-Ruptur bei Sportunfall" (juillet 2009 rupture traumatique de la coiffe des rotateurs à la suite d'un accident sportif). Outre le fait que cette affirmation n'est aucunement motivée, elle apparaît plutôt comme la retranscription de l'opinion émise par le docteur P._ par l'intermédiaire duquel le recourant a d'ailleurs été adressé à ce médecin en vue d'une seconde opinion sur la marche à suivre après la première opération.
6.3 Il s'ensuit qu'il n'y a pas de motif à s'écarter de l'expertise du docteur F._ et que les premiers juges étaient fondés à en suivre les conclusions sans ordonner d'expertise complémentaire, ce qui conduit au rejet du recours.
7. Vu l'issue du litige, le recourant doit supporter les frais judiciaires (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 750 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, et à l'Office fédéral de la santé publique.
Lucerne, le 19 avril 2013
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
La Présidente: Leuzinger
La Greffière: von Zwehl