Faits:
A. Le 15 août 1998, G._ a ressenti une forte douleur au genou gauche alors qu'il jouait au golf. Par décision du 18 février 1999, Helsana Assurances SA (ci-après : Helsana), auprès de laquelle le prénommé était assuré, a refusé de prendre en charge cet événement au motif qu'il ne s'agissait ni d'un accident ni d'une lésion assimilée à un accident. Le rapport radiologique produit par l'assuré faisait état d'une gonarthrose, ce qui relevait d'une maladie. La décision n'a pas été attaquée.
Le 5 janvier 2005, G._ s'est à nouveau adressé à Helsana en indiquant avoir été victime d'une erreur médicale, qu'il estimait constitutive d'un accident, dans le cadre du traitement de son genou gauche. Il avait subi diverses interventions chirurgicales entre janvier 1999 et juin 2000 et se plaignait d'importantes douleurs à ce genou, d'hypersensibilité et de dysesthésie au pied, ainsi que d'une massive atrophie musculaire de la cuisse. A l'appui de sa déclaration d'accident, il a versé un rapport d'expertise extrajudiciaire (du 11 mai 2001) et un rapport complémentaire (du 23 octobre 2003) des docteurs L._ et H._.
Après avoir posé deux questions supplémentaires au docteur L._ (questionnaire du 8 février 2005) et avoir entendu l'assuré, Helsana a rendu le 29 septembre 2005 une décision de refus de prestations. Elle a retenu que les actes médicaux pratiqués sur l'assuré ne s'étaient pas considérablement écartés de la pratique médicale courante, si bien que le caractère extraordinaire de la notion d'accident faisait défaut. Saisi d'une opposition, l'assureur-accidents l'a rejeté dans une nouvelle décision du 13 novembre 2006.
B. L'intéressé a déféré cette décision au Tribunal administratif du canton de Neuchâtel, qui l'a débouté par jugement du 21 février 2008.
C. G._ interjette un recours en matière de droit public dans lequel il conclut, sous suite de frais et dépens, à l'annulation du jugement cantonal et à la condamnation de Helsana au versement des prestations légales en cas d'accident.
Helsana conclut au rejet du recours. L'Office fédéral de la santé publique a renoncé à se déterminer.
Considérant en droit:
1. Dans la procédure de recours concernant l'octroi ou le refus de prestations en espèces de l'assurance-accidents, le Tribunal fédéral n'est pas lié par l'état de fait constaté par la juridiction précédente (art. 97 al. 2 LTF).
2. Les premiers juges ont considéré à juste titre que le présent cas est régi par l'art. 9 al. 1 OLAA (dans sa teneur originelle en vigueur jusqu'au 31 décembre 2002) eu égard au principe de droit intertemporel selon lequel les dispositions légales applicables sont celles en vigueur au moment où les faits juridiquement déterminants se sont produits (ATF 130 V 445 et les références; cf. aussi ATF 130 V 329).
3. 3.1 Selon l'art. 9 al. 1 OLAA, on entend par accident toute atteinte dommageable, soudaine et involontaire, portée au corps humain par une cause extérieure extraordinaire. Selon la jurisprudence (ATF 129 V 402 consid. 2.1 p. 404 et les références; 122 V 230 consid. 1 p. 232 sv.), la notion d'accident se décompose en cinq éléments ou conditions, qui doivent être cumulativement réalisés : une atteinte dommageable; le caractère soudain de l'atteinte; le caractère involontaire de l'atteinte; le facteur extérieur de l'atteinte; enfin, le caractère extraordinaire du facteur extérieur. Il suffit que l'un d'entre eux fasse défaut pour que l'événement ne puisse pas être qualifié d'accident.
Il résulte de la définition même de l'accident que le caractère extraordinaire de l'atteinte ne concerne pas les effets du facteur extérieur, mais seulement ce facteur lui-même. Dès lors, il importe peu que le facteur extérieur ait entraîné, le cas échéant, des conséquences graves ou inattendues. Le facteur extérieur est considéré comme extraordinaire lorsqu'il excède, dans le cas particulier, le cadre des événements et des situations que l'on peut, objectivement, qualifier de quotidiens ou d'habituels (ATF 129 V 402 consid. 2.1 p. 404; 122 V 230 consid. 1 p. 231; 121 V 35 consid. 1a p. 38; 118 V 59 consid. 2b p. 61).
3.2 Le point de savoir si un acte médical est comme tel un facteur extérieur extraordinaire doit être tranché sur la base de critères médicaux objectifs. Le caractère extraordinaire d'une telle mesure est une exigence dont la réalisation ne saurait être admise que de manière sévère. Il faut que, compte tenu des circonstances du cas concret, l'acte médical s'écarte considérablement de la pratique courante en médecine et qu'il implique de ce fait objectivement de gros risques (ATF 121 V 35 consid. 1b p. 38; 118 V 283 consid. 2b p. 284). Le traitement d'une maladie en soi ne donne pas droit au versement de prestations de l'assureur-accidents, mais une erreur de traitement peut, à titre exceptionnel, être constitutive d'un accident, dès lors qu'il s'agit de confusions ou de maladresses grossières et extraordinaires, voire d'un préjudice intentionnel, avec lesquels personne ne comptait ni ne devait compter. La notion d'erreur médicale ne saurait en effet être étendue à toute faute du médecin, au risque de faire jouer à l'assurance-accidents le rôle d'une assurance de la responsabilité civile des fournisseurs de prestations médicales (RAMA 2000 n° U 407 p. 404, arrêt U 225/99 du 22 septembre 2000). Et la question de l'existence d'un accident sera tranchée indépendamment du point de savoir si l'infraction aux règles de l'art dont répond le médecin entraîne une responsabilité (civile ou de droit public). Il en va de même à l'égard d'un jugement pénal éventuel sanctionnant le comportement du médecin (ATF 121 V 35 consid. 1b p. 38 et les références). Enfin, on précisera que l'indication d'une intervention chirurgicale n'est pas un critère juridiquement pertinent pour juger si un acte médical répond à la définition légale de l'accident (ATF 118 V 283).
3.3 Conformément à ces principes, la jurisprudence admet par exemple l'existence d'un accident, imputable à une cause extérieure extraordinaire, dans le cas d'une confusion en matière de groupes sanguins (ATFA 1961 p. 201 consid. 2a p. 206), dans le cas d'une accumulation d'erreurs à l'occasion d'une angiographie (consid. 4 et 5 non publiés de l'arrêt ATF 118 V 283, mais partiellement reproduits dans le Courrier suisse des assurances, 1994, 1 p. 31), lors de l'injection trop rapide par voie intraveineuse d'une dose excessive de produits anesthésiques (RAMA 1993 n° U 176 p. 204, arrêt U 124/92 du 17 mai 1993), ainsi que lors de l'oubli d'un cathéter dans la vessie d'un patient (RAMA 2003 n° U 492 p. 371, arrêt U 56/01 du 18 juillet 2003) ou dans le cas d'une lésion du nerf médian à l'occasion d'une prise de sang (arrêt 8C_526/2007 du 29 avril 2008). Elle l'a niée, en revanche, à propos d'une perforation de l'intestin lors d'une rectoscopie suivie d'un lavement baryté (arrêt U 5/82 du 5 août 1983), lors du choix - hautement discutable - d'une technique opératoire (RAMA 1988 n° U 36 p. 42, arrêt U 15/87 du 14 octobre 1987), dans le cas d'une perforation par erreur de la sclérotique à l'occasion d'une injection subcorticale parabulbaire au celeston (Extr. CNA 1990 n° 1), ou pour une lésion de nerfs de la main survenue au cours d'une opération spécialement difficile et délicate sur un terrain cicatriciel dont l'anatomie était modifiée par de multiples opérations antérieures (ATF 121 V 39 consid. 1c), à l'occasion de la section accidentelle de la veine épigastrique au cours de l'opération d'une hernie inguinale (SJ 1998 p. 430), lors de la perforation de l'oesophage survenue au cours de l'extraction d'un morceau de viande (RAMA 2000 n° U 368 p. 99, arrêt U 335/98 du 16 novembre 1999), dans le cas de gestes médicaux inappropriés associés à de multiples complications ayant entraîné le décès d'une femme sur le point d'accoucher (RAMA 2000 n° U 407 p. 404, arrêt U 225/99 du 22 septembre 2000), lors d'une lésion du nerf alvéolaire provoquée par l'extraction d'une dent de sagesse sans qu'un diagnostic préopératoire n'ait été posé (RDAT 2002 II n° 90 p. 336, arrêt U 284/01 du 24 janvier 2002), lors de complications imprévisibles et rarissimes liées à un étirement préopératoire du plexus brachial en l'absence d'erreur de traitement (arrêt U 62/03 du 21 octobre 2003), dans le cas où l'inhalation d'un aérosol d'antibiotique a causé une réaction totalement inhabituelle et imprévisible sous la forme d'un choc anaphylactique (arrêt 5C_295/2005 du 12 avril 2006) et enfin dans celui où l'administration d'une combinaison de médicaments à l'occasion d'un accouchement s'est révélée présenter a posteriori certains risques pour la patiente (arrêt U 135/06 du 15 décembre 2006).
4. 4.1 G._ a consulté le docteur I._, chirurgien-orthopédiste, pour la première fois le 12 novembre 1998 en raison de fortes douleurs au genou gauche. Le diagnostic retenu à l'issue des examens de radiographie était celui de gonarthrose latérale avec chondromalacie avancée et fissure complexe du ménisque extérieur (déjà opéré une première fois 20 ans auparavant), ainsi qu'un signal altéré au niveau du ligament croisé antérieur avec une discrète chondromalacie rétropatellaire.
4.2 Le 11 janvier 1999, le docteur I._ a pratiqué une arthroscopie en vue de réaliser une plastie du ligament croisé antérieur ainsi qu'une transplantation de cartilage. Il a renoncé à ces deux actes en cours d'opération, ayant constaté que le ligament était encore en bon état et le cartilage trop endommagé. Il a procédé à une résection partielle du ménisque latéral avec curage de l'articulation ("Arthroskopie links, partielle Resektion Restmeniskus lateral, Gelenktoilette"). L'évolution n'a pas été bonne. G._ a exprimé des douleurs insupportables, ce qui a conduit le docteur I._ à lui proposer une nouvelle intervention. Le 15 mars 1999, l'intéressé a subi une ostéotomie supra-condylienne fémorale de varisation montée par plaque selon Puddu et combinée avec une transplantation de périoste ("aufklappende supracondyläre Varisationsosteotomie mit dem Spezialinstrumentarium nach Puddu und Periostpatch der Trochlea links"). La phase postopératoire n'a pas évolué favorablement. L'assuré s'est plaint d'une paralysie au pied gauche et de douleurs de plus en plus aiguës lors de la physiothérapie. Le 29 mars 1999, un jour avant la sortie de l'intéressé de l'hôpital, une radiographie a été réalisée qui a révélé une fracture dans la région de l'ostéotomie. Le docteur I._ a alors décidé le 3 avril 1999 de procéder à une stabilisation de l'ostéotomie avec un fixateur externe (Stabilisierung mit fixateur externe, Mobilisation des Kniegelenks"). Le 17 mai suivant, il a exécuté une mobilisation de l'articulation du genou sous anesthésie (Mobilisation des Kniegelenks in Spinalanästhesie"), ce qui a provoqué une nouvelle fracture de l'ostéotomie (constatée trois jours plus tard). Celle-ci a été repositionnée le 21 mai 1999. La suite des opérations a été assurée par un autre médecin, le docteur D._, qui a effectué encore deux interventions, en mai 1999 et en juin 2000. Le but du traitement prodigué par le docteur I._, qui était une correction du varus et une régénération du cartilage, n'a pas été atteint. Il en est résulté une raideur douloureuse de l'articulation du genou et une faiblesse du membre inférieur gauche, soit un état nettement plus mauvais qu'avant le traitement entrepris (cf. rapport d'expertise du 11 mai 2001).
4.3 A la question, posée par Helsana le 8 février 2005, de savoir s'il y avait eu dans le cas de G._ des confusions ou des maladresses grossières et extraordinaires, voire un préjudice intentionnel de la part du chirurgien opérateur, l'expert L._ a répondu négativement (réponse du 18 avril 2005).
5. 5.1 Tout en reconnaissant, à la lumière du rapport d'expertise principal (du 11 mai 2001), que les actes chirurgicaux prodigués à l'assuré présentaient des risques accrus de complications - qui s'étaient réalisés en l'espèce - la juridiction cantonale a nié que ceux-ci se fussent écartés considérablement de la pratique courante en médecine. Elle a donc estimé, à l'instar de l'intimée, qu'il n'y avait pas eu d'événement accidentel.
5.2 Le recourant ne remet pas en cause la valeur probante de l'expertise. Il soutient en revanche que les premiers juges ont méconnu la notion juridique d'accident en s'appuyant sur la seule réponse du docteur L._ au questionnaire de Helsana. Dans le rapport d'expertise (du 11 mai 2001) et son complément (du 23 octobre 2003), les experts avaient en effet relevé plusieurs erreurs médicales dont l'accumulation permettait d'attribuer un caractère extraordinaire à l'ensemble du traitement entrepris. A tout le moins, le dernier acte médical du docteur I._ du 17 mai 1999 présentait toutes les caractéristiques d'un événement accidentel.
6. L'atteinte au genou dont souffre G._ est le résultat de plusieurs actes médicaux différents et espacés dans le temps s'inscrivant dans le cadre d'un traitement d'une affection maladive qui a duré en tout une année et demie (janvier 1999 à juin 2000). Pour que la condition du caractère soudain de l'atteinte soit remplie, celle-ci doit se produire pendant un laps de temps relativement court et pouvoir être rattachée à un événement unique; la soudaineté doit se rapporter au facteur extérieur qui est à l'origine de l'atteinte (JEAN-MAURICE FRÉSARD/MARGIT MOSER-SZELESS, L'assurance-accidents obligatoire, in Soziale Sicherheit, SBVR vol. XIV, 2ème éd. 2007, p. 857 no 59; également ALFRED BÜHLER, Der Unfallbegriff, in Haftpflicht- und Versicherungsrechtstagung, 1995, p. 207 ss et ALFRED MAURER, Schweizerisches Unfallversicherungsrecht, 1985, p. 170 ss.). En matière d'accidents médicaux, le fait accidentel soudain réside, comme cela ressort des exemples tirés de la jurisprudence (voir le consid. 3.3. supra), dans la survenance d'une atteinte à l'occasion d'un acte médical bien déterminé et circonscrit dans le temps (une transfusion sanguine, une anesthésie, une intervention chirurgicale précise formant une unité, un accouchement etc.). Considéré dans son ensemble, le traitement subi par G._ ne présente pas cet élément de soudaineté dès lors qu'il n'a pas consisté en un acte médical unique et isolé dans le temps mais en une succession d'actes sur une certaine période qui ont concouru à causer l'atteinte à la santé. Contrairement à ce que voudrait le recourant, ce traitement ne saurait donc constituer un événement accidentel en soi. Il faut bien plutôt examiner, séparément pour chaque acte médical concerné, si celui-ci revêt pour lui-même la qualité d'un accident.
7. 7.1 L'arthroscopie du 11 janvier 1999. D'après les docteurs L._ et H._, celle-ci a été correctement planifiée et s'est déroulée dans des conditions normales. Il n'y a pas eu d'erreur de traitement.
7.2 L'opération du 15 mars 1999. Elle comportait, selon ces mêmes experts, un risque élevé de complications liées au choix du type d'intervention (ostéotomie-périostéoplastie) et de la technique opératoire pratiqués ("aufklappende Osteotomie"; "quere supracondyläre Osteotomie am Uebergang zum spröderen Knochen der Corticalis"), ainsi qu'à la faiblesse du matériel d'ostéosynthèse utilisé. En particulier, la périostéoplastie (transplantation de périoste) dans le traitement de l'arthrose du genou ("Periostlappenplastik des Knorpeldefekts in der Trochlea") était une méthode nouvelle et controversée. Elle exigeait la mise en oeuvre d'une mobilisation passive quotidienne sur un appareil kinetec du membre opéré durant plusieurs semaines. Lorsque cette méthode était combinée avec une ostéotomie, il était alors indispensable de choisir un matériel d'ostéosynthèse suffisamment solide afin d'éviter une instabilité pouvant compromettre le déroulement du traitement post-opératoire. Chez l'assuré, la fixation de l'ostéotomie (au niveau du fémur) avait été réalisée avec une plaque à deux trous développée par le professeur Puddu. D'après le mode d'emploi du fabriquant, cette plaque avait été conçue pour le tibia et il n'existait pas de publications scientifiques reconnaissant l'application de celle-ci au fémur, os qui requérait généralement la pose d'un matériel d'ostéosynthèse plus solide. Bien que le docteur I._ se fût référé à une pratique de quelques autres confrères, les experts ont estimé qu'une telle fixation n'offrait pas une stabilité suffisante eu égard au risque - inhérent à une ostéotomie d'ouverture - d'une fracture de la corticale opposée ("Fraktur der Gegencorticalis") pendant l'opération ou le traitement subséquent. L'utilisation de la plaque à deux trous avait également eu pour conséquence d'affecter la suite du traitement, en rendant plus difficile le processus de guérison de la fracture survenue chez l'assuré. Son genou s'était raidi et l'ostéotomie présentait une instabilité au moment où le recours à une nouvelle intervention était devenu inévitable. Le comportement de l'assuré, même s'il s'était révélé critiquable à certains égards, n'avait pas eu une influence significative sur la survenance de cette lésion.
Sur le vu de ces explications, on peut dire que l'indication de la "Periostklappenplastik" était un choix discutable dans le cas de l'assuré dès lors qu'il ne s'agissait pas d'une méthode thérapeutique éprouvée et reconnue par la chirurgie orthopédique générale. Rien dans les déclarations des experts ne laisse cependant supposer que le fait même de l'exécuter irait nettement au-delà de la pratique médicale admissible. On doit également retenir que le matériel d'ostéosynthèse et la technique de pose de celui-ci étaient inappropriés à la nature et au but recherchés par l'intervention combinée de l'ostéotomie-périostéoplastie, ce qui a contribué à en augmenter sensiblement les risques de complications existants. Si l'on peut indubitablement reprocher au chirurgien une erreur dans l'appréciation des facteurs de risques liés à son acte chirurgical, en particulier à l'utilisation d'une plaque à deux trous pour une ostéotomie fémorale dans le cadre d'une transplantation de périoste, celle-ci n'a toutefois pas atteint en l'espèce un degré de gravité tel qu'on puisse considérer la première fracture survenue chez l'assuré comme résultant d'une maladresse grossière et extraordinaire.
7.3 La stabilisation du 3 avril 1999. Pour les experts, le docteur I._ aurait dû modifier sa stratégie opératoire à ce stade du traitement au plus tard. Deux possibilités thérapeutiques étaient envisageables : stabiliser l'ostéotomie avec une plaque interne plus solide (ce qui eût permis de mobiliser ensuite l'articulation du genou sans trop de restriction), ou poser un matériel de fixation moins stable et attendre la guérison de l'ostéotomie pour procéder dans un second temps à une mobilisation du genou à ciel ouvert. Le docteur I._ avait opté pour une stabilisation avec un fixateur externe, ce qui était une méthode classique pour stabiliser une ostéotomie de fermeture mais ne pouvait que difficilement résoudre la problématique chez l'assuré dès lors que la surface de fixation était plus faible dans une ostéotomie d'ouverture.
Ces considérations, suffisamment explicites, permettent de nier l'existence d'un accident en ce qui concerne cet acte médical.
7.4 La mobilisation sous anesthésie du 17 mai 1999. Ici, les experts concluent clairement à une action hautement risquée de la part du chirurgien ("Die Durchführung der Kniemobilisation bei extrem hartem Stop [...] war ausgesprochen riskant"). Sur la radiographie que ce dernier avait fait réaliser, il existait une formation de cal osseux au niveau de la corticale médiale, mais il en manquait dans la région de la fente de l'ostéotomie. Le docteur I._ avait manifestement surestimé la stabilité de celle-ci. Mais même au regard des connaissances médicales en orthopédie, il ne pouvait raisonnablement s'attendre à une consolidation de l'ostéotomie cinq semaines et demie seulement après l'opération de correction. Par ailleurs, le genou de l'assuré s'était déjà fortement raidi, si bien qu'une manipulation sous narcose et à l'aveugle comme il l'avait accomplie était, selon les experts, complètement vouée à l'échec. La situation imposait d'attendre la guérison de l'ostéotomie encore 4 à 6 semaines et d'exécuter une mobilisation ouverte du genou seulement après ce laps de temps, ce qui aurait présenté des risques nettement moins élevés pour l'assuré. Cette fracture de l'ostéotomie aurait pu être évitée.
Avec le recourant, on doit admettre que ce dernier acte médical réunit les caractéristiques d'un événement accidentel. La survenance d'une seconde fracture a constitué une atteinte soudaine avec laquelle le recourant, qui avait déjà subi une première opération de correction, ne pouvait, ni ne devait compter. L'expertise établit en effet que la décision d'une mobilisation du genou prise par le docteur I._ le 17 mai 1999 était manifestement contraire à l'expérience et à la pratique médicales et totalement contre-indiquée au regard du déroulement antérieur du traitement et des complications qui s'en étaient déjà suivies. Ce geste a ainsi objectivement impliqué de gros risques pour l'assuré. On doit donc admettre qu'il revêt un caractère extraordinaire au sens de la jurisprudence (consid. 3 supra).
8. Il convient par conséquent de renvoyer la cause à l'intimée pour qu'elle examine si les autres conditions du droit aux prestations sont réalisées, au besoin après avoir interpellé les experts sur les conséquences qui se trouvent en lien de causalité naturelle et adéquate avec l'acte médical accidentel du 17 mai 1999, puis rende une nouvelle décision.
9. Dès lors que le recourant obtient gain de cause, les frais et les dépens de la présente instance seront mis à la charge de l'intimée (art. 66 al. 1 et 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis en ce sens que le jugement du 21 février 2008 du Tribunal administratif du canton de Neuchâtel ainsi que la décision sur opposition du 13 novembre 2006 de Helsana sont annulés. La cause est renvoyée à l'assureur-accidents pour qu'il rende une nouvelle décision sur le droit aux prestations du recourant conformément aux motifs.
2. Les frais de justice, arrêtés à 750 fr., sont mis à la charge de Helsana.
3. Helsana versera au recourant un montant de 2'800 fr. (y compris la taxe à la valeur ajoutée) à titre de dépens pour la procédure fédérale.
4. La cause est renvoyée au Tribunal administratif du canton de Neuchâtel pour nouvelle décision sur les dépens de la procédure antérieure.
5. Le présent arrêt est communiqué aux parties, au Tribunal administratif du canton de Neuchâtel et à l'Office fédéral de la santé publique.
Lucerne, le 31 mars 2009
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Ursprung von Zwehl