Faits:
A. Le 2 octobre 2007, A._ a déposé une plainte pénale contre inconnu pour lésions corporelles graves par négligence. Après une opération de la hanche réalisée le 13 juin 2006 par les docteurs B._, D._ et C._, une perte de sensibilité de la cuisse droite, puis une hypotrophie musculaire avaient été constatées. Au terme d'examens passés aux mois de mars et décembre 2008, il apparaissait que le nerf fémoral ne fonctionnait plus correctement, probablement en raison d'une lésion occasionnée par un écarteur posé lors de l'opération.
B. Par ordonnance du 22 février 2011, le Procureur de l'arrondissement de Lausanne a classé la procédure pénale, considérant que les médecins n'avaient violé ni leur devoir d'information ni les règles de l'art médical. Selon un rapport d'expertise du 13 janvier 2009, le patient avait été informé de certaines complications possibles. La lésion du nerf pouvait survenir sans incident opératoire. La trop grande extension de l'écarteur n'était qu'une supposition, l'utilisation d'un tel instrument engendrant toujours des lésions. Une lésion du nerf fémoral pouvait très rarement survenir, mais ce risque n'était pas suffisamment connu à l'époque de l'intervention.
C. Par arrêt du 28 avril 2011, la Chambre des recours pénale du Tribunal cantonal vaudois a confirmé l'ordonnance de classement. Lors d'une précédente opération de la hanche en 2005, A._ avait déjà reçu une première série d'informations. Avant la seconde opération, le Dr B._ l'avait informé du risque d'une lésion du nerf ou d'un vaisseau sanguin empêchant les muscles de la jambe de fonctionner normalement. Le risque de lésion du nerf fémoral n'était pas connu à l'époque de l'opération. Compte tenu de la faiblesse de ce risque, l'information donnée au patient était suffisante. L'opération avait été effectuée dans les règles de l'art et la lésion du nerf fémoral faisait partie des complications possibles, sans qu'il y ait nécessairement faute médicale.
D. Par acte du 24 juin 2011, A._ forme un recours en matière pénale par lequel il demande l'annulation de l'arrêt cantonal et le renvoi de la cause au Ministère public pour que celui-ci complète l'instruction et engage l'accusation contre les Dr B._ et C._.
La Chambre des recours pénale se réfère à son arrêt. Le Ministère public conclut au rejet du recours. C._ et B._ concluent au rejet du recours dans la mesure où il est recevable. Le recourant a formulé des observations complémentaires.
Considérant en droit:
1. La décision attaquée confirme le classement de la procédure pénale prononcé par le Ministère public. Il s'agit d'une décision rendue en matière pénale au sens de l'art. 78 LTF. L'arrêt attaqué a un caractère final (art. 90 LTF) et émane de l'autorité cantonale de dernière instance (art. 80 LTF). Le recourant a agi en temps utile (art. 100 al. 1 LTF).
1.1 Selon l'art. 81 al. 1 let. a et b ch. 5 LTF, la partie plaignante qui a participé à la procédure de dernière instance cantonale est habilitée à recourir au Tribunal fédéral, si la décision attaquée peut avoir des effets sur le jugement de ses prétentions civiles. Constituent de telles prétentions celles qui sont fondées sur le droit civil et doivent en conséquence être déduites ordinairement devant les tribunaux civils. Il s'agit principalement des prétentions en réparation du dommage et du tort moral au sens des art. 41 ss CO. Selon l'art. 42 al. 1 LTF, il incombe notamment au recourant d'alléguer les faits qu'il considère comme propres à fonder sa qualité pour recourir lorsque ces faits ne ressortent pas à l'évidence de la décision attaquée ou du dossier de la cause (cf. ATF 133 II 353 consid. 1 p. 356, 249 consid. 1.1 p. 251).
1.2 Lorsque, comme en l'espèce, le recours est dirigé contre une décision de classement de l'action pénale, il n'est pas nécessaire que la partie plaignante ait déjà pris des conclusions civiles (ATF 137 IV 246 consid. 1.3.1). En revanche, elle doit expliquer dans son mémoire quelles prétentions civiles elle entend faire valoir contre l'intimé à moins que, compte tenu notamment de la nature de l'infraction alléguée, l'on puisse déduire directement et sans ambiguïté quelles prétentions civiles pourraient être élevées et en quoi la décision attaquée pourrait influencer négativement leur jugement (ATF 137 IV 219 consid. 2.4 p. 222 et les arrêts cités).
1.3 En l'occurrence, le recourant ne s'exprime pas sur cette question et ne donne aucune indication chiffrée sur le dommage qu'il aurait subi et les prétentions civiles qu'il entendrait élever. Le recourant méconnaît également que, l'intervention n'ayant probablement pas eu lieu dans une clinique privée, la relation avec les médecins ainsi que la responsabilité de ceux-ci sont soumises au droit public (cf. ATF 128 IV 188; arrêt 6B_869/2010 du 16 septembre 2011). La question des prétentions civiles, et dès lors de la recevabilité du recours, peut néanmoins demeurer indécise compte tenu de l'issue de la cause sur le fond.
2. Le recourant se plaint d'arbitraire dans l'établissement des faits. Il reproche à la cour cantonale d'avoir retenu qu'il avait de bonnes chances de récupérer l'usage de sa jambe, et qu'il souffrirait d'une insuffisance musculaire plutôt que d'une paralysie, alors que plusieurs médecins auraient posé un diagnostic de paralysie non évolutive.
2.1 En matière d'appréciation des preuves et d'établissement des faits, il y a arbitraire (pour une définition de l'arbitraire, cf. ATF 137 I 1 consid. 2.4 p. 5; 134 I 263 consid. 3.1 p. 265 s.) lorsque l'autorité n'a manifestement pas compris le sens et la portée d'un moyen de preuve, si elle ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision ou lorsqu'elle tire des constatations insoutenables des éléments recueillis (ATF 129 I 8 consid. 2.1 p. 9; 127 I 38 consid. 2a p. 41). Selon l'art. 97 al. 1 LTF, la correction du vice doit en outre être susceptible d'influer sur le sort de la cause.
2.2 En l'occurrence, le classement de la plainte pénale et sa confirmation en instance cantonale ne repose pas sur des considérations relatives aux chances d'amélioration de l'état du recourant. Il est fondé d'une part sur l'information qui a été donnée au patient à propos des risques encourus, et d'autre part sur l'absence d'erreur médicale lors de l'opération. Les faits évoqués par le recourant sont donc sans pertinence sur l'issue de la cause, et le grief doit être écarté.
3. Le recourant se plaint ensuite d'une application arbitraire de l'art. 21 de la loi vaudoise sur la santé publique (LSP; RS/VD 800.01), disposition selon laquelle chaque patient doit être informé notamment sur les conséquences et les risques prévisibles qu'implique le traitement envisagé. Le Dr B._ aurait reconnu n'avoir jamais évoqué la possibilité d'une paralysie de la jambe; l'évocation d'une lésion vasculo-nerveuse ne serait pas suffisamment précise.
3.1 L'arrêt attaqué rappelle le devoir d'information du médecin, découlant non seulement de la disposition cantonale précitée mais aussi du droit à l'intégrité corporelle du patient. Le consentement éclairé de ce dernier constitue un fait justificatif propre à supprimer l'illicéité de l'atteinte portée à son intégrité (ATF 133 III 121 consid. 4.1.1 p. 128 s.; 124 IV 258 consid. 2 p. 260 s.). Il suppose que le patient ait reçu du médecin, en termes clairs, intelligibles et aussi complets que possible, une information sur le diagnostic, la thérapie, le pronostic, les alternatives au traitement proposé, les risques de l'opération, les chances de guérison, éventuellement sur l'évolution spontanée de la maladie et les questions financières, notamment relatives à l'assurance (ATF 134 II 235 consid. 4 p. 237; 133 III 121 consid. 4.1.2 p. 129). Le recourant ne prétend pas que la disposition cantonale qu'il invoque poserait des exigences accrues en matière d'information au patient.
3.2 La cour cantonale a retenu que la lésion du nerf fémoral lors d'une opération de la hanche est une complication très rare, d'une fréquence de l'ordre de 1%. Cette appréciation est fondée sur les explications de l'expert (notamment dans le rapport complémentaire du 11 janvier 2010) et des différents médecins entendus durant l'instruction. Contrairement à ce que soutient le recourant, cela n'est pas incompatible avec l'affirmation selon laquelle la pose d'un écarteur durant l'opération cause "en principe toujours des lésions". L'expert a en effet évoqué de manière générale des lésions dues à l'extension des tissus, mais n'a pas mentionné de lésions systématiques ou fréquentes du nerf fémoral. L'arrêt attaqué retient également, sur la base du rapport d'expertise complémentaire, que le risque n'était pas clairement reconnu à l'époque de l'opération, et n'aurait fait l'objet de publications qu'à partir de 2009.
Dans ces conditions, il n'y a pas d'arbitraire à retenir que le risque n'était pas suffisamment connu au moment de l'intervention, et qu'il était en outre trop faible pour faire l'objet d'une information spécifique (cf. ATF 133 III 121 consid. 4.2 concernant le risque de lésion du nerf crural lors de la pose d'une prothèse de la hanche). La cour cantonale a également considéré que même s'il avait été informé spécifiquement du risque de paralysie, le recourant aurait tout de même consenti à l'opération puisque la précédente s'était bien déroulée et qu'il souffrait tellement de la hanche qu'il désirait être opéré le plus rapidement possible. La jurisprudence permet en effet de reconnaître un consentement hypothétique lorsque le patient ne fait pas valoir de motifs personnels qui l'auraient conduit à refuser l'opération, s'il en avait connu les risques (ATF 133 III 121 consid. 4.1.3 p. 130). En l'occurrence, le recourant ne conteste nullement les considérations précitées de la cour cantonale (précédente opération, situation d'urgence), qui permettent de retenir un consentement hypothétique.
Les griefs du recourant relatifs au devoir d'information doivent par conséquent être écartés.
4. Le recourant soutient ensuite que la cour cantonale aurait violé les art. 125 al. 2 et 12 al. 3 CP en ne retenant pas l'existence d'une erreur médicale. Il ressortirait du dossier que la lésion est due à une "trop grande extension" de l'écarteur, causant un étirement du nerf. Il ne s'agirait donc pas d'une complication mais d'un geste technique mal exécuté, de sorte que le médecin aurait violé son devoir de diligence. Dans un grief distinct, mais qu'il convient de traiter simultanément, le recourant invoque le principe "in dubio pro duriore" concrétisé à l'art. 324 al. 1 CPP. La culpabilité des médecins ne pouvant être écartée de façon certaine, la cause devrait être renvoyée devant un tribunal.
4.1 Le principe "in dubio pro duriore" ne figure pas expressément dans la loi. Il se déduit toutefois indirectement des art. 324 al. 1 et 319 al. 1 CPP (ATF 137 IV 219 consid. 7 p. 226). Il signifie qu'un classement de la procédure pénale par le ministère public n'est possible que lorsqu'il apparaît clairement qu'une condamnation ne pourra pas être prononcée. En cas de doute sur ce point, la procédure pénale doit se poursuivre, même lorsque la possibilité d'un acquittement apparaît plus vraisemblable que celle d'une condamnation (ATF 137 IV 219 consid. 7.1 p. 226). Lorsque, pour déterminer s'il y a lésions corporelles par négligence, il apparaît nécessaire de compléter l'état de fait de manière détaillée et de résoudre des questions juridiques compliquées, un classement au sens de l'art. 310 CPP ne se justifie pas (arrêt 1B_365/2011 du 30 septembre 2011, destiné à la publication, consid. 2.5).
4.2 En l'occurrence, il n'est pas contesté que la cause la plus vraisemblable de la lésion du nerf fémoral est une pression occasionnée par l'usage d'un écarteur chirurgical. La probabilité d'une section du nerf a été écartée. Les experts ont également exclu un mauvais placement ou un glissement de l'instrument au cours de l'intervention. L'utilisation d'un écarteur - dont la fonction est d'écarter les tissus de la zone à opérer - cause par principe toujours des lésions; lorsque l'expert considère que la lésion serait due à une trop grande extension de l'écarteur, il a simplement voulu expliquer que la pression occasionnée pouvait être responsable de la lésion, sans pour autant qu'il y ait violation des règles de l'art. Cela résulte clairement du rapport du 13 janvier 2009, dans lequel l'expert conclut, après examen du rapport d'opération et audition des participants, que l'écarteur avait été mis en place de manière correcte. Dans son rapport complémentaire, l'expert précise plus clairement encore qu'il n'existe pas de critère permettant de déterminer objectivement lors de l'intervention si l'extension de l'écarteur est trop grande, et qu'on ne peut que le constater après coup, en cas de lésion détectée dans la phase postopératoire. Il en résulte que la lésion subie par le recourant n'est pas le résultat d'une erreur médicale, mais d'une complication constituant un risque inhérent à l'opération.
Le dossier ne contient pas d'élément permettant de parvenir à une conclusion différente et le recourant ne prétend pas que des mesures d'instruction supplémentaires pourraient remettre en cause le bien-fondé de la décision de classement. Celle-ci ne viole dès lors pas le principe "in dubio pro duriore".
5. Le recours doit par conséquent être rejeté, aux frais du recourant (art. 66 al. 1 LTF). Conformément à l'art. 68 al. 2 LTF, une indemnité de dépens est allouée aux intimés qui obtiennent gain de cause avec l'assistance d'un avocat.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté, dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Les indemnités de dépens suivantes sont mises à la charge du recourant:
- 2'000 fr. en faveur de B._;
- 2'000 fr. en faveur de C._.
4. Le présent arrêt est communiqué aux mandataires des parties, au Ministère public de l'arrondissement de Lausanne et au Tribunal cantonal du canton de Vaud, Chambre des recours pénale.
Lausanne, le 24 novembre 2011
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Juge présidant: Aemisegger
Le Greffier: Kurz