Faits:
A. Jusqu'au début de l'année 2008, X._ a travaillé dans l'Etude E._, en association avec les avocats C._, A._ et B._. Le conflit qui oppose X._ à ses anciens associés a donné lieu à plusieurs plaintes pénales et dénonciations disciplinaires, ainsi qu'à des procédures civiles ou arbitrales toujours en cours. Dans le cadre des dénonciations disciplinaires dont lui-même a été l'objet, X._ a déposé plusieurs demandes de récusation à l'encontre des membres de la Chambre de surveillance des avocats du canton du Valais (ci-après: la Chambre de surveillance) qui peuvent être résumées comme suit:
A.a Affaire D._ / 016/2008
Le 16 juin 2008, X._ a été dénoncé à la Chambre de surveillance par D._, au sujet de sa participation à la procédure d'opposition à un projet immobilier, à Nendaz. Dans le cadre de cette procédure, le Président de la Chambre de surveillance à l'époque, Me Olivier Vocat, a refusé de se récuser, parce que les membres de l'Etude E._ n'étaient ni parties, ni dénonciateurs dans cette affaire, contrairement à une autre affaire disciplinaire où il s'était récusé spontanément. La Chambre de surveillance, composée de Me Roger Pannatier et de Christophe Joris, a ensuite rejeté la requête de récusation, par décision du 1er juillet 2009.
Avisé du fait qu'en raison des modifications intervenues au sein de la Chambre de surveillance, Me Paul Carlen avait remplacé Me Vocat, X._ a, le 19 janvier 2010, requis la récusation de Me Carlen, au motif que celui-ci entretenait de longue date des rapports d'amitié avec Me C._, ainsi que celle de Me Pannatier, sollicité comme témoin par ses anciens associés dans les affaires qui l'opposaient à ces derniers. Par décision du 19 juillet 2010, Christophe Joris a rejeté les deux requêtes de récusation.
Le 10 septembre 2010, X._ a encore requis la récusation de Me Pannatier et de Me Carlen en raison de leurs liens d'amitié avec ses anciens associés, découlant notamment de l'appartenance de Me C._ à la Chambre de surveillance. Informé que ses requêtes seraient traitées par le Juge Joris, X._ a également requis la récusation de ce dernier. Le 10 novembre 2010, Christophe Joris a accepté exceptionnellement de se récuser, tout en relevant que ni sa participation antérieure à la procédure, ni son amitié avec Me B._ ne constituaient des motifs de prévention.
Le 30 novembre 2010, X._ a demandé la récusation de la Chambre de surveillance in corpore, en raison des liens de collégialité de ses membres avec Me C._.
A.b Affaire de C._, A._ et B._ / 013/2009
Le 13 novembre 2009, Me Carlen a avisé X._ de l'ouverture d'une instruction, à la suite de la dénonciation de ses anciens associés du 3 septembre 2009, en lui indiquant que la Chambre d'accusation serait composée de Me Clément Nantermod, de la Juge Patrizia Métrailler-Franzetti et de lui-même. Dans le délai imparti, X._ a requis la récusation de Me Carlen, mais ne s'est pas opposé à la suspension de la procédure jusqu'à droit connu sur le résultat de la procédure arbitrale. Cette demande de récusation a été rejetée le 20 avril 2010 par Patrizia Métrailler-Franzetti et Me Stéphane Coppey, lequel avait remplacé Me Nantermod.
A.c Affaire Chambre des tutelles / 006/2010
Le 11 février 2010, la présidente de la Chambre des tutelles du district de Sion a dénoncé X._ à la Chambre de surveillance pour avoir représenté un époux contre l'autre après avoir été le notaire du couple quelque dix ans auparavant. X._ a relevé d'emblée que le véritable dénonciateur ne pouvait être que Me B._, secrétaire de la Chambre des tutelles, puis il s'est référé à sa demande de récusation dans l'affaire D._. Le 21 octobre 2010, il a confirmé qu'il sollicitait la récusation de Mes Carlen et Pannatier.
B. Le 14 janvier 2011, la Chambre de surveillance a transmis la requête de récusation dans l'affaire D._ (016/2008) à l'Autorité cantonale de surveillance des avocats du canton du Valais (ci-après: l'Autorité cantonale de surveillance). Elle en a fait de même le 7 février 2011 pour l'affaire C._, A._ et B._ (013/2009), en précisant que Me Carlen avait accepté de se récuser volontairement à la suite d'un mandant récent. Ce dernier est d'ailleurs décédé le 8 mars 2011.
Par jugement du 16 août 2011, l'Autorité de surveillance des avocats a tout d'abord déclaré irrecevable la demande de récusation dans les causes que le recourant lui-même avait dénoncées, seul ou conjointement avec son épouse (011/2008: dénonciation contre inconnu des 28 et 29 avril 2008, classée et 012/2008: dénonciation du 5 mai 2008 et ses compléments contre les associés de l'Etude E._). Elle a ensuite pris acte de la récusation de Christophe Joris et C._ et constaté que celle visant Paul Carlen était devenue sans objet. Enfin, l'Autorité de surveillance a admis la demande de récusation contre les membres de la Chambre de surveillance en tant qu'elle concernait Géraldine Gianadda, dont les liens d'amitié avec Me B._ pouvaient objectivement semer le doute quant à son impartialité, mais l'a rejetée pour le surplus, soit en tant qu'elle concernait Roger Pannatier, Président, Patrizia Métrailler-Franzetti, Peter Zengaffinen, ainsi que Michaël Steiner et Stéphane Coppey, membres-suppléants.
C. X._ forme auprès du Tribunal fédéral un "recours", subsidiairement un "recours constitutionnel" et conclut, avec suite de frais et dépens, à l'annulation du jugement de l'Autorité cantonale de surveillance du 16 août 2011, le dossier étant renvoyé à cette autorité pour nouvelle décision dans le sens des considérants.
L'Autorité cantonale de surveillance a renoncé à se déterminer et a produit les dossiers de la cause TCV C2 11-4, ainsi que les dossiers de la Chambre de surveillance (5 classeurs gris et 1 classeur rouge). La Chambre de surveillance, ainsi que son Président Roger Pannatier, se réfèrent aux décisions prises et s'en remettent à la décision du Tribunal fédéral. Me Stéphane Coppey s'est déterminé sur le recours et conclut à son rejet. Les autres membres de la Chambre de surveillance ont renoncé à déposer une réponse.
X._ a déposé des observations finales le 24 novembre 2011, qui ont été transmises aux intimés pour information.

Considérant en droit:
1. Le litige porte sur l'existence de motifs de récusation concernant les membres de la Chambre de surveillance appelée à se prononcer sur les dénonciations dont le recourant a fait l'objet en tant qu'avocat, celui-ci ayant sollicité la récusation de l'ensemble des membres et membres-suppléants de cette autorité.
1.1 Selon l'art. 14 de la loi fédérale sur la libre circulation des avocats (LLCA; RS 935.61) chaque canton désigne une autorité de surveillance des avocats qui pratiquent la représentation en justice sur son territoire. Dans le canton du Valais, la surveillance disciplinaire des avocats est exercée par la Chambre de surveillance en première instance et par l'Autorité cantonale de surveillance, composée de trois juges cantonaux, en instance de recours (art. 13 al. 1 et 3 de la loi valaisanne du 6 février 2001 sur la profession d'avocat pratiquant la représentation en justice; Loi sur la profession d'avocat; LPAv; RS/VS 171.1).
1.2 Le jugement attaqué est donc une décision notifiée séparément et portant sur une demande de récusation susceptible d'une recours immédiat au sens de l'<ref-law>; il a été rendu par une autorité cantonale supérieure de dernière instance (art. 86 al. 1 let. d et al. 2 LTF) dans une cause de droit public (<ref-law>) qui ne tombe pas sous le coup des exceptions de l'<ref-law>. Le recours ayant en outre été déposé en temps utile (<ref-law>) et dans les formes prescrites (<ref-law>) par le destinataire de l'acte attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (<ref-law>), il est donc en principe recevable comme recours en matière de droit public; par conséquent, il n'est pas recevable comme recours constitutionnel subsidiaire (<ref-law> a contrario).
2. 2.1 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il peut cependant rectifier ou compléter d'office les faits constatés de façon manifestement inexacte ou incomplète, ce qui correspond à la notion d'arbitraire (<ref-ruling> consid. 4.3 p. 63), ou en violation du droit au sens de l'<ref-law> (cf. art. 105 al. 1 et 2 LTF), lorsque la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>). Le recourant qui entend s'en prendre aux faits ressortant de l'arrêt attaqué doit établir de manière précise la réalisation de ces conditions. A défaut, il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans l'arrêt entrepris. En particulier, le Tribunal fédéral n'entre pas en matière sur des critiques de nature appellatoires portant sur l'état de fait ou sur l'appréciation des preuves (<ref-ruling> consid. 5.1 p. 356; <ref-ruling> consid. 3 p. 104 s. et les arrêts cités). Par ailleurs, l'<ref-law> dispose qu'aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision entreprise.
2.2 Le recourant reproche à l'autorité cantonale d'avoir omis de mentionner tous les faits relatifs au conflit qui l'oppose à ses anciens associés et qui, selon lui, sont susceptibles d'avoir entraîné la prévention des membres de la Chambre de surveillance à son égard, en raison des liens de collégialité qu'ils entretiennent avec l'un des leurs, Me C._. Il énumère ainsi longuement les faits qui se sont produits depuis la fin de l'année 2007, accusant ses associés d'avoir utilisé différents moyens de pression à son encontre et de l'avoir harcelé de façon grave et répétée, ainsi que son épouse, dans le but de le pousser à quitter l'Etude E._ sans indemnité équitable. Pour cela, il se réfère aux six classeurs dont il avait demandé la production devant l'autorité intimée et qui ont également été produits devant le Tribunal fédéral.
Il faut cependant relever que l'ensemble de ces faits font l'objet d'une procédure arbitrale actuellement en cours et qu'ils ne sauraient être pris en considération, dans le cadre d'une demande de récusation de la Chambre de surveillance. Le recourant n'explique d'ailleurs pas pourquoi les faits relatifs au long conflit qui l'oppose à ses anciens associés, qui a entraîné le dépôt de plusieurs plaintes pénales et de dénonciations, seraient de nature à faire naître un motif de prévention à l'encontre des membres de la Chambre de surveillance. Il prétend uniquement que ceux-ci ne peuvent être impartiaux à son égard en raison de leur lien de collégialité avec l'un de ses anciens associés, Me C._, qui est aussi membre de la Chambre de surveillance. Ce lien général de collégialité, sans aucune constatation précise par rapport à la composition de la Chambre de surveillance dans les affaires pendantes qui concernent le recourant, n'implique toutefois pas qu'il faille prendre en compte tous les faits relatifs à d'autres procédures encore en cours ou classées (voir, par ex., arrêt 6B_627/2010 du 9 décembre 2010 portant sur le refus de donner suite à une dénonciation contre B._ pour extorsion et chantage). Quand bien même les faits que le recourant reproche à ses associés peuvent, le cas échéant, se révéler fondés, il y a lieu en effet de constater qu'ils ne sont pas pertinents pour juger du comportement des membres de la Chambre de surveillance à son égard. Le Tribunal fédéral ne voit ainsi aucun motif de s'écarter des faits retenus par l'autorité précédente qui ont trait uniquement aux circonstances ayant conduit aux dénonciations à l'encontre du recourant devant la Chambre de surveillance. L'autorité intimée pouvait donc sans arbitraire renoncer à mentionner les faits qui sortaient du cadre des dénonciations dont le recourant était l'objet et pour lesquelles il avait déposé des demandes de récusation.
2.3 Pour les mêmes motifs, l'Autorité cantonale de surveillance n'avait pas à retenir les faits ayant trait aux dénonciations que le recourant lui-même et/ou son épouse avaient déposées devant la Chambre de surveillance (causes 011/2008 et 018/2008), dès lors que la qualité de parties ne saurait leur être reconnue dans ces procédures (<ref-ruling> consid. 2 p. 471; arrêt 2C_122/2009 du 22 septembre 2009 consid. 3). Le recourant ne formule au demeurant aucun grief sur le fait que le jugement attaqué a déclaré irrecevable sa requête de récusation concernant ces causes, de sorte que, faute de motifs (cf. <ref-law>), il n'y a pas lieu d'examiner ce point).
2.4 A propos des constatations de fait retenues par l'autorité cantonale, le recourant invoque également une violation des art. 9, 29 et 29a Cst. Il n'indique toutefois pas en quoi ces constatations seraient arbitraires ou violeraient des garanties de procédure. Faute d'être motivés conformément aux exigences de l'<ref-law> et de la jurisprudence (<ref-ruling> consid. 1.4 p. 400; <ref-ruling> consid. 5.2 p. 30), les griefs tirés de la violation de ces dispositions constitutionnelles sont irrecevables en ce qui concernent les faits constatés par l'Autorité de surveillance et se confondent avec ceux portant sur le fond du litige.
3. Le recourant a sollicité la récusation de l'ensemble de la Chambre de surveillance, qui se compose de sept membres et de deux suppléants. Quatre membres et un membre suppléant sont désignés parmi les avocats inscrits au registre cantonal, trois membres et un membre suppléant sont désignés parmi les juges de première instance (art. 13 al. 2 LPAv). Il faut toutefois constater que la demande de récusation est devenue sans objet en ce qui concerne l'avocat décédé, Me Paul Carlen, le Juge Christophe Joris et l'avocat C._ qui se sont eux-mêmes récusés, ainsi que contre la Juge d'instruction Géraldine Gianadda, pour laquelle l'autorité intimée a admis la demande de récusation. Le présent litige ne concerne donc plus que le président de la Chambre de surveillance, Me Roger Pannatier, les membres Patrizia Métrailler-Franzetti, Juge de district à Sierre, Me Peter Zengaffinen, avocat à Viège, ainsi que les membres-suppléants Michaël Steiner, Juge de district à Brigue et Me Stéphane Coppey, avocat à Monthey.
3.1 D'une manière générale, les garanties de procédure découlant des art. 30 al. 1 Cst. et 6 § 1 CEDH ne sont pas applicables lorsque l'impartialité d'un membre d'une autorité non judiciaire est en cause, celle-ci devant être examinée uniquement sous l'angle de l'art. 29 al. 1 Cst. et des dispositions cantonales de procédure (arrêts 2C_36/2010 du 14 juin 2010, consid. 3.1, 8C_425/2009 du 9 décembre 2009 consid. 3 et les références citées). En principe, une autorité de surveillance des avocats compétente pour prononcer une sanction disciplinaire n'exerce pas de fonctions juridictionnelles et se rapproche d'une autorité administrative (<ref-ruling> consid. 2b p. 231). Par conséquent, les griefs du recourant ne relèvent de l'art. 30 al. 1 Cst., mais de l'art. 29 al. 1 Cst. qui garantit également au justiciable une composition correcte de l'autorité administrative qui rend la décision initiale (arrêt 2C_187/2011 du 28 juillet 2011, consid. 3.1, destiné à la publication et les références citées).
3.2 L'art. 29 al. 1 Cst. dispose que toute personne a droit, dans une procédure judiciaire ou administrative, à ce que sa cause soit traitée équitablement. Selon la jurisprudence, ce droit permet notamment d'exiger la récusation des membres d'une autorité administrative dont la situation ou le comportement sont de nature à faire naître un doute sur leur indépendance ou leur impartialité; il tend à éviter que des circonstances extérieures à l'affaire ne puissent influencer une décision en faveur ou au détriment de la personne concernée. La récusation peut s'imposer même si une prévention effective du membre de l'autorité visée n'est pas établie, car une disposition interne de sa part ne peut guère être prouvée; il suffit que les circonstances donnent l'apparence de la prévention et fassent redouter une activité partiale. Cependant, seules des circonstances constatées objectivement doivent être prises en considération; les impressions purement individuelles d'une personne impliquée ne sont pas décisives (ATF <ref-ruling> consid. 4.2 p. 21 et les arrêts cités; <ref-ruling> consid. 2b p. 198; <ref-ruling> consid. 3b p. 123; arrêt 8C_425/2009 du 9 octobre 2009 consid. 5.1). Par ailleurs, le seul fait qu'une autorité ait déjà rendu une décision défavorable au recourant ne suffit pas pour admettre un motif de prévention (<ref-ruling> consid. 1 p. 27), ni le refus de l'assistance judiciaire en raison de l'absence de chances de succès (ATF 114 Ia 50 consid. 3d p. 57; sur cette question, voir aussi <ref-ruling> consid. 1.2 et 1.3 p. 26 et 27). En revanche, la récusation sera admise dès qu'il existe une apparence objective de prévention, sans égard au fait que l'autorité concernée se sente elle-même apte à se prononcer en toute impartialité (arrêt 2C_755/2008 du 7 janvier 2009, consid. 3.2, publié in SJ 2009 I p. 233 ss).
Sur le plan cantonal, l'art. 10 al. 1 de la loi valaisanne sur la procédure et la juridiction administratives (LPJA; RS VS 172.6) prévoit que les personnes appelées à rendre ou à présenter une décision doivent se récuser notamment si elles ont un intérêt personnel dans l'affaire (let. a) ou s'il existe des circonstances de nature à faire suspecter leur impartialité (let. e). Cette disposition a donc la même portée que l'art. 29 al. 1 Cst.
3.3 L'Autorité cantonale de surveillance a retenu que seuls les liens d'amitié que Géraldine Gianadda entretenait avec Me B._, avocat de l'Etude E._ ayant qualité de dénonciateur dans l'affaire 013/2009 du 3 septembre 2009, constituaient une circonstance objectivement susceptible de semer le doute quant à son impartialité, même si l'intéressée estimait pouvoir statuer en toute indépendance. Pour le reste, les motifs généraux de collégialité invoqués n'étaient pas propres à fonder une demande de récusation; quant à la soi-disant influence de Me Vocat, ancien président de la Chambre surveillance, sur les autres membres, elle ne suffisait pas à rendre objective une quelconque prévention de cette autorité in corpore. Au contraire, le système de milice de la Chambre de surveillance, constituée d'avocats et de juges de première instance, ainsi que la composition différente dans chaque affaire, évitent toute proximité permanente de ses membres. Enfin, l'Autorité cantonale de surveillance a jugé que l'absence de suspension, que le recourant n'avait pas sollicitée formellement, ou le refus de classer, contrairement à d'autres affaires qui n'étaient au demeurant pas comparables, ne constituaient pas, même s'ils s'avéraient infondés, des erreurs suffisamment graves et répétitives justifiant la récusation.
3.4 Le recourant ne critique pas directement cette motivation, mais reproche principalement à chaque membre de la Chambre de surveillance d'être collègue et ami de Me C._, l'un de ses anciens associés également membre de cette autorité depuis plusieurs années. Cette critique générale repose toutefois sur la seule impression personnelle du recourant qui pense que toute la Chambre de surveillance est de connivence avec les avocats de l'Etude E._, membres de la Bourgeoisie sédunoise, mais elle n'est objectivement pas fondée et ne saurait constituer a priori un motif de prévention. Dans l'arrêt précité du 8 décembre 2010 (6B/2010, consid. 4), la Cour pénale du Tribunal fédéral avait aussi estimé que les réseaux sociaux faisaient partie des relations usuelles, mais de tels liens n'étaient pas suffisamment étroits pour éveiller chez un observateur objectif une apparence de prévention. Retenir comme motif de récusation la seule appartenance à une association ou à une autorité reviendrait en effet à paralyser le fonctionnement des tribunaux ou des autorités administratives.
3.5 Quant aux motifs personnels de récusation à l'encontre des membres de la Chambre de surveillance encore concernés par la demande de récusation, il faut constater que le recourant ne dit absolument rien sur l'éventuelle prévention que Patrizia Métrailler-Franzetti, Peter Zengaffinen, Michaël Steiner et Stéphane Coppey auraient pu manifester à son égard. Il n'y a donc pas lieu d'examiner plus avant la demande de récusation de ces membres de la Chambre de surveillance. En réalité les seuls griefs précis que le recourant formule concernent le président de la Chambre de surveillance, Me Roger Pannatier, auquel il reproche d'avoir été entendu comme témoin dans la procédure arbitrale et d'avoir pris des décisions partiales à son encontre dans d'autres affaires que celui-ci a eu à instruire.
Comme on l'a vu (supra consid. 3.2), le seul fait d'avoir statué de manière défavorable au recourant dans de précédentes affaires n'est pas un motif de récusation suffisant. La question de l'audition comme témoin dans la procédure arbitrale, qui présente certains liens avec la dénonciation des anciens associés du recourant à la Chambre de surveillance (cause 013/2009), puisque cette procédure a été suspendue jusqu'à droit connu sur la procédure arbitrale, est plus délicate. Devant le Tribunal fédéral, l'<ref-law> prévoit que le fait d'avoir agi dans la même cause à un autre titre, notamment comme témoin, constitue un motif de récusation, la notion de "même cause" devant être comprise largement (cf. FLORENCE AUBRY GIRARDIN, Commentaire de la LTF, n. 17 ad art. 34). Même si cette disposition n'est pas applicable s'agissant de la Chambre de surveillance, le motif évoqué peut révéler un motif objectif de prévention à prendre en compte de manière générale. L'Autorité cantonale de surveillance ne s'est pas prononcée sur le témoignage de Roger Pannatier dans la procédure arbitrale et n'a pas non plus examiné les liens que cette procédure pouvait avoir avec la cause 013/2009, suspendue devant la Chambre de surveillance. De son côté, le recourant ne dit rien sur ce témoignage et ne prétend pas que l'intéressé serait intervenu de manière à exercer une influence sur le sort de la procédure. Bien qu'il s'étende longuement sur tous les évènements à l'origine du conflit qui l'oppose à ses anciens associés, il n'explique pas davantage quels seraient précisément les liens de connexité qui permettraient d'en déduire qu'il s'agit bien d'une même cause. Or, il aurait au moins appartenu au recourant de démontrer que les déclarations de Roger Pannatier, en tant que témoin devant le Tribunal arbitral, étaient de nature à faire naître un doute sur son impartialité. Ce n'est en effet pas au Tribunal fédéral de vérifier ces questions (<ref-law>; ATF <ref-ruling> consid. 5.2 p. 30). Faute d'élément suffisant pour juger la portée du témoignage du Président de la Chambre de surveillance dans la procédure arbitrale et des liens de connexité de cette procédure avec celle pendante devant la Chambre de surveillance, le recours doit donc être également rejeté en tant qu'il concerne Roger Pannatier.
4. Il s'ensuit que le recours en matière de droit public doit être rejeté dans la mesure où il est recevable, avec suite de frais à la charge du recourant (<ref-law>).
Il n'y a pas lieu d'allouer des dépens aux intimés qui se sont déterminés devant le Tribunal fédéral, dans la mesure où ils ont agi dans le cadre de leur attribution officielle (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours, traité comme recours en matière de droit public, est rejeté dans la mesure où il est recevable.
2. Le recours est irrecevable en tant que recours constitutionnel subsidiaire.
3. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Autorité de surveillance des avocats.
Lausanne, le 22 décembre 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Rochat