Faits:
A. Par décision du 16 novembre 2009, le Juge d'instruction du Bas-Valais a refusé de donner suite à une dénonciation pénale dirigée le 11 octobre 2008 par B.X._ contre C._ pour extorsion et chantage.
Par ailleurs, par déclarations formelles des 5 juin et 8 octobre 2009, A.X._ s'était également constitué partie civile.
Les faits dénoncés par B.X._ et A.X._ sont en résumé les suivants. Dans le but d'amener son associé A.X._ à signer une convention de sortie qui lui soit défavorable, C._, avocat à Sion, l'aurait menacé verbalement de porter à la connaissance des autorités pénales le fait qu'il n'avait pas remboursé une somme de plus de 51'000 fr. de dommages et intérêts versée par erreur à double par l'Etat du Valais au terme d'une procédure civile introduite par B.X._. En outre, C._ et ses deux coassociés auraient menacé de porter l'affaire à la connaissance de l'Etat du Valais, employeur de B.X._.
B. Statuant le 30 juin 2010, la juge de l'autorité de plainte a notamment rejeté, dans la mesure où elle était recevable, la plainte formée par A.X._ contre cette décision.
C. A.X._ interjette un recours en matière pénale et un recours constitutionnel subsidiaire contre cette décision. Il conclut, principalement, dans le cadre du recours en matière pénale, avec suite de frais et dépens, à l'annulation de la décision attaquée et au renvoi de la cause à l'autorité cantonale pour qu'elle statue à nouveau. A titre principal également, mais dans le cadre du recours constitutionnel subsidiaire, il conclut, avec suite de frais et dépens, à la récusation de la juge D._ ainsi qu'à l'annulation de la décision attaquée et au renvoi de la cause à l'autorité cantonale pour qu'elle statue à nouveau.
Le recourant a ultérieurement adressé plusieurs courriers au Tribunal fédéral. Certains ne sauraient être pris en considération car ils ont été déposés après l'échéance du délai de recours. Les autres sont dénués de pertinence ou ont fait l'objet d'une réponse adressée au recourant.
Considérant en droit:
1. Le recourant forme simultanément un recours en matière pénale et un recours constitutionnel subsidiaire.
1.1 L'arrêt attaqué, qui est final, a été rendu dans une cause de droit pénal. Il peut donc faire l'objet d'un recours en matière pénale (art. 78 ss LTF), qui permet d'invoquer notamment toute violation du droit fédéral, y compris des droits constitutionnels (art. 95 let. a LTF). Par conséquent, le recours constitutionnel subsidiaire est exclu (art. 113 LTF).
1.2 Lorsque, comme en l'espèce, il ne se plaint pas d'une infraction qui l'ait directement atteint dans son intégrité physique, psychique ou sexuelle, le lésé ne bénéficie pas du statut procédural de victime, au sens des art. 1 et 37 LAVI ainsi que 81 al. 1 let. b ch. 5 LTF. Il n'a dès lors pas qualité pour recourir au fond contre le refus des autorités de poursuite ou de jugement d'exercer ou d'admettre l'action pénale (voir ATF 136 IV 41 consid. 1.7.2 p. 39 s.). À moins qu'il ne prétende qu'on lui a dénié à tort le droit de porter plainte pour une infraction qui ne se poursuit pas d'office (cf. art. 81 al. 1 let. b ch. 6 LTF) ou qu'il ne dispose d'un droit constitutionnel aux poursuites, le simple lésé, qui n'a pas la qualité de victime au sens de la LAVI, a exclusivement vocation à obtenir l'annulation d'une décision relative à la conduite de l'action pénale lorsque celle-ci a été rendue en violation de droits que la loi de procédure applicable ou le droit constitutionnel lui reconnaît comme partie à la procédure, si cette violation équivaut à un déni de justice formel (cf. ATF 133 IV 228 consid. 2 p. 229 ss; arrêt 6B_274/ 2009 du 16 février 2010 consid. 3.1 et les références). En toute autre hypothèse, le recours du lésé est, en l'état de la législation, irrecevable. Par ailleurs, le Tribunal fédéral ne sanctionne une violation de droits fondamentaux que si ce moyen est invoqué par le recourant (art. 106 al. 2 LTF). Les exigences de motivation de l'acte de recours correspondent à celles de l'art. 90 al. 1 let. b OJ (FF 2001 p. 4142), ce qui suppose que les moyens soient expressément soulevés et articulés de manière claire et détaillée dans le mémoire de recours (voir ATF 130 I 258 consid. 1.3 p. 261 s.).
2. Ainsi, le recourant n'a pas qualité pour contester la constatation des faits ou l'application de la loi pénale. Son grief tiré d'une omission arbitraire des faits est donc irrecevable. Peu importe que, dans ce contexte, le recourant évoque son droit d'être entendu. En effet, cette partie de son argumentation ne tend qu'à remettre en cause d'une manière tout-à-fait générale le refus des autorités cantonales de procéder à des investigations complémentaires, sans que le recourant montre, avec une motivation répondant aux exigences rappelées ci-dessus, quels moyens de preuve, sollicités par lui, l'autorité cantonale aurait refusé d'administrer.
3. Le recourant reproche en outre à l'autorité cantonale d'avoir arbitrairement écarté une preuve essentielle en ne prenant pas en considération l'enregistrement d'une conversation effectué par son épouse.
Le recourant note qu'il n'était pas possible de se procurer la preuve en question d'une manière conforme à la loi. Il en déduit que la licéité de l'enregistrement est ainsi donnée. Or, le recourant mentionne lui-même dans son mémoire que "en résumé, selon le Tribunal fédéral, l'utilisation de moyens de preuve recueillis irrégulièrement n'est proscrit par la Constitution que si ces preuves n'auraient pas pu être recueillies de manière légale...". C'est donc bien la conclusion contraire qui s'impose et ce moyen de preuve, qui ne pouvait pas être obtenu dans le respect des règles juridiques, doit être considéré comme illégal.
Par ailleurs, l'utilisation d'une preuve qu'il était impossible de se procurer conformément à la loi demeure inadmissible dans tous les cas, sans qu'il se justifie de procéder à une pesée des intérêts en présence (voir ATF 133 IV 329 consid. 4.4 p. 331; 131 I 272 consid. 4.1.2 p. 278 et les références citées; GÉRARD PIQUEREZ, Traité de procédure pénale suisse, 2e éd., 2006, p. 459 n° 721; JÉRÔME BÉNÉDICT, Le sort des preuves illégales dans le procès pénal, 1994, p. 91). De même, dans un tel contexte, il n'est pas possible de se prévaloir de la légitime défense ni de l'état de nécessité, le droit à la preuve ne pouvant pas être invoqué par un particulier qui produit une preuve illégale (JÉRÔME BÉNÉDICT, op.cit., p. 232 s.).
4. Le recourant soutient que la juge D._, qui a rendu la décision attaquée, ne jouissait pas de l'impartialité et de l'indépendance nécessaires pour statuer dans sa cause.
Il faut relever tout d'abord qu'il ressort tant de la motivation du mémoire que de ses conclusions que le recourant ne fait valoir le grief relatif à la récusation de la juge de l'autorité de plainte que par la voie du recours constitutionnel subsidiaire. Dans cette mesure, ce grief est donc en principe irrecevable (voir consid. 1.1 ci-dessus). Par ailleurs, il doit de toute manière être rejeté pour les motifs suivants.
La garantie d'un juge indépendant et impartial, consacrée par les art. 30 al. 1 Cst. et 6 ch. 1 CEDH, qui sur ce point ont la même portée, permet d'exiger la récusation d'un juge dont la situation ou le comportement est de nature à susciter un doute quant à son impartialité. Elle vise notamment à éviter que des circonstances extérieures à la cause ne puissent influencer le jugement en faveur ou au détriment d'une partie. Tel est notamment le cas de l'existence de liens de parenté entre un juge et une partie ou son mandataire. C'est ainsi que, par exemple, l'art. 34 al. 1 let. d LTF prévoit la récusation du juge qui est parent ou allié en ligne directe ou, jusqu'au troisième degré inclus, en ligne collatérale avec une partie ou son mandataire.
En l'espèce, le recourant reproche à la juge de l'autorité de plainte d'avoir statué alors qu'elle aurait dû se récuser au motif que le frère de celle-ci a épousé l'ex-femme de l'un des anciens associés du recourant, de sorte que les belles-filles du frère de la juge sont les filles d'un associé de l'étude avec laquelle il est en litige. Il s'agit tout d'abord d'un lien qui ne revêt pas le degré d'intensité exigé en principe pour justifier une récusation. Par ailleurs, ils concernent la juge et un associé de l'étude, qui n'est ni une partie ni le mandataire d'une partie.
En outre, un rapport de dépendance, voire des liens particuliers entre le juge et une personne intéressée à l'issue de la procédure, telle qu'une partie ou son mandataire, peuvent, selon leur nature et leur intensité, fonder un soupçon de partialité (ATF 117 Ia 170 consid. 3b p. 174; 116 Ia 135 consid. 3c p. 141 s.). Des sentiments d'inimitié marquée, ou d'amitié étroite, à l'égard d'une partie ou de son avocat peuvent, suivant les circonstances, justifier une demande de récusation pour apparence de prévention. Il y a apparence de prévention lorsque les circonstances, envisagées objectivement, font naître un doute quant à l'impartialité du juge. Seul l'aspect objectif compte. Les considérations subjectives ne sont pas pertinentes. Ainsi, une apparence de prévention ne saurait être retenue sur la base des impressions purement individuelles des parties au procès. En revanche, la récusation sera admise dès qu'il existe une apparence objective de prévention, peu importe que le juge concerné se sente lui-même apte à se prononcer en toute impartialité (voir arrêt 2C_755/2008 du 7 janvier 2009, consid. 3.2, in SJ 2009 I p. 233 consid. 3.2 et les références citées).
Le recourant invoque également l'existence de relations entre la juge et ses anciens associés. Il expose que l'un de ceux-ci est membre du même parti politique que la juge et son époux. Par ailleurs, l'associé du mari de la juge est membre de la Chambre des tutelles, dont le secrétaire est C._. Enfin, ce dernier fait partie de l'association des officiers valaisans comme le mari de la juge. Il s'agit-là d'un réseau de relations sociales tout-à-fait usuelles qui ne sont pas suffisamment étroites pour éveiller chez un observateur objectif une apparence de prévention. En retenant de tels motifs, on risquerait de compromettre le fonctionnement des tribunaux tant les cas de récusation seraient nombreux.
Pour le surplus, l'argumentation du recourant revient en substance à tenter d'établir que la juge était prévenue parce qu'elle ne s'est pas ralliée à sa version des faits. Mal fondé, ce grief doit être rejeté dans la mesure où il est recevable.
5. Vu l'issue de la procédure, les frais doivent être mis à la charge du recourant qui succombe (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière pénale est rejeté dans la mesure où il est recevable.
2. Le recours constitutionnel subsidiaire est irrecevable.
3. Les frais judiciaires, arrêtés à 2000 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et à la Juge de l'autorité de plainte du Tribunal cantonal valaisan.
Lausanne, le 9 décembre 2010
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: La Greffière:
Favre Paquier-Boinay