Faits:
A. C._ est inscrit au registre des avocats du canton de Genève. Le 9 novembre 2010, il a requis de la Commission du barreau du canton de Genève (ci-après la Commission) d'être délié du secret professionnel pour être entendu comme témoin dans une cause civile opposant D._ à B._ et A._. Le bureau de la Commission ainsi que la Commission plénière ont rejeté cette requête. Par arrêt du 11 octobre 2011, la Chambre administrative de la Cour de justice du canton de Genève (ci-après la Cour de justice) a annulé la décision de la Commission et renvoyé la cause à cette dernière pour qu'elle instruise la nature du mandat liant C._ à ses clients et détermine dans quelle mesure l'avocat était lié par un secret professionnel avant de statuer sur sa requête.
Par courrier du 29 novembre 2011, B._ et A._ ont demandé à être appelés en cause dans la procédure engagée devant la Commission. Ils faisaient valoir que C._ avait été l'avocat des trois parties à la procédure civile dans laquelle il était appelé à témoigner et qu'en tant que bénéficiaires du secret professionnel de leur avocat, ils avaient le droit d'intervenir dans la procédure engagée devant la Commission pour s'opposer à toute levée dudit secret professionnel.
Le 20 février 2012, la Commission a rejeté la requête d'appel en cause.
B. B._ et A._ ont recouru auprès de la Cour de justice contre la décision de la Commission.
Par arrêt du 8 mai 2012, la Cour de justice a rejeté le recours précité. Elle a retenu en substance que, dans une procédure en levée du secret professionnel, l'avocat sollicite d'être délié d'un secret dont il est le seul titulaire, de sorte que le client de l'avocat, même bénéficiaire du secret, n'a pas à être appelé en cause dans la procédure ouverte devant l'instance chargée de statuer.
C. Par acte du 13 juin 2012, B._ et A._ déposent un recours en matière de droit public contre l'arrêt de la Cour de justice. Ils concluent à l'annulation de l'arrêt du 8 mai 2012, et à ce qu'il soit constaté qu'ils disposent de la qualité de parties dans la procédure portant sur la levée du secret professionnel de leur ancien avocat C._, le tout sous suite de frais et dépens. Subsidiairement, ils requièrent le renvoi de la cause à la Cour de justice pour nouvelle décision dans le sens des considérants. A titre préalable enfin, ils demandent que l'effet suspensif soit octroyé à leur recours.
C._ s'en rapporte à justice sur le sort du recours. La Commission persiste dans sa décision du 20 février 2012. La Cour de justice renonce à formuler des observations.

Considérant en droit:
1. Le présent litige concerne l'intervention des recourants dans une procédure portant sur la levée du secret professionnel d'un avocat menée en application de la loi fédérale du 23 juin 2000 sur la libre circulation des avocats (LLCA; RS 935.61). Il relève donc du droit public au sens de l'<ref-law> (cf. arrêt 2C_247/2010 du 16 février 2011 consid. 1). Aucune des exceptions mentionnées à l'<ref-law> n'est en outre applicable. Dirigé contre une décision rendue par un tribunal supérieur statuant en dernière instance cantonale (art. 86 al. 1 let. d et al. 2 LTF), le recours a été déposé en temps utile (<ref-law>) et dans les formes prescrites (<ref-law>). Les recourants ont participé à la procédure devant l'instance précédente, sont particulièrement atteints par la décision entreprise et ont un intérêt digne de protection à son annulation ou à sa modification. Ils ont ainsi qualité pour recourir (cf. <ref-law>).
Selon l'<ref-law>, est une décision partielle contre laquelle le recours est recevable celle qui met fin à la procédure à l'égard d'une partie des consorts. Il faut assimiler à la mise hors de cause d'une partie tous les cas où l'on voudrait qu'une nouvelle partie soit admise à la procédure et que le juge le refuse (cf. BERNARD CORBOZ, in BERNARD CORBOZ/ALAIN WURZBURGER/PIERRE FERRARI/JEAN-MAURICE FRÉSARD/FLORENCE AUBRY GIRARDIN, Commentaire de la LTF, 2009, n° 24 ad <ref-law>). La jurisprudence considère ainsi qu'il faut qualifier de décision finale partielle au sens de l'<ref-law> celle qui refuse à une personne qui le demande la possibilité de prendre part à une procédure déjà pendante (intervention) ou qui empêche une partie d'attirer une autre personne à la procédure (dénonciation d'instance ou appel en cause) (cf. <ref-ruling> consid. 1.1 p. 381 s.; arrêt 9C_127/2012 du 22 août 2012 consid. 1). En l'occurrence, les recourants ont demandé à pouvoir intervenir à la procédure, introduite par leur ancien avocat auprès de la Commission, qui portait sur la levée du secret professionnel de leur mandataire (demande d'appel en cause au sens de l'art. 71 al. 1 de la loi genevoise sur la procédure administrative du 12 septembre 1985 [LPA/GE; RS-GE E 5 10]). L'arrêt attaqué, confirmant la décision de la Commission refusant la demande des recourants, est donc une décision finale partielle susceptible d'un recours immédiat au Tribunal fédéral en application de l'<ref-law>.
Il convient par conséquent d'entrer en matière.
2. Les recourants se plaignent d'une violation de l'<ref-law> résultant d'une mauvaise application de l'<ref-law> par les instances cantonales.
2.1 Aux termes de l'<ref-law>, la qualité de partie à la procédure devant toute autorité cantonale précédente doit être reconnue à quiconque a qualité pour recourir devant le Tribunal fédéral. Cette règle vaut devant toute autorité cantonale précédente, pas seulement devant celle qui précède immédiatement le Tribunal fédéral. Dès le premier échelon et à tous les niveaux de la procédure cantonale, les conditions pour être partie ne peuvent ainsi pas être définies de manière plus restrictive qu'elles ne le sont pour recourir devant le Tribunal fédéral (cf. Message du Conseil fédéral 01.023 concernant la révision totale de l'organisation judiciaire fédérale du 28 février 2001, FF 2001 4000, spéc. 4146; CORBOZ, op. cit., n° 8-9 ad <ref-law>).
Il convient donc d'examiner la qualité pour agir sous l'angle de la qualité pour recourir telle que définie à l'<ref-law>. S'agissant de droit fédéral, le Tribunal fédéral examine cette question librement (<ref-ruling> consid. 5 p. 149).
2.2 En vertu de l'<ref-law>, a qualité pour former un recours en matière de droit public quiconque a pris part à la procédure devant l'autorité précédente ou a été privé de la possibilité de le faire (let. a), est particulièrement atteint par la décision attaquée (let. b) et a un intérêt digne de protection à son annulation ou à sa modification (let. c).
Constitue un intérêt digne de protection au sens de l'art. 89 al. 1 let. c LTF, tout intérêt pratique ou juridique à demander la modification ou l'annulation de la décision attaquée. Il consiste donc dans l'utilité pratique que l'admission du recours apporterait au recourant, en lui évitant de subir un préjudice de nature économique, idéale, matérielle ou autre que la décision attaquée lui occasionnerait. Cet intérêt doit être direct et concret; en particulier, le recourant doit se trouver, avec la décision entreprise, dans un rapport suffisamment étroit, spécial et digne d'être pris en considération. Il doit être touché dans une mesure et avec une intensité plus grande que l'ensemble des administrés (<ref-ruling> consid. 2.1.2 p. 164).
Au regard de l'art. 89 al. 1 let. c LTF, un intérêt de fait suffit pour que la condition de l'intérêt digne de protection soit remplie. Pour que l'intéressé puisse recourir, il n'est donc pas nécessaire qu'il soit affecté dans des intérêts que la norme prétendument violée a pour but de protéger. Toutefois, le lien avec la norme invoquée ne disparaît pas totalement: le recourant ne peut en effet se prévaloir d'un intérêt digne de protection à invoquer des dispositions édictées dans l'intérêt général ou dans l'intérêt de tiers que si elles peuvent avoir une influence directe sur sa situation de fait ou de droit (cf. <ref-ruling> consid. 2.2.3 p. 33; <ref-ruling> consid. 6.2 p. 151 s.).
2.3 La procédure dans laquelle les recourants demandent à intervenir porte sur la levée du secret professionnel d'un avocat, protégé par l'<ref-law>. Selon cette disposition, l'avocat est soumis au secret professionnel pour toutes les affaires qui lui sont confiées par ses clients dans l'exercice de sa profession; cette obligation n'est pas limitée dans le temps et est applicable à l'égard des tiers; le fait d'être délié du secret professionnel n'oblige pas l'avocat à divulguer des faits qui lui ont été confiés.
La position des tiers en relation avec une procédure menée contre un avocat varie en fonction de la nature de cette dernière.
Selon la jurisprudence constante du Tribunal fédéral, la procédure de surveillance disciplinaire des avocats a pour but d'assurer l'exercice correct de la profession par les avocats et de préserver la confiance du public à leur égard et non de défendre les intérêts privés des particuliers (<ref-ruling> consid. 2 p. 471). La seule qualité de plaignant ou de dénonciateur ne donne ainsi pas le droit de recourir contre la décision prise (cf. <ref-ruling> consid. 6 p. 150 ss).
Il en va différemment de l'interdiction faite à un avocat de représenter une partie. Celui qu'une telle décision prive de la possibilité de poursuivre la défense de ses intérêts par l'avocat de son choix, ou alors contraint de voir un ancien mandataire défendre les intérêts d'une partie adverse, est touché de manière directe et dispose d'un intérêt digne de protection au sens de l'art. 89 al. 1 let. c LTF lui conférant le droit de participer à la procédure (cf. <ref-ruling> consid. 2.5 p. 166 ss).
Il convient d'examiner ce qu'il en est du client bénéficiaire du secret professionnel de l'avocat alors que ce dernier a saisi l'autorité compétente d'une demande de levée de ce secret.
2.4 En application de l'<ref-law>, l'avocat est le titulaire de son secret et il reste maître de celui-ci en toutes circonstances. L'avocat est libre de divulguer ou non des faits qui lui ont été confiés, même après avoir été délié du secret, fût-ce à sa propre initiative; ni le client ni l'autorité de surveillance ne peuvent le contraindre à témoigner (<ref-ruling> consid. 3.3 p. 303 s.). L'avocat doit toutefois obtenir le consentement de son client, bénéficiaire du secret, pour pouvoir révéler des faits couverts par le secret (cf. PASCAL MAURER/JEAN-PIERRRE GROSS, in MICHEL VALTICOS/CHRISTIAN REISER/BENOÎT CHAPPUIS (ÉD.), Commentaire romand de la loi sur les avocats, 2010, n° 383 ad <ref-law>; HANS NATER/GAUDENZ ZINDEL, in WALTER FELLMANN/GAUDENZ ZINDEL (ÉD.), Kommentar zum Anwaltsgesetz, 2011, n° 133 ad <ref-law>). En cas de pluralité de mandants, chacun d'eux doit donner son accord (cf. FRANÇOIS BOHNET/VINCENT MARTENET, Droit de la profession d'avocat, 2009, n° 1909). Lorsque l'accord du client ne peut pas être obtenu, l'avocat peut s'adresser à l'autorité compétente en vue d'obtenir la levée du secret professionnel (cf. MAURER/GROSS, op. cit., n° 391 ad <ref-law>; NATER/ZINDEL, op. cit., n° 133 ad <ref-law>). Une procédure de levée du secret professionnel de l'avocat ne saurait par conséquent avoir lieu que dans la mesure où le client s'oppose à la levée de ce secret ou n'est plus en mesure de donner son consentement (cf. MAURER/GROSS, op. cit., n° 391; NATER/ZINDEL, op. cit., n° 133 ad <ref-law>). Seul l'avocat dépositaire du secret peut saisir l'autorité compétente pour en être délié, à l'exclusion de tout tiers, même intéressé, qu'il s'agisse du client, d'une autorité judiciaire ou d'un autre avocat (cf. MAURER/GROSS, op. cit., n° 398 ad <ref-law>; BOHNET/MARTENET, op. cit., n° 1913; KASPAR SCHILLER, Schweizerisches Anwaltsrecht, 2009, n° 622; WALTER FELLMANN, Anwaltsrecht, 2010, n° 521; LELIO VIELI, Der Anwalt als Partei im Zivilrecht, 1994, p. 51).
2.5 Le secret professionnel de l'avocat assure l'indépendance de l'avocat face aux tiers et protège l'exercice de la profession, ce qui est dans l'intérêt de l'administration de la justice (cf. BOHNET/MARTENET, op. cit., n° 1807; MAURER/GROSS, op. cit., n° 71 ad <ref-law>; FELLMANN, op. cit., n° 458; SCHILLER, op. cit., n° 386).
Le secret professionnel de l'avocat préserve cependant également les droits du justiciable qui doit pouvoir compter sur la discrétion de son mandataire (cf. BOHNET/MARTENET, op. cit., n° 1805; MAURER/GROSS, op. cit., n° 71 ad <ref-law>; FELLMANN, op. cit., n° 456; SCHILLER, op. cit., n° 384). Le secret professionnel est ainsi essentiel à la consécration effective des droits matériels du justiciable (cf. BOHNET/MARTENET, loc. cit.). Sur le plan du droit privé, la levée du secret professionnel de l'avocat concerne la sphère privée du mandant et touche ses droits strictement personnels (cf. <ref-ruling> consid. 3.2 p. 303; <ref-ruling> consid. 2 p. 203 ss; arrêt 2P.77/1994 du 23 décembre 1994 consid. 2b).
Par conséquent, au regard de l'art. 89 al. 1 let. c LTF, les clients d'un avocat ont un intérêt juridique digne de protection à se prémunir contre toute levée du secret professionnel de leur mandataire. Ils sont donc directement affectés dans des intérêts que l'<ref-law> a pour but de protéger. Dans la procédure relative à la levée du secret professionnel de l'avocat, les clients de ce dernier remplissent par conséquent les conditions de l'<ref-law> pour former un recours. La qualité de partie à tous les stades de la procédure cantonale ne saurait donc leur être déniée sans violer l'<ref-law>. Dans un arrêt de 1994 rendu en relation avec le secret professionnel d'un médecin, le Tribunal fédéral était du reste déjà parvenu à la même conclusion. Il avait ainsi noté que la qualité de partie devait être reconnue au client dans la procédure cantonale, afin de lui permettre de faire valoir devant l'autorité de surveillance les raisons pour lesquelles, à son avis, ses intérêts prépondérants s'opposaient à la levée du secret de son médecin (cf. arrêt 2P.77/1994 du 23 décembre 1994 consid. 2b).
En conclusion, dès lors que le client s'oppose à la levée du secret professionnel, il bénéficie dans tous les cas de la qualité de partie dans la procédure concernant cet objet, étant précisé que si le client donne son accord, il n'est en principe pas nécessaire de saisir l'autorité (cf. supra consid. 2.4).
2.6 En l'espèce, les recourants sont les anciens clients de l'avocat qui a demandé à être libéré de son secret professionnel en lien avec ce mandat. Ils ont sollicité le droit d'intervenir à la procédure de levée du secret devant la Commission, en vue de défendre leurs intérêts, ce qui leur a été refusé.
En application de ce qui précède, force est de conclure que les autorités cantonales compétentes devaient faire droit à la requête des recourants afin de leur permettre de faire valoir leur point de vue dans la procédure. En refusant leur demande d'appel en cause au sens de l'art. 71 al. 1 LPA/GE dans la procédure relative à la levée du secret professionnel de leur ancien avocat, ce qui leur aurait permis de bénéficier des droits conférés aux parties (cf. art. 71 al. 2 LPA/GE), l'instance cantonale a par conséquent mal appliqué les art. 111 al. 1 et 89 al. 1 LTF, ce qui entraîne l'admission du recours.
3. Les arguments de l'instance précédente sont dépourvus de fondement.
3.1 Selon la Cour de justice, l'avocat délié du secret conserve la liberté de ne pas témoigner, ce qui démontrerait qu'il n'y a pas lieu d'entendre le client dans la procédure relative à la levée du secret. Cet argument ne saurait être suivi. La procédure de levée du secret professionnel a en effet pour objet d'effectuer la pesée des intérêts entre celui de l'avocat à être délié du secret et celui du client qui entend continuer à en bénéficier (cf. MAURER/GROSS, op. cit., n° 405 ss ad <ref-law>; BOHNET/MARTENET, op. cit., n° 1914; FELLMANN, op. cit., n° 524; NATER/ZINDEL, op. cit., n° 137 ad <ref-law>; JEAN-PIERRE GROSS, Le secret professionnel de l'avocat, in MARCO FRIGERIO/JEAN-PIERRE GROSS/RICCARDO RONDI/CHRISTIAN FAVRE, Il segreto professionale dell'avvocato e del notaio, 2003, p. 16). En outre, l'avocat qui sollicite la levée du secret a, par définition, le souhait d'en être libéré pour pouvoir apporter son témoignage dans une procédure, car sinon il s'abstiendrait de saisir l'autorité contre la volonté de son client. On rappellera dans ce contexte que seul l'avocat dépositaire du secret peut saisir l'autorité compétente pour en être délié, à l'exclusion de tout tiers, même d'une autorité judiciaire (cf. supra consid. 2.4). Cela suffit pour admettre que le client a un intérêt à faire entendre son point de vue.
3.2 L'instance précédente relève par ailleurs que l'appel en cause et la qualité de partie qui en découle entraîne en particulier la possibilité d'avoir accès au dossier, ce qui permettrait à des personnes, qu'elles soient bénéficiaires ou non du secret professionnel de l'avocat, d'obtenir des informations auxquelles elles n'auraient pas droit normalement. Contrairement à ce qu'à retenu la Cour de justice, il ne s'agit pas là d'un élément qui imposerait une solution différente. En effet, la qualité de partie ne revient qu'au bénéficiaire du secret professionnel de l'avocat et non à n'importe quel tiers. Le risque que les clients de l'avocat puissent, grâce à cet accès au dossier, obtenir des informations auxquelles ils n'auraient pas droit normalement, est ainsi minime. Les renseignements confidentiels qui pourraient y être contenus sont en principe liés au mandat qu'ils avaient confié à leur avocat et font par conséquent partie du secret dont ils sont bénéficiaires. Il s'agit donc en général d'informations qui leur sont connues. Il ne saurait non plus y avoir violation du secret professionnel de l'avocat puisque celui-ci ne devra dévoiler le contenu du secret qu'à l'autorité de surveillance et à son client, ce qui n'est pas constitutif d'une violation (cf. SCHILLER, op. cit., n° 517; FELLMANN, op. cit., n° 522; TESTA, op. cit., p. 150). Au demeurant, en cas de besoin, le droit de consulter le dossier peut être limité si l'intérêt public ou des intérêts privés prépondérants l'exigent (cf. art. 45 LPA/GE).
4. Au vu de ce qui précède, il y a lieu d'admettre le recours et d'annuler l'arrêt de la Cour de justice du 8 mai 2012. La cause sera renvoyée à la Commission pour qu'elle donne suite à la requête présentée par les recourants et leur permette ainsi d'exercer les droits qui sont conférés aux parties. Compte tenu de l'issue de la procédure, la requête d'effet suspensif est devenue sans objet.
Il ne sera pas perçu de frais judiciaires (<ref-law>). L'intimé, qui s'en est remis à justice sur le sort du recours, ne doit supporter ni frais ni dépens (cf. art. 66 al. 1 et 68 al. 1 LTF a contrario).
La Commission est l'autorité de surveillance instituée par le canton de Genève en application de l'<ref-law> (cf. art. 14 de la loi genevoise sur la profession d'avocat du 26 avril 2002 [LPav; RS-GE E 6 10]). Elle a par conséquent un statut qui peut être assimilé à celui d'un organe du canton de Genève, à l'instar des autres administrations cantonales qui rendent des décisions. C'est donc le canton de Genève qui versera aux recourants, créanciers solidaires, une indemnité à titre de dépens (art. 68 al. 1LTF).
Enfin, le Tribunal fédéral ne fera pas usage de la faculté prévue aux art. 67 et 68 al. 5 LTF et renverra la cause à l'autorité précédente pour qu'elle statue sur les frais et dépens de la procédure accomplie devant elle.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis. L'arrêt de la Cour de justice du 8 mai 2012 est annulé. La cause est renvoyée à la Commission du barreau du canton de Genève pour qu'elle statue dans le sens des considérants.
2. L'affaire est renvoyée à la Cour de Justice afin qu'elle fixe à nouveau les frais et dépens de la procédure suivie devant elle.
3. Il n'est pas perçu de frais judiciaires.
4. Le canton de Genève versera aux recourants, créanciers solidaires, une indemnité de CHF 2'000.- à titre de dépens.
5. Le présent arrêt est communiqué aux parties, à la Commission du Barreau du canton de Genève et à la Cour de justice de la République et canton de Genève, Chambre administrative.
Lausanne, le 24 octobre 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Beti