Faits :
A.
A._ est inscrit au registre des avocats du canton de Genève depuis 1978. Le 9 novembre 2010, il a requis de la Commission du barreau du canton de Genève (ci-après la Commission du barreau) d'être délié du secret professionnel pour être entendu comme témoin dans une cause civile opposant B._ à Y._ et X._. Le bureau de la Commission ainsi que la Commission plénière ont rejeté cette requête. Par arrêt du 11 octobre 2011, la Chambre administrative de la Cour de justice du canton de Genève (ci-après la Cour de justice) a annulé la décision de la Commission du barreau et renvoyé la cause à cette dernière pour qu'elle instruise la nature du mandat liant A._ à ses clients et détermine dans quelle mesure l'avocat était lié par un secret professionnel avant de statuer sur sa requête.
Par courrier du 29 novembre 2011, Y._ et X._ ont demandé à être appelés en cause dans la procédure engagée devant la Commission du barreau. Le 20 février 2012, la Commission du barreau a rejeté la requête d'appel en cause. Le 8 mai 2012, la Cour de justice a rejeté le recours formé contre cette décision par Y._ et X._. Le 24 octobre 2012, le Tribunal fédéral a annulé l'arrêt de la Cour de justice et renvoyé la cause à la Commission du barreau pour qu'elle donne suite à la requête d'appel en cause (arrêt 2C_587/2012 du 24 octobre 2012), ce que la Commission du barreau a fait.
B.
Par décision du 11 mars 2013, la Commission du barreau a refusé de délier A._ de son secret professionnel. Elle a retenu qu'il était établi que les trois personnes concernées avaient donné mandat à A._ et, selon ce que ce dernier admettait dans ses courriers du 11 septembre 2007 et 15 mai 2008, qu'il avait dispensé à ses trois clients des conseils, rédigé un acte pour eux et était devenu dépositaire de documents. A l'exception de ce dernier aspect, son comportement relevait de l'activité professionnelle typique d'avocat, couverte par le secret professionnel.
A._ a recouru auprès de la Cour de justice contre la décision de la Commission du barreau.
Par arrêt du 25 mars 2014, la Cour de justice a admis le recours précité et annulé la décision de la Commission du barreau du 11 mars 2013, en constatant que A._ n'était pas lié par le secret professionnel à X._ et Y._. Elle a retenu en substance que l'activité déployée par A._ dans le cadre du mandat en question sortait du cadre strict de son activité d'avocat et n'était dès lors pas couverte par le secret professionnel.
C.
Par acte du 15 mai 2014, Y._ et X._ déposent un recours en matière de droit public auprès du Tribunal fédéral contre l'arrêt de la Cour de justice du 25 mars 2014. Ils concluent à son annulation et à ce que le refus de délier A._ de son secret professionnel prononcé par la Commission du barreau le 11 mars 2013 soit confirmé, le tout sous suite de frais et dépens. Subsidiairement, ils requièrent le renvoi de la cause à la Cour de justice pour nouvelle décision dans le sens des considérants. A titre préalable enfin, ils demandent que l'effet suspensif soit octroyé à leur recours.
Dans sa réponse du 20 juin 2014, A._ persiste dans ses conclusions. La Commission du barreau s'en rapporte à justice, alors que la Cour de justice renonce à formuler des observations et persiste dans les considérants et le dispositif de son arrêt.
Par ordonnance du 24 juin 2014, le Président de la IIe Cour de droit public du Tribunal fédéral a accordé l'effet suspensif au recours.

Considérant en droit :
1.
1.1. Le présent litige concerne la levée du secret professionnel d'un avocat en application de la loi fédérale du 23 juin 2000 sur la libre circulation des avocats (LLCA; RS 935.61). Il relève donc du droit public au sens de l'<ref-law> (cf. arrêts 2C_587/2012 du 24 octobre 2012 consid. 1 et 2C_247/2010 du 16 février 2011 consid. 1). Aucune des exceptions mentionnées à l'<ref-law> n'est en outre applicable, de sorte que la voie du recours en matière de droit public est ouverte.
1.2. Dirigé contre une décision finale (<ref-law>) rendue par un tribunal supérieur statuant en dernière instance cantonale (art. 86 al. 1 let. d et al. 2 LTF), le recours a été déposé en temps utile, compte tenu des féries (art. 46 al. 1 let. a et art. 100 al. 1 LTF) et dans les formes prescrites (<ref-law>). Les recourants ont participé à la procédure devant l'instance précédente, sont particulièrement atteints par la décision entreprise et ont un intérêt digne de protection à son annulation ou à sa modification. Ils ont ainsi qualité pour recourir (cf. <ref-law>). Il convient par conséquent d'entrer en matière.
2.
Le Tribunal fédéral applique le droit d'office (<ref-law>). Il fonde sa décision sur les faits constatés par la juridiction précédente (<ref-law>), à moins que le recourant ne démontre que ces faits ont été établis de façon manifestement inexacte, c'est-à-dire arbitrairement au sens de l'art. 9 Cst. (<ref-ruling> consid. 1.2 p. 278; <ref-ruling> consid. 1.5 p. 129 s.), ou en violation du droit au sens de l'<ref-law> (<ref-law>). Les faits nouveaux sont irrecevables (<ref-law>).
3.
Les recourants se plaignent d'un établissement manifestement inexact des faits au sens de l'<ref-law>. Les critiques concernent la nature de l'activité déployée par l'intimé dans le cadre du mandat commun reçu par B._, Y._ et X._.
3.1. La critique tirée de l'<ref-law> revient à se demander si, en admettant que l'intimé n'avait pas déployé d'activité propre à un avocat à l'égard des recourants, la Cour de justice est tombée dans l'arbitraire (cf. supra consid. 2). S'agissant de l'appréciation des preuves et des constatations de fait, il y a arbitraire lorsque l'autorité ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (<ref-ruling> consid. 2.3 p. 266 et 129 I 8 consid. 2.1 p. 9).
3.2. En ce qui concerne les prestations fournies par A._, la Cour de justice constate ce qui suit:
"En l'espèce, les activités déployées par le recourant, telles qu'elles ressortent des déclarations des parties, sont celles de dépositaire des certificats d'actions, du registre d'actions ainsi que de la convention. A cela s'ajoute, dans une mesure qui n'est pas clairement établie, celle de rédaction de la convention voire celle de conseil, en amont de la signature de ladite convention".
- ..]
"S'agissant de l'activité de conseil juridique, les intimés ne parviennent pas à établir de façon convaincante qu'ils en auraient bénéficié de la part du recourant. En outre, il convient de souligner que les intérêts des intimés s'avéraient de fait divergents de ceux de leur débiteur, et qu'il n'est dès lors guère plausible qu'ils aient cherché à être conseillés par l'avocat de celui-ci. [...] il découle de leurs déclarations que l'activité de conseil et/ou de rédaction d'un document formalisant la garantie recherchée par M. B._, ne l'a été qu'au profit de ce dernier, déjà client du recourant".
3.3. D'après les recourants, il est manifestement inexact de retenir que le mandat donné à l'intimé se limitait à la conservation des documents remis et à la restitution de ceux-ci à la demande conjointe des mandants. Son mandat était plus large et comprenait une activité de conseil juridique en amont de la signature de la convention.
3.3.1. Les recourants se fondent en premier lieu sur une lettre du 15 mai 2008 adressée à B._ par A._ et produite par ce dernier dans le cadre de son recours du 24 avril 2013 auprès de la Cour de justice, dont ils reprochent aux juges cantonaux de n'avoir pas tenu compte. Dans ce document, l'avocat expose ce qui suit:
"1. Je vous ai rencontré le 30 mars 2000 en mon Etude, en compagnie de Monsieur X._. Je ne me souviens pas si Monsieur Y._ était également présent. Lors de cet entretien, il m'a été expliqué que C._ avait été récemment créée et que son actionnariat était constitué comme suit:
- X._: 45% du capital actions
- Y._: 35% du capital actions
- B._: 20% du capital actions
2. Mon attention fut attirée sur le fait que personne, hormis les trois véritables actionnaires, ne devait connaître votre participation au capital social. [...]
4. J'ai été informé du fait que vous étiez tous les trois bons amis depuis longtemps. Malgré la confiance que vous aviez les uns dans les autres à ce titre, vous désiriez néanmoins, pour le bon ordre du dossier, adopter un système qui permettrait à chacun de n'avoir aucune surprise quant aux décisions à prendre, notamment lors des assemblées générales. Toutes vos décisions sociales importantes devaient être unanimes.
5. J'ai alors suggéré la procédure suivante:
- rédaction d'une convention de dépôt-séquestre
- dépôt des certificats d'actions en mes mains
- instructions conjointes des trois actionnaires au séquestre amiable
- dépôt du registre d'actions en mes mains
6. Le 3 avril 2000, j'adressais à Monsieur X._ [...] le modèle de la convention de dépôt-séquestre dont nous avions discuté lors de notre entretien du 30 mars 2000. J'avais proposé qu'elle ne soit établie qu'en un seul exemplaire signé en mon Etude par les trois participants. J'invitais également Monsieur X._ à faire établir les certificats d'actions dont je devais être le dépositaire.
7. Dans les jours qui ont suivi, cette convention de dépôt-séquestre fut, comme convenu, signée en un seul exemplaire à mon Etude. Je l'ai reçue en dépôt avec pour instructions de n'agir que sur instructions conjointes des trois véritables actionnaires.
8. Une convention d'actionnaires, datée du 28 avril 2000, fut également signée par Monsieur X._ et Monsieur Y._. Selon cette convention d'actionnaires, que je signais afin de vérifier le respect des articles 5 et 6 de la convention, j'avais pour mission officielle de m'assurer de l'exercice des modalités du droit d'emption entre les actionnaires. En réalité, c'est évidemment pour assurer la règle de l'unanimité entre les trois actionnaires que je contresignais cette convention d'actionnaires, qui prévoyait le pourcentage "officiel" de 56 et 44%, dont nous savons qu'il ne correspondait pas à la réalité."
Cette lettre est mentionnée dans la partie en fait de l'arrêt attaqué. Toutefois, dans la partie en droit, il en est fait abstraction. Il s'agit pourtant d'un élément de preuve déterminant. Celui-ci démontre clairement que l'avocat a effectué une activité de conseil en proposant une solution dans l'intérêt commun des trois actionnaires. L'arrêt attaqué admet du reste expressément l'existence d'un mandat conjoint des trois intéressés. Le fait que l'intimé était auparavant l'avocat d'une seule partie ou qu'il ait ignoré l'arrière-plan du mécanisme mis en place n'y change rien, contrairement à ce que retient la Cour de justice. Si l'autorité précédente estimait qu'il y avait des raisons objectives pour s'écarter du contenu de cette pièce, elle aurait dû l'expliquer et le motiver et non passer celle-ci sous silence. Il est choquant de ne pas tenir compte de cet élément de preuve en se fondant uniquement sur les déclarations de l'avocat au cours de la procédure de levée du secret professionnel. Or, ces déclarations étaient contestées par les recourants et, comme on vient de le voir, sont clairement en contradiction avec une pièce versée au dossier. En lisant l'arrêt, on ne comprend au demeurant pas comment la Cour de justice a pu constater qu'il n'y a pas eu d'activité de conseil propre à un avocat, alors que l'intimé a lui-même suggéré le mécanisme d'une convention de dépôt-séquestre et qu'il a lui-même rédigé cet acte en faveur des trois actionnaires. Enfin, les juges cantonaux, bien qu'ils aient retenu des faits opposés à ceux de la Commission du barreau, n'ont nullement expliqué les motifs ayant conduit à cette approche différente.
3.3.2. En second lieu, les recourants reprochent à la Cour de justice d'avoir considéré de façon manifestement inexacte qu'ils auraient admis en cours de procédure avoir demandé à A._ "uniquement [...] de conserver les documents remis et de les leur restituer à leur demande conjointe". La critique est fondée. Il ressort en effet des pièces versées au dossier cantonal que les recourants ont soutenu devant la Cour de justice une version des faits diamétralement opposée, selon laquelle l'avocat avait fourni des prestations qui allaient bien au-delà de la simple conservation de documents (voir à ce sujet les observations des recourants du 31 mai 2013 à la Cour de justice, p. 14).
3.4. Par conséquent, en tant que l'arrêt attaqué se base de manière prépondérante sur les allégations de l'intimé, fait abstraction d'un élément de preuve décisif et se trompe quant à la portée des allégations des recourants, il est entaché de constatations manifestement inexactes des faits au sens de l'<ref-law>. Au vu du dossier, il n'est pas nécessaire de renvoyer l'affaire à la Cour de justice pour nouvelle instruction, le Tribunal fédéral disposant d'assez d'éléments pour corriger l'état de fait, ce que lui permet l'<ref-law> ( BERNARD CORBOZ, Commentaire de la LTF, 2e éd. 2014, n o 39 ad <ref-law>). Partant, c'est sur la base de l'activité déployée par l'avocat, telle qu'elle ressort en particulier de la lettre du 15 mai 2008, qu'il convient de vérifier si l'arrêt attaqué est conforme au droit.
4.
4.1. Le secret professionnel est protégé par l'<ref-law>. Selon cette disposition, l'avocat est soumis au secret professionnel pour toutes les affaires qui lui sont confiées par ses clients dans l'exercice de sa profession; cette obligation n'est pas limitée dans le temps et est applicable à l'égard des tiers; le fait d'être délié du secret professionnel n'oblige pas l'avocat à divulguer des faits qui lui ont été confiés.
En application de l'<ref-law>, l'avocat est le titulaire de son secret et il reste maître de celui-ci en toutes circonstances. L'avocat doit toutefois obtenir le consentement de son client, bénéficiaire du secret, pour pouvoir révéler des faits couverts par le secret (arrêt 2C_587/2012 du 24 octobre 2012 consid. 2.4). En cas de pluralité de mandants, chacun d'eux doit donner son accord (arrêt 2C_587/2012 du 24 octobre 2012 précité, consid. 2.4). Lorsque l'accord du client ne peut pas être obtenu, l'avocat peut s'adresser à l'autorité compétente en vue d'obtenir la levée du secret professionnel. Une procédure de levée du secret professionnel de l'avocat ne saurait par conséquent avoir lieu que dans la mesure où le client s'oppose à la levée de ce secret ou n'est plus en mesure de donner son consentement (arrêt 2C_587/2012 du 24 octobre 2012 précité, consid. 2.4).
Le secret professionnel des avocats ne couvre toutefois que leur activité professionnelle spécifique et ne s'étend pas à une activité commerciale sortant de ce cadre (cf. <ref-ruling> consid. 3.3 p. 414 et 132 II 103 consid. 2.1 p. 105). D'après le Tribunal fédéral, l'activité typique de l'avocat se caractérise par des conseils juridiques, la rédaction de projets d'actes juridiques, ainsi que l'assistance ou la représentation d'une personne devant une autorité administrative ou judiciaire (<ref-ruling> précité, consid. 3.3 p. 414).
4.2. En l'espèce, il ressort des constatations de fait, rectifiées par le Tribunal fédéral et qui correspondent du reste aux éléments déterminants retenus par la Commission du barreau (cf. supra consid. 3), que l'intimé a effectué une activité de conseil en proposant une solution dans l'intérêt de ses trois mandants et qu'il a rédigé une convention de dépôt-séquestre pour eux. Ces activités relèvent de toute évidence de l'activité professionnelle typique de l'avocat, couverte par le secret professionnel. En annulant la décision de la Commission du barreau au motif que l'intimé n'était pas lié par le secret professionnel de l'avocat envers les recourants sur la base d'une constatation manifestement inexacte des faits, la Cour de justice a violé l'<ref-law>.
4.3. Le recours doit donc être admis et l'arrêt attaqué annulé. La Cour de justice ne s'est pas prononcée, dans l'arrêt attaqué, sur le bien-fondé du refus de la Commission du barreau de délier l'avocat du secret professionnel. Il n'appartient pas au Tribunal fédéral de statuer sur ce point en première instance. Partant, il convient de renvoyer la cause à la Cour de justice afin qu'elle tranche cette question.
5.
Compte tenu de l'issue du litige, les frais et dépens de la procédure fédérale incombent à l'intimé (art. 66 al. 1; art. 68 al. 1 et 2 LTF). Les recourants ayant agi ensemble, une seule indemnité leur sera attribuée en qualité de créanciers solidaires (<ref-law> par analogie; arrêt 2C_134/2013 du 6 juin 2014 consid. 3).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis et l'arrêt attaqué est annulé. La cause est renvoyée à la Cour de justice pour qu'elle statue dans le sens des considérants.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge de l'intimé.
3.
L'intimé versera aux recourants, créanciers solidaires, une indemnité de 3'000 fr. à titre de dépens.
4.
Le présent arrêt est communiqué aux mandataires des recourants, à l'intimé, à la Commission du barreau du canton de Genève et à la Cour de justice de la République et canton de Genève, Chambre administrative, 1ère section.
Lausanne, le 10 novembre 2014
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Zünd
Le Greffier : Ermotti