Faits :
A.
A.a.
Inscrite au registre du commerce depuis le 8 mai 2008, l'Etude Z._ SA (ci-après: l'Etude) est une société anonyme de droit suisse dont le siège est à Zurich. Son but social est la fourniture de prestations juridiques en Suisse et à l'étranger par des avocats, des notaires et d'autres conseillés, ainsi que les activités liées. La société peut exercer toutes les activités financières et commerciales en relation avec la poursuite du but social. Elle peut notamment ouvrir des succursales.
A.b. Le 3 juin 2015, X._ et Y._, avocats inscrits au barreau de Genève, ont sollicité de la Commission du barreau de Genève (ci-après: la Commission du barreau) l'agrément pour l'exercice de la profession d'avocat sous forme d'une société de capitaux sous la raison sociale Z._ SA, pour l'ensemble des - actuels et futurs - avocats et avocats-stagiaires exerçant en qualité d'indépendants, respectivement employés au sein du bureau genevois de l'Etude Z._ SA. Au moment de la requête, un seul des dix-huit associés de l'Etude, spécialiste en arbitrage international, n'était pas titulaire d'un brevet d'avocat suisse ou étranger.
A l'appui de leur requête, X._ et Y._ ont produit une copie de leur requête du 10 avril 2015 à l'autorité de surveillance des avocats du canton de Zurich, un projet de statuts de l'Etude, un projet de convention d'actionnaires, un projet de règlement d'organisation, un projet de modèle de contrat de travail pour associé, ainsi qu'une lettre de l'Etude du 4 mai 2015 à l'autorité de surveillance des avocats du canton de Zurich confirmant que les membres du comité de direction de l'Etude seraient exclusivement des avocats inscrits au registre cantonal.
A.c. Le 4 juin 2015, la Commission de surveillance des avocats du canton de Zurich a confirmé que Z._ SA remplissait les conditions relatives à la surveillance des avocats et que les inscriptions au registre des avocats du canton de Zurich des requérants de même que des autres avocats actifs mentionnés dans la liste présentée étaient adaptées au regard de cette étude d'avocats.
B.
Par décision du 14 décembre 2015, la Commission du barreau a rejeté la demande d'agrément déposée par X._ et Y._ en vue du maintien des inscriptions au registre cantonal des avocats exerçant au sein du bureau genevois de l'Etude après création d'une société anonyme. Elle a retenu en substance que la présence à côté d'avocats inscrits à un registre d'avocats suisse de personnes tierces consacrait une association multidisciplinaire et se heurtait à l'interdiction pour les avocats de s'associer avec d'autres personnes. Par ailleurs, l'exercice de la profession d'avocat sous le couvert d'une personne morale ne pouvait être ouvert à des personnes non inscrites à un registre d'avocats suisse et seule une société dont le capital social était intégralement détenu en tout temps par des avocats inscrits dans un registre cantonal permettait le respect des principes de l'indépendance et du secret professionnel. Ainsi, dans la mesure où l'un des associés de l'Etude n'était pas inscrit à un registre cantonal d'avocats, l'organisation retenue pour l'exercice de la profession d'avocat inscrit au registre genevois sous le couvert de Z._ SA ne permettait pas le respect des conditions légales.
Le 29 janvier 2016, les intéressés ont déposé un recours contre cette décision devant la Chambre administrative de la Cour de justice de la République et canton de Genève (ci-après: la Cour de justice). Ils ont conclu à l'octroi de l'effet suspensif à leur recours et principalement à ce que la demande d'agrément déposée le 3 juin 2015 en vue du maintien des inscriptions du registre cantonal des avocats et avocats-stagiaires exerçant au sein du bureau genevois de Z._ SA après création d'une société anonyme soit admise. Par décision du 8 avril 2016, la Cour de justice a rejeté la requête en tant qu'elle demandait l'effet suspensif et en tant qu'elle requérait le prononcé de mesures provisionnelles. Ce prononcé a été confirmé par le Tribunal fédéral (arrêt 2C_393/2016 du 3 juin 2016).
Par arrêt du 25 octobre 2016, la Cour de justice a rejeté le recours formé par X._ et Y._ à l'encontre de cette décision. Après avoir laissé ouverte la question de la qualité pour recourir des intéressés, cette autorité a jugé qu'une société anonyme d'avocats contrôlée par une majorité d'avocats inscrits ne présentait pas les mêmes garanties en terme d'indépendance qu'une société entièrement contrôlée par un ou plusieurs avocats inscrits dans un registre cantonal. Le refus d'accorder l'agrément était, en outre, conforme à la la loi fédérale du 6 octobre 1995 sur le marché intérieur (LMI; RS 943.02).
C.
Agissant par la voie du recours en matière de droit public, X._ et Y._ demandent au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt de la Cour de justice du 25 octobre 2016, ainsi que la décision de la Commission du barreau du 14 décembre 2015. Ils concluent à l'admission du recours dans le sens de la demande d'agrément déposée le 3 juin 2015 auprès de la Commission du barreau en vue du maintien des inscriptions au registre cantonal des avocats et avocats-stagiaires au sein du bureau genevois de Z._ SA après création d'une société anonyme, aux conditions fixées par les statuts, le règlement d'organisation, la convention d'actionnaires ainsi que le contrat de travail pour associés de l'Etude. Subsidiairement, ils demandent au Tribunal fédéral d'admettre le recours dans le sens de la demande d'agrément du 3 juin 2015 sous la réserve d'une modification des statuts, de la convention d'actionnaires, du règlement d'organisation et du contrat de travail pour associé de Z._ SA visant à assurer que tout mandat relevant du domaine monopolistique de l'avocat ou d'une activité couverte par le secret professionnel soit confié à un avocat inscrit à un registre cantonal et que toute personne qui l'assiste dans l'exécution de ce mandat soit considérée comme son auxiliaire, qu'elle soit ou non associée de l'Etude. Sous cette condition, ils demandent au Tribunal fédéral d'autoriser les intéressés, ainsi que les avocats et avocats-stagiaires exerçant au sein du bureau genevois de Z._ SA à demeurer inscrits au registre cantonal des avocats après modification du but statutaire de Z._ SA de manière à inclure l'exercice de mandats d'arbitre, pratiqué de manière compatible avec les règles de la profession d'avocat. Plus subsidiairement encore, ils concluent au renvoi de la cause à l'autorité précédente pour nouvelle décision dans le sens des considérants.
La Cour de justice n'a pas formulé d'observations, s'en remettant à justice quant à la recevabilité du recours et persistant dans les considérants et le dispositif de son arrêt. La Commission du barreau se réfère à sa décision du 14 décembre 2015, ainsi qu'aux observations formulées devant la Cour de justice. La Commission de la concurrence a pris position en dénonçant une restriction illicite à l'accès au marché.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office sa compétence (<ref-law>). Il contrôle donc librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1. p. 116).
1.1. L'arrêt attaqué est une décision finale (<ref-law>), rendue par un tribunal supérieur statuant en dernière instance cantonale (art. 86 al. 1 let. d et al. 2 LTF), dans une cause de droit public (<ref-law>) ne tombant pas sous le coup de l'une des exceptions prévues à l'<ref-law>. Les recourants ont en outre pris part à la procédure devant l'autorité cantonale de dernière instance, sont particulièrement touchés par l'arrêt attaqué et ont un intérêt digne de protection à son annulation, en tant qu'il leur empêche d'être inscrits au registre cantonal en qualité d'avocat pratiquant au sein de l'Etude Z._ SA (<ref-law>). Pour le surplus, le recours a été déposé en temps utile (<ref-law>) et dans les formes requises (art. 42 al. 1 et 2 LTF). Il convient donc d'entrer en matière.
1.2. La conclusion tendant à l'annulation de la décision rendue le 14 décembre 2015 par la Commission du barreau est en revanche irrecevable, en raison de l'effet dévolutif complet du recours déposé auprès de la Cour de justice (cf. <ref-ruling> consid. 1.2 p. 104).
2.
Le litige a pour origine le refus, par la Commission du barreau de Genève, d'accorder l'agrément en vue du maintien des inscriptions au registre cantonal des avocats exerçant au sein du bureau genevois de Z._ SA après création d'une société anonyme. La solution genevoise tranche ainsi avec la décision rendue par la Commission de surveillance des avocats de Zurich le 4 juin 2015 confirmant que les associés de Z._ SA remplissaient tous les critères pour exploiter une étude d'avocats sous la forme d'une société anonyme.
A l'appui de son refus, la Cour de justice a considéré que la présence, au sein de l'actionnariat d'une société de capitaux, d'une personne non inscrite au registre cantonal des avocats était non seulement contraire à l'art. 8 al. 1 d de la loi du 23 juin 2000 sur la libre circulation des avocats (LLCA; RS 935.61), mais faisait également obstacle à la certitude du respect du secret professionnel garanti à l'<ref-law>. Appliquant l'art. 2 al. 4 de la loi du 6 octobre 1995 sur le marché intérieur (LMI; RS 943.02), l'autorité précédente a relevé qu'un avocat devait pouvoir s'établir dans un autre canton pour exercer sa profession conformément aux dispositions du canton de provenance et que l'organisation de l'activité de l'avocat comprenait la possibilité d'exercer sous la forme d'une personne morale. Elle a cependant jugé que le refus d'accorder l'agrément respectait les conditions de l'<ref-law>, en particulier le principe de la proportionnalité (art. 3 al. 1 let. c LMI).
D'après les recourants, le refus d'accorder l'agrément entraîne une application hétérogène du droit fédéral par les autorités cantonales, ce que le législateur avait précisément voulu éviter en adoptant la LLCA et la LMI. Ils invoquent une violation des art. 27 Cst. et 3 LMI.
3.
3.1. La LMI garantit à toute personne ayant son siège ou son établissement en Suisse l'accès libre et non discriminatoire au marché, afin que celle-ci puisse exercer une activité lucrative sur tout le territoire suisse (<ref-law>). Par activité lucrative au sens de cette loi, on entend toute activité non régalienne ayant pour but un gain (<ref-law>), dont en particulier la profession d'avocat (FRANÇOIS BOHNET/ VINCENT MARTENET, Droit de la profession d'avocat, 2009, n° 196 p. 85). L'<ref-law> permet à celui qui veut s'établir dans un autre canton pour y exercer une activité lucrative légale de se prévaloir du principe de la liberté d'accès au marché selon les prescriptions du lieu de provenance. Quant à l'<ref-law>, il prévoit que lorsqu'une autorité d'exécution cantonale a constaté que l'accès au marché d'une marchandise, d'un service ou d'une prestation est conforme au droit fédéral ou en a autorisé l'accès au marché, sa décision est applicable dans toute la Suisse.
3.2. Dans l'arrêt du 15 décembre 2017 consid. 4 (2C_1054/2016 et 2C_1059/2016) destiné à publication, le Tribunal fédéral a eu l'occasion de déterminer si et dans quelle mesure les règles sur la liberté d'accès au marché étaient applicables dans le cadre d'un recours formé contre le refus, prononcé par la Commission du barreau genevoise et confirmé par la Cour de justice, d'accorder l'agrément en vue de l'exercice de la profession d'avocats. Le recours avait été interjeté par les employés de la succursale genevoise d'une Etude d'avocats, avec siège à Zurich et organisée en société anonyme, et rejeté au motif que l'un des associés n'était pas un avocat inscrit à un registre cantonal d'avocats. La Cour de justice avait rendu son arrêt après que la Commission de surveillance des avocats de Zurich avait confirmé que les associés de l'Etude remplissaient tous les critères pour exploiter une étude d'avocats sous la forme d'une société anonyme. Dans cette affaire, le Tribunal fédéral a jugé que la situation devait être examinée à l'aune de l'<ref-law>. L'<ref-law> ne trouvait, en revanche, pas application. Cette jurisprudence a été adoptée sur la base du raisonnement suivant. La Cour de céans a tout d'abord rappelé la jurisprudence du Tribunal fédéral sur les liens existant entre la LLCA et la LMI. Lorsque, en particulier, la LLCA a vocation à s'appliquer uniformément à l'ensemble du territoire, en fixant notamment des règles régissant l'organisation et la pratique du métier d'avocat, la LMI ne trouve en principe pas application. Une exception à ce principe doit cependant être admise lorsqu'un canton fait échec au droit d'accès au marché d'un offreur extérieur au canton en faisant une interprétation de la LLCA qui diverge de celle du canton de provenance. Dans ce cas, l'offreur pourra valablement invoquer l'<ref-law>, selon lequel une décision cantonale prise en application du droit fédéral donnant accès à un marché s'impose aux autres. Cette exception s'applique également dans la situation où, bien que se fondant sur la LLCA, les cantons adoptent des interprétations différentes en lien avec l'<ref-law> (arrêt 2C_1054/2016 du 15 septembre 2017 consid. 4.2, destiné à la publication). Appliquant ces principes au cas particulier, le Tribunal fédéral a considéré que dans la mesure où les cantons avaient adopté des interprétations différentes de la LLCA, il convenait d'appliquer la LMI. Restait à savoir quelle disposition de la LMI trouvait application. En l'occurrence, la Cour de céans a considéré que dans la situation où une entreprise se voit, en vertu du droit fédéral, refuser le droit de s'établir dans un autre canton, il convient d'appliquer l'<ref-law>. L'<ref-law>, qui vise uniquement l'accès au marché d'une marchandise, d'un service ou d'une prestation, ne trouve en revanche pas application (arrêt 2C_1054/2016 du 15 septembre 2017 consid. 4.4, destiné à la publication).
3.3. En l'occurrence, les principes posés dans l'arrêt 2C_1054/2016 précité sont applicables dans le cas particulier. En effet, le litige a pour origine une requête formée par X._ et Y._ tendant à obtenir l'agrément de la Commission du barreau genevois, en vue du maintien des inscriptions au registre cantonal des avocats exerçant au sein du bureau genevois de l'Etude après création d'une société anonyme. A Genève, l'exercice de la profession d'avocat sous la forme d'une société de capitaux est soumis à l'agrément de la Commission du barreau, qui s'assure du respect des exigences de droit fédéral (art. 10 al. 2 de la loi sur la profession d'avocat du 26 avril 2002 [LPAv; RS/GE E 6 10]). Le droit fédéral ne connaît pas la procédure d'agrément; il prévoit uniquement l'inscription de l'avocat au registre du canton dans lequel il a son adresse professionnelle, à condition que celui-ci remplisse les exigences prévues aux art. 7 et 8 LLCA (<ref-law>). L'agrément de la Commission du barreau permet de déterminer de manière préalable si ces conditions sont réalisées. En l'espèce, la Commission du barreau de Genève a considéré que les exigences prévues par la LLCA n'étaient pas remplies, dans la mesure où l'un des associés de l'Etude n'était pas inscrit à un registre cantonal d'avocats. La solution genevoise tranche ainsi avec la décision rendue par la Commission de surveillance des avocats de Zurich le 4 juin 2015 confirmant que les associés de Z._ SA remplissaient tous les critères pour exploiter une étude d'avocats sous la forme d'une société anonyme. Ainsi, on est en présence d'interprétations cantonales divergentes de la LLCA. Dans une telle configuration, et conformément à la jurisprudence précitée, il convient d'appliquer l'<ref-law>.
4.
Il est donc nécessaire d'examiner si la Cour de justice a correctement contrôlé le respect des dispositions légales applicables en vertu de premier établissement (art. 2 al. 4 in fine LMI). Dans le cas particulier, cet examen revient à vérifier la conformité de la décision entreprise au droit fédéral, soit en l'occurrence, la LLCA.
4.1. Dans l'arrêt précité du 15 décembre 2017, destiné à publication, le Tribunal fédéral a examiné la question de savoir si la présence de personnes autres que des avocats inscrits au sein de l'actionnariat et du conseil d'administration d'une étude d'avocats, organisée sous forme de personne morale, était conciliable avec le respect des principes de l'indépendance et du secret professionnel prévus par la LLCA. La Cour de céans a d'abord rappelé les principes dégagés de l'<ref-ruling> (cf. consid. 5). Il ressort en particulier de cette jurisprudence que l'<ref-law> ne s'oppose pas à ce que des avocats s'associent pour la pratique du barreau en constituant une personne morale dont ils sont les employés. L'indépendance n'est toutefois assurée que pour autant que celle-ci soit conçue de manière à ce que seuls des avocats inscrits puissent influencer la relation d'emploi. Appliquant ces principes au cas particulier, le Tribunal fédéral a considéré que le système mis en place par la société anonyme, selon lequel les avocats non inscrits pouvaient représenter jusqu'à un quart des associés, ne permettait pas d'exclure tout risque concret d'influence, au sein de l'actionnariat et du conseil d'administration, par les associés qui n'étaient pas inscrits au registre (consid. 5.3.2). Le fait que des personnes autres que des avocats inscrits siégeaient au conseil d'administration d'une étude d'avocats mettait également en péril la garantie du secret professionnel de l'avocat (<ref-law>; consid. 5.3.3). La Cour de céans en a donc conclu qu'en confirmant le refus d'accorder l'agrément sollicité en vue de l'exercice de la profession d'avocat par les avocats de l'Etude, au motif que l'un des membres de la société d'avocats n'était pas inscrit à un registre cantonal, l'autorité précédente n'avait pas violé le droit fédéral, en particulier l'<ref-law> (consid. 5.4).
4.2. Il s'ensuit que l'autorité précédente a correctement appliqué le droit fédéral en confirmant le refus d'accorder l'agrément en vue de l'exercice de la profession d'avocat par les employés de la succursale genevoise de Z._ SA, dont l'un des membres n'est pas un avocat inscrit à un registre cantonal.
5.
Les recourants invoquent l'<ref-law>. D'après cette disposition, la liberté d'accès au marché ne peut être refusée à des offreurs externes. Les restrictions doivent prendre la forme de charges ou de conditions et ne sont autorisées que si elles s'appliquent de la même façon aux offreurs locaux (al. 1 let. a), sont indispensables à la préservation d'intérêts publics prépondérants (al. 1 let. b) et répondent au principe de la proportionnalité (al. 1 let. c). Les restrictions ne répondent pas au principe de la proportionnalité lorsqu'une protection suffisante des intérêts publics prépondérants peut être obtenue au moyens des dispositions applicables au lieu de provenance (al. 2 let. a); les attestations de sécurité ou certificats déjà produits par l'offreur au lieu de provenance sont suffisants (al. 2 let. b); le siège ou l'établissement au lieu de destination est exigé comme préalable à l'autorisation d'exercer une activité lucrative (al. 2 let. c); une protection suffisante des intérêts publics prépondérants peut être garantie par l'activité que l'offreur a exercée au lieu de provenance (al. 2 let. d).
Dans son arrêt 2C_1054/2016 du 15 décembre 2017 consid. 6.2, destiné à la publication, le Tribunal fédéral a jugé que le fondement de la restriction trouve sa source non pas dans le droit cantonal, mais dans le droit fédéral. Or, dans la mesure où le droit fédéral s'applique de manière uniforme dans toute la Suisse et où il appartient aux autorités cantonales du lieu de destination d'en contrôler le respect dans le cadre de l'<ref-law>, il ne se justifie pas de procéder à l'examen des conditions de l'<ref-law>. Le grief tiré de la violation de l'<ref-law> formé par les recourants doit partant être écarté.
6.
Les recourants soutiennent en outre que le refus d'accorder l'agrément porte une atteinte à leur liberté économique telle que garantie par l'art. 27 Cst.
Une restriction ne peut en l'occurrence pas être niée (arrêt 2C_1054/2016 du 15 décembre 2017 consid. 7.1, destiné à la publication). Le Tribunal fédéral a toutefois jugé que le fondement de cette restriction trouve sa source dans le droit fédéral (cf. art. 8 al. 1 let. d, 12 let. b et 13 LLCA) et que la seule mise en place de dispositions visant à limiter l'influence décisionnelle des tiers non inscrits au sein des organes sociaux d'une société anonyme d'avocats ne permet pas de préserver l'intérêt public en cause, à savoir l'indépendance des avocats et la sauvegarde du secret professionnel (arrêt 2C_1054/2016 du 15 décembre 2017 consid. 7.2, destiné à la publication). Le fait d'exiger que la profession d'avocat soit exercée sous le couvert d'une personne morale contrôlée entièrement par un ou plusieurs avocats inscrits constitue ainsi une restriction admissible sous l'angle de l'intérêt public et de la proportionnalité. Le grief tiré de la violation de l'art. 27 Cst. doit ainsi être écarté.
7.
Dans un dernier grief, les recourants se plaignent encore d'une violation du principe de l'égalité de traitement. Ils font référence à une décision de la Commission du barreau genevoise de 2012, dans laquelle cette autorité avait donné son agrément pour l'exercice de la profession d'avocat sous la forme d'une société de capitaux à une étude dans laquelle une personne n'était pas inscrite au registre cantonal des avocats, mais docteur en droit.
7.1. Le principe de la légalité de l'activité administrative prévaut en principe sur celui de l'égalité de traitement. En conséquence, le justiciable ne peut généralement pas se prétendre victime d'une inégalité devant la loi lorsque celle-ci est correctement appliquée à son cas, alors qu'elle aurait été faussement, voire pas appliquée du tout, dans d'autres cas. Cela présuppose cependant, de la part de l'autorité dont la décision est attaquée, la volonté d'appliquer correctement à l'avenir les dispositions légales en question. Le citoyen ne peut prétendre à l'égalité dans l'illégalité que s'il y a lieu de prévoir que l'administration persévérera dans l'inobservation de la loi. Il faut encore que l'autorité n'ait pas respecté la loi selon une pratique constante, et non pas dans un ou quelques cas isolés, et qu'aucun intérêt public ou privé prépondérant n'impose de donner la préférence au respect de la légalité (<ref-ruling> consid. 7.1 p. 61 et les références citées).
7.2. Il n'est pas exclu que la Commission du barreau ait donné son agrément pour l'exercice de la profession d'avocat sous la forme d'une société de capitaux à des études qui n'étaient pas exclusivement composées d'avocats inscrits à un registre cantonal des avocats. Toutefois, cette pratique ayant été jugée contraire à la LLCA et l'autorité ayant décidé de changer sa pratique afin de respecter les dispositions légales topiques, les recourants ne sauraient se prévaloir d'un cas d'égalité dans l'illégalité. Ce grief doit par conséquent également être écarté.
8.
Au vu de ce qui précède, le recours est rejeté, dans la mesure où il est recevable. Les frais judiciaires sont mis à la charge des recourants, solidairement entre eux (art. 66 al. 1 et 5 LTF). Il n'est pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge des recourants, solidairement entre eux.
3.
Le présent arrêt est communiqué aux recourants, à la Commission du barreau et à la Chambre administrative de la Cour de justice de la République et canton de Genève, ainsi qu'à la Commission de la concurrence.
Lausanne, le 27 avril 2018
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
Le Greffier : Tissot-Daguette