Faits : A. X._ est avocat, inscrit au barreau de Marseille. Entre 1985 et 2001, puis entre août 2006 et le 21 juin 2010, il a été le conseil de A.B._. Ce dernier, né en 1937 et décédé le 20 septembre 2012, est devenu veuf de sa première épouse, B.B._, en avril 2005. Le 16 février 2008, il a épousé C.B._, née en 1965. A.B._ n'a pas eu d'enfants, mais avait une soeur, D._, décédée fin 2011, qui avait elle-même une fille, E._. Dans une procuration datée du 13 mars 2007 et légalisée devant notaire, A.B._ a donné mandat à X._ de le représenter dans deux contentieux. Le 26 mai 2008, l'intéressé a encore été mandaté pour une troisième affaire. Par courrier du 15 juillet 2009, X._ a informé la nièce de son mandant, E._, du fait que A.B._ lui avait donné, le 5 juillet 2008, un pouvoir général de s'occuper de l'ensemble de ses affaires, notamment afin de récupérer des créances, mais sans pouvoir de disposition. Par testament olographe du 16 mars 2010, A.B._ a révoqué le testament olographe du 15 janvier 2008 instituant C.B._ comme unique héritière et déclaré léguer la quotité disponible de ses biens à sa nièce, E._. Le 19 mai 2010, A.B._ a déposé une demande de divorce contre C.B._ devant une juridiction française. Par courrier du 21 juin 2010, A.B._, dont la signature a été certifiée devant notaire, a révoqué tous les mandats confiés à l'intéressé et lui a demandé de ne plus s'occuper de ses affaires. Il l'a invité à utiliser la voie légale pour le règlement de ses éventuels honoraires, ce que X._ a fait par demande du 20 janvier 2011, le montant de ses honoraires pour la période d'août 2006 à juillet 2010 ayant été fixé à 755'723 EUR 96. Par jugement du 20 janvier 2011, la juridiction française compétente a placé A.B._ sous curatelle renforcée, fixé la durée de la mesure à 60 mois et désigné E._ en qualité de curatrice pour assister celui-ci et le contrôler dans la gestion de ses biens. Le 18 février 2011, A.B._, agissant par sa curatrice, a déposé, par l'intermédiaire d'un avocat, une plainte pénale auprès du Ministère public de la République et canton de Genève (ci-après: le Ministère public) à l'encontre de sa femme, C.B._, pour appropriation illégitime, abus de confiance, vol et recel. Suite au décès de A.B._ le 20 septembre 2012, le Ministère public a mis C.B._ en prévention des chefs d'appropriation illégitime, d'abus de confiance, de vol, d'utilisation frauduleuse d'un ordinateur et de faux dans les titres, pour des faits commis au préjudice du défunt entre septembre 2008 et fin 2010 (procédure pénale P/2908/2011). Le 21 mai 2013, X._ s'est constitué pour la défense des intérêts de C.B._ dans la procédure pénale précitée, aux côtés d'une avocate inscrite au registre des avocats du barreau de Genève. B. Le 27 août 2014, le Ministère public a demandé à la Commission du barreau de la République et canton de Genève (ci-après: la Commission du barreau) d'interdire à X._ d'assister et/ou de représenter C.B._ dans le cadre de la procédure pénale pendante, en raison d'un conflit d'intérêts, X._ ayant bénéficié d'une procuration générale de la part de A.B._ entre mars 2007 et le 21 juin 2010, à savoir pendant la période pénale mettant en cause C.B._. Il avait été le conseil et le confident de A.B._ durant de nombreuses années. Il avait ainsi eu connaissance d'une quantité d'informations personnelles du défunt qu'il mettait désormais à disposition d'une partie adverse. Après avoir entendu X._, le bureau de la Commission du barreau, par décision du 16 septembre 2014, a fait injonction à l'intéressé, avec effet immédiat, de cesser de représenter les intérêts de C.B._ dans le cadre de la procédure pénale précitée, en raison d'un risque concret de conflit d'intérêts. Par décision du 14 octobre 2014, l'assemblée plénière de la Commission du barreau a confirmé la décision du 16 septembre 2014. X._ a contesté ce prononcé auprès de la Chambre administrative de la Cour de justice de la République et canton de Genève (ci-après: la Cour de justice) le 7 novembre 2014. Par arrêt du 2 juin 2015, la Cour de justice a rejeté le recours de l'intéressé. Elle a en substance jugé qu'en raison notamment du lien particulièrement étroit qui avait existé entre ce dernier et A.B._, on ne pouvait pas exclure que X._ ne doive pas, à un quelconque moment de la procédure, faire état de circonstances dont il avait eu connaissance dans le cadre du mandat en faveur de son ancien client. La Cour de justice a par conséquent considéré qu'il existait un conflit d'intérêts. C. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, outre l'effet suspensif, d'annuler l'arrêt du 2 juin 2015 de la Cour de justice, les décisions du bureau de la Commission du barreau du 16 septembre 2014 et de l'assemblée plénière de la Commission du barreau du 13 octobre 2014 ainsi que de constater qu'il est en droit de représenter les intérêts de C.B._ devant le Ministère public dans le cadre de la procédure pénale en cause; subsidiairement de renvoyer la cause à l'autorité précédente pour nouvelle décision dans le sens des considérants. Il se plaint d'établissement inexact des faits et de violation du droit fédéral. Par ordonnance du 23 juillet 2015, le Président de la IIe Cour de droit public du Tribunal fédéral a admis la requête d'effet suspensif. La Cour de justice persiste dans les considérants et le dispositif de son arrêt. La Commission du barreau conclut implicitement au rejet du recours. L'Office fédéral de la justice renonce à formuler des observations. Dans une dernière écriture, X._ a confirmé ses conclusions.