Faits:
A. X._ est accusé dans le cadre d'une procédure pénale (P/12481/01) qui l'oppose à la Banque cantonale de Genève (ci-après: la BCGe). Le 7 septembre 2010, il a saisi la Commission du barreau du canton de Genève (ci-après: la Commission du barreau). Il invoquait un conflit d'intérêts des avocats de la BCGe, A._ et B._, dans la mesure où ceux-ci exerçaient leur profession au sein d'une étude regroupant des avocats l'ayant précédemment conseillé. Par décision du 6 décembre 2010, la Commission du barreau a conclu à l'absence de conflit d'intérêts de la part de A._ et B._. Son prononcé a été notifié aux intéressés, ainsi qu'au dénonciateur.
B. Par arrêt du 21 juin 2011, la Cour de justice a déclaré irrecevable le recours de X._ qui concluait à ce qu'il soit ordonné à A._ et B._ de cesser de représenter la BCGe dans la procédure pénale en cause. En substance, la Cour de justice a retenu que si l'auteur d'une dénonciation devant la Commission du barreau devait être avisé de la suite qui avait été donnée à celle-ci, il n'avait en revanche pas la qualité de partie à la procédure. Si la procédure ouverte consécutivement à une dénonciation était classée, le dénonciateur n'était pas atteint dans ses intérêts personnels. En outre, le fait que la décision de la Commission du Barreau puisse avoir une incidence sur une procédure à laquelle le dénonciateur est partie ne permettait pas non plus de considérer que celui-ci était directement touché dans ses droits et obligations. En conséquence, le refus de donner suite à une dénonciation ne pouvait faire l'objet d'aucun recours puisque le dénonciateur n'agit, dans ce cadre, que comme auxiliaire de l'autorité en déclenchant la procédure.
C. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du 21 juin 2011 de la Cour de justice et de renvoyer la procédure à cette autorité afin qu'il soit statué sur le fond.
La Commission du Barreau déclare persister dans les termes de sa décision du 6 décembre 2010 et la Cour de justice dans son arrêt du 21 juin 2011. A._ et B._ concluent à l'irrecevabilité du recours, respectivement à ce que celui-ci soit "très subsidiairement rejeté". X._ s'est déterminé sur les observations de A._ et B._.

Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 472, 436 consid. 1 p. 438 et les arrêts cités).
1.1 Le présent litige porte sur le point de savoir si X._ avait la qualité de partie dans la procédure devant la Cour de justice, cette dernière lui ayant nié cette qualité et, partant, ayant déclaré son recours irrecevable.
1.2 Dans une procédure administrative, l'auteur d'un recours déclaré irrecevable pour défaut de qualité pour agir est habilité à contester l'arrêt d'irrecevabilité par un recours en matière de droit public lorsque l'arrêt au fond de l'autorité intimée aurait pu être déféré au Tribunal fédéral par cette voie (<ref-ruling> consid. 3.2 p. 149; <ref-ruling> consid. 1 p. 500 et les arrêts cités).
Est à l'origine de la présente affaire la décision refusant d'interdire aux deux avocats concernés de représenter leur client, dans la procédure pénale P/12481/01, en raison d'un conflit d'intérêts prohibé par l'art. 12 let. c de la loi fédérale du 23 juin 2000 sur la libre circulation des avocats (ci-après: la loi sur les avocats ou LLCA; RS 935.61). La décision de refus n'a pas été prise par le ministère public ou le tribunal compétent au fond, auquel cas elle constituerait une décision incidente que le Tribunal fédéral devrait examiner dans le cadre de la voie de recours ouverte dans la matière en cause (arrêt 1B_420/2011 du 21 novembre 2011 consid. 1.1), mais par l'autorité de surveillance des avocats, soit, en l'espèce, la Commission du barreau. Compte tenu de ce qui précède et du fait que le fond du litige relève du droit public au sens de l'art. 82 let. a LTF et ne tombe pas sous le coup d'une des exceptions prévues à l'art. 83 LTF, la voie du recours en matière de droit public est en principe ouverte.
1.3 En vertu de l'art. 89 al. 1 LTF, a qualité pour former un recours en matière de droit public quiconque a pris part à la procédure devant l'autorité précédente ou a été privé de la possibilité de le faire (let. a), est particulièrement atteint par la décision attaquée (let. b) et a un intérêt digne de protection à son annulation ou à sa modification (let. c).
En l'espèce, le recourant a un intérêt digne de protection à demander l'annulation de l'arrêt attaqué afin d'obtenir qu'il soit statué sur le fond de sa cause; cela indépendamment et sans préjudice du motif d'irrecevabilité retenu en procédure administrative, qui constitue l'objet de la contestation devant le Tribunal fédéral, et à l'exclusion du fond de l'affaire (<ref-ruling> consid. 3.1 p. 148; <ref-ruling> consid. 4 p. 241 et les arrêts cités).
Le recourant doit par ailleurs avoir un intérêt pratique et actuel à son recours (<ref-ruling> consid. 1.3.1 p. 24), l'intérêt digne de protection devant exister non seulement au moment du dépôt du recours, mais encore au moment où l'arrêt est rendu (<ref-ruling> consid. 2.1 p. 41; <ref-ruling> consid. 1.1 p. 103). Le Tribunal de police du canton de Genève a rendu public, le 10 février 2012, le verdict dans la procédure pénale à l'origine de la présente affaire. Ce jugement peut, toutefois, faire l'objet d'un appel, ce qui a pour conséquence que l'intéressé garde un intérêt actuel à son recours.
Ainsi, le recourant a qualité pour recourir au sens de l'art. 89 al. 1 LTF.
1.4 Pour le surplus, dirigé contre un arrêt final (art. 90 LTF) rendu en dernière instance cantonale par une autorité judiciaire supérieure (art. 86 al. 1 let. d et al. 2 LTF), le recours a été déposé en temps utile (art. 45 al. 1 et 100 al. 1 LTF), ainsi que dans les formes prescrites (art. 42 LTF). Il est, dès lors, recevable.
2. Le recourant invoque la violation de l'art. 111 LTF.
2.1 2.1.1 Aux termes de l'art. 111 LTF, la qualité de partie à la procédure devant toute autorité cantonale précédente doit être reconnue à quiconque a qualité pour recourir devant le Tribunal fédéral (al. 1); l'autorité qui précède immédiatement le Tribunal fédéral doit pouvoir examiner au moins les griefs visés aux art. 95 à 98 LTF (al. 3).
Il résulte de cette disposition que la qualité pour recourir devant les autorités cantonales ne peut pas s'apprécier de manière plus restrictive que la qualité pour recourir devant le Tribunal fédéral, les cantons demeurant libres de concevoir cette qualité de manière plus large (<ref-ruling> consid. 5 p. 149 et les arrêts cités). En l'occurrence, il convient donc d'examiner la qualité pour recourir sous l'angle de l'art. 89 al. 1 LTF. S'agissant de droit fédéral (art. 111 al. 1 LTF), le Tribunal fédéral examine cette question librement.
2.1.2 Constitue un intérêt digne de protection au sens de l'art. 89 al. 1 let. c LTF (cf. consid. 1.3), tout intérêt pratique ou juridique à demander la modification ou l'annulation de la décision attaquée. Il consiste donc dans l'utilité pratique que l'admission du recours apporterait au recourant, en lui évitant de subir un préjudice de nature économique, idéale, matérielle ou autre que la décision attaquée lui occasionnerait. Cet intérêt doit être direct et concret; en particulier, le recourant doit se trouver, avec la décision entreprise, dans un rapport suffisamment étroit, spécial et digne d'être pris en considération. Il doit être touché dans une mesure et avec une intensité plus grande que l'ensemble des administrés (<ref-ruling> consid. 2.3 p. 43; <ref-ruling> consid. 6.1 p. 150; <ref-ruling> consid. 3.1 p. 651 et les arrêts cités).
Dans une procédure non contentieuse, la seule qualité de plaignant ou de dénonciateur ne donne pas le droit de recourir contre la décision prise; le plaignant ou le dénonciateur doit encore pouvoir invoquer un intérêt digne de protection à ce que l'autorité de surveillance intervienne. La jurisprudence a ainsi dénié la qualité pour recourir au plaignant dans le cadre d'une procédure disciplinaire dirigée contre un avocat, considérant que celui-là n'avait pas un intérêt propre et digne de protection à demander une sanction disciplinaire à l'encontre de l'avocat pour une éventuelle violation de ses obligations professionnelles. En effet, la procédure de surveillance disciplinaire des avocats a pour but d'assurer l'exercice correct de la profession par les avocats et de préserver la confiance du public à leur égard, et non de défendre les intérêts privés des particuliers (<ref-ruling> consid. 6.1 p. 150 ss; <ref-ruling> consid. 4.4 p. 255; <ref-ruling> consid. 2b p. 232). Cette jurisprudence a été reprise, sous l'angle de l'art. 89 al. 1 LTF, dans le cadre d'une procédure disciplinaire dirigée contre un notaire (<ref-ruling> consid. 2 p. 471 ss).
2.2 En la cause, la discussion juridique porte essentiellement sur l'application au cas d'espèce des principes énoncés dans l'<ref-ruling>. Dans cette affaire, il s'agissait de déterminer la qualité de partie du client d'un avocat, lequel s'était vu interdire de représenter son mandant. A cette occasion, le Tribunal fédéral a pu relever que le client en question n'avait ni la qualité de plaignant ni celle de dénonciateur et qu'il se trouvait dans une situation inverse de ceux-ci, dans la mesure où, d'une part, il n'était pas l'initiateur de la procédure mais en subissait les conséquences, se voyant privé de son avocat contre sa volonté et où, d'autre part, il ne demandait pas qu'une sanction soit prise mais au contraire qu'elle soit annulée. La défense des intérêts du recourant était ainsi liée au sort de la procédure entreprise à l'encontre de son avocat, qui avait du reste lui-même recouru contre l'interdiction qui lui était faite de représenter son client. Le Tribunal fédéral a certes reconnu, à cette occasion, que l'interdiction d'être représenté aurait des répercussions sur la défense du client puisque le nouvel avocat devrait prendre connaissance du dossier de la volumineuse procédure en cours depuis plus de cinq ans, de sorte que l'intérêt financier de l'intéressé à pouvoir conserver son mandataire actuel était évident. Un intérêt de fait, en soi suffisant au regard de l'art. 89 al. 1 let. c LTF a ainsi été reconnu par le Tribunal fédéral. Toutefois, le lien avec la norme invoquée ne disparaissait pas totalement: le recourant ne pouvait, en effet, se prévaloir d'un intérêt digne de protection à invoquer des dispositions édictées dans l'intérêt général ou dans l'intérêt de tiers que si celles-ci étaient susceptibles d'avoir une influence directe sur sa situation de fait ou de droit. Dans cette affaire, le Tribunal fédéral a retenu que les dispositions en cause visaient à assurer l'exercice correct de la profession d'avocat et que, à ce titre, seul l'avocat était directement concerné par l'objet de la contestation; en outre, une sanction ne touchait directement que la personne qui en était l'objet, soit, en l'espèce, l'avocat. L'intérêt digne de protection faisait, ainsi, défaut au client qui n'avait pas, par conséquent, la qualité pour recourir. Sur ce point, l'<ref-ruling> a été critiqué en doctrine (FRANÇOIS BOHNET, in: RSPC 2009 177; cf. aussi TOMAS POLEDNA, in: Walter Fellmann/Gaudenz G. Zindel (éd.), Kommentar zum Anwaltsgesetz, 2è éd., 2011, ch. 11a ad art. 17).
2.3 Une modification de jurisprudence ne contrevient pas à la sécurité du droit, au droit à la protection de la bonne foi ni à l'interdiction de l'arbitraire lorsqu'elle s'appuie sur des raisons objectives, telles qu'une connaissance plus exacte ou complète de l'intention du législateur, la modification des circonstances extérieures, un changement de conception juridique ou l'évolution des moeurs (<ref-ruling> consid. 6.1 p. 137; <ref-ruling> consid. 3 p. 8; <ref-ruling> consid. 3.2 p. 85 et les arrêts cités).
2.4 L'art. 12 LLCA fait partie de la Section 3 de ladite loi intitulée "Règles professionnelles et surveillance disciplinaire". Parmi les "Règles professionnelles" que doit respecter l'avocat, figure celle qui veut que celui-ci doit éviter tout conflit entre les intérêts de son client et ceux des personnes avec lesquelles il est en relation sur le plan professionnel ou privé (art. 12 let. c LLCA). L'obligation de renoncer à représenter un mandant en cas de conflit d'intérêts est une règle cardinale de la profession d'avocat (arrêt 2C_889/2008 du 21 juillet 2009 consid. 3.1.3).
Les sanctions disciplinaires sont, pour leur part, détaillées à l'art. 17 LLCA qui a la teneur suivante:
"Art. 17 Mesures disciplinaires
1 En cas de violation de la présente loi, l'autorité de surveillance peut prononcer les mesures disciplinaires suivantes:
a. l'avertissement;
b. le blâme;
c. une amende de 20 000 francs au plus;
d. l'interdiction temporaire de pratiquer pour une durée maximale de deux ans;
e. l'interdiction définitive de pratiquer.
2 L'amende peut être cumulée avec une interdiction de pratiquer.
3 Si nécessaire, l'autorité de surveillance peut retirer provisoirement l'autorisation de pratiquer."
3 Si nécessaire, l'autorité de surveillance peut retirer provisoirement l'autorisation de pratiquer."
2.5 2.5.1 Celui qui, en violation des obligations énoncées à l'art. 12 LLCA, accepte ou poursuit la défense d'intérêts contradictoires doit se voir dénier par l'autorité la capacité de postuler. L'interdiction de plaider est, en effet, la conséquence logique du constat de l'existence d'un tel conflit (arrêt 1A.223/2002 du 18 mars 2003 consid. 5.5). La loi sur les avocats ne désignant pas l'autorité compétente habilitée à empêcher de plaider l'avocat confronté à un conflit d'intérêt, les cantons sont compétents pour la désigner. Ainsi, l'injonction consistant en l'interdiction de représenter une personne dans une procédure peut être prononcée, selon les cantons, par l'autorité de surveillance des avocats ou par l'autorité judiciaire saisie de la cause (FRANÇOIS BOHNET/VINCENT MARTENET, Droit de la profession d'avocat, 2009, ch. 2201 p. 897; cf. aussi arrêt 2C_885/2010 du 22 février 2011 consid. 1.1; 2D_148/2008 du 17 avril 2009 consid. 1.2). Le législateur genevois a confié les compétences dévolues à l'autorité de surveillance par la loi sur les avocats à la Commission du barreau (art. 14 de la loi genevoise du 26 avril 2002 sur la profession d'avocat; RS/GE E 6 10). En l'absence d'une telle disposition expresse, il appartient au juge qui conduit le dossier, au civil, au pénal ou en droit administratif, et qui constate un conflit d'intérêts ou un défaut d'indépendance, d'en tirer d'office les conséquences et de dénier à l'avocat la capacité de postuler en l'obligeant à renoncer à la défense en cause (FRANÇOIS BOHNET/VINCENT MARTENET, op. cit., ch 1144 p. 493 et les références citées) - à noter que l'art. 62 du nouveau CPP confie les mesures nécessaires au bon déroulement et à la légalité de la procédure à l'autorité investie de la direction de la procédure (cf. art. 61 CPP) et que, par conséquent, en procédure pénale, l'ordre consistant en l'interdiction de plaider pourrait ne plus pouvoir revenir à l'autorité de surveillance (en ce sens, arrêt de la Chambre des recours pénale du Tribunal cantonal du canton de Vaud du 10 mai 2011 consid. 2d, in: JdT 2011 III p. 76) -. L'exclusion de l'avocat des débats pour ce motif n'est que la résultante du défaut de capacité de postuler de l'avocat et ne constitue pas une mesure disciplinaire au sens de l'art. 17 LLCA (FRANÇOIS BOHNET, Les conflits d'intérêts en matière de défense au pénal - TF 1B_7/2009 du 16 mars 2009, in: Revue de l'avocat 5/2009, p. 267; FRANÇOIS BOHNET/VINCENT MARTENET, op. cit., ch 1145 p. 494; cf. aussi arrêt 2A.560/2004 du 1er décembre 2005 consid. 8). Cela ressort d'ailleurs de la simple lecture de l'art. 17 LLCA qui ne mentionne pas cette sanction au titre des mesures disciplinaires. La nature de celle-ci ne saurait au demeurant être différente d'un canton à l'autre, selon qu'une autorité judiciaire ou une autorité disciplinaire constate le défaut de la qualité de postulation. Le Tribunal fédéral a d'ailleurs pu juger que l'interdiction de représentation ordonnée dans un cas particulier ne relevant pas du droit disciplinaire, elle n'empêche en principe nullement le prononcé d'une sanction disciplinaire ultérieure (arrêt 2A.560/2004 du 1er décembre 2005 consid. 8).
En résumé, contrairement à l'approche qu'a eue le Tribunal fédéral dans l'<ref-ruling>, il faut admettre que l'interdiction de postuler dans un cas concret - à distinguer d'une suspension provisoire ou définitive - ne relève en principe pas du droit disciplinaire, mais du contrôle du pouvoir de postuler de l'avocat.
2.5.2 Ainsi, l'interdiction faite à un avocat de représenter une partie vise à assurer la bonne marche du procès, notamment en s'assurant qu'aucun avocat ne soit restreint dans sa capacité de défendre l'une d'elles - en cas de défense multiple - respectivement en évitant qu'un mandataire puisse utiliser les connaissances d'une partie adverse, acquises lors d'un mandat antérieur, au détriment de celle-ci, étant à cet égard rappelé que l'impossibilité de représentation affectant un avocat rejaillit sur ses associés (RNRF 92/2011 127, 2C_26/2009 consid. 3.2). Dans un tel cas, celui qu'une décision prive de la possibilité de poursuivre la défense de ses intérêts par l'avocat de son choix, ou alors contraint de voir un ancien mandataire - ou l'associé de l'un de ses anciens mandataires - défendre les intérêts d'une partie adverse, est touché de manière directe et dispose d'un intérêt digne de protection au sens de l'art. 89 al. 1 let. c LTF à l'annulation ou la modification de cette décision. En ceci, la situation est donc différente de ce qui prévaut en matière disciplinaire.
2.5.3 Par conséquent, en niant à X._ la qualité pour recourir à l'encontre de la décision du 6 décembre 2010 de la Commission du barreau, la Cour de justice a violé l'art. 111 LTF.
3. Compte tenu de ce qui précède le recours est admis. La cause est renvoyée à la Cour de justice, afin qu'elle tranche le litige sur le fond.
Les intimés qui succombent, à savoir A._ et B._, doivent supporter, solidairement entre eux, les frais judiciaires (art. 66 al. 1 et 5 LTF), ainsi que les dépens de la partie adverse (art. 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis et l'arrêt du 21 juin 2011 de la Cour de justice est annulé.
2. La cause est renvoyée à la Cour de justice afin qu'elle tranche le litige sur le fond.
3. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge de A._ et de B._, solidairement entre eux.
4. Une indemnité de 3'000 fr., à payer au recourant à titre de dépens, est mise à la charge de A._ et B._, solidairement entre eux.
5. Le présent arrêt est communiqué au mandataire du recourant et à celui des intimés, à la Commission du Barreau et à la Cour de justice du canton de Genève, Chambre administrative, 1ère section.
Lausanne, le 20 février 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Kurtoglu-Jolidon