Faits:
A. Le 28 juillet 2010, le Conseil d'Etat du canton de Genève (ci-après: le Conseil d'Etat) a adopté le règlement sur l'assistance juridique et l'indemnisation des conseils juridiques et défenseurs d'office en matière civile, administrative et pénale (RS/GE E 2 05.04; RAJ/GE). Publié dans la Feuille d'avis Officielle du canton de Genève (FAO) du 4 août 2010, ce texte, entré en vigueur le 1er janvier 2011 (art. 22 RAJ/GE), a abrogé le règlement sur l'assistance juridique du 18 mars 1996 (ci-après: aRAJ/GE) (art. 21 RAJ/GE). Son art. 16 a la teneur suivante:
"Art. 16 Indemnité
De l'avocat en général et du défenseur d'office en matière pénale
1 L'indemnité due à l'avocat et au défenseur d'office en matière pénale est calculée selon le tarif horaire suivant, débours de l'étude inclus:
a) avocat stagiaire 65 F
b) collaborateur 125 F
c) chef d'étude 200 F
La TVA est versée en sus.
2 Seules les heures nécessaires sont retenues. Elles sont appréciées en fonction notamment de la nature, de l'importance, et des difficultés de la cause, de la valeur litigieuse, de la qualité du travail fourni et du résultat obtenu.
3 Au-delà de 5 000 F, l'indemnité est calculée selon un tarif horaire réduit de 15%.
Du mandataire professionnellement qualifié
4 (...)."
B. Par écriture du 14 septembre 2010, postée le même jour, l'Ordre des avocat de Genève ainsi que deux avocats inscrits au barreau de Genève, Mes X._ et X._, forment un recours en matière de droit public au Tribunal fédéral contre le règlement cantonal précité, en concluant à l'annulation de ses art. 16 al. 1 et 16 al. 3. Ils estiment en substance que, compte tenu du coût élevé de la vie à Genève, ces dispositions prévoient une indemnisation insuffisante pour les avocats d'office, en violation de l'interdiction de l'arbitraire (art. 9 Cst.) et de la liberté économique (art. 27 Cst.).
Au terme d'une détermination circonstanciée, le canton de Genève conclut à l'irrecevabilité du recours, subsidiairement à son rejet.

Considérant en droit:
1. Le Tribunal fédéral examine d'office sa compétence (<ref-law>) et contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 103 et les arrêts cités).
1.1 Le règlement litigieux est un acte normatif cantonal qui ne peut faire l'objet d'aucun recours dans le canton de Genève (cf. arrêts 2C_230/2010 du 12 avril 2011 consid. 1.1 et 8C_184/2008 du 3 octobre 2008 consid. 1). Il est dès lors directement attaquable par un recours en matière de droit public au Tribunal fédéral (art. 82 let. b et 87 al. 1 LTF), étant précisé que la liste d'exceptions de l'<ref-law> ne s'applique pas aux recours formés contre des actes normatifs (arrêts 2C_88/2009 du 19 mars 2010 consid. 1.1 et 2C_230/2010 du 12 avril 2011 consid. 1.1).
1.2 Selon la jurisprudence, lorsque la contestation a pour objet un acte normatif (contrôle abstrait), l'intérêt personnel requis pour fonder la qualité pour recourir au sens de l'<ref-law> peut être simplement virtuel; il suffit qu'il existe un minimum de vraisemblance que le recourant soit un jour soumis aux dispositions querellées; un intérêt de fait est suffisant (<ref-ruling> consid. 1.2 p. 246; <ref-ruling> consid. 1.4 p. 47; <ref-ruling> consid. 2.2 p. 290). A cet égard, une association est habilitée à recourir même si elle n'est pas directement touchée par l'acte entrepris, pourvu qu'elle ait la personnalité juridique, que la défense des intérêts de ses membres figure dans ses buts statutaires, et que la majorité de ceux-ci ou du moins une grande partie d'entre eux soient personnellement touchés par l'acte attaqué (cf. <ref-ruling> consid. 1.2.1 p. 30; arrêt 8C_184/2008 du 3 octobre 2008 consid. 2.1).
En l'espèce, l'Ordre des avocats de Genève est une association organisée de manière corporative (cf. art. 1er de ses statuts) qui a notamment pour but statutaire de défendre la profession d'avocat et de sauvegarder les intérêts de ceux qui l'exercent, ainsi que d'étudier toutes questions juridiques et d'ordre professionnel (cf. art. 2 ch. 4 et 6 des statuts); cette association a manifestement qualité pour recourir, attendu que la plupart de ses membres sont potentiellement directement concernés par la norme attaquée qui fixe l'indemnité de l'avocat d'office dans le canton de Genève. Cette qualité doit également être reconnue individuellement à Mes X._ et X._, qui pratiquent tous deux la profession d'avocat et sont inscrits au barreau de Genève (cf. arrêt 4C_2/2011 du 17 mai 2011 consid. 3 non publié à l'<ref-ruling>).
1.3 Aux termes de l'<ref-law>, le recours contre un acte normatif doit être interjeté dans un délai de 30 jours à compter de sa publication selon le droit cantonal.
En l'occurrence, le RAJ/GE a été publié dans la FAO du 4 août 2010. Compte tenu de la suspension des délais pendant les féries judiciaires d'été (<ref-law>), l'acte de recours, remis à la poste le 14 septembre 2010, a donc été déposé en temps utile.
Le canton de Genève objecte que le recours est tardif et donc irrecevable, car les art. 16 al. 1 et 16 al. 3 RAJ/GE ont matériellement la même teneur que les art. 19 al. 1 et 19 al. 2 aRAJ/GE, si bien que les griefs des recourants auraient déjà pu et dû être soulevés lors de l'adoption du précédent règlement. Selon la jurisprudence, lorsque le législateur reprend dans une nouvelle loi (ou un nouveau règlement) la teneur d'une ancienne réglementation, il assume le risque d'un recours sur l'ensemble des nouvelles dispositions, même si, sur les points contestés, le nouveau droit n'apporte pas de changement par rapport à l'ancien (cf. <ref-ruling> consid. 3.1.1 p. 31; <ref-ruling> consid. 1b et 1c p. 130 s.). Ce n'est qu'en présence de la révision partielle d'une loi que, pour les dispositions demeurées inchangées, il est nécessaire que ces dernières s'inscrivent dans un cadre nouveau, compte tenu des modifications apportées, pour justifier l'ouverture d'un nouveau délai de recours permettant leur contrôle abstrait (cf. <ref-ruling> consid. 3.1.1 p. 31; <ref-ruling> consid. 1b p. 224 s.; <ref-ruling> consid. 1d p. 12). Tel n'est pas le cas en l'espèce, puisque la disposition attaquée figure dans un règlement entièrement nouveau. Partant, le motif d'irrecevabilité invoqué par le canton de Genève est infondé.
1.4 En vertu du principe de l'allégation déduit de l'<ref-law>, le Tribunal fédéral n'examine que les griefs constitutionnels invoqués et motivés de manière précise dans le recours (cf. <ref-ruling> consid. 1.3.1 p. 68; <ref-ruling> consid. 1.3 p. 316 et les arrêts cités).
Les recourants concluent à l'annulation de l'art. 16 al. 1 et 3 RAJ/GE, en raison de l'inconstitutionnalité de cette disposition. Bien qu'ils demandent d'annuler l'art. 16 al. 1 RAJ/GE dans son entier, ils ne s'en prennent toutefois qu'au tarif horaire de 200 fr. prévu à la lettre a de cette disposition, sans discuter les autres rubriques du tarif ni même dire en quoi leurs critiques seraient, le cas échéant, pareillement valables à cet égard. Faute de motivation topique à l'appui des lettres a (avocat stagiaire) et b (collaborateur) de l'art. 16 al. 1 RAJ/GE, le recours est donc irrecevable sur ces points. C'est sous cette réserve qu'il convient d'entrer en matière.
2. Les recourants soutiennent que le montant de 200 fr. prévu à l'art. 16 al. 1 let. c RAJ/GE est arbitrairement bas et viole leur liberté économique.
2.1 Jusqu'à récemment, la jurisprudence rendue en lien avec le principe de l'interdiction de l'arbitraire (art. 9 Cst.; art. 4 aCst.) considérait que la rémunération de l'avocat d'office - tenu par le droit fédéral d'accepter les mandats d'office dans le canton au registre duquel il est inscrit (cf. art. 12 let. g LLCA) - pouvait être inférieure à celle du défenseur choisi, à condition toutefois d'être équitable, par quoi il fallait comprendre qu'elle devait au moins couvrir les frais généraux (cf., parmi d'autres références, <ref-ruling> consid. 3a p. 2 s. et les arrêts cités).
Dans une affaire argovienne jugée le 6 juin 2006 (<ref-ruling> consid. 8.5 et 8.6 p. 216 s.), le Tribunal fédéral a quelque peu modifié sa jurisprudence. Il a précisé que, pour être compatible avec l'interdiction de l'arbitraire et, indirectement, avec la garantie de la liberté économique (art. 27 Cst.), l'indemnité équitable ("angemessene Entschädigung") doit non seulement couvrir les frais généraux de l'avocat, mais aussi lui permettre d'obtenir un revenu modeste, qui ne soit pas uniquement symbolique. Se fondant sur les résultats d'une étude de 2005 commandée par la Fédération suisse des avocats (FSA) à l'Université de Saint-Gall (ci-après citée: le rapport FSA 2005), partiellement publiée par URS FREY/HEIKO BERGMANN (Bericht: Studie Praxiskosten des schweizerischen Anwaltsverbandes, Saint-Gall 2005), le Tribunal fédéral a ensuite constaté que les avocats indépendants consacrant moins d'un cinquième de leur temps à des mandats d'office devaient, en 2003, supporter des frais généraux d'environ 146 fr. par heure de travail facturable, contre des frais généraux de 114 fr. par heure facturable pour les avocats occupés pour plus d'un cinquième de leur temps à des mandats d'office; après avoir indexé ces montants au coût de la vie de 2006 (soit respectivement 150 fr. et 117 fr.), il a estimé que la valeur moyenne, en Suisse, des frais généraux des avocats s'élevait à environ 130 fr. par heure facturable pour 2006. Sur cette base, il a retenu que l'indemnité devait correspondre, pour être équitable, au moins à un tarif horaire d'environ 180 fr., sous réserve de situations particulières cantonales pouvant justifier l'octroi d'un montant plus haut ou plus bas. Il a en effet considéré qu'avec une telle rémunération, les avocats exécutant souvent des mandats d'office et ayant en général des frais généraux en-dessous de la moyenne à cause d'une infrastructure plus modeste, pouvaient réaliser un gain de 60 à 70 fr. par heure, contre un gain d'environ 30 fr. pour les autres avocats; bien que faible, ce dernier montant était néanmoins acceptable, car les mandats d'office ne représentaient, pour cette catégorie d'avocats, qu'une activité très accessoire (cf. <ref-ruling>, spécial. consid. 7.5.2 et 8.7 p. 212 s. et p. 217 s.).
2.2 Les recourants estiment que, compte tenu de la notoire cherté de la vie à Genève, le tarif horaire de 200 fr. prévu à l'art. 16 al. 1 let. c RAJ/GE ne constitue pas une "indemnité équitable" au sens de la jurisprudence rappelée ci-avant. A l'appui de leur point de vue, ils produisent une publication du Crédit Suisse de novembre 2008, intitulée "Le revenu disponible en Suisse. Où la vie est-elle la moins chère ?". S'appuyant sur cette étude, ils affirment que "le canton de Genève affiche le revenu librement disponible par ménage le plus bas de Suisse, en raison d'une charge fiscale supérieure à la moyenne, du coût élevé du logement et des primes d'assurance-maladie les plus chères du pays"; ils ajoutent que, "dans les cantons de Genève, Vaud et des deux Bâle, les ménages souffrent tant de frais fixes supérieurs à la moyenne que de prélèvements obligatoires plus élevés."
La cherté de la vie à Genève est un fait certes notoire mais qui, à lui seul, ne permet pas d'apprécier la constitutionnalité du tarif litigieux. En particulier, ce fait n'autorise aucune conclusion un tant soit peu précise quant à la quotité des frais généraux supplémentaires que doivent prétendument, selon les recourants, supporter les études genevoises par rapport à la moyenne suisse. On peut seulement inférer d'une telle donnée que le canton de Genève doit fixer un tarif horaire plus élevé que le montant de 180 fr. préconisé en 2006 à l'<ref-ruling> (moyenne suisse). Or, tel est bien le cas en l'espèce, dans la mesure où l'art. 16 al. 1 let. c RAJ/GE prévoit un montant de 200 fr. La différence apparaît certes modeste (11 % de plus ou 7 % de plus si l'on tient compte de l'augmentation du coût de la vie depuis 2006), sans que l'on puisse toutefois qualifier le tarif litigieux d'inéquitable au sens de la jurisprudence, en l'absence d'autres éléments plus précis qu'il appartient aux recourants d'apporter (cf. supra consid. 1.4).
2.3 Pour toute démonstration chiffrée à l'appui de leur point de vue, les recourants font valoir qu'en principe, les "honoraires de base" d'un avocat se montent, à Genève, à 400 fr. de l'heure. Ils infèrent de ce tarif que les frais généraux par heure facturée oscillent entre 160 et 200 fr. (soit entre 40 et 50 % du tarif).
Il est vrai que la jurisprudence a parfois déterminé de manière empirique les frais généraux supportés par l'avocat, en retenant que ceux-ci étaient compris dans une fourchette de 40 à 50 % du tarif pratiqué dans le canton concerné (cf. <ref-ruling> consid. 3e p. 112 in fine; pour le canton de Genève, cf. arrêt 1P.653 du 31 janvier 1996, consid. 3 publié in SJ 1996 p. 667). Toutefois, le montant de 130 fr. par heure facturable qui a été déterminé à l'<ref-ruling> (moyenne suisse) est fondé sur des données plus précises qu'une simple approche empirique. Par ailleurs, cet arrêt souligne que, sous l'angle constitutionnel, le caractère équitable, ou non, d'une indemnité, dépend d'abord et avant tout de la situation des avocats accomplissant souvent des mandats d'office (soit à raison de plus de 20 % de leur activité) qui représentent une minorité des avocats prenant de tels mandats (un quart); en effet, les premiers doivent supporter des frais généraux moins élevés que leurs confrères, grâce à une infrastructure moins onéreuse et à des charges en personnel inférieures (cf. <ref-ruling> consid. 7.5.2 et 8.7 p. 212 s. et 217 s.); or, la méthode de calcul empirique proposée par les recourants ne tient nullement compte de cet aspect. En conséquence, les recourants ne peuvent rien tirer en leur faveur du tarif horaire genevois de 400 fr. que peut appliquer un avocat librement choisi.
Du reste, dans un arrêt publié, la jurisprudence a récemment clarifié que, même si deux précédents jugés après 2006 pouvaient laisser supposer le contraire, on ne saurait déduire des principes énoncés à l'<ref-ruling> que l'indemnité de l'avocat d'office doit (au moins) s'élever à 60 % du tarif usuel des avocats du canton concerné (<ref-ruling> consid. 5.3 p. 189 s.). Dans cette affaire, le Tribunal fédéral a considéré comme équitable l'indemnité fondée sur un tarif horaire de 180 fr. prévue dans le canton de Vaud; il a en effet constaté que les frais généraux moyens (valeur médiane) n'étaient pas sensiblement plus élevés dans ce canton que dans le reste du pays, notamment de la Suisse romande, et que le renchérissement d'environ 3 % intervenu depuis 2006 ne rendait pas ce tarif insoutenable (<ref-ruling> consid 5.4 p. 190 s.).
2.4 En résumé, tels qu'exposés, les griefs des recourants ne sont pas propres à démontrer l'inconstitutionnalité de l'art. 16 al. 1 let. c RAJ/GE. Tout au plus peut-on inférer de la cherté notoire de la vie à Genève que l'indemnité litigieuse, d'un montant de 200 fr., constitue un minimum si l'ont tient compte du montant de 180 fr. préconisé par l'<ref-ruling> en 2006 (moyenne nationale) et de l'augmentation des prix intervenue depuis lors (entre 3 et 4 %).
3. Il reste à examiner la constitutionnalité de l'art. 16 al. 3 RAJ/GE, qui prévoit la réduction de 15 % du tarif horaire prévu à l'art. 16 al. 1 RAJ/GE pour le montant de l'indemnité qui dépasse 5'000 fr. Attendu que le tarif litigieux de 200 fr. de l'heure se situe, dans le canton de Genève, dans la limite inférieure de ce qui est constitutionnellement admissible, seuls des motifs particulièrement importants peuvent, le cas échéant, autoriser de descendre en-dessous d'un tel seuil.
Pour justifier la réduction de 15 %, le canton de Genève expose que, dans la pratique, les avocats de choix doivent souvent, afin de tenir compte des possibilités financières parfois réduites de leurs clients, baisser le tarif usuel de 400 fr. de l'heure à partir d'un certain nombre d'heures facturées. La réduction réglementaire litigieuse se justifierait donc afin qu'un avocat dont le client est au bénéfice de l'assistance judiciaire ne soit pas "mieux placé" que s'il était mandaté par un client ne pouvant prétendre à une telle aide. Cet argument est dénué de pertinence. On ne saurait en effet comparer la situation d'un avocat d'office contraint de supporter la réduction d'un tarif horaire lui assurant une indemnité équitable, avec la situation d'un avocat de choix opérant une réduction sur un tarif horaire de 400 fr. correspondant aux honoraires usuels.
De même ne peut-on suivre le canton de Genève lorsque, sous couvert d'examiner la rémunération des avocats dans sa globalité, il prétend que ceux-ci peuvent en quelque sorte rattraper le faible niveau de rémunération qu'ils perçoivent pour les mandats d'office, en facturant, lorsqu'ils assument des mandats de choix, à un tarif libre les heures effectuées dans de telles affaires par leurs stagiaires ou leurs collaborateurs; d'une part, il s'agit là davantage d'une conjecture que d'une argumentation solidement étayée; d'autre part, un tel raisonnement revient à vider de sa substance la notion d'indemnité équitable qui, depuis l'<ref-ruling>, repose sur l'idée que, même pour des mandats d'office, l'avocat doit pouvoir obtenir une certaine rémunération pour son travail, sans égard à ses autres sources de revenu.
Partant, les motifs invoqués par le canton de Genève ne sont pas de nature à justifier, lorsque l'indemnité dépasse 5'000 fr., de descendre au-dessous du seuil que représente le tarif litigieux de 200 fr. de l'heure. Le recours est bien fondé sur ce point.
4. Il suit de ce qui précède que, dans la mesure où il est recevable, le recours est partiellement admis, en ce sens qu'il se justifie d'annuler l'art. 16 al. 3 RAJ/GE. Le recours est rejeté pour le surplus.
Compte tenu de l'issue du litige, les frais judiciaires sont mis à raison de 3/5ème à la charge des recourants, solidairement entre eux (cf. art. 66 al. 1 et 5 LTF), et de 2/5ème à la charge du canton de Genève (cf. <ref-law> a contrario). Le canton de Genève versera des dépens réduits aux recourants, qui sont créanciers solidaires (cf. art. 68 al. 1, 2 et 4 LTF en lien avec l'<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Dans la mesure où il est recevable, le recours est partiellement admis, en ce sens que l'art. 16 al. 3 RAJ/GE est annulé. Le recours est rejeté pour le surplus.
2. Les frais judiciaires, arrêtés à 5'000 fr., sont mis à raison de 3'000 fr. à la charge des recourants, solidairement entre eux, et de 2'000 fr. à la charge du canton de Genève.
3. Le canton de Genève versera aux recourants, créanciers solidaires, une indemnité à titre de dépens de 2'000 fr.
4. Le présent arrêt est communiqué au mandataire des recourants et au Conseil d'Etat du canton de Genève.
Lausanne, le 31 octobre 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Addy