Faits:
A. Par écriture parvenue au Tribunal fédéral le 2 février 2011, la Communauté genevoise d'action syndicale (CGAS), le Syndicat interprofessionnel de travailleuses et travailleurs (SIT), A.X._ et B.X._ ont formé un recours en matière de droit public dans lequel ils reprochent au Conseil d'Etat du canton de Genève d'avoir adopté certaines dispositions du règlement du 22 décembre 2010 fixant le tarif des frais en matière civile (RTFMC; RS/GE E 1 05.10; ci-après aussi: le règlement) en violation de l'art. 15 al. 3 let. c et d de la loi genevoise du 28 novembre 2010 d'application du code civil suisse et autres lois fédérales en matière civile (LaCC; RS/GE E 1 05; ci-après aussi: la loi).
Dans sa teneur en vigueur jusqu'au 26 septembre 2011, l'art. 15 LaCC disposait ce qui suit:
"Art. 15 Frais de justice
1 Dans les procédures dont la gratuité n'est pas prévue par la loi, les juridictions prélèvent des frais de justice, lesquels comprennent des frais et des émoluments forfaitaires en couverture de leurs prestations. L'avance de ces frais de justice peut être exigée.
2 Les frais correspondent aux coûts effectifs des actes concernés.
3 Les émoluments forfaitaires sont calculés en fonction de la valeur litigieuse, s'il y a lieu, de l'ampleur et de la difficulté de la cause. Ils sont fixés en règle générale :
a) entre 200 F et 5 000 F pour la juridiction gracieuse;
b) entre 100 F et 200 F pour l'émolument de conciliation;
c) entre 200 F et 10 000 F pour l'émolument de décision dans les causes soumises à la juridiction des prud'hommes, lorsque la valeur litigieuse excède 75 000 F devant le Tribunal des prud'hommes et 50 000 F devant la chambre des prud'hommes de la Cour de justice;
d) entre 200 F et 100 000 F pour l'émolument de décision dans les autres causes.
4 Si des motifs particuliers le justifient, ces émoluments peuvent être majorés, mais au plus jusqu'au double de leurs montants.
5 Une fois calculés, ces émoluments peuvent être supprimés ou réduits pour tenir compte des efforts des parties de régler leur différend à l'amiable ou si d'autres motifs particuliers le justifient.
6 Le Conseil d'Etat établit et publie un tarif des frais et émoluments perçus pour les opérations conduites devant les juridictions."
Le 27 mai 2011, l'art. 15 al. 3 let. d LaCC a été modifié avec effet au 27 septembre 2011. Il a désormais la teneur suivante :
"d) entre 200 F et 100 000 F pour l'émolument de décision dans les autres causes lorsque la valeur litigieuse n'excède pas 10 000 000 F, respectivement entre 100 000 F et 200 000 F lorsque la valeur litigieuse excède ce montant."
Intitulé "Gratuité", l'art. 17 LaCC dispose qu'il n'est pas prélevé de frais dans les causes soumises à la juridiction des baux et loyers (al. 1). D'après l'al. 2, il n'est pas alloué de dépens ni d'indemnité pour la représentation en justice dans les causes soumises à la juridiction des prud'hommes. Selon l'al. 3, il n'est pas prélevé de frais judiciaires, ni alloué de dépens à la charge de l'assuré, dans les causes portant sur les assurances complémentaires à l'assurance-accidents et à l'assurance-maladie obligatoires.
Les normes contestées du RTFMC sont les suivantes:
"Art. 17 Causes pécuniaires
L'émolument forfaitaire de décision est fixé comme suit :
Valeur litigieuse Emolument
- jusqu'à 10 000 F de 500 F à 2 000 F
- de 10 001 F à 30 000 F de 1 000 F à 3 000 F
- de 30 001 F à 100 000 F de 2 000 F à 8 000 F
- de 100 001 F à 1 000 000 F de 5 000 F à 30 000 F
- dès 1 000 001 F à 10 000 000 F de 20 000 F à 100 000 F
- dès 10 000 001 F de 100 000 F à 200 000 F
Art. 18 Causes non pécuniaires
L'émolument forfaitaire de décision est fixé entre 500 F et 50 000 F.
[...]
Chapitre II Tribunal des prud'hommes
Art. 69 Causes pécuniaires
L'émolument forfaitaire de décision est fixé comme suit :
Valeur litigieuse Emolument
- de 75 001 F à 100 000 F de 500 F à 2 000 F
- de 100 001 F à 300 000 F de 1 000 F à 3 000 F
- de 300 001 F à 1 000 000 F de 2 000 F à 8 000 F
- dès 1 000 001 10 000 F
Art. 70 Causes non pécuniaires
L'émolument forfaitaire de décision est fixé entre 100 F et 10 000 F.
Chapitre III Chambre des prud'hommes de la Cour de justice
Art. 71 Causes pécuniaires
L'émolument forfaitaire de décision est fixé comme suit :
Valeur litigieuse Emolument
- de 50 001 F à 100 000 F de 500 F à 2 000 F
- de 100 001 F à 300 000 F de 1 000 F à 3 000 F
- de 300 001 F à 1 000 000 F de 2 000 F à 8 000 F
- dès 1 000 001 F 10 000 F
Art. 72 Causes non pécuniaires
L'émolument forfaitaire de décision est fixé entre 300 F et 10 000 F."
Les recourants concluent à l'annulation des art. 17, 18, 69, 70, 71 et 72 RTFMC, sous suite de frais et dépens.
B. Appelé à se déterminer, le Conseil d'Etat a conclu dans une écriture du 24 mars 2011 au rejet du recours, sous suite de frais. Répliquant, les recourants ont maintenu leurs conclusions (courrier du 16 mai 2011).
Au vu de la modification de l'art. 15 al. 3 let. d LaCC, un nouvel échange d'écritures a été effectué.
Dans sa détermination du 28 mars 2012, le Conseil d'Etat a considéré que le grief soulevé par les recourants au sujet de la conformité de l'art. 17 RTFMC à l'art. 15 al. 3 let. d LaCC était devenu sans objet avec la modification de cette dernière disposition. Il a maintenu ses conclusions pour le surplus.
Dans une écriture du 16 avril 2012, les recourants ont de même relevé que l'art. 17 RTFMC dispose désormais d'une base légale, en soulignant que ce n'était pas le cas lors du dépôt du recours. Pour le reste, la modification de l'art. 15 al. 3 let. d LaCC était dépourvue de portée s'agissant des autres griefs soulevés, que les recourants ont maintenus intégralement.
Considérant en droit:
1. Le Tribunal fédéral examine d'office sa compétence (art. 29 al. 1 LTF) et contrôle librement la recevabilité des recours qui lui sont soumis (ATF 136 II 101 consid. 1 p. 103).
1.1 Hormis le recours en matière de droits politiques qui n'entre pas en ligne de compte en l'occurrence, le Tribunal fédéral connaît, en vertu de l'art. 82 LTF, notamment des recours contre les actes normatifs cantonaux (let. b). Il peut être saisi directement d'un recours contre un tel acte, lorsque celui-ci ne peut faire l'objet d'un recours cantonal préalable (art. 87 al. 1 LTF), comme cela est le cas dans le canton de Genève (cf. arrêts 2C_1016/2011 du 3 mai 2012 destiné à la publication consid. 6.1; 2C_230/2010 du 12 avril 2011 consid. 1.1, non pub. in ATF 137 I 167; ATF 135 V 309 consid. 1.1 p. 312). La liste d'exceptions de l'art. 83 LTF ne s'appliquant pas aux recours contre des actes normatifs (arrêt 2C_88/2009 du 19 mars 2010 consid. 1.1), le RTFMC
est directement attaquable par un recours en matière de droit public auprès du Tribunal fédéral.
1.2 Le recours a été formé en temps utile (cf. art. 101 LTF), soit, s'agissant d'un acte soumis au référendum facultatif, dans les 30 jours dès la publication de la décision de promulgation par laquelle le Conseil d'Etat a constaté que le délai référendaire avait expiré sans avoir été utilisé (cf. ATF 136 I 241 consid. 1.2.1 p. 246; 133 I 286 consid. 1 p. 288). En outre, les recourants sont des personnes physiques, ainsi que, s'agissant de la Communauté genevoise d'action syndicale et du Syndicat interprofessionnel de travailleuses et travailleurs, des associations au sens des art. 60 ss CC. En tant que telles, ces personnes sont toutes susceptibles d'avoir recours à la justice civile et sont donc potentiellement touchées par les normes contestées, ce qui suffit pour admettre leur qualité pour agir à l'encontre du RTFMC sous l'angle de l'art. 89 al. 1 LTF (cf. ATF 133 I 286 consid. 2.2 p. 290; arrêts 1C_491/2009 du 2 juin 2010 consid. 1.2.2; 2C_88/2009 du 19 mars 2010 consid. 2.1). Il convient donc d'entrer en matière.
1.3 Le recours doit être motivé (art. 42 al. 1 LTF) et sa motivation doit exposer succinctement en quoi l'acte attaqué viole le droit (art. 42 al. 2 LTF). Notamment pour les griefs de violation des droits constitutionnels et du droit cantonal, les exigences de motivation sont accrues. Conformément à l'art. 106 al. 2 LTF qui reprend le principe de l'allégation, l'acte de recours doit, à peine d'irrecevabilité, contenir un exposé succinct des droits constitutionnels ou des principes juridiques violés et préciser en quoi consiste la violation (ATF 134 II 244 consid. 2.2 p. 246; 134 I 65 consid. 1.3 p. 67; 134 V 138 consid. 2.1 p. 143). En l'occurrence, sous réserve des considérations ci-après, le recours satisfait globalement aux exigences de motivation qui viennent d'être rappelées.
1.4 Lorsque, comme en l'espèce, il se prononce dans le cadre d'un contrôle abstrait de normes, le Tribunal fédéral n'annule les dispositions cantonales attaquées que si celles-ci ne se prêtent à aucune interprétation conforme au droit constitutionnel ou si, en raison des circonstances, leur teneur fait craindre avec une certaine vraisemblance qu'elles soient interprétées de façon contraire à la Constitution (ATF 134 I 293 consid. 2 p. 295, 269 consid. 6.6 p. 285).
2. 2.1 Les recourants considèrent que les normes ci-dessus mentionnées ont été adoptées par le Conseil d'Etat en violation des principes de la séparation des pouvoirs et de la légalité. Ils discernent une telle violation d'abord dans le fait que les art. 17, 18, 69 et 71 RTFMC prévoient un émolument plancher de 500 fr., alors que le législateur a prévu, à l'art. 15 al. 3 let. c et d LaCC, un émolument minimal de 200 fr.
2.2 Le principe de la séparation des pouvoirs est garanti, au moins implicitement, par toutes les constitutions cantonales; il représente un droit constitutionnel dont peut se prévaloir le citoyen. Ce principe assure le respect des compétences établies par la Constitution cantonale. Il appartient donc en premier lieu au droit public cantonal de fixer les compétences des autorités (ATF 134 I 322 consid. 2.2 p. 326, 269 consid. 3.3.2 p. 274 et les références citées). Le principe de la séparation des pouvoirs interdit à un organe de l'Etat d'empiéter sur les compétences d'un autre organe; en particulier, il interdit au pouvoir exécutif d'édicter des règles de droit, si ce n'est dans le cadre d'une délégation valablement conférée par le législateur (ATF 134 I 322 consid. 2.2 p. 326 et les références).
Sans être expressément consacré en droit genevois (sauf en ce qui concerne l'indépendance du pouvoir judiciaire, posée à l'art. 130 de la Constitution de la République et canton de Genève du 24 mai 1847 [Cst./GE; RS/GE A 2 00]), le principe de la séparation des pouvoirs découle notamment de l'art. 116 Cst./GE, selon lequel le Conseil d'Etat promulgue les lois, est chargé de leur exécution et prend à cet effet les règlements et arrêtés nécessaires (cf. arrêt 2C_1016/2011, précité, consid. 4.1). Pour le surplus, c'est à la lumière des principes constitutionnels généraux qu'il y a lieu de définir les limites de l'activité réglementaire du Conseil d'Etat (ATF 134 I 322 consid. 2.3 p. 326 s.). Comme le prévoit l'art. 116 Cst./GE, le Conseil d'Etat est chargé en premier lieu d'édicter les règlements d'exécution des lois adoptées par le Grand Conseil. Ceux-ci ne peuvent contenir que des règles secondaires, qui ne font que préciser ce qui se trouve déjà dans la loi (ATF 134 I 322 consid. 2.4 p. 327 et les arrêts cités; arrêt 2C_649/2011 du 5 avril 2011 consid. 2.2). La règle selon laquelle le pouvoir exécutif ne peut édicter des dispositions qui devraient figurer dans une loi connaît cependant des exceptions: des compétences législatives peuvent être déléguées à l'exécutif ou découler directement de la Constitution (cf. ATF 134 I 269 consid. 4.2 p. 279; arrêt 2C_1016/2012, précité, consid. 4.1).
2.3 Le principe de la légalité gouverne l'ensemble de l'activité de l'État (cf. art. 36 al. 1 Cst.). Il revêt une importance particulière en droit fiscal où il est érigé en droit constitutionnel indépendant à l'art. 127 al. 1 Cst. Cette norme - qui s'applique à toutes les contributions publiques, tant fédérales que cantonales ou communales - prévoit en effet que les principes généraux du régime fiscal, notamment la qualité de contribuable, l'objet de l'impôt et son mode de calcul, doivent être définis par la loi. Si cette dernière délègue à l'organe exécutif la compétence d'établir une contribution, la norme de délégation ne peut constituer un blanc-seing en faveur de cette autorité; elle doit indiquer, au moins dans les grandes lignes, le cercle des contribuables, l'objet et la base de calcul de cette contribution. Sur ces points, la norme de délégation doit être suffisamment précise (exigence de la densité normative; ATF 135 I 130 consid. 7.2 p. 140; 131 II 271 consid. 6.1 p. 278). Il importe en effet que l'autorité exécutive ne dispose pas d'une marge de manoeuvre excessive et que les citoyens puissent cerner les contours de la contribution qui pourra être prélevée sur cette base (ATF 126 I 180 consid. 2a/bb p. 183). Le Tribunal fédéral examine librement si la norme de délégation en cause satisfait aux exigences précitées (ATF 135 I 130 consid. 7.2 p. 140 et les références; arrêt 2C_615/2010 du 24 novembre 2010 consid. 3.2).
2.4 En l'occurrence, le RTFMC ne respecte pas la limite inférieure ("émolument plancher") des fourchettes établies par l'art. 15 al. 3 LaCC, hors situations exceptionnelles. En effet, alors que l'art. 15 al. 3 LaCC fixe le minimum - hors procédure de conciliation - de l'émolument à 200 fr., le règlement le porte à 500 fr. Dans sa détermination du 24 mars 2011, le Conseil d'Etat justifie cette différence en ces termes:
"Cette conclusion [prise par les recourants] fait peu de cas de la possibilité largement offerte par l'art. 7 du règlement attaqué de réduire, voire de renoncer à l'émolument issu des articles querellés, notamment en réponse à des considérations d'équité, ou encore en présence de particularités, comme des facteurs de simplification de la procédure.
Le règlement a été conçu comme un guide permettant au justiciable d'anticiper un émolument 'standard' de 500 F en cas de procès simples et brefs d'une valeur litigieuse supérieure à 75'000 F ou à 50'000 F, cela sans préjudice des cas où le procès serait particulièrement simple et justifierait un émolument de 200 F, voire plus modeste encore.
Une autre solution eût certes été de reprendre dans le règlement le montant de 200 F figurant dans la loi mais au risque de ne l'appliquer que relativement rarement. En tout état, la grande liberté laissée au juge par la loi - qui est une forme de délégation - se retrouve pleine et entière au niveau du règlement".
L'art. 7 RTFMC auquel le Conseil d'Etat se réfère a la teneur suivante:
"Art. 7 Réduction de l'émolument
1 Lorsqu'une cause est retirée, transigée, déclarée irrecevable, jointe à une autre cause ou lorsque l'équité le justifie, l'émolument minimal peut être réduit, au maximum à concurrence des 3⁄4, mais, en principe, pas en deçà d'un solde de 1 000 F.
2 Lorsque des circonstances particulières le justifient, il peut être entièrement renoncé à la fixation d'un émolument."
L'argumentation du Conseil d'Etat méconnaît le fait que l'art. 7 RTFMC n'est applicable - hormis les cas où la cause connaît un sort particulier (retrait du recours, transaction, irrecevabilité du recours, jonction avec une autre affaire) - que lorsque "l'équité le justifie". Ainsi, selon le règlement, le juge qui entend fixer l'émolument à un montant compris entre 500 et 200 fr. (cette dernière somme représentant le minimum légal) doit le justifier en faisant application de l'art. 7 RTFMC, alors que, d'après l'art. 15 al. 3 LaCC, il peut le faire sans autre justification. Dans la mesure où ils imposent, afin de fixer l'émolument à un montant compris entre 200 et 500 fr., de justifier une réduction de ce dernier en vertu de l'art. 7 RTFMC, les art. 17, 18, 69 et 71 RTFMC s'écartent de la loi en violation du principe de la légalité. A cet égard, le recours est donc bien fondé.
3. 3.1 Dans un deuxième grief, les recourants ont fait valoir que l'art. 17 RTFMC prévoit un émolument forfaitaire de décision de 100'000 à 200'000 fr. dans les causes pécuniaires dont la valeur litigieuse est supérieure à 10'000'000 fr., alors que le législateur a prévu à l'art. 15 al. 3 let. d LaCC (dans sa teneur en vigueur jusqu'au 26 septembre 2011) un émolument maximal de 100'000 fr.
Le Conseil d'Etat a observé que, selon l'art. 15 al. 4 LaCC, si des motifs particuliers le justifient, les émoluments prévus par le règlement peuvent être majorés, mais au plus jusqu'au double de leurs montants. Dès lors que, pour une valeur litigieuse supérieure à 10'000'000 fr., le législateur a prévu un émolument maximal de 100'000 fr., l'art. 17 RTFMC respecterait la norme de délégation en retenant, pour de telles sommes, des émoluments compris entre 100'000 et 200'000 fr. Le Conseil d'Etat se prévaut en outre de l'art. 6 RTFMC, dont la teneur est la suivante:
"Art. 6 Majoration de l'émolument
Si des circonstances particulières le justifient, l'émolument peut être majoré jusqu'à concurrence du double du montant maximal. Tel est notamment le cas lorsque la cause a impliqué un travail particulièrement important, lorsque la valeur litigieuse est très élevée, lorsqu'une partie a formé des prétentions ou usé de moyens de défense manifestement excessifs ou encore lorsqu'elle a, de par son attitude, compliqué la procédure."
3.2 Le grief était fondé jusqu'à la modification de l'art. 15 al. 3 let. d LaCC, entrée en vigueur le 27 septembre 2011. En effet, jusqu'à cette date, la disposition en question fixait l'émolument maximal à 100'000 fr. L'art. 15 al. 4 LaCC - dont la teneur n'a pas changé - permettait de majorer l'émolument, jusqu'au double des montants prévus, si des motifs particuliers le justifiaient. Concrètement, un plaideur devait s'attendre, sur la base de la loi, à payer en principe 100'000 fr. et au maximum 200'000 fr. en présence de circonstances particulières pour les causes dont la valeur litigieuse dépassait 10'000'000 fr. Or, le règlement prévoit déjà un émolument ordinaire allant de 100'000 à 200'000 fr. pour de telles causes, retenant en plus à son art. 6 que l'émolument peut être majoré jusqu'à concurrence du double du montant maximal dans des circonstances particulières, soit, potentiellement, jusqu'à 400'000 fr.
La novelle du 27 mai 2011 a toutefois modifié l'art. 15 al. 3 let. d LaCC en ce sens que l'émolument maximal a été porté à 200'000 fr. pour les causes dont la valeur litigieuse excède 10'000'000 fr. Dès lors, l'art. 17 RTFMC respecte désormais le cadre légal. Partant, le recours doit être rejeté sur ce point, au vu de la modification légale intervenue entre-temps.
4. 4.1 Dans un troisième grief, les recourants s'en prennent aux art. 70 et 72 RTFMC. Ils font valoir que ces normes prévoient des émoluments forfaitaires de décision dans les causes non pécuniaires ressortissant au Tribunal des prud'hommes et à la Chambre des prud'hommes de la Cour de justice, alors que le législateur n'a prévu à l'art. 15 al. 3 let. c LaCC des émoluments judiciaires dans les causes soumises à ces juridictions que lorsque la valeur litigieuse excède 75'000 fr. en première instance et 50'000 fr. en deuxième instance. Ils en déduisent a contrario qu'aucun émolument forfaitaire ne peut être perçu dans les autres causes relevant de la juridiction des prud'hommes, à savoir dans les causes pécuniaires dont la valeur litigieuse est inférieure aux montants précités, ainsi que dans les causes non pécuniaires. Ils en concluent qu'en prévoyant aux art. 70 et 72 RTFMC, pour les causes non pécuniaires soumises à la juridiction des
prud'hommes, un émolument forfaitaire de décision allant de 100 à 10'000 fr. en première instance et de 300 à 10'000 fr. en deuxième instance, le Conseil d'Etat n'a pas respecté le principe de la séparation des pouvoirs.
Dans sa détermination du 24 mars 2011, le Conseil d'Etat admet le bien-fondé de l'argument a contrario s'agissant des causes pécuniaires: en-dessous des valeurs litigieuses de respectivement 75'000 et 50'000 fr., il n'y a pas perception d'émoluments. Il conteste en revanche cette interprétation s'agissant des causes non pécuniaires. Selon lui, le principe est que les juridictions prélèvent des frais de justice, sauf dans les procédures dont la gratuité est prévue par la loi (art. 15 al. 1 LaCC). Les règles relatives à la gratuité figurent à l'art. 17 LaCC et ne mentionnent pas les causes non pécuniaires soumises à la juridiction des prud'hommes. Il en découle que celles-ci sont soumises à émolument, lequel n'est pas prévu à l'art. 15 al. 3 let. c LaCC, mais à l'art. 15 al. 3 let. d LaCC relatif aux "autres causes".
Dans leurs contre-observations du 16 mai 2011, les recourants font valoir que l'art. 15 al. 3 let. c LaCC instaure un régime spécifique pour les causes soumises à la juridiction des prud'hommes, lesquelles sont régies uniquement par cette disposition, à l'exclusion de l'art. 15 al. 3 let. d LaCC. L'art. 15 al. 3 let. c LaCC ne prévoyant la perception d'émoluments que dans les causes pécuniaires, les art. 70 et 72 RTFMC, qui fixent les montants de ceux-ci dans les causes non pécuniaires, seraient contraires au droit supérieur.
Dans leurs écritures respectives du 28 mars et du 16 avril 2012, le Conseil d'Etat et les recourants ont campé sur leurs positions.
4.2 Dans son ancienne teneur en vigueur jusqu'au 26 septembre 2011, l'art. 15 al. 3 let. d LaCC ne contenait aucune indication sur les "autres causes", pour lesquelles des émoluments compris entre 200 et 100'000 fr. pouvaient être prélevés. En particulier, le texte légal ne disait rien du caractère pécuniaire ou non des procédures en question. La novelle du 27 mai 2011 a maintenu la fourchette précitée en précisant que celle-ci s'applique lorsque la valeur litigieuse n'excède pas 10 millions de fr. et en a introduit une nouvelle, allant de 100'000 à 200'000 fr., pour les procédures d'une valeur supérieure. Ainsi, désormais, l'art. 15 al. 3 let. d LaCC ne vise que les "autres causes" ayant une valeur litigieuse, en distinguant selon que celle-ci n'excède pas 10
millions de fr. ou est supérieure à ce montant. Partant, selon son texte, la disposition en question n'est pas applicable aux procédures non pécuniaires.
Cette interprétation est confirmée par les travaux préparatoires de la modification de l'art. 15 al. 3 let. d LaCC. Il en ressort en effet que les "autres causes", au sens de cette disposition, sont celles "soumises au tarif ordinaire", par opposition aux causes soumises à la juridiction des prud'hommes, visées par la let. c (Rapport de la Commission ad hoc Justice 2011 chargée d'étudier le projet de loi du Conseil d'Etat modifiant la loi sur l'organisation judiciaire, disponible à l'adresse «http://www.geneve.ch/grandconseil/moteurPdf.asp?typeObj= PL&numObj=10761 [consulté le 10.5.12]», p. 36 s.).
Au vu de ce qui précède, l'art. 15 al. 3 let. d LaCC dans sa nouvelle teneur ne saurait fonder la perception d'émoluments dans les causes non pécuniaires relevant de la juridiction des prud'hommes. L'art. 15 al. 3 let. c LaCC ne peut davantage servir de base légale aux art. 70 et 72 RTFMC, puisqu'il ne prévoit le prélèvement d'émoluments qu'en présence d'une valeur litigieuse (atteignant une certaine limite). L'art. 15 al. 3 let. a et b LaCC n'entrant pas non plus en ligne de compte, les art. 70 et 72 RTFMC sont ainsi dépourvus de base légale. Le recours s'avère bien fondé également en ce qui concerne les dispositions en question.
5. Les considérants qui précèdent conduisent à l'admission partielle du recours. Les art. 17, 18, 69 et 71 RTFMC sont annulés dans la mesure où ils prévoient un émolument minimal de 500 fr. Les art. 70 et 72 RTFMC sont annulés. Le recours est rejeté pour le surplus. L'annulation des dispositions précitées n'ayant pas pour effet de dénaturer le RTFMC, celui-ci peut subsister en tant que tel (cf. ATF 137 I 257 consid. 6.4 p. 272).
Il se justifie de mettre les frais à la charge du canton de Genève, dont l'intérêt patrimonial est en cause (cf. art. 66 al. 1 et 4 LTF). Le canton de Genève versera une indemnité à titre de dépens aux recourants, créanciers solidaires (cf. art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis. Les art. 17, 18, 69 et 71 du règlement du Conseil d'Etat du canton de Genève du 22 décembre 2010 fixant le tarif des frais en matière civile sont annulés dans la mesure dite dans les considérants du présent arrêt. Les art. 70 et 72 dudit règlement sont annulés.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du canton de Genève.
3. Le canton de Genève versera aux recourants, créanciers solidaires, une indemnité de 2'000 fr. à titre de dépens.
4. Le présent arrêt est communiqué au mandataire des recourants, ainsi qu'au Grand Conseil et au Conseil d'Etat du canton de Genève.
Lausanne, le 7 juin 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Vianin