Faits:
A. Depuis la conclusion de l'Accord du 21 juin 1999 entre la Confédération suisse et la Communauté européenne relatif aux échanges de produits agricoles (RS 0.916.026.81; entré en vigueur le 1er juin 2002; ci-après: l'Accord bilatéral ou l'Accord), il existait un vide juridique au sujet des vignes situées en France dans le prolongement du vignoble genevois (dites "vignes de zone"), dont la production était vinifiée en Suisse et traditionnellement considérée comme du vin genevois. Selon l'annexe 7 de l'Accord, en effet, pour être considéré comme originaire d'une des parties, le vin devait être élaboré sur le territoire de cette partie, avec le raisin récolté sur ce même territoire.
Le 28 juin 2000, le Conseil d'Etat du canton de Genève (ci-après: le Conseil d'Etat) a adopté un nouveau règlement sur les vins genevois, dont le champ d'application était limité aux vignes situées sur le territoire du canton de Genève. Une disposition transitoire (art. 69 al. 2) permettait toutefois aux vins issus des vignes situées dans la zone frontalière, dont les propriétaires ou usufruitiers sont domiciliés en Suisse, de bénéficier de l'appellation d'origine Genève ou d'une indication de provenance ou encore d'une désignation vin blanc, vin rouge, cela pendant une période de 4 ans à compter de l'entrée en vigueur dudit règlement.
A la fin 2001, la Communauté interprofessionnelle des vins de Genève (ci-après: l'Interprofession) a abordé le Conseiller d'Etat en charge du Département de l'intérieur, de l'agriculture et de l'environnement, en vue de trouver "un statut durable et économiquement viable pour la production issue de ces vignes" d'une surface totale de 140 hectares (ha) environ (courrier du 21 décembre 2001). Un groupe de travail a ainsi été constitué, qui était composé de représentants de l'administration, d'une part, et de l'Interprofession, d'autre part. Dans ce contexte, il a été procédé en 2004 à un recensement de l'ensemble des vignes situées dans la zone limitrophe française. Un rapport de synthèse a de même été établi en février 2006, qui proposait d'étendre l'aire de l'AOC Genève sur territoire français à des secteurs proches de la frontière et faisant partie d'une même entité géographique et climatique que les vignobles genevois.
Dès 2005, les autorités suisses ont entrepris des démarches en vue de modifier l'Accord bilatéral, en complétant les définitions contenues dans celui-ci par des dispositions relatives aux vignes situées dans les zones transfrontalières.
Au plan cantonal, la disposition transitoire de l'art. 69 al. 2 du règlement sur les vins genevois a été prorogée une première fois jusqu'au 31 décembre 2007 et une seconde fois avec effet jusqu'au 31 décembre 2009. Le règlement du 2 juin 2008 prévoyant cette seconde prolongation a été contesté par la voie du recours en matière de droit public. Par arrêt du 2 février 2009 (publié aux <ref-ruling> ss), le Tribunal de céans a admis le recours et annulé le règlement en cause, qu'il a jugé contraire à l'Accord bilatéral et incompatible avec l'art. 21 al. 3 de l'ordonnance fédérale du 14 novembre 2007 sur la viticulture et l'importation de vin (ordonnance sur le vin; RS 916.140).
Le 20 mai 2009, le Conseil d'Etat a adopté le règlement sur la vigne et les vins de Genève (RVV; RS/GE 2 50.05; ci-après: le règlement), qui a abrogé le règlement sur les vins genevois du 28 juin 2000.
B. Le 9 décembre 2009, le Comité mixte de l'agriculture a rendu la décision no 1/2009 concernant la modification de l'annexe 7 de l'Accord (RO 2009 793 ss), entrée en vigueur le 1er août 2010. Dans un préambule, il a considéré ce qui suit:
"(3) En vertu de l'art. 27, par. 1 et 2, de l'Annexe 7 de l'Accord, le groupe de travail «produits viti-vinicoles» examine toute question relative à l'Annexe 7, à sa mise en oeuvre et formule des recommandations au Comité. Ce groupe s'est réuni pour examiner notamment la production vitivinicole dans des zones frontalières et plus spécifiquement le cas de l'appellation d'origine suisse «Genève» dont une petite partie des raisins provient de vignobles situés en France et limitrophes au vignoble suisse de l'appellation en question. En vue de maintenir cette situation de fait ancienne remontant au début du XIXe siècle, les définitions de «produit vitivinicole originaire de» et de l'«indication géographique» doivent être adaptées.
(4) Il convient de modifier l'art. 3 de l'Annexe 7 de l'Accord et d'ajouter un nouvel Appendice à ladite Annexe pour tenir compte de certaines conditions particulières de la production vitivinicole dans les zones frontalières entre la Communauté et la Suisse, préexistantes à l'entrée en vigueur de l'Accord".
Le Comité mixte a ainsi modifié les deux définitions précitées, figurant à l'art. 3 let. a et b de l'annexe 7, en les complétant. Leur nouvelle teneur est la suivante (les termes ajoutés figurent en caractères italiques):
"a) «produit vitivinicole originaire de», suivi du nom de l'une des Parties: un produit au sens de l'art. 2, élaboré sur le territoire de ladite Partie à partir de raisins entièrement récoltés sur ce même territoire ou sur un territoire défini à l'appendice 5, en conformité avec les dispositions de la présente annexe;
b) «indication géographique»: toute indication, y compris l'appellation d'origine, au sens de l'art. 22 de l'Accord sur les aspects des droits de propriété intellectuelle qui touchent au commerce, annexé à l'Accord instituant l'Organisation mondiale du commerce [...], qui est reconnue par les lois ou réglementations d'une Partie aux fins de la désignation et de la présentation d'un produit vitivinicole visé à l'art. 2 originaire de son territoire ou d'un territoire défini à l'appendice 5;".
Un appendice 5 a été ajouté à l'annexe 7. Il a la teneur suivante:
"Dispositions particulières visées à l'art. 3, let. a) et b)
Appellation d'origine contrôlée Genève (AOC Genève)
1. Aire géographique
L'aire géographique de l'AOC Genève comprend:
- la totalité du territoire du canton de Genève;
- la totalité des communes françaises de:
- Challex,
- Ferney-Voltaire;
- les parties des communes françaises de:
- Ornex,
- Chens-sur-Léman,
- Veigy-Foncenex,
- Saint-Julien-en-Genevois,
- Viry,
décrites dans les dispositions de l'AOC Genève.
2. Zone de production du raisin
La zone de production du raisin comprend:
a) sur le territoire genevois: les surfaces faisant partie du cadastre viticole au sens de l'art. 61 de la loi fédérale sur l'agriculture (RS 910.1) et dont la production est destinée à la vinification;
b) sur le territoire français: les surfaces des communes ou parties de communes visées au point 1, plantées en vignes ou pouvant bénéficier de droits de replantation représentant au plus 140 hectares.
3. Zone de vinification du vin
La zone de vinification du vin se limite au territoire suisse.
4. Déclassement
L'utilisation de l'AOC Genève ne fait pas obstacle à l'utilisation des désignations «vin de pays» et «vin de table suisse» pour désigner des vins issus de raisins provenant de la zone de production définie au point 2, let. b) et déclassés.
5. Contrôle des dispositions de l'AOC Genève
Les contrôles en Suisse relèvent de la compétence des autorités suisses, notamment genevoises.
Concernant les contrôles physiques effectués sur le territoire français, l'autorité suisse compétente mandate un organisme de contrôle français agréé par les autorités françaises.
6. Dispositions transitoires
Les producteurs possédant des surfaces plantées en vigne qui ne figurent pas dans la zone de production du raisin définie au point 2, let. b), mais qui ont utilisé antérieurement et légalement l'AOC Genève, peuvent continuer à la revendiquer jusqu'au millésime 2013 et les produits en question peuvent être commercialisés jusqu'à épuisement des stocks."
Au plan fédéral, l'ordonnance sur le vin a été modifiée le 4 novembre 2009. L'art. 21, intitulé "Vins d'appellation d'origine contrôlée", a reçu un alinéa 3bis, aux termes duquel "l'aire de production du raisin peut être étendue à une aire limitrophe du territoire suisse à la condition qu'un accord international le prévoie (let. a), que le vignoble constitue une entité géographique bien déterminée avec le vignoble suisse limitrophe (let. b), que les exigences spécifiques soient fixées par le canton concerné d'entente avec l'office (let. c) et que les dispositions applicables au contrôle hors du territoire suisse soient garanties par un organe de contrôle agréé dans le pays concerné (let. d)". En outre, un art. 24a a été introduit sous le titre "Zone de production transfrontalière". Il dispose que "l'aire de production de vins de pays ou de vins de table peut être élargie à une aire limitrophe du territoire suisse aux conditions fixées à l'art. 21, al. 3bis". Ces modifications sont entrées en vigueur le 1er août 2010.
C. Le 9 juin 2010, le Conseil d'Etat a adopté un règlement modifiant le règlement du 20 mai 2009 sur la vigne et les vins de Genève de la manière suivante:
"Art. 1 Modifications
[...]
4e considérant (nouveau)
vu l'Annexe 7 de l'Accord entre la Confédération suisse et la Communauté européenne relatif aux échanges de produits agricoles, du 21 juin 1999,
Art. 10, al. 1 et 4 (nouvelle teneur)
1 Le registre des vignes complète le plan et décrit les particularités des surfaces plantées en vigne ou en cours de reconstitution, sises sur le territoire du canton de Genève et sur les parcelles en France pouvant prétendre à l'AOC Genève. Il est mis à jour annuellement.
4 La direction générale peut en tout temps procéder au contrôle de l'exactitude des renseignements fournis et solliciter, à cet effet, toute pièce justificative. Les contrôles physiques sur le territoire français sont effectués sur mandat de la direction générale par un organisme de contrôle français agréé par les autorités françaises. L'organisme fait rapport à la direction générale.
Art. 57 Aire géographique (nouvelle teneur avec modification de la note)
L'aire géographique de l'AOC Genève comprend:
a) la totalité du territoire du canton de Genève;
b) la totalité des communes françaises de Challex et Ferney-Voltaire;
c) les parties des communes françaises d'Ornex, Chens-sur-Léman, Veigy- Foncenex, Saint-Julien-en-Genevois et Viry, conformément au plan adopté par le Conseil d'Etat et conservé par la direction générale.
Art. 57A Zone de production du raisin (nouveau)
La zone de production pouvant prétendre à l'AOC Genève comprend:
a) sur le territoire genevois: les surfaces faisant partie du cadastre viticole au sens de l'article 61 de la loi fédérale sur l'agriculture, du 29 avril 1998, et dont la production est destinée à la vinification;
b) sur le territoire français: les surfaces des communes ou parties de communes visées à l'article 57, plantées en vignes ou pouvant bénéficier de droits de replantation représentant au plus 140 hectares.
Art. 57B Zone de vinification du vin (nouveau)
La zone de vinification du vin se limite au territoire suisse.
Art. 58, al. 1 (nouvelle teneur) et al. 4 (nouveau)
1 Le nom de la commune genevoise d'où provient le raisin peut être mentionné sur un vin AOC Genève. Cette mention doit être distincte du nom de l'appellation.
4 Toute mention du nom d'une commune française pour les vins issus de raisins en provenance du territoire français est exclue.
Art. 59, al. 1 (nouvelle teneur) et al. 5 (nouveau)
1 Les exploitants d'une même région, formée d'une ou plusieurs communes genevoises, peuvent s'entendre pour délimiter, sur des plans, des périmètres donnant droit à une mention régionale ou communale pouvant être indiquée sur l'étiquette d'un vin AOC Genève. Cette mention doit être distincte du nom de l'appellation.
5 Toute mention du nom d'une région française pour les vins issus de raisins en provenance du territoire français est exclue.
Art. 61A Principe (nouveau, à intégrer dans le chapitre I du titre IV)
Le contrôle de la vendange porte sur l'ensemble de la production issue des vignes à destination vinicole sises sur le territoire genevois et sur celle issue de la zone de production définie à l'article 57A, lettre b, du présent règlement.
Art. 111, al. 3 (nouveau)
3 Les vignes sises sur territoire français qui ne figurent pas dans la zone de production définie à l'article 57A, lettre b, peuvent prétendre à l'AOC Genève jusqu'au millésime 2013 inclus, sous réserve qu'elles aient bénéficié antérieurement et légalement d'une appellation d'origine suisse et respectent les exigences y relatives.
Art. 2 Entrée en vigueur
Le présent règlement entre en vigueur le 1er août 2010".
La novelle a été publiée dans la Feuille d'Avis Officielle du canton de Genève du 16 juin 2010.
D. Agissant par la voie du recours en matière de droit public, A._ et consorts demandent au Tribunal fédéral, sous suite de frais et dépens, d'annuler les modifications du règlement ainsi que le plan adopté conformément à l'art. 57 let. c dudit règlement. Ils se plaignent de violation des principes de la séparation des pouvoirs, de la primauté du droit international, de la force dérogatoire du droit fédéral et de l'Etat de droit.
La Conseillère d'Etat en charge du Département de l'intérieur et de la mobilité du canton de Genève (ci-après: la Conseillère d'Etat) s'en remet à justice quant à la recevabilité du recours et propose de le rejeter sur le fond. A titre préalable, elle demande que l'Office fédéral de l'agriculture soit invité à se déterminer sur le recours et qu'il soit procédé à une inspection oculaire du périmètre concerné par le règlement. L'Office fédéral de l'agriculture conclut au rejet du recours.

Considérant en droit:
1. 1.1 Le règlement attaqué constitue un acte normatif cantonal et ne peut faire l'objet d'aucun recours dans le canton de Genève. Il est par conséquent directement attaquable par la voie du recours en matière de droit public (cf. art. 82 let. b et 87 al. 1 LTF). Le recours a par ailleurs été formé en temps utile (cf. art. 46 al. 1 let. b et 101 LTF).
1.2 L'art. 89 al. 1 LTF confère la qualité pour former un recours en matière de droit public à quiconque a pris part à la procédure devant l'autorité précédente ou a été privé de la possibilité de le faire (let. a), est particulièrement atteint par la décision ou l'acte normatif attaqué (let. b) et a un intérêt digne de protection à son annulation ou à sa modification (let. c). Lorsque le recours est dirigé contre un acte normatif, la qualité pour recourir appartient à toute personne dont les intérêts sont effectivement touchés par l'acte attaqué ou pourront l'être un jour. Une simple atteinte virtuelle suffit, à condition qu'il existe un minimum de vraisemblance que le recourant puisse se voir un jour appliquer les dispositions contestées. Un intérêt de fait est suffisant (<ref-ruling> consid. 2.1 p. 21, 49 consid. 2.1 p. 53 s.; <ref-ruling> consid. 1.2 p. 246).
En l'occurrence, les recourants sont des viticulteurs exploitants des vignes situées dans le canton de Genève. A ce titre, ils sont soumis au règlement et peuvent prétendre à l'AOC Genève. Dès lors que la modification du règlement étend l'aire géographique de l'AOC Genève à certaines communes ou parties de communes situées en France, elle touche les intérêts des recourants qui ont ainsi qualité pour recourir. Il en va à cet égard de même que dans la cause à la base de l'arrêt du Tribunal de céans du 2 février 2009.
1.3 Selon l'art. 190 Cst., le Tribunal fédéral est tenu d'appliquer les lois fédérales et le droit international (s'agissant en particulier de l'Accord du 21 juin 1999 entre la Confédération suisse d'une part, et la Communauté européenne et ses Etats membres, d'autre part, sur la libre circulation des personnes [RS 0.142.112.681], cf. <ref-ruling> consid. 5.2 p. 398).
L'obligation d'application prévue par l'art. 190 Cst. a une portée à l'égard du droit cantonal, lorsque celui-ci constitue un acte d'exécution de la législation fédérale. Le Tribunal fédéral ne peut en effet pas annuler un acte normatif cantonal dont le contenu est couvert par une loi fédérale, en particulier parce que le législateur fédéral a délégué aux cantons la compétence de légiférer en leur indiquant la façon dont ils devaient procéder. Le rapport entre les réglementations fédérale et cantonale doit être sinon impératif, du moins très étroit (<ref-ruling> consid. 2.2.2 p. 33 et la jurisprudence citée), le droit cantonal mettant directement en oeuvre la législation fédérale (<ref-ruling> consid. 3.2 p. 55, 65 consid. 3.3 p. 71). En revanche, dans la mesure où les cantons sont libres d'élaborer leur propre réglementation, le droit cantonal est soumis sans limitation au contrôle juridictionnel de sa constitutionnalité, quand bien même il contiendrait les mêmes règles que des normes fédérales parallèles (<ref-ruling> consid. 3.2 p. 55; <ref-ruling> consid. 2.2.2 p. 33).
Les mêmes principes s'appliquent lorsque le droit cantonal met en oeuvre le droit international.
1.4 Dans ces limites, lorsqu'il est appelé à statuer sur un recours en matière de droit public dirigé contre un acte normatif cantonal, le Tribunal fédéral examine librement la conformité de cet acte au droit fédéral (art. 95 let. a LTF) et au droit international (art. 95 let. b LTF). Il n'annule toutefois les dispositions attaquées que si elles ne se prêtent à aucune interprétation conforme au droit invoqué ou si, en raison des circonstances, leur teneur fait craindre avec une certaine vraisemblance qu'elles soient interprétées de façon contraire au droit supérieur (<ref-ruling> consid. 2 p. 248; <ref-ruling> consid. 2 p. 295; <ref-ruling> consid. 2.1 p. 86). En effet, dans le cadre d'un contrôle abstrait des normes, le Tribunal fédéral s'impose une certaine retenue eu égard notamment au principe découlant du fédéralisme et de la proportionnalité. Le point déterminant est que la norme mise en cause puisse, d'après les principes d'interprétation reconnus, se voir attribuer un sens compatible avec les dispositions du droit supérieur. Pour en juger, il faut notamment tenir compte de la portée de l'atteinte aux droits en cause, de la possibilité d'obtenir ultérieurement, par un contrôle concret de la norme, une protection juridique suffisante, et des circonstances concrètes dans lesquelles ladite norme sera appliquée (<ref-ruling> consid. 2 p. 248; <ref-ruling> consid. 3.2 p. 15; <ref-ruling> consid. 3.1 p. 334 s.).
1.5 Le Tribunal fédéral s'estime suffisamment renseigné par les pièces du dossier, sans qu'il soit nécessaire de procéder à une inspection locale.
2. 2.1 Dans un premier grief, les recourants reprochent au Conseil d'Etat d'avoir introduit dans le règlement des dispositions qui n'ont aucune base dans la loi genevoise du 17 mars 2000 sur la viticulture (LVit; RS/GE M 2 50), d'être ainsi sorti du cadre de la délégation réglementaire contenue à l'art. 35 LVit et d'avoir violé le principe de la séparation des pouvoirs. Ce grief porte sur plusieurs dispositions:
"- L'inclusion dans le périmètre viticole genevois de parcelles consacrées à la vigne hors des limites territoriales cantonales et la réglementation de ces parcelles (art. 10 al. 1 et 4 nouvelle teneur, art. 57 nouvelle teneur, art. 57A nouveau, art. 58 al. 4 nouveau, art. 61A nouveau, art. 113 [recte: 111] al. 3 nouveau.
- L'affranchissement de parcelles viticoles des contraintes relatives au cadastre viticole (art. 57 litt. b et c, art. 57A litt. b).
- L'affranchissement pour des parcelles viticoles de toute contrainte de localisation (et donc de tout cadastre viticole) pour autant qu'elles se situent dans le périmètre défini par le plan venant en annexe au Règlement (art. 57 litt. b et c et 57A lett. b).
- L'inclusion dans la législation genevoise (et suisse!) de la notion de droit français de «droits de replantation» (art. 57A litt. b).
- La libre inclusion de parcelles plantées en vigne dans le périmètre décrit par le plan pour autant que l'enveloppe globale de 140 hectares soit respectée (par silence qualifié).
- La libre cessibilité desdites parcelles avec leur bénéfice d'inclusion de la récolte dans l'AOC genevoise (par silence qualifié).
- L'absence de critères d'attribution - et donc la possibilité d'attribution arbitraire - des parcelles sises en France pouvant bénéficier de l'inclusion de la récolte dans le régime de l'AOC genevoise (par silence qualifié).
- La possibilité de créer des mentions régionales et communales constituées d'une aire comprenant une ou plusieurs communes, possibilité réservée aux seules communes genevoises (art. 59 al. 1 nouvelle teneur).
- La prohibition de la mention du nom d'une région française pour les vins issus de raisins en provenance du territoire français (art. 59 al. 5 nouveau)".
2.2 Le principe de la séparation des pouvoirs est garanti, au moins implicitement, par toutes les constitutions cantonales; il représente un droit constitutionnel dont peut se prévaloir le citoyen. Ce principe assure le respect des compétences établies par la constitution cantonale. Il appartient donc en premier lieu au droit public cantonal de fixer les compétences des autorités (<ref-ruling> consid. 2.2 p. 326, 269 consid. 3.3.2 p. 274 et les références citées). Le principe de la séparation des pouvoirs interdit à un organe de l'Etat d'empiéter sur les compétences d'un autre organe; en particulier, il interdit au pouvoir exécutif d'édicter des règles de droit, si ce n'est dans le cadre d'une délégation valablement conférée par le législateur (<ref-ruling> consid. 2.2 p. 326 et les références).
Sans être expressément consacré en droit genevois (sauf en ce qui concerne l'indépendance du pouvoir judiciaire, posée à l'art. 130 de la Constitution de la République et canton de Genève du 24 mai 1847 [Cst./GE; RS/GE A 2 00]), le principe de la séparation des pouvoirs découle notamment de l'art. 116 Cst./GE, selon lequel le Conseil d'État promulgue les lois, est chargé de leur exécution et prend à cet effet les règlements et arrêtés nécessaires. Pour le surplus, c'est à la lumière des principes constitutionnels généraux qu'il y a lieu de définir les limites de l'activité réglementaire du Conseil d'État (<ref-ruling> consid. 2.3 p. 326 s.). Comme le prévoit l'art. 116 Cst./GE, le Conseil d'Etat est chargé en premier lieu d'édicter les règlements d'exécution des lois adoptées par le Grand Conseil. Ceux-ci ne peuvent contenir que des règles secondaires, qui ne font que préciser ce qui se trouve déjà dans la loi (<ref-ruling> consid. 2.4 p. 327 et les arrêts cités).
2.3 En l'occurrence, la compétence du Conseil d'Etat d'adopter le règlement se fonde en particulier sur l'art. 35 LVit, norme générale selon laquelle cet organe édicte les dispositions nécessaires à l'application de ladite loi et plus spécifiquement sur l'art. 20 al. 1 LVit, aux termes duquel le Conseil d'Etat fixe, par voie réglementaire, les mesures nécessaires à la promotion de la qualité de la vendange et des appellations d'origine, après avoir consulté l'Interprofession.
Lorsqu'il édicte le règlement, le Conseil d'Etat ne doit pas seulement observer la LVit, mais également la loi fédérale du 29 avril 1998 sur l'agriculture (LAgr; RS 910.1), l'ordonnance fédérale sur le vin et l'annexe 7 de l'Accord bilatéral, tous textes auquel le règlement se réfère dans son préambule. Il peut en même temps se fonder sur ces dispositions.
Pour l'essentiel, les modifications litigieuses du règlement reposent sur la nouvelle teneur de l'annexe 7 de l'Accord bilatéral, modifiée par la décision no 1/2009 du Comité mixte, dont elles constituent la mise en oeuvre. En particulier, le Conseil d'Etat n'a fait que transposer dans la réglementation genevoise l'extension de l'aire géographique de l'AOC Genève et de la zone de production du raisin à certaines communes ou parties de communes françaises, jusqu'à concurrence d'une surface de 140 ha. La plupart des aspects de la nouvelle réglementation que dénoncent les recourants découlent donc directement de l'annexe 7 de l'Accord bilatéral dans sa nouvelle teneur. Il en va ainsi en particulier de l'inclusion dans le "périmètre viticole genevois" de parcelles situées à l'extérieur du territoire cantonal, qui ne figurent pas dans le cadastre viticole, ainsi que du recours à la notion de "droits de replantation". La limitation des mentions communale ou régionale aux seules communes ou régions genevoises, à l'exclusion de celles de France voisine, découle de l'esprit de la décision du Comité mixte et du fait que celle-ci ne prévoit pas expressément cette faculté pour les communes et régions françaises (cf. exposé des motifs à l'appui des modifications du règlement, pièce jointe no 15 à la détermination de la Conseillère d'Etat, ad art. 58 et 59).
Quant à la prétendue libre cessibilité des parcelles avec le droit à l'AOC genevoise, elle n'est pas prévue par les dispositions en cause. Il s'agit d'une interprétation qu'en font les recourants, sans toutefois motiver suffisamment leur point de vue. A cet égard, les recourants se contredisent d'ailleurs, dans la mesure où ils reprochent plutôt au Conseil d'Etat de n'avoir pas réglé expressément cette question (cf. consid. 3.1 ci-après). S'agissant au demeurant de l'absence de critères d'attribution des droits à l'AOC Genève, les recourants devraient motiver le grief de violation du principe de la séparation des pouvoirs non pas en dénonçant l'absence d'appui dans la LVit, comme pour les dispositions adoptées par le Conseil d'Etat, mais en exposant en quoi cette lacune prétendue contreviendrait à la délégation réglementaire, qui chargerait cet organe de fixer les critères en question. A défaut d'une telle motivation, le grief est irrecevable.
Il apparaît ainsi qu'en adoptant les modifications litigieuses du règlement, le Conseil d'Etat a mis en oeuvre la décision du Comité mixte. A juste titre, les recourants ne contestent pas la compétence du canton de Genève pour ce faire (sur la mise en oeuvre du droit international en général et des accords bilatéraux en particulier par les cantons, voir Bénédicte Tornay/Irène Renfer/Andreas Auer, Les cantons entre l'adhésion à l'Union européenne et la poursuite de la voie bilatérale, in Entre adhésion à l'UE et voie bilatérale: réflexions et besoin de réformes du point de vue des cantons, 2006, p. 211 ss). Ils ne prétendent pas non plus qu'en vertu du droit genevois cela aurait dû prendre la forme d'une loi au sens formel.
Au vu de ce qui précède, le grief de violation du principe de la séparation des pouvoirs est mal fondé.
3. 3.1 Les recourants se plaignent en substance d'une violation du principe de la légalité. Ils relèvent que la loi ne peut jouer pleinement son rôle dans la réalisation de l'égalité de traitement que si elle est suffisamment précise. Ils font valoir qu'en l'occurrence les modalités d'octroi de l'avantage consistant à pouvoir bénéficier de l'AOC Genève pour la production issue des vignes situées en France voisine ne sont pas réglées: "l'octroi est-il réservé aux propriétaires des vignes, ou à leurs exploitants? le bénéficiaire doit-il être citoyen suisse, domicilié en Suisse? l'exploitant français est-il exclu de ce régime? l'avantage est-il transmissible par voie successorale, par partage, par cession de droits librement monnayable? comment départager des requêtes concurrentes, d'autant que l'on sait que ces droits doivent rester dans une enveloppe de 140 hectares? le bénéfice est-il octroyé par rang d'inscription selon le principe «premier requérant, premier servi», ou par le principe d'égalité? ou, au contraire, l'administration peut-elle librement décider et décerner les droits aux vignerons les mieux en cour? l'octroi est-il lié au sol (incessibilité de l'avantage sans la cession de la parcelle) ou à son bénéficiaire (l'octroi se perd par la cessation d'activité du bénéficiaire)?". Du moment que le droit fédéral ne tranche pas ces questions, il appartenait selon les recourants au Conseil d'Etat de le faire.
Les recourants dénoncent en outre une violation du principe de l'égalité au sens strict. Selon eux, les modifications litigieuses du règlement auraient pour effet de créer deux régimes différents parmi les bénéficiaires de l'AOC Genève: alors que le vigneron-encaveur ordinaire en Suisse est soumis aux exigences de qualité des sols décrites par la LAgr et l'ordonnance sur le vin, celui qui peut prétendre à l'AOC Genève pour la production de ses parcelles sises en France en serait affranchi. Il suffirait en effet à ce dernier d'avoir acquis des droits de replantation, le cas échéant dans une autre région viticole française.
3.2 Le principe de la légalité consacré à l'art. 5 al. 1 Cst. exige de façon générale que l'ensemble de l'activité étatique se fonde sur la loi et repose sur une base légale. L'exigence de la base légale signifie que les actes étatiques doivent trouver leur fondement dans une loi au sens matériel, qui soit suffisamment précise et déterminée et qui émane de l'autorité constitutionnellement compétente (Auer/Malinverni/Hottelier, Droit constitutionnel suisse, vol. I, 2e éd., 2006, no 1763). L'exigence de précision de la norme (ou de densité normative) est relative et varie selon les domaines. Elle dépend notamment de la gravité des atteintes qu'elle comporte aux droits fondamentaux (<ref-ruling> consid. 7a p. 124; arrêt 1C_226/2009 du 16 décembre 2009 consid. 4.1.1, in SJ 2010 I p. 281 et les références).
Hormis en matière pénale et dans le domaine fiscal, le principe de la légalité ne constitue pas un droit constitutionnel spécifique, mais un principe constitutionnel (<ref-ruling> consid. 2.5 p. 249). Comme le principe de la proportionnalité de l'art. 5 al. 2 Cst. (voir à ce sujet <ref-ruling> consid. 4.1 p. 156 s. et les références), il peut être invoqué dans le cadre d'un recours en matière de droit public directement et indépendamment d'un droit fondamental (arrêt 2C_268/2010 du 18 juin 2010 consid. 2.2). Lorsque le recourant s'en prévaut en relation avec le droit cantonal, le Tribunal fédéral limite en principe, sous réserve des restrictions aux droits fondamentaux (art. 36 al. 3 Cst.), son examen à l'arbitraire (arrêt 2C_741/2009 du 26 avril 2010 consid. 3.1). Il n'intervient alors que si le principe de la légalité est manifestement violé.
Par ailleurs, un acte normatif viole le principe de l'égalité de traitement lorsqu'il établit des distinctions juridiques qui ne se justifient par aucun motif raisonnable au regard de la situation de fait à réglementer ou lorsqu'il omet de faire des distinctions qui s'imposent au vu des circonstances, c'est-à-dire lorsque ce qui est semblable n'est pas traité de manière identique et ce qui est dissemblable ne l'est pas de manière différente; cela suppose que le traitement différent ou semblable injustifié se rapporte à une situation de fait importante (<ref-ruling> consid. 6.2 p. 137; <ref-ruling> consid. 3 p. 382-383; <ref-ruling> consid. 5.2 p. 31).
3.3 S'agissant d'abord du principe d'égalité au sens strict, l'assimilation, pour ce qui est du droit à l'AOC Genève, de la production - vinifiée en Suisse - des vignes situées en France voisine à la vendange provenant du canton de Genève est prévue par l'annexe 7 de l'Accord bilatéral dans sa nouvelle teneur. Les modifications litigieuses du règlement ne font sur ce point qu'exécuter l'Accord, lequel lie le Tribunal de céans (cf. art. 190 Cst.). Elles sont par conséquent immunisées de la même manière (cf. consid. 1.3 ci-dessus), de sorte que le grief d'inégalité ne saurait conduire à leur annulation.
3.4 En ce qui concerne le principe de la légalité, les recourants s'en prennent à la façon dont le Conseil d'Etat a mis en oeuvre la décision du Comité mixte, en reprochant en substance à la réglementation cantonale d'exécution d'être lacunaire.
La réglementation litigieuse porte sur le droit à l'AOC Genève pour la production - vinifiée en Suisse - des vignes situées en France voisine. Le Conseil d'Etat a mis en oeuvre la décision du Comité mixte assimilant cette production à la vendange provenant du canton de Genève notamment en étendant le registre des vignes, qui recense les parcelles plantées en vigne ou en cours de reconstitution, pouvant prétendre à une appellation suisse (art. 10 al. 1 LVit), aux parcelles sises en France voisine (art. 10 al. 1 RVV). Le registre est mis à jour annuellement (art. 10 al. 1 in fine RVV) et il appartient aux exploitants de communiquer à cette fin les données énumérées à l'art. 10 al. 2 RVV jusqu'au 31 mars de chaque année (art. 10 al. 3 RVV). L'autorité cantonale compétente peut en tout temps procéder au contrôle de l'exactitude de ces renseignements. Pour ce qui est des parcelles situées en France, elle mandate à cette fin un organisme de contrôle français agréé par les autorités françaises (art. 10 al. 4 RVV; cf. aussi annexe 7 de l'Accord bilatéral, ch. 5 de l'appendice 5).
Quoi qu'en disent les recourants, cette réglementation est suffisante au regard du principe de la légalité tel qu'il a été défini ci-dessus (consid. 3.2). Il est certes possible qu'elle ne permette pas de trancher sans hésitation toutes les questions soulevées par les recourants, mais le principe en cause n'exige pas que la loi (au sens matériel) règle la totalité des problèmes pouvant se poser en relation avec l'objet de la réglementation. En outre, dans le cadre d'un contrôle abstrait portant sur la légalité d'un acte normatif cantonal, le Tribunal fédéral voit son pouvoir d'examen limité dans la mesure décrite ci-dessus (consid. 1.4) et n'a dès lors pas à vérifier que les normes cantonales règlent toutes les questions pouvant se poser lors de leur application, lesquelles pourront donner lieu à des recours contre les décisions prises en vertu desdites normes et à un contrôle concret de ces dernières. Au demeurant, on peut encore objecter à l'argumentation des recourants selon laquelle la réglementation cantonale d'exécution serait lacunaire qu'il n'est pas certain que le canton de Genève soit compétent pour régler les points qu'ils évoquent.
Au vu de ce qui précède, le grief de violation du principe de la légalité doit être rejeté.
4. 4.1 En invoquant la primauté du droit international, les recourants soutiennent que les modifications du règlement reposent sur une interprétation de la décision du Comité mixte contraire à la bonne foi au sens de l'art. 31 al. 1 de la Convention de Vienne du 23 mai 1969 sur le droit des traités (RS 0.111). En effet, cette décision aurait visé à "maintenir [une] situation de fait ancienne remontant au début du XIXe siècle", alors qu'en adoptant les modifications du règlement, le Conseil d'Etat du canton de Genève aurait créé "tout à fait autre chose":
- Il aurait étendu la surface des vignes bénéficiaires du régime dérogatoire de l'AOC Genève de 126,5 ha (soit la superficie en 2008 des vignes situées en zone frontalière, selon un document intitulé "Contrôle officiel de la vendange", établi par la Direction générale de l'agriculture du canton de Genève le 4 décembre 2008) à 140 ha.
- Il aurait "créé de nouveaux droits en France d'importation libre de raisins pour des surfaces de 53,5 hectares non attribués à des propriétaires viticulteurs déterminés". Il ressort en effet de l'exposé des motifs à l'appui des modifications du règlement (ad art. 111) qu'une quarantaine d'ha de vignes sises en France, dont la production a traditionnellement été valorisée sous une désignation suisse, ne donnera plus droit à l'AOC Genève, soit que ces vignes se situent dans le périmètre d'une AOC française, soit qu'elles sont trop éloignées du vignoble genevois. Les recourants en déduisent que la novelle permettra d'accorder l'AOC Genève à la production de 53,5 ha de vignes supplémentaires (140 ha - [126,5 ha - 40 ha] = 53,5 ha).
- Il aurait "abandonné toute maintenance des droits sur les vignes (prétendument) ancestraux en instaurant dans un large périmètre un système de mobilité des droits de plantation".
- Il aurait, "en définitive, créé dans un large périmètre un système de droits distincts, monnayables et cessibles entre d'une part certains propriétaires bénéficiaires (selon quels critères?) du régime d'intégration des raisins dans la récolte genevoise et d'autre part les propriétaires ordinaires".
De l'avis des recourants, une interprétation de la décision en cause conforme à la bonne foi aurait dû conduire les autorités genevoises à se borner à consacrer la situation de fait antérieure à ladite décision, en ne "mettant au bénéfice du régime d'inclusion dans la vendange genevoise que les parcelles qui en bénéficiaient auparavant".
4.2 La décision du Comité mixte comporte des dispositions transitoires permettant aux producteurs ayant jusque-là utilisé (légalement) l'AOC Genève, mais qui n'y seront plus autorisés du fait que leurs vignes ne se trouvent pas dans la zone de production du raisin définie au ch. 2 de l'appendice 5, de continuer à le faire respectivement jusqu'au millésime 2013 et jusqu'à épuisement des stocks. Cela montre que la décision ne devait pas uniquement consacrer le statu quo ante, contrairement à ce que prétendent les recourants.
Quant à la surface totale de 140 ha figurant à l'art. 57A let. b RVV, elle est prévue au ch. 2 let. b de l'appendice 5. A cet égard, le Conseil d'Etat n'a donc fait que reprendre la limite arrêtée par le Comité mixte. Selon la Conseillère d'Etat (détermination sur le recours, p. 13), le quota de 140 ha correspond à la superficie "historique" des vignes cultivées sur territoire français par des exploitants genevois, comme le montrent le registre des vignes de 2001 et le recensement des vignes sises dans la zone limitrophe française datant de 2004. Les surfaces plantées auraient légèrement diminué du fait de l'incertitude quant au statut juridique de ces vignes.
Pour le reste, il n'est pas exact que les modifications litigieuses du règlement auraient instauré des "droits distincts, monnayables et cessibles" d'intégration des raisins dans la récolte genevoise. Il s'agit là en effet d'une interprétation dénuée de motivation et qui est contredite par la critique que les recourants adressent ailleurs au Conseil d'Etat d'avoir omis de régler ces questions (cf. consid. 3.1 ci-dessus).
Ainsi, il n'apparaît pas que les modifications litigieuses du règlement contreviennent à l'Accord bilatéral dans sa teneur modifiée par le Comité mixte. Partant, le grief doit être rejeté.
5. 5.1 Les recourants se plaignent de violation de la force dérogatoire du droit fédéral. Ils font valoir que celui-ci se fonde sur le principe de l'immutabilité de la zone viticole, les parcelles plantées en vigne et celles en cours de reconstitution étant recensées dans le cadastre viticole (art. 4 de l'ordonnance sur le vin). Dans ce système, il serait exclu de substituer une parcelle située hors de la zone viticole à une autre faisant partie de cette zone, l'inscription au cadastre viticole étant soumise à des exigences de qualité. Or, les modifications litigieuses du règlement feraient fi de ce système. Elles permettraient en effet "la création de toute nouvelle vigne dans le périmètre défini par le plan pour autant que le propriétaire bénéficie de droits de replantation au sens du droit français et que l'enveloppe globale de 140 hectares soit respectée". Elles rendraient ainsi possible "la substitution d'une vigne par une autre pour autant que l'on reste dans le périmètre défini par le plan", en permettant "de s'affranchir de toute contrainte de cadastre viticole".
5.2 Les modifications litigieuses du règlement ont trait au droit à l'AOC Genève pour la production - vinifiée en Suisse - des vignes situées en France voisine. Contrairement à ce que prétendent les recourants, elles ne règlent nullement la plantation de vignes. S'agissant de la plantation (ou replantation ou encore reconstitution [cf. art. 3 de l'ordonnance sur le vin]) de vignes, ce sont en effet les normes de droit fédéral (not. art. 60 al. 1 et 3 LAgr, art. 2 de l'ordonnance sur le vin) et cantonales (not. art. 11 LVit, art. 12 ss RVV) qui sont applicables sur le territoire suisse et les règles du droit communautaire (notamment le règlement [CE] no 1234/2007 portant organisation commune des marchés dans le secteur agricole et dispositions spécifiques en ce qui concerne certains produits de ce secteur, modifié par le règlement [CE] no 491/2009 du Conseil du 25 mai 2009 [JO L 154 du 17 juin 2009 p. 1 ss]) et du droit français qui s'appliquent en France voisine. Par conséquent, les modifications litigieuses du règlement ne sauraient interférer avec un hypothétique principe d'immutabilité de la zone viticole. Un tel principe n'existe d'ailleurs pas en droit fédéral, dans la mesure où de nouvelles parcelles peuvent être plantées en vigne - et être enregistrées dans le cadastre viticole - à la condition d'être propices à la viticulture au regard des critères énumérés à l'art. 2 al. 2 de l'ordonnance sur le vin. Le grief de violation du droit fédéral est ainsi mal fondé.
6. Les considérants qui précèdent conduisent au rejet du recours dans la mesure où il est recevable.
Succombant, les recourants supportent les frais judiciaires solidairement entre eux (cf. art. 66 al. 1 et 5 LTF). Il n'y a pas lieu d'allouer des dépens (cf. art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Des frais judiciaires de 4'000 fr. sont mis à la charge des recourants, solidairement entre eux.
3. Le présent arrêt est communiqué au mandataire des recourants, au Conseil d'Etat du canton de Genève et à l'Office fédéral de l'agriculture.
Lausanne, le 5 avril 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Zünd Vianin