Faits:
A. X._ et Y._ sont propriétaires des parcelles 13'435 de la commune de A._ et 10'103 de la commune de B._. Ces bien-fonds contigus, d'une surface totale d'environ 80'000 m2, sont situés en zone agricole et dans le périmètre de la zone de développement de la zone industrielle de Meyrin-Satigny. Ils renferment, sous une couverture argileuse de 3 à 8 m d'épaisseur, des graviers exploitables sur une profondeur de plus de 30 m.
Le 20 août 1993, une autorisation n° 626-823 d'exploiter une gravière a été octroyée pour ces parcelles, ainsi que pour le bien-fonds 13'436 de la commune de B._. Cette autorisation a été transférée le 26 juin 2001 à la société Z._ SA (ci-après: Z._ SA).
Par acte instrumenté les 14 et 15 juin 2010, Y._ et X._ ont vendu les parcelles 13'435 et 10'103 à Z._ SA pour le prix de 40'000'000 fr.
Le 4 août 2010, le Conseil d'Etat du canton de Genève a déclaré exercer son droit de préemption au prix de 23'700'000 fr. Il ne méconnaissait pas la présence de la nappe de gravier, ce dont tenait compte le prix proposé. Il s'agissait toutefois de garantir qu'immédiatement après l'achèvement de l'exploitation du gravier, une utilisation industrielle et artisanale des deux parcelles en cause puisse être mise en place, ce qui entraînerait des surcoûts liés au remblayage des terrains et, ainsi, une diminution de leur valeur. Ces surcoûts avaient été estimé par des experts en ingénierie et en géologie et s'élevaient à 16'300'000 fr.
B. Y._ et X._ ainsi que Z._ SA ont recouru contre la décision du Conseil d'Etat auprès du Tribunal administratif du canton de Genève, devenu depuis le 1er janvier 2011 la Chambre administrative de la Cour de justice (ci-après: la Chambre administrative).
Par arrêt du 20 décembre 2011, la Chambre administrative a rejeté les recours précités. Elle a considéré en substance que l'Etat agissait dans un but d'intérêt public et que l'exercice de son droit de préemption répondait à l'objectif de lutte contre des opérations d'aliénation à des prix excessifs prescrit par l'art. 11 de la loi générale sur les zones de développement industriel du 13 décembre 1984 (ci-après: la LGZDI).
C. Agissant par la voie du recours en matière de droit public, X._ et Y._ demandent au Tribunal fédéral d'annuler l'arrêt de la Chambre administrative du 20 décembre 2011 ainsi que la décision du Conseil d'Etat du 4 août 2010. Ils se plaignent pour l'essentiel d'une violation du principe de l'instruction d'office, d'une violation de leur droit d'être entendus ainsi que d'une violation de la garantie de la propriété.
Z._ SA a également recouru contre l'arrêt de la Chambre administrative du 20 décembre 2011. Elle demande au Tribunal fédéral d'annuler l'arrêt attaqué ainsi que la décision du Conseil d'Etat du 4 août 2010 et de renvoyer la cause à la Chambre administrative pour instruction complémentaire. Elle se plaint d'une violation des garanties constitutionnelles de procédure ainsi que d'une violation de la garantie de la propriété et de la liberté économique.
La Chambre administrative s'en rapporte à justice quant à la recevabilité des recours et persiste dans les considérants et le dispositif de son arrêt. Le Conseil d'Etat conclut à la jonction des causes et au rejet des recours, dans la mesure où ils sont recevables. Les recourants se sont exprimés à plusieurs reprises, confirmant les conclusions de leurs mémoires de recours.
Par ordonnance du 5 mars 2012, le Président de la Ire Cour de droit public a admis la requête d'effet suspensif de Z._ SA.

Considérant en droit:
1. 1.1 Compte tenu de leur connexité, il se justifie de joindre les deux recours, dirigés contre une même décision, afin de statuer en un seul arrêt.
1.2 L'arrêt attaqué a été rendu, en dernière instance cantonale, dans une cause de droit public. Il peut faire l'objet d'un recours en matière de droit public au sens des art. 82 let. a et 86 al. 1 let. d LTF. Les recourants, qui se voient imposer une restriction à leur liberté de vendre, respectivement d'acquérir les parcelles en cause, ont qualité pour recourir au sens de l'<ref-law>. Il y a lieu d'entrer en matière.
2. Les recourants se plaignent tout d'abord d'une violation de leur droit d'être entendus. Ils font valoir qu'ils n'ont jamais pu se déterminer sur la pièce 18 produite par l'Etat de Genève à l'appui de son mémoire de réponse du 2 novembre 2010.
2.1 Compris comme l'un des aspects de la notion générale de procès équitable au sens des art. 29 ss Cst., le droit d'être entendu garantit notamment le droit pour une partie à un procès de prendre connaissance de toute argumentation présentée au tribunal et de se déterminer à son propos, que celle-ci contienne ou non de nouveaux éléments de fait ou de droit, et qu'elle soit ou non concrètement susceptible d'influer sur le jugement à rendre. Il appartient en effet aux parties, et non au juge, de décider si une prise de position ou une pièce nouvellement versée au dossier contient des éléments déterminants qui appellent des observations de leur part. Ce droit à la réplique vaut pour toutes les procédures judiciaires. Toute prise de position ou pièce nouvelle versée au dossier doit dès lors être communiquée aux parties pour leur permettre de décider si elles veulent ou non faire usage de leur faculté de se déterminer (<ref-ruling> consid. 1 p. 197; <ref-ruling> consid. 4.5 p. 103 s.; SJ 2012 I 117).
2.2 Il ressort du dossier que la réponse du Conseil d'Etat du 2 novembre 2010 comprenait de nombreuses annexes. Parmi celles-ci figuraient notamment une étude non datée réalisée par C._ SA (pièce 18), selon laquelle la plus-value totale sur le coût des aménagements définitifs dû au remblayage était estimée à 5'200'000 fr. si les ouvrages étaient fondés sur radier, et à 16'300'000 fr. si les ouvrages étaient fondés sur pieux. Le chargé de pièce de la réponse du Conseil d'Etat comprenait également une étude géotechnique réalisée par C._ SA le 9 avril 2010 (pièce 17).
La réponse du Conseil d'Etat du 2 novembre 2010 et ses annexes ont été remis aux recourants le 4 novembre 2010, avec la mention que les parties seraient informées ultérieurement des suites de la procédure. Par courrier du 1er décembre 2011, la Chambre administrative a informé les parties que la cause était gardée à juger. Aucun délai n'était fixé pour le dépôt d'éventuelles observations. L'arrêt attaqué a été rendu le 20 décembre 2011.
On ne saurait reprocher aux recourants de ne pas avoir déposé d'écriture spontanée après le courrier du 4 novembre 2010. La mention selon laquelle "les parties seraient informées ultérieurement des suites de la procédure" pouvait de bonne foi être comprise en ce sens qu'aucune écriture supplémentaire n'était autorisée à ce stade et qu'une réplique pourrait être envoyée ultérieurement, cas échéant après d'autres actes d'instructions (par exemple vision locale ou nouvelle expertise); selon ce courrier, les parties étaient en effet incitées à attendre une invitation de la Chambre administrative avant de réagir à la réponse du Conseil d'Etat et de déposer de nouvelles pièces. Or, le courrier suivant de la Chambre administrative, du 1er décembre 2011, soit après une année de silence et sans qu'aucune mesure d'instruction complémentaire n'ait été ordonnée dans l'intervalle, était une simple information selon laquelle la cause était gardée à juger. Les parties n'étaient toutefois pas formellement invitées à se prononcer sur la réponse du Conseil d'Etat du 2 novembre 2010 et ses annexes, alors que ces pièces contenaient des informations déterminantes pour trancher la question litigieuse (caractère excessif ou non du prix de vente convenu entre les parties, justification des surcoûts pris en compte par le Conseil d'Etat). Dans ces circonstances confuses, la suite de la procédure était incertaine pour les recourants. Ces derniers pouvaient s'attendre à des éclaircissements de la part de la Chambre administrative. En s'en abstenant, celle-ci a violé l'art. 29 al. 1 et 2 Cst.
3. Le recours doit dès lors être admis pour ce motif, sans qu'il soit nécessaire d'examiner les autres griefs soulevés par les recourants. La cause doit être renvoyée à la Chambre administrative pour nouvelle décision après avoir permis aux recourants d'exercer leur droit de réplique.
Conformément à l'<ref-law>, les frais judiciaires ne sont pas mis à la charge du canton de Genève. Celui-ci devra en revanche s'acquitter d'une indemnité de dépens allouée aux recourants (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Les causes 1C_72/2012 et 1C_82/2012 sont jointes.
2. Les recours sont admis et l'arrêt attaqué est annulé. La cause est renvoyée à la Chambre administrative de la Cour de justice du canton de Genève pour nouvelle décision dans le sens des considérants.
3. Il n'est pas perçu de frais judiciaires.
4. 4.1 Le canton de Genève versera à X._ et Y._, solidairement entre eux, une indemnité de 3'000 fr. à titre de dépens.
4.2 Le canton de Genève versera à la société Z._ SA une indemnité de 3'000 fr. à titre de dépens.
5. Le présent arrêt est communiqué aux mandataires des recourants, au Conseil d'Etat du canton de Genève et à la Cour de justice de la République et canton de Genève, Chambre administrative.
Lausanne, le 7 août 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
La Greffière: Mabillard