Faits:
A. Par arrêt du 25 août 2009, le Tribunal administratif du canton de Genève (ci-après: le Tribunal administratif) a rejeté l'action contractuelle déposée par le Conseil d'Etat contre la Société X._ SA, mis à la charge du Conseil d'Etat un émolument de 3'000 fr. et alloué à la défenderesse une indemnité de procédure de 3'000 fr., également à la charge de l'Etat de Genève.
Le 5 octobre 2009, la Société X._ SA a adressé au Tribunal administratif une réclamation sur indemnité sollicitant, en lieu et place des 3'000 fr. alloués, une somme de 27'251 fr.86 au titre d'indemnité de procédure, subsidiairement une somme de 10'000 fr.
Par arrêt du 22 décembre 2009, le Tribunal administratif a rejeté le recours.
B. Agissant par la voie du recours en matière de droit public, subsidiairement par la voie du recours constitutionnel subsidiaire, la Société X._ SA demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt rendu le 22 décembre 2009 par le Tribunal administratif et de condamner l'Etat de Genève à lui verser une somme de 27'251 fr. 86, sous réserve de tout dommage supplémentaire. Subsidiairement, elle requiert la condamnation de l'Etat de Genève au versement d'une somme de 10'000 fr.
En substance, la recourante fait valoir une violation de la garantie de la propriété de l'art. 26 Cst. et l'application analogique des principes relatifs à l'expropriation matérielle pour calculer la quotité de l'indemnité. Elle estime que son droit fondamental au respect de la propriété a été restreint de manière incompatible avec les art. 36 al. 3 Cst. et 5 al. 2 Cst. Enfin, selon elle, le Tribunal administratif a omis d'envisager la possibilité d'appliquer les principes de la loi cantonale sur la responsabilité de l'Etat et des communes pour l'indemniser du dommage qu'elle a subi par l'action engagée à son encontre par le Conseil d'Etat.
Invité à se déterminer sur le recours, le Département de l'intérieur et de la mobilité du canton de Genève, par sa Conseillère d'Etat, considère que le recours en matière de droit public est irrecevable et que le recours constitutionnel subsidiaire doit être rejeté. A son avis, le montant des dépens de procédure ne relève pas de l'art. 26 Cst. ou des mécanismes prévus pour indemniser une expropriation matérielle. Pour le reste, le droit cantonal n'a pas été appliqué de manière arbitraire. Le Tribunal administratif, également appelé à se déterminer, a déclaré s'en rapporter à justice quant à la recevabilité du recours et persister dans les considérants et le dispositif de son arrêt.
Considérant en droit:
1. 1.1 Le recours en matière de droit public est irrecevable contre les décisions en matière de subventions auxquelles la législation ne donne pas droit (art. 86 let. k LTF). En l'espèce, l'objet du litige sur le fond, qui détermine la recevabilité du recours dirigé contre le montant des dépens, ne porte pas sur l'octroi initial d'une subvention, mais sur son remboursement partiel. En pareil cas, le recours en matière de droit public est recevable, parce que la recourante est atteinte dans sa situation juridique, même s'il n'existe, le cas échéant, aucun droit à la subvention en cause (arrêt 2C_631/2009 du 22 février 2010, consid. 1.2).
1.2 Interjeté par une partie directement touchée par la décision attaquée (cf. art. 89 al. 1 let. a et b LTF), le recours est dirigé contre un jugement final (cf. art. 90 LTF) rendu par une autorité cantonale supérieure de dernière instance (cf. art. 86 al. 1 let. d et al. 2 LTF). Il est en principe recevable, puisqu'il a été déposé dans le délai et la forme prévus par la loi (cf. art. 42 et 100 al. 1 LTF).
Le recours constitutionnel subsidiaire est par conséquent irrecevable (art. 113 LTF).
1.3 D'après l'art. 106 al. 2 LTF, le Tribunal fédéral n'examine la violation de droits fondamentaux que si ce grief a été invoqué et motivé par le recourant. Lorsqu'il est saisi d'un recours, le Tribunal fédéral n'a donc pas à vérifier de lui-même si l'arrêt entrepris est en tous points conforme au droit et à l'équité. Il n'examine que les griefs d'ordre constitutionnel invoqués et suffisamment motivés dans l'acte de recours, de sorte que le recourant ne saurait se contenter de soulever de vagues griefs ou de renvoyer aux actes cantonaux (ATF 134 I 20 consid. 5.2 p. 30 s.; 133 II 249 consid. 1.4 p. 254; 133 III 393 consid. 6 p. 397 et la jurisprudence citée). En particulier, lorsque le recourant se plaint d'une application arbitraire du droit cantonal, il ne peut se borner à critiquer l'acte attaqué comme il le ferait dans une procédure d'appel où l'autorité de recours peut revoir librement l'application du droit. Il doit préciser en quoi cet acte serait arbitraire (ATF 133 II 249 consid. 1.4.3 p. 255 et la jurisprudence citée).
2. La recourante tente d'obtenir une réforme de la décision cantonale en se prévalant de la garantie de la propriété déduite de l'art. 26 Cst.
Elle estime à tort qu'en n'obtenant pas une pleine compensation du coût de sa défense, le Tribunal administratif a porté atteinte à ce droit. En effet, l'allocation de dépens à la partie qui obtient gain de cause ne découle ni des principes généraux du droit, ni des garanties de procédure de la Constitution fédérale, mais bien de la seule législation de procédure applicable à la cause (ATF 134 II 117 consid. 7 p. 118; 104 Ia 9 consid. 1 p. 13). Cette règle a ainsi permis au Tribunal fédéral de nier tout droit à une indemnité pour des dépens aux collectivités publiques et aux autres organismes chargés de tâches de droit public ne disposant pas, en raison de leur taille, d'une infrastructure administrative et juridique suffisante pour procéder sans l'assistance d'un avocat (ATF 134 II 117). Dans ces conditions, la recourante ne peut rien tirer de l'art. 26 Cst. et, par ricochet, des règles sur l'expropriation matérielle, qu'elle a également invoquées dans le prolongement de l'art. 26 Cst.
3. 3.1 La recourante se prévaut aussi de la loi genevoise du 24 février 1989 sur la responsabilité de l'Etat et des communes (LREC; RS/GE A 2 40). Elle indique que le Tribunal administratif n'a même pas envisagé la possibilité d'appliquer les principes de cette loi pour indemniser la Société X._ SA du dommage qu'elle a subi par l'action engagée à son encontre, alors que le fondement juridique d'un tel dédommagement est clairement établi. Une telle argumentation est clairement appellatoire et donc irrecevable. La recourante devait établir concrètement avec le soin requis par l'art. 106 al. 2 LTF en quoi l'absence d'application de cette loi, au profit du règlement spécifique sur les frais et émoluments en procédure administrative du 30 juillet 1986 (RFPA; E 5 10.03) était arbitraire. Or, son écriture ne se penche pas sur cette question.
3.2 Au demeurant, la législation cantonale se rapproche très largement, sur ce point, de la loi sur le Tribunal fédéral, respectivement de l'ancienne organisation judiciaire fédérale. Or, le Tribunal fédéral a jugé que la réglementation des dépens est exhaustive (arrêt 1P.437/2001 du 16 octobre 2001, pour l'art. 159 OJ) et qu'elle exclut en conséquence une action en responsabilité civile contre la Confédération (ATF 112 Ib 353) ou contre la partie adverse (arrêt 1P.437/2001 du 16 octobre 2001). Le Tribunal fédéral a par ailleurs déjà eu l'occasion, dans une cause concernant la responsabilité des cantons pour les actes de leurs fonctionnaires, de relever qu'en matière civile et pénale, le droit aux dépens relève de la procédure (arrêt du Tribunal fédéral en la cause G. c. canton de Berne, du 2 mars 1979, consid. 5, avec référence aux arrêts ATF 81 II 543 et 71 II 189 s. et à la doctrine: Guldener, Bundesprivatrecht und kantonales Zivilprozessrecht, RDS 1961 II p. 60 s., et Schweizerisches Zivilprozessrecht, 3e éd., p. 408; Voyame, Droit privé fédéral et procédure civile cantonale, RDS 1961 II p. 109; Sträuli/Messmer, ZPO, n° 1 ad par. 68; Walder/Bohner, Zivilprozessrecht, 3e éd., p. 415; cf. aussi EGLI, L'activité illicite du juge, cause de responsabilité pécuniaire à l'égard des tiers, in Hommage à Raymond Jeanprêtre, p. 25). Le même principe doit s'appliquer en matière administrative (ATF 112 Ib 353 consid. 3 p. 356).
3.3 Enfin, en dehors du cas d'assistance judiciaire, le refus d'octroyer des dépens à une partie ne l'empêche pas de procéder jusqu'à la décision finale et il n'y a pas de déni de justice formel à ne pas en allouer. L'art. 29 Cst. ne consacre pas davantage un droit à l'allocation de dépens. Quant à l'art. 6 CEDH, qui garantit un procès équitable, les parties ne peuvent pas en tirer un droit à l'allocation d'une indemnité pour leurs frais et dépens (arrêt 1P.337/2001 du 9 juillet 2001, consid. 2a).
4. En définitive, la recourante ne se plaint à aucun moment de l'arbitraire dans la mise en oeuvre de l'art. 6 RFPA. Elle se borne à mentionner cette disposition dans le cadre du grief de violation de son droit de propriété qui, comme on l'a vu, ne fonde aucun droit à l'adjudication de dépens. Dans de telles conditions, le Tribunal fédéral n'a pas à revoir d'office, s'agissant de droit cantonal, dans quelle mesure l'application qu'à faite le Tribunal administratif de cette norme serait ou non arbitraire.
5. Les considérants qui précèdent conduisent au rejet du recours en matière de droit public dans la mesure où il est recevable. Le recours constitutionnel subsidiaire est irrecevable.
Succombant, la recourante est condamnée aux frais (art. 66 al. 1 LTF). Il n'est pas alloué de dépens.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière de droit public est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'500 fr., sont mis à la charge de la recourante
3. Le présent arrêt est communiqué au mandataire de la recourante, au Conseil d'Etat et au Tribunal administratif du canton de Genève.
Lausanne, le 24 août 2010
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Zünd Dubey