Faits:
A. Le 8 mai 2009, le Département des infrastructures, soit pour lui le Service des routes a publié un appel d'offres portant sur la construction du viaduc sur l'A9 dans le cadre de la réalisation de la RC787-H144 Transchablaisienne (Rennaz-Les Evouettes). Les documents d'appel d'offres (conditions particulières, ch. 3.12) prescrivaient aux soumissionnaires d'annoncer leurs sous-traitants et leurs fournisseurs au moment de la calculation des prix; en outre, il était exigé des sous-traitants qu'ils respectent les conditions de l'appel d'offre notamment au niveau des conditions de travail fixées par les conventions collectives et les contrats-types de travail.
B. Le 13 août 2009, X._ SA a soumissionné, annonçant, pour la pose de l'armature (ferraillage), trois sous-traitants: A._, B._ et C._. Le Service des routes a formulé trois demandes successives de clarification à l'adresse de X._ SA, les 10 et 23 septembre, ainsi que le 22 octobre 2009. Postérieurement à la dernière demande, le Service des routes, a prié téléphoniquement X._ SA d'apporter des précisions sur les sous-traitants A._ et B._. Le 2 novembre 2009, X._ SA a fourni les précisions suivantes:
"(...) Concernant le sous-traitant A._, nous précisons que la raison sociale est A._ Frères et Cie SA à D._. Concernant le sous-traitant B._, nous vous précisons que la raison sociale est E._ SA à F._. Le soussigné (ndr: G._, directeur général) a eu des entretiens avec Monsieur H._ (du syndicat Unia) d'une part, et avec les sous-traitants ci-dessus, d'autre part. Il s'avère que l'analyse du respect des conventions collectives diverge entre les 2 parties. Par conséquent, le soussigné s'engage sur l'honneur à adjuger à une entreprise respectant les conventions et en accord avec les syndicats. Pour ce faire, il se propose de créer une séance tripartite entre les sous-traitants ci-dessus et les syndicats afin d'éclaircir ce désaccord. Sur cette base, la liste des sous-traitants pour la pose des aciers que nous vous proposons est donc:
- A._ Frères et Cie SA ?séance à organiser avant adjudication
- E._ SA?séance à organiser avant adjudication
- I._ Sàrl (à J._)?en ordre avec les syndicats
- C._?en ordre avec les syndicats."
C. Le même jour, le Service des routes a contacté par téléphone X._ SA, pour lui faire savoir que les sous-traitants A._ et Cie SA et E._ SA n'étaient pas admis et qu'un nouvel examen serait nécessaire au cas où cette proposition serait maintenue par le soumissionnaire. En effet à l'issue de plusieurs contrôles effectués dans le canton entre 1999 et 2000 et entre 2007 et 2008, deux des entreprises dirigées par M. B._, soit B._ (depuis lors en faillite), à K._, et E._ SA, à L._, avaient été surprises sur plusieurs chantiers alors qu'elles enfreignaient la législation en matière de police des étrangers et celle régissant le droit du travail et des assurances sociales, ce qui avait conduit à la dénonciation à réitérées reprises de M. B._. D'entente avec X._ SA, le Service des routes a ainsi biffé, sur l'offre, les désignations "A._" et "B._" de l'annonce des sous-traitants, d'une part, et a corrigé la réponse du soumissionnaire du 2 novembre 2009, en ce sens que, pour la proposition des sous-traitants A._ Frères et Cie SA et E._ SA, une séance devait être organisée avant les travaux, réservant ainsi un possible réexamen des deux sous-traitants non admis.
D. Le 5 novembre 2009, le Département des infrastructures du canton de Vaud a adjugé à X._ SA le marché public. Le 25 février 2010, les parties ont conclu un contrat d'entreprise portant sur une montant total net TTC de 12'243'797 fr. 65.
E. Lors de la séance de chantier du 12 mai 2010, X._ SA a derechef proposé au maître de l'ouvrage le sous-traitant A._ et Cie SA pour la pose de l'armature. Après avoir pris des renseignements, le Département des infrastructures a agréé ce sous-traitant.
Le 3 juin 2010, le mandataire du maître de l'ouvrage, M._, de N._ SA, ingénieurs à Lausanne, s'est enquis par courrier électronique de la raison sociale du ferrailleur engagé sur le chantier. Dans sa réponse du même jour, X._ SA a désigné l'entreprise O._ Sàrl, à F._. Au courrier électronique de ce dernier était joint un extrait scanné du Registre du commerce du canton du Valais concernant cette entreprise. La partie inférieure, faisant apparaître l'identité des organes de la société, n'a pas été transmise. Étaient jointes en outre des attestations de paiement des charges sociales par O._ Sàrl. Lors de la séance de chantier du 10 juin 2010, X._ SA a proposé le sous-traitant O._ Sàrl pour la pose de l'armature. Le paragraphe 6.2.2 du PV n° 7 a été corrigé en ce sens, d'entente entre toutes les parties (PV n° 9, § 6.2.2).
F. Un contrôle effectué le 26 octobre 2010 sur le chantier du viaduc a révélé que, sur cinq ouvriers occupés aux travaux de ferraillage, deux n'étaient pas autorisés à travailler en Suisse. Tous ont déclarés être employés par E._ SA, à Sierre. Appelé sur les lieux, M. B._, directeur de E._ SA et gérant de O._ Sàrl, a admis les faits.
Le 3 novembre 2010, X._ SA a mis en demeure O._ Sàrl de lui fournir la liste exhaustive du personnel mis en ?uvre sur le chantier, avec copie des permis de séjour, des certificats de salaire et du paiement des charges sociales. Le 9 décembre 2010, il a résilié avec effet immédiat le contrat d'entreprise conclu le 17 mai 2010 avec cette entreprise.
G. Le 9 décembre 2010, le Département des infrastructures a informé X._ SA de l'ouverture d'une procédure de sanction à son encontre. Le 21 décembre 2010, l'intéressée a rappelé qu'elle n'avait aucun lien contractuel avec E._ SA, qu'elle avait pris toutes les mesures pour assurer le respect par son partenaire contractuel de la législation en matière de police des étrangers, du droit du travail et des assurances sociales et qu'elle avait résilié avec effet immédiat le contrat la liant à O._ Sàrl.
Le 17 février 2011, le Département des infrastructures a prononcé à l'encontre de X._ SA une amende de 61'219 fr. pour contravention à l'art. 14a al. 1 de la loi vaudoise du 24 juin 1996 sur les marchés publics (LMP/VD; RSVD 726.01).
X._ SA a recouru contre cette dernière décision auprès du Tribunal cantonal du canton de Vaud en demandant à titre principal l'annulation de l'amende, subsidiairement à ce que la pénalité soit ramenée à 944 fr. 60.
Le recours a été rejeté par arrêt du Tribunal cantonal du 2 septembre 2011.
H. Agissant simultanément par la voie du recours en matière de droit public et celle du recours constitutionnel subsidiaire, X._ SA demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler la sanction, subsidiairement de la réduire
Agissant en outre dans le même temps par la voie du recours en matière pénale, elle demande au Tribunal fédéral, sous suite de frais et dépens, de l'acquitter, subsidiairement de réduire la sanction ou de l'assortir du sursis Elle demande que le traitement de son recours en matière de droit public soit suspendu jusqu'à droit connu sur le recours en matière pénal.
Par ordonnance du 20 mars 2012, le Juge instructeur a rejeté la requête d'effet suspensif.
Le Département des infrastructures a conclu principalement à son irrecevabilité, subsidiairement à son rejet, alors que le Tribunal cantonal a déclaré se référer au dispositif et aux considérants de l'arrêt attaqué.
I. Le Tribunal fédéral a rendu son jugement en séance publique le 22 juin 2012.
Considérant en droit:
1. Le Tribunal fédéral examine d'office sa compétence (art. 29 al. 1 LTF). Il contrôle donc librement la recevabilité des recours qui sont déposés devant lui (ATF 136 II 470 consid. 1 p. 472).
1.1 La voie de droit ouverte devant le Tribunal fédéral, recours en matière pénale (art. 78 ss LTF) ou recours en matière de droit public (art. 82 ss LTF), dépend de la nature pénale ou publique de la matière en cause. Hormis le cumul avec un recours constitutionnel subsidiaire (art. 119 LTF), il n'est en effet pas possible de saisir le Tribunal fédéral de recours distincts contre une même décision. La désignation erronée de la voie de droit toutefois ne saurait nuire à la recourante si son recours remplit les exigences légales de la voie de droit qui lui est ouverte (ATF 133 I 300 consid. 1.2 p. 302 s.). Lorsque les deux mémoires répondent à ces exigences, tous les griefs soulevés doivent être examinés, pour autant que, comme en l'espèce, il soit aisé de les identifier. A défaut, les mémoires doivent être renvoyés pour rédaction d'une seule écriture, en application analogique de l'art. 42 al. 6 LTF.
1.2 Le litige a pour objet une amende de 61'219 francs prononcée en application de l'art. 14a al. 1 de la loi vaudoise du 24 juin 1996 sur les marchés publics (LMP/VD; RSVD 726.01). A la différence d'autres lois, p. ex. de la loi fédérale sur les cartels et autres restrictions à la concurrence (LCart; RS 251), la loi vaudoise sur les marchés publics ne distingue pas clairement entre les sanctions administratives (art. 49a à 53 LCart) et d'éventuelles conséquences de droit pénal (art. 54 ss LCart). L'art. 14a LMP a la teneur suivante:
"Art. 14a Sanctions
1 Les violations, intentionnelles ou par négligence, des règles régissant les marchés publics par un soumissionnaire pendant la procédure d'adjudication ou l'exécution du contrat peuvent selon leur gravité être sanctionnées par l'adjudicateur par l'avertissement ou la révocation de l'adjudication.
2 Le Département des infrastructures, sur dénonciation, peut prononcer une amende allant jusqu'à 10% du prix final de l'offre et/ou l'exclusion de tout nouveau marché pour une durée maximale de cinq ans et l'exclusion de la liste permanente des soumissionnaires qualifiés. Il est également l'autorité compétente pour prononcer l'exclusion des futurs marchés publics au sens de l'article 13 de la loi fédérale du 17 juin 2005 concernant des mesures en matière de lutte contre le travail au noir (LTN).
3 Les sanctions n'excluent pas d'autres poursuites judiciaires à l'encontre du soumissionnaire fautif."
L'art. 14a LMP s'inscrit dans le prolongement de l'art. 11 de l'accord intercantonal du 25 novembre 1994 sur les marchés publics (AIMP) qui prévoit notamment:
" Art. 11 Principes généraux
1 Lors de la passation de marchés, les principes suivants doivent être respectés:
(...)
e. respect des dispositions relatives à la protection des travailleurs et aux conditions de travail;
(...).
Art. 19 Vérification et sanctions
1 Chaque canton vérifie le respect, par les soumissionnaires et les pouvoirs adjudicateurs, des dispositions en matière de marchés publics, tant durant la procédure de passation qu'après l'adjudication.
2 Chaque canton détermine les sanctions encourues en cas de violation des dispositions en matière de marchés publics."
La réglementation intercantonale et l'art. 14a LMP/VD sont encore complétés, dans le canton de Vaud, par le règlement d'application de la loi cantonale sur les marchés public du 7 juillet 2004 (RLMP/VD; RSVD 726.01.1), qui prévoit ce qui suit:
"Art. 6 Participants à l'exécution du marché
1 Le soumissionnaire doit notamment indiquer:
(...)
b. le nom et le siège des participants à l'exécution du marché;
c. la preuve de l'aptitude des participants à l'exécution du marché.
2 L'adjudicateur s'assure que les soumissionnaires:
a. respectent les dispositions relatives à la protection des travailleurs et aux conditions de travail, ainsi que l'égalité de traitement entre hommes et femmes;
b. garantissent par contrat que les sous-traitants respectent ces prescriptions.
3 Les conditions de travail sont celles fixées par les conventions collectives et les contrats-types de travail; en leur absence, ce sont les prescriptions usuelles de la branche professionnelle qui s'appliquent.
4 Sur demande, le soumissionnaire doit prouver qu'il respecte les dispositions relatives à la protection des travailleurs et aux conditions de travail, qu'il a payé ses cotisations aux institutions sociales et ses impôts ou qu'il donne plein pouvoir à l'adjudicateur pour effectuer les contrôles.
1.3 Les termes utilisés par le législateur, spécialement celui d'"amen-de", peuvent se référer tant à une sanction de droit administratif que de droit pénal. Il convient donc d'interpréter la notion au regard des autres sanctions prévues par la loi cantonale sur les marchés publics, telles que l'avertissement ou la révocation de l'adjudication, l'exclusion de tout nouveau marché pour une durée maximale de cinq ans et l'exclusion de la liste permanente des soumissionnaires qualifiés. Il s'agit de mesures administratives, comme le montre également le fait que l'amende peut être prononcée, alternativement ou cumulativement à l'exclusion de tout nouveau marché pour une durée maximale de cinq ans et à l'exclusion de la liste permanente des soumissionnaires qualifiés. Prononcée par une autorité administrative en lieu et place d'un juge (T. TANQUEREL, Manuel de droit administratif, 2011, ch. 1204 p. 402), l'amende en cause ne peut au demeurant pas être convertie en peine privative de liberté (cf. P. MOOR /E. POLTIER, Droit administratif, vol. II, 3e éd., Berne 2011, p. 161). Enfin, l'art. 14a al. 3 LMP réserve explicitement d'autres poursuites judiciaires.
Dans ces conditions, la cause relève du droit public au sens de l'art. 82 LTF, ce qui ne préjuge pas du champ d'application des garanties ancrées aux art. 6 et 7 CEDH.
1.4 Les recours devant être examinés par la IIe Cour de droit public (art. 30 al. 1 let. c ch. 8 RTF), il n'y a pas lieu de suspendre le traitement du recours en matière de droit public jusqu'à droit connu sur celui en matière pénale. La requête tendant à se voir accorder la possibilité de retirer un des recours dès lors que l'autre serait déclaré recevable est ainsi sans objet.
2. 2.1 Selon l'art. 83 let. f LTF, le recours en matière de droit public n'est recevable qu'à des conditions restrictives en matière de marchés publics. Il faut cumulativement que la valeur estimée du mandat à attribuer ne soit pas inférieure aux seuils déterminants de la LMP ou de l'accord du 21 juin 1999 entre la Confédération suisse et la Communauté européenne sur certains aspects relatifs aux marchés publics (RS 0.172.052.68) et que le recours soulève une question juridique de principe (art. 42 al. 2 LTF; cf. ATF 133 II 396 consid. 2.2 p. 398 s.). Lorsque, comme en l'espèce, la cause porte sur une sanction prononcée en application de la législation sur les marchés publics et non pas directement sur un marché public, il n'est pas certain que la clause d'exclusion de l'art. 83 let. f LTF trouve bien application. Cette question peut demeurer ouverte. En effet, le recours en matière de droit public peut être formé pour violation du droit fédéral y compris les droits fondamentaux (art. 95 let. a LTF), tandis que le recours constitutionnel subsidiaire est ouvert contre les décisions des autorités cantonales de dernière instance qui ne peuvent faire l'objet d'aucun recours selon les art. 72 à 89 (art.113 LTF) et ne peut être formé que pour violation des droits constitutionnels (art. 116 LTF).
2.2 Comme la cause relève du droit cantonal, qui ne peut faire l'objet que de griefs d'ordre constitutionnel devant le Tribunal fédéral (art. 95 LTF), il n'est pas nécessaire de qualifier la voie de droit ouverte en l'espèce, le Tribunal fédéral disposant du même pouvoir de cognition des griefs de droit constitutionnel dans les deux voies de droit.
3. Invoquant l'art. 9 Cst., la recourante se plaint de l'établissement manifestement inexact des faits (art. 97 al. 1 LTF et 118 al. 2 LTF).
3.1 Le Tribunal fédéral fonde son raisonnement juridique sur les faits constatés par l'autorité précédente (art. 105 al. 1 et 118 al. 1 LTF), à moins que ces faits n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire ( art. 107 al. 2 LTF; ATF 134 V 53 consid. 4.3 p. 62) ou en violation du droit au sens de l'art. 116 LTF, ce que la partie recourante doit démontrer par une argumentation répondant aux exigences de l'art. 106 al. 2 LTF (cf. ATF 136 II 508 consid. 1.2 p. 511). A défaut, il n'est pas possible de tenir compte d'un état de fait divergent de celui qui est contenu dans la décision attaquée. En particulier, le Tribunal fédéral n'entre pas en matière sur les critiques ou explications de type appellatoire du recourant portant sur l'état de fait ou sur l'appréciation des preuves (ATF 136 II 101 consid. 3 p. 104).
3.2 La recourante soutient que l'instance précédente n'a pas retenu, bien que cela ressorte sans équivoque des pièces produites devant cette dernière, que le sous-traitant a été agréé par le maître de l'ouvrage, comme il l'a d'ailleurs admis pour la première entreprise A._, qui avait elle aussi été biffée. Le Tribunal cantonal en aurait tiré la conclusion erronée que "la recourante ne saurait se prévaloir du fait que le maître de l'ouvrage aurait accepté que les travaux soient sous-traités à O._ Sàrl".
Cette critique est infondée. En effet, comme la recourante le relève elle-même, l'instance précédente a clairement mentionné que "le paragraphe 6.2.2 du PV n° 7 a été corrigé en ce sens d'entente avec toutes les parties", de sorte qu'effectivement, le pouvoir adjudicateur savait que les travaux seraient sous-traités à O._ Sàrl. En réalité, le véritable reproche que l'instance précédente formule à charge de la recourante, c'est d'avoir caché à l'adjudicateur l'identité des organes de O._ Sàrl, spécialement celle de son gérant, M. B._, en fournissant, dans l'annexe à son courrier électronique du 3 juin 2010, un extrait tronqué du registre du commerce du canton du Valais. En affirmant que la recourante ne saurait se prévaloir du fait que le maître de l'ouvrage aurait accepté que les travaux soient sous-traités à O._ Sàrl, le Tribunal cantonal a simplement affirmé que, si l'information complète lui avait été transmise et que l'identité du sous-traitant lui était apparue, le maître de l'ouvrage l'aurait refusé. Eu égard à l'attitude générale du maître de l'ouvrage par rapport aux sociétés gérées par M. B._ et au comportement de ce dernier en matière d'assurances sociales et de police des étrangers, l'instance précédente pouvait sans arbitraire parvenir à cette conclusion. Le grief doit donc être rejeté.
3.3 La recourante voit également un comportement arbitraire de l'instance précédente dans son affirmation relative au fait que l'extrait scanné du registre du commerce du Valais faisant apparaître l'identité des organes de O._ Sàrl "était tronqué". Dans la mesure où elle admet toutefois n'avoir expédié au maître que des documents incomplets, les versos de divers documents, notamment celui de l'extrait du registre du commerce n'ayant "pas passé", il n'y a pas d'arbitraire à retenir que la recourante n'a pas fourni toutes les informations permettant au maître de l'ouvrage de se faire une idée exacte du sous-traitant. Ce grief est rejeté.
3.4 La recourante estime enfin que les informations figurant sur le site du registre du commerce sont réputées connues et que le maître de l'ouvrage savait par conséquent à quelle entreprise le chantier était sous-traité.
Il est vrai que les tiers auxquels une inscription dans le registre du commerce est devenue opposable ne peuvent se prévaloir de ce qu'ils l'ont ignorée (art. 933 al. 1 CO). Le contenu de l'inscription est alors qualifié de fait notoire (p. ex. arrêt 2C_952/2010 du 29 mars 2011, consid. 2.3). Il n'est cependant pas certain que les effets de publicité de l'art. 933 CO, qui sont destinés à renforcer la sécurité des transactions commerciales, valent aussi dans les rapports de droit public (niés en matière de TVA, cf. arrêt 2C_382/2007 du 23 novembre 2007, consid. 4.2; admis en matière d'assurances sociales, arrêt 8C_293/2008 du 30 juin 2009 consid. 4). Ensuite, dans des relations pré-contractuelles, le principe de la bonne foi prévaut entre les parties. Or, la jurisprudence admet que, dans certaines circonstances, la bonne foi empêche le principe de la foi publique du registre du commerce de déployer tous ses effets. (ATF 106 II 346 consid. 4b; arrêt 4C.293/2006 du 17 novembre 2006 consid. 2.2). Quoi qu'il en soit, le principal reproche formulé à l'encontre de la recourante est celui de ne pas avoir fourni dans leur intégralité les documents qu'elle avait l'obligation de transmettre, ce qui exclut en l'espèce de faire appel aux effets de publicité prévus par l'art. 933 CO.
3.5 Le grief d'arbitraire dans l'établissement des faits est rejeté.
4. La recourante se plaint de la violation des art. 27 et 36 Cst. N'étant pas motivé conformément aux exigences accrues de l'art. 106 al. 2 LTF, ce grief est irrecevable.
5. Invoquant les art. 5, 27 et 36 Cst. ainsi que 7 CEDH, la recourante se plaint de la violation du principe de la légalité (nulla poena sine lege). Elle soutient que l'art. 14a LMP/VD n'indique pas de manière précise les comportements incriminés ni l'instance compétente ni les sanctions.
5.1 Aux termes de l'art. 7 CEDH, nul ne peut être condamné pour une action ou une omission qui, au moment où elle a été commise, ne constituait pas une infraction d'après le droit national ou international.
5.2 L'art. 7 CEDH a pour objet les accusations en matière pénale telles qu'elles sont décrites par l'art. 6 par. 1 CEDH (STEFAN SINNER, EMRK Kommentar, KARPENSTEIN/MAYER ÉD., Munich 2012, n° 8 ad art. 7 CEDH et les références citées). En effet, le libellé de l'article 7 par. 1, seconde phrase, CEDH, indique que le point de départ de toute appréciation de l'existence d'une peine consiste à déterminer si la mesure en question est imposée à la suite d'une condamnation pour une infraction. Selon la courEDH, ce qui est pertinent à cet égard, c'est la nature et le but de la mesure en cause, sa qualification en droit interne, les procédures associées à son adoption et à son exécution, ainsi que sa gravité (arrêt de la courEDH du 17 septembre 2009, Scoppola contre Italie (n° 2), requête n° 10249/03, § 97; arrêt de la courEDH du 9 février 1995, Welch contre Royaume-Uni, requête n° 17440/90 précité, § 28). La courEDH a ainsi jugé qu'une amende de 500'000 drachmes infligée à une société de transport pour avoir enfreint les règles applicables au commerce international lors de l'importation de marchandises pour une valeur totale de 15'050 marks allemands constituait une infraction pénale au sens de l'art. 6 CEDH, en raison de l'enjeu pour la société qui risquait une amende maximale équivalent à la valeur des marchandises soit le triple de celle qui avait été infligée (arrêt de la courEDH du 24 septembre 1997, Garyfallou Aebe contre Grèce, requête 18996/91, § 32 et 33).
En l'espèce, bien que la présente affaire doive être considérée, sous l'angle de l'art. 82 LTF, comme une cause de droit public, la quotité de l'amende infligée à la recourante, soit 61'219 fr., dont le montant maximal aurait pu s'élever à 1'137'899 fr., justifie que l'infraction définie à l'art. 14a LMP/VD soit qualifiée de pénale au sens des art. 6 et 7 CEDH. Le grief de violation de l'art. 7 CEDH, au demeurant dûment motivé (cf. art. 106 al. 2 LTF), est par conséquent recevable.
5.3 L'article 7 par. 1 CEDH ne se borne pas à prohiber l'application rétroactive du droit pénal au détriment de l'accusé. Il consacre aussi, de manière plus générale, le principe de la légalité des délits et des peines (nullum crimen, nulla poena sine lege). S'il interdit en particulier d'étendre le champ d'application des infractions existantes à des faits qui, antérieurement, ne constituaient pas des infractions, il commande en outre de ne pas appliquer la loi pénale de manière extensive au détriment de l'accusé. Il s'ensuit que la loi doit définir clairement les infractions et les peines qui les répriment. Cette condition se trouve remplie lorsque le justiciable peut savoir, à partir du libellé de la disposition pertinente et, au besoin, à l'aide de l'interprétation qui en est donnée par les tribunaux, quels actes et omissions engagent sa responsabilité pénale. On ne saurait interpréter l'art. 7 CEDH comme proscrivant la clarification graduelle des règles de la responsabilité pénale par l'interprétation judiciaire d'une affaire à l'autre, à condition que le résultat soit cohérent avec la substance de l'infraction et raisonnablement prévisible. Savoir jusqu'à quel point la sanction doit être prévisible dépend dans une large mesure du contenu du texte dont il s'agit, du domaine qu'il couvre ainsi que du nombre et de la qualité de ses destinataires. La prévisibilité d'une loi ne s'oppose pas à ce que la personne concernée soit amenée à recourir à des conseils éclairés pour évaluer, à un degré raisonnable dans les circonstances de la cause, les conséquences pouvant résulter d'un acte déterminé (arrêt Scoppola précité, § 93 ss et les nombreuses références à la jurisprudence de la CourEDH).
5.4 Les exigences du principe de la légalité (nulla poena sine lege) de l'art. 7 CEDH résultent aussi des art. 5, 9 et 164 al. 1 let. c Cst. Selon la jurisprudence du Tribunal fédéral, la loi doit être formulée de manière telle qu'elle permette au citoyen d'y conformer son comportement et de prévoir les conséquences d'un comportement déterminé avec un certain degré de certitude, lequel ne peut être fixé abstraitement, mais doit au contraire tenir compte des circonstances. Le juge peut, sans violer ce principe, donner du texte légal une interprétation même extensive, afin d'en dégager le sens véritable, celui qui est seul conforme à la logique interne et au but de la disposition en cause. Si une interprétation conforme à l'esprit de la loi peut s'écarter de la lettre du texte légal, le cas échéant au détriment de l'accusé, il reste que le principe nulla poena sine lege interdit au juge de se fonder sur des éléments que la loi ne contient pas, c'est-à-dire de créer de nouveaux états de fait punissables (ATF 138 IV 13 consid. 4.1 p. 19 s. et les nombreuses références citées). Le principe de la légalité n'interdit toutefois pas les normes de renvoi, qui sanctionnent la violation de prescriptions légales, insérées dans la loi elle-même, dans ses dispositions d'application ou encore dans d'autres actes législatifs, fédéraux ou cantonaux. La disposition pénale doit être lue comme si la règle de concrétisation faisait partie intégrante de son texte. Le comportement incriminé n'est donc pas indéterminé (arrêt 6B_15/2012 du 13 avril 2012 consid. 4.1 et les références de jurisprudence et de doctrine citées).
5.5 Aux termes de l'art. 14a al. 1 LMP/VD, les violations, intentionnelles ou par négligence, des règles régissant les marchés publics par un soumissionnaire pendant la procédure d'adjudication ou l'exécution du contrat peuvent selon leur gravité être sanctionnées par l'adjudicateur par l'avertissement ou la révocation de l'adjudication. Selon l'art. 14a al. 2 LMP/VD, le Département des infrastructures, sur dénonciation, peut prononcer une amende allant jusqu'à 10% du prix final de l'offre et/ou l'exclusion de tout nouveau marché pour une durée maximale de cinq ans et l'exclusion de la liste permanente des soumissionnaires qualifiés. Il est également l'autorité compétente pour prononcer l'exclusion des futurs marchés publics au sens de l'article 13 de la loi fédérale du 17 juin 2005 concernant des mesures en matière de lutte contre le travail au noir (LTN). L'art. 14a al. 1 LMP/VD est une "Blankettnorm" de droit pénal. De telles normes sont fréquentes parmi les dispositions pénales des lois spéciales et en principe admissibles sous l'angle constitutionnel (ATF 106 Ia 100 consid. 7a p. 106 s.; 98 Ia 356 consid. 3a p. 360).
5.6 Parmi les règles régissant les marchés publics figure l'art. 6 al. 1 let. e LMP/VD selon lequel lors de la passation des marchés, il y a lieu de respecter les dispositions relatives à la protection des travailleurs et aux conditions de travail. C'est affaire d'interprétation que de désigner quelles sont les dispositions relatives à la protection des travailleurs, une interprétation extensive au détriment de l'inculpé n'étant à cet égard pas contraire au principe de la légalité (cf. consid. 5.4 ci-dessus).
Selon l'art. 22 de la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20), un étranger ne peut être admis autrement dit recevoir une autorisation de séjour (art. 11 LEtr) en vue de l'exercice d'une activité lucrative qu'aux conditions de rémunération et de travail usuelles du lieu, de la profession et de la branche. Il résulte du Message du Conseil fédéral du 8 mars 2002 concernant la loi sur les étrangers que l'art. 22 (21 du projet) LEtr a été conçu comme une disposition ayant pour but non seulement de protéger le travailleur en Suisse contre le dumping salarial et social mais également la main d'?uvre étrangère contre l'exploitation financière (FF 2002 3469, 3539). Selon l'art. 6 al. 3 RLMP/VD, il faut entendre par conditions de travail celles fixées par les conventions collectives et les contrats-types de travail ou, à défaut, celles qui résultent des prescriptions usuelles de la branche professionnelle.
Par conséquent celui qui, pendant la procédure d'adjudication ou l'exécution du contrat, ne respecte pas l'art. 22 LEtr, qui constitue une disposition relative à la protection des travailleurs et aux conditions de travail, viole les règles régissant les marchés publics au sens de l'art. 14a al. 1 LMP/VD. L'art. 14a LMP/VD est ainsi formulé de façon suffisamment précise pour permettre à la recourante d'y conformer son comportement et de prévoir les conséquences d'actes déterminés.
5.7 La recourante soutient que l'obligation de surveillance dont l'instance précédente lui reproche la violation incombe, selon la loi cantonale, à l'adjudicateur et non pas à l'adjudicataire. En confirmant sa condamnation, l'arrêt attaqué aurait créé, en violation du principe nulla poena sine lege et de l'interdiction de l'arbitraire, un nouvel état de fait punissable qui ne ressort d'aucune disposition légale. Ce grief doit être écarté.
En effet, le comportement sanctionnée par l'art.14a al. 1 LMP/VD ne consiste pas à surveiller un éventuel sous-traitant comme le soutient à tort la recourante. Le comportement délictueux consiste à ne pas respecter les exigences de l'art. 22 LEtr dans la passation et l'exécution d'un marché public. Les termes "exécution d'un marché public" couvrent en particulier l'acte de construire un ouvrage. En d'autres termes, l'art. 14a LMP/VD ne sanctionne pas l'employeur, mais bien le soumissionnaire à qui l'exécution du marché public a été accordée par contrat, qu'il construise lui-même l'ouvrage en cause ou le fasse construire par un sous-traitant. En conséquence, le soumissionnaire qui fait exécuter le marché par un sous-traitant dont les employés travaillent en violation de l'art. 22 LEtr remplit les conditions objectives de l'infraction sanctionnée par l'art. 14a LMP/VD. La question de savoir s'il remplit également les conditions subjectives de l'infraction dépend de celle de savoir s'il agit au moins par négligence.
5.8 En l'espèce, l'instance précédente a confirmé à bon droit la décision de première instance affirmant que la recourante réalisait les conditions objectives de l'art. 14a LMP/VD puisque deux ouvriers occupés aux travaux de ferraillage n'étaient effectivement pas autorisés à travailler en Suisse (arrêt attaqué, consid. 3b et 4b).
6. La recourante estime que le Tribunal cantonal a violé la présomption d'innocence dont elle aurait dû bénéficier au regard des art. 6 CEDH et 32 Cst. ainsi que les règles relatives au fardeau de la preuve.
6.1 La présomption d'innocence, garantie par les art. 6 par. 2 CEDH et 32 al. 1 Cst., ainsi que son corollaire, le principe in dubio pro reo, concernent tant le fardeau de la preuve que l'appréciation des preuves (ATF 120 Ia 31 consid. 2c p. 36).
En tant que règle relative au fardeau de la preuve, la présomption d'innocence signifie que toute personne prévenue d'une infraction pénale doit être présumée innocente jusqu'à ce que sa culpabilité soit légalement établie et, partant, qu'il appartient à l'accusation de prouver la culpabilité de l'intéressé. La présomption d'innocence est violée si le juge du fond condamne l'accusé au motif que son innocence n'est pas établie, s'il a tenu la culpabilité pour établie uniquement parce que le prévenu n'a pas apporté les preuves qui auraient permis de lever les doutes quant à son innocence ou à sa culpabilité ou encore s'il a condamné l'accusé au seul motif que sa culpabilité est plus vraisemblable que son innocence (ATF 127 I 38 consid. 2a p. 41; 124 IV 86 consid. 2a p. 88; 120 Ia 318 consid. 2c p. 37).
Comme principe présidant à l'appréciation des preuves, la présomption d'innocence est violée si le juge du fond se déclare convaincu de faits défavorables à l'accusé sur lesquels, compte tenu des éléments de preuve qui lui sont soumis, il aurait au contraire dû, objectivement, éprouver des doutes. A propos de l'appréciation des preuves, le principe in dubio pro reo se confond en définitive avec celui d'appréciation arbitraire des preuves (ATF 127 I 38 consid. 2 p. 40 ss; 124 IV 86 consid. 2a p. 87/88; 120 Ia 31 consid. 2c-e p. 36 ss). En matière d'appréciation des preuves et d'établissement des faits, il y a arbitraire lorsque l'autorité ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (ATF 137 III 226 consid. 4.2 p. 234; 136 III 552 consid. 4.2 p. 560).
Le Tribunal fédéral examine librement si la présomption d'innocence a été violée en tant que règle sur le fardeau de la preuve. Il examine uniquement sous l'angle de l'arbitraire l'appréciation des preuves (ATF 124 IV 86 consid. 2a p. 88).
6.2 Selon la recourante, l'autorité n'a absolument pas établi en quoi elle avait agi par négligence. Elle reproche à l'instance précédente d'avoir considéré que le simple fait que deux employés n'étaient pas en règle le jour du contrôle constituait une preuve suffisante d'une négligence.
Les critiques de la recourante portent indistinctement sur l'établissement des faits et sur la répartition du fardeau de la preuve, sans exposer concrètement ni minutieusement, dans le respect des exigences accrues de motivation de l'art. 106 al. 2 LTF, en quoi l'instance précédente serait tombée dans l'arbitraire en matière de constatation des faits. Ces griefs sont par conséquent irrecevables.
Au demeurant, en examinant l'existence d'une éventuelle négligence de la recourante et en retenant que celle-ci a agi de manière fautive en ne contrôlant pas de manière efficace les employés du sous-traitant sur le chantier, l'instance précédente a exclu de fonder la sanction litigieuse sur une responsabilité objective et a dûment respecté la présomption d'innocence ainsi que les règles sur le fardeau de la preuve. La recourante savait clairement que le maître de l'ouvrage avait exclu du marché M. B._, respectivement toute entreprise dirigée par ce dernier. Ces circonstances commandaient à la recourante de s'assurer que toutes les informations demandées étaient parvenues à l'adjudicateur, ce qu'elle n'a pas fait. A cela s'ajoute qu'elle a même choisi de sous-traiter une partie du marché à une des entreprises dirigées par ce dernier, alors qu'il ne faisait aucun doute que toute entreprise dirigée par M. B._ avait déjà été exclue. Encore une fois ces circonstances notamment le fait que la recourante savait que M. B._ avait été exclu de la procédure en raison de nombreuses infractions en matière de travail au noir, lui commandaient de redoubler de vigilance sur le chantier et de multiplier les contrôles. En n'usant pas des précautions commandées par ces circonstances, la recourante a agi par négligence au sens de l'art. 14a al. 1 LMP/VD.
Les griefs sont par conséquent rejetés dans la faible mesure de leur recevabilité.
6.3 La recourante soutient encore que l'instance précédente n'a pas mis en évidence l'exigence d'un rapport de causalité naturel et adéquat entre l'omission de surveillance et le comportement du sous-traitant. Elle estime qu'elle a fait tout ce qu'elle pouvait pour éviter un tel résultat, que la présomption d'innocence est violée et que l'état de Vaud avait admis le sous-traitant.
Ces griefs se confondent avec ceux qui ont été examinés sous l'angle de l'établissement des faits (cf. consid. 3.2 ci-dessus) et sous l'angle de la présomption d'innocence (cf. consid. 6.2 ci-dessus) en matière de négligence. Ils sont par conséquent rejetés dans la mesure où ils sont recevables. Enfin, la recourante est mal venue de se prévaloir d'un consentement de l'État de Vaud, puisqu'il est clairement établi que ce dernier avait exclu de travailler avec les entreprises dirigées par M. B._ et qu'en raison de la transmission d'un extrait tronqué par la recourante, il n'a pas été informé de la représentation - précisément par cette personne - de la société O._ Sàrl.
Il n'incombe évidemment pas au Tribunal fédéral d'exposer à la recourante les moyens qu'elle aurait dû déployer pour assurer une surveillance efficace. Il suffit de rappeler qu'un simple contrôle sur le chantier a permis de mettre en évidence la violation de la loi par le sous-traitant et que la recourante aurait pu en faire de même.
Ces griefs doivent également être rejetés.
7. Invoquant l'égalité de traitement, les principes de la légalité et de la proportionnalité ainsi que l'interdiction de l'arbitraire dans l'application du droit cantonal, la recourante se plaint de la fixation de l'amende.
7.1 La protection de l'égalité (art. 8 Cst.) et celle contre l'arbitraire (art. 9 Cst.) sont étroitement liées. Une décision est arbitraire lorsqu'elle ne repose pas sur des motifs sérieux et objectifs ou n'a ni sens ni but. Elle viole le principe de l'égalité de traitement lorsqu'elle établit des distinctions juridiques qui ne se justifient par aucun motif raisonnable au regard de la situation de fait à réglementer ou lorsqu'elle omet de faire des distinctions qui s'imposent au vu des circonstances, c'est-à-dire lorsque ce qui est semblable n'est pas traité de manière identique et lorsque ce qui est dissemblable ne l'est pas de manière différente. Il faut que le traitement différent ou semblable injustifié se rapporte à une situation de fait importante (ATF 136 II 120 consid. 3.3.2 p. 127). L'inégalité de traitement apparaît toutefois comme une forme particulière d'arbitraire, consistant à traiter de manière inégale ce qui devrait l'être de manière semblable ou inversement (ATF 129 I 1 consid. 3 p. 3), de sorte que le grief relatif à l'égalité de traitement n'a pas de portée propre par rapport à celui de l'interdiction de l'arbitraire.
7.2 Selon l'instance précédente, le prix final de l'offre au sens de l'art. 14a al. 1 LMP/VD est celui ayant donné lieu à adjudication, c'est-à-dire 11'378'994 fr. 10 avant TVA et non pas 12'2430'797 fr. 65, TVA comprise. La recourante estime en vain que c'est de manière arbitraire que l'amende a été calculée sur la totalité des travaux adjugés et non sur la partie d'entre eux, d'un montant de 188'926 fr. 40, ayant donné lieu aux agissements du sous-traitant. D'une part, l'interprétation du droit cantonal par l'instance précédente trouve appui sur la lettre de la loi. D'autre part, il serait impossible en cas de violations multiples des règles régissant les marchés publics de désigner la part du montant total du marché concernée par chacune des infractions commises. Il suffit que l'autorité compétente tienne compte de la portée des agissements concrètement incriminés dans l'évaluation de la faute et la fixation de la sanction, ce que l'instance précédente a dûment fait.
7.3 Sous l'angle du principe de proportionnalité, force est de reconnaître que, selon la lettre de l'art. 14a al. 1 LMP/VD, l'amende maximale pour une faute très grave aurait pu atteindre 10% du prix final de l'offre soit en l'espèce une sanction de 1'137'899 fr. Il n'y a par conséquent rien de choquant à confirmer une amende de 61'219 fr., qui correspond à 0,5% du prix final de l'offre, sanctionnant la violation par négligence des règles applicables au marché public en cause. Le grief relatif à la disproportion de l'amende doit donc être rejeté.
8. Invoquant l'interdiction de la reformatio in pejus et son droit d'être entendue, la recourante reproche à l'instance précédente de n'avoir pas réduit l'amende à concurrence de 4'324 fr. correspondant à 0,5% du montant de la TVA, bien qu'elle ait exclu la TVA de l'assiette de calcul de l'amende.
8.1 L'interdiction de la reformatio in pejus n'est pas un principe garanti par le Protocole n° 7 CEDH ni par le Pacte ONU II (GILBERT KOLLY, Zum Verschlechterungsverbot im schweizerischen Strafprozess, in RPS 1995, p. 294 ss, p. 295 et les nombreuses références de doctrine et de jurisprudence). Elle ne trouve pas non plus de fondement dans l'art. 32 al. 3 Cst. qui intègre en partie les garanties de l'art. 14 Pacte ONU II et 2 Prot. n° 7 CEDH (HANS VEST, Die Schweizerische Bundesverfassung, Kommentar, Ehrenzeller/Mastronardi/Schweizer/ Vallender éd., Schulthess 2002, n° 1 ad art. 32 Cst., p. 451; MICHEL HOTTELIER, Les garanties de procédures, in: Droit constitutionnel suisse, Thürer/Aubert/Müller éd., Zurich 2001, § 51, 809 ss, n° 53 s. p. 822; GÉRARD PIQUEREZ, L'interdiction de la reformatio in pejus en procédure civile et en procédure pénale, in Mélanges Assista, Genève 1989, p. 497 ss, p. 502). En effet, tant l'art. 2 Prot. n° 7 CEDH que l'art. 14 Pacte ONU II confient expressément à la loi nationale le soin de régler les modalités du droit de recours à l'instance supérieure (ATF 128 I 237 consid. 3 p. 238 s. et les références citées; AUER/MALINVERNI/ HOTTELIER, Droit constitutionnel suisse, Berne 2000, tome II, n° 1385 p. 640 s.). La législation, de droit fédéral ou cantonal, peut par conséquent interdire ou autoriser la reformatio in pejus (GILBERT KOLLY, op. cit., p. 295).
8.2 La recourante ne désigne pas de disposition légale de droit cantonal qui interdirait la reformatio in pejus dont l'application par l'instance précédente violerait l'interdiction de l'arbitraire (art. 106 al. 2 LTF). Son grief est par conséquent irrecevable. Au demeurant, le taux de l'amende a passé de 0,5% à 0,53%, ce qui ne constitue pas un résultat arbitraire, alors que le montant de l'amende n'a pas été augmenté. L'instance précédente pouvait par conséquent, sans violer le droit d'être entendu de la recourante, estimer que les circonstances de l'espèce, qu'elle n'avait pas à détailler une nouvelle fois, justifiaient une amende de 0,53% du montant de l'adjudication. Les griefs doivent être rejetés.
9. Invoquant les art. 46 et 106 du code pénal, la recourante estime que le montant de la sanction aurait dû être fixé en fonction du comportement de ses organes. Elle perd de vue que les art. 46 et 106 CP revêtent tout au plus en l'espèce qualité de droit cantonal supplétif.
Sauf dans les cas cités expressément par l'art. 95 LTF, le recours en matière de droit public ne peut pas être formé pour violation du droit cantonal en tant que tel. En revanche, il est toujours possible de faire valoir que la mauvaise application du droit cantonal constitue une violation du droit constitutionnel, en particulier qu'elle est arbitraire au sens de l'art. 9 Cst. (ATF 135 III 513 consid. 4.3 p. 521/522; 133 III 462 consid. 2.3 p. 466). Il appartient toutefois à la partie recourante d'invoquer ce grief et de le motiver d'une manière suffisante (cf. art. 106 al. 2 LTF, ATF 136 I 65 consid. 1.3.1 p. 68). Elle doit donc préciser en quoi l'acte attaqué serait arbitraire, ne reposerait sur aucun motif sérieux et objectif, apparaîtrait insoutenable ou heurterait gravement le sens de la justice (ATF 133 II 396 consid. 3.2 p. 400). Ne respectant pas les exigences de motivation de l'art. 106 al. 2 LTF, ce grief est irrecevable.
10. Dans ce même recours, la recourante estime que l'instance précédente a instauré une responsabilité pénale solidaire entre adjudicateur et soumissionnaire, ce qui constituerait "une violation crasse des principes tant de la légalité que de la présomption d'innocence". Le grief se confond avec celui de violation du principe nulla poena sine lege (cf. consid. 5 ci-dessus). Il doit par conséquent être rejeté pour les mêmes motifs.
11. La recourante estime enfin que la modification de l'assiette de l'amende aurait dû conduire à une modification partielle du sort des frais et dépens en instance cantonale. Elle n'indique pourtant aucune norme de procédure cantonale qui aurait fait l'objet d'une application arbitraire par l'instance précédente. Le grief est donc irrecevable.
12. Les considérants qui précèdent conduisent au rejet du recours dans la mesure où il est recevable. Succombant, la recourante doit supporter les frais judiciaires (art. 65 et 66 al. 1LTF) et n'a pas droit à des dépens (art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge de la recourante.
3. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 22 juin 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Dubey