Sachverhalt:
A. A.a Der Kanton Waadt (Beklagter, Beschwerdegegner) schrieb im Juli 1993 zusammen mit dem Kanton Freiburg das Projekt "Tunnels d'Arrissoules" auf der Autobahnstrecke zwischen Yverdon-les-Bains und Payerne öffentlich zur Vergabe aus. Der Tunnel besteht aus zwei Röhren von je 3 km Länge, wovon 2'860 m mit einer Tunnelbohrmaschine durchstochen wurden. Das in den Ausschreibungsunterlagen beschriebene Amtsprojekt wurde gemäss Vorgaben der Bauherrschaft von einer Ingenieurgemeinschaft (A.Y._ AG, B.Y._ SA; C.Y._ SA) ausgearbeitet, welche die Planung und Leitung der Arbeiten in den Bereichen Bauingenieurwesen und Elektromechanik besorgte.
Zur Ausschreibung gelangte ein Projekt mit u.a. den folgenden Eigenschaften:
a) Tunnel-Normalprofil
mit drainiertem (entwässertem) Abdichtungssystem inkl. zwei (äusseren) Längsdrainageleitungen
mit bewehrten (Profil Typ II: 33'800 m3 [5'575 m]) und unbewehrten (Profil Typ I: 660 m3 [100 m]) Teilen des Sohlgewölbes [d.h. des unteren Gewölbeteils der Beton-Innenschale des Tunnels]
mit in der Sohlauffüllung verlegten (inneren) Längsdrainageleitungen links und rechts des vorfabrizierten Technikkanals mit Wartungs- bzw. Putzschächten.
b) Personen-Querverbindungen
mit drainiertem Abdichtungssystem und seitlichen Längssickerleitungen
mit horizontaler, bewehrter Bodenplatte, vertikalen, unbewehrten Seitenwänden und oberem unbewehrtem Gewölbe in der Form eines Hufeisens.
Nach den Ausschreibungsunterlagen waren Unternehmervarianten zugelassen. Nach den damals anwendbaren Weisungen für das Vorgehen bei Submission, Vergebung und Ausführung von Arbeiten und Lieferungen für Nationalstrassen (Ausgabe 1991) sollen Unternehmervarianten alle Unterlagen enthalten, die eine Prüfung im gleichen Ausmass wie die offizielle Ausschreibung ermöglichen. Insbesondere sind nebst dem Leistungsverzeichnis mit Angebotspreisen eine technische Beschreibung sowie die Qualitäts- und Eignungsnachweise für die Varianten einzureichen. Unternehmervarianten werden nur berücksichtigt, falls das offizielle Angebot ebenfalls eingereicht wird.
A.b Die X._ AG, Zürich, (Klägerin, Beschwerdeführerin) erstellte für das ausgeschriebene Projekt ausschliesslich Unternehmervarianten. Sie übergab ihre Berichte und Pläne im Februar 1994 einem Konsortium, bestehend aus der D.Z._ AG, der E.Z._ AG und der F.Z._ AG (nachfolgend Konsortium Z._), mit dem sie am 14. Dezember 1993 einen Vertrag betreffend Unternehmervarianten für die Tunnels d'Arrissoules abschloss. Darin wurde auch die Entschädigung der Klägerin, die dem Konsortium nicht beitrat, im Falle eines Zuschlags geregelt.
Am 24. Februar 1994 reichte das Konsortium Z._ seine Offerte für das ausgeschriebene Amtsprojekt und für zwei - die Projektvariante der Klägerin mitumfassende - Unternehmervarianten ein. Gemäss technischem Bericht wiesen beide von der Klägerin erarbeiteten Varianten die folgenden Besonderheiten auf:
a) Tunnel-Normalprofil
mit einer Tunnelabdichtung ohne Felsdrainage, mit neu gestaltetem Innenring und einem unteren Gewölbeteil (Sohlgewölbe) ohne jegliche Bewehrung (Armierung)
offene Fugen am Fuss des Technikkanals und Verzicht auf die (inneren) Längsdrainageleitungen und Wartungsschächte
b) Personen-Querverbindungen
undrainiertes Abdichtungssystem (ohne Felsdrainage) mit kreisrundem Querschnitt, unbewehrter Bodenplatte und unbewehrtem Gewölbe.
Neben dem Konsortium Z._ reichten sechs weitere Konsortien Offerten ein, darunter das Konsortium G.Q._ AG, H.Q._ AG, I.Q._ SA, J.Q._ SA, K.Q._ AG, L.Q._ SA und M.Q._ SA (nachfolgend Konsortium Q._).
A.c Die Federführung im hier interessierenden Teil des Projekts lag beim beklagten Kanton Waadt. Mit Schreiben vom 10. Mai 1994 überliess die Klägerin dem Konsortium Z._ die statischen Berechnungen für die Felssicherung, den Beton-Innenring und den Technik-Kanal samt ausführlichem Kommentar betreffend Variante B zwecks Weiterleitung an den Beklagten. Ergänzende Auskünfte der Klägerin an das Konsortium Z._ datierten vom 13. Mai 1994 und vom 30. Juni 1994.
Am 15. August 1994 erging der Vergabevorschlag des Departementsvorstehers zuhanden des Staatsrats des Kantons Waadt basierend auf einer Empfehlung der beauftragten Ingenieurgemeinschaft. Unter den zuletzt im Rennen verbliebenen Offerten befanden sich gemäss "Comparatif des Dossiers d'appel d'offres" der Ingenieurgemeinschaft die Variante 1 des Konsortiums Q._ und die Variante B des Konsortiums Z._; beide Varianten wurden darin als "tunnel non drainé, sous pression d'eau" bezeichnet. Infolge des besseren Preises (ca. Fr. 142.99 Mio. gegenüber Fr. 144.43 Mio.) wurde der Offerte des Konsortiums Q._ der Vorzug gegeben. Am 28. Oktober 1994 teilte der Beklagte den nicht berücksichtigten Submittenten mit, dass das Konsortium Q._ den Zuschlag für die "Tunnels d'Arrissoules" erhalten habe.
A.d Mit einem an den Beklagten gerichteten Schreiben vom 10. Februar 1995 beschrieb die Klägerin kurz die Eigenschaften des Amtsprojekts, der von ihr erarbeiteten Variante und der vom Konsortium Q._ eingereichten Variante und stellte fest, der Hauptunterschied der Projekte liege - nachdem das Konsortium Q._ ein bewehrtes Sohlgewölbe offeriert habe - im unbewehrten Sohlgewölbe. Nachdem sie in der Zwischenzeit vernommen habe, die Variante des Konsortiums Q._ werde insofern verändert, als das Sohlgewölbe ohne jede Bewehrung ausgeführt werde, sei es aus rechtlicher Sicht unabdingbar, dass der Beklagte vor der Projektierung des unbewehrten Sohlgewölbes mit ihr Kontakt aufnehme. Sie beanspruche das uneingeschränkte geistige Eigentum und alle sonstigen Nutzungsrechte an der von ihr erarbeiteten Unternehmervariante und ihrer Teile sowie an den entsprechenden Berichten, Plänen und Berechnungen. Die Ausführung des Beton-Innenrings mit unbewehrtem Sohlgewölbe dürfe nur mit ihrer ausdrücklichen Zustimmung geschehen. Der Beklagte widersetzte sich dem Rechtsstandpunkt der Klägerin.
Am 2. November 1994 wurde mit den Arbeiten am Tunnel und im Juli 1995 mit den eigentlichen Bohrarbeiten begonnen. Im Jahre 2001 wurde der Tunnel eröffnet.
B. B.a Am 3. Oktober 2002 klagte die X._ AG beim Obergericht des Kantons Zürich mit dem Rechtsbegehren, es sei der Kanton Waadt im Sinne einer Teilklage zu verpflichten, ihr Fr. 2 Mio. nebst Zins zu 5 % seit 1. Juli 1996 zu bezahlen, unter Vorbehalt der Klageänderung und/oder der Nachklage.
Die Klägerin machte geltend, der Beklagte habe wesentliche Teile aus ihrem - in die Unternehmervariante des Konsortiums Z._ integrierten - Projekt (bestehend aus Plänen, Berichten und Berechnungen) ohne ihre Einwilligung übernommen und verwertet, worin eine Verletzung ihrer Urheberrechte sowie eine Missachtung der Bestimmungen des Bundesgesetzes gegen den unlauteren Wettbewerb (UWG) zu erblicken sei.
B.b Mit Beschluss vom 3. September 2003 wies das Obergericht die Zuständigkeitseinrede des Beklagten ab.
Mit Verfügung vom 22. März 2007 wurden die Parteien aufgefordert, im Hinblick auf die Bestellung eines Experten die ihrer Auffassung nach prozessentscheidenden Vorbringen zu bezeichnen.
Am 19. Juli 2007 wurde den Parteien ein Referentenwechsel angezeigt. Mit Beschluss vom 23. Oktober 2007 wurde ein Sachverständiger bestellt.
Anlässlich der Referentenaudienz vom 5. Februar 2008 ergänzten bzw. präzisierten die Parteien ihre Vorbringen. Ein Vergleich kam nicht zustande.
Im Rahmen des Beweisverfahrens wurden verschiedene Zeugen einvernommen. Am 14. Februar 2011 ging das gerichtliche Gutachten ein. Den Parteien wurde Gelegenheit gegeben, zum Gutachten Stellung zu nehmen. Am 19. September 2011 erstattete der Gutachter seine "Ergänzende gutachterliche Stellungnahme". Mit Schreiben vom 6. Oktober 2011 stellte der Referent dem Gutachter weitere Ergänzungsfragen, die in eine "Ergänzung und Erläuterung der gutachterlichen Stellungnahme" vom 21. Oktober 2011 mündeten. Mit Eingaben vom 8. bzw. 12. Dezember 2011 nahmen die Parteien zum Beweisergebnis Stellung.
B.c Mit Urteil vom 24. Mai 2012 wies das Obergericht des Kantons Zürich die Klage ab.
Das Obergericht erwog zunächst, dass der Beklagte mit der Erstellung der projektierten Autobahnstrecke in den Jahren 1993 bis 2001 eine öffentliche Aufgabe erfüllte, weshalb es für die Beurteilung des eingeklagten Anspruchs das waadtländische Staatshaftungsgesetz als anwendbar erachtete. Das Obergericht wendete die Bestimmungen des Obligationenrechts als ergänzendes kantonales öffentliches Recht an und hielt dafür, die öffentliche Hand habe die gewerblichen Schutzrechte wie auch die Grundsätze der Lauterkeit zu beachten. Das Gericht erwog, die Idee, einen Tunnel "undrainiert" auszuführen, könne keinen urheberrechtlichen Schutz beanspruchen; ebenso wenig stelle das im Tunnel d'Arrissoules verwirklichte "Entwässerungskonzept" in der Sohlauffüllung oder die vorgeschlagene Personen-Querverbindung eine geistige Schöpfung von individuellem Charakter dar, weshalb ein urheberrechtlicher Schutz ausser Betracht falle.
Im Zusammenhang mit der angeblichen Verwertung von Arbeitsergebnissen der Klägerin, insbesondere ihrer statischen Berechnungen und Analysen für das undrainierte und unbewehrte Normalprofil des Tunnels, hielt das Obergericht zunächst fest, dass die von der Klägerin behaupteten Einsparungen nicht durch die millimetergenaue Übernahme der Geometrie der Querschnittsform bedingt sei, sondern durch den Wechsel zur - lauterkeitsrechtlich nicht geschützten - Kreisform, weshalb es am Kausalzusammenhang zwischen einer Übernahme der genauen Abmessungen der Querschnittsgeometrie und den geltend gemachten Einsparungen fehle. Das Gericht erwog weiter, der Vorwurf des Gebrauchs der Statik der Klägerin als Entscheidgrundlage treffe die Ingenieure von A.Y._ AG, B.Y._ SA. Bei den vom Beklagten mandatierten Ingenieurunternehmen handle es sich um selbständige juristische Personen, deren Angestellte keine Amtsfunktionen ausübten. Den Beklagten treffe nach Art. 3 Abs. 1 des waadtländischen Verantwortlichkeitsgesetzes keine Haftung für unerlaubte Handlungen der Angestellten der beauftragten Ingenieurunternehmen. Eine Herausgabepflicht des Geschäftsführers für den Verletzergewinn wegen Geschäftsanmassung (vgl. Art. 423 OR) falle schon mangels Bösgläubigkeit des Beklagten ausser Betracht, womit nicht weiter zu prüfen sei, ob nach dem waadtländischen Verantwortlichkeitsgesetz eine Gewinnabschöpfung überhaupt möglich wäre. Einen Anspruch auf Rückerstattung einer ungerechtfertigten Zuwendung (vgl. Art. 62 OR), der im Sinne eines allgemeinen Rechtsgrundsatzes auch im öffentlichen Recht anerkannt sei, verneinte das Obergericht ebenfalls.
C. Mit Beschwerde in Zivilsachen beantragt die Klägerin dem Bundesgericht, es sei das Urteil des Obergerichts des Kantons Zürich vom 24. Mai 2012 aufzuheben und die Klage gutzuheissen. Eventualiter sei das angefochtene Urteil aufzuheben und die Sache zu neuer Beurteilung an die Vorinstanz zurückzuweisen. Subeventualiter seien die Kosten der Vorinstanz dem Beschwerdegegner aufzuerlegen und für das vorinstanzliche Verfahren sei ihm keine Prozessentschädigung auszurichten; subsubeventualiter seien die Kosten der Vorinstanz dem Staat aufzuerlegen und es sei dem Beschwerdegegner keine Prozessentschädigung auszurichten.
Der Beschwerdegegner beantragt die Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Vorinstanz hat auf eine Vernehmlassung verzichtet.
Die Beschwerdeführerin hat dem Bundesgericht am 26. September 2012 eine Replik, der Beschwerdegegner am 11. Oktober 2012 eine Duplik eingereicht.
Erwägungen:
1. Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob ein Rechtsmittel zulässig ist (Art. 29 Abs. 1 BGG; BGE 137 III 417 E. 1 S. 417 mit Hinweisen).
1.1 Die Beschwerde in Zivilsachen ist zulässig gegen Entscheide in Zivilsachen (Art. 72 Abs. 1 BGG). Ob eine Zivilsache vorliegt, beurteilt sich nach der Rechtsnatur des Streitgegenstandes. Entscheidend ist, ob die Parteien nach ihren Rechtsbegehren und Sachvorbringen Ansprüche des Bundesprivatrechts erhoben haben und ebensolche objektiv streitig sind. Auch der Streit um die Frage, ob objektiv bundesprivatrechtliche Ansprüche erhoben werden, gilt als Zivilsache (BGE 135 III 483 E. 1.1.1 S. 485; 129 III 415 E. 2.1; 128 III 250 E. 1a S. 252; je mit Hinweisen). Die Beschwerdeführerin stützt ihre eingeklagte Forderung auf Bundesprivatrecht, während die Vorinstanz erkannte, die Streitsache sei nach öffentlich-rechtlichen Normen zu beurteilen. Es handelt sich damit um eine Zivilsache im Sinne von Art. 72 Abs. 1 BGG.
Angefochten ist ein Endentscheid einer letzten kantonalen Instanz (Art. 75 Abs. 1 und Abs. 2 lit. a BGG i.V.m. Art. 5 Abs. 1 lit. a und d ZPO sowie Art. 90 BGG). Dagegen steht die Beschwerde in Zivilsachen offen. Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist - unter Vorbehalt einer hinreichenden Begründung (Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG) - auf die Beschwerde einzutreten.
1.2 Mit der Beschwerde in Zivilsachen kann die Verletzung von Bundesrecht (einschliesslich Bundesverfassungsrecht) gerügt werden (Art. 95 lit. a BGG; BGE 134 III 379 E. 1.2). Nicht zu den in Art. 95 BGG vorgesehenen Rügegründen gehört hingegen die Verletzung kantonaler Gesetzesbestimmungen, deren Anwendung und Auslegung vom Bundesgericht einzig unter dem Blickwinkel eines Verstosses gegen Bundesrecht bzw. gegen Bundesverfassungsrecht beurteilt werden kann (BGE 136 I 241 E. 2.4; 135 III 513 E. 4.3 S. 521; 134 III 379 E. 1.2 S. 382 f.). Das kantonale Verfahren richtete sich noch nach der nunmehr aufgehobenen Zivilprozessordnung des Kantons Zürich vom 13. Juni 1976 (aZPO/ZH; vgl. Art. 404 Abs. 1 der Schweizerischen Zivilprozessordnung [ZPO; SR 272]).
1.3 Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen oder eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Mit Blick auf die Begründungspflicht des Beschwerdeführers (Art. 42 Abs. 1 und 2 BGG) behandelt es aber grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind; es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (BGE 135 II 384 E. 2.2.1; 133 II 249 E. 1.4.1; je mit Hinweisen). Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht. Das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG). Macht der Beschwerdeführer beispielsweise eine Verletzung des Willkürverbots (Art. 9 BV) geltend, genügt es nicht, wenn er einfach behauptet, der angefochtene Entscheid sei willkürlich; er hat vielmehr im Einzelnen zu zeigen, inwiefern der angefochtene Entscheid offensichtlich unhaltbar ist (BGE 134 II 349 E. 3 S. 352; 133 I 1 E. 5.5 S. 5; 133 III 439 E. 3.2 S. 444).
Unerlässlich ist im Hinblick auf Art. 42 Abs. 2 sowie Art. 106 Abs. 2 BGG, dass die Beschwerde auf die Begründung des angefochtenen Entscheids eingeht und im Einzelnen aufzeigt, worin eine Rechtsverletzung liegt. Der Beschwerdeführer soll in der Beschwerdeschrift nicht bloss die Rechtsstandpunkte, die er im kantonalen Verfahren eingenommen hat, erneut bekräftigen, sondern mit seiner Kritik an den als rechtsfehlerhaft erachteten Erwägungen der Vorinstanz ansetzen (vgl. BGE 134 II 244 E. 2.1 S. 245 f.; 121 III 397 E. 2a S. 400; 116 II 745 E. 3 S. 749). Die Begründung hat ferner in der Beschwerdeschrift selbst zu erfolgen und der blosse Verweis auf Ausführungen in anderen Rechtsschriften oder auf die Akten reicht nicht aus (BGE 133 II 396 E. 3.1 S. 399 f.; 131 III 384 E. 2.3 S. 387 f.; je mit Hinweisen).
1.4 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
Der Beschwerdeführer, der die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substantiiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss Art. 105 Abs. 2 BGG gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre; andernfalls kann ein Sachverhalt, der vom im angefochtenen Entscheid festgestellten abweicht, nicht berücksichtigt werden. Auf eine Kritik an den tatsächlichen Feststellungen der Vorinstanz, die diesen Anforderungen nicht genügt, ist nicht einzutreten (vgl. BGE 133 III 350 E. 1.3 S. 351 f., 393 E. 7.1 S. 398, 462 E. 2.4 S. 466 f.).
1.5 Die Beschwerdeführerin stellt ihren rechtlichen Vorbringen eine ausführliche Sachverhaltsdarstellung voran, in der sie die Geschehnisse sowie den Verfahrensablauf aus eigener Sicht schildert. Sie weicht darin - wie auch in ihrer weiteren Beschwerdebegründung - in zahlreichen Punkten von den tatsächlichen Feststellungen im angefochtenen Entscheid ab oder erweitert diese. Soweit sie dazu keine zulässigen Sachverhaltsrügen erhebt, haben ihre Ausführungen unbeachtet zu bleiben.
Auch in ihrer weiteren Beschwerdebegründung kritisiert die Beschwerdeführerin teilweise in appellatorischer Weise den angefochtenen Entscheid, als ob das Bundesgericht den Rechtsstreit von Grund auf neu beurteilen könnte. So kritisiert sie etwa unter der Überschrift "Erstellte Verwertung durch den Beschwerdegegner" verschiedenste Sachverhaltsfeststellungen der Vorinstanz unter Hinweis auf zahlreiche Aktenstücke des kantonalen Verfahrens und unterbreitet dem Bundesgericht ihre Sicht der Dinge hinsichtlich der Verwertung der von ihr erstellten Variante. Sie schliesst ihre Ausführungen zwar mit der Behauptung, die Vorinstanz habe den Sachverhalt aktenwidrig und willkürlich festgestellt, verfehlt jedoch die gesetzlichen Begründungsanforderungen an entsprechende Rügen.
1.6 Die örtliche und sachliche Zuständigkeit der Vorinstanz ist im vorliegenden Beschwerdeverfahren nicht mehr strittig, nachdem die Vorinstanz darüber bereits mit selbständig eröffnetem Zwischenentscheid entschieden hatte (vgl. Art. 92 Abs. 2 BGG). Hinsichtlich der Anwendung des Urheberrechtsgesetzes (URG; SR 231.1) durch die Vorinstanz lassen sich der Beschwerde keine Rügen entnehmen.
2. Die Beschwerdeführerin wirft der Vorinstanz vor, sie habe den eingeklagten Anspruch zu Unrecht nach den öffentlich-rechtlichen Normen des waadtländischen Verantwortlichkeitsgesetzes (Loi sur la responsabilité de l'État, des communes et de leurs agents vom 16. Mai 1961 [LRECA; RSV 170.11]) beurteilt; anwendbar seien vielmehr die Bestimmungen des Bundesprivatrechts.
2.1 Öffentliche Beamte und Angestellte haften an sich auch für Tätigkeiten, die sie in Ausübung ihrer amtlichen Verrichtungen ausführen, nach Bundeszivilrecht (Art. 41 ff. OR), sofern der kantonale Gesetzgeber keine abweichenden Bestimmungen festgesetzt hat (Art. 61 Abs. 1 OR). Das Gemeinwesen selbst haftet aber für die Schädigung durch seine Funktionäre nur nach Massgabe des öffentlichen Rechts (Art. 59 Abs. 1 ZGB), es sei denn, es handle sich um gewerbliche Verrichtungen, welche eine Organ- oder Geschäftsherrenhaftung auszulösen vermögen (Art. 55 ZGB bzw. Art. 55 OR; BGE 111 II 149 E. 3a S. 151; 108 II 334 E. 3 S. 335 f.; 101 II 177 E. 2b S. 184 f.; vgl. auch BGE 124 III 418 E. 1b S. 420 f.). Vorbehalten bleibt eine zivilrechtliche Verantwortlichkeit des Gemeinwesens in Fällen, für die das Bundesrecht eine Haftung der Kantone für bestimmte Handlungen ihres Personals vorschreibt (etwa Art. 46, Art. 955 ZGB), oder nach den Bestimmungen der Spezialgesetzgebung über die Gefährdungshaftungen (z.B. Kernenergiehaftpflichtgesetz [KHG; SR 732.44], Elektrizitätsgesetz [EleG; SR 734.0], Eisenbahngesetz [EBG; SR 742.101], Strassenverkehrsgesetz [SVG; SR 741.01]), die nicht zwischen privatem und staatlichem Schädiger unterscheiden, sondern die Haftpflicht ausschliesslich an eine spezifische Betriebsgefahr anknüpfen. Im Sinne einer Ausnahme von der Haftung nach öffentlichem Recht wendet die Rechtsprechung sodann insbesondere Art. 58 OR bezüglich der Werkeigentümerhaftpflicht von Bund, Kantonen und Gemeinden an (zur Haftung des Gemeinwesens etwa BREHM, Berner Kommentar, 3. Aufl. 2006, N. 6 ff. zu Art. 61 OR).
2.2 Die Beschwerdeführerin richtet ihre Klage, die sie auf Bundesprivatrecht stützt, nicht gegen einen Beamten oder Angestellten des Beschwerdegegners, sondern unmittelbar gegen das Gemeinwesen. Eine solche privatrechtliche Haftung des Kantons kommt - abgesehen von den erwähnten Ausnahmen, die im konkreten Fall nicht zur Diskussion stehen - nur im Rahmen einer gewerblichen Tätigkeit in Betracht.
Die Vorinstanz hat zutreffend darauf abgestellt, dass der Beschwerdegegner mit der Erstellung der projektierten Autobahnstrecke auf Grundlage der Verfassung (vgl. nunmehr Art. 83 BV) sowie der entsprechenden Gesetzgebung zum Strassenbau (vgl. das Bundesgesetz vom 8. März 1960 über die Nationalstrassen [NSG; SR 725.11]) eine öffentliche Aufgabe erfüllte (vgl. bereits BGE 96 II 337 E. 3a S. 343). Eine gewerbliche Tätigkeit, die grundsätzlich Privaten wie Nichtprivaten offensteht und bei welcher etwa die Erzielung von Gewinn eine Rolle spielt, liegt bei der fraglichen Erstellung des projektierten Autobahntunnels nicht vor (vgl. ULRICH HÄFELIN UND ANDERE, Allgemeines Verwaltungsrecht, 6. Aufl. 2010, Rz. 2270; BGE 128 III 76 E. 1a S. 78 mit Hinweisen).
Die Beschwerdeführerin stellt die Anwendbarkeit des öffentlich-rechtlichen Verantwortlichkeitsrechts zu Unrecht unter Hinweis auf die bundesgerichtliche Rechtsprechung zum öffentlichen Beschaffungswesen in Abrede. Entgegen ihrer Ansicht lässt sich aus dem Umstand, dass der Vertrag zwischen dem Hoheitsträger und dem berücksichtigten Anbieter über die Erstellung der Baute dem Privatrecht unterliegt (vgl. Urteil 4C.256/2004 vom 28. Februar 2005 E. 2.2; PETER GALLI UND ANDERE, Praxis des öffentlichen Beschaffungsrechts, 2. Aufl. 2007, Rz. 701; zur Zweistufentheorie etwa HÄFELIN UND ANDERE, a.a.O., Rz. 287 ff.), nichts zu ihren Gunsten ableiten. Das Konsortium, für das die Beschwerdeführerin Berichte und Pläne erstellte, erhielt gerade keinen Zuschlag in der ausgeschriebenen Submission; abgesehen davon war sie selbst dem Konsortium nach den Sachverhaltsfeststellungen im angefochtenen Entscheid gar nicht beigetreten. Entgegen der in der Beschwerde vertretenen Ansicht hat die Vorinstanz keineswegs verkannt, dass im Beschaffungsrecht hinsichtlich der Anwendbarkeit des öffentlichen Rechts sowie des Privatrechts zwischen der internen Willensbildung des Verwaltungsträgers einerseits und dem Vertragsschluss zwischen Verwaltungsträger und Anbieter andererseits zu unterscheiden ist. Entgegen dem, was die Beschwerdeführerin anzunehmen scheint, lässt sich aus dem Umstand, dass am Ende des Submissionsverfahrens mit dem berücksichtigten Anbieter ein privatrechtlicher Vertrag abgeschlossen wird, keine allgemeine privatrechtliche Haftung des Gemeinwesens gegenüber nicht berücksichtigten Anbietern, geschweige denn gegenüber nur mittelbar beteiligten Dritten, ableiten (vgl. nunmehr zur Staatshaftung vielmehr etwa Art. 34 f. des Bundesgesetzes vom 16. Dezember 1994 über das öffentliche Beschaffungswesen [BöB; SR 172.056.1]; vgl. auch GALLI UND ANDERE, a.a.O., Rz. 944).
2.3 Mit ihren Ausführungen zur Anwendbarkeit des Bundesgesetzes vom 19. Dezember 1986 gegen den unlauteren Wettbewerb (UWG; SR 241) scheint die Beschwerdeführerin zu übersehen, dass der angefochtene Entscheid davon ausgeht, dass die öffentliche Hand - selbst wenn der Staat im Rahmen seiner amtlichen Tätigkeit wettbewerbsrelevant auftritt - die Grundsätze der Lauterkeit zu beachten hat (vgl. LUCAS DAVID UND ANDERE, Der Rechtsschutz im Immaterialgüter- und Wettbewerbsrecht, SIWR Bd. I/2, 3. Aufl. 2011, Rz. 252; GEORG RAUBER, Lauterkeitsrecht, in: SIWR Bd. V/I, 2. Aufl. 1998, S. 270 f.), und auch der Beschwerdegegner nicht in Abrede stellte, im Rahmen von Submissionsverfahren an die Grundsätze des UWG gebunden zu sein. Dies ändert jedoch nichts daran, dass sich Ausgleichsansprüche (Schadenersatz, ungerechtfertigte Bereicherung oder Geschäftsführung ohne Auftrag), die mit unlauterem Handeln des Kantons im Rahmen der Erfüllung seiner öffentlichen Aufgaben begründet werden, nach den Bestimmungen des kantonalen Verantwortlichkeitsrechts beurteilen (vgl. RAUBER, a.a.O., S. 271; DAVID UND ANDERE, a.a.O., Rz. 252). Art. 9 Abs. 3 UWG verweist bezüglich der reparatorischen Ansprüche denn auch auf die Bestimmungen des Obligationenrechts (Art. 41 ff., Art. 423 OR), die im Rahmen der öffentlich-rechtlichen Tätigkeit des Kantons gegebenenfalls als kantonales Ersatzrecht anwendbar sind, dessen Anwendung im Beschwerdeverfahren jedoch nur auf Willkür (Art. 9 BV) bzw. andere Verfassungsverletzungen hin überprüft werden kann (vgl. BGE 138 I 232 E. 2.4 S. 236 f.; 108 II 334 E. 3 S. 335 f.).
Die Vorinstanz hat den von der Beschwerdeführerin eingeklagten Anspruch somit zutreffend nach den Bestimmungen des waadtländischen Verantwortlichkeitsgesetzes (LRECA) und nicht nach den Anspruchsgrundlagen des Bundesprivatrechts beurteilt. Soweit die Beschwerdeführerin lediglich eine Verletzung von Bestimmungen des Bundesprivatrechts (so insbesondere Art. 62 und Art. 423 OR) behauptet, stossen ihre Rügen ins Leere.
3. 3.1 Wird eine willkürliche Anwendung von kantonalem Recht gerügt, genügt es nicht, wenn der Beschwerdeführer einfach behauptet, der angefochtene Entscheid sei willkürlich; bei der Rechtsanwendungsrüge hat er vielmehr die Rechtsnorm, die qualifiziert unrichtig angewandt bzw. nicht angewandt worden sein soll, zu bezeichnen und anhand der angefochtenen Subsumtion im Einzelnen zu zeigen, inwiefern der Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem und offensichtlichem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (vgl. BGE 134 II 349 E. 3 S. 351 f.; 132 I 13 E. 5.1 S. 18; 110 Ia 1 E. 2a S. 3 f.). Willkür liegt nicht schon vor, wenn eine andere Lösung ebenfalls vertretbar erscheint oder sogar vorzuziehen wäre. Das Bundesgericht hebt einen kantonalen Entscheid wegen Willkür nur auf, wenn er offensichtlich unhaltbar ist. Willkür liegt zudem nur vor, wenn nicht bloss die Begründung eines Entscheids, sondern auch das Ergebnis unhaltbar ist (BGE 138 IV 13 E. 5.1 S. 22; 137 I 1 E. 2.4 S. 5; 136 I 316 E. 2.2.2. S. 318 f.; je mit Hinweisen).
3.2 Die Beschwerdeführerin wirft der Vorinstanz zwar vor, sie habe mit der Abweisung ihrer Klage das Willkürverbot (Art. 9 BV) missachtet. Sie zeigt jedoch keine Willkür auf, sondern verweist lediglich auf ihre Ausführungen, in denen sie (zu Unrecht) eine Verletzung von Bundesprivatrecht behauptet. Insbesondere legt sie nicht dar, welche kantonalen Bestimmungen und inwiefern sie verfassungswidrig angewendet worden wären, indem die Vorinstanz ein Einstehenmüssen des Beschwerdegegners für das Handeln der beauftragten Ingenieurunternehmen nach dem kantonalen Verantwortlichkeitsgesetz (LRECA) verneinte. Damit verfehlt die Beschwerdeführerin die an Verfassungsrügen gestellten gesetzlichen Begründungsanforderungen (Art. 106 Abs. 2 BGG).
Abgesehen davon kann der Beschwerdeführerin nicht gefolgt werden, wenn sie die vorinstanzliche Erwägung, wonach eine Gewinnherausgabe nach Art. 423 OR Bösgläubigkeit des Geschäftsführers voraussetze, als unhaltbar bezeichnet, entspricht dies doch der neueren publizierten Rechtsprechung des Bundesgerichts zur erwähnten Bestimmung (BGE 129 III 422 E. 4 S. 425; 126 III 69 E. 2a S. 72). Soweit die Vorinstanz Art. 423 OR als kantonales Ersatzrecht angewendet hat, ist somit keine Willkür dargetan.
3.3 Die Beschwerdeführerin wirft der Vorinstanz eine Verletzung der Eigentumsgarantie (Art. 26 BV) vor, begründet diesen Vorwurf jedoch lediglich mit der allgemeinen Behauptung, der Beschwerdegegner habe in Verletzung der Bestimmungen des UWG eines ihrer Arbeitsergebnisse verwertet und damit "in unzulässiger Weise in die vermögenswerten Rechte der Beschwerdeführerin eingegriffen". Damit zeigt sie keine Verletzung des angerufenen Verfassungsrechts auf.
4. Die Beschwerdeführerin rügt, die Vorinstanz habe die Verfahrenskosten willkürlich festgesetzt.
4.1 Sie bringt vor, verschiedene "Machenschaften" hätten den Prozess über Gebühr verkompliziert, verlängert und verteuert, was der Beschwerdegegner zu vertreten habe. Dazu führt sie in appellatorischer Weise verschiedene Vorgänge im Rahmen des Verfahrens ins Feld und bezichtigt den Beschwerdegegner der Lüge oder wirft ihm "Schwindel" vor. Dabei erwähnt sie unter anderem ihren "hohen Arbeitsaufwand" sowie den Umfang der Edition des Prozessgegners von 14'000 Seiten. Sie lässt indessen den im angefochtenen Entscheid aufgeführten Umstand unerwähnt, dass sie selbst im Laufe des Verfahrens die Herausgabe unzähliger Urkunden durch den Beschwerdegegner beantragt hatte, was die Vorinstanz zur Bemerkung veranlasste, die Beschwerdeführerin hätte die Dokumente zum grossen Teil bloss pauschal und unbestimmt umschrieben, weshalb sich die angeordnete Edition an der Grenze des prozessual Zulässigen bewege und die Beweisanträge einer verpönten Beweisausforschung sehr nahekomme.
Die Rüge, die Vorinstanz habe sich willkürlich über § 66 Abs. 1 aZPO/ZH hinweggesetzt, wonach unnötige Kosten der verursachenden Partei ohne Rücksicht auf den Ausgang des Prozesses auferlegt werden, ist vor diesem Hintergrund unbegründet. Die Beschwerdeführerin verkennt mit ihren Vorbringen unter anderem, worauf der Beschwerdegegner zu Recht hinweist, dass es in der Natur eines Zivilprozesses liegt, dass im Verfahren widersprechende Behauptungen aufgestellt werden, die gegebenenfalls in einem Beweisverfahren abgeklärt werden müssen. Entgegen dem, was die Beschwerdeführerin anzunehmen scheint, lässt der Umstand allein, dass eine Partei eine Behauptung des Verfahrensgegners bestreitet und ein Beweisverfahren durchgeführt werden muss, die entsprechenden Kosten nicht in jedem Fall als unnötig, geschweige denn eine Kostenverteilung nach dem Ausgang des Verfahrens als willkürlich erscheinen.
4.2 Die Beschwerdeführerin behauptet im Weiteren, die Vorinstanz hätte auf das Beweis- und Gutachterverfahren verzichten können, begründet dies jedoch mit keinem Wort. Sie zeigt nicht auf, inwiefern die Kosten in Anwendung von § 66 Abs. 2 aZPO/ZH hätten auf die Gerichtskasse genommen werden müssen und eine Kostenauflage an sie als unterliegende Partei willkürlich sein soll (vgl. Art. 106 Abs. 2 BGG). Ebenso wenig legt sie dar, inwiefern die Vorinstanz ihr Ermessen bei der Festsetzung der Parteientschädigung willkürlich ausgeübt haben soll.
Ins Leere stösst auch der nicht weiter begründete Vorwurf, die Vorinstanz habe den Gehörsanspruch (Art. 29 Abs. 2 BV) verletzt. Insbesondere vermag die Beschwerdeführerin nicht aufzuzeigen, inwiefern ihr die Begründung des angefochtenen Entscheids verunmöglicht hätte, diesen gegebenenfalls sachgerecht anzufechten (BGE 136 V 351 E. 4.2 S. 355; 134 I 83 E. 4.1 S. 88; 133 III 439 E. 3.3 S. 445; je mit Hinweisen).
5. Die Beschwerde erweist sich als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Verfahrensausgang wird die Beschwerdeführerin kostenpflichtig (Art. 66 Abs. 1 BGG). Dem Kanton Waadt ist keine Parteientschädigung zuzusprechen. Gründe, um ausnahmsweise von der Regel nach Art. 68 Abs. 3 BGG abzuweichen, werden weder vom Beschwerdegegner genannt noch sind solche ersichtlich.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 18'000.-- werden der Beschwerdeführerin auferlegt.
3. Es werden keine Parteientschädigungen zugesprochen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 11. Januar 2013
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Leemann