Erwägungen:
1. 1.1 Die portugiesische Staatsangehörige X._ (geb. 1979) heiratete im Jahr 2000 in Deutschland den kosovarischen Staatsangehörigen Y._ (geb. 1977). Das Landgericht A._ verurteilte Y._ am 20. Mai 2003 wegen gemeinschaftlichen unerlaubten Handeltreibens mit Betäubungsmitteln in nicht geringer Menge in zwei Fällen zu einer Freiheitsstrafe von sieben Jahren. Am 28. September 2004 wies der Landrat des Kreises B._ Y._ dauernd aus Deutschland aus und verfügte die Abschiebung aus der Haft heraus. Am 5. Oktober 2006 wurde die Abschiebung vollzogen.
1.2 X._ reiste im Jahr 2008 in die Schweiz ein, wo ihr das Migrationsamt des Kantons Zürich eine Aufenthaltsbewilligung EG/EFTA erteilte. Am 31. März 2009 stellte sie ein Nachzugsgesuch für ihren im Kosovo weilenden Ehemann. Die Sicherheitsdirektion (Migrationsamt) wies das Gesuch am 10. Juni 2010 ab. Die dagegen erhobenen Rechtsmittel an den Regierungsrat und das Verwaltungsgericht des Kantons Zürich blieben erfolglos.
1.3 Mit Eingabe vom 1. März 2012 (Postaufgabe 8. März 2012) führt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht und beantragt, das Urteil des Verwaltungsgerichts vom 20. Februar 2012 sei aufzuheben und es sei ihr der Familiennachzug zu genehmigen. Auf die Anordnung eines Schriftenwechsels wurde verzichtet.
2. 2.1 Auf dem Gebiet des Ausländerrechts ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen die Erteilung oder Verweigerung von Bewilligungen ausgeschlossen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumen (Art. 83 lit. c Ziff. 2 BGG).
2.2 Nach Art. 7 lit. d des Abkommens vom 21. Juni 1999 zwischen der Schweizerischen Eidgenossenschaft einerseits und der Europäischen Gemeinschaft und ihren Mitgliedstaaten andererseits über die Freizügigkeit (Freizügigkeitsabkommen, FZA; SR 0.142.112.681) in Verbindung mit Art. 3 Abs. 1 und 2 lit. a Anhang I FZA hat der Ehegatte eines EU-Bürgers, der in der Schweiz über ein Aufenthaltsrecht verfügt, während der gesamten Ehedauer einen grundsätzlichen (abgeleiteten) Anspruch auf eine Aufenthaltsbewilligung (Urteil 2C_547/2010 vom 10. Dezember 2010 E. 2.1). Die Beschwerdeführerin kann sich als portugiesische Staatsangehörige wegen ihres (originären) Anwesenheitsrechts als Arbeitnehmerin für den Nachzug ihres Ehemannes grundsätzlich auf diese Regelung berufen, da nach der bundesgerichtlichen Rechtsprechung nicht mehr erforderlich ist, dass sich der nachzuziehende Drittstaatsangehörige bereits rechtmässig mit einem nicht nur vorübergehenden Anwesenheitstitel in der Schweiz oder in einem anderen Vertragsstaat aufgehalten hat (BGE 136 II 5 E. 3.7 S. 19 [Praxisänderung "Metock"]). Für das Eintreten genügt, dass im Rahmen des Freizügigkeitsabkommens potentiell ein Anspruch auf die Bewilligung besteht bzw. die Kriterien einer der im FZA vorgesehenen Situationen der Freizügigkeit erfüllt erscheinen (BGE 136 II 177 E. 1.1 S. 179 f. mit Hinweisen).
Auf die vorliegende Beschwerde ist daher einzutreten.
3. 3.1 Gemäss Art. 5 Abs. 1 Anhang I FZA dürfen die vom Freizügigkeitsabkommen - unter anderem nach den erwähnten Art. 2 und 3 Anhang I FZA - gewährten Rechtsansprüche "nur durch Massnahmen, die aus Gründen der öffentlichen Ordnung, Sicherheit und Gesundheit gerechtfertigt sind, eingeschränkt werden" (BGE 130 II 176 E. 3.1 S. 179 f. mit Hinweisen). Weitere Präzisierungen finden sich vor allem in der Richtlinie 64/221/EWG des Rates der Europäischen Wirtschaftsgemeinschaft vom 25. Februar 1964 zur Koordinierung der Sondervorschriften für die Einreise und den Aufenthalt von Ausländern, soweit sie aus Gründen der öffentlichen Ordnung, Sicherheit oder Gesundheit gerechtfertigt sind (kurz: RL 64/221/EWG; publ. in: ABl. Nr. 56, S. 850), auf welche in Art. 5 Abs. 2 Anhang I FZA Bezug genommen wird.
3.2 Art. 5 Anhang I FZA kann nicht zu Massnahmen ermächtigen, die über diejenigen hinausgehen, welche im schweizerischen Recht (insbesondere dem Bundesgesetz vom 16. Dezember 2005 über die Ausländerinnen und Ausländer [AuG; SR 142.20]) vorgesehen sind. Daher ist zunächst zu untersuchen, ob es ausserhalb des Freizügigkeitsabkommens eine Rechtsgrundlage gibt, auf welche die Verweigerung des vorliegend beantragten Familiennachzugs gestützt werden kann. Erst bei Bejahung dieser Frage ist in einem nächsten Schritt zu prüfen, inwiefern das Freizügigkeitsabkommen zusätzliche Schranken auferlegt (BGE 130 II 177 E. 3.2 S. 181). Mit Blick auf Art. 2 FZA darf für Ehegatten von Staatsangehörigen von Vertragsparteien dabei keine strengere Regelung zur Anwendung kommen, als sie für ausländische Ehegatten von Schweizer Bürgern gilt (BGE 130 II 177 E. 3.3.2 S. 181).
3.3 Die Vorinstanz hat die bundesgerichtliche Rechtsprechung korrekt wiedergegeben und auf den vorliegenden Fall angewandt:
3.3.1 Ausländische Ehegatten von Schweizerinnen und Schweizern haben Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung, wenn sie mit diesen zusammenwohnen (Art. 42 AuG). Die Ansprüche nach Art. 42 AuG erlöschen u.a., wenn Widerrufsgründe nach Art. 63 AuG vorliegen. Gemäss Art. 63 Abs. 1 lit. a in Verbindung mit Art. 62 lit. b AuG kann die zuständige Behörde die Bewilligung widerrufen bzw. verweigern, wenn der Ausländer zu einer längerfristigen Freiheitsstrafe - d.h einer solchen von mindestens einem Jahr (vgl. BGE 135 II 377 E. 4.2 und 4.5) - verurteilt wurde.
Der Ehemann der Beschwerdeführerin wurde in Deutschland zu einer Freiheitsstrafe von sieben Jahren verurteilt, womit der Widerrufsgrund von Art. 62 lit. b AuG offensichtlich erfüllt ist. Dabei ist der Umstand, dass es sich um ein Strafurteil aus Deutschland handelt, unbehelflich (vgl. etwa die Urteile 2C_264/2011 vom 15. November 2011 E. 3.3; 2C_427/2008 vom 23. Januar 2009 E. 3.2; 2C_381/2008 vom 14. Januar 2009 E. 2.2; ferner BGE 134 II 25 E. 4.3.1 S. 29). Wie die Vorinstanz zu Recht ausführt, ist sodann die "Zweijahresregel" zu berücksichtigen, wonach einem mit einer Schweizer Bürgerin verheirateten Ausländer, der erstmals oder nach bloss kurzer Aufenthaltsdauer um die Bewilligung ersucht, im Falle einer Verurteilung zu einer Freiheitsstrafe von zwei Jahren in der Regel selbst dann kein Aufenthaltstitel mehr zu erteilen ist, wenn der schweizerischen Ehepartnerin die Ausreise nicht oder nur schwer zuzumuten ist. In einer solchen Konstellation wären aussergewöhnliche Umstände vonnöten, um die Erteilung einer Aufenthaltsbewilligung an den ausländischen Ehemann einer Schweizer Bürgerin noch zu rechtfertigen ("Reneja-Praxis"; BGE 135 II 377 E. 4.4 S. 382; 130 II 176 E. 4.1 S. 185).
Die vorstehenden Erwägungen zeigen, dass die Vorinstanzen den vorliegend beantragten Familiennachzug jedenfalls ausserhalb des FZA-Anwendungsbereiches verweigern durften. Zu prüfen sind im Folgenden somit noch allfällige zusätzliche Einschränkungen des Freizügigkeitsabkommens (vgl. E. 3.2 hiervor).
3.3.2 Nach der an die Praxis des Gerichtshofs der Europäischen Gemeinschaften (EuGH) angeglichenen Rechtsprechung des Bundesgerichts setzen Entfernungs- oder Fernhaltemassnahmen eine hinreichend schwere und gegenwärtige Gefährdung der öffentlichen Ordnung durch den betreffenden Ausländer voraus. Eine strafrechtliche Verurteilung darf dabei nur insofern zum Anlass für eine derartige Massnahme genommen werden, als die ihr zugrunde liegenden Umstände ein persönliches Verhalten erkennen lassen, das eine gegenwärtige Gefährdung der öffentlichen Ordnung darstellt. Art. 5 Anhang I FZA steht somit Massnahmen entgegen, die (allein) aus generalpräventiven Gründen verfügt werden (vgl. BGE 130 II 176 E. 3.4 S. 182 ff.; 129 II 215 E. 7 S. 221 ff.; je mit Hinweisen). Während die Prognose über das künftige Wohlverhalten im Rahmen der Interessenabwägung nach rein nationalem Ausländerrecht zwar mitzuberücksichtigen, aber nicht ausschlaggebend ist, kommt es bei Art. 5 Anhang I FZA wesentlich auf das Rückfallrisiko an (BGE 130 II 176 E. 4.2 S. 185 mit Hinweisen). Zu verlangen ist eine nach Art und Ausmass der möglichen Rechtsgüterverletzung zu differenzierende hinreichende Wahrscheinlichkeit, dass der Ausländer künftig die öffentliche Sicherheit und Ordnung stören wird. Je schwerer die möglichen Rechtsgüterverletzungen sind, desto niedriger sind die Anforderungen an die in Kauf zu nehmende Rückfallgefahr (BGE 136 II 5 E. 4.2 S. 20 mit Hinweisen).
Das Verwaltungsgericht hat im angefochtenen Entscheid (E. 4.2) zu Recht die Auffassung der Vorinstanzen geschützt, wonach vom Ehemann der Beschwerdeführerin aufgrund seines bisherigen Verhaltens nach wie vor eine gegenwärtige Gefährdung der öffentlichen Ordnung und Sicherheit ausgeht: So handelt es sich um eine schwerwiegende Verurteilung (Handel mit 1,3 Kilogramm Heroingemisch, Schmuggel von 6,4 Kilogramm Heroin), weshalb auch der zuständige Landrat in Deutschland zum Schluss kam, es bestehe eine konkrete Gefahr für weitere Straftaten und eine Ausweisung des Ehemanns der Beschwerdeführerin rechtfertige sich auch im Rahmen der die Personenfreizügigkeit schützenden Bestimmungen des europäischen Gemeinschaftsrechts. Der sinngemässe Einwand, er sei seit seiner Rückkehr in den Kosovo nicht mehr strafrechtlich in Erscheinung getreten, ist angesichts der Schwere des Delikts und dem Umstand, dass bei Betäubungsmitteldelikten eine strenge Praxis gilt (Urteil 2C_799/2009 vom 21. Juni 2010 E. 3.2) nicht stichhaltig. Zu Recht hat die Vorinstanz sodann ausgeführt, der Ehemann der Beschwerdeführerin sei als Haupttäter aufgetreten und unterhalte auch Kontakte zum schweizerischen Drogenmilieu. Aussergewöhnliche Umstände im Sinne der "Reneja-Praxis" (vgl. E. 3.3.1 hiervor) liegen nicht vor; die Beschwerdeführerin wusste um die gegen ihren Ehemann verfügte Einreisesperre, und ihr persönliches Interesse, die Ehe in der Schweiz führen zu können, vermag das öffentliche Interesse an der Fernhaltung ihres Ehemannes nicht zu überwiegen, zumal sie auch 2006 vorzog, alleine in Deutschland zu bleiben.
Für alles Weitere kann auf die überzeugenden Ausführungen im angefochtenen Entscheid verwiesen werden. Insbesondere erübrigen sich bei diesem Verfahrensausgang weitere Bemerkungen über die Rechtswirkung der von Deutschland verfügten dauernden Ausweisung auf die Schweiz (vgl. angefochtener Entscheid E. 4.3).
4. 4.1 Die Eingabe erweist sich somit - unabhängig davon, ob sie in allen Punkten den gesetzlichen Formerfordernissen genügt oder nicht (vgl. Art. 42 BGG; BGE 134 II 244 E. 2.1-2.3 S. 245 ff.) - als offensichtlich unbegründet und ist im vereinfachten Verfahren nach Art. 109 BGG abzuweisen.
4.2 Die Beschwerdeführerin hat die Kosten für das bundesgerichtliche Verfahren zu tragen (Art. 66 Abs. 1 BGG). Es sind keine Parteientschädigungen geschuldet (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird der Beschwerdeführerin, der Sicherheitsdirektion, dem Regierungsrat und dem Verwaltungsgericht des Kantons Zürich, 4. Kammer, sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 19. Juni 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Winiger