Sachverhalt:
A. Die X._ GmbH mit Sitz in A._ ZG wird überwiegend von ihrem Geschäftsführer Y._ beherrscht, dessen Wohnsitz in B._ ZH ist. Da sich am statutarischen Sitz weder Leitung noch irgendwelche Geschäftseinrichtungen befinden, nahm das kantonale Steueramt Zürich mit Entscheid vom 7. Dezember 2007 die Steuerhoheit ab der Periode 2002 gegenüber der Gesellschaft in Anspruch, da deren tatsächliche Leitung und Verwaltung durch den Geschäftsführer an seinem Wohnsitz ausgeübt werde. Am 18. März 2009 bestätigte das Verwaltungsgericht des Kantons Zürich diesen Entscheid kantonal letztinstanzlich.
B. Am 27. April 2009 hat die X._ GmbH Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht eingereicht. Namentlich unter Berufung auf das Verbot der interkantonalen Doppelbesteuerung beantragt sie im Wesentlichen, den verwaltungsgerichtlichen Entscheid aufzuheben.
C. Das Kantonale Steueramt Zürich und das Verwaltungsgericht des Kantons Zürich schliessen auf Abweisung der Beschwerde. Die Steuerverwaltung des Kantons Zug hat auf eine Vernehmlassung verzichtet. Die Eidgenössische Steuerverwaltung verweist auf den angefochtenen Entscheid.
Erwägungen:
1. 1.1 Gegen den kantonal letztinstanzlichen Entscheid des Verwaltungsgerichts des Kantons Zürichs betreffend die Feststellung der Steuerpflicht ab 1. Januar 2002 ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig (vgl. Art. 82 lit. a in Verbindung mit Art. 86 Abs. 1 lit. d BGG). Die Beschwerdeführerin ist gestützt auf Art. 89 Abs. 1 BGG zur Anfechtung des vorinstanzlichen Entscheids legitimiert. Auf die frist- und formgerecht eingereichte Beschwerde ist einzutreten (Art. 100 BGG).
1.2 Im vorliegend zu entscheidenden interkantonalen Kompetenzkonflikt können die bereits rechtskräftigen Veranlagungen des Kantons Zug für die Steuerperioden ab 2002 mit angefochten werden (vgl. Art. 100 Abs. 5 BGG, BGE 131 I 145 E. 2.1 S. 145), obwohl sie keine Urteile im Sinne von Art. 86 BGG bilden (vgl. BGE 133 I 300 E. 2.4 S. 307, 308 E. 2.4 S. 313). Dabei prüft das Bundesgericht nicht von Amtes wegen, ob eine vom Beschwerdeführer nicht angefochtene konkurrierende Veranlagung das Verbot der Doppelbesteuerung verletzt (vgl. BGE 111 la 44 E. 1b S. 46, mit Hinweisen). Praxisgemäss werden aber an eine solche Mitanfechtung keine hohen Anforderungen gestellt (vgl. dazu u.a. das Urteil 2C_634/2007 vom 15. April 2008 E. 1.2). Hier hat die Beschwerdeführerin in der durch ihren Geschäftsführer verfassten Laienbeschwerde kein ausdrückliches Rechtsbegehren gegen die Zuger Veranlagungen gestellt. Die Mitanfechtung dieser Veranlagungen ergibt sich daher nicht aus den Rechtsbegehren, aber indirekt doch aus mehreren Stellen der Beschwerdeschrift. Allgemein wird eine verfassungsmässige Festlegung von Steuerdomizil und -hoheit für die massgeblichen Perioden beantragt. Die Art und Weise, wie die Rechtsbegehren formuliert und begründet sind, lässt sinngemäss darauf schliessen, dass die Beschwerdeführerin sich hilfsweise ebenfalls gegen die Zuger Veranlagungen wendet. Deshalb können diese als mitangefochten gelten und wurde der Kanton Zug zur Stellungnahme aufgefordert.
2. 2.1 Juristische Personen sind nach Art. 20 Abs. 1 StHG steuerpflichtig, wenn sich ihr Sitz oder ihre tatsächliche Verwaltung im Kanton befindet. Dabei sind die Verhältnisse am Ende der Steuerperiode massgebend (Art. 22 Abs. 1 Satz 2 StHG). Sitz der juristischen Person ist der Ort, den die Statuten als Sitz bezeichnen (vgl. Art. 56 ZGB). Aufgrund von Art. 20 Abs. 1 StHG kann es zu Fällen kommen, wo sowohl der Sitzkanton als auch der Kanton der tatsächlichen Verwaltung die Steuerpflicht aufgrund persönlicher Zugehörigkeit, d.h. das Hauptsteuerdomizil, beanspruchen. Dieser Konflikt ist nach den Regeln, welche die Praxis zum interkantonalen Steuerrecht entwickelt hat, zu lösen. Nach der bundesgerichtlichen Rechtsprechung zu Art. 127 Abs. 2 BV befindet sich das Hauptsteuerdomizil einer juristischen Person im interkantonalen Verhältnis grundsätzlich an ihrem durch die Statuten und den Handelsregistereintrag bestimmten Sitz. Auf diesen zivilrechtlichen Sitz wird jedoch dann nicht abgestellt, wenn ihm in einem anderen Kanton ein Ort gegenübersteht, an dem die normalerweise am statutarischen Sitz sich abspielende Geschäftsführung und Verwaltung, d.h. die leitende Tätigkeit, in Wirklichkeit vor sich geht. Das gilt insbesondere dann, wenn der Sitz den wirklichen Verhältnissen in keiner Weise entspricht und als künstlich geschaffen erscheint (sog. Briefkastendomizil). Dann wird der Ort der effektiven Leitung bzw. Verwaltung als Steuerdomizil betrachtet. Entscheidend sind die gesamten Umstände des Einzelfalls (vgl. u.a. ASA 56 85 E. 3; StE 2002 A 24.22 Nr. 4 E. 2a; StE 1999 A 24.22 Nr. 3 E. 2a; je mit Hinweisen; siehe auch das Urteil 2P.6/2007 vom 22. Februar 2008 E. 2.2).
2.2 Hier ist an sich unstreitig, dass sich am statutarischen Sitz der Beschwerdeführerin im Kanton Zug weder die Leitung der Gesellschaft noch irgendwelche Geschäftseinrichtungen befinden, sondern ein blosses Briefkastendomizil. Ebenso liegt ausser Streit, dass die tatsächliche Verwaltung im Kanton Zürich ausgeübt wird. Dieser hat somit die Steuerhoheit gegenüber der Gesellschaft zu Recht in Anspruch genommen. Das hat er schon ab der Steuerperiode 2002 tun dürfen, da die eben dargestellten Leitungs- und Verwaltungsverhältnisse ebenso unbestrittenermassen zumindest ab dieser Periode bestanden.
2.3 Die Beschwerdeführerin wendet indessen ein, der Kanton Zürich habe seinen Besteuerungsanspruch für die Perioden 2002 bis 2006 verwirkt, da er ihn erst im Jahr 2007 geltend gemacht habe. Die Zürcher Steuerhoheit gegenüber der Gesellschaft könne somit erst ab 2007 bestehen.
Daran ist zwar richtig, dass ein Kanton, der die für die Steuerpflicht massgeblichen Tatsachen kennt oder kennen kann, sein Recht auf Besteuerung verwirkt, wenn er trotzdem mit der Erhebung des Steueranspruchs ungebührlich lange zuwartet und wenn bei Gutheissung des erst nachträglich erhobenen Anspruchs ein anderer Kanton zur Rückerstattung von Steuern verpflichtet werden müsste, die er formell ordnungsgemäss, in guten Treuen und in Unkenntnis des kollidierenden Steueranspruchs bezogen hat (vgl. BGE 132 I 29 E. 3.2 S. 32; 123 I 264 E. 2c S. 266; siehe auch Pra 2003 Nr. 172 S. 939 E. 3.2; ASA 64 167 E. 5a; StE 2008 A 24.1 Nr. 6 E. 3.2; 2004 A 24.35 Nr. 3 E. 3.1; StR 56/2001 813 E. 3b; mit Hinweisen). Die Beschwerdeführerin verkennt indessen, dass die Verwirkung ein Institut zugunsten der steuererhebenden Kantone und nicht der Steuerpflichtigen ist. Ihr Sinn und Zweck liegt darin, den betroffenen Zweitkanton - hier Zug - davor zu bewahren, schon bezogene Steuern auf Grund eines an sich vorrangigen, aber erst ungebührlich spät erhobenen Steueranspruches zurückerstatten zu müssen (vgl. BGE 132 I 29 E. 3.3 S. 33 ff.; StE 2000 A 24.5 Nr. 4 E. 4b; ASA 56 85 E. 4b; siehe auch schon BGE 91 I 467 E. 4 S. 475 ff.). Deshalb kann die Verwirkung auch nur durch den anderen Kanton und nicht durch den Steuerpflichtigen selbst geltend gemacht werden (vgl. BGE 132 I 29 E. 3.1 S. 32; 123 I 264 E. 2c S. 26; StE 2008 A 24.1 Nr. 6 E. 3.3; 2002 A 24.22 Nr. 4 E. 4).
Der Kanton Zug hat hier die Verwirkungseinrede nicht erhoben, und die Beschwerdeführerin ist dazu nicht befugt, weder direkt noch indirekt, z.B. über Art. 5 Abs. 3 BV, Art. 8 BV oder Art. 9 BV. Der Besteuerungsanspruch des Kantons Zürich ab der Periode 2002 ist somit zu schützen. Die Beschwerdeführerin wird dadurch nicht in ihren legitimen Interessen verletzt, stimmt die Zürcher Steuerhoheit doch unbestrittenermassen mit den tatsächlichen Verhältnissen überein und sind der Gesellschaft die von ihr im Kanton Zug für die massgebliche Zeitspanne entrichteten Steuern zurückzuerstatten.
3. Nach dem Gesagten ist die Beschwerde gegenüber dem Kanton Zürich abzuweisen, gegenüber dem Kanton Zug jedoch gutzuheissen. Die dort ergangenen, bereits rechtskräftigen Veranlagungen ab 2002 sind aufzuheben und die bereits bezahlten Steuern zurückzuerstatten.
Bei diesem Ausgang sind die Kosten des bundesgerichtlichen Verfahrens nicht einmal teilweise dem Kanton Zug aufzuerlegen, der auf eine Vernehmlassung verzichtet hat, sondern vollumfänglich der Beschwerdeführerin, die mit ihrem Hauptantrag unterlegen ist (vgl. Art. 65 f. BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit sie sich gegen den Kanton Zürich richtet.
2. Die Beschwerde wird gegenüber dem Kanton Zug gutgeheissen; die Steuerveranlagungen für die Kantons- und Gemeindesteuern ab der Periode 2002 werden aufgehoben; die bereits bezahlten Steuern sind der Beschwerdeführerin zurückzuerstatten.
3. Die Gerichtskosten von Fr. 2'500.-- werden der Beschwerdeführerin auferlegt.
4. Dieses Urteil wird der Beschwerdeführerin, dem Kantonalen Steueramt Zürich, dem Verwaltungsgericht des Kantons Zürich, der Steuerverwaltung des Kantons Zug und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 22. Dezember 2009
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Müller Matter