Faits:
A. A.a X._ SA est une société anonyme créée le 15 février 1990. Inscrite au registre du commerce du canton de Vaud, elle a son siège à C._. Son capital-actions, entièrement libéré, s'élève à 300'000 fr. Son but était initialement la conception, la fabrication et la commercialisation de produits informatiques. Depuis le 22 juin 2006, il porte sur les services informatiques dans le domaine de la finance, notamment l'installation de systèmes et la location d'espaces informatiques, services de bureau, conseils, gestion de projets, support et assistance, formation des utilisateurs.
Le Conseil d'administration de X._ SA est composé de deux personnes, à savoir A._, administrateur président, et B._, son épouse, administratrice et secrétaire. Ceux-ci sont actionnaires majoritaires de X._ SA, qui a son siège dans un immeuble dont ils sont propriétaires à C._.
Jusqu'en 1998, X._ SA n'a pas eu d'employé et, selon A._, elle a dégagé son premier chiffre d'affaires en 1995.
A.b En 1991, A._ a constitué Y._ SA dont le siège est en Roumanie et dont il détient entre 98 et 99 % du capital-actions. Il ressort d'un contrat du 10 février 1993 liant Y._ SA et X._ SA que X._ SA détient tous les droits de propriété intellectuelle afférents aux programmes informatiques pour les milieux financiers et bancaires que les parties entendent développer.
Y._ SA a employé à ses débuts entre 8 à 10 personnes dont le salaire s'élevait à 30 US$ par mois, chiffre qui a progressé avec le temps. Les employés de Y._ SA en Roumanie étaient régulièrement mis à disposition de X._ SA pour travailler en Suisse (ils venaient alors en principe au bénéfice d'un permis d'étudiant) ou en France. Ils logeaient dans un appartement loué par X._ SA, qui prenait en charge tous les frais liés à ce personnel.
A.c A._ a obtenu une licence de pilote en novembre 1997. Le 19 juin 1998, X._ SA a acquis un avion Piper Dakota qui n'a jamais été porté à l'actif du bilan de la société.
A.d A partir de 1999, A._ a mis en place un groupe de sociétés.
Le 8 mars 1999, il a créé Z._ AG dont le siège est au Liechtenstein. A._ a versé l'intégralité du capital-actions de 50'000 fr. de Z._ AG et est membre de son conseil d'administration avec signature individuelle. Depuis sa création, la gestion de Z._ AG s'est effectuée à partir des locaux de X._ SA à C._.
Le 8 mars 1999 également, il a constitué D._ AG, dont le siège est au Liechtenstein et qui est active dans le domaine de l'aéronautique. Cette société a acquis l'appareil Piper Dakota qui appartenait à X._ SA, cette dernière en demeurant toutefois l'exploitante.
Le 12 mai 1999, la Fondation E._ , qui a aussi son siège au Liechtenstein, a été créée pour gérer la fortune de A._ et faire des prestations aux bénéficiaires désignés par le conseil de fondation.
Le 31 mai 1999, l'Etablissement F._ , dont le siège est à Vaduz, a été constitué. Son but est le placement et l'administration de sa fortune. Il détient l'entier du capital-actions de Z._ AG grâce à un prêt consenti par la Fondation E._ . A._ a entrepris des démarches tendant à transférer les droits de propriété intellectuelle sur les produits détenus par Z._ AG selon le contrat du 10 février 1993 à l'Etablissement F._ , mais ces projets n'ont pas abouti.
Le 25 juin 1999, la société genevoise G._ SA, dont le but est d'exercer des activités en relation avec l'aéronautique, a été créée. Elle a acquis en 1999 un avion de type Pilatus pour un montant de 2'953'315 US$ dont elle a cédé l'exploitation à D._ AG pour le prix de 600'000 fr. par an (720'000 fr. dès 2001).
B. Entre 1995 et 2002, X._ SA a régulièrement déposé ses déclarations d'impôts. Les périodes fiscales 1995-1999 ont fait l'objet de taxations définitives entrées en force, alors que les taxations relatives aux périodes 2000 à 2002 sont restées provisoires. Les bénéfices imposables déclarés par X._ SA oscillaient entre 4'770 fr. pour 1995 et 166'500 fr. pour 2001, alors que le capital imposable déclaré par la société se situait entre 323'189 fr. pour 1995 et 806'000 fr. en 2002.
Le 26 juillet 2003, à la suite d'un contrôle périodique de l'Administration cantonale des impôts du canton de Vaud (ci-après : l'Administration cantonale) et de l'Administration fédérale des contributions (ci-après : l'AFC), une enquête a été autorisée au sujet de X._ SA, A._ et B._ en raison de soupçon fondé de graves infractions fiscales.
La Division d'enquêtes fiscales spéciales de l'AFC a rendu un rapport le 21 septembre 2006 concluant à l'existence de soustractions d'impôts réalisées par le biais notamment de trois procédés. Le premier consistait à intercaler entre X._ SA et ses clients une société écran, en l'occurrence Z._ AG, afin de traiter les affaires commerciales en-dehors du territoire suisse, alors que l'activité effective de Z._ AG se déployait non pas au Liechtenstein, mais en Suisse auprès de X._ SA. Le deuxième procédé était lié à des frais de sous-traitance facturés par Y._ SA à X._ SA et à Z._ AG, alors que les montants facturés n'ont jamais été encaissés par la société roumaine. Le troisième procédé était lié à l'utilisation d'un aéronef Pilatus, dont les frais étaient facturés par D._ AG à X._ SA et à Z._ AG, alors que la plupart de ces frais relevaient d'un usage strictement privé. Les fonds dégagés par les deux premiers procédés ont été versés sur des comptes dont le titulaire est la Fondation E._ , ce qui a permis à cette dernière de détenir et de financer l'Etablissement F._ , qui a financé à son tour Z._ AG, D._ AG et G._ SA.
C. Le 11 octobre 2007, l'Administration cantonale a adressé à X._ SA une décision de rappel d'impôts et de taxation définitive, ainsi qu'un prononcé d'amendes concernant l'impôt cantonal et communal (ICC) pour les périodes fiscales 1999 à 2002 et l'impôt fédéral direct (IFD) pour les périodes fiscales 1995 à 2002. Au total, le complément d'impôts pour l'ICC se rapportant aux périodes 1999-2002 s'élevait à 1'499'150,45 fr., alors que les amendes relatives à l'ICC se montaient au total à 1'606'100 fr. En matière d'IFD, le complément d'impôt à payer pour les périodes 1995-2002 totalisait 892'423,90 fr., pour des peines d'amendes de 1'047'300 fr.
Le 15 novembre 2007, X._ SA a interjeté une réclamation non motivée à l'encontre de la décision du 11 octobre 2007. Le 20 décembre 2007, l'Administration cantonale a imparti un délai au 31 janvier 2008 à X._ SA pour déposer une motivation. Des pourparlers transactionnels ont été entrepris et X._ SA a proposé, le 4 janvier 2008, que la motivation de la réclamation ne soit déposée que si les parties n'arrivaient pas à s'entendre, demandant la suspension du délai imparti au 31 janvier 2008. Le 23 janvier 2008, le conseil de X._ SA a indiqué qu'il considérait sa proposition du 4 janvier 2008 comme acceptée, sauf avis contraire.
Le 1er avril 2008, les pourparlers transactionnels ont échoué et, le 4 décembre 2008, l'Administration cantonale a rejeté la réclamation de X._ SA formée le 15 novembre 2007.
Saisi d'un recours de X._ SA à l'encontre de la décision du 4 décembre 2008, le Tribunal cantonal du canton de Vaud, Cour de droit administratif et public (ci-après cité: le Tribunal cantonal), l'a très partiellement admis, par arrêt du 4 août 2010, supprimant le rappel d'impôt et l'amende 1999 en raison de la prescription. A la demande de l'Administration cantonale, il a rendu, le 14 septembre 2010, un arrêt rectificatif, précisant dans son dispositif que la décision attaquée était entièrement confirmée en matière d'impôt fédéral direct. Il en résulte que X._ SA a été condamnée à payer au total 1'285'056,75 fr. de compléments d'ICC pour les périodes 2000-2002, plus des amendes totalisant 1'285'000 fr., les rappels et compléments d'impôts, ainsi que les amendes prononcées en matière d'IFD pour les périodes 1995-2002 étant pour leur part confirmés.
D. D.a Le 14 septembre 2010, X._ SA a déposé, à l'encontre de l'arrêt du 4 août 2010, un recours en matière de droit public auprès du Tribunal fédéral (cause 2C_724/2010). Elle conclut principalement à ce que l'arrêt du 4 août 2010 soit déclaré nul et non avenu, en raison de l'arrêt rectificatif du 14 septembre 2010 et à ce que la cause soit renvoyée au Tribunal cantonal pour qu'il rende un nouveau jugement complet comprenant la motivation et le dispositif faisant courir un nouveau délai de recours. Subsidiairement, elle demande à ce qu'un délai supplémentaire d'un mois lui soit accordé pour compléter son écriture ou qu'un second échange d'écritures soit ordonné, pour tenir compte de l'arrêt rectificatif du même jour. Sur le fond, X._ SA précise qu'elle ne conteste pas l'arrêt du 4 août 2010 en ce qu'il supprime le complément et l'amende concernant l'ICC pour 1999, mais les autres points, pour lesquels elle demande son annulation et le renvoi de la cause à l'autorité inférieure pour qu'elle lui accorde un délai pour motiver sa réclamation du 15 novembre 2007. A titre encore plus subsidiaire, X._ SA conclut au renvoi de la cause à l'autorité inférieure pour qu'elle taxe les années non prescrites conformément à ses déclarations fiscales.
Le Tribunal cantonal se réfère aux considérants de son arrêt. Au terme de ses observations, l'Administration cantonale conclut au rejet du recours dans la mesure de sa recevabilité. L'AFC se rallie à la position et aux conclusions de l'autorité cantonale, ainsi qu'à l'arrêt attaqué.
D.b Le 14 octobre 2010, X._ SA a formé un nouveau recours en matière de droit public dirigé contre l'arrêt rectificatif du 14 septembre 2010 (cause 2C_796/2010). Sous réserve de la conclusion tendant à la constatation de la nullité de l'arrêt du 4 août 2010, la société reprend les mêmes conclusions que celles formulées dans son recours déposé le 14 septembre 2010.
Le Tribunal cantonal n'a pas formulé d'observations, contrairement à l'Administration cantonale, qui conclut au rejet du recours dans la mesure de sa recevabilité. L'AFC se rallie à la position et aux conclusions de l'Administration cantonale, ainsi qu'à l'arrêt rectificatif du 14 septembre 2010.
D.c Par ordonnance du 25 novembre 2010, le Président de la IIe Cour de droit public a admis la requête d'effet suspensif formée par X._ SA dans ses écritures déposées les 14 septembre et 14 octobre 2010.

Considérant en droit:
1. La société recourante a interjeté deux recours, le premier contre l'arrêt du Tribunal cantonal du 4 août 2010 (cause 2C_724/2010) et le second contre l'arrêt rectificatif du 14 septembre 2010 (cause 2C_796/2010). Ces deux écritures reposent sur le même état de fait et, sur le fond, contiennent des conclusions et des griefs identiques. Dès lors, il se justifie de joindre les causes 2C_724/2010 et 2C_796/2010 et de statuer dans un seul arrêt.
2. En premier lieu, il faut clarifier le lien entre l'arrêt du 4 août et celui du 14 septembre 2010, car la recourante conclut à ce que l'arrêt du 4 août 2010 soit déclaré nul et non avenu, le second arrêt ayant modifié le premier, et à ce qu'un délai lui soit accordé pour compléter ses écritures ou ordonner un second échange d'écritures.
2.1 Il ressort de l'arrêt du 14 septembre 2010 qu'à défaut de règle topique dans la procédure administrative vaudoise, le Tribunal cantonal a pour pratique de s'inspirer des règles applicables au Tribunal fédéral (cf. <ref-law>) en matière d'interprétation et de rectification de ses arrêts. La recourante ne critiquant pas le droit cantonal sur ce point (cf. <ref-law>), il n'y a pas lieu de remettre en cause cette pratique. D'ailleurs, la possibilité pour le justiciable de demander, à certaines conditions, l'interprétation d'une décision judiciaire découle directement de l'art. 8 al. 1 Cst. (<ref-ruling> consid. 2.3 p. 325 s.).
2.2 L'<ref-law> permet d'obtenir la rectification d'un arrêt notamment si le dispositif est peu clair, incomplet ou équivoque. On considère qu'un dispositif est peu clair lorsque les parties ou les autorités à qui la cause est renvoyée risquent subjectivement de comprendre la décision autrement que ce que voulait le tribunal lorsqu'il s'est prononcé (NICOLAS VON WERDT, Bundesgerichtsgesetz, Berne 2007, n. 24 ad <ref-law>). L'interprétation a uniquement pour objet de reformuler clairement et complètement une décision qui ne l'a pas été, alors même qu'elle a été clairement et pleinement pensée et voulue. Il ne s'agit pas de modifier le contenu de la décision (cf. arrêt 4G_1/2007 du 13 septembre 2007 consid. 2.1).
En l'espèce, le dispositif de l'arrêt du 4 août 2010 indiquait qu'hormis la reprise et l'amende concernant l'ICC 1999, la décision sur réclamation du 4 décembre 2008 était confirmée pour le surplus. A la suite de la requête de l'Administration cantonale qui y voyait une ambiguïté, le Tribunal cantonal a expressément précisé dans son arrêt rectificatif du 14 septembre 2010 que la décision sur réclamation était intégralement confirmée en matière d'impôt fédéral direct. Cette précision pour l'IFD ressortait cependant déjà de la motivation de l'arrêt du 4 août 2010, de sorte que l'on a bien affaire à la rectification d'une décision peu claire et non pas, comme le soutient la recourante, à une modification de celle-ci. Par conséquent, l'arrêt du 14 septembre 2010 n'a pas eu pour effet de remplacer l'arrêt du 4 août 2010, qui subsiste. Les conclusions tendant à constater la nullité de cette décision sont donc infondées.
2.3 Dès lors que l'arrêt rectificatif du 14 septembre 2010 n'a pas remplacé celui du 4 août 2010, il faut s'interroger sur la portée du "recours" déposé le 14 octobre 2010.
Sur le plan matériel, les mémoires déposés les 14 septembre et 14 octobre 2010 sont dirigés contre une seule décision, soit l'arrêt du 4 août 2010 tel que rectifié le 14 septembre 2010. On n'est donc pas en présence de deux recours distincts, mais d'un recours qui a été complété.
Pour que le complément du 14 octobre 2010 soit recevable, il doit avoir été formé dans le délai de recours de trente jours de l'<ref-law> (cf. arrêt 8C_300/2008 du 28 novembre 2008 consid. 2.2). De jurisprudence constante, la notification ultérieure d'un jugement rectifié fait courir un nouveau délai de recours au Tribunal fédéral, mais à l'encontre seulement des éléments de la décision qui ont fait l'objet de la rectification et dans la mesure où cette rectification est préjudiciable au recourant (cf. <ref-ruling> consid. 3 p. 484; <ref-ruling> consid. 1a p. 510; <ref-ruling> consid. 3 p. 89; plus récemment, cf. arrêt 5D_118/2009 du 17 novembre 2009 consid. 2.1). En l'espèce, on peut admettre que la précision selon laquelle l'arrêt attaqué confirme la décision sur réclamation en matière d'impôt fédéral direct lève toute ambiguïté sur la portée de ce prononcé dans un sens défavorable au recourant. Partant, son mémoire du 14 octobre 2010 peut être pris en considération à titre d'écriture complémentaire au recours initial, mais seulement pour les griefs qui ont trait à la question de l'impôt fédéral direct; sur les autres points, il est tardif et donc irrecevable. Cette conséquence ne nuit de toute façon pas au recourant puisque, sur le fond, ses deux mémoires contiennent la même motivation.
3. Le recours est dirigé contre un arrêt final (cf. <ref-law>), rendu dans une cause de droit public ne tombant pas sous le coup de l'une des exceptions prévues à l'<ref-law>, par une autorité supérieure de dernière instance cantonale (art. 86 al. 1 let. d et al. 2 LTF). La décision entreprise concerne à la fois l'impôt fédéral direct et l'impôt cantonal harmonisé, ce qui est admissible lorsque les problèmes juridiques qui se posent sont identiques pour les deux catégories d'impôts (cf. <ref-ruling> consid. 1.3.1 p. 262 s.). Interjeté en temps utile - sous réserve des précisions apportées ci-avant au consid. 2.3 concernant le mémoire complémentaire - et dans la forme prescrite (<ref-law>) par la société contribuable qui a qualité pour recourir (<ref-law> en relation avec l'<ref-law> et 146 LIFD), le recours est en principe recevable.
4. Sur le plan formel, la recourante invoque une violation de son droit d'être entendue. Se prévalant de l'art. 29 al. 2 Cst., ainsi que de plusieurs dispositions fiscales, elle soutient avoir été empêchée de faire valoir ses droits, car elle n'a pu motiver sa réclamation de 2007.
4.1 Il est vrai que le droit d'être entendu garantit notamment aux parties à une procédure de pouvoir s'exprimer sur les éléments pertinents avant qu'une décision ne soit prise touchant leur situation juridique (cf. <ref-ruling> consid. 3.1 p. 277; <ref-ruling> consid. 3.2 p. 494). Il ne saurait toutefois y avoir violation du droit d'être entendu si une partie renonce ou néglige elle-même à s'exprimer en temps utile.
4.2 Selon l'arrêt attaqué, la société a tout d'abord convenu avec l'autorité fiscale de ne pas motiver sa réclamation du 15 novembre 2007. Alors qu'un délai lui avait été imparti à cet effet au 31 janvier 2008, elle a ensuite proposé, le 4 janvier 2008, qu'une motivation soit déposée, si les parties ne parvenaient pas à s'entendre et a requis que le délai fixé au 31 janvier 2008 soit suspendu. Par lettre du 23 janvier 2008, elle a indiqué qu'elle considérait que sa proposition du 4 janvier 2008 avait été acceptée et qu'elle n'avait pas à transmettre de motivation jusqu'au 31 janvier 2008. Les pourparlers transactionnels ont finalement échoué le 1er avril 2008 et la réclamation a été rejetée le 4 décembre 2008. Il en découle que la recourante a eu tout loisir de déposer une motivation, déjà au moment de sa réclamation en novembre 2007, puis dans le délai imparti au 31 janvier 2008. C'est elle-même qui y a renoncé et a proposé de suspendre ce délai dans l'attente d'un éventuel accord entre les parties. Après l'échec de la transaction en avril 2008, il lui appartenait donc de présenter une motivation ou à tout le moins de demander à l'autorité fiscale un nouveau délai pour ce faire, étant rappelé qu'une motivation n'est pas exigée en procédure de réclamation (MARTIN ZWEIFEL/HUGO CASANOVA, Schweizerisches Steueuerverfahrensrecht, Zurich 2008, p. 257). La recourante n'a rien fait, alors que la décision sur réclamation n'a pourtant été rendue que huit mois plus tard. En pareilles circonstances, son reproche aux autorités d'avoir été empêchée de faire valoir ses droits confine à la témérité. Le grief doit donc être rejeté, sans qu'il y ait au surplus lieu d'examiner si la procédure devant le Tribunal cantonal aurait un effet guérisseur, ce que conteste la recourante.
I. Impôt fédéral direct (IFD)
5. Les périodes en cause s'étendent de 1995 à 2002, de sorte qu'elles tombent toutes sous le coup de la LIFD, entrée en vigueur le 1er janvier 1995.
Pour les années 1995 à 1999, des rappels d'impôts ont été prononcés, car les taxations définitives avaient déjà été rendues. Pour les périodes 2000 à 2002, la présente procédure concerne les taxations définitives. Enfin, une peine d'amende a été prononcée pour chacune des périodes en cause, pour soustraction fiscale de 1995 à 1999 et pour tentative de soustraction pour les années 2000 à 2002.
6. Compte tenu de l'écoulement du temps, il convient de vérifier que la prescription ou la péremption n'est pas atteinte, étant précisé qu'il s'agit de questions de droit matériel (<ref-ruling> consid. 2a p. 3) que le Tribunal fédéral examine d'office lorsqu'elles jouent en faveur du contribuable (cf. <ref-ruling>; pour les articles 120 et 153 LIFD, cf. RICHNER/FREI/KAUFMANN/MEUTER, Handkommentar zum DBG, 2ème éd. Zurich 2009, n. 26 ad art. 120 et n. 7 ad art. 153).
6.1 En ce qui concerne les rappels d'impôts pour 1995 à 1999, un avis d'ouverture de la procédure de soustraction fiscale a été notifié à la recourante le 7 septembre 2004. Le délai de péremption de 10 ans prévu à l'<ref-law> (en relation avec son alinéa 2) a donc été respecté. L'<ref-law> prévoit en outre que le droit de procéder au rappel de l'impôt s'éteint 15 ans après la fin de la procédure fiscale à laquelle il se rapporte. Il s'agit de la limite pour clore définitivement une procédure de rappel d'impôt (cf. Hugo Casanova, Commentaire romand, IFD, n. 2 ad art. 153). Ce délai est arrivé à expiration à fin 2010 pour la période fiscale 1995, soit au cours de la présente procédure. Par conséquent, il convient de réformer l'arrêt attaqué en tant qu'il confirme le rappel d'impôt prononcé pour cette période dont le complément à payer s'élève à 31'888,45 fr. Ce rappel sera annulé, ce qui a pour résultat le maintien de la taxation définitive 1995 IFD rendue le 26 juin 1997.
6.2 S'agissant des taxations relatives aux périodes 2000 à 2002, la recourante a été informée de l'ouverture d'une procédure de soustraction fiscale le 7 septembre 2004, soit lorsque le délai de prescription de 5 ans prévu à l'<ref-law> n'était pas arrivé à expiration. Cet avis a fait courir un nouveau délai de 5 ans (<ref-law>), qui a par la suite été régulièrement suspendu et/ou interrompu. Enfin, à ce jour le délai de prescription absolue de 15 ans de l'<ref-law> n'est pas encore atteint.
6.3 En ce qui concerne les amendes prononcées en relation avec l'IFD, il convient en premier lieu de déterminer le droit applicable car en ce domaine, contrairement aux dispositions sur la prescription (péremption) des reprises et taxations définitives (cf. art. 120 et 152 LIFD), le droit a changé depuis 1995.
6.3.1 Le 1er octobre 2002, les règles sur la prescription figurant à l'art. 333 du Code pénal ont été modifiées, ce qui a une incidence directe sur les délais de prescription de la LIFD (PIERRE SANSONETTI, Commentaire romand, n. 13 ad <ref-law>). Lorsque, comme en l'espèce, les actes délictueux ont été commis avant le 1er octobre 2002, les nouvelles règles ne s'appliquent que si elles sont plus favorables en vertu du principe de la lex mitior (arrêt 2A.719/2004 du 11 mai 2005 consid. 2; RICHNER/FREI/KAUFMANN/MEUTER, op. cit., n. 10 ad art. 184).
Selon le nouvel art. 333 al. 6 let. d CP, jusqu'à l'adaptation des lois fédérales topiques, la prescription de l'action pénale ne court plus si avant son échéance un jugement de premier instance a été rendu. Cette nouvelle disposition supprime le risque que l'action pénale se prescrive durant la procédure devant le Tribunal fédéral, ce qui justifiait l'examen d'office de cette question (<ref-ruling> consid. 5.4 p. 52; <ref-ruling> consid. 2a p. 81 s.) et se révèle donc moins favorable que l'ancien droit. Quant aux délais eux-mêmes, l'article 184 LIFD s'avère en principe plus favorable et demeure applicable (RICHNER/ FREI/KAUFMANN/MEUTER, op. cit., n. 10 ad art. 184). Ainsi, jusqu'à la modification du 1er octobre 2002, le délai de prescription absolue était de 6 ans en matière de tentative de soustraction fiscale (cf. <ref-law> combiné avec l'art. 184 al. 2 in fine LIFD). Désormais, il est de huit ans sur la base de l'<ref-law>, disposition qui s'applique jusqu'à ce que la LIFD soit adaptée (arrêt 2C_480/2009 du 16 mars 2010 consid. 4.2 et les références). Quant à la soustraction consommée, le délai de prescription absolu est de 15 ans sous l'ancien droit (<ref-law>), alors qu'il est de 20 ans en application de l'<ref-law> (SANSONETTI, op. cit., n. 18 et 25 ad <ref-law>). La lex mitior commande donc d'appliquer l'<ref-law>, sans tenir compte du nouvel <ref-law>.
6.3.2 Les amendes pour soustraction fiscale portant sur les périodes 1995 à 1999, la poursuite introduite le 7 septembre 2004 l'a été dans le délai de dix ans prévus à l'<ref-law>. La prescription absolue prévue à l'<ref-law> implique que la procédure pour soustraction soit achevée par une décision entrée en force au plus tard 15 ans à compter de la période fiscale en question, étant précisé que la prescription commence à courir spécialement pour chaque période fiscale entrant en compte (cf. <ref-law>; SANSONETTI, op. cit., n. 18 ad <ref-law>). En l'occurrence, la procédure étant encore pendante actuellement, l'amende prononcée pour l'année 1995 est prescrite. L'arrêt attaqué devra donc être annulé en tant qu'il inflige à la recourante une amende de 47'800 fr. pour soustractions à l'IFD commises durant la période fiscale 1995, l'amende prononcée pour cette année-là étant supprimée.
6.4 Quant aux amendes pour tentatives de soustraction fiscale, le délai de prescription de quatre ans commence à courir à compter de la clôture définitive de la procédure au cours de laquelle la tentative de soustraction a été commise (cf. <ref-law>). En cas de litige, la prescription ne va commencer à courir qu'à partir du moment où le Tribunal fédéral aura statué sur ladite procédure (cf. arrêt 2A.719/2004 du 11 mai 2005 consid. 4). Ensuite, elle ne peut se prolonger de plus de la moitié de sa durée initiale (cf. art. 184 al. 2 in fine LIFD). Dès lors que la taxation pour les périodes 2000-2002 pour lesquelles la recourante s'est vu condamnée pour des tentatives de soustraction fiscale fait aussi l'objet de la présente procédure, la prescription de ces infractions n'a pas encore commencé à courir.
6.5 En résumé, le droit de procéder au rappel d'impôt en matière d'IFD pour 1995 est périmé et l'amende pour soustraction fiscale en matière d'IFD se rapportant à cette même période est prescrite. L'arrêt attaqué devra donc être annulé sur ces points, le rappel d'impôts, ainsi que l'amende en matière d'IFD pour 1995 étant supprimés.
7. Sur le fond la recourante invoque une mauvaise application des dispositions sur la détermination du bénéfice imposable. Elle conteste les trois montants repris par le fisc sur son bénéfice, à savoir : les 2/3 du poste "frais de sous-traitance" (compte no 4460) correspondant à des factures émises par Y._ SA à l'égard de X._ SA (consid. 7.2); le 80 % des charges comptabilisées au titre de la location d'avions privés (consid. 7.3) et le bénéfice net réalisé par Z._ AG (consid. 7.4).
7.1 L'<ref-law> prévoit que l'impôt sur le bénéfice a pour objet le bénéfice net. Celui-ci comprend notamment tous les prélèvements opérés sur le résultat commercial avant le calcul du solde du compte de résultat, qui ne servent pas à couvrir les dépenses justifiées par l'usage commercial, tels que les distributions ouvertes ou dissimulées de bénéfice et les avantages procurés à des tiers qui ne sont pas justifiés par ledit usage (art. 58 al. 1 let. b in fine LIFD). Selon le Tribunal fédéral, il y a prestation appréciable en argent - également qualifiée de distribution dissimulée de bénéfice - lorsqu'une attribution est faite par la société, sans contre-prestation équivalente, à ses actionnaires ou à toute personne la ou les touchant de près et qui n'aurait pas été consentie à des tiers dans les mêmes circonstances (<ref-ruling> consid. 5.1 p. 607); il faut encore que le caractère insolite de cette prestation soit reconnaissable par les organes de la société (<ref-ruling> consid. 2b p. 435; arrêts 2C_30/2010 du 19 mai 2010 consid. 2.1 et 2C_788/2010 du 18 mai 2011 consid. 4.1 et les références citées). Les transactions internationales entre sociétés du même groupe doivent correspondre à ce qui se ferait entre tiers. Même s'il n'est pas toujours facile de déterminer les prix de transfert pour ces opérations au sein d'un groupe, ceux-ci ne peuvent être fixés de manière à déplacer un bénéfice d'un Etat dans un autre ou à égaliser les résultats des sociétés (arrêts 2C_788/2010 du 18 mai 2011 consid. 4.1 et 2A.588/2006 du 19 avril 2007 consid. 4.2).
7.2 S'agissant des montants figurant dans le compte sous-traitant de la recourante, l'arrêt attaqué retient que les factures émanant de Y._ SA étaient établies a posteriori et que les montants prélevés du compte de X._ SA ne figuraient pas comme recettes dans les comptes de la société roumaine. Un tiers de ces sommes avait servi à payer des employés roumains de Y._ SA travaillant au noir. Les deux tiers restant se rapportaient à des fausses factures et avaient été versés sur des comptes bancaires dont le seul ayant droit économique était A._. Sur la base de ces éléments, on ne voit manifestement pas qu'en considérant que les deux tiers des montants figurant au compte no 4460 n'étaient pas justifiés commercialement et devaient être intégrés au bénéfice imposable, les juges cantonaux auraient violé le droit fédéral.
7.3 En ce qui concerne les frais relatifs à un aéronef, l'arrêt attaqué constate que 80 % des montants figurant dans le compte "Frais de location d'avion" de X._ SA pour les années 2000 à 2002 correspondait à des vols effectués et facturés qui n'avaient aucun caractère commercial. De tels frais doivent à l'évidence être réintégrés dans le bénéfice imposable de la société.
7.4 Enfin, faisant application du principe de la transparence ("Durchgriffstheorie") fondé sur la réalité économique, les autorités ont considéré que la société Z._ AG n'avait pas d'existence propre et ont attribué à la recourante le résultat issu des comptes de Z._ AG dès 1999, ainsi que les charges non justifiées commercialement de cette société qui correspondaient à des frais de sous-traitance non-probants et à des frais d'avions.
7.4.1 Selon une jurisprudence constante (<ref-ruling> consid. 5.2 p. 635; <ref-ruling> consid. 3 p. 112/113; <ref-ruling> consid. 4 p. 22/23), la forme juridique des relations d'où provient le revenu imposable n'est pas nécessairement décisive du point de vue fiscal. Sous certaines conditions, l'autorité peut s'en tenir à la réalité économique et admettre en particulier l'existence d'un seul contribuable en présence de plusieurs entités juridiquement distinctes (cf. arrêt 2C_742/2008 du 11 février 2009 consid. 5.5). Le Tribunal fédéral n'admet ce mode de faire que si la forme juridique à laquelle a recouru le contribuable est insolite, inadéquate ou anormale, qu'elle n'a été choisie qu'aux fins d'éluder l'impôt et qu'elle conduirait effectivement à une économie d'impôt. En d'autres termes, il faut que l'on se trouve en présence d'un cas d'évasion fiscale (<ref-ruling> consid. 3a p. 154/155; arrêt 2P.92/2005 du 30 janvier 2006 consid. 7.2).
7.4.2 En l'espèce, selon l'arrêt attaqué, Z._ AG est une société liechtensteinoise créée en 1999 par A._ qui en détient l'entier du capital-actions. Selon le rapport de la Division d'enquêtes fiscales spéciales reproduit dans l'arrêt attaqué, cette société a servi dès sa création à faire écran entre la recourante et ses clients. L'activité effective de Z._ AG n'a jamais été déployée au Liechtenstein, mais en Suisse depuis les locaux de X._ SA. Les juges cantonaux ont en outre énuméré toute une série d'indices démontrant les liens entre Z._ AG et X._ SA. Ils ont conclu que Z._ AG n'avait pas d'existence propre et qu'aucun motif ne justifiait sa domiciliation au Liechtenstein, si ce n'est de permettre à la recourante de diminuer son bénéfice et sa charge fiscale. Sur cette base, on ne peut reprocher au Tribunal cantonal d'avoir confirmé que, sur le plan fiscal, Z._ AG et la recourante pouvaient être considérées comme une seule entité.
7.5 La recourante reproche au Tribunal cantonal d'avoir méconnu les règles sur le calcul du bénéfice imposable lorsqu'il a opéré les trois reprises litigieuses. Son raisonnement juridique part cependant de prémisses complètement différentes de l'état de fait constaté et tenu pour déterminant par les juges cantonaux. Ses critiques d'ordre juridique n'ont donc de sens que s'il se justifie de s'écarter des constatations cantonales.
Tel n'est pas le cas. En effet, la recourante perd manifestement de vue que le Tribunal fédéral n'est pas une instance d'appel et qu'il ne sert à rien, sous le couvert d'arbitraire ou de constatations manifestement inexactes, de discuter librement les faits devant lui (arrêt 2C_361/2010 du 13 juillet 2010 consid. 2.2). C'est pourtant bien l'exercice auquel s'est adonné la recourante sur chacun des éléments retenus. Elle reprend du reste largement les critiques qu'elle avait déjà formulées devant le Tribunal cantonal. Si une telle argumentation est admissible devant une autorité qui revoit librement les faits, elle est irrecevable devant le Tribunal fédéral (cf. <ref-ruling> consid. 3 p. 104 s.; <ref-ruling> consid. 5.2.2 p. 322). La Cour de céans n'entrera donc pas en matière sur les critiques appellatoires de la recourante. Au demeurant, la plupart des griefs formulés trouvent une réponse convaincante et détaillée dans l'arrêt attaqué. Tel est notamment le cas lorsque la recourante conteste être la titulaire des droits de propriété sur les logiciels commercialisés par le groupe, ce qui justifierait les montants retirés du compte-courant, alors que le contrat du 10 février 1993 dit l'inverse. Il en va de même lorsqu'elle affirme que les vols effectués par A._ l'auraient été à titre privé, alors que tous les éléments retenus prouvent le contraire.
Par conséquent, les griefs de la recourante concernant les montants inclus dans son bénéfice imposable doivent donc être rejetés, dans la mesure où ils sont recevables.
8. Invoquant l'<ref-law>, la recourante soutient que les deux tiers des montants qui figuraient au poste sous-traitance du compte 4460 ne pouvaient être pris en compte dans le cadre d'une procédure de rappel d'impôt, car elle avait déposé sur ce point une déclaration complète et précise au sens de l'<ref-law>.
8.1 Il ressort de l'<ref-law> que, lorsque des moyens de preuve ou des faits jusque là inconnus de l'autorité fiscale lui permettent d'établir qu'une taxation entrée en force est incomplète, elle procède au rappel de l'impôt qui n'a pas été perçu, y compris les intérêts (cf. al. 1). En revanche, le rappel est exclu si le contribuable a déposé une déclaration complète et précise (cf. al. 2). Il y a motif à rappel d'impôts lorsque l'autorité découvre des faits ou des moyens de preuve qui ne ressortaient pas du dossier dont disposait l'autorité fiscale au moment de la taxation (arrêts 2C_879/2008 du 20 avril 2009 consid. 5.2; 2C_104/2008 du 20 juin 2008, consid. 3.3; 2A.300/2006 du 27 février 2007 consid. 3.3 et les références citées).
8.2 Selon les constatations cantonales, les premières taxations ont été effectuées sur la base des documents remis par la recourante. Cependant, ces documents n'étaient pas exacts, puisqu'après l'entrée en force des taxations l'autorité fiscale a découvert que les factures produites pour justifier les frais de sous-traitance étaient fictives. Cette découverte constitue à l'évidence un motif justifiant un rappel d'impôts. La position de la recourante confine du reste à nouveau à la témérité, dès lors qu'elle ose prétendre qu'elle a rempli les exigences de l'<ref-law>, alors que la taxation initiale était fondée sur des documents fictifs qu'elle a elle-même produits.
9. Dans un dernier grief, la recourante conteste l'existence même des infractions fiscales et la quotité des amendes prononcées à son encontre.
9.1 La recourante étant une personne morale, l'<ref-law> lui est applicable (cf. <ref-law>; <ref-ruling> consid. 4.1 p. 89). Selon l'alinéa 1 de cette disposition, lorsque des obligations de procédure ont été violées ou qu'une soustraction ou une tentative de soustraction d'impôt a été commise au profit d'une personne morale, celle-ci est punie d'une amende. Il y a soustraction d'impôt lorsque le contribuable, intentionnellement ou par négligence, fait en sorte que la taxation ne soit pas effectuée alors qu'elle devrait l'être ou qu'une taxation entrée en force soit incomplète (cf. <ref-law>). Pour que l'infraction soit consommée, il suffit que le contribuable donne à l'autorité fiscale des renseignements inexacts, en particulier en fournissant une déclaration d'impôt incomplète et qui n'est pas conforme à la vérité au sens de l'<ref-law> (arrêt 2C_480/2009 du 16 mars 2010 consid. 5.1). Aussi longtemps que la taxation n'est pas entrée en force, il n'y a que tentative de soustraction au vertu de l'<ref-law> (cf. arrêts 2A.481/2003 du 18 août 2004 consid. 3 et 2A.228/2001 du 13 novembre 2001 consid. 2a), étant précisé que le comportement illicite réprimé par cette disposition correspond à celui de la soustraction fiscale de l'<ref-law>. Bien que l'<ref-law> soit muet sur la question, la tentative de soustraction fiscale suppose un agissement intentionnel de l'auteur (cf. arrêt 2C_480/2009 du 16 mars 2010 consid. 5.1 et les références citées). Lorsque le délit est commis par une personne morale, le comportement de ses organes lui est imputable pour examiner les éléments subjectifs de l'infraction (cf. <ref-ruling> consid. 4.2 p 90 s.).
9.2 En l'espèce, le comportement de la recourante justifiant les reprises tel que décrit précédemment (cf. supra consid. 7.2 à 7.4) est sans conteste constitutif d'évasion fiscale pour les périodes fiscales 1996 à 1999 (l'année 1995 n'entre plus en ligne de compte en raison de la prescription; cf. supra consid. 6.3) et de tentative d'évasion fiscale pour les années 2000 à 2002, puisqu'aucune taxation définitive n'est encore entrée en force. Sur le plan subjectif, l'arrêt attaqué retient l'intention, considérant que la recourante, par l'intermédiaire de ses organes (en l'occurrence A._), a déposé des déclarations d'impôt inexactes dans le but d'obtenir une taxation trop basse. C'est donc à juste titre que les juges cantonaux ont confirmé l'existence de soustractions et tentatives de soustractions fiscales. L'argumentation de la recourante, qui se limite sur ce point à se référer à l'absence de comportement justifiant les reprises d'impôts, est à l'évidence infondée.
9.3 Quant à la quotité de l'amende, elle est en règle générale fixée, en cas de soustraction fiscale, au montant de l'impôt soustrait. Si la faute est légère, l'amende peut être réduite jusqu'au tiers de ce montant; si la faute est grave, elle peut au plus être triplée (<ref-law>). L'amende pour tentative de soustraction fiscale est fixée aux deux tiers de la peine qui serait infligée si la soustraction avait été commise intentionnellement et consommée (<ref-law>). Si l'infraction est commise par une personne morale (<ref-law>), l'amende infligée doit obéir aux critères qui sont applicables au degré de la faute des organes tandis que la situation économique dont il faut tenir compte est celle de la personne morale au profit de laquelle la soustraction a eu lieu et non pas celle de ses organes (<ref-ruling> consid. 4.4 p. 91 s.).
9.4 En l'espèce, les peines prononcées s'élèvent à une fois et demi le montant de l'impôt soustrait pour les périodes 1996 à 1999, ce montant étant réduit d'un tiers pour les années 2000 à 2002 où seule une tentative a été réalisée. Le Tribunal cantonal, faisant sienne la position de l'autorité fiscale, a considéré ces peines comme justifiées, dès lors que les faits étaient graves, que A._ cherchait à minimiser sa responsabilité en la reportant sur ses mandataires, alors qu'il s'était lui-même adjoint les services de professionnels de la fiscalité dans le but de réaliser des économies d'impôts indues, allant jusqu'à utiliser des fausses factures, et qu'il ne montrait aucune volonté de régulariser la situation de ses sociétés. Sur la base de ces éléments, on ne voit pas que l'appréciation des juges cantonaux quant à la quotité des amendes prononcées soit critiquable.
9.5 Les arguments présentés par la recourante ne sont pas propres à modifier cette conclusion, mais au contraire la confirment.
Lorsqu'elle soutient que A._ n'a fait que suivre les conseils juridiques et fiscaux d'un avocat spécialisé dont il était sous l'influence, la recourante s'écarte des faits cantonaux selon lesquels le prénommé était parfaitement conscient des buts et des moyens mis en place. Dès lors qu'elle n'invoque pas l'arbitraire des constatations cantonales sur ce point, son argumentation n'est pas recevable.
La recourante reproche aux juges cantonaux de ne pas avoir tenu compte en sa faveur de son absence d'antécédent en matière fiscale et de l'écoulement du temps, en particulier du fait que la péremption est proche. Une telle argumentation est téméraire. En effet, la recourante a été créée en 1990 et, pendant les 5 premières années de son existence, elle n'a encaissé aucun chiffres d'affaires. Dès 1995, soit dès qu'elle a réalisé ses premiers résultats, elle s'est rendue coupable de soustraction fiscale. Si l'écoulement du temps doit être pris en compte, c'est donc uniquement en défaveur de la recourante. Il en va de même de l'approche du délai de péremption, s'agissant d'un contribuable qui a commis des infractions pendant de nombreuses années et qui n'entend toujours pas régulariser sa situation.
II. Impôt cantonal et communal (ICC)
10. Sous réserve d'exceptions n'entrant pas en ligne de compte ici (cf. art. 95 let. c et d LTF), le recours en matière de droit public n'est pas ouvert pour se plaindre d'une violation du droit cantonal en tant que tel. Il est seulement possible de faire valoir que la mauvaise application du droit cantonal constitue une violation du droit fédéral au sens de l'<ref-law>, en particulier qu'elle est arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.3 p. 466). Le Tribunal fédéral n'examine toutefois pas ces questions d'office, mais se prononce uniquement sur les griefs invoqués et motivés de manière suffisante par le recourant (cf. <ref-law>).
Il en découle que, si le Tribunal fédéral examine librement la conformité du droit cantonal harmonisé avec les dispositions de la loi fédérale du 14 décembre 1990 sur l'harmonisation des impôts directs des cantons et des communes (LHID; RS 642.14), il ne revoit les dispositions fiscales relevant uniquement du droit cantonal qu'aux conditions de l'<ref-law>. Ceci vaut aussi par rapport aux dispositions fiscales cantonales qui, bien que soumises au respect des principes généraux fixés par la LHID, ont été adoptées dans un domaine laissant une marge de liberté au législateur cantonal (cf. <ref-ruling> consid. 3.2 p. 132).
11. La recourante ne se prévaut nullement d'une application arbitraire du droit cantonal, mais le discute de la même façon qu'elle se plaint de la violation du droit fédéral et de la LHID. Dans la mesure où il porte sur des questions de pur droit cantonal, son recours est donc irrecevable en regard de l'<ref-law>. Tel est le cas des griefs formés à l'encontre de la taxation et de l'amende se rapportant à l'exercice 2000. En effet, cette année se trouve encore dans la période transitoire laissée aux cantons pour adapter leur législation aux dispositions de la loi fédérale du 14 décembre 1990 sur l'harmonisation des impôts directs des cantons et des communes (<ref-law>) et est exclusivement régie par le droit cantonal (cf. <ref-ruling> consid. 2 p. 591 ss; arrêt 2C_277/2008 du 26 septembre 2008 consid. 1.2).
Pour les années 2001-2002, la LHID est en revanche applicable, de sorte qu'il convient de vérifier si les exigences du droit fédéral harmonisé ont été respectées lors de l'application du droit cantonal, étant rappelé que les dispositions sur l'imposition du bénéfice, le rappel d'impôt et la soustraction d'impôt, ainsi que la tentative de soustraction, figurent dans les titres 2 à 6 de la LHID (cf. <ref-law>). Lors de cet examen, il conviendra uniquement de tenir compte du droit cantonal actuel, à savoir de la loi vaudoise du 4 juillet 2000 sur les impôts directs cantonaux entrée en vigueur le 1er janvier 2001 (ci-après LI/VD; RS/VD 642.11).
12.
12.1 S'agissant de la prescription du droit de taxer, les délais de l'art. 170 LI/VD sont similaires à ceux de l'<ref-law>, disposition correspondant à l'<ref-law>, de sorte que l'on peut renvoyer aux développements présentés en relation avec l'IFD (cf. supra consid. 6.2). En ce qui concerne les amendes pour tentative de soustraction fiscale, on peut par analogie renvoyer au consid. 6.5 en matière d'IFD, puisque l'<ref-law>, qui est repris à l'art. 254 LI/VD, est comparable à l'<ref-law>. Par conséquent, les taxations et les amendes en matière d'ICC ne sont pas atteintes par la prescription pour la période 2001-2002.
12.2 Même si l'<ref-law> ne mentionne pas les distributions dissimulées de bénéfice ou les avantages procurés à des tiers qui ne sont pas justifiés par l'usage commercial comme le prévoit l'<ref-law>, ces avantages doivent être réintégrés dans le bénéfice imposable aussi en vertu de l'<ref-law> (arrêt 2C_895/2008 du 9 juin 2009 consid. 2.2 et la référence à STEPHAN KUHN/PETER BRÜLISAUER, in Kommentar zum Schweizerischen Steuerrecht I/1, Bundesgesetz über die Harmonisierung der direkten Steuern der Kantone und Gemeinden, 2ème éd., nos 74 ss ad Art. 24 StHG). L'art. 94 al. 1 let. b in fine LI/VD, qui correspond sur ce point à l'<ref-law>, est donc conforme à la LHID. En outre, la possibilité, admise en matière d'IFD (cf. supra consid. 7.4), de s'écarter de la réalité juridique au profit de la réalité économique lorsque les conditions de l'évasion fiscale sont réunies, est une règle qui s'applique aussi en matière de LHID (cf. KUHN/BRÜLISAUER, op. cit., n. 7 ad Vorbemerkungen zum 2. Kapitel StHG), de sorte que l'on ne peut reprocher au Tribunal cantonal d'en avoir fait application sous l'angle de l'ICC. Partant, c'est à juste titre qu'il a été tenu compte des mêmes reprises en matière d'ICC que d'IFD (cf. supra consid. 7).
12.3 Enfin, l'<ref-law>, qui impose de réprimer la tentative de soustraction, contient des règles similaires à l'<ref-law>. Quant au droit cantonal, l'art. 243 LI/VD, consacré à la tentative de soustraction, reprend la règle prévue à l'<ref-law> (arrêt 2C_480/2009 du 16 mars 2010 consid. 7). Sur ce point également, on peut donc renvoyer à ce qui a été dit en matière d'IFD (cf. supra consid. 9).
13. En résumé, le recours doit, en matière d'IFD, être très partiellement admis dans la mesure où il est recevable, et l'arrêt attaqué réformé, en ce sens que le rappel d'impôt et l'amende relatifs à la période fiscale 1995 sont annulés (cf. supra consid. 6.1 et 6.3.2). L'arrêt attaqué est en revanche confirmé pour le surplus.
En ce qui concerne l'ICC, le recours doit être rejeté dans la mesure de sa recevabilité.
13.1 Bien que formellement la recourante obtienne gain de cause concernant le rappel d'impôt et l'amende relatifs à l'IFD 1995 en raison de la prescription/péremption, il n'en sera pas tenu compte dans la répartition des frais et dépens. En effet, le Tribunal fédéral était tenu d'examiner d'office la question et la recourante s'est contentée de s'en rapporter à justice sur ce point, alors que les griefs qu'elle a soulevés se sont révélés infondés ou à la limite de la témérité voire téméraires. Par conséquent, les frais seront mis à la charge de la recourante (<ref-law>) et il ne sera pas alloué de dépens (art. 68 al. 1 et 3 LTF), étant précisé que les frais sont calculés sur la base d'un seul recours (cf. supra consid. 2.3).
Pour ce même motif, l'arrêt attaqué ne sera pas modifié sur la question des frais et de l'absence de dépens (cf. <ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Les causes 2C_724/2010 et 2C_796/2010 sont jointes.
2. Le recours est partiellement admis dans la mesure où il est recevable en matière d'IFD et l'arrêt attaqué est réformé, en ce sens que le rappel d'impôt et l'amende relatifs à la période fiscale 1995 sont supprimés. Le recours est confirmé pour le surplus.
3. Le recours est rejeté dans la mesure où il est recevable en matière d'ICC.
4. Les frais judiciaires, arrêtés à 20'000 fr., sont mis à la charge de la recourante.
5. Il n'est pas alloué de dépens.
6. Le présent arrêt est communiqué au mandataire de la recourante, à l'Administration cantonale des impôts et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, ainsi qu'à l'Administration fédérale des contributions.
Lausanne, le 27 juillet 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Zünd Addy