Faits:
A. A.a A._ était l'actionnaire majoritaire de B._ SA, depuis le 25 août 1999 à tout le moins; dès cette date, il en a été administrateur et président, engageant la société par sa signature individuelle.
A._ est propriétaire de la parcelle n° 1'779 du registre foncier de la commune de C._, sise chemin X._. En 2000 et 2001, B._ SA a entrepris d'importants travaux d'entretien et de remise en activité de la halle édifiée sur cette parcelle.
A.b Le 10 mai 2000, A._ a signé avec B._ SA, en qualité de locataire, un contrat de bail à loyer pour locaux commerciaux portant sur la halle-atelier, des bureaux, un local à matériel, une place couverte et soixante places de parc, le tout sis sur l'immeuble situé chemin X._ à C._; ce contrat était conclu pour une durée de dix ans jusqu'au 31 mars 2010 et le loyer mensuel se montait à 22'604 fr., dont 2'500 fr. au titre d'acompte de chauffage et d'eau chaude.
Le 1er décembre 2000, A._ a conclu avec B._ SA un contrat de bail portant sur des bureaux également situés sur la parcelle sise chemin X._ à C._; ce bail était conclu pour une durée indéterminée, avec possibilité de le résilier moyennant un préavis de six mois, le loyer se montant à 2'208 fr., dont 333 fr. d'acompte de chauffage et d'eau chaude.
Le 12 avril 2001, A._ a conclu avec B._ SA un contrat de bail à loyer pour locaux commerciaux portant sur un atelier de 2'000 mètres carrés sis au chemin X._ à C._. Il était conclu pour une durée indéterminée, résiliable moyennant préavis de six mois, et prévoyait un loyer mensuel net de 12'500 fr., dont 1'667 fr. d'acompte de chauffage et d'eau chaude.
A.c A plusieurs reprises, A._ a octroyé des prêts à B._ SA.
Ainsi, il lui a prêté 1'500'000 fr., selon contrat des 17 et 21 novembre 2000; ce prêt était conclu pour une durée indéterminée, dénonçable avec un préavis de trente jours, et le taux d'intérêt fixé à 4% l'an. Le 20 décembre 2000, il a prêté 6'000'000 fr. à B._ SA; ce prêt était conclu pour une durée d'un mois, du 18 décembre 2000 au 16 janvier 2001, avec possibilité de l'augmenter et de le prolonger, et son taux d'intérêt s'élevait à 3,9% l'an. Par contrat du 28 juin 2001, A._ a accordé un troisième prêt à B._ SA, d'un montant de 1'000'000 fr., convenu pour une durée de deux mois, avec prolongation à trois mois possible; le taux d'intérêt était fixé à 6,5% l'an. Puis, selon contrat du 27 septembre 2001, il a encore prêté un montant de 3'500'000 fr. à B._ SA; conclu pour trois mois, le prêt pouvait être prolongé pour une durée équivalente.
Au total, A._ a ainsi avancé 12'000'000 fr. à B._ SA. Il n'a jamais dénoncé ces différents prêts au remboursement.
A.d L'exercice 2001 de B._ SA s'est clos par une perte de 6'398'892 fr. 19. Entre le 31 décembre 2000 et le 31 décembre 2001, le prêt d'actionnaire octroyé par A._ est passé de 7'549'085 fr. 50 à 12'358'291 fr. 50. Lors de la clôture des comptes de l'exercice 2001, celui-ci a postposé sa créance à hauteur de 6'500'000 fr.
Durant le premier semestre 2002, B._ SA a enregistré une perte de 9'460'929 fr. 81. Au 30 juin 2002, les fonds étrangers de la société, y compris les provisions, se montaient à 38'128'675 fr. 32 et les actifs s'élevaient à 22'557'278 fr. 17. A cette même date, le prêt d'actionnaire consenti par A._ s'élevait à 12'661'489 fr.
Il est admis que A._ ne pouvait ignorer, le 1er juillet 2002, la perte de 6'398'892 fr. 19 réalisée durant l'exercice 2001, ainsi que la perte de 9'460'929 fr. 81 du premier semestre 2002.
B. B.a Le 1er juillet 2002, A._ a signé avec B._ SA de nouveaux contrats de baux à loyer pour locaux commerciaux. Le premier, prévu en remplacement de la convention du 10 mai 2000, porte sur les mêmes éléments et a été conclu pour une durée de dix ans échéant le 30 juin 2012. Le loyer mensuel net, charges comprises, a été porté à 33'239 fr. 45, représentant une augmentation de 10'635 fr. 45 par mois. Le second contrat remplaçait celui du 12 avril 2001 et était prévu pour une durée de cinq ans arrivant à échéance le 30 juin 2007. Le loyer mensuel net était porté à 16'140 fr. charges comprises, représentant une augmentation de 3'640 fr.; A._ bénéficiait ainsi d'un bail de cinq ans au lieu d'un contrat pouvant prendre fin en tout temps avec un préavis de six mois. Ces deux contrats de bail mettaient à la charge du locataire non seulement le paiement d'acomptes de chauffage et d'eau chaude, mais également d'autres frais accessoires, opérant ainsi un transfert au locataire des frais accessoires supportés jusque-là par le propriétaire de l'immeuble.
B.b Le 2 juillet 2002, B._ SA a adressé à A._ une facture relative aux travaux de transformation de la halle sis sur la parcelle n° 1'779 pour un montant de 1'312'720 fr. Sous la rubrique paiement de la facture, il était mentionné que "ledit montant sera déduit de votre prêt chez nous". Ainsi, A._ a acquitté le montant de 1'312'720 fr. par compensation partielle avec ses créances envers la société.
C. C.a Le 30 juillet 2002, la faillite de B._ SA a été prononcée.
Dès le 1er août 2002, les locaux du chemin X._ où B._ SA exerçait ses activités ont été loués par la masse en faillite, selon accord avec A._.
C.b Par acte du 1er novembre 2002, A._ a cédé aux employés de B._ SA, à concurrence d'un million de francs et au titre de contribution à la constitution d'un plan social, ses prétentions en remboursement du prêt d'actionnaire et en paiement des loyers jusqu'au 30 juillet 2002.
C.c Dans un courrier du 24 mars 2004 adressé à A._ et au syndicat D._ par l'administration de la faillite, celle-ci a indiqué ce qui suit:
" (...) je constate que M. A._ a cédé, à D._, au profit des employés, toutes sommes que l'office des faillites pourrait lui verser à concurrence d'un million.
Dans ce cadre, l'administration fixe les sommes dues à M. A._:
1) loyers de juillet 2001 à juillet 2002 Fr. 607'087.40
2) loyers d'août à décembre 2002 Fr. 278'778.00
(dette de la masse)
Total Fr. 885'865.40
Cette somme est versée à D._ sur le compte qu'elle me désignera. (...)".
Cette décision a fait l'objet d'une plainte LP, A._ estimant que l'office ne devait pas verser à D._ les loyers dus pour les mois d'août à décembre 2002. Le président du Tribunal d'arrondissement de la Broye et du Nord vaudois a admis la plainte LP. Il n'est pas établi que le montant ait été payé à ce jour.
D. D.a Par demande du 29 juillet 2004 adressée à la Cour civile du Tribunal cantonal du canton de Vaud, la masse en faillite de B._ SA a conclu en substance à la révocation, d'une part, du rachat ou du remboursement par réduction du prêt d'actionnaire de A._ des travaux financés et faits par B._ SA dans les bâtiments industriels propriété de celui-ci sis au chemin X._, et, d'autre part, des baux signés entre A._ et B._ SA le 1er juillet 2002, celui-ci étant reconnu débiteur de la masse en faillite de B._ SA de 1'900'000 fr. avec intérêts. Dans sa duplique du 14 novembre 2005, A._ a conclu reconventionnellement à ce que la masse en faillite de B._ SA soit reconnue sa débitrice d'un montant de 278'778 fr. plus intérêts.
D.b Par jugement du 7 octobre 2009, la Cour civile du Tribunal cantonal du canton de Vaud a condamné A._ à payer à la masse en faillite de B._ SA la somme de 1'325'877 fr. 50, avec intérêt à 5% l'an dès le 31 juillet 2004, sous déduction de 278'778 fr., avec intérêt à 5% l'an dès le 5 novembre 2002.
E. A._ interjette le 8 mars 2010 un recours en matière civile au Tribunal fédéral contre ce jugement, concluant à sa réforme en ce sens que les conclusions de la demande de la masse en faillite de B._ SA sont rejetées et que celle-ci est reconnue sa débitrice et lui doit prompt paiement d'un montant de 278'778 fr., plus intérêt à 5% l'an dès le 5 novembre 2002. Il invoque une violation des art. 213 al. 1, 287 al. 1 ch. 3 et 291 al. 1 LP, ainsi que 123 al. 1 et 318 CO.
L'intimée n'a pas été invitée à se déterminer.
Par ordonnance présidentielle du 1er avril 2010, l'effet suspensif a été accordé au recours.
Considérant en droit:
1. Le Tribunal fédéral examine d'office la recevabilité des recours qui lui sont soumis (ATF 134 III 115 consid. 1 p. 117).
1.1 Le recours en matière civile est ouvert contre les décisions en matière de poursuite pour dettes et de faillite (art. 72 al. 2 let. a LTF). Déposé en temps utile (art. 100 al. 1 LTF) contre une décision finale (art. 90 LTF) prise en dernière instance cantonale (art. 75 al. 1 LTF), dans une affaire pécuniaire dont la valeur litigieuse est supérieure à 30'000 fr. (art. 74 al. 1 let. b LTF), le présent recours est recevable au regard de ces dispositions.
1.2 Si, pour une partie des griefs recevables devant le Tribunal fédéral, la décision d'un tribunal cantonal supérieur peut être déférée à une autre autorité judiciaire cantonale, cette décision n'est pas de dernière instance pour ce qui concerne les questions susceptibles de ce recours cantonal; faute d'épuisement des voies de recours, elles ne peuvent pas être soulevées dans le cadre du recours en matière civile interjeté contre la décision du tribunal cantonal supérieur. Elles doivent d'abord faire l'objet du recours cantonal avant de pouvoir être soumises, le cas échéant, au Tribunal fédéral (cf. art. 100 al. 6 LTF).
En procédure civile vaudoise, le jugement rendu par la Cour civile du Tribunal cantonal peut faire l'objet d'un recours en nullité auprès de la Chambre des recours du Tribunal cantonal - voie de recours d'ailleurs indiquée au bas du jugement querellé -, en particulier pour violation des règles essentielles de la procédure (art. 444 al. 1 ch. 3 du code de procédure civile du canton de Vaud du 14 décembre 1966 [CPC/VD]). A teneur de l'art. 444 al. 2 CPC/VD, le recours est toutefois irrecevable pour les griefs qui peuvent faire l'objet d'un recours en réforme au Tribunal fédéral. La jurisprudence cantonale en a déduit que, dès lors que le grief d'arbitraire dans l'appréciation des preuves ne pouvait pas être soulevé dans un recours en réforme (ancien art. 43 OJ), il pouvait l'être dans le recours en nullité cantonal (JT 2001 III 128). La loi fédérale sur le Tribunal fédéral, entrée en vigueur le 1er janvier 2007, a remplacé le recours en réforme par le recours en matière civile (cf. art. 72 ss LTF); dans ce nouveau recours, le grief de la violation de l'interdiction constitutionnelle de l'arbitraire est recevable (art. 95 LTF; ATF 133 III 446 consid. 3.1 p. 447, 462 consid. 2.3 p. 466). L'art. 444 al. 2 CPC/VD n'a pas été modifié avec l'introduction de la LTF et il faut en déduire que seuls les griefs qui pouvaient donner lieu à l'ancien recours en réforme sont exclus du recours en nullité. Il en découle que les griefs d'arbitraire dans l'appréciation des preuves et de violation du droit de procédure cantonal demeurent recevables dans le cadre d'un recours en nullité cantonal (cf. arrêt 4A_17/2009 du 14 avril 2009 consid. 1.2; arrêt 4A_531/2007 du 5 mars 2008 consid. 2.2). En l'espèce, dans la mesure où il est formé, non pour ces motifs, mais pour violation du droit fédéral, le recours apparaît recevable.
1.3 Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), sans être lié ni par les motifs de l'autorité précédente, ni par les moyens des parties; il peut donc admettre le recours en se fondant sur d'autres arguments que ceux invoqués par le recourant, comme il peut le rejeter en opérant une substitution de motifs (ATF 133 III 545 consid. 2.2 p. 550). Compte tenu des exigences de motivation posées, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), à l'art. 42 al. 2 LTF, le Tribunal fédéral n'examine en principe que les griefs soulevés; il n'est pas tenu de traiter, à l'instar d'une juridiction de première instance, toutes les questions juridiques pouvant se poser lorsqu'elles ne sont plus discutées devant lui (ATF 133 IV 150 consid. 1.2 p. 152).
2. Le recourant critique la révocation de la compensation relative au coût des travaux, ainsi que les conséquences de la révocation - non contestée sur le principe - des nouveaux contrats de bail. Il convient d'examiner successivement ces questions (cf. infra, consid. 3 et 4).
3. 3.1 La cour cantonale a révoqué la compensation relative au coût des travaux sur la base de l'art. 287 al. 1 ch. 3 LP. Elle a considéré que tant la condition objective du surendettement que la condition subjective de sa connaissance par le bénéficiaire de l'acte sont réunies. Il est établi que le règlement de la dette par compensation est intervenu le 2 juillet 2002, soit moins d'un mois avant la faillite de la société; la condition du délai d'un an avant la faillite est donc également remplie. Enfin, les juges précédents ont admis que la dette acquittée par la société en compensation du coût des travaux n'était pas exigible et que cet acte lui avait causé un préjudice. En effet, le 2 juillet 2002, le défendeur était titulaire d'une créance de 12'000'000 fr. en capital; toutefois, selon l'expert mis en oeuvre, la situation de la société à cette date excluait tout remboursement, même partiel, des prêts consentis et la créance du défendeur n'avait plus aucune valeur à cette date. Dès lors, en remboursant les investissements consentis par la société en débitant les prêts d'actionnaire, les travaux ne coûtaient rien au défendeur et celui-ci empêchait la société de faire valoir une créance contre lui.
Toujours sur la question du préjudice, la cour cantonale a admis que la créance du défendeur pouvait, a priori, être compensée avec celle que la société détenait à son encontre, sur la base de l'art. 213 al. 1 LP, dont les conditions étaient remplies. Toutefois, se référant à Dallèves (L'actionnaire créancier, in La société anonyme dans ses rapports avec ses actionnaires, Cedidac n° 43, Lausanne 2001, p. 40), elle a relevé que les prêts d'actionnaires permettent de manipuler la relation entre les fonds empruntés et les fonds propres au détriment des créanciers sociaux; plus une société est financièrement dans une situation difficile, plus les actionnaires ont une tendance naturelle à lui accorder sous forme de prêt, plutôt que par un apport en capital, les fonds supplémentaires dont elle a besoin. Selon cet auteur, de tels prêts peuvent constituer un cas de révocation. La cour cantonale a constaté que, en l'espèce, la part de la créance cédée non postposée a été écartée par l'administration de la faillite, qui a considéré qu'il s'agissait d'un prêt d'actionnaire destiné à remplacer des fonds propres. Selon les juges précédents, il n'y a aucune raison que le montant de 1'312'720 fr. ait été accueilli différemment par la masse, de sorte que l'on doit admettre que l'opération dont la révocation est demandée a effectivement porté préjudice aux créanciers. Sans l'opération de remboursement des frais par réduction du prêt, le défendeur se serait retrouvé débiteur de la société de ce montant, sans que sa créance du même montant ne soit admise à l'état de collocation. Il en résulte que le lien de causalité entre l'acte révocable et le préjudice est également donné.
Enfin, la cour cantonale a estimé que la compensation relative au coût des travaux aurait également pu être révoquée en application de l'art. 288 LP, les conditions objectives de cet article, moins restrictives que celles de la lex specialis de l'art. 287 al. 1 ch. 3 LP étant remplies, de même que la condition subjective, pour des motifs similaires à ceux exposés au sujet du contrat de bail (cf. infra, consid. 4.1).
3.2 Le recourant fait grief à la cour cantonale d'avoir révoqué l'imputation du prix des travaux sur ses prêts sous prétexte que ceux-ci n'étaient pas exigibles. Il soutient que ces prêts étaient, au contraire, exigibles, dans la mesure où ils n'auraient pas fait l'objet d'une prolongation tacite, et se plaint d'une violation des art. 287 al. 1 ch. 3 LP et 318 CO. En outre, il fait valoir que l'art. 287 LP exige un préjudice effectif, dont les premiers juges auraient à tort admis l'existence. Selon lui, il était en droit de compenser ses prétentions avec celles de la faillie en vertu des art. 123 al. 1 CO et 213 al. 1 LP, car il aurait pu déclarer la compensation à la masse en faillite une fois la faillite intervenue et ceci dans les délais de production, voire dans le délai de l'art. 251 LP; la déclaration de compensation du 2 juillet 2002 ne pouvait donc pas diminuer le résultat de la procédure d'exécution forcée par rapport à une déclaration de compensation ultérieure contre la masse en faillite. Enfin, le recourant conteste que son prêt d'actionnaire doive être écarté de l'état de collocation pour le motif qu'il constituerait un abus de droit du seul fait du surendettement, le droit n'imposant pas de ratio entre les fonds propres et les fonds étrangers.
3.2 Le recourant fait grief à la cour cantonale d'avoir révoqué l'imputation du prix des travaux sur ses prêts sous prétexte que ceux-ci n'étaient pas exigibles. Il soutient que ces prêts étaient, au contraire, exigibles, dans la mesure où ils n'auraient pas fait l'objet d'une prolongation tacite, et se plaint d'une violation des art. 287 al. 1 ch. 3 LP et 318 CO. En outre, il fait valoir que l'art. 287 LP exige un préjudice effectif, dont les premiers juges auraient à tort admis l'existence. Selon lui, il était en droit de compenser ses prétentions avec celles de la faillie en vertu des art. 123 al. 1 CO et 213 al. 1 LP, car il aurait pu déclarer la compensation à la masse en faillite une fois la faillite intervenue et ceci dans les délais de production, voire dans le délai de l'art. 251 LP; la déclaration de compensation du 2 juillet 2002 ne pouvait donc pas diminuer le résultat de la procédure d'exécution forcée par rapport à une déclaration de compensation ultérieure contre la masse en faillite. Enfin, le recourant conteste que son prêt d'actionnaire doive être écarté de l'état de collocation pour le motif qu'il constituerait un abus de droit du seul fait du surendettement, le droit n'imposant pas de ratio entre les fonds propres et les fonds étrangers.
3.3 3.3.1 Il résulte de l'arrêt entrepris que le 2 juillet 2002, B._ SA a adressé au recourant une facture relative aux travaux de transformation effectués dans les locaux loués pour un montant de 1'312'720 fr. Sous la rubrique paiement de la facture, il est mentionné que "ledit montant sera déduit de votre prêt chez nous". Ainsi, le recourant a acquitté la somme de 1'312'720 fr. par compensation partielle avec ses créances envers la société. Vu cette facture, on est en présence d'une compensation exercée par acte formateur unilatéral du recourant; celle-ci a été acceptée par la société, qui a porté le montant en déduction du prêt d'actionnaire dans ses comptes. Il convient par conséquent d'examiner si le recourant était en droit de compenser sa créance avec celle que la société peut avoir contre lui (art. 213 LP).
3.3.2 L'art. 213 LP doit être lu en parallèle avec l'art. 214 LP. Le premier fixe les conditions auxquelles la compensation est possible dans la faillite (al. 1), respectivement est exclue (al. 2). Le second prévoit la possibilité pour la masse de contester la compensation si l'acquisition de la créance compensante est intervenue avant l'ouverture de la faillite mais en vue de permettre une compensation dans le cadre de celle-ci (Jeanneret, Commentaire romand, Poursuite et faillite, 2005, n° 1 ad art. 213 LP; Stäubli/Dubacher, in Kommentar zum Bundesgesetz über Schuldbetreibung und Konkurs, vol. 2, n° 1 ss ad art. 213 LP).
Selon l'art. 213 al. 1 LP, le créancier a le droit de compenser sa créance avec celle que le failli peut avoir contre lui. Le principe général est donc que la compensation est permise dans la faillite, même si elle a des conséquences défavorables pour la masse. La compensation est facilitée de deux manières: d'une part, la faillite rend exigible les dettes du failli (art. 208 LP), ce qui facilite la compensation (art. 123 al. 1 CO); d'autre part, les créances en nature sont transformées en créances pécuniaires (art. 211 al. 1 LP). La compensation est avantageuse pour le créancier qui l'invoque puisqu'elle lui permet d'échapper au dividende et aux classes de l'art. 219 LP. Afin d'éviter des manoeuvres déloyales des créanciers ou des débiteurs de la masse qui chercheraient des moyens pour opposer la compensation et bénéficier ainsi d'un avantage injustifié par rapport à l'ensemble des créanciers, les art. 213 al. 2, 3 et 4 LP et 214 LP limitent les possibilités de compenser. L'art. 213 al. 2 LP exclut la compensation lorsque la créance ou la dette opposée en compensation (créance compensante) a été acquise après l'ouverture de la faillite, alors que les al. 3 et 4 visent des types de créances spéciales. L'art. 214 LP permet la révocation de la compensation lorsque le débiteur du failli a acquis, avant l'ouverture de la faillite, mais ayant connaissance de l'insolvabilité de son créancier, une créance contre lui, en vue de se procurer ou de procurer à un tiers, au moyen de la compensation, un avantage au préjudice de la masse.
3.3.3 La compensation obéit aux règles des art. 120 ss CO, en particulier de l'art. 120 al. 1 CO. Pour éteindre sa dette (créance compensée), celui qui exerce la compensation doit être titulaire d'une créance (créance compensante) exigible de même espèce, dont la compensation n'est exclue ni par la loi (art. 213 al. 2, 3 et 4 LP), ni par convention. Il arrive en pratique que cette exclusion soit liée à une convention de postposition aux fins d'éviter l'avis au juge selon l'art. 725 al. 2 CO (JEANNERET, op. cit., nos 10 et 11 ad art. 213 LP).
En l'espèce, la compensation est exercée par l'actionnaire majoritaire au moyen d'un prêt qu'il avait consenti à la société. Compte tenu de cette situation particulière, il y a lieu d'examiner si le montant figurant au bilan de la société sous la rubrique "prêt actionnaire" doit être considéré comme des fonds étrangers - auquel cas l'actionnaire est titulaire de la créance correspondante et peut exercer la compensation au moyen de celle-ci - ou comme des fonds propres de la société - auquel cas l'actionnaire n'est titulaire d'aucune créance au moyen de laquelle exercer la compensation.
3.3.4 Dans la société anonyme, en vertu du principe de la dualité juridique existant entre la société et son actionnaire, les créances chirographaires de l'actionnaire majoritaire sont en principe considérées comme des fonds étrangers et portées comme tels au bilan (art. 663a CO; à propos de la société anonyme immobilière, cf. ATF 121 III 319 consid. 5a/aa p. 321).
Le principe de la dualité juridique n'est toutefois pas absolu. Selon une jurisprudence bien établie, on ne peut pas s'en tenir sans réserve à l'existence formelle de deux personnes juridiquement distinctes lorsque tout l'actif ou la quasi-totalité de l'actif d'une société anonyme appartient soit directement, soit par personnes interposées, à une même personne, physique ou morale; malgré la dualité de personnes à la forme, il n'existe pas des entités indépendantes, la société étant un simple instrument dans la main de son auteur, qui, économiquement, ne fait qu'un avec elle. On doit dès lors admettre, à certains égards, que, conformément à la réalité économique, il y a identité de personnes et que les rapports de droit liant l'une lient également l'autre; ce sera le cas chaque fois que le fait d'invoquer la diversité des sujets constitue un abus de droit ou a pour effet une atteinte manifeste à des intérêts légitimes (art. 2 al. 2 CC; ATF 121 III 319 consid. 5 a/aa p. 321; 102 III 165 consid. II/1 p. 169/170, 72 II 67 consid. 3c p. 76 et les arrêts cités; cf. également ATF 112 II 503 consid. 3b p. 506; 108 II 213 consid. 6a p. 214 et les références).
3.3.5 En l'espèce, il résulte des constatations de fait de la cour cantonale que le recourant était actionnaire majoritaire de la société. A la fin de l'année 1999, aucun prêt d'actionnaire n'était porté au bilan. A la fin de l'année 2000, son prêt d'actionnaire s'élevait à 7'549'085 fr. 50 et, à la fin de l'année 2001, à 12'358'291 fr. 50. Lors de la clôture des comptes de l'année 2001, faisant état d'une perte de 6'398'892 fr. 19, le recourant a accepté de postposer sa créance de prêt à hauteur de 6'500'000 fr., afin d'éviter de devoir aviser le juge conformément à l'art. 725 al. 2 CO. Le 30 juin 2002, le prêt d'actionnaire s'élevait à 12'661'489 fr. 81; or, alors que la perte avait encore augmenté de 9'460'929 fr. 81, au lieu de postposer à nouveau sa créance de prêt, le recourant s'est prévalu de la compensation et s'est ainsi, en quelque sorte, remboursé son propre prêt, au détriment des autres créanciers.
Bien que les travaux aient été exécutés en 2000 et 2001, la facture de 1'312'720 fr. a été émise le 2 juillet 2002. Elle est libellée de telle sorte qu'il est déjà pris en compte que le paiement doit s'effectuer par diminution du prêt. Il est donc manifeste que le recourant et la société ne font qu'un: avant même que la facture ne lui soit parvenue, le recourant a déjà exercé la compensation et la société a admis ce mode de faire. Par cette opération, la société a été appauvrie d'un montant de 1'312'720 fr. quelques semaines avant le prononcé de sa faillite, qui était déjà prévisible au 30 juin 2002 vu la perte réalisée au cours du premier semestre 2002. Parallèlement, le recourant a augmenté le loyer des baux de la société dont il était propriétaire. Il y a dès lors lieu d'admettre que l'identité économique entre l'actionnaire et la société doit l'emporter sur leur existence formelle et que, par conséquent, le recourant ne peut se prévaloir d'aucune créance compensante pour éteindre sa dette relative aux travaux effectués dans son immeuble, le prêt d'actionnaire étant en réalité des fonds propres de la société.
Le recours doit donc être rejeté par substitution de motifs (cf. supra, consid. 1.3), en tant qu'il concerne la condamnation du recourant à payer à l'intimée le prix des travaux effectués, par 1'312'720 fr.
4. 4.1 S'agissant des nouveaux contrats de bail signés le 2 juillet 2002, les premiers juges ont prononcé leur révocation sur la base de l'art. 288 LP. Ils ont considéré que ces nouveaux contrats offraient au recourant un avantage mensuel de 13'157 fr. 50. En outre, l'acte dont la révocation est demandée est intervenu entre une société et son administrateur-président, actionnaire majoritaire titulaire de la signature individuelle; il ne fait aucun doute que, en usant de l'attention commandée par les circonstances, celui-ci pouvait et devait prévoir que l'acte aurait pour conséquence naturelle de porter préjudice aux créanciers de la société, respectivement de l'avantager au détriment des autres. La condition subjective, à savoir l'intention dolosive du débiteur, reconnaissable pour l'autre partie, est donc remplie.
4.2 Le recourant ne conteste pas la révocation des nouveaux contrats de bail, mais ses conséquences, à savoir sa condamnation au paiement à l'intimée du montant de 13'157 fr. 50, correspondant à l'augmentation du loyer du mois de juillet 2002. Il soutient que, conformément à l'art. 291 al. 1 LP, lorsque l'acte révocable comporte un paiement indu en monnaie de pays, comme c'est le cas en l'espèce, le bénéficiaire doit restituer ce qu'il a reçu en monnaie du pays. Or, le jugement entrepris ne contiendrait aucun élément permettant d'apporter la preuve du paiement en mains du recourant d'un montant de 13'157 fr. 50 à titre de loyer pour le mois de juillet 2002. Au contraire, il ressortirait de l'état de fait du jugement attaqué que l'intimée a reconnu le 24 mars 2004 lui devoir une somme de 607'087 fr. 40 à titre de loyers pour les mois de juillet 2001 à juillet 2002. N'ayant touché aucun paiement sur la base des baux révoqués, le recourant ne saurait être astreint à restituer quelque montant que ce soit.
4.3 Il résulte en réalité du jugement attaqué à cet égard que, conformément à l'acte de cession signé le 1er novembre 2002 par le recourant en faveur des employés de sa société, le loyer du mois de juillet 2002, qui était dû au recourant, doit être versé à D._. Il ne peut donc pas se prévaloir du fait que le montant de l'augmentation n'aurait pas été versé en ses mains, la cession constituant - comme l'a retenu la cour cantonale - une res inter alios acta ne concernant pas l'intimée. Pour le surplus, il ne soutient pas avoir allégué et prouvé que l'augmentation du mois de juillet 2002, de 13'157 fr. 50, ne serait, par hypothèse, pas comprise dans la somme de 607'087 fr. 40 qui doit être versée aux employés. Partant, son grief est infondé.
5. Vu ce qui précède, le recours est rejeté. Le recourant, qui succombe, supportera les frais judiciaires (art. 66 al. 1 LTF). L'intimée, qui n'a pas été invitée à se déterminer sur le fond et qui s'en est remise à justice quant à l'octroi de l'effet suspensif, n'a pas droit à des dépens (art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 12'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et à la Cour civile du Tribunal cantonal du canton de Vaud.
Lausanne, le 25 mai 2010
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Hohl Aguet