Faits:
A. A.a Le 20 janvier 2010, A._ SA a acheté à Y._ SA, pour le prix de 2'629'827 fr. 18, des mouvements et autres composants horlogers qu'elle lui avait commandés. Le lendemain, elle lui a acheté divers actifs corporels et incorporels pour le prix de 3'000'000 fr.
Y._ SA a été déclarée en faillite par jugement de la Présidente du Tribunal d'arrondissement de La Côte du 25 janvier 2010.
Dans cette faillite, liquidée en la forme ordinaire par l'Office des faillites de l'arrondissement de La Côte (ci-après: l'office), la première assemblée des créanciers a eu lieu le 10 mars 2010. La créancière X._ SA n'y était pas présente. Le quorum n'ayant pas été atteint, l'office a, conformément à l'art. 236 LP, informé les créanciers présents de l'état de la masse en faillite. La question de la vente d'actifs à A._ SA et d'une éventuelle action révocatoire a alors été abordée.
L'office a ensuite mandaté une fiduciaire pour déterminer si le prix payé par A._ SA pour ses acquisitions des 20 et 21 janvier 2010 était en adéquation avec la valeur réelle des actifs achetés. Dans son rapport du 1er juin 2011, la fiduciaire a conclu que l'opération du 20 janvier s'était réalisée au prix de vente usuel, mais que le prix de 3'000'000 fr. payé pour les achats du 21 janvier semblait "faible en comparaison avec les profits que les produits cédés auraient dû générer pour Y._ SA". L'office a dès lors entamé des négociations avec A._ SA.
A.b L'état de collocation ayant été déposé le 17 juin 2011, l'office a, par courrier du 29 septembre 2011, convoqué la deuxième assemblée des créanciers (art. 252 al. 1 LP) pour le lundi 24 octobre 2011. La convocation contenait un ordre du jour, dont le chiffre 4 était ainsi libellé: "Décision sur la renonciation à des droits litigieux ou, éventuellement, demande de cession de ces mêmes droits à teneur de l'art. 260 LP".
Le vendredi 21 octobre 2011, l'office a signé avec A._ SA un accord transactionnel prévoyant le versement par celle-ci d'une somme supplémentaire de 2'000'000 fr., mais aux deux conditions suivantes: premièrement, l'accord devait être approuvé par la majorité absolue des créanciers votants - lors de la deuxième assemblée des créanciers ou, ultérieurement, par voie de circulaire -, ce qui impliquait que la masse renonce à l'exercice des droits à l'action révocatoire; secondement, il ne devait y avoir aucune cession des droits à l'action révocatoire à un ou des créanciers.
A la deuxième assemblée des créanciers du lundi 24 octobre 2011, le quorum n'a pas été atteint, de sorte que l'office, conformément à l'art. 254 LP, a informé les créanciers présents, parmi lesquels X._ SA, de la marche de la liquidation. La question de l'accord conclu avec A._ SA y a été abordée.
A.c Le 28 octobre 2011, l'office a adressé aux créanciers une circulaire n° 10 pour leur exposer la situation de la masse vis-à-vis de A._ SA. Il leur recommandait d'entériner l'accord du 21 octobre 2011 et leur fixait un délai au 8 novembre 2011 pour se déterminer sur sa recommandation, les créanciers qui ne se manifesteraient pas étant censés approuver ledit accord. Il fixait le même délai aux créanciers qui le souhaiteraient, au cas où la majorité accepterait l'accord transactionnel, pour demander la cession des droits de la masse et verser un montant total de 2'000'000 fr., qui serait consigné jusqu'à droit connu sur l'action révocatoire. A réception de ce montant, l'administration de la masse délivrerait les actes de cession et inviterait les créanciers à agir dans le délai échéant le 24 janvier 2012.
B. Par une première plainte déposée le 2 novembre 2011, X._ SA a conclu à l'annulation de la convocation à la deuxième assemblée des créanciers, à la constatation de la nullité de cette assemblée, à ce qu'il soit ordonné à l'office "d'informer par une circulaire circonstanciée et documentée les créanciers de l'affaire A._ SA, de ses tenants et aboutissants et des raisons amenant l'office à conseiller l'acceptation d'un accord transactionnel avec A._ SA, étant précisé que toutes les hypothèses juridiques devront être passées en revue de manière neutre et équilibrée" et à ce qu'il soit ordonné à l'office, cette information donnée, de convoquer une deuxième assemblée des créanciers.
Par une seconde plainte déposée le 8 novembre 2011, X._ SA a conclu, principalement, à ce que la circulaire n° 10 soit déclarée nulle et de nul effet, subsidiairement à ce que l'envoi de cette circulaire soit annulé pour tardiveté, à ce que le délai au 8 novembre 2011 pour se prononcer sur l'accord du 21 octobre 2011 soit annulé, à ce qu'un délai d'un mois depuis l'envoi de la nouvelle circulaire soit fixé, à ce qu'il soit dit que le silence des créanciers vaudrait refus de l'accord en question, que seuls les créanciers chirographaires pourraient prendre part au vote, que l'offre de cession des droits de la masse au sens de l'art. 260 LP ne pourrait se faire qu'une fois le résultat du vote sur l'accord connu, que l'exigence d'un dépôt ne pourrait être articulée qu'une fois les créanciers cessionnaires connus et sous réserve des droits des créanciers cessionnaires à contester le principe de ce dépôt, à ce qu'il soit ordonné à l'administration de la masse d'expliquer en détail les faits et le droit relatifs à l'affaire A._ SA dans la nouvelle circulaire à adresser à tous les créanciers et à ce qu'une administration spéciale soit désignée.
Par décision du 12 décembre 2011, la Présidente du Tribunal d'arrondissement de La Côte, autorité cantonale inférieure de surveillance, a rejeté les deux plaintes.
La plaignante a recouru contre cette décision auprès de la Cour des poursuites et faillites du Tribunal cantonal vaudois, autorité supérieure de surveillance. Par décision présidentielle du 29 décembre 2011, cette autorité a rejeté les requêtes d'effet suspensif et de mesures provisionnelles présentées par la plaignante. Par arrêt du 20 janvier 2012, elle a rejeté le recours. Ses motifs seront exposés ci-après dans la mesure utile.
C. Par acte du 2 février 2012, la plaignante a interjeté un recours en matière civile au Tribunal fédéral, dans lequel elle reprend l'essentiel des conclusions qu'elle a formulées en instance cantonale. Elle invoque, en substance et de manière générale, la violation du droit d'être entendu des créanciers en relation avec l'application des dispositions sur la convocation à la deuxième assemblée des créanciers (art. 252 LP) et sur les décisions proposées par circulaires (art. 255a LP).
En complément à l'état de fait de l'arrêt attaqué, auquel elle se réfère par ailleurs, la recourante allègue avoir déposé une action révocatoire en date du 24 janvier 2012 et signale l'existence d'une autre procédure, visant à faire constater le caractère illicite de l'accord passé entre A._ SA et la masse en faillite, dont le sort devrait être connu à partir du 20 février 2012.
Le dépôt de réponses n'a pas été requis.
Considérant en droit:
1. 1.1 Interjeté dans le délai légal (art. 100 al. 2 let. a LTF) par une partie qui a succombé dans ses conclusions prises devant l'autorité précédente (art. 76 al. 1 LTF) et dirigé contre une décision finale (art. 90 LTF) rendue en matière de poursuite pour dettes et de faillite (art. 72 al. 2 let. a LTF) par une autorité cantonale de surveillance de dernière instance (art. 75 al. 1 LTF), le recours est en principe recevable, et ce indépendamment de la valeur litigieuse (art. 74 al. 2 let. c LTF).
1.2 Le recours en matière civile peut être formé pour violation du droit fédéral, lequel comprend les droits constitutionnels (art. 95 let. a LTF; ATF 133 III 446 consid. 3.1, 462 consid. 2.3). Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), sans être lié ni par les motifs de l'autorité précédente, ni par les moyens des parties; il peut donc admettre le recours en se fondant sur d'autres arguments que ceux invoqués par le recourant, comme il peut le rejeter en opérant une substitution de motifs (ATF 135 III 397 consid. 1.4; 134 III 102 consid. 1.1).
Le recourant doit exposer succinctement dans son mémoire en quoi l'acte attaqué viole le droit (art. 42 al. 2 LTF), c'est-à-dire discuter les motifs de la décision entreprise et indiquer en quoi il estime que l'autorité précédente a méconnu le droit (ATF 133 II 249 consid. 1.4.2; 133 IV 286 consid. 1.4). S'agissant de la violation des droits fondamentaux, le grief doit être exposé de manière claire et détaillée ("principe d'allégation"; art. 106 al. 2 LTF; ATF 134 I 83 consid. 3.2; 133 II 249 consid. 1.4.2). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (ATF 133 III 589 consid. 2).
1.3 Saisi d'un recours en matière civile, le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si ces faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Le recourant qui entend se plaindre d'un établissement manifestement inexact - c'est-à-dire arbitraire (art. 9 Cst.; ATF 135 III 127 consid. 1.5, 397 consid. 1.5) - des faits doit satisfaire au principe d'allégation susmentionné (consid. 1.2). Par ailleurs, aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
2. 2.1 Etant postérieur à l'arrêt attaqué, le fait qu'une action révocatoire ait été déposée est nouveau, partant irrecevable en vertu de l'art. 99 al. 1 LTF (cf. ATF 133 IV 342 consid. 2.1; arrêt 5A_571/2010 du 2 février 2011 consid. 1.2 in fine).
2.2 La recourante n'indique pas en quoi le jugement à intervenir dans l'autre procédure pendante dont elle signale l'existence aurait une incidence sur la présente procédure. C'est pourquoi il n'a pas été ordonné de suspension du procès en application des art. 71 LTF et 6 al. 1 PCF, mesure qui n'a d'ailleurs pas été requise.
3. 3.1 La convocation à la deuxième assemblée des créanciers que l'administration de la faillite adresse, après le dépôt de l'état de collocation, à ceux dont les créances n'ont pas encore été écartées de manière définitive (art. 252 al. 1 LP) doit, conformément au formulaire obligatoire n° 5F (art. 1er Oform [RS 281.31] et 4 OHS-LP [RS 281.11]), indiquer les lieu et date de ladite assemblée et mentionner que les demandes de cession des droits de la masse que la majorité des créanciers renonce à faire valoir ne peuvent être présentées qu'à l'assemblée elle-même ou au plus tard 10 jours après. S'il y a lieu de délibérer sur une demande de concordat, la convocation l'indique (art. 252 al. 2 LP). La loi n'exige pas d'autre mention expresse, dans la convocation, des objets qui seront débattus lors de la deuxième assemblée. Toutefois, selon la conception en vigueur, les créanciers convoqués doivent être informés des points de l'ordre du jour sur lesquels cette assemblée doit prendre une décision, afin qu'ils puissent préparer leur prise de position en consultant les actes de la faillite ainsi que les livres et papiers d'affaires du failli (P.-R. GILLIÉRON, Commentaire de la loi fédérale sur la poursuite pour dettes et la faillite, n. 13 ad art. 252 LP; OLIVIER MERKT, in Commentaire romand de la LP, n. 8 ad art. 252 LP).
3.2 Selon la décision attaquée, la convocation du 29 septembre 2011 contenait bien un tel ordre du jour, présenté de manière synthétique; les négociations en cours avec A._ SA auraient pu éventuellement y être mentionnées, mais cela impliquait un exposé assez détaillé de la situation; en effet, une simple mention du style "Négociations avec A._ SA" n'aurait pas donné une "idée précise des enjeux"; or, rien n'imposait à l'administration de fournir un rapport détaillé dans la convocation; la recourante qui, comme tous les autres créanciers, aurait pu s'informer des problématiques en jeu en assistant à la première assemblée des créanciers, était mal venue de se plaindre du fait qu'elle n'aurait pas compris quelle réalité recouvrait le point 4 de l'ordre du jour; à cela s'ajoutait que, le quorum n'ayant pas été atteint à la deuxième assemblée, celle-ci n'avait pu prendre de décision sur la question "A._ SA" et l'administration s'était vue contrainte d'interpeller les créanciers à ce sujet par voie de circulaire, de sorte que ladite assemblée était restée sans préjudice pour la recourante.
3.3 Il est douteux, déjà pour le motif qui vient d'être évoqué, que la recourante justifie d'un intérêt digne de protection, au sens de l'art. 76 al. 1 let. b LTF, à l'annulation de la décision attaquée concernant la convocation litigieuse. La question peut rester indécise, dès lors que la recourante se plaint manifestement à tort de son droit d'être entendue, plus précisément de son prétendu droit, au moment de sa convocation à la deuxième assemblée des créanciers, à une information "complète, loyale, fidèle, adéquate et pertinente", obligeant l'office "d'en dire un peu plus [...]; beaucoup plus". Comme on l'a vu plus haut (consid. 3.1), la loi ne pose pas de telles exigences. La question de la vente d'actifs à A._ SA et d'une éventuelle action révocatoire avait été abordée à la première assemblée du 10 mars 2010. Aussi, contrairement à ce qu'affirme la recourante, une problématique existait déjà alors à ce sujet. Conformément aux exigences légales, il suffisait donc que la convocation mentionne à son ordre du jour la décision à rendre sur "la renonciation à des droits litigieux ou, éventuellement, demande de cession de ces mêmes droits à teneur de l'art. 260 LP". Outre qu'elle n'a même pas daigné assister à la première assemblée, la recourante ne prétend pas avoir vainement demandé à pouvoir consulter le dossier de la faillite dès réception de ladite convocation, ce qu'elle aurait eu tout loisir de faire entre le 30 septembre et le 24 octobre 2011. Si elle l'avait fait, elle aurait notamment pu prendre connaissance du rapport de la fiduciaire mandatée par l'office, en particulier ses pages 21 à 37 consacrées aux "transactions A._ SA/Y._ SA du 21 janvier 2010", et préparer ainsi sa prise de position sur le sujet.
3.4 Ces considérations conduisent à rejeter, dans la mesure de sa recevabilité, le grief de violation du droit d'être entendu soulevé en relation avec l'application de l'art. 252 LP.
4. L'art. 255a al. 1 LP prévoit que lorsqu'il y a péril en la demeure ou que le quorum n'a pas été atteint dans l'une des assemblées des créanciers, l'administration peut leur soumettre des propositions par voie de circulaire, et qu'une proposition est acceptée lorsque la majorité des créanciers l'a approuvée expressément ou tacitement dans le délai fixé.
4.1 La recourante soutient que l'envoi de la circulaire n° 10, le 28 octobre 2011, aurait dû être annulé pour tardiveté. Selon elle, l'office aurait dû communiquer son contenu aux créanciers lors de la convocation à la deuxième assemblée, le 29 septembre 2011.
La circulaire n'était pas tardive puisqu'elle intervenait, conformément à la loi (art. 255a al. 1 LP), consécutivement à une assemblée qui n'avait pu prendre de décision faute de quorum. Son objectif ayant été d'exposer la situation de la masse vis-à-vis de A._ SA et de recommander aux créanciers d'entériner l'accord conclu avec celle-ci le 21 octobre 2011, elle n'aurait de toute évidence pas pu, comme le retient avec raison la décision attaquée, être jointe à la convocation du 29 septembre 2011. Pour le reste, le grief d'information insuffisante doit être rejeté pour les motifs exposés plus haut à propos de la convocation (consid. 3.3).
4.2 La recourante conclut à l'annulation du délai fixé au 8 novembre 2011 par la circulaire litigieuse, soit un délai de 10 jours.
4.2.1 La loi ne définit pas le délai prévu par l'art. 255a al. 1 LP. Ce délai doit être fixé en tenant compte du degré d'urgence et du temps raisonnablement nécessaire aux créanciers pour se déterminer. En règle générale, il est de 10 jours, par exemple lorsqu'il s'agit d'autoriser la conduite d'un procès ou d'approuver une transaction (URS BÜRGI, in Commentaire bâlois, 2e éd., n. 10 ad art. 255a LP), une durée supérieure n'étant guère concevable, car ou bien il y a péril en la demeure, ou bien l'on a déjà perdu une vingtaine de jours en convoquant une assemblée qui n'a pas été valablement constituée (GILLIÉRON, op. cit., n. 12 ad art. 255a LP).
4.2.2 En instance cantonale, la recourante avait fait valoir que le délai de 7 jours ouvrables imparti dans la circulaire litigieuse était trop bref, parce que ne permettant matériellement pas aux 459 créanciers colloqués de consulter le dossier. Selon elle, l'office était seul responsable de la situation d'urgence dans laquelle se trouvait la masse en faillite, "par le temps perdu à mandater une fiduciaire qui a pris une année pour rendre son rapport" et à "négocier avec A._ sans avoir au préalable exercé tous les moyens donnés par l'art. 222 al. 1 LP".
L'autorité précédente a considéré que le délai en question était certes bref, vu le nombre des créanciers, mais que fixer un délai de dix, voire vingt jours, au lieu de sept jours (ouvrables) n'aurait pas davantage permis à tous les créanciers colloqués de consulter le dossier; au surplus, la recourante ne prétendait pas avoir été concrètement empêchée de le faire; il existait par ailleurs une urgence liée à la nécessité de prendre une décision avant l'échéance, le 24 janvier 2012, du délai pour ouvrir action révocatoire; quant à la disposition de l'art. 222 LP (obligation de renseigner et de remettre les objets), citée par la recourante comme exemple, entre autres, de "panoplie juridique" qui aurait pu servir les intérêts des créanciers, elle n'était en réalité d'aucune utilité; en tout état de cause, deux choix seuls étaient possibles pour l'administration de la masse: ouvrir immédiatement l'action révocatoire ou négocier.
4.2.3 En se contentant pour l'essentiel d'objecter que l'office a fait preuve d'une "précipitation coupable [n'ayant] rien à voir avec l'urgence comme on l'entend ordinairement" et qu'aucune urgence ne commandait la fixation d'un aussi bref délai, "pas suffisant en pratique pour une consultation", la recourante ne se conforme guère aux exigences de motivation posées par les art. 42 al. 2 et 106 al. 2 LTF.
Quoi qu'il en soit, le délai qui a été imparti doit être considéré comme raisonnable dans les circonstances données, telles qu'elles ressortent du dossier. En effet, la recourante a participé à l'assemblée du 24 octobre 2011, au cours de laquelle la question de l'accord conclu avec A._ SA a été abordée, notamment par la lecture du rapport de l'administration sur la marche de la liquidation et sur l'état de l'actif et du passif (rapport, p. 9 ch. 2.2.12 let. a). La lecture dudit rapport a été suivie d'une discussion au cours de laquelle les questions relatives aux prétentions révocatoires et aux circonstances entourant la conclusion de l'accord transactionnel du 21 octobre 2011 ont été abordées sous de nombreux angles (cf. décision de l'autorité inférieure de surveillance, p. 20 consid. 19). La circulaire n° 10, envoyée à la recourante le 28 octobre 2011, avec une copie de l'accord transactionnel, résumait la nature et le montant des prétentions révocatoires inventoriées à l'encontre de A._ SA, les conclusions du rapport de la fiduciaire du 1er juin 2011, les négociations qui s'en étaient suivies, ainsi que l'accord intervenu le 21 octobre 2011 entre la masse en faillite et A._ SA. Le 31 octobre 2011, la recourante a en outre consulté et s'est fait remettre le dossier de la faillite (cf. son courrier du 28 octobre 2011 in fine et celui de l'intimée du 2 novembre 2011 in fine; décision de l'autorité inférieure de surveillance, p. 20 consid. 19; déterminations de l'intimée du 10 janvier 2012, p. 10 ch. 25). Force est dès lors d'admettre que la recourante, compte tenu de toutes les informations dont elle disposait ainsi à fin octobre 2011, était en mesure, jusqu'au 8 novembre 2011, de se déterminer sur la recommandation de l'intimée d'entériner l'accord conclu avec A._ SA et sur l'offre de cession des droits de la masse en cas d'acceptation par une majorité de créanciers.
En outre, eu égard au caractère péremptoire du délai de l'art. 292 LP, qui arrivait à échéance, en l'espèce, le 24 janvier 2012, c'est à juste titre que les autorités de surveillance ont retenu qu'il existait une certaine urgence à connaître la détermination requise, car tant la masse que les créanciers cessionnaires devaient disposer, le cas échéant, d'un temps suffisant pour pouvoir ouvrir action.
Dans la mesure où ils sont recevables, les griefs soulevés sur ce point sont par conséquent mal fondés.
4.3 La recourante se prévaut de la désinformation des créanciers par l'office quant à la manière dont ils devaient voter, l'accord transactionnel exigeant une approbation par une majorité absolue des créanciers "votants", alors que la circulaire n° 10 admettait la possibilité d'une approbation tacite à défaut de manifestation des créanciers dans le délai fixé.
La recourante se contente ici d'affirmer un point de vue opposé à celui de la cour cantonale et ne s'en prend pas, conformément aux art. 42 al. 2 et 106 al. 2 LTF, aux arguments que celle-ci a développés sur ce point. De toute façon, il y a lieu de constater que l'office a agi conformément à la loi puisque, le quorum n'ayant pas été atteint à la deuxième assemblée des créanciers, il ne pouvait soumettre à ces derniers sa proposition d'entériner l'accord transactionnel que par voie de circulaire, ce qui impliquait, en vertu de l'art. 255a al. 1 LP, la possibilité d'une acceptation même tacite par une majorité des créanciers. Ceux-ci ont d'ailleurs pu se déterminer en parfaite connaissance de cause, car l'accord transactionnel avait été discuté au cours de la deuxième assemblée et leur avait été remis en copie en annexe à la circulaire en question (consid. 4.2.3 ci-dessus).
Mal fondé, dans la mesure où il est recevable, le grief doit donc être rejeté.
4.4 La recourante fait valoir que la circulaire litigieuse consacre une mauvaise application de l'art. 260 LP, dès lors qu'elle obligeait les créanciers à prendre quatre décisions dans un laps de temps de 7 jours ouvrables, à savoir: accepter l'accord transactionnel, accepter du même coup que la masse n'exerce pas l'action révocatoire, requérir la cession des droits et payer 2'000'000 fr. à l'office. Elle soutient que, contrairement à ce qu'a retenu la cour cantonale, l'alternative n'était pas entre accepter la transaction ou une action révocatoire introduite par la masse, mais "bel et bien se désintéresser de l'affaire ou demander la cession des droits moyennant 2'000'000 fr. avant même de savoir si les créanciers allaient accepter ou refuser la proposition de la masse"; les créanciers, estime-t-elle, auraient été piégés.
La lecture de l'arrêt attaqué ne permet pas de faire une telle déduction. Pour la cour cantonale, qui se fonde sur la jurisprudence, ce qui importe, c'est que les deux questions - renonciation de la masse à faire valoir une prétention et offre de cession des droits de la masse - soient bien distinctes et que la première précède la seconde (ATF 134 III 75), la proposition de renoncer à ce que la masse exerce ses droits et l'invitation à demander la cession de ces droits pouvant figurer dans la même circulaire (ATF 136 III 534 consid. 3 et 4, jurisprudence citée par l'autorité inférieure de surveillance). Aussi est-ce à juste titre que l'arrêt attaqué retient que la circulaire litigieuse n'est pas critiquable, dès lors que celle-ci soumet aux créanciers d'abord la recommandation de l'administration de la faillite d'entériner l'accord transactionnel, ce qui équivaut à une renonciation de la masse à faire valoir une prétention, moyennant versement immédiat de 2'000'000 fr. par A._ SA (circulaire, p. 3 ch. 3), puis qu'elle les invite à demander une cession des droits de la masse (id., p. 3 ch. 4). La cour cantonale constate par ailleurs à raison que les deux premières "décisions" invoquées par la recourante n'en constituent qu'une seule en réalité: il s'agit de choisir entre l'action révocatoire et la transaction. Quant au versement de sûretés, par 2'000'000 fr., elle retient justement qu'il ne s'agit pas à proprement parler d'une décision à prendre, mais d'un critère à prendre en considération dans l'optique d'une éventuelle demande de cession des droits de la masse. Pour le surplus, vu le détail et la clarté des éléments fournis aux créanciers par l'administration de la masse, on ne voit pas en quoi ceux-ci auraient été piégés.
Mal fondé, le grief doit par conséquent être rejeté.
4.5 La recourante taxe d'arbitraire la position de la cour cantonale quant à l'exigence du dépôt de 2'000'000 fr.
En instance cantonale, elle a fait valoir les moyens suivants: l'office devrait d'abord proposer la cession puis, une fois connus les éventuels cessionnaires, initier une consultation et concertation avec eux afin de fixer les conditions éventuelles de la cession; tout créancier ne serait pas en mesure d'avancer 2'000'000 fr. dans un délai aussi bref que celui fixé en l'occurrence; chaque créancier intéressé à la cession ignorerait si d'autres le sont également, ce qui aurait pourtant une influence sur le montant à avancer et donc sur la décision à prendre.
L'arrêt attaqué retient, en se référant à la doctrine (GILLIÉRON, op. cit., n. 51 et 61 ad art. 260 LP) que, dans le cas présent, la transaction offre à la masse un avantage de 2'000'000 fr. qui pourrait être intégralement perdu en cas d'échec du procès et d'insolvabilité du créancier cessionnaire; vu le montant important en jeu et précisément parce qu'il existe un risque d'insolvabilité des créanciers cessionnaires, il se justifiait tout à fait d'exiger des sûretés à concurrence de la totalité du bénéfice attendu. S'agissant de la procédure, la cour cantonale considère que, si l'on suit la recourante, l'office devrait d'abord demander aux créanciers s'ils sont intéressés par la cession, puis proposer aux intéressés des conditions, négociables, pour qu'ils en discutent entre eux avant de prendre une décision définitive; cela serait contraire à la procédure prévue par l'art. 260 LP, selon laquelle l'administration doit simplement fixer aux créanciers un délai de déchéance pour requérir la cession. Cette procédure, note la cour cantonale, ne se déroule pas en deux temps et il est logique que les créanciers soient informés d'emblée des conditions fixées, lesquelles ne sauraient évoluer par négociation avec certains d'entre eux, sauf à créer une inégalité de traitement; au surplus, rien n'empêche un créancier cessionnaire de renoncer ensuite à utiliser l'autorisation obtenue. La cour cantonale relève enfin que le délai imparti pour requérir l'autorisation de faire valoir les droits de la masse est certes bref, mais qu'il est prolongeable (GILLIÉRON, op. cit. n. 48 ad art. 260 LP), et que la recourante ne prétendait d'ailleurs même pas avoir été intéressée par la cession et en avoir été empêchée par les circonstances.
La recourante ne s'en prend pas à ces arguments de la cour cantonale d'une façon conforme au exigences légales (cf. consid. 1.2 ci-dessus) et se contente de lui opposer son propre point de vue par de simples affirmations. Sa critique est donc irrecevable.
4.6 La recourante a fait valoir devant l'autorité précédente que la circulaire litigieuse présentait la situation de la masse vis-à-vis de A._ SA de façon tendancieuse, afin que la proposition de l'office soit entérinée, et que l'on se trouvait en présence, ici, du cas d'action révocatoire de l'art. 288 LP (dol), non de celui de l'art. 286 LP (actes assimilés à une donation).
4.6.1 L'arrêt attaqué retient que le dossier "A._ SA" a été évoqué lors des deux assemblées, que la circulaire expose aussi la situation et que le dossier était à disposition pour consultation, de sorte que l'on ne peut pas dire que les créanciers n'ont pas eu accès à toutes les informations disponibles.
La recourante reproche à la cour cantonale d'avoir admis à tort que les créanciers ont été dûment informés par la circulaire litigieuse, sans préciser davantage son grief. Celui-ci est donc irrecevable (cf. consid. 1.2 ci-dessus). Au demeurant, il peut être simplement renvoyé à ce qui a été exposé plus haut (notamment consid. 4.2.3).
Il sied de relever à ce propos qu'aucun créancier autre que la recourante n'a contesté la transaction négociée avec A._ SA et qu'aucun créancier n'a sollicité la cession des droits de la masse pour le cas où ladite transaction serait approuvée, "l'attitude de 458 des 459 créanciers [démontrant], si besoin était, le bien-fondé de l'analyse à laquelle l'intimée avait procédé" (déterminations de l'intimée du 10 janvier 2012, p. 14 ch. 43). Dans sa décision du 12 décembre 2011, l'autorité inférieure de surveillance relevait déjà que "hormis la plaignante, aucun autre créancier n'a émis la moindre opposition" (p. 15 consid. 9 in fine).
4.6.2 L'art. 288 LP vise les actes faits par le débiteur dans l'intention reconnaissable par l'autre partie de porter préjudice à ses créanciers ou de favoriser certains d'entre eux. L'arrêt attaqué constate à cet égard que rien dans les explications de la recourante ne permet de dire que la vente par Y._ SA à A._ SA en elle-même favorise un créancier. La recourante se borne à prétendre que "A._ SA est un créancier [...] et a nécessairement été avantagé au détriment d'autres créanciers s'il a acquis pour 3'000'000 fr. une contre-valeur de 30'000'000 fr.", ainsi qu'à prétendre que "le hiatus entre les montants n'a pas été révélé". Outre que cette dernière affirmation est erronée dans la mesure où les montants dont elle fait état sont tirés de l'expertise et que celle-ci a été mise à la disposition des créanciers pour consultation, rien dans le recours ne permet de remettre en cause la constatation de la cour cantonale quant au prétendu avantage obtenu par A._ SA. Au demeurant, le cas échéant, il appartiendrait au juge saisi de l'action révocatoire d'en décider.
4.7 En instance cantonale, la recourante a critiqué la stratégie de l'office. Selon elle, celui-ci aurait dû exiger de A._ SA sa comptabilité, sur la base de l'art. 222 LP, puis plaider lui-même l'action révocatoire, "les droits apparaissant sérieux ici".
L'art. 222 LP prévoit notamment que les tiers qui détiennent des biens du failli ou contre qui le failli a des créances ont, sous menace des peines prévues par la loi (art. 324 ch. 5 CP), la même obligation de renseigner et de remettre les objets que le failli (al. 4).
La cour cantonale considère que la disposition précitée ne vise pas la situation présente. Elle observe en outre que l'action révocatoire, même admise, aurait pour seul effet d'annuler la vente à A._ SA, que les actifs concernés resteraient à valoriser et que rien ne permet d'affirmer qu'un autre acheteur serait prêt à payer le prix plus élevé qu'espère la recourante.
Toute l'argumentation de la recourante se résume à répéter que l'office devait enquêter conformément à l'art. 222 al. 4 LP, en exigeant de A._ SA sa comptabilité, et à dire quels aspects de cette comptabilité auraient été déterminants à ses yeux. Elle ne démontre pas que la cour cantonale aurait eu tort de considérer que la disposition légale invoquée était inapplicable en l'espèce. Elle ne prétend notamment pas que A._ SA détiendrait des biens de la faillie ou serait la débitrice de celle-ci. Quant à l'effet prévisible de l'action révocatoire, elle se borne à affirmer que le point de vue de la cour cantonale "est gravement contraire aux jurisprudences du Tribunal fédéral", tout en invoquant dans la foulée exclusivement de la jurisprudence cantonale.
Dans la mesure où il est recevable, le grief est donc mal fondé.
5. Il résulte de ce qui précède que le recours doit être rejeté, dans la mesure de sa recevabilité, aux frais de la recourante (art. 66 al. 1 LTF).
Il n'y a pas lieu d'allouer des dépens.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge de la recourante.
3. Le présent arrêt est communiqué aux participants à la procédure et à la Cour des poursuites et faillites du Tribunal cantonal du canton de Vaud.
Lausanne, le 26 avril 2012
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
Le Greffier: Fellay