Faits:
A. Le 31 août 2006, T._, affilié auprès de la Caisse de pensions de l'Etat de Vaud (ci-après: la caisse), a bénéficié d'un versement anticipé d'un montant de 326'405 fr. à titre d'encouragement à l'accession à la propriété du logement pour financer l'acquisition d'un logement principal à R._. La restriction du droit d'aliéner selon la LPP n'a alors pas été mentionnée au registre foncier compétent.
T._ est décédé en novembre 2006, à I._. La succession ayant été répudiée, l'Office des faillites de O._ a été chargé de sa liquidation. Le 12 décembre 2007, dans le cadre de la procédure de faillite, la caisse a fait valoir une créance de 326'405 fr. que l'Office des faillites de O._ a écartée lors de la collocation des créances, par décision du 14 février 2008.
B. Le 4 mars 2008, la caisse a ouvert action en contestation de l'état de collocation pour faire admettre sa créance et la collocation de celle-ci devant le Juge des districts de E._ et de O._, qui l'a déboutée par jugement du 15 décembre 2008. Saisi d'un recours de la caisse contre ce jugement, le Tribunal cantonal du canton du Valais a admis la créance de la caisse d'un montant de 326'405 fr. en troisième classe à l'état de collocation de la succession répudiée de feu T._ (jugement du 10 février 2010).
C. Par acte du 15 mars 2010, la masse en faillite de la succession répudiée de feu T._ interjette un recours en matière civile, en concluant, sous suite de frais et dépens, au rejet de l'action en contestation de l'état de collocation en ce sens que la production de la caisse n'est pas admise à l'état de collocation de la succession répudiée de feu T._.
Tant la caisse que l'Office fédéral des assurances sociales concluent au rejet du recours.
Considérant en droit:
1. 1.1 Le litige tranché par la juridiction cantonale de dernière instance concerne une contestation de l'état de collocation dans la faillite portant sur l'admission d'une créance en remboursement d'un versement anticipé effectué à titre d'encouragement à l'accession à la propriété du logement en vertu de l'art. 30d al. 1 let. c LPP, ainsi que sur la collocation de celle-ci. Le procès de collocation a pour objet l'existence d'une prétention de droit public fédéral dans le cadre d'un contentieux opposant une institution de prévoyance et la masse en faillite de la succession répudiée d'un affilié décédé.
1.2 Selon la jurisprudence rendue sous l'empire de l'OJ, le recours en réforme n'était recevable contre un jugement rendu dans un procès en collocation (art. 250 LP) que si les prétentions contestées relevaient du droit civil fédéral (ATF 129 III 415). Après l'entrée en vigueur de la LTF, la IIe Cour de droit civil du Tribunal fédéral a maintenu dans ce contexte la distinction entre la nature de droit privé ou de droit public de la créance dont l'existence est litigieuse, en fonction de laquelle doit se faire le choix de la voie de droit. Elle a ainsi jugé que la décision qui statue sur l'existence ou le montant d'une prétention de droit privé dont la collocation est litigieuse relève du recours en matière civile en vertu de l'art. 72 al. 1 LTF (ATF 135 III 545 consid. 1 p. 547 et l'arrêt cité). En revanche la décision qui porte sur le rang auquel, selon l'art. 219 LP, une créance doit être colloquée à l'état de collocation, est sujette au recours de l'art. 72 al. 2 let. a LTF (arrêt 5A_315/2009 consid. 1). Par conséquent, en fonction de la nature de la créance ici litigieuse, la présente cause qui ressortit au droit public fédéral, singulièrement au droit de la prévoyance professionnelle, entre dans la compétence de la IIe Cour de droit social du Tribunal fédéral (cf. art. 35 let. e RTF) et le recours en matière civile formé par la masse en faillite de la succession répudiée de feu T._ doit être traité comme un recours en matière de droit public (ELISABETH ESCHER, Zum Rechtsschutz in Zwangsvollstreckungssachen nach dem Bundesgesetz über das Bundesgericht, PJA 10/2006, p. 1248; contra BERNARD CORBOZ, Commentaire de la LTF, n° 20 ss ad art. 72 LTF). Dès lors que les conditions de recevabilité au sens de l'art. 82 ss LTF sont réalisées, il y a lieu d'entrer en matière sur le recours.
2. Le litige porte sur le point de savoir si l'intimée pouvait se prévaloir à l'encontre de la recourante d'une créance en remboursement du versement anticipé effectué en faveur de feu T._ à titre d'encouragement à l'accession à la propriété du logement. Il s'agit, en particulier, d'examiner si la masse en faillite de la succession répudiée de feu le bénéficiaire du versement anticipé est tenue de rembourser le montant de celui-ci en vertu de l'art. 30d al. 1 let. c LPP.
2.1 Les premiers juges ont fait application de cette disposition en considérant que l'obligation de remboursement, qui était le corollaire du versement anticipé dont avait bénéficié l'assuré défunt, constituait une dette du de cujus et suivait le régime ordinaire des dettes de celui-ci. Cette obligation existait par ailleurs indépendamment de l'acceptation de la succession par un héritier et faisait partie, dès lors que tous les héritiers légaux du rang le plus proche avaient répudié la succession, des passifs de la masse successorale que l'office des poursuites et faillites avait à liquider. Aussi, la masse en faillite de la succession devait-elle assumer l'obligation de rembourser le versement et la créance de l'intimée devait-elle être admise à l'état de collocation (en troisième classe).
La recourante soutient en substance que l'obligation de rembourser le versement anticipé en cas de décès de l'assuré touche directement, personnellement et exclusivement l'héritier qui n'a pas de prétentions envers l'institution de prévoyance et à qui l'immeuble est dévolu pour cause de mort. En cas de répudiation par les héritiers, ceux-ci perdraient la qualité d'héritier et ne rempliraient donc plus la condition personnelle les obligeant au remboursement; ils ne bénéficieraient pas non plus du versement anticipé lié au logement de l'assuré défunt, puisque l'immeuble serait réalisé par l'office des faillites. La recourante en déduit que l'institution de prévoyance n'a aucune créance à l'encontre de la succession répudiée, de sorte que l'action en contestation de l'état de collocation n'est pas fondée.
L'intimée, de même que l'OFAS, qui souligne le lien entre l'obligation de rembourser de l'art. 30d al. 1 LPP et le droit de propriété sur le logement acquis au moyen du versement anticipé, se rallient aux considérants des juges cantonaux.
2.2 Selon l'art. 30d al. 1 LPP, l'assuré ou ses héritiers doivent rembourser le montant perçu à l'institution de prévoyance si le logement en propriété est vendu (let. a), des droits équivalant économiquement à une aliénation sont concédés sur le logement en propriété (let. b), aucune prestation de prévoyance n'est exigible en cas de décès de l'assuré (let. c).
2.2.1 La troisième éventualité, en cause ici, prévoit l'obligation de remboursement du montant perçu à l'institution de prévoyance lorsque l'assuré décède et qu'aucune prestation de prévoyance n'est alors exigible. A teneur de la let. c de l'art. 30d al. 1 LPP, cette obligation incombe à "l'assuré ou ses héritiers", c'est-à-dire à la ou les personnes qui succèdent à l'assuré décédé et auxquelles passent l'ensemble de ses actifs et de ses passifs, en vertu du principe de la succession universelle (art. 560 al. 1 CC), selon lequel il y a continuité dans la titularité des droits et des obligations entre le de cujus et ses héritiers (STEINAUER, Le droit des successions, 2006, p. 56 n° 29). En vertu de l'art. 560 al. 2 CC, toutes les dettes du de cujus sont transmissibles et passent aux héritiers (ibidem, p. 155 n° 250).
2.2.2 Il ressort des travaux préparatoires de l'art. 30d al. 1 let. c LPP que l'obligation de rembourser prévue par cette disposition a été conçue comme une dette "dévolue à la succession", soit une dette de l'assuré qui passe à son décès à la communauté héréditaire selon les règles du droit successoral. Dans son Message concernant l'encouragement à la propriété du logement au moyen de la prévoyance professionnelle du 19 août 1992 (FF 1992 VI p. 229 ss, ch. 223 p. 262, ad art. 30e al. 1 let. b du projet), le Conseil fédéral a précisé qu'"en cas de décès d'un assuré ne laissant aucun bénéficiaire du droit à la prévoyance, la communauté héréditaire doit rembourser à la dernière institution de prévoyance à laquelle était affilié le défunt la dette dévolue à la succession que constitue le versement anticipé pour la propriété du logement". Ce remboursement porte sur l'ensemble du versement anticipé sans tenir compte d'un éventuel surendettement de la succession (MARKUS MOSER, Die Anforderungen des neuen Wohneigentumsförderungsgesetzes, RSAS 1995 p. 216).
Comme l'a retenu à juste titre le Tribunal cantonal valaisan, en statuant à l'art. 30d al. 1 let. c LPP (cf. BO N 1993 p. 483) une obligation de remboursement à la charge de l'assuré, respectivement de sa succession au moment de son décès, le législateur a voulu éviter que dans la situation où il n'y a pas de bénéficiaire de prestations de la prévoyance - et où le versement anticipé ne peut par conséquent être compensé par une réduction de celles-ci (cf. art. 30c al. 4 LPP; Message cité, p. 261) -, le versement anticipé ne grève finalement l'institution de prévoyance et l'ensemble des autres assurés. Un tel résultat a expressément été exclu lors des débats parlementaires, où il a été précisé qu'aucun privilège ne pouvait être accordé aux assurés prélevant de l'argent de façon anticipée au détriment des autres assurés (déclaration de la Conseillère nationale Spoerry, rapporteur, BO N 1993 p. 474). Or, la solution voulue par la recourante reviendrait précisément à permettre aux héritiers de contourner l'obligation de remboursement du versement anticipé en répudiant la succession dont ferait partie le logement financé au moyen dudit versement, tout en récupérant, le cas échéant, le solde net de la liquidation de la succession (art. 573 al. 2 CC), et partant à favoriser l'assuré bénéficiaire, respectivement les personnes qui lui succèdent, par rapport aux assurés qui n'auraient pas bénéficier d'un versement anticipé (cf. HANS-ULRICH STAUFFER, LPP et LFLP, 2010, ad art. 30d n° 5 p. 445).
2.2.3 Il découle de ce qui précède que l'obligation de rembourser le versement anticipé au sens de l'art. 30d al. 1 let. c LPP constitue une dette de l'assuré défunt, qui naît au moment du décès de celui-ci et passe à ses héritiers selon les règles du droit successoral, auxquelles on ne voit pas que la disposition de la LPP dérogerait. En cas de répudiation de la succession par tous les héritiers légaux du rang le plus proche, comme en l'espèce, la succession est liquidée par la voie de la faillite (art. 573 al. 1 CC et 193 al. 1 ch. 1 et al. 2 LP) et la créance découlant de l'obligation de remboursement doit être produite dans la masse en faillite. Celle-ci doit donc être admise, comme l'ont retenu à juste titre les juges cantonaux, à l'état de collocation de la succession répudiée.
2.3 C'est en vain que la recourante se plaint encore d'une violation du principe de la force dérogatoire du droit fédéral, puisque la juridiction cantonale de recours de deuxième instance a admis la créance litigieuse en se fondant uniquement sur le droit fédéral, en considérant que les règles idoines de la loi vaudoise sur la Caisse de pensions de l'Etat de Vaud du 18 juin 1984 s'inscrivaient dans le cadre de l'art. 30d al. 1 let. c LPP (cf. jugement entrepris consid. 7.4). Pour le surplus, elle ne conteste pas le rang auquel la créance litigieuse a été colloquée, de sorte qu'il n'y a pas à examiner ce point.
3. Les considérants qui précèdent conduisent au rejet du recours. Vu l'issue de la procédure, les frais judiciaires y afférents seront mis à la charge de la recourante. Comme la présente affaire ne concerne pas des prestations d'assurance sociale au sens de l'art. 65 al. 4 let. a LTF, ils doivent être fixés conformément aux al. 2 et 3 de cette disposition. Même si elle obtient gain de cause, l'intimée n'a pas droit à des dépens (art. 68 al. 2 LTF; cf. ATF 126 V 143 consid. 4a p. 150).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 5'000 fr., sont mis à la charge de la recourante.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton du Valais et à l'Office fédéral des assurances sociales.
Lucerne, le 20 octobre 2010
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Moser-Szeless