Faits:
A. Le 16 juillet 2007, Y._ a déposé devant le Président du Tribunal civil de l'arrondissement du Lac une requête tendant au séquestre de la part de X._ dans la succession non partagée de son épouse dame X._, décédée le 6 mai 2007. Invoquant le cas de séquestre de l'<ref-law>, il se prévalait d'un acte de défaut de biens après faillite de 53'733'360 fr., délivré le 21 décembre 2005 par l'Office des faillites de Bern-Mittelland dans le cadre de la faillite n° xxxx.
Par jugement du 17 juillet 2007, le Président du tribunal a rejeté la requête de séquestre au motif que la défunte avait exhérédé son époux par testament du 2 mai 2007 et qu'il ne lui appartenait pas d'examiner la validité de l'exhérédation. Le créancier a recouru en appel contre ce jugement auprès du Tribunal cantonal fribourgeois, concluant à son annulation et à l'admission de sa demande de séquestre, l'Office des poursuites de l'arrondissement du Lac étant chargé d'exécuter le séquestre. X._ a conclu au rejet de ce recours.
B. Le 13 décembre 2007, après l'avoir vainement fait une première fois, X._ a requis l'octroi de l'assistance judiciaire pour la procédure de recours pendante. Par arrêt du 28 janvier 2008, la IIe Cour d'appel civil du Tribunal cantonal a rejeté sa requête pour défaut de chances de succès de ses conclusions au fond.
C. Contre cet arrêt, qui lui a été notifié le 4 février 2008, X._ a interjeté, le 4 mars 2008, un recours en matière civile au Tribunal fédéral, concluant à son annulation et à l'octroi de l'assistance judiciaire pour la procédure de recours cantonale. Subsidiairement, il conclut au renvoi de la cause à l'autorité cantonale pour réévaluation.
Le recourant sollicite également l'assistance judiciaire pour la procédure devant le Tribunal fédéral.

Considérant en droit:
1. La décision de refus de l'assistance judiciaire pour une procédure de poursuite pour dettes et de faillite est une décision incidente en matière civile au sens de l'<ref-law> (5A_108/2007 consid. 1.2), susceptible de causer un préjudice irréparable (<ref-law>; <ref-ruling> consid. 1). Dès lors que la cause pour laquelle l'assistance judiciaire est sollicitée est une procédure de séquestre au sens des <ref-law>, le recours en matière civile est recevable pour autant que la valeur litigieuse de l'<ref-law> soit atteinte. Tel est le cas en l'espèce, la valeur litigieuse étant manifestement supérieure à 30'000 fr. Interjeté au surplus en temps utile (<ref-law>) et contre une décision prise en dernière instance par un tribunal supérieur (<ref-law>), le recours en matière civile est recevable.
2. La cour cantonale a refusé l'assistance judiciaire en se basant sur l'art. 2 al. 1 LAJ/FR et la jurisprudence fédérale relative à l'art. 29 al. 3 Cst., pour le motif que les conclusions au fond du requérant étaient d'emblée dénuées de chances de succès.
2.1 Comme le recourant relève que l'art. 2 al. 1 LAJ/FR ne fait que reprendre l'art. 29 al. 3 Cst., c'est à la lumière des principes déduits de cette dernière norme qu'il convient d'examiner le mérite du présent recours. En vertu de l'art. 29 al. 3 Cst., toute personne qui ne dispose pas de ressources suffisantes a droit, à moins que sa cause paraisse dépourvue de toute chance de succès, à l'assistance judiciaire gratuite; elle a droit aussi à l'assistance gratuite d'un défenseur, dans la mesure où la sauvegarde de ses droits le requiert. Le Tribunal fédéral vérifie librement le respect de cette disposition, mais il ne revoit que sous l'angle restreint de l'arbitraire les constatations de fait de l'autorité cantonale (<ref-ruling> consid. 2.1 p. 133).
2.2 Vu les questions délicates que le séquestre peut parfois soulever, l'assistance judiciaire ne saurait être exclue par principe dans ce domaine (Bertrand Reeb, Les mesures provisoires dans la procédure de poursuite, in RDS 1997 II p. 481).
En l'occurrence, il y a donc lieu d'examiner si le requérant, qui est intimé au recours en appel cantonal interjeté par son créancier contre la décision de refus du séquestre de sa part dans la succession de son épouse, a des chances d'obtenir gain de cause, en d'autres termes si le refus du séquestre a des chances d'être confirmé.
3. 3.1 D'après la jurisprudence, un procès est dépourvu de chances de succès lorsque les perspectives de le gagner sont notablement plus faibles que les risques de le perdre, et qu'elles ne peuvent donc être considérées comme sérieuses, de sorte qu'une personne raisonnable et de condition aisée renoncerait à s'y engager en raison des frais qu'elle s'exposerait à devoir supporter; il ne l'est pas, en revanche, lorsque les chances de succès et les risques d'échec s'équilibrent à peu près, ou que les premières ne sont que légèrement inférieures aux secondes (<ref-ruling> consid. 2.3.1 p. 135/136). La situation doit être appréciée à la date du dépôt de la requête (même arrêt, consid. 2.3.1 p. 136) et sur la base d'un examen sommaire (<ref-ruling> p. 145; cf. <ref-ruling> consid. 4a p. 308/309 et 133 III 614 consid. 5).
3.2 Selon la cour cantonale, le créancier avait rendu vraisemblable que le requérant disposait, du moins partiellement, d'une prétention sur la succession de son épouse (équivalente à sa réserve), parce que l'exhérédation n'était pas valable (<ref-law>) et qu'il pouvait, ou l'un de ses créanciers, faire valoir sa réserve par une action en réduction (<ref-law>). Elle en a conclu que le recours du créancier apparaissait d'emblée manifestement bien fondé, ce qui justifiait de refuser l'assistance judiciaire au requérant parce que les conclusions au fond de celui-ci - tendant au rejet du recours et à la confirmation du refus du séquestre - étaient dénuées de chances de succès.
3.3 Selon l'<ref-law>, le créancier doit rendre vraisemblable qu'il existe des biens appartenant au débiteur. Les biens à séquestrer doivent appartenir effectivement au débiteur, puisque celui-ci ne répond en principe de ses obligations que sur les biens qui lui appartiennent (<ref-ruling> consid. 3 p. 112). Toutefois, lors de l'adoption de l'<ref-law>, le législateur a voulu que, comme sous l'empire de l'ancien droit, le créancier puisse aussi faire séquestrer des biens au nom ou en possession d'un tiers, s'il rend vraisemblable que ces biens appartiennent en réalité au débiteur. Tel est le cas, en particulier, lorsque le tiers peut être tenu pour responsable des engagements contractés par le débiteur parce qu'il constitue avec lui une unité économique (principe de la transparence; Durchgriff; cf. <ref-ruling> consid. 4a; <ref-ruling> consid. 3a p. 112; <ref-ruling>). A propos de la saisie - ou du séquestre - d'immeubles inscrits au nom d'un tiers (<ref-law>), la jurisprudence a considéré que la condition de la vraisemblance de l'inexactitude de l'inscription au registre foncier de l'<ref-law> - et, par là, la preuve que l'immeuble appartient en réalité au débiteur - doit être interprétée largement (<ref-ruling> consid. 3 p. 31; <ref-ruling> consid. 3a p. 90): elle est réalisée notamment lorsque le débiteur a aliéné l'immeuble dans des circonstances qui justifient la révocation du transfert selon les <ref-law>, le créancier n'ayant qu'à rendre vraisemblable la révocabilité de l'acte (ATF <ref-ruling> consid. 3a).
Sur la base d'un examen sommaire des chances de succès, on peut admettre qu'il doit en aller de même lorsque l'héritier réservataire a été exhérédé, que sa part réservataire a été ainsi soustraite à la garantie de ses créanciers et qu'il est rendu vraisemblable que les conditions de l'exhérédation n'étaient pas remplies (<ref-law>) et que les créanciers obtiendront gain de cause par la voie de l'action en réduction contre les héritiers bénéficiaires conformément à l'<ref-law>. Si la part réservataire de l'héritier exhérédé ne peut être saisie avant que le jugement sur l'action oblique des créanciers n'ait annulé l'exhérédation, parce que les autres créanciers détenteurs d'un acte de défaut de biens seraient lésés (ATF 52 III 22 p. 24/25), rien ne paraît empêcher qu'elle soit séquestrée, le séquestre n'octroyant aucun privilège au créancier séquestrant et n'empêchant pas que les biens soient saisis ou séquestrés par d'autres créanciers (art. 281 al. 1 et 3 LP; <ref-ruling> consid. 3a et b). Le séquestre est en effet une mesure conservatoire urgente, qui a pour but d'éviter que le débiteur ne dispose de ses biens pour les soustraire à la poursuite pendante ou future de son créancier (<ref-ruling> consid. 3a; <ref-ruling> consid. 2). Le juge statue en se basant sur la simple vraisemblance des faits; il n'a pas à trancher de manière définitive la question de la titularité des biens dont est demandé le séquestre.
Il s'ensuit que la cour cantonale n'a pas mal apprécié le défaut de chances de succès des conclusions du requérant, précisant qu'il a une prétention équivalente à sa réserve. Le recourant ne conteste d'ailleurs pas que les conditions de l'exhérédation ne seraient pas remplies. Il se borne à objecter qu'il a renoncé à attaquer celle-ci. Il oublie toutefois que son créancier dispose du droit d'agir en réduction, si lui-même ne l'exerce pas (<ref-law>). Lorsqu'il affirme que sa qualité d'héritier est incertaine, il envisage d'ailleurs lui-même que la réduction pourrait être prononcée. Le fait que la déduction de la cour cantonale consiste en une "prévision en vue de l'issue du procès" et ne porte pas sur la vraisemblance d'un fait n'est pas critiquable au vu de la jurisprudence susmentionnée relative au succès "vraisemblable" de l'action révocatoire.
4. Il s'ensuit que le recours doit être rejeté.
La requête d'assistance judiciaire déposée par le recourant pour la procédure devant le Tribunal fédéral doit être rejetée, vu le peu de chances de succès de son recours (<ref-law>).

Le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. La requête d'assistance judiciaire du recourant est rejetée.
3. Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué au mandataire du recourant et à la IIe Cour d'appel civil Tribunal cantonal du canton de Fribourg.
Lausanne, le 11 avril 2008
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président: Le Greffier:
Raselli Fellay