Faits:
A. Par acte notarié du 18 octobre 1994, B.X._ et dame A.X._ ont procédé à divers avancements d'hoirie en faveur de leurs enfants, C.X._ et E.X._. B.X._ a ainsi donné à son fils un immeuble situé à F._, tandis que E.X._ a reçu de ses deux parents un immeuble situé à G._. Par convention conclue le même jour, C.X._ s'est engagé envers ses parents, si ceux-ci le désiraient, à leur octroyer un droit d'habitation gratuit et viager sur l'un des appartements sis dans l'immeuble reçu à titre d'avancement d'hoirie. En avril 2001, les époux X._ ont emménagé dans l'immeuble de leur fils, sans toutefois requérir l'inscription d'un droit d'habitation au registre foncier.
B. Se fondant sur une créance qu'elle détient à l'encontre de C.X._, D.Y._ a requis le séquestre de l'immeuble appartenant à son débiteur, immeuble dans lequel les époux X._ ont emménagé en 2001. Le Président du Tribunal civil de l'arrondissement de la Gruyère a fait droit à sa requête le 6 juillet 2007.
Le 25 avril 2008, C.X._ a requis l'office des poursuites de la Gruyère de prendre toutes les mesures nécessaires à l'expulsion de ses parents. D.Y._ s'est jointe à sa requête le 21 mai 2008.
Le préposé de l'office des poursuites de la Gruyère a dès lors signifié aux époux X._ qu'ils devaient quitter les locaux qu'ils occupaient, ne bénéficiant d'aucun droit d'habitation et n'étant titulaires d'aucun contrat de bail. Le préposé a invité les époux X._ à quitter les lieux au 31 juillet 2008, sans pour autant prononcer leur expulsion.
La plainte formée par B.X._ et A.X._ contre l'avis de l'office des poursuites a été rejetée par arrêt de la Chambre des poursuites et faillites du Tribunal cantonal fribourgeois le 11 juin 2008. L'autorité de surveillance s'est prononcée sur le fond du litige opposant les parties en niant le droit des parents de demeurer dans les locaux qu'ils occupaient, ceux-là ne disposant d'aucun titre leur permettant d'occuper valablement l'immeuble séquestré. Elle a en effet jugé que la mise à disposition effective de l'appartement et de ses annexes devait être considérée comme un droit d'usage gratuit, concédé à bien plaire, et que le propriétaire séquestré avait mis fin à ce régime d'utilisation.
C. B.X._ et A.X._ déposent un recours en matière civile contre la décision rendue par la Chambre des poursuites et faillites. Les recourants concluent à ce qu'ils ne doivent pas quitter l'appartement qu'ils occupent et, subsidiairement, à ce qu'un délai de deux ans leur soit octroyé pour quitter les lieux.
C.X._ conclut à l'irrecevabilité du recours, subsidiairement au rejet des conclusions principales et subsidiaires au fond. Plus subsidiairement encore, si la conclusion principale ou la conclusion subsidiaire des recourants devaient être partiellement admises, C.X._ conclut que les recourants ont seulement l'autorisation de demeurer dans l'appartement de 2 1⁄2 pièces situé au rez-de-chaussée de son immeuble. Les recourants auraient ainsi l'obligation de quitter les appartements des 1er et 2ème étages, les caves et les combles occupés ainsi que le jardin.
D.Y._ a déclaré s'en remettre à justice.
L'effet suspensif a été accordé aux recourants par ordonnance présidentielle du 8 juillet 2008.
Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (ATF 133 III 489 consid. 3, 462 consid. 2 p. 465).
1.1 Aux termes de l'art. 76 al. 1 let. b LTF, la qualité pour exercer un recours en matière civile suppose un intérêt juridique à l'annulation ou modification de la décision attaquée. Le recourant doit ainsi prétendre que l'arrêt attaqué viole une norme dont le but est de protéger ses intérêts et qui, par conséquent, lui accorde un droit subjectif (Message concernant la révision totale de l'organisation judiciaire fédérale du 28 février 2001, FF 2001 p. 4000 ss, p. 4111 et, à propos de l'art. 88 aOJ: Message, p. 4126). Cette définition de la qualité pour recourir s'applique également en matière de poursuite pour dettes et de faillite (FF 2001, p. 4111). Si le Tribunal fédéral examine d'office la recevabilité des recours dont il est saisi, il incombe au recourant d'alléguer les faits qu'il considère comme propres à fonder sa qualité pour recourir lorsqu'ils ne ressortent pas à l'évidence de la décision attaquée ou du dossier de la cause (arrêt 5A_647/2007 du 25 mars 2008, consid. 1.2; ATF 133 II 249 consid. 1.1 et 400 consid. 2).
1.2 En l'espèce, les recourants méconnaissent cette exigence. Tout en laissant la question indécise, l'autorité de surveillance a relevé que ceux-ci ne paraissaient être atteints que dans leurs intérêts de fait. L'existence d'un intérêt juridique n'étant pas évidente, il appartenait donc aux recourants de motiver, devant la Cour de céans, cette condition particulière. En invoquant simplement le fait d'avoir succombé dans leurs conclusions devant l'autorité inférieure, ainsi que la possibilité de demeurer dans l'appartement occupé, voire celle de bénéficier d'un délai plus long pour le quitter, les recourants ne justifient que d'un intérêt de fait, insuffisant à lui seul pour leur conférer la qualité pour recourir. Il s'ensuit que le recours doit être déclaré irrecevable.
2. Il convient néanmoins de préciser que, si l'Office des poursuites pouvait inviter les recourants à quitter le logement occupé, c'est à tort que l'autorité de surveillance a considéré qu'il avait rendu une décision d'expulsion. L'expulsion est en effet une prérogative exclusive du juge civil.
3. Vu l'issue du recours, les recourants supportent les frais judiciaires (art. 66 al. 1 LTF). Le premier intimé - propriétaire de l'immeuble séquestré - a présenté des observations et a droit à des dépens de ce chef. Il n'est pas alloué de dépens au second intimé - créancier séquestrant - qui s'en est simplement rapporté à justice et ne s'est pas déterminé sur la requête d'effet suspensif (art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est irrecevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge des recourants.
3. Une indemnité de 2'000 fr., à verser à C.X._ à titre de dépens, est mise à la charge des recourants.
4. Il n'est pas alloué de dépens à D.Y._.
5. Le présent arrêt est communiqué aux parties à la Chambre des poursuites et faillites du Tribunal cantonal de l'Etat de Fribourg, en qualité d'Autorité de surveillance et à l'Office des poursuites de la Gruyère.
Lausanne, le 18 septembre 2008
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président: La Greffière:
Raselli de Poret