Faits :
A.
A.a. En août 2011, A._ a acquis la parcelle n° 135 (actuellement n° 3154) du registre foncier de la commune de Chésopelloz. Situé en zone agricole, ce bien-fonds supporte un bâtiment construit en 1880 et désigné comme bâtiment agricole avec habitation. Il appartenait auparavant à B._ qui est propriétaire d'une entreprise agricole sur les parcelles situées à proximité. Depuis 2004, ce dernier a entrepris des démarches afin de transformer et vendre l'ancienne habitation située sur le bien-fonds n° 135. Dans ce contexte, le Service des constructions et de l'aménagement (SeCA) - après avoir effectué plusieurs inspections des lieux - a estimé que cette ancienne habitation était en état de ruine, le bâtiment ne pouvant plus être utilisé conformément à sa destination (cf. préavis des 27 septembre 2004 et 7 février 2005 et courriel du 30 mars 2005). Le SeCA a en particulier exposé que la partie supérieure du bâtiment (couverture, charpente, façades bois) était en très mauvais état général, qu'il n'y avait pas de raccordement à l'eau potable ni de système d'épuration (utilisation de la fosse à purin), qu'il n'y avait pas de chemin d'accès praticable et qu'aucun moyen de mise en oeuvre de protection et de conservation n'avait été pris après l'ouragan Lothar survenu fin 1999.
A.b. Faisant suite à la dénonciation de la commune portant sur des travaux ne s'apparentant pas à de simples travaux d'entretien, le Préfet du district de la Sarine a ordonné le 20 juillet 2005 leur cessation immédiate; cette décision a été maintenue après une nouvelle inspection des lieux lors de laquelle le SeCA a souligné que le bâtiment ne pouvait plus être utilisé conformément à sa destination. La demande de permis de construire pour transformation et rénovation de la structure de la ferme déposée en août 2005 a été retirée, à la suite des préavis négatifs du SeCA du 14 mars 2006 et du Service de l'agriculture du 23 janvier 2006. Les travaux ont été poursuivis malgré les ordres de suspension signifiés en mai et septembre 2006. Le 20 novembre 2007, le Tribunal cantonal a confirmé la décision de suspension des travaux entrepris illégalement et, le 11 juillet 2008, la commune a dénoncé de nouveaux travaux.
A.c. En tant qu'autorité compétente pour instruire la procédure de rétablissement de l'état de droit concernant les travaux de construction, la Direction de l'aménagement, de l'environnement et des constructions du canton de Fribourg (DAEC) a ordonné, le 21 mai 2014, la démolition intégrale du bâtiment, après avoir procédé à une inspection des lieux.
B.
Par arrêt du 27 mars 2015, la IIe Cour administrative du Tribunal cantonal de l'Etat de Fribourg a confirmé la décision de la DAEC. En substance, elle a considéré que l'ancienne habitation agricole était en ruine et ne pouvait donc pas bénéficier de la garantie de la situation acquise ancrée à l'art. 24c LAT. Les travaux entrepris ne pouvaient pas non plus être autorisés en application de l'art. 24d al. 1 et 2 LAT, ni de l'art. 24e LAT. Enfin, l'ordre de démolition intégrale du bâtiment était justifié par un intérêt public important et respectait le principe de la proportionnalité.
C.
Par mémoire de recours du 19 avril 2015, A._ demande au Tribunal fédéral d'annuler l'arrêt du Tribunal cantonal et l'ordre de démolition. A titre subsidiaire, il demande que l'Etat de Fribourg le dédommage pour certains frais engagés et que les frais de démolition soient répartis entre l'ancien et le nouveau propriétaire.
Le Tribunal cantonal et la DAEC concluent au rejet du recours, tandis que le Préfet et la Commune renoncent à déposer des observations. L'Office fédéral du développement territorial indique que l'affaire ne soulève pas, au regard du droit fédéral de l'aménagement du territoire et de la planification, des questions de principe nécessitant des observations de sa part. Le recourant dépose en août 2015 une écriture spontanée.

Considérant en droit :
1.
Dirigé contre une décision prise en dernière instance cantonale dans le domaine du droit public de l'aménagement du territoire et des constructions, le recours est en principe recevable comme recours en matière de droit public selon les <ref-law>. Le recourant a qualité pour recourir au sens de l'<ref-law> contre l'arrêt attaqué qui confirme l'ordre de démolir intégralement le bâtiment situé sur sa parcelle. Au surplus, le recours ayant été déposé en temps utile (<ref-law>) et dans les formes prescrites par la loi (<ref-law>), il y a lieu d'entrer en matière.
2.
Conformément à l'<ref-law>, aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision attaquée. Les diverses pièces produites comme preuves par le recourant et qui ne figuraient pas au dossier du Tribunal cantonal doivent, à ce titre, être écartées.
Par ailleurs, toute conclusion nouvelle est irrecevable (<ref-law>). Une conclusion est nouvelle dès lors qu'elle n'a pas été soumise à l'autorité précédente et qu'elle tend à élargir l'objet du litige (arrêt 1B_359/2013 du 1er novembre 2013 consid. 1.3). En l'occurrence, la conclusion subsidiaire du recourant tendant à ce que l'Etat de Fribourg le dédommage pour divers frais engagés (montant de la taxation du bâtiment par l'autorité foncière ainsi que les frais du notaire, du géomètre et de l'enregistrement au registre foncier) est irrecevable dès lors qu'il n'a pris aucune conclusion dans ce sens devant le Tribunal cantonal. Il en va de même de son autre conclusion subsidiaire tendant à ce que les frais de démolition du bâtiment soit répartis entre l'ancien et le nouveau propriétaires. Les critiques soulevées en lien avec ces conclusions doivent donc être écartées.
Enfin, il ne sera pas tenu compte de l'écriture spontanée transmise en août 2014 par le recourant dans la mesure où elle a trait exclusivement à des faits nouveaux.
3.
Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>), à moins que ceux-ci n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire de l'art. 9 Cst. (<ref-ruling> consid. 4.1.2 p. 62) - ou en violation du droit au sens de l'<ref-law>. Si le recourant entend s'écarter des constatations de fait de l'autorité précédente, il doit expliquer de manière circonstanciée en quoi les conditions de l'<ref-law> seraient réalisées et la correction du vice susceptible d'influer sur le sort de la cause (cf. <ref-law>; <ref-ruling> consid. 4.1.2 p. 62; <ref-ruling> consid. 5.2.2 p. 322 s.).
En matière d'appréciation des preuves et d'établissement des faits, l'autorité tombe dans l'arbitraire lorsqu'elle ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (<ref-ruling> consid. 4.3; <ref-ruling> consid. 2.1; <ref-ruling> consid. 1b et les arrêts cités; pour une définition de l'arbitraire cf. <ref-ruling> consid. 3.1 p. 266.
Dans la partie de son mémoire intitulée " EN FAIT ", le recourant présente sa propre version des faits. Une telle argumentation, dans la mesure où elle s'écarte des faits constatés dans l'arrêt attaqué ou les complète, sans qu'il soit indiqué que ceux-ci seraient manifestement inexactes ou arbitraires, est irrecevable, le Tribunal fédéral n'étant pas une instance d'appel (<ref-ruling> consid. 3 p. 104 s.; <ref-ruling> consid. 5.2.2 p. 322). Il n'y a dès lors pas lieu de prendre en considération d'autres faits que ceux retenus dans ladite décision.
4.
Le recourant soutient à titre principal que le bâtiment d'habitation - construit en 1880 et habité jusqu'en 2000 par une famille d'agriculteurs - doit bénéficier de la garantie de la situation acquise au sens de l'art. 24c LAT. Il affirme que ce bâtiment n'était pas une ruine lorsque les travaux ont été entrepris et qu'il pouvait être utilisé conformément à sa destination, à savoir l'habitation.
4.1. L'art. 24c al. 1 LAT prévoit que les constructions et installations sises hors de la zone à bâtir, qui peuvent être utilisées conformément à leur destination mais qui ne sont plus conformes à l'affectation de la zone, bénéficient en principe de la garantie de la situation acquise.
La reconstruction d'un bâtiment détruit ou démoli situé en dehors de la zone à bâtir n'entre en considération que si celui-ci était encore utilisable conformément à son affectation et que son utilisation réponde toujours à un besoin (cf. <ref-law>; <ref-ruling> consid. 3a p. 212). La protection de la situation acquise ne s'étend en effet pas aux bâtiments en ruine, inutilisables et prêts à s'écrouler; il ne faut en effet pas que les ruines puissent être transformées en constructions nouvelles (cf. arrêts 1C_125/2012 du 30 octobre 2012 consid. 2.1 et 1A.250/2002 du 16 mai 2003 consid. 3.1; DFJP/OFAT, Etude relative à la loi fédérale sur l'aménagement du territoire, Berne 1981, n° 44 ad art. 24 LAT; voir aussi ZEN-RUFFINEN/GUY-ECABERT, Aménagement du territoire, construction, expropriation, Berne 2001, ch. 595, p. 279, et ch. 608, p. 284). La garantie de la propriété ne confère au surplus aucun droit à réutiliser à des fins de construction un emplacement où ont déjà été érigés des ouvrages ou à conserver au-delà de sa durée de vie un ouvrage convenablement entretenu (arrêt 1C_125/2012 du 30 octobre 2012 consid. 2.1 et les réf. cit.).
Enfin, l'art. 24d al. 1 LAT permet l'utilisation, à des fins d'habitation sans rapport avec l'agriculture, de bâtiments d'habitation agricoles conservés dans leur substance. Cette dernière condition implique que les éléments statiques du bâtiment tels que les fondations, les sols, les parois portantes et les toitures soient en bon état ou ne nécessitent qu'une légère rénovation (cf. Message du Conseil fédéral relatif à une révision partielle de LAT du 22 mai 1996, FF 1996 III 485, spéc. 512). Les bâtiments en ruine sont donc également exclus du champ d'application de cette disposition (arrêt 1A.134/2002 du 17 juillet 2003 consid. 5 in RDAF 2006 I 623).
4.2. En l'espèce, le recourant fait grief à l'instance précédente d'avoir retenu que le bâtiment était une ruine et qu'il n'était plus utilisable comme habitation. Il conteste cependant en vain l'appréciation du Tribunal cantonal. En effet, pour qu'un bâtiment d'habitation puisse être utilisé conformément à sa destination, il faut, entre autres, que les structures porteuses, les sols et le toit soient en majeure partie intacts (cf. arrêt 1C_125/2012 du 30 octobre 2012 consid. 2.3 et la réf. cit.; cf. également RUDOLF MUGGLI, Commentaire LAT, n° 13 ad art. 24c LAT). Or, sur la base des pièces figurant au dossier, le Tribunal cantonal a retenu - sans que l'arbitraire ne soit invoqué ni démontré par le recourant s'agissant de constatations de fait (cf. supra consid. 2) - qu'une partie des façades, fragilisées par l'ouragan Lothar et dépourvues d'isolation, faisait défaut, qu'un pan entier du toit était quasiment dénué de couverture, que des fenêtres et des portes étaient absentes, que le plancher ne couvrait pas toute la surface habitable, que les aménagements sanitaires, le chauffage, l'électricité et les installations de cuisine étaient inexistants. Sur la base de ces constatations - qui au demeurant, au vu des photographies versées au dossier, apparaissent exemptes d'arbitraire s'agissant notamment de l'état des façades et du toit -, le Tribunal cantonal pouvait sans violer le droit fédéral considérer que l'ancienne habitation était en ruine et n'était plus habitable. Celle-ci n'était d'ailleurs plus habitée depuis l'année 2000, selon les dires du recourant. Par ailleurs, quoi qu'en pense ce dernier, l'instance précédente pouvait considérer que les documents de l'Etablissement cantonal d'assurance des bâtiments (ECAB) - qui excluaient (avant la réalisation des travaux contestés) la protection contre le risque des éléments naturels en raison du mauvais état du bâtiment - confirmaient le constat que l'ancienne habitation était en ruine. La cour cantonale pouvait par conséquent à juste titre retenir que l'ancienne habitation ne pouvait bénéficier de la garantie de la situation acquise au sens de l'art. 24c LAT du fait qu'elle était en ruine. Pour les mêmes motifs, l'utilisation du bâtiment litigieux en tant qu'habitation ne saurait être autorisée en application de l'art. 24d al. 1 LAT.
Le recours doit dès lors être rejeté sur ce point.
5.
Le recourant soutient ensuite que s'il ne peut plus habiter le bâtiment, il devrait pouvoir l'utiliser à des fins agricoles. Il estime qu'il exerce une activité agricole à titre de loisir dès lors qu'il a installé des moutons en 2008 dans ce bâtiment et aménagé un verger en 2004 et un jardin potager. Il se prévaut de l'art. 24e LAT.
A teneur de l'art. 24e al. 1 LAT, en vigueur depuis le 1 er mai 2014, les travaux de transformation sont autorisés dans les bâtiments et les parties de bâtiments inhabités et conservés dans leur substance s'ils permettent aux personnes qui habitent à proximité d'y détenir des animaux à titre de loisir dans des conditions respectueuses.
En l'occurrence, l'activité du recourant relève de l'agriculture et de la garde d'animaux pratiquées à titre de loisir. L'intéressé ne saurait toutefois se prévaloir de cette disposition. En effet, comme exposé ci-dessus (consid. 3.2), le bâtiment litigieux n'a pas été conservé dans sa substance, de sorte que les conditions d'une autorisation selon l'art. 24e al. 1 LAT ne sont pas réunies. Pour le même motif, les travaux entrepris n'auraient pas non plus pu être légalisés en application de l'ancien droit (cf. ancien art. 24d al. 1bis LAT, en vigueur jusqu'au 30 avril 2014 [RO 2007 3637]). Enfin, le fait que l'autorité foncière ait autorisé la garde de quelques moutons n'est pas déterminant. Mal fondé, le recours doit également être rejeté sur ce point.
6.
Dans une argumentation confuse, le recourant fait encore grief à l'instance précédente d'avoir considéré qu'il ne pouvait pas se prévaloir de sa bonne foi. Il affirme de manière péremptoire qu'il était de bonne foi en organisant des réunions avec les membres de la DAEC et en ayant tout tenté pour trouver des solutions. Il reproche notamment à la DAEC de ne pas avoir demandé la démolition du bâtiment en 2004. Ce faisant, le recourant semble remettre en cause l'appréciation de l'instance précédente concernant la proportionnalité de l'ordre de remise en état.
Aux termes de l'<ref-law>, le Tribunal fédéral n'examine la violation de droits fondamentaux que si ce grief a été invoqué et motivé par le recourant. L'acte de recours doit ainsi, sous peine d'irrecevabilité, contenir un exposé succinct des droits constitutionnels ou des principes juridiques violés et préciser en quoi consiste la violation. Le Tribunal fédéral n'a pas à vérifier de lui-même si l'acte entrepris est en tous points conforme au droit et à l'équité. Il n'examine que les griefs d'ordre constitutionnel invoqués et suffisamment motivés dans le mémoire de recours. Le recourant ne saurait se contenter de soulever de vagues griefs ou de renvoyer aux actes cantonaux (<ref-ruling> consid. 1.4 p. 254; <ref-ruling> consid. 6 p. 397).
Il apparaît en l'espèce que la motivation du grief du recourant ne répond manifestement pas aux réquisits de l'<ref-law>. Outre le fait qu'il n'invoque pas expressément la violation du principe de la proportionnalité, le recourant ne propose aucune discussion de la pesée des intérêts en présence effectuée par les juges cantonaux. Il se limite en effet à affirmer de manière péremptoire qu'il était de bonne foi, sans entreprendre notamment de démontrer le caractère arbitraire de l'appréciation de l'instance précédente qui a retenu le contraire. Insuffisamment motivé, son grief est par conséquent irrecevable.
Au demeurant, à supposer recevable, ce grief aurait dû être rejeté. En effet, l'instance précédente pouvait sans violer le droit fédéral considérer que l'ordre de démolition intégrale du bâtiment litigieux était proportionné. Cette mesure poursuivait en l'occurrence des intérêts publics évidents, à savoir le respect de la séparation entre les zones bâties et non bâties et la limitation des constructions en zone agricole, ainsi que le respect du principe de l'égalité devant la loi. De plus, les travaux de rénovation effectués sur ce bâtiment en ruine situé en zone agricole ne sauraient être qualifiés de dérogation mineure au principe précité de séparation des zones. L'instance précédente pouvait par ailleurs sans arbitraire retenir que le recourant ne pouvait pas se prévaloir de sa bonne foi; elle a en effet constaté - sans que cela ne soit contesté - que l'intéressé avait été impliqué dès le début dans les démarches de l'ancien propriétaire, qu'il savait qu'un permis de construire était nécessaire et que celui-ci avait peu de chances d'être octroyé puisque les autorités compétentes estimaient être en présence d'un bâtiment dont la durée de vie avait échu. Dans ce contexte, il ne peut pas se prévaloir de la bonne foi déduite de l'art. 3 du code civil. Enfin, en procédant sans autorisation à des travaux de rénovation sur un édifice en ruine, et ceci malgré le prononcé de nombreux ordres d'arrêt des travaux, le recourant devait s'attendre à ce que l'autorité favorise le rétablissement d'une situation conforme au droit. Le recourant méconnaît en particulier qu'il n'appartenait pas à la DAEC de trouver des solutions pour qu'il puisse conserver le bâtiment en question. Enfin, le fait que la DAEC ait attendu plusieurs années pour ordonner la démolition de la bâtisse n'est pas de nature à remettre en cause la validité de cette mesure puisque le recourant savait avoir entrepris sans droit les travaux de rénovation et que le délai de péremption de 30 ans fixé par la jurisprudence n'était pas échu. Pour le surplus, il peut être renvoyé à l'argumentation pertinente développée par l'instance précédente (cf. arrêt entrepris consid. 6b; <ref-law>).
7.
Enfin, dans une argumentation à nouveau confuse, le recourant se plaint d'une violation du principe de coordination ancré à l'art. 25a LAT. Il soutient que la DAEC et l'autorité foncière auraient dû coordonner leur décision. Il voit une contradiction dans le fait que l'autorité foncière ait accepté la vente de la parcelle et que la DAEC ait ensuite refusé d'autoriser la rénovation du bâtiment.
L'art. 25a LAT énonce, à ses al. 1 à 3, des principes en matière de coordination " lorsque l'implantation ou la transformation d'une construction ou d'une installation nécessite des décisions émanant de plusieurs autorités "
Ce grief doit d'emblée être rejeté. En effet, il n'y a aucune contradiction entre la décision de la DAEC et celle antérieure de l'autorité foncière. Cette dernière a uniquement autorisé l'acquisition par le recourant de la parcelle n° 135 qui faisait alors partie de l'entreprise agricole du précédent propriétaire. L'autorité foncière ne s'est pas prononcée sur le projet de construction visé par le recourant. Par ailleurs, quoi qu'en pense ce dernier, il n'appartenait pas à la DAEC d'intervenir pour empêcher la vente immobilière en question.
8.
Il résulte de ce qui précède que le recours doit être rejeté dans la mesure de sa recevabilité. Le recourant, qui succombe, doit supporter les frais judiciaires (art. 65 et 66 al. 1 LTF). Il n'est pas alloué de dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au recourant, au Préfet du district de la Sarine, à la Commune de Chésopelloz, à la Direction de l'aménagement, de l'environnement et des constructions de l'Etat de Fribourg, à la IIe Cour administrative du Tribunal cantonal de l'Etat de Fribourg, ainsi qu'à l'Office fédéral du développement territorial.
Lausanne, le 9 septembre 2015
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Fonjallaz
La Greffière : Arn