Faits :
A.
A._ est propriétaire de la parcelle 669 AE (595 NM) de la Commune de Hauteville; située au lieu-dit "Le Saut", elle est colloquée en zone agricole. Selon les données figurant au Registre foncier, un chalet y est implanté.
Par décision du 4 octobre 2016, le géomètre officiel a signifié à A._ que le chalet implanté sur son bien-fonds, dans les faits, totalement écroulé, devait, pour ce motif, être radié de l'état cadastral. Sur recours, cette décision a été confirmée par la Commission de recours en matière de nouvelle mensuration parcellaire.
Le 19 octobre 2016, la commune a imparti à A._ un délai échéant au 30 avril 2017 pour procéder au déblaiement des ruines de son chalet. Le 21 novembre 2016, l'intéressé a contesté cette décision devant le Préfet du district de la Gruyère. Dans ses déterminations du 14 décembre 2016, la commune, tout en maintenant sa position quant au déblaiement des ruines, a indiqué qu'elle pourrait reconsidérer la suppression du chalet en cas de réelle volonté de reconstruction et si une demande d'enquête était déposée dans un délai raisonnable. Par décision du 23 janvier 2017, le Préfet a rejeté le recours dont il était saisi.
B.
Par acte du 23 février 2017, A._ a recouru contre cette décision auprès de la II e Cour administrative du Tribunal cantonal de l'Etat de Fribourg, concluant à l'annulation de la décision préfectorale ainsi qu'à l'octroi d'un délai pour le rétablissement des structures du chalet par le biais d'une enquête publique dans le sens des déterminations émises par la commune le 14 décembre 2016.
En cours de procédure, le 22 février 2017, le prénommé a déposé auprès de la Commune de Hauteville une demande d'autorisation de construire pour un projet portant sur la démolition et la reconstruction d'un chalet à génisse.
Par arrêt du 31 mai 2017, la cour cantonale a rejeté le recours. Constatant que le chalet était en ruine, elle a considéré que le Préfet avait à bon droit ordonné le déblaiement des ruines pour des motifs de sécurité et de protection des biens naturels, en application de l'art. 170 de la loi cantonale sur l'aménagement du territoire et les constructions du 2 décembre 2008 (LATeC; RS/FR 710.1). Le Tribunal cantonal a par ailleurs jugé que la demande d'autorisation du 22 février 2017 relevait d'une procédure indépendante; il a en particulier estimé qu'au regard de l'important état de délabrement du chalet, les travaux envisagés ne pouvaient pas être assimilés à la légalisation d'une construction existante, mais à la réalisation d'une construction nouvelle échappant, de par sa situation en zone agricole, à la compétence communale, en vertu du droit cantonal.
C.
Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral d'annuler la décision du Préfet de la Gruyère du 23 janvier 2017 dans la mesure où elle ordonne l'enlèvement des fondations existantes du chalet sis sur la parcelle 669 AE (595 NM). Il conclut également à la fixation d'un délai pour procéder à la reconstruction du chalet par le biais d'une mise à l'enquête publique. Il sollicite enfin l'octroi de l'effet suspensif.
Sans prendre de conclusion formelle, le Tribunal cantonal met en doute la recevabilité du recours: il rappelle que les décisions successives de la Commune de Hauteville et du Préfet de la Gruyère n'exigent que le déblaiement des ruines du chalet, réservant en revanche la question de la remise en état du sol. Le Préfet de la Gruyère conclut au rejet du recours. De l'avis de l'Office fédéral du développement territorial ARE, également invité à se déterminer, l'arrêt attaqué ne prête pas le flanc à la critique. Le recourant s'est déterminé en dernier lieu, confirmant ses conclusions.
Par ordonnance du 2 août 2017, le Président de la Ire Cour de droit public a admis la requête d'effet suspensif en tant qu'elle concerne les fondations existantes et la remise en état du sol.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office sa compétence (<ref-law>) et contrôle librement les conditions de recevabilité des recours qui lui sont soumis.
1.1. Le recours, dirigé contre une décision prise en dernière instance cantonale (art. 86 al. 1 let. d LTF) dans le domaine du droit public des constructions (<ref-law>), est en principe recevable comme recours en matière de droit public selon les <ref-law>, aucune des exceptions prévues à l'<ref-law> n'étant réalisée.
1.2. L'<ref-law> confère la qualité pour former un recours en matière de droit public à quiconque est particulièrement atteint par la décision ou l'acte normatif attaqué (let. b) et a un intérêt digne de protection à son annulation ou à sa modification (let. c). La qualité pour recourir auprès du Tribunal fédéral au sens de l'<ref-law> suppose en outre un intérêt actuel et pratique à obtenir l'annulation de la décision attaquée.
1.3. En l'occurrence, après avoir constaté que le chalet sis sur la parcelle 669 AE (595 NM) est à l'état de ruine, la cour cantonale a estimé que les décombres de ce bâtiment, non sécurisés et dont la nature n'est pas connue de manière certaine, représentent un danger pour autrui et pour l'environnement. Le Tribunal cantonal a partant confirmé l'ordre de déblaiement du chalet, en application de l'art. 170 al. 1 let. b LATeC, qui prévoit que, si des raisons de sécurité, de salubrité ou de protection des biens culturels ou naturels l'exigent, le conseil communal peut, même en l'absence de règlement, ordonner à un ou une propriétaire de déblayer les ruines de son bâtiment.
Devant le Tribunal fédéral, le recourant ne conteste plus l'état de ruine de son chalet; il déclare ne pas s'opposer à débarrasser les décombres du bâtiment composés de bois et de quelques éléments métalliques. Le recourant conclut en revanche à l'annulation de l'arrêt attaqué en tant qu'il porte sur l'enlèvement des fondations existantes. Il demande en substance de pouvoir conserver ces dernières, expliquant qu'il s'agit d'un ouvrage considérable permettant la reconstruction d'un chalet sur un terrain en pente, éloigné des cuvettes humides, en proie, selon lui, à la foudre. Dans une deuxième conclusion, il sollicite également la fixation d'un délai pour procéder à cette reconstruction, par le biais d'une mise à l'enquête publique.
1.4. Les conclusions du recourant sont irrecevables. En ce qui concerne la fixation du délai pour procéder à une reconstruction, ce point relève, comme le précise d'ailleurs expressément l'arrêt attaqué, d'une procédure distincte et indépendante. En effet, au regard de l'état de ruine du chalet, cette demande ne peut, par définition, porter que sur l'édification, hors de la zone à bâtir, d'un nouvel ouvrage, pour l'autorisation duquel la commune n'est de surcroît pas compétente (cf. art. 136 LATeC), et non sur la rénovation, voire la légalisation d'une construction existante (cf. art. 167 al. 2 LATeC).
S'agissant par ailleurs de la conclusion en annulation, on comprend non seulement de la décision du Préfet du 23 janvier 2017, mais également de l'arrêt attaqué, que l'ordre de déblaiement, ordonné pour des motifs de sécurité en application de l'art. 170 al. 1 let. b LATeC, ne porte que sur les décombres du chalet, à l'exclusion de ses fondations. Le Préfet, suivi en cela par la cour cantonale, a du reste expressément réservé une éventuelle procédure de remise en état du sol au sens de l'art. 167 al. 3 LATeC, précisant encore que la commune n'était de toute manière pas habilitée à ordonner une telle mesure, cette compétence appartenant, s'agissant d'une construction en zone agricole, à la direction cantonale (cf. art. 167 al. 3 et 4 LATeC). Par surabondance, il n'est enfin pas non plus établi que les fondations existantes présenteraient un danger au sens de l'art. 170 al. 1 LATeC, ce qui est également de nature à les exclure de l'ordre de déblaiement litigieux.
Il découle de qui précède que l'annulation de l'arrêt attaqué demeurerait sans incidence sur les conclusions prises céans par le recourant, excluant de ce fait tout intérêt pratique et actuel au présent recours. Ce dernier doit par conséquent être déclaré irrecevable.
2.
Vu l'issue du recours, des frais de justice réduits sont mis à la charge du recourant, qui succombe (art. 65 et 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est irrecevable.
2.
Les frais de justice, arrêtés à 1'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au recourant, à la Commune de Hauteville, à la Préfecture du district de la Gruyère, au Tribunal cantonal de l'Etat de Fribourg, II e Cour administrative, et à l'Office fédéral du développement territorial.
Lausanne, le 1 er novembre 2017
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Merkli
Le Greffier : Alvarez