Faits:
A.
A._ est propriétaire de la parcelle n° 403 de la commune de Rovray, dans le village d'Arrissoules. Sur la partie sud-est de ce bien-fonds, d'une surface de 10'493 m2, sont bâtis une ferme (n° ECA 209a), un petit hangar agricole (n° ECA 209b), ainsi que, à l'ouest de ces deux bâtiments, un hangar agricole en bois (n° ECA 240). Celui-ci, en sa façade sud, jouxte la parcelle n° 404, sur laquelle sont érigés un abri pour cycles (n° ECA 210b) et le bâtiment dit le Collège d'Arrissoules (n° ECA 210a), distant de quatre mètres du bâtiment n° 240, qui a reçu la note 3 au recensement architectural cantonal. Selon le plan général d'affectation de l'ancienne commune d'Arrissoules - qui a fusionné avec la commune de Rovray en 2005 - la partie nord-ouest de la parcelle n° 403 est affectée en zone agricole. La partie sud-est, sur laquelle sont implantés les bâtiments, est principalement en "zone de dégagement B", à l'exception d'une petite surface, à l'extrême sud-ouest de la parcelle, affectée en "zone de dégagement A".
Selon l'art. 2.7 du règlement du plan général d'affectation et de la police des constructions d'Arrissoules approuvé par le canton de Vaud le 19 août 1996 (RPGA), les zones de dégagement A et B sont définies de la manière suivante:
Définition
Ces zones sont destinées à assurer le dégagement entre les voies publiques ou privées et les bâtiments principaux constitutifs du site bâti, à protéger la vision sur les bâtiments architecturalement intéressants du village, ainsi qu'à conserver certains espaces non construits et caractéristiques de la morphologie du village, tels que jardins, cour, espaces de verdure, etc.
Les plantations à effectuer dans ces zones seront choisies parmi les essences traditionnelles de la région.
Aménagement
Hormis les agrandissements de minime importance autorisés pour les bâtiments existants, la zone de dégagement "A" n'est pas constructible. Des aménagements de surfaces sont toutefois autorisés.
Petites constructions
La zone de dégagement "B" peut recevoir quelques agrandissements de minime importance assurant des rapports harmonieux avec les bâtiments existants.
Garages souterrains
Pour des besoins objectivement fondés, la Municipalité peut autoriser la construction de garages souterrains en rapport avec l'importance de la parcelle et des bâtiments à transformer.
A._ et sa fille ont déposé une demande de permis de construire auprès de la Municipalité de Rovray afin de démolir le bâtiment n° 240 et le remplacer par une villa à édifier quinze mètres plus au nord. Le projet a été soumis à l'enquête publique sans susciter d'opposition. Le 29 septembre 2011, la Centrale des autorisations de construire du Département des infrastructures (CAMAC) a produit sa synthèse comprenant les autorisations spéciales et les préavis des services cantonaux concernés. Le Service du développement territorial du Département de l'économie (SDT) constatait notamment que le projet n'impliquait aucune construction ou aménagement à l'intérieur de la zone agricole, de sorte que celui-ci ne requérait pas d'autorisation spéciale au sens de l'art. 120 al. 1 let. a de la loi vaudoise du 4 décembre 1985 sur l'aménagement du territoire et les constructions (LATC; RSV 700.11). Le SDT relevait cependant que le projet empiétait sur les zones de dégagement A et B, auxquelles la construction d'une villa n'était manifestement pas conforme.
B.
Le 26 octobre 2011, la Municipalité de Rovray a délivré le permis de construire. Le Département de l'économie (DEC) a recouru contre cette décision auprès de la Cour de droit administratif et public du Tribunal cantonal vaudois en demandant son annulation. Par arrêt du 27 juin 2012, le Tribunal cantonal a rejeté le recours, considérant en substance que le projet de construction de la villa était trop éloigné de la vocation de la zone de dégagement B pour être admis au regard de l'art. 2.7 RPGA, mais que le régime des dérogations en zone à bâtir prévu par l'art. 85 LATC permettait, en vertu d'une pesée des intérêts présents en l'espèce, d'accorder l'autorisation de construire requise.
C.
Le Département de l'intérieur (DINT), auquel le SDT a été rattaché depuis le 1er janvier 2012, interjette contre cet arrêt un recours en matière de droit public auprès du Tribunal fédéral. Il conclut à la réforme de l'arrêt attaqué en ce sens que la décision rendue le 26 octobre 2011 par la Municipalité de Rovray est annulée. Le Tribunal cantonal se réfère à son arrêt. La Municipalité et A._ concluent au rejet du recours. Le SDT a répliqué; il persiste dans les conclusions du recours.
Par ordonnance du 28 septembre 2012, le Président de la Ire Cour de droit public a accordé l'effet suspensif au recours.

Considérant en droit:
1.
Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 331 et les arrêts cités). Toutefois, lorsque les conditions de recevabilité, en particulier la qualité pour recourir, ne ressortent pas à l'évidence de la décision attaquée ou du dossier de la cause, le recourant doit exposer en quoi elles sont réunies sous peine d'irrecevabilité (art. 42 al. 1 et 2 LTF; <ref-ruling> consid. 1 p. 356 et les références).
1.1. La qualité pour former un recours en matière de droit public est régie par l'<ref-law>. Aux termes de l'alinéa premier de cette disposition, a qualité pour recourir quiconque a pris part à la procédure devant l'autorité précédente ou a été privé de la possibilité de le faire (let. a), est particulièrement atteint par la décision attaquée (let. b) et a un intérêt digne de protection à l'annulation ou à la modification de celle-ci (let. c). Conformément à l'<ref-law>, ont aussi la qualité pour recourir, à certaines conditions, les communes et les autres collectivités de droit public (let. c) et les personnes, organisations et autorités auxquelles une autre loi fédérale accorde un droit de recours (let. d).
1.2. Le Département de l'intérieur fonde sa qualité pour recourir sur l'art. 89 al. 2 let. c LTF.
D'après l'art. 89 al. 2 let. c LTF, les collectivités publiques ont qualité pour agir lorsqu'elles invoquent la violation de garanties qui leur sont reconnues par les constitutions cantonales ou fédérale (arrêt 1C_365/2010 du 18 janvier 2011 consid. 1.1, non publié in <ref-ruling>). Cette disposition ouvre notamment aux communes la voie du recours pour violation de leur autonomie (<ref-ruling> consid. 1.3 p. 268; <ref-ruling> consid. 1.1 p. 304). La question de savoir si un canton peut fonder sa qualité pour recourir sur l'art. 89 al. 2 let. c LTF pour se plaindre de la violation de sa souveraineté garantie par l'art. 3 Cst. n'est pas clairement tranchée en pratique (cf. <ref-ruling> consid. 1.2.1; arrêt 9C_476/2010 du 24 novembre 2010 consid. 1, in: SVR 2011 BVG n° 17 p. 62). Confirmant la jurisprudence rendue avant l'entrée en vigueur de la LTF, le Tribunal fédéral a toutefois eu l'occasion de préciser que le canton ne peut pas se prévaloir d'une telle garantie à l'encontre d'un acte de puissance publique cantonal rendu par son propre tribunal administratif (<ref-ruling> consid. 2.4.1 p. 405 s.; arrêt 2C_620/2012 du 14 février 2013 consid. 1.2.3; cf. en ce sens également <ref-ruling> consid. 2.1 p. 46; arrêts 8C_212/2009 du 15 avril 2010 consid. 3.1, non publié in <ref-ruling>, in SVR 2010 KV n° 14 p. 55; 2C_695/2007 du 18 février 2008 consid. 2.1). Dans ces circonstances, le Département de l'intérieur n'a pas la qualité pour recourir contre l'arrêt du Tribunal cantonal en vertu de l'art. 89 al. 2 let. c LTF.
1.3. Au surplus, le DINT n'allègue pas avoir la qualité pour recourir au sens de l'art. 89 al. 1 ni al. 2 let. d LTF. Faute de motivation suffisante (art. 42 al. 1 et 2 LTF), il n'y aurait pas lieu d'examiner leur pertinence en l'espèce. Quoi qu'il en soit, il est douteux que la voie du recours au Tribunal fédéral lui eut été ouverte en vertu de l'une de ces dispositions. En effet, d'une part, s'agissant de l'<ref-law>, le canton n'a pas été atteint dans ses droits comme un particulier ni n'a été touché de manière qualifiée, le simple intérêt public à la bonne application du droit, notamment, étant insuffisant pour fonder la qualité ordinaire pour recourir des collectivités (cf. <ref-ruling> consid. 2.1.1 p. 508; <ref-ruling> consid. 1.3.2 p. 149; <ref-ruling> consid. 4.2 p. 279). D'autre part, s'agissant de l'art. 89 al. 2 let. d LTF, l'arrêt attaqué ne porte pas sur un cas pour lequel l'art. 34 de la loi fédérale sur l'aménagement du territoire (LAT; RS 700) ou une autre disposition légale confère expressément la qualité pour recourir aux cantons. Il ne s'agit en particulier pas d'un litige portant sur la reconnaissance de la conformité à l'affectation de la zone de constructions et d'installations sises hors de la zone à bâtir ni sur une autorisation dérogatoire hors zone à bâtir au sens de l'art. 34 al. 2 let. b et c LAT. En effet, lors de la consultation des services cantonaux, le SDT a expressément indiqué qu'une autorisation de construire au sens de l'art. 120 LATC - disposition qui prévoit l'obligation d'obtenir une autorisation spéciale pour construire, reconstruire, agrandir, transformer ou modifier de la destination de constructions hors des zones à bâtir - n'était pas nécessaire. A aucun moment, en procédure cantonale, le SDT n'a avancé l'argument de la séparation du bâti et du non bâti. Il s'est borné à indiquer que la construction projetée n'était pas conforme à l'affectation de la zone. A suivre le service cantonal qui considère l'art. 120 LATC non applicable en l'espèce, la portion de terrain litigieuse n'est ainsi pas située hors zone à bâtir. Dans son recours, le DINT ne fait toujours pas valoir qu'une autorisation hors zone à bâtir aurait été requise. Il allègue en revanche que l'arrêt attaqué viole l'art. 75 Cst., l'art. 15 LAT ainsi que les compétences cantonales, "en rendant constructible une zone pourtant inconstructible", ce qui est contradictoire. Cela étant, si d'importantes restrictions de bâtir grèvent les parcelles affectées en zone de dégagement, il apparaît que celles-ci sont construites. Au demeurant, la zone de dégagement B autorise, à certaines conditions, la construction de garages souterrains. Au surplus, les parties se sont accordées, tout au long de la procédure, sur le fait que cette zone n'était pas inconstructible, les terrains en cause n'étant pas situés hors zone à bâtir. Le présent litige porte uniquement sur les problématiques de la conformité de la construction à l'affectation de la zone (constructible) et de l'admissibilité d'une dérogation aux règles de police des constructions applicables. Il n'y va pas du principe de la séparation du bâti et du non bâti, aspect sur lequel le canton a exercé son contrôle lors de l'adoption du plan d'affectation et, partant, le litige ne porte pas sur une construction hors zone à bâtir au sens de l'art. 34 al. 2 let. b ou c LAT.
2.
Il résulte de ce qui précède que le recours doit être déclaré irrecevable. Le canton, qui succombe, versera une indemnité de dépens à l'intimé A._, qui obtient gain de cause avec l'assistance d'un avocat (<ref-law>). Conformément à l'<ref-law>, il n'est pas perçu de frais judiciaires.

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est irrecevable.
2.
Une indemnité de dépens de 2'000 fr. est allouée à l'intimé, à la charge du canton de Vaud.
3.
Le présent arrêt est communiqué au Département de l'intérieur du canton de Vaud, au mandataire de l'intimé, à la Municipalité de Rovray et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 22 juillet 2013
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
La Greffière: Sidi-Ali