Faits:
A. A.A._ et B.A._ sont propriétaires de la parcelle de base n° 104 de la commune de Bavois. Ce terrain a été divisé en différents lots de propriété par étages dont le lot n° 104-11 formé par un bâtiment ECA n° 290, actuellement utilisé comme dépôt sur un seul rez-de-chaussée.
Le 10 juin 2010, A.A._ et B.A._ ont déposé une demande de permis de construire en vue de procéder à des travaux de rénovation du bâtiment ECA n° 290. Ils prévoyaient de remplacer la charpente par la pose d'une couverture en tuile en lieu et place de la couverture végétale existante. La demande de permis de construire, mise à l'enquête du 10 juillet au 9 août 2010, n'a pas soulevé d'opposition.
La Centrale des autorisations (CAMAC) a communiqué à la municipalité de Bavois, le 17 août 2010, la synthèse des différentes autorisations et préavis des services cantonaux requis pour le projet de rénovation. Le Service du développement territorial a refusé de délivrer l'autorisation spéciale requise, motif pris que le projet modifiait de façon trop importante l'identité du bâtiment.
La municipalité a informé les intéressés le 26 août 2010 qu'elle ne pouvait délivrer le permis de construire en raison du refus de l'autorisation spéciale.
B. A.A._ et B.A._ ont porté leur cause devant la Cour de droit administratif et public du Tribunal cantonal vaudois (ci-après: le Tribunal cantonal) qui, après avoir procédé à une inspection locale en présence des parties, a rejeté le recours par arrêt du 31 mai 2012. Les juges cantonaux ont en substance confirmé l'appréciation du Service du développement territorial, considérant qu'en remplaçant la couverture végétale par une couverture en tuile, le projet modifiait l'une des caractéristiques essentielles du bâtiment existant.
C. Agissant par la voie du recours en matière de droit public, A.A._ et B.A._ demandent au Tribunal fédéral de réformer la décision du Service du développement territorial du 17 août 2010 en ce sens qu'une autorisation spéciale leur est délivrée pour remplacer la toiture du bâtiment ECA n° 290 selon les plans déposés. Subsidiairement, ils concluent à l'annulation de l'arrêt du Tribunal cantonal du 31 mai 2012.
Le Tribunal cantonal conclut au rejet du recours dans la mesure où il est recevable, en se référant aux considérants de son arrêt. Le Service du développement territorial conclut au rejet du recours et à la confirmation de l'arrêt attaqué. La municipalité de Bavois ne voit pas d'inconvénients à ce que la toiture soit rénovée avec des tuiles et souhaite avant tout que les travaux puissent être engagés rapidement en vue d'éviter tout accident. Les recourants ont réagi spontanément aux déterminations du Service cantonal du développement territorial, par courrier du 5 septembre 2012.

Considérant en droit:
1. Dirigé contre une décision rendue dans le domaine du droit public de l'aménagement du territoire et des constructions, le recours est en principe recevable comme recours en matière de droit public conformément aux <ref-law>. Aucune des exceptions prévues à l'<ref-law> n'est réalisée.
Les recourants ont pris part à la procédure devant l'autorité précédente et sont particulièrement atteints par la décision attaquée, qui leur refuse le permis de construire sollicité; ils ont ainsi un intérêt digne de protection à son annulation ou à sa modification, de sorte que la qualité pour recourir doit leur être reconnue au sens de l'<ref-law>. Les autres conditions de recevabilité sont remplies si bien qu'il convient d'entrer en matière.
2. Dans un grief d'ordre formel qu'il convient d'examiner en premier lieu, les recourants se plaignent d'une violation de leur droit d'être entendus, les juges cantonaux ne s'étant pas déterminés sur un grief qu'ils avaient soulevé.
2.1 Le droit d'être entendu implique pour l'autorité l'obligation de motiver sa décision, afin que l'intéressé puisse se rendre compte de la portée de celle-ci et l'attaquer en connaissance de cause. Selon la jurisprudence, la motivation d'une décision est suffisante lorsque l'autorité mentionne, au moins brièvement, les motifs qui l'ont guidée et sur lesquels elle a fondé son raisonnement. L'autorité ne doit toutefois pas se prononcer sur tous les moyens des parties; elle peut se limiter aux questions décisives (<ref-ruling> consid. 4.3 p. 540 et les arrêts cités).
2.2 En l'espèce, les recourants affirment que le Tribunal cantonal n'a pas examiné la question de savoir si le remplacement de la toiture végétalisée par une toiture traditionnelle à deux pans pouvait être considéré comme une amélioration esthétique, moyen qu'ils avaient pourtant dûment soulevé. Il ressort toutefois de l'arrêt attaqué que les juges cantonaux n'ont pas ignoré cet argument: ils ont en effet relevé qu'il n'y avait pas de motif de "respecter le caractère des constructions voisines", élément qui était invoqué par les recourants pour fonder une amélioration esthétique. Au surplus, la cour cantonale a exposé de façon suffisante sous l'angle de l'art. 29 al. 2 Cst. les raisons qui l'ont amenée à confirmer la décision attaquée. Le grief tiré d'une violation du droit d'être entendu est dès lors mal fondé et le recours doit être rejeté sur ce point.
3. Au fond, les recourants invoquent l'art. 24c de loi fédérale du 22 juin 1979 sur l'aménagement du territoire (LAT; RS 700) et l'art. 42 de l'ordonnance du 28 juin 2000 sur l'aménagement du territoire (OAT; RS 700.1).
Ces dispositions ont été modifiées par novelles du 23 décembre 2011, respectivement du 10 octobre 2012; les modifications sont entrées en vigueur le 1er novembre 2012 (RO 2012 5535 et 5537). Ces novelles ne contiennent pas de disposition transitoire relative à l'application du nouveau droit dans les procédures en cours. A titre de droit transitoire, le Conseil fédéral a toutefois prévu, de façon générale, que les procédures de recours pendantes demeureraient régies par l'ancien droit, sauf si le nouveau droit était plus favorable au requérant (<ref-law>). Cette dernière disposition s'applique en l'espèce (cf. <ref-ruling> consid. 2 p. 217 s. et les références) et il y a par conséquent lieu de se référer à l'ancien droit, étant précisé que les modifications entrées en vigueur le 1er novembre 2012 n'instaurent pas un régime plus favorable aux recourants dans le cas particulier.
4. 4.1 L'art. 24c LAT, dans sa teneur avant le 1er novembre 2012 (RO 2000 2044), prévoit que les constructions et installations sises hors de la zone à bâtir, qui peuvent être utilisées conformément à leur destination mais qui ne sont plus conformes à l'affectation de la zone, bénéficient en principe de la garantie de la situation acquise (al. 1). L'autorité compétente peut autoriser la rénovation de telles constructions et installations, leur transformation partielle, leur agrandissement mesuré ou leur reconstruction, pour autant que les bâtiments aient été érigés ou transformés légalement. Dans tous les cas, les exigences majeures de l'aménagement du territoire doivent être satisfaites (al. 2).
Le champ d'application de l'art. 24c LAT est restreint aux constructions et installations qui ont été érigées ou transformées conformément au droit matériel en vigueur à l'époque, mais qui sont devenues contraires à l'affectation de la zone à la suite d'une modification de la législation ou des plans d'aménagement (<ref-law>). La date déterminante est en principe celle du 1er juillet 1972, date de l'entrée en vigueur de la loi fédérale du 8 octobre 1971 sur la protection des eaux contre la pollution, qui a introduit expressément le principe de la séparation du territoire bâti et non bâti (<ref-ruling> consid. 4.2.1 p. 398).
4.2 En l'occurrence, il n'est pas contesté que le bâtiment en question a été autorisé et construit en 1940 et que son affectation agricole a été abandonnée en 1952. Il est devenu contraire à l'affectation de la zone dès le 1er juillet 1972, de sorte qu'il peut être mis au bénéfice des dispositions de l'art. 24c LAT.
5. Selon l'ancienne version de l'<ref-law> (RO 2000 2061 et RO 2007 3643), les constructions et installations pour lesquelles l'art. 24c LAT est applicable peuvent faire l'objet de modifications si l'identité de la construction ou de l'installation et de ses abords est respectée pour l'essentiel. Sont admises les améliorations de nature esthétique (al. 1). Le moment déterminant pour l'appréciation du respect de l'identité est l'état de la construction ou de l'installation au moment de la modification de la législation ou des plans d'aménagement (al. 2). La question de savoir si l'identité de la construction ou de l'installation est respectée pour l'essentiel est à examiner en fonction de l'ensemble des circonstances (al. 3 première phrase).
5.1 D'après la jurisprudence, l'identité du bâtiment est maintenue lorsque les modifications projetées sauvegardent pour l'essentiel le volume et l'apparence de la construction et n'ont pas d'effets sensiblement nouveaux du point de vue de l'occupation du sol, de l'équipement et de l'environnement; les transformations doivent être d'importance réduite par rapport à l'état existant de la construction (<ref-ruling> consid. 3a et 3b p. 218 s.; <ref-ruling> consid. 4 p. 261; <ref-ruling> consid. 3a p. 499 et les arrêts cités).
Cette exigence ne va toutefois pas jusqu'à empêcher d'effectuer, dans le cadre des transformations autorisées, des améliorations esthétiques sur des constructions ou installations dont l'aspect esthétique n'est pas satisfaisant. Selon l'Office fédéral du développement territorial, il devrait ainsi être possible, lorsque les travaux embellissent l'aspect de la construction ou de l'installation, de déroger au critère du respect de l'identité de la construction (cf. Explications relatives à l'ordonnance sur l'aménagement du territoire, Office fédéral du développement territorial, Berne 2001, p. 44 s.). La doctrine est toutefois partagée sur le point de savoir si le critère de l'esthétique permet ou non de déroger à l'exigence de l'identité de la construction (cf. RUDOLF MUGGLI, Commentaire LAT, n. 22 ad art. 24c LAT; BERNHARD WALDMANN / PETER HÄNNI, Raumplanungsgesetz, Kommentar, 2006, n. 21 ad art. 24c LAT; PIERMARCO ZEN-RUFFINEN/ CHRISTINE GUY-ECABERT, Aménagement du territoire, construction, expropriation, 2001, ch. 613). Cette question n'est toutefois pas déterminante en l'espèce (cf. consid. 5.2 ci-après) et peut dès lors rester indécise.
5.2 Dans le cas particulier, le Tribunal cantonal a retenu qu'en remplaçant la couverture végétale par une couverture en tuile, les recourants modifiaient l'une des caractéristiques essentielles du bâtiment existant et que la condition du maintien de l'identité de la construction requise par l'<ref-law> n'était pas respectée. Les recourants ne contestent à juste titre pas cette appréciation, le Tribunal cantonal ayant en effet appliqué correctement le droit fédéral sur ce point.
Les intéressés estiment en revanche que le remplacement de la toiture végétalisée atypique par une couverture traditionnelle tuilée conforme au règlement communal, de même type que les toitures des bâtiments sis à proximité et répondant aux recommandations des services compétents chargés de l'aménagement du territoire, doit être admis comme une amélioration esthétique au sens de l'<ref-law>. Ce raisonnement ne convainc pas. Il n'apparaît en effet nullement que l'aspect esthétique actuel du bâtiment ne serait pas satisfaisant, ce que les recourants n'allèguent du reste pas. La toiture végétalisée présente certes un caractère très particulier, atypique et insolite dans la campagne vaudoise; il n'en résulte pas pour autant que cette toiture enlaidirait le bâtiment ou s'intégrerait particulièrement mal dans le site dans lequel il se trouve. Dans ces conditions, la nouvelle toiture projetée n'est pas de nature à embellir l'aspect de la construction. Le fait que les toitures des bâtiments à proximité sont à pans tuilés et qu'une couverture du même type sur la construction litigieuse assurerait une homogénéité au hameau dans lequel elle se trouve est dénué de pertinence. Le but du respect de l'identité du bâtiment, ou l'amélioration esthétique de ce dernier, ne tend en effet pas à assurer une harmonie avec les constructions voisines mais se rapporte avant tout aux éléments d'architecture essentiels qui caractérisent l'ouvrage en cause.
Il s'ensuit que les travaux de rénovation projetés sont de nature à modifier l'identité du bâtiment, sans apporter des améliorations de nature esthétique. C'est donc sans violer le droit fédéral que la cour cantonale a considéré que ces travaux ne répondaient pas aux exigences des art. 24c LAT et 42 OAT et ne pouvaient, de ce fait, être autorisés sur la base de ces dispositions.
6. Les recourants se plaignent d'une violation du principe de la proportionnalité. Ils font valoir que la différence de prix entre la réalisation d'une toiture traditionnelle à pans tuilés et une couverture végétalisée est extrêmement importante et ne serait justifiée par aucun intérêt public prépondérant.
Il ressort de l'arrêt attaqué que le coût d'une toiture végétalisée en pente est nettement supérieur à celui d'une simple couverture en tuile, puisqu'il entraîne un surcoût d'environ 90'000 fr., soit un peu plus du double du coût de la couverture en tuile. Avec le Tribunal cantonal, on doit relever que ce montant reste proportionné par rapport aux exigences requises pour les constructions hors de la zone à bâtir. Ce montant est aussi raisonnable compte tenu du fait qu'aucun travail d'entretien n'a été réalisé depuis la construction du bâtiment en 1940, c'est-à-dire pendant plus de 70 ans, et que le système de couverture par une terre végétale assure une protection à long terme, qu'un autre mode de couverture n'aurait pas garanti sur une si longue période sans travaux d'entretien. La décision contestée ne contrevient dès lors pas au principe de la proportionnalité.
7. Les considérants qui précèdent conduisent au rejet du recours. Les recourants qui succombent supportent les frais judiciaires (art. 65 et 66 al. 1 et 5 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, fixés à 3'000 fr., sont mis à la charge des recourants, solidairement entre eux.
3. Le présent arrêt est communiqué aux recourants, à la Municipalité de Bavois, au Service du développement territorial du canton de Vaud, au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, et à l'Office fédéral du développement territorial.
Lausanne, le 19 mars 2013
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Juge présidant: Aemisegger
La Greffière: Mabillard