Faits:
A. Sur la parcelle n° 715 de la commune du Mont-sur-Lausanne, située en zone agricole, est érigé un bâtiment d'habitation avec affectation mixte. Il s'agit d'une ancienne ferme, construite vers 1800, plusieurs fois transformée et agrandie. Un permis d'habitation a été délivré le 25 juillet 1966 pour un appartement supplémentaire (la partie principale en comptant déjà deux) dans les combles de la partie nord-est du bâtiment. Un permis de construire a été délivré le 28 janvier 1976 pour l'aménagement d'un quatrième appartement en duplex, à l'étage et dans les combles de la partie est du corps de bâtiment principal. Enfin, un permis de construire a été délivré le 26 octobre 1978 autorisant l'agrandissement de ce dernier appartement.
Trois dépendances ont également été construites sur cette parcelle, à des dates indéterminées, que le Service du développement territorial (ci-après: SDT) situe entre 1967 et 1986. La première construction, d'environ 45 m2 comprend un garage double avec un local à outils de 6 m2 environ prolongé par un mur de clôture, la deuxième compte 14 m2 et la dernière 16 m2. La licéité de ces constructions a été confirmée par le SDT, nonobstant l'impossibilité de retrouver les dossiers d'enquête y relatifs.
La parcelle est constituée en PPE de quatre lots, tous progressivement acquis entre 1995 et 2007 par A._ seul ou en copropriété avec B._.
Le 30 octobre 2007, A._ et B._ ont soumis à la Municipalité du Mont-sur-Lausanne (ci-après: la municipalité) un plan d'enquête pour un couvert à voitures d'une surface de 40 m2. Sur requête des autorités cantonale et communale, les propriétaires ont indiqué qu'ils n'avaient pas effectué de transformations et qu'ils ignoraient ce qui avait été réalisé avant leur acquisition des lots de PPE. Ils ont néanmoins transmis à l'autorité le 3 février 2009 un dossier de plans retraçant une chronologie des travaux accomplis depuis 1963 et réitéré leur demande de mise à l'enquête d'un couvert pour voitures. L'historique produit laissait apparaître une augmentation de la surface d'habitation de 90 m2 du fait de travaux effectués entre 2000 et 2003 par d'anciens propriétaires.
Le 9 avril 2009, A._ a déposé une demande de permis de construire pour la mise en conformité des travaux réalisés entre 2000 et 2003 (création d'un bureau sur la surface artisanale et aménagement d'une galerie et d'une chambre dans les combles) ainsi que pour la construction d'un couvert à voitures fermé de trois côtés. Il n'y a eu aucune opposition. Le 16 juin 2009, la municipalité a transmis au SDT les trois seuls dossiers d'enquête en sa possession concernant les travaux autorisés en 1965, 1976 et 1978. Le SDT a entendu les parties et a procédé à une inspection locale de la parcelle le 13 octobre 2009. A._ et B._ ont encore produit des compléments d'informations.
Par décision du 15 décembre 2009, le SDT a refusé l'autorisation cantonale requise, tant pour la mise en conformité que pour l'abri à voitures, au motif que les travaux autorisés entre 1972 et 1978 excédaient déjà le potentiel de transformation du bâtiment et que le couvert à voitures ne pouvait être admis à titre de dépendance.
Simultanément, le SDT a constaté que certains travaux avaient été réalisés sans autorisation dans le bâtiment et hors de celui-ci, à des dates indéterminées mais pour la plupart après le 1er juillet 1972 et que les travaux dépassaient le potentiel d'agrandissement admissible. Il a en conséquence rendu une décision de remise en l'état avec un dispositif:
I. énumérant les travaux et aménagements qui peuvent être régularisés (au nombre de 7);
II. énumérant les travaux et aménagements ne pouvant pas être régularisés et n'exigeant pas une mesure de remise en état selon un examen en proportionnalité ou en raison de leur ancienneté, qui peuvent être tolérés, avec une mention au RF au sens de l'art. 44 OAT (au nombre de 10);
III. ordonnant de diminuer les dimensions du plan d'eau jusqu'à une surface d'environ 60 m2 correspondant à l'ancien bassin (...);
IV. ordonnant de restituer en surface commerciale la partie de l'ancien atelier de menuiserie aménagé en séjour (...);
V. ordonnant de rendre à la terrasse du 1er étage de la partie nord-est, transformée en hall d'entrée, son aspect initial ouvert en supprimant les baies vitrées est et sud (...);
VI. ordonnant de rétablir la nature de la surface annexe du comble (...);
VII. ordonnant de rétablir la nature de la surface annexe de l'agrandissement toléré de la dépendance (...);
VIII. ordonnant de démolir et évacuer le cabanon à outils aménagé en façade nord du mur d'enceinte (...);
IX. ordonnant de démolir et évacuer le cabanon de jardin en bois installé en façade ouest du corps principal (...);
X. ordonnant de supprimer tous les aménagements illicites réalisés dans l'espace nord-ouest (...);
XI. ordonnant l'élimination des déchets issus des travaux par des filières respectueuses de l'environnement;
La décision prévoyait également que l'ordre de remise en l'état serait inscrit sous la forme d'une mention au registre foncier et impartissait un délai d'exécution au 31 mai 2010.
Par décision du 14 janvier 2010, la municipalité a implicitement refusé de délivrer aux intéressés le permis de construire sollicité en leur communiquant la décision du SDT du 15 décembre 2009.
B. A._ et B._ ont recouru auprès de la Cour de droit administratif et public du Tribunal cantonal vaudois le 15 février 2010 en concluant à l'annulation de la décision de la municipalité, à l'admission de leur demande de régularisation et à l'octroi du permis. Le 23 mai 2012, la cour cantonale a rejeté le recours de A._ et B._. Elle a jugé qu'une autorisation ne pouvait être donnée ni sur la base de l'art. 24c LAT (RS 700) ni sur celle de l'art. 37a LAT; elle a donc confirmé la décision de la municipalité.
C. Par acte de recours intitulé "recours en matière de droit public et subsidiairement recours constitutionnel subsidiaire" déposé le 25 juin 2012, A._ et B._ demandent au Tribunal fédéral d'annuler l'arrêt de la cour cantonale et de renvoyer le dossier à cette juridiction pour nouvelle décision dans le sens des considérants, subsidiairement d'annuler la décision de la cour cantonale et d'octroyer le permis sollicité ainsi que la demande de régularisation. Ils se plaignent d'une violation de leur droit d'être entendus, d'arbitraire dans l'établissement des faits et d'une violation de l'art. 24c LAT. La cour cantonale conclut au rejet du recours et se réfère à sa décision. La municipalité se déclare incompétente pour se déterminer sur une construction hors zone à bâtir. L'Office fédéral du développement territorial renonce à toute observation en l'absence de question de principe.
Considérant en droit:
1. Dirigé contre une décision prise en dernière instance cantonale rendue dans le domaine du droit public des constructions, le recours est recevable comme recours en matière de droit public conformément aux art. 82 ss LTF, aucune des exceptions prévues à l'art. 83 LTF n'étant réalisée. Les recourants ont pris part à la procédure de recours devant l'autorité cantonale et sont particulièrement touchés par l'arrêt attaqué qui confirme le refus du permis de construire, ainsi que de la demande de régularisation, et exige la remise en l'état. Ils ont donc la qualité pour agir au sens de l'art. 89 al. 1 LTF. Les autres conditions de recevabilité du recours en matière de droit public étant remplies, il convient d'entrer en matière.
La voie ordinaire étant ouverte en l'espèce, le recours constitutionnel subsidiaire est exclu (art. 113 LTF) et le présent recours sera traité exclusivement comme un recours en matière de droit public.
2. Dans un grief formel qu'il convient d'examiner en premier lieu, les recourants se plaignent d'une violation du droit d'être entendus garanti à l'art. 29 al. 2 Cst. Ils reprochent à la cour cantonale de ne pas avoir procédé à une inspection locale malgré une requête présentée par le SDT.
2.1 Tel qu'il est reconnu par cette disposition, le droit d'être entendu comprend notamment le droit pour l'intéressé de prendre connaissance du dossier, d'offrir des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat lorsque cela est de nature à influer sur la décision à rendre (ATF 135 II 286 consid. 5.1 p. 293; 129 II 497 consid. 2.2 p. 504 s.; 126 I 15 consid. 2a/aa p. 16 et les arrêts cités). Cette garantie constitutionnelle n'empêche pas l'autorité de mettre un terme à l'instruction lorsque les preuves administrées lui ont permis de former sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude qu'elles ne pourraient l'amener à modifier son opinion (ATF 130 II 425 consid. 2.1 p. 429; 119 Ib 492 consid. 5b/bb pp. 505 s.; cf. également ATF 137 III 208 consid. 2.2 p. 210).
2.2 En l'occurrence, les recourants n'ont jamais requis de l'autorité cantonale une inspection des lieux. Leur mémoire de recours du 15 février 2010 ne contient aucune requête de preuve. Lorsque, par lettre du 17 avril 2012, le SDT a interpellé le Tribunal cantonal pour lui demander si la Cour pouvait statuer en l'état du dossier ou si une inspection locale serait aménagée, les recourants ne se sont pas joints à cette demande. Ils n'ont pas requis d'inspection locale non plus à réception de la lettre de l'autorité cantonale du 18 avril 2012 qui indiquait vouloir statuer vraisemblablement sans visite des lieux ni audience aux débats. Dans ces circonstances, les recourants, qui n'ont pas fait usage de leur droit à demander une inspection des lieux, ne peuvent ensuite se prévaloir d'une violation de leur droit d'être entendus. Il ne peut, en l'occurrence, y avoir refus d'instruire un moyen de preuve puisque ce dernier n'a pas été requis. Le grief de violation du droit d'être entendu doit donc être écarté.
3. Les recourants prétendent que les constatations de fait de l'arrêt attaqué seraient arbitraires.
3.1 Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). Si le recourant entend s'écarter des constatations de fait de l'autorité précédente, il doit expliquer de manière circonstanciée en quoi les conditions de l'art. 105 al. 2 LTF seraient réalisées et la correction du vice susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). En particulier, l'autorité de céans n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (cf. ATF 137 II 353 consid. 5 p. 356; 136 II 101 consid. 3 p. 104 s.; 135 II 313 consid. 5.2.2 p. 322).
En matière d'appréciation des preuves et d'établissement des faits, l'autorité tombe dans l'arbitraire lorsqu'elle ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (ATF 137 III 226 consid. 4.2 p. 234; 137 I 58 consid. 4.1.2 p. 62).
3.2 Les recourants font notamment grief à la décision attaquée de ne pas prendre en compte les plans qu'ils ont présentés et de s'appuyer exclusivement sur ceux élaborés par le SDT. En l'espèce, la cour cantonale a expliqué les raisons pour lesquelles elle a écarté les conclusions des recourants. Ceux-ci n'ont pas indiqué le détail de leur calcul mais se sont contentés de présenter un simple récapitulatif. Ils ont déposé des plans (pièces 28 à 31) non cotés qui ne permettent pas de distinguer les différentes surfaces prises en compte. Ils ne pouvaient se contenter d'alléguer qu'au 1er juillet 1972, 630 m2 étaient dévolus à l'habitation, 120 m2 à une surface artisanale et 85 m2 à un garage. Ils devaient expliquer comment ces surfaces avaient pu être évaluées, quels étaient les plans sur lesquels ils s'étaient appuyés et enfin comment l'affectation des locaux avait pu être définie. A l'inverse, le SDT a présenté une vue précise des différentes surfaces, avant et après le 1er juillet 1972 et des surfaces commerciales existantes au 1er janvier 1980, un plan détaillé des travaux et agrandissements autorisés après le 1er juillet 1972 et enfin un plan des travaux et agrandissements illicites selon les plans du 30 janvier 2009, ainsi que des vues aériennes. La cour cantonale avait donc de sérieuses raisons de préférer le calcul présenté par le SDT à celui des recourants. En outre, l'autorité cantonale a examiné, au cas par cas, toutes les surfaces contestées en prenant soin d'expliquer les motifs qui l'ont conduite à retenir ou exclure lesdites surfaces. Contrairement à ce qu'affirment les recourants, la cour cantonale a donc pris en considération les éléments de fait de façon pertinente et n'est pas tombée dans l'arbitraire.
3.3 Dans un grief de nature appellatoire, les recourants reprochent également à la cour cantonale d'avoir admis que, si les archives communales ne permettaient pas de dater des travaux, il paraissait plus probable que ceux-ci n'avaient pas fait l'objet d'une demande de permis. Les recourants n'expliquent pas de la manière exigée par la loi en quoi l'état de fait retenu par le Tribunal cantonal serait manifestement inexact ou violerait le droit, en particulier serait arbitraire, et ces prétendues inexactitudes ne sont pas manifestes. Ils se contentent d'alléguer, à l'inverse, que les travaux effectués à une date indéterminée, doivent être présumés licites. Ils oublient d'une part qu'il appartient au recourant d'établir les éléments dont il entend se prévaloir et qui ne ressortent pas du dossier. Ils passent sous silence, d'autre part, le fait que la cour cantonale et le SDT se sont fondés sur des plans déposés et des demandes d'autorisation de construire ainsi que sur des vues aériennes pour déterminer la date des travaux. L'autorité cantonale a précisé que, si des travaux ne pouvaient être datés, cela ne signifiait pas qu'ils étaient antérieurs au 1er juillet 1972 et que, dans ces circonstances, on ne pouvait reprocher au SDT de s'être référé aux dernières affectations documentées, soit aux plans du 6 octobre 1963. Cela étant, le grief est insuffisamment motivé au regard des art. 42 al. 2 et 106 al. 2 LTF et, partant, irrecevable.
La cour cantonale n'a ainsi pas établi arbitrairement que le bâtiment litigieux comptait, avant le 1er juillet 1972, environ 479,10 m2 de surface brute de plancher imputable, 468 m2 de surface annexe et, au 1er janvier 1980, 149,50 m2 de surface artisanale.
3.4 Par conséquent, le grief de constatation arbitraire des faits doit être rejeté, dans la mesure où il est recevable.
4. Les recourants font grief à la cour cantonale d'avoir retenu, sur la base des art. 24c LAT et 42 OAT, que tous les aménagements effectués à une date indéterminée sont illicites, d'autant plus que, jusqu'en 1983, la commune du Mont-sur-Lausanne ne disposait d'aucune réglementation en matière de construction.
4.1 Selon l'art. 24c LAT, les constructions et installations sises hors de la zone à bâtir, qui peuvent être utilisées conformément à leur destination mais qui ne sont plus conformes à l'affectation de la zone, bénéficient en principe de la garantie de la situation acquise (al. 1). L'autorité compétente peut autoriser la rénovation de telles constructions et installations, leur transformation partielle, leur agrandissement mesuré ou leur reconstruction, pour autant que les bâtiments aient été érigés ou transformés légalement. Dans tous les cas, les exigences majeures de l'aménagement du territoire doivent être satisfaites (al. 2). Le champ d'application de l'art. 24c LAT est restreint aux constructions et aux installations sises hors de la zone à bâtir, qui ne sont plus conformes à l'affectation de la zone à la suite d'un changement de réglementation. La garantie de la situation acquise ne profite ainsi qu'aux constructions érigées ou transformées de manière conforme au droit matériel en vigueur à l'époque (art. 41 OAT; ATF 129 II 396 consid. 4.2.1 p. 398; 127 II 209 consid. 2c p. 212), soit avant le 1er juillet 1972, date de l'entrée en vigueur de la loi fédérale du 8 octobre 1971 sur la protection des eaux contre la pollution qui a introduit expressément le principe de la séparation du territoire bâti et non bâti (ATF 129 II 396 consid. 4.2.1 p. 398). En tant que dérogation aux principes fixés à l'art. 24 LAT, l'art. 24c LAT ne saurait être interprété extensivement. L'art. 42 OAT pose au contraire des limites claires aux modifications qui peuvent être apportées à de telles constructions. L'identité de la construction et de ses abords doit être respectée pour l'essentiel (al. 1). La surface brute de plancher ne peut être augmentée de plus de 60 % à l'intérieur du volume bâti (al. 3 let. a). Un agrandissement extérieur ne peut dépasser le 30 % de la surface ou 100 m2 (al. 3 let. b).
4.2 En l'occurrence, l'autorité cantonale a établi de façon conforme au droit les faits relatifs à la date présumée des travaux; elle ne s'est pas contentée de vagues suppositions, mais a analysé en détail les plans à sa disposition pour évaluer le plus précisément possible l'état de la construction au 1er juillet 1972. Cette date est seule déterminante. La faculté de transformer partiellement une construction ou une installation bénéficiant de la situation acquise hors zone à bâtir relève exclusivement du droit fédéral (ATF 127 II 215 consid. 3b p. 219), de sorte que la réglementation communale est sans pertinence. Sur la base des plans précis déposés par le SDT, la cour cantonale est ainsi arrivée à la conclusion que les possibilités d'agrandissement des constructions existantes au 1er juillet 1972 ont été très largement utilisées et que les travaux et aménagements ne peuvent faire l'objet d'aucune régularisation. Il convient également de souligner que le SDT a régularisé ou toléré certains travaux soit en raison de leur ancienneté, soit parce qu'ils ne portaient pas atteinte à des intérêts publics prépondérants ou de tiers.
5. Il s'ensuit que le recours doit être rejeté aux frais des recourants qui succombent (art. 65 et 66 al. 1 LTF). L'ordre de démolition et de remise en état des lieux est donc maintenu, sous réserve du délai d'exécution qui sera reporté.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté, dans la mesure où il est recevable.
2. Un nouveau délai échéant au 31 août 2013, inscrit sous forme d'une mention au registre foncier, est imparti aux recourants pour procéder aux travaux de démolition et de remise en état des lieux.
3. Les frais judiciaires, arrêtés à 4'000 francs, sont mis à la charge des recourants.
4. Il n'est pas alloué de dépens.
5. Le présent arrêt est communiqué aux mandataires des recourants et du Service du développement territorial du canton de Vaud, à la Municipalité du Mont-sur-Lausanne, au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, et à l'Office fédéral du développement territorial.
Lausanne, le 25 février 2013
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Juge présidant: Merkli
La Greffière: Sidi-Ali