Faits: A. Propriétaires des parcelles n° 2066 et 2081 de la commune de Sainte-Croix, A._ et B._ y ont aménagé en 2004 des écuries (sur la zone village) et un carré d'échauffement et de mise en extérieur des chevaux (paddock) de plus de 400 m2, principalement en zone agricole. Le 14 mai 2004, ils ont obtenu, pour cette dernière installation, une autorisation "à bien plaire". Le 21 juillet 2009, le Service cantonal vaudois du développement territorial (SDT) a ordonné l'enlèvement du paddock et la remise du terrain dans l'état antérieur jusqu'au 31 mai 2010. Par arrêt du 19 février 2010, la Cour de droit administratif et public du Tribunal cantonal vaudois (ci-après: la CDAP) a confirmé cette décision. L'installation litigieuse n'avait pas sa place en zone agricole. Ni les arguments d'ordre financier, ni les intentions (non concrétisées) de la commune de modifier la limite de la zone village ne permettaient de remettre en cause la proportionnalité de l'ordre de remise en état. B. Au mois de mars 2010, les propriétaires ont demandé la fixation de nouveaux délais d'exécution afin de tenir compte de l'intention de la Municipalité de rectifier la limite de la zone village afin d'y inclure (moyennant compensation) la surface du paddock. Par lettre du 5 juillet 2010 adressée à C._ et à son épouse (propriétaires voisins), le SDT a fait savoir qu'il suspendait l'exécution des travaux de remise en état, l'affectation de la parcelle n° 2081 étant en cours de réexamen. La remise en état serait exécutée si la procédure de planification devait ne pas aboutir. Le SDT a confirmé cette décision les 28 octobre 2010 et 23 février 2011. C._ s'est adressé en vain au Tribunal cantonal pour obtenir l'exécution de l'ordre de remise en état. Par arrêt du 18 mai 2011 (1C_175/2011), le Tribunal fédéral a considéré qu'il appartenait à la cour cantonale de statuer sur un recours pour déni de justice dirigé contre le refus du SDT d'exécuter sa décision du 21 juillet 2009. C. Par arrêt du 4 novembre 2011, la CDAP a admis le recours de C._. L'ordre de remise en état était entré en force, et le SDT était tenu de l'exécuter. Il n'y avait pas lieu à réexamen ou à révision des décisions rendues à ce sujet puisque la procédure de modification de la planification était alors insuffisamment avancée: au mois d'avril 2011, elle n'en était qu'au stade de l'"offre d'étude". Le sort d'une telle modification demeurait d'ailleurs incertain, de sorte que rien ne justifiait la suspension de l'ordre de remise en état. Ordre était donné au SDT d'exécuter sans désemparer sa décision du 21 juillet 2009 en octroyant de nouveaux délais dans ce but. D. A._ et B._ forment un recours en matière de droit public par lequel ils demandent la réforme de l'arrêt cantonal en ce sens que le recours de C._ est rejeté, la décision du 21 juillet 2009 étant suspendue jusqu'à droit connu sur la nouvelle planification communale; subsidiairement, ils concluent à la seule annulation de l'arrêt attaqué. Ils demandent l'effet suspensif. La CDAP conclut au rejet du recours en se référant à son arrêt. Le SDT s'est déterminé dans le sens de l'admission du recours. La Municipalité de Sainte-Croix relève qu'une procédure de modification de son plan général d'affectation (PGA) est en cours, au stade de l'examen préalable. C._, agissant en personne, se prononce dans le sens du rejet du recours et demande une indemnisation. L'Office fédéral du développement territorial a renoncé à présenter des observations, tout en relevant que le rétablissement d'une situation conforme au droit est d'une "importance primordiale". En réplique, les recourants ont maintenu leurs motifs et conclusions; ils relèvent que la modification du PGA a été mise à l'enquête du 16 mai au 14 juin 2012; ils demandent la suspension de la présente procédure jusqu'à droit connu à ce sujet. Le SDT estime que l'exécution de l'ordre de remise en état serait disproportionné s'il est prévisible que le paddock pourra être maintenu selon la nouvelle réglementation. Le SDT et la Municipalité se prononcent en faveur de la suspension de la procédure; C._ s'y est opposé. La cour cantonale s'en remet à justice.