A.- a) Dans le cadre d'une révision des dossiers de la Caisse publique cantonale vaudoise de chômage (la caisse), le Secrétariat d'Etat à l'économie (seco) a constaté que la société J._ SA, entreprise de génie civil, avait bénéficié à tort d'un montant de 58 272 fr. 25 à titre d'indemnités pour cause d'intempéries (cf. rapports provisoire du 26 janvier 1998 et définitif du 26 mars 1998).
Par décision du 27 mars 1998, la caisse a invité J._ SA à lui restituer cette somme. Le Service de l'emploi du canton de Vaud, première instance cantonale de recours en matière d'assurance-chômage (le service de l'emploi), a rejeté le recours de l'employeur prénommé, par décision du 13 octobre 1999, si bien que la décision de la caisse est entrée en force.
b) Par écriture du 17 janvier 2000, J._ SA a demandé à la caisse de remettre son obligation de restituer la somme de 58 272 fr. 25, arguant de sa bonne foi et des rigueurs particulières que le remboursement lui occasionnerait.
Par décision du 8 septembre 2000, le service de l'emploi a rejeté la demande.
B.- J._ SA a recouru contre cette décision devant le Tribunal administratif du canton de Vaud, en concluant implicitement à son annulation.
Par jugement du 29 décembre 2000, le Tribunal administratif a admis le recours, annulé la décision du 8 septembre 2000, et renvoyé la cause au service de l'emploi pour complément d'instruction dans le sens de ses considérants et nouvelle décision.
C.- Le seco interjette recours de droit administratif contre ce jugement dont il demande l'annulation.
J._ SA conclut au rejet du recours et propose, à titre transactionnel, de rembourser le montant de 38 000 fr. La caisse s'en remet à justice.

Considérant en droit :
1.- a) Le litige porte sur les conditions de la remise de l'obligation de restituer, au sens de l'<ref-law>, singulièrement celle de la bonne foi de l'intimée.
b) Dès lors, la décision litigieuse n'ayant pas pour objet l'octroi ou le refus de prestations d'assurance, le Tribunal fédéral des assurances doit se borner à examiner si les premiers juges ont violé le droit fédéral, y compris par l'excès ou par l'abus de leur pouvoir d'appréciation, ou si les faits pertinents ont été constatés d'une manière manifestement inexacte ou incomplète, ou s'ils ont été établis au mépris de règles essentielles de procédure (art. 132 en corrélation avec les art. 104 let. a et b et 105 al. 2 OJ).
2.- a) Le Tribunal administratif a constaté que le service de l'emploi ne s'était pas prononcé sur la bonne foi de l'intimée lorsqu'elle avait perçu des indemnités pour les heures effectuées par ses travailleurs au dépôt.
Il a considéré dès lors que la cause ne se trouvait pas en état d'être jugée et qu'un complément d'instruction s'imposait (consid. 1b du jugement attaqué).
b) Le seco reproche à la juridiction cantonale d'avoir invité en réalité le service de l'emploi à examiner à nouveau la question de la perte de travail à prendre en considération (art. 42 et 43 al. 1 LACI) et, par conséquent, le droit à l'indemnité en cas d'intempéries. Il soutient que ce point a été définitivement tranché par le service de l'emploi dont la décision du 13 octobre 1999 est entrée en force. Le tribunal administratif a par conséquent renvoyé à tort la cause au service de l'emploi pour qu'il examine la question de savoir si les employés de la société J._ SA avaient travaillé lorsqu'ils se trouvaient au dépôt, puisque ce point ne peut plus être revu dans le cadre de la procédure de remise de l'obligation de restituer.
3.- a) Pour tenter de se justifier dans la procédure de remise de l'obligation de restituer, l'intimée impute à une ancienne secrétaire la responsabilité d'erreurs dans la tenue des décomptes des heures de travail effectuées par ses salariés. Or ces allégations, pour autant qu'elles soient crédibles, apparaissent tardives dans la mesure où elles viseraient à remettre en discussion les faits définitivement fixés dans la procédure de restitution. A cet égard, la réalité des faits constatés par le seco dans ses rapports provisoire du 26 janvier 1998 et définitif du 26 mars 1998, à l'appui desquels la caisse de chômage a rendu sa décision en restitution, ne peut plus être réexaminée par le juge dès lors qu'il s'agit formellement d'une nouvelle procédure dans laquelle on ne saurait en principe revenir sur ce qui a été constaté dans la procédure ayant abouti à la décision de restitution du 27 mars 1998.
Au demeurant, dans le cadre d'une procédure de remise de l'obligation de restituer, selon l'<ref-law>, l'employeur doit se laisser imputer les éventuelles erreurs du représentant ou de l'auxiliaire auquel il a eu recours pour remplir ses obligations d'aviser et de renseigner (<ref-ruling> consid. 3b; DTA 2001 n° 18 p. 162 consid. 4 avec les références).
b) Parmi les irrégularités qui ont été mises à jour lors de la révision du seco, le service de l'emploi a retenu, en particulier, que l'intimée avait déclaré des pertes de travail pour cause d'intempéries alors même que ses travailleurs étaient occupés au dépôt ou qu'ils effectuaient des heures supplémentaires (ch. 3 de la décision du 8 septembre 2000).
En présence de faits de cette nature, le service de l'emploi ne pouvait bien évidemment que nier la bonne foi de l'intimée, au sens de l'<ref-law>, compte tenu de la négligence grave dont elle avait fait preuve soit par l'intermédiaire de ses organes soit par le comportement d'employés dont elle répond. En conséquence, il a rejeté à juste titre la demande de remise de l'obligation de restituer.
4.- La procédure n'est pas gratuite, s'agissant d'un litige qui ne porte pas sur l'octroi ou le refus de prestations d'assurance (art. 134 OJ a contrario). L'intimée, qui succombe, supportera les frais de justice (art. 153a, 156 al. 1 OJ).

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est admis et le jugement du Tribunal administratif
du canton de Vaud du 29 décembre 2000 est
annulé.
II. Les frais de justice, d'un montant total de 1600 fr., sont mis à la charge de l'intimée.
III. Le présent arrêt sera communiqué aux parties, au Tribunal
administratif du canton de Vaud, au Service de
l'emploi du canton de Vaud, et à la Caisse publique
cantonale vaudoise de chômage.
Lucerne, le 11 juin 2002
Au nom du
Tribunal fédéral des assurances
La Présidente de la IVe Chambre :
Le Greffier :