A.- D._ est titulaire d'une licence ès sciences économiques. De retour en Suisse après une mission humanitaire bénévole de six mois en Inde, il a offert ses services au Comité international de la Croix-Rouge (CICR). Il a, par ailleurs, déposé, le 9 avril 1999, une demande d'indemnités de chômage, dès le 29 mars 1999, auprès de la Caisse publique cantonale vaudoise de chômage (ci-après : la caisse). A la suite des recherches d'emploi effectuées par l'assuré dans le cadre du contrôle de son chômage, l'entreprise L._ SA lui a proposé, par lettre du 3 mai 1999, un emploi d'analyste financier, pour un salaire mensuel brut de 5700 fr. payé treize fois l'an. L'entrée en fonction était fixée au 28 juin 1999. L'assuré a accepté cette offre. Cependant, par lettre du 31 mai 1999, le CICR a informé D._ que sa candidature avait été retenue et qu'il était invité à participer à un "cours d'intégration", du 5 au 10 septembre 1999. Cette lettre précisait notamment que, durant cette semaine, les candidats ne seraient pas au bénéfice d'un contrat de travail, qui pourrait toutefois être conclu à l'issue du cours, pour une date à déterminer selon les disponibilités des candidats, mais au plus tard dans les quatre mois. L'assuré a alors informé L._ SA de son intention de ne pas travailler au sein de cette entreprise au-delà du 31 août 1999, ensuite de quoi il fut convenu, d'entente entre D._ et L._ SA, de renoncer à cet engagement. Par décision du 3 août 1999, la caisse a prononcé la suspension du droit de l'assuré aux indemnités de chômage pour une durée de 35 jours à compter du 28 juin 1999, au motif qu'il était au chômage par sa propre faute, ayant refusé l'emploi convenable qui lui était proposé. D._ a recouru contre cette décision devant le Service de l'emploi de l'Etat de Vaud (ci-après : le service de l'emploi). Ce dernier a rejeté le recours, par décision du 21 décembre 1999, et confirmé la suspension au motif substitué que l'assuré n'avait pas fait tout ce qu'on pouvait raisonnablement attendre de lui pour trouver un travail convenable. B.- Contre cette décision, l'assuré a interjeté recours devant le Tribunal administratif du canton de Vaud. Par jugement du 28 novembre 2000, ce dernier a admis partiellement le recours et ramené la durée de la suspension de 35 à 15 jours. C.- Le service de l'emploi interjette recours de droit administratif contre ce jugement, en concluant à son annulation. L'intimé conclut implicitement au rejet du recours. La caisse et le Secrétariat d'Etat à l'économie ont renoncé à se déterminer.