A.- A la suite de l'arrêt du Tribunal fédéral des assurances du 22 mars 1999 (C 240/98), la Caisse publique cantonale vaudoise de chômage (la caisse de chômage) a fixé à 30 804 fr. 60, par décision du 20 mai 1999, le montant des indemnités perçues à tort que F._ devait lui restituer. F._ a déféré cette décision au Service de l'emploi du canton de Vaud, première instance cantonale de recours en matière d'assurance-chômage (le service de l'emploi). Il a conclu à la libération de son obligation de rembourser, en soutenant que les indemnités indûment touchées ne se montaient qu'à 23 813 fr. 20. Par décision du 17 avril 2000, le service de l'emploi a admis partiellement le recours en ce sens qu'il a ramené la somme à restituer à 30 354 fr. 50. B.- F._ a recouru contre cette décision devant le Tribunal administratif du canton de Vaud, en concluant à son annulation. Par ordonnance du 15 mai 2000, le Tribunal administratif a invité le service de l'emploi à déposer sa réponse jusqu'au 6 juin 2000. Dans une décision rectificative du 16 mai 2000, notifiée aux parties ainsi qu'au Tribunal administratif, le service de l'emploi a annulé sa décision du 17 avril 2000, dit que le montant à restituer s'élevait à 30 804 fr. 60, et rejeté en conséquence le recours formé contre la décision du 20 mai 1999. F._ a recouru contre cette nouvelle décision en concluant à son annulation. Par jugement 28 août 2000, la juridiction cantonale a rejeté les recours et confirmé la décision rectificative du 16 mai 2000. C.- F._ interjette recours de droit administratif contre ce jugement dont il demande l'annulation. La caisse de chômage intimée s'en remet à justice. Le service de l'emploi et le Secrétariat d'Etat à l'économie ne se sont pas déterminés.