A.- M._, ressortissant yougoslave né le 10 décembre 1959, a épousé le 7 avril 1983 T._ qui lui a donné trois enfants. Ce mariage a été dissous par un jugement de divorce prononcé le 8 juillet 1994, la garde des enfants étant confiée à la mère. M._ est arrivé seul en Suisse le 18 février 1995, les autorités vaudoises compétentes l'ayant autorisé le 23 janvier 1995 à faire un séjour de trois mois sans prolongation à La Tour-de-Peilz pour se marier. Le 17 mars 1995, l'intéressé a épousé P._, ressortissante suisse née le 21 août 1968. M._ s'est alors vu délivrer une autorisation de séjour à l'année qui a été régulièrement prolongée, la dernière fois jusqu'au 16 mars 2000. Le 17 mai 2000, le Service de la population du canton de Vaud (ci-après: le Service cantonal) a refusé de renouveler l'autorisation de séjour de M._, subsidiairement de la transformer en autorisation d'établissement. Il a en conséquence imparti à l'intéressé un délai d'un mois dès la notification de cette décision pour quitter le territoire vaudois. Le Service cantonal a considéré que M._ avait très certainement conclu un mariage dans le seul but d'obtenir une autorisation [de séjour] et qu'en tout cas, il se prévalait de manière abusive du droit découlant de l'art. 7 de la loi fédérale du 26 mars 1931 sur le séjour et l'établissement des étrangers (LSEE; RS 142. 20) pour continuer à bénéficier d'une autorisation de séjour. B.- M._ a recouru contre la décision du Service cantonal du 17 mai 2000 au Tribunal administratif du canton de Vaud (ci-après: le Tribunal administratif) qui, par arrêt du 17 novembre 2000, a rejeté le recours, confirmé la décision attaquée et fixé à l'intéressé un délai échéant le 10 janvier 2001 pour quitter le territoire vaudois. En substance, le Tribunal administratif a repris et développé l'argumentation du Service cantonal. C.- Agissant par la voie du recours de droit public, M._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du Tribunal administratif du 17 novembre 2000 et de renvoyer "le dossier de la cause" à l'autorité intimée pour nouvelles instruction et décision. Il invoque les art. 9 et 29 al. 2 Cst. Il se plaint essentiellement d'arbitraire et de violation du droit d'être entendu. Le Tribunal administratif a renoncé à déposer une réponse, tout en se référant à l'arrêt attaqué. Le Service cantonal s'en remet aux déterminations de l'autorité intimée. D.- Par ordonnance du 25 janvier 2001, le Président de la IIe Cour de droit public a admis la demande d'effet suspensif présentée par M._.