A.- Ressortissant yougoslave né en 1964, X._ est entré en Suisse le 26 juillet 1993 au bénéfice d'une autorisation de séjour d'une durée de trois mois. Une semaine plus tôt, il avait divorcé de A._, une compatriote avec laquelle, marié depuis 1987, il avait eu deux filles, Z._, née en 1990 et B._, née en 1993. D'un précédent et premier mariage, X._ était également le père d'un garçon, Y._, né en 1986. Le 4 septembre 1993, X._ a épousé C._ en troisièmes noces; son autorisation de séjour a depuis lors été régulièrement prolongée, vu la nationalité suisse de son épouse. Au cours de l'été 1996, les époux X._ se sont séparés avant d'entamer, en juillet 1998, une procédure de divorce qui a finalement abouti au prononcé d'un jugement de divorce au début 1999. Dans l'intervalle, X._ avait requis et obtenu, en 1998, des autorisations de séjour pour faire venir en Suisse, au titre du regroupement familial, ses enfants Y._ et Z._. En revanche, la demande qu'il avait formulée pour lui-même, également en 1998, tendant à la délivrance d'un permis d'établissement, a été considérée comme provisoirement "sans objet" par l'autorité compétente qui voulait d'abord connaître le résultat d'une enquête pénale ouverte à l'encontre de l'intéressé avant de se prononcer sur son cas. Cette enquête portait sur des infractions que X._ était accusé d'avoir commises sur la personne de D._, une femme avec laquelle il avait entretenu une relation extra-conjugale entre 1997 et 1998. En mai 1999, X._ s'est remarié en Albanie avec sa deuxième épouse, A._, qui lui avait entre-temps donné, en 1998, une troisième fille prénommée E._. Peu de temps après son remariage, A._ est entrée en Suisse avec ses enfants B._ et E._; elle a immédiatement sollicité des autorisations de séjour pour elle-même et ses enfants au titre du regroupement familial. Par décision du 4 avril 2000, le Service de la population du canton de Vaud (ci-après : le service cantonal) a refusé de prolonger l'autorisation de séjour d'X. _, subsidiairement de la transformer en autorisation d'établissement, en considérant que son mariage avec C._ était "abusif". Dans la même décision, le service cantonal refusait également de prolonger les autorisations de séjour accordées à ses enfants Y._ et Z._ ainsi que d'accorder de telles autorisations à son épouse A._ et à ses deux autres enfants B._ et E._. B.- Par arrêt du 24 avril 2001, le Tribunal administratif du canton de Vaud a rejeté le recours formé par X._ ainsi que son épouse et ses enfants contre la décision du 4 avril 2000 du service cantonal, en leur impartissant un délai au 30 juin 2001 pour quitter le territoire vaudois. C.- Agissant par la voie du recours de droit administratif, X._ et ses enfants Y._ et Z._ demandent au Tribunal fédéral, sous suite de dépens, de réformer l'arrêt rendu le 24 avril 2001 par le Tribunal administratif du canton de Vaud en ce sens que leurs autorisations de séjour soient renouvelées. Le service cantonal s'en remet intégralement aux déterminations du Tribunal administratif. Sur le fond, celui-ci conclut au rejet du recours dans la mesure où il est recevable, ce que propose également l'Office fédéral des étrangers. D.- Par ordonnance présidentielle du 12 juin 2001, la requête d'effet suspensif au recours a été admise.