A.- Ressortissant yougoslave né le 1er juin 1968, X._ est arrivé en Suisse le 31 août 1992 et y a déposé le jour même une demande d'asile que l'Office fédéral des réfugiés a rejetée par décision du 16 novembre 1992, en admettant provisoirement l'intéressé en Suisse. Le 6 janvier 1995, X._ a épousé A._, ressortissante portugaise née le 26 septembre 1963, bénéficiant d'une autorisation d'établissement en Suisse. L'intéressé s'est alors vu accorder une autorisation de séjour à l'année, qui a été prolongée plusieurs fois, la dernière fois jusqu'au 1er février 1999. Le 8 septembre 1998, le Tribunal correctionnel du district de Lausanne a condamné X._ à deux ans d'emprisonnement sous déduction de trois cent cinq jours de détention préventive pour infraction grave à la loi fédérale du 3 octobre 1951 sur les stupéfiants et les substances psychotropes (loi sur les stupéfiants; LStup; RS 812. 121); il a également prononcé l'expulsion du territoire suisse de l'intéressé pour une durée de cinq ans avec sursis pendant trois ans. Le 8 janvier 1999, l'Office cantonal de contrôle des habitants et de police des étrangers du canton de Vaud (ci-après: l'Office cantonal) a révoqué l'autorisation de séjour de X._ et enjoint à l'intéressé de quitter le territoire vaudois dès qu'il aurait purgé sa peine. Cette décision se fondait en particulier sur l'art. 10 al. 1 lettres a et b de la loi fédérale du 26 mars 1931 sur le séjour et l'établissement des étrangers (LSEE; RS 142. 20). Le 26 mai 1999, la femme de l'intéressé a donné naissance à une fille, Z._. Le 5 janvier 2000, le Tribunal pénal de l'arrondissement de la Veveyse a condamné X._ pour lésions corporelles graves et simples et participation à une rixe à huit mois d'emprisonnement ferme sous déduction de la détention préventive subie, peine complémentaire à celle prononcée le 8 septembre 1998 par le Tribunal correctionnel du district de Lausanne; il a en outre ordonné l'expulsion du territoire suisse de l'intéressé pour une durée de cinq ans avec sursis pendant trois ans. Le 20 novembre 2000, le Tribunal administratif du canton de Vaud (ci-après: le Tribunal administratif) a rejeté le recours de X._ contre la décision de l'Office cantonal du 8 janvier 1999, confirmé cette décision et imparti à l'intéressé un délai échéant le 10 janvier 2001 pour quitter le territoire vaudois. Il a notamment estimé que l'expulsion de X._ était justifiée. En outre, il ressortait de la pesée des intérêts en présence, effectuée dans le cadre de l'application de l'art. 8 CEDH, que l'intérêt privé de X._ à rester en Suisse ne l'emportait pas sur l'intérêt public à son éloignement. B.- Le 4 janvier 2001, X._ a demandé au Service de la population du canton de Vaud (ci-après: le Service cantonal), autorité désormais compétente en la matière, de réexaminer sa situation. Il invoquait en substance qu'il avait repris la vie commune avec sa femme depuis le mois de novembre 2000, de sorte que les conditions d'un regroupement familial étaient à nouveau réalisées. Il sollicitait en conséquence une autorisation de séjour et de travail à l'année. Par décision du 26 janvier 2001 fondée notamment sur l'art. 10 al. 1 lettres a et b LSEE, le Service cantonal a rejeté la requête de X._ et ordonné à l'intéressé de partir sans délai. Il a notamment relativisé l'importance de la reprise de la vie commune du couple X._, puisqu'au moment de la décision précitée de l'Office cantonal du 8 janvier 1999, les époux X._ ne s'étaient pas encore séparés. Il a en outre rappelé la jurisprudence concernant les étrangers trafiquant de la drogue et pris en compte la condamnation susmentionnée prononcée le 5 janvier 2000 à l'encontre de l'intéressé. Il a enfin considéré que X._ était incapable de respecter les us et coutumes du pays qui lui avait offert l'hospitalité. C.- Par arrêt du 29 mars 2001, le Tribunal administratif a rejeté le recours de X._ contre la décision du Service cantonal du 26 janvier 2001, confirmé cette décision et imparti à l'intéressé un délai échéant le 30 avril 2001 pour quitter le territoire vaudois. Il a notamment estimé que la reprise de la vie commune du couple X._ n'était pas un fait nouveau. En revanche, la naissance de Z._, inconnue de l'Office cantonal le 8 janvier 1999, constituait un fait nouveau. Cependant, il résultait de la pesée des intérêts, effectuée dans le cadre de l'application de l'art. 8 CEDH, que l'intérêt public à l'éloignement de X._ l'emportait en l'espèce. D.- Agissant par la voie du recours de droit administratif, X._ demande au Tribunal fédéral, sous suite de dépens, d'annuler l'arrêt du Tribunal administratif du 29 mars 2001, d'admettre sa demande de réexamen du 4 janvier 2001 et de lui accorder une autorisation de séjour à l'année. Il invoque les art. 17 LSEE et 8 CEDH. Il se plaint en particulier de la violation du principe de la proportionnalité. Il requiert l'effet suspensif. Le Tribunal administratif conclut au rejet du recours dans la mesure où il est recevable. Le Service cantonal se réfère aux déterminations de l'autorité intimée. L'Office fédéral des étrangers propose le rejet du recours.