A.- Ressortissant yougoslave né en 1955, M.G._ a travaillé en Suisse au bénéfice d'une autorisation de séjour de courte durée valable du 15 août au 14 décembre 1992, puis d'une autorisation de séjour saisonnière valable du 2 mai au 30 novembre 1993. Le 24 septembre 1993, il a épousé en secondes noces M.H._, ressortissante suisse née le 28 juin 1947, et s'est par conséquent vu octroyer une autorisation de séjour à l'année qui a été régulièrement prolongée. Par décision du 13 octobre 2000, il a été mis au bénéfice d'une autorisation d'établissement. De son premier mariage avec une compatriote, dissous par un jugement de divorce devenu définitif le 9 novembre 1992, M.G._ a eu trois enfants: J.G._, né le 11 décembre 1980, D.G._, né le 14 décembre 1982, et A.G._, né le 8 février 1985. Le 22 octobre 1999, D.G._ et A.G._ sont arrivés en Suisse avec leur mère. Ils ont tous les trois déposé une demande d'asile le 7 février 2000. Ces demandes ont été rejetées le 21 mars 2000, un délai de départ échéant le 15 juillet 2000 étant imparti aux intéressés pour quitter la Suisse. La mère est repartie dans son pays d'origine le 21 août 2000; D.G._ et A.G._, en faveur desquels M.G._ a présenté une demande de regroupement familial le 6 mars 2000, sont restés en Suisse. Par décision du 17 novembre 2000, le Département de la police du canton de Fribourg (ci-après: le Département cantonal) a refusé d'octroyer les autorisations de séjour sollicitées par M.G._ pour ses fils D.G._ et A.G._ et imparti à ces derniers un délai de trente jours dès la notification de cette décision pour partir. B.- Par décision du 15 mars 2001, la Ière Cour administrative du Tribunal administratif du canton de Fribourg (ci-après: le Tribunal administratif) a rejeté le recours de M.G._ contre la décision du Département cantonal du 17 novembre 2000. Le Tribunal administratif a notamment retenu que M.G._ aurait pu, en 1993 déjà, requérir le regroupement familial en faveur de ses fils D.G._ et A.G._. En ne le faisant pas, M.G._ avait démontré qu'il ne voulait pas reconstituer la cellule familiale en Suisse. La demande de regroupement familial litigieuse visait apparemment à permettre à D.G._ et A.G._ de ne pas être renvoyés dans leur patrie et d'obtenir l'autorisation de séjour qui leur avait été refusée dans le cadre de leur demande d'asile, afin qu'ils puissent étudier et se former en Suisse, puis y travailler. Au surplus, le centre des relations de D.G._ et A.G._ demeurait dans leur pays d'origine. C.- Agissant par la voie du recours de droit administratif, M.G._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler la décision du Tribunal administratif du 15 mars 2001 et d'accepter la requête d'autorisation de séjour qu'il a présentée en faveur de ses fils D.G._ et A.G._. En substance, il conteste la motivation de la décision attaquée. Le Tribunal administratif conclut au rejet du recours. La Direction de la justice, de la police et des affaires militaires du canton de Fribourg se réfère à la décision attaquée et à la décision du Département cantonal du 17 novembre 2000. L'Office fédéral des étrangers propose de rejeter le recours. D.- Par ordonnance du 7 juin 2001, le Président de la IIe Cour de droit public a admis la demande d'effet suspensif présentée par M.G._.