A.- S._ a été condamné en Italie à six ans de réclusion pour tentative d'homicide et violation de la législation sur les armes, infractions commises en novembre 1992. Il a été libéré conditionnellement en 1996 et définitivement en 1998. En avril 1999, il a épousé, en Italie, une compatriote titulaire d'une autorisation d'établissement; les époux se sont rendus en Suisse le même mois. Par décision du 15 septembre 1999, le Service de la population du Département des institutions et des relations extérieures a refusé de délivrer une autorisation de séjour à S._ en raison de sa condamnation pénale en Italie. Statuant sur le recours de S._, le Tribunal administratif l'a rejeté par arrêt du 9 mars 2000 et a imparti au recourant un délai au 15 mai 2000 pour quitter le territoire vaudois. Il a considéré en bref que l'intérêt du recourant à rester en Suisse aux côtés de son épouse, ne l'emportait pas sur l'intérêt public à l'éloigner. B.- S._ forme un recours de droit administratif contre cet arrêt et conclut à son annulation, sous suite de frais et dépens. Il demande également au Tribunal fédéral de lui délivrer une autorisation annuelle de séjour et présente une requête d'effet suspensif. Le Tribunal administratif se réfère à son arrêt et conclut au rejet du recours, en tant qu'il est recevable. De son côté, le Service cantonal de la population se rallie aux déterminations de l'autorité judiciaire, tout en proposant le rejet de la demande d'effet suspensif. Il n'a pas été demandé de détermination du Département fédéral de justice et police. Le recours a bénéficié de l'effet suspensif à titre superprovisoire.