Faits : A. Le 3 septembre 2005, X._, ressortissant britannique né en 1953, a tenté de se légitimer au poste frontière suisse de Chavannes-de-Bogis au moyen de faux papiers. Il a été conduit à la police et dénoncé à l'autorité pénale suisse compétente. Après enquête, il est apparu que l'intéressé avait été condamné par la justice de son pays à une peine de neuf ans d'emprisonnement pour une affaire de fraude fiscale (décision de la Crown Court de Birmingham du 19 décembre 2002), qu'il s'était évadé de son lieu de détention le 23 février 2005 et qu'il était depuis lors pour ce motif recherché par Interpol à la demande des autorités britanniques. Par ordonnance pénale du 24 avril 2006, le Juge d'instruction de l'arrondissement de Lausanne a condamné X._ à une amende de 1'200 fr. assortie d'un délai d'épreuve et de radiation d'un an "pour avoir sciemment utilisé de faux papiers de légitimation dans le domaine de la police des étrangers"; le juge a estimé que l'infraction était de peu de gravité et qu'il n'y avait pas lieu de tenir compte des antécédents judiciaires de l'intéressé en Grande-Bretagne, du moment que l'Office fédéral de la justice n'avait pas donné suite à la demande d'extradition présentée par ce pays. Entre-temps, X._ s'est installé dans le canton de Vaud avec son épouse Y._, née en 1958, et leur fille Z._, née en 1991, qui ont chacune obtenu une autorisation de séjour CE/AELA, la première au titre de personne sans activité lucrative (dès le 14 novembre 2005), la seconde au bénéfice d'un statut d'étudiante (dès le 9 septembre 2005). Le 5 janvier 2006, X._ a requis pour lui-même l'octroi d'une autorisation de séjour CE/AELA pour personne sans activité lucrative (rentier) ainsi qu'au titre du regroupement familial; il a précisé qu'il disposait avec son épouse d'une fortune et de revenus confortables - cette dernière avait acquis, le 22 décembre 2005, une maison d'une valeur de 4'200'000 fr. à Montreux - ainsi que d'une assurance-maladie couvrant tous les risques. Par décision du 19 juillet 2006, le Service cantonal de la population du canton de Vaud (ci-après: le Service cantonal) a refusé de délivrer à X._ l'autorisation de séjour sollicitée en considération de ses antécédents judiciaires en Grande-Bretagne et en Suisse. B. Saisi d'un recours de X._ formé contre la décision précitée du Service de la population, le Tribunal administratif du canton de Vaud (ci-après: le Tribunal administratif) l'a rejeté, par arrêt du 12 avril 2007. En bref, les juges ont retenu que, même si l'Office fédéral de la justice n'avait pas donné suite à la demande d'extradition britannique, en raison semble-t-il de la nature fiscale des infractions reprochées, celles-ci apparaissaient néanmoins particulièrement graves et ne permettaient pas d'exclure "tout risque de récidive" de la part de l'intéressé; aussi bien se justifiait-il, selon le Tribunal administratif, de refuser l'autorisation de séjour sollicitée, en raison de l'existence d'un motif d'ordre public au sens de l'art. 5 annexe I de l'Accord du 21 juin 1999 entre la Confédération suisse, d'une part, et la Communauté européenne et ses Etats membres, d'autre part, sur la libre circulation des personnes (ci-après: Accord sur la libre circulation des personnes ou Accord ou ALCP; RS 0.142.112.681). C. X._ forme un recours en matière de droit public contre l'arrêt précité du Tribunal administratif. Il conclut à l'annulation de ce prononcé, sous suite de frais et dépens, et à l'octroi d'une autorisation de séjour. Il se plaint d'arbitraire dans l'établissement des faits, d'application erronée de l'Accord sur la libre circulation des personnes, d'atteinte au droit au respect de la vie familiale garanti à l'art. 8 CEDH et de violation du principe de la proportionnalité. Le Service cantonal et le Tribunal administratif ont renoncé à se déterminer sur le recours, tandis que l'Office fédéral des migrations a conclu à son rejet.