Faits: A. X._, né en 1976, de nationalité tunisienne, est entré en Suisse le 31 octobre 2002 au bénéfice d'une autorisation de séjour temporaire pour études. Il a épousé, le 20 mai 2003, Y._, née en 1972, citoyenne suisse. Le 26 mai de la même année, il a été mis au bénéfice d'une autorisation de séjour (permis B) au titre du regroupement familial. B. Sur réquisition du Service de la population du canton de Vaud, X._ et son épouse ont été auditionnés par la police cantonale, les 7 septembre et 10 novembre 2004. Les époux ont de manière concordante admis qu'ils étaient séparés depuis le mois de juillet 2004 et que X._ a toute sa famille en Tunisie, à l'exception d'une tante domiciliée en France. Il n'a en Suisse que des amis et des collègues de travail. La séparation a débouché sur un divorce, lequel est entré en force le 31 octobre 2008. C. Le 2 avril 2008, X._ a sollicité du Service de la population le renouvellement de son autorisation de séjour, subsidiairement l'octroi d'une autorisation d'établissement. Par décision du 2 février 2009, le Service de la population a refusé de donner une suite favorable à ses demandes, dès lors qu'il vivait séparé de son épouse depuis le mois de juillet 2004, que la vie commune n'avait duré qu'un an et deux mois, que le divorce avait été prononcé au mois d'octobre 2008 et qu'aucun enfant n'était issu de cette union. Par lettre du 2 mars 2009 adressée au Service de la population, Z._ est intervenue en faveur de X._, en mettant en évidence le fait qu'elle était unie à lui par un lien sentimental extrêmement fort, de sorte qu'elle ne pouvait se résoudre à l'idée qu'il puisse être contraint de quitter la Suisse. Selon elle, "un retour dans son pays d'origine serait perçu par sa famille et par lui comme un échec et le placerait dans une situation d'isolement et d'abandon total". Par écriture du 12 mars 2009, X._ a recouru contre la décision du Service de la population auprès de la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal). Le recours a été rejeté par arrêt du 9 février 2010. D. Par écriture parvenue au Tribunal fédéral le 15 mars 2010, le recourant requiert la réforme du jugement du Tribunal cantonal en ce sens que son permis de séjour est renouvelé, subsidiairement transformé en permis d'établissement. Le cas échéant, il demande aussi le renvoi de la cause à l'autorité inférieure pour nouvelle décision dans le sens des considérants. Le Service de la population et le Tribunal cantonal ont renoncé à se déterminer sur le recours, alors que l'Office fédéral des migrations a conclu à son rejet. Par ordonnance du 7 mars 2010, le Président de la IIe Cour de droit public a octroyé l'effet suspensif au recours.