Faits: A. X._, ressortissant turc, né en 1977, a déposé une première demande d'asile au centre d'enregistrement de Genève au mois de mai 2000, après avoir été interpellé par la gendarmerie. Cette demande a toutefois été radiée du rôle le 17 mai 2000, à la suite de la disparition de l'intéressé. Une seconde demande d'asile, déposée au centre d'enregistrement de Chiasso en janvier 2001, a été retirée le 26 du même mois. Le 24 mars 2001, X._ a épousé, à Z._, une ressortissante suisse, Y._, née en 1979, chez laquelle il avait vécu depuis le 14 mai 2000. Il a alors obtenu une autorisation de séjour, régulièrement renouvelée jusqu'au 23 mars 2006. Par jugement du 2 septembre 2004, le Tribunal de première instance du canton de Genève a prononcé la séparation de corps des époux pour une durée indéterminée. Après avoir entendu les époux sur leur situation, l'Office cantonal de la population du canton de Genève a, par décision du 18 janvier 2007, estimé que les conjoints n'envisageaient pas de reprendre la vie commune et que le mariage était maintenu formellement dans le but de conserver l'autorisation de séjour de X._. Il s'est toutefois déclaré disposé à renouveler cette autorisation, sous réserve de l'approbation de l'Office fédéral des migrations (ci-après l'ODM). B. Par décision du 5 octobre 2007, l'ODM a refusé son approbation à la prolongation de l'autorisation de séjour de X._ et a prononcé son renvoi de Suisse. Saisi d'un recours de X._ contre cette décision, le Tribunal administratif fédéral l'a rejeté, par arrêt du 6 avril 2009. Il a retenu en bref que, même en admettant que le recourant ne s'était pas marié uniquement dans le but d'éluder les dispositions en matière de droit des étrangers et qu'il n'était pas forcément responsable de la rupture de l'union conjugale, il commettait un abus de droit en se prévalant de son mariage qui n'existait plus que formellement, et cela déjà avant l'écoulement du délai de cinq ans. Par ailleurs, si l'intéressé était bien intégré et vivait en Suisse depuis l'âge de 22 ans, cela ne suffisait cependant pas pour lui accorder une autorisation de séjour à un autre titre. Enfin, le tribunal a considéré que rien ne s'opposait à l'exécution du renvoi. C. X._ forme un recours en matière de droit public et conclut, sous suite de dépens, à l'annulation de l'arrêt du Tribunal administratif fédéral du 6 avril 2009 et au renvoi de la cause à l'ODM pour qu'il délivre son approbation à l'autorisation de séjour sollicitée. A titre subsidiaire, il demande au Tribunal fédéral de l'autoriser à prouver par toutes voies de droit les faits allégués dans son recours. Le Tribunal administratif fédéral a renoncé à se déterminer sur le recours et l'ODM propose de le rejeter. Par ordonnance présidentielle du 25 mai 2009, l'effet suspensif a été attribué au recours.