Faits: A. A._, ressortissant tunisien, né en 1987, a été mis au bénéfice d'un visa touristique d'une durée de soixante jours, valable du 13 novembre 2006 au 12 février 2007, en vue de rendre visite à son amie, B._, ressortissante suisse et d'assister à la naissance de leur fille C._, née le 27 décembre 2006 à Lausanne. Il est entré en Suisse le 9 décembre 2006. Par lettre du 31 janvier 2007 sa compagne a requis du Service de la population du canton de Vaud une prolongation du visa de l'intéressé pour pouvoir vivre en famille. Par décision du 28 février 2007, notifiée le 12 mars 2007, le Service de la population a imparti à A._ un délai d'un mois dès notification pour quitter la Suisse. Par lettre du 29 mars 2007, l'intéressé a demandé au Service de pouvoir rester en Suisse pour effectuer les démarches nécessaires en vue de reconnaître sa fille. Le 4 avril 2007, A._ a reconnu la paternité de sa fille, C._. Suite à une demande de renseignements du Service de la population, il a notamment exposé, par ses lignes du 3 mai 2007, qu'aucune convention d'entretien n'avait été signée avec sa compagne, qu'il désirait, dès l'obtention d'une autorisation de séjour, chercher du travail pour subvenir aux besoins de sa famille, mais que le couple n'envisageait pas de se marier dans l'immédiat. Il a précisé que son amie sortait d'un divorce et qu'elle n'était "pas encore émotionnellement prête pour un nouveau mariage". En mai 2007, A._ a déposé une demande d'autorisation de séjour avec activité lucrative. Le 9 juin 2007, il a quitté le territoire suisse. Le 29 octobre 2007, l'intéressé a déposé une demande de visa d'une durée de nonante jours en vue de rendre visite à sa famille à Pully. Suite au préavis négatif du Service de la population, l'Office fédéral des migrations a refusé, par décision du 18 janvier 2008, à A._ l'autorisation d'entrée en Suisse. B. Le 19 février 2008, le prénommé a requis un visa d'une durée de trois mois en vue de contracter mariage en Suisse avec B._. Par décision du 4 avril 2008, le Service de la population a autorisé la représentation suisse à Tunis à délivrer dit visa à l'intéressé, qui est revenu en Suisse le 17 mai 2008. Le 30 septembre 2008, A._ et B._ ont contracté mariage à Vevey. Le prénommé a été mis au bénéfice d'une autorisation de séjour avec activité lucrative, qui a régulièrement été renouvelée jusqu'au 29 septembre 2011. C. Le 10 mai 2009, A._ a quitté le domicile conjugal pour s'établir dans une autre commune, selon formulaire d'"Annonce de mutation pour étrangers" daté du 15 février 2010. Entendue le 27 juillet 2010 par la police intercommunale concernant leur séparation, l'épouse de l'intéressé a notamment expliqué que leur union était un mariage de complaisance, que son époux versait régulièrement en faveur de sa fille une pension alimentaire d'un montant de 650 fr. par mois. Elle a précisé que le couple s'était séparé en raison des fréquentes disputes qu'il connaissait, qu'elle avait déposé plainte pénale contre son mari à deux reprises pour violences verbales et psychiques et que la police avait dû intervenir maintes fois à leur domicile. Entendu le même jour, A._ a nié avoir contracté un mariage blanc. Il a déclaré avoir des relations étroites avec sa fille, dont la garde avait été confiée à son épouse, et confirmé contribuer à l'entretien de son enfant par le versement régulier d'une somme de 650 fr. par mois. Il a également confirmé les causes de sa séparation d'avec sa femme (disputes, violences psychiques, plaintes pénales, interventions de la police), précisant que les torts étaient partagés. D. Par jugement du 10 septembre 2010, le Tribunal de police de l'arrondissement de Lausanne a notamment libéré A._ du chef d'accusation de lésions corporelles simples qualifiées et pris acte du retrait de la plainte dirigée par un tiers contre le prénommé pour lésions corporelles simples. Il a également pris acte de la reconnaissance de dette - une indemnité de 1'000 fr. pour réparation du tort moral - de celui-ci. E. Le 21 septembre 2011, le Service de la population a fait savoir à l'intéressé qu'il était disposé, sous réserve de l'approbation fédérale, à autoriser la poursuite de son séjour en Suisse pour des raisons personnelles majeures, compte tenu de la situation de sa fille de nationalité suisse envers laquelle il exerçait régulièrement son droit de visite. Par décision du 1er décembre 2011, l'Office fédéral des migrations a refusé de donner son approbation à la prolongation de l'autorisation de séjour de A._ et a prononcé le renvoi de celui-ci de Suisse. Le 24 juin 2013, le Tribunal administratif fédéral a rejeté le recours formé par A._ contre la décision de l'Office fédéral des migrations. F. Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral, sous suite de frais et dépens, la prolongation de son autorisation de séjour. Il requiert l'effet suspensif. Il se plaint de la violation de l'art. 50 LEtr et de l'art. 8 CEDH. Le Tribunal administratif fédéral renonce à déposer des observations. L'Office fédéral des migrations conclut au rejet du recours. Par ordonnance du 18 juillet 2013, le Président de la IIe Cour de droit public a accordé l'effet suspensif au recours.