Faits: A. Le 13 octobre 2000, A._, ressortissant kosovar né en 1966, a épousé B._, ressortissante Suisse, née en 1954. Auparavant, il avait déjà déposé trois demandes d'asile, respectivement le 24 mai 1993, le 12 décembre 1994 et le 9 août 2000, toutes trois refusées. Il avait également été condamné par défaut à un mois d'emprisonnement pour vol et infraction à la loi fédérale du 26 mars 1931 sur le séjour et l'établissement des étrangers (LSEE, abrogée par l'entrée en vigueur, le 1 er janvier 2008, de la loi fédérale sur les étrangers du 16 décembre 2005) ainsi qu'à une interdiction d'entrée en Suisse jusqu'au 18 février 2003. Par requête du 4 février 2005, A._ a requis la naturalisation facilitée qu'il a obtenue le 6 juillet 2006, après avoir cosigné avec son épouse, le 3 juin 2006, une déclaration écrite au terme de laquelle ils confirmaient vivre en communauté conjugale effective et stable, résider à la même adresse et n'envisager ni séparation ni divorce. Le 12 septembre 2007, les époux ont déposé une requête commune de divorce et, par jugement du 23 janvier 2008, le Tribunal d'arrondissement de Lausanne a prononcé le divorce de A._ et de B._. Le 16 mai 2008, le bureau des naturalisations de la Ville de Lausanne a informé l'ODM du divorce du prénommé ainsi que du dépôt d'une demande d'autorisation de séjour en vue d'un mariage en faveur d'une ressortissante kosovare. B. Par courrier du 30 mai 2008, l'Office fédéral des migrations (ci-après: ODM) a informé A._ qu'il devait examiner s'il y avait lieu d'annuler la naturalisation facilitée compte tenu du prononcé de son divorce le 5 février 2008 et des démarches administratives entreprises dans le but d'épouser une ressortissante kosovare. L'intéressé a exposé que les époux ne s'étaient séparés qu'en avril 2007, soit près d'un an après la signature de la déclaration de 3 juin 2006. Il a précisé, qu'au moment de la signature de la déclaration, les époux ne rencontraient que des problèmes passagers qui n'allaient pas au-delà des difficultés rencontrées par tous les couples mariés. Les différends conjugaux s'étaient aggravés durant l'année qui avait suivi la signature de la déclaration en raison de l'état dépressif de l'épouse. Egalement auditionnée, son ex-femme a expliqué qu'elle ne pouvait pas indiquer quand la vie commune avait pris fin puisque la séparation était intervenue au fil du temps. En avril 2007, elle avait saisi l'opportunité de prendre un second appartement au motif que leur logement commun était petit et que cette location leur permettrait de se sentir plus à l'aise. En juillet 2007, elle a décidé de consulter un avocat dans le but de se renseigner sur les démarches à entreprendre en vue du divorce. Elle a également confirmé que son mari n'était pas à l'origine de la séparation et que leur dissension était causée par ses problèmes familiaux et professionnels. Elle a également assuré souffrir périodiquement de dépression. Ces déclarations ont été confirmées par son ex-mari, qui, le 29 août 2008, a épousé C._, ressortissante kosovare, née en 1974 avec qui il a eu un enfant commun le 1 er juin 2009. Par lettre du 5 mai 2010, l'ODM a pris note du fait que B._ refusait de libérer ses médecins traitants du secret professionnel. Sur requête de l'ODM, A._ a déposé deux contrats de bail attestant que, dès le 1 er septembre 2004, son ex-épouse et lui avaient loué deux appartements de 3 pièces chacun. Par décision du 19 novembre 2010, l'ODM a prononcé, avec l'assentiment de l'autorité cantonale compétente, l'annulation de la naturalisation facilitée accordée à A._. La naturalisation avait été obtenue sur la base de déclarations mensongères voire de la dissimulation de faits essentiels; par ailleurs aucun des éléments contenus dans les déterminations de l'intéressé, y compris les problèmes de santé de B._, n'étaient susceptibles de l'amener à modifier son point de vue. C. Par arrêt du 15 février 2013, le Tribunal administratif fédéral (ci-après: TAF) a rejeté le recours de A._. Il a considéré que le droit d'être entendu du recourant n'avait pas été violé, la décision de l'ODM étant suffisamment motivée et les faits de la cause étant suffisamment établis par les pièces figurant au dossier; il n'était en outre pas indispensable de procéder à des auditions, qui, au demeurant, n'avaient pas été formellement requises. Il a jugé que l'enchaînement chronologique particulièrement rapide des faits et le court laps de temps séparant la déclaration commune de l'octroi de la naturalisation facilitée puis la séparation des conjoints, leur divorce, le remariage du recourant et la naissance de l'enfant commun avec l'épouse actuelle laissaient présumer que le recourant n'envisageait déjà plus une vie future partagée avec son épouse lors de la signature de la déclaration. En outre, le TAF, a souligné que les problèmes de santé psychologique de son ex-épouse ne pouvaient être considérés comme un fait extraordinaire susceptible d'expliquer la détérioration de l'union conjugale dans la mesure où ils étaient antérieurs à la déclaration commune du 3 juin 2006. D. Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral d'annuler l'arrêt du TAF. Il se plaint d'une constatation inexacte des faits et d'arbitraire dans la mesure où la décision serait en contradiction manifeste avec la situation de fait. Invités à se déterminer, l'ODM a confirmé sa position tandis que l'autorité précédente a renoncé à formuler des observations. Par ordonnance du 10 juin 2013, le Président de la Ire Cour de droit public du Tribunal fédéral a accordé l'effet suspensif.