Faits: A. X._, ressortissant turc né en 1975, a déposé une demande d'asile en Suisse le 8 mars 1999. Par décision du 7 juillet 1999, l'Office fédéral des réfugiés (actuellement l'Office fédéral des migrations [ci-après: l'ODM]) a rejeté la requête de l'intéressé et ordonné son renvoi de Suisse. Celui-ci a retiré le recours qu'il avait formé contre cette décision auprès de la Commission de recours en matière d'asile, suite à son mariage, le 25 février 2000, avec Y._, ressortissante suisse, de quatorze ans son aînée. Il s'est ainsi vu délivrer une autorisation de séjour. Le 3 mars 2004, X._ a déposé une demande de naturalisation facilitée fondée sur son mariage. Dans le cadre de l'instruction de cette demande, les époux ont contresigné, le 15 février 2005, une déclaration écrite aux termes de laquelle ils confirmaient vivre en communauté conjugale effective et stable, résider à la même adresse et n'envisager ni séparation, ni divorce. Leur attention a été attirée sur le fait que la naturalisation facilitée ne pouvait pas être octroyée lorsque, avant ou pendant la procédure de naturalisation, l'un des époux demandait le divorce ou la séparation, ou lorsque la communauté conjugale effective n'existait plus. La déclaration signée précisait en outre que si cet état de fait était dissimulé, la naturalisation facilitée pouvait être annulée dans les cinq ans. Par décision du 29 avril 2005, l'ODM a accordé la naturalisation facilitée à X._. B. Les époux ont vécu séparés depuis le 1er juin 2006, X._ ayant entretenu une liaison avec Z._, une ressortissante chinoise née en 1983. Le 4 octobre 2006, la police neuchâteloise est intervenue au domicile de X._, au sujet d'une dispute entre celui-ci et la prénommée. Z._ a exposé qu'elle devait quitter la Suisse jusqu'au 16 octobre 2006 et que le matin même, X._ l'avait frappée, l'avait empêchée de faire ses valises et avait dissimulé ses papiers officiels. La police a retrouvé lesdits papiers dans le véhicule de l'intéressé. Z._ a déposé plainte contre X._ pour voies de fait, menaces, injure et contrainte. Par ordonnance pénale du 20 octobre 2006, le Ministère public du canton de Neuchâtel a reconnu X._ coupable de lésions corporelles simples, voies de fait, injures, menaces et contrainte, et l'a condamné à trente jours d'emprisonnement avec deux ans de sursis. Par courrier du 22 novembre 2006, Z._ a retiré sa plainte. Le Tribunal de police du district de La Chaux-de-Fonds a prononcé l'acquittement du prénommé, par jugement du 2 février 2007. Le 25 octobre 2006, l'ODM a informé le prénommé qu'il allait examiner la possibilité d'ouvrir une procédure en annulation de sa naturalisation facilitée et l'a invité à se déterminer. Le 11 novembre 2006, Y._ a écrit à l'ODM qu'une reprise de la vie commune était envisagée, sous réserve d'une clarification préalable de la situation matrimoniale. Le 27 novembre 2006, X._ a allégué, par l'entremise de son précédent conseil, qu'il regrettait d'avoir cédé à son coup de foudre pour Z._, qu'il s'agissait d'un événement imprévisible et postérieur à l'obtention de la nationalité helvétique. Il a précisé qu'une reprise de la vie conjugale n'était pas exclue et produit les coordonnées de témoins potentiels. Entendue le 9 mai 2007, Y._ a notamment déclaré que le mariage avait été décidé en commun, bien qu'elle pensât que pour son époux, "le principal motif [avait] été de pouvoir rester en Suisse". Elle a allégué que le couple s'était séparé le 1er juin 2006 en raison de différences culturelles et des mensonges que son époux inventait pour aller retrouver une autre femme. Elle a encore relevé que son mari l'avait par le passé soutenue financièrement et avait participé activement à la vie du ménage. Elle a ajouté qu'entre la naturalisation de son conjoint et la séparation, tous deux avaient voyagé ensemble et avaient participé à des fêtes organisées dans leurs familles respectives. Enfin, elle a annoncé que la vie commune avait repris de façon informelle et qu'elle serait officielle dès la fin juin 2007. Par courriers des 3 juillet 2007, 5 mars 2008 et 20 février 2009, X._ a fait part de ses observations et a notamment précisé que la vie conjugale avait repris officiellement en juin 2007. C. Par décision du 12 mars 2009, l'ODM a prononcé, avec l'assentiment de l'autorité cantonale compétente, l'annulation de la naturalisation facilitée accordée au prénommé. En substance, il a retenu que le mariage n'était pas constitutif d'une communauté conjugale effective et stable lors de la signature de la déclaration commune du 15 février 2005 et de l'octroi de la naturalisation facilitée, de sorte que celle-ci avait été obtenue sur la base de déclarations mensongères, voire de dissimulation de faits essentiels. Le 16 mars 2009, X._ a requis la communication des courriers échangés à son insu entre l'ODM et les autorités neuchâteloises en vue de l'assentiment de ces dernières à l'annulation de sa naturalisation. L'ODM a fait droit à sa demande le 17 mars 2009. Le Tribunal administratif fédéral a confirmé la décision de l'ODM dans un arrêt rendu le 11 janvier 2010. Par arrêt du 29 avril 2010, le Tribunal fédéral a admis partiellement le recours déposé par l'intéressé contre l'arrêt du 11 janvier 2010. Il a renvoyé la cause au Tribunal administratif fédéral pour complément d'instruction notamment sur l'authenticité et la date de la reprise de la vie commune (arrêt 1C_104/2010 du 29 avril 2010). Après avoir requis des témoignages écrits supplémentaires, desquels il ressort que les époux sont toujours mariés et ont repris la vie commune de manière "informelle" au début de l'année 2007, le Tribunal administratif fédéral a rejeté le recours par arrêt du 28 mars 2011. Il a considéré en substance que l'enchaînement rapide des événements fondait la présomption que la communauté conjugale des intéressés n'était plus étroite et effective au moment de la signature de la déclaration commune, les éléments avancés par X._ n'étant pas suffisants pour renverser cette présomption. D. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral d'annuler cet arrêt et de "constater qu'il a droit au maintien de sa naturalisation facilitée". L'ODM conclut au rejet du recours et le Tribunal administratif fédéral a renoncé à se déterminer. Le recourant a répliqué par courrier du 7 juillet 2011.