Faits: A. Le 24 septembre 1999, A._, ressortissant marocain né en 1968, a déposé une demande de visa pour la Suisse auprès de l'Ambassade de Suisse à Rabat au Maroc, afin de contracter mariage avec B._, ressortissante suisse de onze ans son aînée. Les prénommés se sont mariés le 28 janvier 2000 à Nyon. Le 8 septembre 2005, A._ a déposé une demande de naturalisation facilitée fondée sur son mariage. Dans le cadre de l'instruction de cette demande, les époux ont contresigné, le 30 novembre 2006, une déclaration écrite aux termes de laquelle ils confirmaient vivre en communauté conjugale effective et stable, résider à la même adresse et n'envisager ni séparation, ni divorce. Leur attention a été attirée sur le fait que la naturalisation facilitée ne pouvait pas être octroyée lorsque, avant ou pendant la procédure de naturalisation, l'un des époux demandait le divorce ou la séparation, ou lorsque la communauté conjugale effective n'existait plus. La déclaration signée précisait en outre que si cet état de fait était dissimulé, la naturalisation facilitée pouvait être annulée dans les cinq ans. Par décision du 21 décembre 2006, l'Office fédéral des migrations (ci-après: l'ODM) a accordé la naturalisation facilitée à A._. B. Le 24 juillet 2008, les époux ont déposé une requête commune tendant au divorce et à la ratification de la convention sur les effets accessoires du divorce du 14 juillet 2008. Par jugement du 4 novembre 2008, le Tribunal d'arrondissement de La Côte a prononcé la dissolution du mariage. Le 5 février 2010, l'ODM a informé le prénommé qu'il allait examiner la possibilité d'ouvrir une procédure en annulation de sa naturalisation facilitée et l'a invité à se déterminer. Par courrier du 26 mai 2010, A._ a notamment répondu que le couple avait souhaité avoir des enfants, mais que son ex-épouse avait subi deux fausses couches et que cette épreuve douloureuse s'était ressentie ultérieurement dans leur vie commune. Il a ajouté qu'il était vrai que le couple avait connu des moments difficiles et que ceux-ci n'avaient pu s'arranger malgré leurs efforts. Entendue par l'autorité cantonale compétente sur réquisition de l'ODM, B._ a notamment exposé qu'elle avait connu l'intéressé en juin 1998 lors de vacances au Maroc, alors qu'elle séjournait dans l'hôtel où il travaillait et qu'ils avaient eu ensemble l'idée de se marier; les époux avaient commencé à rencontrer des problèmes conjugaux suite aux difficultés qu'elle avait eues à tomber enceinte, que cela avait ajouté beaucoup de tension entre eux depuis 2007; elle avait eu trois fausses couches entre 2000 et 2002; avant leur mariage, les époux avaient beaucoup discuté du fait qu'elle était âgée de 43 ans, qu'ils savaient qu'il ne serait pas aisé pour elle d'avoir un enfant, que son époux en était parfaitement conscient et que cela ne lui posait aucun problème; il y avait aussi eu quelques divergences lors de discussion sur la politique et la religion; la routine et l'usure s'étaient installées dans le couple, dès lors qu'ils ne partageaient pas assez de moments ensemble; ils avaient commencé à envisager le divorce au début de l'année 2008; au moment de la naturalisation, leur union conjugale était stable. B._ a précisé certains éléments par courrier du 1er août 2010, sur requête de l'ODM. Par lettre du 16 août 2010, A._ s'est déterminé sur les déclarations de son ex-épouse. C. Par décision du 12 novembre 2010, l'ODM a prononcé, avec l'assentiment de l'autorité cantonale compétente, l'annulation de la naturalisation facilitée accordée à A._. En substance, il a retenu que l'octroi de la naturalisation facilitée s'était fait sur la base de déclarations mensongères, voire de dissimulation de faits essentiels. Le Tribunal administratif fédéral a confirmé la décision de l'ODM dans un arrêt rendu le 27 septembre 2011. Il a considéré en particulier que l'enchaînement rapide des événements fondait la présomption que la communauté conjugale des intéressés n'était plus étroite et effective au moment de la signature de la déclaration commune, les éléments avancés par A._ n'étant pas suffisants pour renverser cette présomption. D. Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral d'annuler l'arrêt du Tribunal administratif fédéral et de lui "donner acte que les conditions de la révocation de la naturalisation facilitée ne sont pas réalisées". L'ODM et le Tribunal administratif fédéral ont renoncé à se déterminer.