Faits:
A. A._, ressortissant angolais né en 1965 ou 1975, a déposé une demande d'asile en Suisse en janvier 1994. Par décision du 14 novembre 1996, la Commission suisse de recours en matière d'asile a définitivement rejeté cette requête et l'admission provisoire dont il bénéficiait a pris fin le 15 janvier 1997.
Suite à son mariage, le 23 janvier 1998, avec B._, ressortissante suisse, née en 1942, A._ s'est vu délivrer une autorisation de séjour. Le 9 avril 2001, il a déposé une demande de naturalisation facilitée fondée sur son mariage. Le 15 avril 2003, les conjoints ont signé un contrat de mariage et ont adopté le régime matrimonial de la séparation des biens.
Dans le cadre de l'instruction de la demande de naturalisation facilitée, les époux ont contresigné, le 4 mars 2005, une déclaration écrite aux termes de laquelle ils confirmaient vivre en communauté conjugale effective et stable, résider à la même adresse et n'envisager ni séparation, ni divorce. Leur attention a été attirée sur le fait que la naturalisation facilitée ne pouvait pas être octroyée lorsque, avant ou pendant la procédure de naturalisation, l'un des époux demandait le divorce ou la séparation, ou lorsque la communauté conjugale effective n'existait plus. La déclaration signée précisait en outre que si cet état de fait était dissimulé, la naturalisation facilitée pouvait être annulée dans les cinq ans.
Par décision du 6 avril 2005, l'Office fédéral des migrations (ci-après: l'ODM) a accordé la naturalisation facilitée à A._.
B. Le 3 avril 2006, les conjoints ont signé une convention de séparation, de laquelle il ressort notamment qu'ils vivaient séparés depuis le 4 mars 2006. Ils ont introduit une requête commune de divorce, le 6 mars 2008. Par jugement du 15 août 2008, le Tribunal de district de Meilen a prononcé la dissolution du mariage.
Le 6 août 2009, l'ODM a informé le prénommé qu'il allait examiner la possibilité d'ouvrir une procédure en annulation de sa naturalisation facilitée et l'a invité à se déterminer. A._ a répondu qu'il avait connu B._ en 1995, qu'ils avaient vécu ensemble de 1995 à 2005, qu'il avait eu une aventure sans lendemain avec C._ et qu'un enfant était né de cette relation en février 2006. Son épouse n'avait pas voulu lui pardonner et avait entrepris des démarches pour le divorce.
Par courrier du 14 septembre 2009, la prénommée a déclaré à propos des raisons de son divorce, que son ex-mari n'était jamais à la maison, qu'il avait toujours des soucis d'argent, qu'elle subvenait aux dépenses de la maison et à leur entretien, qu'il l'avait trompée et avait conçu un enfant adultérin. Elle a également fait savoir que les soucis de son ex-époux ne la regardaient plus et qu'elle ne désirait pas être convoquée à une audition rogatoire. Par courrier du 6 novembre 2009, A._ s'est déterminé sur les déclarations de son ex-épouse.
C. Par décision du 4 décembre 2009, l'ODM a prononcé, avec l'assentiment de l'autorité cantonale compétente, l'annulation de la naturalisation facilitée accordée à A._. En substance, il a retenu que l'octroi de la naturalisation facilitée s'était fait sur la base de déclarations mensongères, voire de dissimulation de faits essentiels.
Le Tribunal administratif fédéral a confirmé la décision de l'ODM dans un arrêt rendu le 29 avril 2011. Il a considéré en particulier que l'enchaînement rapide des événements fondait la présomption que la communauté conjugale des intéressés n'était plus étroite et effective au moment de la signature de la déclaration commune, les éléments avancés par A._ n'étant pas suffisants pour renverser cette présomption.
D. Agissant par la voie du recours en matière de droit public, A._ demande principalement au Tribunal fédéral d'annuler cet arrêt et de renvoyer la cause au Tribunal administratif fédéral pour qu'il procède ou fasse procéder à l'audition de B._ et à celle de C._. Il conclut subsidiairement à la constatation qu'il n'y a pas lieu d'annuler la naturalisation facilitée qui lui a été accordée. L'ODM et le Tribunal administratif fédéral ont renoncé à se déterminer.

Considérant en droit:
1. Dirigé contre la décision du Tribunal administratif fédéral qui confirme l'annulation de la naturalisation facilitée accordée au recourant, le recours est recevable comme recours en matière de droit public (art. 82 al. 1 let. a et 86 al. 1 let. a LTF). Le motif d'exclusion de l'art. 83 let. b LTF n'entre pas en ligne de compte, dès lors qu'il s'agit en l'espèce de naturalisation facilitée et non pas de naturalisation ordinaire. Pour le surplus, le recourant a la qualité pour recourir au sens de l'art. 89 al. 1 LTF et les conditions formelles de recevabilité sont remplies, de sorte qu'il y a lieu d'entrer en matière.
2. Dans un grief d'ordre formel qu'il convient d'examiner en premier lieu, le recourant se plaint d'une violation de l'art. 29 al. 1 Cst. Il reproche à l'instance précédente de ne pas avoir donné suite à sa demande d'auditionner C._ et B._.
2.1 Garanti à l'art. 29 al. 2 Cst., le droit d'être entendu comprend notamment le droit pour l'intéressé de prendre connaissance du dossier, d'offrir des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 5.1 p. 293; <ref-ruling> consid. 2.2 p. 504 s.; <ref-ruling> consid. 2a/aa p. 16 et les arrêts cités). Toutefois, le droit d'être entendu ne peut être exercé que sur les éléments qui sont déterminants pour décider de l'issue du litige. Il est ainsi possible de renoncer à l'administration de certaines preuves offertes, lorsque le fait dont les parties veulent rapporter l'authenticité n'est pas important pour la solution du cas, lorsque les preuves résultent déjà de constatations versées au dossier ou lorsque le juge parvient à la conclusion qu'elles ne sont pas décisives pour la solution du litige ou qu'elles ne pourraient l'amener à modifier son opinion. Ce refus d'instruire ne viole le droit d'être entendu des parties que si l'appréciation anticipée de la pertinence du moyen de preuve offert, à laquelle le juge a ainsi procédé, est entachée d'arbitraire (<ref-ruling> consid. 5.3 p. 236; <ref-ruling> consid. 3 p. 157; <ref-ruling> consid. 6c/cc in fine p. 135; <ref-ruling> consid. 4a p. 211).
L'arbitraire, prohibé par l'art. 9 Cst., ne résulte pas du seul fait qu'une autre solution pourrait entrer en considération ou même qu'elle serait préférable; le Tribunal fédéral ne s'écarte de la solution retenue en dernière instance cantonale que si elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté ou si elle heurte de manière choquante le sentiment de la justice ou de l'équité. Il ne suffit pas que la motivation de la décision soit insoutenable; encore faut-il qu'elle soit arbitraire dans son résultat (<ref-ruling> consid. 2.2.2 p. 318 s.; <ref-ruling> consid. 1.3 p. 4; <ref-ruling> consid. 3.1 p. 266; <ref-ruling> consid. 5.1 p. 17; <ref-ruling> consid. 2.1 p. 219, 57 consid. 2 p. 61; <ref-ruling> consid. 3.1 p. 178).
2.2 En l'occurrence, le recourant allègue que l'audition de B._ était indispensable pour établir qu'il n'y avait pas d'autres causes au divorce que l'aventure adultère du recourant. Il soutient en outre que les déclarations de B._ dans son courrier du 14 septembre 2009 - portant notamment sur les autres causes du divorce - sont en contradiction avec une lettre du 15 janvier 2005 et avec la déposition de la prénommée à l'audience du Tribunal de district de Meilen du 4 juin 2008. Ces éléments ne sont cependant pas déterminants pour l'issue du litige: en effet, la motivation principale de l'arrêt attaqué retient que la relation adultère démontre que le lien matrimonial avec l'ex-épouse n'était manifestement pas stable, les déclarations de celle-ci à propos des autres causes du divorce ne servant qu'à renforcer ce constat. Le Tribunal administratif fédéral n'a donc pas versé dans l'arbitraire en écartant, sur la base d'une appréciation anticipée des preuves, cette demande d'audition.
L'intéressé soutient encore que l'audition de C._ est quant à elle nécessaire pour confirmer que leur aventure a eu lieu après l'octroi de la naturalisation et pour expliquer que les deux grossesses n'ont jamais répondu à un projet d'avenir de la part du recourant. Un tel moyen de preuve n'est pas capital, dans la mesure où l'instance précédente a retenu que la relation adultère avait eu lieu tout au plus deux mois après l'obtention de la naturalisation. Quant au fait que les deux grossesses n'avaient jamais répondu à un projet d'avenir, il n'est pas décisif au point de mettre à mal l'enchaînement logique et relativement rapide des événements. Par conséquent, le refus de procéder à l'audition requise échappe à l'arbitraire et le grief de violation du droit d'être entendu doit être rejeté.
3. Le recourant conteste avoir obtenu la naturalisation par des déclarations mensongères et reproche au Tribunal administratif fédéral d'avoir abusé de son pouvoir d'appréciation dans l'examen des éléments fondant le retrait de la naturalisation et d'avoir ainsi rendu une décision arbitraire, contraire au but de la loi fédérale du 29 septembre 1952 sur l'acquisition et la perte de la nationalité suisse (LN; RS 141.0) et au principe de la proportionnalité.
3.1 Conformément aux art. 41 al. 1 LN et 14 al. 1 de l'ordonnance du 17 novembre 1999 sur l'organisation du Département fédéral de justice et police (RS 172.213.1), l'Office fédéral des migrations peut, avec l'assentiment de l'autorité du canton d'origine, annuler dans les cinq ans une naturalisation facilitée obtenue par des déclarations mensongères ou par la dissimulation de faits essentiels.
3.1.1 Pour qu'une naturalisation facilitée soit annulée, il ne suffit pas qu'elle ait été accordée alors que l'une ou l'autre de ses conditions n'était pas remplie; il faut qu'elle ait été acquise grâce à un comportement déloyal et trompeur. S'il n'est point besoin que ce comportement soit constitutif d'une escroquerie au sens du droit pénal, il est nécessaire que l'intéressé ait donné sciemment de fausses informations à l'autorité ou qu'il l'ait délibérément laissée dans l'erreur sur des faits qu'il savait essentiels (<ref-ruling> consid. 2 p. 165; <ref-ruling> consid. 3.1 p. 115 et les arrêts cités). Tel est notamment le cas si le requérant déclare vivre en communauté stable avec son conjoint alors qu'il envisage de se séparer une fois obtenue la naturalisation facilitée; peu importe que son mariage se soit ou non déroulé jusqu'ici de manière harmonieuse (arrêt 1C_406/2009 du 28 octobre 2009 consid. 3.1.1 et l'arrêt cité).
La nature potestative de l'art. 41 al. 1 LN confère une certaine liberté d'appréciation à l'autorité compétente, qui doit toutefois s'abstenir de tout abus dans l'exercice de celle-ci. Commet un abus de son pouvoir d'appréciation l'autorité qui se fonde sur des critères inappropriés, ne tient pas compte de circonstances pertinentes ou rend une décision arbitraire, contraire au but de la loi ou au principe de la proportionnalité (<ref-ruling> consid. 3.1 p. 115; <ref-ruling> consid. 4a p. 101 et les arrêts cités).
D'après la jurisprudence, la notion de communauté conjugale suppose non seulement l'existence formelle d'un mariage, mais encore une véritable communauté de vie des conjoints; tel est le cas s'il existe une volonté commune et intacte de ceux-ci de maintenir une union conjugale stable; une séparation survenue peu après l'octroi de la naturalisation constitue un indice de l'absence de cette volonté lors de l'obtention de la citoyenneté suisse (<ref-ruling> consid. 2 p. 165; <ref-ruling> consid. 2 p. 484; <ref-ruling> consid. 3a p. 98; <ref-ruling> consid. 2b p. 52).
3.1.2 La procédure administrative fédérale est régie par le principe de la libre appréciation des preuves (art. 40 de la loi fédérale de procédure civile fédérale du 4 décembre 1947 [PCF; RS 273], applicable par renvoi de l'art. 19 de la loi fédérale du 20 décembre 1968 sur la procédure administrative [PA; RS 172.021]). Ce principe vaut également devant le Tribunal administratif fédéral (art. 37 LTAF). L'administration supporte le fardeau de la preuve lorsque la décision intervient, comme en l'espèce, au détriment de l'administré. Cela étant, la jurisprudence admet dans certaines circonstances que l'autorité puisse se fonder sur une présomption. C'est notamment le cas pour établir que le conjoint naturalisé a menti lorsqu'il a déclaré former une union stable, dans la mesure où il s'agit d'un fait psychique, lié à des éléments relevant de la sphère intime, souvent inconnus de l'administration et difficiles à prouver (<ref-ruling> consid. 3 p. 166; <ref-ruling> consid. 3.2 p. 485). Partant, si l'enchaînement rapide des événements fonde la présomption de fait que la naturalisation a été obtenue frauduleusement, il incombe alors à l'administré de renverser cette présomption, en raison, non seulement de son devoir de collaborer à l'établissement des faits (art. 13 al. 1 let. a PA ; cf. <ref-ruling> consid. 3 p. 166; <ref-ruling> consid. 3.2 p. 115 s.), mais encore de son propre intérêt (ATF <ref-ruling> consid. 3.2 p. 485 s.).
S'agissant d'une présomption de fait, qui ressortit à l'appréciation des preuves et ne modifie pas le fardeau de la preuve (cf. ATF <ref-ruling> consid. 3.2 p. 486), l'administré n'a pas besoin, pour la renverser, de rapporter la preuve contraire du fait présumé, à savoir faire acquérir à l'autorité la certitude qu'il n'a pas menti; il suffit qu'il parvienne à faire admettre l'existence d'une possibilité raisonnable qu'il n'ait pas menti en déclarant former une communauté stable avec son conjoint. Il peut le faire en rendant vraisemblable, soit la survenance d'un événement extraordinaire susceptible d'expliquer une détérioration rapide du lien conjugal, soit l'absence de conscience de la gravité de ses problèmes de couple et, ainsi, l'existence d'une véritable volonté de maintenir une union stable avec son conjoint lorsqu'il a signé la déclaration (<ref-ruling> consid. 3 p. 165 s. et les arrêts cités).
3.2 En l'espèce, le Tribunal administratif fédéral a considéré que le laps de temps relativement court entre la déclaration commune (mars 2005), l'octroi de la naturalisation facilitée (avril 2005), la relation extraconjugale entretenue avec une ressortissante congolaise - et dont est issu un fils - (mai ou juin 2005), la séparation effective des conjoints (début mars 2006), la signature de la convention de séparation (avril 2006) fondait la présomption que la naturalisation facilitée avait été obtenue frauduleusement. Pour l'instance précédente, cette présomption est renforcée par différents éléments. Ainsi, outre la grande différence d'âge entre les ex-époux, un second enfant est né en avril 2008 d'une nouvelle aventure avec la mère de son fils adultérin.
Le recourant ne conteste aucun de ces éléments, lesquels sont propres à fonder la présomption que sa naturalisation a été obtenue frauduleusement. Contrairement à ce que soutient le recourant, la présomption précitée peut être admise compte tenu de l'enchaînement rapide des événements. C'est en vain que le recourant conteste ce mécanisme de présomption, qui a été maintes fois confirmé par la jurisprudence (cf. supra consid. 3.1). Au demeurant, on peine à suivre le recourant lorsqu'il se prévaut d'une présomption fondée sur l'art. 27 LN. La question de la possibilité de former une demande de naturalisation facilitée (aux conditions prévues à l'art. 27 LN) se distingue en effet de la question de l'annulation de cette naturalisation facilitée (art. 41 LN), objet du présent litige.
Conformément à la jurisprudence précitée, il s'agit donc uniquement de déterminer si l'intéressé est parvenu à renverser cette présomption en rendant vraisemblable, soit la survenance d'un événement extraordinaire susceptible d'expliquer une dégradation aussi rapide du lien conjugal, soit l'absence de conscience de la gravité des problèmes de couple au moment de la signature de la déclaration commune.
3.3 Dans son écriture, le recourant relève que l'aventure adultère qu'il a entreprise au mois de mai ou juin 2005 et de laquelle est issu un fils, a été l'unique cause de la séparation des époux: il s'agissait d'un événement ponctuel et postérieur à sa naturalisation. La présomption ne peut toutefois être renversée par le fait que la liaison extraconjugale de l'intéressé soit survenue après l'obtention de la nationalité suisse, dès lors que pareil élément ne préjuge pas de la stabilité du mariage des époux au cours de la procédure de naturalisation. De même, le fait que le recourant s'est opposé au divorce, a demandé un temps de réflexion et ne s'est résigné au divorce qu'à l'époque où il ne pouvait plus légalement s'opposer à la volonté de divorcer de sa femme, ne convainc pas, dans la mesure où durant le délai légal de séparation de deux ans permettant le dépôt d'une demande unilatérale de divorce, il n'a pas hésité à entreprendre une nouvelle aventure avec la mère de son fils adultérin, un second enfant né en avril 2008 étant issu de cette relation.
Par ailleurs, le recourant se prévaut en vain du fait qu'il ne s'est pas marié exclusivement dans le but d'acquérir la nationalité suisse. Cet élément, antérieur à la signature de la déclaration commune, n'est pas en mesure d'affaiblir ladite présomption. Il en va de même des critiques relatives à la différence d'âge des époux et à leur gestion des dépenses communes, dans la mesure où l'instance précédente ne s'est pas fondée sur ces éléments pour établir la présomption.
Le recourant relève encore qu'il a vécu avec B._ de 1996 à 1998 avant de se marier, "l'union libre étant la démonstration que les effets du mariage sous les espèces d'un consortium omnis vitae étaient présents bien avant le mariage et que la communauté existait après la célébration identique à ce qu'elle était auparavant". Cet élément ne permet toutefois pas d'établir qu'au moment de la signature de la déclaration commune, l'harmonie existait toujours au sein du couple au point d'envisager la continuation de la vie commune.
Enfin, le fait que l'intéressé est en Suisse depuis janvier 1994, qu'il était titulaire de l'autorisation d'établissement depuis le 27 janvier 2003, qu'il travaille, qu'il n'est l'objet d'aucune plainte et d'aucune poursuite, qu'il paie ses impôts, qu'il est intégré et qu'il participe à l'entretien de ses deux enfants est sans incidence sur le présent litige, puisqu'on ne voit pas en quoi il serait en mesure d'établir que les ex-époux formaient une communauté stable lors de la signature de la déclaration commune.
3.4 En définitive, les éléments avancés par le recourant ne suffisent pas à renverser la présomption établie. Il en découle que les conditions d'application de l'art. 41 LN sont réunies et que le Tribunal administratif fédéral n'a pas versé dans l'arbitraire en confirmant l'annulation de la naturalisation facilitée qui avait été octroyée au recourant.
4. L'intéressé soutient également qu'il est disproportionné de lui retirer la nationalité suisse qu'il a acquise par voie de naturalisation facilitée, alors qu'il réalise les conditions de durée de résidence requises pour la naturalisation ordinaire. Le fait que l'intéressé puisse solliciter la naturalisation ordinaire selon les art. 12 ss. LN n'empêche pas le retrait de la naturalisation facilitée. La naturalisation ordinaire et la naturalisation facilitée se distinguent non seulement dans leurs conditions d'octroi, mais aussi quant à la procédure applicable et aux autorités compétentes. Par conséquent, les conditions d'octroi de la naturalisation ordinaire ne peuvent pas être examinées dans la présente procédure (arrêt 1C_292/2010 du 5 août 2010 consid. 5.2). Le grief doit être écarté.
5. Enfin, le recourant fait valoir que le retrait de la naturalisation facilitée constituerait une ingérence dans l'exercice des droits découlant de l'art. 8 CEDH, en raison de l'impact du retrait de la nationalité suisse sur sa vie privée. Pour que la garantie de l'art. 8 CEDH puisse être invoquée, il faut être en présence d'une mesure étatique d'éloignement qui aboutit à la séparation des membres d'une famille (cf. <ref-ruling> consid. 2.1 p. 155 s.; arrêt 2C_505/2009 du 29 mars 2010 consid. 5.1). Or, l'intéressé ne prétend pas que la décision d'annulation de la naturalisation facilitée l'empêcherait de demeurer en Suisse. Le grief tombe donc à faux.
6. Il s'ensuit que le recours doit être rejeté. Le recourant, qui succombe, doit supporter les frais de la présente procédure (art. 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 francs, sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, à l'Office fédéral des migrations et à la Cour III du Tribunal administratif fédéral.
Lausanne, le 23 août 2011
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
La Greffière: Tornay Schaller