Faits:
A. A._, ressortissant nigérian né en 1968, est arrivé en Suisse le 15 octobre 1997. Deux jours plus tard, il a épousé B._, citoyenne suisse de neuf ans son aînée, qu'il avait rencontrée en 1996 en Italie. Il s'est ainsi vu délivrer une autorisation de séjour.
Le 15 octobre 2002, A._ a déposé une demande de naturalisation facilitée fondée sur son mariage. Dans le cadre de l'instruction de cette demande, les époux ont contresigné, le 25 janvier 2004, une déclaration écrite aux termes de laquelle ils confirmaient vivre en communauté conjugale effective et stable, résider à la même adresse et n'envisager ni séparation, ni divorce. Leur attention a été attirée sur le fait que la naturalisation facilitée ne pouvait pas être octroyée lorsque, avant ou pendant la procédure de naturalisation, l'un des époux demandait le divorce ou la séparation, ou lorsque la communauté conjugale effective n'existait plus. La déclaration signée précisait en outre que si cet état de fait était dissimulé, la naturalisation facilitée pouvait être annulée dans les cinq ans.
Par décision du 25 mars 2004, l'Office fédéral de l'immigration, de l'intégration et de l'émigration (IMES devenu l'Office fédéral des migrations [ci-après: l'ODM]) a accordé la naturalisation facilitée à A._.
B. En août 2004, le prénommé a appris que B._ entretenait une relation adultérine. Le 24 septembre 2004, le couple s'est séparé. Une première demande de mesures protectrices de l'union conjugale a été déposée le 19 novembre 2004 et rejetée le 7 décembre 2004. Une seconde requête, datée du 19 janvier 2005, a été admise le 22 février 2005.
Le 17 janvier 2005, B._ a déclaré au Service des naturalisations du canton de Genève avoir déposé plainte contre son mari, en raison des violences conjugales subies.
C. Le 3 mars 2005, l'ODM a informé le prénommé qu'il allait examiner la possibilité d'ouvrir une procédure en annulation de sa naturalisation facilitée et l'a invité à se déterminer. Dans un courrier du 21 mars 2005, B._ a expliqué avoir quitté le domicile conjugal le 24 septembre 2004, à la suite de violences tant physiques que psychiques émanant de son mari; elle a précisé que cela durait depuis 1998 et que la raison pour laquelle le prénommé s'était intéressé à elle était l'obtention d'un passeport suisse. Par courrier du 17 mai 2005, A._ a notamment répondu que la situation du couple s'était dégradée au mois d'août 2004 et que ses tentatives pour sauver son couple n'avaient pas abouti. Entendue le 14 juin 2005 par l'autorité cantonale compétente, l'épouse du prénommé a expliqué qu'en raison de différences culturelles, le couple avait connu des problèmes durant toute la période de vie commune; elle avait subi "des brutalités verbales quotidiennes et physiques au moins une fois l'an"; les époux n'avaient jamais envisagé de séparation ou de divorce avant ou pendant la procédure de naturalisation ou lors de la signature de la déclaration commune. Elle a encore affirmé savoir que son époux avait entretenu des relations extraconjugales.
Par lettre du 18 juillet 2005, A._ s'est déterminé sur les déclarations de son épouse et a précisé que son épouse avait décidé de manière unilatérale de quitter le domicile conjugal. Il a admis avoir giflé son épouse en 2001 lors d'une soirée dans un dancing, mais a contesté tous les autres actes de violence qui lui étaient reprochés ainsi que ses prétendues infidélités. Par courriers des 8 et 25 novembre 2005, B._ a répondu aux observations de A._, tout en relevant les difficultés récurrentes de communication et les nombreuses disputes, ayant émaillé leur vie commune.
Par jugement du 21 février 2008, le Tribunal de première instance du canton de Genève a prononcé la dissolution du mariage des prénommés.
Le 21 janvier 2009, A._ a adressé un courrier à l'ODM et produit deux lettres de connaissance du couple. Le 27 février 2009, le prénommé s'est déterminé sur le fait qu'il ressortirait de pièces du dossier, mises au bénéfice de l'art. 27 al. 1 de la loi fédérale du 20 décembre 1968 sur la procédure administrative (PA; RS 172.021), qu'il se serait à plusieurs reprises comporté de manière violente à l'égard de son ex-épouse durant la période où ils faisaient ménage commun et qu'il aurait entretenu des relations extraconjugales: il a contesté ces éléments.
D. Par décision du 6 mars 2009, l'ODM a prononcé, avec l'assentiment de l'autorité cantonale compétente, l'annulation de la naturalisation facilitée accordée à A._. En substance, il a retenu que l'octroi de la naturalisation facilitée s'était fait sur la base de déclarations mensongères, voire de dissimulation de faits essentiels.
Le Tribunal administratif fédéral a confirmé la décision de l'ODM dans un arrêt rendu le 3 novembre 2011. Il a considéré en particulier que l'enchaînement rapide des événements fondait la présomption que la communauté conjugale des intéressés n'était plus étroite et effective au moment de la signature de la déclaration commune, les éléments avancés par A._ n'étant pas suffisants pour renverser cette présomption.
E. Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral d'annuler l'arrêt du Tribunal administratif fédéral et de dire qu'il conserve sa nationalité suisse. L'ODM et le Tribunal administratif fédéral ont renoncé à se déterminer.

Considérant en droit:
1. Dirigé contre la décision du Tribunal administratif fédéral qui confirme l'annulation de la naturalisation facilitée accordée au recourant, le recours est recevable comme recours en matière de droit public (art. 82 al. 1 let. a et 86 al. 1 let. a LTF). Le motif d'exclusion de l'<ref-law> n'entre pas en ligne de compte, dès lors qu'il s'agit en l'espèce de naturalisation facilitée et non pas de naturalisation ordinaire. Pour le surplus, le recourant a la qualité pour recourir au sens de l'<ref-law> et les conditions formelles de recevabilité sont remplies, de sorte qu'il y a lieu d'entrer en matière.
2. Dans un grief d'ordre formel qu'il convient d'examiner en premier lieu, le recourant se plaint d'une violation de son droit d'être entendu (art. 29 al. 2 Cst.). Il fait grief à l'instance précédente d'avoir violé les art. 26 à 28 PA, en fondant sa décision sur des pièces dont l'accès lui avait été refusé, alors qu'aucun intérêt privé ou public sérieux ne pouvait justifier que le secret soit gardé sur celles-ci.
2.1 Garanti à l'art. 29 al. 2 Cst., le droit d'être entendu comprend notamment le droit pour l'intéressé de prendre connaissance du dossier, d'offrir des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 5.1 p. 293; <ref-ruling> consid. 3.1 p.).
L'<ref-law> prescrit que l'autorité peut refuser la consultation de pièces si des intérêts privés importants, en particulier ceux des parties civiles, exigent que le secret soit gardé. Selon l'<ref-law>, une pièce dont la consultation a été refusée à la partie ne peut être utilisée à son désavantage que si l'autorité lui en a communiqué, oralement ou par écrit, le contenu essentiel se rapportant à l'affaire et lui a donné en outre l'occasion de s'exprimer et de fournir des contre-preuves (cf. <ref-ruling> consid. 5c p. 304).
2.2 En l'espèce, l'élément ressortant des pièces litigieuses - dont l'ODM a communiqué de manière suffisante le contenu - n'a pas été retenu par l'instance précédente pour fonder la présomption de fait que la naturalisation avait été obtenue frauduleusement, mais uniquement pour la renforcer (cf. infra consid. 3.1.3). Il n'a, par conséquent, pas de véritable influence sur la question à trancher, soit celle de savoir si le recourant est parvenu à renverser ladite présomption (cf. infra consid. 3.1.4 ).
Par conséquent, faute d'avoir une influence sur l'issue du litige, le grief de la violation du droit d'être entendu doit être écarté.
3. Le recourant conteste avoir obtenu la naturalisation par des déclarations mensongères et reproche au Tribunal administratif fédéral d'avoir abusé de son pouvoir d'appréciation dans l'examen des éléments fondant le retrait de la naturalisation et d'avoir ainsi rendu une décision contraire au but de la loi fédérale du 29 septembre 1952 sur l'acquisition et la perte de la nationalité suisse (LN; RS 141.0).
3.1 Conformément à l'art. 41 al. 1 LN dans sa teneur jusqu'au 1er mars 2011 et à l'art. 14 al. 1 de l'ordonnance du 17 novembre 1999 sur l'organisation du Département fédéral de justice et police (RS 172.213.1), l'Office fédéral des migrations peut, avec l'assentiment de l'autorité du canton d'origine, annuler dans les cinq ans une naturalisation facilitée obtenue par des déclarations mensongères ou par la dissimulation de faits essentiels.
3.1.1 Pour qu'une naturalisation facilitée soit annulée, il ne suffit pas qu'elle ait été accordée alors que l'une ou l'autre de ses conditions n'était pas remplie; il faut qu'elle ait été acquise grâce à un comportement déloyal et trompeur. S'il n'est point besoin que ce comportement soit constitutif d'une escroquerie au sens du droit pénal, il est nécessaire que l'intéressé ait donné sciemment de fausses informations à l'autorité ou qu'il l'ait délibérément laissée dans l'erreur sur des faits qu'il savait essentiels (<ref-ruling> consid. 2 p. 165; <ref-ruling> consid. 3.1 p. 115 et les arrêts cités). Tel est notamment le cas si le requérant déclare vivre en communauté stable avec son conjoint alors qu'il envisage de se séparer une fois obtenue la naturalisation facilitée; peu importe que son mariage se soit ou non déroulé jusqu'ici de manière harmonieuse (arrêt 1C_406/2009 du 28 octobre 2009 consid. 3.1.1 et l'arrêt cité). La nature potestative de l'art. 41 al. 1 LN confère une certaine liberté d'appréciation à l'autorité compétente, qui doit toutefois s'abstenir de tout abus dans l'exercice de celle-ci. Commet un abus de son pouvoir d'appréciation l'autorité qui se fonde sur des critères inappropriés, ne tient pas compte de circonstances pertinentes ou rend une décision arbitraire, contraire au but de la loi ou au principe de la proportionnalité (<ref-ruling> consid. 3.1 p. 115; <ref-ruling> consid. 4a p. 101 et les arrêts cités).
D'après la jurisprudence, la notion de communauté conjugale suppose non seulement l'existence formelle d'un mariage, mais encore une véritable communauté de vie des conjoints; tel est le cas s'il existe une volonté commune et intacte de ceux-ci de maintenir une union conjugale stable; une séparation survenue peu après l'octroi de la naturalisation constitue un indice de l'absence de cette volonté lors de l'obtention de la citoyenneté suisse (<ref-ruling> consid. 2 p. 165; <ref-ruling> consid. 2 p. 484; <ref-ruling> consid. 3a p. 98; <ref-ruling> consid. 2b p. 52).
3.1.2 La procédure administrative fédérale est régie par le principe de la libre appréciation des preuves (art. 40 de la loi fédérale de procédure civile fédérale du 4 décembre 1947 [PCF; RS 273], applicable par renvoi de l'<ref-law>). Ce principe vaut également devant le Tribunal administratif fédéral (<ref-law>). L'administration supporte le fardeau de la preuve lorsque la décision intervient, comme en l'espèce, au détriment de l'administré. Cela étant, la jurisprudence admet dans certaines circonstances que l'autorité puisse se fonder sur une présomption. C'est notamment le cas pour établir que le conjoint naturalisé a menti lorsqu'il a déclaré former une union stable, dans la mesure où il s'agit d'un fait psychique, lié à des éléments relevant de la sphère intime, souvent inconnus de l'administration et difficiles à prouver (<ref-ruling> consid. 3 p. 166; <ref-ruling> consid. 3.2 p. 485). Partant, si l'enchaînement rapide des événements fonde la présomption de fait que la naturalisation a été obtenue frauduleusement, il incombe alors à l'administré de renverser cette présomption en raison, non seulement de son devoir de collaborer à l'établissement des faits (<ref-law> ; cf. <ref-ruling> consid. 3 p. 166; <ref-ruling> consid. 3.2 p. 115 s.), mais encore de son propre intérêt (ATF <ref-ruling> consid. 3.2 p. 485 s.).
S'agissant d'une présomption de fait, qui ressortit à l'appréciation des preuves et ne modifie pas le fardeau de la preuve (cf. ATF <ref-ruling> consid. 3.2 p. 486), l'administré n'a pas besoin, pour la renverser, de rapporter la preuve contraire du fait présumé, à savoir faire acquérir à l'autorité la certitude qu'il n'a pas menti; il suffit qu'il parvienne à faire admettre l'existence d'une possibilité raisonnable qu'il n'ait pas menti en déclarant former une communauté stable avec son conjoint. Il peut le faire en rendant vraisemblable, soit la survenance d'un événement extraordinaire susceptible d'expliquer une détérioration rapide du lien conjugal, soit l'absence de conscience de la gravité de ses problèmes de couple et, ainsi, l'existence d'une véritable volonté de maintenir une union stable avec son conjoint lorsqu'il a signé la déclaration (<ref-ruling> consid. 3 p. 165 s. et les arrêts cités).
3.1.3 En l'espèce, le Tribunal administratif fédéral a considéré que le laps de temps relativement court entre la déclaration commune (janvier 2004), l'octroi de la naturalisation facilitée (mars 2004), la séparation du couple (septembre 2004) et l'introduction des deux requêtes de mesure protectrices de l'union conjugale (novembre 2004 et janvier 2005) fondait la présomption que le couple n'envisageait déjà plus une vie future partagée lors de la signature de la déclaration commune et que la naturalisation facilitée avait été obtenue frauduleusement. Le recourant ne conteste aucun de ces éléments, lesquels sont propres à fonder la présomption que sa naturalisation a été obtenue frauduleusement.
Pour l'instance précédente, cette présomption est renforcée par le fait que l'intéressé a introduit sa demande de naturalisation exactement cinq ans après son installation en Suisse, que des témoignages attestent que le couple a rapidement rencontré des difficultés après son mariage et que, dès l'été 1998, le recourant a adopté à l'égard de son épouse un comportement violent, l'intéressé ayant admis avoir giflé son épouse à une reprise lors d'une soirée dans un dancing. S'y ajoutaient les fréquentes absences du recourant du domicile conjugal sans raisons clairement identifiées, le manque de considération et d'attention qu'il a eu pour le fils de son ex-épouse ainsi que la relation adultérine qu'il aurait entretenue en 2000 selon un document ne pouvant être mis en consultation en vertu de l'<ref-law>.
Conformément à la jurisprudence précitée, il s'agit donc uniquement de déterminer si l'intéressé est parvenu à renverser cette présomption en rendant vraisemblable, soit la survenance d'un événement extraordinaire susceptible d'expliquer une dégradation aussi rapide du lien conjugal, soit l'absence de conscience de la gravité des problèmes de couple au moment de la signature de la déclaration commune.
3.1.4 Dans son écriture, le recourant affirme que c'est à tort que le Tribunal administratif fédéral n'a pas considéré comme déterminants pour renverser la présomption la découverte en août 2004 de la relation extraconjugale qu'entretenait son ex-épouse et le refus de celle-ci de renoncer à de futures relations extraconjugales: cet élément expliquerait une soudaine dégradation du lien conjugal six mois après l'octroi de la naturalisation, et aurait conduit à la séparation des époux et, nonobstant le suivi d'une thérapie de couple, à leur divorce. Cette critique, essentiellement appellatoire, ne répond pas à l'argumentation de l'instance précédente qui a exposé de façon convaincante pourquoi le recourant n'avait pas rendu vraisemblable que cette relation adultérine consistait en un événement extraordinaire susceptible d'expliquer une dégradation rapide du lien conjugal (cf. arrêt attaqué consid. 7.2.1). Le Tribunal administratif fédéral a en effet retenu en substance que les nombreux éléments qu'il avait énumérés pour renforcer la présomption (cf. supra consid. 3.1.3) tendaient à démontrer que la dégradation de l'union conjugale avait débuté bien avant l'été 2004. Preuves en étaient au surplus les déclarations répétées de l'ex-épouse selon lesquelles les disputes étaient fréquentes et les problèmes de communication récurrents. Ainsi, l'instance précédente a considéré à juste titre que le fait que l'un des deux époux ait entamé une relation extraconjugale peu de temps après la signature de la déclaration commune et l'octroi de la naturalisation ne constituait pas un indice permettant d'affirmer que l'union conjugale était stable auparavant.
La présomption ne peut pas non plus être renversée par le fait que les ex-époux ont entrepris une thérapie de couple en automne 2004, dès lors que pareil élément ne permet pas d'établir qu'au moment de la signature de la déclaration commune, l'harmonie existait toujours au sein du couple au point d'envisager la continuation de la vie commune.
Le recourant se prévaut également en vain du fait que B._ soit tombée enceinte et qu'elle ait malheureusement eu une fausse couche en 1998. Cet élément, bien antérieur à la signature de la déclaration commune, n'est pas en mesure d'affaiblir ladite présomption. Il en va de même de l'appartement que les ex-époux ont acheté en copropriété en 2000 et de la déclaration d'amour écrite par l'ex-épouse du recourant après trois ans de vie commune.
Par ailleurs, le fait que le mariage se soit déroulé de façon harmonieuse pendant sept ans ainsi que les éléments qui ont précédé ce mariage sont sans pertinence pour l'examen de la question de savoir s'il y a eu obtention frauduleuse de naturalisation au sens de l'art. 41 LN, vu la jurisprudence susmentionnée. De même, il importe peu pour l'issue de la cause que l'ex-épouse ait été à l'origine de la procédure de séparation.
Enfin, le fait que l'intéressé vive en Suisse depuis quatorze ans, qu'il y soit bien intégré, qu'il travaille de manière assidue - ce qu'attestent les certificats de travail délivrés par ses employeurs -, et qu'il dispose de connaissances de l'histoire et de l'actualité helvétiques est sans incidence sur le présent litige, puisqu'on ne voit pas en quoi il serait en mesure d'établir que les ex-époux formaient une communauté stable lors de la signature de la déclaration commune.
3.1.5 En définitive, même si certains des arguments mentionnés par l'instance précédente - ainsi le fait que l'intéressé ait rejoint son épouse en Suisse quelques mois après leur mariage - ne sont pas pertinents, les éléments avancés par le recourant ne suffisent pas à renverser la présomption établie. En effet, l'intéressé n'apporte aucun élément propre à démontrer la survenance d'un événement extraordinaire postérieur à la signature de la déclaration commune et susceptible d'expliquer une dégradation aussi rapide du lien conjugal, après plus de sept ans de mariage. Le prénommé ne rend pas non plus vraisemblable qu'en janvier 2004, au moment de la signature de la déclaration commune, il n'avait pas conscience de ce que la communauté conjugale n'était plus orientée vers l'avenir. Il en découle que les conditions d'application de l'art. 41 LN sont réunies et que le Tribunal administratif fédéral n'a pas abusé de son pouvoir d'appréciation et n'a pas versé dans l'arbitraire en confirmant l'annulation de la naturalisation facilitée qui avait été octroyée au recourant.
4. Il s'ensuit que le recours doit être rejeté. Le recourant, qui succombe, doit supporter les frais de la présente procédure (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 francs, sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, à l'Office fédéral des migrations et au Tribunal administratif fédéral, Cour III.
Lausanne, le 11 avril 2012
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Juge présidant: Aemisegger
La Greffière: Tornay Schaller