Faits:
A. A.a Par testament olographe du 25 avril 2002, X._, veuf et sans enfant, a attribué son immeuble de D._ à la commune de C._ et celui abritant le restaurant Y._ à A._.
A.b En raison d'une grave maladie, le disposant a été hospitalisé le 14 juillet 2003 et a subi une intervention chirurgicale le 22 juillet suivant, pratiquée par le Dr B._. Le jour même, le disposant a souhaité voir son notaire. Celui-ci étant en vacances, le disposant a rencontré Me E._ le 24 juillet et lui a expliqué vouloir modifier son testament, en ce sens qu'il ne voulait plus attribuer l'auberge de Y._ à A._, mais à la commune de C._, et ne plus remettre l'immeuble de D._ à celle-ci, mais à son médecin.
Le notaire a cru identifier le médecin de son client en la personne du Dr F._. Il a alors préparé un projet de testament authentique qu'il a présenté au disposant. Ce dernier a confirmé le contenu de l'acte et l'a signé le 25 juillet 2003.
A.c Le disposant est décédé le 31 juillet 2003 à l'hôpital de G._. Après avoir notifié le testament authentique aux bénéficiaires désignés, l'exécuteur testamentaire a informé le Président du Tribunal de district, le 26 août 2003, que le Dr F._ ne connaissait nullement le disposant, à l'inverse du Dr B._ qui a déclaré que le disposant lui avait promis son immeuble de D._. Au cours du mois suivant, A._, la commune de C._ et le Dr B._ se sont opposés à la délivrance d'un certificat d'hérédité.
B. B.a Le 8 juillet 2004, la commune de C._ a ouvert action contre le Dr F._ en nullité du testament du 25 juillet 2003 devant la IIe Cour civile du Tribunal cantonal du canton de Neuchâtel. A._ a fait de même le 9 juillet 2004 contre la commune de C._ et le Dr F._. La jonction de ces causes a été ordonnée. La commune de C._ a acquiescé aux conclusions prises par A._.
B.b Le 20 août 2004, le Dr B._ a ouvert action en rectification du testament authentique, contre le Dr F._ uniquement, devant la IIe Cour civile du Tribunal cantonal du canton de Neuchâtel. Cette cause a été suspendue jusqu'à droit connu sur la validité dudit testament.
B.c Le 26 janvier 2005, le Dr F._ a acquiescé aux conclusions de A._ et de la commune de C._ dans les deux actions ouvertes contre lui en nullité du testament authentique. Il a ensuite requis le classement de la procédure de rectification de ce testament.
Le Dr B._ a conclu au rejet de la requête de classement. Le 23 mai 2005, il a déposé trois mémoires de tierce opposition contre les acquiescements de la commune de C._ et du Dr F._.
B.d Statuant le 1er février 2010 sur la demande de rectification du testament, la IIe Cour civile du Tribunal cantonal du canton de Neuchâtel a déclaré irrecevables les conclusions reconventionnelles de la commune de C._ et du Dr F._ en nullité du testament authentique. Elle a en outre rectifié l'institution d'héritier en remplaçant le nom du Dr F._ par celui du Dr B._. Le 7 juin 2010, l'intimé s'est désisté des instances de tierce opposition.
B.e Le 12 mai 2010, A._ a ouvert action contre le Dr B._ en nullité du testament authentique du 25 juillet 2003 devant la IIe Cour civile du Tribunal cantonal du canton de Neuchâtel. Par jugement du 29 décembre 2010 expédié aux parties le lendemain, les juges cantonaux ont déclaré l'action du recourant "irrecevable" en raison de la péremption de son action.
C. Par acte du 1er février 2011, A._ a interjeté un recours en matière civile au Tribunal fédéral. Il conclut principalement à l'annulation du jugement entrepris et à sa réforme en ce sens que l'action en nullité du testament n'est pas périmée. Subsidiairement, il conclut au renvoi de la cause à l'autorité de première instance pour nouvelle décision.
Par ordonnance du 3 février 2011, la Présidente de la IIe Cour de droit civil du Tribunal fédéral a refusé l'effet suspensif au recours.
Invités à se déterminer, l'intimé conclut au rejet du recours et l'autorité cantonale se réfère aux considérants de son jugement.

Considérant en droit:
1. L'arrêt attaqué du Tribunal cantonal neuchâtelois ayant été rendu et expédié aux parties en 2010, il n'est pas soumis au Code de procédure civile du 19 décembre 2008 (CPC, RS 272), entré en vigueur le 1er janvier 2011 (<ref-ruling> consid. 2 p. 131 s.). Le droit transitoire relatif aux art. 75 al. 2 et 111 al. 3 LTF, tel que prévu par l'<ref-law>, demeure donc applicable.
Le recours en matière civile est dirigé contre une décision finale (<ref-law>) rendue en matière successorale (<ref-law>) par une autorité cantonale ayant statué en dernière (unique) instance (<ref-law>). En vertu de l'art. 46 al. 1 let. c LTF, les délais de recours fixés en jours par la loi ne courent pas du 18 décembre au 2 janvier inclus (arrêt 2C_174/2008 du 29 février 2008 consid. 2.1), le recours est ainsi exercé dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi, par une partie qui a succombé dans ses conclusions devant l'autorité précédente (<ref-law>). Par ailleurs, s'agissant d'une affaire pécuniaire, la valeur litigieuse minimale de 30'000 fr. est atteinte (<ref-law>). Le recours est donc recevable en principe.
2. 2.1 L'examen d'un recours suppose que le recourant ait un intérêt matériel à l'annulation ou à la modification du dispositif du jugement attaqué. Il s'agit d'une condition de droit matériel qui ne se confond pas avec la qualité pour recourir (arrêt 5P.331/2002 du 12 décembre 2002 consid. 1.2.2). Il ne suffit pas que le recourant soit formellement lésé, encore faut-il qu'il le soit matériellement (<ref-ruling> consid. 2a p. 7 s.). Pour que le recourant soit matériellement lésé, il faut que, selon son argumentation, il apparaisse atteint dans sa situation juridique (<ref-ruling> consid. 1.2 p. 691; <ref-ruling> consid. 3 p. 506; arrêt 5P.331/2002 du 12 décembre 2002 consid. 1.2.2). L'admission du recours doit être susceptible d'améliorer le sort personnel du recourant (<ref-ruling> consid. 2a p. 7 s.; <ref-ruling> consid. 6 p. 729).
2.1.1 Dans le cadre spécifique de l'action en nullité du testament (<ref-law>), la jurisprudence et la doctrine unanime ont admis que l'intérêt matériel à la déclaration de nullité se mesure aux effets que produira le jugement, notamment en faveur de quelles personnes il créera un droit (PAUL PIOTET, Droit successoral, Traité de droit privé suisse IV, 1975, p. 253; ABT/TARNUTZER-MÜNCH, Erbrecht, 2007, n°s65 s. ad art. 519 ZGB). L'intérêt à interjeter recours suppose que l'admission de l'action en nullité des dispositions à cause de mort soit susceptible de procurer un avantage au recourant (<ref-ruling> consid. 2 p. 35 s.; FORNI/PIATTI, Basler Kommentar, 3e éd., 2007, n° 28 ad art. 519/520 ZGB). Autrement dit, l'action en nullité doit être dirigée contre les personnes qui tirent des dispositions testamentaires des avantages de nature successorale au détriment du demandeur (<ref-ruling> consid. 9b p. 99 s. avec les références).
2.1.2 Le prononcé de nullité du testament a pour effet de soumettre la succession au droit ab intestat ou de faire revivre des dispositions à cause de mort antérieures valables, révoquées par l'acte annulé (FORNI/PIATTI, op. cit., n° 29 ad art. 519/520 ZGB; ESCHER, Zürcher Kommentar, 3e éd., 1960, n° 6 ad art. 519 ZGB; STEINAUER, Le droit des successions, 2006, n° 776, p. 378). Selon la jurisprudence fédérale et la doctrine majoritaire, le jugement de nullité du testament n'a d'effets qu'entre les parties au procès (<ref-ruling> consid. 4.4.1 p. 127 s.; <ref-ruling> consid. 3 p. 36; FORNI/PIATTI, op. cit., n° 30 ad art. 519/520 ZGB; ESCHER, op. cit., n° 6 ad art. 519 ZGB TUOR, Berner Kommentar, 2e éd., 1952, n° 6b ad art. 519 ZGB; STEINAUER, op. cit., n° 776, p. 378 cf. cependant PAUL PIOTET, TDPS IV, p. 253 s.; LE MÊME, La protection du réservataire en droit successoral suisse, RDS 1972 I 25, in: Contributions choisies, 2004, p. 181 s.; DENIS PIOTET, Les inefficacités des dispositions à cause de mort en droit suisse, in: Quelques actions en annulation, 2007, n° 43 p. 70 avec les références, d'un avis plus nuancé).
2.2 Dans son mémoire, le recourant ne développe pas cette question et se limite à affirmer "[qu']il est incontestable que le recourant dispose d'un intérêt digne de protection à l'annulation du jugement [...] qui confirme la position de sa partie adverse selon laquelle l'action en annulation du testament interjetée le 12 mai 2010 serait périmée". Il n'expose pas en quoi l'admission de l'action en nullité du testament authentique à l'encontre de l'intimé lui procurerait un avantage.
Pour sa part, l'intimé dénie au recourant tout intérêt à recourir. Selon lui, l'annulation du testament - opposable uniquement inter partes - n'aurait aucune conséquence sur l'attribution qui lui est dévolue à cause de mort.
2.3 Il ressort du jugement de l'autorité précédente que le testateur a modifié, par testament authentique du 25 juillet 2003, les attributions qu'il avait prévues dans son testament olographe du 25 avril 2002. Il ne voulait plus attribuer le restaurant Y._ au recourant, mais à la commune de C._, et ne plus remettre l'immeuble de D._ à celle-ci, mais au Dr F._ (devenu Dr B._ suite à l'action en rectification). Par ces nouvelles dispositions à cause de mort, le testateur a écarté le recourant de sa succession, au profit de la commune de C._.
Les règles de partage prévues par le disposant sont contraignantes pour les héritiers institués (art. 608 al. 2 ab initio CC). Le recourant ne peut ainsi recouvrer sa qualité d'héritier institué du restaurant Y._, conformément au testament olographe du 25 avril 2002, qu'à la condition que le testament authentique du 25 juillet 2003 soit annulé à l'encontre de l'héritier qui le remplace (cf. supra consid. 2.1.1). Or le testament authentique ne prévoit pas l'attribution du restaurant Y._ à l'intimé, de sorte que l'action en nullité ne doit pas être dirigée contre celui-ci. L'attribution en faveur de l'intimé, à savoir l'immeuble de D._, n'a quant à elle jamais été destinée au recourant.
Les prétentions successorales du recourant n'étant pas en concurrence avec celles de l'intimé, l'admission de son recours et l'éventuelle annulation du testament authentique du 25 juillet 2003 à l'égard de l'intimé, ne sont pas de nature à lui procurer un avantage. En conséquence, l'intérêt du recourant à l'action en nullité du testament authentique à l'encontre de l'intimé fait défaut. Les conditions de recevabilité de l'action ne sont pas remplies (<ref-ruling> consid. 3a p. 354 s.; HOHL, Procédure civile, tome I, 2001, n° 301 s. p. 75).
3. Vu ce qui précède, le recours doit être rejeté, sans qu'il y ait lieu d'examiner les griefs soulevés au fond. Le recourant, qui succombe, supportera les frais judiciaires (<ref-law>) et versera des dépens à l'intimé qui a conclu au rejet du recours dans la mesure de sa recevabilité (art. 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 6'000 fr., sont mis à la charge du recourant.
3. Une indemnité de 6'000 fr., à payer à l'intimé à titre de dépens, est mise à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et à la IIe Cour civile du Tribunal cantonal du canton de Neuchâtel.
Lausanne, le 1er septembre 2011
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
La Greffière: Carlin