Faits:
A. A.a X._, né en 1896, et dame X._, née en 1910, se sont mariés en 1941; aucune descendance n'est issue de cette union. X._ avait un frère, E._, né en 1899, et une soeur, dame Y._, née en 1897. Celle-ci a épousé Y._, avec lequel elle a eu trois enfants: B._, née en 1935, A._, né en 1937, et F._, née en 1938.
A.b X._ est décédé le 7 janvier 1982. Par testament du 4 août 1977, il avait notamment disposé ce qui suit:
"Art. 2
Je réduis à leur réserve ma soeur dame Y._, à G._, et mon frère E._, à G._. Je prescris que ma soeur et mon frère recevront leur réserve sur mes biens en effets et titres.
Art. 3
Mon épouse, dame X._, outre sa réserve et à part les legs que je pourrais ordonner, (sic) l'entière quotité de ma succession.
Art. 4
Je grève mon épouse de l'obligation de rendre à son décès ce qui restera des biens recueillis dans ma succession, aux trois enfants (B._, A._ et F._) de ma soeur, dame X._, par tête, surtout les biens immobiliers. Je la dispense de toute sûreté."
Par convention de partage du 24 juin 1983 établie par l'exécuteur testamentaire de X._, dame X._, dame Y._ et E._, tous trois héritiers institués, ont arrêté la répartition des biens de la succession.
B. B.a E._ est décédé en 1986, dame Y._ en 1993 et dame X._ en 1997; celle-ci a laissé pour héritiers institués ses deux neveux, C._ et D._, fils de son frère prédécédé.
Une importante divergence d'opinion est apparue, s'agissant du partage de la succession de dame X._, entre les héritiers appelés de X._ et les héritiers institués de dame X._.
B.b Par demande du 18 août 2000, A._, F._ - décédée le 3 novembre 2002 - et B._ ont ouvert action en pétition d'hérédité contre C._ et D._ devant l'une des Cours civiles du Tribunal cantonal du canton de Neuchâtel. Après s'être réformés, les demandeurs ont pris en dernier lieu les conclusions suivantes:
"1. Constater que la substitution fidéicommissaire de la succession de X._ en faveur des demandeurs porte sur la part de propriété commune de feue dame X._ sur les articles No 218 et 219 du cadastre de G._.
2. Condamner les défendeurs à transférer aux demandeurs la part de propriété commune de feue dame X._ sur les articles du cadastre de G._, soit la part de 173 sur l'article 218 et la part 172 sur l'article 219.
3. Dire et déclarer que le conservateur du Registre foncier du canton de G._ est autorisé à opérer l'inscription au Registre foncier pour le transfert aux demandeurs de la propriété des deux parts sur les immeubles articles Nos 218 et 219 du cadastre de G._.
4. Constater que les demandeurs sont, depuis le décès de dame X._, propriétaires des biens objets de la substitution fidéicommissaire de la succession de X._.
5. Ordonner solidairement aux défendeurs de remettre aux demandeurs le patrimoine en espèces et titres objet de la substitution fidéicommissaire de la succession de X._, d'une valeur de CHF 1'685'943.- au 31 décembre 2006.
6. Donner acte aux défendeurs que la somme de CHF 15'005.- doit être prélevée en leur faveur sur le patrimoine selon chiffre 5 ci-dessus.
7. Sous suite de frais et dépens."
Lors d'une audience qui s'est déroulée le 29 janvier 2008, un accord partiel est intervenu en ce sens notamment que les défendeurs ont accepté l'inscription, aux seuls noms des demandeurs en qualité de propriétaires, des parts de dame X._ sur les deux immeubles de G._, étant précisé que ceux-ci entreraient dans le calcul global de la succession à répartir.
B.c Par jugement du 6 février 2009, la IIe Cour civile du Tribunal cantonal du canton de Neuchâtel a donné acte aux parties de la transaction partielle conclue à l'audience du 29 janvier 2008 et rejeté toute autre ou plus ample conclusion.
C. A._ et B._ interjettent le 10 mars 2009 un recours en matière civile au Tribunal fédéral contre cette décision, concluant à sa réforme en ce sens que C._ et D._ soient condamnés à leur restituer, sous déduction d'un montant de 15'005 fr., les avoirs en titres et espèces déposés au Crédit Suisse Neuchâtel sur le compte n° xxx (compte dépôt rubrique "spécial") et sur les comptes issus de la relation client yyy, dont la valeur totale s'élèverait à 1'685'943 fr. au 31 décembre 2006. Ils se plaignent d'une violation des art. 533 al. 3 et 638 CC, ainsi que 31 CO.
C._ et D._ n'ont pas été invités à se déterminer.
Considérant en droit:
1. Le Tribunal fédéral examine d'office la recevabilité des recours qui lui sont soumis (ATF 134 III 115 consid. 1 p. 117).
1.1 Interjeté dans le délai légal (art. 100 al. 1 LTF) par une partie qui a succombé dans ses conclusions prises devant l'autorité précédente (art. 76 al. 1 LTF) et dirigé contre une décision finale (art. 90 LTF) rendue par la dernière juridiction cantonale (art. 75 al. 1 LTF), dont la valeur litigieuse atteint 30'000 fr. (art. 74 al. 1 let. b LTF), le recours en matière civile est en principe recevable.
1.2 Le recours en matière civile peut être formé notamment pour violation du droit fédéral (art. 95 let. a LTF). Le Tribunal fédéral applique en principe le droit d'office (art. 106 al. 1 LTF), sans être lié ni par les motifs de l'autorité précédente, ni par les moyens des parties; il peut donc admettre le recours en se fondant sur d'autres arguments que ceux invoqués par le recourant, comme il peut le rejeter en opérant une substitution de motifs (ATF 133 III 545 consid. 2.2 p. 550). Compte tenu des exigences de motivation posées, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), à l'art. 42 al. 2 LTF, le Tribunal fédéral n'examine en principe que les griefs soulevés; il n'est pas tenu de traiter, à l'instar d'une juridiction de première instance, toutes les questions juridiques pouvant se poser lorsqu'elles ne sont plus discutées devant lui (ATF 134 III 102 consid. 1.1 p. 104/105).
1.3 Saisi d'un recours en matière civile, le Tribunal fédéral conduit son raisonnement sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF); il ne peut s'en écarter que si ces faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF).
1.4 Aux termes de l'art. 99 al. 2 LTF, toute conclusion nouvelle est irrecevable. En l'espèce, la conclusion en restitution des recourants vise la même chose que leur conclusion prise devant la cour cantonale tendant à la remise du patrimoine en espèces et titres objet de la substitution fidéicommissaire; partant, elle est recevable.
1.5 Il est exclu, en raison de la prohibition de la présentation de faits et moyens de preuve nouveaux devant le Tribunal fédéral (art. 99 al. 1 LTF), d'entrer en matière sur un argument juridique nouveau s'il implique le complètement de l'administration des preuves et des constatations de fait (ATF 134 III 643 consid. 5.3.2 p. 651 et les références).
2. La cour cantonale a considéré que l'action en pétition d'hérédité déposée par les demandeurs était prescrite mais que leurs prétentions, en tant qu'elles pouvaient se fonder également sur l'action en revendication de l'art. 641 al. 2 CC, étaient recevables. Suivant la thèse des défendeurs, elle a néanmoins jugé que la substitution fidéicommissaire ne pouvait pas concerner les titres et espèces de la succession de X._, dès lors qu'elle portait atteinte à la réserve de la veuve du précité, dame X._. En l'absence d'une renonciation expresse de celle-ci à faire valoir l'action ou l'exception en réduction, les juges précédents ont examiné si une renonciation tacite résultait des faits; à cet égard, ils ont constaté que dame X._ avait signé une convention de partage, laquelle stipule à son article 19 que, jusqu'au décès de la prénommée et pour assurer l'exécution de la substitution ordonnée par le défunt en faveur des trois enfants de dame Y._, l'exécuteur testamentaire recevrait chaque année le compte des revenus des immeubles à G._ et l'inventaire des espèces et titres recueillis dans la succession de X._. Les juges précédents ont toutefois considéré qu'on ne pouvait conclure de cette seule mention dans la convention de partage que dame X._, d'une part, avait conscience du fait que le testament de X._ portait atteinte à sa réserve et, d'autre part, qu'elle entendait renoncer à l'exception de réduction. Par conséquent, les défendeurs étaient en droit d'invoquer par voie d'exception l'atteinte à la réserve de leur défunte tante.
3. Sur la base d'une argumentation juridique nouvelle, dont ils affirment qu'elle se fonde entièrement sur les constatations de fait de la cour cantonale, les recourants font valoir que les juges précédents auraient admis que la convention de partage de la succession de X._, signée en juin-juillet 1983 par dame X._ notamment, renfermait une atteinte à la réserve légale de celle-ci. Or, le contrat de partage exprime la volonté des héritiers de se lier définitivement et de manière obligatoire; selon l'art. 638 CC, le partage peut être rescindé pour les mêmes causes que les autres contrats, notamment pour un vice de la volonté. Dans la mesure où l'autorité cantonale a retenu qu'on ne pouvait déduire de la signature de cette convention par dame X._ que celle-ci avait conscience du fait que le testament de X._ - et, partant, selon les recourants, le partage opéré selon cette convention - portaient atteinte à sa réserve, ni qu'elle entendait renoncer à l'exception de réduction, ils en déduisent que cette convention était entachée d'une erreur, respectivement d'un vice du consentement affectant la volonté de la signataire. Or, dame X._ ne se serait jamais prévalue de son vivant de ce vice et les intimés - qui lui ont succédé dans l'ensemble de ses droits et obligations stipulés dans le contrat de partage et, singulièrement, en rapport avec le respect de la clause de substitution fidéicommissaire sur les biens résiduels - non plus. Selon les recourants, les intimés ne pouvaient invoquer l'exception tirée de l'art. 533 al. 3 CC qu'à condition qu'ils invalident, au préalable, en application de l'art. 638 CC et conformément à l'art. 31 CO, le contrat de partage en raison du vice qu'il renfermait; faute de l'avoir fait, ils demeurent liés par le contrat de partage de 1983 et les obligations qui en découlent.
4.1 4.1.1 Conformément à l'art. 531 CC, toutes clauses de substitution sont nulles à l'égard de l'héritier, dans la mesure où elles grèvent sa réserve. Nonobstant le terme "nulle", la loi prévoit ici une action en réduction d'un genre particulier (ATF 108 II 288 consid. 2 p. 291). Dans la mesure où elle lèse sa réserve, l'héritier n'est pas tenu d'accepter une substitution fidéicommissaire; il a droit à une réserve franche, qu'il puisse transmettre à ses propres héritiers. Le droit à la réserve passe aux héritiers du grevé, lesquels peuvent s'en prévaloir contre les appelés. L'action tend à supprimer la substitution dans la mesure où elle englobe la réserve du grevé. Conformément à l'art. 533 al. 3 CC, la réduction peut être opposée en tout temps par voie d'exception (ATF 135 III 97 consid. 3 p. 101; 133 III 309 consid. 5 p. 310/311). Il est possible de renoncer valablement à ouvrir action en réduction après l'ouverture de la succession; la renonciation n'est soumise à aucune forme (ATF 135 III 97 consid. 3.1 p. 101; 108 II 288 consid. 3a p. 293). En renonçant à l'action en réduction, le grevé ne renonce pas nécessairement à faire valoir l'exception. La renonciation à une exception se fait par une déclaration unilatérale, non soumise à une forme particulière, et émise envers le créancier. En l'absence d'une renonciation expresse, il faut rechercher si une renonciation tacite résulte des faits retenus par les premiers juges (ATF 108 II 288 consid. 3b p. 294).
4.1.2 La renonciation à un droit s'interprète comme n'importe quelle déclaration de volonté; en l'absence d'une déclaration expresse, le juge doit se garder d'admettre trop facilement qu'une partie a renoncé à son droit, et appliquer le principe de la confiance pour dire si un comportement déterminé exprime sans équivoque une renonciation (ATF 110 II 344 consid. 2b p. 345, 108 II 102 consid. 2a p. 105 in fine, KRAMER, Berner Kommentar, 3e éd. 1991, n° 39 ad art. 18 CO).
4.2 En l'espèce, en examinant la question d'une renonciation tacite en relation avec la mention figurant à l'article 19 de la convention de partage, la cour cantonale a déterminé comment le comportement de la veuve pouvait et devait être compris, selon le principe de la confiance, par ses cocontractants. Dans la mesure où elle a nié qu'ils aient pu y voir une renonciation de la part de celle-ci à sa réserve - déduction que les recourants ne critiquent pas -, leur grief fondé sur l'erreur et son invalidation est sans objet; en effet, il ne peut y avoir erreur que lorsque la volonté réelle du déclarant ne correspond pas à la volonté que le destinataire pouvait et devait comprendre selon le principe de la confiance. Au demeurant, les recourants fondent la nécessité d'invalider le partage avant de faire valoir l'exception de réduction sur la prémisse erronée que ce serait la convention de partage qui porterait atteinte à la réserve de dame X._; or, comme l'ont admis à juste titre les juges précédents, la réserve de la veuve est lésée par la substitution fidéicommissaire qui grève sa part en faveur des recourants. Pour le surplus, ceux-ci ne contestent pas l'atteinte à la réserve de dame X._; il n'y a donc pas lieu de revoir cette question.
5. Vu ce qui précède, le recours doit être rejeté. Les recourants, qui succombent, supporteront les frais judiciaires (art. 66 al. 1 LTF). Il n'y a pas lieu d'allouer des dépens aux intimés, qui n'ont pas été invités à se déterminer.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 12'000 fr., sont mis solidairement à la charge des recourants.
3. Le présent arrêt est communiqué aux parties et à la IIe Cour civile du Tribunal cantonal du canton de Neuchâtel.
Lausanne, le 20 mai 2009
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Hohl Aguet