Faits:
A. A.a Dame X._ est décédée le 26 juillet 1994 en France, en laissant comme héritiers ses deux fils, A._ et F._, chacun à raison d'une moitié.
La succession de la défunte a fait l'objet d'un acte de partage instrumenté par un notaire le 11 juillet 1996 et signé par les deux héritiers. Cet acte constate, entre autres points, que la masse active nette à partager entre ces derniers s'élève à FF 9'278'426.90, soit FF 4'639'213.45 chacun.
L'acte de partage contient en outre une clause manuscrite libellée en ces termes:
«Les parties n'ayant pas déposé à ce jour la déclaration fiscale de succession, conviennent qu'elles prendront en charge chacune pour elle en ce qui la concerne toutes les conséquences fiscales de leurs attributions.»
A.b La déclaration de succession a été déposée le 7 août 1996. Il en ressort que l'actif net taxable s'élève à FF 4'763'486.47 s'agissant de A._ et à FF 2'843'010.22 concernant F._. Cette différence est due au fait que F._ avait auparavant pu bénéficier d'un avancement d'hoirie, opération qui avait été taxée de manière indépendante.
Sur la base de ces montants, les droits de succession dus ont été arrêtés à FF 1'477'147.-, répartis à raison de FF 983'795.- à la charge de A._ et de FF 493'352.- à celle de F._. Celui-ci s'est acquitté du montant mis à sa charge par FF 424'618.- le 27 janvier 1995, dans les délais, et par FF 68'734.- le 11 juillet 1996, hors délais. A la suite du paiement effectué tardivement par F._, FF 206'619.- ont été mis à sa charge, à titre d'intérêts et de pénalités de retard; le montant total desdits intérêts et pénalités dus par A._ et F._ s'élevait à FF 732'949.-. F._ a versé un premier acompte de FF 87'463.- aux autorités fiscales le 31 juillet 1996, puis un deuxième, de FF 9'279.-, le 2 décembre 1996.
A.c Par courriers adressés les 6 janvier et 30 mai 1997 aux autorités fiscales, A._ a sollicité une réduction des pénalités de retard dues, en arguant notamment du fait que le dépôt tardif de la déclaration de succession était imputable à F._.
Par décision rendue le 10 septembre 1997, la Direction des services fiscaux concernée a consenti une remise gracieuse des intérêts et pénalités de retard dus conjointement par A._ et F._ à FF 247'342.- en lieu et place du montant total de FF 732'949.-. Sur ce montant de FF 247'342.-, FF 16'152.- ont été mis à la charge de F._ et FF 231'190.- à celle de A._.
Par mise en demeure du 16 septembre 1997, F._ a été sommé par les services fiscaux de payer la somme de FF 247'342.- à titre de «pénalités de retard sur droits de succession». Cette mise en demeure se fondait sur la solidarité des héritiers, prévue à l'art. 1709 du Code général des impôts français.
Le 25 septembre 1997, F._ a payé un dernier acompte de FF 6'873.- pour solde de tout compte s'agissant de sa dette personnelle, en accord avec les autorités fiscales.
A.d Le 9 février 1998, la Recette principale des impôts de Neuilly Nord (ci-après: la Recette des impôts) a adressé à F._ une «notification au redevable d'un avis à tiers détenteur». Par ce courrier, elle a informé ce dernier qu'elle avait demandé à plusieurs établissements, notamment une banque à Paris, de lui verser la somme de FF 231'190.-, dans la limite des fonds détenus au nom de F._, représentant le montant des «pénalités de retard sur droits de succesion». La Recette des impôts a expliqué avoir eu recours à cette mesure «à défaut d'avoir obtenu paiement de la part de [...] A._ et compte tenu de la solidarité qui incombe à [F._] en la matière».
Le 26 avril 2000, la Recette des impôts a adressé à F._ une nouvelle «notification au redevable d'un avis à tiers détenteur», informant celui-ci qu'elle avait demandé à la banque précitée de lui verser la somme de FF 231'190.-, dans la limite des fonds détenus au nom de F._, représentant le montant des «pénalités de retard sur droits de succession», et ce «faute de pouvoir obtenir paiement de la part de [A._], soit spontanément, soit par voie d'exécution forcée».
Par courrier du 8 juin 2000, F._ a donné ordre à ladite banque de payer la somme de FF 231'190.- à l'administration fiscale. Par attestation établie le 27 juin 2000, la banque a déclaré avoir effectué, le 14 juin 2000, un virement de FF 231'190.- au profit du Trésor public, sur ordre de F._.
A.e F._ a tenté de récupérer la somme de FF 231'190.- auprès de A._ par diverses procédures en France, qui se sont toutes soldées par un échec. En particulier, il a fait délivrer au défendeur une assignation devant le Tribunal de grande instance de Nanterre le 21 juillet 2000. Cette autorité a rendu, le 4 décembre 2000, une décision par laquelle elle s'est notamment déclarée incompétente et a renvoyé F._ à agir devant la juridiction du domicile de A._.
Au 21 juillet 2000, le cours d'achat du Franc français s'établissait à 23 fr. pour FF 100.-, tandis que son cours de vente s'élevait à 24 fr.30 pour FF 100.-.
Par commandement de payer n° xxx de l'Office des poursuites et faillites de Vevey, notifié le 6 février 2002 et frappé d'opposition totale le même jour, F._ a requis paiement par A._ de:
- 56'179 fr.17, plus intérêts à 5% dès le 21 juillet 2000, à titre de remboursement de la somme de FF 231'190.- payée par F._ aux autorités fiscales françaises en lieu et place de A._ compte tenu de la solidarité des héritiers pour les droits de succession, montant réclamé par assignation du 21 juillet 2000 devant le Tribunal de grande instance de Nanterre;
- 15'795 fr., plus intérêts à 5% dès le 21 juillet 2000, à titre de dommage supplémentaire selon l'art. 106 CO en raison de la résistance injustifiée à la procédure de recouvrement engagée en France, montant réclamé par assignation du 21 juillet 2000 devant le Tribunal de grande instance de Nanterre;
- 2'000 fr., sans intérêts, à titre de dommage supplémentaire selon l'art. 106 CO en raison de la procédure de recouvrement engagée en Suisse.
La mainlevée de l'opposition totale au commandement de payer précité a été refusée par décision du Président de la Chambre des recours du Tribunal cantonal du canton de Vaud du 16 mai 2000. La Cour des poursuites et faillites du Tribunal cantonal a, entre autres points, confirmé cette décision par arrêt du 6 septembre 2002.
La Recette des impôts a adressé à F._, le 14 février 2003, une lettre dont la teneur est notamment la suivante:
«Comme suite à votre demande, j'ai l'honneur de certifier que vous avez réglé à ma caisse, le 20/06/2000, pour un montant de 231 190,00 F (35 244,69 [EUR]), des pénalités encourues pour paiement tardif des droits de mutation dus à raison de la succession visée en objet.
[...]
La somme de 231 190,00 F correspond au montant des pénalités et intérêts de retard afférents aux droits dus par Monsieur A._, votre frère, après la décision de modération du 10/09/1997. Vous en avez effectué le paiement à sa place, suite aux poursuites engagées à votre encontre en application de l'art. 1709 du Code Général des impôts qui institue la solidarité des héritiers pour le paiement des droits de mutation par décès.»
B. B.a Par demande déposée le 23 juin 2003 devant le Tribunal civil de l'arrondissement de l'Est vaudois, F._ a conclu à ce qu'il soit prononcé que A._ est débiteur et doit immédiat paiement à F._ de la somme de 73'974 fr.17, plus intérêts à 5% l'an dès le 21 juillet 2000 sur la somme de 71'974 fr.17 et dès le 6 février 2002 sur la somme de 2'000 fr. (I), et à ce que la mainlevée de l'opposition formée par A._ au commandement de payer n° xxx soit définitivement levée (II).
L'action en dommages et intérêts intentée le 23 juillet 2004 par A._ à l'encontre de F._ devant le Tribunal de grande instance de Nanterre a été «déclarée irrecevable, et ainsi rejetée», par jugement du 4 novembre 2005.
F._ est décédé le 21 novembre 2006. Il a laissé comme héritiers son épouse, C._, et ses trois fils, D._, E._ et B._.
B.b Par jugement du 26 septembre 2007, notifié le 18 février 2008, le Tribunal civil de l'arrondissement de l'Est vaudois a, notamment, admis partiellement les conclusions de la demande formée le 23 juin 2003 par F._, auquel se sont substitués ses hoirs, à savoir B._, C._, D._ et E._ (I), dit que A._ leur doit immédiat paiement, solidairement entre eux, de la somme de 56'179 fr.15, avec intérêts à 5% l'an dès le 22 juillet 2000 (II), et levé définitivement, à concurrence de ce montant, la mainlevée de l'opposition formée par A._ au commandement de payer n° xxx (III).
En droit, les premiers juges ont considéré que le paiement effectué par F._ pour le compte de A._ était un cas d'application de l'art. 1251 du Code civil français et que, la subrogation étant intervenue de plein droit, les demandeurs pouvaient réclamer au défendeur le remboursement du montant versé aux autorités fiscales par F._. A ce propos, ils ont notamment retenu que A._ n'avait pas établi que le dépôt tardif de la déclaration de succession était dû au comportement de F._. En ce qui concerne la compensation opposée par A._ aux prétentions de F._, les premiers juges ont considéré que celui-là n'avait pas démontré le dommage éprouvé ni apporté de preuves quant à son montant et que, par jugement du 4 novembre 2005, le Tribunal de grande instance de Nanterre avait déclaré irrecevable l'action en dommages et intérêts intentée par A._ à l'encontre de F._, de sorte que l'exception de compensation ne pouvait être retenue.
B.c Par arrêt du 17 septembre 2008, la Chambre des recours du Tribunal cantonal du canton de Vaud a rejeté le recours formé par A._ contre le jugement du Tribunal d'arrondissement du 26 septembre 2007, qu'elle a dès lors confirmé. L'autorité cantonale a considéré que l'appréciation dudit tribunal, selon laquelle le recourant n'avait pas prouvé que F._ fût responsable du dépôt tardif de la déclaration de succession, ne prêtait pas le flanc à la critique et se révélait conforme au dossier, ce qui scellait le sort du recours.
C. A._ exerce un recours en matière civile au Tribunal fédéral pour appréciation arbitraire des preuves contre l'arrêt du 17 septembre 2008. Il conclut, d'une part, à son annulation et au renvoi de la cause pour nouveau jugement dans le sens des considérants et, d'autre part, à sa réforme dans le sens du rejet des conclusions de la demande.
Des observations n'ont pas été requises.
D. Par ordonnance du 20 novembre 2008, l'ancien président de la cour de céans a rejeté la demande d'effet suspensif.
Considérant en droit:
1. 1.1 Le présent recours, déposé en temps utile (art. 100 al. 1 LTF) par la partie qui a succombé en dernière instance cantonale (art. 76 al. 1 LTF), est dirigé à l'encontre d'une décision rendue en matière civile (art. 72 al. 1 LTF) par une juridiction cantonale de dernière instance (art. 75 al. 1 LTF), dans une affaire pécuniaire dont la valeur litigieuse atteint 30'000 fr. (art. 74 al. 1 let. b LTF).
1.2 Le recours en matière civile peut être formé pour violation du droit fédéral (art. 95 let. a LTF), qui englobe les droits constitutionnels (ATF 133 III 446 consid. 3.1 p. 447, 462 consid. 2.3 p. 466).
1.3 Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si ces faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF). Le recourant qui soutient que les faits ont été établis d'une manière manifestement inexacte (art. 97 al. 1 LTF), à savoir arbitraire au sens de l'art. 9 Cst. (ATF 134 V 53 consid. 4.3 p. 63; 133 II 249 consid. 1.2.2 p. 252), doit démontrer, par une argumentation précise, en quoi consiste la violation. Le Tribunal fédéral n'examine, en effet, la violation de l'interdiction de l'arbitraire que si un tel grief a été invoqué et motivé par le recourant (art. 106 al. 2 LTF), c'est-à-dire s'il a été expressément soulevé et exposé de façon claire et détaillée (ATF 134 II 244 consid. 2.2 p. 246; 133 IV 286 consid. 1.4 p. 287); les critiques de nature appellatoire sont irrecevables (ATF 133 III 589 consid. 2 p. 591 et les arrêts cités). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
Le Tribunal fédéral se montre réservé quant à l'appréciation des preuves et à la constatation des faits, vu le large pouvoir qu'il reconnaît en la matière aux autorités cantonales (ATF 120 Ia 31 consid. 4b p. 40; 104 Ia 381 consid. 9 p. 399 et les arrêts cités). Il n'intervient, du chef de l'art. 9 Cst., que si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, a omis sans raisons objectives de tenir compte de preuves pertinentes ou a opéré, sur la base des éléments recueillis, des déductions insoutenables (ATF 129 I 8 consid. 2.1 p. 9; 134 V 53 consid. 4.3 p. 62).
2. Le recourant ne remet pas en cause la subrogation de F._ à son encontre en raison du paiement de FF 231'190.- aux autorités fiscales françaises, mais entend opposer en compensation à cette prétention le préjudice lié au dépôt tardif par F._ de la déclaration de succession. Seule est litigieuse ici la question de la responsabilité de ce retard, que le recourant impute à son frère.
2.1 Le recourant prétend en substance que, contrairement aux dires de l'autorité cantonale, il n'a pas fourni que la pièce n° 101 comme moyen de preuve des manquements de F._. Ainsi que le relève la décision attaquée dans sa partie en fait, il s'est adressé, les 6 janvier et 30 mai 1997 (selon les pièces nos 103 et 104 produites par lui), aux autorités fiscales françaises, afin de solliciter une réduction des pénalités de retard dues en raison du dépôt tardif de la déclaration de succession, en soutenant notamment que ce retard était imputable à son frère, aux entreprises duquel il ne voulait être assimilé en aucune manière, et que lui-même n'était aucunement responsable du retard apporté au paiement de ses impôts. Or, à la suite de ces courriers, les autorités concernées ont consenti à une remise gracieuse des intérêts et pénalités de retard, comme cela ressort de la pièce n° 6. De plus, il ressort des pièces nos 101, 102 et 106 qu'en raison du comportement de son frère, il ne disposait pas des éléments nécessaires pour déterminer avec exactitude la composition du patrimoine de sa mère et pour juger du bien-fondé des chiffres indiqués dans le projet de déclaration de succession, de sorte qu'il ne pouvait donner son accord au dépôt de celle-ci. Aussi n'a-t-il pas seulement produit la pièce n° 101, mais également plusieurs autres courriers révélant la volonté de son frère de le retarder dans toutes ses démarches liées au règlement de la succession de leur mère.
En omettant de prendre en compte le contenu de ces pièces et en refusant, par conséquent, de constater que la responsabilité de F._ quant au dépôt tardif de la déclaration de succession était engagée, l'autorité cantonale aurait procédé à une appréciation arbitraire des faits.
2.2 Il n'est pas contesté que la pièce n° 101 consiste en un courrier du recourant du 27 juin 1995 adressé au receveur principal des impôts. Comme le constate l'arrêt attaqué, l'intéressé formule dans cette lettre différents reproches à l'égard de F._ et du notaire de celui-ci. Contrairement à ce que prétend A._, la Chambre des recours n'a pas fait preuve d'arbitraire en estimant qu'on ne pouvait accorder à cette pièce, émanant du recourant lui-même, un crédit particulier et admettre comme prouvés, sur sa seule base, les manquements qu'il reprochait à son frère, d'autant qu'il ressortait d'un courrier de F._ à l'administration fiscale du 2 décembre 1996 que ce dernier formulait lui aussi divers reproches à l'égard de A._, à qui il imputait la responsabilité du retard dans le dépôt de la déclaration de succession.
Quant aux autres pièces invoquées par le recourant, elles ne permettent pas non plus de démontrer le caractère insoutenable de l'appréciation des preuves effectuée par l'autorité cantonale. En particulier, les pièces nos 103 et 104 contiennent des critiques du recourant à l'égard de son frère ou du notaire de celui-ci qui ne sont aucunement étayées ni, a fortiori, démontrées. De même, dans sa décision du 19 septembre 1997 (pièce n° 6 du demandeur), la Direction des services fiscaux a certes accordé à F._ et A._ une réduction de l'amende et des indemnités qui leur étaient réclamées, mais sans indiquer les motifs de cette modération, ni surtout fournir la moindre indication quant à la responsabilité de l'un ou de l'autre des héritiers concernant le dépôt tardif de la déclaration de succession. Par ailleurs, le fait, pour le recourant, d'avoir mentionné aux autorités fiscales qu'il ne voulait pas être assimilé, d'une manière ou d'une autre, aux entreprises de son frère, n'établit pas non plus d'arbitraire dans l'appréciation des preuves. Enfin, les pièces nos 101, 102 et 106 font état de simples affirmations de la part de mandataires du recourant et ne sont pas de nature à démontrer que l'opinion de la Chambre des recours, selon laquelle celui-ci n'a pas rapporté la preuve que son frère serait responsable du dépôt tardif de la déclaration de succession et, partant, à l'origine des pénalités du fisc français, serait arbitraire (sur cette notion, voir ATF 134 I 263 consid. 3.1 p. 266).
3. 3.1 Le recourant soutient en outre qu'il ne ressort pas clairement de la déclaration manuscrite figurant sur l'acte de partage successoral que chaque héritier assumerait personnellement les pénalités liées au dépôt tardif de la déclaration de succession. Puisqu'il a toujours tenu son frère pour responsable de ce retard et qu'il a immédiatement payé les droits de succession qui lui incombaient - ce qui ne résulte toutefois pas de l'arrêt attaqué -, l'engagement qu'il a pris dans cette note n'avait comme seul objectif que de confirmer la prise en charge, par chacune des parties, des droits de succession liés à l'attribution de leurs parts respectives. En attribuant à cette déclaration une portée qu'elle n'a pas, l'arrêt attaqué procéderait également d'une appréciation arbitraire des faits.
3.2 A teneur de cette déclaration, «les parties n'ayant pas déposé à ce jour la déclaration fiscale de la succession, conviennent qu'elles prendront en charge chacune pour elle en ce qui la concerne toutes les conséquences fiscales de leurs attributions». Dès lors que le recourant ne prétend pas - à juste titre - que ladite mention démontrerait, contrairement à ce qu'à retenu l'autorité cantonale, que F._ serait seul à l'origine du dépôt tardif de la déclaration de succession et, par conséquent, des pénalités fiscales, le grief est sans pertinence.
4. En conclusion, le recours apparaît mal fondé et doit par conséquent être rejeté, dans la mesure de sa recevabilité. Le recourant, qui succombe, supportera dès lors les frais judiciaires (art. 66 al. 1 LTF). Il n'y a pas lieu d'allouer de dépens aux intimés, qui n'ont pas été invités à répondre.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 5'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et à la Chambre des recours du Tribunal cantonal du canton de Vaud.
Lausanne, le 12 mai 2009
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Hohl Mairot