Faits:
A.
H.Y._, conseiller fiscal, et son épouse F.Y._ étaient en relation d'affaires avec H.Z._, connu sous le nom de U._ comme auteur de la bande dessinée "...". Entre 1990 et 1999, les époux Y._ ont créé A._ SA, B._ SA et C._ SA, sociétés de droit suisse destinées à recevoir jusqu'en 2024 les droits d'exploitation et les droits d'auteur de H.Z._ sur les noms et les personnages figurant dans les aventures de .... Ces droits étaient cédés par D._ Ltd, société de droit britannique appartenant à H.Z._. Les époux Y._ étaient propriétaires de toutes les actions de A._ SA et de B._ SA, ainsi que de la moitié des actions de C._ SA.
L'auteur avait également créé, dans les années 1980, une société de droit panaméen, E._, en vue de recevoir les avoirs d'une autre société panaméenne détenant la fortune privée de H.Z._ et de son épouse F.Z._.
En novembre 1987, les époux Y._ avaient fondé, à Genève, F._ SA, dont le but portait notamment sur la gérance de fortune et les opérations fiduciaires. Selon deux contrats de fiducie du 5 novembre 1993, F._ SA détenait à titre fiduciaire tous les avoirs déposés par les époux Z._ sur des comptes ouverts auprès d'une banque genevoise sous les rubriques D._ et E._.
H.Z._ est décédé en juillet 2001. H.Y._ et F.Y._ sont alors entrés en litige avec sa veuve et unique héritière, qui les a notamment sommés de lui rendre tous les avoirs détenus par eux ou par la société F._ SA au nom et pour le compte de feu H.Z._. Plusieurs avocats ont été mis en oeuvre, en Belgique, à Genève et à Lausanne. Le 15 mars 2002, les époux Y._ ont mandaté X._. Jusqu'en décembre 2010, l'avocat a déployé une intense activité afin de défendre les intérêts de ses mandants face aux revendications de F.Z._. En 2005, celle-ci a obtenu des mesures préprovisionnelles interdisant notamment au couple Y._ de disposer des titres de A._ SA, B._ SA, C._ SA et E._, ainsi que de tous les avoirs dont les époux Z._ étaient désignés comme les ayants droit économiques, en particulier ceux détenus par F._ SA, D._ Ltd, A._ SA, B._ SA, C._ SA et E._.
F.Z._ a résilié avec effet immédiat tous les mandats confiés aux époux Y._ et mis ces derniers en demeure de lui remettre les actions qu'ils détenaient dans A._ SA, B._ SA et C._ SA, ainsi que les avoirs détenus par eux ou par F._ SA à son nom et pour son compte.
Le 10 décembre 2008, H.Y._ et F.Y._, F.Z._, les Editions V._ SA et W._ SA ont signé un protocole d'accord, selon lequel les premiers nommés cédaient à la veuve de U._ et à V._ SA la totalité de leurs actions A._ SA, B._ SA et C._ SA pour un prix total de 5'025'000 fr. Le même jour, une autre convention a été signée par les époux Y._, F.Z._, D._ Ltd et F._ SA. Elle prévoyait que les parties mettaient un terme à toutes leurs relations contractuelles, que H.Y._ et F.Y._ démissionnaient de toutes leurs fonctions, que F._ SA transférait à F.Z._ les avoirs déposés sur le compte F._, rubriques D._ et G._, que les époux Y._ ne possédaient aucun droit de propriété intellectuelle sur l'oeuvre de U._ et que les parties s'engageaient à retirer les procédures en cours à Lausanne et à Bruxelles; par ailleurs, aucune rémunération n'était due à H.Y._ et F.Y._, qui confirmaient n'avoir ni reçu ni prélevé aucun montant au titre de leur activité depuis décembre 2005, sauf sur le compte F._, rubrique G._.
Le 14 octobre 2009, une ordonnance de mesures préprovisionnelles a interdit à la banque T._, succursale de Nyon, d'exécuter toute opération et/ou instruction de paiement par le débit du compte ouvert au nom de F._ SA. Lors d'une audience tenue le 25 novembre 2009, les conseils des parties ont signé et remis au juge une convention mettant fin au litige.
Par la suite, X._ a encore effectué des opérations en relation avec la remise des titres et d'autres documents revendiqués par la partie adverse.
Entre le 23 septembre 2002 et le 28 septembre 2009, X._ a établi treize notes d'honoraires intermédiaires pour un montant total de 654'451 fr. hors taxes, débours compris; H.Y._ et F.Y._ s'en sont entièrement acquittés.
Le 25 mai 2010, l'avocat a adressé à ses clients une note d'honoraires de 72'180 fr. hors taxes, plus 481 fr. de débours, pour les opérations accomplies à partir du 1 er juillet 2009; après déduction d'un acompte de 25'000 fr. et d'un montant de TVA déjà payé de 1'900 fr., le solde s'élevait à 51'283 fr.20, TVA comprise.
Le 17 janvier 2011, X._ a établi une note d'honoraires de 8'586 fr.40, TVA comprise, pour l'activité déployée entre le 26 mai et le 31 décembre 2010.
Le 16 février 2011, l'avocat a fait parvenir à ses clients une "note d'honoraires de résultat" de 150'000 fr., plus la TVA par 11'400 fr.
Les époux Y._ n'ont pas réglé ces trois dernières notes d'honoraires. Ils contestaient en particulier devoir des honoraires de résultat. Ils ont réclamé par ailleurs un décompte détaillé des prestations accomplies par l'avocat depuis 2002.
X._ a fourni ce décompte le 23 juin 2011. Le total des heures facturées s'élevait à 1'857,85; le tarif horaire appliqué était de 350 fr. du 15 mars 2002 au 29 juin 2006, de 400 fr. du 30 juin 2006 au 31 décembre 2007 et de 450 fr. depuis lors.
Le 13 juillet 2011, sur requête de l'avocat, le Juge de paix du district de Nyon a ordonné le séquestre de l'immeuble de H.Y._ et F.Y._ sis à ... ainsi que de leurs avoirs auprès de banques à Nyon et à Lausanne. Les époux Y._ ont formé opposition au séquestre, laquelle sera rejetée par le juge de paix en date du 14 octobre 2011. La Cour des poursuites et faillites du Tribunal cantonal vaudois a rejeté leur recours contre ce prononcé le 13 juillet 2012.
Le 28 novembre 2011, X._ a ouvert action contre H.Y._ et F.Y._ en paiement des montants en poursuite, en validation du séquestre et en mainlevée définitive des oppositions formées aux commandements de payer qu'il leur avait fait notifier.
B.
Le 14 octobre 2011, H.Y._ et F.Y._ ont requis du Juge instructeur de la Cour civile du Tribunal cantonal du canton de Vaud la modération des notes d'honoraires de X._. En substance, ils contestaient le tarif horaire appliqué en tant qu'il dépassait 350 fr., faisaient valoir que le mandat avait pris fin le 25 novembre 2009 et niaient tout accord sur des honoraires de résultat.
Par prononcé de modération du 7 septembre 2012, le Juge instructeur a modéré la note d'honoraires et de débours finale de X._ à la somme de 790'651 fr.65, TVA comprise, sous déduction du montant déjà versé de 730'781 fr.35. En résumé, il a confirmé toutes les notes d'honoraires établies par l'avocat, sauf la note d'honoraires de résultat du 16 février 2011.
X._ a interjeté recours contre ce prononcé. Par arrêt du 24 mai 2013 dont les considérants ont été notifiés le 22 août 2013, la Chambre des recours civile du Tribunal cantonal vaudois a rejeté le recours et confirmé le prononcé attaqué.
C.
X._ forme un recours en matière civile. Il demande au Tribunal fédéral d'annuler l'arrêt cantonal, d'arrêter en modération la note d'honoraires du 16 février 2011 à 150'000 fr., TVA non comprise, et de confirmer la décision attaquée pour le surplus.
La demande d'effet suspensif présentée par le recourant a été rejetée par ordonnance du 21 novembre 2013 de la Présidente de la cour de céans.
Dans leur réponse, H.Y._ et F.Y._ ont conclu au rejet du recours.
Le recourant a déposé une réplique, suivie d'ultimes observations des intimés.
Pour sa part, la cour cantonale se réfère aux considérants de son arrêt.

Considérant en droit:
1.
Le Tribunal fédéral contrôle d'office et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 476; <ref-ruling> consid. 1, 471 consid. 1 p. 475).
1.1. La décision attaquée a été rendue dans une procédure de modération, au cours de laquelle le juge se borne à fixer le montant des honoraires et débours dus par un client à son avocat (art. 50 al. 1 de la loi vaudoise sur la profession d'avocat du 24 septembre 2002 [LPAv/VD; RSV 177.11]). Les questions relatives à l'existence et au montant de la créance, notamment celles qui ont trait à l'exécution du mandat ou au règlement des comptes entre les parties, sont du ressort du juge ordinaire. L'autorité de modération n'a pas à examiner les griefs d'ordre matériel portant sur la manière dont l'avocat a rempli son mandat, mais doit uniquement taxer les opérations portées en compte au regard des prestations effectivement fournies par l'avocat (JT 1990 III 66 consid. 2a p. 67); sa décision ne constitue pas un titre exécutoire, mais elle lie le juge civil (arrêt 4A_2/2013 du 12 juin 2013 consid. 1.1 et les arrêts cités). Dans la mesure où l'autorité cantonale met un terme à la procédure de modération des honoraires, sa décision est finale et, partant, susceptible d'un recours au Tribunal fédéral (<ref-law>), nonobstant la possibilité des parties d'en appeler au juge civil pour fixer le montant finalement dû par le mandant à l'avocat (arrêt précité du 12 juin 2013 consid. 1.1 et les références).
Au surplus, l'arrêt attaqué a été rendu en matière civile (<ref-law>; cf. consid. 1.1 non publié de l'<ref-ruling>) par une autorité cantonale de dernière instance statuant sur recours (<ref-law>). Le recours est interjeté par la partie qui n'a pas obtenu entièrement gain de cause en instance cantonale (<ref-law>). Enfin, il a été déposé dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi, de sorte qu'il est en principe recevable.
1.2. Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Il n'est donc limité ni par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (<ref-ruling> consid. 1.3 p. 336; <ref-ruling> consid. 4 p. 317 s.; <ref-ruling> consid. 1.4 p. 400). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (<ref-law>), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 1.3 p. 584; <ref-ruling> consid. 2.2.1 p. 389; <ref-ruling> consid. 1.4 p. 400). Par exception à la règle selon laquelle il applique le droit d'office, le Tribunal fédéral ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (<ref-law>; ATF <ref-ruling> consid. 1.4 in fine).
1.3. Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 4.1.2 p. 62; <ref-ruling> consid. 5.1 p. 356) - ou en violation du droit au sens de l'<ref-law> (<ref-law>).
La partie recourante qui entend remettre en cause les constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF <ref-ruling> consid. 5.1 p. 356; <ref-ruling> consid. 1.2 p. 187). Une rectification de l'état de fait ne peut être demandée que si elle est de nature à influer sur le sort de la cause (<ref-law>).
2.
La seule note d'honoraires encore litigieuse à ce stade est celle datée du 16 février 2011, portant sur 150'000 fr., plus 11'400 fr. de TVA. Selon les propres termes de l'avocat qui l'a établie, elle a trait à des honoraires de résultat. En application de l'art. 45 al. 1 LPAv/VD, l'autorité de modération a refusé toute prime de résultat au recourant, considérant que ce dernier n'avait pas prouvé avoir obtenu pour ses mandants un résultat exceptionnel dans le cadre des transactions conclues notamment par son entremise.
En ce qui concerne le résultat lui-même, la cour cantonale a, sauf sur deux points, confirmé les constatations du juge modérateur. Elle retient ainsi les éléments suivants:
- les intimés ont vendu à F.Z._ et à V._ SA leurs participations dans les sociétés anonymes A._, B._ et C._ pour le prix de 5'025'000 fr.;
- la succession Z._ a renoncé à réclamer aux intimés le remboursement de deux chèques d'un montant total de 1'235'000 fr. émis en juillet 2004 par le débit du compte D._ détenu par F._ SA.
- la succession Z._ a renoncé à une créance en restitution des dividendes distribués entre 1996 et 2007 par A._ SA, B._ SA et C._ SA, pour un montant brut de 3'001'384 fr.
En revanche, la cour cantonale a refusé de compter dans les gains obtenus par le recourant:
- un chèque bancaire de 2'206'965 fr.50;
- un montant de 1'509'777 fr. que les intimés ont fait supporter par la succession Z._ pour la défense de leurs intérêts entre février 2002 et décembre 2005;
- un gain de 500'000 fr. qui résulterait d'une décharge du 25 novembre 2009 relative aux états financiers intermédiaires de A._ SA et B._ SA;
- un montant de 100'000 euros qui aurait été versé par les Editions V._ à F._ SA dans le cadre du procès ... à Paris.
En ce qui concerne l'appréciation du résultat, l'autorité cantonale relève tout d'abord que l'avocat, à qui le fardeau de la preuve incombait, n'a pas effectué une présentation complète du litige, en particulier en amenant des éléments qui démontrent que l'une ou l'autre des parties a finalement obtenu gain de cause et qu'ainsi les prétentions des intimés n'ont pas seulement fait l'objet d'une compensation avec des prétentions de leur adverse partie dans le cadre d'un accord global. En ce qui concerne plus précisément le montant de 5'025'000 fr., les juges vaudois observent que le recourant jette la confusion en le qualifiant à présent d'indemnité de rupture du mandat venu à échéance en 2009, alors que, pendant la procédure de mesures provisionnelles et les tractations avec la succession Z._, il soutenait que ses clients étaient les véritables propriétaires des actions des sociétés A._, B._ et C._, disposant de la concession à titre exclusif des droits de l'oeuvre de U._ jusqu'en 2024; l'avocat empêche dès lors l'autorité de modération de distinguer clairement laquelle des parties a obtenu gain de cause dans le cadre de la transaction.
En définitive, sur la base des éléments établis, la cour cantonale ne nie pas que les transactions passées constituent un gain pour les intimés, puisque F.Z._ contestait la propriété de ces derniers sur les actions précitées, qu'elle entendait mettre fin dès 2004 à toutes leurs relations contractuelles, sans contre-prestation, et qu'elle avait obtenu dès 2005 le blocage de tous les titres et avoirs des sociétés en cause. Les juges vaudois refusent toutefois de qualifier ce résultat de particulier et exceptionnel, dès lors que, d'une part, toutes les relations contractuelles des intimés en relation avec l'oeuvre de U._ ont pris fin par la signature des conventions de décembre 2008 alors qu'ils auraient pu percevoir des droits, via leurs sociétés, jusqu'en 2024 et que, d'autre part, ils n'ont plus tiré de revenus des sociétés en cause depuis 2005 en raison du blocage prononcé alors.
3.
3.1. Les honoraires dus à un mandataire sont fixés en première ligne d'après la convention des parties (<ref-law>).
En raison de la mission particulière confiée aux avocats en tant qu'auxiliaires de la justice, il est admis que le droit public cantonal, réservé par l'<ref-law>, réglemente leur rémunération pour leur activité devant les autorités judiciaires. Le législateur cantonal peut adopter soit un tarif, soit une norme posant les principes généraux qui doivent présider à la fixation des honoraires. Pour sa part, le droit public fédéral prohibe le pactum de quota litiset interdit à l'avocat de renoncer à l'avance à ses honoraires en cas d'issue défavorable du procès (art. 12 let. e de la loi fédérale du 23 juin 2000 sur la libre circulation des avocats [LLCA; RS 935.61]); pour le reste, il ne contient aucune règle sur la fixation des honoraires de l'avocat. S'il n'y a ni convention entre les parties ni dispositions cantonales applicables, le montant des honoraires doit être fixé selon l'usage (<ref-law>). A défaut d'usage, le juge arrête la rémunération en tenant compte de toutes les circonstances pertinentes, étant souligné qu'elle doit être objectivement proportionnée aux services rendus (<ref-ruling> consid. 2.2 p. 262 s. et consid. 2.4 p. 263, ainsi que les arrêts cités).
Lorsque, comme en droit vaudois, la norme de droit public cantonal pose des principes pour la fixation des honoraires d'avocat, l'autorité de modération jouit d'un très large pouvoir d'appréciation et le Tribunal fédéral n'intervient que si elle en a abusé ou en a excédé les limites, de sorte que le montant alloué à l'avocat apparaît comme ayant été fixé de manière arbitraire (arrêt précité du 12 juin 2013 consid. 3.2.1.4; arrêt 4D_43/2007 du 23 janvier 2008 consid. 2.2; arrêt 5P.438/2005 du 13 février 2006 consid. 3.1; arrêt précité du 18 janvier 2006 consid. 3.3). Ce principe demeure valable lorsque la note d'honoraires porte à la fois sur une activité extrajudiciaire - pour laquelle il convient de se référer à l'usage prévu à l'<ref-law> - et sur une activité devant les autorités judiciaires - à laquelle le droit public cantonal, posant des critères de fixation des honoraires, est applicable (<ref-ruling> consid. 2.4 et 2.5 p. 263 s.; arrêt précité du 12 juin
2013 consid. 3.2.1.4).
3.2. En l'espèce, il est constant qu'aucune convention sur les honoraires, qui porterait en particulier sur une prime de résultat, n'a été passée entre les parties.
Tant pour son activité judiciaire, notamment dans la procédure de mesures provisionnelles, et que pour son activité extrajudiciaire, qui a abouti aux transactions, le recourant se réfère, comme l'autorité de modération, à l'art. 45 LPAv/VD. Selon l'al. 1 de cette disposition, l'avocat a droit à des honoraires fixés en tenant compte du temps consacré à l'exécution du mandat, des difficultés et des délais d'exécution de celui-ci, de l'importance des intérêts en cause, du résultat obtenu et de son expérience. La jurisprudence vaudoise, citée dans l'arrêt attaqué, applique le critère du résultat de manière tout à fait subsidiaire, par une correction du prix de l'heure lorsque le résultat présente un aspect particulier, exceptionnel dans un sens ou dans l'autre.
Le recourant ne remet en cause ni la méthode consistant à majorer le tarif horaire, ni l'exigence d'un résultat exceptionnel pour justifier une majoration des honoraires. En particulier, il ne prétend pas que la cour cantonale aurait appliqué l'art. 45 al. 1 LPAv/VD de manière arbitraire en recherchant si le résultat de son activité était exceptionnel, mais il soutient précisément avoir obtenu un tel résultat.
Fondées essentiellement sur l'art. 29 al. 2 et l'art. 9 Cst., ses critiques sont dirigées tout d'abord contre l'appréciation par la cour cantonale du résultat qu'il a obtenu pour ses clients.
3.2.1. Invoquant l'art. 29 al. 2 Cst garantissant le droit d'être entendu, le recourant reproche à la cour cantonale d'avoir refusé d'administrer des preuves qu'il avait requises et de discuter sérieusement de certains moyens de preuve déposés, alors même qu'elle aurait admis n'avoir pas été en mesure d'éclaircir la question du résultat de l'activité de l'avocat et qu'elle aurait été tenue par la maxime inquisitoire. L'avocat conteste au surplus n'avoir pas respecté le fardeau de l'allégation.
3.2.1.1. Le droit d'être entendu garanti par l'art. 29 al. 2 Cst. accorde aux parties le droit de s'expliquer avant qu'une décision ne soit prise à leur détriment, de fournir des preuves quant aux faits de nature à influer sur la décision, d'avoir accès au dossier, de participer à l'administration des preuves et de se déterminer à leur propos (<ref-ruling> consid. 3.2 p. 272; <ref-ruling> consid. 5.1 p. 293; <ref-ruling> consid. 2.2 p. 504). Cette garantie inclut le droit à l'administration des preuves valablement offertes, à moins que le fait à prouver ne soit dépourvu de pertinence ou que la preuve apparaisse manifestement inapte à la révélation de la vérité. Par ailleurs, le juge est autorisé à effectuer une appréciation anticipée des preuves déjà disponibles et, s'il peut admettre de façon exempte d'arbitraire qu'une preuve supplémentaire offerte par une partie serait impropre à ébranler sa conviction, refuser d'administrer cette preuve (<ref-ruling> consid. 5.3 p. 236; <ref-ruling> consid. 3 p. 157; <ref-ruling> consid. 2.1 p. 428).
Par ailleurs, le droit d'être entendu oblige l'autorité à motiver sa décision, afin que son destinataire puisse la comprendre et l'attaquer utilement s'il y a lieu (<ref-ruling> consid. 4.1. p. 88; <ref-ruling> consid. 3.1 p. 277; <ref-ruling> consid. 3.3 p. 445). Selon la jurisprudence, le juge doit mentionner, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision, de manière à ce que l'intéressé puisse se rendre compte de la portée de celle-ci et l'attaquer en connaissance de cause. Il n'a toutefois pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais peut au contraire se limiter à l'examen des questions décisives pour l'issue du litige (<ref-ruling> consid. 3.3.1 p. 677; <ref-ruling> consid. 4.1 p. 88 et les arrêts cités).
3.2.1.2. Dans un grief qu'il développe de manière particulièrement touffue, le recourant n'explique pas clairement en quoi les mesures d'instruction requises étaient propres à établir des faits pertinents pour l'évaluation du résultat qu'il prétend avoir obtenu. En particulier, il soutient que l'audition de différents témoins aurait permis d'attester le contenu des "documents susmentionnés", mais on ignore quels sont ces documents et sur quoi ils portent. Dans cette mesure, le moyen fondé sur l'art. 29 al. 2 Cst. se révèle irrecevable, faute de la motivation précise exigée par l'<ref-law> pour les griefs d'ordre constitutionnel (cf. consid. 1.2. in fine ). De même, le recourant évoque différentes pièces que la cour cantonale aurait négligé de discuter sérieusement, mais sans expliquer en quoi ces éléments sont décisifs. Là aussi, le grief est irrecevable.
Par ailleurs, contrairement à ce que le recourant prétend, les juges vaudois ont apprécié le résultat obtenu par l'avocat en faveur de ses clients. Ils ont retenu en particulier que, par la transaction, F.Z._ a accepté de payer un prix de 5'025'000 fr. pour les actions des trois sociétés suisses, alors qu'à l'origine, elle ne voulait rien verser aux intimés dont elle ne reconnaissait pas la qualité d'actionnaires. Le recourant semble prétendre que l'enjeu était différent, mais sa position reste obscure, comme elle l'était en procédure cantonale. C'est le lieu de rappeler que, quand bien même la maxime inquisitoire s'applique pour l'établissement des faits en procédure vaudoise de modération, l'avocat n'est pas dispensé de collaborer (cf. arrêt 4P.256/2005 du 18 janvier 2006 consid. 3.5; Yero Diagne, La procédure de modération des honoraires de l'avocat, 2012, p. 206). En l'espèce, l'activité du recourant s'est déroulée pour l'essentiel en-dehors des tribunaux et a abouti à des transactions; elle a été fournie dans le cadre de relations complexes mettant en oeuvre plusieurs avocats durant de nombreuses années. En pareil cas, il faut admettre, avec la cour cantonale, qu'il appartient à l'avocat qui prétend à des honoraires de résultat d'exposer précisément quels étaient les points de litige, quelle était la position initiale des parties à leur propos, comment ils ont été réglés et dans quelle mesure l'activité déployée par l'avocat a été déterminante pour l'issue favorable à son client.
3.2.2. Toujours sous l'angle de l'art. 29 al. 2 Cst., le recourant se plaint d'un déni de justice formel; sur trois points, l'autorité de modération, disposant d'un plein pouvoir d'examen, aurait limité son contrôle à l'arbitraire.
La Chambre des recours civile a statué sur le recours ouvert par l'art. 51 LPAv/VD, lequel prévoit que la procédure est régie par la loi vaudoise sur la procédure administrative du 28 octobre 2008 (LPA/VD; RSV 173.36). Selon l'art. 76 LPA/VD, l'un des motifs de recours est la constatation inexacte ou incomplète de faits pertinents. L'un des points soulevés par le recourant porte sur la situation financière des intimés; or, celle-ci n'est pas pertinente pour déterminer si l'avocat peut prétendre à des honoraires de résultat. Sur les deux autres points, la cour cantonale a jugé que le recourant n'avait pas motivé le grief ou l'avait motivé insuffisamment en utilisant un procédé appellatoire. Le fait que la cour cantonale disposait d'un libre pouvoir d'examen en fait et en droit ne dispensait pas le recourant de motiver son grief fondé sur l'art. 76 LPA/VD. Le moyen tiré d'une violation de l'art. 29 al. 2 Cst. ne peut être que rejeté.
3.2.3. Le recourant reproche également à la cour cantonale une violation de l'<ref-law>. Il conteste avoir adopté, pour les besoins de sa cause, une attitude procédurale constitutive d'un abus de droit. Il fait également valoir que l'exception de position mal acquise résultant du principe " nemo auditur turpitudinem suam allegans " n'est pas applicable dans le cas présent.
Le comportement incriminé est celui du recourant qui, dans la procédure de modération, soutient que le montant de 5'025'000 fr. est une indemnité de rupture du contrat, alors que, dans ses rapports avec la succession Z._, il prétendait que ses clients étaient les légitimes titulaires des actions des trois sociétés suisses en cause et que le montant susmentionné représentait le prix de ces actions. Certes, la cour cantonale a noté que nul ne pouvait se prévaloir de son propre tort, celui du recourant ayant consisté à soutenir une thèse qu'il savait infondée. Mais cette remarque est demeurée sans conséquence. Si la cour cantonale a jugé qu'un gain exceptionnel ne ressortait pas de la transaction portant sur 5'025'000 fr., c'est parce qu'elle a considéré que le recourant n'avait pas apporté cette preuve lui incombant, le "changement de fusil d'épaule" décrit plus haut ayant eu précisément pour effet de n'apporter qu'une confusion supplémentaire dans la détermination de l'ampleur du résultat obtenu par l'avocat. L'<ref-law> n'est donc pas en jeu, de sorte que le grief tiré de cette disposition ne peut être qu'écarté.
3.2.4. Invoquant l'art. 9 Cst., le recourant fait valoir que l'appréciation de l'autorité de modération sur divers postes litigieux du résultat de son mandat est insoutenable.
En matière d'appréciation des preuves, il y a arbitraire lorsque l'autorité ne prend pas en compte, sans aucune raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (<ref-ruling> consid. 4.1.2 p. 62; <ref-ruling> consid. 4.2 p. 560; <ref-ruling> consid. 4.3 p. 62; <ref-ruling> consid. 2.1 p. 9).
3.2.4.1. En ce qui concerne l'objet du mandat confié à l'avocat par les intimés, le recourant est d'avis que la cour cantonale n'a arbitrairement pas tenu compte d'une lettre du 31 janvier 2002 adressée par le gendre de l'intimé au conseil genevois des intimés, dont il ressortirait que l'objectif fixé était uniquement d'obtenir une indemnité de 6'000'000 fr. en contrepartie de la rupture anticipée des mandats. Les juges vaudois n'ont pas tenu cette lettre pour déterminante, dès lors qu'elle n'émanait pas des clients eux-mêmes et n'était pas adressée au recourant. Ce faisant, ils n'ont pas écarté cette pièce sans raison sérieuse, de sorte que le grief d'arbitraire dans l'appréciation des preuves n'est pas fondé.
3.2.4.2. Le recourant prétend que l'autorité cantonale a versé dans l'arbitraire en ne constatant pas, "au mépris des preuves univoques produites, la structure de détention en trompe-l'oeil des participations [des intimés] dans le capital des sociétés d'exploitation du personnage ...".
Les juges vaudois ont établi que les intimés étaient propriétaires à 100% de A._ SA et de B._ SA et à 50% de C._ SA en se fondant notamment sur la convention du 10 décembre 2008 par laquelle les intimés cédaient leurs actions des trois sociétés à F.Z._ et à V._ SA. Cette constatation, résultant du reste de documents juridiques à la mise en oeuvre desquels le recourant a participé, n'est manifestement pas insoutenable.
3.2.4.3. Le recourant soutient que l'autorité de modération a arbitrairement refusé de comptabiliser, à titre de gain obtenu par l'avocat, un chèque de 2'206'965 fr.50 recrédité sur le compte de F._ SA.
Le grief d'arbitraire dans l'appréciation des preuves est dépourvu de toute motivation précise. L'"aveu judiciaire" auquel le recourant se réfère ne permet en aucun cas de comprendre en quoi le montant de 2'206'965 fr.50 devrait être inclus dans le résultat obtenu par l'avocat.
3.2.4.4. Les intimés ont fait supporter à la succession Z._, via apparemment le compte F._, rubrique D._, les honoraires de leurs mandataires facturés entre février 2002 et décembre 2005 pour un montant total de 1'509'777 fr. Selon le recourant, l'autorité de modération a refusé arbitrairement de prendre en compte ce montant dans le gain obtenu par l'avocat.
Il ne ressort pas de l'arrêt attaqué que la succession Z._ aurait cherché à obtenir le remboursement de ce montant. Dès lors que, comme la cour cantonale l'a constaté, la réalité des prétentions de la succession sur ce point n'est pas établie, l'autorité de modération pouvait conclure sans arbitraire que le montant susmentionné n'était pas l'un des enjeux des négociations menées par l'avocat, qui ne saurait ainsi prétendre avoir obtenu un résultat à cet égard.
3.2.4.5. Selon le recourant, la cour cantonale a écarté arbitrairement du résultat comptable imputable à l'avocat un montant de 500'000 fr. résultant d'une décharge signée le 25 novembre 2009 par les acheteurs des sociétés A._ SA et B._ SA.
D'après les juges vaudois, il n'est, d'une part, pas établi que les intimés avaient réellement comptabilisé dans le bilan intermédiaire de B._ SA des frais privés non justifiés commercialement à hauteur de 500'000 fr. D'autre part, la décharge a été remise en question et ne couvre pas les vendeurs pour la gestion de la société. Les éléments apportés dans le recours ne sont pas à même de démontrer le caractère insoutenable de ces constatations, qui ont conduit l'autorité de modération à refuser de voir un succès de l'avocat sur ce point.
3.2.4.6. Le recourant reproche à la cour cantonale d'avoir versé dans l'arbitraire en n'englobant pas dans le résultat obtenu un montant de 100'000 euros qui aurait été versé par les Editions V._ à F._ SA à titre d'"honoraires de résultat" dans le cadre du procès ... à Paris.
Selon l'arrêt attaqué, il n'est pas établi qu'une indemnité à titre de reconnaissance du travail accompli a été payée à F._ SA. Les pièces invoquées par le recourant ne démontrent pas le versement d'une telle indemnité, de sorte que le grief fondé sur une appréciation arbitraire des preuves est dépourvu de toute consistance.
3.2.4.7. En dernier lieu, le recourant soutient que, grâce à son intervention, la partie adverse des intimés a abandonné ses prétentions en dommages-intérêts envers eux. La cour cantonale serait tombée dans l'arbitraire en ne le reconnaissant pas.
L'autorité de modération a relevé à ce sujet que l'avocat n'avait pas décrit les prétentions respectives des parties et qu'il procédait par simples affirmations, dénuées de preuves. Le recourant ne démontre pas que la cour cantonale aurait méconnu arbitrairement une preuve sur cette question. Le courrier du 22 juin 2004 des avocats de F.Z._, invoqué dans le recours, fait état d'une réserve de leur cliente à propos d'une éventuelle demande d'indemnité, mais n'est manifestement pas à même d'établir que les intimés ont été confrontés à des prétentions en dommages-intérêts concrètes auxquelles la succession Z._ aurait renoncé dans le cadre des transactions.
4.
4.1. Le recourant fait également grief à la cour cantonale d'avoir appliqué arbitrairement l'art. 45 al. 1 LPAv/VD.
Ainsi, l'autorité de modération n'aurait pas procédé à un examen global tenant compte de tous les critères énumérés à cette disposition. Elle aurait en outre omis de considérer que les honoraires facturés ont été pris en charge par la succession Z._ à hauteur de 322'320 fr., de sorte que seul un montant de 629'731 fr.65 - correspondant à un tarif horaire de 315 fr. HT, débours compris - serait en définitive mis à la charge des intimés. La cour cantonale aurait abusé de son pouvoir en retenant finalement un tarif horaire moyen de 390 fr. (723'865 fr. HT : 1857,85 heures), manifestement trop bas pour une affaire aussi longue et complexe que celle en cause. Le recourant fait valoir que les honoraires objets de la modération se fondent sur un tarif horaire moyen de 470 fr., qui représente une majoration de 120 fr. par rapport au tarif usuel de 350 fr. et aurait dû être confirmé par l'autorité de modération dans les circonstances de l'espèce. Il invoque à cet égard plusieurs éléments de comparaison. Dans deux arrêts rendus dans le cadre de procédures d'opposition à séquestre et concernant les deux autres avocats ayant oeuvré dans l'affaire opposant les intimés à la succession Z._, le Tribunal fédéral aurait confirmé le tarif horaire de 500 fr., ainsi que les honoraires de résultat de 150'000 fr. Par ailleurs, dans sa propre jurisprudence récente, l'autorité de modération aurait validé une majoration de 400 fr. du tarif horaire de base de 350 fr., soit 100 fr. pour l'expérience professionnelle de l'avocat, 150 fr. pour l'importance de l'affaire et 150 fr. pour le résultat obtenu.
Au demeurant, la cour cantonale aurait abusé de son pouvoir d'appréciation en n'admettant pas le résultat exceptionnel obtenu par l'avocat à hauteur de près de 13 millions de francs, notamment au motif qu'il n'est pas possible, les intimés ayant mandaté plusieurs conseils, de distinguer la part du gain attribuable à la seule intervention du recourant.
4.2. Entre le 23 septembre 2002 et le 17 janvier 2011, le recourant a présenté aux intimés quinze notes d'honoraires correspondant à 1'857,85 heures de travail; suivant les périodes, il a appliqué un tarif horaire de 350 fr., puis de 400 fr. et enfin de 450 fr. Par la suite, il a adressé aux intimés une ultime facture en date du 16 février 2011, qu'il a expressément intitulée "note d'honoraires de résultat".
Le juge modérateur a confirmé les quinze premières notes d'honoraires, qui étaient contestées en partie par les intimés. Devant la Chambre des recours civile, seule la dernière note d'honoraires était litigieuse, le recourant concluant expressément à la confirmation du prononcé en tant qu'il concernait ses "honoraires de diligence" facturés jusqu'au 17 janvier 2011.
Dans ces circonstances, il apparaît que l'avocat lui-même s'est fondé sur le temps consacré au mandat, les difficultés de l'affaire, l'importance des intérêts en cause et sa propre expérience, tous critères mentionnés à l'art. 45 al. 1 LPAv/VD, pour fixer ses honoraires dans ses quinze premières factures, validées par les autorités de modération, et qu'il a traité expressément le critère du résultat, également mentionné à l'art. 45 al. 1 LPAv/VD, dans une note d'honoraires séparée. Sauf à se comporter de manière contraire aux règles de la bonne foi, le recourant ne peut pas à présent exiger que, à côté du résultat, les autres critères légaux soient pris en compte dans la note d'honoraires du 16 février 2011. Les critiques dirigées par le recourant contre le tarif horaire fixé par lui-même et confirmé en modération tombent dès lors à faux. De même, savoir par qui tout ou partie des honoraires facturés ont été payés en réalité est une question dénuée de toute pertinence lorsqu'il s'agit de modérer des honoraires, soit de contrôler la rémunération de l'avocat.
4.3. Pour le reste, la cour cantonale n'a pas abusé de son pouvoir d'appréciation en niant en l'espèce un gain exceptionnel justifiant des honoraires de résultat. Contrairement à ce que le recourant prétend, le précédent qu'il invoque pour justifier une majoration du tarif horaire de 150 fr. n'est pas comparable au cas présent. Il s'agissait en effet d'un procès, portant sur environ 60 millions de francs, dans lequel la cliente de l'avocat avait obtenu presque entièrement gain de cause (cf. arrêt précité du 12 juin 2013 point A de l'état de fait). Rien de tel en l'espèce où, faute d'une présentation claire et complète du litige par l'avocat, on ignore si l'une des parties a finalement gagné. Des faits constatés dans l'arrêt attaqué, il apparaît seulement que, d'une part, F.Z._ a renoncé au remboursement de prétentions pour plus de 4 millions de francs et que les intimés ont vendu leurs participations dans A._ SA, B._ SA et C._ SA pour 5'025'000 fr. et que, d'autre part, ils auraient pu bénéficier des revenus de l'oeuvre de U._, via leurs sociétés, jusqu'en 2024 et qu'ils n'ont plus tiré de tels revenus depuis 2005 en raison du blocage demandé par F.Z._. La cour cantonale a retenu de manière non arbitraire que ces éléments ne suffisaient pas pour retenir en l'espèce un résultat exceptionnel obtenu par l'avocat. De plus, comme les juges vaudois l'observent à juste titre (cf. arrêt 4P.256/2005 du 18 janvier 2006 consid. 3.5), la part du recourant dans le succès revendiqué, par rapport à celles des autres intervenants, n'est pas déterminée.
En dernier lieu, il convient de préciser que, contrairement à ce que le recourant semble soutenir, l'autorité de modération n'est en rien liée par les décisions rendues dans le cadre d'une procédure d'opposition à séquestre, dans laquelle il suffit que le requérant rende vraisemblable que sa créance existe.
En conclusion, le grief tiré d'une application arbitraire de l'art. 45 LPAv/VD sera écarté.
5.
Sur le vu de ce qui précède, le recours doit être rejeté dans la mesure où il est recevable.
Le recourant, qui succombe, prendra à sa charge les frais judiciaires (<ref-law>) et versera des dépens aux intimés (art. 68 al. 1, 2 et 4 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 4'500 fr., sont mis à la charge du recourant.
3.
Le recourant versera aux intimés, créanciers solidaires, une indemnité de 5'500 fr. à titre de dépens.
4.
Le présent arrêt est communiqué aux mandataires des parties et à la Chambre des recours civile au Tribunal cantonal du canton de Vaud.
Lausanne, le 26 mars 2014
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
La Greffière: Godat Zimmermann