Faits :
A.
A._ travaillait en qualité de professeur et de chef de service au Centre B._. Le 26 avril 2006, le Conseil d'Etat lui a signifié la cessation immédiate de son engagement en raison de faits liés à l'établissement de fausses factures dont il avait avoué être l'auteur et en raison d'autres malversations, notamment le détournement à son profit d'une partie de fonds à disposition des services du Centre B._. Le 26 avril 2006 également, l'Etat de Vaud a déposé plainte pénale contre lui et il s'est porté partie civile pour un montant de 698'543 fr.
Au cours de l'enquête pénale, il est apparu que A._ avait encaissé des sommes très importantes pour des activités accessoires qui auraient dû, selon l'Etat de Vaud, être versées aux Hospices cantonaux. Le 17 novembre 2008, l'Etat de Vaud a demandé un complément d'enquête et le renvoi de l'intéressé devant le Tribunal correctionnel pour être jugé "pour l'intégralité des faits objets de l'instruction, y compris ceux portant sur les montants totalisant 11'000'000 fr. tels que déterminés par le rapport de Police".
Par ordonnance du 11 mars 2009, le juge d'instruction cantonal a, d'une part, renvoyé A._ devant le Tribunal correctionnel de l'arrondissement de Lausanne en raison des faits relatifs à l'établissement de fausses factures et, d'autre part, prononcé un non-lieu en ce qui concerne les infractions d'abus de confiance et de gestion déloyale en relation avec les gains accessoires réalisés par le prévenu pour la participation, comme organisateur ou conférencier, à des congrès internationaux, ou en tant que conseiller technique ou responsable de publications scientifiques, pour la période de mai 2000 à janvier 2006. Au sujet de ces gains accessoires, le juge d'instruction a retenu que "l'accusé [avait] tiré des gains importants de sa participation (comme organisateur ou conférencier) à des congrès internationaux puisque cette activité lui [avait] rapporté au moins 4'049'265 fr. 95 (rapport de l'analyste comptable) sans que l'on puisse prétendre qu'il ait consacré des ressources significatives du Centre B._ à cette activité".
Par conventions signées les 21 et 28 janvier 2010, les deux parties ont transigé les prétentions civiles sur les faits objet de l'ordonnance de renvoi en jugement devant le Tribunal correctionnel. Les droits de l'Etat de Vaud relatifs aux faits visés par le non-lieu rendu dans l'ordonnance du 11 mars 2009 ont été réservés.
B.
Par demande au Tribunal de prud'hommes de l'administration cantonale du 10 novembre 2011, l'Etat de Vaud a conclu au paiement par A._ d'une somme de 7'736'578 fr. plus intérêts à 5 % l'an dès le 1 er juillet 2003, échéance moyenne. L'Etat de Vaud faisait valoir, en substance, qu'entre 2000 et 2006, le défendeur avait perçu des sommes s'élevant à 10'929'939 fr. dans le cadre d'activités accessoires, dont 7'736'578 fr. étaient dus à l'Etat de Vaud, au motif, notamment, que les revenus provenant de l'organisation de conférences devaient être rétrocédés à l'employeur.
Au cours de la procédure les parties ont signé une convention de procédure selon laquelle la question de la péremption, respectivement de la prescription, des prétentions de l'Etat de Vaud serait soumise préjudiciellement au Tribunal de prud'hommes de l'administration cantonale.
Le 29 septembre 2015, celui-ci a rendu un jugement incident par lequel il a rejeté l'exception de prescription au motif qu'elle avait été valablement interrompue par le demandeur. Il a ordonné la reprise d'office de la cause au fond.
C.
Par arrêt du 5 septembre 2016, la Cour d'appel civile du Tribunal cantonal du Canton de Vaud a rejeté l'appel formé par A._ et confirmé le jugement incident du Tribunal de prud'hommes.
D.
A._ forme un recours en matière de droit public dans lequel il demande au Tribunal fédéral de dire que toutes les prétentions de l'Etat de Vaud à son encontre sont prescrites et conclut, par conséquent, au rejet des conclusions de la demande du 10 novembre 2011.
Il n'a pas été ordonné d'échange d'écritures.

Considérant en droit :
1.
Le présent recours est dirigé contre un arrêt par lequel la Chambre d'appel civile, à l'instar du Tribunal de prud'hommes, a rejeté le moyen tiré de la prescription. L'arrêt attaqué ne constitue donc qu'une étape vers la décision finale portant sur la prétention de l'intimé. Il doit donc être qualifié de décision incidente contre laquelle le recours devant le Tribunal fédéral suppose que les conditions de l'<ref-law> soient réunies (voir arrêt 2C_814/2012 du 7 mai 2013 consid. 2).
2.
Le jugement incident s'inscrit dans une cause pécuniaire qui ressortit aux rapports de travail de droit public au sens de l'art. 83 let. g LTF et dont la valeur litigieuse excède manifestement le seuil légal de 15'000 fr., qui ouvre la voie du recours en matière de droit public en ce domaine (art. 51 al. 1 let. c et 85 al. 1 let. b LTF; cf. p. ex. arrêt 4A_328/2016 du 10 novembre 2016 consid. 1).
3.
Selon l'<ref-law>, une décision préjudicielle ou incidente peut être entreprise immédiatement si elle peut causer un préjudice irréparable (let. a) ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (let. b). Les deux conditions requises par l'<ref-law> sont cumulatives (cf. <ref-ruling> consid. 2.4.1 p. 633). Par préjudice irréparable, on entend le dommage juridique qu'une décision finale, même favorable au recourant, ne ferait pas disparaître complètement (<ref-ruling> consid. 1.3.4 p. 36; <ref-ruling> consid. 1.3.1 p. 430; <ref-ruling> consid. 2.3.1 p. 632 et les arrêts cités). En l'espèce, le recourant pourra contester le rejet de l'exception de prescription dans un éventuel recours contre la décision finale (<ref-law>). Les conditions de l'ouverture d'un recours immédiat selon l'<ref-law> ne sont donc pas réalisées. Le recourant, au demeurant, ne prétend pas le contraire.
4.
4.1. L'ouverture du recours, prévue pour des motifs d'économie de procédure (<ref-law>), contre une décision incidente doit être interprétée de manière restrictive (<ref-ruling> consid. 3.2 p. 292). Le Tribunal fédéral examine librement le point de savoir si l'admission du recours permettrait d'éviter une procédure d'administration des preuves longue et coûteuse. Il appartient cependant au recourant d'établir que cette condition est réalisée, si celle-ci n'est pas manifeste; il doit en particulier indiquer de manière détaillée quelles questions de fait sont encore litigieuses, quelles preuves - déjà offertes ou requises - devraient encore être administrées et en quoi celles-ci entraîneraient une procédure probatoire longue et coûteuse (<ref-ruling> consid. 1.3.3 p. 141; <ref-ruling> consid. 2.4.2 p. 633).
Tout complément d'instruction entraîne nécessairement des frais et un prolongement de la procédure; cela ne suffit pas pour ouvrir le recours immédiat. Pour que la condition légale soit remplie, il faut que la procédure probatoire, par sa durée et son coût, s'écarte notablement des procès habituels. Si l'administration des preuves doit se limiter à entendre les parties, à leur permettre de produire des pièces et à procéder à l'interrogatoire de quelques témoins, un recours immédiat n'est pas justifié. Il en va différemment s'il faut envisager une expertise complexe, plusieurs expertises, l'audition de très nombreux témoins ou l'envoi de commissions rogatoires dans des pays lointains (arrêts 4A_436/2015 du 17 mai 2016 consid. 1.3.1; 2C_814/2012 du 7 mai 2013 consid. 3.3; 4A_632/2012 du 21 février 2013 consid. 2.2.2). Par ailleurs, le texte légal prend en compte les seuls délais et coûts de la procédure probatoire, à l'exclusion des autres motifs de retard dans la marche du procès; il ne suffit donc pas que la cause implique des recherches juridiques fastidieuses, ou qu'elle soit propre à entraîner la rédaction de longues écritures (arrêt 4A_632/2012 du 21 février 2013 consid. 2.2.2).
Le Tribunal fédéral a par exemple admis qu'une décision de renvoi pouvait faire l'objet d'un recours immédiat lorsque, pour établir l'existence du dommage allégué, il n'était pas exclu qu'une expertise médicale soit nécessaire, de même que l'audition de certains témoins résidant à l'étranger. L'établissement des faits pertinents s'avérait, en outre, difficile en raison de l'éloignement du demandeur à l'étranger et de l'écoulement du temps entre la blessure de l'intéressé et l'instruction du dossier (arrêt 2C_111/2011 du 7 juillet 2011 consid. 1.1.3, in SJ 2012 I p. 97). De même, le Tribunal fédéral a considéré que l'audition d'une dizaine de témoins, l'interrogatoire des parties et la mise en oeuvre d'une expertise judiciaire, eu égard au nombre de personnes impliquées, à la complexité de la situation de fait et de droit et à l'existence d'une procédure pénale parallèle de grande ampleur, constituaient des mesures probatoires de nature à "renchérir[...] et rallonger[...] indubitablement la procédure probatoire au point de justifier le recours immédiat au Tribunal fédéral" (arrêt 4A_210/2010 du 1 er octobre 2010 consid. 3.3.2.1, non publié in <ref-ruling>).
4.2. Le recourant fait tout d'abord valoir que de nombreuses mesures d'instruction seront nécessaires en relation avec la pratique suivie entre 1999 et 2006 au sein des Hospices cantonaux en matière de gains accessoires. Il conteste que les règlements en vigueur à l'époque comportaient une obligation de rétrocession des gains complémentaires tels que ceux qu'il a réalisés. Il conteste également que ces règlements aient été interprétés et appliqués, tant par les employés que par l'Administration des Hospices cantonaux, de manière à solliciter des rétrocessions des gains réalisés pour des activités hors service n'ayant pas mobilisé les ressources de l'employeur. Selon le recourant, cette contestation nécessiterait l'audition de nombreux témoins, la réquisition de nombreuses pièces comptables, ainsi qu'une expertise.
Des mesures probatoires importantes seraient également nécessaires pour qualifier chacune des activités accessoires qui ont donné lieu à un versement sur un compte sur lequel le recourant avait la signature. Celui-ci fait valoir que certains comptes étaient ouverts au nom d'associations ou d'entités auxquelles étaient parties d'autres personnes physiques, notamment des professeurs étrangers, co-organisateurs des congrès. Ici également, une expertise comptable serait nécessaire pour déterminer ce qui est finalement revenu au recourant à titre personnel parmi l'entier des sommes entrées dans le patrimoine des entités organisatrices des congrès, en transitant sur les comptes identifiés au cours de l'enquête pénale.
Enfin, selon le recourant toujours, les activités d'organisation de congrès ayant parfois été accomplies avec d'autres professeurs étrangers, à l'étranger, l'audition de ses co-organisateurs devrait vraisemblablement faire l'objet de commissions rogatoires.
4.3.
La première des conditions de l'<ref-law> est réalisée, car l'admission de l'exception de prescription mettrait définitivement fin au litige. En revanche, la deuxième condition ne l'est pas:
La pratique suivie par les Hospices cantonaux en matière de rétrocession de gains accessoires est avant tout une question qui relève des règlementations en vigueur à ce sujet et de leur interprétation, soit des problèmes dont la résolution nécessite avant tout des démarches d'ordre juridique qui n'entrent pas dans les prévisions de l'<ref-law>. Il est certes possible que l'application, dans les faits, de la pratique des Hospices cantonaux puisse prêter à discussion. Mais on ne voit pas, a priori, que d'éventuels éclaircissements à ce sujet puissent entraîner d'importantes mesures d'instruction et il n'est pas démontré, à ce stade, qu'une expertise soit nécessaire pour résoudre cette question réglementaire.
Il n'apparaît pas non plus que la complexité des structures invoquées par le recourant soit propre à justifier un recours immédiat devant le Tribunal fédéral. Il semble que les faits aient été, en partie tout au moins, démêlés au cours de l'instruction pénale. Selon le jugement attaqué (p. 9), il ressort de l'ordonnance du 11 mars 2009 que 82 entrées de fonds sur différents comptes dont le défendeur était l'ayant droit économique, représentant un montant de 10'929'939 fr., ont été considérées comme douteuses. Le juge d'instruction cantonal a estimé que seuls les versements de quelques centaines de milliers de francs constitués de multiples versements d'importance relativement faible demeuraient partiellement ou totalement inexpliqués. Les montants les plus importants ont été classés en trois catégories, à savoir les fonds détournés, les fonds provenant de gains accessoires et les encaissements pour le compte d'associations ou de fondations (jugement attaqué p. 9). Même si une expertise était nécessaire pour déterminer les fonds dont aurait bénéficié personnellement le recourant, on ne saurait affirmer d'emblée que celle-ci serait particulièrement complexe.
Enfin, le recourant n'expose pas très précisément en quoi l'audition de co-organisateurs de congrès à l'étranger serait indispensable et l'opportunité d'une telle mesure n'est pas manifeste en l'état.
4.4. Dans ces circonstances, on ne peut pas retenir que la procédure probatoire, par sa durée et son coût s'écarte notablement des procès habituels. La valeur litigieuse est certes importante. Mais cet élément, selon le texte légal, n'est pas pris en considération dans l'appréciation de cette condition.
5.
A cela s'ajoute que le fondement de la responsabilité éventuelle du recourant n'est pas définitivement arrêté. La cour cantonale a examiné successivement la question de la prescription sous l'angle de la loi [du canton de Vaud] sur la responsabilité de l'Etat, des communes et de leurs agents (LRECA/VD; RS/VD 170.11), soit une responsabilité délictuelle (art. 9), et à la lumière de la loi sur le personnel de l'Etat de Vaud (LPers-VD; RS/VD 172.31), soit une responsabilité contractuelle (<ref-law> en corrélation avec l'art. 61 al. 2 LPers-VD). Le Tribunal de prud'hommes paraît, à ce stade, avoir laissé ouverte la question de savoir quelle loi était applicable en l'espèce, tandis que le recourant soutient que la LRECA a été appliquée "de manière arbitraire". Il n'appartient cependant pas au Tribunal fédéral d'examiner maintenant et de manière abstraite la question de la prescription au titre de divers chefs de responsabilité qui pourraient entrer en considération et encore moins de trancher préjudiciellement le fondement d'une éventuelle responsabilité du recourant.
6.
De ce qui précède, il résulte que le recours ne satisfait pas aux conditions de recevabilité de l'art. 93 al. 1 let. a et b LTF. En conséquence, il doit être déclaré irrecevable. Compte tenu de l'issue du litige, les frais judiciaires seront mis à la charge du recourant (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est irrecevable.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, à la Cour d'appel civile du Tribunal cantonal du canton de Vaud et au Tribunal de Prud'hommes de l'Administration cantonale.
Lucerne, le 30 novembre 2016
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président : Maillard
Le Greffier : Beauverd