Faits :
A.
A.a. A._ a été engagé dès le 1 er février 1991 par l'Etat de Vaud en qualité de secrétaire auprès du Département B._, Service C._. Rapidement, il a fonctionné comme chef du bureau du contentieux, de la comptabilité débiteurs et de la comptabilité créancière, avec une dizaine de personnes sous sa responsabilité. Il a été promu chef de bureau B dès le 1 er avril 1992, puis chef de bureau A dès le 1 er février 1993. Ce statut a été confirmé par un contrat de droit administratif de durée indéterminée conclu le 30 janvier 2003 entre l'intéressé et l'Etat de Vaud. En 1994, il s'est vu confier la responsabilité du bureau des assurances, nouvelle section créée au sein du bureau du contentieux et de la comptabilité. La même année, il a été nommé assesseur à la Justice de paix du village U._.
En 1999, D._ est devenu adjoint au chef du Service C._ et ses relations avec A._ se sont révélées conflictuelles. A l'initiative du premier, ce dernier s'est vu retirer la responsabilité de la comptabilité créancière, avec quatre personnes sous ses ordres.
Saisi par A._ le 24 février 2000, le groupe E._, au sens des art. 4 ss du Règlement relatif à la gestion des conflits au travail et à la lutte contre le harcèlement du 9 décembre 2002 (RCTH; RS/VD 172.31.7) est parvenu à faire signer un protocole de médiation au prénommé et à D._ le 4 juillet 2001. Ce protocole indiquait que D._ n'avait jamais déclaré vouloir se débarrasser de A._ à son arrivée comme chef adjoint du Service C._. Par lettre au groupe E._ du 19 septembre 2001, les deux intéressés se sont dits satisfaits de la médiation, indiquant qu'ils avaient constaté une amélioration significative de leur relation.
A._ s'est vu retirer la responsabilité de la comptabilité débiteurs en 2004 et celle du bureau des assurances en 2006. En 2006 et 2008, le prénommé a à nouveau saisi le groupe E._ en raison de problèmes avec D._.
Le 14 avril 2009, D._ a demandé à A._ d'entamer des poursuites notamment contre F._ pour le recouvrement d'une créance de l'Etat de Vaud pour des contributions aux frais de placement d'enfants. En octobre 2010, D._ a appris de l'office compétent que jamais aucune poursuite n'avait été engagée contre F._ alors que A._ lui avait remis une copie de réquisition de poursuite datée du 14 avril 2009. Le 1 er novembre 2010, ce dernier a été convoqué par le chef du Service C._ pour un entretien en présence de D._. A cette occasion, trois possibilités lui ont été offertes: l'ouverture d'une enquête administrative, un renvoi pour justes motifs ou sa démission volontaire. Selon un certificat médical établi le lendemain, A._ s'est trouvé depuis lors en incapacité totale de travailler. Par courrier du 10 novembre suivant, le chef du Service C._ a informé A._ qu'il ordonnait l'ouverture d'une enquête administrative contre lui, le libérant de l'obligation de travailler durant celle-ci. Cette enquête fut confiée à G._, ancien juge cantonal qui a rendu son rapport le 22 janvier 2011.
Par courrier du 31 janvier 2011, le chef du Service C._ a indiqué à A._ quels étaient les éléments retenus contre lui. En septembre 2007, l'intéressé avait tenté d'obtenir de son chef hiérarchique une fausse déclaration officielle. En mars 2008, il avait fait un usage abusif d'un papier à entête officielle dans une affaire privée pour obtenir la suppression d'une contravention, faisant une déclaration mensongère et imitant la signature d'une collègue. Dans l'affaire F._, il lui était notamment reproché de n'avoir pas obtempéré à l'injonction de son supérieur d'engager une poursuite contre le débiteur, d'avoir donné de fausses explications sur le traitement de ce cas, d'avoir engagé l'Etat dans une convention sans en référer à ses supérieurs et d'avoir mal renseigné sa hiérarchie à ce sujet. En outre, l'intéressé n'avait pas appliqué les instructions reçues sur la manière de rédiger et de signer les documents qu'il émettait. Son comportement dans le dépôt d'une plainte pénale sans passer par la voie hiérarchique et en apposant une signature contrefaite lui était également reproché. L'auteur de ce courrier a informé son destinataire que les faits révélés par l'enquête administrative entraînaient une rupture complète et définitive de la confiance nécessaire entre employeur et employé. Par lettre du 4 février 2011, le chef du Service C._ a signifié à A._ la résiliation immédiate de son contrat d'engagement.
Par décision du 21 juin 2011, la Caisse de pensions de l'Etat de Vaud a mis le prénommé au bénéfice d'une rente d'invalidité totale avec effet au 1 er février 2011.
En 2013, l'Office de l'assurance-invalidité du canton de Vaud lui a octroyé une rente entière d'invalidité à compter du 1 er janvier 2012. Il a indiqué que le droit à la rente avait pris naissance le 2 novembre 2011 déjà, mais que les arriérés de rente ne pouvaient pas être versés à partir de cette date du fait que la demande de prestations, déposée le 12 juillet 2011, l'avait été tardivement.
A.b. A._ a saisi le Tribunal de Prud'hommes de l'Administration cantonale (ci-après: TRIPAC) d'une demande tendant à la constatation de la nullité de la décision de licenciement et à la condamnation de l'Etat de Vaud à lui payer une indemnité d'au-moins 400'000 fr. pour licenciement abusif, une indemnité d'au-moins 100'000 fr. au titre de perte sur ses expectatives de prévoyance professionnelle et une indemnité d'au-moins 200'000 fr. au titre de préjudice capitalisé lié à son invalidité jusqu'à l'âge de la retraite.
Par jugement du 29 octobre 2015, le TRIPAC a constaté que la décision de licenciement en cause était nulle parce que le contrat qui liait A._ à l'Etat de Vaud avait pris fin ex lege le 1 er février 2011, date à compter de laquelle l'intéressé avait été mis au bénéfice d'une rente d'invalidité complète. Retenant que le prénommé avait été victime de harcèlement psychologique, le tribunal a par ailleurs condamné l'employeur à lui verser le montant de 692'157 fr. avec accessoires, c'est-à-dire 564'814 fr. 20 à titre de compensation de perte de gain et 127'342 fr. 80 à titre de couverture d'un dommage direct de rente de vieillesse (III). En outre, le TRIPAC a octroyé au prénommé une indemnité pour tort moral de 20'000 fr. à la charge de l'Etat de Vaud (IV), mis les frais de la cause, par 19'971 fr. 50 à la charge de l'employeur (V) et condamné ce dernier à verser au demandeur un montant de 18'084 fr. à titre de dépens (VIII).
B.
Saisie d'un appel contre ce jugement par l'Etat de Vaud, la Cour d'appel civile du tribunal cantonal du canton de Vaud l'a admis, par arrêt du 28 juin 2016. Elle a supprimé les chiffres III, IV et VIII du jugement du TRIPAC. Le chiffre V a été réformé en ce sens que les frais de la cause étaient provisoirement laissés à la charge de l'Etat. Le jugement a été confirmé pour le surplus.
C.
A._ interjette un recours en matière de droit public contre ce jugement dont il demande la réforme en ce sens que le droit aux indemnités prétendues en première instance lui soit reconnu. A titre subsidiaire, il demande le renvoi de la cause à la juridiction précédente. Il sollicite en outre le bénéfice de l'assistance judiciaire.
Dans sa réponse, l'Etat de Vaud conclut au rejet du recours, sous suite de frais.
Le recourant a déposé une réplique.

Considérant en droit :
1.
Le jugement entrepris a été rendu en matière de rapports de travail de droit public au sens de l'art. 83 let. g LTF. La contestation est de nature pécuniaire et la valeur litigieuse dépasse largement le seuil de 15'000 fr. ouvrant la voie du recours en matière de droit public en ce domaine (art. 51 al. 2 et 85 al. 1 let. b LTF).
Pour le surplus, interjeté en temps utile et dans les formes requises contre une décision finale prise par un tribunal cantonal, le recours respecte les exigences des art. 42, 86 al. 1 let. d, 90 et 100 al. 1 LTF. Il est par conséquent recevable.
2.
Le litige porte sur le droit de A._ à être indemnisé pour avoir, comme l'avait retenu le TRIPAC sur la base d'un faisceau d'indices convergents, été victime de harcèlement psychologique (mobbing) de la part de son supérieur direct, D._, durant une période de plus de dix ans allant de 1999 jusqu'à son licenciement en 2011.
Le jugement entrepris expose correctement, à son considérant 3.2.1, les dispositions légales et les principes jurisprudentiels applicables pour que puisse être admis un harcèlement psychologique ainsi que les devoirs de l'employeur de protection et de respect de la personnalité du travailleur. Cet exposé n'est pas remis en cause par le recourant, de sorte qu'il suffit d'y renvoyer.
3.
Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), sans être limité par les arguments de la partie recourante ou par la motivation de l'autorité précédente (cf. <ref-ruling> consid. 1.4 p. 140). Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'<ref-law>, et ne peut aller au-delà des conclusions des parties (<ref-law>). Il fonde son raisonnement sur la base des faits établis par l'autorité précédente (<ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.3 p. 266) - ou en violation du droit au sens de l'<ref-law> (<ref-law>). Le Tribunal fédéral n'entre pas en matière sur des critiques appellatoires portant sur l'appréciation des preuves ou l'établissement des faits par l'autorité précédente (<ref-ruling> consid. 2.3 p. 266; <ref-ruling> consid. 10.1 p. 445).
4.
4.1. Dans un premier moyen, le recourant remet en cause l'entrée en matière sur l'appel de l'Etat de Vaud par les juges précédents. Il rappelle qu'il a contesté en procédure cantonale la validité de la représentation de l'appelant. Il fait grief à la cour cantonale d'avoir violé l'<ref-law> qui prescrit au tribunal de fixer un délai pour la rectification des vices de forme telle l'absence de signature ou de procuration, à défaut l'acte n'étant pas pris en considération. Il se plaint aussi d'une application arbitraire de la loi cantonale vaudoise sur l'organisation du Conseil d'Etat. Selon le recourant, l'arrêt entrepris devrait par conséquent être annulé.
4.2. En l'occurrence, l'auteur de l'appel n'a pas déposé dans le délai imparti la procuration qui lui était demandée par le juge. Il l'a produite dans le délai de grâce qui lui avait été signifié ultérieurement. La Cour d'appel a admis la validité de cette procuration, libellée de façon large, octroyée à un employé du Service législatif et juridique de l'Etat de Vaud par le chef de ce service à qui le Conseil d'Etat avait délégué cette compétence. Se référant aux <ref-law> et 29 al. 1 Cst., les juges précédents ont estimé au surplus que déclarer l'appel irrecevable au motif que cette procuration ne serait pas suffisamment précise, relèverait du formalisme excessif.
4.3. Le recourant ne soutient pas que l'octroi d'un délai de grâce, admissible dans les cas d'application de l'<ref-law> (voir p. ex. l'arrêt 4A_163/2015 du 12 octobre 2015, consid. 3.2), serait intervenu de manière contraire au droit. Il se limite à estimer curieux que ce délai ait été imparti sans interpellation de l'auteur de l'appel et il prétend, sans plus de motivation, que l'Etat de Vaud a bénéficié, en cette occurrence, de la complaisance de la cour. Sur cette question, le recours apparaît donc insuffisamment motivé au regard des exigences de l'<ref-law>.
4.4. Selon la jurisprudence, lorsque la décision attaquée comporte plusieurs motivations indépendantes, alternatives ou subsidiaires, toutes suffisantes pour sceller le sort de la cause, la partie recourante doit, sous peine d'irrecevabilité, démontrer que chacune d'elles est contraire au droit (<ref-ruling> consid. 3.4, 138 I 97 consid. 4.1.4 et les arrêts cités).
Or, en l'espèce, force est de constater que le recours ne comporte aucune critique de la motivation des juges cantonaux basée sur l'interdiction du formalisme excessif. Il se contente de soutenir que le droit cantonal n'a pas été respecté parce que la procuration en cause émane du chef du Service législatif et juridique et non pas directement du Conseil d'Etat, ne formulant au demeurant aucun grief sur la délégation du gouvernement cantonal en faveur de ce chef de service. Sur ce point également, l'exigence de motivation du recours, rappelée plus haut, n'est pas remplie.
5.
5.1. Invoquant l'art. 29 al. 2 Cst. et l'<ref-law>, le recourant estime en outre que son droit d'être entendu a été violé. Il reproche à l'instance précédente de ne pas avoir donné suite à sa demande d'auditionner quatre témoins et d'être lui-même entendu personnellement. En l'occurrence, la Cour d'appel a estimé qu'il ne se justifiait pas de procéder à de telles mesures d'instruction, la déposition des personnes en question ayant déjà été recueillie par le TRIPAC. Elle a relevé au surplus que l'intéressé n'indiquait pas en quoi une nouvelle audition de ces témoins se justifierait. Le recourant conteste ce dernier point en se référant à son mémoire de réponse sur l'appel de l'Etat de Vaud.
5.2. Prévu par l'art. 29 al. 2 Cst., le droit d'être entendu est une garantie constitutionnelle de caractère formel, dont la violation doit entraîner l'annulation de la décision attaquée, indépendamment des chances de succès du recourant sur le fond (<ref-ruling> consid. 2.8.1 p. 226; <ref-ruling> consid 5.1 p. 390). Il comprend notamment le droit pour l'intéressé d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 6.3.1 p. 299; <ref-ruling> consid. 3.2 p. 270). Le droit de faire administrer des preuves suppose que le fait à prouver soit pertinent, que le moyen de preuve proposé soit nécessaire pour constater ce fait et que la demande soit présentée selon les formes et délais prescrits par le droit cantonal. Par ailleurs, la garantie constitutionnelle n'empêche pas le juge de mettre un terme à l'instruction lorsque les preuves administrées lui ont permis de former sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, il a la certitude que ces dernières ne pourraient l'amener à modifier son opinion (<ref-ruling> consid. 2.3 p. 222 s.; <ref-ruling> consid. 3.3 p. 64; <ref-ruling> consid. 6.3.1 p. 299).
5.3. En l'espèce, le recourant avait motivé sa demande d'audition de la manière suivante: "Si l'autorité de première instance a veillé à la tenue régulière des procès-verbaux et à la ténorisation des nombreux témoins entendus, ces écrits ne peuvent objectivement être considérés comme exhaustifs et reproduire à eux seuls l'impression générale qui en est ressortie au cours des débats et qui a conduit les juges à admettre sans équivoque l'existence d'atteintes répétées et injustifiées au droit de la personnalité de l'appelé répondant à l'interdiction du mobbing".
Se référant à la jurisprudence du Tribunal fédéral (arrêt 4A_238/2015 du 22 septembre 2015), les juges précédents ont retenu qu'un tribunal supérieur n'était nullement empêché de revoir les constatations de fait opérées par la juridiction de première instance, sur la base des preuves administrées par cette dernière, notamment des témoignages et des déclarations des parties tels qu'ils avaient été dûment consignés au procès-verbal. Ils ont aussi rappelé la considération du Tribunal fédéral selon laquelle l'argument consistant à dire que les éléments pertinents ne ressortiraient qu'imparfaitement des procès-verbaux, lesquels ne contiendraient pas la retranscription complète des déclarations des parties et témoins, tombait à faux, car il appartient aux parties de veiller à ce que toutes les déclarations pertinentes soient consignées au procès-verbal (arrêt précité, consid. 2.3).
Ainsi motivé, le refus de la Cour d'appel d'administrer les preuves proposées par le recourant ne prête flanc à aucune critique. Sur ce point, le recours est manifestement mal fondé.
6.
Le recourant se plaint d'arbitraire dans l'établissement des faits et l'appréciation des preuves.
De jurisprudence constante, le Tribunal fédéral se montre réservé en matière de constatation des faits et d'appréciation des preuves, vu le large pouvoir qu'il reconnaît en la matière aux autorités cantonales (<ref-ruling> consid. 4b p. 40; <ref-ruling> consid. 9 p. 399 et les arrêts cités). Dans ce domaine, l'autorité verse dans l'arbitraire lorsqu'elle ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsqu'elle tire des conclusions insoutenables à partir des éléments recueillis (<ref-ruling> consid. 2.3 p. 265; <ref-ruling> consid. 4.2 p. 234).
6.1. Le recourant critique la manière dont les juges cantonaux ont apprécié l'ambiance au sein du Service C._ depuis l'arrivée de D._ (jugement attaqué, consid. 3.4.1).
6.1.1. Sur cette question, le jugement entrepris, après avoir relaté plusieurs témoignages (dont certains qui avaient été écartés de son appréciation par le TRIPAC) et s'être prononcé sur la valeur probante de chacun d'eux, a retenu que "quoi qu'il en soit, le caractère de D._, auquel tous les employés paraissent avoir été confrontés, ne constitue pas, en soi, un indice de harcèlement contre [A._]". Il fait référence à la jurisprudence (arrêt 2A.770/2006 du 26 avril 2007, consid. 5.1).
6.1.2. En procédure fédérale, le recourant soutient qu'une prétendue contradiction entre le témoignage de l'enquêteur G._ et celui du chef du Service C._ permet de conclure qu'on ne peut prêter un quelconque crédit aux déclarations du chef de service. Il ne peut être suivi. La supposée contradiction en question porte en effet sur un point étranger à la question examinée par la cour cantonale à ce considérant. De plus, au regard des nombreux témoignages qu'elle a pris en compte, la cour cantonale n'a pas fait abstraction de certains traits de caractère de D._, son attitude parfois rabaissante, lunatique, ses emportements occasionnels. Elle a considéré cependant que son inflexibilité et sa rigueur devaient être appréhendées en relation avec son rôle de gardien des procédures financières et le changement qu'il incarnait pour les personnes déjà en place. Cette appréciation apparaît fondée sur des éléments objectifs qui ressortent du dossier et sur la jurisprudence. Elle ne saurait être qualifiée d'arbitraire. En réalité, le recourant, dans une argumentation de nature appellatoire, voudrait substituer sa propre appréciation à celle de la cour cantonale, ce qui ne suffit pas à faire apparaître celle-ci comme arbitraire.
6.2. Les mêmes considérations valent pour le reproche d'arbitraire qu'adresse le recourant aux juges précédents en ce qui concerne le point de savoir s'il a été très vraisemblablement pris pour cible par son supérieur hiérarchique et s'il a été victime de harcèlement psychologique.
La cour cantonale a admis comme établi que les relations entre A._ et D._ étaient conflictuelles. Elle a toutefois considéré qu'aucun témoin n'avait donné d'exemple concret d'acte hostile, dénigrant ou humiliant dont le premier aurait été personnellement victime de la part de D._, tous les employés subordonnés à ce dernier ayant déclaré avoir fait l'expérience de son caractère déstabilisant, lunatique et parfois rabaissant. La motivation des juges précédents se fonde ici encore sur des éléments objectifs qui ressortent du dossier.
6.2.1. Les extraits de témoignages que fait valoir le recourant pour tenter de battre en brèche cette appréciation ne démontrent pas le contraire. Certes, comme il le relève, selon le témoin H._, D._ aurait déclaré "qu'avec A._, ça n'irait pas et qu'il aurait sa peau". Toutefois, si une telle déclaration peut constituer un indice de harcèlement dans la mesure où elle établirait une intention d'éviction, elle ne permet pas de faire apparaître l'appréciation de la cour cantonale comme insoutenable. Quant au témoignage, invoqué par le recourant, de I._, assistant social au Service C._ de 1978 à 1985, puis de 1991 à 2005, il fait seulement état de l'impression du prénommé qu'on cherchait à évincer A._, le témoin précisant au surplus qu'il ne savait pas si, vers la fin, il y avait eu un complot contre ce dernier pour le licencier.
Dans le jugement entrepris, il est retenu que A._ n'avait allégué aucun propos hostile, ni acte de dénigrement. Lors de sa déposition devant le TRIPAC, il avait relaté deux épisodes relatifs à des procédures de mainlevée lors desquels il avait estimé les instructions de son supérieur aberrantes, le lui avait fait savoir et lui avait demandé de transmettre au chef du Service C._ la note de service qu'il avait rédigée. Selon l'intéressé, D._ aurait devant lui passé cette note à la broyeuse de documents. Les juges cantonaux ont estimé que ces épisodes n'étaient pas établis et que, même si la réaction du supérieur était avérée, elle s'expliquait par la tension et le manque de communication entre les intéressés, ajouté à l'agacement provoqué par ce type de démarche, et ne saurait être assimilée à un acte de mobbing. La cour cantonale a de plus relevé qu'elle ne discernait pas ce qui aurait empêché A._ de s'adresser ensuite directement au chef du Service C._.
Ici encore, le recourant se limite à vouloir substituer sa propre appréciation à celle de la Cour d'appel, ce qui constitue une simple critique appellatoire sur laquelle le Tribunal fédéral n'entre pas en matière.
6.2.2. C'est par ailleurs en vain que le recourant relève que ses diverses démarches auprès du groupe E._ sont des indices de harcèlement, tout en admettant qu'elles ne peuvent en constituer la preuve. Il développe en outre tout aussi vainement une motivation insistante pour démontrer que ses supérieurs connaissaient ses démarches de 2004 et 2008. Le jugement attaqué ne dit en effet rien d'autre. Il y est relevé à juste titre que même si les supérieurs du recourant avaient eu connaissance des démarches en question, cela ne rendrait pas le harcèlement plus vraisemblable et qu'au surplus, le groupe E._ n'a pas ouvert d'investigation d'office ni établi de rapport concluant à l'existence d'un harcèlement.
6.2.3. A._ soutient qu'il a fait l'objet d'un processus d'éviction et d'acharnement pour qu'il quitte sa fonction. Ce faisant, il ne démontre cependant pas que la Cour d'appel est tombée dans l'arbitraire en retenant que les griefs formulés à son endroit par l'employeur étaient admissibles puisque fondés sur des faits objectifs et qu'ils ne constituaient pas de faux prétextes destinés à l'écarter, même si ces griefs ont été formulés de manière abrupte ou maladroite.
6.2.4. En qui concerne les retraits des responsabilités qui lui avaient été primitivement confiées, le recourant prétend à tort que le jugement entrepris "ne compte pratiquement aucun considérant" sur ce point. Les juges précédents ont au contraire dûment examiné cette question (jugement attaqué, consid. 3.4.3). Ils ont considéré que la diminution de responsabilités de A._ s'inscrivait dans un processus général de réorganisation du service concerné et que ni les décisions de la hiérarchie à ce sujet, ni la manière dont elles ont été communiquées au prénommé ne relevaient d'une volonté de nuire ou de l'écarter. C'est donc en vain que le recourant entend imposer une appréciation différente en se limitant à qualifier celle des juges cantonaux d'arbitraire, sans autre démonstration.
6.2.5. Le recourant soutient enfin que la manière dont s'est déroulée l'enquête administrative à son endroit était grossièrement irrégulière, significative du processus de licenciement, et aurait dû conduire à reconnaître la nullité absolue de cette enquête, pour ce motif-là et non parce qu'une rente d'invalidité lui avait été allouée. Ici encore, il voudrait que sa propre appréciation se substitue à celle de la cour cantonale, de façon purement appellatoire et sans établir l'arbitraire du jugement attaqué sur ce point. Au demeurant, on ne saurait revenir sur les motifs pour lesquels le licenciement en question a été jugé nul par le TRIPAC dans son jugement du 29 octobre 2015 (voir faits A.b ci-dessus), confirmé sur ce point par le jugement entrepris. En effet, selon la jurisprudence, en principe seul le dispositif d'une décision peut être attaqué par un recours et non pas ses motifs (arrêt 9C_402/2015 du 28 octobre 2015 et les arrêts cités), car seul le dispositif acquiert force de chose jugée.
7.
Ayant écarté toute violation par l'employeur de ses devoirs envers le recourant, les juges précédents ont estimé que la question du lien de causalité entre le prétendu harcèlement et l'état de santé de A._ pouvait rester ouverte, quand bien même l'Etat de Vaud la remettait en cause (jugement attaqué, consid. 4). Les griefs que l'intéressé formule en procédure fédérale sur ce point n'ont pas à être examinés puisque, au regard des considérants qui précèdent, l'appréciation de la cour cantonale ne se révèle pas arbitraire.
8.
Mal fondé, le recours doit être rejeté. Les frais afférents à la présente procédure seront supportés par le recourant qui succombe (<ref-law>). Il a cependant déposé une demande d'assistance judiciaire visant à la dispense des frais judiciaires et à la désignation d'un avocat d'office. Dès lors que les conditions d'octroi sont réalisées (art. 64 al. 1 et 2 LTF), l'assistance judiciaire lui est accordée. Le recourant est toutefois rendu attentif au fait qu'il devra rembourser la caisse du Tribunal fédéral, s'il retrouve ultérieurement une situation financière lui permettant de le faire (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
L'assistance judiciaire est admise pour la procédure devant le Tribunal fédéral et Maître Robert Lei Ravello est désigné comme avocat d'office du recourant.
3.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant. Ils sont toutefois supportés provisoirement par la caisse du Tribunal fédéral.
4.
Une indemnité de 2'800 fr. est allouée à l'avocat du recourant à titre d'honoraires à payer par la caisse du Tribunal fédéral.
5.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour d'appel civile, et au Tribunal de Prud'hommes de l'Administration cantonale.
Lucerne, le 4 mai 2017
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président : Maillard
La Greffière : Fretz Perrin