A.- Dès le 1er mai 1987, l'Etat de Vaud, Association pour la restauration du Château B._, a engagé A._ par contrat de droit privé en qualité de gardien-jardinier au Château B._ (ci-après: le Château).
Celui-ci a été nommé à ce poste comme fonctionnaire dès le 1er avril 1989.
B.-Le 16 août 1994, l'Intendant du Château (ci-après:
l'Intendant), C._, a reproché à l'intéressé notamment d'avoir modifié en son absence le plan de travail de fin juillet 1994 afin de prendre plus de vacances - contrairement aux instructions données - et d'avoir quitté son poste le dernier jour de travail à 14 heures 50 déjà, sans avoir exécuté toutes les tâches demandées et sans avertir ses collègues.
En 1992 déjà, A._ aurait profité de ses vacances d'été pour porter la durée des siennes de 25 à 28 jours, alors qu'auparavant il avait été informé de la durée trop longue de son absence en pleine saison. L'Intendant lui a en outre reproché son comportement, son manque d'allantet d'initiative et sa peine à s'intégrer dans le travail d'équipe et lui a demandé formellement de corriger ces manquements.
Le 15 juin 1999, confirmant un entretien de fin mai 1999, C._ a signifié une mise en garde à l'intéressé, l'informant que la poursuite de son activité au Château serait désormais conditionnée par une amélioration très significative, immédiate et durable de la qualité de son travail, faute de quoi une procédure de renvoi serait engagée contre lui. Il attendait notamment un meilleur engagement dans son activité, une solidarité effective avec ses collègues et, de manière générale, une meilleure exécution de toutes ses tâches (nettoyage, gardiennage, jardinage, etc.).
C.- Le 18 juin 1999, A._ a contacté le groupe D._ - compétent notamment pour traiter les plaintes pour harcèlement psychologique en vertu de l'art. 5 de l'arrêté vaudois du 23 juin 1999 relatif à la lutte contre le harcèlement au travail dans l'administration vaudoise - auprès duquel il s'est plaint des agissements de son supérieur hiérarchique, C._. La médiation ayant été refusée et la situation s'étant par la suite dégradée, ledit groupe a décidé, avec l'accord de l'intéressé, de mener une investigation en vue d'établir les faits dont se plaignait celui-ci.
Le 10 février 2000, le groupe précité a rendu un rapport relatif au conflit entre A._ et C._ adressé au Chef du Département des institutions et des relations extérieures (DIRE) du canton de Vaud (ci-après: le Chef du Département). Ayant procédé à des investigations et à l'audition de plusieurs personnes citées par A._et C._, il a notamment conclu que l'Intendant n'avait pas eu de comportements hostiles visant à nuire à A._. Il n'a en particulier pas constaté d'agissements relevant du mobbing de la part de C._ envers celui-là.
D.- Par courrier du 2 mars 2000, l'Intendant a reproché à l'intéressé d'avoir eu une attitude très désagréable envers des visiteurs du Château et l'a prié d'éviter à l'avenir tout débordement de même nature.
Par lettre du 28 avril 2000, il lui a demandé d'affirmer sur l'honneur qu'il n'était pour rien dans la disparition de plusieurs objets. En outre, il l'a également sollicité de remettre en place l'outillage et le matériel appartenant au Château, de ne pas accumuler sur et devant le vestiaire d'un collègue ses affaires personnelles ou du matériel, de cesser d'envenimer la situation, d'obéir aux ordres et consignes pour les tâches de nettoyage et de gardiennage, d'être plus organisé, rapide, efficace et propre dans son travail, de ne pas quitter le Château et son domaine sans avertir et sans justification et d'être plus avenant, poli et agréable avec les visiteurs du Château, ses collègues de travail et lui-même.
Le 1er mai 2000, l'Intendant a adressé copie de son courrier précité ainsi que de ceux des 16 août 1994 et 15 juin 1999 au Chef du Département en lui signalant que l'attitude de A._ au travail empirait, tout particulièrement ces derniers mois, au point que presque tous ses collègues s'en plaignaient et qu'un conflit quasi-permanent régnait avec plusieurs d'entre eux. Il ne pouvait plus continuer à travailler ainsi avec lui.
Le 8 mai 2000, deux collègues de travail de l'intéressé, dont celui avec lequel celui-ci devait travailler en paire, se sont plaints de son comportement auprès du Chef du Département. Ils lui reprochaient en substance de ne pas effectuer son travail, de rendre le leur impossible, notamment en cachant leurs outils de travail, de mettre ses affaires devant leur vestiaire, de démonter systématiquement le porte-savon ainsi que de les insulter et provoquer. Cette situation, qui se dégradait de jour en jour, aurait eu des conséquences pour leur santé. Ils priaient le Chef du Département de prendre une décision rapidement avant que la situation ne s'aggrave davantage.
Le même jour, l'épouse d'un collègue de travail s'est également adressée audit chef en lui demandant d'agir rapidement "dans un sens ou dans un autre".
Le 9 mai 2000, l'Intendant a signalé à l'Administrateur de l'Association du Château n'avoir aucune réaction de A._ à sa lettre du 28 avril 2000. Il faisait également état d'un incident survenu le 7 mai 2000 au cours duquel celui-ci - qui continuait à "disparaître" pendant de longues périodes et à travailler au ralenti - aurait versé du savon liquide sur la radio de l'un de ses collègues.
E.- Le 24 mai 2000, le Chef du Département a décidé de suspendre l'intéressé de son activité professionnelle avec effet immédiat et d'ouvrir, "dans les plus brefs délais", la procédure de renvoi pour justes motifs à son encontre. Il a maintenu le versement de son traitement.
Le 29 mai 2000, par l'intermédiaire de son avocat, A._ a affirmé sur l'honneur qu'il n'était pour rien dans la disparition d'objets reprochée le 28 avril 2000. Il s'est également engagé à remettre en place, comme il l'aurait toujours fait, l'outillage et le matériel appartenant au Château.
Le 7 juillet 2000, le Chef du Département a transmis à l'intéressé le rapport exposant les motifs de renvoi.
Le 11 octobre 2000, celui-ci a été entendu par une délégation du Conseil d'Etat du canton de Vaud (ci-après: le Conseil d'Etat).
Le 30 octobre 2000, le Conseil d'Etat l'a renvoyé - avec effet au jour même - pour justes motifs au sens de l'art. 89 de la loi vaudoise du 9 juin 1947 sur le statut général des fonctions publiques cantonales (ci-après: le Statut; RSV 1.6). Il lui a reproché en substance son comportement envers ses collègues - en particulier ses insultes et provocations - qu'il a jugées inadmissibles, constituant à elles seules un motif justifiant le renvoi immédiat, son impolitesse avec des visiteurs du Château ainsi que ses manquements au travail, notamment la mauvaise qualité de ce dernier, ses "disparitions" fréquentes et sa désobéissance.
Pour toutes ces raisons, la poursuite des rapports de travail ne pouvait être exigée de l'Etat de Vaud, le lien de confiance étant définitivement détruit.
F.- Agissant par la voie du recours de droit public, A._ demande l'annulation de la décision précitée. Invoquant l'art. 9 Cst. , il reproche au Conseil d'Etat une appréciation arbitraire des preuves ainsi qu'une application arbitraire du droit cantonal.
Ledit Conseil conclut à l'irrecevabilité du recours, subsidiairement à son rejet.

Considérant en droit :
1.- a) Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 209; III 274 consid. 1 p. 275 et la jurisprudence citée).
b) Selon l'art. 88 OJ, le recours de droit public est ouvert uniquement à celui qui est atteint par l'acte attaqué dans ses intérêts personnels et juridiquement protégés. Le recours formé pour sauvegarder l'intérêt général ou ne visant qu'à préserver des intérêts de fait est en revanche irrecevable (<ref-ruling> consid. 1a p. 44). La protection contre l'arbitraire inscrite à l'art. 9 Cst. (cf. également art. 4 aCst.) - qui doit être respectée dans toute activité administrative de l'Etat - ne confère pas à elle seule la qualité pour agir au sens de l'art. 88 OJ. La qualité pour former un recours fondé sur l'art. 9 Cst. dépend bien plutôt du fait que la législation dont l'application arbitraire est alléguée accorde un droit au recourant ou a pour but de le protéger d'une atteinte à ses intérêts (<ref-ruling> consid. 3b p. 85-86; <ref-ruling> consid. 3c/aa p. 280; 41 consid. 5b p. 42-43; <ref-ruling> consid. 2b et 3b/bb p. 45-47; <ref-ruling> consid. 2 p. 269 et les références citées). Le Tribunal fédéral a jugé que l'employé de la fonction publique qui reçoit son congé n'a qualité pour former un recours de droit public que si le droit cantonal fait dépendre son licenciement de conditions matérielles (<ref-ruling> consid. 1p. 34; cf. également <ref-ruling> consid. 1a p. 112).
En vertu de l'art. 89 du Statut, le Conseil d'Etat ou le Tribunal cantonal pour l'ordre judiciaire peut en tout temps ordonner la cessation des fonctions pour justes motifs (al. 1). Constituent de justes motifs le fait que le fonctionnaire ne remplit plus les conditions dont dépend la nomination et toutes autres circonstances qui font que, selon les règles de la bonne foi, la poursuite des rapports de service ne peut pas être exigée (al. 2). Il y a donc lieu d'admettre que l'intéressé a qualité pour recourir au sens de l'art. 88 OJ, contrairement à ce que soutient le Conseil d'Etat, du moment que le droit public vaudois fait dépendre le licenciement d'une condition matérielle (existence de justes motifs; cf. également <ref-ruling> consid. 1 p. 34et l'arrêt cité).
c) Au surplus, déposé en temps utile contre une décision finale prise en dernière instance cantonale, qui ne peut être attaquée que par la voie du recours de droit public, le présent recours est en principe recevable au regard des art. 84 ss OJ.
2.- a) Sauf exceptions non réalisées en l'espèce, le Tribunal fédéral examine sous l'angle de l'arbitraire, dans le cadre d'un recours de droit public, l'interprétation et l'application du droit cantonal (Walter Kälin, Das Verfahren der staatsrechtlichen Beschwerde, 2ème éd. Berne 1994, p. 164 ss).
b) En vertu de l'art. 90 al. 1 lettre b OJ, l'acte de recours doit, à peine d'irrecevabilité, contenir un exposé succinct des droits constitutionnels ou des principes juridiques violés et préciser en quoi consiste la violation.
Lorsqu'il est saisi d'un recours de droit public, le Tribunal fédéral n'a donc pas à vérifier de lui-même si la décision entreprise est en tous points conforme au droit et à l'équité. Il n'examine que les griefs d'ordre constitutionnel invoqués et suffisamment motivés dans l'acte de recours (<ref-ruling> consid. 1c p. 76; <ref-ruling> consid. 4a p. 30; <ref-ruling> consid. 2b p. 318). En outre, dans un recours pour arbitraire fondé sur l'art. 9 Cst. (cf. art. 4 aCst.), le recourant ne peut se contenter de critiquer la décision attaquée comme il le ferait dans une procédure d'appel où l'autorité de recours peut revoir librement l'application du droit. Il doit préciser en quoi cette décision serait arbitraire, ne reposerait sur aucun motif sérieux et objectif, apparaîtrait insoutenable ou heurterait gravement le sens de la justice (<ref-ruling> consid. 1b p. 495 et la jurisprudence citée).
L'acte de recours ne satisfait que partiellement à ces exigences.
3.- A titre de moyen de preuve, le recourant demande la production du dossier de la cause et le rapport du groupe D._ du 10 février 2000 par le Conseil d'Etat.
A la demande du Tribunal fédéral, celui-ci a produit le dossier de la cause qui comprend notamment le rapport précité.
Sa demande est dès lors sans objet.
Pour le surplus, l'autorité de céans s'estime suffisamment renseignée, de sorte qu'il n'y a pas lieu d'ordonner d'autres mesures d'instruction (cf. art. 95 al. 1 par renvoi de l'art. 113 OJ).
4.- Une décision est arbitraire lorsqu'elle contredit clairement la situation de fait, lorsqu'elle viole gravement une norme ou un principe juridique clair et indiscuté, ou lorsqu'elle heurte d'une manière choquante le sentiment de la justice et de l'équité. A cet égard, le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si elle apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs ou en violation d'un droit certain. De plus, il ne suffit pas que les motifs de la décision attaquée soient insoutenables, encore faut-il que cette dernière soit arbitraire dans son résultat. Il n'y a en outre pas arbitraire du seul fait qu'une autre solution que celle de l'autorité intimée paraît concevable, voire préférable (<ref-ruling> consid. 2a p. 168 et la jurisprudence citée). La nouvelle Constitution n'a pas amené de changement à cet égard (cf. art. 8 et 9 Cst. ; <ref-ruling> consid. 3ap. 170).
5.- a) L'intéressé fait grief au Conseil d'Etat d'avoir fondé sa décision sur les témoignages de deux collègues en conflit avec lui qui auraient un intérêt évident à lui nuire.
Cette autorité aurait également porté des accusations contre lui qu'il avait démenties et, ne disposant pas d'autres moyens de preuve, elle ne saurait persister à l'en croire responsable sans violer le principe de l'interdiction de l'arbitraire. Les faits reprochés ne pourraient dès lors fonder son renvoi pour justes motifs.
b) Ainsi qu'elle le relève, l'autorité intimée a basé sa décision non seulement sur les déclarations des deux collègues et de l'Intendant, mais aussi sur le rapport du groupe D._ du 10 février 2000 qui est intervenu à la demande du recourant. En effet, elle a estimé que les membres dudit groupe avaient relevé dans leur rapport que selon tous les gardiens entendus - dont les témoignages convergeaient - l'intéressé avait un comportement provocateur et agressifet s'en prenait à tous les gardiens à tour de rôle. Ces derniers affirmaient qu'ils avaient été insultés publiquement par le recourant qui manquait d'esprit d'équipe et qui, régulièrement, ne faisait pas son travail, d'autres devant l'effectuer à sa place (cf. p. 7 et 8 de la décision entreprise).
Le Conseil d'Etat lui a en outre reproché son impolitesse avec des visiteurs du Château dont l'un s'était plaint (cf. p. 9 de la décision attaquée). Ses longues absences avaient également été constatées par le groupe D._ (cf. p. 10 de la décision querellée), de mêmeque le fait qu'il ne suivait pas les instructions données par l'Intendant (cf. p. 11 de ladite décision).
Dès lors que l'autorité intimée a fondé sa décision non seulement sur les déclarations des deux collègues précités, mais aussi sur celles de l'Intendant, de visiteurs du Château et sur le rapport du groupe D._, le grief soulevé par l'intéressé est mal fondé. Par ailleurs, au vu des dépositions concordantes de toutes ces personnes, le Conseil d'Etat disposait de suffisamment d'éléments pour retenir comme avérés les manquements et reproches que le recourant conteste. Ceux-ci ressortent d'ailleurs clairement du rapport du groupe D._.
6.- a) Le recourant estime que le renvoi aurait dû être précédé d'un avertissement. Un renvoi sans avertissement préalable ne serait envisageable que pour des faits particulièrement graves, ce qui ne serait pas le cas en l'espèce, de sorte que la décision attaquée serait arbitraire. Le renvoi immédiat ne serait par ailleurs admissible qu'en tant qu'ultima ratio au cas où d'autres mesures moins incisives pour le fonctionnaire ne pourraient être envisagées. Le Conseil d'Etat n'aurait examiné que très sommairement cette possibilité, de sorte que sa décision serait également arbitraire pour cette raison. Enfin, l'intéressé estime que le laps de temps entre l'annonce de l'ouverture de la procédure de renvoi et l'ouverture effective de celle-ci aurait été trop long, dès lors que la résiliation immédiate devait suivre de peu la reconnaissance des justes motifs. Partant, la décision prise le 30 octobre 2000 par l'autorité intimée serait arbitraire.
b) L'art. 90 al. 2 du Statut précise qu'à moins que les faits ne justifient la cessation immédiate des rapports de service, le renvoi doit être précédé d'un avertissement écrit.
En l'espèce, le Conseil d'Etat a considéré que la procédure de renvoi pour justes motifs avait été ouverte sans avoir été précédée d'un avertissement formel au sens de la disposition précitée. Il a ensuite examiné la question de savoir si les faits justifiaient une résiliation immédiate.
Il a estimé que dans la mesure où l'Intendant avait adressé déjà le 28 avril 2000 une sérieuse mise en garde à l'intéressé et que la situation s'était par la suite considérablement dégradée - le recourant ne faisant plus son travail et employant son temps à cacher le matériel et les outils de ses collègues contre lesquels il se livrait à des actes de provocation -, des mesures immédiates s'imposaient. Par ailleurs, celui-ci avait déjà été dûment averti le 15 juin 1999 qu'une procédure de renvoi serait ouverte si la qualité de son travail ne s'améliorait pas rapidement et de manière significative. Or, ces mises en garde n'avaient jamais eu d'effet sur son comportement, de sorte qu'on pouvait admettre qu'un avertissement formel aurait été sans résultat.
Le recourant ne critique pas cette appréciation qui n'est pas insoutenable. L'autorité intimée était en effet fondée à renoncer à l'avertissement préalable prévu par l'art. 90 al. 2 du Statut dès lors qu'une telle mesure aurait de toute façon été sans effet et qu'une décision ayant des conséquences immédiates s'imposait.
c) S'agissant du laps de temps qui s'est écoulé entre sa suspension avec effet immédiat et la notification du rapport exposant les motifs du renvoi par le Chef du Département - moment que l'intéressé considère comme l'ouverture formelle de la procédure de renvoi pour justes motifs -, il n'a pas été particulièrement long, de sorte que le recourant ne saurait en tirer aucune conclusion en sa faveur. Peu importe au demeurant quand la procédure de renvoi a été effectivement ouverte; les art. 84 ss du Statut ne prescrivent en effet pas de délai dans lequel la procédure de renvoi pour justes motifs doit être ouverte. Par ailleurs, dans la mesure où l'intéressé a été suspendu et licencié en raison des mêmes reproches - formulés tant dans la décision de suspension prise le 24 mai 2000 que dans le rapport exposant les motifs de son renvoi du 7 juillet 2000 et dans la décision de renvoi du 30 octobre 2000 -, il était, dès sa suspension, au courant des motifs de sa mise à pied, de sorte qu'il n'est pas non plus fondé à reprocher au Conseil d'Etat d'avoir attendu longtemps entre la connaissance desdits motifs et une décision concrète basée sur ceux-ci.
On ne saurait non plus reprocher audit Conseil un comportement contradictoire: en suspendant avec effet immédiat le recourant, il a démontré que les rapports de travail ne pouvaient perdurer, même si le renvoi est intervenu ultérieurement.
A cet égard, la situation est différente de celle d'un employeur soumis au droit privé qui ne connaît pas l'institution de la suspension; de plus, en droit privé, le délai séparant la survenance des motifs de renvoi et le renvoi lui-même a une autre signification.
d) Dès lors que les conditions du renvoi pour justes motifs au sens de l'art. 89 du Statut étaient remplies, l'autorité intimée n'était pas non plus tenue de considérer une autre mesure - moins incisive - que le licenciement avec effet immédiat. En effet, bien que l'art. 91 du Statut permette au Conseil d'Etat d'ordonner, au lieu de la cessation des fonctions, le déplacement à un autre poste, celui-ci n'en a pas l'obligation. Le grief soulevé par le recourant doit dès lors être rejeté.
7.- Vu ce qui précède, le présent recours doit être rejeté dans la mesure où il est recevable.
Succombant, l'intéressé doit supporter les frais judiciaires (art. 156 al. 1, 153 et 153a OJ) et n'a pas droit à des dépens (art. 159 al. 1 OJ).

Par ces motifs,
le Tribunal fédéral :
1. Rejette le recours dans la mesure où il est recevable.
2. Met un émolument judiciaire de 2'000 fr. à la charge du recourant.
3. Dit qu'il n'est pas alloué de dépens.
4. Communique le présent arrêt en copie au mandataire du recourant et au Conseil d'Etat du canton de Vaud.
_
Lausanne, le 6 avril 2001 DVR/mnv
Au nom de la IIe Cour de droit public
du TRIBUNAL FEDERAL SUISSE:
Le Président,
Le Greffier,