Faits:
A. B._ a été engagé par l'Etat de Vaud comme maître secondaire spécialiste. Il enseigne au gymnase. Avant la mise en oeuvre de la nouvelle classification (connue sous la désignation DECFO-SYSREM), il était colloqué en classe 24-28.
Le 28 février 2009 il a ouvert action devant le Tribunal de prud'hommes de l'administration cantonale en prenant diverses conclusions concernant l'échelon de sa classe de salaire en relation avec le passage à cette nouvelle classification. Le 5 mars 2009, il a pris des conclusions complémentaires. A l'audience préliminaire du 14 avril 2010, il a pris une nouvelle conclusion tendant au versement par l'Etat d'une somme de 15'000 fr., valeur au 14 avril 2010.
Le Tribunal de prud'hommes a tenu une audience le 2 juin 2010 au cours de laquelle le Président a imparti à l'Etat de Vaud un délai pour produire le dossier remis par L._ au Conseil d'Etat concernant le calcul de l'échelon « dans le cadre de la bascule des maîtres secondaires spécialistes avec indemnité gymnasiale ». Le 28 juin 2010, le défendeur, par le Chancelier d'Etat, a indiqué que le dossier consistait en un document daté du 2 février 2009 et intitulé « Détermination de l'échelon pour les maîtres porteurs du diplôme de maître secondaire spécialiste de la HEP colloquée en classes 24-28 avec indemnité ». Ce document revêtait la forme d'une proposition au Conseil d'Etat. La pratique constante du Conseil d'Etat était de ne pas autoriser la production en justice, la remise à des tiers ou la publication de documents de ce type au motif qu'ils étaient destinés à l'usage exclusif des membres du gouvernement et tombaient de ce fait sous la protection de la collégialité et du secret des débats. Après de nouvelles déterminations des parties, le Président du Tribunal a fixé à l'Etat de Vaud un délai au 15 août 2010 pour produire la pièce en question en indiquant qu'à défaut il serait procédé à l'exécution forcée. Un nouveau délai lui a été imparti au 26 août 2010, pour faire valoir ses moyens éventuels ou produire le titre.
Devant le refus du défendeur, le Président du Tribunal de prud'hommes a rendu le 14 septembre 2010 une ordonnance par laquelle il a ordonné l'exécution forcée de l'ordonnance de production du document requis, dit qu'au besoin il pourrait être procédé à l'ouverture forcée, enjoint tous agents de la force publique à concourir à l'exécution de l'ordonnance s'ils en sont requis, délégué l'exécution de l'ordonnance au Juge de paix du district de Lausanne ou à tout huissier ou assesseur auquel il pourrait déléguer dite tâche et, enfin, déclaré l'ordonnance immédiatement exécutoire nonobstant recours.
B. L'Etat de Vaud a recouru contre cette ordonnance devant la Chambre des recours du Tribunal cantonal vaudois en concluant à son annulation. Le 1er octobre 2010, le Président de la Chambre a accordé l'effet suspensif au recours. Par arrêt du 24 février 2011, la juridiction saisie a rejeté le recours en tant qu'il était recevable.
C. L'Etat de Vaud interjette un recours en matière de droit public et un recours constitutionnel subsidiaire dans lequel il conclut à la réforme de l'arrêt cantonal en ce sens que l'ordonnance d'exécution forcée de production de pièce du 14 septembre 2010 est annulée. Il sollicite l'octroi de l'effet suspensif, qui a été accordé à titre superprovisoire par ordonnance du juge instructeur du 15 avril 2011.
B._ conclut au rejet du recours.
D. La Ire Cour de droit social du Tribunal fédéral a tenu une délibération publique le 19 décembre 2011.
Considérant en droit:
1. La décision attaquée, qui confirme en dernière instance cantonale la production d'une pièce par l'Etat de Vaud ne met pas fin à la procédure et revêt un caractère incident. Aussi bien le recours devant le Tribunal fédéral n'est-il recevable qu'aux conditions de l'art. 93 LTF dès lors que la décision attaquée n'entre pas dans le champ d'application de l'art. 92 LTF. L'admission du recours ne conduirait pas immédiatement à une décision finale qui permettrait d'éviter une procédure probatoire longue et coûteuse selon l'art. 93 al. 1 let. b LTF. Le recourant ne peut donc s'en prendre à cette décision que si elle l'expose à un préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF. A ce propos, le recourant se prévaut d'une atteinte au secret de fonction institué par l'art. 320 CP pour refuser de communiquer la pièce requise. Si cette atteinte devait se révéler fondée, on ne voit pas comment on pourrait y remédier ultérieurement. La condition du dommage irrémédiable est ainsi remplie (cf. arrêts 8C_706/2010 du 12 juillet 2011 consid. 1.3, 1P.249/2002 du 5 septembre 2002 consid. 2.2).
2. 2.1 La décision attaquée a été rendue dans une cause en matière de rapports de travail de droit public. Selon l'art. 83 let. g LTF, en matière de rapports de travail de droit public (lorsque, comme en l'espèce, la question de l'égalité des sexes n'est pas en cause), le recours en matière de droit public est irrecevable contre des décisions qui concernent une contestation non pécuniaire. En matière pécuniaire, le recours n'est en principe recevable que si la valeur litigieuse atteint 15'000 fr. (art. 85 al. 1 let. b LTF). En cas de recours contre une décision préjudicielle ou incidente, la valeur litigieuse est déterminée par les conclusions restées litigieuses devant l'autorité compétente sur le fond (art. 51 al. 1 let. c LTF).
2.2 Sur le fond, le litige porte sur l'application de l'arrêté du 28 novembre 2008 relatif à la mise en oeuvre de la nouvelle politique salariale de l'Etat de Vaud (ANPS; RS/VD 172.320.1) plus précisément sur son art. 4. Selon cette disposition, chaque collaborateur est placé sur un échelon à l'intérieur de la classe de salaire de sa fonction (al. 1). A la bascule, l'échelon est déterminé selon une formule mathématique prévue à l'al. 2. Il s'agit donc d'un litige en matière salariale et, par conséquent, d'une contestation pécuniaire. L'autorité cantonale, conformément à l'art. 112 al. 1 let. d LTF, indique que la valeur litigieuse est supérieure à 15'000 fr. Il n'y a pas lieu de s'écarter de l'estimation de la juridiction cantonale, qui correspond aux conclusions prises par l'intimé devant le Tribunal de prud'hommes (cf. aussi arrêts 1C_195/2007 du 17 décembre 2007 consid. 3 et 5A_212/2007 du 20 juillet 2007 consid. 1.2). Le recours apparaît ainsi recevable de ce chef.
3. Le canton a qualité d'employeur dans le litige qui l'oppose à l'intimé devant le Tribunal de prud'hommes. Il a qualité pour recourir. En effet, la jurisprudence concernant la recevabilité du recours en matière de droit public (art. 82 ss LTF, notamment 89 LTF) retient que la collectivité publique, en tant qu'employeur, n'agit certes pas au même titre qu'un particulier dans une contestation découlant des rapports de travail régis par le droit public, mais qu'elle a néanmoins un intérêt spécifique digne de protection à l'annulation ou à la modification d'une décision d'un tribunal favorable à son agent (ATF 134 I 204 consid. 2.3 p. 206).
4. La voie du recours en matière de droit public étant ouverte, le recours constitutionnel subsidiaire est d'emblée irrecevable (art. 113 LTF), sans qu'il y ait lieu de se demander si le canton aurait qualité pour former un recours constitutionnel subsidiaire en ce domaine (question laissée ouverte à ce jour: voir p. ex. les arrêts 8C_1077/2009 du 17 décembre 2010 consid. 3.2 et 1D_13/2007 du 15 mai 2008 consid. 1.2).
5. L'art. 16 al. 1 de la loi du 12 novembre 2001 sur le personnel de l'Etat de Vaud (LPers-VD; RS/VD 172.31), dans sa teneur en vigueur depuis le 1er janvier 2011, renvoie aux art. 103 ss du Code de droit privé judiciaire vaudois du 12 janvier 2010 (RS/VD 211.02) s'agissant de la procédure à suivre devant le Tribunal de prud'hommes de l'administration cantonale. Ces dispositions renvoient à leur tour, et sauf disposition légale contraire, aux règles du code de procédure civile suisse du 19 décembre 2008 (entré en vigueur le 1er janvier 2011) à titre de droit supplétif.
Comme la présente cause au fond était déjà pendante devant le Tribunal de prud'hommes avant le 1er janvier 2011, les premiers juges considèrent toutefois que c'est l'art. 16 al. 1 LPers dans son ancienne teneur qui reste applicable, norme qui renvoyait au Chapitre II du Titre II de la loi du 17 mai 1999 sur la juridiction du travail (aLJT), régissant la procédure devant le Tribunal de prud'hommes. L'art. 32 al. 2 de cette loi prévoit que la maxime inquisitoire est applicable dans ce type de procédures.
6. En l'espèce, quand bien même ils ont cité l'ancien code de procédure civile vaudoise (CPC-VD), applicable par renvoi de l'art. 46 al. 2 aLJT, les premiers juges ont fondé leur raisonnement essentiellement sur la loi cantonale sur l'information du 24 septembre 2002 (LInfo; RS/VD 170.21).
7. Le recourant invoque une application arbitraire du droit cantonal à un double titre:
7.1 Tout d'abord, il reproche aux premiers juges d'avoir ignoré que l'Etat était en réalité une autorité tierce dans la présente procédure. Le recourant invoque l'art. 16 al. 10 LPers, selon lequel l'Etat est représenté par l'autorité dont la décision est attaquée ou par celle qu'il désigne. Or, en l'espèce, c'est la Direction générale de l'enseignement postobligatoire (ci-après: DGEP) qui agit devant le Tribunal de prud'hommes en tant qu'autorité dont la décision est contestée. Ce sont donc deux autorités distinctes qui, de l'avis du recourant, sont appelées à intervenir dans le présent litige, à savoir la DGEP devant le Tribunal de prud'hommes, d'une part, et, d'autre part, l'Etat de Vaud en vertu de son pouvoir décisionnel en matière de levée du secret de fonction. Cela aurait pour conséquence que le juge de prud'hommes ne pouvait, en application du CPC-VD, contraindre une autorité tierce (en l'occurrence l'Etat) à produire une pièce. Dans le cadre de la procédure relative à la levée du secret de fonction sur la pièce requise, c'est le Conseil d'Etat, en tant qu'autorité administrative, qui a statué conformément à l'art. 22 LInfo.
7.2 Le recourant soutient ensuite que le raisonnement des premiers juges va clairement à l'encontre de la LInfo, dès lors que celle-ci postule que seul le Conseil d'Etat ou l'autorité qu'il désigne, est habilité à autoriser la production de pièces concernant son activité.
8. Sous réserve des cas visés à l'art. 95 let. c à e LTF, la violation du droit cantonal ou communal ne constitue pas un motif de recours. Elle peut en revanche être constitutive d'une violation du droit fédéral au sens de l'art. 95 let. a LTF, telle que l'interdiction de l'arbitraire (art. 9 Cst.). Appelé à revoir l'application faite d'une norme cantonale ou communale sous l'angle de l'arbitraire, le Tribunal fédéral ne s'écarte de la solution retenue en dernière instance cantonale que si elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté ou si elle heurte de manière choquante le sentiment de la justice ou de l'équité. Il ne suffit pas que la motivation de la décision soit insoutenable; encore faut-il qu'elle soit arbitraire dans son résultat (ATF 136 I 316 consid. 2.2.2 p. 318; 135 V 2 consid. 1.3 p. 4; 134 I 263 consid. 3.1 p. 266; 132 I 13 consid. 5.1 p. 17).
9. 9.1 Il est indéniable que l'Etat de Vaud - en sa qualité d'employeur - est partie au procès qui l'oppose en première instance cantonale à l'intimé, quand bien même il est représenté dans la procédure par un service subordonné. En tant qu'autorité, il est tenu de verser au dossier de la procédure toutes les pièces déterminantes pour celle-ci (ATF 132 V 387 consid. 3.1 p. 388). Le droit de consulter est un aspect du droit d'être entendu garanti par l'art. 29 al. 2 Cst. (ATF 132 II 485 consid. 3.2 p. 494). Il est notamment concrétisé par l'art. 56 LTF, selon lequel les parties ont le droit d'assister à l'administration des preuves et de prendre connaissance des pièces produites (al. 1). Si la sauvegarde d'intérêts publics ou privés prépondérants l'exige, le Tribunal prend connaissance d'un moyen de preuve hors de la présence des parties ou des parties adverses (al. 2). De même, l'art. 156 CPC prévoit que le Tribunal ordonne les mesures propres à éviter que l'administration des preuves ne porte atteinte à des intérêts dignes de protection des parties ou de tiers, notamment à des secrets d'affaires.
Dans ce contexte, le justiciable ne peut exiger la consultation de documents internes à l'administration, à moins que la loi ne le prévoie expressément (ATF 125 II 473 consid. 4a p. 474; 122 I 153 consid. 6a p. 161). Il s'agit des notes dans lesquelles l'administration consigne ses réflexions sur l'affaire en cause, en général afin de préparer des interventions et décisions nécessaires. Il peut également s'agir de communications entre les fonctionnaires traitant le dossier. Cette restriction du droit de consulter le dossier doit de manière normale empêcher que la formation interne de l'opinion de l'administration sur les pièces déterminantes et sur les décisions à rendre ne soit finalement ouverte au public (ATF 115 V 297 consid. 2g p. 303). Il n'est en effet pas nécessaire à la défense des droits des administrés que ceux-ci aient accès à toutes les étapes de la réflexion interne de l'administration avant que celle-ci n'ait pris une décision ou manifesté à l'extérieur le résultat de cette réflexion. Encore faut-il ne pas qualifier de notes internes des pièces ou le résultat de preuves déterminantes pour la prise d'une décision (ATF 115 V 297 consid. 2g p. 303).
9.2 Dans la présente cause, il s'agirait, selon les constatations du jugement attaqué, d'une proposition départementale au sens de l'art. 16 al. 2 LInfo plutôt qu'un document interne au sens des art. 9 al. 2 LInfo et 14 RInfo. D'après les premiers juges, il n'est pas exclu qu'une partie importante du document, voire sa totalité, soit couverte par le secret réservé par la jurisprudence fédérale et la LInfo. Toutefois, l'hypothèse inverse ne saurait être écartée d'emblée de sorte que c'est à juste titre, aux yeux de la Chambre des recours, que le juge de première instance a ordonné la production de la pièce litigieuse.
9.3 La juridiction précédente a rappelé le contenu de l'art. 9 al. 2 LInfo, qui exclut du droit d'information les documents internes, soit notamment les notes et les courriers échangés entre les membres d'une autorité collégiale ou entre ces derniers et leurs collaborateurs. Elle a aussi rapporté le contenu de l'art. 14 du Règlement d'application de la LInfo du 25 septembre 2003 (RLInfo; RS/VD 170.21.1), qui définit comme étant des documents internes les notes et courriers échangés entre les membres d'une autorité collégiale, entre ces derniers et leurs collaborateurs ou entre leurs collaborateurs personnels, ainsi que les documents devant permettre la formation de l'opinion et de la décision d'une autorité collégiale. Enfin, elle a mentionné l'art. 16 LInfo, qui prévoit que les autorités peuvent à titre exceptionnel décider de ne pas publier ou transmettre des informations, de le faire partiellement ou de différer cette publication ou transmission si des intérêts publics ou privés prépondérants s'y opposent (al. 1). Cette disposition énumère les cas où des intérêts publics et privés sont en cause (al. 2 et 3). Des intérêts publics prépondérants sont notamment en cause lorsque la diffusion d'informations, de documents, de propositions, d'actes et de projets d'actes est susceptible de perturber sensiblement le processus de décision ou le fonctionnement des autorités (art. 16 al. 2 let. a LInfo). Selon l'exposé des motifs cité par les premiers juges, les propositions départementales qui accompagnent systématiquement tout projet de décision à soumettre au Conseil d'Etat sont visées par l'art. 16 al. 2 let. a LInfo. Ces propositions ne sont en principe pas diffusables avant que le Conseil d'Etat ait formellement pris sa décision sur le sujet, afin de ne pas compromettre le fonctionnement normal de l'autorité. Une fois la décision prise, le Conseil d'Etat pourra également ne pas diffuser ces propositions s'il estime que cette diffusion porterait atteinte au bon fonctionnement de l'autorité.
10. Du moment qu'ils se sont très largement référés à la LInfo pour définir les modalités de consultation de la pièce litigieuse, les premiers juges auraient dû appliquer cette loi dans toute sa rigueur, notamment sous l'angle de la procédure. Or, le chapitre VI de la LInfo intitulé « Procédure et droit de recours » distingue entre les demandes portant sur l'activité de l'administration cantonale (Section I, art. 20) et les demandes portant sur les activités du Conseil d'Etat, du Grand Conseil, de l'Ordre judiciaire et des autorités communales (Section II, art. 22). Dans le premier cas, un recours contre le refus de l'autorité cantonale d'autoriser la production d'une pièce doit être porté devant le Préposé à la protection des données ou directement au Tribunal cantonal (art. 21 al. 1 LInfo). Dans le second cas en revanche, le Conseil d'Etat statue définitivement sur les demandes concernant son activité (art. 22 al. 1 LInfo). Le juge n'est par conséquent pas compétent pour autoriser la consultation d'un document émanant du Conseil d'Etat lorsque celui-ci refuse de le communiquer. En l'espèce, la juridiction cantonale n'a pas tenu compte du fait que la pièce litigieuse - qu'il s'agisse d'un document interne au sens de l'art. 9 al. 2 LInfo ou d'une proposition départementale au sens de l'art. 16 LInfo - était un document émanant d'un membre du gouvernement à l'intention du Conseil d'Etat et que selon la LInfo, sa consultation n'obéit pas aux mêmes règles qu'un document émanant de l'administration cantonale. De manière générale, il était justifié d'appliquer ces règles de procédure car elles ont pour but de préserver le principe de collégialité gouvernementale et de garantir la plus grande liberté d'expression des membres du Conseil d'Etat, principe que concrétise l'art. 49 de la loi du 11 février 1970 sur l'organisation du Conseil d'Etat (LOCE; RS/VD 172.115) également cité par les premiers juges. En admettant l'applicabilité de la LInfo sans en tirer toutes ses conséquences sur le plan procédural, la juridiction cantonale est tombée dans l'arbitraire. L'arrêt par lequel elle confirme la décision du Tribunal de prud'hommes de contraindre le recourant à produire la pièce litigieuse doit par conséquent être annulé.
11. Au demeurant, on peut sérieusement s'interroger sur la pertinence de la pièce litigieuse. Conformément à la maxime inquisitoire, le juge peut administrer d'office les preuves nécessaires. Elle ne décharge toutefois pas les parties du fardeau de l'allégation. Le fardeau de l'allégation signifie en l'occurrence que l'intimé doit expliciter de manière suffisamment précise les faits qu'il entend établir au moyen de la preuve requise. En d'autres termes, la requête d'un moyen de preuve ne saurait servir à l'acquisition d'informations. En outre, il n'y a lieu d'administrer que les preuves qui servent à établir les faits pertinents. Un fait est pertinent lorsqu'on peut en déduire des conséquences juridiques. Il s'agit là d'un principe central du droit à la preuve. Tel est aussi le sens de l'art. 163 al. 2 CPC-VD, selon lequel le juge s'oppose d'office à la preuve de tout fait non pertinent.
En l'espèce, sur la base des allégations de l'intimé dans la procédure devant le Tribunal de prud'hommes, on ne sait pas exactement ce que celui-ci entendait prouver en requérant la production du document litigieux, ni pourquoi cette pièce émanant du Conseil d'Etat était pertinente pour l'issue du litige. Dans une écriture du 28 mai 2010 adressée au Tribunal de prud'hommes, l'intimé a d'ailleurs indiqué que le Conseil d'Etat n'avait même pas examiné le dossier que lui avait remis la Conseillère d'Etat. Du reste, la juridiction cantonale n'a pas non plus expliqué en quoi ce document était pertinent pour l'issue du litige. Elle a seulement indiqué: « En l'espèce, les indications fournies par le recourant en première instance sur la pièce litigieuse laissent apparaître que celle-ci est susceptible de concerner le litige au fond », avant d'ajouter, un peu plus loin: « ces indications ne permettent en outre pas de déterminer si la pièce litigieuse a un caractère de preuve au sens de la jurisprudence fédérale ». Dès lors, de ce point de vue également, la production de la pièce litigieuse ne se justifiait pas en l'occurrence.
12. De ce qui précède, il résulte que le recours en matière de droit public est bien fondé.
L'intimé qui succombe, supportera les frais judiciaires (art. 66 al. 1 LTF). Pour le même motif, il n'a pas droit à des dépens (art. 68 al. 1 LTF). Bien qu'il obtienne gain de cause, le recourant n'a pas droit à des dépens (art. 68 al. 3 LTF).
13. La cause étant tranchée, la demande d'effet suspensif devient sans objet.
Le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours en matière de droit public est admis. Le jugement de la Chambre des recours du Tribunal cantonal du canton de Vaud du 24 février 2011 et l'ordonnance rendue par le Président du Tribunal de prud'hommes de l'administration cantonale le 14 septembre 2010 sont annulés.
3. Les frais judiciaires, arrêtés à 1'500 fr., sont mis à la charge de l'intimé.
4. Le présent arrêt est communiqué aux parties, à la Chambre des recours du Tribunal cantonal du canton de Vaud, au Juge de Paix du district de Lausanne et au Tribunal de prud'hommes de l'administration cantonale.
Lucerne, le 19 décembre 2011
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Ursprung
La Greffière: Fretz Perrin