Faits :
A.
A._, né en 1961, est titulaire d'un diplôme de physicien de l'Université de U._, d'un master of science de l'Université de V._ (USA) et d'un doctorat en physique appliquée de l'Université de W._. En 1999, il a été engagé par l'Etat de Vaud, sur la base d'un contrat de droit privé, en qualité de maître A d'enseignement professionnel supérieur à l'Ecole d'ingénieurs d'Yverdon-les-Bains, en classes de traitement 30-32 et à un taux d'occupation partiel. Ce contrat a été renouvelé régulièrement. A partir du 1er octobre 2001, le taux d'activité de A._ a été porté à 100 %. Le 15 décembre 2003, les rapports de travail entre le prénommé et l'Etat de Vaud ont été fixés dans un contrat de droit administratif de durée indéterminée. Sa fonction est restée la même.
Le 1er janvier 2014 est entrée en vigueur la loi [du canton de Vaud] sur les hautes écoles vaudoises de type HES du 11 juin 2013 (RS/VD 419.01; LHEV), avec pour objectif notamment de prévoir le même dispositif pour les six hautes écoles vaudoises de type HES, et de rendre le plus homogène possible leur organisation et leur gestion. C'est ainsi que le personnel d'enseignement et de recherche a été structuré en cinq fonctions. Comme le prévoit la LHEV (art. 43), le Conseil d'Etat a adopté, le 13 mai 2015, un barème fixant le niveau de fonction des différentes catégories du personnel d'enseignement et de recherche et la rémunération y afférente, à savoir le "barème PER", ainsi que les "Principes de mise en oeuvre des nouvelles définitions de fonction et de classification pour le PER des hautes écoles relevant de la LHEV". Il s'en est suivi un processus de mise en place en plusieurs étapes impliquant toutes les directions des hautes écoles à l'issue duquel la Haute école d'ingénierie et de gestion du canton de Vaud (HEIG-VD) a déterminé les nouvelles fonctions pour chaque collaborateur.
Par courrier du 17 juillet 2015, se référant à la décision du Conseil d'Etat, la HEIG-VD a informé A._ de la modification de son niveau de fonction en maître d'enseignement B et de sa classification en 28-31, en joignant un cahier des charges-type. L'intéressé a aussi reçu un nouveau contrat de travail le liant à la HEIG-VD et prévoyant son engagement dès le 1er septembre 2015 en qualité de maître d'enseignement B 28-31 pour un salaire annuel brut de 150'966 fr. sur 12 mois (163.546 fr. y compris 13e). Il est responsable de deux modules du département "COMEM +", à savoir "Mathématiques" et "Sciences et techniques de l'ingénieur 3", qui sont intégrés dans la filière Ingénierie de Gestion de la HEIG-VD.
B.
B.a. Le 14 mars 2016, A._ a saisi le Tribunal de prud'hommes de l'Administration cantonale (ci-après: le TRIPAC) d'une demande tendant à ce que son contrat de travail soit modifié en ce sens que la fonction qui lui est attribuée est celle de maître d'enseignement A, avec la classification 30-32 + 4 %, dès le 1er septembre 2015. Par jugement du 27 septembre 2017, le TRIPAC a partiellement admis cette demande, annulé le niveau de fonction et les classes retenus dans le contrat de travail du prénommé, et invité la HEIG-VD à rendre une nouvelle décision sur ces deux points en fonction des considérants.
B.b. Tant A._ que la HEIG-VD ont porté ce jugement devant la Cour d'appel civile du Tribunal cantonal vaudois (ci-après: la Cour d'appel). Statuant le 26 janvier 2018, la Cour d'appel a admis l'appel de la HEIG-VD et rejeté celui de A._.
C.
A._ interjette un recours en matière de droit public contre ce jugement, en reprenant, à titre principal, ses conclusions formulées dans sa demande au TRIPAC. Il conclut, à titre subsidiaire, à ce que la cause soit renvoyée à l'instance précédente pour nouvelle décision dans le sens des considérants.
La HEIG-VD conclut au rejet du recours.

Considérant en droit :
1.
1.1. La présente cause est une contestation pécuniaire en matière de rapports de travail de droit public qui ne tombe pas sous le coup de l'exception de l'art. 83 let. g LTF. Conformément à ce que prescrit l'art. 112 al. 1 let. d LTF, la Cour d'appel considère que la valeur litigieuse est d'un montant supérieur à 15'000 fr. (<ref-law>). Cette appréciation n'apparaît pas inexacte - on peut relever que le TRIPAC l'avait estimée à environ 17'197 fr. -, et le Tribunal fédéral s'y rallie.
1.2. Pour le reste, déposé en temps utile et dans les formes requises contre une décision finale prise par un tribunal cantonal, le recours respecte les exigences des art. 42, 86 al. 1 let. d, 90 et 100 al. 1 LTF. Il est par conséquent recevable.
2.
Le litige porte sur l'interprétation du barème PER et son application au cas du recourant. Plus précisément, la question est de savoir si ce dernier remplit ou non les exigences fixées par ce barème pour la fonction de maître d'enseignement A.
3.
3.1. Le barème PER se présente sous la forme d'un tableau qui définit les fonctions, la classification, les exigences et le salaire du personnel d'enseignement et de recherche des six hautes écoles de type HES du canton de Vaud (à savoir la Haute école de santé Vaud [HESAV], la Haute école d'art et de design de Lausanne [ECAL], la HEIG-VD, la Haute école de la santé La Source, la Haute école de travail social et de la santé [EESP] et la Haute école de Musique Vaud Valais Fribourg [HEMU]; cf. art. 1 LHEV).
Selon ce tableau, la fonction de maître d'enseignement est classée en deux catégories: "A 30-32 + 4 %" et "B 28-31". Sous la colonne "Exigences", pour la catégorie B, il est écrit ce qui suit: "Titre d'une haute école ou titre jugé équivalent + 2 ans d'expérience professionnelle minimum dans le domaine enseigné". Pour la catégorie A, il est mentionné une condition supplémentaire, à savoir: "assure des responsabilités particulières et/ou fait preuve d'un degré élevé d'expertise reconnue**". Les deux astérisques précitées renvoient à deux notes qui figurent à la 9ème, respectivement 10ème colonne du tableau.
La première dit ceci: "**EESP, HEIG-VD, HESAV, La Source: dans une ou plusieurs des activités suivantes: - coordonne un ensemble d'enseignements comportant plusieurs intervenants; - gère une mission particulière liée à l'enseignement (p. ex. évaluation de l'enseignement, programme internationaux (SU notamment) ou de mobilité nationale, cursus de formation continue); - collabore de manière durable à des projets de recherche appliquée, de développement ou de service conduits ou réalisés par des professeurs ordinaires ou associés, dans une proportion secondaire.".
La seconde est libellée ainsi: "**ECAL et HEMU: dans une ou plusieurs des activités suivantes: - assume l'enseignement principal d'une discipline ou d'une matière; - dispose d'une notoriété et la met au service de la Haute Ecole; - participe activement au processus de recrutement des étudiants; - gère une mission particulière liée à l'enseignement (p. ex. programmes internationaux (SU notamment)).".
3.2. La Cour d'appel a procédé à une interprétation littérale et historique de la condition "assure des responsabilités particulières et/ou fait preuve d'un degré élevé d'expertise**" qui distingue le classement de maître d'enseignement A du B. Elle en a déduit, en substance, que cette condition devait être lue à l'aune des deux notes auxquelles renvoyaient les astérisques et qui la précisaient. A cet égard, elle a relevé que la note concernant les hautes écoles spécialisées EESP, HEIG-VD, HESAV et La Source ne mentionnait que des critères liées à la charge de l'enseignant, celle relative aux HES à vocation plus artistique (ECAL et HEMU) faisait également référence à la notoriété dont bénéficie le maître d'enseignement et qui peut profiter à l'école. D'après les déclarations de B._, à l'époque directeur opérationnel en charge des hautes écoles à la Direction générale de l'enseignement supérieur, et de C._, directrice de la HEIG-VD, le Conseil d'Etat avait en effet la volonté que chaque établissement puisse déterminer quels étaient leurs critères spécifiques de distinction en fonction de leur réalité, et c'est ce qui avait donné lieu à la liste des critères élaborée sous les deux astérisques. Le Conseil d'Etat avait ensuite avalisé le barème avec ces précisions. La Cour d'appel en a conclu que pour la HEIG-VD, les seuls critères pouvant donner lieu à une classification de maître d'enseignement A étaient donc le fait de coordonner un ensemble d'enseignements comportant plusieurs intervenants, de gérer une mission particulière liée à l'enseignement et de collaborer de manière durable à des projets de recherche appliquée, de développement ou de service conduits ou réalisés par des professeurs ordinaires ou associés, dans une proportion secondaire.
En bref, dans le cas particulier, la Cour d'appel a considéré, sur la base de l'instruction menée dans la cause, que le recourant ne remplissait pas ces critères et qu'il ne pouvait donc prétendre être classé à la fonction de maître d'enseignement A.
4.
Par un grief de nature formelle qu'il convient d'examiner en premier lieu (<ref-ruling> consid. 2.2 p. 500 et les références), le recourant reproche à la Cour d'appel d'avoir violé son droit d'être entendu (art. 29 al. 2 Cst.) à deux égards: d'une part, en motivant insuffisamment le jugement attaqué sur la question de savoir s'il assumait ou non des responsabilités particulières, d'autre part, en considérant que l'admission de l'appel de la HEIG-VD la dispensait d'examiner les mérites de son propre appel.
4.1. Le droit d'être entendu consacré à l'art. 29 al. 2 Cst. implique notamment l'obligation pour le juge de motiver sa décision, afin que le justiciable puisse la comprendre, la contester utilement s'il y a lieu et que l'autorité de recours puisse exercer son contrôle. Il suffit cependant, selon la jurisprudence, que le juge mentionne, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision (<ref-ruling> consid. 5.2 p. 70 s.; <ref-ruling> consid. 4.3.2 p. 436). En particulier, il n'a pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais peut au contraire se limiter à ceux qui, sans arbitraire, peuvent être tenus pour pertinents (<ref-ruling> consid. 4.2 p. 157 et les arrêts cités).
4.2. En l'occurrence, la Cour d'appel a exposé dans sa partie en fait les éléments sur la base desquels elle a retenu que le recourant n'assumait pas de responsabilités particulières dans sa fonction de maître d'enseignement à la HEIG-VD. Il s'agit des déclarations de C._ et de D._, chef du département "COMEM +", selon lesquelles l'intéressé ne gérait pas de mission particulière liée à l'enseignement dès lors qu'il ne coordonnait pas d'enseignements comportant plusieurs intervenants, les deux modules dont il avait la responsabilité correspondant à la charge normale qu'un enseignant devait assumer et non pas à une mission particulière confiée par la direction. La Cour d'appel a en outre relevé que le recourant avait admis, dans ses déterminations sur des allégués de la HEIG-VD, ne pas avoir pour tâche ni pour responsabilité de collaborer à un projet de recherche appliquée, de développement ou de service. Ainsi, le recourant pouvait parfaitement comprendre ce qui a amené la Cour d'appel à constater qu'il n'assurait pas de responsabilités particulières au sens du barème PER. Il a du reste pu interjeter utilement un recours contre le jugement cantonal.
4.3. On ne voit pas non plus en quoi il y aurait une violation du droit d'être entendu parce que la Cour d'appel a décidé qu'elle traiterait d'abord l'appel de la HEIG-VD, considérant que l'admission de celui-ci réglerait le sort de l'appel du recourant. La question principale consistait à examiner quelles étaient les exigences du barème PER pour être colloqué en maître d'enseignement A et si le recourant en remplissait ou non les conditions. En l'espèce, c'est ce qu'a fait la Cour d'appel. En arrivant à la conclusion que c'était à juste titre que la HEIG-VD n'avait pas attribué la fonction de maître d'enseignement A au recourant, le recours de ce dernier ne pouvait qu'être rejeté.
5.
Le recourant soutient ensuite que la cour cantonale a établi les faits de manière arbitraire. Il prétend qu'elle n'a pas pris en considération, sans raisons sérieuses, certains éléments qui ressortent de l'instruction de la cause menée devant le TRIPAC.
5.1. Le Tribunal fédéral ne peut revoir les faits établis par l'autorité précédente que si ceux-ci l'ont été de manière manifestement inexacte (<ref-law>), c'est-à-dire arbitraire (sur cette notion, cf. <ref-ruling> consid. 6.1 p. 205) et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause (<ref-law>). En bref, une décision n'est pas arbitraire du seul fait qu'elle apparaît discutable ou même critiquable; il faut qu'elle soit manifestement insoutenable, et cela non seulement dans sa motivation, mais aussi dans son résultat (<ref-ruling> consid. 2.3.1 p. 244).
5.2. Le recourant reproche aux juges précédents de n'avoir pas mentionné certaines déclarations qu'il a faites devant le TRIPAC au sujet de ses responsabilités. Surtout le fait qu'il est responsable de modules et qu'il effectue deux tâches supplémentaires, à savoir l'enseignement des mathématiques à plus de 35 étudiants ainsi qu'une étude à propos de la baisse des moyennes en mathématiques. Cependant on ne voit pas en quoi ces éléments permettraient de remettre en cause l'appréciation de la Cour d'appel, fondée en particulier sur les explications de C._ et de D._, quant au fait qu'il n'assume pas de responsabilités particulières selon les critères fixés par le barème PER pour la HEIG-VD, ou feraient apparaître cette appréciation comme arbitraire. La même considération est valable en ce qui concerne certaines déclarations faites par la directrice de la HEIG-VD devant le TRIPAC, prétendument non prises en compte par la Cour d'appel, à propos de la portée des feuilles de charge des enseignants et du déroulement de la procédure ayant conduit à la bascule dans le nouveau système, ou encore les remarques de B._ sur la manière d'apprécier le critère du degré d'expertise reconnue et la proportion des maîtres d'enseignement A et B dans une autre école. Enfin, c'est en vain que le recourant ajoute le fait qu'il n'avait pas reçu de cahier des charges personnalisé au moment du jugement et que son activité autre que l'enseignement s'élevait à 20,3 %, soit 10 % de plus que le maximum prévu dans le cahier des charges-type pour un maître d'enseignement B. En tout état de cause, il ne démontre pas la pertinence de tous ces éléments sur le sort de la cause.
6.
Enfin, le recourant soutient que les juges précédents ont appliqué le barème PER de manière arbitraire.
6.1. Sauf exceptions non réalisées en l'espèce, le recours devant le Tribunal fédéral ne peut pas être interjeté pour violation du droit cantonal en tant que tel, mais il est possible de faire valoir qu'une mauvaise application du droit cantonal constitue une violation du droit fédéral, en particulier qu'elle est arbitraire au sens de l'art. 9 Cst. ou contraire à d'autres droits constitutionnels (<ref-ruling> consid. 2.3 p. 387; <ref-ruling> consid. 2.2 p. 69). Une décision est arbitraire lorsqu'elle viole gravement une norme ou un principe juridique clair et indiscuté, ou lorsqu'elle contredit d'une manière choquante le sentiment de la justice et de l'équité. Le Tribunal fédéral n'a pas à déterminer quelle est l'interprétation correcte que l'autorité cantonale aurait dû donner des dispositions applicables; il doit uniquement examiner si l'interprétation qui a été faite est défendable. Par conséquent, si celle-ci ne se révèle pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation cantonale en cause, elle sera confirmée, même si une autre solution paraît également concevable, voire préférable (<ref-ruling> consid. 6.1 p. 324; <ref-ruling> consid. 4.2 p. 516).
6.2. En tant qu'il qualifie d'arbitraire le fait que la Cour d'appel "n'a pas conservé l'appréciation faite de façon circonstanciée et à juste titre par les juges de première instance" et n'a pas pris en considération les revirements de la HEIG-VD dans ses prises de position en cours de procédure, le recourant ne fait pas encore la démonstration du caractère arbitraire du jugement cantonal. Certes, par endroits, le raisonnement de la Cour d'appel peut manquer de clarté, voire présenter des contradictions (voir la page 15 in fine versus la page 17 en haut en ce qui concerne la volonté du Conseil d'Etat de laisser une autonomie aux HES dans la fixation les critères en fonction de la réalité de chaque établissement). Il n'en demeure pas moins qu'elle a abouti à une interprétation défendable du barème PER, à savoir que la condition "assure des responsabilités particulières et/ou fait preuve d'un degré élevé d'expertise reconnue**" est explicitée par les notes auxquelles renvoient précisément les astérisques, et que, par conséquent, l'attribution au classement A ou B de maître d'enseignement dépend de la réalisation des critères contenus dans ces notes lesquels sont différents selon le type de HES dont il est question - procédé avalisé par le Conseil d'Etat. Ce qui signifie, en définitive, que pour la fonction de maître d'enseignement à la HEIG-VD, le degré élevé d'expertise reconnue n'est pas déterminant. A cet égard, le recourant n'oppose aucun argument substantiel.
7.
Il s'ensuit que le recours est mal fondé et qu'il doit être rejeté. Le recourant, qui succombe, supportera les frais judiciaires (<ref-law>). Bien qu'obtenant gain de cause, la partie intimée n'a pas droit à des dépens (<ref-law>; arrêt 8C_151/2010 du 31 août 2010 consid. 6.2).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour d'appel civile, et au Tribunal de Prud'hommes de l'Administration cantonale.
Lucerne, le 6 mai 2019
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président : Maillard
La Greffière : von Zwehl