Faits : A. A.a. A._ a été engagé en qualité de secrétaire général auprès du Département cantonal neuchâtelois de la gestion du territoire, devenu entre-temps le Département du développement territorial et de l'environnement (DDTE). Engagé tout d'abord à titre provisoire, il est entré en fonction le 1 er juillet 2010. Par arrêté du Conseil d'Etat du 22 décembre 2010, il a été nommé à titre définitif dès le 1 er janvier 2011. Il dépendait directement du chef du département. Dans une note du 15 novembre 2013, adressée au conseiller d'Etat B._, alors chef du DDTE, le Groupe de confiance de l'Etat de Neuchâtel (institué par un arrêté du Conseil d'Etat) a fait état de "comportements inadéquats" de A._ à l'endroit de ses subordonnés. Le groupe de confiance exposait qu'il avait été contacté, dès le mois de février 2013, par trois employés du secrétariat général qui lui avaient fait part des difficultés qu'ils rencontraient avec leur supérieur. Lors des entretiens menés, ces mêmes personnes avaient notamment évoqué, de la part de A._, un comportement de type autoritaire, marqué par une volonté de tout contrôler et parfois de manipuler son personnel, des sautes d'humeur, une attitude suspicieuse, des consignes parfois contradictoires ou fluctuantes, autant d'éléments qui entraînaient un climat de travail difficile, empreint d'insécurité, de défiance et de craintes. Cette situation avait eu, toujours selon le groupe de confiance, des répercussions sur l'état de santé de plusieurs personnes, qui avaient fait état de craintes à l'idée de se rendre au travail. Dans le courant des mois de novembre et décembre 2013, à la demande conjointe du chef du DDTE et du service des ressources humaines, plusieurs membres du personnel du secrétariat général ont rédigé une note dans laquelle ils relataient certains faits à propos du fonctionnement du secrétariat général du département. A.b. Le 15 janvier 2014, le Conseil d'Etat a suspendu A._ de sa fonction avec effet immédiat et à titre superprovisoire. Cette mesure était assortie de l'interdiction d'entrer en contact avec ses collaborateurs et de l'ouverture d'une procédure de résiliation des rapports de service. Les mesures ont été maintenues après que l'intéressé se fut déterminé à leur sujet (décision du 12 février 2014). A.c. Le 3 mars 2014, A._ s'est exprimé sur l'éventualité d'une résiliation de ses rapports de service. Par décision du 12 mars 2014, le Conseil d'Etat a mis fin à ceux-ci avec effet au 30 juin 2014. Il a libéré l'intéressé de son obligation de travailler et a retiré l'effet suspensif à un recours éventuel. Il était notamment reproché à A._ un manque de volonté de s'adapter à l'organisation de travail souhaité par le chef du DDTE, d'avoir outrepassé ses compétences, d'avoir instauré et entretenu une ambiance de travail pesante et un climat de suspicion, voire de crainte. Il était précisé à ce propos que certains collaborateurs avaient dû consulter un psychologue et/ou prendre des antidépresseurs en raison de leurs difficultés sur le lieu de travail. B. A._ a recouru tant contre la décision de suspension du 12 février 2014 que contre la décision de licenciement du 12 mars 2014. Il concluait à l'annulation de ces deux décisions. Statuant le 19 juin 2014, la Cour de droit public du Tribunal cantonal de la République et canton de Neuchâtel a rejeté le recours portant sur la résiliation des rapports de service, déclaré sans objet la requête de restitution de l'effet suspensif et ordonné le classement du recours concernant la suspension provisoire. C. Contre ce jugement, A._ interjette un recours en matière de droit public dans lequel il conclut à l'annulation de l'arrêt attaqué et des décisions des 12 février et 12 mars 2014. Il demande au Tribunal fédéral de dire que ses rapports de travail au service de l'Etat de Neuchâtel sont maintenus. Il a requis, à titre préalable, l'attribution de l'effet suspensif à son recours. D. Par ordonnance du 31 octobre 2014, le juge instructeur a rejeté la requête d'effet suspensif.