Faits : A. A.a. A._ est entré au corps de la police locale de la Ville de U._ en 1993 puis il a intégré la gendarmerie de la police neuchâteloise (police de proximité) le 1 er janvier 2007 en qualité de chef de quartier avec le grade de sergent-chef. Le 9 septembre 2008, il a renoncé avec effet immédiat à cette fonction et à son grade. Rétrogradé au grade de sergent, il a été affecté au poste de gendarmerie de V._, puis, dès le 1 er septembre 2009, à celui de U._. Par décision d'avertissement du 25 avril 2014, le commandant de la Police neuchâteloise (ci-après: le commandant) a invité A._ à faire un effort en ce qui concerne la qualité de son travail, lequel ne correspondait pas aux attentes de la direction, notamment en termes de rigueur, de précision et de service à la population. L'intéressé a subi une incapacité de travail à partir du 17 novembre 2014. Le 20 novembre suivant, son supérieur hiérarchique, le sergent-chef B._, a établi un rapport explicatif indiquant divers manquements qui lui étaient reprochés. Le 13 avril 2015, le commandant a informé l'intéressé qu'il transmettait son dossier à l'autorité de nomination afin qu'elle ouvre une procédure de renvoi, motif pris qu'il n'avait pas apporté les améliorations exigées par l'avertissement du 25 avril 2014 et que le rapport de confiance avec les supérieurs hiérarchiques semblait définitivement rompu. Le 15 avril 2015, le commandant a saisi le chef du Département de la justice, de la sécurité et des finances (actuellement: Département de la justice, de la sécurité et de la culture; ci-après: le département) d'une requête tendant à l'ouverture d'une procédure de renvoi à l'encontre du sergent A._. Après avoir donné au prénommé la possibilité de s'exprimer, le département a rendu une décision, le 27 octobre 2015, par laquelle il a résilié les rapports de service avec effet au 29 février 2016. A.b. Saisie d'un recours, la Cour de droit public du Tribunal cantonal de la République et canton de Neuchâtel a annulé la décision attaquée en raison d'une violation du droit d'être entendu de l'intéressé et elle a renvoyé la cause au département pour nouvelle décision. Pour le surplus, elle a décliné d'office sa compétence pour statuer sur la demande d'indemnisation du tort moral formée par A._ et l'a transmise au département compétent (arrêt du 29 janvier 2016). A.c. Par décision du 10 mai 2016, reprenant pour l'essentiel la motivation du prononcé du 27 octobre 2015, le département a résilié les rapports de service avec effet au 31 juillet 2016, il a dispensé l'intéressé de réintégrer son poste et retiré l'effet suspensif à un éventuel recours. B. Saisie d'un recours contre cette décision, la Cour de droit public du tribunal cantonal l'a admis partiellement et elle a réformé la décision attaquée en ce sens que les rapports de service de A._ ont été résiliés avec effet au 31 août 2016 au lieu du 31 juillet précédent (arrêt du 22 août 2016). C. Le prénommé forme un recours en matière de droit public contre ce jugement dont il requiert l'annulation, en concluant à ce qu'il soit constaté que les rapports de travail n'ont pas pris fin. Subsidiairement, il demande le renvoi de la cause à la juridiction cantonale pour nouvelle décision, le tout sous suite de frais et dépens. Par ailleurs, le recourant a requis l'effet suspensif à son recours. L'intimé a conclut au rejet de la demande d'effet suspensif et du recours, tandis que la cour cantonale a renoncé à se déterminer. Par courrier du 17 janvier 2017, le recourant a adressé au Tribunal fédéral copie d'une décision du 10 janvier précédent, par laquelle le département lui a restitué ses armes, ainsi que les accessoires. D. Par ordonnance du 25 octobre 2016, le juge instructeur a rejeté la demande d'effet suspensif.