Citation: 8C_621/2019 E. A

A.a. A.________, né en 1972, a été employé par l'Office de l'assurance-invalidité du canton de Neuchâtel (ci-après: l'OAI-NE) dès le 18 novembre 1995 en qualité d'instructeur auxiliaire, puis dès le 1er janvier 2012 en tant que chargé de sécurité et d'infrastructures. Depuis le 22 septembre 2015, sa capacité de travail a oscillé entre 0 % et 100 % selon les périodes. Le 11 avril 2017, il a été informé par l'OAI-NE que la fonction de chargé de sécurité et d'infrastructures et, partant, son poste seraient supprimés. Lors d'une séance qui s'est tenue le 25 avril 2017, l'OAI-NE lui a remis en main propre la décision de suppression du poste de chargé de sécurité et d'infrastructures. Cette décision précisait que, du fait que son droit à une rente d'invalidité était en cours d'examen auprès de l'Office de l'assurance-invalidité du canton du Jura (ci-après: l'OAI-JU) - auquel la demande de prestations AI qu'il avait déposée avait été transmise pour des questions d'indépendance -, les démarches utiles pour lui offrir un emploi de nature équivalente étaient en l'état suspendues, du fait qu'en cas d'octroi d'une rente, les obligations de l'employeur quant à la prise de telles mesures perdraient leur sens et une indemnité pour suppression de poste ne saurait être due. Ladite décision du 25 avril 2017 indiquait encore que les rapports de service prendraient fin au plus tard au 31 octobre 2017, sous réserve de l'octroi d'une rente qui aurait pour effet de mettre un terme à la relation de travail plus rapidement. A.b. Par courrier du 18 octobre 2017, l'OAI-NE a invité A.________, par sa mandataire, à lui signaler à quel stade se trouvait l'instruction de sa demande de rente d'invalidité, respectivement s'il avait trouvé du travail, et ce afin de pouvoir évaluer la nécessité de la prise de mesures utiles pour lui offrir un emploi de nature équivalente. Rappelant que, compte tenu de l'examen du droit à une rente pendante auprès de l'OAI-JU, il n'avait pas encore entrepris de telles démarches, l'OAI-NE relevait encore avoir reçu un certificat médical de la psychiatre-psychothérapeute traitante de A.________ mentionnant que celui-ci avait recouvré une pleine capacité de travail dans une activité adaptée depuis le 5 octobre 2017. Il s'en est suivi un échange de courriers et la confirmation le 30 novembre 2017 par l'OAI-NE que sa responsable des ressources humaines avait contacté la responsable de la mobilité professionnelle de l'État de Neuchâtel, qui se tenait à disposition pour recevoir A.________ afin de discuter des éventuelles possibilités d'emploi. A.c. Du 5 février au 4 août 2018, A.________ a effectué un stage à 50 % au sein du service des ressources humaines de l'État de Neuchâtel. Par lettre du 10 août 2018, il a été engagé, selon le statut de la fonction publique, en qualité d'agent de sécurité publique pour le compte de la Ville de B.________ à un taux d'activité de 100 % à partir du 1er septembre 2018.