Faits :
A.
A._, a travaillé en qualité d'agent administratif au sein de l'office B._ du canton du Jura du 1 er mai 2012 au 31 décembre 2015. Sur requête du prénommé, le service des ressources humaines lui a remis un certificat de travail intermédiaire daté du 7 octobre 2015, qu'il a contesté. Il s'en est suivi plusieurs échanges entre l'employeur et A._, qui n'ont toutefois pas abouti à l'établissement d'un certificat répondant aux souhaits de ce dernier. Par pli recommandé du 12 avril 2016, l'intéressé s'est plaint auprès du Département C._ du canton du Jura de n'avoir toujours pas obtenu de certificat de travail définitif. Le 20 mai 2016, le chef du département lui a remis un certificat de travail définitif daté du 4 mai précédent, lequel a également été contesté. Par la suite, A._ a saisi l'autorité de conciliation en matière de personnel. Au terme de l'audience de conciliation, les parties ne sont pas parvenues à un accord, de sorte qu'une autorisation de procéder a été délivrée.
B.
Saisie d'une action de droit administratif, la Cour administrative du Tribunal cantonal de la République et canton du Jura l'a rejetée, dans la mesure de sa recevabilité, par jugement du 12 juillet 2017.
C.
A._ forme un recours contre ce jugement en concluant à la modification du certificat de travail du 4 mai 2016 selon une proposition faite le 3 novembre 2015, ainsi qu'à la constatation du caractère tardif de l'établissement du certificat et de son contenu inexacte et incomplet. Il requiert à ce titre une indemnité de 11'000 fr. pour le préjudice subi.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office sa compétence (<ref-law>). Il contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 43). Toutefois, conformément à l'art. 42 al. 1 et 2 LTF, dans la mesure où elles ne sont pas immédiatement données, le recourant doit exposer en quoi les conditions de recevabilité sont réunies (<ref-ruling> consid. 1 p. 356).
2.
2.1. Le litige porte sur le contenu et le moment de la délivrance du certificat de travail d'un employé soumis à des rapports de travail de droit public. Il s'agit d'une contestation en matière de droit public, de sorte que le jugement peut en principe faire l'objet d'un recours en matière de droit public (<ref-law>).
2.2. Selon l'art. 83 let. g LTF, en matière de rapports de travail de droit public (lorsque, comme en l'espèce, la question de l'égalité des sexes n'est pas en cause), le recours en matière de droit public n'est pas recevable contre les décisions qui concernent une contestation non pécuniaire. Selon la jurisprudence, les litiges relatifs à l'établissement ou à la formulation de certificats de travail sont des contestations pécuniaires (<ref-ruling> consid. 6.1 p. 149; <ref-ruling> consid. 2b p. 380). Cela vaut non seulement pour les litiges dans le domaine des rapports de travail de droit privé, mais aussi pour les contestations en matière de droit public (arrêts 8C_366/2017 du 24 juillet 2017 consid. 2.1; 8C_151/2010 du 31 août 2010 consid. 2.2, in DTA 2010 p. 265; 1C_195/2007 du 17 décembre 2007 consid. 2).
2.3. En présence d'une contestation de nature pécuniaire, le recours n'est en principe recevable que si la valeur litigieuse atteint 15'000 fr. ou si la contestation soulève une question juridique de principe (<ref-law>).
La demande de délivrance d'un certificat de travail ne tend pas au paiement d'une somme d'argent déterminée. Dans un tel cas, le Tribunal fédéral fixe la valeur litigieuse selon son appréciation (<ref-law>; à propos de la valeur litigieuse d'une demande de remise ou de modification d'un certificat de travail voir arrêt 8C_151/2010 précité consid. 2.5 à 2.7). Il incombe à la partie, sous peine d'irrecevabilité, de donner les éléments suffisants pour permettre au Tribunal fédéral d'estimer aisément cette valeur (cf. art. 42 al. 1 et 2 LTF). Le contrôle d'office ne supplée pas au défaut d'indication de la valeur litigieuse. Il n'appartient pas au Tribunal fédéral de procéder lui-même à des investigations pour la déterminer, si elle ne résulte pas d'emblée des constatations de la décision attaquée (<ref-law>) ou d'autres éléments ressortant du dossier. Il n'est lié ni par l'estimation de la partie recourante ou un accord des parties, ni par une estimation manifestement erronée de l'autorité cantonale (<ref-ruling> consid. 1.1.1 p. 62; arrêt 8C_473/2009 du 3 août 2009 consid. 3.2.1, in SJ 2010 I p. 37). En principe toutefois, il ne s'écartera pas sans raison de la valeur litigieuse fixée par l'autorité précédente et admise par les parties (arrêts 1C_195/2007 précité consid. 3; 4C.60/2005 du 28 avril 2005 consid. 1).
2.4. En l'espèce, la juridiction cantonale n'a pas fixé de valeur litigieuse. Quant au recourant, il ne se prononce pas sur la question mais chiffre - comme devant l'instance précédente - à 11'000 fr. le préjudice subi en raison du contenu, selon lui, inexacte et incomplet du certificat et de la délivrance prétendument tardive de celui-ci. Dans ces conditions, et même si le Tribunal fédéral n'est pas lié par une telle estimation, il n'est pas possible d'admettre que la valeur litigieuse atteint le seuil de 15'000 fr. ouvrant la voie du recours en matière de droit public.
2.5. En outre, la contestation ne soulève pas de question juridique de principe (cf. arrêt 8C_151/2010 déjà cité consid. 3). Au demeurant, il appartenait au recourant de le démontrer (art. 42 al. 2, deuxième phrase, LTF; <ref-ruling> consid. 1.3 p. 503; <ref-ruling> consid. 2.1 p. 235; <ref-ruling> consid. 1.2 p. 269), ce qu'il n'a pas fait.
3.
3.1. Le jugement entrepris ne pouvant pas faire l'objet d'un recours en matière de droit public, il reste à examiner si le recours est recevable au titre de recours constitutionnel subsidiaire (<ref-law>).
3.2. Dans son écriture, le recourant n'a pas précisé quel recours il entendait déposer. L'absence d'intitulé ne porte toutefois pas à conséquence si les conditions de recevabilité du recours dont la voie est ouverte sont remplies (cf. <ref-ruling> consid. 1.1 p. 370; arrêt 2C_683/2013 du 13 février 2014 consid. 2.2).
3.3. Un recours constitutionnel subsidiaire peut être formé pour violation des droits constitutionnels (<ref-law>). Ces droits se déduisent en particulier de la Constitution fédérale (art. 7 à 36 Cst.), de la Convention européenne des droits de l'homme (CEDH) ou des droits individuels protégés par le Pacte international relatif aux droits civils et politiques (Pacte ONU II) ou encore des garanties accordées par les Constitutions cantonales (<ref-ruling> consid. 1.3.1 p. 79 s.; <ref-ruling> consid. 2.2 p. 368).
3.4. L'acte de recours doit, à peine d'irrecevabilité, contenir un exposé succinct des droits constitutionnels ou des principes juridiques violés et préciser en quoi consiste la violation. Le Tribunal fédéral n'a donc pas à vérifier de lui-même si l'arrêt entrepris est en tous points conforme au droit et à l'équité, mais n'examine que les griefs d'ordre constitutionnel invoqués et suffisamment motivés dans l'acte de recours (<ref-law> en corrélation avec l'<ref-law>; <ref-ruling> consid. 1.5 p. 576; <ref-ruling> consid. 2.1 p. 334; <ref-ruling> consid. 2.1 p. 143).
3.5. En l'espèce, le recourant invoque la violation des art. 42 al. 2, 97 ss et 330a CO. Ces motifs de recours n'ont pas trait aux droits constitutionnels (arrêt 8C_151/2010 déjà cité consid. 4.4; 4A_465/2008 du 28 novembre 2008 consid. 2.2). Pour le surplus, l'acte de recours ne contient pas l'indication d'un droit constitutionnel qui aurait été méconnu par l'autorité précédente. En conséquence, l'écriture du recourant n'est pas non plus recevable en tant que recours constitutionnel subsidiaire.
4.
Il résulte de ce qui précède que le recours est irrecevable.
Vu l'issue du litige, les frais judiciaires seront mis à la charge du recourant (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est irrecevable.
2.
Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Cour administrative du Tribunal cantonal de la République et canton du Jura.
Lucerne, le 13 novembre 2017
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président : Maillard
La Greffière : Castella