Faits :
A.
A._ a déposé une demande d'indemnité de chômage à partir du 1er mars 2008. Un délai-cadre d'indemnisation lui a été ouvert à compter de cette date.
Par décision du 24 novembre 2008, la Caisse de chômage interprofessionnelle de Porrentruy (ci-après: la caisse) a réclamé à l'assuré la restitution de 11'610 fr. 30 représentant des prestations indûment perçues. En effet, après avoir constaté que A._ était sans travail par sa propre faute, elle avait suspendu son droit à l'indemnité de chômage pour une durée de 40 jours (décision du 19 juin 2008). Le 3 février 2009, l'assuré a sollicité de la part de la caisse la remise de l'obligation de restituer. Cette demande a été transmise au Service de l'économie et de l'emploi (ci-après: le SEE) comme objet de sa compétence.
Par décision du 2 décembre 2015, confirmée sur opposition le 22 avril 2016, le SEE a refusé d'accorder la remise, au motif que l'assuré avait manqué à son devoir d'aviser et de renseigner et qu'il ne pouvait donc pas se prévaloir de sa bonne foi.
B.
Saisie d'un recours contre la décision sur opposition du 22 avril 2016, la Cour des assurances du Tribunal cantonal de la République et canton du Jura l'a rejeté par jugement du 5 septembre 2017.
C.
A._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation, en concluant principalement à la remise de son obligation de restituer. Subsidiairement il conclut au renvoi de la cause à l'autorité cantonale pour nouvelle décision, le tout sous suite de frais et dépens.
Le SEE et la juridiction cantonale concluent au rejet du recours, tandis que le Secrétariat d'Etat à l'économie (SECO) a renoncé à se déterminer.

Considérant en droit :
1.
Le recours est dirigé contre un arrêt final (<ref-law>) rendu en matière de droit public (<ref-law>) par une autorité cantonale de dernière instance (art. 86 al. 1 let. d LTF). Il a été déposé dans le délai (<ref-law>) et la forme (<ref-law>) prévus par la loi. Il est donc recevable.
2.
Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.3 p. 266 et les arrêts cités) - ou en violation du droit au sens de l'<ref-law> (<ref-law>), et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause (<ref-law>). Il appartient au recourant de démontrer le caractère arbitraire par une argumentation répondant aux exigences de l'<ref-law>, respectivement de l'<ref-law> (<ref-ruling> consid. 4.1.2 p. 62 et la référence).
3.
Le litige porte sur les conditions de la remise, singulièrement sur le point de savoir si le recourant remplit la condition de la bonne foi.
4.
Selon l'<ref-law> (RS 830.1), les prestations indûment touchées doivent être restituées. La restitution ne peut être exigée lorsque l'intéressé était de bonne foi et qu'elle le mettrait dans une situation difficile. Ces deux conditions matérielles sont cumulatives et leur réalisation est nécessaire pour que la remise de l'obligation de restituer soit accordée (<ref-ruling> consid. 3c p. 53; arrêt 9C_638/2014 du 13 août 2015 consid. 4.1).
Selon la jurisprudence, l'ignorance, par le bénéficiaire des prestations, du fait qu'il n'avait pas droit aux prestations ne suffit pas pour admettre sa bonne foi. Il faut bien plutôt que le requérant ne se soit rendu coupable, non seulement d'aucune intention malicieuse, mais aussi d'aucune négligence grave. Il s'ensuit que la bonne foi, en tant que condition de la remise, est exclue d'emblée lorsque les faits qui conduisent à l'obligation de restituer - comme par exemple une violation du devoir d'annoncer ou de renseigner - sont imputables à un comportement dolosif ou à une négligence grave. En revanche, le bénéficiaire peut invoquer sa bonne foi lorsque l'acte ou l'omission fautifs ne constituent qu'une violation légère de l'obligation d'annoncer ou de renseigner (<ref-ruling> consid. 4 p. 220 s.; <ref-ruling> consid. 2c p. 103; <ref-ruling> consid. 3c p. 180).
Il y a négligence grave quand un ayant droit ne se conforme pas à ce qui peut raisonnablement être exigé d'une personne capable de discernement dans une situation identique et dans les mêmes circonstances (ATF <ref-ruling> précité consid. 3d p. 181). L'examen de l'attention exigible d'un ayant droit qui invoque sa bonne foi relève du droit et le Tribunal fédéral revoit librement ce point (<ref-ruling> consid. 3 p. 223, 102 V 245 consid. b p. 246).
5.
La cour cantonale a constaté que le recourant n'avait pas renseigné la caisse de manière complète sur le motif de la résiliation des rapports de service. Dans sa demande d'indemnité, il s'est contenté de mentionner qu'il n'avait pas été nommé définitivement au poste qu'il occupait et d'y joindre une décision de l'employeur, datée du 18 décembre 2007, repoussant la fin des rapports de travail au 29 février 2008. Il a toutefois omis de remettre à la caisse la décision de licenciement, du 29 septembre 2007, indiquant que les rapports de service avaient pris fin en raison de la procédure pénale ouverte à l'encontre du recourant pour escroquerie fiscale. Or, selon la juridiction cantonale, le devoir de ne pas provoquer son propre chômage étant notoire, l'assuré ne pouvait pas ignorer que les motifs ayant conduit à son licenciement pouvaient avoir une incidence sur le droit aux prestations de chômage. Aussi, la cour cantonale a-t-elle jugé que le recourant avait commis une négligence grave en passant sous silence le motif de son licenciement. Il était tenu de l'indiquer dans la demande d'indemnité, malgré les informations relayées dans la presse sur la procédure pénale en cause. Le fait de n'avoir pas remis spontanément, mais seulement sur requête de la caisse (et après rappel), la décision de licenciement, tendait à démontrer que le recourant avait des doutes quant à la légitimité du versement des prestations.
6.
De son côté, le recourant conteste avoir commis une négligence grave. Il fait valoir qu'il était persuadé que la caisse était au courant de la procédure pénale dont il faisait l'objet étant donné la publicité qui avait été donnée à cette affaire à travers les médias de la région. La caisse lui avait d'ailleurs demandé des informations sur la procédure qu'il avait introduite contre son employeur en raison de la rupture des rapports de service, ce qui démontrait, selon l'assuré, que la procédure prud'homale en cours, tout comme la procédure pénale en cause, étaient de notoriété publique. En outre, selon le recourant, le fait qu'il a transmis la lettre de licenciement à la caisse au moment où celle-ci lui a demandé des informations supplémentaires concernant le litige de droit du travail l'opposant à la Municipalité de U._, permettait d'établir qu'il n'avait jamais eu l'intention de cacher le motif de son licenciement.
7.
En l'occurrence, les arguments avancés par le recourant ne sont pas susceptibles d'établir sa bonne foi. En effet, selon les constatations de l'autorité cantonale - qui lient le Tribunal fédéral - les informations relayées dans la presse en lien avec la procédure pénale en cause ne nommaient pas directement l'assuré et avaient été diffusées plusieurs mois avant l'inscription au chômage de celui-ci. Dès lors, le recourant ne pouvait pas raisonnablement inférer de ces échos médiatiques que la caisse connaissait ses démêlés avec la justice pénale et savait qu'ils constituaient le motif de résiliation des rapports de service. En outre, s'il est vrai que la caisse connaissait le litige de droit du travail opposant le recourant à la Municipalité de U._ et avait demandé à l'assuré des informations complémentaires à ce sujet, ce n'est toutefois pas en raison de la médiatisation de cette affaire, mais parce que dans sa demande d'indemnité le recourant avait répondu par l'affirmative à la question de savoir si une procédure prud'homale était envisagée ou était en cours contre l'employeur. Partant, en remplissant la formule de demande d'indemnité de chômage de manière incomplète et en ne transmettant la décision de licenciement qu'après une demande et un rappel de la caisse, le recourant a clairement violé son devoir de renseigner. Ce faisant, il a commis à tout le moins une négligence grave au sens de la jurisprudence et sa bonne foi doit être niée. Par conséquent le jugement attaqué n'est pas critiquable et le recours se révèle mal fondé.
8.
Le recourant, qui succombe, supportera les frais judiciaires (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais, arrêtés à 1'100 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal de la République et canton du Jura, Cour des assurances, au Secrétariat d'Etat à l'économie (SECO) et à la Caisse de chômage Interprofessionnelle, Porrentruy.
Lucerne, le 21 septembre 2018
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président : Maillard
La Greffière : Paris