Faits: A. A._, s'est présenté le 25 novembre 1996 à l'Office communal du travail de Z._ pour s'inscrire comme demandeur d'emploi. A cette occasion, il a rempli un document intitulé "demande d'emploi" et indiqué que son dernier employeur avait été la société X._. Sur le formulaire de sa demande d'indemnité de chômage du 1er décembre 1996, figurait comme dernier employeur l'Entreprise Y._ (France) chez laquelle il aurait travaillé du 1er novembre 1989 au 31 octobre 1996. Sur la base d'une attestation de cet employeur du 12 décembre 1996, qui confirmait la durée des rapports de travail et qui faisait mention d'un salaire brut de 8'500 fr. durant les six derniers mois avant la fin du contrat de travail, A._ a bénéficié, du 1er novembre 1996 au 28 février 1998, des prestations de chômage correspondantes allouées par la Caisse de chômage des organisations chrétiennes sociales (ci-après : la caisse). Lors d'un contrôle subséquent par l'Office fédéral du développement économique (actuellement le Secrétariat d'Etat à l'économie [seco]), il s'est révélé que les salaires déclarés par l'Entreprise Y._ n'avaient pas été versés à l'assuré. Une rémunération avait bien été convenue entre les parties mais celle-ci avait été soumise à la condition que A._ obtienne des contrats pour développer un procédé dans le traitement des métaux qu'il avait inventé, ce qui ne s'était pas réalisé durant son engagement. Par ailleurs, le prénommé était administrateur de sa propre société X._ dont il avait reçu, au cours de l'année 1996, un émolument de 3'000 fr. Enfin, l'assuré avait été engagé par l'entreprise française le 1er janvier 1996 et non pas le 1er novembre 1989. L'assuré a été entendu par la caisse sur ces faits. Par décision du 16 octobre 1998, la caisse a réclamé à l'assuré la restitution d'un montant de 90'829 fr. 75 représentant les indemnités journalières indûment perçues en raison de l'absence d'un salaire effectivement versé durant la période de cotisation. Cette décision ayant été annulée par la Commission de recours en matière de chômage du canton du Valais (jugement du 9 novembre 2000), la caisse a rendu une nouvelle décision de même teneur le 22 juin 2001. Celle-ci est entrée en force (cf. jugement du 18 février 2003 de la Commission de recours en matière de chômage du canton du Valais). Saisi en juillet 2003 d'une demande de remise de l'obligation de restituer, le Service de l'industrie, du commerce et du travail (ci-après : le SICT) l'a rejetée par décision du 22 octobre 2003, confirmée sur opposition le 22 janvier 2004, motif pris que l'assuré n'était pas de bonne foi. B. Par jugement du 31 mars 2008, le Tribunal cantonal valaisan des assurances a rejeté le recours formé par l'intéressé contre la décision sur opposition du SICT (du 22 janvier 2004). C. A._ interjette un recours en matière de droit public contre ce jugement, en concluant, sous suite de dépens, à la remise de l'obligation de restituer le montant des prestations qui lui est réclamé. Le SICT, le Secrétariat d'Etat à l'économie ainsi que la juridiction cantonale ont tous renoncé à se déterminer.