A.- a) Le 30 octobre 1996, P._ - à l'époque manoeuvre au service de C._ SA - a été victime d'un accident de travail sur un chantier : alors qu'il se trouvait sur une dalle en pente, il a perdu l'équilibre et roulé quelques mètres plus bas où il a été arrêté par un amas d'échafaudages. A l'hôpital de X._, les médecins ont constaté une dermabrasion de la fesse gauche, des contusions abdominales, rachidiennes et lombaires, mais n'ont décelé aucune fracture à la colonne vertébrale (rapport médical initial LAA du docteur B._). La Caisse nationale suisse en cas d'accidents (CNA) a pris en charge le cas qui a nécessité un traitement médical et entraîné une incapacité de travail jusqu'au 17 février 1997.
b) Le 8 décembre 1997, le nouvel employeur de P._ (l'entreprise Y._ SA) a annoncé une rechute de l'accident du 30 octobre 1996. Après avoir examiné l'assuré, le docteur S._, médecin d'arrondissement de la CNA, a suggéré la mise en oeuvre d'une expertise auprès du docteur F._, neurologue, pour vérifier si les douleurs dont l'assuré se plaignait procédaient d'une affection maladive ou si elles s'inscrivaient dans une relation de causalité avec l'accident en cause. Dans son rapport du 21 avril 1998, le docteur F._ a fait état d'un «syndrome lombaire avec sciatalgies bilatérales sans déficit radiculaire mais avec des signes irritatifs pouvant faire suspecter une compression radiculaire en L5»; relevant d'une part, que l'assuré n'avait jamais eu mal au dos auparavant et d'autre part, que l'état radiologique de la colonne dorso-lombaire ne présentait pas de signes dégénératifs importants, l'expert en conclut que l'incapacité de travail de P._ avait pour origine l'événement accidentel survenu en 1996. Sur la base de cette appréciation, la CNA a accepté de répondre du cas et octroyé ses prestations en conséquence.
c) Un scanner pratiqué le 7 juillet 1998 a révélé l'existence d'une hernie discale L5-S1 ainsi que d'une hernie intra-spongieuse sur le plateau inférieur de L3 (rapport du docteur Z._ du 24 août 1998). Appelé à se prononcer sur ces nouveaux éléments, le docteur S._ a estimé que l'apparition des hernies ne pouvait, au degré de vraisemblance requis, être attribuée au traumatisme survenu en 1996, si bien que les prestations versées initialement à l'assuré l'avaient été à tort. Par décision du 30 octobre 1998, la CNA a alors revu sa position antérieure en ce sens qu'elle a refusé de prendre en charge les suites de la rechute; elle a toutefois renoncé à exiger le remboursement des sommes déjà allouées.
A la suite à l'opposition formée par l'assuré, le cas été soumis au docteur T._, de l'équipe médicale de médecine des accidents de la CNA à Lucerne. Selon ce médecin, le déroulement de l'accident ne pouvait pas avoir provoqué une blessure aux disques vertébraux car le torse avait été touché latéralement au moment du choc et n'avait pas subi de pression dans une direction axiale; par ailleurs, l'assuré avait pu reprendre son travail pendant plus de 10 mois après l'accident, si bien que la relation causale entre ce dernier et les affections diagnostiquées était hautement invraisemblable (rapport du 20 mai 1999). Par décision sur opposition du 31 mai 1999, la CNA a dès lors confirmé son point de vue.
B.- L'assuré a recouru contre cette dernière décision devant la Chambre des assurances du Tribunal cantonal jurassien, qui l'a débouté par jugement du 17 avril 2000.
C.- P._ interjette recours de droit administratif contre ce jugement, dont il requiert l'annulation. Il conclut, sous suite de frais et dépens, à la prise en charge, par la CNA, des conséquences de sa rechute.
La CNA et l'Office fédéral des assurances sociales n'ont pas présenté de détermination.

Considérant en droit :
1.- a) Selon un principe général du droit des assurances sociales, l'administration peut reconsidérer une décision formellement passée en force de chose jugée et sur laquelle une autorité judiciaire ne s'est pas prononcée quant au fond, à condition qu'elle soit sans nul doute erronée et que sa rectification revête une importance notable (<ref-ruling> consid. 3a, 173 consid. 4a, 271 consid. 2, 368 consid. 3, 121 V 4 consid. 6 et les arrêts cités). En outre, par analogie avec la révision des décisions rendues par les autorités judiciaires, l'administration est tenue de procéder à la révision d'une décision entrée en force formelle lorsque sont découverts des faits nouveaux ou de nouveaux moyens de preuve susceptibles de conduire à une appréciation juridique différente (<ref-ruling> consid. 3a, 138 consid. 2c, 173 consid. 4a, 272 consid. 2, 121 V 4 consid. 6 et les références).
Ces principes sont également applicables lorsque - comme c'est le cas en l'espèce - des prestations ont été accordées sans avoir fait l'objet d'une décision formelle et que leur versement a, néanmoins, acquis force de chose décidée (<ref-ruling> consid. 3).
b) En l'occurrence et comme l'ont retenu à juste titre les premiers juges, l'intimée ne pouvait revenir sur les décisions (non formelles) par lesquelles elle a alloué ses prestations au recourant qu'aux conditions régissant la révision procédurale. En effet, prises sur la base de l'appréciation du docteur F._, celles-ci ne sauraient être qualifiées de manifestement inexactes, justifiant leur révocation par la voie d'une reconsidération.
2.- La présence d'une hernie discale chez le recourant a été révélée pour la première fois lors d'un scanner lombaire pratiqué le 7 juillet 1998. Jusque là, le docteur F._ n'en avait parlé qu'à titre d'hypothèse, en préconisant des examens complémentaires. Aussi bien le diagnostic de cette affection a-t-il valeur de fait nouveau au sens de la jurisprudence exposée ci-dessus. Il reste dès lors à déterminer si ce fait nouveau était susceptible de remettre en cause la responsabilité de l'intimée pour les suites de la rechute annoncée par le recourant.
3.- a) Le jugement entrepris expose correctement les dispositions légales et les règles jurisprudentielles relatives au droit à des prestations en matière d'assurance-accidents, notamment l'exigence d'un rapport de causalité entre l'atteinte à la santé et le risque assuré, de sorte qu'il peut y être renvoyé.
On ajoutera que, selon l'expérience médicale, pratiquement toutes les hernies discales s'insèrent dans un contexte d'altération des disques intervertébraux d'origine dégénérative, un événement accidentel n'apparaissant qu'exceptionnellement, et pour autant que certaines conditions particulières soient réalisées, comme la cause proprement dite d'une telle atteinte. Ainsi, une hernie discale peut être considérée comme étant due principalement à un accident, lorsque celui-ci revêt une importance particulière, qu'il est de nature à entraîner une lésion du disque intervertébral et que les symptômes de la hernie discale (syndrome vertébral ou radiculaire) apparaissent immédiatement, entraînant aussitôt une incapacité de travail. Dans de telles circonstances, l'assureur-accidents doit, selon la jurisprudence, allouer ses prestations également en cas de rechutes et pour des opérations éventuelles (RAMA 2000 n° U 378, p. 190).
b) Selon les docteurs S._ et T._ deux éléments majeurs plaident en faveur de l'absence d'un lien de causalité entre la hernie discale et l'événement accidentel du 30 octobre 1996 : le déroulement de l'accident en lui-même d'une part, et la relativement longue période de latence qui a précédé la rechute de l'incapacité de travail d'autre part. Aux yeux de ces praticiens, le choc dont le recourant a été victime en 1996 n'était pas de nature à provoquer une lésion du rachis. P._ a vraisemblablement subi une contusion lombaire (atteinte dont les symptômes disparaissent au maximum dans les six mois suivant l'événement dommageable), ce qui explique d'ailleurs le fait qu'il a été en mesure de poursuivre, peu après l'incident, son ancienne activité de manoeuvre durant près de 10 mois.
Ces considérations médicales sont convaincantes. Elles démontrent à satisfaction de droit que l'ensemble des conditions particulières retenues par la jurisprudence pour admettre le caractère accidentel d'une hernie discale font, dans le cas particulier, défaut. C'est en vain que le recourant prétend que son affection est une conséquence directe du choc traumatique survenu en 1996 au motif qu'il ne présentait pas de signe dégénératif important de la colonne dorso-lombaire avant cet accident. Bien qu'une telle circonstance soit un des critères médicaux parmi d'autres à prendre en compte pour examiner l'existence d'une relation étiologique entre un accident et un prolapsus discal, elle ne saurait suffire dans le cas d'espèce, surtout lorsqu'une reprise du travail intervient très rapidement et se prolonge de manière ininterrompue sur plusieurs mois. A cet égard, l'allégation du recourant, selon laquelle il aurait travaillé au-delà de ses forces dès le mois de février 1997, ne trouve aucun appui dans le dossier. Enfin, l'appréciation du docteur F._ n'est pas déterminante sur ce point, puisqu'il a rendu ses conclusions en ignorant que le recourant était atteint d'une hernie discale.
c) C'est dès lors à juste titre que la juridiction cantonale a considéré que l'intimée était fondée - pour les suites de la rechute - à révoquer les dispositions qu'elle avait prises antérieurement et refuser de prester à l'avenir.
Le recours est mal fondé.

Par ces motifs, le Tribunal fédéral des assurances
p r o n o n c e :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au Tri-
bunal cantonal jurassien, Chambre des assurances, et à
l'Office fédéral des assurances sociales.
Lucerne, le 16 février 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIIe Chambre :
La Greffière :