A.- Par décision du 6 octobre 1997, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après:
l'office) a rejeté la demande de prestations, tendant notamment à l'octroi d'une rente, présentée le 10 octobre 1996 par S._. Cette décision a été confirmée, dans un jugement du 12 août 1998, par le Tribunal des assurances du canton de Vaud. Il a considéré, en substance, que les rachialgies chroniques, pour lesquelles une composante psychologique avec des éléments de simulation avait été mise en évidence, ainsi que l'état anxio-dépressif dont souffrait l'assuré, n'avaient pas une influence telle sur sa capacité de gain dans sa profession d'ouvrier agricole qu'elle fût réduite de 40% au moins. Cette appréciation se fondait notamment sur les conclusions d'un rapport du 4 septembre 1996, émanant de l'établissement thermal de X._, dans lequel les docteurs A._ et B._ exprimaient l'avis que les troubles lombaires dont souffre l'assuré n'étaient pas de nature à entraver sa capacité de travail.
Par décision du 10 mai 1999, contre laquelle l'assuré n'a pas recouru, l'office a refusé d'entrer en matière sur une nouvelle demande de prestations présentée le 19 janvier 1999 par ce dernier, au motif qu'il n'avait pas rendu plausible que son invalidité s'était modifiée de manière à influencer ses droits.
Le 26 avril 1999, S._ a derechef présenté une nouvelle demande de prestations, accompagnée de diverses pièces médicales nouvelles. Le 30 mars 2000, considérant que la situation était inchangée par rapport à celle qui prévalait lors du refus initial de la rente, l'office l'a rejetée.
B.- Par jugement du 10 novembre 2000, le Tribunal des assurances du canton de Vaud a rejeté le recours interjeté par S._ contre cette dernière décision. Il a retenu, en bref, que c'était à bon droit que l'office n'était pas entré en matière sur la nouvelle demande dès lors que l'assuré n'avait produit à l'appui de cette dernière aucun élément convaincant permettant de supposer que son état de santé s'était aggravé depuis la date de la première décision.
C.- S._ interjette recours de droit administratif contre ce jugement. Il conclut, avec suite de dépens, principalement à l'octroi d'une rente entière et, subsidiairement, au renvoi de la cause à l'autorité cantonale de recours.
L'office a conclu au rejet du recours; l'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- a) Lorsqu'elle est saisie d'une nouvelle demande, l'administration doit commencer par examiner si les allégations de l'assuré sont, d'une manière générale, plausibles.
Si tel n'est pas le cas, l'affaire est liquidée d'entrée de cause et sans autres investigations par un refus d'entrée en matière. A cet égard, l'administration se montrera d'autant plus exigeante pour apprécier le caractère plausible des allégations de l'assuré que le laps de temps qui s'est écoulé depuis sa décision antérieure est bref. Elle jouit sur ce point d'un certain pouvoir d'appréciation que le juge doit en principe respecter. Ainsi, le juge ne doit examiner comment l'administration a tranché la question de l'entrée en matière que lorsque ce point est litigieux, c'est-à-dire quand l'administration a refusé d'entrer en matière en se fondant sur l'<ref-law> et que l'assuré a interjeté recours pour ce motif. Ce contrôle par l'autorité judiciaire n'est en revanche pas nécessaire lorsque l'administration est entrée en matière sur la nouvelle demande (<ref-ruling> consid. 2b).
b) Par sa décision du 10 mai 1999, l'office avait refusé d'entrer en matière sur la nouvelle demande du 19 janvier 1999 parce que l'assuré n'avait pas rendu plausible que son invalidité s'était modifiée de manière à influencer ses droits. En revanche, statuant le 30 mars 2000 sur la nouvelle demande, accompagnée de pièces médicales nouvelles, présentée par l'assuré le 26 avril 1999, il l'a rejetée au motif que la situation de fait était identique à celle qui prévalait en 1996. C'est dès lors à tort que les premiers juges, saisis d'un recours dirigé contre cette dernière décision, se sont bornés à examiner si les conditions formelles posées par l'art. 87 al. 3 et 4 RAI étaient remplies. C'est au regard des conditions de la révision du droit à la rente (<ref-law>), applicables par analogie à l'examen des conditions matérielles d'une nouvelle demande (VSI 1999 p. 85 consid. 2b et la référence citée) qu'ils auraient dû examiner le recours.
c) Il sied toutefois de relever que les conclusions prises par le recourant devant la cour de céans, qui tendent principalement à l'octroi d'une rente et subsidiairement au renvoi de la cause à l'autorité cantonale de recours, ont trait au fond du litige et non à la seule question de l'entrée en matière sur la nouvelle demande. De même, l'argumentation qu'il a développée en première instance comme devant la cour de céans tend à démontrer qu'une évolution de son état de santé ayant une influence sur sa capacité de gain est non seulement plausible, mais avérée. Partant, la cour de céans peut, sans violer son droit d'être entendu, examiner si les conditions matérielles d'une révision sont remplies en l'espèce, la cause étant par ailleurs, comme on le verra ci-après, en état d'être jugée (<ref-ruling> consid. 4a et les références citées).
2.- Selon l'<ref-law>, si l'invalidité d'un bénéficiaire de rente se modifie de manière à influencer le droit à la rente, celle-ci est, pour l'avenir, augmentée, réduite ou supprimée. Tout changement important des circonstances, propre à influencer le degré d'invalidité, donc le droit à la rente, peut donner lieu à une révision de celle-ci. Le point de savoir si un tel changement s'est produit doit être tranché en comparant les faits tels qu'ils se présentaient au moment de la décision initiale de rente et les circonstances régnant à l'époque de la décision litigieuse (<ref-ruling> consid. 2 et la référence; voir également <ref-ruling> consid. 2b et 390 consid. 1b).
3.- a) En l'espèce, selon les pièces médicales figurant au dossier, le recourant souffrait, au moment de la décision de refus de rente de 1996, de rachialgies chroniques persistantes prédominant au niveau lombaire, de troubles statiques et dégénératifs du rachis lombaire ainsi que d'un état anxio-dépressif, qui n'étaient cependant pas de nature à entraver sa capacité de travail (rapport de l'établissement thermal de X._, du 4 septembre 1996). Dans une attestation manuscrite du 22 mars 1996, le docteur C._ posait le diagnostic de lombalgies sur protrusion postérieure étagée médio-bilatérale et très latérale vers la droite des trois disques, surtout L4-L5 et L5-S1 avec relent d'arthrose supérieure L5-S1 bilatérale.
En comparaison, le rapport établi sur la base d'un CT-scan lombaire par le docteur D._ le 6 avril 2000 fait état d'une ébauche de petites protrusions discales circonférentielles en L4-L5 et L5-S1, sans pathologie herniaire extrudée et non significatives quant à une éventuelle compression du fourreau dural ou radiculaire, ainsi que d'une spondylarthrose modérée à prédominance lombaire inférieure, sans pathologie disco-dégénérative significative.
Or, la comparaison de ces données médicales - en particulier les diagnostics des docteurs C._ et D._ - ne permet pas d'établir au degré de la vraisemblance prépondérante usuelle en droit des assurances sociales (125 V 195 consid. 2) - une aggravation significative des problèmes dorsaux du recourant, ce que paraît, du reste, confirmer le certificat du 21 février 2001 dans lequel le docteur E._, médecin traitant du recourant, qualifie de discrets ses troubles statiques et dégénératifs.
b) Le recourant a, par ailleurs, produit à l'appui de sa nouvelle demande diverses pièces médicales faisant état d'un syndrome d'apnées du sommeil. Il ressort cependant du rapport établi le 9 juin 2000 par le docteur F._, médecin assistant de la division de pneumologie de la Policlinique Y._, qu'après traitement, le recourant présentait une nette diminution de sa fatigabilité diurne, de son hypersomnie et de ses céphalées. Il est dès lors peu vraisemblable que ce syndrome, qui ne présentait dès sa détection qu'un degré modéré (rapport des docteurs F._ et G._, du 7 juillet 1999), ait une influence déterminante sur la capacité de gain du recourant.
4.- Le recourant reproche enfin aux premiers juges d'avoir violé son droit d'être entendu en ne donnant pas suite à diverses requêtes de mesures d'instruction. Sur ce point, il convient de relever que les pièces médicales figurant au dossier fournissent des indications suffisantes et, pour l'essentiel convergentes, sur son état de santé.
Dès lors, les mesures d'instruction complémentaires requises en instance cantonale, tendant respectivement à la mise en oeuvre d'une expertise judiciaire et à l'obtention de plus amples renseignements des docteurs C._ et E._, apparaissent d'emblée superflues, de sorte que les juges cantonaux pouvaient renoncer à y procéder, sur la base d'une appréciation anticipée des preuves, sans violer le droit d'être entendu du recourant (<ref-ruling> consid. 4b). Au demeurant, il incombait à ce dernier, dont on pouvait raisonnablement l'exiger, de produire des avis complémentaires de ses médecins traitants, les docteurs C._ et E._, s'il le jugeait nécessaire (<ref-ruling> consid. 2 et les références citées).
5.- Il résulte de ce qui précède que l'état de santé du recourant ne s'est pas modifié de manière à influencer sa capacité de gain dans une mesure ouvrant désormais le droit à une rente. Le recourant n'alléguant, par ailleurs pas la modification d'autres circonstances propre à influencer le degré de son invalidité, son recours se révèle infondé.
Le recourant, qui succombe, ne peut prétendre l'allocation de dépens (art. 159 al. 1 OJ).

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I.Le recours est rejeté.
II.Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, à la Caisse cantonale vaudoise de compensation AVS/AI, au Tribunal des assurances du canton de Vaud ainsi qu'à
l'Office fédéral des assurances sociales.
Lucerne, le 11 septembre 2001
Au nom du
Tribunal fédéral des assurances
le juge présidant la IIIe Chambre :
Le Greffier :