A.- J._ a travaillé en qualité d'aide-jardinier au service de Z._, paysagiste. A ce titre, il était obligatoirement assuré contre le risque d'accident auprès de la Vaudoise Générale Compagnie d'assurances (ci-après : la Vaudoise).
Le 6 mars 1996, il a été victime d'un accident professionnel : occupé à la taille d'un arbre, il a fait une chute d'une hauteur de plusieurs mètres. Consulté le même jour, le docteur D._ a fait état d'une lombosciatalgie droite (rapport du 28 mars 1996).
La Vaudoise a pris en charge le cas. Après avoir confié une expertise au docteur R._, médecin au centre X._ (rapport du 23 septembre 1997), elle a rendu une décision, le 31 octobre 1997, par laquelle elle a supprimé le droit de l'assuré aux prestations à partir du 6 mars 1997. Saisie d'une opposition, elle l'a rejetée par décision du 24 novembre 1997.
B.- J._ a recouru contre cette dernière décision devant le Tribunal des assurances du canton de Vaud, en concluant au maintien de son droit à des prestations de l'assurance-accidents au-delà du 6 mars 1997.
La juridiction cantonale a confié une expertise au docteur P._, spécialiste en neurologie (rapport du 29 mars 1999). Appelé à se déterminer sur cette expertise, J._ a requis la mise en oeuvre d'une expertise complémentaire sur le plan psychiatrique, aux fins de définir la nature et la cause de ses troubles psychiques.
Par décision du 6 mai 1999, le juge délégué à l'instruction de la cause a rejeté cette requête.
Statuant par la voie incidente le 22 juin 1999, la juridiction cantonale a rejeté l'opposition formée par l'assuré contre cette décision.
Saisi d'un recours contre ce jugement incident, le Tribunal fédéral des assurances l'a déclaré irrecevable par arrêt du 27 janvier 2000 (U 436/99).
Par jugement du 11 avril 2000, le Tribunal des assurances du canton de Vaud a rejeté le recours de J._.
C.- Celui-ci interjette recours de droit administratif contre ce jugement, dont il demande l'annulation, en concluant à l'octroi de prestations de l'assurance-accidents.
La Vaudoise conclut au rejet du recours. L'Unitas, Assurance suisse de maladie et accidents, auprès de laquelle le recourant est assuré pour le risque de maladie, a renoncé à se déterminer sur le recours en sa qualité d'intéressée. L'Office fédéral des assurances sociales n'a pas présenté de détermination.

Considérant en droit :
1.- L'obligation de l'intimée d'allouer, au delà du 6 mars 1997, des prestations d'assurance pour la chute dont le recourant a été victime suppose l'existence, à ce moment-là, d'un lien de causalité naturelle et adéquate entre cet événement et l'atteinte à la santé.
2.- Le jugement entrepris expose de manière exacte les principes jurisprudentiels concernant la causalité naturelle. Il suffit donc d'y renvoyer.
Par ailleurs, il convient de relever que l'élément décisif pour apprécier la valeur probante d'une pièce médicale n'est en principe ni son origine, ni sa désignation sous la forme d'un rapport ou d'une expertise, mais bel et bien son contenu (<ref-ruling> consid. 3a; Spira, La preuve en droit des assurances sociales, in : Mélanges en l'honneur de Henri-Robert Schüpbach, Bâle, Genève et Munich 2000, p. 268; Omlin, Die Invalidität in der obligatorischen Unfallversicherung, thèse Fribourg 1995, p. 297 sv.; Morger, Unfallmedizinische Begutachtung in der SUVA, in RSAS 32/1988 p. 332 sv.). Il importe, pour conférer pleine valeur probante à un rapport médical, que les points litigieux importants aient fait l'objet d'une étude circonstanciée, que le rapport se fonde sur des examens complets, qu'il prenne également en considération les plaintes exprimées par la personne examinée, qu'il ait été établi en pleine connaissance de l'anamnèse, que la description du contexte médical et l'appréciation de la situation médicale soient claires et enfin que les conclusions de l'expert soient dûment motivées (<ref-ruling> consid. 3a et les références).
En principe, le juge ne s'écarte pas sans motifs impératifs des conclusions d'une expertise médicale judiciaire, la tâche de l'expert étant précisément de mettre ses connaissances spéciales à la disposition de la justice afin de l'éclairer sur les aspects médicaux d'un état de fait donné. Selon la jurisprudence, peut constituer une raison de s'écarter d'une expertise judiciaire le fait que celle-ci contient des contradictions, ou qu'une surexpertise ordonnée par le tribunal en infirme les conclusions de manière convaincante. En outre, lorsque d'autres spécialistes émettent des opinions contraires aptes à mettre sérieusement en doute la pertinence des déductions de l'expert, on ne peut exclure, selon les cas, une interprétation divergente des conclusions de ce dernier par le juge ou, au besoin, une instruction complémentaire sous la forme d'une nouvelle expertise médicale (<ref-ruling> sv. consid. 3b/aa et les références; VSI 2000 p. 154 consid. 2b).
3.- Sur le plan somatique, le docteur P._ a fait état d'un syndrome lombo-vertébral sur discopathie banale L4-L5 et L5-S1, combiné peut-être à un discret syndrome radiculaire S1 droit. L'expert judiciaire a attesté que ces séquelles physiques n'entraînaient plus d'incapacité de travail une année après la survenance de l'accident (rapport du 29 mars 1999). En l'occurrence, il n'y a pas de motif de s'écarter de cette appréciation, laquelle n'est d'ailleurs pas remise en cause par le recourant.
4.- a) Cela étant, il n'en demeure pas moins que celui-ci souffre de troubles de nature psychique sous la forme d'un état anxio-dépressif (rapports des médecins de la Division autonome de médecine psycho-sociale [DAMPS], du 8 avril 1997, et des docteurs D._, du 20 avril 1998, et M._, du 10 juillet 2000), d'un syndrome douloureux (rapports du DAMPS et du docteur M._, déjà mentionnés), d'une personnalité borderline fragile (rapports des docteurs R._, du 23 septembre 1997 et P._, du 29 mars 1999), ainsi que d'un état régressif important et d'une décompensation narcissique (rapport du docteur R._, déjà cité).
b) Dans son rapport d'expertise du 23 septembre 1997, le docteur R._ a attesté que l'accident était l'élément révélateur d'une situation antérieure, la personnalité borderline aux traits narcissiques importants jouant un rôle prépondérant. Selon l'expert, la relation de causalité est nulle. De son côté, le docteur P._ a attesté que l'état de fragilité de la personnalité avait été seulement révélé par l'accident, l'intensité de la décompensation psychique et de la régression mentale étant sans la moindre relation possible avec ledit événement (rapport du 29 mars 1999).
Se fondant sur l'avis des experts, la juridiction cantonale a nié l'existence d'une relation de causalité naturelle entre les troubles psychiques et l'accident.
c) En l'occurrence, les conclusions des experts sont contestées par plusieurs médecins qui se sont exprimés sur le cas et selon lesquels les troubles psychiques sont dus à l'accident (certificats du docteur D._, médecin traitant, du 20 avril 1998, et de quatre spécialistes en psychiatrie et psychothérapie, les docteurs C._, du 14 mai 1999, M._, du 10 juillet 2000, H._, du 4 septembre 2000, et S._, du 11 septembre 2000).
Ces avis médicaux - non motivés - ne sont toutefois pas aptes à mettre sérieusement en doute la pertinence des déductions des experts. Seul le docteur S._, prenant position sur le rapport du docteur R._ et confirmant le diagnostic de personnalité borderline, conteste - sans motiver plus avant son point de vue - que ce trouble puisse être la cause exclusive de l'atteinte psychique du recourant. En outre, les médecins prénommés semblent admettre l'existence d'un lien de causalité en vertu du principe «post hoc, ergo propter hoc», lequel n'a pas de valeur probante, comme la Cour de céans a déjà eu l'occasion de le préciser (<ref-ruling> s. consid. 2b/bb; RAMA 1999 n° U 341 p. 408 s. consid. 3b).
Cela étant, il n'y a pas de motif de s'écarter des conclusions dûment motivées des experts R._ et P._.
5.- Vu ce qui précède, il y a lieu d'admettre, sans qu'il soit nécessaire de mettre en oeuvre une instruction complémentaire, comme le demande le recourant, que celui-ci ne souffrait plus, une année après l'accident, d'une atteinte à la santé physique ou psychique en relation de causalité naturelle avec l'accident du 6 mars 1996. Aussi, l'intimée était-elle fondée, par sa décision sur opposition du 24 novembre 1997, à supprimer le droit de l'intéressé à des prestations d'assurance à partir du 6 mars 1997. Le jugement entrepris n'est pas critiquable et le recours se révèle mal fondé.

Par ces motifs, le Tribunal fédéral des assurances
p r o n o n c e :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au Tribunal
des assurances du canton de Vaud, à l'Unitas,
Assurance suisse de maladie et accidents et à l'Office
fédéral des assurances sociales.
Lucerne, le 26 avril 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIIe Chambre :
Le Greffier :