A.- P._, né en 1935, travaillait en qualité d'employé d'exploitation pour la Poste au sein de la distribution des lettres à Lausanne. A ce titre, il était assuré contre les risques d'accidents professionnels et non professionnels auprès de la Caisse nationale suisse d'assurance en cas d'accidents (ci-après : la CNA). Le 5 septembre 1989, P._ a été victime d'un accident de la
circulation. Au volant de son véhicule, il a été heurté sur le côté gauche par un autre automobiliste qui avait perdu le contrôle de son engin. L'assuré a été admis à l'Hôpital Z._ dont le médecin de garde a diagnostiqué une fracture spiroïde du 4ème métacarpien droit, une commotion cérébrale, une contusion musculaire du bras gauche et une contusion thoracique gauche. Il est ressorti de l'hôpital deux jours après son admission.
Cet accident a été annoncé à la CNA qui a pris le cas en charge.
L'évolution du traitement a été défavorable. Dans son rapport médical du 26 octobre 1989, le docteur M._, médecin traitant de l'assuré, faisait état d'une maladie de Südeck de la main droite, entraînant une rééducation difficile. Dans une appréciation médicale du 22 novembre 1989, le docteur K._, médecin d'arrondissement de la CNA, observait que la situation était gravement défavorable. Ce médecin constatait que le comportement psychologique de l'assuré n'était pas sans influence sur l'évolution de son état de santé. Il a relevé que l'assuré avait un visage en circonflexe caractéristique de la crainte et de l'inquiétude et que dans son comportement, le patient avait totalement écarté sa main droite du schéma corporel. Le médecin d'arrondissement en a conclu qu'il était essentiel de dynamiser l'assuré et de le prendre en main, tant du point de vue psychologique que physique. Il a donc admis qu'il était justifié de lui proposer une cure d'hydrokinésithérapie. A la demande du médecin traitant, le docteur S._, orthopédiste, l'a examiné. Dans son avis médical du 27 mars 1990, ce chirurgien a indiqué que le traumatisme de la main droite de l'assuré s'était compliqué d'une algoneurodystrophie de Südeck dont l'évolution semblait enfin satisfaisante. Malheureusement, la situation s'était compliquée en raison du caractère extrêmement anxieux du patient. Tout comme le médecin traitant, il suggérait que la capacité de travail de l'assuré soit
progressivement augmentée. L'assuré a effectué un séjour à la Clinique de médecine rééducative de Bellikon du 5 juin au 13 juillet 1990.
A son entrée à la clinique, les médecins avaient posé
comme diagnostic une limitation fonctionnelle douloureuse de la main droite après dystrophie de Südeck et un état dépressif. A la sortie de l'assuré, les médecins qui l'ont suivi ont indiqué qu'ils considéraient le travail comme le meilleur traitement, de sorte qu'ils suggéraient une augmentation du temps de travail à 42 heures par semaine tout en maintenant un rendement identique de 50 %. En outre, ils estimaient judicieux de poursuivre la physiothérapie, ne serait-ce que pour des raisons psychologiques. D'après le rapport du médecin d'arrondissement de la CNA du 5 septembre 1990, la situation s'est détériorée depuis la fin du séjour à la Clinique de Bellikon et l'assuré a cessé toute activité professionnelle.
Dans son appréciation du 21 février 1991, le docteur K._, médecin d'arrondissement de la CNA à Lausanne, a constaté qu'il n'y avait pas à attendre de meilleur résultat du traitement suivi par l'assuré. En outre, il a constaté que la surcharge psychogène était évidente et représentait une entrave majeure à toute évolution fonctionnelle favorable. Il en a conclu qu'on était arrivé au bout des possibilités thérapeutiques.
Dans un rapport du 22 février 1991, le docteur
V._, chef de clinique à l'Hôpital orthopédique Y._, a constaté que le patient présentait une limitation extrêmement importante de la fonction de la main droite, que l'on ne pouvait pas expliquer uniquement par un examen somatique. Il en a conclu que l'état de crispation important et l'absence d'exercice pratiqué à domicile faisaient penser qu'il existait une autre pathologie sousjacente. Il a suggéré de réévaluer le cas plus globalement en demandant l'avis d'un psychiatre.
P._ a fait l'objet d'une expertise psychiatrique. Dans son rapport du 2 octobre 1991, le docteur C._, psychiatre, a conclu à une personnalité de structure psychotique avec des troubles de la pensée importants. L'expert a encore ajouté que l'accident survenu en 1989 avait probablement perturbé le fragile équilibre de l'assuré. Dans une appréciation médicale effectuée à la demande de la Winterthur-Assurances, le docteur H._, chirurgien, a exposé que l'évolution de la maladie de Südeck était un peu particulière dans le cas de l'assuré, en ce sens qu'on a l'impression que la maladie a pratiquement disparu mais, que par un phénomène psychosomatique, le patient a éliminé cette main de son schéma corporel, de sorte qu'on peut se demander si les choses s'amélioreront un jour malgré toutes les thérapeutiques qui ont été essayées (rapport du 20 décembre 1991).
Une nouvelle expertise psychiatrique a été effectuée sur dossier le 7 mai 1993 par le professeur X._ de la Faculté de médecine. L'expert a conclu à l'absence de névrose post-traumatique, mais à la présence d'un état psychotique chronique. Selon lui, le traumatisme ne pouvait être qu'un facteur aggravant et déclenchant d'une poussée évolutive sur un terrain pathologique antérieur.
Par décision du 10 août 1993, la CNA a alloué à P._ une rente d'invalidité fondée sur une incapacité de gain de 50 % ainsi qu'une indemnité pour atteinte à l'intégrité de 25 %. La CNA a considéré que les troubles psychiques dont souffrait l'assuré n'étaient pas en relation de causalité adéquate avec l'accident, de sorte qu'il n'appartenait pas à l'assurance-accidents d'en supporter les conséquences.
L'assuré ayant formé opposition contre cette décision, une transaction a été passée le 31 août 1994 entre P._ et la CNA. Au terme de cet accord, la CNA a accepté d'allouer à son assuré une rente d'invalidité fondée sur une incapacité de gain de 66,66 % à partir du 1er septembre 1993.
Le 2 février 1994, le docteur Chantal B._, spécialiste FMH en chirurgie plastique et reconstructive, a établi un rapport à l'intention du docteur M._, médecin traitant de l'assuré. Elle a exposé qu'elle n'avait constaté aucun trouble moteur ou sensitif, qu'il lui était impossible de juger de la fonction motrice des intrinsèques mais qu'il n'y avait pas d'atrophie de la musculature. Elle a constaté qu'il n'y avait pas de trouble de la sensibilité et que la lésion n'avait pas l'aspect d'un Südeck. Enfin, elle a indiqué qu'elle n'avait malheureusement aucun traitement à proposer et, qu'à son avis, il s'agissait de trouble de type hystérique dont le pronostic était mauvais. Elle a conclu qu'il était inutile de poursuivre un traitement de physiothérapie conventionnelle et que des traitements anti-inflammatoires et de Calcitonine n'avaient plus de raison d'être.
Par courrier du 27 février 1995, le médecin traitant de l'assuré a écrit à la CNA qu'il souhaitait adresser son patient au service de chirurgie plastique et reconstructive du CHUV pour avoir un avis sur les mesures à prendre, en particulier du point de vue antalgique puisque son patient continuait à avoir des douleurs et des crampes entraînant une impotence fonctionnelle importante. Le 15 mai 1995, le médecin d'arrondissement de la CNA, le docteur W._, a répondu que l'affaire était parfaitement éclaircie et que l'examen proposé lui paraissait inutile dans la mesure où l'on n'était pas en droit d'attendre d'améliorations de l'état de santé de l'assuré.
Le 23 octobre 1995, le docteur U._, médecinchef du service d'anesthésiologie et antalgie de l'Hôpital T._, a proposé au docteur M._ d'entreprendre un traitement antalgique pour tenter de diminuer les douleurs de l'assuré. Le 1er novembre 1995, le médecin d'arrondissement de la CNA a informé le docteur U._ que
l'assurance-accidents ne prendrait pas en charge le traitement en question, dans la mesure où les conditions légales justifiant un traitement médical après la fixation de la rente n'étaient pas remplies.
Après un échange de correspondance avec le conseil de P._, la CNA a, par décision du 31 janvier 1996, refusé de prendre en charge le traitement préconisé par le docteur U._. Par décision du 11 juillet 1996, la CNA a rejeté l'opposition de P._.
B.- P._ a recouru devant le Tribunal des assurances du canton de Vaud contre cette décision sur opposition, dont il a demandé l'annulation en concluant à la prise en charge par la CNA des frais médicaux relatifs au traitement de l'assuré selon les propositions du docteur U._. Le juge instructeur a interpellé les docteurs U._, Q._ et M._, lesquels ont répondu par courriers des 22 juillet, 4 août et 4 septembre 1997. Une audience de jugement a eu lieu le 16 mars 1998 au cours de laquelle le recourant a pu s'exprimer. En outre, un témoin a été entendu.
Par jugement du 16 avril 1998, le tribunal cantonal des assurances a rejeté le recours et confirmé la décision entreprise. Les juges ont considéré que le traitement préconisé par le docteur U._ n'apporterait pas d'amélioration notable de l'état de santé du recourant, en particulier en raison du contexte psychologique.
C.- P._, représenté par Maître O._, avocat, forme recours de droit administratif contre ce jugement, dont il demande l'annulation en concluant à ce que le traitement proposé par le docteur U._ soit pris en charge par la CNA. En outre, le recourant suggère que le Tribunal fédéral des assurances ordonne deux expertises dont l'exécution serait confiée aux docteurs U._ et R._.
La CNA conclut au rejet du recours. Quant à l'Office fédéral des assurances sociales, il n'a pas fait usage de la faculté qui lui avait été offerte de se déterminer sur le recours.

Considérant en droit :
1.- Le litige porte sur le point de savoir si l'assureur-accidents doit prendre en charge le traitement supplémentaire que réclame le recourant pour sa main droite.
2.- a) En principe, le traitement médical est généralement appliqué et accordé à l'assuré jusqu'à la fixation de la rente d'invalidité (<ref-law>, a contrario). En vertu de l'article 10 al. 1 LAA, l'assuré a droit au traitement médical approprié des lésions résultant de l'accident. Le traitement doit être en adéquation avec son but, c'est à dire de nature à apporter une amélioration sensible de l'état de l'assuré. Les mesures médicales doivent se limiter à ce qui est exigé par le but du traitement (voir <ref-law>). En d'autres termes, l'assuré a droit à des prestations médicales tant que l'on peut attendre de la continuation du traitement une amélioration notable de son état de santé (<ref-ruling>, consid. 2c).
b) L'article 21 al. 1 LAA énumère les cas où l'assuré a droit à un traitement médical après la fixation de la rente d'invalidité. C'est notamment le cas lorsque l'assuré présente une incapacité de gain et que des mesures médicales amélioreraient notablement son état de santé ou empêcheraient que celui-ci ne subisse une notable détérioration (lettre d). Par incapacité de gain, il faut entendre une incapacité totale de gain. En effet, cette dernière hypothèse de l'article 21 al. 1 LAA ne concerne que les assurés totalement invalides, c'est à dire ceux qui n'ont aucune capacité de gain résiduelle. Ce droit aux prestations médicales existe donc même si la capacité de gain de l'assuré n'est pas influencée par le traitement. (Maurer, Unfallversicherungsrecht, p. 384; <ref-ruling> consid. 4).
c) Pour déterminer si les mesures médicales sollicitées amélioreraient notablement l'état de santé de l'assuré ou si elles empêcheraient que celui-ci ne subisse une notable détérioration, il convient d'apprécier le traitement proposé en se fondant essentiellement sur des renseignements d'ordre médical. Il s'agit ensuite de se déterminer en se conformant à la règle du degré de vraisemblance prépondérante appliquée généralement à l'appréciation des preuves dans l'assurance sociale (<ref-ruling> consid. 2). Ainsi, lorsque l'amélioration notable paraît possible mais qu'elle ne peut pas être qualifiée de probable dans le cas particulier, le droit de l'assuré d'obtenir des prestations médicales après la fixation de la rente doit être nié.
d) En l'espèce, se fondant sur le pronostic du docteur U._ lui-même, les juges cantonaux ont considéré que le traitement antalgique que celui-ci proposait n'était pas de nature à apporter une amélioration notable de l'état de santé du recourant.
Ce point de vue doit être confirmé. En effet, dans son courrier du 23 octobre 1995 au médecin traitant du recourant, le docteur U._ a indiqué que, tout comme ses autres confrères, il pensait illusoire d'espérer retrouver une bonne mobilité du membre supérieur droit et de la main du patient. Toutefois, afin d'essayer de faire diminuer les douleurs, il n'estimait pas déraisonnable de proposer à ce dernier une série de gestes antalgiques spécifiques pour pouvoir ensuite, en cas d'amélioration, lui faire reprendre une physiothérapie intensive. Malgré les problèmes assécurologiques du recourant et bien qu'il soit délicat de prévoir les résultats auxquels on arriverait, ce praticien proposait néanmoins d'entreprendre un traitement antalgique pour tenter de diminuer les douleurs ressenties par le patient. Interrogé par le juge instructeur, le docteur U._ a précisé par lettre du 22 juillet 1997 que le type de traitement suggéré avait quelques chances de diminuer les douleurs ressenties mais il a concédé que les chances d'améliorer un tant soit peu la symptomatologie douloureuse étaient faible. En outre, il ressort des avis médicaux des docteurs B._ (2 février 1994) et Q._ (4 août 1997) qu'il n'y a plus de signe d'algodystrophie en activité et que, dès lors, il n'y avait malheureusement plus de traitement à proposer, la physiothérapie n'ayant pas donné les résultats escomptés. Enfin, d'autres spécialistes ont estimé qu'il était superflu de formuler d'autres propositions sur le plan thérapeutique (voir les avis des docteurs V._, H._, K._ et W._).
e) Certes, le médecin traitant du recourant a-t-il préconisé de mettre en oeuvre le traitement litigieux principalement dans un but antalgique. En effet, le docteur M._ a soutenu que son patient présentait une impotence fonctionnelle totale et souffrait de douleurs constantes et invalidantes. Toutefois, ce praticien a admis qu'il était impossible, vu le caractère rare de l'affection, de faire un pronostic sur l'efficacité éventuelle des mesures proposées. Selon lui, si ces mesures s'étaient avérées inefficaces du point de vue de l'antalgie, elles auraient pour le moins apporté un soulagement psychologique au recourant.
Cette considération du médecin traitant ne fait donc
que confirmer les doutes du docteur U._ à propos du résultat du traitement antalgique proposé.
3.- a) Le recourant soutient que les mesures thérapeutiques antalgiques litigieuses sont susceptibles de le soulager psychologiquement. En outre, elles devraient, selon lui, être accompagnées d'un suivi psychothérapeutique ou psychiatrique. Il en conclut que de telles mesures empêcheraient sa santé psychique de se détériorer.
b) Cet argument est dénué de pertinence puisque l'intimée n'a jamais admis la prise en charge de l'atteinte psychique du recourant. Au contraire, dans ses décisions des 10 août 1993 et 19 septembre 1994, la CNA a exclu le droit aux prestations concernant les troubles psychogènes, estimant que ceux-ci n'étaient pas en relation de causalité avec l'accident.
c) Même si l'on admettait que l'intimée n'a pas totalement exclu la prise en charge des troubles psychiques en décidant d'augmenter la rente d'invalidité allouée au recourant conformément à la transaction du 31 août 1994, il faudrait néanmoins considérer, comme l'a fait l'intimée dans sa décision sur opposition du 11 juillet 1996, qu'il n'y a pas de lien de causalité adéquate entre l'accident du 5 septembre 1989 et les troubles psychiques constatés chez le recourant au cours du traitement. En effet, l'existence d'une telle relation des troubles doit être niée au regard des faits de la cause. D'un point de vue objectif, l'accident de la circulation dont a été victime le recourant peut être classé dans la catégorie des accidents de gravité moyenne. Or, l'analyse des critères objectifs posés par la jurisprudence en matière de troubles psychiques consécutifs à un accident de gravité moyenne (<ref-ruling> consid. 6, 407 consid. 5) ne permet pas de conclure en l'espèce à l'existence d'une relation de causalité adéquate entre cet accident et la symptomatologie psychique de type dépressif développée par le recourant. L'accident et ses circonstances concomitantes ne sauraient à l'évidence être qualifiés de particulièrement dramatiques ou de spécialement impressionnants. Les lésions subies par le recourant n'apparaissent pas particulièrement graves. S'agissant de la durée de l'incapacité de travail due aux lésions physiques, elle a été, selon toute vraisemblance, fortement influencée par l'état dépressif du recourant. Certes, le traitement médical a été relativement long et les difficultés assez importantes compte tenu de la nature des lésions somatiques subies par l'assuré. Toutefois, vu l'ensemble de ces circonstances et comme aucun de ces deux derniers critères ne revêt à lui seul une importance décisive, il faut nier l'existence d'un lien de causalité adéquate entre l'accident et les troubles psychiques développés par le recourant.
4.- Enfin, compte tenu des nombreux avis médicaux qui sont au dossier et dans la mesure où l'instruction de la cause a été effectuée de manière approfondie par l'intimée et par le tribunal cantonal, il n'y a pas lieu de donner suite aux deux demandes d'expertises formulées par le recourant.
5.- Vu ce qui précède, le jugement entrepris n'est pas critiquable et le recours se révèle mal fondé.

Par ces motifs, le Tribunal fédéral des assurances
p r o n o n c e :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au
Tribunal des assurances du canton de Vaud et à
l'Office fédéral des assurances sociales.
Lucerne, le 9 mai 2000
Au nom du
Tribunal fédéral des assurances
Le Président de la IIIe Chambre :
Le Greffier ad hoc: