A.- S._ souffrait d'une affection psychique pour laquelle elle a été traitée pendant de nombreuses années par le docteur G._, médecin-psychiatre à l'Hôpital Y._. Du 13 au 21 novembre 1995, elle a été hospitalisée à l'Hôpital X._ pour les suites, notamment, d'une attaque avec lésions diverses, ainsi que pour des crises épileptiques partielles hémicorporelles. Elle a ensuite été transférée à l'établissement Z._, où elle a séjourné les 21 et 22 novembre 1995, en vue d'une réadaptation motrice. Elle a toutefois développé un comportement agressif, dans le cadre d'un état anxio-dépressif, ce qui a motivé son transfert à l'Hôpital Y._, en division des soins généraux prévus pour les malades de type «A psychiatrique». Elle a séjourné dans cet hôpital du 22 novembre 1995 au 19 mai 1997, date à laquelle elle est entrée à l'établissement médico-social R._, dont le médecin consultant est le docteur G._.
B.- S._ était assurée auprès de la Caissemaladie SUPRA pour l'assurance obligatoire des soins. Par lettre du 23 octobre 1996, qui faisait suite à divers échanges de correspondance, la SUPRA a informé la direction de l'Hôpital Y._ que, dès le 1er août 1996, le séjour de l'assurée serait considéré comme un hébergement médico-social et qu'il devait, par conséquent, être facturé au tarif prévu par la Convention vaudoise d'hébergement médico-social (CVhé), soit 60 fr. par jour. Une copie de cette lettre fut adressée à la patiente. Le 18 novembre 1996, l'Hôpital Y._, se référant à cette lettre de la SUPRA, a informé le curateur de l'assurée que, dès le 1er août 1996, il facturerait directement à cette dernière une participation aux frais de pension de 136 fr. par jour.
Par l'intermédiaire de son curateur, S._ a
contesté la position de la caisse.
Par décision du 24 décembre 1996, celle-ci a accepté
d'allouer des prestations pour une hospitalisation nécessitant des soins psychiatriques aigus jusqu'au 15 septembre 1996 (ces prestations étant de 359 fr. par jour pour 1995 et de 346 fr. par jour pour 1996). Dès le 16 septembre 1996, le séjour de l'assurée devait être qualifié d'hébergement médico-social au sens de la CVhé (type C). Les prestations à verser à ce titre s'élèveraient à 60 fr. par jour, sous réserve de modifications pour l'année 1997.
Saisie d'une opposition de l'assurée, la caisse l'a rejetée, par une nouvelle décision, du 3 mars 1997.
C.- S._ a recouru contre cette décision par écriture du 3 avril 1997. Elle est décédée le 25 janvier 1998. Ses héritiers ont décidé de poursuivre la procédure.
A la demande du Tribunal des assurances du canton de Vaud, le docteur G._ a répondu à diverses questions dans un rapport du 26 février 1999. Statuant le 21 septembre 1999, le tribunal a partiellement admis le recours et il a réformé la décision attaquée dans le sens des considérants. Il a retenu que l'assureur devait prendre en charge jusqu'au 31 décembre 1996 les frais d'hospitalisation de l'assurée à l'Hôpital Y._«au titre d'un séjour de type A» selon la convention vaudoise d'hospitalisation (CVho).
D.- Les hoirs de feue S._ interjettent un recours de droit administratif dans lequel ils concluent à la réforme du jugement cantonal en ce sens que la SUPRA «doit répondre de l'hospitalisation A selon la CVho de feue S._ pour la période du 16 septembre 1996 au 19 mai 1997».
La SUPRA conclut principalement au rejet du recours. Subsidiairement, elle conclut à la confirmation de ses décisions. Quant à l'Office fédéral des assurances sociales, il ne s'est pas déterminé au sujet du recours.

Considérant en droit :
1.- a) Selon l'<ref-law>, la rémunération allouée en cas d'hospitalisation s'effectue conformément au tarif applicable à l'hôpital (servant au traitement hospitalier de maladies aiguës au sens de l'<ref-law>) en vertu de l'art. 49 al. 1 et 2 LAMal, tant que le patient a besoin, selon l'indication médicale, d'un traitement et de soins ou d'une réadaptation médicale en milieu hospitalier. Si cette condition n'est plus remplie, le tarif selon l'<ref-law> est applicable. Aux termes de cette dernière disposition légale, l'assureur prend en charge, en cas de séjour dans un établissement médico-social (<ref-law>), les mêmes prestations que pour un traitement ambulatoire et pour les soins à domicile; il peut toutefois convenir, avec l'établissement médico-social, d'un mode de rémunération forfaitaire. L'<ref-law> reprend la jurisprudence rendue à propos du principe d'économie du traitement prescrit à l'art. 23 LAMA (cf. le message du Conseil fédéral concernant la révision de l'assurance-maladie du 6 novembre 1991, FF 1992 I 168; <ref-ruling> consid. 1b).
Par conséquent, selon le nouveau droit également, le
caractère économique du traitement n'autorise un séjour dans un hôpital pour patients atteints de maladie aiguë, au tarif des établissements hospitaliers, qu'aussi longtemps qu'un tel séjour est rendu nécessaire par le but du traitement (<ref-ruling> consid. 1). De même, conformément à la jurisprudence rendue du temps de la LAMA, il convient, si nécessaire, d'accorder à l'assuré séjournant dans un hôpital pour patients atteints d'une affection aiguë une brève période d'adaptation pour lui permettre de se rendre dans un établissement médico-social ou une division de ce type (<ref-ruling> consid. 2c).
Dans ce contexte, on relèvera encore que l'assureurmaladie n'a pas à répondre du surcroît de coûts résultant
du fait que l'assuré séjourne dans un établissement hospitalier parce qu'il n'y a pas de lit disponible dans un établissement médico-social (<ref-ruling> consid. 1b et les références citées).
b) Aux termes de l'art. 8 al. 2 let. b de la Convention vaudoise d'hospitalisation (CVho), à laquelle les premiers juges se réfèrent, les malades dits «A psychiatriques» sont des malades atteints d'affections aiguës nécessitant des soins psychiatriques continus et intensifs. Les moyens d'investigation, d'intervention qui en découlent sont importants en terme d'équipement et de personnel. Les traitements sont prescrits notamment en fonction de la gravité de la symptomatologie ou dans le cadre d'un contrat thérapeutique à visée de changement.
Par ailleurs, dans le canton de Vaud, les relations financières entre les diverses parties intéressées, aux fins de couvrir les coûts d'exploitation des établissements médico-sociaux ainsi que des divisions et lits médico-sociaux (EMS), en faveur des pensionnaires qu'ils accueillent, ont été régies de 1992 à 1996 par trois Conventions vaudoises d'hébergement médico-social (CVhé 1992, 1994 et 1996). Selon les dispositions de la CVhé en vigueur en 1996, étaient considérés de type «C» les séjours effectués par les personnes atteintes d'affections chroniques, en règle générale stabilisées, assurées auprès d'un assureur conventionné et dont le certificat d'admission est pris en considération par ledit assureur.
2.- a) Sur la base des déclarations du docteur G._, les premiers juges considèrent que la patiente n'avait plus besoin d'un traitement pour malade atteint d'une affection aiguë à partir du 15 septembre 1996. L'assurée en a toutefois été informée à réception seulement de la copie de la lettre du 23 octobre 1996 de la SUPRA à l'Hôpital Y._. Comme la caisse a suivi de près le cas de l'assurée à partir du mois de mars 1996 déjà, elle ne pouvait pas limiter rétroactivement au 15 septembre 1996 le droit au remboursement de ses frais d'hospitalisation. De plus, dès le mois d'octobre 1996, il eût fallu accorder à l'intéressée une brève période d'adaptation, jusqu'au 31 décembre 1996, pour lui permettre de se rendre dans un établissement médico-social, conformément à la jurisprudence susmentionnée. Aussi bien les premiers juges concluent-ils que l'assureur doit prendre en charge jusqu'au 31 décembre 1996 les frais d'hospitalisation de l'assurée à l'Hôpital Y._ «au titre d'un séjour de type A selon la CVho».
Il s'agit dès lors de savoir si la caisse doit encore répondre d'une hospitalisation pour patient atteint de maladie aiguë (type «A psychiatrique») au-delà du 31 décembre 1996 et jusqu'au 19 mai 1997. On notera au passage que l'indemnisation pour la période postérieure au 19 mai 1997, date à laquelle l'assurée a été placée dans l'établissement R._, n'est pas en discussion.
b) Il ressort du rapport du docteur G._ du 26 février 1999 que des raisons médicales rendaient nécessaire, pour l'assurée, un séjour dans une division pour soins aigus en raison d'une «problématique oscillant entre des phases aiguës et sub-aiguës» demandant un encadrement médical et soignant soutenu. A la question lui demandant si la patiente aurait pu être transférée dans un établissement prévu pour des séjours du type «C», pour la période du 16 septembre 1996 au 19 mai 1997, ce médecin a répondu qu'il était «imaginable» de placer la patiente dans un seul établissement médico-social psychogériatrique pouvant accepter et encadrer correctement «une problématique de ce type» et permettant un transfert correct des informations médicales, ainsi qu'un suivi par un médecin qui connaissait la patiente. Si le placement dans un établissement médico-social n'est intervenu que le 19 mai 1997, c'est parce qu'à ce moment-là il a été possible d'obtenir une place dans l'établissement médico-social R._, qui garantissait une prise en charge psychiatrique hautement spécialisée, adéquate pour la patiente et permettant un suivi médical par la même équipe. Le placement dans un autre établissement médico-social n'a pas été envisagé, car le risque d'une nouvelle décompensation était hautement probable.
A la question lui demandant si, à son avis, la décision de la SUPRA de considérer le séjour de l'assurée dès le 16 septembre 1996 comme un séjour relevant du type «C», le docteur G._ a reconnu qu'il n'était pas facile d'apporter une réponse et il a notamment déclaré ce qu'il suit :
«La notion de long terme ou de chronique aboutit souvent à un déclassement unilatéral par les assurances-maladie en patients de type C. Ce déclassement est le plus souvent mal accepté par les familles qui voient que l'un des leurs reste malade mais qu'on diminue les prestations financières. Nous avons tenté le placement de Mme S._ dans un EMS qui avait la compétence de prendre en charge une telle problématique et qui permettait une continuité du suivi médical. Les établissements ayant des compétences aussi spécifiques sont très rares dans le réseau de soins. A l'heure actuelle ils se sont épuisés dans la prise en charge de ce type de patients, faute de reconnaissance et de moyens financiers. Depuis l'automne 1998 aucun EMS n'accepterait d'héberger et de prendre en soin une telle patiente».
Le docteur G._ a encore précisé que les médecins de l'Hôpital Y._ n'avaient pas contesté la
décision de la SUPRA de considérer le séjour de la patiente, à partir du 16 septembre 1996, comme un séjour de type «C». D'ailleurs, bien que l'Hôpital Y._ soit un établissement pour soins aiguës, il a appliqué, pour la période du 16 septembre 1996 au 19 mai 1997, le tarif correspondant à un hébergement dans un établissement médico-social, impliquant une participation de l'assurée aux frais de pensions (136 fr. par jour en 1996 et 137 fr. 30 en 1997)
c) On peut retenir de ces déclarations qu'il existait, en 1996 et 1997, certains établissements médico-sociaux spécialisés qui eussent été susceptibles d'accueillir la patiente, en particulier l'établissement R._. Si l'assurée a continué à séjourner à l'Hôpital Y._ (après le 15 septembre 1996), c'est dans l'attente d'une place disponible dans un établissement médico-social spécialisé qui fût à même de garantir à l'assurée les soins spécifiques dont elle avait besoin et qui, en outre, permît un suivi médical par le docteur G._. L'établissement R._ répondait à ces critères, mais, faute de place, l'assurée n'a pu y être placée qu'à partir du 19 mai 1997. On peut donc admettre, avec les premiers juges, que l'état de l'assurée ne nécessitait plus, dès la mi-septembre 1996, un séjour dans un établissement hospitalier.
Dans de telles conditions, le jugement attaqué n'apparaît pas critiquable. Comme on l'a vu, l'assureur-maladie n'a pas à répondre du fait qu'aucun lit ne fût en l'occurrence disponible dans un établissement médico-social.
D'autre part, contrairement aux conclusions subsidiaires de l'intimée, on ne voit pas de motif de remettre en cause le jugement attaqué, dans la mesure où les premiers juges considèrent, pour les motifs ci-dessus exposés (cf. supra consid. 2a) que, malgré l'absence de nécessité d'un traitement hospitalier à partir du 16 septembre 1996, la caisse doit calculer ses prestations selon l'<ref-law> jusqu'au 31 décembre 1996. Ces conclusions subsidiaires, du reste, ne sont pas motivées.
3.- C'est dire en résumé que, conformément au jugement attaqué, il incombera à la caisse de prendre en charge les frais de séjour de l'assurée, jusqu'au 31 décembre 1996, selon le tarif conventionnel applicable en cas d'hospitalisation. En revanche, dès le 1er janvier 1997, la caisse allouera les prestations prévues en cas de séjour dans un établissement médico-social.
Le recours de droit administratif est mal fondé.

Par ces motifs, le Tribunal fédéral des assurances
p r o n o n c e :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au Tri-
bunal des assurances du canton de Vaud et à l'Office
fédéral des assurances sociales.
Lucerne, le 29 janvier 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIe Chambre :
Le Greffier :