A.- S._ souffrait d'une affection psychique pour laquelle elle a été traitée pendant de nombreuses années par le docteur G._, médecin-psychiatre à l'Hôpital Y._. Du 13 au 21 novembre 1995, elle a été hospitalisée à l'Hôpital X._ pour les suites, notamment, d'une attaque avec lésions diverses, ainsi que pour des crises épileptiques partielles hémicorporelles. Elle a ensuite été transférée à l'établissement Z._, où elle a séjourné les 21 et 22 novembre 1995, en vue d'une réadaptation motrice. Elle a toutefois développé un comportement agressif, dans le cadre d'un état anxio-dépressif, ce qui a motivé son transfert à l'Hôpital Y._, en division des soins généraux prévus pour les malades de type «A psychiatrique». Elle a séjourné dans cet hôpital du 22 novembre 1995 au 19 mai 1997, date à laquelle elle est entrée à l'établissement médico-social R._, dont le médecin consultant est le docteur G._. B.- S._ était assurée auprès de la Caissemaladie SUPRA pour l'assurance obligatoire des soins. Par lettre du 23 octobre 1996, qui faisait suite à divers échanges de correspondance, la SUPRA a informé la direction de l'Hôpital Y._ que, dès le 1er août 1996, le séjour de l'assurée serait considéré comme un hébergement médico-social et qu'il devait, par conséquent, être facturé au tarif prévu par la Convention vaudoise d'hébergement médico-social (CVhé), soit 60 fr. par jour. Une copie de cette lettre fut adressée à la patiente. Le 18 novembre 1996, l'Hôpital Y._, se référant à cette lettre de la SUPRA, a informé le curateur de l'assurée que, dès le 1er août 1996, il facturerait directement à cette dernière une participation aux frais de pension de 136 fr. par jour. Par l'intermédiaire de son curateur, S._ a contesté la position de la caisse. Par décision du 24 décembre 1996, celle-ci a accepté d'allouer des prestations pour une hospitalisation nécessitant des soins psychiatriques aigus jusqu'au 15 septembre 1996 (ces prestations étant de 359 fr. par jour pour 1995 et de 346 fr. par jour pour 1996). Dès le 16 septembre 1996, le séjour de l'assurée devait être qualifié d'hébergement médico-social au sens de la CVhé (type C). Les prestations à verser à ce titre s'élèveraient à 60 fr. par jour, sous réserve de modifications pour l'année 1997. Saisie d'une opposition de l'assurée, la caisse l'a rejetée, par une nouvelle décision, du 3 mars 1997. C.- S._ a recouru contre cette décision par écriture du 3 avril 1997. Elle est décédée le 25 janvier 1998. Ses héritiers ont décidé de poursuivre la procédure. A la demande du Tribunal des assurances du canton de Vaud, le docteur G._ a répondu à diverses questions dans un rapport du 26 février 1999. Statuant le 21 septembre 1999, le tribunal a partiellement admis le recours et il a réformé la décision attaquée dans le sens des considérants. Il a retenu que l'assureur devait prendre en charge jusqu'au 31 décembre 1996 les frais d'hospitalisation de l'assurée à l'Hôpital Y._«au titre d'un séjour de type A» selon la convention vaudoise d'hospitalisation (CVho). D.- Les hoirs de feue S._ interjettent un recours de droit administratif dans lequel ils concluent à la réforme du jugement cantonal en ce sens que la SUPRA «doit répondre de l'hospitalisation A selon la CVho de feue S._ pour la période du 16 septembre 1996 au 19 mai 1997». La SUPRA conclut principalement au rejet du recours. Subsidiairement, elle conclut à la confirmation de ses décisions. Quant à l'Office fédéral des assurances sociales, il ne s'est pas déterminé au sujet du recours.