A.- A._ habite depuis le mois de décembre 1994 à X._, dans une maison appartenant à B._. Par décision du 2 novembre 1995, la Caisse de compensation du canton de Berne (ci-après : la caisse) lui a alloué une prestation complémentaire à sa rente de vieillesse d'un montant mensuel de 178 fr. pour le mois de décembre 1994, et de 111 fr. à partir du 1er janvier 1995.
A._ a recouru contre cette décision. Produisant un contrat de bail daté du 23 décembre 1994 et des quittances de loyer signées par B._, pour les mois de décembre 1994 à décembre 1995, il a fait valoir qu'il louait l'étage supérieur de la maison appartenant à cette dernière, qui occupait pour sa part le rez-de-chaussée.
Aussi demandait-il que le loyer fixé dans le contrat de bail produit fût intégralement pris en considération dans le calcul de son droit à des prestations complémentaires.
Dans le délai de réponse, la caisse a modifié la décision entreprise et alloué à A._ une prestation complémentaire d'un montant mensuel de 543 fr., pour le mois de décembre 1994, de 476 fr., pour la période du 1er janvier au 31 décembre 1995, et de 337 fr. dès le 1er janvier 1996 (décision du 4 janvier 1996). Cette prestation était calculée en déduisant du revenu déterminant de l'assuré la totalité du loyer net convenu par contrat de bail, ainsi qu'un montant forfaitaire annuel de 600 fr. pour les frais accessoires. Le Tribunal administratif du canton de Berne a alors rayé la cause du rôle.
La caisse a ensuite périodiquement adapté le montant alloué à A._ à l'évolution des circonstances. Ainsi, le 22 février 2000, elle a réexaminé son droit à une prestation complémentaire, qu'elle a fixé à 647 fr. par mois dès le 1er février 2000. Les dépenses reconnues pour le loyer et les frais accessoires correspondaient au loyer brut fixé par contrat de bail du 23 décembre 1994 (10 440 fr. par année). Toutefois, par décision du 13 mars 2000, la caisse a suspendu ses prestations à partir du 1er avril 2000.
B.- A._ a recouru devant le Tribunal administratif du canton de Berne contre cette décision. Dans le délai de réponse, la caisse a rendu une nouvelle décision, le 17 mai 2000, par laquelle elle reconnaissait le droit de l'assuré à une prestation complémentaire de 240 fr. par mois dès le 1er avril 2000. Les dépenses admises pour le loyer brut étaient réduites à 3575 fr. par année.
Le Tribunal administratif du canton de Berne a toutefois considéré que cette nouvelle décision de la caisse ne rendait pas le recours sans objet et par jugement du 13 septembre 2000, il a débouté l'assuré de ses prétentions.
C.- Par un recours de droit administratif, A._ demande l'annulation du jugement cantonal du 13 septembre 2000 et des décisions de la caisse des 13 mars et 17 mai 2000, ainsi que l'augmentation de la prestation complémentaire allouée par décision du 22 février 2000. L'intimée conclut au rejet du recours, alors que l'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- Lorsque, comme en l'espèce, le litige porte sur l'octroi ou le refus de prestations d'assurances, le pouvoir d'examen du Tribunal fédéral des assurances n'est pas limité à la violation du droit fédéral - y compris l'excès et l'abus du pouvoir d'appréciation - mais s'étend également à l'opportunité de la décision attaquée. Le tribunal n'est alors pas lié par l'état de fait constaté par la juridiction inférieure, et il peut s'écarter des conclusions des parties à l'avantage ou au détriment de celles-ci (art. 132 OJ).
2.- Par analogie avec la révision d'un jugement par une autorité judiciaire, l'administration est tenue de procéder à la révision d'une décision entrée en force formelle lorsque sont découverts des faits nouveaux ou de nouveaux moyens de preuve, susceptibles de conduire à une appréciation juridique différente (révision procédurale d'une décision; <ref-ruling> consid. 4b, 46 consid. 2b et les références). La nouvelle décision prendra effet non seulement pour l'avenir, mais également de manière rétroactive, indépendamment d'une faute de l'assuré, sous réserve d'une réglementation particulière dans certaines branches d'assurance sociale (cf. les art. 85 al. 2 et 88bis al. 2 let. a et b RAI). Aussi une prestation accordée en vertu d'une décision qui est, formellement, passée en force, doit-elle être restituée si les conditions d'une révision sont remplies (<ref-ruling> consid. 2b, 138 consid. 2d et 2e; SVR 1998 EL 9 21, consid. 5b et 6a).
Il convient par ailleurs de distinguer la situation dans laquelle une révision procédurale doit être entreprise de celle que régit notamment l'<ref-law>. Cette disposition permet d'adapter une décision à des modifications postérieures de la situation personnelle et économique de l'assuré (arrêts cités), alors qu'il y a lieu à révision procédurale lorsque cette décision reposait d'emblée sur des constatations de faits erronées. En principe, une décision prononcée conformément à l'<ref-law> ne prend effet que pour l'avenir (art. 25 al. 2 let. a à d OPC-AVS/AI).
3.- Par ses décisions des 13 mars et 17 mai 2000, l'intimée a réduit le montant de la prestation complémentaire allouée au recourant par décision du 22 février 2000, formellement entrée en force. En effet, elle ne reconnaissait plus comme dépense de loyer le montant indiqué dans le contrat de bail du 23 décembre 1994, mais entendait prendre en considération, en lieu et place, la moitié de la valeur locative de la maison où habite le recourant, évaluée d'après les critères de la législation fiscale cantonale (2735 fr.) en y ajoutant un montant de 840 fr. pour les frais accessoires.
Pour sa part, le recourant fait valoir qu'il n'y a pas lieu de diminuer la prestation complémentaire dont il bénéficiait jusqu'alors, mais qu'il faut au contraire l'augmenter, en raison des frais causé par son état de santé déficient.
a) D'après l'<ref-law> (introduit par la modification du 26 novembre 1997 de l'OPC-AVS/AI, entrée en vigueur le 1er janvier 1998 [RO 1997 III 2961 ss]), lorsque des appartements ou des maisons familiales sont aussi occupés par des personnes non comprises dans le calcul des prestations complémentaires, le loyer doit être réparti entre toutes les personnes. Les parts de loyer des personnes non comprises dans le calcul des prestations complémentaires ne sont pas prises en compte lors du calcul de la prestation complémentaire annuelle (al. 1). En principe, le montant du loyer est réparti à parts égales entre toutes les personnes (al. 2). Par loyer au sens de cette disposition, il faut entendre le loyer brut, comprenant l'acompte mensuel pour les frais accessoires (<ref-law>, introduit par la modification du 20 juin 1997 de la LPC, entrée en vigueur le 1er janvier 1998 [RO 1997 III 2952 ss]).
Cette règle est applicable par analogie lorsque les membres d'une communauté d'habitation ou de ménage habitent dans un immeuble propriété de l'un d'eux. Il convient alors de se fonder sur la valeur locative brute de l'immeuble, estimée selon les critères de la législation sur l'impôt cantonal direct du canton de domicile ou, à défaut, selon ceux de l'impôt fédéral direct (cf. <ref-law>), et de répartir celle-ci entre les membres de la communauté domestique (arrêt T. du 30 mars 2001 [P 2/01], consid. 2). De même, on répartira entre eux le forfait annuel de 1680 fr. déductible à titre de frais accessoires par les personnes habitant leur propre immeuble (<ref-law>, introduit par la modification citée de l'OPC-AVS/AI).
Toutefois, si un contrat de bail a été conclu entre le propriétaire de l'immeuble et l'assuré, et si le loyer brut convenu est effectivement payé, ce loyer est déterminant pour le calcul de la prestation complémentaire annuelle, à moins qu'il n'apparaisse comme majoré de façon manifestement abusive (arrêt cité; cf. également Pra 1996 p. 972 consid. 3).
b) aa) Le recourant et B._ habitent depuis le mois de décembre 1994 dans la maison dont cette dernière est propriétaire. Ils y forment une communauté d'habitation, au sens de la jurisprudence énoncée ci-dessus (consid. 3a), dans la mesure où l'étage supérieur de la maison, qui ne comporte d'après le recourant que 3 chambres et une salle de bain, ne peut pas être considéré comme un logement indépendant. Quoiqu'il en soit, l'<ref-law> se réfère expressément aux situations dans lesquelles une maison familiale est aussi occupée par des personnes non comprises dans le calcul des prestations complémentaires, ce qui est précisément le cas en l'espèce.
bb) Dans une lettre du 7 mars 2000 adressée à l'intimée, B._ a exposé qu'elle avait acheté sa maison avec A._. Ces déclarations sont corroborées par l'existence d'une cédule hypothécaire de 250 000 fr.
grevant l'immeuble, dont le recourant est codébiteur solidaire avec B._. A cela s'ajoute que cette dernière n'a signé des quittances de loyers que pour les mois de décembre 1994 à décembre 1995, et que, pour les mois suivants, le recourant n'a pu produire que six récépissés postaux attestant d'autant de paiements ponctuels de 870 fr. à B._, entre le 6 août 1998 et le 27 mars 2000. Enfin, cette dernière n'a pas indiqué qu'elle avait perçu un loyer, dans ses déclarations fiscales pour les périodes de taxation 1997/1998 et 1999/2000.
Sur la base de ce faisceau d'indices, on doit rejoindre l'appréciation des premiers juges et retenir que le recourant ne s'acquitte pas régulièrement du loyer allégué, depuis plusieurs années. Ce fait nouveau constitue un motif de révision procédurale de la décision du 22 février 2000, voire des décisions rendues antérieurement par la caisse.
Aussi cette dernière s'est-elle à bon droit prononcée une nouvelle fois sur le montant des prestations complémentaires allouées au recourant, en ne reconnaissant comme dépense de loyer que la moitié de la valeur locative de la maison de A._ (2735 fr. par année) et la moitié du forfait annuel pour les frais accessoires, selon l'<ref-law> (840 fr.).
c) Par ailleurs, le recourant n'expose pas en quoi l'intimée n'aurait pas tenu compte des dépenses entraînées par son état de santé, mais se borne à cet égard à des allégations très générales. Sur ce point, au vu du dossier, il n'y a pas lieu de s'écarter du montant retenu par la caisse dans sa décision du 17 mai 2000, soit 2100 fr. par année.
4.- Les décisions litigieuses ont pour effet de réduire la prestation complémentaire allouée au recourant à partir du 1er avril 2000. Toutefois, vu ce qui précède, la caisse aurait également dû se prononcer sur le droit du recourant aux prestations versées jusqu'au 31 mars 2000 en vertu de décisions rendues sur la base de constatations de faits erronées, et exiger de sa part, en principe, la restitution des prestations indûment perçues (<ref-law>).
Cela étant, le Tribunal fédéral des assurances pourrait réformer le jugement entrepris au détriment du recourant (art. 132 let. c OJ) après lui avoir donné la possibilité de s'exprimer à ce sujet et, le cas échéant, de retirer son recours. Il s'agit cependant d'une faculté (<ref-ruling> consid. 5) dont il n'y a pas lieu de faire usage en l'espèce, au vu de l'ensemble des circonstances.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au Tribunal administratif du canton de Berne, Cour des affaires de langue française et à l'Office fédéral des
assurances sociales.
Lucerne, le 1er juin 2001
Au nom du
Tribunal fédéral des assurances
p. le Président de la IIIe Chambre :
Le Greffier :