A.- A._ a travaillé à partir du 1er août 1985 en qualité de chef de service auprès du restaurant X._ SA. A ce titre, il était assuré par la VAUDOISE Assurances pour les accidents professionnels et non professionnels.
Le 23 décembre 1991, un client du restaurant qui avait cassé trois cendriers et que A._ avait retenu parce qu'il voulait sortir de l'établissement, a sorti une arme et tiré un coup de feu en cherchant à toucher ce dernier, puis s'est rapproché du bar alors que A._ se trouvait au téléphone, tirant un deuxième coup de feu dans sa direction. Ces coups de feu ne l'ont pas atteint. En revanche, il a présenté par la suite des troubles du sommeil, des cauchemars, un état de tension et d'angoisse intense, raison pour laquelle il a consulté à plusieurs reprises le Centre Z._ dès le 30 décembre 1991. Le cas n'a pas été annoncé à la VAUDOISE.
En traitement depuis janvier 1995 auprès du Centre Z._ pour un état dépressif, A._ a présenté dès janvier 1996 une incapacité totale puis partielle de travail. A partir de mars 1996, le docteur B._, spécialiste FMH en psychiatrie et psychothérapie, a été son médecin traitant.
Le 8 avril 1996, alors que A._ sortait de X._ à l'heure de la fermeture, il a été victime d'une agression de la part d'un inconnu, qui l'a frappé au visage et l'a légèrement blessé au ventre par un objet pointu. Le lendemain, le docteur C._, chef de clinique à l'Hôpital Y._, a diagnostiqué une contusion de la face et une plaie abdominale superficielle par arme blanche (rapport médical initial LAA, du 23 avril 1996). A la suite d'une tentative de suicide, l'assuré a séjourné à la clinique D._ du 25 avril au 24 mai 1996. Le docteur E._, chef de clinique, a posé le diagnostic d'état de stress post-traumatique. Dans un rapport médical intermédiaire du 3 juin 1996, le docteur B._ a retenu les diagnostics de syndrome de stress post-traumatique chronique et d'état dépressif chronique.
Le docteur F._, spécialiste FMH en neurologie, a procédé à un examen le 3 septembre 1996, lequel n'a montré aucun signe d'une affection neurologique sousjacente. Il a conclu à des troubles psychogènes dus aux deux traumatismes des 23 décembre 1991 et 8 avril 1996 (communications au docteur B._ du 4 septembre 1996 et au médecin-conseil de la VAUDOISE du 2 octobre 1996).
Selon un rapport d'examen psychologique du 7 octobre 1996, établi par la psychologue G._, A._ présente une organisation psychotique de la personnalité d'allure schizophrénique.
La VAUDOISE a confié une expertise au docteur H._, spécialiste FMH en psychiatrie-psychothérapie et médecin répondant du Centre I._. Dans un rapport du 30 juin 1997, le docteur H._ et la psychologue J._ ont posé le diagnostic de personnalité psychotique décompensée sur un mode dépressif. Ils indiquaient que l'assuré était atteint d'un trouble psychiatrique, dont l'évolution devait être considérée comme indépendante de l'agression, et qu'il n'y avait plus de relation de causalité naturelle avec les événements des 23 décembre 1991 et 8 avril 1996. Pour ce motif, la VAUDOISE, par décision du 15 juillet 1997, a informé A._ qu'il n'avait droit aux prestations de l'assurance-accidents que jusqu'au 31 mai 1996, date à partir de laquelle son cas relevait de l'assurance-maladie.
L'assuré a formé opposition contre cette décision, en demandant qu'une nouvelle expertise soit mise en oeuvre, afin que le choix de l'expert et le questionnaire à poser soient établis d'entente entre toutes les parties.
Par décision du 17 octobre 1997, la VAUDOISE a rejeté l'opposition.
B.- A._ a formé recours contre cette décision devant la Cour des assurances sociales du Tribunal administratif du canton de Fribourg, en concluant, sous suite de frais et dépens, à l'annulation de celle-ci, les prestations dues pour les événements des 23 décembre 1991 et 8 avril 1996 devant continuées d'être versées au-delà du 31 mai 1996.
De son côté, la VAUDOISE a conclu au rejet du recours.
Dans ses déterminations, A._ a invoqué la survenance de faits nouveaux. Le 26 mars 1998, alors qu'il s'était plaint de troubles visuels, il s'est levé d'un canapé et sa femme l'a retrouvé à terre, inconscient avec des mouvements cloniques des membres inférieurs, crise qui s'est répétée avec des clonies légères des quatre extrémités. Examiné par le docteur F._ le 27 mars 1998, il fut victime d'une nouvelle crise lors de l'enregistrement de l'électroencéphalogramme, survenue à la suite d'une stimulation lumineuse intermittente. Le neurologue a conclu à un épisode psychogène (communication du 30 mars 1998 au docteur B._), en demandant l'hospitalisation du patient en urgence. L'assuré a séjourné dans la clinique de médecine de l'Hôpital Y._ du 27 au 31 mars 1998. Selon un rapport du 7 avril 1998, les docteurs K._ et L._ ont posé le diagnostic de crises tonicocloniques à répétition de nature hystérique * status post-stress post-traumatique, état anxio-dépressif, et celui de status post-ictus cérébral en 1992.
L'avocat de A._ produisait un rapport du 10 juin 1998 d'un médecin désirant rester dans l'anonymat, qui avait effectué une évaluation de l'expertise de I._ du 30 juin 1997. Dans sa duplique, la VAUDOISE a demandé que ce rapport ne soit pas pris en considération. Sur requête du tribunal, l'original du rapport, établi par le docteur M._, spécialiste FMH en psychiatrie et psychothérapie, fut déposé le 1er avril 1999.
Par jugement du 15 septembre 2000, la juridiction de première instance a rejeté le recours.
C.- Dans un mémoire du 25 octobre 2000, A._ interjette recours de droit administratif contre ce jugement, en concluant, sous suite de dépens pour les instances cantonale et fédérale, à l'annulation de celuici, la décision sur opposition du 17 octobre 1997 étant réformée en ce sens qu'il continue d'avoir droit aux prestations dès le 1er juin 1996. A titre subsidiaire, il demande qu'une expertise judiciaire soit ordonnée. Ayant été victime le 7 juin 2000 d'une perte transitoire de la conscience lors d'un examen du champ visuel, il produit une explication du docteur N._, médecin-chef de la clinique d'ophtalmologie de l'Hôpital Y._, du 16 octobre 2000, ainsi qu'une prise de position du docteur B._ datée du même jour.
La VAUDOISE Assurances conclut au rejet du recours. L'Office fédéral des assurances sociales (OFAS) ne s'est pas déterminé. L'AVENIR, assureur-maladie de A._, ne désire pas, en tant qu'intéressée, prendre position.
D.- Par son mandataire, A._ a produit le 11 janvier 2001 une expertise psychiatrique du docteur O._, médecin associé du Service de psychiatrie adulte et de psychogériatrie à P._, du 18 décembre 2000, qu'il qualifie de preuve nouvelle au sens de l'art. 137 let. b OJ.
Invitée à prendre position, la VAUDOISE Assurances, dans ses observations du 16 février 2001, est d'avis que cette expertise n'est ni un fait nouveau, ni une preuve nouvelle au sens de l'art. 137 let. b OJ.

Considérant en droit :
1.- L'expertise psychiatrique du docteur O._ du 18 décembre 2000 est une pièce produite après l'échéance du délai de recours. Il convient d'examiner si elle constitue une preuve concluante qui pourrait modifier, le cas échéant, l'état de fait existant au moment de la décision sur opposition litigieuse.
Cette expertise est invoquée par le recourant à titre de preuve de l'état de stress post-traumatique consécutif aux agressions dont il a été victime les 23 décembre 1991 et 8 avril 1996. Elle ne constitue cependant pas une preuve découverte subséquemment, puisque l'état de stress posttraumatique du recourant n'est pas un fait inconnu. En conséquence, elle ne peut être prise en considération dans la présente procédure, ayant été produite après l'échéance du délai de recours (art. 106 al. 1 et 132 OJ).
2.- a) Le litige porte sur le point de savoir si les troubles dont est atteint le recourant ne sont plus en relation de causalité naturelle avec les événements des 23 décembre 1991 et 8 avril 1996, l'intimée ayant pour ce motif mis fin le 31 mai 1996 au versement des prestations.
b) L'expertise de I._ du 30 juin 1997, ne retient pas le diagnostic d'état de stress posttraumatique. Selon le docteur H._ et la psychologue J._, le recourant présente un trouble psychotique de la personnalité, dont l'évolution était indépendante des agressions dont il fut victime les 23 décembre 1991 et 8 avril 1996, qui doivent être considérées comme des événements intercurrents ayant provoqué une aggravation passagère de la maladie psychiatrique. Ils ont diagnostiqué un trouble dépressif récurrent, épisode actuel sévère avec symptômes psychotiques, et sont d'avis qu'il n'y a plus de causalité naturelle entre ces troubles et les agressions, mais que les facteurs de personnalité sont au premier plan.
c) Dans un rapport du 10 juin 1998, le docteur M._ a procédé à une évaluation de cette expertise. Selon ce spécialiste, un problème de diagnostic différentiel se pose entre la dépression et l'état de stress post-traumatique. Tant les notions de symptomatologie dépressive et de dépression majeure récurrente ou chronique, que ceux d'état de stress post-traumatique, apparaissent de manière répétée dans l'expertise du 30 juin 1997 et ceci dans les rapports établis par de nombreux intervenants. Toutefois, en ce qui concerne la dépression majeure récurrente, les renseignements disponibles ne sont pas suffisamment détaillés et ne permettent pas de juger si les critères requis pour poser ce diagnostic sont réellement remplis. Ceci est d'autant plus important que l'état de stress post-traumatique peut comporter une symptomatologie dépressive importante. Or, de très nombreux symptômes et signes cités dans l'expertise sont très suggestifs d'un état de stress post-traumatique. Cela est notamment le cas pour les troubles du sommeil, les cauchemars aux contenus rappelant les agressions (pistolets), les phénomènes de flash-back ramenant le souvenir des agressions, l'état de tension et d'insécurité, les réactions subites d'angoisse, ainsi que les sentiments de retrait par rapport à sa famille et l'impression d'être coupé du monde. Le diagnostic d'état de stress post-traumatique est écarté par l'expertise de I._ mais sans que l'on puisse bien comprendre pourquoi, en l'absence d'une argumentation suffisamment circonstanciée, fondée sur une comparaison entre les critères diagnostiques et les signes et symptômes cliniques. L'expertise indique que pendant l'examen clinique il n'y a "pas de moments réellement anaffectifs, agressifs ou méfiants", sans autres précisions. Ceci est insuffisant pour éliminer le diagnostic d'état de stress post-traumatique, d'autant plus que ces signes ne sont pas considérés comme indispensables pour ce diagnostic dans la CIM-10.
3.- a) Lorsqu'un état maladif préexistant est aggravé ou, de manière générale, apparaît consécutivement à un accident, le devoir de l'assureur-accidents d'allouer des prestations cesse si l'accident ne constitue plus la cause naturelle et adéquate du dommage, soit lorsque ce dernier résulte exclusivement de causes étrangères à l'accident. Tel est le cas lorsque l'état de santé de l'intéressé est similaire à celui qui existait immédiatement avant l'accident - question du statu quo ante - ou qu'il rejoint celui qu'il serait devenu tôt ou tard indépendamment de tout accident, selon l'évolution ordinaire - question du statu quo sine - (RAMA 1992 n° U 142 p. 75 sv. consid. 4b; Maurer, Schweizerisches Unfallversicherungsrecht, p. 469 n° 3 et 4; Debrunner/Ramseier, Die Begutachtung von Rückenschäden, Berne 1990, p. 52; Meyer-Blaser, Die Zusammenarbeit von Richter und Arzt in der Sozialversicherung, Bulletin des médecins suisses 71/1990, p. 1093).
Selon la jurisprudence, si le rapport de causalité avec l'accident est établi avec la vraisemblance requise, l'assureur n'est délié de son obligation d'octroyer des prestations que si l'accident ne constitue plus la cause naturelle et adéquate de l'atteinte à la santé. De même que pour l'établissement du lien de causalité naturelle fondant le droit à des prestations, la disparition du caractère causal de l'accident eu égard à l'atteinte à la santé de l'assuré doit être établie au degré habituel de la vraisemblance prépondérante requis en matière d'assurances sociales. La simple possibilité que l'accident n'ait plus d'effet causal ne suffit pas. Dès lors qu'il s'agit dans ce contexte de la suppression du droit à des prestations, le fardeau de la preuve ne pèse pas sur l'assuré mais sur l'assureur (RAMA 2000 n° U 363 p. 46 consid. 2 et la référence).
b) Le juge des assurances sociales doit examiner de manière objective tous les moyens de preuve, quelle qu'en soit la provenance, puis décider si les documents à disposition permettent de porter un jugement valable sur le droit litigieux. Si les rapports médicaux sont contradictoires, il ne peut liquider l'affaire sans apprécier l'ensemble des preuves et sans indiquer les raisons pour lesquelles il se fonde sur une opinion médicale et non pas sur une autre. C'est ainsi qu'il importe, pour conférer pleine valeur probante à un rapport médical, que les points litigieux aient fait l'objet d'une étude circonstanciée, que le rapport se fonde sur des examens complets, qu'il prenne également en considération les plaintes exprimées par la personne examinée, qu'il ait été établi en pleine connaissance de l'anamnèse, que la description du contexte médical et l'appréciation de la situation médicale soient claires et enfin que les conclusions de l'expert soient dûment motivées. Au demeurant, l'élément déterminant pour la valeur probante n'est ni l'origine du moyen de preuve ni sa désignation comme rapport ou comme expertise, mais bel et bien son contenu (<ref-ruling> consid. 3a et les références). Ces principes, développés à propos de l'assuranceaccidents, sont applicables à l'instruction des faits d'ordre médical dans toutes les branches d'assurance sociale (Spira, La preuve en droit des assurances sociales, in Mélanges en l'honneur de Henri-Robert Schüpbach, Bâle 2000, p. 268).
4.- Les premiers juges ont considéré qu'ils n'avaient aucun motif raisonnable pour se départir des conclusions de I._, l'avis du docteur H._ et de la psychologue J._ remplissant les conditions posées par la jurisprudence au sujet du caractère probant d'une expertise. S'agissant de la causalité naturelle, ces conclusions sont claires, fondées au demeurant sur une argumentation étayée. Dans ces conditions, une nouvelle expertise ne se justifiait pas. Selon la juridiction cantonale, les mêmes remarques ne sauraient s'appliquer à la simple prise de position du docteur M._. Elle a donc retenu que les événements des 23 décembre 1991 et 8 avril 1996 avaient eu lieu dans des situations qui n'étaient pas en soi extraordinaires pour un restaurateur et que s'ils avaient pu perturber momentanément le recourant, il n'en demeurait pas moins que les troubles de la personnalité étaient bien antérieurs à la survenance de ces événements et indépendants d'eux. En effet, ces troubles avaient pris naissance et s'étaient développés selon un processus d'installation et d'évolution dans lesquels les événements en question, certes non banals, n'intervenaient absolument pas, raison pour laquelle il fallait, conformément à l'expertise du 30 juin 1997, nier la causalité naturelle.
5.- En l'occurrence, les avis médicaux des docteurs H._ et B._ laissent subsister des divergences de diagnostics, en particulier quant aux conséquences des atteintes à la santé imputables aux agressions des 23 décembre 1991 et 8 avril 1996 sur la capacité de travail du recourant sur le plan psychique.
Certes, les avis du docteur H._ et de la psychologue J._ remplissent pour l'essentiel les conditions mises par la jurisprudence au caractère probant d'une expertise médicale. Il n'en demeure pas moins qu'il manque dans le rapport du 30 juin 1997 une détermination du docteur H._ sur le rapport intermédiaire du 3 juin 1996 du docteur B._, spécialiste comme lui en psychiatrie et psychothérapie, de sorte que le juge n'est pas en mesure de trancher en connaissance de cause entre les opinions de ces deux spécialistes.
Par ailleurs, il résulte du rapport du docteur M._, également spécialiste en psychiatrie et psychothérapie, qu'une nouvelle expertise est nécessaire, car il paraît impossible d'exclure que les agressions dont l'assuré a été victime les 23 décembre 1991 et 8 avril 1996 aient joué un rôle spécifique dans l'apparition et l'aggravation des troubles actuels.
Dans ces conditions, le juge n'est pas en mesure d'apprécier le statu quo sine et une expertise judiciaire est dès lors nécessaire. Il se justifie par conséquent de renvoyer la cause à la juridiction cantonale pour complément d'instruction dans le sens de ce qui précède. C'est dans ce cadre que le recourant pourra faire valoir ses moyens de preuve et notamment l'expertise du docteur O._ du 18 décembre 2000 (<ref-ruling> consid. 3a et les références; VSI 2000 p. 154 consid. 2c).
6.- Sur le vu du sort de la cause, le recourant, représenté par un avocat, a droit à une indemnité de dépens pour l'instance fédérale (art. 159 al. 1 en corrélation avec l'art. 135 OJ).

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est admis en ce sens que le jugement de la
Cour des assurances sociales du Tribunal administratif
du canton de Fribourg, du 15 septembre 2000, est
annulé, la cause étant renvoyée à l'autorité judiciaire
de première instance pour complément d'instruction
au sens des considérants et nouveau jugement.
II. Il n'est pas perçu de frais de justice.
III. L'intimée versera au recourant la somme de 2500 fr. (y
compris la taxe sur la valeur ajoutée) à titre de
dépens pour l'instance fédérale.
IV. Le présent arrêt sera communiqué aux parties, au Tribunal
administratif du canton de Fribourg, Cour des
assurances sociales, à l'AVENIR Assurances et à
l'Office fédéral des assurances sociales.
Lucerne, le 17 août 2001
Au nom du
Tribunal fédéral des assurances
p. le Président de la IIIe Chambre :
Le Greffier :