A.- a) F._, cuisinier de formation, a travaillé en cette qualité dès le 26 juin 1989, date de son engagement par N._, qui exploite le restaurant de la piscine, à X._. A ce titre, il était assuré par la VAUDOISE Assurances pour les accidents professionnels et non professionnels.
Le 20 mars 1991, F._ circulait avec un motocycle léger, lorsqu'il fut victime d'une collision avec un véhicule automobile. Il fut transporté à l'Hôpital cantonal universitaire de Genève, où les médecins constatèrent une fracture ouverte de la jambe droite (rapport médical initial LAA, du 10 avril 1991).
Le cas fut pris en charge par la VAUDOISE. Ayant recouvré une capacité totale de travail dès le 10 juillet 1991, F._ a repris son activité professionnelle. Il a séjourné à la Clinique d'orthopédie de l'hôpital cantonal du 6 au 13 juillet 1992, où les médecins procédèrent à l'ablation du matériel d'ostéosynthèse de la jambe droite.
Le 13 août 1992, F._ a été victime d'un nouvel accident de la circulation routière, au cours duquel il s'est fracturé la jambe gauche. La VAUDOISE a pris le cas en charge. De son côté, F._ a présenté une demande de prestations de l'assurance-invalidité.
Le docteur R._ a fixé au 30 août 1993 la reprise en plein de l'activité de cuisinier (rapport médical intermédiaire du 11 septembre 1993). F._ a exercé à nouveau son emploi, mais à la suite d'absences répétées au travail pour des motifs de santé, il a été licencié par son employeur pour le 31 août 1994.
Dans une expertise pour l'assurance-invalidité, du 17 août 1994, les docteurs C._ et K._, médecins de la Division de psychiatrie et de psychologie médicale, ont conclu que F._ souffrait d'une vulnérabilité émotionnelle importante qui se greffait sur un trouble de la personnalité, associant des traits borderline et des traits de personnalité dépendante. Selon eux, la capacité de travail restait restreinte à une activité partielle (ex. 20 %) et indépendante du besoin financier (activité "d'appoint" peu rémunérée ou bénévole).
Dans une communication à la VAUDOISE du 3 octobre 1994, le docteur S._, médecin généraliste à Y._, a conclu à la reprise d'une activité professionnelle à 100 % dès le 30 octobre 1994.
La VAUDOISE a confié une expertise au docteur L._, médecin à Z._. Dans un rapport du 8 mai 1995, ce praticien a posé le diagnostic de status après fracture transverse des deux os de la jambe gauche ouverte stade IIIC et de suspicion de fracture parcellaire de la rotule droite, de consolidation après enclouage médullaire à deux reprises et de persistance d'une pseudarthrose du péroné. Selon lui, le traitement médical était terminé et il ne subsistait pas d'invalidité médico-théorique à la suite de l'accident du 13 août 1992, ni du reste à la suite de l'accident du 20 mars 1991. Pour tenir compte des séquelles discrètes de l'altération du sciatique poplité externe gauche et de la présence de la pseudarthrose du péroné, l'expert évaluait l'atteinte à l'intégrité à 5 % de manière globale.
Par décision du 16 mai 1995, la VAUDOISE a refusé toute rente d'invalidité. Elle a alloué à F._ une indemnité de 4860 fr. pour une atteinte de 5 % à son intégrité physique.
Dans un écrit du 31 mai 1995, F._ a formé opposition contre cette décision. Il estimait que, compte tenu de la gravité des blessures qu'il a subies lors des accidents survenus le 20 mars 1991 et le 13 août 1992, l'atteinte à son intégrité est bien plus importante que celle relevée par l'expert L._.
b) Par décision du 25 juillet 1995, l'Office AI du canton de Genève a alloué à F._ une rente entière d'invalidité pendant la période du 1er août 1993 au 31 octobre 1994, compte tenu d'un degré d'invalidité de 70 %. Par une autre décision rendue le même jour, il lui a alloué une demi-rente d'invalidité à partir du 1er novembre 1994, compte tenu d'un degré d'invalidité de 55 %.
Par jugement du 7 mars 1996, la Commission cantonale genevoise de recours en matière d'AVS/AI a admis le recours formé par F._ contre la décision du 25 juillet 1995 lui allouant une demi-rente d'invalidité, annulé celle-ci et renvoyé le dossier à l'administration pour nouvelle décision au sens des considérants. En bref, elle a considéré que l'assuré était incapable à 100 % de reprendre son ancien métier et qu'en raison des troubles psychiques qui l'affectent, sa capacité de travail devait être estimée à quelque 20 %, avec un rendement faible, de sorte que son invalidité dépassait manifestement le taux de 66 2/3 % donnant droit à une rente entière.
Par décision du 2 avril 1997, dont une copie a été envoyée à la VAUDOISE, l'office AI a alloué à F._ une rente entière d'invalidité dès le 1er novembre 1994, compte tenu d'un degré d'invalidité de 70 %.
c) Par décision du 5 septembre 1997, la VAUDOISE a rejeté l'opposition, sans procéder à l'expertise sollicitée entre-temps par l'assuré.
B.- Le Tribunal administratif de la République et canton de Genève, devant lequel F._ a formé recours contre la décision du 5 septembre 1997, a ordonné une expertise médicale pluridisciplinaire, qu'il a confiée au docteur B._, spécialiste FMH en médecine du travail et médecine interne, professeur associé à la Faculté de médecine et médecin adjoint à l'Institut universitaire romand de santé au travail, à Z._.
Le docteur B._ a retenu une réduction de la capacité de travail de 5 % en raison de l'atteinte du membre inférieur gauche et de 25 % en raison du rôle partiel des accidents des 20 mars 1991 et 13 août 1992 dans les changements de la personnalité de F._, en ce sens qu'ils avaient déstabilisé un équilibre fragile.
Par jugement du 9 mai 2000, le tribunal administratif a admis partiellement le recours, annulé la décision sur opposition du 5 septembre 1997 "dans la mesure où elle refuse au recourant toute rente et met fin au traitement médical", arrêté à 30 % le taux de l'incapacité de travail de F._, renvoyé le dossier à la VAUDOISE pour qu'elle détermine son revenu d'invalide, et ordonné la prise en charge par la VAUDOISE de sa rééducation active ainsi que d'une thérapie de soutien de longue durée. Pour le surplus, il a confirmé la décision précitée, au motif qu'il n'y avait pas lieu de condamner la VAUDOISE à un versement complémentaire s'agissant de l'indemnité pour atteinte à l'intégrité.
C.- F._ interjette recours de droit administratif contre ce jugement, en concluant, sous suite de frais et dépens, à l'annulation de celui-ci. Il demande que son incapacité de travail soit fixée à 70 % et que la VAUDOISE soit condamnée à lui allouer une rente d'invalidité pour une incapacité de gain de 70 % à partir du 1er novembre 1994, ainsi qu'une indemnité de 29 160 fr. pour une atteinte de 30 % à son intégrité physique et mentale, sous déduction du montant de 4860 fr. déjà perçu. Il sollicite l'assistance judiciaire.
Dans sa réponse du 25 août 2000, la VAUDOISE demande que le jugement attaqué soit annulé et que la décision du 16 mai 1995 soit confirmée.
SWICA Organisation de santé, assureur-maladie de F._, a déposé une brève détermination.

Considérant en droit :
1.- Devant la Cour de céans, le litige a pour objet le droit à la rente d'invalidité (sous l'angle du degré de l'incapacité de travail du recourant voire le taux de son invalidité) et le refus par l'intimée de lui allouer une indemnité pour atteinte à l'intégrité mentale.
L'intimée n'a pas recouru contre le jugement attaqué. Dans la mesure où ses conclusions concernent le droit du recourant au traitement médical, celles-ci ne se rapportent pas à l'objet du litige et sont dès lors irrecevables (<ref-ruling> ss. consid. 1b et 2 et les références citées).
2.- La Vaudoise reproche aux premiers juges d'être entrés en matière sur les conclusions du recourant tendant à l'allocation d'une rente d'invalidité. Selon elle, le refus de rente d'invalidité contenu dans la décision du 16 mai 1995 n'a pas été contesté dans l'opposition du 31 mai 1995, de sorte qu'il a acquis force de chose décidée.
a) Selon la jurisprudence (<ref-ruling>; voir aussi <ref-ruling> consid. 3a), dans la mesure où la décision n'est pas attaquée en procédure d'opposition et ne fait pas l'objet d'un examen d'office, elle entre partiellement en force .
b) Il est constant que la décision du 16 mai 1995 portait sur l'octroi d'une indemnité pour atteinte à l'intégrité physique de 5 % et sur le refus d'une rente d'invalidité et que le recourant n'a formé opposition dans le délai utile uniquement en ce qui concerne le taux de l'atteinte à son intégrité.
Dans la procédure sur opposition, la décision du 16 mai 1995 a cependant fait l'objet d'un nouvel examen aussi bien en ce qui concerne l'invalidité que l'atteinte à l'intégrité. Dès lors la Vaudoise est malvenue de reprocher à la juridiction cantonale d'avoir statué, prétendument à tort, sur le droit à la rente alors que dans la décision sur opposition elle a examiné cette question, avant de rejeter à nouveau la prétention.
3.- Le degré d'incapacité de travail du recourant, fixé à 30 % par les premiers juges, est litigieux. Celui-ci allègue que le taux de son incapacité de travail est de 70 % au moins, ainsi que cela ressort de l'expertise des docteurs C._ et K._ pour l'assurance-invalidité, du 17 août 1994. De son côté, l'intimée, se référant à l'expertise du docteur L._ du 8 mai 1995, fait valoir que les accidents des 20 mars 1991 et 13 août 1992 n'entraînent pas d'incapacité de travail à moyen et long terme.
a) Pour statuer sur le lien de causalité entre les accidents des 20 mars 1991 et 13 août 1992 et l'atteinte à la santé du recourant, les premiers juges se sont fondés sur l'expertise du docteur B._.
Celui-ci a consulté en particulier le docteur G._, médecin associé du Service d'orthopédie et de traumatologie de l'appareil moteur du Centre hospitalier universitaire vaudois (CHUV), à Z._, et le docteur T._, médecin adjoint du Service de psychiatrie de liaison du CHUV. Dans son rapport, le docteur G._ a retenu des séquelles douloureuses persistantes sous forme d'un syndrome fémoro-patellaire surtout droit mineur sur troubles dégénératifs discret et fatigabilité anormalement importante de la loge antéro-externe gauche. De son côté, le docteur T._ a posé le diagnostic sur le plan psychique d'un grave trouble de la personnalité, associant des traits borderline, des traits d'immaturité et des traits dépendants. Selon lui, les événements accidentels s'étaient probablement greffés sur une vulnérabilité psychologique et avaient certainement déstabilisé un équilibre fragile, leurs conséquences devant être expliquées par la vulnérabilité psychologique préexistante de l'assuré.
Se référant à l'avis des docteurs G._ et T._, l'expert a déclaré que les séquelles physiques - soit l'atteinte du membre inférieur gauche - imputables à l'accident du 13 août 1992 réduisent de 5 % sa capacité de travail. Les séquelles psychologiques imputables aux accidents des 20 mars 1991 et 13 août 1992, qui se caractérisent par une déstabilisation d'un équilibre psychologique fragile, réduisent de 25 % sa capacité de travail.
Sur la base de l'expertise judiciaire, les premiers juges ont retenu un taux d'incapacité de travail de 30 % composé de 5 % pour l'affection somatique touchant la jambe gauche et de 25 % pour les suites psychiques.
b) C'est en vain que le recourant allègue que son incapacité de travail est de 70 % au moins.
A la différence de l'assurance-accidents, la causalité ne joue aucun rôle dans l'appréciation de la capacité de travail médico-théorique de l'assurance-invalidité. Le fait que, dans le jugement du 7 mars 1996, la Commission cantonale genevoise de recours en matière d'AVS/AI a retenu que l'assuré est incapable à 100 % de reprendre son métier de cuisinier et qu'en raison des troubles psychiques qui l'affectent, sa capacité de travail doit être estimée à quelque 20 %, avec un rendement faible, n'est donc pas décisif.
Il résulte de l'expertise du docteur B._ que la réduction de 5 % de la capacité de travail du recourant pour l'affection somatique est essentiellement liée à ce qui s'est passé après l'accident du 13 août 1992. Les accidents des 20 mars 1991 et 13 août 1992 ont une responsabilité dans les changements de la personnalité de l'assuré, en ce sens qu'ils ont déstabilisé un équilibre psychologique fragile, la réduction de 25 % de la capacité de travail pour les suites psychiques tenant compte du rôle partiel des accidents incriminés. L'existence d'un lien de causalité naturelle est donc établie.
4.- Lors de troubles d'ordre psychique consécutifs à deux, voire plusieurs accidents, il faut, si les accidents ont porté atteinte à des parties différentes du corps et qu'ils entraînent des lésions complètement distinctes, examiner en principe pour chaque accident le caractère adéquat du lien de causalité sur la base des principes applicables en la matière exposés dans les arrêts <ref-ruling> ss. consid. 6 et 407 ss. consid. 5 (RAMA 1996 n° U 248 p. 177 consid. 4b).
Il n'est pas admissible de s'écarter après coup des conclusions qui s'imposent à l'issue d'un examen du caractère adéquat du lien de causalité et de considérer, sous l'angle de l'<ref-law>, les troubles physiques et psychiques comme une seule atteinte à la santé. Bien qu'ils soient dans un rapport de connexité étroit, ces troubles représentent des atteintes à la santé distinctes (<ref-ruling>).
a) Les deux accidents de la circulation routière des 20 mars 1991 et 13 août 1992 sont de gravité moyenne (arrêt non publié P. du 14 décembre 1989 [U 91/87], cité in RAMA 1995 n° U 215 p. 91). Aucun n'apparaît comme l'un des plus graves de la catégorie intermédiaire ni ne se trouve à la limite de la catégorie des accidents graves (RAMA 1999 n° U 330 p. 123 sv. consid. 4b/bb et cc).
b) L'accident du 20 mars 1991, au cours duquel le motocycle léger avec lequel circulait le recourant est entré en collision avec un véhicule automobile, n'avait pas un caractère particulièrement impressionnant. Il n'y a pas eu non plus de circonstances concomitantes particulièrement dramatiques.
Atteint d'une fracture ouverte de la jambe droite, l'assuré a quitté l'hôpital le 5 avril 1991. Le docteur R._, spécialiste FMH en chirurgie orthopédique à la Permanence de M._, s'est occupé de la suite du traitement. Dans un rapport médical final du 12 août 1991, il a noté l'évolution favorable du cas : la reprise du travail fut fixée à 50 % depuis le 24 juin 1991 et à 100 % dès le 10 juillet 1991. A la suite de l'ablation du matériel d'ostéosynthèse, l'assuré présentait une capacité totale de travail depuis le 10 août 1992.
Aucun des critères déterminants dans l'examen de la causalité adéquate n'entre en l'occurrence en considération.
c) En soi, la fracture de la jambe gauche subie lors de l'accident du 13 août 1992 n'était pas propre, selon l'expérience, à entraîner des troubles psychiques.
Cependant, les lésions artérielles et tronculaires nerveuses ont rendu difficile le processus de guérison. L'assuré présente des séquelles douloureuses et persistantes de la réinnervation. La lésion du nerf sciatique poplité externe et celle du nerf sciatique poplité interne, devenues chroniques, sont considérées par le docteur J._ comme définitives. Un traitement médical est encore nécessaire en ce qui concerne la fatigabilité de la loge antéro-externe gauche.
Les critères déterminants que sont, selon la jurisprudence, la durée anormalement longue du traitement médical et les douleurs physiques persistantes, sont donc réunis en l'occurrence.
Le recourant présente des séquelles psychologiques, que l'expert judiciaire met en relation avec ses douleurs vertébrales et ses blocages dus aux crampes musculaires. En raison des séquelles de la réinnervation, l'accident du 13 août 1992 revêt donc une importance particulière dans la survenance de son incapacité de travail d'origine psychique. La causalité adéquate est ainsi admise.
5.- Les atteintes à la santé, imputables aux accidents des 20 mars 1991 et 13 août 1992, entraveront de manière durable le recourant dans l'exercice de la profession de cuisinier (expertise précitée du docteur B._, du 9 octobre 1999). Sa capacité de gain subit donc vraisemblablement une atteinte de longue durée. Il est dès lors réputé invalide (art. 18 al. 2 première phrase LAA). Aussi, est-ce à tort que l'intimée n'a pas procédé à l'évaluation de son invalidité, réglée par l'art. 18 al. 2 deuxième phrase LAA.
Le recourant fait grief aux premiers juges d'avoir renvoyé la cause à l'intimée pour qu'elle détermine son revenu d'invalide, au lieu de procéder eux-mêmes à l'évaluation de son invalidité et de se référer au taux admis par l'office AI.
a) Dans un arrêt G. du 26 juillet 2000, destiné à la publication et paru in VSI 2001 p. 82 ss. consid. 2d, 3 et 4, le Tribunal fédéral des assurances a posé le principe que l'uniformité de la notion d'invalidité, qui doit conduire à fixer pour une même atteinte à la santé un même taux d'invalidité, règle la coordination de l'évaluation de l'invalidité en droit des assurances sociales.
Cela signifie que l'assurance-invalidité, l'assuranceaccidents et l'assurance militaire doivent non seulement procéder séparément à la fixation du taux d'invalidité de l'assuré, mais également tenir compte d'évaluations de l'invalidité entrées en force. Il ne se justifie donc pas, contrairement à la pratique administrative antérieure qui consacrait la primauté de l'assureur-accidents (<ref-ruling> consid. 2a et 106 V 88 consid. 2b), de conférer à un assureur la priorité sur un autre dans la fixation du taux d'invalidité.
En conséquence, s'agissant de la coordination de l'évaluation de l'invalidité de l'assurance-invalidité et de l'assurance-accidents, l'assurance-invalidité est liée, en principe, par l'évaluation de l'invalidité de l'assurance-accidents passée en force. Elle ne saurait s'en écarter qu'à titre exceptionnel et seulement s'il existe de solides raisons. Il ne suffit donc pas qu'une appréciation divergente soit soutenable, voire même équivalente.
Encore faut-il, pour que l'assurance-invalidité soit liée par l'évaluation de l'invalidité de l'assurance-accidents, que celle-ci ait fait l'objet d'une décision, passée en force. Tel est le cas si l'entrée en force de la décision de l'assurance-accidents est postérieure à la décision attaquée de l'assurance-invalidité, mais qu'elle est intervenue au cours de la procédure de recours.
b) Ces principes valent également lorsque, comme en l'espèce, la situation qui se présente est l'inverse de celle qui prévalait dans l'arrêt G. résumé ci-dessus, la décision de l'office AI du 2 avril 1997 - antérieure de cinq mois à la décision sur opposition de l'intimée du 5 septembre 1997 - étant passée en force.
Il y a donc lieu d'examiner s'il existe de sérieuses raisons de s'écarter de la décision de l'office AI du 2 avril 1997. Cette décision, selon communication de l'office à la Caisse de compensation Gastro-suisse (Wirte) du 18 décembre 1996, reprend la motivation du jugement de la Commission cantonale genevoise de recours en matière d'AVS/AI du 7 mars 1996. Elle repose ainsi non pas sur une comparaison des revenus, mais sur une estimation médicothéorique de la capacité de travail et de gain qui se fonde sur les troubles d'ordre psychique du recourant.
Faute de comparaison des revenus, il existe de sérieuses raisons de s'écarter de l'évaluation de l'assurance-invalidité, passée en force, l'atteinte à la santé en relation de causalité avec l'accident du 13 août 1992 consistant dans l'atteinte du membre inférieur gauche et dans la déstabilisation de l'équilibre psychologique fragile du recourant.
c) En vertu de l'art. 18 al. 2 deuxième phrase LAA, pour l'évaluation de l'invalidité, le revenu du travail que l'assuré devenu invalide par suite d'un accident pourrait obtenir en exerçant l'activité qu'on peut raisonnablement attendre de lui, après exécution éventuelle de mesures de réadaptation et compte tenu d'une situation équilibrée du marché du travail, est comparé au revenu qu'il aurait pu obtenir s'il n'était pas invalide.
d) aa) En ce qui concerne le revenu d'invalide, il doit être évalué avant tout en fonction de la situation professionnelle concrète de l'intéressé. En l'absence d'un revenu effectivement réalisé, la jurisprudence considère que le revenu d'invalide peut être évalué sur la base des statistiques salariales (<ref-ruling> sv. consid. 3b/aa et bb).
La mesure dans laquelle les salaires ressortant des statistiques doivent être réduits, dépend de l'ensemble des circonstances personnelles et professionnelles du cas particulier (limitations liées au handicap, âge, années de service, nationalité/catégorie d'autorisation de séjour et taux d'occupation) et résulte d'une évaluation dans les limites du pouvoir d'appréciation. Une déduction globale maximum de 25 % sur le salaire statistique permet de tenir compte des différents éléments qui peuvent influencer le revenu d'une activité lucrative (<ref-ruling> sv. consid. 5b/aa-cc).
bb) Dans l'expertise du 9 octobre 1999, le docteur B._ a retenu qu'idéalement, il serait important de pouvoir réintégrer l'assuré dans la profession de cuisinier, mais qu'apparemment cela n'était pas possible, excepté pour de brèves périodes. Toutefois, il n'est pas exclu de prévoir une reprise de cette profession, ce qui devrait pouvoir se faire progressivement, dans un milieu protégé. Quant à une réinsertion dans une autre profession, il faut tenir compte de la fatigabilité de la jambe gauche lors d'efforts prolongés. On devait donc penser à des professions permettant d'alterner position assise et position debout (par. ex. magasinier, travaux de surveillance).
Ni le handicap de la jambe gauche, ni les séquelles psychologiques des accidents incriminés n'empêchent le recourant d'exercer un emploi. En ce qui concerne la reprise de l'activité de cuisinier, elle n'est apparemment possible que pour de brèves périodes. En revanche, on peut raisonnablement attendre de l'assuré, même en l'absence de mesures de réadaptation de l'assurance-invalidité, qu'il se réadapte par lui-même dans une autre profession adaptée à son handicap, soit dans une activité simple pouvant être exercée de manière alternative en position debout et assise, par ex. comme magasinier ou surveillant.
cc) Si l'on évalue le revenu d'invalide du recourant sur la base des statistiques salariales, le salaire mensuel brut (valeur centrale) pour des activités simples et répétitives du secteur privé, toutes branches économiques confondues, était de 4294 fr. en 1996. Indépendamment de l'augmentation des salaires nominaux intervenue entre 1996 et 2000 (cf. Annuaire statistique de la Suisse 1999 p. 123 et 2000 p. 122), un salaire mensuel hypothétique de 4294 fr. représente, compte tenu du fait que les salaires bruts standardisés se basent sur un horaire de travail de 40 heures, soit une durée hebdomadaire inférieure à la moyenne usuelle dans les entreprises (41,9 heures en 1997; La Vie économique 2000/2, annexe p. 27, Tabelle B9.2), un revenu d'invalide de 53 976 fr. par année (4294 fr. x 12 x 41,9 : 40).
Avec un abattement de 20 % - qui tient compte en l'espèce de l'ensemble des circonstances personnelles et professionnelles du cas particulier, à savoir les limitations dues à la fatigabilité du membre inférieur gauche (voir aussi RAMA 1998 n° U 320 p. 601 consid. 2a) -, il en résulte un revenu d'invalide de 43 180 fr. (53 976 fr. x 80 %), soit de 3598 fr. par mois.
e) En ce qui concerne le calcul du revenu que le recourant, sans invalidité, aurait pu réaliser en 1997 dans l'activité de cuisinier, il convient de se fonder sur le salaire mensuel de 4333 fr. qui était le sien en 1993 (questionnaire pour l'employeur, du 1er mars 1994).
Si l'on considère l'évolution des salaires dans l'hôtellerie et restauration à partir de 1993, soit sur quatre ans, l'indice des salaires nominaux a progressé de 3,8 % (Statistique de la Suisse, Evolution des salaires 1997 - Résultats commentés et tableaux, p. 17).
En 1997, le recourant, sans invalidité, aurait donc pu réaliser dans l'activité de cuisinier un revenu de 4497 fr.
f) Il résulte de la comparaison des revenus une incapacité de gain de 20 % ([4497 - 3598] x 100 : 4497).
Le recourant a donc droit à une rente d'invalidité pour une incapacité de gain de 20 %. L'intimée se prononcera d'une manière qui la lie dans la décision allouant au recourant une rente d'invalidité pour une incapacité de gain de 20 % sur la naissance du droit à la rente d'invalidité (<ref-law>).
6.- a) Le refus par l'intimée d'allouer au recourant une indemnité pour atteinte à l'intégrité mentale est litigieux.
En vertu de l'<ref-law>, si, par suite de l'accident, l'assuré souffre d'une atteinte importante et durable à son intégrité physique ou mentale, il a droit à une indemnité équitable pour atteinte à l'intégrité.
Aux termes de l'art. 36 al. 1 première phrase OLAA (<ref-ruling> et 209), une atteinte à l'intégrité est réputée durable lorsqu'il est prévisible qu'elle subsistera avec au moins la même gravité, pendant toute la vie.
En principe, il existe un droit à une indemnité pour atteinte à l'intégrité également en cas d'atteinte à la santé psychique. Des troubles psychiques consécutifs à un accident ouvrent droit à une indemnité pour atteinte à l'intégrité lorsqu'il est possible de poser de manière indiscutable un pronostic individuel à long terme qui exclut pratiquement pour toute la vie une guérison ou une amélioration. Pour se prononcer sur le caractère durable de l'atteinte à l'intégrité et sur la nécessité de mettre en oeuvre une instruction d'ordre psychiatrique, on se fondera sur la pratique en matière de causalité adéquate en cas de troubles psychiques consécutifs à un accident (<ref-ruling> et 209).
En cas d'accident de gravité moyenne, le caractère durable de l'atteinte doit, en règle générale, être nié sans qu'il soit nécessaire de mettre en oeuvre dans chaque cas une instruction plus approfondie au sujet de la nature et du caractère durable de l'atteinte psychique. Il ne convient de s'écarter de ce principe que dans des cas exceptionnels, à savoir lorsque l'on se trouve à la limite de la catégorie des accidents graves, pour autant que les pièces du dossier fassent ressortir des indices évidents d'une atteinte particulièrement grave à l'intégrité psychique, qui ne paraît pas devoir se résorber. On doit voir de tels indices dans les circonstances qui sont en connexité étroite avec l'accident et qui servent de critères lors de l'examen de la causalité adéquate, pour autant qu'ils revêtent une importance et une intensité particulières et qu'en tant que facteurs stressants, ils ont, de manière évidente, favorisé l'installation de troubles durables pour toute la vie. Enfin, en cas d'accidents graves, le caractère durable de l'atteinte à la santé psychique doit toujours être examiné, au besoin par la mise en oeuvre d'une expertise psychiatrique, pour autant qu'il n'apparaisse pas déjà évident sur le vu des éléments ressortant du dossier (<ref-ruling>).
b) Selon le jugement attaqué, il ressort clairement du rapport d'expertise du 9 octobre 1999 ainsi que du rapport complémentaire du psychiatre du 10 août 1999 que les accidents des 20 mars 1991 et 13 août 1992 ont nui à un équilibre fragile, mais qui avait permis au recourant de s'insérer dans le monde du travail et y fonctionner avec succès. Compte tenu de l'échec de la tentative de reprise du travail de cuisinier à plein temps, l'assuré paraît durablement stabilisé et les médecins conseillent une thérapie de soutien de longue durée. Toutefois, l'accident (du 13 août 1992) n'était en lui-même pas suffisamment important pour qu'on le qualifie de grave au sens de la jurisprudence, même si en eux-mêmes, les troubles paraissent installés de manière durable (cf. <ref-ruling>).
c) Ainsi que l'ont admis les premiers juges, l'accident du 13 août 1992 est de gravité moyenne. Il en va ainsi également de l'accident du 20 mars 1991. Il est établi que ces accidents ont déstabilisé l'équilibre fragile du recourant, qui présente des séquelles psychologiques.
Pour autant, contrairement à ce qu'exige l'<ref-law>, le recourant ne se trouve pas dans la situation de l'assuré qui, par suite de l'accident, souffre d'une atteinte durable à son intégrité mentale. Il ressort du dossier qu'il est atteint de troubles d'ordre psychique nécessitant un traitement médico-psychiatrique depuis octobre 1988, d'une durée indéterminée (rapport médical du docteur O._, spécialiste FMH en psychiatrie et psychothérapie à Y._, du 8 juin 1994).
Il n'y a dès lors pas de lien de causalité entre les accidents incriminés, qui ont laissé des séquelles psychologiques, et le caractère apparemment durable des troubles d'ordre psychique dont souffre le recourant.
Sur ce point, la réponse du docteur B._ à la question précitée des premiers juges, qui propose d'appliquer par analogie les barèmes des indemnités pour atteintes à l'intégrité figurant dans l'annexe 3 à l'OLAA, n'est pas déterminante.
Il s'ensuit que les conditions du droit à une indemnité pour atteinte à l'intégrité mentale ne sont pas remplies.
7.- S'agissant d'un litige en matière de prestations d'assurance, la procédure est en l'occurrence gratuite (art. 134 OJ). Représenté par un avocat, le recourant a droit à une indemnité de dépens pour l'instance fédérale (art. 159 al. 1 en corrélation avec l'art. 135 OJ), si bien que sa demande d'assistance judiciaire est sans objet.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est partiellement admis en ce sens que le
jugement du Tribunal administratif de la République et
canton de Genève, du 9 mai 2000, et la décision sur
opposition litigieuse, du 5 septembre 1997, sont réformés
en ce sens que le recourant a droit à une rente
d'invalidité de l'assurance-accidents pour une incapacité
de gain de 20 %.
II. La cause est renvoyée à la Vaudoise pour qu'elle fixe
tant le montant que le début du droit à la rente.
III. Il n'est pas entré en matière sur les conclusions de
l'intimée, dans la mesure où elles concernent le droit
du recourant au traitement médical.
IV. Il n'est pas perçu de frais de justice.
V. La VAUDOISE Assurances versera au recourant la somme
de 2500 fr. (y compris la taxe sur la valeur ajoutée)
à titre de dépens pour l'instance fédérale.
VI. Le présent arrêt sera communiqué aux parties, au Tribunal
administratif de la République et canton de
Genève, à SWICA Organisation de santé et à l'Office
fédéral des assurances sociales.
Lucerne, le 16 mars 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIe Chambre :
Le Greffier :