A.- A._ est entré à l'école de recrues le 7 février 1955. Le 21 mars suivant, alors qu'il descendait d'un camion, il a glissé et est tombé sur le mousqueton du soldat qui le précédait. Le canon de l'arme s'est enfoncé de 10 cm environ dans la cuisse gauche et a sectionné la veine fémorale.
En 1959, en raison d'une aggravation de l'insuffisance veineuse, A._ a subi successivement l'amputation des quatrième et deuxième orteils du pied gauche. En juin 1975, il a été amputé à la mi-jambe gauche. Il a été appareillé d'une prothèse tibiale au mois d'août de la même année. Il en est résulté une recrudescence des lombalgies en raison du réapprentissage à la marche et de la création de nouveaux équilibres musculaires. Un arthrose de surcharge du genou droit a été diagnostiquée en janvier 1993 (rapport du docteur B._ du 20 mars 1993).
L'Office fédéral de l'assurance militaire (OFAM), qui avait pris en charge le cas, a alloué diverses prestations à son assuré, notamment une rente d'invalidité, dont le degré a varié en fonction de l'évolution de l'état de santé de l'intéressé et de l'activité professionnelle exercée par ce dernier.
B.- Par préavis du 15 décembre 1995, l'OFAM a informé l'assuré qu'il se proposait de lui allouer des rentes pour atteintes à l'intégrité à partir du 1er janvier 1994, à raison de 25 pour cent pour les séquelles post-traumatiques de la jambe gauche et de 15 pour cent pour les troubles vertébraux. Le taux reconnu de responsabilité de la Confédération était de 100 pour cent dans le premier cas et de 40 pour cent dans le second. Les rentes seraient capitalisées et rachetées au 1er février 1996, ce qui représentait un montant total de 124 804 fr. 90. Par décision du 7 mai 1996, l'OFAM a confirmé son préavis.
A._ a formé opposition contre cette décision.
Il reprochait notamment à l'OFAM de n'avoir pas tenu compte, dans son appréciation, d'une atteinte à l'intégrité découlant d'une arthrose de surcharge prononcée du genou droit. Il invoquait à cet égard un rapport du docteur C._ du 7 mars 1996, selon lequel l'état de ce genou représentait le quart de la perte totale d'un membre.
Le 24 décembre 1996, l'OFAM a rejeté l'opposition.
C.- a) Entre-temps, le 1er octobre 1996, A._ a informé l'OFAM qu'il avait été victime d'un accident le 23 septembre 1996 après avoir perdu l'équilibre et qu'il s'était cassé quatre vertèbres. Selon lui, cette perte d'équilibre était en relation avec l'amputation de la jambe gauche, consécutive à l'accident dont il avait été victime en 1955.
Dans un rapport du 21 février 1997, le docteur D._ a précisé que le patient avait fait une chute d'une échelle, alors qu'il exécutait des travaux sur un cerisier. La chute était survenue à la suite d'un déséquilibre par lâchage du genou droit. Il en était résulté de multiples fractures lombaires avec des complications sous la forme d'une paralysie, ainsi qu'un diabète d'emblée insulo-dépendant dont l'étiologie est à chercher dans l'ensemble des lésions traumatiques et post-traumatiques du nerf cubital.
Le 11 avril 1997, l'assuré a expliqué à un inspecteur de l'OFAM les circonstances de cet accident. Au moyen d'un sécateur muni d'un manche extensible, il s'apprêtait à couper quelques branches du cerisier de son voisin qui empiétaient sur son terrain. La corde qui équipait le sécateur est restée coincée dans l'arbre. Il est alors monté, à 1,5 mètres du sol, sur une échelle tenue par son épouse.
C'est à ce moment que son genou droit a "lâché", ce qui a provoqué la chute.
b) Par préavis du 31 juillet 1997, suivi d'une décision du 16 septembre 1997, l'OFAM a refusé d'allouer des prestations pour les suites de l'accident du 23 septembre 1996, considérant qu'il n'existait aucun lien de causalité, tant naturelle qu'adéquate, entre les affections assurées et la chute. De plus, l'assuré avait pris un risque en montant sur une échelle à une hauteur de 1,5 mètres, alors qu'il portait une prothèse à la jambe.
L'assuré a formé opposition en concluant à la reconnaissance de la responsabilité de la Confédération pour l'accident du 23 septembre 1996.
c) L'OFAM a alors confié une expertise au docteur E._, spécialiste FMH en chirurgie orthopédique.
L'expert a rendu son rapport le 9 mars 1998. Il a posé les diagnostics suivants, soit en les rattachant à chacun des deux accidents dont l'assuré avait été victime, soit en indiquant qu'ils ne relevaient pas de la "responsabilité" de l'assurance militaire :
Accident de 1955- Amputation de la jambe gauche (1975)- Etat après troubles trophiques post-traumatiques de la
jambe et du pied gauche - Etat après lésion neuro-vasculaire de la cuisse gauche- Dysplasie fonctionnelle et surcharge de la hanche droite- Scoliose sinistro-convexe lombaire (bascule du bassin)- Syndrome douloureux et arthrose fémoro-rotulienne droite- Amyotrophie du quadriceps droit (ménagement)- Légère ostéoporose du genou gauche (décharge prolongée)
Partiellement lié à l'accident de 1955- Lombalgies chroniques- Spondylose déformante lombaire- Arthrose sacro-iliaque gauche
Accident de 1996- Raideur de la colonne lombaire- Etat après fixation instrumentée L 2-4- Etat après fractures vertébrales L 2-5 et lésions des
disques intervertébrales L 1-5
Sans responsabilité de l'assurance militaire- Discopathies cervicales C 3-6- Contractures et myalgies cervico-scapulaires et dorsales- Spondylarthrose L 4/5/ S 1 gauche- Obliquité des articulations intervertébrales L 4 - S 1
gauches- Arthrose fémoro-rotulienne gauche- Diabète.
Selon l'expert, l'instabilité du genou droit de l'assuré est une instabilité fonctionnelle consécutive à l'arthrose fémoro-rotulienne. Une surcharge dans une position de flexion du genou provoque un lâchage du muscle quadriceps sous forme d'une détente subite réflectoire déclenchée par la surcharge. Un tel lâchage fait partie de la symptomatologie classique du syndrome fémoro-rotulien douloureux. La symptomatologie de lâchage s'est produite et aggravée progressivement. Elle est documentée, notamment, dans le rapport du docteur C._. L'arthrose fémoro-rotulienne est une séquelle partielle, mais prépondérante, de l'accident de 1955 due à la longue surcharge du genou droit entre 1955 et 1975, période pendant laquelle la jambe gauche était pratiquement inutilisable. Aussi bien, toujours selon l'expert, l'accident du 23 septembre 1996 est dû au lâchage du genou droit dans la mesure de la reconnaissance de l'arthrose fémoro-rotulienne droite par l'assurance militaire. Par conséquent, l'accident de 1996 n'est que partiellement en relation avec l'affection assurée. Une arthrose fémoro-rotulienne légère peut également, quoique plus rarement, provoquer des lâchages. Aussi bien l'expert propose-t-il, en conclusion, une responsabilité de 50 pour cent de l'assurance militaire en ce qui concerne l'état du genou. Ce pourcentage tient compte de l'arthrose fémoro-rotulienne prononcée droite par rapport à une arthrose analogue légère à modérée au maximum.
d) Dans un rapport du 1er avril 1998, le docteur F._, du service médical de l'OFAM, également spécialiste FMH en chirurgie orthopédique, a estimé pour sa part que la doctrine médicale ne retenait pas l'apparition d'une arthrose fémoro-rotulienne du membre intact à la suite d'une amputation de l'autre membre, si de telles altérations n'interviennent pas dans les deux à trois ans suivant l'amputation. Selon ce médecin, l'accident du 23 septembre 1996 n'est ni une suite tardive ni une rechute de l'affection assurée.
Se fondant sur cette appréciation, l'OFAM a rendu une décision sur opposition, le 18 mai 1998, par laquelle il a refusé d'engager sa responsabilité pour les suites de cet accident.
D.- A._ a recouru contre les décisions des 24 décembre 1996 et 18 mai 1998. Le Tribunal des assurances du canton de Vaud a joint les causes. Il a adressé un questionnaire au docteur E._, qui a répondu aux questions posées dans un rapport complémentaire du 23 décembre 1999.
Statuant le 17 juillet 2000, le tribunal des assurances a rejeté les recours portés devant lui.
E.- Contre ce jugement, A._ interjette un recours de droit administratif en concluant au versement par l'assurance militaire d'une rente pour atteinte à l'intégrité de 100 pour cent dès le 1er janvier 1994, pour une durée indéterminée, la rente étant rachetée pour un montant équivalent. Subsidiairement, il conclut au renvoi de la cause à l'autorité cantonale pour nouveau jugement au sens des motifs.
L'OFAM conclut au rejet du recours.

Considérant en droit :
1.- Aux termes de l'<ref-law>, si l'assuré souffre d'une atteinte notable et durable à son intégrité physique ou mentale, il a droit à une rente pour atteinte à l'intégrité (al. 1). La rente pour atteinte à l'intégrité est due dès la fin du traitement médical ou lorsque la poursuite du traitement ne laisse plus prévoir d'amélioration notable de l'état de santé de l'assuré (al. 2).
La gravité de l'atteinte à l'intégrité est déterminée équitablement en tenant compte de toutes les circonstances (<ref-law>). La rente est fixée en pour cent du montant annuel qui sert de base au calcul des rentes selon l'<ref-law> et compte tenu de la gravité de l'atteinte à l'intégrité (art. 49 al. 2, première phrase, LAM).
En cas d'atteintes multiples à l'intégrité, les pourcentages des différentes atteintes sont cumulés lors de la fixation de la rente pour atteinte à l'intégrité; la valeur maximale d'une rente pour atteinte à l'intégrité est fixée à 100 pour cent du montant annuel qui sert de base au calcul des rentes (<ref-law>).
2.- Est litigieuse la responsabilité de la Confédération pour les suites de l'accident du 23 septembre 1996. On examinera en premier lieu cette question.
a) Si l'affection est constatée seulement après le service par un médecin, un dentiste ou un chiropraticien, et est annoncée ensuite à l'assurance militaire, ou si des séquelles tardives ou une rechute sont invoquées, l'assurance militaire en répond seulement s'il est établi au degré de vraisemblance prépondérante que l'affection a été causée ou aggravée pendant le service ou seulement s'il est établi au degré de vraisemblance prépondérante qu'il s'agit de séquelles tardives ou de rechutes d'une affection assurée (<ref-law>).
Les rechutes et les séquelles tardives ont ceci en commun qu'elles sont attribuables à une atteinte à la santé qui a été considérée comme guérie alors qu'elle ne l'était qu'en apparence. Il y a rechute lorsque c'est la même maladie qui se manifeste à nouveau. On parle de séquelles tardives lorsque l'atteinte apparemment guérie produit, au cours d'un laps de temps prolongé, des modifications organiques ou psychiques qui conduisent souvent à un état pathologique différent (<ref-ruling> consid. 3a). Dans ce contexte et de manière plus générale, l'assurance militaire répond d'un événement (par ex. une chute) qui est la conséquence naturelle et adéquate d'une affection assurée (Christof Steger-Bruhin, Die Haftungsgrundsätze der Militärversicherung, thèse St-Gall 1996, p. 167 sv.).
b) Les premiers juges ont retenu que l'assurance militaire n'encourait aucune responsabilité pour les suites de de la chute de l'assuré. Ils considèrent à ce propos que les avis des docteurs E._ et F._ sont contradictoires en ce qui concerne la gravité de l'arthrose et le lien de causalité avec l'accident : pour le docteur E._ l'accident du 23 septembre 1996 est dû au lâchage du genou droit dans la mesure de la reconnaissance par l'assurance militaire de l'arthrose fémoro-rotulienne droite, qui est une séquelle partielle, mais prépondérante de l'accident de 1955, due à la surcharge de longue durée du genou droit. En revanche, le docteur F._ estime que l'arthrose fémoro-rotulienne est due à une anomalie constitutionnelle de la rotule et non à une surcharge.
Selon les premiers juges toujours, il est difficile d'établir qui de ces deux médecins a raison, ce qui permet de penser qu'il subsiste un doute quant au fait que, si lâchage du genou il y a eu, l'atteinte à la santé qui en est résultée a eu comme condition sine qua non l'accident de 1955.
Les premiers juges énumèrent divers éléments qui, selon eux, plaident en faveur de l'absence d'un lien de causalité naturelle entre cet accident et l'atteinte au genou. Il y a tout d'abord la durée (plus de 41 ans) qui sépare l'événement assuré de cette chute. Ensuite, les circonstances, peu précises, du déroulement de la chute, spécialement le doute quant à la position de la jambe droite du recourant, juste avant la chute : cette imprécision permet d'admettre que le lâchage du genou droit n'est qu'une cause possible de la chute. Il ressort par ailleurs du rapport complémentaire du docteur E._ que le père de l'assuré avait également subi une amputation traumatique de la cuisse gauche à l'âge de 32 ans, mais qu'il n'avait pas développé d'arthrose manifeste jusqu'à son décès à l'âge de 74 ans. En outre, la chute d'une échelle n'est pas un événement rare chez les hommes valides d'un certain âge. Enfin, compte tenu de son état de santé, l'assuré aurait quoi qu'il en soit pris un risque en grimpant sur une échelle.
De son côté, l'OFAM fait valoir que dans ses premières déclarations, le recourant a fait état d'une perte d'équilibre, sans préciser qu'il avait été victime d'un lâchage du genou. Selon l'OFAM, l'accident est survenu à la vie civile, sans que l'affection de la jambe gauche n'ait joué de rôle. Se fondant sur l'avis du docteur F._, il estime qu'il n'existe pas de lien de causalité naturelle entre l'affection assurée et l'accident : la preuve médicale que la surcharge du membre sain provoque une arthrose n'est pas rapportée.
c) aa) Le juge des assurances sociales doit examiner de manière objective tous les moyens de preuve, quelle qu'en soit la provenance, puis décider si les documents à disposition permettent de porter un jugement valable sur le droit litigieux. Si les rapports médicaux sont contradictoires, il ne peut liquider l'affaire sans apprécier l'ensemble des preuves et sans indiquer les raisons pour lesquelles il se fonde sur une opinion médicale et non pas sur une autre. C'est ainsi qu'il importe, pour conférer pleine valeur probante à un rapport médical, que les points litigieux aient fait l'objet d'une étude circonstanciée, que le rapport se fonde sur des examens complets, qu'il prenne également en considération les plaintes exprimées par la personne examinée, qu'il ait été établi en pleine connaissance de l'anamnèse, que la description du contexte médical et l'appréciation de la situation médicale soient claires et enfin que les conclusions du médecin soient dûment motivées.
Au demeurant, l'élément déterminant pour la valeur probante n'est ni l'origine du moyen de preuve ni sa désignation comme rapport ou comme expertise, mais bel et bien son contenu (<ref-ruling> consid. 3a et les références).
Ces principes, développés à propos de l'assurance-accidents, sont applicables à l'instruction des faits d'ordre médical dans toutes les branches d'assurance sociale (Spira, La preuve en droit des assurances sociales, in Mélanges en l'honneur de Henri-Robert Schüpbach, Bâle 2000 p. 268).
bb) L'expertise du docteur E._ établit clairement que la chute d'échelle est due au lâchage du genou droit par surcharge fémoro-rotulienne. L'utilisation augmentée du membre inférieur droit depuis 1955, qui est à l'origine de cette surcharge, est la suite du mauvais état de la jambe gauche. Selon les termes de l'expert, la chute est donc une séquelle secondaire de l'accident de 1955. En ce qui concerne le taux de responsabilité de l'assurance militaire, l'expert propose de le fixer à 50 pour cent pour l'état du genou.
Il n'y a pas de raison de mettre en doute les constatations et conclusions de l'expert, très détaillées, établies après deux examens successifs, médicaux et radiologiques, du patient et cela en connaissance de l'ensemble du dossier de la cause. En procédure cantonale, l'expert a fourni dans son rapport des explications complémentaires et il a pris position point par point sur les objections du docteur F._. Il a en outre pris l'avis du professeur G._, ancien chef du service de chirurgie orthopédique de l'Hôpital X._. Au dire de l'expert, ce professeur est un spécialiste du genou mondialement réputé.
Enfin, le rapport d'expertise et son complément judiciaire répondent aux critères formels permettant de leur attribuer une pleine valeur probante (voir au surplus <ref-ruling> consid. 3a). L'ensemble de ces circonstances justifie que l'on accorde la préférence à l'opinion de l'expert par rapport à l'avis du docteur F._.
cc) Les arguments avancés par les premiers juges n'apparaissent pas décisifs. Ainsi, le fait que l'assuré aurait pris un risque en grimpant sur une échelle n'est pas en soi un facteur de rupture du lien de causalité naturelle : le cas échéant, il n'en resterait pas moins un lien logique entre le lâchage du genou et la chute, qui laisserait subsister la causalité naturelle (cf. Henri Deschenaux/Pierre Tercier, La responsabilité civile, 2e éd., Berne 1982, p. 56). Il en va de même de la circonstance que le père de l'assuré a également subi une amputation traumatique sans que cela entraîne le développement d'une arthrose de la jambe saine. Enfin, l'expert s'est prononcé de manière convaincante, dans son complément d'expertise, sur le reproche selon lequel il se serait fondé sur les déclarations peu crédibles de l'assuré. Selon l'expert, le récit de l'assuré est cohérent. La description de la symptomatologie de lâchage est classique et typique pour les affections fémoro-rotuliennes qui sont d'ailleurs manifestes à l'examen clinique.
Quant à la circonstance, invoquée par l'OFAM, que l'assuré n'a pas fait immédiatement état d'un lâchage du genou droit, il n'apparaît pas non plus déterminant du moment que la communication de l'assuré du 1er octobre 1996 avait pour seul objet d'annoncer le cas à l'assurance militaire.
L'assuré a ensuite fourni, à un inspecteur de l'OFAM, puis à l'expert, des explications sur les circonstances exactes de la chute et ses déclarations successives ne recèlent pas de contradictions qui seraient de nature à jeter un doute sur leur crédibilité.
dd) Sur la base de l'expertise on doit ainsi considérer qu'il existe un lien de causalité naturelle entre la chute de l'assuré et l'accident de 1955.
d) A titre subsidiaire, l'OFAM conteste l'existence d'un lien de causalité adéquate entre l'affection du membre inférieur gauche et l'accident du 23 septembre 1996.
Selon une définition qui est la même dans tous les domaines du droit, la causalité est adéquate si, d'après le cours ordinaire des choses et l'expérience de la vie, le fait considéré était propre à entraîner un effet du genre de celui qui s'est produit, en sorte que la survenance de ce résultat paraît de façon générale favorisée par le fait en question (<ref-ruling> consid. 2a, 121 V 49 consid. 3a, 121 III 363 consid. 5). En l'espèce, on ne saurait guère nier que l'affection initiale était propre, dans le cours ordinaire des choses et selon l'expérience générale de la vie, à entraîner un lâchage du genou pouvant provoquer une chute.
L'OFAM fait certes valoir qu'il est plus vraisemblable que l'accident ait pour origine un déséquilibre dû à l'âge de l'assuré et au port d'une prothèse à la jambe gauche.
Mais cette objection relève du lien de causalité naturelle entre l'affection du membre inférieur gauche et l'accident.
Or, comme on l'a vu, l'existence d'un lien de causalité naturelle doit en l'occurrence être considéré comme établi.
L'OFAM soutient également que l'assuré a commis une imprudence coupable en montant sur une échelle à son âge et avec une prothèse à la jambe gauche alors qu'il avait l'obligation de tout entreprendre pour diminuer le dommage.
Pour des raisons de politique sociale, il conviendrait de nier un lien de causalité adéquate entre l'affection de la jambe gauche et l'accident, l'assuré ayant rompu l'éventuel lien de causalité adéquate.
La causalité adéquate doit être exclue si une autre cause concomitante, par exemple une force naturelle, le comportement de la victime ou d'un tiers, constitue une circonstance tout à fait exceptionnelle ou apparaît si extraordinaire que l'on ne pouvait pas s'y attendre; l'imprévisibilité d'un acte concurrent ne suffit pas en soi à interrompre le rapport de causalité adéquate; il faut encore que cet acte ait une importance telle qu'il s'impose comme la cause la plus probable et la plus immédiate de l'événement considéré reléguant à l'arrière-plan tous les autres facteurs qui ont contribué à l'amener (<ref-ruling> consid. 2c/bb et les arrêts cités). Au regard de ces principes, on ne peut que nier toute rupture du lien de causalité adéquate. Il n'y a rien d'extraordinaire ou d'imprévisible dans le fait, pour un homme d'âge relativement avancé, de monter - à faible hauteur - sur une échelle, même avec une prothèse de la jambe et surtout si l'on prend en considération le phénomène d'accoutumance qu'engendre avec le temps le port d'une prothèse de cette nature.
e) En conclusion il y a lieu d'admettre que la responsabilité de l'assurance militaire est engagée pour les conséquences de la chute du 23 septembre 1996. Le Tribunal fédéral des assurances ne disposant pas des éléments suffisants pour se prononcer à ce sujet, il convient de renvoyer la cause à l'OFAM pour qu'il statue sur la prétention du recourant à rente pour atteinte à l'intégrité en raison des séquelles de cet accident.
3.- a) Dans sa décision du 24 décembre 1996, l'OFAM a alloué au recourant une rente globale pour atteinte à l'intégrité de 40 pour cent, sur la base d'un degré d'atteinte à l'intégrité de 25 pour cent pour la jambe gauche et de 15 pour cent pour la colonne vertébrale. En ce qui concerne l'atteinte au genou droit, cette décision réserve les prétentions de l'assuré en vertu de l'<ref-law>. Selon cette disposition, en cas d'augmentation ultérieure notable de l'atteinte à l'intégrité, l'assuré peut exiger une rente supplémentaire pour atteinte à l'intégrité.
Les premiers juges considèrent à ce sujet que, même dans l'hypothèse d'une responsabilité de la Confédération pour l'atteinte au genou droit, on n'est pas en présence d'une affection stabilisée de nature à justifier le versement d'une rente pour atteinte à l'intégrité. Les premiers juges rappellent à cet égard que le recourant a la possibilité de demander une révision au sens de l'<ref-law>.
De son côté, le recourant reproche aux premiers juges de n'avoir pas examiné, sur le vu des preuves à disposition, si son atteinte au genou droit présentait une stabilité et une gravité suffisantes pour justifier l'octroi d'une telle rente. Quant à l'OFAM, il se rallie pour l'essentiel à l'opinion des premiers juges.
b) Le reproche du recourant est fondé. L'objet de la contestation, tel qu'il a été défini par la décision du 24 décembre 1996 (cf. <ref-ruling> consid. 2a), portait également sur la question d'une rente pour atteinte à l'intégrité liée à l'affection du genou droit. Cette affection avait été diagnostiquée en 1993 par le docteur B._ puis par le docteur C._ en 1996. L'expertise du docteur E._, si elle est postérieure à la décision de l'OFAM du 24 décembre 1996, fait état d'une situation qui existait certainement au moment où cette décision a été rendue. Selon l'expert, le processus qui a conduit à une diminution fonctionnelle du genou droit a duré plus de vingt ans. Le fait que cette diminution fonctionnelle a été, mieux que par le passé, mise en évidence par une expertise établie postérieurement à la décision précitée ne dispensait pas l'autorité cantonale d'examiner si l'atteinte au genou justifiait ou non le versement d'une rente pour atteinte à l'intégrité.
En ce qui concerne la stabilisation de l'affection, on rappellera que l'exigence du caractère durable (et stabilisé) de l'atteinte à la santé est réalisée lorsqu'il n'y a plus lieu d'attendre de modification importante. Cependant, comme dans la plupart des cas il est difficile d'émettre un pronostic, il ne faut pas poser, à cet égard, d'exigences trop sévères; il suffit que l'atteinte à la santé apparaisse pour l'essentiel stabilisée (Jürg Maeschi, Kommentar zum Bundesgesetz über die Militärversicherung [MVG] vom 19. Juni 1992, Berne 2000, n. 9 ad art. 48). Même la continuation d'un processus pathologique n'exclut pas que l'atteinte ait un caractère durable, quand on ne peut plus attendre d'amélioration sensible (Maeschi, op. cit. , note 11 ad art. 48; Franz Schlauri, Die Militärversicherung, in Schweizerisches Bundesverwaltungsrecht [SBVR], Soziale Sicherheit, ch. 169). Or, dans le cas particulier, on est en présence d'un phénomène dégénératif du genou et rien ne permet d'admettre qu'une amélioration importante soit prévisible. Les premiers juges n'invoquent d'ailleurs aucun élément médical concret à l'appui de leur affirmation selon laquelle l'affection n'était pas stabilisée au moment où la décision sur opposition a été rendue.
Il appartiendra donc à l'OFAM, à qui la cause est renvoyée pour les motifs exposés plus haut, de se prononcer aussi sur le droit éventuel du recourant à une rente pour atteinte à l'intégrité en raison de l'affection du genou droit.
4.- Le recourant conteste enfin le taux de l'atteinte à l'intégrité retenu par l'OFAM et les premiers juges pour la jambe gauche (25 pour cent) et les troubles dorsaux (15 pour cent). Il conteste également le taux de responsabilité de la Confédération de 40 pour cent retenu en ce qui concerne les douleurs lombaires; selon lui, ce taux devrait être porté à 60 pour cent. Enfin, il invoque l'existence de troubles psychiques.
a) Pour évaluer le préjudice résultant d'une atteinte à l'intégrité, l'OFAM a élaboré des directives internes, des tables, des échelles, etc. , destinées à garantir l'égalité de traitement entre les assurés. Selon une jurisprudence constante, une telle pratique n'est en principe pas critiquable (SVR 1998 MV n° 2 p. 6 consid. 3b et les références citées). Ces valeurs de référence fixent les grandes lignes d'évaluation, qui permettent de situer le dommage à l'intégrité. Mais, dans le cas concret, il faut examiner en tenant compte de toutes les circonstances si l'atteinte à l'intégrité correspond à cette valeur ou si elle lui est supérieure ou inférieure. On s'en écartera par exemple en présence de conséquences extraordinaires de l'événement assuré (SVR 1998 MV n° 2 p. 6 consid. 3b et 4c).
b) Selon la pratique de l'assurance militaire, la perte du tiers proximal d'une jambe correspond à une atteinte à l'intégrité de 20 pour cent (Jürg Maeschi/Max Schmidhauser, Die Abgeltung von Integritätsschäden in der Militärversicherung, RSAS 1997, p. 191).
En l'espèce, le taux retenu de 25 pour cent est sensiblement supérieur au taux susmentionné de 20 pour cent. On ne voit pas de motif de s'écarter de cette appréciation. Le recourant reproche en vain à l'OFAM de n'avoir pas tenu compte de troubles trophiques post-traumatiques de la jambe et du pied gauches et de la lésion neuro-vasculaire de la cuisse gauche. L'OFAM explique de manière convaincante qu'il a tenu compte - en portant de 20 à 25 pour cent le taux de l'atteinte - des ulcères à répétition du décubitus nécessitant des soins, de la diminution de la capacité de charge de la jambe gauche et d'une dysbalance musculaire dans les hanches. Quant à la lésion neuro-vasculaire de la cuisse gauche, il s'agit de troubles de vascularisation de la jambe gauche qui ont provoqué les troubles trophiques.
Selon le rapport d'expertise, ce sont ces troubles qui ont entraîné des ulcères à répétition, une nécrose cutanée du talon, des abcès plantaires profonds, puis l'amputation à la mi-jambe gauche. Or, ces troubles ont été éliminés par l'amputation.
c) Une atteinte très grave de la colonne vertébrale, avec d'importants inconvénients dans la vie courante, notamment dans la sphère privée, correspond, selon la pratique, à une atteinte à l'intégrité de 20 pour cent (Maeschi/Schmidhauser, loc. cit. , p. 190). En l'espèce, le taux a été fixé à 15 pour cent. Cette appréciation tient compte de dorso-lombalgies chroniques, entraînant des douleurs nocturnes, des cervicalgies récidivantes qui peuvent irradier dans les deux bras. Il n'y a pas de raison non plus de s'en écarter, l'atteinte ne pouvant en l'occurrence pas être qualifiée de très grave (comp. également avec les exemples donnés dans l'arrêt <ref-ruling> consid. 3a/bbb).
d) Pour le reste, il n'y a pas lieu d'examiner ici ce qu'il en est des répercussions psychiques, invoquées par le recourant, des diverses atteintes à la santé physique.
Cette question n'a pas été examinée par les décisions litigieuses; elle sort donc du cadre de l'objet de la contestation (supra consid. 3b).
e) En ce qui concerne le taux de la responsabilité de la Confédération de 40 pour cent pour l'atteinte dorsale, il ne saurait être remis en cause. La question de la responsabilité de la Confédération pour les troubles dorsaux a fait l'objet d'une proposition de règlement (art. 12 al. aLAM) du 1er juin 1984, dans le cadre de la fixation d'une rente d'invalidité. Cette proposition a été acceptée par l'assuré le 13 juin 1984, de sorte qu'elle a acquis force de chose jugée (cf. <ref-ruling> consid. 1a).
5.- En conclusion, le recours est partiellement fondé (supra consid. 2 et 3).
La procédure est gratuite (art. 134 OJ). Le recourant, qui obtient partiellement gain de cause, a droit à une indemnité de dépens réduite (art. 159 al. 3 OJ).

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est partiellement admis. Le jugement du
Tribunal des assurances du canton de Vaud du 17 juillet
2000 et les décisions de l'OFAM des 18 mai 1998 et
24 décembre 1996 sont annulés, dans la mesure où ils
nient le droit du recourant à une rente pour atteinte
à l'intégrité pour les séquelles de l'accident du 23 septembre 1996 et pour l'affection au genou droit.
II. La cause est renvoyée à l'OFAM pour nouvelle(s) décision(s) au sens des motifs.
III. Il n'est pas perçu de frais de justice.
IV. L'OFAM versera au recourant une somme de 2000 fr. (y compris la taxe à la valeur ajoutée) à titre de dépens pour la procédure fédérale.
V. Le Tribunal des assurances du canton de Vaud statuera
à nouveau sur les dépens de l'instance cantonale, au
regard de l'issue définitive du procès de dernière
instance.
VI. Le présent arrêt sera communiqué aux parties et au Tribunal des assurances du canton de Vaud.
Lucerne, le 22 octobre 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIe Chambre :
Le Greffier :