Faits :
A.
Par convention du 22 octobre 2004, X._ a acheté à A._ le fonds de commerce de la boulangerie-confiserie-tea-room «xxx» à F._ pour la somme de 140'000 fr. Par contrat du 3 février 2005, A._ a cédé à X._ le bail à loyer du tea-room «xxx» conclu avec la société B._ (ci-après: la bailleresse).
X._ a exploité le tea-room sous l'enseigne «xxx » de début 2005 au 31 janvier 2013. Il tenait également une boulangerie-tea-room à G._. Bien que le tea-room de F._ ait alors bonne réputation et que la clientèle soit totalement satisfaite des prestations fournies, X._ a cherché en 2012 à remettre son commerce en raison de difficultés financières. Le 22 mai 2012, la bailleresse avait du reste résilié le bail avec effet au 30 juin 2012 pour non-paiement du loyer.
Souhaitant se lancer dans l'exploitation d'un tea-room comme indépendant, Z._, salarié de la société C._ depuis 24 ans, a répondu à l'annonce de D._ Sàrl, mandatée en vue de la vente du tea-room de F._.
Par convention du 30 octobre 2012, X._ a vendu à Z._ le fonds de commerce du tea-room et lui en remettait l'exploitation à partir du 31 janvier 2013. L'article premier du contrat prévoit un prix de vente de 150'000 fr., "déterminé en fonction de l'agencement, des installations, du matériel d'exploitation et de l'inventaire ci-joint"; ce dernier comprenait une liste d'une trentaine d'objets, sans indication de valeur (frigos, congélateur, machine à laver, appareil à carte EC, meubles de rangement, tables, chaises, plonge mobile, stock de boissons, caisses enregistreuses, vaisselle, etc.). L'article huitième de la convention subordonne la validité de l'accord au transfert effectif du bail à l'acquéreur du fonds de commerce.
Un acompte de 20'000 fr. a été versé à la signature de la convention.
Au cours des négociations avec la régie représentant B._ (ci-après: la régie), Z._ a appris que, quelques mois avant la conclusion de la convention de remise de commerce, la bailleresse avait résilié le bail en raison du défaut de paiement du loyer par le locataire X._.
Le 23 janvier 2013, Z._ a conclu avec la bailleresse, représentée par la régie, un nouveau bail portant sur le tea-room de F._ et prenant effet au 1 er février 2013; selon le chiffre 6 du contrat, font partie intégrante des locaux et restent propriété du bailleur le mobilier et les appareils désignés dans un inventaire du 6 janvier 1998, joint au bail.
Le même jour, le nouveau locataire a passé avec E._, également représenté par la régie, un second contrat de bail relatif à un laboratoire de boulangerie-pâtisserie, précédemment loué par X._.
Les deux baux à loyer, de même durée, étaient liés en ce sens que la résiliation de l'un entraînait automatiquement la résiliation de l'autre. Ayant donné son congé auprès de son employeur, Z._ était pressé par le temps et désireux de poursuivre l'exploitation du tea-room sans interruption à partir du 1 er février 2013. C'est pourquoi il a accepté les conditions posées par la régie et signé le second contrat bien qu'il n'ait aucun usage du laboratoire, qu'il sous-louera par la suite.
Par courrier du 28 janvier 2013, la fiduciaire de Z._ a fait savoir à X._ que la convention du 30 octobre 2012 était entachée de dol. Elle reprochait en particulier au vendeur de ne pas avoir communiqué à l'acheteur la résiliation du bail, antérieure à la signature du contrat de remise de commerce; elle relevait également que "selon la gérance, le matériel vous appartenant était très minime". En conclusion, la fiduciaire informait X._ que le "paiement convenu n'a[vait] pas lieu d'être" et qu'il ne lui "sera[it] donc versé aucun montant supplémentaire".
Le 29 janvier 2013, Z._ a fait inscrire au registre du commerce l'entreprise individuelle «... de F._, Z._», dont le but est l'exploitation d'un tea-room. Il est entré en possession des locaux deux jours plus tard et exploite le tea-room depuis lors, réalisant un chiffre d'affaires sensiblement inférieur à celui présenté par X._.
Par arrêt du 21 mars 2013, la Cour de droit administratif et public du Tribunal cantonal a déclaré sans objet le recours dirigé par X._ contre la décision du 12 septembre 2012 du Service de la promotion économique et du commerce en tant qu'elle refusait la prolongation de la licence et ordonnait la fermeture du tea-room « xxx».
Le 30 mai 2013, le conseil de Z._ a adressé au conseil de X._ un courrier comportant notamment les lignes suivantes:
"Pour autant que nécessaire, j'invoque à nouveau, au nom et pour compte de M. Z._, les vices du consentement, soit l'erreur essentielle et le dol, en sorte que le contrat signé le 30 octobre 2012 (convention de remise de commerce relative au tea-room xxx) est invalidé.
Le prix de vente a été fixé en tenant compte du droit au bail portant sur ce local et fonction de l'agencement, des installations et du matériel d'exploitation.
M. X._ n'était, au moment de signer la vente, plus titulaire de ce bail, lequel avait été résilié valablement auparavant pour défaut de paiement. De surcroît, M. X._ n'était pas propriétaire de l'entier de l'agencement, des installations et du matériel d'exploitation. M. X._ a par ailleurs caché à mon mandant le fait que le bail du tea-room était lié à celui d'un laboratoire de boulangerie.
Par ailleurs, mon mandant avait accepté de signer le bail portant sur le laboratoire de boulangerie-pâtisserie au vu de l'inventaire qui y était lié. Lors de la mise à disposition des locaux, l'ensemble de ce matériel a été enlevé par M. X._. Les droits de mon mandant sont réservés sur ce point.
Le présent énoncé n'est pas exhaustif mais à lui seul suffisamment exemplaire.
Je mets en demeure M. X._ de restituer le montant de frs 20'000.-, payé à titre d'acompte, sur le compte clients de l'Etude, au moyen du bulletin de versement joint."
Par la suite, le conseil de X._ s'est étonné auprès de la régie du fait qu'elle avait annexé au bail du 23 janvier 2013 un inventaire recensant du matériel prétendument propriété de la bailleresse, mais qui avait été en réalité vendu à son mandant par les précédents exploitants.
La faillite personnelle de X._ a été prononcée le 28 mai 2013, avant d'être suspendue faute d'actifs, puis clôturée le 4 septembre 2013.
Le 18 décembre 2013, Z._ a fait notifier à X._ un commandement de payer de 20'000 fr. plus intérêts; la cause de l'obligation résidait dans la restitution de l'acompte versé, à la suite de la "résiliation" de la convention de remise du commerce pour "dol et vices du consentement". Le poursuivi n'a pas fait opposition.
B.
Par demande du 28 octobre 2013, X._ a ouvert action contre Z._ en paiement de 130'471 fr.90, plus intérêts. Par la suite, il prendra une conclusion supplémentaire tendant à ce qu'il soit prononcé qu'il n'est pas le débiteur du montant de 20'000 fr. réclamé par le défendeur dans la poursuite introduite en décembre 2013, dont il demande l'annulation.
Z._ a conclu au rejet des conclusions du demandeur. Pour le surplus, il a invoqué son propre dommage en compensation des créances alléguées par le demandeur.
Par jugement du 28 janvier 2016, la Chambre patrimoniale cantonale du canton de Vaud a fait droit aux conclusions de X._.
Statuant le 11 novembre 2016, la Cour d'appel civile du canton de Vaud a admis l'appel déposé par Z._; elle a entièrement rejeté les conclusions du demandeur. Elle a jugé tout d'abord que Z._ avait manifesté en temps utile sa volonté d'invalider le contrat pour dol. Elle a retenu ensuite que X._, acculé à la faillite, avait caché à Z._ "la situation financière et administrative du fonds de commerce à remettre" afin qu'"il aille de l'avant dans cette transaction" et qu'il y avait bien eu dol. La cour cantonale a qualifié le dol d'incident, car Z._ aurait tout de même conclu le contrat s'il avait été pleinement informé, mais à d'autres conditions, notamment en ce qui concerne le prix. Comme X._ n'avait ni allégué ni prouvé les éléments qui permettraient une invalidation partielle du contrat sous la forme d'une réduction du prix de vente du commerce, le contrat devait être invalidé entièrement. La cour cantonale en a déduit que X._ ne disposait d'aucune prétention envers Z._. Elle a ajouté que ce dernier n'avait pas prouvé avoir subi un dommage et qu'il ne pouvait prétendre à des dommages-intérêts de la part de X._.
C.
X._ interjette un recours en matière civile. Il conclut à la réforme de l'arrêt du 11 novembre 2016 en ce sens que l'appel est rejeté et le jugement du 28 janvier 2016 de la Chambre patrimoniale cantonale est confirmé. A titre subsidiaire, il demande le renvoi de la cause à l'autorité précédente pour nouvelle instruction et décision dans le sens des considérants.
Le recourant a sollicité l'octroi de l'assistance judiciaire. Par ordonnance du 1 er mai 2017, la cour de céans a admis cette requête et désigné Me Jacques Micheli comme avocat d'office du recourant.
Avant de déposer ses observations, Z._ a formé une demande d'assistance judiciaire, rejetée par ordonnance du 15 juin 2017.
Dans sa réponse, l'intimé conclut au rejet du recours.
Pour sa part, la cour cantonale se réfère aux considérants de son arrêt.
Considérant en droit :
1.
L'arrêt attaqué est une décision finale (art. 90 LTF) rendue en matière civile (art. 72 LTF) par un tribunal supérieur désigné comme autorité cantonale de dernière instance, lequel a statué sur recours (art. 75 LTF). La cause atteint la valeur litigieuse minimale de 30'000 fr., ouvrant le recours en matière civile dans les affaires relevant ni du droit du travail ni du droit du bail à loyer (art. 74 al. 1 let. b LTF). Le recours est exercé par la partie qui a succombé dans ses conclusions et qui a donc qualité pour recourir (art. 76 al. 1 LTF); il a été déposé dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi. Le recours est en principe recevable, sous réserve de l'examen des griefs particuliers.
2.
Invoquant une "appréciation manifestement arbitraire des faits" et une mauvaise application de l'art. 28 al. 1 CO, le recourant reproche à la cour cantonale d'avoir admis le caractère causal du dol. A son sens, l'éventuelle méconnaissance par l'intimé de la résiliation anticipée du bail, de la situation financière du recourant et de la procédure administrative n'a eu aucune influence sur la conclusion du contrat, ni sur le prix du commerce à remettre. Le recourant conteste également tout dol en rapport avec la propriété de l'agencement, du mobilier et du matériel d'exploitation et relève que, selon l'arrêt attaqué, l'instruction n'a pas permis d'élucider à qui appartenaient les biens mobiliers vendus par le recourant à l'intimé.
2.1. Aux termes de l'art. 28 al. 1 CO, la partie induite à contracter par le dol de l'autre n'est pas obligée, même si son erreur n'est pas essentielle. Le dol est une tromperie intentionnelle qui détermine la dupe, dans l'erreur, à accomplir un acte juridique; le dol éventuel suffit (ATF 136 III 528 consid. 3.4.2 p. 532). La tromperie peut résulter de l'affirmation de faits faux ou de la dissimulation de faits vrais; l'auteur du dol cause alors l'erreur dans laquelle l'autre partie se trouve (dol par commission). L'auteur peut également s'abstenir de détromper la victime déjà dans l'erreur, en gardant le silence sur un fait qu'il avait l'obligation de révéler d'après la loi, le contrat ou les règles de la bonne foi (dol par omission) (BRUNO SCHMIDLIN, Berner Kommentar, 2013, n° 13 ss ad art. 28 CO; PIERRE ENGEL, Traité des obligations en droit suisse, 2e éd. 1997, p. 351 ss).
Le dol au sens de l'art. 28 CO suppose une tromperie qui a abouti. Il n'est pas nécessaire qu'elle provoque une erreur essentielle au sens de l'art. 24 CO; il suffit que, sans l'erreur, la dupe n'aurait pas conclu le contrat ou ne l'aurait pas conclu avec le même contenu. Sur ce dernier point, il convient de préciser que, depuis l'ATF 64 II 142 (consid. 3c et 3d p. 147 ss), la distinction entre dol principal et dol incident a été abolie lorsqu'il s'agit d'apprécier le caractère causal du dol (sur le dol de manière générale, ATF 136 III 528 consid. 3.4.2 p. 532; 132 II 161 consid. 4.1 p. 165 s.; 129 III 320 consid. 6.3 p. 326 s.; 116 II 431 consid. 3a p. 434; 99 II 308 consid. 4c p. 309; 81 II 213 consid. 2c p. 219).
2.2. Les parties ont conclu un contrat de remise de commerce. Il n'est plus contesté à ce stade que le contrat consistait non seulement dans la vente d'installations mobilières du tea-room, mais portait également sur le goodwill, comprenant la clientèle.
La cour cantonale n'a pas retenu une tromperie intentionnelle sur la propriété des biens vendus, car l'instruction n'avait pas permis d'élucider la question de savoir à qui appartenaient lesdits objets. Elle retient en revanche que le recourant a caché à l'intimé la résiliation du bail pour défaut de paiement du loyer, ses difficultés financières et la procédure administrative en cours; le commerçant a ainsi provoqué chez le repreneur intéressé une erreur "par rapport à la situation financière et administrative du fonds de commerce", afin de l'inciter à conclure. L'autorité précédente admet ensuite le caractère causal du dol en jugeant que l'intimé, informé des éléments précités, aurait tout de même conclu le contrat de remise de commerce, mais à d'autres conditions (dol incident).
2.3. L'article huitième du contrat du 30 octobre 2012 mentionne expressément le "transfert de bail" ainsi que l'art. 263 CO, relatif au transfert du bail à un tiers par le locataire d'un local commercial; sous cette même clause, le vendeur "s'engage expressément à rendre effectif et à faire transférer le bail à l'acquéreur". Par ces termes, le recourant suggère un fait inexistant, à savoir qu'il est locataire des locaux abritant le tea-room au moment de la conclusion du contrat de remise de commerce. Par la même occasion, il dissimule un fait vrai, à savoir que la bailleresse a, quelques mois plus tôt, résilié le bail pour défaut de paiement du loyer. En outre, le recourant a caché à l'intimé un autre fait, soit la décision du 12 septembre 2012 portant notamment sur la fermeture du tea-room, contre laquelle il avait recouru. Il y a là un dol par commission. La manoeuvre, intentionnelle, consistait à créer une fausse sécurité chez l'intimé pour l'amener à conclure le contrat litigieux, tant il est vrai que la connaissance de la décision de fermeture et de la résiliation anticipée du bail pour défaut de paiement aurait été de nature à interroger le repreneur intéressé sur la santé financière du commerce qu'il envisageait d'acquérir et, partant, à influer sur sa volonté de conclure le contrat.
Peu importe que, sans l'erreur causée par le recourant, l'intimé n'eût pas conclu le contrat de remise de commerce ou qu'il l'eût tout de même conclu mais à d'autres conditions, comme la cour cantonale l'affirme sans indiquer les éléments de fait qui l'ont amenée à cette conclusion. En effet, il suffit de constater que s'il n'avait pas été faussement rassuré par le recourant, l'intimé n'aurait pas, le 30 octobre 2012, signé ce contrat-là, avec ce contenu.
Il s'ensuit que la cour cantonale n'a pas violé le droit fédéral en admettant que le contrat de remise de commerce était entaché d'un dol au sens de l'art. 28 al. 1 CO.
3.
Le recourant fait grief à l'autorité précédente d'avoir violé l'art. 31 CO. L'intimé aurait ratifié le contrat de remise de commerce par actes concluants, soit en signant les baux à loyer pour le tea-room et le laboratoire le 23 janvier 2013, puis en prenant possession des locaux, en débutant l'exploitation du tea-room en février 2013 et en la poursuivant jusqu'à ce jour. Le recourant invoque également le courrier du 28 janvier 2013, dans lequel la fiduciaire représentant l'intimé déclare notamment que son client accepte les "conditions de la reprise".
3.1. La victime d'un dol peut soit invalider le contrat, soit le ratifier. Faute d'invalidation dans le délai péremptoire d'un an après la découverte du dol, le contrat est tenu pour ratifié (cf. art. 31 al. 1 et 2 CO). La ratification peut également intervenir expressément ou par actes concluants avant l'écoulement du délai. Étant donné la portée de cette renonciation à un droit, la ratification par actes concluants, spécialement en cas de dol, ne doit pas être admise trop facilement (ATF 108 II 102 consid. 2a p. 105; 109 II 319 consid. 4c p. 327).
3.2. Dans la lettre de sa fiduciaire du 28 janvier 2013, l'intimé invoque expressément le dol et refuse de payer le solde du prix de la vente du fonds de commerce, tout en précisant que "le paiement convenu n'a pas lieu d'être". La cour cantonale y a vu à bon droit un acte d'invalidation du contrat, confirmé par la déclaration expresse du 30 mai 2013, et non pas une ratification. L'absence, à ce moment-là, d'une demande de restitution de l'acompte de 20'000 fr. ne peut s'interpréter à elle seule, selon le principe de la confiance, comme la volonté du repreneur de ratifier le contrat. En ce qui concerne la prétendue acceptation des "conditions de la reprise", invoquée par le recourant, il y a lieu de replacer cet élément de phrase dans son contexte; elle porte explicitement sur "la signature des 2 baux à loyer" - soit le bail du tea-room lié au bail du laboratoire - imposée par la régie, et non pas sur les conditions de la remise du commerce.
Comme l'exercice de tout droit formateur, la déclaration d'invalidation du 28 janvier 2013 est en principe irrévocable (cf. ATF 128 III 70 consid. 2 p. 75 s.). Cependant, cet acte serait dénué d'effet si, auparavant, l'intimé avait ratifié le contrat de remise de commerce.
L'intimé a découvert la tromperie du recourant lors de ses contacts avec la régie représentant la bailleresse. Il a néanmoins poursuivi les négociations et signé le bail du tea-room, ainsi que celui du laboratoire, le 23 janvier 2013, soit cinq jours avant d'invalider le contrat de remise de commerce.
De ce seul comportement, on ne saurait déduire, selon le principe de la confiance, la volonté du nouveau locataire d'avaliser les conditions de remise du commerce convenues en octobre 2012 et de ratifier ainsi le contrat tel que signé alors. En janvier 2013, l'intimé avait déjà résilié son contrat de travail et la reprise du commerce devait intervenir à la fin du mois. S'il ne voulait pas se retrouver sans revenu, l'intimé était de facto contraint de conclure les deux baux à loyer. Cela ne signifie pas pour autant qu'il était toujours d'accord avec tous les éléments essentiels du contrat signé en octobre 2012, et en particulier avec le prix.
En conclusion, la cour cantonale n'a pas violé l'art. 31 CO en admettant que l'intimé avait invalidé le contrat de remise de commerce pour cause de dol.
4.
En dernier lieu, le recourant soutient que l'intimé n'a pas exercé son droit d'invalider le contrat selon les règles de la bonne foi; en effet, l'intéressé exploite le tea-room et profite des installations, de la clientèle et de la réputation constituées par le recourant sans en payer le prix. Selon le recourant, il appartenait à l'intimé, si un dol incident est retenu, d'alléguer et de prouver les éléments qui permettaient une invalidation partielle du contrat sous forme d'une réduction du prix de vente du commerce. En mettant cette preuve à la charge du recourant, la cour cantonale aurait violé l'art. 8 CC. Le recourant ajoute enfin que la décision entreprise aboutit à un résultat profondément injuste, choquant et arbitraire puisque l'intimé a acquis un fonds de commerce et l'exploite sans avoir fourni de contrepartie; or, le recourant n'aurait jamais accepté de céder son commerce dans ces conditions.
4.1. Tout dol permet à la partie lésée d'invalider le contrat sur la base de l'art. 28 CO. Ce principe souffre des exceptions. Ainsi, lorsque le dol porte sur une clause très accessoire, le juge doit examiner si, sans le dol, la victime de la tromperie n'aurait pas conclu dans les mêmes conditions (ATF 64 II 142 consid. 3e p. 149; 99 II 308 consid. 4c p. 309; 81 II 213 consid. 2c p. 219). La jurisprudence a également posé que lorsque l'invalidation totale du contrat paraît choquante dans un cas où le dol n'a été qu'incident, le juge peut la refuser et se borner à réduire les prestations de la victime du dol dans la mesure où cette partie aurait conclu le contrat si elle n'avait pas été trompée (ATF 99 II 30 consid. 4c p. 309; 81 II 213 consid. 2c p. 219 s.). L'application analogique de l'art. 20 al. 2 CO entre en considération dans des cas de ce genre (INGEBORG SCHWENZER, in Basler Kommentar, Obligationenrecht I, 6 e éd. 2015, n° 18 ad art. 28 CO; BRUNO SCHMIDLIN, op. cit., n° 79 ad art. 28 CO). De manière générale, le droit d'invalider le contrat doit s'exercer selon les règles de la bonne foi (art. 2 CC) (ATF 64 II 142 consid. 3e p. 149; 99 II 308 consid. 4c p. 309; 81 II 213 consid. 2c p. 219). Les questions concernant l'abus de droit au sens de l'art. 2 al. 2 CC doivent, à chaque stade de l'instance, faire l'objet d'un examen d'office dès que les circonstances y afférentes ont été régulièrement établies, sans qu'il faille soulever une exception particulière à cet égard (ATF 133 III 497 consid. 5.1 p. 505; 121 III 60 consid. 3d p. 63).
4.2. En l'espèce, l'intimé a invalidé le contrat de remise de commerce quelques jours avant d'entrer en possession des locaux en tant que locataire. Une invalidation totale, impliquant le droit pour la victime du dol de répéter les arrhes versés et de refuser de payer le solde du prix de la reprise du commerce, apparaît contraire aux règles de la bonne foi dans les circonstances du cas particulier. Lorsqu'il a invalidé le contrat, l'intimé savait qu'il profiterait tout de même des objets liés au tea-room appartenant au recourant ainsi que des valeurs immatérielles ( goodwill) attachées à l'établissement, en particulier de la clientèle constituée par le recourant. Dans de telles conditions, seule une invalidation partielle, par application analogique de l'art. 20 al. 2 CO, entre en ligne de compte, consistant à réduire la prestation du repreneur, soit le prix, au montant qu'il aurait payé s'il n'avait pas été trompé. Contrairement à l'opinion de la cour cantonale, le recourant n'avait pas à démontrer quelle aurait été la volonté hypothétique de l'intimé et à supporter l'absence de preuves sur ce point. Le recourant a établi les circonstances afférentes à un comportement de l'intimé contraire à la bonne foi. Il n'avait pas à prouver plus, ni autre chose.
En conséquence, la Cour d'appel civile a violé le droit fédéral en niant toute prétention du recourant envers l'intimé. La volonté hypothétique est une question de droit (ATF 136 III 334 consid. 2.4 p. 338 et les arrêts cités). Les éléments de fait ressortant de l'arrêt attaqué ne sont toutefois pas suffisants pour permettre à la cour de céans de déterminer, même en équité, le prix que l'intimé aurait payé pour reprendre le tea-room s'il n'avait pas été victime du dol du recourant. En particulier, on ignore à ce stade quels sont les objets mobiliers propriété du recourant et, a fortiori, leur valeur. Quant à la valeur économique de la clientèle attachée au tea-room, elle n'était certes pas inexistante puisque, selon les constatations de l'autorité cantonale, la réputation de l'établissement de F._ était bonne et les clients étaient totalement satisfaits des prestations fournies. Il n'en demeure pas moins que le recourant, qui, en octobre 2012, était proche de la faillite et n'était plus locataire des locaux, ne se trouvait certainement pas en situation d'obtenir du repreneur un prix équivalent à celui qu'il avait payé pour l'acquisition du fonds de commerce en octobre 2004.
Sur le vu de ce qui précède, il y a lieu d'admettre partiellement le recours, d'annuler l'arrêt attaqué et de renvoyer la cause à la cour cantonale. Il appartiendra à celle-ci de fixer la prétention du recourant sur la base du dossier cantonal, le cas échéant après avoir complété l'état de fait.
5.
Le recourant obtient gain de cause dans la mesure où l'arrêt qu'il attaque est annulé. Il est toutefois d'ores et déjà prévisible qu'il n'obtiendra pas la totalité de la prétention qu'il réclame. Dans ces conditions, il se justifie de répartir les frais judiciaires par moitié entre les parties (art. 66 al. 1 LTF) et de compenser les dépens (art. 68 al. 1 et 2 LTF). Comme le recourant est au bénéfice de l'assistance judiciaire, la part des frais judiciaires mise à sa charge sera supportée provisoirement par la Caisse du Tribunal fédéral conformément à l'art. 64 al. 1 et 4 LTF; son avocat d'office se verra attribuer une indemnité au sens de l'art. 64 al. 2 LTF.
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis partiellement, l'arrêt attaqué est annulé et la cause est renvoyée à la Cour d'appel civile du Tribunal cantonal du canton de Vaud pour nouvelle décision.
2.
Les frais judiciaires, arrêtés à 5'000 fr., sont mis pour moitié à la charge de chaque partie. La part de frais mise à la charge du recourant est supportée provisoirement par la Caisse du Tribunal fédéral.
3.
Les dépens sont compensés.
4.
Une indemnité de 6'000 fr. est allouée à l'avocat d'office du recourant à titre d'honoraires à payer par la Caisse du Tribunal fédéral.
5.
Le présent arrêt est communiqué aux mandataires des parties et à la Cour d'appel civile du Tribunal cantonal du canton de Vaud.
Lausanne, le 22 novembre 2017
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente : Kiss
La Greffière : Godat Zimmermann