Faits :
A.
Par jugement du 29 août 2019, le Tribunal correctionnel de l'arrondissement de Lausanne a reconnu A._ coupable de vol en bande, tentative de brigandage qualifié, dommages à la propriété, violation de domicile, usage abusif de permis et/ou plaques de contrôle, usurpation de plaques de contrôle et entrée et séjour illégal en Suisse. Le tribunal a prononcé une peine privative de liberté de 30 mois, sous déduction de 402 jours de détention avant jugement. Il a ordonné que soient déduits de la peine, à titre de réparation pour tort moral, 12 jours pour 24 jours de détention subis dans des conditions illicites en zone carcérale d'un centre de gendarmerie et 33 jours pour 259 jours de détention subis dans des conditions illicites à la prison du Bois-Mermet. Le tribunal a également ordonné l'expulsion du territoire suisse de A._ pour une durée de 10 ans et son maintien en exécution anticipée de peine.
Par ce même jugement, B._ a été reconnu coupable de vol en bande, tentative de brigandage qualifié, dommages à la propriété, violation de domicile, violation simple des règles de la circulation routière, usage abusif de permis et/ou plaques de contrôle et usurpation de plaques de contrôle. Le Tribunal correctionnel a prononcé une peine privative de liberté de 18 mois ( sous déduction de la détention avant jugement) assortie d'un sursis partiel de 12 mois et d'un délai d'épreuve de 5 ans.
B.
Par jugement du 13 janvier 2020, la Cour d'appel pénale du Tribunal cantonal vaudois a admis partiellement les appels formés par A._ et B._, a libéré ces derniers de l'accusation de vol en bande et tentative de brigandage qualifié et les a condamnés pour vol et tentative de brigandage simple. Elle a accordé le sursis complet (assorti d'une règle de conduite) à B._ et a confirmé le jugement de première instance pour le surplus.
C.
En substance, la cour cantonale a retenu les faits suivants.
C.a. Entre le début de l'année 2018 et juillet 2018, A._ a pénétré et séjourné en Suisse à plusieurs reprises alors qu'il n'était titulaire d'aucun titre de séjour et faisait l'objet d'une interdiction d'entrée sur le territoire.
Le 21 juillet 2018 vers 7h30, venant de France, A._ et B._ se sont rendus à la gare de l'entreprise de transports publics C._ SA, à D._, après avoir effectué plusieurs repérages les mois précédents, dans le but de commettre un brigandage. En chemin, les comparses ont dérobé, à Genève, des plaques d'immatriculation qu'ils ont apposées sur leur véhicule. Arrivés au lieu du forfait, visages masqués, cachés derrière un distributeur, A._ et B._ ont fait irruption dans le bureau de la gare pour y dérober de l'argent et des biens, dès que E._, l'employé de gare, en avait déverrouillé la porte. Ce dernier a tenté de maintenir la porte fermée depuis l'intérieur, mais les deux comparses ont tout de même réussi à pénétrer dans les locaux. A._ a sommé E._ de désactiver l'alarme en le menaçant de le gazer avec un spray au poivre. E._ est parvenu à gagner du temps en s'éloignant avant que l'alarme retentisse, ce qui a fait prendre la fuite aux comparses sans qu'ils n'aient rien dérobé. E._ a souffert d'une rupture du tendon d'Achille entrainant une incapacité de travail.
Ce même jour, après être retournés en France, A._ et B._ sont revenus en Suisse et se sont rendus au domicile de F._, logement dont B._ avait photographié à trois reprises la porte palière. Entre 10h30 et 11h00, munis d'un pied de biche, les comparses ont pénétré par effraction dans l'appartement en forçant la porte d'entrée. Ils ont fouillé les lieux et dérobé divers biens tels que bijoux, montres, documents, environ 600 fr. en espèces et un petit coffre-fort. Avant de partir, A._ a aspergé l'appartement avec son spray au poivre dans le but de faire disparaître toute trace. Les comparses ont été interpellés le jour même dans le fourgon de B._, dans lequel ils tentaient d'ouvrir le coffre-fort dérobé, au moyen d'une meule à disque.
C.b. Le casier judiciaire suisse de A._ fait état de quatre condamnations à des peines privatives de liberté allant de 3 mois à 3 ans et demi, prononcées entre août 2012 et juin 2015 pour deux vols, deux brigandages (dont un muni d'une arme) et un délit manqué de brigandage. Son casier judiciaire français mentionne une condamnation en mai 2011 pour menace ou acte d'intimidation.
C.c. Saisi d'une requête en constatation des conditions de détention formée par A._, le Tribunal des mesures de contrainte a, par ordonnance du 26 juillet 2019, constaté que les conditions de détention avant jugement de l'intéressé entre le 15 août 2018 et le 1er mai 2019, dans la prison du Bois-Mermet, étaient illicites. Si la surface minimale individuelle de 4 m2 était respectée, les toilettes étaient séparées par un rideau ignifuge et non pas par des cloisons, l'isolation thermique du bâtiment était insuffisante et l'intéressé était confiné en cellule en présence d'un codétenu 23 heures par jour.
D.
A._ forme un recours en matière pénale auprès du Tribunal fédéral contre le jugement du 13 janvier 2020. Il conclut, avec suite de frais et dépens, principalement à sa réforme, en ce sens qu'il est condamné à une peine privative de liberté n'excédant pas la durée de la détention déjà subie et qu'il soit déduit 86 jours de détention pour 259 jours de détention subis dans des conditions illicites à la Prison du Bois-Mermet. Subsidiairement, il conclut à l'annulation du jugement et au renvoi de la cause à l'autorité précédente pour nouvelle décision. Il sollicite par ailleurs l'assistance judiciaire et la désignation de son conseil en qualité de défenseur d'office.

Considérant en droit :
1.
Le recourant s'en prend exclusivement à la quotité de la peine prononcée, qu'il conteste à plusieurs égards.
1.1. Aux termes de l'<ref-law>, le juge fixe la peine d'après la culpabilité de l'auteur. Il prend en considération les antécédents et la situation personnelle de ce dernier ainsi que l'effet de la peine sur son avenir (al. 1). La culpabilité est déterminée par la gravité de la lésion ou de la mise en danger du bien juridique concerné, par le caractère répréhensible de l'acte, par les motivations et les buts de l'auteur et par la mesure dans laquelle celui-ci aurait pu éviter la mise en danger ou la lésion, compte tenu de sa situation personnelle et des circonstances extérieures (al. 2).
Conformément à l'<ref-law>, le juge fixe la peine d'après la culpabilité de l'auteur. La culpabilité de l'auteur doit être évaluée en fonction de tous les éléments objectifs pertinents, qui ont trait à l'acte lui-même, à savoir notamment la gravité de la lésion, le caractère répréhensible de l'acte et son mode d'exécution. Du point de vue subjectif, sont pris en compte l'intensité de la volonté délictuelle ainsi que les motivations et les buts de l'auteur. A ces composantes de la culpabilité, il faut ajouter les facteurs liés à l'auteur lui-même, à savoir les antécédents, la réputation, la situation personnelle, la vulnérabilité face à la peine de même que le comportement après l'acte et au cours de la procédure pénale (<ref-ruling> consid. 6 p. 66 et les références citées). Le juge dispose d'un large pouvoir d'appréciation dans la fixation de la peine. Le Tribunal fédéral n'intervient que lorsque l'autorité cantonale a fixé une peine en dehors du cadre légal, si elle s'est fondée sur des critères étrangers à l'<ref-law>, si des éléments d'appréciation importants n'ont pas été pris en compte ou, enfin, si la peine prononcée est exagérément sévère ou clémente au point de constituer un abus du pouvoir d'appréciation (<ref-ruling> consid. 1.2 p. 319). L'exercice de ce contrôle suppose que le juge exprime, dans sa décision, les éléments essentiels relatifs à l'acte ou à l'auteur qu'il prend en compte, de manière à ce que l'on puisse constater que tous les aspects pertinents ont été pris en considération et comment ils ont été appréciés, que ce soit dans un sens aggravant ou atténuant (<ref-law>). La motivation doit ainsi justifier la peine prononcée, en permettant de suivre le raisonnement adopté, même si le juge n'est pas tenu d'exprimer en chiffres ou en pourcentages l'importance qu'il accorde à chacun des éléments qu'il cite (<ref-ruling> consid. 1.2 p. 319).
Le vol (<ref-law>) est sanctionné d'une peine privative de liberté de cinq ans au plus ou d'une peine pécuniaire. L'<ref-law> prévoit une peine privative de liberté de six mois à dix ans pour le brigandage simple. Conformément à l'<ref-law>, le juge peut atténuer la peine si l'exécution d'un crime ou d'un délit est resté au stade de la tentative.
1.2. Pour fixer la peine du recourant, la cour cantonale a retenu une lourde culpabilité et a tenu compte des multiples infractions perpétrées durant un laps de temps relativement court, de la persistance dans son activité criminelle après un premier échec, de la gravité objective des faits reprochés, de la grande lâcheté dans la commission de l'agression, celle-ci étant motivée par l'appât du gain facile, de l'égoïsme et du mépris des règles de la vie sociale. L'intéressé démontrait qu'il se moquait éperdument des décisions judiciaires et administratives prises par les autorités suisses, revenant sur le territoire suisse en sachant qu'il n'y était pas autorisé. En outre, il a été tenu compte du fait que les quatre peines privatives de liberté antérieures, prononcées pour vols et brigandages, ne l'ont pas empêché de récidiver à peine un an après sa sortie de prison. Il a également été tenu compte du mauvais comportement du recourant en prison, où il a fait l'objet de deux sanctions disciplinaires. La cour cantonale a aussi pris en compte, à décharge, le fait que le brigandage était resté au stade de la tentative, l'admission des faits par le recourant (intervenue postérieurement à sa première audition par la police), une convention passée avec l'une des parties plaignantes, des lettres d'excuses et l'expression de regrets.
Pour des motifs de prévention spéciale, une peine privative de liberté de 18 mois a été fixée pour la tentative de brigandage, la peine a été aggravée de 6 mois pour le vol, de 3 mois pour les infractions à la LEI et d'un mois pour chaque infraction restante (dommage à la propriété, violation de domicile et vol et usurpation de plaques de contrôle). En définitive, une peine privative de liberté de 30 mois a été prononcée.
1.3. Le recourant soutient que la cour cantonale aurait dû réduire la peine privative de liberté prononcée en première instance, dès lors qu'il a été, en appel, libéré des chefs de prévention de vol en bande et de tentative de brigandage en qualité d'affilié à une bande. Selon lui, le maintien de cette peine contreviendrait à l'interdiction de la reformatio in pejus. Il se plaint également d'un défaut de motivation sur ce point.
1.3.1. La prohibition de la reformatio in pejus, dont le but est de permettre au prévenu d'exercer son droit de recours sans craindre de voir le jugement modifié en sa défaveur, est consacrée par l'art. 391 al. 2, 1ère phrase, CPP (<ref-ruling> consid. 4.1 p. 472; cf. <ref-ruling> consid. 2.1 p. 90). Cette disposition prévoit que l'autorité de recours ne peut modifier une décision au détriment du prévenu ou du condamné si le recours a été interjeté uniquement en leur faveur. L'existence d'une reformatio in pejus doit être examinée à l'aune du dispositif. Il n'est en revanche pas interdit à l'autorité de recours de s'exprimer dans ses considérants sur la qualification juridique lorsque l'autorité précédente s'est fondée sur un autre état de fait ou des considérations juridiques erronées (<ref-ruling> consid. 4.1 p. 472; <ref-ruling> consid. 4.5 p. 136; <ref-ruling> consid. 2.7.3 p. 140). Une restriction liée à la prohibition de la reformatio in pejus ne se justifie en principe pas lorsque, pris dans son ensemble, le nouveau jugement n'aggrave pas le sort du condamné (<ref-ruling> consid. 4.1 p. 472; <ref-ruling> consid. 4c p. 106).
1.3.2. Usant de son plein pouvoir dévolutif (cf. <ref-law>), la cour cantonale a procédé à sa propre évaluation de la culpabilité du recourant et des circonstances devant influencer la mesure de la sanction, en la motivant de manière détaillée. Contrairement à ce que prétend le recourant, la cour cantonale a fixé la peine en tenant expressément compte de l'abandon, en appel, de l'aggravante de la bande (jugement entrepris, consid. 4.3 p. 24), en qualifiant la culpabilité de lourde et en exposant les différents éléments à charge. Le recourant ne saurait rien déduire en sa faveur de la jurisprudence préconisant une motivation particulière de la fixation d'une peine inchangée malgré l'acquittement de certains chefs d'infraction en appel (cf. arrêt 6B_335/2016 du 24 janvier 2017 consid. 3.3.1), dès lors qu'il n'a pas été acquitté d'un chef d'infraction mais a bénéficié d'une qualification juridique plus favorable (cf. arrêt 6B_539/2018 du 23 août 2018 consid. 1.4). En tout état, le recourant échoue à démontrer en quoi, nonobstant l'abandon de la circonstance aggravante de la bande dans le jugement entrepris, la cour cantonale aurait insuffisamment motivé sa décision ou abusé de son pouvoir d'appréciation en prononçant, respectivement en maintenant une peine privative de liberté de 30 mois à son encontre.
Par ailleurs, le dispositif du jugement cantonal ne contient rien qui serait en défaveur du recourant, lequel se voit libéré d'une circonstance aggravante. Aussi, la cour cantonale n'a pas violé l'interdiction de la reformatio in pejusen fixant une peine identique à celle fixée en première instance, tout en retenant une qualification juridique plus favorable.
Pour le surplus, il n'apparaît pas que la peine privative de liberté de 30 mois, qui se situe dans la partie inférieure du cadre légal (cf. <ref-law> et notamment art. 139 ch. 1 et 140 ch. 1 CP en lien avec <ref-law>) et reposant sur les éléments d'appréciation prévus à l'<ref-law>, soit exagérément sévère au point de constituer un abus du pouvoir d'appréciation.
Infondés, les griefs du recourant doivent être rejetés.
1.4. Le recourant fait grief à la cour cantonale d'avoir fixé sa peine en violation du principe de l'égalité de traitement en rapport avec la peine infligée à son comparse. Il suggère que la cour cantonale ne se serait pas expressément prononcée sur ce grief soulevé en appel.
1.4.1. Dans l'exercice de son pouvoir d'appréciation, le juge doit respecter, en particulier, le principe d'égalité de traitement. Selon la jurisprudence, une certaine égalité - dans le sens d'une certaine proportion - doit être garantie entre les coauteurs dans le cadre d'une même affaire (art. 8 al. 1 Cst.; <ref-ruling> consid. 3.2 p. 193 s.). Lorsqu'il est appelé à juger des coauteurs, le juge doit d'abord déterminer leurs contributions respectives. Si l'équivalence de celles-ci doit conduire à une appréciation correspondante de la faute objective, seuls des aspects subjectifs ( subjektive Tatkomponente) de surcroît identiques et des composantes individuelles ( Täterkomponente) comparables peuvent imposer le prononcé de la même peine (<ref-ruling> consid. 3.2 p. 193 s.). En d'autres termes, une peine différente peut se justifier, alors que les coauteurs ont commis les mêmes faits, ce en raison de l'appréciation subjective de la culpabilité et de la situation personnelle de chacun (<ref-ruling> consid. 3.2 p. 193 s.). Des disparités en cette matière s'expliquent normalement par le principe de l'individualisation des peines, voulu par le législateur (cf. <ref-ruling> consid. 6.3.2 p. 69 et les arrêts cités).
1.4.2. La cour cantonale a qualifié la culpabilité de B._ de lourde. Elle a relevé que son casier judiciaire faisait état d'une condamnation en 2016 pour violence et menace contre les fonctionnaires, à une peine pécuniaire, et en 2010 pour complicité de vol (en tant que mineur), à 4 demi-journées de prestations personnelles. A décharge, il a notamment été tenu compte de la honte et des regrets exprimés, des lettres d'excuses adressées aux plaignants, de son adhésion aux conclusions civiles prises par l'employé de gare, de sa bonne collaboration à l'enquête dès sa première audition et de l'admission des faits. Considérant qu'une peine privative de liberté de 12 mois pour la tentative de brigandage s'avérait adéquate, la cour cantonale l'a aggravée de 3 mois pour le vol et d'un mois pour chaque infraction supplémentaire, et a fixé à une peine privative de liberté totale de 18 mois.
1.4.3. En l'espèce, les coprévenus ont été condamnés à des peines privatives de liberté identiques s'agissant de la violation de domicile, du dommage à la propriété et de l'usage abusif et de l'usurpation de plaques de contrôle.
Seules les infractions de tentative de brigandage et de vol ont été sanctionnées de peines de quotités différentes (respectivement 18 et 12 mois pour la première infraction et 6 et 3 mois pour la seconde). Or les comportements des comparses dans la tentative de brigandage - infraction la plus grave - se distinguent notamment par le fait que seul le recourant a directement menacé la victime avec le spray au poivre qu'il avait personnellement acquis par le passé (cf. <ref-law>; jugement entrepris consid. 2.3 p. 18). Sous l'angle subjectif, un mépris des décisions administratives et judiciaires des autorités suisses a été retenu contre le recourant. En outre, les circonstances personnelles des intéressés se distinguent de manière importante, le recourant présentant de nombreux antécédents spécifiques et récents, contrairement à son comparse. Enfin, leurs comportements en cours de procédure n'ont pas été identiques (notamment: degré de collaboration, honte exprimée, comportement en prison). Aussi, les éléments retenus expressément par la cour cantonale suffisent à justifier la différence entre les quotités respectives des peines infligées au recourant et à son comparse pour les actes dont ils sont coauteurs, différence qui demeure proportionnée.
Pour le surplus, le recourant s'est rendu coupable d'infractions à la LEI contrairement à son comparse.
Ces différents éléments sont pertinents et permettent de justifier une différence de 12 mois dans la quotité des peines prononcées, ce qui exclut une violation du principe de l'égalité de traitement.
L'ensemble de ces critères ressort clairement du jugement entrepris, de sorte que l'on ne saurait reprocher à la cour cantonale de ne pas avoir plus précisément expliqué la différence de peines fixées, la motivation sous l'angle de l'égalité de traitement étant implicite (cf. <ref-ruling> consid. 5.2 p. 70 s.; <ref-ruling> consid. 3.2.1 p. 564 s.).
Infondés, les griefs du recourant doivent être rejetés.
2.
Le recourant soutient que les conditions de détention illicites subies pendant 259 jours dans la prison du Bois-Mermet auraient justifié une réduction plus importante de la peine privative de liberté à laquelle il a été condamné. Il requiert une réduction de peine correspondant à un tiers des jours passés dans des conditions illicites, à savoir 86 jours, plutôt que des 33 jours accordés, correspondant à un ratio d'un huitième.
2.1.
2.1.1. D'après la jurisprudence de la Cour européenne des droits de l'Homme (CourEDH), une réduction de peine en proportion des jours passés dans des conditions inhumaines ou dégradantes peut, sous certaines conditions, constituer un redressement satisfaisant en cas de violation de l'art. 3 CEDH, à condition que, d'une part, elle soit explicitement octroyée pour réparer la violation de cette disposition et que, d'autre part, son impact sur le quantum de la peine de la personne intéressée soit mesurable (affaires CourEDH Rezmiveș et autres c. Roumanie du 25 avril 2017 [requêtes nos 61467/12, 39516/13, 48231/13 et 68191/13] § 125; Shishanov c. République de Moldova du 15 septembre 2015 [requête n° 11353/06] § 137; Stella et autres c. Italie du 16 septembre 2014 [requête n° 49169/09] § 58 ss).
En ce sens, la CourEDH a admis des réductions proportionnelles de peine en fonction du nombre de jours de détention incompatible avec l'art. 3 CEDH. Ainsi, une réduction de peine égale à un jour pour chaque période de dix jours, tel que le prévoit la loi italienne dans le cas d'un recours compensatoire, a été jugée adéquate (affaire CourEDH Stella et autres c. Italie du 16 septembre 2014 [requête n° 49169/09] § 58 ss, les requérants déclarant avoir été détenus, pendant plus d'une année, dans des cellules surpeuplées, avoir eu à disposition un espace vital de 3 m2 environ, l'aération, l'éclairage des cellules ainsi que le chauffage étant insuffisants, cf. § 6 s.). A fortiori, une remise de peine de un à trois jours pour dix jours de détention dans des conditions illicites, telle que prévue par les dispositions moldaves, a également été jugée adéquate (décision CourEDH Draniceru c. République de Moldova du 12 février 2019 [requête n° 31975/15] § 35, s'agissant d'un détenu malade se plaignant d'une insuffisance de lits et de draps dans les cellules, d'une ventilation inefficace, d'une exposition au tabagisme passif, certaines cellules n'étant pas alimentées en eau courante et les toilettes, situées à un mètre de la table à manger, n'étant pas séparées du reste de la cellule, cf. § 6 s.). La compensation sous forme d'une réduction de peine égale à six jours pour chaque période de trente jours de détention, telle que prévue par les dispositions législatives roumaines a également été jugée appropriée (décision CourEDH Dîrjan et Stefan contre Roumanie du 15 avril 2020 [requêtes nos 14224/15 et 50977/15] § 28, s'agissant d'un détenu se plaignant, sur une durée de plus de 4 ans, notamment d'un surpeuplement, d'une insuffisance du nombre de lits, d'une absence de cloisons pour séparer les toilettes du reste de la pièce, d'une taille réduite de l'espace disponible pour les promenades, d'une absence de programmes socioculturels et éducatifs, d'une absence de ventilation des cellules, d'une absence de chauffage, d'une présence d'insectes, d'une inadéquation de la nourriture, d'une présence de rats et d'une impropriété à la consommation de l'eau courante, cf. § 6).
2.1.2. L'indemnisation en raison des conditions de détention illicites fait appel au pouvoir d'appréciation du juge; le Tribunal fédéral n'intervient dès lors qu'avec retenue (<ref-ruling> consid. 4.1 p. 248). L'ampleur de la réparation dépend avant tout de l'appréciation concrète des circonstances particulières de l'espèce, en particulier de la gravité des souffrances physiques ou psychiques consécutives à l'atteinte subie (arrêts 6B_962/2019 du 17 septembre 2019 consid. 7.1; 6B_458/2019 du 23 mai 2019 consid. 7.1; 6B_1015/2016 du 27 octobre 2017 consid. 7.2 et les références citées). En matière de réparation, le Tribunal fédéral a admis des réductions de peine correspondant à un tiers, voire à la moitié du nombre de jours d'incarcération dans des conditions illicites. Cela n'empêche pas que l'ampleur de la réparation dépende essentiellement des circonstances concrètes de l'affaire, le Tribunal fédéral n'ayant pas fixé de ratio strict en la matière. En outre, le fait que le Tribunal fédéral eût, dans d'autres affaires, avalisé des réductions proportionnelles d'un tiers ou de la moitié des jours passés dans des conditions de détention illicites ne signifie aucunement que, dans ces cas, une réduction moins importante n'aurait pas été acceptable (cf. arrêts 6B_962/2019 du 17 septembre 2019 consid. 7.1; 6B_458/2019 du 23 mai 2019 consid. 7.3 et les références citées).
Dans des arrêts récents concernant des détenus à la prison du Bois-Mermet alléguant notamment la mauvaise isolation thermique du bâtiment et la séparation insuffisante des toilettes par un rideau ignifuge, le Tribunal fédéral a considéré qu'une réduction de peine à raison d'un jour pour quatre jours de détention subis dans des conditions illicites ne prêtait pas flanc à la critique (arrêts 6B_962/2019 du 17 septembre 2019 consid. 7.2 et 7.6; 6B_458/2019 du 23 mai 2019 consid. 7.2 et 7.3).
2.2. Relevant que le recourant avait bénéficié d'une surface individuelle de plus de 4 m2 pendant la période de détention invoquée à la prison du Bois-Mermet, la cour cantonale a estimé que les conditions de détention n'étaient pas illicites et qu'aucune réduction de peine n'aurait dû être octroyée. Toutefois, en application de l'interdiction de la reformatio in pejus, elle a confirmé la réduction de peine de 33 jours correspondant à un huitième des jours de détention subis dans des conditions illicites, telle qu'opérée par les juges de première instance.
2.3. La cour cantonale se méprend en tant qu'elle affirme qu'une surface individuelle de plus de 4 m2 suffirait à exclure l'illicéité des conditions de détention au sens de l'art. 3 CEDH. Lorsque la surpopulation carcérale n'est pas importante au point de soulever, à elle seule, un problème sous l'angle de l'art. 3 CEDH, d'autres aspects des conditions de détention sont à prendre en compte dans l'examen du respect de cette disposition. Parmi ces éléments figurent notamment le nombre d'heures passées hors cellule, la possibilité d'utiliser des toilettes de manière privée, l'aération et la qualité du chauffage (<ref-ruling> consid. 3.2 p. 131 s. et 3.4 p. 134; affaire CourEDH Vasilescu c. Belgique du 25 novembre 2014 [requête n° 64682/12] § 88 ss). En tout état, dans la mesure où la décision du Tribunal des mesures de contrainte constatant l'illicéité des conditions de détention est entrée en force, la cour cantonale, saisie de la seule question relative aux conséquences de ce constat d'illicéité, ne pouvait revenir sur ce principe.
Cela étant, en admettant tout de même 33 jours de réduction de peine en réparation des conditions de détention, la cour cantonale a considéré que le recourant n'avait pas subi une épreuve d'une intensité telle qu'elle justifierait une réduction de peine plus large que celle équivalant à un huitième des jours subis dans des conditions non conformes à l'art. 3 CEDH.
En l'espèce, il est établi et incontesté que si, pendant près de 9 mois, le recourant a partagé sa cellule avec un seul codétenu et bénéficiait d'un espace au sol de plus de 4 m2, il était confiné 23 heures sur 24 dans des locaux ne présentant pas une isolation suffisante, les toilettes étant séparées de la cellule par un rideau ignifuge. Or il n'apparaît pas et le recourant ne soutient pas avoir enduré de souffrance particulière, notamment du fait d'une isolation thermique et d'une intimité aux toilettes insuffisantes. Il ne prétend pas que ces conditions de détention lui auraient causé un niveau de souffrance physique ou psychique particulièrement élevé. Si ces circonstances, cumulées au confinement 23 heures par jour excèdent le niveau inévitable de souffrance inhérent à la peine privative de liberté prononcée (cf. art. 3 CEDH), celles-ci n'apparaissent pas d'une gravité telle qu'une réduction de peine plus favorable qu'un huitième s'impose, étant relevé que la CourEDH a admis des remises de peine comparables s'agissant de conditions de détention plus éprouvantes, en particulier du point de vue de la surpopulation carcérale (cf. supra consid. 2.1.1; cf. toutefois décision CourEDH Shmelev et autres c. Russie [requête n° 41743/17 et autres] § 133, sans que les conditions de détention ne soient décrites).
Le recourant reproche à la cour cantonale de ne pas avoir tenu compte de la manière dont sa détention a été vécue à la prison du Bois-Mermet, en se fondant sur ses déclarations, confirmées en appel, selon lesquelles les toilettes étaient séparées par un rideau, il y avait " de la chaleur l'été et le droit (sic!) l'hiver ", l'enfermement 23 heures sur 24 et il avait " souffert de ces conditions " (mémoire de recours p. 15). Or on ne voit pas ce que le recourant entend déduire de cette affirmation, dès lors que ces conditions de détention ont été expressément retenues par la cour cantonale et ne permettent pas de retenir un niveau de souffrance physique et psychique plus élevé que celui inhérent à la détention décrite dans le jugement entrepris.
En définitive, on ne saurait considérer que la cour cantonale aurait abusé du large pouvoir d'appréciation qui lui est reconnu en la matière en confirmant une réduction de peine correspondant à un huitième des jours de détention subis dans les conditions décrites à la prison du Bois-Mermet.
Pour le reste, la réduction de peine opérée par la cour cantonale répond aux exigences de la CourEDH en la matière, puisque celle-ci a été explicitement octroyée pour réparer la détention subie dans des conditions illicites et que son impact sur le quantum de la peine est mesurable.
3.
Au vu de ce qui précède, le recours doit être rejeté. Comme le recourant ne dispose pas de ressources suffisantes et que ses conclusions ne paraissaient pas vouées à l'échec, sa demande d'assistance judiciaire doit être admise (<ref-law>). Par conséquent, il y a lieu de le dispenser des frais et d'allouer une indemnité à son mandataire, désigné comme avocat d'office (<ref-law>). Une indemnité de 3'000 fr. apparaît proportionnée et suffisante pour indemniser le travail fourni.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
La demande d'assistance judiciaire est admise. Me Laurent Roulier est désigné comme conseil d'office et une indemnité de 3'000 fr. lui est allouée à titre d'honoraires, à payer par la caisse du Tribunal fédéral.
3.
Il n'est pas perçu de frais judiciaires.
4.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 3 juillet 2020
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Klinke