Faits :
A.
Par ordonnance du 3 novembre 2017, le Tribunal des mesures de contrainte du canton de Vaud (ci-après: TMC) a constaté que les conditions dans lesquelles se sont déroulés les 27 jours de détention provisoire de A._ (du 22 mai au 17 juin 2014 inclus) au centre de Gendarmerie B._ étaient illicites. Le TMC a déclaré irrecevable la demande en réparation déposée par A._ et a renvoyé ce dernier à agir au moyen d'une action en responsabilité contre l'État devant l'autorité judiciaire compétente.
Par demande du 31 mai 2018 déposée devant le Juge de paix des districts du Jura - Nord vaudois et du Gros-de-Vaud (ci-après: Juge de paix), A._ a notamment conclu à ce que l'État de Vaud soit condamné à lui verser la somme de 5'400 fr., avec intérêts compensatoires à 5% l'an dès le 22 mai 2014, au titre d'indemnisation fondée sur l'<ref-law>.
B.
Par décision du 4 décembre 2018, le Juge de paix a condamné l'État de Vaud à verser à A._ la somme de 1'350 fr., avec intérêts à 5% l'an dès le 4 juin 2014, au titre d'indemnisation pour les 27 jours de détention subis dans des conditions illicites. Le Juge de paix a exclu la compensation de cette dette, requise par l'État de Vaud, avec sa créance correspondant aux frais de procédure dus par A._.
C.
Statuant sur les recours formés par A._ (portant sur le montant de l'indemnité) et par l'État de Vaud (portant sur la compensation), la Chambre des recours civile du Tribunal cantonal vaudois les a rejetés par arrêt du 14 novembre 2019.
D.
L'État de Vaud forme un recours en matière civile et un recours constitutionnel subsidiaire auprès du Tribunal fédéral contre l'arrêt cantonal. Il conclut, avec suite de frais, à titre principal, à ce que la demande en paiement de A._ du 31 mai 2018 est rejetée dans toutes ses conclusions, les frais des trois instances étant mis à la charge de ce dernier, et à sa libération de tout dépens en faveur de A._. Subsidiairement, l'État de Vaud conclut à l'annulation de l'arrêt du 14 novembre 2019 et au renvoi de la cause à l'autorité intimée pour nouvelle décision dans le sens des considérants.
Invités à se déterminer sur le mémoire de recours, le Tribunal cantonal a déclaré se référer aux considérants de l'arrêt entrepris alors que l'intimé n'a pas formulé d'observation dans le délai imparti.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office sa compétence (<ref-law>) et contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 358; <ref-ruling> consid. 2.1 p. 397; <ref-ruling> consid. 2 p. 59).
1.1. Le litige porte sur la responsabilité de l'État de Vaud à l'égard de l'intimé du fait de ses conditions de détention. L'arrêt attaqué peut en principe faire l'objet d'un recours en matière de droit public au Tribunal fédéral (<ref-law>; cf. <ref-law>) ou d'un recours constitutionnel subsidiaire (cf. art. 85 al. 1 let. a et 113 LTF). Peu importe que le droit cantonal place l'action dans la compétence des autorités judiciaires civiles (cf. arrêts 6B_703/2016 du 2 juin 2017 consid. 1.1.1; 2C_1150/2014 du 9 juin 2015 consid. 1.1; 2C_443/2012 du 27 novembre 2012 consid. 1.2). Se fiant à l'indication des voies de recours figurant dans l'arrêt attaqué, le recourant a interjeté un " recours en matière civile ". Cette écriture sera convertie d'office en recours en matière de droit public, dans la mesure où elle remplit les autres conditions de recevabilité ( infra consid. 1.2; cf. <ref-ruling> consid. 1.2 p. 382; <ref-ruling> consid. 2.1 i.f. p. 466; arrêt 6B_387/2012 du 25 février 2013 consid. 1.1).
La Cour de droit pénal traite les recours en matière pénale ainsi que les recours en matière de droit public et les recours constitutionnels subsidiaires en matière pénale dans les domaines relevant du droit pénal matériel (y compris l'exécution des peines et des mesures; art. 30 al. 1 let. c ch. 1 et art. 33 du règlement du Tribunal fédéral [RTF; RS 173.110.131]; arrêts 6B_703/2016 du 2 juin 2017 consid. 1.1; 6B_1085/2016 du 28 août 2017 consid. 1; cf. <ref-ruling> consid. 1.1.2 p. 46).
1.2.
1.2.1. En l'espèce, au regard des conclusions litigieuses devant l'autorité précédente (cf. <ref-law>), la valeur seuil de 30'000 fr. prévue par l'<ref-law> en matière de responsabilité étatique n'est manifestement pas atteinte.
1.2.2. Lorsque la valeur litigieuse n'atteint pas le montant déterminant, le recours en matière de droit public est néanmoins recevable si la contestation soulève une question juridique de principe (<ref-law>). La jurisprudence a souligné qu'il faut se montrer restrictif dans l'admission d'une dérogation à l'exigence de la valeur litigieuse sur la base de l'<ref-law>. En résumé, pour résoudre le cas litigieux, il est nécessaire de devoir trancher une question juridique qui donne lieu à une incertitude caractérisée, laquelle appelle de manière pressante un éclaircissement de la part du Tribunal fédéral, en tant qu'autorité judiciaire suprême chargée de dégager une interprétation uniforme du droit fédéral. Il faut que l'on demande au Tribunal fédéral de donner une réponse qui ne vaut pas seulement pour le cas d'espèce, mais permet de résoudre un nombre indéterminé de cas futurs (cf. <ref-ruling> consid. 1.4.1 p. 118 ss et les arrêts cités; <ref-ruling> consid. 1.2 p. 495 s.; arrêt 2C_951/2019 du 16 juillet 2020 consid. 1.3.2). En revanche, lorsque le point soulevé ne concerne que l'application de principes jurisprudentiels établis à un cas d'espèce, il ne peut être qualifié de question juridique de principe (<ref-ruling> consid. 1.1.2 p. 289; arrêt 2C_951/2019 du 16 juillet 2020 consid. 1.3.2).
1.2.3. Selon le recourant, déterminer le régime applicable à une demande d'indemnisation pour détention dans des conditions illicites déposée contre l'État après la clôture de la procédure pénale; respectivement, savoir si cette prétention en indemnisation peut être compensée avec les frais de procédure dus par le détenu à l'État, constituent des questions juridiques de principe.
Le recourant soutient qu'il s'agit de questions présentant une importance pratique considérable, notamment du fait que l'État de Vaud est actuellement saisi de centaines (près de 700) de demandes d'indemnisation et de réparation morale en lien avec les conditions de détention, dont le montant s'élève à plusieurs centaines de milliers de francs. Il apparaît indispensable aux yeux du recourant que le Tribunal fédéral clarifie ces questions qui présentent une importance incontestable et peuvent se présenter dans n'importe quel canton.
1.2.4. Le constat des conditions de détention illicites et les conséquences qui en découlent ont fait l'objet de nombreux arrêts récents dont plusieurs publiés aux ATF (cf. notamment <ref-ruling>, arrêts 1B_325/2017 du 14 novembre 2017, 6B_1097/2016 du 13 septembre 2017, 6B_456/2015 du 21 mars 2016, s'agissant du constat de l'illicéité des conditions de détention; cf. notamment <ref-ruling>, <ref-ruling>, arrêts 6B_1015/2016 du 27 octobre 2017 consid. 7; 6B_1395/2016 du 27 octobre 2017 s'agissant des conséquences [réduction de peine; indemnité pour tort moral]).
Dans des arrêts de principe rendus dans le cadre de procédures pénales, le Tribunal fédéral a jugé qu'à l'instar de la prétention en réparation du tort moral du prévenu libéré (art. 429 al. 1 let. c CPP), l'indemnisation des conditions de détention illicites fondée sur l'<ref-law> ne pouvait pas être éteinte par compensation avec la créance de l'État portant sur les frais de procédure (<ref-ruling> consid. 2.6.1 p. 251 et <ref-ruling> consid. 5 p. 244 s.).
A ce jour, la question de savoir si, une fois la procédure pénale close, la prétention en réparation du tort moral pour détention dans des conditions illicites peut faire l'objet d'une compensation avec la créance de l'État portant sur les frais de procédure n'a pas été tranchée. Il s'agit là d'une incertitude caractérisée, concernant de nombreuses affaires pendantes et futures dans plusieurs cantons. Cette incertitude appelle un éclaircissement de la part du Tribunal fédéral, de sorte qu'il convient d'entrer en matière, quand bien même la valeur litigieuse n'est pas atteinte en l'espèce (art. 85 al. 1 let. a et 85 al. 2 LTF). La question du régime applicable à ce type de procédure est directement liée à la précédente, de sorte qu'il n'y a pas lieu de distinguer ces questions au stade de l'entrée en matière.
La voie du recours en matière de droit public est par conséquent ouverte.
1.2.5. Dirigé contre une décision d'une autorité judiciaire cantonale supérieure statuant en dernière instance (art. 86 al. 1 let. d et al. 2 LTF), le recours a été interjeté en temps utile (<ref-law>) et dans les formes prévues par la loi (<ref-law>). L'État de Vaud, agissant en qualité de collectivité publique atteinte de manière comparable à un particulier dans sa situation juridique ou matérielle, s'agissant de sauvegarder son patrimoine administratif ou financier en matière de responsabilité, dispose de la qualité pour recourir (<ref-law>; arrêt 2C_111/2011 du 7 juillet 2011 consid. 1.3, publié in SJ 2012 I 97 et RDAF 2011 I 594, admettant que l'État se trouve dans une situation comparable à celle d'un particulier recherché en responsabilité civile; cf. également dans ce sens <ref-ruling> consid. 2.1.2 p. 509; arrêts 4A_219/2018 du 24 août 2018 consid. 6; 2C_1087/2013 du 28 mai 2014 consid. 1.2; 2C_5/2013 du 21 janvier 2013 consid. 2.4; s'agissant des conditions générales déduites de l'<ref-law>, voir <ref-ruling>; <ref-ruling> consid. 1.2 p. 93 s.).
Le recours en matière civile, converti en recours en matière de droit public est par conséquent recevable. Aussi, il n'y a pas lieu d'entrer en matière sur le recours constitutionnel subsidiaire (<ref-law>; <ref-ruling> consid. 1.2 p. 400).
2.
Le recourant invoque une violation de l'<ref-law>. Il considère que la créance de l'intimé pour le tort moral subi en raison de conditions de détention illicites est saisissable, partant, susceptible d'être compensée avec les frais de justice mis à la charge du prévenu.
2.1. En l'espèce, l'État de Vaud a été condamné à verser à l'intimé une somme de 1'350 fr. à titre d'indemnité pour la détention subie dans des conditions illicites au sens de l'art. 3 CEDH. Cette indemnité n'est pas contestée, ni dans son principe, ni dans sa quotité.
La cour cantonale a considéré que l'indemnité litigieuse ne peut, de par sa nature, être compensée avec les frais de justice mis à la charge du prévenu. Se référant à l'<ref-law>, elle a relevé que la prétention en réparation du tort moral peut s'interpréter largement comme étant de nature spéciale dont le paiement devrait intervenir en mains du créancier conformément à l'<ref-law>, de sorte qu'elle n'est en tout cas pas exigible au sens des art. 75 et 120 CO contre la volonté du créancier. Elle s'est fondée notamment sur la jurisprudence pénale interdisant de compenser la réparation du tort moral pour détention injustifiée prévue à l'art. 429 al. 1 let. c CPP et pour l'indemnité déduite de l'<ref-law> (en référence aux <ref-ruling> consid. 5.1 p. 244 s. et <ref-ruling> consid. 2.6.1 p. 251).
2.2.
2.2.1. Conformément à l'<ref-law>, si le prévenu a, de manière illicite, fait l'objet de mesures de contrainte, l'autorité pénale lui alloue une juste indemnité et réparation du tort moral (al. 1). En cas de détention provisoire et de détention pour des motifs de sûreté, le prévenu a droit à une indemnité ou à une réparation du tort moral lorsque la détention a excédé la durée autorisée et que la privation de liberté excessive ne peut être imputée sur les sanctions prononcées à raison d'autres infractions (al. 2).
Si l'indemnisation de conditions de détention illicites avant jugement n'est pas prévue expressément par le CPP, le Tribunal fédéral a admis qu'elle pouvait trouver son fondement dans l'<ref-law> (<ref-ruling> consid. 4.3 p. 359 s.; <ref-ruling> consid. 2.5.1 p. 250 et 2.6 p. 251; cf. également <ref-ruling> consid. 2.1 p. 128; <ref-ruling> consid. 3.4 p. 45). Selon la jurisprudence, l'indemnisation des conditions de détention après jugement relève quant à elle des normes ordinaires en matière de responsabilité de l'État (<ref-ruling> consid. 4.3 p. 359 s.).
2.2.2. L'<ref-law> prévoit quelques règles en matière d'exécution des décisions pénales sur le sort des frais de procédure et des autres prestations financières. Selon son al. 4, les autorités pénales peuvent compenser les créances portant sur des frais de procédure avec les indemnités accordées à la partie débitrice dans la même procédure pénale et avec des valeurs séquestrées.
Dans un arrêt de principe portant sur l'indemnisation d'une détention injustifiée, dans le cadre d'une procédure pénale, le Tribunal fédéral a considéré qu'en application de l'<ref-law>, la prétention en réparation du tort moral du prévenu libéré (art. 429 al. 1 let. c CPP) ne pouvait pas être éteinte par compensation avec la créance de l'État portant sur les frais de procédure (<ref-ruling> consid. 5 p. 244 s.).
S'agissant de l'indemnisation des conditions de détention illicites, dans le cadre de la procédure pénale, le Tribunal fédéral a jugé qu'à l'instar de ce qui prévaut pour la réparation du tort moral prévue à l'art. 429 al. 1 let. c CPP, l'indemnité déduite de l'<ref-law> n'est pas compensable avec les frais de justice mis à la charge du prévenu (cf. <ref-ruling> consid. 2.6.1 p. 251). Il n'y est alors pas fait expressément référence à l'<ref-law>.
2.3. Ainsi que le relève le recourant, dans le cadre d'une procédure en responsabilité de l'État intervenant après la clôture d'une procédure pénale, l'<ref-law> (et la jurisprudence qui en découle) n'est pas applicable directement à la présente cause.
Selon la jurisprudence, le principe de la compensation prévu à l'<ref-law> est une institution reconnue pour être générale, mais qui peut être exclue par le législateur (<ref-ruling> consid. 2.2 p. 214; <ref-ruling> consid. 5.1 p. 245). Les dispositions des <ref-law> sur la compensation sont applicables en droit public, en cas de silence de celui-ci et sous réserve d'incompatibilité (<ref-ruling> consid. 2.2 p. 214; <ref-ruling> consid. 6.1 p. 135; arrêts 2C_451/2018 du 27 septembre 2019 consid. 6.4; 2C_432/2010 du 9 novembre 2010 consid. 4.2).
2.4. L'<ref-law> dispose que, lorsque deux personnes sont débitrices l'une envers l'autre de sommes d'argent ou d'autres prestations de même espèce, chacune des parties peut compenser sa dette avec sa créance, si les deux dettes sont exigibles.
L'<ref-law> prévoit une exception au principe de la compensation. En vertu de l'<ref-law>, ne peuvent être éteintes par compensation contre la volonté du créancier les créances dont la nature spéciale exige le paiement effectif entre les mains du créancier, telles que des aliments et le salaire absolument nécessaire à l'entretien du débiteur (recte: créancier) et de sa famille.
Comme cela ressort du texte légal, l'énumération des créances qui ne peuvent être éteintes par compensation n'est pas exhaustive (<ref-ruling> consid. 3b.aa p. 316). Le juge peut reconnaître à d'autres créances la nature spéciale exigée par l'<ref-law>, en examinant si l'exigence d'une prestation effective se justifie, ce sans perdre de vue ce qui sous-tend cette disposition, à savoir la nécessité de protéger la partie économiquement faible (NICOLAS JEANDIN, Commentaire romand, Code des obligations I, Art. 1-529 CO, 2e éd. 2012, n° 6 ad <ref-law>; cf. ANDREAS MÜLLER, in Basler Kommentar, Obligationenrecht, vol. I, 7e éd. 2019, n° 11 ad <ref-law>; CORINNE ZELLWEGER-GUTKNECHT, in Berner Kommentar, Art. 120-126 OR, Das Erlöschen der Obligation, Verrechnung, 2012, n° 73 et 79 ad <ref-law>).
2.5. Au vu de ce qui précède, il s'agit d'examiner si la nature de l'indemnisation due par l'État à raison de conditions de détention inhumaines et dégradantes, après la clôture de la procédure pénale, est une créance qui doit être payée en main du créancier au sens de l'<ref-law>. Pour examiner la nature de cette créance, il sied de s'en tenir à son fondement, déduit des art. 3 CEDH, 7 et 10 Cst. et 431 CPP.
2.5.1. Au niveau conventionnel, l'art. 3 CEDH prévoit que nul ne peut être soumis à la torture ni à des peines ou traitements inhumains ou dégradants. Sur le plan constitutionnel, l'art. 7 Cst. dispose que la dignité humaine doit être respectée et protégée. A teneur de l'art. 10 al. 3 Cst., la torture et tout autre traitement ou peine cruels, inhumains ou dégradants sont interdits.
L'art. 3 CEDH impose à l'État de s'assurer que les modalités de détention ne soumettent pas la personne détenue à une détresse ou à une épreuve d'une intensité qui excède le niveau inévitable de souffrance inhérent à une telle mesure et que, eu égard aux exigences pratiques de l'emprisonnement, sa santé et son bien-être sont assurés de manière adéquate (cf. arrêt <ref-ruling> consid. 3.5 p. 135 s. et les références citées).
De jurisprudence constante, la CourEDH relève que, pour qu'un système de protection des droits des détenus garantis par l'art. 3 CEDH soit effectif, les remèdes préventifs et compensatoires doivent coexister de façon complémentaire. Le recours préventif doit être de nature à empêcher la continuation de la violation alléguée ou de permettre une amélioration des conditions matérielles de détention. Une fois que la situation dénoncée a cessé, la personne doit disposer d'un recours indemnitaire. À défaut d'un tel mécanisme, combinant ces deux recours, la perspective d'une possible indemnisation risquerait de légitimer des souffrances incompatibles avec l'art. 3 CEDH et d'affaiblir sérieusement l'obligation des États de mettre leurs normes en accord avec les exigences de la Convention (affaires J.M.B. et autres c. France du 30 janvier 2020 [requête n° 9671/15 et 31 autres], § 167; Ananyev et autres c. Russie du 10 janvier 2012 [requêtes nos 42525/07 et 60800/08], § 98; Neshkov et autres c. Bulgarie du 27 janvier 2015 [requête n° 36925/10 et 5 autres], § 181; Ulemek c. Croatie du 31 octobre 2019 [requête n° 21613/16], § 71-72).
Il résulte des principes conventionnels en la matière que l'indemnisation des conditions de détention contraires à l'art. 3 CEDH exige, de par sa nature, une prestation effective, comme l'entend l'<ref-law>. Admettre la possibilité pour l'État d'éteindre, par compensation, l'indemnité octroyée au titre de réparation d'une détention subie dans des conditions illicites avec les frais de procédure auxquels le prévenu a été condamné, n'est pas de nature à inciter l'État à faire cesser ces conditions (cf. affaire J.M.B. et autres c. France, précitée, § 167 et 195).
Ainsi, l'exigence conventionnelle de l'effectivité du recours indemnitaire tend à exclure la possibilité d'éteindre par compensation une créance en indemnisation des conditions de détention illicites fondée sur l'art. 3 CEDH.
2.5.2. En tant que la créance en réparation des conditions de détention illicites trouve son fondement dans l'<ref-law>, force est de relever que, tant la jurisprudence que le Message du CPP interdisent la compensation des frais de procédure avec la réparation du tort moral, notamment en raison de la nature plutôt personnelle que patrimoniale de celui-ci et de son but (<ref-ruling> consid. 2.6.1 p. 251; <ref-ruling> consid. 5.1 p. 244 s. et les références citées en lien avec l'<ref-law>; Message du 21 décembre 2005 relatif à l'unification du droit de la procédure pénale, FF 2006 1318 ad art. 450).
Le sort de l'initiative parlementaire " Compensation des frais de justice avec les indemnités pour tort moral allouées en raison des mesures de contrainte illicites " (n° 13.466), déposée par la Commission des affaires juridiques du Conseil national le 3 octobre 2013 tend au même constat. Il ressort du Message sur la modification du CPP qu'une majorité de participants à la consultation a rejeté la proposition de l'initiative parlementaire, au motif que ces indemnités sont un signe de réparation des injustices subies et qu'il incombe à l'État de prendre ses responsabilités. Le Conseil fédéral s'est rallié à cette interprétation. Il a donc été renoncé à étendre la compensation autorisée par l'<ref-law> aux indemnités accordées en réparation du tort moral (Message du 28 août 2019 concernant la modification du code de procédure pénale, FF 2019 6374 ad art. 442).
Ces considérations législatives récentes relatives au CPP tendent à reconnaître une nature spéciale à la créance en réparation du tort moral résultant des conditions de détention illicites, nécessitant un paiement effectif en mains du créancier. Une telle approche permet de tenir compte de l'aspect réparateur que consacre l'indemnité découlant de l'incapacité de l'État d'offrir des conditions de détention conformes aux standards minimaux. Une approche cohérente de la volonté du législateur conduit ainsi à ne pas distinguer le mode d'exécution de la prestation selon qu'elle est due en cours de procédure pénale ou après la clôture de celle-ci. Sa nature demeure inchangée quel que soit le stade auquel l'État doit s'exécuter. Sous cet angle également, la prestation doit être effective.
2.5.3. L'examen de la question sous l'angle du principe de l'égalité de traitement (art. 8 Cst.) mène également à admettre que cette créance en réparation du tort moral justifie une prestation effective.
En effet, les détenus obtenant une réparation du tort moral du fait de leurs conditions de détention illicites, par le biais d'une réduction de peine bénéficient d'une réparation effective, en nature. Les intéressés qui ne peuvent plus bénéficier d'une réduction de peine mais qui font valoir une indemnité financière dans le cadre de la procédure pénale, bénéficient des principes déduits de l'<ref-law> qui interdisent la compensation avec les frais de procédure, de sorte qu'ils reçoivent une prestation effective. Au regard du principe de l'égalité de traitement, les personnes qui n'ont pas, respectivement, pas pu faire valoir leur prétention en réparation financière dans le cadre de la procédure pénale, doivent pouvoir bénéficier d'une prestation effective de l'État et ne sauraient se voir opposer l'extinction de leur créance par compensation avec les frais de procédure.
2.5.4. L'<ref-law> garantit, en matière de compensation dans le domaine du droit privé, la protection de la dignité humaine et le droit à la vie et à la liberté personnelle (art. 7 et 10 Cst., cf. CORINNE ZELLWEGER-GUTKNECHT, op cit., nos 74 s. ad <ref-law>). Dans cette mesure, force est d'admettre que l'indemnité pour tort moral en raison de conditions de détention inhumaines et dégradantes, fondée sur les art. 3 CEDH et 10 Cst. qui protègent la dignité humaine, constitue une prestation effective au sens de l'<ref-law>.
Dans l'<ref-ruling> (consid. 6b p. 311), rendu en matière de responsabilité civile, le Tribunal fédéral a considéré, sans autre développement, que l'<ref-law> ne visait pas l'indemnité à titre de réparation du tort moral à laquelle avait droit la fille d'une personne décédée, dans le cadre d'une procédure contre l'assurance responsabilité civile. Cette jurisprudence ne saurait s'appliquer au cas d'espèce, au vu du caractère particulier du tort moral dû par l'État résultant de conditions de détention inhumaines et dégradantes et de la nécessité d'imposer à l'État l'exécution d'une telle prestation pour faire cesser les conditions de détention contraires à l'art. 3 CEDH (cf. consid. 2.5.1 supra). La jurisprudence l'a du reste déjà formulé à propos de l'indemnité due pour des conditions de détention illicites lorsqu'elle trouve son fondement dans l'<ref-law> (<ref-ruling> consid. 2.6.1). A cela s'ajoute que, dès lors que la réparation morale a pour but d'indemniser les souffrances subies en permettant au destinataire d'augmenter d'une autre manière son bien-être ou de rendre l'atteinte plus supportable, et dans la mesure où le paiement de cette somme doit pouvoir calmer notablement les souffrances physiques ou morales de la personne lésée, une simple réduction des passifs n'est pas apte à réparer son atteinte. Son paiement doit être effectif (CORINNE ZELLWEGER-GUTKNECHT, op. cit., n° 77 ad <ref-law>; cf. en ce sens également: NICOLAS ROUILLER, Droit suisse des obligations et principes du droit européen des contrats, 2007, p. 73).
2.6. Pour ces motifs, il y a lieu de reconnaître que la créance en réparation du tort moral pour une détention dans des conditions illicites, dans le cadre d'une procédure en responsabilité de l'État, exige, si elle est due, une prestation effective. Elle remplit la condition de la nature spéciale exigée par l'<ref-law>, de sorte qu'elle ne peut pas être compensée avec les frais de procédure, sans l'accord du créancier.
Il en résulte que c'est en conformité avec le droit fédéral (dût-il s'appliquer à titre de droit cantonal supplétif, cf. art. 8 de la loi vaudoise sur la responsabilité de l'État, des communes et de leurs agents [LRECA/VD; RSV 170.11]; cf. toutefois <ref-ruling> consid. 5.3 p. 325 s.), que la cour cantonale a reconnu la nature spéciale de l'indemnisation en réparation des conditions de détention illicites.
Cela étant, il n'y a pas lieu d'examiner la question de l'insaisissabilité de cette créance au sens de l'<ref-law>.
3.
Au vu de ce qui précède, le recours en matière de droit public doit être rejeté. Le présent arrêt sera rendu sans frais (<ref-law>). Il n'y a pas lieu d'allouer de dépens à l'intimé qui n'a pas déposé d'observations dans le délai imparti.

Par ces motifs, le Tribunal fédéral prononce :
1.
Il n'est pas entré en matière sur le recours constitutionnel subsidiaire.
2.
Le recours en matière de droit public est rejeté.
3.
Il est statué sans frais ni dépens.
4.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Chambre des recours civile.
Lausanne, le 13 novembre 2020
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Klinke