Faits :
A.
Par ordonnance du 25 octobre 2019, le Ministère public de l'arrondissement de l'Est vaudois a refusé d'entrer en matière sur les plaintes de A._ et a laissé les frais de la procédure à la charge de l'État.
B.
Par arrêt du 14 février 2020, la Chambre des recours pénale du Tribunal cantonal vaudois a rejeté le recours formé par A._ à l'encontre de l'ordonnance précitée, qu'elle a confirmée.
En résumé, il en ressort les faits suivants.
B.a. Depuis 2013, un litige civil oppose A._ à B._ en relation avec des travaux d'ébénisterie effectués par l'entreprise de celui-ci sur la propriété de celui-là. Selon A._, ces travaux auraient été entachés de nombreux défauts et B._ aurait en outre surfacturé ses prestations.
Le 24 novembre 2018, A._ a déposé plainte contre B._ pour faux dans les titres. Il lui reproche d'avoir produit à l'appui d'une requête en inscription d'une hypothèque légale des artisans et entrepreneurs adressée le 7 mars 2017 au Président du Tribunal de l'arrondissement de l'Est vaudois un devis daté du 5 décembre 2016, que A._ n'aurait jamais sollicité et dont il n'aurait jamais eu connaissance. Ce document aurait permis à B._ d'étayer ses allégations selon lesquelles ces travaux n'étaient pas terminés, de se prévaloir du délai de l'<ref-law> et d'obtenir ainsi de l'autorité précitée l'inscription provisoire d'une hypothèque légale en sa faveur sur la propriété de A._.
Le 22 mars 2019, A._ a déposé plainte contre C._ et sa collaboratrice D._ pour faux rapport en justice. Celui-là a été désigné le 7 février 2014 par le Juge de paix du district de la Riviera-Pays-d'Enhaut pour réaliser une expertise à la suite d'une requête de preuve à futur déposée par A._ en vue de déterminer la valeur réelle des travaux réalisés par B._ sur sa propriété. A la suite de l'établissement du rapport d'expertise du 7 avril 2015, A._ reproche à l'expert et à sa collaboratrice d'avoir commis plusieurs négligences dans leur mission.
B.b. Par ordonnance du 16 octobre 2017, le président du Tribunal civil de l'arrondissement de l'Est vaudois a confirmé l'ordonnance de mesures superprovisionnelles du 28 avril 2017 et ordonné l'inscription provisoire d'une hypothèque légale des artisans et entrepreneurs d'un montant de 95'650 fr. 50, avec intérêt à 5% l'an dès le 17 octobre 2013 sur 50'807 fr. 50 et dès le 6 mars 2017 sur 44'843 fr., plus accessoires légaux, en faveur de B._ sur la propriété individuelle dont le recourant était propriétaire.
C.
A._ forme un recours en matière pénale au Tribunal fédéral contre l'arrêt précité. Il conclut, avec suite de frais et dépens, principalement à son annulation et au renvoi de la cause à l'autorité cantonale pour nouvelles instruction et décision dans le sens des considérants. Subsidiairement, il conclut à sa réforme, en ce sens que l'ordonnance de non-entrée en matière du 25 octobre 2019 est annulée, le dossier de la cause étant renvoyé au Ministère public de l'arrondissement de l'Est vaudois avec l'instruction d'enquêter sur les faits objets de la plainte du 24 novembre 2018.

Considérant en droit :
1.
1.1. Selon l'art. 81 al. 1 let. a et b ch. 5 LTF, la partie plaignante qui a participé à la procédure de dernière instance cantonale est habilitée à recourir au Tribunal fédéral, si la décision attaquée peut avoir des effets sur le jugement de ses prétentions civiles. Constituent de telles prétentions celles qui sont fondées sur le droit civil et doivent en conséquence être déduites ordinairement devant les tribunaux civils. Il s'agit principalement des prétentions en réparation du dommage et du tort moral au sens des <ref-law> (<ref-ruling> consid. 3.1 p. 82; <ref-ruling> consid. 1.1 p. 4).
En vertu de l'<ref-law>, il incombe à la partie recourante d'alléguer les faits qu'elle considère comme propres à fonder sa qualité pour recourir. Lorsque le recours est dirigé contre une décision de non-entrée en matière ou de classement de l'action pénale, la partie plaignante n'a pas nécessairement déjà pris des conclusions civiles. Quand bien même la partie plaignante aurait déjà déclaré des conclusions civiles (cf. <ref-law>), il n'en reste pas moins que le procureur qui refuse d'entrer en matière ou prononce un classement n'a pas à statuer sur l'aspect civil (cf. <ref-law>). Dans tous les cas, il incombe par conséquent à la partie plaignante d'expliquer dans son mémoire au Tribunal fédéral quelles prétentions civiles elle entend faire valoir contre l'intimé. Comme il n'appartient pas à la partie plaignante de se substituer au ministère public ou d'assouvir une soif de vengeance, la jurisprudence entend se montrer restrictive et stricte, de sorte que le Tribunal fédéral n'entre en matière que s'il ressort de façon suffisamment précise de la motivation du recours que les conditions précitées sont réalisées, à moins que l'on puisse le déduire directement et sans ambiguïté compte tenu notamment de la nature de l'infraction alléguée (ATF <ref-ruling> consid. 1.1 p. 4 s.).
1.2. Le recour antexpose avoir subi un dommage financier de par l'inscription provisoire de l'hypothèque légale des artisans et des entrepreneurs sur son bien immobilier. La banque créancière ne lui aurait accordé aucune augmentation du crédit hypothécaire en raison de cette inscription, retardant ainsi de 15 mois l'avancement des travaux encore indispensables pour rendre le bien habitable. Il entendait dès lors faire valoir, d'une part, le montant du loyer de l'appartement loué par sa compagne, soit 1'855 fr. par mois, plus 20 fr. 75 de frais de garantie de loyer sans dépôt bancaire, ce qui représenterait un dommage d'environ 28'500 fr. pour la période comprise entre juin 2017 et septembre 2018. D'autre part, il entendait prétendre au remboursement des frais de notaire engendrés par la rédaction du dépôt d'un séquestre et du contrat y afférent, soit 5'488 fr. 50, démarche nécessaire afin de "débloquer la situation" et ayant permis d'obtenir la radiation de l'hypothèque légale en mai 2018. Il invoque par ailleurs la réserve de ses "autres prétentions", notamment "sur la perte de valeur du montant de 115'000 fr." séquestrés depuis deux ans.
La question de la qualité pour recourir du recourant sur le fond de la cause peut rester ouverte, compte tenu de l'issue du recours (infra, consid. 3).
2.
2.1. Indépendamment des conditions posées par l'<ref-law>, la partie plaignante est habilitée à se plaindre d'une violation de ses droits de partie équivalant à un déni de justice formel, sans toutefois pouvoir faire valoir par ce biais, même indirectement, des moyens qui ne peuvent être séparés du fond (ATF <ref-ruling> consid. 1.1 p. 5).
Le recourant se plaint d'une violation de l'<ref-law>. Il prétend qu'il ressortirait de l'arrêt attaqué que son mémoire ne satisfaisait manifestement pas aux exigences de motivation de l'<ref-law>, de sorte qu'il aurait dû être invité à le compléter, n'étant alors pas assisté d'un avocat. La violation de l'<ref-law> devrait conduire à l'annulation de l'arrêt entrepris, sous peine de le priver d'une voie de droit. De la sorte, il présente un grief d'ordre formel, se plaignant de la violation de ses droits de partie. Il a, en ce sens, qualité pour former un recours en matière pénale au Tribunal fédéral.
2.2. L'<ref-law> énonce que si le code exige que le recours soit motivé, la personne ou l'autorité qui recourt doit indiquer précisément, les points de la décision qu'elle attaque (let. a), les motifs qui commandent une autre décision (let. b) et les moyens de preuve qu'elle invoque (let. c). Les motifs au sens de l'<ref-law> doivent être étayés par le recourant sous l'angle des faits et du droit (arrêts 1B_472/2019 du 29 octobre 2019 consid. 3.1; 6B_120/2016 du 20 juin 2016 consid. 3.1).
Selon l'<ref-law>, si le mémoire ne satisfait pas à ces exigences, l'autorité de recours le renvoie au recourant afin que ce dernier le complète dans un bref délai. Si, après l'expiration de ce délai supplémentaire, le mémoire ne satisfait toujours pas à ces exigences, l'autorité de recours n'entre pas en matière.
Cette disposition ne permet pas de remédier un défaut de motivation dans le mémoire en question (arrêt 6B_705/2019 du 5 septembre 2019 consid. 3.2.2). Elle vise uniquement à protéger le justiciable contre un formalisme excessif de la part de l'autorité. En effet, il est communément admis en procédure que la motivation d'un acte de recours doit être entièrement contenue dans l'acte de recours lui-même. Elle ne saurait dès lors être complétée ou corrigée ultérieurement, l'<ref-law> ne devant pas être appliqué afin de détourner la portée de l'<ref-law> qui interdit la prolongation des délais fixés par la loi (arrêts 1B_232/2017 du 19 juillet 2017 consid. 2.4.3; 1B_113/2017 du 19 juin 2017 consid. 2.4.3; 6B_120/2016 du 20 juin 2016 consid. 3.1).
2.3. La cour cantonale a certes retenu que l'argumentation du recourant était peu claire et essentiellement centrée sur l'aspect civil du litige. Elle a néanmoins exposé les critiques de celui-ci sur plus d'une demi-page (cf. arrêt entrepris, p. 4 s.). Puis, au terme de l'appréciation des preuves, elle a retenu, en résumé, que selon l'expertise hors procès, les travaux n'étaient pas terminés et qu'il ressortait de l'ordonnance de mesures provisionnelles du 16 octobre 2017 que le recourant avait lui-même produit un document laissant apparaître que la fin des travaux était envisagée pour décembre 2017 à janvier 2018. En outre, une photographie datée, selon le recourant, du 3 octobre 2017 révélait que le chalet était encore en chantier. En définitive, il était très douteux que le devis litigieux puisse être qualifié de titre et, de toute manière, il n'y avait aucun indice concret et suffisant permettant de supposer que celui-ci puisse porter sur des éléments ne correspondant pas à la réalité. En tout état, ce document n'avait pas pu avoir, dans le procès en inscription d'une hypothèque légale, la portée que lui prêtait le recourant puisque la date de la fin des travaux avait été prouvée par d'autres éléments. Les conditions de l'infraction de faux dans les titres n'étaient dès lors manifestement pas réunies.
Il ressort des développements qui précédent que la cour cantonale est bel et bien entrée en matière sur les contestations soulevées par le recourant, malgré les termes utilisés ("le recours, manifestement mal fondé, doit être rejeté dans la mesure de sa recevabilité [<ref-law>], compte tenu de sa motivation insuffisante"; cf. arrêt entrepris, p. 11). Dans cette mesure, l'<ref-law> ne trouvait pas application. Infondé, le grief tiré d'une violation de cette disposition doit être rejeté.
3.
Le recourant reproche à la cour cantonale d'avoir établi les faits de manière lacunaire, partant arbitraire. Il se plaint à cet égard d'une violation de l'<ref-law> en lien avec l'<ref-law>.
3.1. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>), à moins qu'ils aient été établis en violation du droit ou de manière manifestement inexacte au sens des art. 97 al. 1 et 105 al. 2 LTF, soit pour l'essentiel de façon arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 1.1 p. 155 s.). L'établissement de l'état de fait incombe principalement au juge matériellement compétent pour se prononcer sur la culpabilité du prévenu. Le ministère public et l'autorité de recours n'ont dès lors pas, dans le cadre d'une décision de classement d'une procédure pénale, respectivement à l'encontre d'un recours contre une telle décision, à établir l'état de fait comme le ferait le juge du fond. Des constatations de fait sont admises au stade du classement, dans le respect du principe in dubio pro duriore, soit dans la mesure où les faits sont clairs, respectivement indubitables, de sorte qu'en cas de mise en accusation ceux-ci soient très probablement constatés de la même manière par le juge du fond. Tel n'est pas le cas lorsqu'une appréciation différente par le juge du fond apparaît tout aussi vraisemblable. Le principe in dubio pro duriore interdit ainsi au ministère public, confronté à des preuves non claires, d'anticiper sur l'appréciation des preuves par le juge du fond. L'appréciation juridique des faits doit en effet être effectuée sur la base d'un état de fait établi en vertu du principe in dubio pro duriore, soit sur la base de faits clairs (<ref-ruling> consid. 2.3.2 p. 244 et les références citées). L'<ref-law> est également applicable aux recours en matière pénale contre les décisions de classement ou confirmant de telles décisions. Saisi d'un tel recours, le Tribunal fédéral examine sous l'angle de l'arbitraire l'appréciation des preuves opérée par l'autorité précédente en application du principe in dubio pro duriore (<ref-ruling> consid. 2.3.3 p. 245 s.), si l'autorité précédente a arbitrairement jugé la situation probatoire claire ou a admis arbitrairement que certains faits étaient clairement établis (<ref-ruling> consid. 2.3.2 p. 244 s.).
3.2. Conformément à l'<ref-law>, le ministère public rend immédiatement une ordonnance de non-entrée en matière s'il ressort de la dénonciation ou du rapport de police que les éléments constitutifs de l'infraction ou les conditions à l'ouverture de l'action pénale ne sont manifestement pas réunis. Cette disposition doit être appliquée conformément à l'adage in dubio pro duriore. Celui-ci découle du principe de la légalité (art. 5 al. 1 Cst. et <ref-law> en relation avec les art. 319 al. 1 et 324 al. 1 CPP; <ref-ruling> consid. 4.2 p. 91) et signifie qu'en principe un classement ou une non-entrée en matière ne peuvent être prononcés par le ministère public que lorsqu'il apparaît clairement que les faits ne sont pas punissables ou que les conditions à la poursuite pénale ne sont pas remplies (<ref-ruling> consid. 2.1 p. 69). Le ministère public et l'autorité de recours disposent, dans ce cadre, d'un pouvoir d'appréciation que le Tribunal fédéral revoit avec retenue. La procédure doit se poursuivre lorsqu'une condamnation apparaît plus vraisemblable qu'un acquittement ou lorsque les probabilités d'acquittement et de condamnation apparaissent équivalentes, en particulier en présence d'une infraction grave. En effet, en cas de doute s'agissant de la situation factuelle ou juridique, ce n'est pas à l'autorité d'instruction ou d'accusation mais au juge matériellement compétent qu'il appartient de se prononcer (<ref-ruling> consid. 2.2.1 p. 243; <ref-ruling> consid. 4.1.2 p. 91 et les références citées).
3.3. Aux termes de l'<ref-law>, se rend coupable d'escroquerie celui qui, dans le dessein de se procurer ou de procurer à un tiers un enrichissement illégitime, aura astucieusement induit en erreur une personne par des affirmations fallacieuses ou par la dissimulation de faits vrais ou l'aura astucieusement confortée dans son erreur et aura de la sorte déterminé la victime à des actes préjudiciables à ses intérêts pécuniaires ou à ceux d'un tiers.
L'escroquerie au procès est un cas particulier de l'escroquerie au sens de l'<ref-law>. Elle consiste à tromper astucieusement le juge aux fins de le déterminer à rendre une décision (matériellement fausse) préjudiciable au patrimoine de la partie adverse ou d'un tiers (<ref-ruling> consid. 2; arrêt 6B_751/2018 du 2 octobre 2019 consid. 1.4.3). Dans ce contexte également, l'auteur doit agir avec l'intention d'obtenir un avantage indu et cette condition n'est pas réalisée lorsqu'il a, ou croit avoir, droit au paiement du montant qu'il réclame (arrêts 6B_1022/2019 du 30 octobre 2019 consid. 3.2; 6B_1005/2013 du 10 février 2014 consid. 5.1).
3.4. Le recourant soutient que le comportement adopté par B._ dans le cadre de la procédure civile, encore en cours, pourrait remplir les conditions d'une escroquerie au procès. Il soutient que B._, en vue d'obtenir l'inscription de l'hypothèque légale des artisans et entrepreneurs, aurait créé, plus de trois ans après la fin des travaux de celui-ci, un devis estimatif daté du 5 décembre 2016 et portant sur 44'843 fr., pour des travaux ni exécutés ni commandés. Ce devis aurait eu pour seul but de lui permettre de se prévaloir du délai de l'<ref-law> et d'obtenir un montant plus important, puisque l'hypothèque légale inscrite tient compte des travaux devisés. A cet égard, la cour cantonale aurait omis de prendre en compte des faits pertinents ressortant de la requête en inscription provisoire de l'hypothèque légale des artisans et entrepreneurs de B._ du 7 mars 2020 et de l'ordonnance rendue par le président du Tribunal civil le 16 octobre 2017. B._ aurait produit le devis estimatif à l'appui de ses allégués, lequel aurait eu un rôle déterminant dans la décision du juge civil.
La cour cantonale n'a pas omis de prendre en compte les éléments mis en exergue par le recourant. Elle a toutefois constaté que le devis du 5 décembre 2016 n'avait pas pu avoir, dans le procès en inscription d'une hypothèque légale, la portée que lui prêtait le recourant puisque la date de la fin des travaux avait été prouvée par d'autres éléments, ce qui ressortait de l'expertise hors procès, de l'ordonnance de mesures de mesures provisionnelles du 16 octobre 2017, ainsi que d'un document et une photographie produits par le recourant dans ce cadre (supra, consid. 2.3).
Or, le recourant ne démontre pas qu'il était arbitraire, pour la cour cantonale, de retenir qu'il était clairement établi que le devis litigieux n'avait pas été décisif dans le procès civil.
S'agissant du montant de 44'843 fr., que le juge civil a en effet inclus dans l'hypothèque légale, la cour cantonale a constaté que le devis litigieux ne constituait qu'une simple offre spontanée à laquelle aucune suite n'avait été donnée par les parties (cf. arrêt entrepris, p. 9), ce que le recourant ne conteste d'ailleurs pas. En d'autres termes, B._ a simplement chiffré les travaux dont il proposait l'exécution. Dans cette mesure, il ne pouvait y avoir de tromperie. Cela permet d'exclure la réalisation de l'<ref-law>.
En définitive, on ne voit pas en quoi le comportement de B._ serait susceptible d'être constitutif d'une escroquerie au sens de l'<ref-law>. Infondés, les griefs du recourant sont rejetés, dans la mesure de leur recevabilité.
4.
Le recours doit être rejeté dans la mesure où il est recevable. Le recourant, qui succombe, supporte les frais judiciaires (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Chambre des recours pénale.
Lausanne, le 15 septembre 2020
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Rettby