Faits : A. Par ordonnance du 25 octobre 2019, le Ministère public de l'arrondissement de l'Est vaudois a refusé d'entrer en matière sur les plaintes de A._ et a laissé les frais de la procédure à la charge de l'État. B. Par arrêt du 14 février 2020, la Chambre des recours pénale du Tribunal cantonal vaudois a rejeté le recours formé par A._ à l'encontre de l'ordonnance précitée, qu'elle a confirmée. En résumé, il en ressort les faits suivants. B.a. Depuis 2013, un litige civil oppose A._ à B._ en relation avec des travaux d'ébénisterie effectués par l'entreprise de celui-ci sur la propriété de celui-là. Selon A._, ces travaux auraient été entachés de nombreux défauts et B._ aurait en outre surfacturé ses prestations. Le 24 novembre 2018, A._ a déposé plainte contre B._ pour faux dans les titres. Il lui reproche d'avoir produit à l'appui d'une requête en inscription d'une hypothèque légale des artisans et entrepreneurs adressée le 7 mars 2017 au Président du Tribunal de l'arrondissement de l'Est vaudois un devis daté du 5 décembre 2016, que A._ n'aurait jamais sollicité et dont il n'aurait jamais eu connaissance. Ce document aurait permis à B._ d'étayer ses allégations selon lesquelles ces travaux n'étaient pas terminés, de se prévaloir du délai de l'art. 839 al. 1 CC et d'obtenir ainsi de l'autorité précitée l'inscription provisoire d'une hypothèque légale en sa faveur sur la propriété de A._. Le 22 mars 2019, A._ a déposé plainte contre C._ et sa collaboratrice D._ pour faux rapport en justice. Celui-là a été désigné le 7 février 2014 par le Juge de paix du district de la Riviera-Pays-d'Enhaut pour réaliser une expertise à la suite d'une requête de preuve à futur déposée par A._ en vue de déterminer la valeur réelle des travaux réalisés par B._ sur sa propriété. A la suite de l'établissement du rapport d'expertise du 7 avril 2015, A._ reproche à l'expert et à sa collaboratrice d'avoir commis plusieurs négligences dans leur mission. B.b. Par ordonnance du 16 octobre 2017, le président du Tribunal civil de l'arrondissement de l'Est vaudois a confirmé l'ordonnance de mesures superprovisionnelles du 28 avril 2017 et ordonné l'inscription provisoire d'une hypothèque légale des artisans et entrepreneurs d'un montant de 95'650 fr. 50, avec intérêt à 5% l'an dès le 17 octobre 2013 sur 50'807 fr. 50 et dès le 6 mars 2017 sur 44'843 fr., plus accessoires légaux, en faveur de B._ sur la propriété individuelle dont le recourant était propriétaire. C. A._ forme un recours en matière pénale au Tribunal fédéral contre l'arrêt précité. Il conclut, avec suite de frais et dépens, principalement à son annulation et au renvoi de la cause à l'autorité cantonale pour nouvelles instruction et décision dans le sens des considérants. Subsidiairement, il conclut à sa réforme, en ce sens que l'ordonnance de non-entrée en matière du 25 octobre 2019 est annulée, le dossier de la cause étant renvoyé au Ministère public de l'arrondissement de l'Est vaudois avec l'instruction d'enquêter sur les faits objets de la plainte du 24 novembre 2018.