Faits :
A.
Par décision du 12 octobre 2007, la Municipalité de Montreux a délivré à A._ le permis de construire quatre maisons familiales (désignées ci-après: les maisons A, B, C et D) ainsi que des garages semi enterrés sur la parcelle n° 5426 du registre foncier de la commune, dont il est propriétaire.
Le 18 mars 2009, A._ a fractionné la parcelle précitée. Il est resté propriétaire d'une surface de 4'376 m 2, devenue le bien-fonds n° 12'593, comprenant le projet de maison familiale D. Le solde de la parcelle, d'une superficie de 2'759 m 2, englobant les projets des villas A, B et C a été vendu à B._. Le nouveau terrain n° 5426 issu du fractionnement comprend aussi les places de stationnement projetées pour les maisons A, B et C, donnant sur l'avenue de Naye. La nouvelle parcelle n° 12'593 a été fractionnée de manière à conserver un accès sur l'avenue de Naye pour la réalisation d'un garage réservé à la villa D, garage situé en contiguïté des garages prévus pour les immeubles A, B et C, mais séparé par l'accès (ascenseur en pente) prévu pour desservir les maisons implantées en amont.
Les travaux de construction des villas A, B et C et des garages attenants ont débuté le 8 avril 2010.
B.
Par décision du 26 octobre 2011, la Municipalité a ordonné à A._ de cesser tous les travaux de construction de la villa D au motif que le projet en voie de réalisation ne correspondait pas aux plans qui avaient fait l'objet du permis de construire du 12 octobre 2007. Le 19 juillet 2012, la Municipalité a adressé un courrier au prénommé dans lequel elle accusait réception des plans des travaux réalisés permettant d'examiner les différences entre ceux-ci et les travaux dûment autorisés par le permis de construire de 2007; elle indiquait qu'un examen circonstancié allait être effectué. Cette lettre visait aussi à lever temporairement la cessation des travaux ordonnée en date du 26 octobre 2011; "les travaux de sécurisation, concernant notamment l'écroulement du mur de soutènement donnant sur la parcelle voisine n° 5449, peuvent être effectués. Par contre, ceux liés à la construction de la maison D ne peuvent en aucun cas reprendre, dans l'attente de la détermination de notre Autorité sur les documents susmentionnés". Aucun recours n'a été déposé contre cette décision.
Le 2 octobre 2012, l'inspection des chantiers du district de Vevey a procédé à un contrôle sur la parcelle n° 12'593 à l'emplacement prévu pour la construction du garage réservé à la maison familiale D. Les constats effectués par l'inspecteur ont révélé un défaut ou une insuffisance des parois de protection, d'une part, et des étayages de fouilles et des protections de fouilles, d'autre part. L'inspection des chantiers a demandé en urgence une expertise sur l'ensemble de cette situation à réaliser par un ingénieur agréé, en raison de la proximité de l'hiver et des pluies successives qui ruinaient le terrain en amont sur la partie non protégée de la fouille. Le 5 octobre 2012, la Municipalité a adressé à A._ une nouvelle correspondance, dans laquelle elle lui a fait part de son "inquiétude quant à la stabilité du terrain à l'aval de la parcelle n° 12'593"; elle a souligné que "les travaux engagés pour réaliser le garage, autorisé par le permis de construire de 2007 n'avaient pas été poursuivis et que les lieux présentant un trou béant dont les parois berlinoises qui le bordent étaient maintenues par des étais"; elle a ordonné de prendre des mesures, l'hiver approchant; elle a rappelé la responsabilité du propriétaire sur ses immeubles issue de l'<ref-law> et exprimé sa crainte qu'en "cas d'effondrement, la propriété voisine n° 5436 ainsi que le domaine public de l'avenue de Naye ne se trouvent impliqués dans les dégâts, sans compter des blessés potentiels".
Le 24 octobre 2012, le bureau C._, mandaté par B._, a transmis au Service de l'urbanisme de la commune de Montreux les plans pour la réalisation du garage de la villa D. Le 13 novembre 2012, ledit Service a accusé réception des plans, confirmé qu'ils correspondaient à ce qui avait été autorisé par le permis de construire délivré en 2007 et remarqué que le radier du garage sera coulé 30 cm plus bas que l'altitude autorisée en 2007, dans le but de laisser une marge de manoeuvre au propriétaire quant aux finitions du garage; il a encore précisé avoir pris note que le garage était réalisé par B._ à ses frais et pour le compte de A._, conformément aux servitudes inscrites au registre foncier et aux accords convenus entre privés.
Dans l'intervalle, le 31 octobre 2012, A._ a adressé à la Municipalité un rapport établi le 27 octobre 2012 par les ingénieurs civils D._ et E._ SA, selon lequel le site ne présentait aucun danger structurel et de stabilité. Le 14 novembre 2012, la Municipalité a adressé la lettre suivante au prénommé:
"Nous prenons acte du rapport du bureau d'ingénieurs D._ & E._, daté du 27 octobre 2012. Bien que ce dernier atteste curieusement de la solidité des ouvrages en place, le risque possible d'effondrement sur l'avenue de Naye, qui concerne également le bien-fonds n° 5436, ne nous permet pas d'attendre que le propriétaire soit en état de reprendre les travaux. L'importance du litige à régler sur la villa D est à prendre en compte.
Nous vous informons que B._, conformément aux servitudes inscrites au registre foncier et aux accords convenus entre privés, tels que vous les rappelez dans votre courrier du 31 octobre 2012, fera réaliser les travaux du garage de la villa D, selon les plans du 24 octobre 2012 que nous vous joignons en copie, ce dans les meilleurs délais".
Le 17 décembre 2012, le bureau d'ingénieurs civils D._ et E._ SA a confirmé sa première expertise, se référant notamment au courriel de son sous-traitant F._ & G._ SA.
C.
A._ a recouru contre la lettre du 14 novembre 2012 auprès de la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal). Par arrêt du 14 août 2013, celle-ci a rejeté le recours et a maintenu la mesure ordonnée par la Municipalité le 14 novembre 2012. Elle a considéré en substance qu'en raison du risque de danger, la Municipalité pouvait faire application de l'art. 92 de la loi cantonale du 4 décembre 1985 sur l'aménagement du territoire et les constructions (LATC; RSV 700.11) et que les modifications apportées au projet par rapport au permis de construire du 12 octobre 2007 ne justifiaient pas une procédure complète d'enquête publique.
D.
Agissant par la voie du recours en matière de droit public, A._ demande principalement au Tribunal fédéral de réformer l'arrêt du 14 août 2013 en ce sens que la décision du 14 novembre 2012 est nulle, subsidiairement annulée. Il conclut subsidiairement au renvoi de la cause à l'autorité cantonale pour nouvelle décision dans le sens des considérants.
Le Tribunal cantonal conclut au rejet du recours. L'intimé et la Municipalité de Montreux font de même, tout en faisant valoir l'irrecevabilité du recours cantonal, faute de décision attaquable. Le recourant a répliqué par courrier du 12 décembre 2013. L'intimé a dupliqué par lettre du 16 janvier 2014.

Considérant en droit :
1.
Dirigé contre une décision finale (<ref-law>), prise en dernière instance cantonale (art. 86 al. 1 let. d LTF) dans une cause de droit public (<ref-law>), le recours est en principe recevable comme recours en matière de droit public au sens des <ref-law>, aucune des exceptions prévues à l'<ref-law> n'étant réalisée. Le recourant, propriétaire de la parcelle sur laquelle est érigée la construction litigieuse, est particulièrement atteint par la décision attaquée et a par conséquent la qualité pour recourir au sens de l'<ref-law>. Pour le surplus, déposé en temps utile (<ref-law>) et dans les formes prévues par la loi (<ref-law>), le recours est recevable.
2.
Le Tribunal cantonal a rejeté le recours tout en laissant indécise la question de savoir si le courrier du 14 novembre 2012 pouvait être qualifié de décision au sens de l'art. 3 de la loi vaudoise du 28 octobre 2008 sur la procédure administrative (LPA; RSV 173.36). L'intimé et la Municipalité soutiennent que la correspondance précitée n'est pas une décision attaquable, alors que le recourant prétend le contraire notamment au motif que les plans du 24 octobre 2012 diffèrent des plans du permis de construire octroyé en 2007. Vu l'issue du litige sur le fond, cette question n'a pas à être approfondie.
3.
Le recourant se plaint d'abord d'une appréciation arbitraire des preuves s'agissant de l'existence d'un danger au sens de l'art. 92 LATC (art. 9 Cst.).
3.1. A teneur de l'art. 92 al. 1 LATC, la municipalité ordonne la consolidation, le cas échéant la démolition, de tout ouvrage menaçant ruine ou présentant un danger pour le public ou les habitants.
Le Tribunal fédéral ne revoit l'interprétation et l'application du droit cantonal que sous l'angle de l'arbitraire. Il ne s'écarte de la solution retenue que si celle-ci se révèle insoutenable, en contradiction manifeste avec la situation effective, ou si elle a été adoptée sans motifs objectifs et en violation d'un droit certain, ce qu'il appartient au recourant de démontrer par une argumentation qui réponde aux exigences des art. 42 al. 2 et 106 al. 2 LTF (cf. <ref-ruling> consid. 3 p. 351 s.; <ref-ruling> consid de 1.4.2 p. 254 et les références). Si l'interprétation défendue par la cour cantonale ne s'avère pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, elle sera confirmée, même si une autre solution paraît également concevable, voire préférable (<ref-ruling> consid. 5.1 p. 17).
3.2. Dans le cadre de l'application de l'art. 92 al. 1 LATC, le Tribunal cantonal a examiné les avis établis les 27 octobre et 17 décembre 2012 par le Bureau d'ingénieurs D._ & E._ SA, l'avis du Bureau F._ et G._ SA ainsi que les rapports établis par l'inspectorat des chantiers du district de Vevey. Il est arrivé à la conclusion que la Municipalité était restée dans les limites de l'art. 92 LATC en ordonnant la réalisation du garage litigieux comme mesure de précaution et de protection conformément aux obligations qui lui sont assignées en pareille circonstance par cette disposition. Il a justifié son appréciation principalement au regard de la durée de vie des tirants d'ancrage sans traitement anti-corrosion, qui selon la norme SIA 118/267 est de deux ans, durée de vie en l'espèce largement dépassée; de plus, la construction du garage était propre à éviter tout danger lié au maintien du volume d'excavation.
Face à ce raisonnement, le recourant fait valoir que la parcelle n° 12593 n'est pas habitée, de sorte que l'analyse du danger doit se faire uniquement par rapport au risque que des personnes qui cheminent sur l'avenue de Naye puissent être menacées par la prétendue instabilité du talus. Il soutient encore que la commune n'a produit aucun rapport d'expertise propre à établir l'existence d'un danger pour la sécurité publique alors qu'il a fourni le rapport du bureau d'ingénieur D._ & E._ confirmant la solidité des ouvrages de protection et précisant qu'aucune fissure n'était décelée. Il prétend aussi que la question de la durée de vie des ancrages actifs est sans pertinence dans la mesure où l'ouvrage a fait l'objet de plusieurs systèmes de stabilisations additionnels.
Le Tribunal cantonal a fait certes une application large du principe de précaution. Une telle application n'est toutefois pas insoutenable au sens de la jurisprudence susmentionnée, même si la solution défendue par le recourant est concevable. Le grief d'application arbitraire de l'art. 92 LATC tombe donc à faux.
4.
Le recourant fait ensuite valoir une violation du principe de la proportionnalité - qu'il rattache implicitement à la violation de l'art. 26 Cst. -, au motif qu'il existait des solutions alternatives permettant d'atteindre le but visé, tout en portant moins atteinte aux intérêts du propriétaire, comme la pose de treillis pour pallier le risque d'éboulement - proposée par l'inspecteur des chantiers - ou l'autorisation de la seule paroi située à l'arrière du garage.
Le principe de la proportionnalité exige qu'une mesure restrictive soit apte à produire les résultats escomptés (règle de l'aptitude) et que ceux-ci ne puissent être atteints par une mesure moins incisive (règle de la nécessité); en outre, il interdit toute limitation allant au-delà du but visé et il exige un rapport raisonnable entre celui-ci et les intérêts publics ou privés compromis (principe de la proportionnalité au sens étroit, impliquant une pesée des intérêts; <ref-ruling> consid. 5.2.2 p. 104 et les arrêts cités). Le Tribunal fédéral examine librement si une restriction de la propriété viole le principe de la proportionnalité. Il s'impose en revanche une certaine retenue quand il convient de tenir compte de circonstances locales dont les autorités cantonales ont une meilleure connaissance que lui (<ref-ruling> consid. 6.1 p. 181 et l'arrêt cité).
En l'occurrence, les solutions alternatives proposées par le recourant ne ressortent pas de l'arrêt attaqué, auquel le Tribunal de céans est lié. Quoiqu'il en soit, l'intéressé n'apporte pas la preuve de l'aptitude de telles mesures à répondre au risque d'éboulement. La simple référence à l'audition de l'inspecteur des chantiers ne suffit pas, ce d'autant moins que celui-ci a précisé qu'il "faudrait un contrôle du terrain actuel pour avoir une idée plus précise", tout en ajoutant qu'il n'est ni ingénieur, ni géologue. S'agissant de surcroît de circonstances locales que le Tribunal fédéral examine avec retenue, il peut donc être admis que l'atteinte à la garantie de la propriété est conforme au principe de la proportionnalité.
Par ailleurs, l'intéressé avance que le projet litigieux porte atteinte à ses intérêts d'une façon disproportionnée puisqu'il ne correspond pas au permis de construire du 12 octobre 2007. Contrairement à ce que soutient le recourant, les plans communiqués en annexe au courrier du 14 novembre 2012 ne sont qu'une mise à jour technique des plans du permis de construire délivré en 2007. Le Service de l'urbanisme de la commune de Montreux a considéré, le 13 novembre 2012, que les plans du 24 octobre 2012 correspondaient à ce qui avait été autorisé en 2007. Le Tribunal cantonal a aussi examiné chacune des différences relevées par le recourant entre les plans de 2012 et ceux de 2007; il a jugé qu'elles étaient minimes et qu'on était en présence d'adaptations de nature essentiellement technique par rapport aux plans de 2007, qui n'étaient pas susceptibles de porter préjudice à l'utilisation prévue du garage, telle qu'elle avait été annoncée dans la demande de permis de construire déposée en 2007. Le recourant ne démontre pas en quoi et pourquoi les motifs avancés par le Tribunal cantonal seraient erronés (<ref-law>).
Pour le reste, l'intéressé se borne à avancer, sans aucunement le démontrer, que le principe de la proportionnalité est violé car la réalisation de travaux a pour conséquence de supprimer le seul accès de sa parcelle au domaine public. Mal fondé, ce grief doit être rejeté, dans la mesure de sa recevabilité.
5.
Le recourant prétend enfin que le Tribunal cantonal a procédé à une application arbitraire de l'art. 108 LATC - lequel régit les procédures d'autorisation de permis de construire -, en considérant implicitement que l'intimé était en droit de demander un permis de construire complémentaire sans enquête publique. Ce grief doit être d'emblée rejeté, dans la mesure où la procédure en cours n'a pas pour objet l'octroi d'un permis de construire, mais l'exécution de travaux autorisés en application de l'art. 92 LATC.
6.
Par conséquent, le recours est rejeté, dans la mesure de sa recevabilité.
Le recourant, qui succombe, doit supporter les frais judiciaires (art. 65 et 66 LTF). Il versera en outre une indemnité de dépens à l'intimé qui obtient gain de cause avec l'assistance d'un avocat (<ref-law>). La Municipalité n'a en revanche pas droit à des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté, dans la mesure de sa recevabilité.
2.
Les frais judiciaires, arrêtés à 3'000 francs, sont mis à la charge du recourant.
3.
Une indemnité de 3'500 francs est allouée à B._ à titre de dépens, à la charge du recourant.
4.
Le présent arrêt est communiqué aux mandataires des parties et de la Municipalité de Montreux ainsi qu'au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 23 juillet 2014
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : La Greffière :
Fonjallaz Tornay Schaller