Faits :
A.
La société A._ SA est propriétaire des parcelles n os 12'640 et 1'078 du cadastre de la commune de Montreux, issues d'un fractionnement de la parcelle d'origine n° 1078 de 3'694 m 2. Le 5 décembre 2011, la Municipalité de Montreux (ci-après: la Municipalité) a délivré à la prénommée le permis de construire un immeuble de deux logements avec pose de capteurs solaires en toiture et de sondes géothermiques (ci-après: bâtiment A) sur la parcelle n° 12'640 de 904 m 2; le permis de construire est devenu exécutoire le 12 août 2013, à la suite de l'arrêt 1C_642/2012 rendu par le Tribunal fédéral sur recours des voisins. Par courrier du 22 juillet 2015, la Municipalité a prolongé la durée de validité de l'autorisation de construire jusqu'au 12 août 2016, tout en précisant qu'aucune nouvelle prolongation ne serait possible. Dans l'intervalle, le projet de construction du bâtiment B et du parking souterrain a été réalisé, sur la parcelle contiguë n° 1'078.
Par courrier du 28 juillet 2016, la Direction de l'urbanisme et des équipements publics de la Municipalité a informé l'architecte de A._ SA, en réponse à sa missive du 15 écoulé, que de simples travaux préparatoires d'installation de chantier ne suffisaient pas pour que les travaux soient réputés commencés au sens de l'art. 118 de la loi cantonale du 4 décembre 1985 sur l'aménagement du territoire et les constructions (LATC; RSV 700.11); la Direction lui accordait un délai au 12 août 2016 pour produire un programme objectif et détaillé des travaux, les plans d'exécution, les contrats d'adjudication pour les travaux de gros oeuvre et, le cas échéant, les pièces bancaires permettant d'attester du crédit de construction.
Par décision du 30 août 2016 adressée à A._ SA, la Municipalité a déclaré périmé le permis de construire. Par lettre du 31 août 2016, A._ SA a affirmé avoir, par courriel le 10 août 2016, remis les documents requis par la Direction et a joint ces documents à sa lettre. Elle a notamment produit des lettres du 1 er juillet et 8 août 2016, ainsi qu'une impression réduite d'un jeu de plans datés du 8 mars 2010 (plan de chaque niveau, façades et coupe).
Par décision du 5 octobre 2016, la Municipalité a retiré le permis de construire délivré le 6 décembre 2011 au motif que les documents remis ne permettaient pas de démontrer une volonté sérieuse de A._ SA de débuter les travaux à court terme.
B.
Par arrêt du 8 août 2017, la Cour de droit administratif et public du Tribunal cantonal vaudois a rejeté le recours formé par A._ SA et a confirmé la décision municipale. Elle a en substance considéré qu'à l'échéance du permis de construire - d'une durée de validité de deux ans, prolongée d'une année -, les travaux de construction n'avaient pas débuté en temps utile et que la propriétaire n'avait pas apporté la preuve de son intention de poursuivre l'exécution du permis de construire litigieux. Elle a notamment retenu que les bâtiments A et B, qui faisaient l'objet de deux demandes de permis de construire distinctes, n'étaient pas liés.
C.
Agissant par la voie du recours en matière de droit public, A._ SA demande au Tribunal fédéral de réformer l'arrêt cantonal en ce sens que la décision municipale du 5 octobre 2016 est annulée et qu'elle est autorisée à reprendre les travaux conformément au permis de construire délivré le 12 août 2013.
Le Tribunal cantonal et la Municipalité ont renoncé à se déterminer.

Considérant en droit :
1.
Dirigé contre une décision finale (<ref-law>) prise en dernière instance cantonale (art. 86 al. 1 let. d LTF) dans le domaine du droit public des constructions (<ref-law>), le recours est en principe recevable comme recours en matière de droit public selon les <ref-law>, aucune des exceptions prévues à l'<ref-law> n'étant réalisée. La recourante a pris part à la procédure devant le Tribunal cantonal et elle dispose d'un intérêt digne de protection à faire annuler l'acte entrepris qui confirme la péremption du permis de construire qui lui avait été délivré. Elle dispose dès lors de la qualité pour recourir devant le Tribunal fédéral au sens de l'<ref-law>. Il y a lieu dès lors d'entrer en matière.
Conformément à l'<ref-law>, aucun fait nouveau ou preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente. Les pièces nouvelles (photographies du chantier; témoignage écrit de B._ SA du 7 septembre 2017) que la recourante a versées à la procédure postérieurement à l'arrêt attaqué doivent dès lors être écartées. Quoi qu'il en soit, elles n'étaient pas de nature à influer sur le sort de la présente procédure (cf. ci-dessous consid. 3.2).
2.
La recourante se plaint d'une violation de son droit d'être entendue en raison du refus du Tribunal cantonal de procéder à une inspection locale et d'auditionner un représentant de la société mandatée pour les travaux de génie civil et de gros-oeuvre.
2.1. Garanti à l'art. 29 al. 2 Cst., le droit d'être entendu comprend notamment le droit pour l'intéressé d'offrir des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes et de participer à l'administration des preuves essentielles lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 6.3.1 p. 299 et les références citées). Toutefois, le droit d'être entendu ne peut être exercé que sur les éléments qui sont déterminants pour décider de l'issue du litige. Il est ainsi possible de renoncer à l'administration de certaines preuves offertes, lorsque le fait dont les parties veulent rapporter l'authenticité n'est pas important pour la solution du cas, lorsque les preuves résultent déjà de constatations versées au dossier ou lorsque le juge parvient à la conclusion qu'elles ne sont pas décisives pour la solution du litige ou qu'elles ne pourraient l'amener à modifier son opinion. Ce refus d'instruire ne viole le droit d'être entendu des parties que si l'appréciation anticipée de la pertinence du moyen de preuve offert, à laquelle le juge a ainsi procédé, est entachée d'arbitraire (<ref-ruling> consid. 6.3.1 p. 299 et les références citées). Dans ce contexte, le recourant est soumis aux exigences accrues de motivation de l'<ref-law>.
2.2. En l'espèce, le Tribunal cantonal a rejeté la demande d'inspection local au motif que le dossier de la cause - qui contenait notamment la correspondance échangée entre les parties ainsi que de nombreuses pièces, en particulier celles produites par la recourante - était suffisamment complet pour lui permettre de statuer en toute connaissance de cause. Quant à l'audition du témoin pouvant renseigner l'autorité sur l'adjudication à son entreprise (B._ SA) des travaux de terrassement, de maçonnerie et de génie civil, l'instance précédente a considéré qu'elle ne pouvait remplacer la production d'un contrat et n'était ainsi pas déterminante pour l'issue du recours; elle a au demeurant ajouté que la recourante aurait pu produire une déclaration écrite de cette personne.
La recourante critique cette appréciation. Selon elle, l'inspection locale devait permettre au Tribunal cantonal de constater l'avancement des travaux réalisés du 25 au 29 juillet 2016 par l'entreprise B._ SA; la recourante relevait que les photographies figurant au dossier avaient été prises le 26 juillet 2016 par la Municipalité. Quant à l'audition du témoin, elle devait non seulement prouver la conclusion d'un contrat, mais également sa volonté de poursuivre l'exécution du contrat. Quoi qu'en pense la recourante, les éléments figurant au dossier (plans, photographies, documents divers) étaient suffisants pour permettre au Tribunal cantonal de se prononcer sur la question du commencement des travaux au sens de l'art. 118 LATC. Comme on le verra ci-dessous, les travaux qui auraient été réalisés entre les 26 et 29 juillet 2016 n'étaient pas susceptibles de conduire à une appréciation différente de la question juridique à trancher (cf. ci-dessous consid. 3). Par ailleurs, comme on le verra également, l'avis de l'instance précédente selon lequel le témoignage requis n'était pas déterminant est dénué d'arbitraire. Sur le vu de ce qui précède, le grief de violation du droit d'être entendu apparaît mal fondé et doit donc être rejeté.
3.
Dans un second grief, la recourante se plaint d'arbitraire dans l'appréciation des faits et dans l'application de l'art. 118 LATC. Elle soutient que les travaux avaient débuté du 26 au 29 juillet 2016 et qu'elle avait démontré sa volonté de poursuivre l'exécution de ceux-ci.
3.1. Selon l'art. 118 LATC, le permis de construire est périmé si, dans le délai de deux ans dès sa date, la construction n'est pas commencée (al. 1); la Municipalité peut en prolonger la validité d'une année si les circonstances le justifient (al. 2).
3.2. Sous réserve des cas visés à l'art. 95 let. c à e LTF, la violation du droit cantonal en tant que tel ne peut être invoquée devant le Tribunal fédéral. Il est néanmoins possible de faire valoir que son application consacre une violation du droit fédéral, comme la protection contre l'arbitraire au sens de l'art. 9 Cst. ou la garantie d'autres droits constitutionnels (<ref-ruling> consid. 6.1 p. 324; <ref-ruling> consid. 1.2 p. 308). Appelé à revoir l'application d'une norme cantonale sous l'angle de l'arbitraire, le Tribunal fédéral ne s'écarte de la solution retenue que si celle-ci apparaît insoutenable ou en contradiction manifeste avec la situation effective, ou encore si elle a été adoptée sans motifs objectifs ou en violation d'un droit certain. Lorsque l'interprétation défendue par l'autorité cantonale ne se révèle pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, elle est confirmée, même si une autre solution paraît également concevable, voire préférable. En outre, il ne suffit pas que les motifs de la décision critiquée soient insoutenables, encore faut-il que cette dernière soit arbitraire dans son résultat (<ref-ruling> consid. 6.1 p. 324; <ref-ruling> consid. 4.2 p. 516).
Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law>. La partie recourante ne peut critiquer les constatations de fait ressortant de la décision attaquée que si celles-ci ont été effectuées en violation du droit au sens de l'<ref-law> ou de manière manifestement inexacte, c'est-à-dire arbitraire (<ref-ruling> consid. 6 p. 358), et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>; <ref-ruling> consid. 4.2 p. 234).
3.3. L'instance précédente a confirmé que le permis de construire délivré le 5 décembre 2011 était périmé. Elle a retenu que les seuls travaux effectués durant la validité du permis de construire (déblaiement d'un solde de gravats issus de la démolition accidentelle du bâtiment qui se trouvait précédemment sur la parcelle; installation de barrières et d'un panneau de chantier) ne sauraient être considérés comme un commencement effectif des travaux. Cette appréciation n'apparaît pas insoutenable. Au vu de l'importance du projet, les travaux qui auraient été réalisés entre les 26 et 29 juillet 2016 (soit l'évacuation de gravats issus de la démolition de l'ancien bâtiment, la mise en place des parois de sécurisation du périmètre du chantier, le dégagement des murs du parking déjà construit commun aux bâtiments A et B et le traitement des fers d'attente) ne permettent pas une autre appréciation, quoi qu'en pense la recourante. Le grief de constatation arbitraire des faits soulevé en lien avec ces travaux doit dès lors être rejeté.
L'instance précédente a ensuite rappelé que, selon la jurisprudence cantonale, une construction était commencée au sens de l'art. 118 LATC si, en l'absence de début effectif des travaux, le destinataire du permis de construire pouvait démontrer qu'il possédait, au moment déterminant de la péremption du permis de construire (en l'occurrence le 12 août 2016), la volonté sérieuse de commencer sans tarder l'exécution de la construction. L'instance précédente a toutefois considéré que tel n'était pas le cas en l'espèce. Elle a notamment relevé que la recourante n'avait produit aucun contrat d'entreprise concernant les travaux de gros-oeuvre; la lettre unilatérale du 1 er juillet 2016 adressée par la recourante à l'entreprise B._ SA confirmant à celle-ci l'adjudication de principe pour l'exécution des travaux de gros-oeuvre ne suffisait pas à prouver que ces travaux avaient effectivement été adjugés; il en allait de même pour l'audition d'un représentant de l'entreprise précitée requise par la recourante. S'agissant des autres postes prétendument adjugés, l'intéressée n'avait produit aucun contrat d'entreprise, ni de devis récent. Quant au "planning de principe" exposé par la recourante dans sa lettre du 31 août 2016, il était manifestement insuffisant au stade du démarrage des travaux.
La recourante tient cette appréciation pour arbitraire. Elle affirme que les travaux réalisés par B._ SA du 26 au 29 juillet 2016 et les documents produits (en particulier sa lettre du 1er juillet 2016 confirmant l'adjudication des travaux de gros-oeuvre à cette entreprise et lui faisant part du planning concernant le démarrage du chantier) démontraient sa volonté sérieuse de poursuivre les travaux. L'intéressée se prévaut encore de diverses adjudications orales (C._ SA pour les travaux de ventilation, de chauffage et de sanitaire; D._ SA pour la direction architecturale; E._ SA pour les travaux d'ingénierie). Elle allègue qu'un contrat d'entreprise ne doit pas nécessairement être conclu en la forme écrite.
Les arguments invoqués par la recourante ne permettent cependant pas de tenir pour arbitraire l'appréciation de l'instance précédente. Comme relevé par cette dernière, l'autorité peut se montrer sévère quant à la preuve de cette intention sérieuse de poursuivre la construction de l'immeuble dès lors lors que la prise en compte de cet élément subjectif dans l'examen des conditions de l'art. 118 al. 1 LATC constitue déjà un assouplissement des exigences posées par la loi (cf. arrêt 1C_150/2008 du 8 juillet 2008 consid. 3.3 et la réf. cit.). Le Tribunal fédéral a d'ailleurs eu l'occasion de préciser qu'il n'était pas arbitraire d'exiger la production d'un contrat portant, en tout cas, sur la réalisation des premières phases de la construction; cette exigence n'était pas excessive au regard du texte légal (cf. arrêt 1P.142/1993 du 8 juin 1993 consid. 3b; cf. également arrêt précité 1C_150/2008 consid. 3.3). Les divers accords oraux dont se prévaut la recourante ne sont en l'occurrence pas suffisants au vu de la jurisprudence précitée. La recourante n'a de plus produit aucun devis de B._ SA concernant les travaux de gros-oeuvre. Comme relevé par l'instance précédente, cette dernière entreprise n'a en outre jamais effectué les travaux de génie civil - qui avaient pourtant été annoncés dès le 22 août 2016 -, alors même que l'autorité communale n'avait pas encore rendu sa première décision concernant la péremption du permis de construire litigieux. L'instance précédente pouvait également sans arbitraire tenir compte du fait que la recourante n'avait produit aucun calendrier détaillé des travaux et que le panneau de chantier ne faisait état que d'une seule entreprise, soit C._ SA (dont l'administrateur unique était également l'administrateur unique de la recourante) comme seul corps de métier identifié. Enfin, la participation des entreprises énumérées par la recourante à plusieurs séances de chantier (25 novembre 2014, 2 décembre 2014, 24 février 2015) n'apparaît pas non plus déterminante; l'instance précédente relevait d'ailleurs que lesdites entreprises n'étaient pas présentes à la "séance de chantier" du 20 janvier 2016. Il n'était par ailleurs pas manifestement insoutenable de considérer que des factures, datant de 2014 et mai 2015, ne permettaient pas d'établir que la recourante avait l'intention en août 2016 de commencer sans tarder les travaux. Enfin, l'instance précédente n'a pas versé dans l'arbitraire en ne tenant pas compte de la police d'assurance civile pour le chantier produite par la recourante puisqu'elle avait été conclue après la péremption du permis de construire.
3.4. En définitive, le Tribunal cantonal n'a pas fait preuve d'arbitraire dans l'application de l'art. 118 LATC, ni violé d'une autre manière le droit fédéral.
4.
Sur le vu de ce qui précède, le recours est rejeté dans la mesure où il est recevable. Conformément à l'<ref-law>, les frais judiciaires sont mis à la charge de la recourante.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté, dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge de la recourante.
3.
Le présent arrêt est communiqué au mandataire de la recourante, à la Municipalité de Montreux et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 5 juillet 2018
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Merkli
La Greffière : Arn