Le FRELIMO passe à la lutte armée en septembre 1964 et mène une guerre de guérilla contre les autorités coloniales portugaises, prenant le contrôle de plusieurs portions du territoire. Le mouvement tient son second congrès en 1968 et se structure sur le modèle des partis uniques des régimes communistes. Sans faire encore de référence explicite au marxisme-léninisme, le comité central du FRELIMO annonce sa volonté de parvenir à . En 1969, Eduardo Mondlane est tué à Dar-es-Salam par un colis piégé, le FRELIMO attribuant cet acte à la PIDE aidée par des agents doubles au sein du mouvement. Après la mort de son chef, le FRELIMO est divisé en deux courants antagonistes. La tendance qui l'emporte est celle de Samora Machel, qui devient président du parti en soutenant une ligne proche de celle suivie par le Parti communiste chinois au cours de la guerre civile chinoise. À partir de 1970, le FRELIMO se déclare officiellement ; en 1972, un mot d'ordre d'offensive généralisée est lancé. Progressivement, les rebelles reçoivent le soutien, sous forme d'armes et d'expertise technique, de l'URSS, de la Chine et de la Tchécoslovaquie. Les guerres coloniales portugaises, coûteuses et de plus en plus impopulaires dans l'opinion de la métropole, sont l'un des principaux facteurs de la Révolution des Œillets qui, en avril 1974, met à bas le régime portugais de l'Estado Novo. En , le nouveau gouvernement portugais conclut avec le FRELIMO, des accords prévoyant un cessez-le-feu immédiat, l'indépendance du Mozambique en , ainsi que le transfert progressif du pouvoir au FRELIMO ; les ex-rebelles proclament un gouvernement provisoire du FRELIMO, dirigé par Joaquim Chissano. Les accords entraînent aussitôt une révolte de colons portugais et d'anciens militaires à Lourenço Marques ; l'armée portugaise et les forces du FRELIMO, agissant de concert, mettent vite fin à la rébellion.