FRELIMO ble grunnlagt i Dar-es-Salaam, Tanzania, den 25. juni 1962 da tre regionalt baserte nasjonalistorganisasjoner, Mosambiks afrikanske nasjonale union (MANU), Mosambiks nasjonale demokratiske union (UDENAMO) og Uavhengige Mosambiks najonsale afrikanske union (UNAMI) slo seg sammen til en bredere basert geriljabevegelse. Under lederskapet til Eduardo Mandlane, valgt president av den nydannede frigjøringsfronten, satte FRELIMO opp sitt hovedkvarter i 1963 utenfor Mosambik i Dar-es-Salaam og kjempet for uavhengighet fra Portugals kolonimakt. I 1969 ble Mondlane myrdet i et bombeattentat. Etter oppdagelsen av Gladios hemmelige «stay-behind» NATO-avdeling i 1990, ble det oppdaget at Aginter Press, Portugals gren av Gladio, hadde vært direkte involvert i attentatet på FRELIMOs leder .