Партія була заснована 1943 року в окупованій японцями Індонезії як мусульманська організація. У створенні Машумі значну роль відіграли японські окупанти, які бажали контролювати ісламістський рух у країні. Після оприлюднення Декларації незалежності Індонезії 7 листопада 1945 року вона була перетворена на політичну партію й отримала назву Машумі. Упродовж певного часу вона була найбільшою за чисельністю партією в країні. На правах колективних членів до її складу входили організації Нахдатул Улама і Мухаммадія.