Абу Муса аль-Ашари родился в Йемене, там же вместе со своей семьёй принял ислам. Для знакомства с мусульманами выехал в Эфиопию, где находились мусульмане-эмигранты. Вместе с Муазом ибн Джабалем знакомил йеменцев с положениями исламской религии.