انطلق بعدها أبو ذر إلى قومه امتثالاً لأمر النبي محمد لدعوتهم إلى الإسلام، وقد لبّى نصف قومه دعوته إلى الإسلام، وأقام فيهم يقيم معهم شعائر الإسلام، يؤمهم كبيرهم إيماء بن رحضة الغفاري، وبقي النصف الآخر على دينه حتى هاجر النبي محمد إلى يثرب، فأسلموا، وتبعتهم قبيلة أسلم، ثم وفدوا على النبي محمد، وفيهم أبو ذر الغفاري، فدعا لهم النبي محمد فقال: . وكان مقدم أبي ذر على النبي محمد في المدينة المنورة بعد غزوتي بدر وأحد. ما أن هاجر أبو ذر حتى لازم النبي محمد، وشاركه في غزواته. حمل أبو ذر راية قبيلته غفار يوم حنين، ولما انطلق النفير ليجمع الرجال للمسير إلى قتال الروم في غزوة تبوك، تحسس المسلمون المتخلفين عن الغزوة، ويُعلمون النبي محمد، فيقولون: ، فيقول: . حتى قيل: ، وكان بعير أبي ذر قد أبطأ به، فقرر أن يأخذ متاعه، فجعله على ظهره، وخرج يتبع الجيش، ونظر ناظر، فقال: ، فقال النبي محمد: ، فلما تأمله القوم، قالوا: ، فقال النبي محمد: .